Discussion :

[onilink_]

Il n' a pas de plagiat en art pictural. Vous avez parfaitement le droit de faire une copie exacte de la Joconde. Par contre vous n'avez pas le droit de la vendre en faisant croire que c'est l'original.
D'autre part, combien de grands Maîtres détournés par d'autres des artistes ? On ne les compte plus. Et que dire de Wharol avec ses peintures sur des photos de Marilyn Monroe ? Il n'y a pas d'art sans dialogue artistique.

Moralement le plagiat consiste à omettre les références utilisées pour s'en approprier le crédit.
Il ne s'agit pas de ne pas avoir le droit de recopier une œuvre, mais d’honnêteté intellectuelle et artistique.
Et il a bien entendu un cadre légal tout autour de cela, comme vous le dites.

Je ne sais pas si vous êtes au courant, mais MidJourney vous donnent les droits exclusifs des images que vous générez avec leur IA.
Pourtant ils sont bien incapable de vous dire sur quoi est basé l'image.

Donc on parle bien de vendre. Sinon quel intérêt d'avoir des droits.

Pour moi tout œuvre générée par IA devrait juste finir dans le domaine public. Ça simplifierait beaucoup les choses, même si ça ne réglerait pas tout.
Mais surtout, comment parler de droit d'auteur quand il n'y a pas d'auteur.

La seule chose qui pourrait faire sens c'est de donner des droits d'auteurs sur les "prompts" et paramètres utilisés pour générer une image avec un modèle génératif.
Rien de plus.

[axel584]

j'ai vu un mème où l'on voyait un artiste dépité qu'une IA fasse son boulot tandis qu'un développeur était super content qu'une IA fasse son boulot...

De mon coté, à titre personnel, si je fais du code, c'est pour résoudre un problème... Alors bien sûr, je préférerai qu'un outil existe déjà pour faire ce que j'aurai besoin, mais quand il n'existe pas, je le fais (le dernier en date, c'était un outil pour générer des paquets anki à partir de fichier de sous-titres srt... j'en ai trouvé 2 différents, mais aucun des deux ne faisait ce que je voulais).

à titre professionnel, c'est un peu différent, je peux comprendre qu'on ait peur de perdre son boulot (mais les devs ont la chance d'être assez loin de ce risque pour le moment).

Pour les artistes, je me demande ce qui pousse des gens à créer... Est-ce que c'est "juste alimentaire" ? Ou est ce qu'il y a un autre besoin à assouvir...

[onilink_]

Pour les artistes, je me demande ce qui pousse des gens à créer... Est-ce que c'est "juste alimentaire" ? Ou est ce qu'il y a un autre besoin à assouvir...

La majorité des artistes que je connais font ça avant tout par passion. Mais il y a aussi un aspect "compétitif", de vouloir se dépasser, et un besoin de reconnaissance. C'est aussi le cas pour les musiciens que j'ai fréquenté. La charge de travail est telle, et l'investissement si long, qu'il est difficile de s'imaginer de faire cela pour des raisons pécuniaires, surtout au début.

Beaucoup se retrouvent ensuite à faire des jobs alimentaires, dans un domaine plus ou moins proche de ce qu'ils font, et c'est rarement un plaisir, sauf en cas de chance ou de bonnes opportunités.

Être artiste, en tout cas investis, c'est comparable à de la compétition de haut niveau.
Beaucoup de travail sur le long terme, et généralement un résultat qui ne semble pas a la hauteur étant donné le temps passé et la concurrence qu'il y a derrière.

Surtout que la valorisation sur les réseaux sociaux est difficile. Ce n'est pas la qualité de l'art qui est regardé en premier, mais le sujet traité.
Dessiner des pokemons et des filles dénudés fonctionne très bien, même sans être bon. En revanche se faire un nom uniquement sur ses créations et son originalité, c'est extrêmement difficile. D'ailleurs de nombreux artistes se retrouvent plus à faire du "community management" que de passer leur temps à dessiner, afin de se vendre sur les réseaux sociaux, pour juste gagner un peu de visibilité.

Bref, pas étonnant que la plupart des artistes vivent mal l'apparition de ce genre d'outils.
Ça va bouffer le peu de visibilité qu'ils avaient, rendre leur job encore plus précaire, et ça va augmenter le fossé entre ce que les gens imaginent du métier et la réalité.
Et je ne parle même pas de tout le délire autour du plagiat et des divers abus...

[Matthieu Vergne]

Pour le coup, est-ce que vendre leur art justement pour qu'il soit utilisé dans l'apprentissage d'une IA contre une rétribution fixe pendant un temps relativement long, vu que ça servira pendant longtemps, ne serait pas un nouveau modèle économique à faire valoir chez les artistes ?

[pierre.E]

je viens de me faire bannir de midjourney et bluewillow
j ai utilise le mot shirtless ( pour torse nu) et ai oublié le /imagine
heureusement il y en a d'autre

[Stéphane le calme]

Les modèles d'IA génèrent des photos de personnes réelles et des images protégées par le droit d'auteur
les résultats de cette étude pourraient appuyer la plainte des artistes selon lesquelles les entreprises d'IA enfreignent leurs droits

Selon de nouvelles recherches, les modèles de génération d'images populaires peuvent être incités à produire des photos identifiables de personnes réelles, menaçant potentiellement leur vie privée. Les travaux montrent également que ces systèmes d'IA peuvent être conçus pour générer des copies exactes d'images médicales et d'œuvres protégées par des droits d'auteur d'artistes. C'est une découverte qui pourrait renforcer le dossier des artistes qui poursuivent actuellement des sociétés d'intelligence artificielle pour violation du droit d'auteur.

En quelques mois seulement, des millions de personnes se sont ruées sur les systèmes d'IA de conversion de texte en image et ils sont déjà utilisés pour créer des films expérimentaux, des couvertures de magazine et des images pour illustrer des articles de presse. Une image générée par un système d'IA appelé Midjourney a récemment remporté un concours d'art à la foire d'État du Colorado et a provoqué un tumulte parmi les artistes.

Mais la découverte par des artistes que leur travail est utilisé pour entraîner l'IA soulève une préoccupation encore plus fondamentale : leur propre art est effectivement utilisé pour entraîner un programme informatique qui pourrait un jour s'attaquer à leur gagne-pain. Quiconque génère des images avec des systèmes tels que Stable Diffusion ou DALL-E peut ensuite les vendre, les conditions spécifiques concernant le droit d'auteur et la propriété de ces images varient. « Je ne veux pas du tout participer à la machine qui va dévaloriser ce que je fais », a déclaré Daniel Danger, un illustrateur et graveur qui a appris qu'un certain nombre de ses œuvres avaient été utilisées pour entraîner Stable Diffusion.

Les machines sont loin d'être magiques. Pour qu'un de ces systèmes puisse ingérer vos mots et produire une image, il doit être entraîné sur des montagnes de données, qui peuvent comprendre des milliards d'images extraites d'Internet, associées à des descriptions écrites.

Certains services, dont le système DALL-E d'OpenAI, ne divulguent pas les ensembles de données sur lesquels reposent leurs systèmes d'IA. Mais avec Stability Diffusion, Stability AI est clair sur ses origines. Son jeu de données de base a été entraîné sur des paires d'images et de textes sélectionnés pour leur aspect à partir d'un cache encore plus massif d'images et de textes provenant d'Internet. L'ensemble de données complet, connu sous le nom de LAION-5B, a été créé par l'association allemande d'intelligence artificielle LAION : "large-scale artificial intelligence open network" (réseau ouvert d'intelligence artificielle à grande échelle).

Cette pratique consistant à récupérer des images ou d'autres contenus sur Internet pour former des ensembles de données n'est pas nouvelle et relève traditionnellement de ce que l'on appelle le "fair use", principe juridique de la loi américaine sur le droit d'auteur qui autorise l'utilisation d'œuvres protégées par le droit d'auteur dans certaines situations. En effet, ces images, dont beaucoup peuvent être protégées par des droits d'auteur, sont utilisées d'une manière très différente, par exemple pour apprendre à un ordinateur à identifier des chats.

Personnes réelles et œuvres protégées par le droit d'auteur

Si les IA sont capables de « s'inspirer » des images qu'elles sont « apprises » pour générer une nouvelle image, peuvent-elles également générer ces mêmes images quelles ont « apprises » ? Dans une étude, des chercheurs se sont servis de Stable Diffusion et Imagen de Google avec des légendes pour les images, telles que le nom d'une personne, à plusieurs reprises. Ensuite, ils ont analysé si l'une des images générées correspondait aux images originales de la base de données du modèle. Le groupe a réussi à extraire plus de 100 répliques d'images dans l'ensemble de formation de l'IA.

Les modèles de diffusion d'images tels que DALL-E 2, Imagen et Stable Diffusion ont attiré une attention particulière en raison de leur capacité à générer des images synthétiques de haute qualité. Dans ce travail, nous montrons que les modèles de diffusion mémorisent des images individuelles à partir de leurs données d'apprentissage et les émettent au moment de la génération. Avec un pipeline de génération et de filtrage, nous extrayons plus d'un millier d'exemples de formation à partir de modèles de pointe, allant des photographies de personnes individuelles aux logos d'entreprise. Nous formons également des centaines de modèles de diffusion dans divers contextes pour analyser comment différentes décisions de modélisation et de données affectent la confidentialité. Dans l'ensemble, nos résultats montrent que les modèles de diffusion sont beaucoup moins privés que les modèles génératifs antérieurs tels que les GAN, et que l'atténuation de ces vulnérabilités peut nécessiter de nouvelles avancées dans la formation à la protection de la vie privée.

Il faut rappeler que ces modèles d'IA générateurs d'images sont entraînés sur de vastes ensembles de données constitués d'images avec des descriptions textuelles extraites d'Internet. La dernière génération de la technologie fonctionne en prenant des images dans l'ensemble de données et en modifiant un pixel à la fois jusqu'à ce que l'image d'origine ne soit rien d'autre qu'une collection de pixels aléatoires. Le modèle d'IA inverse ensuite le processus pour transformer le désordre pixélisé en une nouvelle image.

C'est la première fois que des chercheurs réussissent à prouver que ces modèles d'IA mémorisent des images dans leurs ensembles d'entraînement, explique Ryan Webster, doctorant à l'Université de Caen Normandie en France, qui a étudié la confidentialité dans d'autres modèles de génération d'images mais n'était pas impliqués dans la recherche. Cela pourrait avoir des implications pour les startups souhaitant utiliser des modèles d'IA générative dans les soins de santé, car cela montre que ces systèmes risquent de divulguer des informations privées sensibles.

Eric Wallace, doctorant à l'UC Berkeley qui faisait partie du groupe d'étude, dit qu'ils espèrent sonner l'alarme sur les problèmes potentiels de confidentialité autour de ces modèles d'IA avant qu'ils ne soient largement déployés dans des secteurs sensibles comme la médecine.

« Beaucoup de gens sont tentés d'essayer d'appliquer ces types d'approches génératives aux données sensibles, et notre travail est certainement un récit édifiant que c'est probablement une mauvaise idée, à moins qu'il n'y ait une sorte de protection extrême prise pour empêcher [les atteintes à la vie privée] », explique Wallace.

La mesure dans laquelle ces modèles d'IA mémorisent et régurgitent les images de leurs bases de données est également à l'origine d'une énorme querelle entre les entreprises d'IA et les artistes. Stability.AI fait face à deux poursuites intentées par un groupe d'artistes et Getty Images, qui affirment que la société a illégalement récupéré et traité leur matériel protégé par le droit d'auteur.

Les découvertes des chercheurs pourraient renforcer les cartes en possession des artistes accusant les sociétés d'IA de violations du droit d'auteur. Si les artistes dont le travail a été utilisé pour former Stable Diffusion peuvent prouver que le modèle a copié leur travail sans autorisation, l'entreprise pourrait devoir les indemniser.

Les résultats sont opportuns et importants, déclare Sameer Singh, professeur agrégé d'informatique à l'Université de Californie à Irvine, qui n'a pas participé à la recherche. « C'est important pour la sensibilisation du grand public et pour lancer des discussions autour de la sécurité et de la confidentialité de ces grands modèles », ajoute-t-il.

L'article démontre qu'il est possible de déterminer si les modèles d'IA ont copié des images et de mesurer dans quelle mesure cela s'est produit, qui sont tous deux très précieux à long terme, dit Singh.

Stable Diffusion est open source, ce qui signifie que n'importe qui peut l'analyser et l'étudier. Imagen est fermé, mais Google a autorisé l'accès aux chercheurs. Singh dit que le travail est un excellent exemple de l'importance de donner à la recherche un accès à ces modèles d'analyse, et il soutient que les entreprises devraient être tout aussi transparentes avec d'autres modèles d'IA, tels que ChatGPT d'OpenAI.

Cependant, bien que les résultats soient impressionnants, ils s'accompagnent de quelques mises en garde. Les images que les chercheurs ont réussi à extraire sont apparues plusieurs fois dans les données de formation ou étaient très inhabituelles par rapport aux autres images de l'ensemble de données, explique Florian Tramèr, professeur adjoint d'informatique à l'ETH Zürich, qui faisait partie du groupe.

Les personnes qui ont l'air inhabituel ou qui ont des noms inhabituels courent un risque plus élevé d'être mémorisées, dit Tramèr.

Les chercheurs n'ont pu extraire que relativement peu de copies exactes des photos des individus à partir du modèle d'IA*: seulement une image sur un million était une copie, selon Webster. Mais c'est toujours inquiétant, déclare Tramèr*: « J'espère vraiment que personne ne regardera ces résultats et ne dira : "Oh, en fait, ces chiffres ne sont pas si mauvais si c'est juste un sur un million ». « Le fait qu'ils soient plus grands que zéro est ce qui compte », ajoute-t-il.

Conclusion

Questions de généralisation

Les modèles à grande échelle fonctionnent-ils en générant de nouvelles sorties, ou se contentent-ils de copier et d'interpoler entre des exemples de formation individuels*? Si nos attaques d'extraction avaient échoué, cela aurait peut-être réfuté l'hypothèse selon laquelle les modèles copient et interpolent les données d'apprentissage*; mais parce que nos attaques réussissent, cette question reste ouverte. Étant donné que différents modèles mémorisent des quantités variables de données, nous espérons que les travaux futurs exploreront comment les modèles de diffusion copient à partir de leurs ensembles de données de formation.

Nos travaux mettent également en évidence la difficulté de définir la mémorisation. Bien que nous ayons trouvé une mémorisation étendue avec une simple mesure, une analyse plus complète sera nécessaire pour capturer avec précision des définitions plus nuancées de la mémorisation qui apportent des notions de copie de données plus humaines.

Conséquences pratiques

Nous soulevons quatre conséquences pratiques pour ceux qui forment et déploient des modèles de diffusion. Tout d'abord, bien qu'il ne s'agisse pas d'une défense parfaite, nous recommandons de dédupliquer les ensembles de données d'entraînement et de minimiser le surentraînement. Deuxièmement, nous suggérons d'utiliser notre attaque ou d'autres techniques d'audit - pour estimer le risque de confidentialité des modèles entraînés. Troisièmement, une fois que des techniques pratiques de préservation de la vie privée deviennent possibles, nous recommandons leur utilisation dans la mesure du possible. Enfin, nous espérons que notre travail tempérera les attentes heuristiques en matière de confidentialité qui sont désormais associées aux résultats des modèles de diffusion*: les données synthétiques ne donnent pas la confidentialité gratuitement.

Dans l'ensemble, notre travail contribue à un corpus croissant de littérature qui soulève des questions concernant les problèmes juridiques, éthiques et de confidentialité qui découlent de la formation sur les données publiques récupérées sur le Web. Les chercheurs et les praticiens doivent se méfier de la formation sur des données publiques non conservées sans avoir d'abord pris des mesures pour comprendre les implications sous-jacentes en matière d'éthique et de confidentialité.

Source : résultats de recherche

[Stéphane le calme]

Getty Images poursuit le générateur d'art IA Stable Diffusion pour violation du droit d'auteur,
accusant la société de s'être servie de 12 millions d'images pour former son modèle d'IA « sans autorisation … ni compensation »

Getty Images a déposé une plainte aux États-Unis contre Stability AI, les créateurs du générateur d'art IA open source Stable Diffusion, intensifiant sa bataille juridique contre l'entreprise. La banque d'images accuse Stability AI de « violation éhontée de la propriété intellectuelle de Getty Images à une échelle stupéfiante ». Elle affirme que Stability AI a copié plus de 12 millions d'images de sa base de données « sans autorisation ... ni compensation ... dans le cadre de ses efforts pour créer une entreprise concurrente », et que la startup a enfreint à la fois le droit d'auteur et la protection de la marque de commerce de l'entreprise.

Getty Images est bien connu pour sa vaste collection de millions d'images, y compris ses archives exclusives d'images historiques et sa plus large sélection d'images hébergées sur iStock. Vendredi, Getty a déposé une deuxième plainte contre Stability AI Inc pour empêcher l'utilisation et la duplication non autorisées de ses images de stock à l'aide de l'intelligence artificielle.

Selon le dernier procès intenté par la société devant un tribunal de district américain du Delaware, « Stability AI a copié plus de 12 millions de photographies de la collection de Getty Images, ainsi que les légendes et métadonnées associées, sans l'autorisation ni la compensation de Getty Images, dans le cadre de ses efforts pour bâtir une entreprise concurrente ».

Dans ce procès, Getty a allégué que Stability AI était allé jusqu'à supprimer les informations de gestion des droits d'auteur de Getty, falsifier ses propres informations de gestion des droits d'auteur et enfreindre les « marques célèbres » de Getty en dupliquant le filigrane de Getty sur certaines images. Reuters a rapporté que le deuxième procès de Getty contre Stability AI faisait suite au dépôt du mois dernier au Royaume-Uni. En plus de ces poursuites, Stability AI fait également face à un recours collectif d'artistes affirmant que la société a formé son modèle Stable Diffusion sur des milliards d'œuvres d'art protégées par le droit d'auteur sans indemniser les artistes ni demander la permission.

Le mois dernier, Getty a déclaré dans un communiqué que la société "croit que l'intelligence artificielle a le potentiel de stimuler les efforts créatifs", mais Stability AI a tenté de perturber potentiellement les activités d'imagerie de stock de la société dans le mauvais sens. Plutôt que de payer à Getty des licences pour former son modèle Stable Diffusion "d'une manière qui respecte les droits de propriété personnels et intellectuels", Getty a déclaré que "Stability AI n'a pas demandé une telle licence à Getty Images" et a apparemment "choisi d'ignorer les options de licence viables". et des protections juridiques de longue date dans la poursuite de leurs intérêts commerciaux autonomes ».

Stable Diffusion, qu'est-ce que c'est ?

Stable Diffusion est un produit logiciel d'intelligence artificielle (IA), lancé en août 2022 par une société appelée Stability AI. Selon Matthew Butterick, Stable Diffusion contient des copies non autorisées de millions, voire de milliards, d'images protégées par le droit d'auteur. Ces copies ont été faites à l'insu ou sans le consentement des artistes.

Même en supposant des dommages nominaux de 1 $ par image, la valeur de ce détournement serait d'environ 5 milliards de dollars (à titre de comparaison, le plus grand vol d'art jamais réalisé a été le vol en 1990 de 13 œuvres d'art du musée Isabella Stewart Gardner, d'une valeur actuelle estimée à 500 millions de dollars.)

Stable Diffusion appartient à une catégorie de systèmes d'IA appelée IA générative. Ces systèmes sont entraînés sur un certain type de travail créatif – par exemple du texte, du code logiciel ou des images – puis remixent ces travaux pour dériver (ou « générer ») d'autres travaux du même type.

Après avoir copié les cinq milliards d'images (sans le consentement des artistes originaux) Stable Diffusion s'appuie sur un processus mathématique appelé diffusion pour stocker des copies compressées de ces images d'entraînement, qui à leur tour sont recombinées pour dériver d'autres images. C'est, en bref, un outil de collage du 21^e siècle.

Ces images résultantes peuvent ou non ressembler extérieurement aux images d'entraînement. Néanmoins, elles sont dérivées de copies des images de formation et leur font concurrence sur le marché. Au minimum, la capacité de Stable Diffusion à inonder le marché avec un nombre pratiquement illimité d'images contrefaisantes infligera des dommages permanents au marché de l'art et des artistes.

Même le PDG de Stability AI, Emad Mostaque, a prévu que « les [futurs] modèles [IA] seront entièrement sous licence ». Mais Stable Diffusion ne l'est pas. Pour Matthew, c'est un parasite qui, s'il est autorisé à proliférer, causera un préjudice irréparable aux artistes, aujourd'hui et à l'avenir.

Exposé des motifs

Getty Images sert des clients créatifs, commerciaux et médiatiques dans plus de 200 pays à travers le monde, et ses images aident ses clients à produire des œuvres qui apparaissent chaque jour dans les journaux, magazines, campagnes publicitaires, films, programmes télévisés, livres, sites internet et autres médias les plus influents au monde. Dans des circonstances appropriées, et avec des garanties pour les droits et les intérêts de ses photographes et contributeurs et des sujets des images de sa collection, Getty Images autorise également l'utilisation de ses actifs visuels et des métadonnées associées en relation avec le développement de l'intelligence artificielle et des outils d'apprentissage automatique. Getty Images a concédé sous licence des millions d'actifs numériques appropriés à des innovateurs technologiques de premier plan à diverses fins liées à l'intelligence artificielle et à l'apprentissage automatique.

Les ressources visuelles de Getty Images sont hautement souhaitables pour une utilisation dans le cadre de l'intelligence artificielle et de l'apprentissage automatique en raison de leur haute qualité et parce qu'elles sont accompagnées de légendes détaillées spécifiques au contenu et de métadonnées riches.

Sur la base d'informations et de convictions, Stability AI a été fondée en 2020 par Emad Mostaque, un ancien dirigeant de fonds spéculatifs, en tant qu'entreprise à but lucratif. Selon des articles de presse récents, Stability AI a récemment levé plus de 100 millions de dollars auprès d'investisseurs en capital-risque et est
déjà évalué à 1 milliard de dollars. Sur le dos de la propriété intellectuelle détenue par Getty Images et d'autres détenteurs de droits d'auteur, Stability AI a créé un modèle de génération d'images appelé Stable Diffusion qui utilise l'intelligence artificielle pour fournir des images synthétisées par ordinateur en réponse à des invites textuelles. En plus d'offrir des versions open source de Stable Diffusion, Stability AI propose une interface utilisateur génératrice de revenus appelée DreamStudio qui est alimentée par son modèle Stable Diffusion. DreamStudio permet aux utilisateurs d'obtenir des images du modèle Stable Diffusion sur leurs propres ordinateurs personnels sans avoir besoin d'installation de logiciel ou de connaissances en codage, et Stability AI facture des frais pour ce service.

Plutôt que de tenter de négocier une licence avec Getty Images pour l'utilisation de son contenu, et même si les conditions d'utilisation des sites Web de Getty Images interdisent expressément la reproduction non autorisée de contenu à des fins commerciales telles que celles entreprises par Stability AI, Stability AI a copié au moins 12 millions d'images protégées par le droit d'auteur des sites Web de Getty Images, ainsi que le texte et les métadonnées associés, afin de former son modèle Stable Diffusion.

Stability AI est désormais en concurrence directe avec Getty Images en commercialisant Stable Diffusion et son interface DreamStudio auprès de ceux qui recherchent des images créatives, et sa violation du contenu de Getty Images à grande échelle a contribué à son succès à ce jour.

Sur la base d'informations et de convictions, Stability AI était bien consciente que le contenu qu'elle glanait sans l'autorisation des sites Web de Getty Images était protégé par le droit d'auteur.

Souvent, la sortie générée par Stable Diffusion contient une version modifiée d'un filigrane Getty Images, créant une confusion quant à la source des images et impliquant à tort une association avec Getty Images. Alors que certains des résultats générés par l'utilisation de Stable Diffusion sont esthétiquement agréables, d'autres sont de bien moindre qualité et vont parfois du bizarre au grotesque. L'incorporation par Stability AI des marques de Getty Images dans des images de mauvaise qualité, peu attrayantes ou offensantes dilue ces marques en violation supplémentaire des lois fédérales et étatiques sur les marques.

Jusqu'à présent, on ne sait toujours pas quel statut juridique les titulaires de droits d'image, qu'il s'agisse de Getty ou d'un artiste individuel, ont sur les entreprises qui récupèrent librement des images sur des sites Web pour former des systèmes d'IA comme Stable Diffusion sans consentement. Si le tribunal se range du côté de Getty, cela pourrait répondre à certaines des questions juridiques que de nombreux artistes se posent depuis le début de la controverse. Notamment, Stability AI a quelque peu sympathisé avec les artistes qui protestaient contre la technologie, annonçant le mois dernier un plan pour permettre aux artistes de se retirer des efforts de formation à l'image.

Getty est dans une position légèrement différente de celle des artistes, affirmant dans sa plainte la plus récente qu'elle est ciblée non seulement en raison de la qualité supérieure des images qu'elle héberge, mais également en raison de toutes les descriptions détaillées et métadonnées que Getty collecte. Une entreprise comme Stability AI peut utiliser ces données pour mieux répondre aux invites des utilisateurs, en utilisant essentiellement toutes les contributions de Getty pour concurrencer injustement le fournisseur d'images, selon l'entreprise.

Getty a demandé un procès devant jury « pour mettre fin à la conduite manifestement enfreinte de Stability AI et obtenir réparation pour le mépris impitoyable de Stability AI pour ses droits de propriété intellectuelle ». La société demande des dommages-intérêts, demandant au tribunal d'obliger « une comptabilité entière et complète à Getty Images sur les bénéfices, les gains, les avantages de Stability AI et la valeur des opportunités commerciales tirées de ses actes de contrefaçon ».

Qu'en pensent les experts ?

Les experts juridiques affirment que le cas de Getty Images est plus solide que le procès mené par l'artiste, mais avertissent que sur un territoire juridique aussi inconnu, il est impossible de prédire un résultat.

Andres Guadamaz, un universitaire britannique spécialisé dans l'IA et le droit d'auteur, a déclaré sur Twitter que la plainte de Getty était « très forte » : « La plainte est techniquement plus précise que le recours collectif », a estimé Guadamaz. « L'affaire reposera probablement sur la plainte pour violation [du droit d'auteur], et les défendeurs sont susceptibles de faire valoir une utilisation équitable. Cela pourrait aller dans les deux sens ».

Aaron Moss, avocat spécialisé dans le droit d'auteur chez Greenberg Glusker et éditeur du blog Copyright Lately, a tweeté : « La nouvelle plainte de Getty est bien meilleure que le recours collectif excessif dont j'ai parlé le mois dernier. L'accent est mis là où il devrait être*: l'ingestion d'images protégées par le droit d'auteur pour entraîner les données. Ce sera une bataille d'utilisation équitable fascinante ».

Moss, qui a été le premier à publier la plainte complète sur son blog, a noté que le recours collectif potentiel « était beaucoup plus axé sur les dommages professionnels causés aux artistes en activité par la prolifération des outils d'IA », tandis que Getty se concentre « sur le fait qu'il n'a pas été payé pour l'utilisation de ses images. Notamment, Getty a concédé sous licence ses images et ses métadonnées à d'autres générateurs d'art IA, soulignant le fait que Stability AI a délibérément fait du scrapping de ses images sans autorisation ».

Les arguments de violation du droit d'auteur dans le procès reposeront sur l'interprétation de la doctrine américaine de l'utilisation équitable, qui protège l'utilisation sans licence d'œuvres protégées par le droit d'auteur dans certains scénarios. Le concept « d'utilisation transformatrice » est également susceptible d'être un facteur important. La sortie de Stable Diffusion est-elle suffisamment différente de ses données d'apprentissage*? Des recherches récentes ont montré que le logiciel mémorise certaines de ses images d'entraînement et peut les reproduire presque exactement, bien que cela ne se produise que dans un très petit nombre de cas.

Un autre argument avancé par Getty Images concerne sa marque. Stable Diffusion est bien connu pour avoir recréé le filigrane de la société dans certaines de ses images, et Getty affirme que l'apparition de ce filigrane sur les « images bizarres ou grotesques » du modèle dilue la qualité des marques Getty Images en les floutant ou en les ternissant.

L'affaire sera cependant lente à avancer, a averti Moss. Il note que la plainte a été déposé devant le tribunal de district du Delaware et que le rôle du tribunal est « assez étayé ».

« Je traite actuellement une affaire là-bas, et on m'a dit que les juges mettent régulièrement des mois (parfois jusqu'à 6 à 9 mois) pour décider des requêtes de rejet après leur soumission », a déclaré Moss. « Il faudra probablement plusieurs années pour que l'affaire Getty Images passe par des requêtes de découverte et de jugement sommaire avant le procès ».

Il note que ces cas d'utilisation équitable nécessitent également la contribution des juges et des jurys. « Le jury tranche toutes les questions factuelles contestées, mais les questions juridiques ultimes sont censées être tranchées par un juge », explique Moss.

Sources : plainte, communiqué Getty Images, Andres Guadamaz, Aaron Moss

[Invité]

Faut-il vraiment s'en inquiéter ?

Je vous laisse juge d'un abécédaire en langue des signes réalisé par une IA



Il est vrai que, question créativité, c'est pas mal ! Mais bon....

J'ai testé Dream, qui n'est sûrement pas la meilleure et quelques outils de restauration de photos et j'ai bien ri, j'ai tout de suite pensé à De Funes dans Fantomas"C'est à ce moment que je sort mon troisième bras... Ah oui, votre troisième bras...".
Finalement, je suis même plutôt surpris lorsque le résultat est "cohérent" et je pense que l'image qui a été proposée a très probablement, été retouchée par la personne elle-même.

Oui, c'est bluffant, mais très vite, on comprends où ça mène et on sait où regarder lorsqu'il y a suspicion.

Je confirme également, que Dream utilise Getty Images, car un moment le logo est apparu dans une des images générées.

Bref, l'IA, n'est juste qu'un concurrent de plus, déroutant, certes, mais on s'en lassera probablement vite.
Puis, l'appareil photo n'a jamais remplacé la peinture, ni le tourne disque les musiciens, ....

[Xavdeb]

Le problème du droit d'auteur, c'est qu'il protège une oeuvre, pas un concept. Et heureusement.
Si je vois un dessin d'une femme en tenue médiévale, de style renaissance, dans un décors de pierre, rien ne m'interdit de dessiner MOI AUSSI une femme en tenue médiévale, de style renaissance, dans un décors de pierre. L'auteur ne peut pas faire valoir son droit d'auteur comme interdisant toute inspiration qui y ressemblerait.
Et heureusement. Sinon l'impressionnisme serait le fait d'un seul artiste !

Nous aussi, pauvres humains, nous nous inspirons des images que l'on trouve sur les sites d'image payantes. Ca nous donne des idées, que l'on a ou pas le talent de créer.

Si une IA n'a plus le droit de le faire, alors nous non plus. Et ça bloque toute créativité !

(quant au débat sur la qualité ou non des oeuvres des IA, il n'a rien à faire ici. Si les IA faisaient de la daube, les artistes n'auraient pas besoin de leur faire des procès en contrefaçon.
Pour une image foirée d'une IA je peux vous en sortir 15 magnifiques voire sublimes)

[Invité]

Le problème du droit d'auteur, c'est qu'il protège une oeuvre, pas un concept. Et heureusement.
Si je vois un dessin d'une femme en tenue médiévale, de style renaissance, dans un décors de pierre, rien ne m'interdit de dessiner MOI AUSSI une femme en tenue médiévale, de style renaissance, dans un décors de pierre. L'auteur ne peut pas faire valoir son droit d'auteur comme interdisant toute inspiration qui y ressemblerait.
Et heureusement. Sinon l'impressionnisme serait le fait d'un seul artiste !

Nous aussi, pauvres humains, nous nous inspirons des images que l'on trouve sur les sites d'image payantes. Ca nous donne des idées, que l'on a ou pas le talent de créer.

Si une IA n'a plus le droit de le faire, alors nous non plus. Et ça bloque toute créativité !

(quant au débat sur la qualité ou non des oeuvres des IA, il n'a rien à faire ici. Si les IA faisaient de la daube, les artistes n'auraient pas besoin de leur faire des procès en contrefaçon.
Pour une image foirée d'une IA je peux vous en sortir 15 magnifiques voire sublimes)

Totalement d'accord, l'IA ne copie pas, elle crée. Tout comme le fait le cerveau humain quand on s'inspire de quelque chose.
Le modèle est juste nourri avec des images, comme notre cerveau ... Et ceux qui disent que c'est de la "copie" ou une question de "droit d'auteur", n'ont rien compris à son fonctionnement.
Un "cerveau artificiel" (je simplifie, je vais pas expliquer le fonctionnement des espaces latents et le concept de diffusion) n'aurait donc pas le droit d'être entrainer avec des images et de les associer à des concepts alors que nous, nous en avons le droit ?


Et surtout, je comprends pas pourquoi c'est seulement "Stable Diffusion", la seule open source et téléchargeable chez soi, et pas les autres ? Étonnant ...

[Anthony]

Les images créées par l'IA ne bénéficieront pas de la protection du droit d'auteur aux États-Unis, toutefois le résultat d'un contrôle créatif sur un outil de génération d'images reste protégeable

Les images d'un roman graphique qui ont été créées à l'aide du système d'intelligence artificielle Midjourney n'auraient pas dû bénéficier de la protection du droit d'auteur, a déclaré l'Office américain du droit d'auteur dans une lettre.

L'auteur de "Zarya of the Dawn", Kris Kashtanova, a droit à un copyright pour les parties du livre que Kashtanova a écrites et arrangées, mais pas pour les images produites par Midjourney, a déclaré l'office dans sa lettre, datée de mardi.

Cette décision est l'une des premières prises par un tribunal ou un organisme américain sur l'étendue de la protection du droit d'auteur pour les œuvres créées à l'aide de l'IA, et elle intervient dans le contexte de l'essor fulgurant des logiciels d'IA générative comme Midjourney, Dall-E et ChatGPT.

Le Bureau du droit d'auteur a indiqué dans sa lettre qu'il allait rééditer l'enregistrement de "Zarya of the Dawn" afin d'omettre les images qui "ne sont pas le produit d'un travail humain" et ne peuvent donc pas être protégées par le droit d'auteur.

Mercredi, Mme Kashtanova a qualifié de "bonne nouvelle" le fait que l'office ait autorisé la protection par le droit d'auteur de l'histoire du roman et de la manière dont les images ont été agencées, ce qui, selon elle, "couvre un grand nombre d'utilisations pour les membres de la communauté artistique de l'IA".

Mme Kashtanova a déclaré qu'ils réfléchissaient à la meilleure façon de faire valoir l'argument selon lequel les images elles-mêmes étaient "l'expression directe de ma créativité et donc protégeables par le droit d'auteur."

Max Sills, avocat général de Midjourney, a déclaré que la décision était "une grande victoire pour Kris, Midjourney et les artistes" et que le Copyright Office " dit clairement que si un artiste exerce un contrôle créatif sur un outil de génération d'images comme Midjourney, le résultat est protégeable".

Midjourney est un système basé sur l'IA qui génère des images à partir de textes saisis par les utilisateurs. Kashtanova a écrit le texte de "Zarya of the Dawn", et Midjourney a créé les images du livre en fonction des invites.

En octobre, l'Office du droit d'auteur a fait savoir à Kashtanova qu'il réexaminerait l'enregistrement du droit d'auteur du livre parce que la demande ne mentionnait pas le rôle de Midjourney.

L'office a déclaré mardi qu'il accorderait la protection du droit d'auteur pour le texte du livre et la manière dont Kashtanova a sélectionné et arrangé ses éléments. Mais il a précisé que Mme Kashtanova n'était pas le "maître à penser" des images elles-mêmes.

"Le fait que le résultat spécifique de Midjourney ne puisse être prédit par les utilisateurs rend Midjourney différent, aux fins du droit d'auteur, des autres outils utilisés par les artistes", indique la lettre.

Sources : Bureau du droit d'auteur des États-Unis, Kris Kashtanova, Lettre du Bureau du droit d'auteur (PDF)

Et vous ?

Que pensez-vous de cette décision de l'Office US du droit d'auteur ? Trouvez-vous qu'elle est pertinente ?
Quel est votre avis général sur la popularité croissante des outils de génération d'images basés sur l'IA ?
D'après vous, une œuvre littéraire devrait-elle bénéficier entièrement de la protection du droit d'auteur si l'artiste indique qu'elle a été générée par l'IA ?

Voir aussi :

La bande dessinée générée par l'IA perd la protection du droit d'auteur qui lui avait été accordée, l'USPTO estime que les œuvres protégées par le droit d'auteur nécessitent la paternité humaine

Les artistes se révoltent contre les œuvres d'art générées par l'IA sur le site de portfolios ArtStation et inondent la plateforme d'images portant le message : "non aux images générées par l'IA"

Une plainte en recours collectif est déposée contre Stability AI, Midjourney et DeviantArt pour violations du droit d'auteur, sous le couvert d'une prétendue « intelligence artificielle »

Un concours de photographie organisé par des professionnels a été gagné par une intelligence artificielle, l'image a trompé les juges et les autres participants

[eric44000]

Que pensez-vous de cette décision de l'Office US du droit d'auteur ? Trouvez-vous qu'elle est pertinente ?

Non, pas du tout. La génération n'est pas le fruit du hasard. Elle est une réponse à un envoi (un prompt) qui a du sens et donc traduit une intentionnalité. De surcroit, l'auteur se lance dans un processus itératif de création. Et bien souvent, une retouche se poursuit à la sortie de l’œuvre.
Et quand bien même l'auteur placerait le hasard au centre de sa démarche, la paternité de l’œuvre ne pourrait être remis en cause. C'est le cas de bon nombres d'artistes comme Victor Hugo et ses tâches, Jackson Pollock et ses coulures de peintures... Bref, il est étonnant que l'Office américain du droit d'auteur soit amnésique quant à l'histoire de l'art.
Mais l'affaire est donc loin d'être conclue : l'avocat de de Midjourney et l'auteur de "Zarya of the Dawn", Kris Kashtanova, affirme que la décision de l'office est contradictoire.
Une action en justice se profile pour trancher cette curieuse décision. Mais bon, l’Amérique sans procédure judiciaire n'est pas l'Amérique.

[BudSpencer]

"la communauté artistique de l'IA": burp

"les images elles-mêmes étaient "l'expression directe de ma créativité"": re-burp

Quelle vaste blague, merci l'IA pour faire croire à tous ces neuneus qu'ils sont de grands artistes.

[Stéphane le calme]

Les auteurs risquent de perdre leurs droits s'ils ne déclarent pas qu'ils ont fait appel à une IA,
prévient le US Copyright Office dans de nouvelles directives

Alors que les technologies d'IA génératives telles que GPT-4 et Midjourney sont rapidement devenues plus sophistiquées et que leur utilisation créative a explosé en popularité, le US Copyright Office a publié des directives pour clarifier quand le matériel généré par l'IA peut être protégé par le droit d'auteur.

Les directives interviennent après que le Bureau du droit d'auteur a décidé qu'un auteur ne pouvait pas protéger les images d'IA individuelles utilisées pour illustrer une bande dessinée, car chaque image a été générée par Midjourney, et non par un artiste humain. En prenant sa décision, le Bureau du droit d'auteur s'est engagé à respecter la définition légale de longue date selon laquelle les auteurs d'œuvres créatives doivent être humains pour enregistrer des œuvres. Pour cette raison, les responsables ont confirmé que les technologies d'IA ne peuvent jamais être considérées comme des auteurs.

Ce n'était pas le seul cas à avoir influencé les nouvelles directives, mais c'était le plus récent. La lutte avec les questions complexes sur la paternité de la bande dessinée a incité le Bureau du droit d'auteur à lancer une initiative à l'échelle de l'agence pour continuer à explorer un plus large éventail de problèmes de droit d'auteur survenant à mesure que les modèles d'IA utilisés pour générer du texte, de l'art, de l'audio et de la vidéo continuent d'évoluer.

Avant de publier les directives, le guide à rappeler le contexte.

Le Bureau du droit d'auteur (le «*Bureau*») est l'agence fédérale chargée d'administrer le système d'enregistrement du droit d'auteur, ainsi que de conseiller le Congrès, d'autres agences et le pouvoir judiciaire fédéral sur le droit d'auteur et les questions connexes.

Parce que le Bureau a supervisé l'enregistrement du droit d'auteur depuis ses origines en 1870, il a développé une expérience et une expertise substantielles concernant « la distinction entre les œuvres protégeables et non protégeables par le droit d'auteur ». Le Bureau est habilité par la Loi sur le droit d'auteur à établir la demande utilisée par les demandeurs qui demandent l'enregistrement de leurs œuvres protégées par le droit d'auteur.

Bien que la loi identifie certaines exigences minimales, le registre peut déterminer que des informations supplémentaires sont nécessaires pour que le Bureau puisse évaluer « l'existence, la propriété ou la durée du droit d'auteur ».

Étant donné que le Bureau reçoit environ un demi-million de demandes d'enregistrement chaque année, il constate de nouvelles tendances dans les activités d'enregistrement qui peuvent nécessiter la modification ou l'élargissement des informations à divulguer sur une demande.

L'un de ces développements récents est l'utilisation de technologies sophistiquées d'intelligence artificielle ("IA") capables de produire du matériel expressif. Ces technologies « s'entraînent » sur de grandes quantités d'œuvres préexistantes d'auteurs humains et utilisent les inférences de cette formation pour générer de nouveaux contenus. Certains systèmes fonctionnent en réponse à une instruction textuelle de l'utilisateur, appelée « invite ».

La sortie résultante peut être textuelle, visuelle ou audio, et est déterminée par l'IA en fonction de sa conception et du matériel sur lequel elle a été formée. Ces technologies, souvent décrites comme « IA générative », soulèvent la question de savoir si le matériel qu'elles produisent est protégé par le droit d'auteur, si les œuvres composées à la fois de matériel d'auteur humain et de matériel généré par l'IA peuvent être enregistrées, et quelles informations doivent être fournies au Bureau par les demandeurs cherchant à les enregistrer.

Ce ne sont plus des questions hypothétiques, car le Bureau reçoit et examine déjà les demandes d'enregistrement qui revendiquent le droit d'auteur sur le matériel généré par l'IA. Par exemple, en 2018, le Bureau a reçu une demande pour une œuvre visuelle que le demandeur a décrite comme « créée de manière autonome par un algorithme informatique exécuté sur une machine ».

La demande a été rejetée parce que, sur la base des représentations du demandeur dans la demande, l'examinateur a conclu que l'œuvre ne contenait aucune paternité humaine. Après une série d'appels administratifs, la commission de révision du Bureau a rendu une décision finale affirmant que l'œuvre ne pouvait pas être enregistrée car elle avait été réalisée « sans aucune contribution créative d'un acteur humain ».

Plus récemment, le Bureau a examiné un enregistrement pour une œuvre contenant des éléments d'auteur humain combinés à des images générées par l'IA. En février 2023, l'Office a conclu qu'un roman graphique composé d'un texte d'origine humaine combiné à des images générées par le service d'intelligence artificielle Midjourney constituait une œuvre protégeable par le droit d'auteur, mais que les images individuelles elles-mêmes ne pouvaient pas être protégées par le droit d'auteur.

Le Bureau a reçu d'autres demandes qui ont désigné la technologie de l'IA comme l'auteur ou le co-auteur de l'œuvre ou qui ont inclus des déclarations dans les sections «*Auteur créé*» ou «*Note au Bureau du droit d'auteur*» de la demande indiquant que l'œuvre a été produite par ou avec l'aide de l'IA. D'autres déposants n'ont pas divulgué l'inclusion de matériel généré par l'IA, mais ont mentionné les noms des technologies d'IA dans le titre de l'œuvre ou la section « Remerciements » du dépôt.

Sur la base de ces développements, le Bureau conclut que des orientations publiques sont nécessaires sur l'enregistrement des œuvres contenant du contenu généré par l'IA. Cet énoncé de politique décrit comment le Bureau applique l'exigence de paternité humaine de la loi sur le droit d'auteur aux demandes d'enregistrement de telles œuvres et fournit des conseils aux demandeurs.

Le Bureau reconnaît que les œuvres générées par l'IA impliquent d'autres problèmes de droit d'auteur non abordés dans cette déclaration. Il a lancé une initiative à l'échelle de l'agence pour approfondir un large éventail de ces questions. Entre autres choses, le Bureau a l'intention de publier un avis d'enquête plus tard cette année pour solliciter les commentaires du public sur d'autres sujets juridiques et politiques, y compris la manière dont la loi devrait s'appliquer à l'utilisation d'œuvres protégées par le droit d'auteur dans la formation à l'IA et le traitement des résultats qui en résulte.

Les images de cette bande dessinée ont été générées par IA

Les directives

Les directives offrent des détails sur ce qui n'est pas éligible au droit d'auteur lorsqu'il s'agit d'œuvres d'IA générées uniquement par des invites (sans aucune modification) que le Bureau du droit d'auteur assimile à donner des « instructions à un artiste mandaté ». Ces œuvres n'ont pas la paternité humaine et, par conséquent, ne seront pas enregistrées.

Lorsque « la technologie de l'IA reçoit uniquement une invite d'un humain et produit des œuvres écrites, visuelles ou musicales complexes en réponse, les "éléments traditionnels de la paternité" sont déterminés et exécutés par la technologie, et non par l'utilisateur humain », explique le guide. « Sur la base de la compréhension du Bureau des technologies d'IA génératives actuellement disponibles, les utilisateurs n'exercent pas de contrôle créatif ultime sur la façon dont ces systèmes interprètent les invites et génèrent du matériel ».

Cependant, comme dans le cas de Midjourney, un auteur qui organise l'IA générative dans une séquence spécifique (comme la conception de la mise en page d'une bande dessinée) peut potentiellement protéger cette séquence d'images, si l'arrangement est « suffisamment créatif ». Une logique similaire s'applique si un auteur ou un artiste a modifié du matériel généré par l'IA et que « les modifications respectent la norme de protection du droit d'auteur ». Des exemples pourraient être la modification d'une image AI dans Adobe Photoshop ou la modification de l'audio généré par l'IA à l'aide de pédales d'effets guitare, indique le guide.

Toutefois, il est clair que le Bureau du droit d'auteur n'en est qu'aux premières étapes de la gestion de ces affaires complexes, et les conseils restent quelque peu vagues. En fin de compte, les responsables qui se demandent si les œuvres assistées par l'IA ont été conçues par des humains ou par des machines prendront des décisions au cas par cas, selon les directives.

« La réponse dépendra des circonstances, en particulier du fonctionnement de l'outil d'IA et de la manière dont il a été utilisé pour créer le travail final », indique le guide.

Tout contenu généré par l'IA doit être mentionné

L'aspect le plus important des directives est peut-être le « devoir d'un auteur de divulguer l'inclusion de contenu généré par l'IA dans une œuvre soumise à l'enregistrement ».

Lors de l'enregistrement d'œuvres, les auteurs doivent distinguer quel contenu est d'origine humaine et quel contenu est généré par l'IA. Si les candidats ne savent pas comment faire référence au contenu généré par l'IA, le Bureau du droit d'auteur recommande de fournir une déclaration générale indiquant que l'œuvre contient du contenu généré par l'IA. Cela incitera le bureau à faire un suivi pour aider chaque auteur à remplir les blancs dans une demande.

Pour les artistes qui ont des demandes en attente ou qui ont déjà enregistré des œuvres contenant du contenu généré par l'IA, le Bureau du droit d'auteur suggère de corriger le dossier public en soumettant un enregistrement supplémentaire. Toute incapacité à refléter avec précision le rôle de l'IA dans les œuvres protégées par le droit d'auteur pourrait entraîner la « perte des avantages de l'enregistrement », a averti le bureau. Cela pourrait laisser les œuvres vulnérables à la copie, avec peu ou pas de recours légaux pour les réclamations pour violation du droit d'auteur.

Le défaut de divulguer le contenu généré par l'IA est le seul type d'infraction abordé dans le guide. Des critiques comme Alex J. Champandard, cofondateur de Creative.ai, un groupe de hackers et d'artistes intéressés par l'IA générative, ont tweeté pour dire que les directives actuelles placent les auteurs dans une situation précaire.

Le U.S. Copyright Office a publié un document contenant des directives pour les œuvres qui incluent des matériaux générés par #AI.

• Vous avez toujours besoin d'une entrée/contrôle humain au-delà des invites.
• Vous devez divulguer l'utilisation de l'IA ou votre inscription peut être affectée.

Il n'y a aucune mention d'infraction, sauf que vous auriez des ennuis si vous ne divulguez pas l'IA et que quelqu'un intente une action contre vous.

C'est donc le hic 22*: en divulguant l'IA, vous vous exposez à une violation, mais en ne divulguant pas l'IA, c'est plus sûr mais c'est en violation de l'USCO*[ndlr. U.S. Copyright Office] !

The U.S. Copyright Office released a document with guidelines for works that include materials generated by #AI.

- You always need human input/control beyond prompts.
- You must disclose AI usage or your registration can be affected.https://t.co/T6mfDP5ysc pic.twitter.com/RZ67MaF4Ql

— Alex J. Champandard ❄️ @alexjc@creative.ai (@alexjc) March 15, 2023

Une consultation publique

Quoiqu'il en soit, le Bureau du droit d'auteur sait qu'il a encore beaucoup de travail à faire pour clarifier pleinement quand le contenu assisté par l'IA peut être enregistré. À cette fin, il a prévu une série de séances d'écoute en avril et en mai pour recueillir les commentaires du public. Le bureau a également lancé une page Web dédiée à la publication de mises à jour sur les actualités et les événements liés à l'IA, il est donc plus facile de suivre les conseils à mesure que les règles sont mises à jour.

Le 19 avril, les sessions d'écoute démarrent avec un événement dédié aux œuvres littéraires générées par l'IA. Suivent une session sur les arts visuels le 2 mai, les œuvres audiovisuelles le 17 mai et la musique et les enregistrements sonores le 31 mai.

Les artistes, les acteurs de l'industrie créative, les développeurs d'IA, les chercheurs en IA et les avocats sont tous encouragés à s'inscrire pour assister à ces sessions. Mais comme la participation sera nécessairement limitée, le Bureau du droit d'auteur a également indiqué dans les directives publiées qu'il y aura des opportunités supplémentaires pour les parties prenantes d'intervenir au-delà de la participation à ces sessions.

« Le Bureau a l'intention de publier un avis d'enquête plus tard cette année pour solliciter les commentaires du public sur d'autres sujets juridiques et politiques, y compris la manière dont la loi devrait s'appliquer à l'utilisation d'œuvres protégées par le droit d'auteur dans la formation à l'IA et le traitement des résultats qui en résulte », indique le guide.

Source : Bureau du droit d'auteur

Et vous ?

Que pensez-vous de cette initiative ?
Devrait-on, selon vous, protéger une œuvre générée entièrement ou partiellement par une IA ? Dans quelle mesure ?
Que dit la loi à ce propos dans votre pays ?

Voir aussi :

Une plainte en recours collectif est déposée contre Stability AI, Midjourney et DeviantArt pour violations du droit d'auteur, sous le couvert d'une prétendue « intelligence artificielle »
Un artiste opposé aux images générées par IA se sert de Mickey Mouse pour déclencher des poursuites en copyright : « le savoir-faire, les efforts et les idées des gens sont pris sans consentement... »
Dall-E 2 permet de générer des images à partir de quelques mots, mais le produit est-il votre ? Votre illustration numérique générée par l'IA pourrait ne pas être protégée par le droit d'auteur

[totozor]

Je ne condamne pas la création d'images aidées par l'IA
MAIS
ce week end Youtube s'est subitement mis à me proposer des dizaines de chaines (AIden quelquechose, AI blabla etc) qui propose des vidéos de dizaines d'images générées par IA, essentiellement du "DragonBall Z façon X0's".
Les previews des vidéos sont des daubes qui n'ont d'intérêts que parce que les couleurs sont ultra saturées.
Ces gens me donnent envie de condamner ça, surtout quand je vois la tête de Vegeta sur la morphologie de Goku dans une preview qui est sensée être le top de la vidéo.

[ALT]

Moi, je me pose une question : au vu de certaines œuvres (l'illustration de cet article en est un exemple), comment fait-on pour distinguer le travail d'une IA de celui d'un humain ?
Si quelqu'un a une réponse, je suis preneur.

[TJ1985]

Moi, je me pose une question : au vu de certaines œuvres (l'illustration de cet article en est un exemple), comment fait-on pour distinguer le travail d'une IA de celui d'un humain ?
Si quelqu'un a une réponse, je suis preneur.

C'est là que la notion d'oeuvre devient intéressante. Qu'est-ce qui fait que Picasso est devenu extraordinairement célèbre pour ses portraits en morceaux, moches, alors qu'il dessinait avec grand talent par ailleurs, et que Madame Michu se fait conspuer alors qu'elle s'applique à dessiner ses jolis bouquets de chrysanthèmes ?
Qui définit ce qu'est l'art, et selon quelle légitimité ?
A mon point de vue, du moment que ça trouve un écho chez nous, nous pouvons considérer que c'est de l'art. Quel qu'en soit l'auteur. Ou même l'autrice ! Après vient la notion de plagiat, et là l'IA pourrait facilement se trouver en faute puisqu'elle exploite des banques de données existantes.
Mais Picasso a aussi dessiné des nez, bien qu'ils les ait placés à des endroits étranges souvent. Va-t-on lui reprocher d'avoir copié la Venus de Milo parce qu'elle aussi avait un nez ?

[ALT]

Oui, d'autant que tous les auteurs s'inspirent de leurs prédécesseurs. Et à moins d'une rupture très brutale, comme le cubisme, ils extrapolent : même les artistes de la Renaissance ont été influencés par ceux du Moyen-Âge ou leurs contemporains.
D'où les « styles » : gothique, néoclassique, Art-Déco, romantique... Dans tous les arts. Et pourtant, chacun a son genre : René Descartes n'écrivait pas comme François de Malherbe. Et Johann Sebastian Bach ne composait pas comme Wolfgang Amadeus M.

Alors qu'une IA s'inspire d'[autres] artistes...

[Mat.M]

toute la question à se poser c'est de savoir si l'art est quelque chose de substantiel ou non...
je dirais forcément oui car dans les compositions d'u Mozart ou les peintures d'un Leonardo de Vinci l'âme et la singularité de l'artiste transparaît.
Formulé autrement un artiste qui peint un tableau il y met ses "tripes" quelque part.
Contrairement à un artefact que l'on commande à une machine et qui est donc généré mécaniquement.
Après ça amène à l'éternel débat entre l'universel et le particulier.
Mais pour emboiter les pas de mon prédesseurs ALT au Musée du Quai Branly une chercheuse m'avait dit que les statuettes mayas il y a des milliers d'années étaient déjà produites de manière industrielle au Mexique

De rajouter que le problème de la production artistique générée automatiquement c'est le manque de "totemisation" ou de sacralisation.
Le tableau de Mona Lisa au Louvre après tout ça tient quasiment du sacré de fait parce que la renommée de cette oeuvre est intemporelle

[Bill Fassinou]

Le modèle d'IA de génération d'images Midjourney suspend les essais gratuits après que les deepfakes sont devenus viraux
mais la société impute ce choix à la création excessive de comptes jetables

Midjourney a discrètement mis fin aux essais gratuits de son modèle d'IA de génération d'images après avoir constaté "un afflux soudain de nouveaux utilisateurs et un abus de l'offre gratuite". Cette décision intervient après que Midjourney s'est retrouvé au cœur d'une attention indésirable ces dernières semaines. Son modèle d'IA a été utilisé pour créer des deepfakes de Donald Trump en train de se faire arrêter et du pape François portant un manteau à la mode. Le PDG de Midjourney, David Holz, a déclaré mardi que l'entreprise a tenté de résoudre les problèmes d'abus avec des correctifs de sécurité, mais que ces changements n'ont malheureusement pas suffi.

Midjourney est une IA qui génère des images en fonction des instructions fournies par l'utilisateur. Aussi absurdes ou irréalistes que soient les requêtes, Midjourney est capable d'en produire au moins l'essentiel. Il existe de nombreux autres modèles d'IA de ce type, dont les plus populaires sont DALL-E et Stable Diffusion. Cependant, bien qu'ils soient impressionnants et utiles à certains égards, ces nouveaux outils d'IA ont également malheureusement enclenché l'ère des images réalistes et facilement trompeuses générées par l'IA. Midjourney, DALL-E et Stable Diffusion ont propulsé le réalisme des deepfakes à un niveau supérieur, compliquant ainsi leur détection.

Midjourney a récemment mis fin aux essais gratuits de son service, évoquant un afflux soudain de nouveaux utilisateurs. David Holz, cofondateur et PDG de Midjourney, a annoncé le changement mardi, affirmant que "la décision est due à un nombre massif de personnes créant des comptes jetables pour obtenir des images gratuites". Holz a déclaré que Midjourney a tenté de résoudre les problèmes d'abus avec des correctifs de sécurité, mais les changements tentés n'ont pas pu résoudre les problèmes : « nous avons essayé de réactiver les essais avec de nouvelles sécurités contre les abus, mais cela n'a pas semblé suffisant. Nous les désactivons à nouveau ».

Le service payant de l'entreprise reste disponible et, bien que les essais gratuits soient interrompus pour l'instant, ils pourraient revenir à tout moment. L'utilisation du terme "abus" par Holz dans ses messages sur Discord a laissé penser que l'interruption de l'offre gratuite est intervenue après que des deepfakes générés grâce à son outil d'IA sont devenus viraux. En fait, les utilisateurs de Midjourney ont créé de fausses images montrant Donald Trump qui tente de résister tant bien que mal à une arrestation, mais également des images montrant l'ancien président des États-Unis en tenue de détenu et faisant du nettoyage dans une enceinte pénitentiaire.

Midjourney a également permis aux internautes de créer des images montrant le pape François dans un manteau à la mode et le président français Emmanuel Macron ramassant des ordures dans les rues de Paris ou se mêlant aux forces de l'ordre pour encadrer des manifestants. Bien que les images aient été rapidement identifiées comme des deepfakes, il est à craindre que des acteurs malveillants utilisent Midjourney, DALL-E, Stable Diffusion ou d'autres outils similaires pour diffuser de fausses informations avec des images très réalistes à l'appui. Mais Holz a affirmé que la décision n'a pas été motivée par le souci de limiter la prolifération des deepfakes.

En parlant d'un rapport publié par le Washington Post, Holz explique : « l'article contient de gros malentendus. Nous avons arrêté les essais en raison du nombre massif de personnes qui créaient des comptes jetables pour obtenir des images gratuites. Cela s'est produit en même temps qu'une pénurie temporaire de GPU. Les deux choses se sont conjuguées et ont entraîné une baisse du service pour les utilisateurs payants ». Les rapports affirment également que les récents deepfakes viraux ont été créés grâce à la dernière version de Midjourney, Midjourney v5, mais Holz a déclaré sur Discord que l'offre gratuite n'a jamais inclus l'accès à cette version.

Emmanuel Macron se battant avec la Police et heureux de vivre dans les ordures de Paris, Midjourney pic.twitter.com/KhBg0QRH0q

— Vincent Flibustier 👽 (@vinceflibustier) March 20, 2023

Midjourney v5 a considérablement amélioré la qualité des images représentant des personnes. Par exemple, les mains difformes qui étaient auparavant une caractéristique des images générées par l'IA posent désormais moins de problèmes. L'éclairage et les tissus sont également plus réalistes, et le système est capable de générer des images d'innombrables célébrités et personnalités publiques. En raison de ces améliorations, mais également d'améliorations similaires ou plus avancées apportées par les rivaux tels que DALL-E et Stable Diffusion, l'utilisation des modèles d'IA de génération d'images pour créer des deepfakes a le vent en poupe.

Sur les réseaux sociaux, vous avez peut-être rencontré des images du président russe Vladimir Poutine face à un tribunal de La Haye, ou encore de l'ancien président des États-Unis John F. Kennedy pointant un fusil par la fenêtre. Toutes ces images ont été créées à l'aide de Midjourney, mais Holz affirme que ces images ne sont pas une raison suffisante pour restreindre ou fermer l'accès à Midjourney. Au contraire, l'entreprise affirme que son interdiction actuelle des essais gratuits est une forme de protection des bénéfices. Elle souhaite que les utilisateurs passent de l'essai gratuit à un abonnement payant, et non à un autre essai gratuit.

La réponse de Midjourney à l'escalade de la menace politiquement sensible des fausses images a jusqu'à présent été fragmentaire, sans révision significative de ses politiques de modération. Les restrictions de contenu de Midjourney sont plus permissives que certains services concurrents (comme DALL-E), mais plus restrictives que d'autres (comme Stable Diffusion). Holz a néanmoins déclaré que Midjourney s'efforçait d'améliorer la modération : « je crois que nous essayons encore de trouver les bonnes politiques de modération. Nous prenons en compte les commentaires des experts et de la communauté et nous essayons d'être vraiment réfléchis ».

I think Balenciaga pope might be the first real mass-level AI misinformation case. Kinda cool to watch tbh. https://t.co/hPoJeXwA1z

— Ryan Broderick (@broderick) March 26, 2023

« Nous avons déjà de nouveaux systèmes qui devraient être livrés prochainement », a-t-il ajouté. Les difficultés de Midjourney, et de ses rivaux, à mettre un terme à l'essor de fausses images divertissantes, mais potentiellement dangereuses et trompeuses, illustrent les questions obscures de la réglementation de l'IA. Comment les créateurs d'IA générative parviendront-ils à trouver un équilibre entre la pression pour l'accès, la "liberté d'expression" et la fabrication d'un produit que les gens veulent réellement utiliser, d'une part, et la responsabilité sociale et le risque d'abus flagrant, d'autre part ? Quels rôles les régulateurs auront-ils à jouer ?

Pour l'instant, les réponses restent floues, y compris pour les PDG des entreprises technologiques. Mercredi, lors d'une session Discord en direct, Holz a reconnu qu'il a du mal à établir des politiques en matière de contenu, en particulier en ce qui concerne l'utilisation d'images de personnes réelles. « Il y a un argument en faveur d'un Disney total ou d'un Far West total, et tout ce qui se trouve au milieu est un peu pénible. Nous sommes en quelque sorte au milieu en ce moment, et je ne sais pas ce que je dois en penser », aurait déclaré le PDG de Midjourney, selon certains rapports. Le moratoire sur l'accès gratuit à Midjourney ne résout pas le problème.

Et, une fois de plus, le PDG affirme que la décision d'arrêter les essais gratuits n'est pas du tout le résultat de la diffusion de deepfake. Mais peut-être que cela pourrait ralentir le problème en limitant le nombre de personnes qui peuvent produire des photos effrayantes, vraies et fausses de presque tout ce qu'elles veulent. Pour 10, 30 ou 60 dollars par mois, ceux qui sont prêts à payer pour accéder à Midjourney peuvent toujours opter pour le chaos du contenu. Par ailleurs, selon un message de Holz datant d'octobre, Midjourney tient à jour une liste de mots interdits liés à des sujets dans différents pays, sur la base de plaintes d'utilisateurs de ces pays.

Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023

Holz a ajouté que l'entreprise ne partage pas la version complète de cette liste afin de minimiser les "drames". Mais l'entreprise a élargi cette liste au fur et à mesure que ses contrefaçons devenaient virales, interdisant récemment le terme "arrêté", par exemple. Cette mesure semble avoir été prise après la publication des images montrant Donald Trump en train d'être arrêté. Ces images auraient été créées par le journaliste d'investigation Eliot Higgins, qui a depuis affirmé que Midjourney l'a banni. Il est toutefois facile de contourner de telles restrictions. Par exemple, il suffit d'utiliser des synonymes ou de formuler sa phrase autrement pour obtenir des résultats.

Source : David Holz, cofondateur et PDG de Midjourney

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la décision de Midjourney de suspendre son offre gratuite ?
Quel est votre avis sur la raison évoquée par le PDG de Midjourney ?
Selon vous, comment ces entreprises d'IA pourraient-elles lutter contre la prolifération des deepfakes ?

Voir aussi

« J'ai perdu tout ce qui me faisait aimer mon travail à cause du modèle d'IA Midjourney », affirme un artiste 3D qui raconte comment l'IA lui a arraché son travail du jour au lendemain

L'IA de génération d'images la plus avancée de la Chine bloque déjà les contenus politiques, des entrées telles que "place Tiananmen" et "Xi Jinping" ne produisent aucun résultat

Les nouveaux outils de clonage de voix par l'IA ajoutent "de l'huile sur le feu" de la désinformation, une voix de Joe Biden générée par l'IA prononce un discours "hilarant" sur l'état de l'Union

Des images truquées par l'IA de l'arrestation imaginaire de Donald Trump circulent sur Twitter, montrant Donald Trump résistant à l'arrestation et traîné par la police