Discussion :

[BudSpencer]

"la communauté artistique de l'IA": burp

"les images elles-mêmes étaient "l'expression directe de ma créativité"": re-burp

Quelle vaste blague, merci l'IA pour faire croire à tous ces neuneus qu'ils sont de grands artistes.

[eric44000]

Que pensez-vous de cette décision de l'Office US du droit d'auteur ? Trouvez-vous qu'elle est pertinente ?

Non, pas du tout. La génération n'est pas le fruit du hasard. Elle est une réponse à un envoi (un prompt) qui a du sens et donc traduit une intentionnalité. De surcroit, l'auteur se lance dans un processus itératif de création. Et bien souvent, une retouche se poursuit à la sortie de l’œuvre.
Et quand bien même l'auteur placerait le hasard au centre de sa démarche, la paternité de l’œuvre ne pourrait être remis en cause. C'est le cas de bon nombres d'artistes comme Victor Hugo et ses tâches, Jackson Pollock et ses coulures de peintures... Bref, il est étonnant que l'Office américain du droit d'auteur soit amnésique quant à l'histoire de l'art.
Mais l'affaire est donc loin d'être conclue : l'avocat de de Midjourney et l'auteur de "Zarya of the Dawn", Kris Kashtanova, affirme que la décision de l'office est contradictoire.
Une action en justice se profile pour trancher cette curieuse décision. Mais bon, l’Amérique sans procédure judiciaire n'est pas l'Amérique.

[Stéphane le calme]

Les auteurs risquent de perdre leurs droits s'ils ne déclarent pas qu'ils ont fait appel à une IA,
prévient le US Copyright Office dans de nouvelles directives

Alors que les technologies d'IA génératives telles que GPT-4 et Midjourney sont rapidement devenues plus sophistiquées et que leur utilisation créative a explosé en popularité, le US Copyright Office a publié des directives pour clarifier quand le matériel généré par l'IA peut être protégé par le droit d'auteur.

Les directives interviennent après que le Bureau du droit d'auteur a décidé qu'un auteur ne pouvait pas protéger les images d'IA individuelles utilisées pour illustrer une bande dessinée, car chaque image a été générée par Midjourney, et non par un artiste humain. En prenant sa décision, le Bureau du droit d'auteur s'est engagé à respecter la définition légale de longue date selon laquelle les auteurs d'œuvres créatives doivent être humains pour enregistrer des œuvres. Pour cette raison, les responsables ont confirmé que les technologies d'IA ne peuvent jamais être considérées comme des auteurs.

Ce n'était pas le seul cas à avoir influencé les nouvelles directives, mais c'était le plus récent. La lutte avec les questions complexes sur la paternité de la bande dessinée a incité le Bureau du droit d'auteur à lancer une initiative à l'échelle de l'agence pour continuer à explorer un plus large éventail de problèmes de droit d'auteur survenant à mesure que les modèles d'IA utilisés pour générer du texte, de l'art, de l'audio et de la vidéo continuent d'évoluer.

Avant de publier les directives, le guide à rappeler le contexte.

Le Bureau du droit d'auteur (le «*Bureau*») est l'agence fédérale chargée d'administrer le système d'enregistrement du droit d'auteur, ainsi que de conseiller le Congrès, d'autres agences et le pouvoir judiciaire fédéral sur le droit d'auteur et les questions connexes.

Parce que le Bureau a supervisé l'enregistrement du droit d'auteur depuis ses origines en 1870, il a développé une expérience et une expertise substantielles concernant « la distinction entre les œuvres protégeables et non protégeables par le droit d'auteur ». Le Bureau est habilité par la Loi sur le droit d'auteur à établir la demande utilisée par les demandeurs qui demandent l'enregistrement de leurs œuvres protégées par le droit d'auteur.

Bien que la loi identifie certaines exigences minimales, le registre peut déterminer que des informations supplémentaires sont nécessaires pour que le Bureau puisse évaluer « l'existence, la propriété ou la durée du droit d'auteur ».

Étant donné que le Bureau reçoit environ un demi-million de demandes d'enregistrement chaque année, il constate de nouvelles tendances dans les activités d'enregistrement qui peuvent nécessiter la modification ou l'élargissement des informations à divulguer sur une demande.

L'un de ces développements récents est l'utilisation de technologies sophistiquées d'intelligence artificielle ("IA") capables de produire du matériel expressif. Ces technologies « s'entraînent » sur de grandes quantités d'œuvres préexistantes d'auteurs humains et utilisent les inférences de cette formation pour générer de nouveaux contenus. Certains systèmes fonctionnent en réponse à une instruction textuelle de l'utilisateur, appelée « invite ».

La sortie résultante peut être textuelle, visuelle ou audio, et est déterminée par l'IA en fonction de sa conception et du matériel sur lequel elle a été formée. Ces technologies, souvent décrites comme « IA générative », soulèvent la question de savoir si le matériel qu'elles produisent est protégé par le droit d'auteur, si les œuvres composées à la fois de matériel d'auteur humain et de matériel généré par l'IA peuvent être enregistrées, et quelles informations doivent être fournies au Bureau par les demandeurs cherchant à les enregistrer.

Ce ne sont plus des questions hypothétiques, car le Bureau reçoit et examine déjà les demandes d'enregistrement qui revendiquent le droit d'auteur sur le matériel généré par l'IA. Par exemple, en 2018, le Bureau a reçu une demande pour une œuvre visuelle que le demandeur a décrite comme « créée de manière autonome par un algorithme informatique exécuté sur une machine ».

La demande a été rejetée parce que, sur la base des représentations du demandeur dans la demande, l'examinateur a conclu que l'œuvre ne contenait aucune paternité humaine. Après une série d'appels administratifs, la commission de révision du Bureau a rendu une décision finale affirmant que l'œuvre ne pouvait pas être enregistrée car elle avait été réalisée « sans aucune contribution créative d'un acteur humain ».

Plus récemment, le Bureau a examiné un enregistrement pour une œuvre contenant des éléments d'auteur humain combinés à des images générées par l'IA. En février 2023, l'Office a conclu qu'un roman graphique composé d'un texte d'origine humaine combiné à des images générées par le service d'intelligence artificielle Midjourney constituait une œuvre protégeable par le droit d'auteur, mais que les images individuelles elles-mêmes ne pouvaient pas être protégées par le droit d'auteur.

Le Bureau a reçu d'autres demandes qui ont désigné la technologie de l'IA comme l'auteur ou le co-auteur de l'œuvre ou qui ont inclus des déclarations dans les sections «*Auteur créé*» ou «*Note au Bureau du droit d'auteur*» de la demande indiquant que l'œuvre a été produite par ou avec l'aide de l'IA. D'autres déposants n'ont pas divulgué l'inclusion de matériel généré par l'IA, mais ont mentionné les noms des technologies d'IA dans le titre de l'œuvre ou la section « Remerciements » du dépôt.

Sur la base de ces développements, le Bureau conclut que des orientations publiques sont nécessaires sur l'enregistrement des œuvres contenant du contenu généré par l'IA. Cet énoncé de politique décrit comment le Bureau applique l'exigence de paternité humaine de la loi sur le droit d'auteur aux demandes d'enregistrement de telles œuvres et fournit des conseils aux demandeurs.

Le Bureau reconnaît que les œuvres générées par l'IA impliquent d'autres problèmes de droit d'auteur non abordés dans cette déclaration. Il a lancé une initiative à l'échelle de l'agence pour approfondir un large éventail de ces questions. Entre autres choses, le Bureau a l'intention de publier un avis d'enquête plus tard cette année pour solliciter les commentaires du public sur d'autres sujets juridiques et politiques, y compris la manière dont la loi devrait s'appliquer à l'utilisation d'œuvres protégées par le droit d'auteur dans la formation à l'IA et le traitement des résultats qui en résulte.

Les images de cette bande dessinée ont été générées par IA

Les directives

Les directives offrent des détails sur ce qui n'est pas éligible au droit d'auteur lorsqu'il s'agit d'œuvres d'IA générées uniquement par des invites (sans aucune modification) que le Bureau du droit d'auteur assimile à donner des « instructions à un artiste mandaté ». Ces œuvres n'ont pas la paternité humaine et, par conséquent, ne seront pas enregistrées.

Lorsque « la technologie de l'IA reçoit uniquement une invite d'un humain et produit des œuvres écrites, visuelles ou musicales complexes en réponse, les "éléments traditionnels de la paternité" sont déterminés et exécutés par la technologie, et non par l'utilisateur humain », explique le guide. « Sur la base de la compréhension du Bureau des technologies d'IA génératives actuellement disponibles, les utilisateurs n'exercent pas de contrôle créatif ultime sur la façon dont ces systèmes interprètent les invites et génèrent du matériel ».

Cependant, comme dans le cas de Midjourney, un auteur qui organise l'IA générative dans une séquence spécifique (comme la conception de la mise en page d'une bande dessinée) peut potentiellement protéger cette séquence d'images, si l'arrangement est « suffisamment créatif ». Une logique similaire s'applique si un auteur ou un artiste a modifié du matériel généré par l'IA et que « les modifications respectent la norme de protection du droit d'auteur ». Des exemples pourraient être la modification d'une image AI dans Adobe Photoshop ou la modification de l'audio généré par l'IA à l'aide de pédales d'effets guitare, indique le guide.

Toutefois, il est clair que le Bureau du droit d'auteur n'en est qu'aux premières étapes de la gestion de ces affaires complexes, et les conseils restent quelque peu vagues. En fin de compte, les responsables qui se demandent si les œuvres assistées par l'IA ont été conçues par des humains ou par des machines prendront des décisions au cas par cas, selon les directives.

« La réponse dépendra des circonstances, en particulier du fonctionnement de l'outil d'IA et de la manière dont il a été utilisé pour créer le travail final », indique le guide.

Tout contenu généré par l'IA doit être mentionné

L'aspect le plus important des directives est peut-être le « devoir d'un auteur de divulguer l'inclusion de contenu généré par l'IA dans une œuvre soumise à l'enregistrement ».

Lors de l'enregistrement d'œuvres, les auteurs doivent distinguer quel contenu est d'origine humaine et quel contenu est généré par l'IA. Si les candidats ne savent pas comment faire référence au contenu généré par l'IA, le Bureau du droit d'auteur recommande de fournir une déclaration générale indiquant que l'œuvre contient du contenu généré par l'IA. Cela incitera le bureau à faire un suivi pour aider chaque auteur à remplir les blancs dans une demande.

Pour les artistes qui ont des demandes en attente ou qui ont déjà enregistré des œuvres contenant du contenu généré par l'IA, le Bureau du droit d'auteur suggère de corriger le dossier public en soumettant un enregistrement supplémentaire. Toute incapacité à refléter avec précision le rôle de l'IA dans les œuvres protégées par le droit d'auteur pourrait entraîner la « perte des avantages de l'enregistrement », a averti le bureau. Cela pourrait laisser les œuvres vulnérables à la copie, avec peu ou pas de recours légaux pour les réclamations pour violation du droit d'auteur.

Le défaut de divulguer le contenu généré par l'IA est le seul type d'infraction abordé dans le guide. Des critiques comme Alex J. Champandard, cofondateur de Creative.ai, un groupe de hackers et d'artistes intéressés par l'IA générative, ont tweeté pour dire que les directives actuelles placent les auteurs dans une situation précaire.

Le U.S. Copyright Office a publié un document contenant des directives pour les œuvres qui incluent des matériaux générés par #AI.

• Vous avez toujours besoin d'une entrée/contrôle humain au-delà des invites.
• Vous devez divulguer l'utilisation de l'IA ou votre inscription peut être affectée.

Il n'y a aucune mention d'infraction, sauf que vous auriez des ennuis si vous ne divulguez pas l'IA et que quelqu'un intente une action contre vous.

C'est donc le hic 22*: en divulguant l'IA, vous vous exposez à une violation, mais en ne divulguant pas l'IA, c'est plus sûr mais c'est en violation de l'USCO*[ndlr. U.S. Copyright Office] !

The U.S. Copyright Office released a document with guidelines for works that include materials generated by #AI.

- You always need human input/control beyond prompts.
- You must disclose AI usage or your registration can be affected.https://t.co/T6mfDP5ysc pic.twitter.com/RZ67MaF4Ql

— Alex J. Champandard ❄️ @alexjc@creative.ai (@alexjc) March 15, 2023

Une consultation publique

Quoiqu'il en soit, le Bureau du droit d'auteur sait qu'il a encore beaucoup de travail à faire pour clarifier pleinement quand le contenu assisté par l'IA peut être enregistré. À cette fin, il a prévu une série de séances d'écoute en avril et en mai pour recueillir les commentaires du public. Le bureau a également lancé une page Web dédiée à la publication de mises à jour sur les actualités et les événements liés à l'IA, il est donc plus facile de suivre les conseils à mesure que les règles sont mises à jour.

Le 19 avril, les sessions d'écoute démarrent avec un événement dédié aux œuvres littéraires générées par l'IA. Suivent une session sur les arts visuels le 2 mai, les œuvres audiovisuelles le 17 mai et la musique et les enregistrements sonores le 31 mai.

Les artistes, les acteurs de l'industrie créative, les développeurs d'IA, les chercheurs en IA et les avocats sont tous encouragés à s'inscrire pour assister à ces sessions. Mais comme la participation sera nécessairement limitée, le Bureau du droit d'auteur a également indiqué dans les directives publiées qu'il y aura des opportunités supplémentaires pour les parties prenantes d'intervenir au-delà de la participation à ces sessions.

« Le Bureau a l'intention de publier un avis d'enquête plus tard cette année pour solliciter les commentaires du public sur d'autres sujets juridiques et politiques, y compris la manière dont la loi devrait s'appliquer à l'utilisation d'œuvres protégées par le droit d'auteur dans la formation à l'IA et le traitement des résultats qui en résulte », indique le guide.

Source : Bureau du droit d'auteur

Et vous ?

Que pensez-vous de cette initiative ?
Devrait-on, selon vous, protéger une œuvre générée entièrement ou partiellement par une IA ? Dans quelle mesure ?
Que dit la loi à ce propos dans votre pays ?

Voir aussi :

Une plainte en recours collectif est déposée contre Stability AI, Midjourney et DeviantArt pour violations du droit d'auteur, sous le couvert d'une prétendue « intelligence artificielle »
Un artiste opposé aux images générées par IA se sert de Mickey Mouse pour déclencher des poursuites en copyright : « le savoir-faire, les efforts et les idées des gens sont pris sans consentement... »
Dall-E 2 permet de générer des images à partir de quelques mots, mais le produit est-il votre ? Votre illustration numérique générée par l'IA pourrait ne pas être protégée par le droit d'auteur

[totozor]

Je ne condamne pas la création d'images aidées par l'IA
MAIS
ce week end Youtube s'est subitement mis à me proposer des dizaines de chaines (AIden quelquechose, AI blabla etc) qui propose des vidéos de dizaines d'images générées par IA, essentiellement du "DragonBall Z façon X0's".
Les previews des vidéos sont des daubes qui n'ont d'intérêts que parce que les couleurs sont ultra saturées.
Ces gens me donnent envie de condamner ça, surtout quand je vois la tête de Vegeta sur la morphologie de Goku dans une preview qui est sensée être le top de la vidéo.

[ALT]

Moi, je me pose une question : au vu de certaines œuvres (l'illustration de cet article en est un exemple), comment fait-on pour distinguer le travail d'une IA de celui d'un humain ?
Si quelqu'un a une réponse, je suis preneur.

[TJ1985]

Moi, je me pose une question : au vu de certaines œuvres (l'illustration de cet article en est un exemple), comment fait-on pour distinguer le travail d'une IA de celui d'un humain ?
Si quelqu'un a une réponse, je suis preneur.

C'est là que la notion d'oeuvre devient intéressante. Qu'est-ce qui fait que Picasso est devenu extraordinairement célèbre pour ses portraits en morceaux, moches, alors qu'il dessinait avec grand talent par ailleurs, et que Madame Michu se fait conspuer alors qu'elle s'applique à dessiner ses jolis bouquets de chrysanthèmes ?
Qui définit ce qu'est l'art, et selon quelle légitimité ?
A mon point de vue, du moment que ça trouve un écho chez nous, nous pouvons considérer que c'est de l'art. Quel qu'en soit l'auteur. Ou même l'autrice ! Après vient la notion de plagiat, et là l'IA pourrait facilement se trouver en faute puisqu'elle exploite des banques de données existantes.
Mais Picasso a aussi dessiné des nez, bien qu'ils les ait placés à des endroits étranges souvent. Va-t-on lui reprocher d'avoir copié la Venus de Milo parce qu'elle aussi avait un nez ?

[ALT]

Oui, d'autant que tous les auteurs s'inspirent de leurs prédécesseurs. Et à moins d'une rupture très brutale, comme le cubisme, ils extrapolent : même les artistes de la Renaissance ont été influencés par ceux du Moyen-Âge ou leurs contemporains.
D'où les « styles » : gothique, néoclassique, Art-Déco, romantique... Dans tous les arts. Et pourtant, chacun a son genre : René Descartes n'écrivait pas comme François de Malherbe. Et Johann Sebastian Bach ne composait pas comme Wolfgang Amadeus M.

Alors qu'une IA s'inspire d'[autres] artistes...

[Mat.M]

toute la question à se poser c'est de savoir si l'art est quelque chose de substantiel ou non...
je dirais forcément oui car dans les compositions d'u Mozart ou les peintures d'un Leonardo de Vinci l'âme et la singularité de l'artiste transparaît.
Formulé autrement un artiste qui peint un tableau il y met ses "tripes" quelque part.
Contrairement à un artefact que l'on commande à une machine et qui est donc généré mécaniquement.
Après ça amène à l'éternel débat entre l'universel et le particulier.
Mais pour emboiter les pas de mon prédesseurs ALT au Musée du Quai Branly une chercheuse m'avait dit que les statuettes mayas il y a des milliers d'années étaient déjà produites de manière industrielle au Mexique

De rajouter que le problème de la production artistique générée automatiquement c'est le manque de "totemisation" ou de sacralisation.
Le tableau de Mona Lisa au Louvre après tout ça tient quasiment du sacré de fait parce que la renommée de cette oeuvre est intemporelle

[Bill Fassinou]

Le modèle d'IA de génération d'images Midjourney suspend les essais gratuits après que les deepfakes sont devenus viraux
mais la société impute ce choix à la création excessive de comptes jetables

Midjourney a discrètement mis fin aux essais gratuits de son modèle d'IA de génération d'images après avoir constaté "un afflux soudain de nouveaux utilisateurs et un abus de l'offre gratuite". Cette décision intervient après que Midjourney s'est retrouvé au cœur d'une attention indésirable ces dernières semaines. Son modèle d'IA a été utilisé pour créer des deepfakes de Donald Trump en train de se faire arrêter et du pape François portant un manteau à la mode. Le PDG de Midjourney, David Holz, a déclaré mardi que l'entreprise a tenté de résoudre les problèmes d'abus avec des correctifs de sécurité, mais que ces changements n'ont malheureusement pas suffi.

Midjourney est une IA qui génère des images en fonction des instructions fournies par l'utilisateur. Aussi absurdes ou irréalistes que soient les requêtes, Midjourney est capable d'en produire au moins l'essentiel. Il existe de nombreux autres modèles d'IA de ce type, dont les plus populaires sont DALL-E et Stable Diffusion. Cependant, bien qu'ils soient impressionnants et utiles à certains égards, ces nouveaux outils d'IA ont également malheureusement enclenché l'ère des images réalistes et facilement trompeuses générées par l'IA. Midjourney, DALL-E et Stable Diffusion ont propulsé le réalisme des deepfakes à un niveau supérieur, compliquant ainsi leur détection.

Midjourney a récemment mis fin aux essais gratuits de son service, évoquant un afflux soudain de nouveaux utilisateurs. David Holz, cofondateur et PDG de Midjourney, a annoncé le changement mardi, affirmant que "la décision est due à un nombre massif de personnes créant des comptes jetables pour obtenir des images gratuites". Holz a déclaré que Midjourney a tenté de résoudre les problèmes d'abus avec des correctifs de sécurité, mais les changements tentés n'ont pas pu résoudre les problèmes : « nous avons essayé de réactiver les essais avec de nouvelles sécurités contre les abus, mais cela n'a pas semblé suffisant. Nous les désactivons à nouveau ».

Le service payant de l'entreprise reste disponible et, bien que les essais gratuits soient interrompus pour l'instant, ils pourraient revenir à tout moment. L'utilisation du terme "abus" par Holz dans ses messages sur Discord a laissé penser que l'interruption de l'offre gratuite est intervenue après que des deepfakes générés grâce à son outil d'IA sont devenus viraux. En fait, les utilisateurs de Midjourney ont créé de fausses images montrant Donald Trump qui tente de résister tant bien que mal à une arrestation, mais également des images montrant l'ancien président des États-Unis en tenue de détenu et faisant du nettoyage dans une enceinte pénitentiaire.

Midjourney a également permis aux internautes de créer des images montrant le pape François dans un manteau à la mode et le président français Emmanuel Macron ramassant des ordures dans les rues de Paris ou se mêlant aux forces de l'ordre pour encadrer des manifestants. Bien que les images aient été rapidement identifiées comme des deepfakes, il est à craindre que des acteurs malveillants utilisent Midjourney, DALL-E, Stable Diffusion ou d'autres outils similaires pour diffuser de fausses informations avec des images très réalistes à l'appui. Mais Holz a affirmé que la décision n'a pas été motivée par le souci de limiter la prolifération des deepfakes.

En parlant d'un rapport publié par le Washington Post, Holz explique : « l'article contient de gros malentendus. Nous avons arrêté les essais en raison du nombre massif de personnes qui créaient des comptes jetables pour obtenir des images gratuites. Cela s'est produit en même temps qu'une pénurie temporaire de GPU. Les deux choses se sont conjuguées et ont entraîné une baisse du service pour les utilisateurs payants ». Les rapports affirment également que les récents deepfakes viraux ont été créés grâce à la dernière version de Midjourney, Midjourney v5, mais Holz a déclaré sur Discord que l'offre gratuite n'a jamais inclus l'accès à cette version.

Emmanuel Macron se battant avec la Police et heureux de vivre dans les ordures de Paris, Midjourney pic.twitter.com/KhBg0QRH0q

— Vincent Flibustier 👽 (@vinceflibustier) March 20, 2023

Midjourney v5 a considérablement amélioré la qualité des images représentant des personnes. Par exemple, les mains difformes qui étaient auparavant une caractéristique des images générées par l'IA posent désormais moins de problèmes. L'éclairage et les tissus sont également plus réalistes, et le système est capable de générer des images d'innombrables célébrités et personnalités publiques. En raison de ces améliorations, mais également d'améliorations similaires ou plus avancées apportées par les rivaux tels que DALL-E et Stable Diffusion, l'utilisation des modèles d'IA de génération d'images pour créer des deepfakes a le vent en poupe.

Sur les réseaux sociaux, vous avez peut-être rencontré des images du président russe Vladimir Poutine face à un tribunal de La Haye, ou encore de l'ancien président des États-Unis John F. Kennedy pointant un fusil par la fenêtre. Toutes ces images ont été créées à l'aide de Midjourney, mais Holz affirme que ces images ne sont pas une raison suffisante pour restreindre ou fermer l'accès à Midjourney. Au contraire, l'entreprise affirme que son interdiction actuelle des essais gratuits est une forme de protection des bénéfices. Elle souhaite que les utilisateurs passent de l'essai gratuit à un abonnement payant, et non à un autre essai gratuit.

La réponse de Midjourney à l'escalade de la menace politiquement sensible des fausses images a jusqu'à présent été fragmentaire, sans révision significative de ses politiques de modération. Les restrictions de contenu de Midjourney sont plus permissives que certains services concurrents (comme DALL-E), mais plus restrictives que d'autres (comme Stable Diffusion). Holz a néanmoins déclaré que Midjourney s'efforçait d'améliorer la modération : « je crois que nous essayons encore de trouver les bonnes politiques de modération. Nous prenons en compte les commentaires des experts et de la communauté et nous essayons d'être vraiment réfléchis ».

I think Balenciaga pope might be the first real mass-level AI misinformation case. Kinda cool to watch tbh. https://t.co/hPoJeXwA1z

— Ryan Broderick (@broderick) March 26, 2023

« Nous avons déjà de nouveaux systèmes qui devraient être livrés prochainement », a-t-il ajouté. Les difficultés de Midjourney, et de ses rivaux, à mettre un terme à l'essor de fausses images divertissantes, mais potentiellement dangereuses et trompeuses, illustrent les questions obscures de la réglementation de l'IA. Comment les créateurs d'IA générative parviendront-ils à trouver un équilibre entre la pression pour l'accès, la "liberté d'expression" et la fabrication d'un produit que les gens veulent réellement utiliser, d'une part, et la responsabilité sociale et le risque d'abus flagrant, d'autre part ? Quels rôles les régulateurs auront-ils à jouer ?

Pour l'instant, les réponses restent floues, y compris pour les PDG des entreprises technologiques. Mercredi, lors d'une session Discord en direct, Holz a reconnu qu'il a du mal à établir des politiques en matière de contenu, en particulier en ce qui concerne l'utilisation d'images de personnes réelles. « Il y a un argument en faveur d'un Disney total ou d'un Far West total, et tout ce qui se trouve au milieu est un peu pénible. Nous sommes en quelque sorte au milieu en ce moment, et je ne sais pas ce que je dois en penser », aurait déclaré le PDG de Midjourney, selon certains rapports. Le moratoire sur l'accès gratuit à Midjourney ne résout pas le problème.

Et, une fois de plus, le PDG affirme que la décision d'arrêter les essais gratuits n'est pas du tout le résultat de la diffusion de deepfake. Mais peut-être que cela pourrait ralentir le problème en limitant le nombre de personnes qui peuvent produire des photos effrayantes, vraies et fausses de presque tout ce qu'elles veulent. Pour 10, 30 ou 60 dollars par mois, ceux qui sont prêts à payer pour accéder à Midjourney peuvent toujours opter pour le chaos du contenu. Par ailleurs, selon un message de Holz datant d'octobre, Midjourney tient à jour une liste de mots interdits liés à des sujets dans différents pays, sur la base de plaintes d'utilisateurs de ces pays.

Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023

Holz a ajouté que l'entreprise ne partage pas la version complète de cette liste afin de minimiser les "drames". Mais l'entreprise a élargi cette liste au fur et à mesure que ses contrefaçons devenaient virales, interdisant récemment le terme "arrêté", par exemple. Cette mesure semble avoir été prise après la publication des images montrant Donald Trump en train d'être arrêté. Ces images auraient été créées par le journaliste d'investigation Eliot Higgins, qui a depuis affirmé que Midjourney l'a banni. Il est toutefois facile de contourner de telles restrictions. Par exemple, il suffit d'utiliser des synonymes ou de formuler sa phrase autrement pour obtenir des résultats.

Source : David Holz, cofondateur et PDG de Midjourney

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la décision de Midjourney de suspendre son offre gratuite ?
Quel est votre avis sur la raison évoquée par le PDG de Midjourney ?
Selon vous, comment ces entreprises d'IA pourraient-elles lutter contre la prolifération des deepfakes ?

Voir aussi

« J'ai perdu tout ce qui me faisait aimer mon travail à cause du modèle d'IA Midjourney », affirme un artiste 3D qui raconte comment l'IA lui a arraché son travail du jour au lendemain

L'IA de génération d'images la plus avancée de la Chine bloque déjà les contenus politiques, des entrées telles que "place Tiananmen" et "Xi Jinping" ne produisent aucun résultat

Les nouveaux outils de clonage de voix par l'IA ajoutent "de l'huile sur le feu" de la désinformation, une voix de Joe Biden générée par l'IA prononce un discours "hilarant" sur l'état de l'Union

Des images truquées par l'IA de l'arrestation imaginaire de Donald Trump circulent sur Twitter, montrant Donald Trump résistant à l'arrestation et traîné par la police

[ONTAYG]

Bonjour,

Pour moi c'est hyper dangereux les gens vont partir en live sur n'importe quelle photo.

[ALT]

Pour moi c'est hyper dangereux les gens vont partir en live sur n'importe quelle photo.

Oui, dans un premier temps.
Néanmoins, je crois qu'ils finiront vite par ne plus s'y fier & donc ne leur prêter aucune attention autre que la simple curiosité. Et effet, il y aura tellement d'images contradictoires (Trump en taule, Trump à Tahiti, Trump sur Pluton, Trump fusillé..., pour ne prendre qu'un exemple) que leur crédibilité en sera nulle.
Le danger est qu'il sera plus difficile de s'informer. Ceci dit, avant la photographie, il y avait des images (donc dessinées) dans les journaux & elles n'avaient aucun rôle informatif, le dessinateur ayant eu une grande liberté. Elles servaient juste d'illustration à l'article.
Et, de toute façon, avec les outils actuels on peut déjà réaliser des prouesses absolument indétectables par le public. Seuls les experts peuvent découvrir la supercherie. Encore faut-il les consulter &... les écouter !
Par conséquent, rien de bien nouveau en matière d'information. Ou de désinformation.

[Prox_13]

Le pire... C'est que les deux photos du Pape (il signe la Lambo, et il prend le micro) sont des vraies photos