Discussion :

[Stéphane le calme]

Face à l’essor des livres générés par IA, l'association d'écrivains Authors Guild lance la certification "Human Authored",
un label pour garantir qu'une œuvre est 100 % humaine

Dans un contexte où l’intelligence artificielle (IA) bouleverse l’ensemble du secteur créatif, l'Authors Guild, l’une des plus grandes associations d’écrivains aux États-Unis, prend position pour défendre l’authenticité de la création humaine. L’organisation a récemment lancé une initiative permettant aux auteurs de certifier que leurs ouvrages ont été entièrement rédigés par des êtres humains, sans recours à des outils de génération automatique de texte.

Une auteure découvre des livres contrefaits générés par l'IA et écrits à son nom sur Amazon. Amazon a d'abord refusé de les retirer

Jane Friedman, journaliste, auteure et professeure, a découvert sur Amazon et Goodreads une demi-douzaine de livres frauduleux portant son nom, probablement remplis de contenu généré par l’intelligence artificielle. Ces livres traitaient de sujets similaires à ceux qu’elle aborde dans ses ouvrages, comme l’écriture, la publication et la promotion de livres électroniques. Elle a demandé à Amazon et à Goodreads de retirer ces faux titres de leurs sites, mais elle s’est heurtée à des difficultés et à des résistances. Ce n'est que quand la plainte de Jane Friedman est devenue virale sur internet que les deux plateformes ont décidé de retirer lesdits livres.

Friedman, qui rapporte sur l’industrie du livre et qui a écrit 10 livres, dont “The Business of Being a Writer”, “What Editors Do” et “Publishing 101”, s’inquiète de l’impact que ces livres contrefaits peuvent avoir sur sa réputation. « Une personne raisonnable pourrait penser que je contrôle les livres qui sont affichés sur mon profil Goodreads, ou que je les approuve, ou qu’à tout le moins je pourrais les faire retirer facilement. Ce n’est pas le cas », a-t-elle écrit dans un billet de blog intitulé I Would Rather See My Books Get Pirated Than This (Or : why Goodreads and Amazon Are Becoming Dumpster Fires).

Il n’est pas facile de faire retirer les livres faussement attribués. Sur Goodreads, le processus nécessite que les auteurs contactent des “bibliothécaires” bénévoles et rejoignent des groupes spécifiques et publient des commentaires pour demander la suppression des livres illégitimes. Même ainsi, il n’y a aucune garantie que les titres offensants seront retirés rapidement. Friedman rapporte que Goodreads a retiré les titres offensants de son profil officiel d’auteur quelques heures après la publication de son billet de blog.

Lorsqu’elle a contacté Amazon pour lui demander de retirer les titres de son profil d’auteur, Amazon lui a demandé des « numéros d’enregistrement de marque » relatifs à sa réclamation et, en apprenant qu’elle ne détenait pas de marque pour son nom, a clos le dossier sans retirer les livres de la vente. Bien que les titres frauduleux aient finalement été retirés d’Amazon après que l’histoire ait fait le tour du web, l’expérience de Friedman met en lumière le processus complexe auquel les auteurs doivent se soumettre pour protéger leur nom et leur travail en ligne.

L'IA facilite également l'usurpation d'identité

Friedman n’est pas la seule dans cette lutte. Sur le réseau social X (anciennement Twitter), l’auteure Jane Ward a déclaré avoir récemment découvert 29 titres sur Goodreads qui lui attribuaient faussement son nom d’auteur. Elle a également demandé à Goodreads de retirer ces livres, mais elle n’a pas reçu de réponse satisfaisante.

De nombreuses autres réponses aux publications de Friedman sur le sujet suggèrent que l'usurpation d'identité par des vendeurs frauduleux est devenue un phénomène courant sur Goodreads et Amazon, frustrant de nombreux auteurs. Par exemple, une autre auteure, Sarah Rose, a tweeté : « Les gens n'arrêtent pas de me dire qu'ils ont acheté mon dernier livre - qui porte mon nom, mais je n'ai pas écrit - un escroc utilisant l'algorithme "trouver plus par cet auteur". Mon éditeur n'a pas pu faire que ça s'arrête et j'ai en quelque sorte abandonné ».

Indépendamment de ce que contiennent les faux livres, la grande question est de savoir comment Amazon et Goodreads, deux sites majeurs qui atteignent des centaines de millions de clients, prévoient de protéger à la fois les auteurs et les clients contre la fraude et la mauvaise attribution.

Ces cas soulèvent des questions sur la vérification des auteurs et la responsabilité des plateformes en ligne face à la prolifération des contenus générés par l’IA. Comment les lecteurs peuvent-ils distinguer les vrais auteurs des imposteurs ? Comment les auteurs peuvent-ils protéger leur identité et leur propriété intellectuelle ? Comment les plateformes peuvent-elles empêcher ou détecter les publications frauduleuses ? Ce sont autant de défis auxquels le monde du livre devra faire face à l’ère de l’IA.

Amazon cède face à la pression

Face à la pression publique, Amazon a finalement changé de cap et a commencé à retirer les livres frauduleux de son site web.

« Nous avons des directives claires sur le contenu qui peut être mis en vente et nous enquêtons rapidement sur tout livre lorsque nous recevons une alerte », a déclaré Ashley Vanicek, porte-parole d’Amazon. « Nous accueillons les commentaires des auteurs et nous travaillons directement avec eux pour résoudre tout problème qu’ils soulèvent et lorsque nous avons commis une erreur, nous la corrigeons ».

Friedman a confirmé sur Twitter que les livres avaient été retirés d’Amazon. Elle s’est toutefois inquiétée du sort des autres auteurs qui n’ont pas la même audience qu’elle et qui ne peuvent pas faire autant de bruit.

La Guilde des auteurs a déclaré que ses membres pouvaient demander l'aide de l'organisation pour contacter la haute direction d'Amazon au sujet d'œuvres frauduleuses.

« Nous avons travaillé avec Amazon sur ce problème dans le passé, et nous poursuivrons nos conversations avec eux sur l'avancement de leurs efforts pour suivre le rythme de la technologie », a déclaré la Guilde des auteurs dans un communiqué. « En attendant, nous encourageons tout le monde à signaler ces livres qui tentent de tirer profit de votre marque via le portail de réclamation d'Amazon ».

Vient alors le label Écrit par un humain

Avec l’émergence de modèles avancés d’intelligence artificielle capables de produire du texte fluide et cohérent, l’industrie littéraire se trouve confrontée à de nouveaux défis. Certains éditeurs et plateformes en ligne voient déjà apparaître un afflux de livres rédigés (ou coécrits) par des IA, soulevant des préoccupations économiques. Ces œuvres générées par algorithme posent la question de la valeur de la création humaine et de la place des auteurs dans un paysage de plus en plus automatisé.

Face à cette évolution, l'Authors Guild, l'une des plus grandes associations d'écrivains aux États-Unis, a pris l’initiative d’instaurer un label de certification garantissant que les ouvrages marqués de ce sceau ont été écrits sans assistance d’IA générative. Cette initiative vise à rassurer les lecteurs tout en protégeant le travail des auteurs qui s’appuient sur leur talent, leur sensibilité et leur expérience personnelle pour créer du contenu littéraire.

L'Authors Guild a lancé un nouveau projet qui permet aux auteurs de certifier que leur livre a été écrit par un humain, et non généré par une intelligence artificielle.

La Guilde explique que sa certification « Human Authored » vise à permettre aux écrivains de « distinguer plus facilement leur travail sur des marchés de plus en plus saturés par l'intelligence artificielle », et que les lecteurs ont le droit de savoir qui (ou quoi) a créé les livres qu'ils lisent. Les certifications Human Authored seront répertoriées dans une base de données publique accessible à tous. Le projet a été annoncé pour la première fois en octobre, en réponse au déluge de livres générés par l'IA qui inondent les marchés en ligne tels qu'Amazon et sa plateforme de livres électroniques Kindle.

Un enjeu de transparence et de reconnaissance

Ce projet de certification répond à un besoin grandissant de transparence dans l’industrie du livre. De nombreux auteurs s’inquiètent du fait que les œuvres générées par des IA puissent saturer le marché, rendant plus difficile la visibilité des écrivains traditionnels et compromettant leur rémunération. En offrant une certification officielle, la Authors Guild permet aux écrivains de signaler clairement à leurs lecteurs et aux éditeurs que leurs œuvres sont le fruit d’un véritable travail intellectuel humain.

De plus, cette initiative pourrait influencer les pratiques des maisons d’édition et des plateformes de vente de livres en ligne. Il est possible qu’à l’avenir, certains éditeurs privilégient les œuvres portant cette certification, cherchant ainsi à garantir une certaine qualité et une authenticité à leurs catalogues.

Une démarche qui s’inscrit dans un débat plus large

La question de l’impact de l’IA sur la création ne se limite pas au monde de la littérature. D’autres industries culturelles, comme le journalisme, la musique et le cinéma, sont également confrontées aux défis posés par ces nouvelles technologies. La démarche de la Authors Guild pourrait donc inspirer d’autres secteurs à adopter des mesures similaires pour défendre la valeur du travail humain face à l’automatisation croissante.

Toutefois, cette initiative soulève aussi des interrogations : comment garantir l’authenticité d’un texte sans un contrôle rigoureux ? Quel sera l’impact réel de cette certification sur les ventes et la réception des ouvrages ? Les lecteurs attacheront-ils de l’importance à cette distinction, ou bien accepteront-ils progressivement les contenus générés par IA comme une nouvelle norme littéraire ?

Vers une coexistence entre IA et création humaine ?

Plutôt que de rejeter en bloc l’intelligence artificielle, certains auteurs envisagent une coexistence où l’IA serait utilisée comme un outil d’aide à l’écriture sans pour autant remplacer la créativité humaine. La certification de la Authors Guild s’inscrit donc dans un effort pour préserver une distinction claire entre une œuvre purement humaine et une production assistée par la machine, tout en laissant la porte ouverte à des évolutions futures.

Quoiqu'il en soit, la certification est actuellement réservée aux membres de l'Authors Guild et aux livres écrits par un seul auteur, mais elle sera étendue « à l'avenir » aux livres écrits par des non-membres de l'Authors Guild et par plusieurs auteurs. Les livres et autres œuvres doivent être presque entièrement écrits par des humains pour obtenir la marque Human Authored, avec des exceptions mineures pour tenir compte d'éléments tels que les applications de grammaire et de correction orthographique alimentées par l'intelligence artificielle.

L'initiative « Human Authored » n'a pas pour but de rejeter la technologie, mais de créer de la transparence, de reconnaître le désir du lecteur d'avoir un lien humain et de célébrer les éléments humains uniques de la narration », a déclaré Mary Rasenberger, PDG de la guilde, dans un communiqué publié mercredi. « Les auteurs peuvent toujours se qualifier s'ils utilisent l'IA comme outil de vérification orthographique ou de recherche, mais la certification connote que l'expression littéraire elle-même, avec la voix humaine unique que chaque auteur apporte à son écriture, émane de l'intellect humain. »

Source : Authors Guild

Et vous ?

La certification garantit-elle réellement l’authenticité d’un texte, ou repose-t-elle uniquement sur la déclaration de l’auteur ?

Ce label pourrait-il influencer les pratiques des maisons d’édition et des plateformes de vente en ligne ?

Pensez-vous que les lecteurs attacheront de l’importance à cette certification, ou bien la jugeront-ils inutile ?

Ce type d’initiative pourrait-il être adopté dans d’autres domaines artistiques (musique, peinture, cinéma) ?

L’essor des textes générés par IA menace-t-il réellement les écrivains, ou ouvre-t-il de nouvelles opportunités pour la création littéraire ?

Peut-on considérer une œuvre générée par IA comme une œuvre d’art à part entière ? Pourquoi ou pourquoi pas ?

L’IA peut-elle enrichir le travail des écrivains en tant qu’outil de création plutôt qu’en tant que remplaçant ?

[ALT]

La certification garantit-elle réellement l’authenticité d’un texte, ou repose-t-elle uniquement sur la déclaration de l’auteur ?

C'est précisément la question que je me pose ! Car si c'est une auto-certification de l'auteur, ce label ne sera légitime que si les auteurs son honnêtes. Et c'est quoi un texte 0 % IA ? Si l'auteur demande à l'IA de lui donner des idées, pour la trame de son œuvre ou un chapitre, est-ce 100 % humain ? Bref, j'attends plus de précisions.

L’essor des textes générés par IA menace-t-il réellement les écrivains, ou ouvre-t-il de nouvelles opportunités pour la création littéraire ?

Comme toute innovation majeure, il y a des oppositions violentes. Il n'est pas dit que les auteurs bouderont toujours l'IA.

[Fagus]

ça ressemble à une réponse à un problème amazonien. Perso j'aurais listé les problèmes à l'envers
- amazon vend des contrefaçons en pure connaissance de cause tant que c'est rentable.
- amazon a une situation quasi monopolistique ou en tout cas similaire à un Trust, ils peuvent donc tout se permettre, y compris passer au-dessus des lois.
- dans le système judiciaire américain, leur moyens financiers dissuadent quiconque de leur faire un procès.

En France on a un marché plus protégé avec des maisons d'édition qui engagent leur réputation sur la qualité de leur sélection (globalement, la Pléiade ou l'Aube des peuples, c'est un peu plus sélect que Gala), de même pour les libraires ou les grosses maisons (la sélection de la Fnac ou de Eyrolles c'est mieux que le relai de l'autoroute par ex.), ou les clubs littéraires qui accordent des prix.

[Gluups]

globalement, la Pléiade ou l'Aube des peuples, c'est un peu plus sélect que Gala

Non ... Tu crois ?

[Gluups]

[B][SIZE=4]Lorsqu’elle a contacté Amazon pour lui demander de retirer les titres de son profil d’auteur, Amazon lui a demandé des « numéros d’enregistrement de marque » relatifs à sa réclamation et, en apprenant qu’elle ne détenait pas de marque pour son nom, a clos le dossier sans retirer les livres de la vente. Bien que les titres frauduleux aient finalement été retirés d’Amazon après que l’histoire ait fait le tour du web, l’expérience de Friedman met en lumière le processus complexe auquel les auteurs doivent se soumettre pour protéger leur nom et leur travail en ligne.

Ça craint.

Indépendamment de ce que contiennent les faux livres, la grande question est de savoir comment Amazon et Goodreads, deux sites majeurs qui atteignent des centaines de millions de clients, prévoient de protéger à la fois les auteurs et les clients contre la fraude et la mauvaise attribution.

Assurément, ils soigneraient bien mieux leur image de marque ainsi, qu'en chicanant pour reconnaître un auteur.

Ces cas soulèvent des questions sur la vérification des auteurs et la responsabilité des plateformes en ligne face à la prolifération des contenus générés par l’IA. Comment les lecteurs peuvent-ils distinguer les vrais auteurs des imposteurs ? Comment les auteurs peuvent-ils protéger leur identité et leur propriété intellectuelle ? Comment les plateformes peuvent-elles empêcher ou détecter les publications frauduleuses ? Ce sont autant de défis auxquels le monde du livre devra faire face à l’ère de l’IA.

C'est vrai qu'on peut redouter que ça génère des coûts.
De même que l'abondance de nourriture frelatée sur le marché oblige à des analyses pour regarder où on met, si ce n'est les pieds, au moins son estomac.

Il paraît difficile de s'en affranchir.

Vient alors le label Écrit par un humain

Avec l’émergence de modèles avancés d’intelligence artificielle capables de produire du texte fluide et cohérent, l’industrie littéraire se trouve confrontée à de nouveaux défis. Certains éditeurs et plateformes en ligne voient déjà apparaître un afflux de livres rédigés (ou coécrits) par des IA, soulevant des préoccupations économiques. Ces œuvres générées par algorithme posent la question de la valeur de la création humaine et de la place des auteurs dans un paysage de plus en plus automatisé.

Je me demande combien de temps Microsoft se maintiendra incapable d'écrire une documentation en Français lisible directement, sans s'arrêter à la troisième phrase pour aller chercher la version américaine.

Ça doit être le problème d'une petite boîte aux moyens précaires, et qui ne connaît rien à l'informatique.

Peut-être un label "Traduit par un humain" pourrait assainir la situation.

[Mathis Lucas]

Les créateurs demandent aux géants de la technologie de reconnaître leurs « pratiques controversées » en matière de données et de payer pour toutes les données d'entraînement à l'IA

Les créateurs et les éditeurs continuent de crier leur ras-le-bol face au pillage systématique de leurs contenus pour l'entraînement de modèles d'IA. Ils ont rejeté une nouvelle fois l'argument de « l'usage équitable » avancé par les entreprises et exigent que ces dernières paient pour l'accès aux données. C'est ce qui ressort d'une récente réunion d'une commission britannique concernant l'exploitation de contenus protégés par le droit d'auteur par des sociétés d'IA sans autorisation ni paiement. Mais les entreprises d'IA semblent peu enclines à payer pour cet accès et les contrats conclus par OpenAI avec les éditeurs sont controversés.

L'érosion du droit d'auteur au profit de l'IA pourrait avoir un impact dévastateur

Une commission mixte de députés britanniques a récemment entendu des éditeurs et un compositeur irrités par l'exploitation incontrôlée du matériel protégé par le droit d'auteur par l'industrie technologique. Elle a demandé au compositeur germano-britannique Max Richter comment il pouvait savoir si des « acteurs de mauvaise foi » utilisaient ses œuvres pour entraîner des modèles d'IA. « Il n'y a vraiment rien que je puisse faire », a-t-il répondu aux députés.

« Il existe quelques modèles d'IA musicaux, et il est parfaitement facile de leur faire générer un morceau de musique qui me ressemble étrangement. Cela ne serait pas possible si l'IA n'avait pas récupéré mes œuvres sans me demander mon avis et sans payer pour cela. C'est ce qui se passe à grande échelle. C'est manifestement arrivé à tous les artistes dont le travail se trouve sur Internet », s'est plaint le musicien Max Richter devant les parlementaires.

Il n'est pas le premier à tirer la sonnette d'alarme sur l'impact potentiellement dévastateur de l'IA sur les créateurs et les éditeurs. Les plaintes se sont multipliées ces dernières années. Lors de son témoignage, Max Richter a déclaré que les conséquences pour les musiciens et les compositeurs créatifs seraient désastreuses :

« On va assister à une banalisation de la culture musicale, car le matériel automatisé commence à supplanter les créateurs humains, et on va également assister à un appauvrissement de ces derniers. Il convient de rappeler que le secteur de la musique au Royaume-Uni est une véritable réussite.

Il a généré un revenu de 7,6 milliards de livres sterling l'année dernière et emploie plus de 200 000 personnes. L'impact est donc considérable. Si nous permettons l'érosion du droit d'auteur, qui est vraiment la façon dont la valeur est créée dans le secteur de la musique, alors nous serons dans une position où il n'y aura plus d'artistes à l'avenir.

Meta a récemment été accusé d'avoir téléchargé plus de 81,7 téraoctets de livres piratés pour enrichir les modèles d'IA utilisés dans ses projets. Cette révélation a suscité un tollé sur la toile et a relancé le débat sur l’éthique de l’entraînement des modèles d'IA et sur la protection des droits d’auteur.

Meta n’est pas la seule entreprise à être pointée du doigt pour de telles pratiques. OpenAI, Google, Microsoft... sont également accusés d’entraîner leurs modèles d'IA sur des œuvres protégées sans l’accord des auteurs. Le principal enjeu réside dans le manque de transparence de ces entreprises sur leurs sources de données.

Les créateurs se plaignent de l'absence de cadres juridiques pour les protéger

Une plainte allègue également que Mark Zuckerberg, PDG de Meta, a donné son feu vert pour que le modèle d'IA open source LLama de l'entreprise soit entraîné à partir d'œuvres protégées par le droit d'auteur. Meta est accusé d'avoir enfreint les droits d'auteur en utilisant des documents sans l'autorisation des créateurs. Meta maintient que l'utilisation de ces œuvres dans le cadre de l'entraînement de grand modèle de langage (LLM) Llama relève de l'usage loyal.

Matt Rogerson, directeur de la politique publique mondiale et de la stratégie de plateforme au Financial Times, affirme que les créateurs et les éditeurs se sentent de plus en plus désarmés face à ce pillage des données. Ils estiment qu'ils ne peuvent tout simplement pas y faire face : « nous ne pouvons faire face qu'à ce que nous voyons en face de nous, à savoir que les gens prennent notre contenu, l'utilisent pour la formation, l'utilisent de manière substitutive ».

Selon Matt Rogerson, le risque, si la situation perdure, est de voir les industries de la création et de l'information se vider de leur substance. Matt Rogerson a indiqué qu'une étude commandée par le Financial Times a révélé que 1 000 robots uniques récupéraient les données de 3 000 sites Web d'éditeurs.

« Nous ne savons pas avec qui ces robots travaillent, mais nous savons qu'ils travaillent avec des sociétés d'IA. En moyenne, les éditeurs ont 15 bots qui les ciblent chacun dans le but d'extraire des données pour des modèles d'IA, et ils revendent ces données à des plateformes d'IA pour de l'argent », a-t-il déclaré.

James Smith, ancien collaborateur de Google, a déclaré qu'une grande partie des dommages causés par l'exploration de données avait probablement déjà été faite. James Smith est cofondateur et PDG de Human Native AI, une plateforme pour contrôler et rémunérer les œuvres créatives utilisées pour former l'IA.

« Le péché originel, si l'on peut l'appeler ainsi, a été déjà commis. La question est de savoir comment aller de l'avant. J'aimerais que le gouvernement s'efforce davantage de soutenir l'octroi de licences en tant que modèle de monétisation alternatif viable pour Internet à l'ère de ces nouveaux agents d'IA », a-t-il déclaré.

Les entreprises sont peu enclines à payer une valeur pour accéder aux données

Les auteurs et les créateurs demandent aux entreprises d'IA de respecter leurs droits et de payer pour l’utilisation de leurs œuvres pour l'entraînement des modèles d'IA. Ils dénoncent l’injustice et le piratage dont ils sont victimes, alors que leurs revenus sont en baisse. Ils espéraient une résolution à l'amiable, mais les entreprises se sont montrées réticentes et ont donc été poursuivies en justice par les détenteurs de droits d'auteur.

Matt Rogerson craint que les négociations n'aboutissent pas. En outre, il est également sceptique quant à l'adoption d'une loi ou d'une réglementation forçant les entreprises d'IA à rémunérer les créateurs et les éditeurs, etc. pour l'utilisation de leurs œuvres. Matt Rogerson a déclaré que les entreprises technologiques pourraient accepter des marges plus faibles, mais que c'était quelque chose que les gouvernements semblaient réticents à mettre en œuvre.

Le problème est que nous ne pouvons pas voir qui a volé notre contenu. Nous en sommes au stade où ces très grandes entreprises, qui réalisent habituellement des marges de 90 %, pourraient être amenées à accepter des marges plus faibles, ce qui ne manquera pas de perturber leurs investisseurs.

Mais cela ne signifie pas qu'elles ne doivent pas le faire. C'est juste une question de bien et de mal et d'orientation du débat. Malheureusement, le gouvernement l'a lancé en pensant qu'on ne peut pas réduire la marge de ces grandes entreprises technologiques ; sinon, elles ne construiront pas de centre de données.

Selon Sajeeda Merali, directrice générale de la Professional Publishers Association, si le secteur de l'IA fait valoir que la transparence sur les données d'entraînement serait commercialement sensible, sa véritable préoccupation est que « les éditeurs demandent ensuite une valeur équitable en échange de ces données ».

Par ailleurs, les éditeurs craignent également d'être pénalisés dans les résultats des moteurs de recherche s'ils refusent de partager les données pour l'entraînement. En 2024, plus de 13 500 artistes se sont mobilisés pour dénoncer l'exploitation de leurs œuvres par les entreprises d'IA sans leur consentement.

Dans une déclaration, ils ont condamné « l'utilisation sans licence d'œuvres créatives » pour développer des systèmes d'IA, estimant que cela constitue une menace majeure et injuste pour les moyens de subsistance des personnes à l'origine de ces œuvres et que cela ne doit pas être autorisé. Cette initiative met en lumière des pratiques controversées dans l'industrie technologique et ouvre un débat essentiel sur les droits d'auteur à l'IA générative.

L'année dernière, Dan Conway, PDG de l'association britannique des éditeurs, a déclaré à la commission des communications et du numérique de la Chambre des Lords que les grands modèles de langage portent atteinte aux contenus protégés par le droit d'auteur à une « échelle absolument massive ».

Certaines entreprises d'IA ont signé des accords controversés avec des éditeurs

Plusieurs entreprises technologiques ont conclu dernièrement des accords avec des éditeurs et des auteurs pour utiliser leurs œuvres dans le cadre de l'entraînement de modèles d'IA. Toutefois, ces accords suscitent des débats au sein de la communauté des auteurs et des éditeurs, notamment concernant la transparence et une rémunération équitable pour l'utilisation de leurs œuvres dans le développement et l'entraînement des grands modèles (LLM) de lange.

La maison d'édition HarperCollins, par exemple, a proposé à certains de ces auteurs un contrat avec une société d'IA, dont l'identité reste confidentielle, permettant à cette dernière d'utiliser leurs œuvres publiées pour entraîner son modèle d'IA générative. Les auteurs concernés se voient offrir 2 500 dollars par livre sélectionné pour une période de trois ans. OpenAI a également signé des accords avec le journal Le Monde et d'autres éditeurs, notamment :

• Associated Press (AP) : en juillet 2024, OpenAI a signé un accord de licence avec l'agence de presse américaine Associated Press, lui permettant d'exploiter toutes les dépêches publiées depuis 1985 ;
  
• News Corp : OpenAI a établi un accord pluriannuel avec News Corp, la société mère de publications telles que The Wall Street Journal, The Times, et The Sunday Times. Cet accord permet à OpenAI d'utiliser le contenu de ces publications pour entraîner ses modèles d'IA ;
  
• Financial Times : OpenAI a également conclu un accord de licence avec le Financial Times de Londres, élargissant ainsi sa liste de partenaires éditoriaux dont elle acquiert le contenu.

Les dirigeants d'OpenAI affirment que ces partenariats illustrent la volonté de l'entreprise de collaborer avec des éditeurs pour enrichir ses modèles d'IA tout en respectant les droits d'auteur et en soutenant le journalisme de qualité. Mais ces accords sont hautement controversés dans la communauté.

Outre le manque de transparence, les critiques ont également exprimé leurs préoccupations, notamment concernant les implications éthiques et environnementales de l'utilisation de l'IA. Ils s'inquiètent également de l'impact potentiel de ces partenariats sur le trafic et les revenus des éditeurs.

Et vous ?

Quel est votre avis sur le sujet ?

Voir aussi

Plus de 13 500 artistes se mobilisent pour dénoncer l'exploitation de leurs œuvres par les entreprises d'IA sans leur consentement, l'initiative met en lumière les pratiques controversées dans l'industrie

Face à l'essor des livres générés par IA, l'association d'écrivains Authors Guild lance la certification "Human Authored", un label pour garantir qu'une œuvre est 100 % humaine

Une plainte affirme que Mark Zuckerberg a autorisé l'équipe LLama de Meta à entraîner le modèle d'IA à partir d'œuvres protégées par le droit d'auteur, l'équipe a utilisé la bibliothèque controversée LibGen

[der§en]

Il y a un truc que je ne comprend pas dans leurs logiques , ou est le pillage si le « contenu » est disponible gratuitement sur internet ?

Tout a chacun nourrit son cerveau avec des lectures gratuites sur internet, qui vont vous faire évoluer et voir les choses différemment.

Après, si je régurgite ces connaissances d’une manière ou d’une autres (ou si je cite), ces même personnes vont-elles me poursuivre pour pillage systématique, car concrètement, l’AI se sera comporté de la même façon que moi ?

[Gluups]

Quand on est sur une plage, tout le monde (sur place) le voit.

Ce n'est pas une raison pour que ce soit acceptable que cette présence soit indexée par quelqu'un avec les coordonnées complètes et régurgitée le jour où on veut postuler à un poste a priori bien rémunéré, où le recruteur a un a priori sur la tenue sur cette plage ou ce qu'on y a éventuellement fait, qui n'a aucun rapport avec le poste. Dans ce cas c'est de la malveillance pure et simple, qui exploite un vide juridique.

De même, si dans un but d'entraide on publie un code pour aider un individu qui veut résoudre un problème donné, avec qui on aura potentiellement un échange, ce n'est pas une raison pour que quelqu'un le copie mélangé à d'autres, et dissuade la personne qui cherche de venir voir l'original.
Où se trouve le respect dans la divulgation sans informer le concepteur ?

Il est connu que les artistes débutants tirent le diable par la queue, je ne vois pas en quoi ça va faire avancer leur Schmilblick que toute la planète ait lu leur œuvre avant qu'un éditeur soit même au courant qu'elle existe.

[Stéphane le calme]

« Réécris le passage dans le style de X » : des lecteurs découvrent des requêtes IA oubliées dans des romans publiés,
tandis que des écrivains crient au pillage de leurs contenus par l'IA

Depuis quelques mois, une tendance troublante alimente les discussions dans les cercles littéraires : des lecteurs découvrent, insérés au cœur de certains romans publiés, des prompts laissés par inadvertance par des auteurs ayant manifestement utilisé des outils d’intelligence artificielle comme ChatGPT ou Claude pour rédiger leurs œuvres. Ces occurrences, parfois aussi grossières que « [Write a dramatic scene where the hero confronts his father] » (littéralement « rédige une scène dramatique dans laquelle le héros affronte son père »), soulèvent une question cruciale : l’IA est-elle en train de transformer la littérature de création en produit manufacturé ? Et si oui, à quel prix ?

Les fans qui lisent le roman d'amour Darkhollow Academy : Year 2 ont eu une mauvaise surprise au chapitre 3. Au milieu d'une scène torride entre l'héroïne du livre et le prince dragon Ash, il y a ceci : « J'ai réécrit le passage pour l'aligner davantage sur le style de J. Bree, qui comporte plus de tension, de nuances grinçantes et de sous-entendus émotionnels bruts sous les éléments surnaturels ».

Il semble que l'auteur, Lena McDonald, ait fait appel à une IA pour l'aider à écrire le livre, lui demandant d'imiter le style d'un autre auteur et des traces ont été oubliées dans l'œuvre finale. Sur les forums spécialisés, certains qui se sont procuré un exemplaire ont confirmé que le livre ne contient plus la référence à la copie du style de Bree. Mais des captures d'écran du graphique subsistent dans les critiques Amazon et sur la page Goodreads du livre.

Ce n'est pas la première fois qu'un auteur laisse des traces de la génération d'IA dans un livre, et ce n'est même pas la première fois cette année

En janvier, l'auteur K.C. Crowne a publié un roman d'amour sur le thème de la mafia, Dark Obsession : An Age Gap, Bratva Romance. Comme McDonald's, le livre de Crowne contient un paragraphe bizarre au milieu du livre. « Voici une version améliorée de votre passage, rendant Elena plus racontable et injectant de l'humour supplémentaire tout en fournissant une brève description sexy de Grigori. Les changements sont mis en évidence en gras pour plus de clarté ».

Rania Faris a publié en février son roman d'amour sur le thème des pirates, Rogue Souls. Une fois de plus, le texte présente des signes de génération d'IA. Un paragraphe au milieu d'une scène disait : « C'est déjà très fort », tout en continuant en disant « Mais il est possible de le resserrer pour le rendre plus percutant, tout en conservant l'intensité et le côté sardonique que vous recherchez. Voici une version améliorée : »

Darkhollow Academy : Year 2 a été mis à jour dans le Kindle store et le paragraphe AI incriminé a été supprimé. Dark Obsession de Crowne n'est plus du tout disponible à l'achat sur le Kindle store. Rogue Souls de Faris a fait l'objet d'un tirage physique. Les copies numériques des livres peuvent être mises à jour pour supprimer l'incitation à l'IA restante, mais les copies physiques existeront aussi longtemps que le papier, rappelant constamment que l'auteur a utilisé l'IA pour écrire le livre.

La réaction des auteurs

Faris a nié avoir eu recours à l'IA dans un post sur Instagram et a rejeté la faute sur un correcteur. « J'ai écrit Rogue Souls entièrement seule [sic] », peut-on lire dans le message du 17 avril posté sur son Instagram. Selon Faris, elle a donné à deux personnes qu'elle avait rencontrées dans un groupe d'écriture l'accès au Google Doc où se trouvait Rogue Souls pour l'aider dans les révisions finales et pour repérer les fautes de frappe. Elle précise que l'une d'entre elles a utilisé l'intelligence artificielle pour corriger des phrases à son insu. « Je veux être claire : je n'ai jamais approuvé l'utilisation de l'IA et je la condamne parce qu'elle est contraire à l'éthique, nuisible à l'art de l'écriture et dommageable pour l'environnement ».

Faris a déclaré qu'elle n'avait jamais eu recours à l'IA dans le cadre de son processus de création. « Le texte généré par l'IA qui s'est retrouvé dans mon livre est le résultat d'une action non autorisée d'un lecteur à qui j'avais fait confiance pour m'aider à effectuer une dernière série de révisions alors que je travaillais dans des délais serrés », a-t-elle déclaré. Elle a ajouté qu'elle avait payé de sa poche pour auto-publier Rogue Souls et qu'elle s'était sentie déçue à la fois par la personne à qui elle avait fait confiance pour examiner son travail et par l'éditeur qu'elle avait payé pour repérer ce genre de choses. « Cette expérience a été une leçon durement apprise », a-t-elle déclaré. « Je ne partage plus mon manuscrit avec personne. Ma confiance en autrui a été définitivement altérée. Si je me remets à écrire, ce sera dans des conditions très différentes et avec beaucoup plus de prudence ».

Faris a déclaré qu'elle avait été victime d'une vague de harcèlement en ligne après l'incident et qu'elle avait pris du recul par rapport aux médias sociaux. « J'ai été prise dans une situation où les gens se sont empressés de condamner sans offrir le bénéfice du doute », a-t-elle déclaré. « Et si beaucoup se sont empressés de m'accuser d'avoir sciemment utilisé l'IA, très peu se sont arrêtés pour considérer à quel point il était dévastateur pour moi de découvrir que mon propre travail avait été modifié à mon insu et sans mon consentement. »

KC Crowne, pour sa part, a expliqué qu'elle utilisait l'IA à l'occasion, mais qu'elle avait commis une erreur en publiant Dark Obsession avec des traces d'IA. « J'ai accidentellement téléchargé le mauvais fichier de brouillon, qui comprenait une invite d'IA. Cette erreur est entièrement de ma responsabilité », a-t-elle déclaré. « Bien qu'il m'arrive d'utiliser des outils d'IA pour réfléchir ou surmonter un blocage de l'écrivain, chaque histoire que je publie est fondamentalement la mienne : je l'ai écrite, révisée à plusieurs reprises par des humains, et rédigée avec la profondeur émotionnelle que mes lecteurs attendent et méritent. »

Une bévue révélatrice d’un glissement

Le fait que des auteurs laissent accidentellement ces instructions dans leurs manuscrits n’est pas une simple maladresse technique. C’est une faille symbolique. Elle révèle une dépendance de plus en plus marquée à des outils conçus pour assister – ou remplacer – la créativité humaine. Loin d’être des cas isolés, ces oublis se multiplient, signe que le recours à l’IA dans la genèse des récits devient banal, voire systématique. Ce qui, autrefois, relevait d’un secret d’atelier devient ainsi visible au grand jour.

Mais ce qui gêne le plus n’est pas tant la technologie que le renoncement implicite à l’effort d’écriture. Quand un auteur laisse traîner une phrase comme « Insert emotional reaction here  », il trahit une posture d’externalisation de l’émotion, du style, de l’âme même de l’écriture. La littérature cesse alors d’être un geste incarné pour devenir un assemblage de fragments générés par algorithme.

La promesse trahie de la fiction

Dans l’imaginaire collectif, l’écrivain est un artisan du mot, un témoin du monde, un inventeur de formes. La fiction porte en elle une promesse : celle d’un regard singulier, d’une voix propre, d’un style qui engage. Or, lorsque le texte provient en partie d’un prompt, cette promesse est mise à mal. Il ne s’agit plus d’un acte d’expression, mais d’une délégation créative.

La présence de prompts dans un roman est à la littérature ce que les pixels morts sont à une photographie : une rupture dans l’illusion, un rappel brutal que le monde que l’on croyait plein est en réalité creux. Cela compromet l’immersion du lecteur, sa confiance, et sa relation à l’auteur – devenu opérateur plus qu’artiste.

En parallèle, les créateurs demandent aux Big Tech de payer pour toutes les données d'entraînement de l'IA

Les créateurs et les éditeurs continuent de crier leur ras-le-bol face au pillage systématique de leurs contenus pour l'entraînement de modèles d'IA. Ils ont rejeté une nouvelle fois l'argument de « l'usage équitable » avancé par les entreprises et exigent que ces dernières paient pour l'accès aux données. C'est ce qui ressort d'une récente réunion d'une commission britannique concernant l'exploitation de contenus protégés par le droit d'auteur par des sociétés d'IA sans autorisation ni paiement. Mais les entreprises d'IA semblent peu enclines à payer pour cet accès et les contrats conclus par OpenAI avec les éditeurs sont controversés.

Face à l’essor des livres générés par IA, l'association d'écrivains Authors Guild lance la certification « Human Authored »

Avec l’émergence de modèles avancés d’intelligence artificielle capables de produire du texte fluide et cohérent, l’industrie littéraire se trouve confrontée à de nouveaux défis. Certains éditeurs et plateformes en ligne voient déjà apparaître un afflux de livres rédigés (ou coécrits) par des IA, soulevant des préoccupations économiques. Ces œuvres générées par algorithme posent la question de la valeur de la création humaine et de la place des auteurs dans un paysage de plus en plus automatisé.

Face à cette évolution, l'Authors Guild, l'une des plus grandes associations d'écrivains aux États-Unis, a pris l’initiative d’instaurer un label de certification garantissant que les ouvrages marqués de ce sceau ont été écrits sans assistance d’IA générative. Cette initiative vise à rassurer les lecteurs tout en protégeant le travail des auteurs qui s’appuient sur leur talent, leur sensibilité et leur expérience personnelle pour créer du contenu littéraire.

L'Authors Guild a lancé un nouveau projet qui permet aux auteurs de certifier que leur livre a été écrit par un humain, et non généré par une intelligence artificielle.

La Guilde explique que sa certification « Human Authored » vise à permettre aux écrivains de « distinguer plus facilement leur travail sur des marchés de plus en plus saturés par l'intelligence artificielle », et que les lecteurs ont le droit de savoir qui (ou quoi) a créé les livres qu'ils lisent. Les certifications Human Authored seront répertoriées dans une base de données publique accessible à tous. Le projet a été annoncé pour la première fois en octobre, en réponse au déluge de livres générés par l'IA qui inondent les marchés en ligne tels qu'Amazon et sa plateforme de livres électroniques Kindle.

Conclusion

Ces trois auteurs ne sont que les exemples les plus récents. Plusieurs médias ont précédemment rapporté que beaucoup plus de personnes publiant des livres à l'heure actuelle utilisent une forme ou une autre d'assistance par l'IA. Amazon est rempli de livres générés par l'IA. Même les bibliothèques locales commencent à se remplir de livres générés par l'IA et écrits par des auteurs qui n'existent pas.

Les directives d'Amazon concernant le contenu de Kindle autorisent à la fois les contenus générés par l'IA et ceux assistés par l'IA, et les auteurs sont tenus de divulguer les premiers, mais pas les seconds. « Nous consacrons beaucoup de temps et de ressources à veiller au respect de nos directives en matière de contenu », a déclaré un porte-parole d'Amazon.

L’intégration de l’IA dans les processus créatifs n’est pas en soi condamnable. Mais elle appelle à un questionnement. Quel est le seuil à partir duquel l’auteur n’est plus qu’un chef d’orchestre silencieux de requêtes ? Les maisons d’édition doivent-elles signaler l’usage d’IA dans l’élaboration d’un texte, comme on signale les allergènes sur une étiquette ? Et surtout, que devient la notion d’originalité quand des morceaux entiers de romans peuvent être générés à partir de requêtes stéréotypées ?

Esthétiquement, cette pratique entraîne une standardisation inquiétante du style. Les IA, formées sur des corpus massifs, tendent à reproduire des structures narratives et des phrasés consensuels. La littérature, au lieu d’innover, risque alors de recycler à l’infini des schémas convenus, polissés jusqu’à l’ennui.

Sources : critiques de Darkhollow Academy, BlueSky, Rania Faris, Amazon

Et vous ?

Si un roman vous bouleverse, est-il moins légitime si vous apprenez qu’il a été coécrit par une IA ? Pourquoi ?

À partir de quel pourcentage d’implication de l’IA devrait-on retirer à l’auteur le titre « d’écrivain » ? 10 % ? 50 % ? 90 % ?

Peut-on comparer l’utilisation d’une IA pour écrire à l’usage d’un correcteur grammatical ou d’un atelier d’écriture ? Où place-t-on la frontière ?

Et si demain, un roman entièrement écrit par une IA recevait un prix littéraire… qui devrions-nous récompenser ?

Faut-il créer une nouvelle catégorie littéraire pour les œuvres assistées par IA, comme on le fait pour la bande dessinée, la poésie ou la fanfiction ?

Peut-on encore parler « d'inspiration » quand un auteur délègue à une machine le soin de générer ses idées et ses tournures ?

[calvaire]

ça ne changera pas grand chose.
le monde livre, du jeux vidéos ou de la musique, seules 1% perce les autres sont des inconnus.


le plus important c'est de toute façon pas la rédaction, mais les idées et le style d'écriture.
Aujourd'hui un esprit dérangé, pourrait avec ces idées borderline crée de super bouquin originaux grâce a chatgpt.


Utiliser chatgpt n'est de toute façon pas magique, déjà il est incapable d’écrire un roman complet, il faut découper en chapitre (et encore) et il faut s'y prendre plusieurs fois pour arriver a un style intéressant et pas du chatgpt barbant.

Pour avoir testé l'exercice, un petit livre de 10 pages a4, finalement, j'en suis arrivé a trouver plus rapide d'écrire a l’arrache mon texte moi même et ensuite de demander à chatgpt de me l'écrire proprement sans faute d'orthographe/syntaxe/grammaire.
J'ai vendu mon bouquin sur amazon à 5€, j'ai eu une 50aines de clients.

Je n'aurais jamais écris un livre sans chatgpt, je suis très mauvais en orthographe/grammaire et même pour structurer mon travail c'est pas simple.
c'est mon style de vie, mon bureau ressemble à ca:

[shenron666]

Les gens s'offusquent pour pas grand chose d'un côté tout en étant hypocrites.
Il y a une diffférence entre :
- utiliser l'IA générative pour s'inspirer, chercher des solutions, débloquer une situation, une page blanche
et
- utiliser l'IA pour faire le travail

aujourd'hui tout le monde utilise l'IA
certains sans le savoir, beaucoup sciemment

[Jade Emy]

Disney et Universal intentent le premier procès majeur contre une entreprise spécialisée dans la génération d'images par IA, Midjourney, pour violation du droit d'auteur, affirmant : "C'est du vol".

Disney et Universal s'associent pour poursuivre Midjourney, une entreprise spécialisée dans la génération d'images par IA, pour violation du droit d'auteur. Les sociétés cinématographiques affirment que Midjourney a entraîné ses modèles IA sur leur propriété intellectuelle et qu'il génère des images mettant en scène leurs personnages célèbres en violation de la loi sur le droit d'auteur. Disney et Universal réclament 150 000 dollars par œuvre contrefaite et une ordonnance empêchant Midjourney de commettre de nouvelles violations du droit d'auteur.

Début 2024, une base de données divulguée a révélé que Midjourney, une entreprise spécialisée dans la génération d'images par IA, a utilisé plus de 16 000 artistes, y compris des enfants, pour former ses outils d'IA générateurs d'œuvres d'art. La liste inclut des artistes renommés tels que Damien Hirst, Banksy, et Picasso, ainsi que des figures contemporaines. Des milliers d'artistes ont donc accusé Midjourney d'avoir utilisé leurs œuvres pour former son modèle d'IA.

Cette révélation a suscité des débats sur l'éthique de l'utilisation d'un groupe diversifié d'artistes et sur les implications morales de l'IA générative. Certains utilisateurs ont qualifié cette pratique de "vol systématique à grande échelle". Pour d'autres, il s'agit plutôt d'une violation manifeste de l'intégrité artistique, illustrant de manière flagrante la manière dont l'industrie de l'IA exploite éhontément le travail créatif des individus à des fins lucratives.

Récemment, Disney et Universal ont décidé de poursuivre Midjourney, marquant ainsi le premier affrontement juridique majeur entre les studios hollywoodiens et une entreprise d'intelligence artificielle. Midjourney, qui permet aux utilisateurs de créer des images réalistes à partir d'une invite textuelle en quelques secondes, est l'un des générateurs d'images IA les plus populaires.

Les sociétés cinématographiques affirment que Midjourney a entraîné ses modèles IA sur leur propriété intellectuelle et qu'il génère des images mettant en scène leurs personnages célèbres en violation de la loi sur le droit d'auteur, selon une plainte déposée devant le tribunal fédéral de Californie. Dans leur plainte, les studios qualifient Midjourney de "distributeur automatique virtuel" et de "puits sans fond de plagiat" qui génère "des copies non autorisées à l'infini des œuvres protégées par le droit d'auteur de Disney et d'Universal."

La plupart des grands modèles d'IA accessibles au public sont entraînés à partir de vastes référentiels de données, notamment des images et des vidéos, provenant de l'ensemble d'Internet, souvent sans autorisation. Des artistes, des auteurs, des musiciens et des acteurs hollywoodiens ont également exprimé leurs inquiétudes quant à l'utilisation de leurs œuvres ou de leur image pour entraîner des outils d'IA générative, qui pourraient ensuite être utilisés pour les remplacer.

En 2023, un concepteur de graphiques 3D avait, par exemple, raconté comment l'IA a fait irruption dans son secteur d'activité et lui a arraché son emploi. Après cela, il était chargé de retravailler, de bien adapter et d'animer les modèles 3D qui lui sont fournis par le système d'IA Midjourney. Bien que le travail prenne moins de temps qu'auparavant, il avait décri cela comme un scénario dystopique.

Ce nouveau procès de marque la première fois que de grands studios hollywoodiens poursuivent une entreprise d'IA. Le procès cite des exemples où Midjourney pourrait facilement être incité à générer des personnages populaires d'Universal et de Disney, notamment des personnages de Star Wars, Bart Simpson, Shrek, Ariel de "La Petite Sirène", Wall-E, les minions du film "Moi, moche et méchant" et bien d'autres encore.

Pour rappel, Midjourney et d'autres entreprises d'IA ont été poursuivies dans le cadre d'une autre affaire de violation du droit d'auteur par un groupe d'artistes visuels en 2023, que les entreprises ont cherché à faire rejeter, mais qui est actuellement en cours d'instruction. En réponse à la plainte de 2023, Midjourney a fait valoir que toute image créée par l'IA "ne représente qu'une infime partie de l'entraînement d'un modèle, tout comme chaque image (chaque visage, chaque coucher de soleil, chaque peinture) qu'un artiste a jamais perçue et chaque texte qu'un écrivain a jamais lu ne représentent qu'une infime partie du contenu et des images qui nourrissent leur imagination"

L'équipe juridique de Disney affirme toutefois que sa plainte porte sur une simple violation du droit d'auteur. "Nous sommes optimistes quant à l'avenir de la technologie IA et à la manière dont elle peut être utilisée de manière responsable comme outil pour stimuler la créativité humaine", a déclaré Horacio Gutierrez, vice-président exécutif senior et directeur juridique et de la conformité de Disney. "Mais le piratage reste du piratage, et le fait qu'il soit commis par une entreprise d'IA ne le rend pas moins illégal."

La Motion Picture Association s'est également prononcée sur le procès, son président-directeur général Charles Rivkin qualifiant la protection des droits d'auteur de "pilier de notre industrie." "Une approche équilibrée de l'IA qui protège la propriété intellectuelle tout en encourageant une innovation responsable et centrée sur l'humain est essentielle pour maintenir le leadership mondial des États-Unis dans les industries créatives", a déclaré Rivkin dans un communiqué.

Disney et Universal affirment que Midjourney compte 21 millions d'abonnés et a généré 300 millions de dollars de revenus en 2024. Disney et Universal avaient précédemment demandé à Midjourney de mettre fin à toute violation présumée ou de mettre en place une technologie empêchant les utilisateurs de générer des images mettant en scène leur propriété intellectuelle, mais l'entreprise a "ignoré" leurs demandes, selon la plainte.

"Midjourney a déjà mis en place des mesures technologiques pour empêcher la distribution et l'affichage public de certaines images et œuvres d'art telles que la violence ou la nudité", indique la plainte. "D'autres services de génération d'images et de vidéos par IA ont mis en place des mesures de protection des droits d'auteur qui reconnaissent et protègent les droits des créateurs de contenu tels que Disney et Universal."

Disney et Universal réclament 150 000 dollars par œuvre contrefaite et une ordonnance empêchant Midjourney de commettre de nouvelles violations du droit d'auteur, entre autres dommages-intérêts, selon leur plainte. Une annexe à la plainte répertorie plus de 150 œuvres qui auraient été contrefaites, ce qui signifie que les dommages-intérêts résultant du procès, si Disney et Universal obtiennent gain de cause, pourraient dépasser les 20 millions de dollars.


Et vous ?

Pensez-vous que cette plainte est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Plus de 13 500 artistes se mobilisent pour dénoncer l'exploitation de leurs œuvres par les entreprises d'IA sans leur consentement. L'initiative met en lumière les pratiques controversées dans l'industrie

Un juge réduit l'action en justice intentée par des artistes contre Midjourney et Stability AI en matière de droits d'auteur sur l'IA

Tandis qu'Hollywood est en grève, 96% des entreprises de divertissement augmentent leurs dépenses en IA générative. « Nous verrons des acteurs générés par IA qui ne demandent pas de salaire »

[Stéphane le calme]

De faux artistes, de vrais revenus : des chansons générées par IA inondent Spotify et YouTube et bouleversent l’économie musicale mondiale
en exploitant les failles du système de rémunération du streaming

Groupes inexistants, voix synthétiques, albums aux allures rétro fabriqués de toutes pièces… Bienvenue dans l’ère des « fake bands », ces entités musicales fictives générées par intelligence artificielle, qui prolifèrent aujourd’hui sur les plateformes de streaming comme YouTube et Spotify. Si certains saluent une nouvelle frontière créative, d’autres y voient une menace pour les artistes réels, l’authenticité musicale et la viabilité du système de rémunération.

Contexte

L'industrie musicale est en pleine mutation, et une nouvelle tendance émerge avec force sur les plateformes de streaming : l'ascension fulgurante des faux groupes et des chansons entièrement générées par intelligence artificielle. Cette révolution technologique, si elle ouvre des perspectives créatives inédites, soulève également des questions complexes concernant l'authenticité, la transparence et l'avenir des artistes humains.

Quand l’IA invente des artistes… et des histoires

Imaginez un groupe nommé The Sweet Enoughs, qui semble sortir d’un vieux vinyle des années 70 : funk groovy, pochettes vintage, biographie stylisée. Sauf qu’il n’a jamais existé. Il s’agit d’un projet né de l’esprit de Paul Bender (du groupe Hiatus Kaiyote), construit entièrement sur une fiction assumée… mais qui a fini par être confondu avec une vraie formation.

Là où cela devient plus flou, c’est lorsque ces créations s’accompagnent d’une intention trompeuse. Le journal El País rapporte l’existence de dizaines de groupes fictifs sur Spotify — Concubanas, Mister Mellow and the Latin Lovers, Phantasia — crédités avec des biographies, des nationalités, des labels imaginaires… et souvent, une origine floue, voire inexistante. Certains albums sont générés par intelligence artificielle, d'autres par des compositeurs humains qui se font passer pour des artistes étrangers dans des genres précis afin de capter des niches mal exploitées par l’algorithme.

Grâce aux avancées rapides de l'intelligence artificielle, il est désormais possible de créer des compositions musicales sophistiquées dans une multitude de genres avec une facilité déconcertante. Des algorithmes peuvent produire des mélodies entraînantes, des harmonies complexes et même des paroles crédibles, rendant la distinction entre une œuvre humaine et une création algorithmique de plus en plus ardue pour l'auditeur moyen. Cette capacité de l'IA à imiter et à produire de la musique de manière autonome a donné naissance à une prolifération de « faux groupes » qui n'existent pas physiquement mais dont la musique inonde les bibliothèques de streaming.

L'album Rumba Congo contient des mélodies qui rappellent la salsa, la rumba ou le genre son cubano (« le son cubain »). Pour une oreille non avertie, il est difficile de réaliser que cette musique a été générée à partir d'une poignée d'invites IA.

Duperie et manque de transparence

Cependant, cette facilité de création soulève des préoccupations majeures, notamment en matière de fraude au streaming et de manque de transparence. Des experts alertent sur le risque de tromperie, où les auditeurs pourraient consommer de la musique sans savoir qu'elle est entièrement artificielle. Cette situation appelle à une réglementation plus stricte et à un étiquetage clair des contenus générés par IA afin d'informer le public.

YouTube a déjà pris des mesures en exigeant des créateurs qu'ils divulguent si leur contenu est généré par IA. En revanche, Spotify n'a pas encore mis en place une politique similaire à l'échelle de sa plateforme, ce qui laisse une marge de manœuvre considérable pour la diffusion de musique artificielle non identifiée. Ce vide réglementaire sur certaines plateformes permet à ces « chansons artificielles » de s'immiscer dans les playlists et les recommandations, parfois au détriment des artistes réels. Une pétition a été lancée pour pousser Spotify à indiquer clairement qu'une chanson a été généré par IA.

Marquer / Désactiver les chansons générées par l'IA

La plateforme est de plus en plus inondée de chansons générées par l'IA (en particulier le Release Radar), ce qui rend plus difficile pour les utilisateurs de découvrir de la musique authentique, créée par des humains. Pour améliorer l'expérience d'écoute, Spotify devrait introduire un label clair pour les chansons générées par l'IA et fournir une option pour les filtrer complètement.

L’économie parallèle des faux streams

Le phénomène dépasse la simple expérimentation artistique. Il s’agit d’un modèle économique lucratif, basé sur la tromperie des algorithmes de recommandation et des systèmes de rémunération à la lecture.

Une affaire en justice met la lumière sur les dérives potentielles.

Michael Smith, un homme de Caroline du Nord, a utilisé l'intelligence artificielle pour créer des centaines de milliers de fausses chansons de faux groupes, puis les a mises sur des services de streaming où elles ont été appréciées par un public de faux auditeurs, ont déclaré les procureurs. Centime après centime, il a collecté un montant bien réel de 10 millions de dollars, ont-ils déclaré lorsqu'ils l'ont inculpé de fraude.

Entre 2017 et 2024, Smith a téléchargé des centaines de milliers de chansons produites par l'IA sur des plateformes de streaming comme Spotify, Apple Music et YouTube Music. Il a utilisé plus de 1 000 comptes de bots pour gonfler le nombre de flux, en déguisant ses activités à l'aide de VPN. Au plus fort de la combine, les robots de Smith ont généré plus de 4 milliards de faux flux, collectant des millions de redevances frauduleuses avant son arrestation. Trois chefs d'accusation pèsent sur lui : fraude électronique, association de malfaiteurs en vue de commettre une fraude électronique et association de malfaiteurs en vue de commettre un blanchiment d'argent. Chacun de ces chefs d'accusation est passible d'une peine maximale de 20 ans de prison, ce qui signifie que s'il est reconnu coupable de tous les chefs d'accusation, il risque jusqu'à 60 ans derrière les barreaux.

Étant donné que Smith a créé les chansons à l'aide de l'IA, elles ne peuvent pas être protégées par le droit d'auteur et ne donnent donc pas droit au versement de redevances. Pourtant, il a créé une ferme d'écoute massive (des robots qui ont écouté des milliards de flux) et a perçu plus de 10 millions de dollars de redevances illégales.

Il a mis au point un logiciel permettant d'écouter en boucle sa musique générée par l'IA à partir de différents ordinateurs, imitant ainsi des auditeurs individuels se trouvant dans des lieux différents. Dans un secteur où le succès se mesure à l'aune des écoutes numériques, le catalogue fabriqué par Smith a réussi à accumuler des milliards d'écoutes.

Pour éviter d'être détecté, Smith a réparti son activité de streaming sur de nombreuses fausses chansons, en ne jouant jamais un seul titre trop souvent. Il a également créé des noms uniques pour les artistes et les chansons créés par l'IA, en essayant de se fondre dans les noms excentriques des groupes musicaux légitimes. Smith a utilisé des noms d'artistes tels que « Callous Post » et « Calorie Screams », tandis que leurs chansons comportaient des titres tels que « Zygotic Washstands » et « Zymotechnical ».

Dans un premier temps, Smith a téléchargé ses propres compositions originales sur des plateformes de streaming, mais il a constaté que son petit catalogue ne générait pas de revenus significatifs. Pour tenter de passer à l'échelle supérieure, il a brièvement collaboré avec d'autres musiciens, proposant apparemment de jouer leurs chansons en échange de royalties, mais ces efforts ont échoué. C'est ce qui a amené Smith à se tourner vers la musique générée par l'IA en 2018, lorsqu'il s'est associé au PDG d'une société de musique générée par l'IA et à un promoteur musical pour créer une vaste bibliothèque de chansons générées par l'ordinateur.

Spotify tient à se démarquer

Bien qu'il représente environ la moitié de tous les flux musicaux, seul 0,6 % de cet argent provenait de Spotify, selon le service de streaming. « Spotify investit massivement dans des examens automatisés et manuels pour prévenir, détecter et atténuer l'impact du streaming artificiel sur notre plateforme », a déclaré un porte-parole de Spotify.

« Dans ce cas, il semble que nos mesures préventives aient fonctionné et limité les redevances que [Michael] Smith a pu générer de Spotify à environ 60 000 $ sur les 10 000 000 $ mentionnés dans l'acte d'accusation. Comme Spotify représente généralement environ 50 % des parts de streaming, cela montre à quel point nous sommes efficaces pour limiter l'impact du streaming artificiel sur notre plateforme », a-t-il continué.

Un raz-de-marée algorithmique : implications financières et défis futurs

Chaque jour, plus de 20 000 nouveaux titres sont mis en ligne sur Spotify. Une part croissante d’entre eux serait générée automatiquement, soit par IA pure, soit à l’aide de boucles sonores et de procédés semi-algorithmiques. Certains sont simplement conçus pour s’insérer dans des playlists d’ambiance — “Jazz Brunch”, “Chill Beats”, “Tropical Relax” — et générer des revenus passifs.

Dans ce flot, les auditeurs sont souvent incapables de distinguer ce qui est authentique de ce qui est synthétique. Pire : certains artistes réels découvrent sur leur propre page Spotify des albums qui ne leur appartiennent pas, mais qui ont été ajoutés automatiquement en exploitant des homonymes ou des métadonnées ambiguës.

Les implications financières de cette tendance sont également colossales. Les projections indiquent une augmentation significative des revenus générés par la musique produite par IA dans les années à venir. Cette perspective, bien que prometteuse pour les développeurs d'IA et les entreprises de technologie musicale, soulève des questions sur la distribution des revenus et la part qui reviendra aux artistes traditionnels. La facilité de production et la scalabilité de la musique IA pourraient potentiellement saturer le marché, rendant encore plus difficile pour les artistes indépendants et les groupes émergents de se faire entendre et de monétiser leur travail.

Créativité ou manipulation ?

Ce nouveau paysage soulève des questions philosophiques et économiques. Pour certains producteurs, l’usage de l’IA n’est qu’un nouvel outil de composition, à l’instar du synthétiseur dans les années 1980. Mais pour d’autres, le phénomène des "fake bands" relève davantage de la fraude déguisée que de l’innovation artistique.

Spotify, Apple Music, YouTube et Amazon Music ne semblent pas encore disposés à faire clairement la distinction entre créations humaines et productions artificielles. Seule YouTube a commencé à exiger que les contenus générés ou modifiés par IA soient explicitement identifiés. Mais il ne s’agit pour l’instant que de vidéos, pas de musique.

Les artistes indépendants en première ligne

L’ironie est amère : dans leur lutte contre les fraudes, certaines plateformes ont suspendu ou supprimé des artistes indépendants réels, simplement parce que leurs morceaux avaient connu une popularité « inhabituelle » ou un pic soudain de streams. Pendant ce temps, les producteurs de morceaux IA continuent à uploader par centaines des pistes anonymes, souvent réparties sur des dizaines de pseudonymes.

Des sociétés comme Beatdapp ou Audible Magic essaient désormais de proposer des outils d’audit pour détecter les abus, notamment les bots de lecture et les doublons. Mais le combat est loin d’être gagné, tant les lignes sont floues entre stratégie marketing légitime, piratage technique et « spam sonore ».

Sources : pétition, Spotify, YouTube, vidéos dans le texte

Et vous ?

Peut-on encore parler d’art quand une chanson est entièrement créée par une intelligence artificielle sans intervention humaine ?

Un morceau généré par IA, mais qui émeut sincèrement, a-t-il moins de valeur qu’un morceau écrit par un humain ?

Le système actuel de répartition des royalties encourage-t-il la fraude automatisée ?

Les plateformes ont-elles intérêt à modérer ces abus ou profitent-elles elles-mêmes du flot de contenu IA ?

Les artistes indépendants doivent-ils craindre d’être remplacés par des musiques générées à faible coût ?

Les auditeurs devraient-ils toujours être informés si la musique qu’ils écoutent a été créée par une IA ?

[Gluups]

Bon, eh bien on va voir ...
Depuis quelques semaines on nous dit qu'il faut absolument tuer les écrivains parce que leurs droits d'auteurs mettent en danger l'intelligence artificielle, maintenant c'est toute la société qui va être touchée.

On verra bien, peut-être qu'à force de s'attaquer à tout le monde, quelqu'un finira par ne pas se laisser faire.

Pas comme si il y avait déjà des crimes dans la rue et qu'il serait bon de faire un peu gaffe à calmer le jeu ...

[ALT]

Moi, je vois surtout un problème : comment distinguer de façon très fiable la production humaine de celle de l'IA ?
Tant qu'on ne saura pas faire, il n'y aura pas de solution.

[Gluups]

En effet, il se peut que ces gens-là aient trouvé un moyen très fiable de détruire la société, de faire que plus personne ne fasse confiance à personne.

La nécessité de se méfier des dépôts en développant sous Angular était déjà apparue, ceci n'applique pas un baume ...

Les pétages de plombs occupent déjà une bonne partie de la scène d'actualité, en poussant à la roue, ça donne quoi ?


(si je m'y mets aussi en écrivant "poussant à la route" au lieu de ""poussant à la roue", ça n'améliore rien.)

(Bon appétit au travailleur de force de chez Alt)

[totozor]

Moi, je vois surtout un problème : comment distinguer de façon très fiable la production humaine de celle de l'IA ?
Tant qu'on ne saura pas faire, il n'y aura pas de solution.

Ma découverte des groupes est assez simple et le garantit pas mal : concerts (y compris festivals), découverte via des petits labels, des featuring, streaming musical live.
Et comme je suis un élitiste de la musique je ne m'interesse pas à un groupe incapable de produire un album (au moins 1h) de qualité et cohérent. L'exception étant le groupe qui débute et qui a publié une ou deux musiques.

Je me rend aussi compte que je suis de plus en plus sensible au story telling des groupes.

[Gluups]

L'exception étant le groupe qui débute et qui a publié une ou deux musiques.

C'est vrai que, dans tous les domaines, c'est tout-à-fait exceptionnel, d'avoir débuté un jour.

[calvaire]

il n'y a absolument aucun échappatoire pour les cols blancs et artistes à la vague IA

la valorisation de l'intelligence/de la créativité va tendre vers 0, la valeur du capital va exploser par rapport à la valeur travail et les seuls jobs qui resteront seront relatifs au petit artisanat, influence et à la prostitution, exception faites des quelques domaines où des avancées restent à réaliser (ingénierie génétique notamment)

[jnspunk]

C'est vrai que moi qui aime bien écouter de la musique sur Youtube maintenant mes recommendations sont remplis de musique générée.
Et ça sert à rien de cliquer sur "ne pas recommander la chaîne" Vu les milliers de chaînes qui sont créées sans cesse.
On est au début d'une grande pollution d'internet, Je plains les nouveaux artistes indépendants qui sont noyés dans ce flot de merde, ils vont avoir beaucoup de mal à se faire connaître.