Discussion :

[Stéphane le calme]

CNET publie discrètement des articles entiers générés par l'IA et l'indique sur un descriptif déroulant,
puis se ravise à la suite des réactions

CNET, un média d'information technologique populaire, a discrètement utilisé l'aide d'une technologie d'automatisation sur une nouvelle vague d'articles explicatifs financiers, apparemment à partir de novembre de l'année dernière. En l'absence de toute annonce ou couverture officielles, il semble que cela ait été repéré pour la première fois par le spécialiste du marketing en ligne Gael Breton dans un tweet mercredi.

On dirait que @CNET (site technique DR 92) vient de faire son coming-out sur l'utilisation du contenu de l'IA pour les articles SEO. Il semble que l'expérience ait commencé vers le 11 novembre en fonction des dates de publication. Pour l'instant, c'est un test à petite échelle, car nous ne voyons que 72 résultats divulgués comme étant écrits par une IA.

Et il semble que Google n'en a rien à foutre, récompensant plusieurs de ces pages avec un excellent trafic de recherche.

Doooooonc... Le contenu généré par IA est-il correct maintenant ? 🤔

J'aimerais savoir ce que vous en pensez.

Les articles sont publiés sous l'appellation sans prétention de « CNET Money Staff » et englobent des sujets tels que « Que sont les frais NSF et pourquoi les banques les facturent-elles ? », « Quelle est la différence entre une banque et une coopérative de crédit ? » ou « Qu'est-ce que Zelle et comment ça marche ? »

Ce trait commun (des questions en guise de titre) ne donne évidemment pas une image complète, et donc le lecteur visitant le site n'aura probablement aucune indication que ce qu'il lit est généré par l'IA. Ce n'est que lorsque vous cliquez sur « CNET Money Staff » que la véritable « paternité » est révélée. « Cet article a été généré à l'aide de la technologie d'automatisation », peut-on lire sur une description déroulante, « et soigneusement édité et vérifié par un éditeur de notre équipe éditoriale ».

Précisons qu'après les remarques des internautes, CNET a remplacé le descriptif déroulant pour un affichage direct.

Depuis le début du programme, CNET a publié environ 75 articles générés par l'IA. Ce n'est pas beaucoup pour un site aussi grand, et en l'absence d'une annonce officielle du programme, il semble que la direction essaie de garder l'expérience aussi discrète que possible.

Parce que le contenu semble soigneusement optimisé pour le trafic de recherche, les perspectives de Google sur le contenu généré par l'IA feront ou détruiront probablement l'avenir du programme.

John Mueller, Search Advocate pour le compte de Google, a déclaré l'année dernière que le contenu généré par l'IA dans le but principal de manipuler les classements de recherche est contraire aux politiques de l'entreprise. Quels que soient les outils utilisés pour le créer, le contenu écrit par des machines est considéré comme généré automatiquement. Comme Mueller s'empressait de le souligner, la position de Google sur le contenu généré automatiquement a toujours été claire :

Pour nous, ceux-ci tomberaient essentiellement dans la catégorie du contenu généré automatiquement, ce que nous avons dans les consignes aux webmasters depuis presque le début.

Et les gens génèrent automatiquement du contenu de différentes manières. Et pour nous, si vous utilisez des outils d'apprentissage automatique pour générer votre contenu, c'est essentiellement la même chose que si vous mélangez des mots, recherchez des synonymes ou faites les astuces de traduction que les gens faisaient auparavant. Ce genre de choses.

Je soupçonne que la qualité du contenu est peut-être un peu meilleure que celle des outils de la très vieille école, mais pour nous, il s'agit toujours de contenu généré automatiquement, ce qui signifie que pour nous, il est toujours contraire aux directives aux webmasters. Nous considérons donc qu'il s'agit de spam.

Pourtant, cette fois-ci, un porte-parole de Google a précisé que le contenu généré par l'IA n'était pas entièrement proscrit :

Notre objectif pour la recherche est de montrer un contenu utile et pertinent créé pour les gens, plutôt que d'atteindre les classements des moteurs de recherche. Notre équipe de classement se concentre sur l'utilité du contenu, plutôt que sur la façon dont le contenu est produit. Cela nous permet de créer des solutions qui visent à réduire tous les types de contenu inutile dans la recherche, qu'il soit produit par des humains ou par des processus automatisés.

Dans un sens, les articles générés par l'IA ne sont pas nouveaux. Par exemple, l'agence de presse Associated Press utilise l'IA depuis 2015 pour rédiger automatiquement des milliers et des milliers de rapports sur les revenus. L'AP s'est même fièrement proclamée comme « l'une des premières agences de presse à tirer parti de l'intelligence artificielle ».

L'Associated Press a été l'une des premières agences de presse à tirer parti de l'intelligence artificielle et de l'automatisation pour renforcer son reportage principal. Aujourd'hui, nous utilisons l'apprentissage automatique à des points clés de notre chaîne de valeur, y compris la collecte, la production et la distribution des informations[...]. Notre incursion dans l'intelligence artificielle a commencé en 2014, lorsque notre bureau Business News a commencé à automatiser les articles sur les bénéfices des entreprises. Avant d'utiliser l'IA, nos rédacteurs et journalistes consacraient d'innombrables ressources à une couverture importante, mais répétitive et, plus important encore, détournée du journalisme à plus fort impact. C'est ce projet qui nous a permis d'expérimenter de nouveaux projets et d'établir un leadership éclairé alors que de plus en plus d'organisations de presse cherchent à adopter la technologie elles-mêmes.

Stratégie IA

AP cherche des moyens de déployer l'intelligence artificielle dans tout ce que nous faisons, en commençant par la façon dont nous recueillons les informations, en passant par le processus de production et, finalement, la manière dont nous distribuons les informations aux clients.

Collecte d'informations

AP déploie une variété d'outils de collecte d'informations pour permettre à nos journalistes d'annoncer l'actualité et de creuser plus profondément. Cela implique de travailler avec des startups partenaires pour scanner et analyser les flux de médias sociaux avec un traitement en langage naturel et de créer notre propre outil interne pour vérifier plus rapidement le contenu social et généré par les utilisateurs.

Production d'actualités

Notre objectif en production est de rationaliser les flux de travail pour permettre à nos journalistes de se concentrer sur le travail d'ordre supérieur. Cela va de la transcription automatique de la vidéo à l'expérimentation de la génération automatique de listes de plans vidéo et de résumés d'histoires. Nous automatisons également actuellement les histoires dans les sports et les bénéfices des entreprises.

Il convient donc de noter que le matériel généré automatiquement par l'AP semble essentiellement remplir des blancs dans des formats prédéterminés, alors que le verbiage plus sophistiqué des publications de CNET suggère qu'il utilise quelque chose de plus proche du GPT-3 d'OpenAI.

Néanmoins, la justification d'AP pour l'utilisation de l'IA (et un point de discussion adopté dans l'ensemble de l'industrie) est qu'elle évite aux journalistes et aux autres membres du personnel d'avoir à rédiger des récapitulatifs fastidieux. En réalité, il est difficile de croire que la technologie se limiterait à jamais à un remède à l'ennui et n'empiéterait jamais sur les « vrais » travaux d'écriture.

Maintenant, en regardant tous les articles que CNET a générés à l'aide de l'IA, il semble que cela est déjà amorcé.

Sources : Gael Breton, utilisation de l'IA par l'Associated Press

Et vous ?

N'avez-vous pas déjà eu l'impression de lire un article généré par une IA en lisant la presse gratuite en ligne ?
Qu'est-ce qui pourrait, selon vous, expliquer pourquoi CNET n'a pas fait de déclarations concernant son utilisation de l'IA ou encore pourquoi la mention de la génération d'un article par l'IA était indiquée sur un descriptif déroulant ?
Partagez-vous le point de vue de Google qui explique désormais que ce qui compte c'est le contenu lui-même, pas la manière dont il a été généré ?
Pour ou contre un meilleur référencement des articles générés par une IA tant qu'ils sont pertinents ?

Voir aussi :

Une application de santé mentale critiquée pour avoir utilisé l'IA chatGPT pour prodiguer des conseils à 4000 utilisateurs, ces derniers ont donné une note élevée aux réponses de l'IA
Lyon : ChatGPT utilisé par la moitié des élèves de Master d'un professeur pour rédiger leurs devoirs. « Cette pratique m'inquiète. Elle pose un véritable problème d'intégration des savoirs »

[Fagus]

Ben oui, ce qu'on craignait arrive.

Je trouve de plus en plus de sites ou d'articles en haut de recherche, très fournis, bien que riches d'un verbiage creux et inutile. Manifestement ça sert juste à générer du trafic sur des pubs.

[Bill Fassinou]

CNET suspend la publication d'articles générés par l'IA après une controverse sur la divulgation d'informations
le site n'a pas été transparent sur le fait qu'une IA écrivait certains articles

La direction de CNET a indiqué au personnel qu'elle suspendait pour l'instant la publication de tout contenu généré par l'IA. Des cadres supérieurs de Red Ventures, la société mère de CNET et d'autres sites Web, ont également donné plus de détails sur l'IA de génération de texte de la société. À l'origine de cette décision, des erreurs dans les articles générés par l'IA et le fait que le média a manqué de transparence sur son "test" d'une "nouvelle technologie d'IA". CNET, qui couvre les nouvelles la technologie, publiait discrètement les articles générés par l'IA sous le pseudonyme "CNET Money Staff". Cela a suscité un tollé lorsque les lecteurs ont découvert le pot aux roses.

Bien que les systèmes de génération de texte ne soient pas nouveaux, ils sont revenus au-devant de la scène ces dernières années grâce aux prouesses réalisées dans le domaine de l'IA, notamment les modèles de langage qui ont nettement amélioré le traitement automatique du langage naturel (NLP). En témoignent les systèmes de génération de texte tels que le chatbot d'IA ChatGPT d'OpenAI et GitHub Copilot qui impressionnent par leurs "capacités rédactionnelles". Apparemment, des sites tels que CNET, un média d'information traitant des nouvelles technologies, semblent avoir démarré en interne le test d’IA propriétaires de ce type.

Cependant, il semblerait que l'expérience ne se soit pas déroulée comme prévu. La semaine dernière, certaines sources ont rapporté que CNET publie discrètement des articles écrits par l'IA sous le pseudonyme "CNET Money Staff". Beaucoup de lecteurs ont été irrités, surtout si l'on considère que CNET n'a pas été très franc à propos de son "test" d'une "nouvelle technologie", comme l'a décrit la rédactrice en chef Connie Guglielmo après le tollé. Selon les sources, l'IA de génération de texte utilisée par CNET semblait faire des erreurs stupides et spectaculaires, malgré l'insistance de la rédaction sur le fait qu'un réviseur humain éditait et vérifiait son travail.

Plus précisément, CNET n'a pas fait savoir clairement aux lecteurs que certains des articles qu'ils peuvent lire sur son site sont générés par une IA. Au lieu de cela, la rédaction a mis une note ambiguë. Après le scandale général, CNET a procédé à quelques changements. Il a supprimé le mot "staff" de la signature de l'IA, par exemple, et a ajouté une mention plus visible. En réponse aux questions sur les erreurs de l'IA, le média aurait publié une correction approfondie d'une histoire qui a été mise en évidence par Futurism, et a ajouté une note de l'éditeur à pratiquement tout ce que l'IA a publié, en disant qu'il est en cours de révision pour l'exactitude.

Mais cela n'a pas suffi à calmer les lecteurs et les critiques, qui ont continué à blâmer l'expérience douteuse du média avec son IA de génération de texte. Face à cette vague de critiques acerbes, lors d'une conférence téléphonique avec personnel vendredi, la direction de CNET a annoncé qu'elle suspendait pour l'instant la publication de tout contenu généré par l'IA. Red Ventures, la société propriétaire de CNET et d'autres sites Web, en a également profité pour donner plus de détails sur l'outil d'IA de la société. D'autres sites de Red Ventures, tels que Bankrate et CreditCards.com, mettraient également en pause la publication de contenu généré par l'IA.

Lance Davis, qui était jusqu'à récemment le point de contact pour les articles de CNET sur l'IA, a donné au personnel un aperçu plus détaillé de l'outil. Jusqu'à présent, la plupart des employés n'avaient que très peu d'informations sur la machine qui générait des dizaines d'articles publiés sur CNET. L'IA, qui n'est pas encore nommée, est un outil propriétaire construit par Red Ventures. Selon Davis, les éditeurs sont en mesure de choisir des domaines à partir desquels ils peuvent extraire des données et générer des articles ; les éditeurs peuvent également utiliser une combinaison de texte généré par l'IA et de leurs propres écrits ou reportages.

Lors de la conférence, la vice-présidente exécutive chargée du contenu, Lindsey Turrentine, a refusé de répondre aux questions du personnel sur l'ensemble des données utilisées pour former l'IA lors de la réunion, ainsi que sur les problèmes de plagiat. Mais elle a indiqué que de plus amples informations seraient disponibles la semaine prochaine et que certains membres du personnel auraient un aperçu de l'outil. Ils ont également fait la différence entre l'IA et une autre technologie automatisée que Red Ventures utilise sur ses sites pour insérer automatiquement des chiffres dans les articles sur les taux d'intérêt des prêts hypothécaires et des refinancements.

« Nous ne l'avons pas fait en secret. Nous l'avons fait discrètement », a déclaré Guglielmo, en réponse aux allégations sur l'expérience secrète de CNET avec une IA de génération de texte. Futurism a noté que CNET et Bankrate semblaient avoir cessé de publier des articles sur l'IA dès mercredi. Guglielmo a déclaré qu'à l'avenir, les articles de CNET sur l'IA comporteront une mention indiquant que le site utilise ses propres technologies automatisées. Red Ventures a également créé un groupe de travail sur l'IA, bien que l'on ne sache pas exactement ce que le conseil a fait jusqu'à présent. La direction a noté que le canal Slack avait été créé.

La polémique entourant CNET et son IA de génération de texte intervient à un moment où les outils de génération de texte tels que Copilot et ChatGPT suscitent des critiques, voire des interdictions, en raison des craintes de plagiat et de la réduction du travail des rédacteurs humains. Comme pour l'automatisation dans d'autres secteurs de la main-d'œuvre, beaucoup ne croient pas que l'IA sera utilisée de manière éthique. « Je veux juste rassurer tout le monde : cela passera. C'est inconfortable, nous allons le surmonter, le cycle des nouvelles va passer », a déclaré Turrentine à propos de la couverture médiatique de ces dernières semaines.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous du fait que CNET publie des articles générés par l'IA sur son site ?
Selon vous, les critiques sont-elles justifiées ? Pensez-vous que CNET a mal mené son expérience ?
Si oui, que reprochez-vous à l'expérience de CNET sur son IA interne de génération de texte ?
Selon vous, les sites d'information doivent-ils faire usage des IA de génération de texte ? Pourquoi ?
À votre avis, quels impacts ces systèmes pourraient-ils avoir sur le journalisme ou le métier de rédacteur ?

Voir aussi

Les résumés d'articles générés par ChatGPT parviennent à duper des scientifiques, ils ne peuvent pas toujours faire la différence entre les résumés générés par l'IA et les résumés originaux

Lyon : ChatGPT utilisé par la moitié des élèves de Master d'un professeur pour rédiger leurs devoirs. « Cette pratique m'inquiète. Elle pose un véritable problème d'intégration des savoirs »

CNET publie discrètement des articles entiers générés par l'IA et l'indique sur un descriptif déroulant, puis se ravise suite aux réactions

[totozor]

Que pensez-vous du fait que CNET publie des articles générés par l'IA sur son site ?
Selon vous, les critiques sont-elles justifiées ? Pensez-vous que CNET a mal mené son expérience ?
Si oui, que reprochez-vous à l'expérience de CNET sur son IA interne de génération de texte ?

C'est une évolution naturelle et regrettable de notre société capitaliste.
L'IA permet de rédiger plus de contenu, plus vite que n'importe quelle personne, elle génère donc plus de clique et est plus rentable, même si son exactitude est à remettre en cause.

Le strict minimum d'un expérience est de prévenir ceux qui la subissent. Sutout quand on est un media d'information et qu'on est pas sur de la véracité de l'article généré.

Selon vous, les sites d'information doivent-ils faire usage des IA de génération de texte ? Pourquoi ?
À votre avis, quels impacts ces systèmes pourraient-ils avoir sur le journalisme ou le métier de rédacteur ?

La question de doivent ils le faire est déjà obsolète, ils vont le faire.
La question est maintenant de définir le cadre, par exemple :
Ne le faire que pour résumer un évènements (résumé de match, compte rendu de procès, etc) ou concaténer différentes informations sur un même évènement (rapport d'une manif)
Prévenir que l'article est rédigé par une IA (qu'il soit relu ou non)
Fournir les sources de l'article (ce qui va relancer le débat sur les droits)

[Nancy Rey]

CNET trouve des erreurs dans plus de la moitié de ses articles rédigés par l'IA,
et le site informe qu’il ne renoncera pas à l’utilisation de son "moteur d'IA conçu en interne"

Le site d'informations technologiques, CNET, a publié des corrections pour plus de la moitié des articles rédigés par l'IA que le média a récemment attribués à son équipe CNET Money. Au total, sur les 77 articles qui, selon la publication, ont été rédigés dans le cadre d'un essai visant à tester un « moteur d'IA conçu en interne », 41 ont été corrigés. Connie Guglielmo, la rédactrice en chef de CNET, a déclaré qu'un examen interne des articles a révélé de nombreuses erreurs dans les articles au centre de la controverse et le CNET a déclaré avoir apporté des corrections à un certain nombre d'articles, dont certains qu'il a qualifiés de « substantiels ». Mais Guglielmo a défendu l'utilisation de l'outil de rédaction de l'IA, elle veut que tout le monde sache qu'elle n'a absolument pas l'intention d'abandonner le journalisme d'intelligence artificielle.

Il y a environ deux semaines, Futurism a révélé que CNET publiait discrètement des articles rédigés par l'IA depuis des mois, sans attirer l'attention du public ni faire d'annonce officielle. Les articles ont été publiés au cours des deux derniers mois sous les titres "CNET Money Staff" ou "CNET Money", et n'ont pas été directement attribués à un auteur non humain. Guglielmo a déclaré que CNET avait utilisé un "moteur d'IA conçu en interne", et non ChatGPT, pour rédiger 77 articles publiés depuis novembre. Elle a précisé que cela représentait environ 1 % du contenu total publié sur CNET au cours de la même période, et que cela avait été fait dans le cadre d'un projet "test" pour l'équipe CNET Money "afin d'aider les rédacteurs à créer un ensemble d'explications de base sur des sujets liés aux services financiers".

La semaine dernière, après le tollé provoqué par les conclusions de Futurism, CNET et sa société mère, la société de médias Red Ventures, ont annoncé qu'ils mettaient temporairement en pause les éditoriaux sur l'IA. À la suite d'un audit interne, après avoir été informée d'un article écrit par l'IA comportant des erreurs substantielles, Connie Guglielmo, rédactrice en chef de CNET, a déclaré que la publication avait identifié d'autres articles qui devaient être corrigés. « Après qu'une des histoires assistées par l'IA ait été citée, à juste titre, pour des erreurs factuelles, l'équipe éditoriale de CNET Money a fait un audit complet... Nous avons identifié d'autres histoires qui devaient être corrigées, dont un petit nombre nécessitant une correction substantielle et plusieurs histoires présentant des problèmes mineurs tels que des noms de sociétés incomplets, des chiffres transposés ou un langage que nos rédacteurs en chef ont considéré comme vague », a-t-elle écrit.

Elle a également admis que certains des articles automatisés n'avaient peut-être pas passé le test en ce qui concerne le contenu original : « Dans une poignée d'articles, notre outil de vérification du plagiat n'a pas été utilisé correctement par le rédacteur ou n'a pas détecté les phrases ou les parties de phrases qui ressemblaient de près à la langue originale. Nous développons des moyens supplémentaires pour signaler les correspondances exactes ou similaires à d'autres contenus publiés identifiés par l'outil d'IA, y compris les citations automatiques et les liens externes pour les informations exclusives telles que les points de données ou les citations directes ».

Il convient de noter que l'IA, telle qu'elle existe aujourd'hui, ne peut pas être coupable de plagiat. Le logiciel ne sait pas qu'il copie quelque chose en violation d'une règle éthique que les humains s'appliquent à eux-mêmes. En fait, l'échec est imputable aux rédacteurs de CNET qui étaient censés vérifier que l'outil d'IA du site créait du contenu original.

Après des semaines de débat sur les politiques de divulgation de CNET concernant les outils d'IA, Red Ventures et la direction de CNET ont annoncé au personnel, lors d'une réunion vendredi, que la société suspendait temporairement le contenu généré par l'IA sur tous les sites Web. Mais il semble toutefois que cette suspension ne va pas durer longtemps. Car, Connie Guglielmo, a indiqué que, finalement, le site continuerait à utiliser ce qu'elle appelle son "moteur d'IA" pour écrire (ou aider à écrire) davantage d'articles. Selon ses propres termes, Mme Guglielmo a déclaré : « Les lecteurs doivent s'attendre à ce que CNET continue d'explorer et de tester comment l'IA peut être utilisée pour aider nos équipes dans leur travail de test, de recherche et d'élaboration de conseils impartiaux et de reportages basés sur des faits pour lesquels nous sommes connus. Le processus n'est peut-être pas toujours facile ou joli, mais nous allons continuer à l'adopter - ainsi que toute nouvelle technologie qui, selon nous, rend la vie meilleure ».

CNET aurait certainement pu s’éviter toute cette mauvaise presse, si le site avait annoncé très publiquement qu'il s'engageait dans une nouvelle expérience audacieuse pour automatiser certaines de ses tâches éditoriales, faisant ainsi savoir à tout le monde qu'il faisait quelque chose de nouveau. Cependant, CNET a fait tout le contraire : elle a discrètement publié article après article sous de vagues titres en espérant clairement que personne ne le remarquerait. Guglielmo admet aujourd'hui que « lorsque vous lisez une histoire sur CNET, vous devriez savoir comment elle a été créée ».Pourtant, l'utilisation de l'IA pour automatiser les articles n'est pas nouvelle (l'Associated Press a commencé à le faire il y a près de dix ans).

Source : CNET

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous du fait que CNET publie des articles générés par l'IA sur son site ?
Que pensez-vous des propos de la rédactrice en chef de CNET ?
Selon vous, les critiques sont-elles justifiées ? Pensez-vous que CNET a mal mené son expérience ?

Voir aussi :

:fleche : CNET suspend la publication d'articles générés par l'IA après une controverse sur la divulgation d'informations, le site n'a pas été transparent sur le fait qu'une IA écrivait certains articles

Les résumés d'articles générés par ChatGPT parviennent à duper des scientifiques, ils ne peuvent pas toujours faire la différence entre les résumés générés par l'IA et les résumés originaux

Lyon : ChatGPT utilisé par la moitié des élèves de Master d'un professeur pour rédiger leurs devoirs. « Cette pratique m'inquiète. Elle pose un véritable problème d'intégration des savoirs »

CNET publie discrètement des articles entiers générés par l'IA et l'indique sur un descriptif déroulant, puis se ravise suite aux réactions