Discussion :

[Anthony]

Microsoft a remplacé ses rédacteurs d'actualités par l'IA, cela a entraîné une succession de catastrophes et la colère d'une grande maison d'édition

Microsoft a investi des milliards dans OpenAI, le créateur de ChatGPT, et utilise de plus en plus l'automatisation pour rationaliser ses propres processus - avec des résultats mitigés. Récemment, la confiance de Microsoft dans la technologie au détriment des rédacteurs humains a apparemment conduit à une série désastreuse de publications sur la page d'accueil de l'entreprise, également connue sous le nom de MSN.com et Microsoft Start, selon des personnes familières avec le site, a rapporté CNN.

En 2018, le site, qui est automatiquement installé comme page de démarrage par défaut sur les appareils fonctionnant avec le logiciel Microsoft, comptait 800 rédacteurs qui aidaient à rédiger des articles d'actualité pour des millions de lecteurs dans le monde, selon le média. On ne sait pas exactement combien de rédacteurs - s'il y en a - font encore partie du personnel aujourd'hui, mais en 2020, la société a licencié des dizaines de journalistes et de travailleurs éditoriaux au sein de ses organisations Microsoft News et MSN.

L'IA éditoriale de MSN a publié des articles provenant d'organes de faible qualité qui sont manifestement faux, affirmant à tort que le président Joe Biden s'est endormi pendant une minute de silence pour les victimes de l'incendie de Maui ou que le superviseur de San Francisco Dean Preston a démissionné après avoir été critiqué par Elon Musk, d'après CNN.

Mais le manque de surveillance de MSN.com nuit également aux relations de Microsoft avec les publications établies. La semaine dernière, le journal britannique The Guardian a publié un article sur Lilie James, 21 ans, retrouvée morte avec de graves blessures à la tête dans une école de Sydney, en Australie. Au milieu d'une conversation nationale sur la violence à l'égard des femmes en Australie, MSN a republié l'article du Guardian et l'a accompagné d'un sondage pour les lecteurs : "Quelle est, selon vous, la raison de la mort de cette femme ?" Les options proposées étaient "meurtre", "accident" ou "suicide".

"Non seulement ce type d'application est potentiellement pénible pour la famille de la personne qui fait l'objet de l'article, mais il est aussi profondément préjudiciable à la réputation du Guardian, durement acquise pour son journalisme fiable et sensible, ainsi qu'à la réputation des journalistes qui ont écrit l'article original", a écrit Anna Bateson, directrice générale du Guardian Media Group, dans une lettre adressée mardi 31 octobre à Brad Smith, président de Microsoft.

Un porte-parole de Microsoft a déclaré à CNN que l'entreprise désactivait tous les sondages sur les articles d'actualité et "enquêtait sur la cause du contenu inapproprié" afin d'éviter qu'une telle erreur ne se reproduise à l'avenir.

Voici le contenu de la lettre adressée par Mme Anna Bateson à M. Brad Smith :

Courriel à : bradsmi@microsoft.com

Cher Brad,

Je vous écris en raison d'une application très préoccupante de Microsoft genAI sur le journalisme du Guardian dans Microsoft Start - un sondage généré automatiquement demandant au public de spéculer sur la cause de la mort d'une personne. Il s'agit clairement d'une utilisation inappropriée de la genAI par Microsoft sur un sujet d'intérêt public potentiellement pénible, écrit et publié à l'origine par des journalistes du Guardian.

Cette application de la genAI par Microsoft est exactement le type d'exemple sur lequel nous avons mis en garde en ce qui concerne les actualités, et une des principales raisons pour lesquelles nous avons précédemment demandé à vos équipes de ne pas appliquer les technologies expérimentales de la genAI de Microsoft au journalisme sous licence du Guardian.

Non seulement ce type de demande est potentiellement pénible pour la famille de la personne qui fait l'objet de l'article, mais il est aussi profondément préjudiciable à la réputation du Guardian, durement acquise pour son journalisme fiable et sensible, et à la réputation des journalistes qui ont écrit l'article original. Notez les commentaires des lecteurs de Microsoft Start, qui ignorent manifestement que c'est Microsoft qui a créé ce sondage, et non le Guardian.

"Il s'agit du sondage le plus pathétique et le plus dégoûtant que j'aie jamais vu. L'auteur devrait avoir honte."

"C'est bien de savoir qu'on peut faire un sondage sur la façon dont cette femme est morte"

"Quelle société dégoûtante et dépravée nous sommes devenus, dans laquelle un sondage est réalisé sur la façon dont une personne est décédée."
"Un sondage sur la raison de la mort d'une personne ? Qu'est-ce qui ne va pas chez vous !!!"

"Tamsin [la journaliste du Guardian] devrait être licenciée pour ce sondage. Il n'y a manifestement pas de directives communautaires en jeu ici..."

Il y a une absence presque totale d'étiquetage clair ou transparent de ces produits alimentés par la genAI, et certainement aucune clause de non-responsabilité ou d'explication aux utilisateurs que ces technologies sont détenues et exploitées par Microsoft, et de leur manque de fiabilité inhérent. Cela doit changer.

Bien que nous soyons heureux que l'escalade vers différentes équipes de Microsoft ait finalement conduit au retrait du sondage de l'article, de nombreux lecteurs ont manifestement déjà vu le sondage et croient que le Guardian l'a créé. Dans ces conditions, il est tout à fait justifié que Microsoft ajoute une note à l'article pour en assumer l'entière responsabilité.

Nous aimerions également avoir l'assurance que a) Microsoft n'appliquera pas ces technologies expérimentales sur ou à côté du journalisme sous licence du Guardian sans notre accord préalable explicite et b) que Microsoft indiquera toujours clairement aux utilisateurs de vos plates-formes chaque fois que la genAI est impliquée dans la création d'unités et de fonctionnalités supplémentaires telles qu'elles s'appliquent au journalisme de tiers provenant de marques d'information de confiance telles que le Guardian.

Vos collègues de Microsoft n'ont pas répondu de manière substantielle à la demande du Guardian de discuter de la manière dont Microsoft a l'intention de travailler avec les éditeurs qui investissent dans l'information afin de nous indemniser pour l'utilisation de notre propriété intellectuelle dans la formation et le déploiement en direct des technologies d'IA au sein de vos entreprises commerciales plus larges. L'importante atteinte à la réputation causée par cet incident avec un licencié existant de notre propriété intellectuelle démontre le rôle important que joue un cadre solide pour le droit d'auteur en permettant aux éditeurs de négocier les conditions d'utilisation de notre journalisme.

Alors que le sommet mondial de cette semaine se concentre sur la sécurité à long terme, le moment est venu pour Microsoft et les autres grandes plateformes technologiques de définir des principes clairs sur la manière dont ils donneront la priorité a) à une information fiable, b) à une juste rétribution pour l'octroi de licences et l'utilisation du journalisme, et c) à une plus grande transparence pour les consommateurs et à des mesures de sauvegarde pour ce qui reste des technologies hautement imprévisibles.

Je vous prie d'agréer, Monsieur, l'expression de mes salutations distinguées,

Anna Bateson

Directrice générale,
Groupe Guardian Media

Sources : CNN, Guardian, Lettre adressée par Mme Bateson à M. Smith

Et vous ?

Quelle lecture faites-vous de cette situation ?

Que pensez-vous de cet usage de l'IA générative, et de ses retombées potentielles ?

Êtes-vous pour ou contre les articles d'actualités générés par l'IA tant qu'ils sont pertinents et factuellement exacts ?

Voir aussi

CNET publie discrètement des articles entiers générés par l'IA et l'indique sur un descriptif déroulant, puis se ravise suite aux réactions

La presse écrite veut être payée pour les articles utilisés pour alimenter l'outil d'IA ChatGPT, elle exige une part du marché qui devrait atteindre 1300 million de dollars d'ici à 2032

Microsoft lance Azure AI Content Safety pour filtrer les contenus nuisibles des utilisateurs et de l'IA, dans le but d'améliorer l'expérience utilisateur et de protéger son image de marque

Les dépenses en solutions GenAI atteindront 143 milliards de dollars en 2027, avec un taux de croissance annuel composé de 73,3 % sur cinq ans, selon les prévisions d'IDC

[melka one]

Quelle lecture faites-vous de cette situation ?

Vivement que la mode de l'IA se termine.

[Mingolito]

Vivement que la mode de l'IA se termine.

Tu n'as pas bien lu les prédictions des "experts", d'après eux c'est la mode du genre humain qui va finir, il ne restera plus que l'IA

[Anselme45]

Tu n'as pas bien lu les prédictions des "experts", d'après eux c'est la mode du genre humain qui va finir, il ne restera plus que l'IA

Tes "experts" devraient juste réfléchir une étape plus loin...

La fin du "mode genre humain" veut simplement dire la fin de "l'AI"!!!

Parce que l'on m'enlève un doute, cette magnifique AI de Microsoft qui génère des news en lieu et place des rédacteurs humains obtient comment ces news?

L'AI ne fait que récupérer de manière automatique des news qu'elle trouve sur le web... Des news qui ont été collectées par... des êtres humains

[poma88]

Il est manifeste que les réseaux sociaux exercent une influence délétère. Une majorité d’utilisateurs semblent se complaire dans la diffusion de contenus peu enrichissants ou dans la création de publications provocatrices, visant principalement à susciter la colère. Cette tendance est exacerbée par les algorithmes des plateformes, qui favorisent les interactions engendrées par des informations souvent négatives, car elles captent davantage l'attention des personnes désireuses d'exprimer haut et fort leur opinion.

À l'ère où l'intelligence artificielle s'apprête à se substituer progressivement aux tâches humaines, on peut se demander quel sera l'impact sur notre engagement avec ces contenus problématiques. Avec potentiellement plus de temps libre, les individus pourraient se retrouver encore plus assujettis à cette recherche compulsive de stimuli dopamine-inducteurs, naviguant à travers des contenus médiocres.

L'avenir semble loin d’être prometteur. Prenons l'exemple de l'information journalistique, où désormais, c'est souvent le titre qui fait office de nouvelle, et peu de personnes prennent le temps de lire les articles dans leur intégralité.