Discussion :

[Patrick Ruiz]

« Nul n'a besoin de l'IA pour effectuer des recherches en ligne », selon ce que suggère une décision d’un tribunal contre Google tenu responsable des fausses réponses produites dans ses résumés générés par IA

Une décision rendue par un tribunal allemand est susceptible d’avoir des répercussions sur tous les moteurs de recherche et chatbots basés sur l’IA , connus pour mal paraphraser les liens sources. Elle établit la responsabilité de Google pour les fausses déclarations contenues dans ses « AI Overviews » et ramène la question de la comparaison entre les moteurs de recherche dits classiques et ceux animés par l’intelligence artificielle sur la table.

Cette décision de justice s’appuie entre autres sur une affaire dans laquelle deux éditeurs ont constaté que les résumés générés par l'IA de Google les associaient à tort à des escroqueries et à d'autres pratiques commerciales douteuses.

Cette décision s’appuie entre autres sur une affaire dans laquelle deux éditeurs ont constaté que les résumés générés par l'IA de Google les associaient à tort à des escroqueries et à d'autres pratiques commerciales douteuses (un cas de diffamation similaire à celui d’un violoniste canadien qu’un résumé de l’IA de Google a présenté à tort comme un délinquant sexuel). Après avoir diffamé ces éditeurs en affirmant de manière catégorique que « oui, [cette entreprise] est connue pour ses pratiques commerciales douteuses et est souvent perçue comme une arnaque », Google n'a pas corrigé ces informations trompeuses, même après l’envoi par les éditeurs d’une mise en demeure plus tôt cette année.

Google invoque les arguments habituels pour se soustraire à toute responsabilité quant aux fausses déclarations contenues dans les « AI Overviews ». Le géant de la recherche en ligne affirme notamment que la plupart des utilisateurs comprennent que les résultats générés par l’IA ne sont pas toujours exacts et doivent être vérifiés.

Néanmoins, le tribunal a estimé que, à contrario des moteurs de recherche traditionnels qui se contentent de présenter des listes de liens vers des déclarations de tiers, l’outil de Google formule des « déclarations indépendantes, nouvelles et substantielles » fondées sur sa propre interprétation erronée des liens présents sur Internet.

C'est un problème, selon ce qui ressort de la décision de justice, car si les éditeurs ont pu intenter des poursuites pour empêcher des tiers de publier des déclarations diffamatoires apparaissant dans les résultats de recherche Google, seul Google peut corriger l'algorithme sous-jacent et les résultats affichés dans les « AI Overviews ». Et comme, du moins au départ, l'entreprise ne l'a pas fait, elle « doit donc être tenue pour responsable », a statué le tribunal. L’argumentaire de Google a été jugé particulièrement faible, puisque l’aperçu généré par l’IA dans cette affaire « contient des déclarations qui n’apparaissent absolument pas dans les résultats de recherche ».

La décision du tribunal — qui ordonne une injonction provisoire interdisant à Google de diffuser ces fausses allégations dans de futurs « AI Overviews » — est susceptible d’avoir des répercussions mondiales dans la filière des moteurs de recherche animés par l’intelligence artificielle.

« Nul n'a besoin de l'IA pour effectuer des recherches en ligne », selon ce que suggère la décision de la Cour régionale de justice de Munich

Historiquement, tout contenu potentiellement préjudiciable mis en avant par les moteurs de recherche a été protégé contre toute responsabilité directe, car cette mise en avant était considérée comme largement inévitable lorsqu’il s’agissait d’aider les utilisateurs à s’y retrouver dans l’immense masse d’informations disponibles en ligne.

Mais le tribunal allemand a souligné que les moteurs de recherche basés sur l'IA ne bénéficient pas de ces mêmes protections, car les résumés générés par l'IA ne fournissent qu'« une fonction supplémentaire — une fonction sans laquelle l'utilisation du moteur de recherche resterait (et reste) possible, et sans laquelle les utilisateurs sont parfaitement capables de trouver des résultats au milieu du « flot de données ».

En d’autres termes, personne n’a besoin de l’IA pour effectuer des recherches sur Internet ; les entreprises spécialisées dans l’IA ne peuvent donc pas simplement laisser leurs outils attribuer de fausses allégations à des sources factices sans en assumer la responsabilité.

Google a supprimé certains de ses résumés générés par IA après avoir mis en danger la santé des utilisateurs

Google Search a ajouté la fonction « AI Overviews » (« aperçus de l'IA ») le 14 mai 2024. Il s'agit de résumés concis générés par l'IA et qui apparaissent directement sur les pages de résultats de recherche de Google. Cette fonction est conçue pour aider les internautes à comprendre rapidement un sujet en combinant des informations provenant de différentes sources, dont les pages Web de résultats de recherche et la base de connaissances de Google.

Les résumés sont placés en haut de la page des résultats de recherche, et au-dessus des résultats rédigés par des humains. Peu après son lancement, les utilisateurs ont commencé à partager sur les réseaux sociaux les captures d'écran des réponses les plus farfelues générées par cette fonctionnalité.

Dans un cas, l'IA de Google a dit à un utilisateur de mettre de la colle sur sa pizza afin de faire adhérer le fromage. Elle a aussi conseillé aux utilisateurs de manger trois cailloux par jour, et s'est trompée en recommandant des champions vénéneux. Ces gaffes répétées ont soulevé des préoccupations concernant la sécurité de cette fonctionnalité et l’opportunité de la maintenir. Google a tout de même poursuivi le déploiement à l'échelle mondiale.

Une enquête parue sur developpez.com en début d’année révèle que les aperçus fournis par l'IA contenaient des informations inexactes et erronées lorsqu'ils étaient interrogés sur des analyses sanguines. Google insiste sur le fait que les aperçus générés par son IA sont « utiles » et « fiables ». Mais le rapport de l'étude indique que certains de ces résumés fournissaient des informations de santé inexactes, exposant la santé des utilisateurs à de nombreux risques.

Dans un cas qualifié de « dangereux » et « alarmant » par les experts, l'IA de Google a fourni des informations erronées sur des tests cruciaux de la fonction hépatique, pouvant amener des personnes atteintes d'une maladie grave du foie à penser à tort qu'elles étaient en bonne santé.

En tapant « quelle est la fourchette normale pour les tests sanguins du foie », l'équipe a constaté que le moteur de recherche fournissait une multitude de chiffres, sans contexte et sans tenir compte de la nationalité, du sexe, de l'origine ethnique ou de l'âge des patients. Selon les experts, ce que l'IA de Google considérait comme normal pouvait différer considérablement de ce qui était réellement considéré comme normal dans les pratiques médicales.

Les résumés pouvaient amener des patients gravement malades à penser à tort que leurs résultats d'examens étaient normaux et à ne pas se présenter aux rendez-vous médicaux de suivi. À l'issue de l'enquête, le géant de la recherche a supprimé les aperçus générés par l'IA pour les termes de recherche « quelle est la fourchette normale pour les tests sanguins hépatiques » et « quelle est la fourchette normale pour les tests de la fonction hépatique ».

Un test de la fonction hépatique (liver function test - LFT) est un ensemble de différents tests sanguins. Comprendre les résultats et savoir quoi faire ensuite est complexe et implique bien plus que la simple comparaison d'une série de chiffres. Mais selon le rapport indique, les aperçus de l'IA présentent une liste de tests en gras, ce qui fait que les lecteurs peuvent facilement oublier que ces chiffres ne sont peut-être même pas les bons pour leur test.

Conclusion

En mai 2024, Google avait pris des mesures rapides pour supprimer les résumés erronés fournis par l'IA de son moteur de recherche. Des captures d'écran partagées sur les médias sociaux montraient que l'IA de Google fournissait parfois des réponses épouvantables aux utilisateurs, voire dangereuses. Il s'avère que l'IA de Google traitait le site satirique The Onion comme une source crédible et l'exploitait sans cesse pour formuler ses réponses.

Victor Tangermann, rédacteur en chef du site Web technologique Futurism, a déclaré que les résultats de l'enquête de The Guardian montrent que « Google a encore beaucoup de travail à faire pour s'assurer que son outil d'IA ne diffuse pas de fausses informations dangereuses sur la santé ». Chez Google, on reste néanmoins d’avis que l’IA est l’avenir de la recherche en ligne.

Source : Decision de justice (pièce jointe)

Et vous ?

Que pensez-vous de cette décision ? Quel impact entrevoyez-vous sur la filière des moteurs de recherche animés par l’intelligence artificielle ? Partagez-vous l’avis selon lequel elle devrait être étendue à d’autres domaines d’application de l’intelligence artificielle que la recherche en ligne ?
Moteurs de recherche en ligne classique ou animés par l'intelligence artificielle : De quel bord êtes-vous ? Partagez votre expérience.
Partagez-vous l'avis de Google selon lequel l"intelligence artificielle est l'avenir de la filière de la recherche en ligne ?

[CosmoKnacki]

Ce qui me gêne avec cette AI Overview que propose/impose les moteurs de recherches, c'est qu'il s'agit d'une pollution supplémentaire qui vient s'ajouter à celle des liens sponsorisés, à celle d'Amazon/eBay (et autres vendeurs de masse) avec leurs liens du type ce que tu viens de taper For Sale!, et les blogs/sites pourraves pondus à la chaîne.
Donc une simple recherche, qui avant se faisait aisément, se transforme en véritable chasse au trésor aux liens qui soient pertinents (ou du moins cliquables). J'en ai mal à l'index à force de scroller.
Il est clair que l'IA n'est pas un outil mature et qu'il n'aurait jamais dû être déployé à grande échelle pour que tout un chacun puisse faire "mumuse" avec, mais plutôt cantonné à des domaines spécialisés en version payante, voire à rester dans les labos de recherches en sciences de l'informatique en attendant de trouver quelque chose de plus performant et de plus frugale que les LLMs. À la place de ça, c'est avec le cynisme commercial le plus abjecte et une totale irresponsabilité, que les entreprises de l'IA s'insinuent partout où elles le peuvent, même là où elles sont nulles et même là où on leur à rien demandé!
Il y a quelque années, on s'interrogeait sur le coût écologique d'une simple recherche. Que devrait-on dire aujourd'hui avec ce gadget qu'une bonne partie des usagers ignore (du moins ceux qui ont encore un peu de jugeote).

[totozor]

Il est clair que l'IA [...] n'aurait jamais dû être déployé à grande échelle pour que tout un chacun puisse faire "mumuse" avec, mais plutôt cantonné à des domaines spécialisés en version payante, voire à rester dans les labos de recherches en sciences de l'informatique

C'est le cas depuis quelques décennies en fait.

en attendant de trouver quelque chose de plus performant et de plus frugale que les LLMs. À la place de ça, c'est avec le cynisme commercial le plus abjecte et une totale irresponsabilité, que les entreprises de l'IA s'insinuent partout où elles le peuvent, même là où elles sont nulles et même là où on leur à rien demandé!

Bienvenue dans le capitalisme, on te vends quelquechose dont tu n'as pas besoin et que tu n'as pas demandé.
Quelquechose que tu ne peux plus fuir.
"Mais soit heureux, on te propose 'mieux' pour 'gratuit'. On ne te demandes pas ton avis parce que tu n'as aucune raison d'être contre"
En dehors du fait que ce n'est ni mieux ni gratuit.
Par contre je suis impressionné de la vitesse à laquelle ça s'insinue dans les habitudes des gens. Je croise des IAseptiques qui remplacent maintenant toutes leurs recherches google par une recherche Copilot et en gobent l'unique résultat - non documenté - sans contester.

Il y a quelque années, on s'interrogeait sur le coût écologique d'une simple recherche. Que devrait-on dire aujourd'hui avec ce gadget qu'une bonne partie des usagers ignore (du moins ceux qui ont encore un peu de jugeote).

C'est tout le génie de l'IA, elle tue l'esprit critique.
Tu poses une question, elle te fourni une réponse raisonnable qui devient une réalité.
Je suis un grand défenseur de la fénéantise prétextant qu'elle exige une malléabilité intellectuelle pour fournir un résultat satisfaisant avec le minimum d'effort.
L'IA m'oblige à revoir ma copie. le niveau du résultat satisfaisant a drastiquement diminué en quelques années et ceux qui résistent sont décrédibilisés.
Ionesco s'attaquait à l'efficacité de la propagande fasciste avec Rhinoceros, l'œuvre me semble tout autant applicable à l'IA. (l'état actuel du capitalisme serait il un fascisme? )