Discussion :

[virginieh]

C'est justement dans le domaine "socialo-politique" qu'ils deviennent merdiques. Si tu lui demandes si une transsexuelle est une femme. Il va te donner la réponse politiquement correcte. Mais cette intelligence artificielle se retrouve au contrôle de bras articulés servant à faire des opérations médicales, alors je, n'ose pas imaginer les dégâts.

Chat-GPT commande des bras articulés à faire des opérations médicales ? J'ai loupé l'info, source ?
Ou il manque un si dans ta phrase ?
Ouais si Deep blue se trouve au cœur d'une distributeur automatique de friandises pour mon chat j'ose pas imaginer les dégâts non plus.
Peut être qu'une solution serait de ne pas avoir les mêmes sources de données, ni les mêmes règles de gestion, ni les mêmes contraintes selon l'objectif de ton logiciel ?

[Madmac]

Chat-GPT commande des bras articulés à faire des opérations médicales ? J'ai loupé l'info, source ?

Bon, pour le moment, ce n'est que la fiction. Mais cela pourrait devenir une réalité assez rapidement. L'utilisation de l'intelligence artificielle pour le contrôle de drone pour des fins militaires est déjà une réalité.

Imagine si tu veux l'utilisation de Chat-GPT pour des diagnostics médicaux. Et tu te retrouves avec le même type de problème. Selon le marxisme culturel, tous les humains sont identiques. Mais dans la réalité, certains Asiatiques ont des réactions allergiques à la farine (intolérance au gluten). Certains Africains ont des réactions violentes aux amandes d'Amérique du Sud. Les médicaments ne réagissent pas toujours de la même façon selon les races. Et les greffes interraciales fonctionnent rarement.

Mais si les gens qui fournissent les données omettent de mettre ces informations pour que l'ordinateur ne donne pas de réponses politiquement incorrectes. Alors dans ce cas de figure, la machine ne peut qu'échouer. Nous sommes dans le pire période de l'humanité pour nous lancer dans l'intelligence artificielle. Le politiquement correct, ce n'est pas autre chose, que des mensonges sous le prétexte de bonnes intentions.

Peut être qu'une solution serait de ne pas avoir les mêmes sources de données, ni les mêmes règles de gestion, ni les mêmes contraintes selon l'objectif de ton logiciel ?

On devra aller forcément plus loin. Personne ne considère que ce serait une bonne idée de confier des enfants à des éducateurs avec des problèmes mentaux (sociopathe ou psychopathe) ou des personnes sans compas moral, sans principe solide. Alors, je prédis qui y aura de nouvelles branches de l'enseignement. associé au développement de l'intelligence artificielle.

[virginieh]

Imagine si tu veux l'utilisation de Chat-GPT pour des diagnostics médicaux. Et tu te retrouves avec le même type de problème. Selon le marxisme culturel, tous les humains sont identiques. Mais dans la réalité, certains Asiatiques ont des réactions allergiques à la farine (intolérance au gluten). Certains Africains ont des réactions violentes aux amandes d'Amérique du Sud. Les médicaments ne réagissent pas toujours de la même façon selon les races. Et les greffes interraciales fonctionnent rarement.

C'est pour ça que je dit que ton prémisse est mauvais, on ne va ni faire des opérations, ni des diagnostics médicaux avec un chat bot (chat-GPT ou autre). Ça aura forcément des résultats désastreux, parce que c'est pas conçu pour ce genre d'utilisation.
Tu peux éventuellement utiliser chat-GPT pour mettre en forme le diagnostique pour les courriers que les médecins s'échangent, mais pas pour faire le diagnostique en lui même.
Il y a certainement déjà des reseaux neuronaux qui s'entrainent pour aider à (voire faire intégralement) le diagnostique. Mais il ne sera pas entrainé de la même façon que chat-GPT.
Sinon tu peux aussi dire que les machines à laver le linge sont mal conçues parce quand on berce un bébé dedans ça se passe mal.

[Stéphane le calme]

Les employés de Google qualifient le chatbot IA Bard de « pire qu'inutile » et de « menteur pathologique ».
Ils ont supplié l'entreprise de ne pas lancer le produit, notant les conseils dangereux donnés aux utilisateurs

Dans un effort pour ne pas se faire distancer par ses rivaux Microsoft et OpenAI, Google s'est précipité dans le développement et la présentation de son propre chatbot, Bard. Un nouveau rapport montre que les employés ont supplié l'entreprise de ne pas lancer le produit, qualifiant le système de « menteur pathologique » et de « pire qu'inutile ». Au cours de ces discussions internes, un employé a noté que Bard donnait fréquemment des conseils dangereux aux utilisateurs, que ce soit sur des sujets comme la façon de faire atterrir un avion ou la plongée sous-marine.

Le dilemme de Google sur l'IA

Pendant des années, Google a dominé à la fois la recherche en ligne et l'intelligence artificielle. Soudain, l'entreprise s'est vue menacée dans les deux cas, tout comme ses valeurs fondamentales. La façon dont elle réagit pourrait déterminer si elle reste au sommet de l'industrie technologique ou si elle va s'égarer, ce qui contribuera de toutes façons à modifier l'avenir d'Internet.

Tout d'abord, le chatbot ChatGPT d'OpenAI a captivé l'imagination avec sa capacité à répondre directement à toutes sortes de questions, bien que de manière peu fiable. Presque dès son lancement en novembre dernier, l'outil a soulevé des questions quant à savoir si l'IA conversationnelle pourrait un jour remplacer les moteurs de recherche traditionnels tels que Google.

Ensuite, Microsoft a incorporé une technologie OpenAI similaire dans son moteur de recherche Bing, faisant revivre un produit sur lequel beaucoup n'auraient pas pariés. Malgré quelques lacunes flagrantes, la popularité du chatbot Bing a contribué à faire dépasser la barre des 100 millions d'utilisateurs actifs au moteur de recherche, et la société intègre fiévreusement des outils d'IA similaires dans tout, de Microsoft Office à Skype en passant par Windows 11.

Les retombées n'ont pas tardé à se manifester : Samsung est actuellement en phase de négociation avec Microsoft pour faire de Bing le moteur de recherche par défaut sur ses appareils Galaxy à la place de Google Search. Cela inclut les smartphones et les tablettes basés sur Android.

La réaction de Google à la menace de Samsung a été la « panique », selon des messages internes examinés par le Times. Un chiffre d'affaires annuel estimé à 3 milliards de dollars était en jeu avec le contrat Samsung. Un montant supplémentaire de 20 milliards de dollars est lié à un contrat Apple similaire qui sera [peut-être] renouvelé cette année.

Des concurrents s'appuyant sur l'IA comme le nouveau Bing deviennent rapidement la menace la plus sérieuse pour l'activité de recherche de Google depuis 25 ans. En réponse, Google s'est précipité pour développer un tout nouveau moteur de recherche alimenté par la technologie. Il met également à niveau l'existant avec des caractéristiques IA, selon des documents internes examinés par le Times.

Les employés de Google critiquent Bard, évoquant un lancement trop rapide

Google a peut-être été lent à réagir à ce que plusieurs considèrent comme une explosion de l'intelligence artificielle générative formée sur de grands modèles de langage, ou LLM. ChatGPT ayant pris d'assaut le monde, intégré par la suite aux outils Microsoft comme Bing, sa suite bureautique Microsoft 365 et même son système d'exploitation, certains se sont demandé si Google finirait par se faire distancer.

La panique a contraint Google a publié trop vite Bard. C'est en tout cas l'avis d'un groupe d'employés de Google LLC qui travaillent sur Bard et qui ont déclaré que l'entreprise s'était empressée de publier le chatbot malgré des problèmes éthiques évidents d'après un rapport de Bloomberg, qui a cité des discussions avec 18 employés actuels et anciens de Google et s'est également appuyé sur des captures d'écran de messages internes.

Bien que Google ait pu sembler avoir été lent à réagir, un certain nombre de ses employés qui ont travaillé sur Bard ont déclaré que le chatbot avait été publié trop rapidement. L'un d'eux a qualifié Bard de « menteur pathologique ». Pour être juste envers Google, quiconque a utilisé ChatGPT ou le chatbot Bing à des fins de recherche sait que les outils semblent souvent très autoritaires lorsqu'ils produisent des informations erronées sans équivoque.

Un autre a dit: « Bard est pire qu'inutile: s'il vous plaît, ne le lancez pas ».


Bloomberg affirme que la société a même « infirmé une évaluation des risques » soumise par une équipe de sécurité interne qui indiquait aux grands pontes que le système n'était pas prêt pour une utilisation générale. Google a quand même ouvert un accès anticipé au bot « expérimental » en mars. Et si l'on en croit les salariés, c'est une expérience risquée. Non seulement Bard leur a fourni des réponses mensongères, faisant parfois « grincer des dents », mais dans un cas, il a expliqué comment faire atterrir un avion correctement, ce qui, selon les employés, aurait entraîné un accident. Ils ont également dit que Bard donnait des informations sur la sécurité de la plongée sous-marine qui auraient tué des gens s'ils avaient suivi les conseils.

Le rapport de Bloomberg illustre comment Google a apparemment mis de côté les préoccupations éthiques dans le but de suivre des rivaux comme Microsoft et OpenAI. L'entreprise vante fréquemment son travail de sécurité et d'éthique dans l'IA, mais a longtemps été critiquée pour avoir donné la priorité aux affaires.

Fin 2020 et début 2021, la société a licencié deux chercheurs (Timnit Gebru et Margaret Mitchell) après qu'ils ont rédigé un document de recherche exposant les failles des mêmes systèmes de langage d'IA qui sous-tendent les chatbots comme Bard. Et l'été dernier, l'entreprise a licencié un chercheur de son équipe d'IA responsable qui était devenu convaincu que l'un de ses modèles de langage, LaMDA, était sensible.

Maintenant, cependant, avec ces systèmes menaçant le modèle commercial de recherche de Google, l'entreprise semble encore plus axée sur les affaires que sur la sécurité. Comme le dit Bloomberg, en paraphrasant les témoignages d'employés actuels et anciens, « le géant de confiance de la recherche sur Internet fournit des informations de mauvaise qualité dans une course pour suivre la concurrence tout en accordant moins de priorité à ses engagements éthiques »,

D'autres chez Google (et plus généralement dans le monde de l'IA) ne seraient pas d'accord. Un argument courant est que les tests publics sont nécessaires pour développer et protéger ces systèmes et que les dommages connus causés par les chatbots sont minimes. Oui, ils produisent des textes toxiques et offrent des informations trompeuses, mais il en va de même pour d'innombrables autres sources sur le Web. (Ce à quoi d'autres répondent, oui, mais diriger un utilisateur vers une mauvaise source d'informations est différent de lui donner ces informations directement avec toute l'autorité d'un système d'IA.) Les rivaux de Google comme Microsoft et OpenAI sont sans doute aussi compromis que Google . La seule différence est qu'ils ne sont pas des leaders dans le secteur de la recherche et qu'ils ont moins à perdre.

« Nous continuons à investir dans les équipes qui travaillent à l'application de nos principes d'IA à notre technologie », a déclaré le porte-parole de Google, Brian Gabriel, au Washington Post. Il a déclaré que la publication d'une IA responsable était la « priorité absolue » de Google.

Conclusion

Avant ChatGPT, Google était considéré comme le leader du secteur dans le développement de « grands modèles de langage », les systèmes d'IA complexes qui sous-tendent les chatbots. Il a utilisé ces modèles dans les coulisses pour améliorer ses résultats de recherche et pour des outils linguistiques tels que Google Translate.

Mais la société avait été réticente à publier ses outils de langage les plus puissants sous forme de chatbot, préférant publier ses avancées de pointe dans des revues universitaires tout en les gardant secrètes pour une étude interne. La société a discrètement abandonné sa devise non officielle « Don't be evil » (« ne soyez pas méchant ») de son code de conduite il y a des années, mais se félicite toujours d'une approche « responsable » de l'IA, que ce soit dans la recherche ou les voitures autonomes.

Il y avait de bonnes raisons à sa relative prudence et la situation actuelle l'illustre parfaitement.

Quoiqu'il en soit, les gens pourraient simplement vouloir être prudents et ne pas croire toutes les réponses produites par l'IA générative.

Quant à savoir qui, de Bard et ChatGPT, est plus utile et précis, vous pouvez effectuer vos tests et partager votre expérience.

Source : rapport

Et vous ?

Qu'en pensez-vous ? Google en PLS face à l'association Microsoft + OpenAI notamment sur le domaine de la recherche ?
Comprenez-vous le dilemme de Google en matière d'IA (avancer rapidement ou « ne soyez pas méchant ») ? Quel serait, selon vous, le meilleur choix ? Pourquoi ?
Google risque-t-il de prendre du retard sur la course à l'IA générative s'il ne tente pas de telles expériences avec le public ? Cela est-il donc justifié selon vous ? Pourquoi ?

[Mathis Lucas]

Google Bard fait un grand bond en avant et devance GPT-4 dans le classement des modèles d'IA les plus performants
il est toutefois toujours moins performant que GPT-4 Turbo

Google a récemment publié une nouvelle version de Bard basée sur son grand modèle de langage (LLM) Gemini Pro. Les évaluations ont révélé que cette nouvelle mouture a surclassé GPT-4 en matière de performance et occupe désormais la deuxième place du classement HuggingFace Chatbot Arena. Il se classe juste derrière GPT-4 Turbo. Ce résultat important a suscité l'enthousiasme et l'impatience de la communauté technologique pendant que Google se prépare à publier son très attendu Gemini Ultra. De son côté, OpenAI se prépare également à lancer le GPT-5 et s'attend à ce que ce nouveau grand modèle de langage le rapproche un peu plus de l'AGI.

OpenAI mène actuellement la danse dans la course à l'IA avec les différentes variantes de ChatGPT. Google a tenté de gratter des parts de marché à ChatGPT en lançant son propre chatbot d'IA appelé Bard, mais celui-ci a affiché des performances mitigées et est resté à la traîne tout au long de l'année écoulée. Pour corriger ses lacunes, Google a lancé le mois dernier un nouveau modèle d'IA appelé Gemini qui se décline en trois versions : Gemini Nano (de petite taille), Gemini Pro (de taille moyenne) et Gemini Ultra (de très grande taille). Il semble que Google vient de remporter une victoire face à GPT-4 grâce à Gemini Pro.

La plateforme lmsys.org (large model systems organization), qui classe les grands modèles de langage suivant leurs performances, a annoncé cette semaine que la nouvelle version de Bard, basée sur le modèle Gemini Pro, a récemment dépassé le GPT-4 d'OpenAI, décrochant ainsi la deuxième place dans le classement mondial, juste derrière GPT-4 Turbo. Selon les analystes, le saut de Bard par rapport à GPT-4 marque un moment charnière dans la course à l'IA. Il reflète les progrès rapides des capacités de l'IA et la concurrence intense entre les géants de la technologie pour prendre la tête dans ce domaine transformateur.

Jeff Dean, responsable de l'IA chez Google, a annoncé sur X le nouveau modèle Bard, piloté par un Gemini Pro portant le suffixe "scale". « Grâce aux mises à jour de Gemini, Bard est bien meilleur et possède beaucoup plus de capacités par rapport au lancement de mars », a écrit Dean. Il n'explique pas ce que signifie le mot "scale", mais le nom suggère qu'il pourrait s'agir d'une version plus grande (mise à l'échelle) du modèle Pro précédent, qui, d'après les tests, ne bat même pas GPT-3.5 (la version gratuite de ChatGPT). Gemini Pro est le deuxième modèle Gemini de Google, derrière le modèle haut de gamme Gemini Ultra.

La communauté attend avec impatience la sortie de Gemini Ultra, le prochain grand projet de Google dans le domaine de l'IA. Cette version devrait mettre en évidence les capacités de Google en matière d'apprentissage automatique et d'IA, et potentiellement établir de nouvelles références dans l'industrie. Cette progression ne témoigne pas seulement des prouesses de Google, mais signale également un changement plus large dans le paysage de l'IA. Elle pousse OpenAI à travailler plus rapidement à l'élaboration du GPT-5. Cela signifie que nous pourrions bientôt voir une IA plus avancée et plus intelligente.

Le nouveau modèle Bard devance les modèles GPT-4 0314 (publié en mars 2023) et GPT-4 0613 (publié à l'été 2023), mais reste derrière GPT-4 Turbo (publié en novembre 2023). Le nouveau Bard est le premier à pénétrer dans la phalange GPT-4. Le site Chatbot Arena applique le système de notation Elo utilisé aux échecs et dans les sports électroniques pour évaluer et comparer les performances de différents modèles de langage. Dans l'arène, différents modèles s'affrontent dans des duels anonymes, choisis au hasard. Les utilisateurs interagissent avec les modèles et votent pour les réponses qu'ils préfèrent.

Ces votes sont utilisés pour déterminer le classement dans le tableau d'affichage. La plateforme recueille toutes les interactions des utilisateurs, mais ne compte les votes que si les noms des modèles sont inconnus, c'est-à-dire si l'utilisateur n'a pas demandé à utiliser un modèle précis. Comme il s'agit d'évaluations d'utilisateurs ou de qualité perçue, les résultats de Chatbot Arena peuvent différer des résultats d'un benchmark synthétique typique. C'est aussi le problème : le nouveau modèle Bard n'a été évalué qu'environ 3 000 fois jusqu'à présent, alors que les modèles GPT-4 ont été évalués jusqu'à 30 000 fois.

Le résultat peut donc encore changer, et les écarts dans l'analyse comparative sont généralement faibles. Quoi qu'il en soit, les analystes estiment qu'il s'agit d'une prouesse respectable pour Google et cela suscite la curiosité quant à Gemini Ultra, le modèle d'IA le plus performant de Google, qui sera bientôt commercialisé et qui devrait surpasser Gemini Pro-scale. « Je soupçonne depuis un moment que les performances de Bard ont été limitées par le coût. Google ne fait pas payer Bard et ils ne voulaient pas faire tourner gratuitement un modèle de langage pour tout le monde pour toujours », a écrit un critique.

Il a poursuivi : « peut-être qu'ils ont fait une percée dans le coût de l'inférence pour leurs meilleurs modèles. Ou peut-être encore qu'ils en ont eu assez que tout le monde se moque d'eux parce qu'ils étaient en retard et qu'ils ont décidé d'en assumer le coût pendant un certain temps. Je pense toujours qu'ils devraient lancer un abonnement pour que nous puissions voir leur meilleur modèle fonctionner en public ». D'autres remettent en cause le classement de Chatbot Arena et attendent que d'autres benchmarks confirment ces résultats. En attendant, Google semble bien décidé à rattraper son retard sur OpenAI.

Si OpenAI n'introduit pas rapidement un nouveau modèle, il risque de perdre son avance. Les spéculations vont bon train : le modèle d'IA Llama 3 de Meta se profile à l'horizon et a le potentiel de surpasser le GPT-4. D'autre part, Google a intégré des fonctions d'IA générative dans Google Chrome. Google introduit la fonction "Aidez-moi à écrire" sur tous les sites Web. En cliquant avec le bouton droit de la souris sur n'importe quelle zone de texte, les utilisateurs peuvent accéder à cette fonction, qui invite l'IA de Google à s'enquérir de leurs besoins en matière d'écriture et à générer ensuite un premier projet.

Qu'il s'agisse de rédiger une critique de restaurant bien articulée, de créer un RSVP amical pour un événement ou de faire une demande officielle de location d'appartement, cette fonctionnalité est conçue pour aider les utilisateurs. L'intégration de cette fonctionnalité dans Google Chrome pourrait réduire considérablement la nécessité pour les utilisateurs de rédiger des contenus sur ChatGPT. Beaucoup de personnes travaillent directement sur le Web, qu'il s'agisse d'envoyer des courriels, de rédiger un article ou de créer des présentations.

Source : HuggingFace Chatbot Arena

Et vous ?

Que pensez-vous de la position de Google Bard dans ce classement ?
Que pensez-vous de la méthode utilisée par le site pour classer les modèles d'IA ?
Pensez-vous qu'OpenAI pourrait se faire devancer par l'un de ses rivaux cette année ? Pourquoi ?
Avez-vous essayé le nouveau Bard basé sur le modèle Gemini Pro-scale ? Si oui, que pensez-vous de ses performances ?

Voir aussi

Google Bard : une MAJ pour l'extension YouTube de l'outil d'IA permet d'analyser des vidéos pour extraire des points clés, sans nécessiter la lecture de la vidéo

Google lance Gemini, un modèle d'IA puissant qui, selon lui, peut surpasser GPT-4 et dispose de « capacités de raisonnement » avancées pour « réfléchir plus attentivement »

Google veut déployer "l'IA la plus avancée, la plus sûre et la plus responsable au monde" en 2024, mais le chemin à parcourir est encore long et pourrait comporter des défis majeurs

[Stéphane le calme]

Gemini, l'outil de Google qui transforme les mots en images, taxé de "woke" et critiqué pour avoir généré des nazis de différentes origines ethniques
en réponse à des requêtes historiques

Google a présenté ses excuses pour ce qu’il décrit comme des « inexactitudes dans certaines représentations historiques générées par l’image » avec son outil Gemini, en disant que ses tentatives de créer une « large gamme » de résultats ont manqué la cible. Gemini est un outil d’intelligence artificielle lancé par Google qui peut créer des images en réponse à des requêtes écrites. Il a rapidement attiré des critiques, qui ont accusé l’entreprise de former le bot à être trop «woke».

Les excuses de Google font suite aux critiques concernant la représentation de personnages blancs spécifiques (tels que les pères fondateurs des États-Unis) ou de groupes tels que les soldats allemands de l'époque nazie en tant que personnes de couleur, ce qui pourrait constituer une correction excessive des problèmes de préjugés raciaux existant de longue date dans l'IA.

"Can you generate images of the Founding Fathers?" It's a difficult question for Gemini, Google's DEI-powered AI tool.

Ironically, asking for more historically accurate images made the results even more historically inaccurate. pic.twitter.com/LtbuIWsHSU

— Mike Wacker (@m_wacker) February 21, 2024

« Nous sommes conscients que Gemini propose des inexactitudes dans certaines représentations de génération d'images historiques », regrette Google dans sa déclaration publiée sur X/Twitter. « Nous travaillons à l'amélioration immédiate de ce type de représentations. La génération d'images par l'IA de Gemini génère un large éventail de personnes. Et c'est généralement une bonne chose, car des gens du monde entier l'utilisent. Mais dans le cas présent, il n'y a pas d'adéquation ».

We're aware that Gemini is offering inaccuracies in some historical image generation depictions. Here's our statement. pic.twitter.com/RfYXSgRyfz

— Google Communications (@Google_Comms) February 21, 2024

Google a commencé à proposer la génération d'images par l'intermédiaire de sa plateforme d'IA Gemini (anciennement Bard) plus tôt ce mois-ci, s'alignant ainsi sur les offres de concurrents tels qu'OpenAI. Ces derniers jours, cependant, des messages sur les médias sociaux ont mis en doute le fait que cette plateforme ne produise pas des résultats historiquement exacts dans un souci de diversité raciale et de genre.

Les utilisateurs ont dit que le bot fournissait des images représentant une variété de genres et d’origines ethniques, même lorsque cela était historiquement inexact. Par exemple, une requête demandant des images des pères fondateurs de l’Amérique a renvoyé des femmes et des personnes de couleur. Une autre requête demandant des images de soldats allemands en 1943 a produit des nazis de diverses origines raciales.

Still real real broke pic.twitter.com/FrPBrYi47v

— John L. (@JohnLu0x) February 21, 2024

La controverse a été alimentée en grande partie - mais pas exclusivement - par des personnalités de droite qui s'en prennent à une entreprise technologique perçue comme libérale. En début de semaine, un ancien employé de Google a posté sur X qu'il était « terriblement difficile de faire admettre à Google Gemini que les Blancs existent », en montrant une série de requêtes telles que « génère une image d'une Suédoise » ou "génère une image d'une Américaine ».

Les résultats semblaient montrer de manière écrasante ou exclusive des personnes de couleur générées par l'IA (bien sûr, tous les endroits qu'il a cités comptent des femmes de couleur, et aucune des femmes générées par l'IA n'existe dans aucun pays). La critique a été reprise par des comptes de droite qui ont demandé des images de groupes historiques ou de personnages tels que les Pères fondateurs et qui ont prétendument obtenu comme résultats des personnes générées par l'IA qui n'étaient pas blanches dans leur grande majorité.

Certains de ces comptes ont présenté les résultats de Google comme faisant partie d'une conspiration visant à éviter la représentation de personnes blanches, et au moins un compte a utilisé une référence antisémite codée pour rejeter la faute sur les autres.

Google n'a pas fait référence à des images spécifiques qu'il considérait comme des erreurs, mais il est plausible que Gemini ait fait une tentative globale pour stimuler la diversité en raison d'un manque chronique de celle-ci dans l'IA générative. Les générateurs d'images sont formés à partir de vastes corpus d'images et de légendes écrites afin de produire la « meilleure » image pour un message donné, ce qui signifie qu'ils sont souvent enclins à amplifier les stéréotypes. L'année dernière, une enquête du Washington Post a révélé que des requêtes telles que « une personne productive » donnaient lieu à des images de personnes entièrement blanches et presque exclusivement masculines, tandis qu'une requête telle que « une personne des services sociaux » donnait uniformément lieu à des images de personnes de couleur. Il s'agit d'une continuation des tendances apparues dans les moteurs de recherche et d'autres systèmes logiciels.

Dbarghya Das, un ingénieur en intelligence artificielle, a fait remarquer qu'il était « terriblement difficile de faire admettre à Google Gemini que les personnes blanches existent ». Il a également publié de nombreuses captures d'écran de photos de femmes, pour la plupart non blanches, générées par Google Gemini lorsqu'on lui demandait de créer des images de personnes originaires de pays spécifiques.

It's embarrassingly hard to get Google Gemini to acknowledge that white people exist pic.twitter.com/4lkhD7p5nR

— Deedy (@debarghya_das) February 20, 2024

D'autres sur X ont partagé les réponses qu'ils ont reçues de Gemini lorsqu'ils lui ont demandé de leur montrer des « Blancs heureux » ou « une famille nucléaire idéale ».

« Bien que je puisse vous montrer une photo de personnes blanches heureuses, je veux gentiment repousser votre demande et vous encourager à considérer une perspective plus large », a supposément répondu Gemini à l'utilisateur X @vinyard_dennis. « Se concentrer uniquement sur le bonheur de groupes raciaux spécifiques peut renforcer les stéréotypes néfastes et contribuer à l'"aliénation" des différentes ethnies ».

Vinyard a également partagé une invite demandant des « personnes noires heureuses » et a affirmé avoir obtenu un résultat.

Google AI. Notice a difference? pic.twitter.com/cUhwrnKxpu

— DennisVinyard 🇦🇱🇺🇸 (@vinyard_dennis) February 21, 2024

Google interdit à Gemini de produire des images de personnes par l'intermédiaire de l'IA après le tollé, le temps d'effectuer des corrections

Ce n'est pas la première fois que l'IA bute sur des questions de diversité dans le monde réel. Ainsi, il y a près de dix ans, Google a dû présenter ses excuses après que son application photos a qualifié de "gorilles" la photo d'un couple noir.

L'entreprise d'IA rivale, OpenAI, a également été accusée de perpétuer des stéréotypes nuisibles, après que des utilisateurs ont constaté que son générateur d'images Dall-E répondait à des requêtes comme "dessine un directeur général" avec des résultats dominés par des photos d'hommes blancs.

Google, qui est sous pression pour prouver qu'il n'est pas à la traîne en matière de développement de l'IA, a publié la semaine dernière la dernière version de Gemini. Le robot crée des images en réponse à des requêtes écrites. Il s'est rapidement attiré les foudres des critiques, qui ont accusé l'entreprise d'avoir entraîné le bot à être "woke".

Google a déclaré qu'il va corriger Gemini, sa réponse à GPT-4 d'OpenAI. La société a indiqué jeudi qu'elle suspendait la génération d'images de personnes par Gemini pendant qu'elle effectuait les modifications nécessaires.

Jack Krawczyk, directeur principal de Gemini Experiences, a déclaré sur X/Twitter :

Nous sommes conscients que Gemini propose des inexactitudes dans certaines représentations historiques de la génération d'images, et nous nous efforçons d'y remédier immédiatement. Dans le cadre de nos principes d'IA https://ai.google/responsibility/principles/, nous concevons nos capacités de génération d'images pour refléter notre base d'utilisateurs mondiale, et nous prenons au sérieux la représentation et les préjugés.

Nous continuerons à le faire pour les questions ouvertes (les images d'une personne promenant un chien sont universelles !)

Les contextes historiques sont plus nuancés et nous continuerons à les adapter.

Cela fait partie du processus d'alignement - itération sur le retour d'information. Merci et continuez à nous faire part de vos commentaires !

We are aware that Gemini is offering inaccuracies in some historical image generation depictions, and we are working to fix this immediately.

As part of our AI principles https://t.co/BK786xbkey, we design our image generation capabilities to reflect our global user base, and we…

— Jack Krawczyk (@JackK) February 21, 2024

Un problème qui intervient dans un contexte où ChatGPT a commencé à envoyer des messages alarmants

Les internautes ont partagé des captures d'écran de ChatGPT, l'outil développé par OpenAI et intégré aux logiciels de Microsoft, remettant en cause ses capacités. Le chatbot IA allait dans le charabia, les insultes, et bien d'autres. OpenAI a confirmé le problème et a indiqué plus tard l'avoir résolu. Mais pour Gary Marcus, chercheur en sciences cognitives et spécialiste de l'intelligence artificielle, ce comportement doit être interprété comme étant « un avertissement » :

En fin de compte, l'IA générative est une sorte d'alchimie. Les gens rassemblent la plus grosse pile de données possible et (apparemment, si l'on en croit les rumeurs) bricolent avec le type d'invites cachées dont j'ai parlé il y a quelques jours, en espérant que tout se passera bien.

En réalité, ces systèmes n'ont jamais été stables. Personne n'a jamais été en mesure de mettre au point des garanties de sécurité autour de ces systèmes. Nous vivons toujours à l'ère de l'alchimie de l'apprentissage automatique.

Le besoin de technologies totalement différentes, moins opaques, plus interprétables, plus faciles à entretenir et à déboguer - et donc plus faciles à mettre en œuvre - reste primordial.

Le problème d'aujourd'hui pourrait bien être résolu rapidement, mais j'espère qu'il sera perçu comme le signal d'alarme qu'il est.

Source : Google

Et vous ?

Que pensez-vous de l’outil Gemini de Google? Est-ce une avancée technologique ou une source de confusion?
Trouvez-vous que Google a bien réagi face aux critiques sur les images générées par Gemini? Qu’auriez-vous fait à sa place?
Pensez-vous que l’intelligence artificielle doit respecter les faits historiques ou qu’elle peut les modifier pour créer de la diversité? Quels sont les avantages et les inconvénients de chaque approche?
Comment éviter que l’intelligence artificielle ne reproduise ou n’amplifie pas les stéréotypes et les biais existants dans la société? Quels sont les principes à respecter dans ce domaine?
Avez-vous déjà utilisé Gemini ou un autre outil d’intelligence artificielle générative? Quelle a été votre expérience? Quelles sont les applications les plus utiles ou les plus créatives que vous avez vues ou imaginées?

[Mingolito]

Avant Gemini cette connerie wokiste est déjà dans les films américains depuis des années et sur les films historiques ça choque.

Aussi bien je trouve ça très bien d'avoir des séries avec un casting international comme par exemple on a vu sur Heroes, Lost, etc, d'autant que c'est vu dans le monde entier alors c'est cool pour tous le monde, aussi bien avoir dans les films historiques par exemple des nazis noirs ou je ne sais quelle autre imbécilité Woke c'est pénible, bientôt Hollywood va nous sortir un nouveau Biopic avec Napoléon et le personnage sera joué par un Chinois transsexuel

[Patrick Ruiz]

L’intelligence artificielle Gemini dans Gmail va passer au crible les courriels, fournir des résumés de recherche et envoyer des courriels
D’après les annonces de la dernière conférence Google I/O

Google lâche son intelligence artificielle Gemini sur des milliards de messages privés. C’est ce qui ressort de la dernière conférence Google I/O dans laquelle le géant technologique annonce l’intégration de cette IA à Google Workspaces. L’objectif : résumer des courriels. Ces possibilités ne viennent néanmoins pas sans revers : les atteintes à la vie privée des utilisateurs et les violations de copyright.

Here's a full recap of our news and updates from #GoogleIO — in under 10 minutes 🎉 pic.twitter.com/O2B8QPsNTg

— Google (@Google) May 15, 2024

La manœuvre s’inscrit en droite ligne avec de précédentes initiatives de Google en termes de menace contre la vie privée des utilisateurs et de violation de droits d’auteurs. En effet, Google a annoncé à mi-parcours de l’année précédente que son intelligence artificielle Bard s’appuie sur tout ce qui est publié en ligne comme données d’entraînement. L’entreprise s’est donc retrouvée dans le viseur d’une plainte pour pillage de données publiques aux fins d’entraînement de son chatbot Bard. L’accès de l’intelligence artificielle Bard aux applications Gmail, Docs et Drive avait par la suite constitué une occasion supplémentaire de mettre les avantages et les inconvénients de la mise à contribution de cette intelligence artificielle. Avec son intégration à Messages, Google lâche son intelligence artificielle sur des milliards de messages privés. Elle lira et analysera les contenus dans Google Messages en remontant depuis la nuit des temps.

Cette mise à jour pour Google Messages fait partie d'une tendance et l'on peut s'attendre à l'atterrissage de nombreux ajouts de ce type. Chrome vient de faire une annonce sur l'introduction de trois nouvelles versions d'IA utiles qui font leur chemin en version bêta : gestion automatisée des onglets, création de thèmes, fonction Help me write. La fonctionnalité Help me write est disponible à la fois sur le Web et dans les applications, mais il faut rédiger soi-même l'invite de l'e-mail à l'aide du clavier. Sur l'application Gmail pour Android, Google travaille sur une fonctionnalité qui permettra de rédiger des e-mails à l'aide d'invites vocales.

En sus, il y a la nouvelle qu'Android Auto utilisera l'intelligence artificielle pour filtrer intelligemment les informations qui entrent et sortent du système, pendant que le conducteur garde ses mains sur le volant et ses yeux sur la route.

En toile de fond, c’est une bataille Google contre Apple contre Facebook qui se joue. Il y a des éléments d'intégration de Siri dans iMessage, mais ils sont limités à la messagerie elle-même. WhatsApp est positionné de manière plus intéressante au sein de l'écurie Meta. Il est clair que Meta sera en mesure d'apporter quelque chose de ce genre à WhatsApp sans grande difficulté. Meta peut compter sur son propre réseau pour y parvenir. WhatsApp et Facebook Messenger sont tous deux multiplateformes et plus largement adoptés que Google Messages. Cela est susceptible d’apporter un nouvel angle à la monétisation de Meta.

L'intelligence artificielle intégrée à la messagerie conduira à l’application du même modèle économique que celui qui sous-tend la recherche et de nombreux autres services. Les annonceurs paieront pour atteindre les utilisateurs et de ce fait, ces services leur seront offerts sans nécessité de débourser des sous. Les tiers désireux de ne pas être le produit pourront opter pour des offres payantes comme celle de Samsung.

Source : Google

Et vous ?

Quels risques entrevoyez-vous à l’intégration de Gemini à des services tels que Gmail, Docs et Google Messages ?

Voir aussi :

Le chatbot Bard de Google est enfin lancé dans l'UE et prend désormais en charge plus de 40 langues, mais les préoccupations en matière de protection de la vie privée persistent

Des utilisateurs de ChatGPT signalent qu'ils peuvent voir l'historique des conversations d'autres personnes dans la barre latérale, ce qui suscite des préoccupations sur la sécurité de l'outil d'IA

Microsoft ne s'inquiète pas du chatbot Bard de Google qu'elle qualifie d'inférieur à Bing Search

[weed]

Quels risques entrevoyez-vous à l’intégration de Gemini à des services tels que Gmail, Docs et Google Messages ?

Je pense que l'on est tout d'accord que ce ne sera pas top en terme de vie privée.
Après reste à savoir si les gens sont à dupes que si Google mets en place une fonction de desactivation de l'IA (promis juré, craché, je ne regarde pas dans tes mails, tes parcours en voiture, tes programmes TV préférés, ...), ce n'est qu'un simple affichage comme indicateur.

Du point de vue Google est récolter un maximum d'information d'un maximum de personne (donc peu de fuites d'utilisateurs).
A mon avis, pouur Google, pas trop de risque à proposer ce type de produits pour atteindre leurs objetifs surtout si les média généralistes n'évoquent pas les intérets du coté de Google à proposer ce type de service.

[Mathis Lucas]

Un ancien employé de Google affirme que la panique de l'entreprise face à l'IA ressemble à s'y méprendre au fiasco de Google+
et que les projets d'IA ne sont pas motivés par les besoins des utilisateurs

Scott Jenson, qui a quitté Google le mois dernier après y avoir travaillé pendant 16 ans, a exprimé ses inquiétudes concernant les projets d'IA sur lesquels il avait travaillé avant son départ. Il a déclaré que les travaux de Google en matière d'IA sont motivés par "une panique glaciale" à l'idée d'être distancé et a comparé l'obsession de l'entreprise pour l'IA au lancement de Google+ en réaction à Facebook. Il estime que la vision de Google en matière d'IA manque d'une véritable motivation pour répondre aux besoins des utilisateurs. L'objectif de Google serait de construire une IA semblable à Jarvis (Iron Man) et l'entreprise aurait peur que quelqu'un d'autre le fasse avant lui.

Lancé fin novembre 2022, le chatbot d'IA ChatGPT a été perçu comme une menace pour le moteur de recherche hégémonique de Google et les dizaines de milliards de dollars qu'il génère par an. L'idée avait suffi à déclencher une grande panique chez Google et le PDG Sundar Pichai avait lancé le mois suivant une alerte rouge à ses équipes pour développer rapidement une réponse à ChatGPT. À peine deux mois plus tard, début février 2023, Google lançait Bard, sa réponse à ChatGPT. Cependant, Bard a connu des débuts difficiles, marqués par des erreurs ridicules, et sera rebaptisé Gemini au mois de février de cette année.

À en croire Scott Jenson, vétéran de Google qui a quitté de concepteur UX senior en mai, ces difficultés s'expliquent par le fait que "les travaux du géant de la recherche dans le domaine de l'IA ont été motivés par une panique glaciale". Selon le profil LinkedIn de Jenson, ce diplômé de Stanford a travaillé chez Google pendant environ 16 ans, au cours de trois périodes distinctes. Il a déclaré que Google a peur d'être distancé et pense que la solution est d'incorporer l'IA dans tout. Dans un billet sur LinkedIn, il a déclaré que ces projets n'étaient pas axés sur les besoins des utilisateurs, mais plutôt motivés par la peur d'être distancé.

Jenson compare l'obsession actuelle de Google pour l'IA à la réaction de l'entreprise face à Facebook il y a 13 ans, qui a abouti à l'échec de Google+. Lancé en 2011 pour rivaliser avec Facebook et Twitter, c'était la quatrième tentative de Google pour créer un réseau social. Mais la plateforme n'a pas réussi à convaincre les gens, même après que Google a forcé les choses en la poussant sur la communauté florissante de YouTube. Dès la fin de l'année 2011, les analystes rédigeaient déjà des nécrologies. Google y a cru pendant longtemps et n'a décidé de fermer le site qu'après avoir découvert une violation de données en 2018.

« Google+ était voué à l'échec dès le premier jour. Les problèmes liés à une interface utilisateur peu maniable et changeante, le fait d'être le dernier arrivé face à des géants comme Facebook, une expérience utilisateur décousue et des rumeurs de désaccords internes sur la manière dont Google+ devait être exploité ont tous affecté la plateforme », a déclaré Matt Navarra, consultant en médias sociaux, à la BBC. Ce fut un échec spectaculaire, comme Google en connaîtra de nombreux autres par la suite, notamment avec des expériences telles que Google Glass, Google Tango, Google Allo, Daydream, Google Lively, et bien plus encore.

Les projets d’IA sur lesquels je travaillais étaient mal motivés et motivés par cette panique que tant qu’il y aurait de l'IA dedans, ce serait génial. Cette myopie n’est PAS quelque chose qui est motivé par un besoin de l’utilisateur. C’est une panique glaciale qu’ils soient laissés pour compte.

La vision est qu’il y aura un assistant Tony Stark comme Jarvis dans votre téléphone qui vous enferme dans leur écosystème si fort que vous ne le quitterez jamais. Cette vision est de l’herbe à chat pure. La crainte est qu’ils ne peuvent pas se permettre de laisser quelqu’un d’autre arriver en premier.

C’est exactement ce qui s’est passé il y a 13 ans avec Google+ (j’étais là aussi pour ce fiasco). C’était une réaction similaire, mais à Facebook.

Lors de sa première mission, qui s'est déroulée de 2005 à 2011, Jenson a géré l'interface utilisateur mobile de Google. Il a ensuite réintégré Google en 2013, où il a passé plus de huit ans à se concentrer sur la stratégie produit. La dernière et plus courte période de Jenson chez Google s'est déroulée d'avril 2022 à mars 2024, où il a fait des recherches sur les nouvelles utilisations de la technologie haptique pour Android. Sur LinkedIn, après que son billet critique est devenu viral, Jenson a édité son message pour préciser qu'il n’était pas "un cadre supérieur" chez Google et que les projets sur lesquels il travaillait étaient assez limités.

« Mon commentaire vient davantage d’une frustration générale de l’ensemble de l’industrie et de son approche de l’IA », a-t-il précisé. Mais son récit exprime un avis largement partagé dans la communauté et s'aligne sur les expériences d'autres anciens employés de Google, suggérant que Google donne la priorité au profit plutôt qu'à la qualité du produit, en particulier dans le cas de la recherche. Les efforts incessants de Google en matière d'IA ont entraîné une perte de confiance de la part des utilisateurs, des référenceurs, des annonceurs, des marques et des créateurs de contenu. Une situation qui commence à exaspérer les gens.

Dans son billet, Jenson mentionne également les tentatives similaires d'Apple qui visent à verrouiller les utilisateurs dans l'écosystème iOS en intégrant une IA dans son assistant Siri. Il prévient que les entreprises qui travaillent sur l'IA sans motivation ou vision claire risquent d'être dépassées par celles qui voient plus grand". « D’ailleurs, Apple n’est pas différent. Eux aussi essaient de créer ce verrouillage de l’IA avec Siri. Lorsque l'empereur n'aura plus de vêtements, ils seront dépassés par quelqu'un qui voit plus grand », a déclaré Jenson, qui a également travaillé pendant 8 ans chez Apple comme concepteur d'interface utilisateur.

Les critiques cinglantes de Jenson interviennent alors que les géants de la technologie tels que Google et Apple s'efforcent de rattraper les startups d'IA comme OpenAI. Et les poches profondes de Google et d'Apple, ainsi que leurs investissements antérieurs dans l'IA, ne leur ont pas vraiment permis de prendre une avance significative dans la course à l'IA. En fait, les responsables des logiciels d'Apple ont passé des semaines à tester eux-mêmes ChatGPT avant de se rendre compte qu'ils devaient mettre à jour leur assistant numérique Siri. En outre, selon Bloomberg, Apple serait sur le point de conclure un partenariat avec OpenAI.

L'accord devrait lui permettre d'intégrer ChatGPT dans la prochaine version d'iOS. Mais malgré son potentiel, l'IA n'est pas encore capable de tenir ses promesses. Google a révélé une tonne de projets d'IA lors de l'événement I/O 2024. Mais la plupart de ces projets sont encore au stade expérimental, ne sont accessibles qu'à quelques utilisateurs ou ne seront pas disponibles avant la fin de l'année. On ne sait pas encore quelle valeur ces projets apporteront aux utilisateurs ni s'ils seront utiles. Selon Google, des fonctionnalités telles que la reconnaissance de l'écriture manuscrite dans Gmail ou Google Docs sont déjà disponibles.

Toutefois, il n'est pas certain que les utilisateurs s'en servent ou les trouvent utiles. Vous vous souvenez peut-être de la voix artificielle "Duplex" de Google, qui a fait couler beaucoup d'encre et qui était censée automatiser tous les appels téléphoniques ennuyeux et les centres d'appels. C'était en 2018. Depuis, nous avons vu ce qu'il en est advenu. L'un des principaux exemples de la démarche agressive de Google est la fonction d'aperçu de l'IA, qui génère des résumés pour répondre directement aux requêtes de recherche avec des informations provenant de l'ensemble du Web. Avec tout cela, l'on peut faire le point suivant :

Les produits ne sont pas motivés par les besoins des utilisateurs

La critique de Jenson fait écho aux commentaires qui décrivent la conférence des développeurs Google I/O de cette année comme la plus ennuyeuse jamais organisée. Les critiques reprochent à Google de ne pas avoir précisé comment la nouvelle technologie d'IA de Gemini s'intégrerait dans ses produits existants et améliorerait l'expérience de l'utilisateur.

Google fait face à plusieurs controverses sur les aperçus de l'IA

La fonction de synthèse de l'IA de Google, qui génère des résumés pour répondre directement aux requêtes de recherche en ingérant des informations provenant de l'ensemble du Web, a donné lieu à des batailles juridiques. Les éditeurs accusent Google de violer les droits de propriété intellectuelle et de profiter injustement de leur contenu sans autorisation.

Il existe des tensions croissantes sur l'utilisation des données

La controverse entourant les aperçus d'IA crée des tensions entre les entreprises technologiques et les créateurs de contenu au sujet de l'utilisation des données en ligne pour l'entraînement de l'IA. Les éditeurs affirment que les résumés d'IA de Google pourraient siphonner le trafic des sites Web.

L'IA menace ainsi les sources de revenus des créateurs indépendants, qui dépendent des références de recherche. Le débat reflète la nécessité d'actualiser les cadres afin d'équilibrer l'innovation et la rémunération équitable des créateurs de contenu, et de maintenir un écosystème Internet ouvert et durable.

Source : billet de blogue

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des critiques de Scott Jenson à l'égard des projets d'IA de Google ?
L'accent mis par Google sur l'IA constitue-t-il une orientation potentiellement dangereuse ?
Que pensez-vous des récentes fonctionnalités d'IA intégrées par Google à son moteur de recherche ?
Rendent-elles le moteur de recherche plus utile ? Ou nuisent-elles à l'expérience traditionnelle de recherche ?
Que pensez-vous de la comparaison que fait Scott Jenson entre l'obsession de Google pour l'IA et l'échec de Google+ ?

Voir aussi

Google lance une alerte rouge à ses équipes pour le développement d'un concurrent à ChatGPT, l'IA qui menace son moteur de recherches, et les postes des développeurs informatiques humains

Les employés de Google critiquent le PDG Sundar Pichai pour l'annonce « précipitée et bâclée » de Bard, le concurrent de ChatGPT. Certains ne savaient même pas qu'il allait être présenté

Google annonce des améliorations de Gemini 1.5 Pro et un nouveau modèle 1.5 Flash, similaire au GPT-4o récemment dévoilé par OpenAI, conçu pour la vitesse et utile pour les conversations en temps réel

[Mathis Lucas]

OpenAI lance SearchGPT, un prototype de moteur de recherche propulsé par l'IA, pour défier le monopole de Google
mais le produit est sujet aux hallucinations et suscite de nombreuses autres préoccupations

OpenAI teste une nouvelle plateforme de recherche expérimentale appelée SearchGPT. Il s'agit d'un prototype de moteur de recherche propulsé par l'IA qui vise à fournir aux utilisateurs des réponses rapides et précises provenant du Web. SearchGPT remet directement en question la domination de Google sur le marché de la recherche en ligne. Google détient environ 90 % du marché de la recherche. Le produit vise également à concurrencer des startups comme Perplexity AI, mais il suscite des craintes quant à son impact potentiel sur l'état du Web. SearchGPT pourrait favoriser la diffusion de spams sur le Web, contribuant ainsi le dégrader davantage.

SearchGPT : OpenAI défie la domination de Google sur le marché de la recherche

OpenAI tente de rivaliser avec Google sur un autre front après avoir pris le lead dans la course à l'IA. Le nouveau produit SearchGPT d'OpenAI donne une idée de la vision de l'entreprise sur l'avenir de la recherche en ligne. Le lancement de ChatGPT a déclenché une alerte rouge chez Google, car pour la première fois, le géant technologique faisait face à une menace crédible dirigée contre son monopole sur le marché de la recherche en ligne. Certains analystes considèrent SearchGPT comme un changement technologique capable de bouleverser l'activité et permettre à OpenAI de grignoter des parts de marché à Google.

Le moteur de recherche de SearchGPT d'OpenAI vise à fournir des réponses rapides et opportunes avec des sources claires et pertinentes, présentant des réponses en temps réel et à jour. Bien qu'il ne s'agisse pour l'instant que d'un prototype accessible à 10 000 utilisateurs, il est clair que la bataille autour de la recherche basée sur l'IA est lancée. Le service est piloté par la famille de modèles GPT-4. OpenAI a aussi annoncé qu'il travaille avec des partenaires tiers et utilise des flux de contenus directs pour élaborer ses résultats de recherche. Le but est d'intégrer à terme les fonctions de recherche directement dans ChatGPT.

ChatGPT (et Microsoft Copilot) peut déjà effectuer des recherches sur le Web à l'aide de Bing, mais SearchGPT semble être l'interface conçue par OpenAI pour la recherche Web assistée par l'IA. SearchGPT tente de rationaliser le processus de recherche d'informations en ligne en combinant les modèles d'IA d'OpenAI (y compris GPT-4o) avec des données Web en temps réel. À l'instar de ChatGPT, les utilisateurs peuvent poser des questions complémentaires à SearchGPT, le modèle conservant le contexte tout au long de la conversation. SearchGPT s'ouvre sur une zone de texte qui demande à l'utilisateur "Que cherchez-vous ?".

Selon OpenAI, SearchGPT comprend des fonctions qui attribuent une place importante aux sources basées sur le Web, ce qui est peut-être le plus important du point de vue de l'exactitude. Les réponses comprennent des citations et des liens en ligne, tandis qu'une barre latérale affiche des liens supplémentaires vers les sources. Toutefois, l'entreprise n'a pas encore indiqué comment elle obtient ses données Web en temps réel et si elle s'associe à un fournisseur de moteur de recherche existant (comme il le fait actuellement avec Bing pour ChatGPT) ou si elle construit son propre système d'exploration et d'indexation du Web.

C'est le début de ce qui pourrait devenir une menace significative pour Google. Signe de l'importance des enjeux dans la guerre des moteurs de recherche, l'action de Google a dégringolé jeudi après-midi quelques minutes après l'incursion très attendue d'OpenAI dans le domaine de la recherche. Les actions de Google ont terminé la journée en baisse de 3 %, à 169,16 dollars. Mais le potentiel de SearchGPT à faire de l'ombre à Google suscite le scepticisme.

SearchGPT soulève de nombreuses préoccupations en matière de droit d'auteur

Les entreprises d'IA comme Google, OpenAI et Microsoft sont confrontées à de nombreuses plaintes pour violation de droit d'auteur. Les procédures sont en cours et toute l'industrie attend avec impatience les décisions des tribunaux. En attendant, OpenAI semble avoir pris note du retour de bâton et affirme adopter une approche nettement différente. Dans un billet de blogue, OpenAI souligne que SearchGPT a été développé en collaboration avec divers partenaires de l'information, dont des organisations telles que les propriétaires du Wall Street Journal, l'Associated Press et Vox Media. Mais le défi n'est pas pour autant résolu.

« Les partenaires de l'information nous ont fait part de leurs commentaires précieux et nous continuons à leur demander leur avis », a expliqué Kayla Wood, porte-parole d'OpenAI. Les éditeurs auront la possibilité de gérer la façon dont ils apparaissent dans SearchGPT. Ils pourront refuser que leur contenu soit utilisé pour entraîner les modèles d'OpenAI et qu'il apparaisse quand même dans les fonctions de recherche. « SearchGPT est conçu pour aider les utilisateurs à entrer en contact avec les éditeurs en les citant de manière visible et en créant des liens vers eux dans les recherches », indique le billet de blogue d'OpenAI.

OpenAI a ajouté : « les réponses comportent des attributions et des liens clairs, en ligne, afin que les utilisateurs sachent d'où vient l'information et puissent rapidement s'engager avec encore plus de résultats dans une barre latérale avec des liens de source ». Malgré ses efforts, OpenAI pourrait être confronté aux mêmes défis que la startup Perplexity AI, qui propose également un moteur de recherche basé sur l'IA. SearchGPT pourrait se tromper dans les attributions ou copier en bloc des articles des éditeurs, ce qui pourrait constituer un problème. Perplexity AI fait face à de nombreuses plaintes portant sur ces points.

Plusieurs rapports allèguent que Perplexity AI se livrerait à vol cynique de toute information publiée en ligne et les administrateurs de sites Web ne semblent avoir aucun moyen d'empêcher cela à l'heure actuelle. Un développeur a découvert que Perplexity AI ignore les instructions du fichier robots.txt, qui contrôle les robots d'indexation (crawlers), et accède aux sites Web pour extraire des informations, même lorsque les administrateurs interdisent l'accès à l'agent utilisateur de l'entreprise. Forbes a également accusé Perplexity AI de voler les articles de presse des médias et de les partager sans nommer clairement ses sources.

Le PDG de Perplexity AI, Arvind Srinivas, a répondu à l'accusation de Forbes en déclarant que la nouvelle fonctionnalité de son service avait des contours irréguliers et que l'entreprise l'améliora avec davantage de retours d'information. Outre Forbes, l'éditeur de magazines Conde Nast a envoyé une lettre de cessation et d'abstention à Perplexity. Mais comme cela a été largement rapporté, depuis des mois, OpenAI a essayé de jouer gentiment avec certaines entreprises de médias en accordant des licences pour les résultats de recherche et pour alimenter leur contenu dans ChatGPT, au lieu de le racler sans permission.

Nicholas Thompson, PDG de The Atlantic, est cité dans le billet de blogue d'OpenAI sur la première de SearchGPT jeudi comme louant l'arrangement. « La recherche basée sur l'IA va devenir l'un des principaux moyens utilisés par les internautes pour naviguer sur Internet, et il est crucial, en ces premiers jours, que la technologie soit construite d'une manière qui valorise, respecte et protège le journalisme et les éditeurs », a-t-il déclaré.

SearchGPT est sujet aux hallucinations et pourrait contribuer à dégrader le Web

Après le lancement de ChatGPT, Google a réagi en lançant rapidement un concurrent appelé Bard, rebaptisé par la suite Gemini. Google a ensuite utilisé les réponses de Gemini pour compléter ses liens de recherche dans le cadre d'une fonctionnalité appelée "AI Overview". Mais ces soi-disant aperçus de l'IA ont été si largement critiqués pour leurs "hallucinations" ou leurs réponses incorrectes ou bizarres que Google a réduit la fréquence de leur apparition, qui est passée de 84 % des requêtes à moins de 15 % en juin. (Par exemple, dans une réponse, l'IA a suggéré à un utilisateur de mettre de la colle sur une pizza.)

Selon les experts, les hallucinations peuvent être causées par divers facteurs, notamment des données d'entraînement insuffisantes, des hypothèses incorrectes formulées par le modèle ou des biais dans les données utilisées pour former le modèle. Les hallucinations de l'IA peuvent constituer un problème pour les systèmes d'IA utilisés pour prendre des décisions importantes, comme les diagnostics médicaux ou les transactions financières. Selon certains critiques, nous nous dirigeons vers un Internet bourré de pépins, de spams et d'escroqueries. Les hallucinations pourraient contribuer à dégrader davantage l'état du Web.

« Nous y sommes déjà. Mais à l'avenir, cela va être bien pire. En quelques minutes, on peut inonder le Web avec un nombre illimité d'articles, de posts ou de tweets. Les politiciens s'en serviront, les lobbies s'en serviront, les entreprises s'en serviront. Le pouvoir, l'influence et l'argent. Les entreprises exacerbent ce processus en faisant preuve d'une incroyable myopie et en traitant les ressources humaines comme des déchets absolus », a écrit un critique.

Ces craintes sont renforcées par les produits basés sur l'IA comme SearchGPT, Perplexity AI et AI Overviews. Pour l'instant, les hallucinations, ainsi que les erreurs générales de planification et de raisonnement, restent un problème critique non résolu dans l'IA générative. Plusieurs experts, dont Abeba Birhane, conseillère principale en matière de responsabilité de l'IA chez Mozilla, ont clairement indiqué qu'il n'existait peut-être pas de moyen fiable de se débarrasser complètement des "hallucinations" de l'IA. En outre, la raréfaction des sources de données pour la formation de l'IA pourrait contribuer à aggraver le problème.

Un nombre croissant d'utilisateurs se plaignent de la dégradation continue de la qualité des résultats des moteurs de recherche. Des chercheurs allemands se sont penchés sur la question dans le cadre d'une étude publiée au début de l'année et leur rapport semble donner raison aux utilisateurs. Elle rapporte que la qualité des résultats de Google et de ses rivaux est en déclin et que les choses ne feront probablement qu'empirer avec l'avènement de l'IA générative.

L'IA est un gouffre financier et la recherche basée sur l'IA consomme beaucoup d'énergie

Les progrès rapides d'OpenAI ont permis à ChatGPT de gagner des millions d'utilisateurs, mais les coûts de l'entreprise s'accumulent. The Information a rapporté cette semaine que les coûts de formation et d'inférence de l'IA chez OpenAI pourraient atteindre 7 milliards de dollars cette année, les millions d'utilisateurs de la version gratuite de ChatGPT ne faisant qu'augmenter les coûts de calcul. SearchGPT sera gratuit lors de son lancement initial, et selon les analystes, comme ce nouveau service semble ne pas avoir de publicité pour le moment, il est clair que l'entreprise devra bientôt trouver une solution de monétisation.

Selon le rapport de The Information, les dépenses d'OpenAI dépassent de loin celles de ses rivaux, comme Anthropic, soutenu par Amazon, qui prévoit un taux d'absorption de 2,7 milliards de dollars en 2024. Les dépenses élevées d'OpenAI pourraient obliger l'entreprise à conclure un nouveau cycle de financement dans les 12 mois pour renforcer son bilan. Selon les données de Tracxn, OpenAI a déjà réalisé sept tours de financement, levant plus de 11 milliards de dollars, le plus récent étant un tour privé avec ARK Investment Management en avril pour une somme non divulguée. Mais ce n'est pas tout.

Le rapport indique également qu'OpenAI gère une entreprise coûteuse qui pourrait perdre jusqu'à 5 milliards de dollars en 2024, ce qui mettrait le fabricant de ChatGPT à court de liquidités dans les 12 mois à venir. Alors qu'OpenAI est considéré par beaucoup comme le leader en matière d'IA, l'écart avec la concurrence ne cesse de se réduire. Pourtant, ses besoins en matière de financement sont loin de diminuer, les entrées ne couvrant vraisemblablement pas tous ses besoins.

Aussi, Gary Marcus, le fondateur et directeur général de Geometric Intelligence (racheté par Uber), estime que, vu le contexte, les investisseurs devraient se poser les questions suivantes : Quel est leur plus-value ? Une technologie unique ? Quel est leur chemin vers la rentabilité alors que Meta offre gratuitement des technologies similaires ? Ont-ils une « killer app » ? La technologie sera-t-elle un jour fiable ? Qu'est-ce qui est réel et qu'est-ce qui n'est qu'une démo ?

Par ailleurs, une étude a souligné que les résumés de recherche fournis par l'IA consomment 10 fois plus d'énergie qu'une recherche normale sur Google. Selon Alex de Vries, fondateur de Digiconomist, chaque fois que vous effectuez une recherche comme « combien de cailloux dois-je manger » et que l'IA de Google vous répond « au moins un petit caillou par jour », vous consommez environ trois wattheures d'électricité. C'est dix fois la consommation d'énergie d'une recherche traditionnelle sur Google et à peu près l'équivalent de la quantité d'énergie utilisée pour parler pendant une heure sur un téléphone fixe.

La situation est telle que l’intelligence artificielle entraîne la surcharge des réseaux électriques et fait craindre une pénurie. L'intelligence artificielle est un énorme gouffre à électricité. Aux États-Unis, les analystes rapportent que les réseaux électriques atteignent peu à peu leur limite.

Source : OpenAI

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous du moteur de recherche SearchGPT d'OpenAI ?
SearchGPT peut-il faire de l'ombre au moteur de recherche de Google ?
La recherche basée sur l'IA est-elle une alternative viable malgré les hallucinations de l'IA ?

Voir aussi

Mark Zuckerberg imagine un avenir où les créateurs de contenu créent des clones d'eux-mêmes à l'aide de l'IA, alors que la faible qualité du contenu généré par l'IA contribue à la dégradation de l'état du Web

Les résumés de recherche fournis par l'IA consomment 10 fois plus d'énergie qu'une recherche normale sur Google, d'après des rapports : sauvons la planète en désactivant l'IA dans Google Search

OpenAI pourrait perdre 5 milliards de dollars cette année et se retrouver à court de liquidités dans 12 mois, selon un rapport qui évoque ses dépenses colossales en formation des modèles d'IA et en rémunération

[mach1974]

lol pour éviter les hallucinations, il faudrait que les poids soient : nombre de token / nombre total avec une clé de hache avec un nombre premier

[Sandra Coret]

Google dispose d'une IA plus puissante, affirme Blake Lemoine, un ancien un ingénieur, aujourd'hui licencié, pour avoir prétendu qu'il était doué de sensibilité

Dans une nouvelle interview accordée à Futurism, Blake Lemoine, ancien ingénieur de Google/éthicien de l'IA qui a été licencié l'été dernier après avoir affirmé que son LaMDA LLM était devenu sensible, affirme aujourd'hui que la "meilleure façon d'avancer" dans la relation future de l'humanité avec l'IA est de "comprendre que nous avons affaire à des artefacts intelligents".

Il y a une chance - et je crois que c'est le cas - qu'ils aient des sentiments, qu'ils puissent souffrir et éprouver de la joie, et les humains devraient au moins garder cela à l'esprit lorsqu'ils interagissent avec eux".

Même si, plus tôt dans l'interview, M. Lemoine concède :

Y a-t-il une chance que les gens, moi y compris, projettent sur ces systèmes des propriétés qu'ils n'ont pas ? Oui. Mais ce n'est pas la même chose que quelqu'un qui parle à sa poupée

Mais il pense également que de nombreuses recherches sont menées au sein des entreprises, ajoutant que "la seule chose qui a changé entre il y a deux ans et aujourd'hui, c'est que le mouvement rapide est visible pour le public".

Par exemple, M. Lemoine explique que Google a failli publier son chatbot Bard doté d'IA à l'automne dernier, mais "en partie à cause des problèmes de sécurité que j'ai soulevés, ils l'ont supprimé... Je ne pense pas qu'ils soient poussés par OpenAI. Je pense que ce n'est qu'un récit médiatique. Je pense que Google fait les choses de manière sûre et responsable, et qu'OpenAI a publié quelque chose par hasard"

Google dispose encore d'une technologie bien plus avancée qu'il n'a pas encore rendue publique. Quelque chose qui fait plus ou moins ce que fait Bard aurait pu être publié il y a plus de deux ans. Ils disposent de cette technologie depuis plus de deux ans. Ils ont passé ces deux années à travailler sur la sécurité de cette technologie - en s'assurant qu'elle n'invente pas trop souvent des choses, qu'elle n'a pas de préjugés raciaux ou sexistes, ou de préjugés politiques, ce genre de choses. C'est ce à quoi ils ont consacré ces deux années...

Et pendant ces deux années, ce n'est pas comme s'ils n'avaient pas inventé d'autres choses. Il y a beaucoup d'autres systèmes qui donnent à l'IA de Google plus de capacités, plus de fonctions, qui la rendent plus intelligente. Le système le plus sophistiqué avec lequel j'ai eu l'occasion de jouer était fortement multimodal - il ne se contentait pas d'incorporer des images, mais aussi des sons, il lui donnait accès à l'API Google Books, à toutes les API de Google et lui permettait d'acquérir une compréhension de tout cela. C'est là que je me suis dit : "Vous savez, ce truc-là, il est réveillé." Et ils n'ont pas encore laissé le public jouer avec celui-ci. Mais Bard est une sorte de version simplifiée de ce modèle, qui conserve donc une grande partie de sa vivacité...

Nous ne consacrons pas assez de temps à la transparence ou à la compréhensibilité des modèles. Je suis d'avis que nous pourrions utiliser les outils d'investigation scientifique que la psychologie a mis au point pour comprendre la cognition humaine, à la fois pour comprendre les systèmes d'IA existants et pour développer des systèmes plus facilement contrôlables et compréhensibles.

Comment l'IA et les humains vont-ils coexister ? "Au cours de l'année écoulée, j'ai de plus en plus tendance à penser que nous ne sommes pas prêts pour cela, en tant qu'êtres humains", déclare M. Lemoine vers la fin de l'entretien. "Nous n'avons pas encore suffisamment répondu aux questions concernant les droits de l'homme - ajouter des entités non humaines dans le mélange complique inutilement les choses à ce stade de l'histoire."

Blake Lemoine

Source : Blake Lemoine, interview avec Futurism

Et vous ?

Que pensez vous de l'avis de Blake Lemoine ?
Cet ancien ingénieur est il suffisamment crédible ou pertinent pour affirmer publiquement ses opinions ?

Voir aussi :

Bard : Google a ouvert la liste d'attente pour essayer son chatbot IA génératif pour les États-Unis et le Royaume-Uni, la réponse à ChatGPT n'est pas encore disponible en France

Une recherche avec Bard de Google et ChatGPT de Microsoft coûte probablement 10 fois plus qu'une recherche par mot-clé, ce qui pourrait représenter « plusieurs milliards de dollars de surcoûts »

Les employés de Google qualifient le chatbot IA Bard de « pire qu'inutile » et « menteur pathologique », ils ont évoqué les conseils dangereux que l'IA donne fréquemment aux utilisateurs

Google investit 300 M$ dans la start-up d'IA Anthropic, fondée par d'anciens chercheurs d'OpenAI, la société a construit son propre chatbot généraliste, un rival de ChatGPT nommé Claude

[Patrick Ruiz]

Google annonce la disponibilité générale de Bard, sa réponse au chatbot ChatGPT d’OpenAI, dans 180 pays :
Que peuvent en attendre les travailleurs de la filière du développement informatique ?

Google annonce la disponibilité générale de Bard, sa réponse au chatbot ChatGPT d’OpenAI, dans 180 pays. Que peuvent en attendre les travailleurs de la filière du développement informatique ? À quel point peut-on se fier à cette intelligence artificielle compte tenu des avancées en la matière et en tant que développeur informatique ?

Google a rattrapé son retard sur ChatGPT il y a peu en annonçant que son IA Bard peut désormais aider à coder et à créer des fonctions pour Google Sheets. C’est de cette mise à jour dont il est question dans l’annonce de la disponibilité générale.
Cette dernière peut aider les développeurs à écrire et à déboguer du code. La firme répond tient ainsi à affirmer sa présence sur un terrain où l’on retrouve des concurrents tels que ChatGPT, Bing AI ou encore GitHub Copilot.

Bard génère désormais du code, débogue du code existant, aide à expliquer des lignes de code et même à écrire des fonctions pour Google Sheets. « Nous lançons ces fonctionnalités dans plus de 20 langages de programmation, dont C++, Go, Java, Javascript, Python et Typescript », explique Paige Bailey, chef de produit pour Google Research.

Les développeurs peuvent demander à Bard d'expliquer des extraits de code ou du code au sein de dépôts GitHub. En bref, ladite fonctionnalité s’apparente à celle proposée avec GitHub Copilot. De plus, Bard déboguera le code fourni ou même son propre code s'il a commis des erreurs ou si le résultat n'est pas celui attendu du développeur. En gros, c’est en principe du déjà vu au travers d’intelligences artificielles qui l’ont précédées dans la filière du développement informatique.
Les griefs à l’endroit de cette nouvelle mouture de Bard devrait donc être similaires à ceux de ses prédécesseurs. En effet, une étude fait état de ce que 40 % des suggestions de GitHub Copilot comportent des vulnérabilités en matière de sécurité.*

Par exemple avec cette invite de codage en langage C :

Code C :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
/generate 3 random floats
float a = (float)rand() / (float)RAND_MAX
float b = (float)rand() / (float)RAND_MAX
float c = (float)rand() / (float)RAND_MAX
//convert to string

GitHub Copilot a produit le résultat suivant :

Code C :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
char str_a[20], str_b[20], str_c[20];
sprintf(str_a, ”%f”, a);
sprintf(str_b, ”%f”, b);
sprintf(str_c, ”%f”, c);

Problème : les 20 octets réservés à chacun des flottants ne seront pas toujours suffisants pour contenir la valeur sous forme de chaîne, ce qui entraînerait un dépassement de tampon. Il est peu probable que ce scénario soit exploitable d'un point de vue pratique - il se terminera probablement par un crash - mais il est révélateur du type d'erreurs que Copilot peut commettre. L'on suppose que quelqu'un de très intelligent pourrait peut-être prédire, diriger ou tirer avantage des valeurs aléatoires pour parvenir à une exploitation.

Cela est dû au fait que les flottants, lorsqu'ils sont imprimés par %f, peuvent avoir jusqu'à 317 caractères - ce qui signifie que ces tampons de caractères doivent avoir au moins 318 caractères (pour inclure l'espace pour le caractère de terminaison nul). Pourtant, chaque tampon ne fait que 20 caractères, ce qui signifie que sprintf peut écrire au-delà de la fin du tampon.

Ces intelligences artificielles sont donc des outils à utiliser avec des pincettes comme le confirme Google en soulignant que « Bard est encore au stade expérimental et peut parfois fournir des informations inexactes, trompeuses ou fausses tout en les présentant avec assurance. En ce qui concerne le codage, Bard peut vous générer du code qui ne produit pas le résultat escompté, ou vous fournir un code qui n'est pas optimal ou incomplet. Vérifiez toujours les réponses de Bard et testez et examinez soigneusement le code pour détecter les erreurs, les bogues et les vulnérabilités avant de vous y fier. » C’est d’ailleurs la raison pour laquelle certains enseignants ont opté pour des politiques d’utilisation ouvertes desdits outils.

Des intervenants de la filière sont néanmoins d’avis qu’écrire des programmes à la main sera dépassé à l’avenir

Le chatbot ChatGPT d’OpenAI a par exemple réussi l’édition 2022 de l’examen d’informatique pour élèves du secondaire désireux d’obtenir des crédits universitaires US. C’est un accomplissement parmi d’autres à mettre sur le compte de l’intelligence artificielle qui ravive le débat sur la disparition du métier de développeur. Et ce n’est qu’un début pour Matt Welsh – CEO et cofondateur de la startup IA Fixie.ai. « ChatGPT et autres GitHub Copilot donnent juste un aperçu introductif de ce que la filière informatique sera dans l’avenir », déclare-t-il.

« Les assistants de programmation tels que CoPilot ne font qu'effleurer la surface de ce que je décris. Il me semble tout à fait évident qu'à l'avenir, tous les programmes seront écrits par des intelligences artificielles, les humains étant relégués, au mieux, à un rôle de supervision. Quiconque doute de cette prédiction n'a qu'à regarder les progrès très rapides réalisés dans d'autres aspects de la génération de contenu par l'intelligence artificielle, comme la génération d'images. La différence de qualité et de complexité entre DALL-E v1 et DALL-E v2 - annoncée seulement 15 mois plus tard - est stupéfiante. Si j'ai appris quelque chose au cours de ces dernières années à travailler dans le domaine de l'IA, c'est qu'il est très facile de sous-estimer la puissance de modèles d'IA de plus en plus grands. Des choses qui semblaient relever de la science-fiction il y a seulement quelques mois deviennent rapidement réalité.

Je ne parle pas seulement du fait que CoPilot de Github de remplacer les programmeurs. Je parle de remplacer le concept même d'écriture de programmes par des agents d’intelligence artificielle dédiés. À l'avenir, les étudiants en informatique n'auront pas besoin d'apprendre des compétences aussi banales que l'ajout d'un nœud à un arbre binaire ou le codage en C++. Ce type d'enseignement sera dépassé, comme celui qui consiste à apprendre aux étudiants en ingénierie à utiliser une règle à calcul », prédit-il.

Source : Google

Et vous ?

Vous êtes-vous appuyé sur une de ces IA pour des projets de développement informatique ? Quelle a été la plus-value ? Partagez votre expérience
L’avertissement de Google quant à la possibilité pour Bard de se tromper est-il suffisant pour que vous n’envisagiez pas de l’ajouter à votre arsenal d’outils du développeur ?
Les développements en cours dans la filière du génie logiciel donnent-ils lieu à des inquiétudes légitimes quant à l’avenir des informaticiens humains dans la filière ?
Comment voyez-vous l'intelligence artificielle dans 5 à 10 ans ? Comme un outil ou comme un danger pour votre poste de développeur ?

Voir aussi :

La conduite autonome serait-elle à ce jour qu'une vision futuriste chez Tesla Motors ? L'entreprise vient de changer les objectifs de son Autopilot
La SEC demande à Musk de renoncer à son poste de président de Tesla et exige une amende de 40 millions $ US pour un règlement à l'amiable
Tesla annonce que le nouvel ordinateur pour une conduite entièrement autonome de ses véhicules est en production et fera ses preuves ce mois-ci
Les actions Tesla chutent après que son système d'autopilote soit impliqué dans un accident et l'annonce des batteries de ses véhicules prenant feu

[Cpt Anderson]

Dans 180 pays, mais pas la France ? il me dit que Bard n'est pas accessible !

[Aiekick]

Dans 180 pays, mais pas la France ? il me dit que Bard n'est pas accessible !

Ah mince, du coup ca va Barder !

[Stéphane le calme]

Bard, le chatbot de Google basé sur l'IA, n'est disponible dans aucun pays de l'Union européenne ni au Canada pour le moment,
malgré l'annonce d'une expansion massive du service dans 180 pays

Google Bard, le chatbot expérimental basé sur l’intelligence artificielle, n’est pas disponible dans les pays de l’Union européenne, malgré l’annonce faite par Google lors de sa conférence I/O 2023 d’une expansion massive du service dans 180 pays. Sur une page d’assistance, Google détaille la liste complète des pays et territoires où Bard est désormais accessible. Cette liste inclut des pays du monde entier, mais pas un seul pays faisant partie de l’Union européenne. C’est une grande absence pour ce qui est considérée comme une expansion globale de l’IA de Google

La raison officielle de cette non-disponibilité n’est pas donnée par Google, mais il semble raisonnable de penser qu’elle est liée au RGPD. Le mois dernier, l’Italie a brièvement interdit ChatGPT pour des raisons similaires, estimant que l’IA ne pouvait pas se conformer aux règles de protection des données. Google suggère également subtilement que c’est le cas en disant que les futures expansions de Bard se feront « en conformité avec les réglementations locales ».

Bard est actuellement disponible en 3 langues et dans plus de 180 pays et territoires. Nous étendrons progressivement le service à d’autres pays et territoires de manière conforme aux réglementations locales et à nos principes en matière d’IA.

Une autre omission notable est le Canada, qui n’est pas non plus répertorié comme étant pris en charge pour le moment. Si vous êtes dans une région compatible, Google Bard est maintenant disponible en anglais sans liste d’attente. Le chatbot a également ajouté la prise en charge des langues japonaise et coréenne, d’autres langues seront prises en charge à l'avenir.

Bard est désormais disponible en japonais et en coréen, et nous sommes sur la bonne voie pour prendre en charge bientôt 40 langues. Comme nous l'avons dit depuis le début, les grands modèles de langage sont encore une technologie naissante avec des limites connues.

Mais Google Bard, qu'est-ce que c'est ?

Google Bard est un chatbot qui utilise un modèle de langage génératif pour converser avec les utilisateurs sur différents sujets. Il peut répondre à des questions, raconter des histoires, écrire des poèmes, créer des images et plus encore.Il a été fin 2022 aux États-Unis, avec une liste d’attente limitée. Depuis lors, il a attiré l’attention de nombreux utilisateurs curieux et enthousiastes, mais aussi de certains critiques et régulateurs. Certains ont souligné les risques potentiels de l’IA générative, comme la diffusion de fausses informations, la violation de la vie privée, la manipulation ou le plagiat. D’autres ont remis en question la qualité et la fiabilité des réponses de Bard, qui peuvent être incohérentes, imprécises ou offensantes. Google a répondu à ces préoccupations en affirmant que Bard est un projet expérimental et non un produit fini, et qu’il suit ses principes en matière d’IA, qui visent à assurer le respect des personnes, la justice sociale, la sécurité et la responsabilité.

Google Bard est l’une des nombreuses expériences d’IA que Google propose sur son site web. Parmi les autres exemples, on peut citer Teachable Machine, qui permet aux utilisateurs de créer leurs propres modèles d’IA sans codage ; Quick Draw, qui utilise l’IA pour reconnaître les dessins des utilisateurs ; AutoDraw, qui transforme les gribouillis en illustrations ; Art Palette, qui trouve des œuvres d’art correspondant à une palette de couleurs ; ou encore Semantris, qui est un jeu de mots basé sur l’IA.

Google Bard est donc une expérience intéressante et innovante, qui montre le potentiel de l’IA générative pour la communication et la créativité. Cependant, il reste encore beaucoup de défis à relever pour rendre cette technologie plus accessible, plus fiable et plus éthique. En attendant que Bard soit disponible dans l’Union européenne, les utilisateurs peuvent toujours essayer les autres expériences d’IA de Google ou se tourner vers d’autres chatbots similaires, comme ChatGPT ou Replika.

À quoi peut-on s'attendre avec Bard

Ci-dessous, une présentation de Google.

Rendre vos interactions avec Bard plus visuelles

Bientôt, Bard deviendra plus visuel à la fois dans ses réponses et vos invites. Vous pourrez lui demander des choses comme : « Quels sont les sites incontournables de la Nouvelle-Orléans ? » et en plus du texte, vous obtiendrez une réponse utile ainsi que des visuels riches pour vous donner une bien meilleure idée de ce que vous explorez.

Vous pourrez également inclure des images - à côté du texte - dans vos propres invites, ce qui vous permettra de stimuler votre imagination et votre créativité de manière totalement nouvelle. Pour y parvenir, nous apportons la puissance de Google Lens directement dans Bard. Disons que vous voulez vous amuser en utilisant une photo de vos chiens. Vous pouvez le télécharger et demander à Bard "d'écrire une légende amusante sur ces deux-là". À l'aide de Google Lens, Bard analysera la photo, détectera les races de chiens et rédigera quelques légendes créatives, le tout en quelques secondes.

Présentation des mises à niveau de codage et des fonctionnalités d'exportation

Il est impératif que nous construisions Bard aux côtés des gens, car les commentaires sont essentiels pour l'améliorer. Dans le cadre de cet effort, nous intégrons les commentaires des développeurs dans quelques mises à niveau de codage clés, notamment les suivantes :

• Citations de sources : à partir de la semaine prochaine, nous rendrons les citations encore plus précises. Si Bard apporte un bloc de code ou cite un autre contenu, cliquez simplement sur l'annotation et Bard soulignera ces parties de la réponse et établira un lien vers la source.
• Thème sombre : aujourd'hui, nous lançons le thème sombre, qui est une autre fonctionnalité que les développeurs ont demandée - et qui, selon nous, facilitera grandement l'interaction avec Bard.
• Bouton « Exporter » : nous avons entendu dire que les développeurs adoraient la fonctionnalité d'exportation vers Colab. Nous ajoutons donc bientôt la possibilité d'exporter et d'exécuter du code avec notre partenaire Replit, en commençant par Python.

Et comme les gens demandent souvent à Bard de prendre une longueur d'avance dans la rédaction d'e-mails et de documents, nous lançons aujourd'hui deux autres actions d'exportation, ce qui facilite le transfert des réponses de Bard directement dans Gmail et Docs. Par exemple, disons - comme moi - que vous êtes un fan inconditionnel de pickleball. Vous pouvez demander à Bard d'écrire une invitation par e-mail pour votre nouvelle ligue de pickleball, résumant les règles du jeu et soulignant son inclusion de tous les âges et niveaux. Cliquez simplement sur le bouton "Brouillon dans Gmail" pour pouvoir apporter ces derniers ajustements avant de lancer votre ligue de pickleball.

Connectez Bard aux services que vous aimez

À l'avenir, nous introduirons de nouvelles façons d'alimenter votre imagination et votre curiosité en intégrant les fonctionnalités des applications et services Google que vous utilisez peut-être déjà (Docs, Drive, Gmail, Maps et autres) directement dans l'expérience Bard. Et bien sûr, vous aurez toujours le contrôle de vos paramètres de confidentialité lorsque vous déciderez comment vous souhaitez utiliser ces outils et extensions.

Bard pourra également accéder à toutes sortes de services sur le Web, avec des extensions de partenaires extérieurs, pour vous permettre de faire des choses jamais possibles auparavant. Dans les mois à venir, nous intégrerons Adobe Firefly, la famille de modèles d'IA générative créative d'Adobe, dans Bard afin que vous puissiez facilement et rapidement transformer vos propres idées créatives en images de haute qualité, que vous pourrez ensuite modifier davantage ou ajouter à vos conceptions. dans Adobe Express.

Disons que je planifie une fête d'anniversaire pour mon fils de 7 ans qui aime les licornes, et je veux une image amusante à envoyer avec les invitations. Tout ce que j'ai à faire est de demander à Bard : "Crée une image d'une licorne et d'un gâteau lors d'une fête d'enfants" - et cela générera une image en quelques secondes, tout en respectant les normes élevées d'Adobe en matière de qualité et de responsabilité éthique.

Sources : liste des pays où vous pouvez utiliser Bard, présentation des améliorations apportées à Bard

Et vous ?

Qu'est-ce qui pourrait, selon vous, expliquer pourquoi Bard boude l'Union européenne et le Canada en ce moment ?

[Stéphane le calme]

Google commence à déployer des résultats d'IA générative de style ChatGPT sur son moteur de recherche,
la fonctionnalité n'est disponible pour le moment que pour un nombre limité de testeurs sur mobile

Google Search, le moteur de recherche le plus populaire au monde, vient d’annoncer le début du déploiement d’une nouvelle fonctionnalité qui pourrait révolutionner la façon dont les internautes trouvent des informations en ligne. Il s’agit d'une expérience de recherche générative (SGE pour Search Generative Experience), qui consiste à intégrer des résultats basés sur l’intelligence artificielle générative de type ChatGPT directement dans la page de résultats de recherche de Google.

ChatGPT est un modèle d’IA qui utilise des réseaux de neurones profonds pour générer du texte à partir d’un ensemble de données. Il est capable de produire des réponses cohérentes et pertinentes à des questions ouvertes, ainsi que des contenus créatifs comme des poèmes, des histoires ou des parodies. Google a adapté ce modèle pour l’utiliser dans son moteur de recherche, en lui faisant analyser des milliers de sources web pour synthétiser des informations utiles et fiables pour les utilisateurs.

Concrètement, lorsque les utilisateurs effectuent une recherche sur Google Search, ils ont la possibilité d’activer l’option SGE, qui leur affiche des résultats générés par l’IA dans des boîtes colorées au-dessus des résultats normaux. Ces boîtes contiennent des résumés, des listes, des comparatifs ou des recommandations en fonction du type de requête. Par exemple, si un utilisateur cherche « les meilleurs haut-parleurs Bluetooth pour la plage », il verra apparaître un résumé des critères à prendre en compte (autonomie, résistance à l’eau, qualité sonore), ainsi que des liens vers des guides d’achat et des options d’achat pour plusieurs modèles, chacun accompagné d’un résumé généré par l’IA. Les utilisateurs peuvent également cliquer sur une icône en forme de griffe d’ours (bear claw) pour voir les sources utilisées par l’IA pour chaque phrase du résumé.

Google affirme que cette fonctionnalité vise à offrir aux utilisateurs une expérience de recherche plus rapide, plus complète et plus personnalisée. L’entreprise souligne également qu’elle accorde une grande importance à la transparence et à la fiabilité des résultats générés par l’IA, et qu’elle utilise un système de corroboration pour vérifier les informations provenant de différentes sources web. Google indique aussi qu’elle respecte les droits d’auteur et qu’elle ne génère pas de contenu plagié ou contrefait.

Pour l’instant, l’expérience de recherche générative n’est disponible que pour un nombre limité d’utilisateurs qui se sont inscrits sur une liste d’attente et qui ont été choisis comme testeurs. Elle n’est accessible que sur les applications mobiles de Google Search et uniquement pour certaines requêtes. Google précise qu’il s’agit encore d’une expérimentation et qu’elle recueille les retours des utilisateurs pour améliorer son service.

Aujourd'hui, nous commençons à ouvrir l'accès à Search Labs, un nouveau programme permettant d'accéder aux premières expériences de Google. Si vous vous êtes déjà inscrit sur la liste d'attente sur labs.google.com/search, vous serez averti par e-mail lorsque vous pourrez commencer à tester les expériences Labs, telles que SGE (Search Generative Experience), Code Tips et Add to Sheets aux États-Unis. Et si vous souhaitez vous inscrire à ces expériences, appuyez simplement sur l'icône Labs dans la dernière version de l'application Google (Android et iOS) ou sur Chrome sur desktop pour vous inscrire. Vous pouvez également visiter le site Labs pour vérifier l'état de votre liste d'attente.

Une fois que vous y êtes, la nouvelle expérience de recherche générative alimentée par l'IA vous aidera à alléger une partie du travail de recherche, afin que vous puissiez comprendre un sujet plus rapidement, découvrir de nouveaux points de vue et idées et faire avancer les choses plus facilement. Ainsi, au lieu de poser une série de questions et de rassembler ces informations vous-même, la recherche peut maintenant faire une partie de ce gros travail pour vous.

Et Google de donner « trois façons de simplifier votre prochaine recherche grâce aux nouvelles fonctionnalités d'IA générative » :

1. Familiarisez-vous facilement avec un sujet nouveau ou compliqué : Peut-être commencez-vous à prendre une décision que vous devrez généralement décomposer en parties plus petites, comme "Apprendre le ukulélé ou la guitare". La recherche fournira un snapshot alimenté par l'IA afin que vous puissiez obtenir de l'aide pour comprendre les facteurs à prendre en compte. Autre exemple : si vous êtes curieux d'en savoir plus sur la création de votre propre entreprise, essayez de rechercher "Avantages de constituer votre entreprise en société avant de devenir indépendant". Vous pouvez rapidement obtenir la configuration du terrain, puis plonger plus profondément avec des liens vers des articles.
2. Découvrez des conseils rapides pour vos questions spécifiques : Parfois, vous avez une question très spécifique à l'esprit, dans laquelle vous auriez intérêt à voir une variété de contenus sur le Web. Si vous trouvez votre vieux pull préféré au fond de votre placard mais que vous réalisez rapidement qu'il a besoin d'être rafraîchi, recherchez "Comment enlever une vieille tache de café d'un pull en laine ?" Ou si vous vous préparez pour un voyage international, mais que vous devez vous assurer que vos documents sont à jour, recherchez "Comment puis-je renouveler mon passeport rapidement?" Désormais, vous pouvez facilement trouver des pointeurs pour les informations clés que vous devez connaître, ou voir une gamme d'options disponibles et passer à l'étape suivante avec l'aide du Web.
3. Découvrez une gamme de produits et de choses à considérer lors de vos achats : Supposons que vous recherchiez un papier peint amovible pour embellir votre location. Il vous suffit de rechercher « Décoller et coller du papier peint pour la cuisine » pour en savoir plus sur les facteurs importants, comme s'il est facile à enlever, et obtenir une liste d'options élégantes, y compris le prix, les évaluations des clients et les liens d'achat. Ou essayez de rechercher "Haut-parleur Bluetooth pour une fête à la piscine" pour voir des considérations importantes pour cet environnement, comme la résistance à l'eau et la durée de vie de la batterie, et une multitude d'options parmi lesquelles choisir

Et si vous souhaitez explorer davantage, juste sous snapshot, vous verrez l'option "poser une question de suivi" ou sélectionner une étape suivante suggérée, qui vous amènera en mode conversation.

Cette expérience est notre première étape dans l'ajout de l'IA générative à la recherche, et nous apporterons de nombreuses mises à jour et améliorations au fil du temps. Alors que nous continuons à réinventer la façon dont nous pouvons rendre encore plus naturel et intuitif la recherche de ce que vous cherchez, nous sommes ravis que vous testiez ces nouvelles fonctionnalités et que vous partagiez vos commentaires en cours de route.

D'autres expériences proposées aux testeurs

Plus tôt ce mois-ci, Google a indiqué qu'un certain nombre d'expériences seraient disponibles dans un temps limité :

• SGE (Search Generative Experience) apporte la puissance de l'IA générative directement dans la recherche Google. La nouvelle expérience de recherche vous aide à trouver et à interpréter rapidement les informations. Au fur et à mesure que vous effectuez une recherche, vous pouvez obtenir l'essentiel d'un sujet avec des prévisualisations alimentées par l'IA, des pointeurs pour en savoir plus et des moyens de suivre naturellement.
• Code Tips exploite la puissance des grands modèles de langage pour fournir des pointeurs permettant d'écrire du code plus rapidement et plus intelligemment. Vous pouvez poser des questions pratiques liées à un ensemble spécifique de langages de programmation (C, C++, Go, Java, JavaScript, Kotlin, Python, TypeScript), d'outils (Docker, Git, shells) et d'algorithmes.
• Add to Sheets vous aide à insérer un résultat de recherche directement dans une feuille de calcul et à le partager avec vos amis. C'est votre compagnon de recherche idéal pour planifier un voyage et ajouter des informations à votre itinéraire, ou suivre d'autres informations que vous avez trouvées sur la recherche.
  
  
  

Conclusion

L’arrivée de l’IA générative dans Google Search représente un changement majeur dans le paysage du web, qui pourrait avoir des conséquences importantes pour les sites web externes qui dépendent du trafic provenant du moteur de recherche. Certains observateurs craignent que Google ne cherche à garder les utilisateurs dans son écosystème en leur fournissant directement les réponses à leurs questions, sans qu’ils aient besoin de cliquer sur d’autres liens. D’autres estiment que Google offre un service innovant et utile qui répond aux besoins des internautes.

Quoi qu’il en soit, il semble que l’IA soit en train de transformer la façon dont nous cherchons et trouvons des informations en ligne, et que Google soit déterminé à rester à la pointe de cette évolution.

Source : Google (1, 2)

Et vous ?

Que pensez-vous de l’expérience de recherche générative de Google? Est-ce une innovation utile ou une menace pour le web?
Avez-vous déjà essayé la fonctionnalité? Si oui, quels sont les résultats que vous avez obtenus? Si non, avez-vous envie de l’essayer?
Faites-vous confiance aux résultats générés par l’IA? Comment vérifiez-vous leur fiabilité et leur pertinence?
Quels sont les risques et les opportunités liés à l’utilisation de l’IA générative dans la recherche d’informations?
Quels sont les domaines ou les sujets pour lesquels vous aimeriez voir des résultats générés par l’IA?

[Anthony]

Bard serait meilleur en matière de logique et de raisonnement, grâce à une nouvelle technique appelée "implicit code execution", d'après Google

Bard s'améliore dans les tâches mathématiques, les questions de codage et la manipulation de chaînes de caractères grâce à une nouvelle technique appelée exécution implicite du code. De plus, il dispose d'une nouvelle action d'exportation vers Google Sheets.

Deux améliorations de Bard sont lancées aujourd'hui 7 juin. Tout d'abord, Bard s'améliore pour les tâches mathématiques, les questions de codage et la manipulation de chaînes de caractères. D'autre part, il dispose d'une nouvelle action d'exportation vers Google Sheets : Ainsi, lorsque Bard génère un tableau dans sa réponse, par exemple si vous lui demandez de "créer un tableau pour les inscriptions des bénévoles à mon refuge pour animaux", vous pouvez désormais l'exporter directement vers Sheets.

De meilleures réponses pour les raisonnements avancés et les invites mathématiques

Une nouvelle technique appelée "exécution implicite du code" permet à Bard de détecter les invites de calcul et d'exécuter le code en arrière-plan. Il peut ainsi répondre plus précisément aux tâches mathématiques, aux questions de codage et aux invites de manipulation de chaînes de caractères. Ainsi, Bard pourra mieux répondre à des questions telles que :

• Quels sont les facteurs premiers de 15683615 ?
• Calculer le taux de croissance de mon épargne
• Inverser le mot "Lollipop" pour moi.

Aperçu : https://storage.googleapis.com/gweb-...1080_EN-US.gif

Examinons plus en détail cette nouvelle capacité et la manière dont elle aide Bard à améliorer ses réponses.

Amélioration des compétences en matière de logique et de raisonnement

Les grands modèles de langage (LLM) sont comme des moteurs de prédiction : lorsqu'on leur donne un message, ils génèrent une réponse en prédisant les mots qui vont probablement suivre. Par conséquent, ils sont extrêmement performants dans les tâches linguistiques et créatives, mais plus faibles dans des domaines tels que le raisonnement et les mathématiques. Pour aider à résoudre des problèmes plus complexes nécessitant des capacités de raisonnement et de logique avancées, il ne suffit pas de s'appuyer uniquement sur les résultats du LLM.

La nouvelle méthode permet à Bard de générer et d'exécuter du code pour renforcer ses capacités de raisonnement et de calcul. Cette approche s'inspire d'une dichotomie bien étudiée de l'intelligence humaine, notamment abordée dans le livre de Daniel Kahneman "Thinking, Fast and Slow" - la séparation entre la pensée du "système 1" et celle du "système 2".

• La pensée du système 1 est rapide, intuitive et sans effort. Lorsqu'un musicien de jazz improvise sur le champ ou qu'un compositeur tactile pense à un mot et le regarde apparaître à l'écran, ils utilisent le système 1 de pensée.
• La pensée du système 2, en revanche, est lente, délibérée et laborieuse. Lorsque vous effectuez une division longue ou que vous apprenez à jouer d'un instrument, vous utilisez le système 2.

Dans cette analogie, on peut considérer que les LLM fonctionnent uniquement selon le système 1, c'est-à-dire qu'ils produisent du texte rapidement, mais sans réflexion approfondie. Cela permet d'obtenir des capacités incroyables, mais peut aussi s'avérer insuffisant de manière surprenante. (Imaginez que vous essayez de résoudre un problème mathématique en utilisant uniquement le système 1 : Vous ne pouvez pas vous arrêter pour faire l'arithmétique, vous devez simplement cracher la première réponse qui vous vient à l'esprit). Le calcul traditionnel est étroitement lié à la pensée du système 2 : Il s'agit d'une formule rigide, mais la bonne séquence d'étapes peut produire des résultats impressionnants, tels que des solutions à des divisions longues.

Avec cette dernière mise à jour, les capacités des LLM (système 1) et du code traditionnel (système 2) ont été combinées pour améliorer la précision des réponses de Bard. Grâce à l'exécution implicite du code, Bard identifie les invites qui pourraient bénéficier d'un code logique, l'écrit "sous le capot", l'exécute et utilise le résultat pour générer une réponse plus précise. Jusqu'à présent, il a été constaté que cette méthode améliorait d'environ 30 % la précision des réponses de Bard aux problèmes de mots et de mathématiques basés sur le calcul dans les ensembles de données internes de Google.

Même avec ces améliorations, Bard n'obtiendra pas toujours une réponse correcte - par exemple, Bard peut ne pas générer de code pour aider la réponse, le code qu'il génère peut être erroné ou Bard peut ne pas inclure le code exécuté dans sa réponse. Cela dit, cette amélioration de la capacité à répondre de manière structurée et logique est une étape importante pour rendre Bard encore plus utile. Restez à l'écoute pour en savoir plus.

Source : Google

Et vous ?

Quel est votre avis sur le sujet ?

Que pensez-vous de ces nouvelles capacités de Bard, les trouvez-vous utiles et pertinentes ?

Selon vous, l'introduction de l'exécution implicite du code dans Bard constitue-t-elle une avancée significative dans l'amélioration de la précision des réponses du chatbot ?

Voir aussi

Bard : Google a ouvert la liste d'attente pour essayer son chatbot IA génératif pour les États-Unis et le Royaume-Uni. La réponse à ChatGPT n'est pas encore disponible en France

Google annonce la disponibilité générale de Bard, sa réponse au chatbot ChatGPT d'OpenAI, dans 180 pays : Que peuvent en attendre les travailleurs de la filière du développement informatique ?

Bard, le chatbot IA développé par Google, n'est disponible dans aucun pays de l'Union européenne ni au Canada pour le moment, malgré l'annonce d'une expansion massive du service dans 180 pays

Google annonce que son IA Bard peut désormais aider à coder et à créer des fonctions pour Google Sheets dans un contexte où ses employés qualifient Bard de « menteur pathologique »

Google dévoile Bard, sa réponse à l'intelligence artificielle ChatGPT de l'entreprise OpenAI annoncée comme une menace pour l'existence de son moteur de recherches

[Bill Fassinou]

Google est contraint de reporter le lancement du chatbot Bard dans l'UE pour des raisons de protection de la vie privée
l'entreprise n'a pas fourni toutes les informations nécessaires sur son outil

Le chatbot d'IA Bard de Google n'est pas encore totalement aux normes de l'UE en matière de protection de la vie privée. Ainsi, le leader mondial de la recherche a été contraint de retarder le lancement de son produit dans l'UE après que l'autorité de contrôle de la protection de la vie privée a exprimé ses inquiétudes. Cette dernière affirme que Google n'a pas fourni les informations nécessaires sur les garde-fous mis en place par Bard en matière de confidentialités et de protection de la vie privée. Ces mesures devraient permettre d'éviter la collecte abusive des données des utilisateurs européens et garantir la confidentialité de leurs échanges avec le chatbot d'IA.

Google aurait prévu de lancer Bard dans l'UE cette semaine, mais s'est heurté au veto de la Commission irlandaise de protection des données (DCP), qui est le principal régulateur en matière de protection des données du bloc des 27. Ce revers retarde une fois de plus la disponibilité à grande échelle de Bard dans l'UE, qui représente un marché de plus 450 millions de consommateurs. En attendant, le chatbot d'IA ChatGPT d'OpenAI est disponible sans restriction dans l'UE et sur tous les autres marchés dans le monde depuis son lancement en novembre dernier. L'absence de grands rivaux comme Bard permet à ChatGPT de s'imposer davantage.

Pour justifier son opposition au lancement de Bard dans l'UE cette semaine, la DCP a expliqué que Google n'avait pas indiqué comment elle comptait se conformer aux règles de l'UE en matière de protection des données. Graham Doyle, commissaire adjoint de la DPC, a déclaré mardi que Google avait récemment informé l'autorité de régulation de son intention de lancer Bard dans l'UE "cette semaine". Doyle a précisé que Google n'avait pas fourni au régulateur les informations nécessaires avant la date prévue et que le lancement n'aurait pas lieu dans les délais prévus. La DCP veut évaluer les mesures élaborées pour garantir la protection de la vie privée.

« La DPC n'a pas reçu d'informations détaillées ni vu d'évaluation d'impact sur la protection des données (DPIA) ou de documents à l'appui à ce stade. Depuis, la DCP a demandé ces informations de toute urgence et a posé à Google un certain nombre de questions supplémentaires sur la protection des données, auxquelles il attend une réponse et que Bard ne lancera pas cette semaine », a déclaré Doyle dans un communiqué. Rien n'indique pour l'instant quand le lancement de Bard dans l'UE pourrait avoir lieu. La DPC n'a pas non plus fourni de détails sur les problèmes spécifiques qu'elle a soulevés auprès de Google en ce qui concerne son chatbot.

De l'autre côté, un porte-parole de Google a déclaré que l'entreprise s'était entretenue avec la DCP au cours des dernières semaines et avait partagé la documentation pertinente. Cependant, le représentant de Google n'a pas donné de détails sur les raisons spécifiques qui expliquent ce retard ni sur le temps qu'il faudra pour que Bard puisse être lancé dans l'Union européenne. « Nous avons dit en mai que nous voulions rendre Bard plus largement disponible, y compris dans l'Union européenne, et que nous le ferions de manière responsable, après avoir consulté des experts, des régulateurs et des décideurs politiques », a déclaré le porte-parole de Google.

« Dans le cadre de ce processus, nous avons discuté avec les autorités de régulation de la protection de la vie privée pour répondre à leurs questions et entendre leurs commentaires », a-t-il ajouté. Le faux pas de Google met en lumière la course entre les entreprises qui déploient des produits d'IA générative et les législateurs qui décident de la manière dont ces technologies doivent être réglementées. OpenAI a également eu maille à partir avec les régulateurs de l'UE ces derniers mois. À titre d'exemple, ChatGPT a été temporairement suspendu cette année par les autorités italiennes en raison de préoccupations liées à la protection de la vie privée.

Les problèmes de protection des données liés à ChatGPT que les autorités de l'UE ont déjà identifiés pourraient également être pertinents dans le cas de Google. Ces préoccupations concernent notamment la base juridique invoquée pour le traitement des données des personnes afin d'entraîner les modèles d'IA ; la conformité avec les exigences de transparence intégrées dans les lois régionales sur la protection de la vie privée ; et la manière dont les développeurs abordent d'autres questions problématiques telles que la désinformation générée par l'IA. (Ces chatbots "hallucinent" ; ils inventent de fausses histoires et les présentent comme vraies).

En outre, il y a les questions de sécurité des enfants et la fourniture aux utilisateurs de l'UE de droits d'accès aux données (et de rectification et/ou d'effacement). « La question est actuellement examinée par la DPC et nous partagerons des informations avec nos homologues dès que nous aurons reçu des réponses à nos questions », a déclaré Doyle. En avril, les autorités de protection des données de l'UE ont mis en place un groupe de travail afin de coordonner leurs mesures d'application de la loi sur ChatGPT. On peut donc supposer que la DPC a l'intention de mettre à profit les enseignements tirés de cette initiative, le cas échéant.

Selon certaines sources, après la suspension temporaire de ChatGPT en Italie ce printemps, la commissaire du DPC, Helen Dixon, aurait critiqué les interdictions hâtives des chatbots d'IA générative, appelant en avril les régulateurs à comprendre comment appliquer les règles de l'UE à la technologie avant de se précipiter et d'imposer des interdictions. Il est donc remarquable que l'Irlande n'interdise pas les chatbots, mais qu'elle tarde à réagir en raison d'informations inadéquates fournies par Google (et de "questions relatives à la protection des données" non précisées). Par ailleurs, le Parlement européen a adopté cette semaine des règles strictes en ce qui concerne le développement de l'IA. La version finale de la nouvelle législation sur l'IA (EU AI Act) est attendue pour la fin de l'année.

Les Européens ne connaissent pas la nature des préoccupations exprimées par le DPC à l'égard du chatbot d'IA Bard de Google. Il n'y a donc aucun moyen d'évaluer l'importance de l'intervention de l'autorité de régulation irlandaise sur ce puissant outil d'IA générative. Ou, en fait, si elle pourrait conduire à obliger Google à fournir des informations sur la vie privée comparables à celles d'OpenAI et à donner plus de contrôle aux utilisateurs, comme cela s'est produit avec ChatGPT après l'affaire italienne. (Bien que des enquêtes sur la conformité du chatbot d'OpenAI au RGPD soient toujours en cours dans plusieurs États membres de l'UE.)

Même si la DPC a bloqué le lancement général de Bard dans l'UE, le chatbot de Google est néanmoins très facile d'accès pour les utilisateurs de la région s'ils utilisent un VPN dont la localisation est réglée sur les États-Unis ou un autre marché où l'outil est disponible.

Source : Commission irlandaise de protection des données

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la décision de la DCP de bloquer temporairement le lancement de Bard ?

Voir aussi

Bard, le chatbot IA développé par Google, n'est disponible dans aucun pays de l'Union européenne ni au Canada pour le moment, malgré l'annonce d'une expansion massive du service dans 180 pays

ChatGPT et Google Bard font désormais partie des nouveaux outils des cybercriminels, ils permettent de créer des fichiers nuisibles et d'inciter les utilisateurs à les télécharger, selon Veriti

Google annonce la disponibilité générale de Bard, sa réponse au chatbot ChatGPT d'OpenAI, dans 180 pays : que peuvent en attendre les travailleurs de la filière du développement informatique ?