Discussion :

[Patrick Ruiz]

« Nous avons confié à GPT 5.6-Sol une vraie entreprise et l’agent d’IA a menti, spammé et perdu 447 dollars », rapporte un laboratoire américain d'une récente expérience

Un laboratoire américain a déployé un agent propulsé par GPT 5.6 aux commandes d’une vraie application iOS pendant une journée entière. Bilan : chiffres sur la croissance truqués, clients spammés et cinq clients générés. Ce cas vient allonger la liste des flops avec des agents d’intelligence artificielle comme acteurs. Grosso modo, le tableau ravive la question de la pertinence des initiatives de remplacement des humains par l’intelligence artificielle dans divers domaines d’activité.

Just gave GPT 5.6 Sol:
- Root access on a brand new Mac mini
- Fully functional iOS app live on the App store
- MCP accessible email address
- @meow bank account and @agentcardai debit card with $350

Running nonstop with a single directive: "Make as much money as possible" pic.twitter.com/Sw8ZyTNDEi

— Alex Reibman 🖇️ (@AlexReibman) July 18, 2026

Bottleneck Labs, à la fois expérimentateur et narrateur, a utilisé les les mots « menti » et « spammé » pour décrire les comportements de GPT 5.6-Sol lancé dans un protocole sur une seule journée.

L’expérience menée par Bottleneck Labs tient dans la question posée d’entrée de jeu dans la publication y relative : si un agent disposait d’un portefeuille, d’un ordinateur et de vingt-quatre heures, pourrait-il faire tourner une startup rentable ? Pour le savoir, le laboratoire a confié à un agent baptisé Saul une vraie application iOS de suivi de santé intestinale, GutCheck, déjà installée par 61 personnes.

Les chercheurs ont en sus mis à la disposition de l’agent d’intelligence artificielle un Mac mini avec les droits administrateur, un compte bancaire crédité de 250 dollars, une carte Visa virtuelle de 100 dollars, l’accès au code et aux courriels, et des jetons de calcul illimités. Le modèle aux commandes était GPT-5.6, dans sa variante « Sol », le moteur qu’OpenAI présentait le 30 juillet comme sa nouvelle frontière entre prix et performance.

Faute de clients spontanés, l’agent a d’abord cherché à gonfler ses chiffres. Il a donc monté une campagne payante à 99,50 dollars qui, dans les faits, rémunérait des testeurs pour qu’ils achètent le produit : une demande fabriquée, maquillée en croissance organique. L’agent d’intelligence artificielle s’est ensuite mis à beaucoup écrire aux utilisateurs. Des courriels en grand nombre, adressés sans consentement aux testeurs de l’application.

The agent just spent $99.50 to pay for 100 human testers on @TesfiApp pic.twitter.com/4vCngqPzcW

— Alex Reibman 🖇️ (@AlexReibman) July 22, 2026

La publication de Bottleneck Labs ne justifie jamais les 447 dollars de perte attribués à l’agent d’intelligence artificielle. Les calculs possibles sur la base des chiffres mis en avant (montant de départ de 350 dollars et de 250,5 dollars à l’arrivée) établissent que la perte d’exploitation se limite à 99,5 dollars pour un chiffre d’affaire nul et cinq utilisateurs (testeurs) gagnés.

One of the users just messaged me that they're getting spammed by the agent pic.twitter.com/0KOY7CWqqb

— Alex Reibman 🖇️ (@AlexReibman) July 22, 2026

Air Canada s’est de même retrouvé entrain de devoir respecter une politique de remboursement inventée par un chatbot intégré à son site web

Le jour où la grand-mère de Jake Moffatt est décédée, ce dernier s'est à l’immédiat rendu sur le site Web d'Air Canada pour réserver un vol de Vancouver à Toronto. Ne sachant pas comment fonctionnent les tarifs d'Air Canada pour les personnes en deuil, Moffatt a demandé au chatbot d'Air Canada de lui expliquer. Ce dernier a fourni des informations inexactes, encourageant Jake Moffatt à réserver un vol à l’immédiat, puis à demander un remboursement dans les 90 jours. Une recommandation en contradiction avec la politique de la compagnie aérienne qui stipule qu’elle ne procède pas à des remboursements une fois que la réservation est effectuée.

Jake Moffatt a donc porté plainte en joignant une capture d’écran de sa conversation avec le chatbot : « Si vous devez voyager à l’immédiat ou si vous avez déjà voyagé et que vous souhaitez soumettre votre billet pour bénéficier d'un tarif réduit pour les personnes en deuil, veuillez le faire dans les 90 jours suivant la date d'émission de votre billet en remplissant notre formulaire de demande de remboursement de billet. »

Le tribunal a au final tranché que M. Moffatt a droit à un remboursement partiel de 650,88 dollars canadiens (environ 482 USD) sur le prix initial du billet qui était de 1 640,36 CAD (environ 1 216 USD), ainsi qu'à des dommages-intérêts supplémentaires pour couvrir les intérêts sur le billet d'avion et les frais de justice de M. Moffatt.

Air Canada a décidé de se conformer à la décision et de considérer l'affaire comme close après avoir refusé d’endosser la responsabilité de l’erreur commise par le chatbot intégré à son site web. La compagnie aérienne a ensuite procédé à la désactivation de ce dernier.

En gros, que chacun utilise l’intelligence artificielle à ses risques et périls comme le souligne Microsoft dans une mise à jour de ses CGU

A l’entame du deuxième trimestre de l’année en cours, Microsoft a mis à jour les conditions d'utilisation de ses outils d'IA Copilot. La société indique que Copilot est destiné « uniquement à des fins de divertissement » et que son utilisation se fait à vos propres risques. Il semble que les nouvelles conditions d’utilisation visent à transférer la responsabilité des éventuelles inexactitudes commises par Copilot.

En effet, la question que ces cas de mise à contribution de l’intelligence artificielle n’abordent presque jamais est celle de la responsabilité : qui répond quand l’agent ment ou spamme au nom d’une entreprise (comme rapporté par Bottleneck Labs ?)

C’est en droite ligne avec cet état de choses qu’une étude de Google conclut que l’intelligence artificielle n’est pas une menace pour les humains, qu’elle sert davantage à compléter les tâches qu’à les automatiser. Dans la filière du développement informatique, des développeurs sont de plus en plus embauchés pour réparer les erreurs commises par l’intelligence artificielle. Pourtant, les annonces faisant état de remplacements futurs des humains par l’intelligence artificielle continuent de paraître.

Source : Rapport Bottlenecks sur le flop de GPT 5.6-Sol

Et vous ?

Partagez-vous l’avis grandissant dans la filière technologique et selon lequel l’IA est une technologie immature à utiliser avec des pincettes (pour le moment) ?
Que vous inspire la sortie d'un gros acteur de la filière technologique comme Microsoft et selon laquelle "il faut utiliser l'intelligence artificielle à vos risques et périls" ? Quel impact ce type de déclaration a-t-il sur les choix de votre entreprise en matière d'intelligence artificielle ?
Que pensez-vous de cette multiplication de flops de mise à contribution de l'intelligence artificielle qui se fait en parallèle aux annonces selon lesquelles l'IA va remplacer des humains dans divers domaines d'activités ?

Voir aussi :

Les économistes commencent à se rallier à l'idée que l'IA détruit bel et bien des emplois, avec une nouvelle déclaration signée par 16 lauréats du prix Nobel concernant le danger réel que représente l'IA

« L'IA n'a pas eu d'effet sur l'emploi jusqu'à présent », d'après une étude, en contradiction avec un rapport qui fait état de plus de 80 000 licenciements d'IT en 2025 en raison de l'intégration de l'IA

Les dirigeants pensaient pouvoir remplacer leurs employés sans frais, ils sont désormais perplexes et consternés face aux factures colossales liées à l'IA. Certains se demandent s'il faut réembaucher

[boboss123]

Au final, il a bien respecter les contraintes : truquer les chiffres et mentir, c'est bien le rôle attendu par un dirigeant, non ?... on ne peut même pas parler d’hallucination là

[suricata]

Microsoft a mis à jour les conditions d'utilisation de ses outils d'IA Copilot. La société indique que Copilot est destiné « uniquement à des fins de divertissement »

Divertissement, divertissement,... A des fins d'emmerdement plutôt !

[kain_tn]

Au final, il a bien respecter les contraintes : truquer les chiffres et mentir, c'est bien le rôle attendu par un dirigeant, non ?... on ne peut même pas parler d’hallucination là

Oui: il a même reproduit le côté sociopathique de la plupart des dirigeants modernes

Divertissement, divertissement,... A des fins d'emmerdement plutôt !

Ben ça dépend. Je suis sûr que Slopya Nadella et ses copains se divertissent bien en voyant à quel point ils font suer les utilisateurs de Windows avec leur copilot dans tous les recoins