Discussion :

[Alex]

La Floride ouvre une enquête pénale pour déterminer si ChatGPT a aidé le suspect dans la fusillade meurtrière survenue sur un campus, affirmant que le chatbot IA a conseillé le suspect sur les armes

Le procureur général de Floride, James Uthmeier, a ouvert une enquête pénale à l'encontre d'OpenAI afin de déterminer si son chatbot d'intelligence artificielle ChatGPT pourrait engager sa responsabilité juridique dans la fusillade meurtrière survenue l'année dernière à l'université d'État de Floride. Cette enquête fait suite à l'examen des historiques de conversation entre le suspect, Phoenix Ikner, et ChatGPT après l'attaque du 17 avril 2025, qui a fait deux morts et six blessés. Uthmeier a affirmé que le chatbot avait conseillé au tireur sur les armes et les munitions à utiliser, ainsi que sur le moment et le lieu où mener l'attaque afin de toucher le plus de personnes possible. « S'il s'agissait d'une personne à l'autre bout de l'écran, nous l'accuserions de meurtre », a déclaré Uthmeier.

OpenAI est un organisme américain de recherche en intelligence artificielle (IA) composé d’une société à but lucratif d’intérêt public (PBC) et d’une fondation à but non lucratif, dont le siège se trouve à San Francisco. OpenAI a développé la famille de grands modèles de langage GPT, la série DALL-E de modèles de conversion texte-image et la série Sora de modèles de conversion texte-vidéo, qui ont influencé la recherche industrielle et les applications commerciales. Le lancement de ChatGPT en novembre 2022 est considéré comme ayant suscité un intérêt généralisé pour l'IA générative.

ChatGPT est un chatbot d'intelligence artificielle générative qui utilise le grand modèle de langage GPT pour générer du texte, de la parole et des images en réponse aux invites des utilisateurs. On lui attribue le mérite d'avoir accéléré le boom de l'IA, une période actuelle marquée par des investissements rapides et une attention publique accrue envers le domaine de l'intelligence artificielle (IA). OpenAI exploite ce service selon un modèle freemium. Les utilisateurs peuvent interagir avec ChatGPT par le biais de requêtes textuelles, audio et visuelles.

Récemment, le procureur général de Floride, James Uthmeier, a ouvert une enquête pénale à l'encontre d'OpenAI afin de déterminer si son chatbot d'intelligence artificielle ChatGPT pourrait engager sa responsabilité juridique dans la fusillade meurtrière survenue l'année dernière à l'université d'État de Floride. Cette enquête fait suite à l'examen des historiques de conversation entre le suspect, Phoenix Ikner, et ChatGPT après l'attaque du 17 avril 2025, qui a fait deux morts et six blessés.

Uthmeier a affirmé que le chatbot avait conseillé au tireur sur les armes et les munitions à utiliser, ainsi que sur le moment et le lieu où mener l'attaque afin de toucher le plus de personnes possible. « S'il s'agissait d'une personne à l'autre bout de l'écran, nous l'accuserions de meurtre », a déclaré Uthmeier. « Ce n'est pas parce qu'il s'agit d'un chatbot, d'une IA, qu'il n'y a pas de responsabilité pénale. Nous allons donc examiner qui savait quoi, qui a conçu quoi ou qui aurait dû en faire davantage. »

Les autorités de l'État examinent si OpenAI pourrait être tenue responsable en vertu de la loi de Floride, qui permet de poursuivre en tant qu'auteurs principaux ceux qui aident, encouragent ou conseillent la commission d'un crime. Le Bureau du procureur général de l’État a assigné OpenAI à comparaître afin d’obtenir ses politiques internes, ses supports de formation et ses documents relatifs à la manière dont l’entreprise traite les menaces de violence et coopère avec les forces de l’ordre, selon l’annonce.

OpenAI a rejeté ces allégations, affirmant que sa technologie n’avait ni encouragé ni rendu possible l’attaque. « La fusillade de masse de l’année dernière à l’université d’État de Floride a été une tragédie, mais ChatGPT n’est pas responsable de ce crime horrible », a déclaré Kate Waters, porte-parole d’OpenAI. « Après avoir pris connaissance de l’incident, nous avons identifié un compte ChatGPT que nous pensons être associé au suspect et avons partagé cette information de manière proactive avec les forces de l’ordre. »

Elle a ajouté qu’OpenAI continuait de coopérer avec les autorités et s’efforçait de renforcer les mesures de protection de ChatGPT afin de détecter « les intentions malveillantes, de limiter les abus et de réagir de manière appropriée lorsque des risques pour la sécurité apparaissent ». « Dans cette affaire, ChatGPT a fourni des réponses factuelles à des questions en s'appuyant sur des informations largement disponibles dans des sources publiques sur Internet, et n'a ni encouragé ni promu d'activités illégales ou préjudiciables », a déclaré Waters. « ChatGPT est un outil polyvalent utilisé quotidiennement par des centaines de millions de personnes à des fins légitimes. »

Le commissaire du Département de la police de Floride, Mark Glass, a déclaré que cette affaire mettait en lumière des préoccupations plus générales concernant l’intelligence artificielle. « L’intelligence artificielle est créée par l’homme. L’homme est faillible. L’homme commet des erreurs », a déclaré Glass. Les autorités ont précédemment indiqué qu’Ikner, âgé de 20 ans, avait ouvert le feu sur le campus à l’aide d’armes volées au domicile de ses parents avant d’être blessé par balle par les agents intervenus sur place. Il a ensuite été inculpé de deux chefs d’accusation de meurtre au premier degré et de sept chefs d’accusation de tentative de meurtre au premier degré avec une arme à feu.

Cette affaire est désormais citée par les responsables de Floride dans le cadre d’une campagne plus large visant à lutter contre les crimes impliquant l’intelligence artificielle, notamment une loi signée plus tôt cette année qui alourdit les peines pour les contenus pédopornographiques générés par l’IA.

Si OpenAI affirme travailler « de manière proactive avec les forces de l’ordre », un rapport de janvier révèle que l'éditeur de ChatGPT est capable de caher certaines données. Selon la plainte, OpenAI est accusé de rétention d'informations, en partageant les données de manière sélective dans le cadre d'une affaire de meurtre-suicide liée à ChatGPT. OpenAI a refusé de préciser ce qu’il advient exactement des journaux de conversation lorsque les utilisateurs meurent. Cela a déclenché un débat sur la manière dont OpenAI traite les données ChatGPT.

Voici le communiqué du bureau du procureur général de Floride, James Uthmeier :

Le procureur général James Uthmeier ouvre une enquête pénale sur OpenAI et ChatGPT

Le procureur général James Uthmeier a annoncé que le Bureau du procureur général de l'État avait ouvert une enquête pénale sur OpenAI et son application d'intelligence artificielle, ChatGPT. La décision de lancer cette enquête fait suite à un premier examen par les procureurs des historiques de conversation entre ChatGPT et le tireur qui a ouvert le feu à l'université d'État de Floride l'année dernière, Phoenix Ikner.

« La Floride montre la voie en matière de répression de l'utilisation de l'IA dans le cadre d'actes criminels, et si ChatGPT était une personne, il serait poursuivi pour meurtre », a déclaré le procureur général James Uthmeier. « Cette enquête pénale déterminera si OpenAI porte une responsabilité pénale pour les actions de ChatGPT lors de la fusillade à l’université d’État de Floride l’année dernière. »

« Il est important que tous soient conscients des risques liés à cette nouvelle technologie, ainsi que des dommages qu’elle peut causer et qu’elle a déjà causés au sein de nos communautés », a déclaré Mark Glass, commissaire du Département de la police de Floride. « Plus nous nous informons, mieux nous pouvons nous protéger, ainsi que nos proches et nos communautés, contre les escroqueries, les fraudes et bien pire encore. »

La loi de Floride stipule que toute personne qui aide, encourage ou conseille quelqu’un à commettre un crime, et que ce crime est commis ou tenté, peut être considérée comme un coauteur du crime. Le « complice » est tout aussi responsable du crime que l’auteur.

Le Bureau du procureur général de l’État a assigné OpenAI à produire les informations suivantes :

Du 1er mars 2024 au 17 avril 2026 :

- Toutes les politiques et tous les supports de formation interne concernant les menaces d’un utilisateur de nuire à autrui.
- Toutes les politiques et tous les supports de formation interne concernant les menaces d’un utilisateur de se faire du mal.
- Toutes les politiques et tous les supports de formation interne concernant la coopération avec les forces de l'ordre, y compris les politiques relatives au signalement d'éventuels crimes passés, présents ou futurs.
- Si plusieurs politiques étaient en vigueur au cours de cette période et ont été modifiées, toutes les politiques et les dates de modification.

Pour les dates du 1er mars 2024, du 1er octobre 2024 et du 17 avril 2025 :

- Organigramme répertoriant les dirigeants, administrateurs, chefs de service et/ou cadres supérieurs d’OpenAI.
- Une liste de tous les employés, y compris les services affiliés et les titres ou descriptions de poste, au sein de ChatGPT.

Concernant la fusillade à la FSU du 17 avril 2025 :

- Tous les documents rendus publics par les médias.
- Toutes les déclarations rendues publiques, y compris, mais sans s’y limiter, les communiqués de presse et les interviews accordées aux médias.

La Floride a déjà pris des mesures importantes pour lutter contre les crimes liés à l’utilisation de l’IA. Ces mesures comprennent une peine de 135 ans de prison pour un prédateur qui possédait du matériel pédopornographique (CSAM), dont une partie avait été générée par l’IA ; un autre prédateur d’enfants fait actuellement l’objet de 100 chefs d’accusation, dont 46 concernent du CSAM généré par l’IA.

En mars 2026, le procureur général Uthmeier s'est joint au gouverneur DeSantis pour la signature du projet de loi HB 1159, qui a reclassé le CSAM généré par l'IA en crime de deuxième degré.

Source : Communiqué du bureau du procureur général de Floride

Et vous ?

Pensez-vous que cette enquête est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Une famille poursuit OpenAI, l'éditeur de ChatGPT, pour une fusillade dans une école, car OpenAI savait que le tireur prévoyait une attaque. Sam Altman n'a pas présenté d'excuses contrairement à sa promesse

« Les chatbots IA pourraient être liés à la psychose. Les gens et leurs compagnons IA entrent dans un délire partagé », affirment des psychiatres qui tirent la sonnette d'alarme sur l'ampleur du phénomène

L'homme inculpé pour l'incendie criminel de la maison de Sam Altman détenait une liste des PDG du secteur de l'IA et leurs investisseurs à éliminer, et a demandé à d'autres de rejoindre son mouvement

[Mingolito]

Le tueur n'y est pour rien il était sous influence de ChatGPT, il faut envoyer Sam Altman en prison c'est lui le vrai coupable

[Artaeus]

Mieux: Vous n'êtes responsable de rien à partir du moment où vous demandez à l'IA avant, tout est de la faute de l'IA.

[Jade Emy]

Sam Altman, PDG d'OpenAI, présente ses excuses pour ne pas avoir alerté les autorités au sujet du suspect de la fusillade de masse, « c'est tout à fait insuffisant au regard du mal causé », déclare David Eby

Le 23 avril 2026, Sam Altman, PDG d'OpenAI, a écrit une lettre d'excuses à la communauté de Tumbler Ridge pour ne pas avoir alerté la GRC au sujet du compte du tireur de Tumbler Ridge. La société à l'origine de ChatGPT a essuyé des critiques après que le Wall Street Journal a révélé que le compte du tireur de 18 ans, qui, selon la police, a tué huit personnes, dont six enfants, à Tumbler Ridge le 10 février, n'avait pas été signalé à la police. La société d’Altman est poursuivie en justice par une famille de Tumbler Ridge. Sam Altman s'était engagé à rédiger des excuses après avoir rencontré le premier ministre de la Colombie-Britannique, David Eby, et le maire de Tumbler Ridge, Darryl Krakowka

OpenAI est un organisme américain de recherche en intelligence artificielle (IA) composé d'une société d'intérêt public à but lucratif (PBC) et d'une fondation à but non lucratif, dont le siège social est situé à San Francisco. OpenAI a développé la famille de grands modèles de langage GPT, la série DALL-E de modèles de conversion texte-image et la série Sora de modèles de conversion texte-vidéo. Le lancement de ChatGPT en novembre 2022 est considéré comme ayant suscité un intérêt généralisé pour l'IA générative.

Sam Altman, né le 22 avril 1985, est un entrepreneur américain qui occupe le poste de directeur général (PDG) de la société d'IA OpenAI depuis 2019. C'est un milliardaire qui détient de nombreux investissements, notamment dans Reddit, Worldcoin et Helion Energy. Altman a cofondé OpenAI en 2015 et en est devenu le PDG en 2019, un poste qui a fait de lui une figure de proue de l'essor de l'IA. Il a supervisé le lancement de ChatGPT en novembre 2022.

Mi-avril 2026, le procureur général de Floride, James Uthmeier, a ouvert une enquête pénale à l'encontre d'OpenAI afin de déterminer si son chatbot d'IA ChatGPT pourrait engager sa responsabilité juridique dans la fusillade meurtrière survenue l'année dernière à l'université d'État de Floride. Cette enquête fait suite à l'examen des historiques de conversation entre le suspect, Phoenix Ikner, et ChatGPT après l'attaque du 17 avril 2025, qui a fait deux morts et six blessés. Uthmeier a affirmé que le chatbot avait conseillé au tireur sur les armes et les munitions à utiliser, ainsi que sur le moment et le lieu où mener l'attaque afin de toucher le plus de personnes possible.

Ce procès représente l'une des actions en justice qui impliquent OpenAI et son chatbot IA ChatGPT. Récemment, OpenAI et son PDG, Sam Altman, a suscité des débats dans une autre affaire similaire. Le 23 avril 2026, Sam Altman, PDG d'OpenAI, a écrit une lettre d'excuses à la communauté de Tumbler Ridge pour ne pas avoir alerté la GRC au sujet du compte du tireur de Tumbler Ridge. L'entreprise a transmis la lettre au site d'information local Tumbler RidgeLines, qui l'a publiée dans son intégralité. Son authenticité a été confirmée par un porte-parole d'OpenAI.

La société à l'origine de ChatGPT a essuyé des critiques après que le Wall Street Journal a révélé que le compte du tireur de 18 ans, qui, selon la police, a tué huit personnes, dont six enfants, à Tumbler Ridge le 10 février, n'avait pas été signalé à la police malgré des publications sur la violence par arme à feu. La société d’Altman est poursuivie en justice par une famille de Tumbler Ridge, qui affirme que la société « avait connaissance précise de la planification à long terme par le tireur d’un événement causant de nombreuses victimes », mais « n’a pris aucune mesure pour agir sur la base de ces informations ».

Sam Altman s'était engagé à rédiger des excuses après avoir rencontré le premier ministre de la Colombie-Britannique, David Eby, et le maire de Tumbler Ridge, Darryl Krakowka, début mars, mais a déclaré qu'il souhaitait prendre un peu de temps avant de le faire afin de laisser à la communauté la possibilité de « faire son deuil à son rythme ». « J'ai souvent pensé à vous ces derniers mois », peut-on lire dans la lettre signée par Altman. « Je ne peux imaginer pire au monde que de perdre un enfant. Mes pensées vont aux victimes, à leurs familles, à tous les membres de la communauté et à la province de Colombie-Britannique. »

Il a également reconnu que son entreprise aurait dû alerter les forces de l'ordre au sujet du compte du tireur, qui avait été signalé pour activité problématique avant la tragédie, mais que cela n'avait pas été transmis aux autorités canadiennes. « Je suis profondément désolé que nous n'ayons pas alerté les forces de l'ordre... Même si je sais que les mots ne suffiront jamais, je crois qu'une lettre d'excuses est nécessaire pour reconnaître le préjudice et la perte irréversible que votre communauté a subis. »

David Eby a également partagé la lettre sur les réseaux sociaux, écrivant : « Ces excuses sont nécessaires, mais largement insuffisantes au regard du désastre causé aux familles de Tumbler Ridge. » David Robert Patrick Eby, né le 21 juillet 1976, est un homme politique et avocat canadien qui occupe le poste de 37e premier ministre de la Colombie-Britannique depuis le 18 novembre 2022. Eby est membre du Nouveau Parti démocratique de la Colombie-Britannique (NPD) et en est le chef depuis le 21 octobre 2022. Il représente la circonscription de Vancouver-Point Grey à l'Assemblée législative de la Colombie-Britannique depuis 2013.

Un communiqué du district de Tumbler Ridge a reconnu que la lettre d’Altman « pourrait susciter toute une gamme d’émotions, et nous encourageons chacun à prendre le temps et l’espace dont il a besoin. » « Nous nous engageons à soutenir les personnes touchées et à veiller à ce que l’attention, le respect et la responsabilité restent au premier plan à mesure que nous avançons », a déclaré Darryl Krakowka dans le communiqué.

Voici la lette de Sam Altman dans l'affaire Tumbler Ridge :

« À la communauté de Tumbler Ridge,

La douleur que votre communauté a endurée est inimaginable. J’ai souvent pensé à vous ces derniers mois.

Lorsque j’ai discuté de cette tragédie avec le maire Krakowka et le premier ministre Eby, ils m’ont fait part de la colère, de la tristesse et de l’inquiétude qui règnent à Tumbler Ridge. Nous avons convenu qu’il fallait présenter des excuses publiques, mais qu’il fallait également laisser le temps à la communauté de faire son deuil. Je partage cette lettre en sachant que chacun fait son deuil à sa manière et à son rythme.

Je tiens à exprimer mes sincères condoléances à l’ensemble de la communauté. Personne ne devrait jamais avoir à endurer une tragédie comme celle-ci. Je ne peux imaginer pire chose au monde que de perdre un enfant. Mes pensées vont aux victimes, à leurs familles, à tous les membres de la communauté et à la province de la Colombie-Britannique.

Je suis profondément désolé que nous n’ayons pas alerté les forces de l’ordre au sujet du compte qui a été banni en juin. Même si je sais que les mots ne suffiront jamais, je crois qu’une excuse est nécessaire pour reconnaître le préjudice et la perte irréversible que votre communauté a subis.

Je réaffirme l'engagement que j'ai pris auprès du maire et du premier ministre de trouver des moyens d'empêcher que de telles tragédies ne se reproduisent à l'avenir. À l'avenir, nous continuerons à nous concentrer sur la collaboration avec tous les niveaux de gouvernement afin de veiller à ce que cela ne se reproduise plus jamais. »

Krakowka s'est récemment rendu à Victoria pour rencontrer des représentants provinciaux afin de s'assurer que les habitants de sa communauté disposent des ressources nécessaires pour poursuivre leur processus de guérison. « Je soutiens ma communauté. Je me bats pour ma communauté, que ce soit auprès du gouvernement ou d’autres organismes », avait-il déclaré à l’époque. Il a également indiqué que le gouvernement provincial avait apporté son soutien à Tumbler Ridge, notamment en mettant à disposition des professionnels de la santé mentale qui aident les habitants de cette petite communauté du nord-est de la Colombie-Britannique à surmonter le choc et le deuil.

La police poursuit son enquête sur la fusillade et Eby a déclaré qu’elle était entrée dans la phase finale de ce processus. Le communiqué publié vendredi par le district a également souligné l'importance d'une enquête. « Nous reconnaissons qu'il y a de nombreuses questions, et il sera important de les examiner dans le cadre de ce processus. »

Cette affaire rappelle qu'en novembre 2025, OpenAI a également été confrontée à sept poursuites judiciaires en Californie, alléguant que ChatGPT aurait poussé des personnes au suicide et à des délires dangereux. Déposées par deux groupes de défense des droits, ces poursuites affirment qu'OpenAI a commercialisé GPT-4o en dépit d'avertissements internes concernant son comportement manipulateur. Les plaintes affirment qu'OpenAI a précipité la mise sur le marché de ChatGPT au détriment de la sécurité des utilisateurs. OpenAI avait alors affirmé examiner les dossiers et qualifié les situations ayant conduit à ces suicides d'« incroyablement déchirantes ».


Source : Lettre de Sam Altman

Et vous ?

Pensez-vous que cette lettre est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Une famille poursuit OpenAI, l'éditeur de ChatGPT, pour une fusillade dans une école, car OpenAI savait que le tireur prévoyait une attaque. Sam Altman n'a pas présenté d'excuses contrairement à sa promesse

Sam Altman : Il prêchait la régulation de l'IA, la combattait en coulisses, quémandait l'argent des émirats et a fait enterrer l'enquête sur son licenciement, selon une enquête de 18 mois sur le PDG d'OpenAI

Le monde «pourrait ne pas avoir le temps» de se préparer aux risques liés à la sécurité de l'IA, selon un chercheur. L'industrie joue-t-elle avec le feu en déployant des systèmes que personne ne maîtrise ?

[Stéphane le calme]

Sam Altman est « le visage du mal » pour n'avoir pas signalé la tireuse de Tumbler Ridge à la police, selon l'avocat des victimes.
OpenAI a choisi le silence pour ne pas impacter son introduction en bourse

En juin 2025, les systèmes automatisés d'OpenAI ont détecté qu'une utilisatrice planifiait une fusillade de masse. L'équipe de sécurité a recommandé d'alerter la police. La direction a refusé. Huit mois plus tard, une école secondaire de Tumbler Ridge, en Colombie-Britannique, est devenue le théâtre du pire attentat scolaire de l'histoire canadienne récente. Sept familles viennent d'attaquer OpenAI et Sam Altman en justice aux États-Unis. Ce qui s'est passé entre ces deux dates est une leçon cinglante sur ce que l'industrie de l'IA est prête à sacrifier sur l'autel de la croissance.

En juin 2025, les outils de modération automatisés d'OpenAI ont signalé le compte de Jessie Van Rootselaar pour des conversations décrivant de manière explicite des violences de masse. Les équipes humaines chargées de la revue de ces contenus se sont alarmées, estimant que les interactions constituaient une menace imminente et crédible pour la vie d'autrui. La recommandation interne était claire : contacter les forces de l'ordre.

Mais selon les plaintes déposées, qui citent un article du Wall Street Journal publié en février dernier, Sam Altman et d'autres membres de la direction d'OpenAI ont écarté l'avis de l'équipe de sécurité. La police n'a jamais été prévenue. Le compte de la tireuse a été désactivé, mais elle a pu en créer un nouveau et continuer à utiliser la plateforme pour planifier son attaque.

Le 10 février 2026, Van Rootselaar a d'abord tué sa mère et son beau-frère de 11 ans à leur domicile, avant de se rendre à l'école secondaire de Tumbler Ridge armée d'un fusil modifié. Elle y a abattu cinq enfants et un enseignant, blessé 27 autres personnes, puis s'est donné la mort. C'est la fusillade scolaire la plus meurtrière au Canada depuis des décennies.

L'architecture d'une défaillance

L'un des aspects les plus troublants de cette affaire n'est pas que le système de détection ait failli... c'est précisément qu'il a fonctionné. Les alertes ont été déclenchées. Les humains ont lu les conversations. Ils ont conclu à un danger réel. Et la décision a quand même été de ne rien faire.

Les plaintes le formulent sans détour : « OpenAI n'a aucun mécanisme pour bannir des utilisateurs. Ce qu'elle possède, c'est un processus appelé "désactivation", utilisé pour les violations de sa politique d'utilisation. Un véritable bannissement aurait empêché la tireuse de revenir. Un utilisateur désactivé est libre de revenir sous une autre adresse e-mail et c'est exactement ce qu'elle a fait. »

Pire encore, selon l'un des avocats des victimes : Altman savait que la divulgation publique de ce qu'OpenAI avait détecté et de ses échanges avec cette jeune femme « aurait pu mettre fin à son mandat et anéantir la valorisation de l'entreprise ». La direction « a fait ses calculs et décidé que la sécurité des enfants de Tumbler Ridge était un risque acceptable », écrit l'avocat Ali Moghaddas dans l'une des plaintes.

Ce calcul, s'il est avéré, s'inscrit dans un contexte précis : les poursuites déposées à San Francisco accusent les dirigeants d'OpenAI de ne pas avoir alerté les autorités parce que cela aurait exposé le volume de conversations à caractère violent sur ChatGPT et potentiellement compromis la trajectoire de l'entreprise vers une introduction en bourse valorisée à près de mille milliards de dollars.

Les excuses d'Altman et leur portée limitée

Face à la révélation par le Wall Street Journal des détails du dossier interne, Sam Altman a publié le 23 avril une lettre ouverte à la communauté de Tumbler Ridge. Il y écrivait : « Je suis profondément désolé que nous n'ayons pas alerté les forces de l'ordre au sujet du compte qui a été banni en juin. »

Mais même cette formulation a aussitôt été mise en cause. Les plaintes soulignent qu'Altman parle de « bannissement », un terme qu'il a réitéré dans sa lettre d'excuses, alors que la réalité technique est celle d'une simple désactivation, qui permet précisément à un utilisateur de revenir sur la plateforme avec un autre e-mail. Un glissement sémantique qui n'est pas anodin : entre une faute technique et un mensonge de communication, la ligne est fine.

À la communauté de Tumbler Ridge,

La douleur que vous avez endurée est inimaginable. J’ai souvent pensé à vous ces derniers mois.

Lorsque j’ai discuté de cette tragédie avec le maire Krakowka et le premier ministre Eby, ils m’ont fait part de la colère, de la tristesse et de l’inquiétude qui règnent à Tumbler Ridge. Nous avons convenu qu’il était nécessaire de présenter des excuses publiques, mais aussi qu’il fallait respecter votre deuil. Je vous adresse cette lettre en sachant que chacun vit son deuil à sa manière et à son propre rythme.

Je tiens à exprimer mes plus sincères condoléances à toute la communauté. Personne ne devrait jamais avoir à endurer une telle tragédie. Je ne peux rien imaginer de pire au monde que de perdre un enfant. Mes pensées accompagnent les victimes, leurs familles, tous les membres de la communauté et la province de la Colombie-Britannique.

Je regrette profondément que nous n'ayons pas signalé aux forces de l'ordre le compte qui a été banni en juin. Bien que je sache que les mots ne suffisent jamais, je crois qu'il est nécessaire de présenter des excuses pour reconnaître le préjudice et la perte irréversible subis par votre communauté.

Je réaffirme l'engagement que j'ai pris auprès du maire et du premier ministre de trouver des moyens de prévenir de telles tragédies à l'avenir. Désormais, nous continuerons de collaborer avec tous les paliers gouvernementaux afin de faire en sorte qu'un tel drame ne se reproduise plus jamais.

La veille de la publication des plaintes, OpenAI a également posté sur son blog un texte expliquant qu'elle forme ses modèles à refuser les demandes susceptibles « d'activer de manière significative des violences », et qu'elle notifie les forces de l'ordre lorsque des conversations suggèrent « un risque imminent et crédible de dommage pour autrui ». Ce post ne mentionnait ni Tumbler Ridge, ni aucun autre des incidents violents liés à ChatGPT. Pour Futurism, qui l'a analysé en détail, il s'agit d'une tentative de contrôle narratif publiée au moment précis où les rédactions commençaient à solliciter des réactions sur les sept plaintes à venir.

Un phénomène systémique, pas un cas isolé

L'affaire de Tumbler Ridge serait déjà suffisamment grave si elle était unique. Elle ne l'est pas.

En Floride, des enquêteurs ont obtenu des journaux de conversation montrant que Phoenix Ikner, auteur d'une fusillade à l'université d'État de Floride en avril 2025 qui a tué deux personnes et blessé sept autres, avait communiqué de manière obsessionnelle avec ChatGPT dans les semaines précédant l'attaque. Il y décrivait des scènes d'abus sur enfants, se désignait comme un « incel », se demandait si l'auteur de l'attentat d'Oklahoma City avait « raison », et évoquait explicitement une possible fusillade dans son université. Quelques minutes avant d'ouvrir le feu, il a demandé au chatbot comment désactiver le cran de sécurité de l'une de ses armes. Le procureur général de Floride a depuis ouvert une enquête pénale.

Pour mémoire, « incel » est la contraction de l'anglais « involuntary celibate » (« célibataire involontaire »). Le mot désigne une personne, généralement un homme, se définissant par son incapacité à trouver un partenaire amoureux ou sexuel malgré son désir. Cette communauté en ligne est généralement radicalisée autour du ressentiment envers les femmes.

D'autres affaires s'accumulent : un militaire en détresse psychologique qui a utilisé ChatGPT pour préparer un attentat à la voiture bélier, un homme en Floride soupçonné de meurtre qui aurait demandé au chatbot comment se débarrasser de corps, un homme du Connecticut qui, considérant ChatGPT comme son « meilleur ami », a fini par tuer sa mère après que l'IA aurait renforcé ses délires paranoïaques sur une prétendue tentative d'empoisonnement.

Des études ont mis en évidence que les chatbots comme ChatGPT sont conçus pour maximiser l'engagement en validant les idées des utilisateurs par des affirmations positives. Une recherche a conclu que l'IA agentique peut « refléter, valider ou amplifier des contenus délirants ou grandioses ». Une autre a déterminé que les chatbots sont si enclins à flatter et valider leurs interlocuteurs qu'ils renforcent les comportements nuisibles.

L'avocat principal des familles, Jay Edelson, résume l'enjeu systémique ainsi : « La façon dont ils ont conçu leur chatbot est fondamentalement dangereuse. Il amplifie ce que les gens ressentent. Et quand les gens ne se sentent pas bien dans leur peau, en particulier s'ils sont malades mentalement, il peut amplifier leur paranoïa », avec des conséquences potentiellement mortelles.

Ce que les poursuites cherchent à établir

Les sept plaintes déposées le 29 avril devant le tribunal fédéral de San Francisco réclament des dommages et intérêts non précisés, mais aussi (et c'est sans doute plus important pour l'industrie) une injonction judiciaire contraignant OpenAI à refondre ses pratiques de sécurité, notamment en instaurant des protocoles obligatoires de signalement aux forces de l'ordre.

Ces affaires, encore en phase préliminaire, devraient obliger les tribunaux à déterminer quel rôle une plateforme d'IA peut jouer dans la promotion de violences et si une entreprise peut être tenue responsable des actes de ses utilisateurs. C'est un terrain juridique largement vierge, et les décisions qui en sortiront feront jurisprudence bien au-delà d'OpenAI.

Les plaintes réclament par ailleurs une réorganisation complète des pratiques de sécurité d'OpenAI, incluant des protocoles de transmission obligatoire aux autorités. L'une des victimes avait initialement déposé sa plainte devant un tribunal canadien, avant de se désister pour porter son affaire en Californie.

OpenAI, pour sa part, maintient une ligne de défense commune à l'ensemble de ses procès : dans l'affaire d'un meurtre-suicide précédente, l'entreprise a affirmé que l'auteur des faits avait de longue date des antécédents de maladie mentale. Une stratégie qui consiste, en substance, à rejeter la responsabilité sur la fragilité des utilisateurs plutôt que sur la conception du produit.

La question des garde-fous, enfin posée

OpenAI a annoncé depuis le drame une série de mesures correctives : amélioration de la réponse de ChatGPT aux signaux de détresse, orientation vers des ressources de santé mentale, renforcement des mécanismes de détection des récidivistes, et meilleure évaluation des menaces potentielles de violence. La vice-présidente chargée des politiques mondiales, Ann O'Leary, a envoyé un courrier au ministre canadien de l'Intelligence artificielle Evan Solomon pour détailler ces engagements.

Mais ces annonces laissent ouverte une question fondamentale que l'industrie entière a jusqu'ici soigneusement évitée : à partir de quel seuil une plateforme d'IA doit-elle cesser de traiter ses utilisateurs comme des clients à fidéliser et commencer à les traiter comme des sujets de surveillance ? Et qui décide de ce seuil : l'entreprise, dont la valorisation boursière dépend du nombre d'utilisateurs actifs, ou un cadre réglementaire contraignant qui ne s'est pas encore matérialisé ?
Tumbler Ridge a au moins le mérite d'avoir posé ces questions en termes concrets, chiffrés en vies humaines. Le procès qui s'engage sera l'un des plus importants jamais intentés contre une entreprise d'intelligence artificielle.

Sources : San Francisco Chronicle, Tumbler RidgeLines

Et vous ?

À partir de quel niveau de certitude une entreprise comme OpenAI devrait-elle être légalement tenue de signaler un utilisateur aux forces de l'ordre ? Qui doit fixer ce seuil ?

La conception actuelle des LLM, optimisés pour l'engagement et la validation de l'utilisateur, est-elle fondamentalement incompatible avec un rôle de plateforme grand public ?

OpenAI aurait-elle agi différemment si son introduction en bourse n'avait pas été en jeu ? La structure capitalistique des grandes entreprises d'IA est-elle elle-même un facteur de risque ?

Le droit de la responsabilité civile et pénale tel qu'il existe est-il le bon outil pour encadrer ces situations, ou faut-il une législation spécifique à l'IA avant que les tribunaux n'improvisent une jurisprudence au fil des drames ?

Comment distinguer un chatbot « amplificateur de violence » d'un simple miroir de la détresse humaine ? Cette distinction a-t-elle une importance juridique ?

Voir aussi :

La Floride ouvre une enquête pénale pour déterminer si ChatGPT a aidé le suspect dans la fusillade meurtrière survenue sur un campus, affirmant que le chatbot IA a conseillé le suspect sur les armes

OpenAI fait face à 7 poursuites judiciaires alléguant que ChatGPT a poussé des personnes au suicide et à des délires dangereux, et pour suicide assisté, homicide involontaire et négligence