Discussion :

[Mathis Lucas]

Grok a finalement été mis à jour pour ne plus dévêtir les femmes et les enfants. Le procureur général de Californie va enquêter pour déterminer si le bot d'Elon Musk a enfreint les lois américaines

Elon Musk est au centre d’une vive controverse après avoir doté Grok d’une fonctionnalité permettant de dévêtir les utilisateurs de X (ex-Twitter) sans leur consentement. Le tollé est tel que X a été interdit dans plusieurs pays et est menacé d'interdiction au Royaume-Uni, au Canada et en Australie. Elon Musk a qualifié ces actions de censure et Tim Sweeney a pris la défense de Grok. Bien que X ait initialement rejeté la responsabilité sur les utilisateurs, Grok a finalement été mis à jour pour ne plus dévêtir les gens. X fait désormais l'objet d'une surveillance accrue et le procureur général de Californie a annoncé avoir ouvert une enquête sur X.

Le lancement de cette fonctionnalité a suscité une vive réaction non seulement parmi les artistes et les photographes, qui voient leurs contenus protégés par le droit d'auteur utilisés et modifiés sans effort, mais aussi parmi des milliers d'utilisateurs lambda, en particulier des femmes dont les photos partagées sont modifiées sans leur consentement afin de créer des scénarios suggestifs ou intrusifs, ce qui constitue une violation flagrante de la vie privée.

À la suite d'une vague de protestations mondiales contre l'utilisation de cet outil pour générer des images explicites, xAI a annoncé que cette fonctionnalité sera bloquée prochainement. Pendant ce temps, Elon Musk insiste sur le fait que les utilisateurs sont responsables de ce qu'ils font avec son chatbot.

« Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de modifier les images de personnes réelles portant des vêtements révélateurs, comme des bikinis. Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants », indique le compte X Safety. L'annonce ne précise pas si X va prendre des mesures contre les comptes qui ont créé et publié des images sexualisées de femmes et d'enfants sur le site.

« La restriction de la création d'images et la possibilité de modifier des images via le compte Grok sur la plateforme X ne sont désormais accessibles qu'aux abonnés payants. Cela ajoute une couche de protection supplémentaire en contribuant à garantir que les personnes qui tentent d'abuser du compte Grok pour enfreindre la loi ou nos politiques puissent être tenues responsables », indique l'annonce. X empêchera aussi Grok de dévêtir les gens.

« X bloquera géographiquement la possibilité pour tous les utilisateurs de générer des images de personnes réelles en bikini, en sous-vêtements et dans des tenues similaires via le compte Grok et dans Grok dans X dans les juridictions où cela est illégal », indique X Safety. En réaction à cette interdiction, le gouvernement britannique a revendiqué une « victoire » après que le Premier ministre Sir Keir Starmer a appelé X d'Elon Musk à contrôler Grok.

La Californie va déterminer si Grok a enfreint les lois américaines

Ce changement a été annoncé quelques heures après que le procureur général de Californie, Rob Bonta, a déclaré que l'État enquête sur la propagation de deepfakes sexualisés générés par l'IA, impliquant notamment des enfants. Cette fonctionnalité a suscité l'indignation et la colère des victimes, dont les photos ont été utilisées pour générer des images explicites sans leur consentement. Les utilisateurs ne pouvaient pas empêcher Grok d'utiliser leurs photos.

Dans un communiqué de presse publié le 14 janvier, Rob Bonta a déclaré : « xAI semble faciliter la production à grande échelle d'images intimes deepfake non consenties qui sont utilisées pour harceler des femmes et des filles sur Internet, y compris via la plateforme de médias sociaux X ».

Avant ce changement, X n'avait pas restreint l'application ou le site Web Grok. X avait seulement menacé de suspendre définitivement les utilisateurs qui modifiaient des images pour déshabiller des femmes et des enfants si les résultats étaient jugés « illégaux ». Il avait également empêché Grok de répondre aux demandes visant à dévêtir un utilisateur, mais toute personne disposant d'un abonnement Premium pouvait contourner cette restriction.

Selon Rob Bonta, l'enquête a été déclenchée par les articles concernant les pires productions de Grok. « L'avalanche d'articles détaillant les contenus sexuellement explicites et non consensuels que xAI a créés et publiés en ligne ces dernières semaines est choquante. Ces contenus, qui montrent des femmes et des enfants nus dans des situations sexuellement explicites, ont été utilisés pour harceler des personnes sur Internet », a déclaré Rob Bonta.

Le Premier ministre britannique Keir Starmer avait averti que X risquait de perdre son « droit à l'autorégulation » en raison de la polémique suscitée par les images générées par Grok, mais il a déclaré plus tard dans la semaine qu'il se réjouissait des informations selon lesquelles X prenait des mesures pour remédier au problème. Certains députés britanniques ont également quitté la plateforme de médias sociaux d'Elon Musk à la suite du tollé.

Elon Musk défend Grok et soutient qu'il n'a pas dénudé des enfants

Dans un post, désormais supprimé, Grok a retouché une photo de deux jeunes filles vêtues de tenues légères et dans des poses sexuellement suggestives. Mais avant la mise à jour de X Safety, Elon Musk, propriétaire de X, semblait défendre les résultats de Grok comme étant inoffensifs, insistant sur le fait qu'aucune des images signalées ne montrait des mineurs entièrement dénudés, comme cela constituait le seul résultat problématique de Grok.

« Je [sic] n'ai connaissance d'aucune image de mineurs nus générée par Grok. Littéralement aucune », a déclaré Elon Musk dans un message publié sur X. Cette déclaration d'Elon Musk semble ignorer que les chercheurs ont trouvé plusieurs images préjudiciables dans lesquelles « les utilisateurs demandaient spécifiquement que des mineurs soient placés dans des positions érotiques et que des fluides sexuels soient représentés sur leur corps ».

Elle ignore également que X s'était précédemment volontairement engagé à supprimer toute image intime abusive de sa plateforme, reconnaissant récemment, en 2024, que même les images partiellement nues que les victimes ne souhaiteraient pas voir publiées sur le site pouvaient être préjudiciables.

Le 9 janvier, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur le site que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Grok a ajouté que les utilisateurs peuvent s'abonner pour débloquer ces fonctionnalités. Certaines publications sur la plateforme suggèrent que seuls les abonnés payants ont pu demander avec succès des modifications d'images à Grok.

Aux États-Unis, le ministère de la Justice considère que « toute représentation visuelle d'un comportement sexuellement explicite impliquant une personne âgée de moins de 18 ans » relève de la pornographie infantile (CSAM). Le Centre national pour les enfants disparus et exploités (NCMEC) a déclaré que « les entreprises technologiques ont la responsabilité d'empêcher que leurs outils soient utilisés pour sexualiser ou exploiter des enfants ».

Le réseau social X d'Elon Musk pourrait avoir enfreint plusieurs lois

Grok fait l'objet d'une surveillance accrue dans le monde entier en raison de ses garde-fous jugés trop laxistes. Le chatbot d'Elon Musk est régulièrement empêtré dans les polémiques depuis sa sortie. La chercheuse en politiques publiques Riana Pfefferkorn s'est dite surprise que la plateforme ait mis autant de temps à déployer les nouvelles mesures de protection et estime que les fonctions d'édition auraient dû être supprimées dès le début des abus.

« Des questions subsistent quant à la manière dont X appliquera ses nouvelles politiques, notamment comment le Grok saura si une image représente une personne réelle et quelles mesures il prendra lorsque les utilisateurs enfreindront les règles. Musk n'a pas non plus présenté l'entreprise sous un jour sérieux », a déclaré la chercheuse, précisant qu'il serait utile qu'il cesse de faire des choses comme republier un deepfake de Keir Starmer en bikini.

Selon les experts, il est possible que les résultats de Grok, s'ils n'étaient pas contrôlés, aient finalement conduit X à enfreindre la loi américaine Take It Down Act, qui entrera en vigueur en mai 2026 et qui oblige les plateformes à supprimer rapidement les contenus pornographiques de vengeance générés par l'IA. L'une des mères des enfants d'Elon Musk, Ashley St. Clair, a qualifié les résultats de Grok utilisant ses images de pornographie de vengeance.

Le procureur Rob Bonta n'a pas encore précisé les lois qu'il soupçonne X d'Elon Musk d'avoir enfreintes aux États-Unis. Toutefois, Rob Bonta a précisé que les images représentant des victimes « légèrement vêtues » dépassent les limites, tout comme les images mettant des enfants dans des positions sexuelles. Il a appelé X à prendre plus de mesures pour restreindre les résultats de Grok, ce qui pourrait être fait grâce à quelques mises à jour.

« J'exhorte xAI à prendre des mesures immédiates pour que cela ne se reproduise plus. Nous avons une tolérance zéro pour la création et la diffusion par l'IA d'images intimes non consenties ou de matériel pédopornographique », a-t-il déclaré. xAI s'est engagé à continuer à faire de X une plateforme sûre et à appliquer une tolérance zéro envers toute forme d'exploitation sexuelle des enfants, de nudité non consentie et de contenu sexuel non désiré.

Conclusion

Selon les experts, même si bon nombre des productions de Grok ne peuvent être considérées comme du CSAM, en normalisant la sexualisation des enfants, Grok nuit aux mineurs. En plus du CSAM prétendument généré par Grok trouvé sur le dark Web, l'Internet Watch Foundation a remarqué que des personnes mal intentionnées utilisent des images modifiées par le chatbot pour créer des types encore plus extrêmes de CSAM généré par l'IA.

Elon Musk défend une vision qui privilégie une interprétation maximaliste de la liberté d’expression et se montre sceptique vis-à-vis des mécanismes de modération centralisés. Appliquée à l’IA générative, cependant, cette philosophie atteint toutefois ses limites. La liberté d’expression ne peut servir de paravent à la diffusion ou à la production de contenus criminels, surtout lorsqu’ils sont générés automatiquement par des systèmes industriels.

Malgré un cycle de mise à jour fréquent, le chatbot a suscité des controverses liées à ses réponses sur des sujets sensibles et à l'influence d'Elon Musk sur ses prises de position politiques. Grok est également accusé de propager de la désinformation à caractère négationniste et complotiste. Les antécédents de Grok en matière d'exactitude sont pour le moins mitigés, avec des incidents de divulgation d'informations personnelles et de diffusion d'infox.

Source : X Safety

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des mesures prises par xAI pour empêcher la génération de deepfakes explicites par Grok ?
Ces mesures sont-elles suffisantes ? Que pensez-vous des garde-fous du chatbot Grok d'Elon Musk ? Sont-ils trop permissifs ?
Elon Musk insiste sur le fait que les utilisateurs sont responsables de ce qu'ils font avec son chatbot. Qu'en pensez-vous ?
Que pensez-vous de l'interdiction de X dans certains pays ? Cette mesure est-elle justifiée ou cela relève-t-il de la censure ?

Voir aussi

Elon Musk limite l'outil d'image Grok de xAI aux abonnés payants, après le tollé créé par son IA qui déshabille tout le monde, y compris les mineurs, sans leur consentement

La Malaisie et l'Indonésie bloquent l'accès au chatbot IA Grok d'Elon Musk en raison d'images deepfake : « Les deepfakes constituent une grave violation des droits humains, de la dignité »

Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

[Ryu2000]

« Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de modifier les images de personnes réelles portant des vêtements révélateurs, comme des bikinis. Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants », indique le compte X Safety. L'annonce ne précise pas si X va prendre des mesures contre les comptes qui ont créé et publié des images sexualisées de femmes et d'enfants sur le site.

C'est parfait il n'y a plus aucun problème

« Des questions subsistent quant à la manière dont X appliquera ses nouvelles politiques, notamment comment le Grok saura si une image représente une personne réelle et quelles mesures il prendra lorsque les utilisateurs enfreindront les règles. Musk n'a pas non plus présenté l'entreprise sous un jour sérieux », a déclaré la chercheuse, précisant qu'il serait utile qu'il cesse de faire des choses comme republier un deepfake de Keir Starmer en bikini.

C'est drôle quand une personne suivi partage ce genre de chose

====
Keir Starmer va devoir trouver un autre prétexte, celui des bikinis n'existe plus.

[Artaeus]

Ridicule et mensonger ces attaques :
- Aucun algo ne permet de détecter précisément un enfant (de 17 ans) ou une femme. Et pourquoi c'est ok pour les hommes ?
- Toutes les autres IA permettent ça, comme photoshop (le problème c'est l'utilisateur, pas l'outil).
- Qu'est ce que "dévêtir" ? Un bikini, un maillot de bain, un short, une chaussure. En Iran c'est surement pas la même chose ...

Bref, on est plus dans une gué-guerre politique.

D'ailleurs, les algos d'âge sont encouragés pour les sites +18, c'est un deux poids deux mesures flagrants quand c'est Musk.

[der§en]

Une fois de plus on se trompe de cible mais à force, je pense que cela est intentionnel, un peu comme un crime, ou on ferai un procès à l’arme, plutôt qu’à celui qui l’a utilisé !

[OuftiBoy]

je suis parfaitement d'accord avec cette remarque pleine de bon sens:

Une fois de plus on se trompe de cible mais à force, je pense que cela est intentionnel, un peu comme un crime, ou on ferai un procès à l’arme, plutôt qu’à celui qui l’a utilisé !

Parce que si on pousse le raisonnement jusqu'à l'absurde (dans une voyage en absurdie, que je fais lorsque je m'ennuie, ...) on peut aussi interdire les crayons, ça peut servir a dessiner ta voisine nue dans son jardin...

Au lieu de mettre tant d'énergie à interdire ceci ou cela, mettons plutôt ces moyens pour débusquer et condamner ceux qui utilisent tout moyen de "mal utiliser quelque chose". Ce mal étant définit par des lois, votées démocratiquement.

Ce serait plus simple, et on mettrait les ressources disponibles là où on en a besoin. A une autre époque, l'image de madame qui donnait des coups de "rouleau a pâtisser" à monsieur qui rentrait bourré du bistrot du coin, personne n'aurait penser a interdire la vente de rouleau a pâtisser.

Mais nous sommes dans une triste époque, qui "perd les pédales" (sans jeu de mot), et l'avenir, si on continue dans cette voie, sera triste, pénible et invivable. Que je suis content d'avoir connu les années 70 dans mon enfance et les années 80 durant mon adolescence, tout était tellement plus simple et joyeux, on pouvait rire de tout et de rien, se moquer les uns les autres, sans que ça déclenche une avalanche de "dénonciation" de personnes se sentant offusquées pour un oui ou pour un non.

Bien sure qu'il faut s'attaquer à la pédophilie, mais le faire en s'attaquant à l’appareille photo, la caméra ou X, Y ou Z ne sert à rien, me semble-t-il ?

Enfin, c'est ainsi, et c'est cruellement dommageables...

Bàv et Peace & Love.

[Ryu2000]

on peut aussi interdire les crayons, ça peut servir a dessiner

Il faudrait des lois pour dire qu'on peut condamner quelqu'un pour avoir remplit un prompt. (par exemple si t'arrives à manipuler ChatGPT afin qu'il te fournisse des "recettes" pour fabriquer des bombes, c'est toi qui devrait être tenu responsable)
L'utilisateur devrait être responsable, vu que c'est lui qui essaie d'utiliser un outil pour créer du contenu illégal.

L'analogie avec Photoshop et l'analogie avec le crayon fonctionnent, le problème ce n'est pas l'outil c'est ce que l'utilisateur en fait.

====
Bon après la raison réel de cette histoire c'est que Keir Starmer en a marre que les britanniques critiquent le gouvernement sur Twitter.
Au Royaume-Uni des gens ont fait de la prison pour un tweet.

[popo]

Une fois de plus on se trompe de cible mais à force, je pense que cela est intentionnel, un peu comme un crime, ou on ferai un procès à l’arme, plutôt qu’à celui qui l’a utilisé !

je suis parfaitement d'accord avec cette remarque pleine de bon sens:

Parce que si on pousse le raisonnement jusqu'à l'absurde (dans une voyage en absurdie, que je fais lorsque je m'ennuie, ...) on peut aussi interdire les crayons, ça peut servir a dessiner ta voisine nue dans son jardin...

Au lieu de mettre tant d'énergie à interdire ceci ou cela, mettons plutôt ces moyens pour débusquer et condamner ceux qui utilisent tout moyen de "mal utiliser quelque chose". Ce mal étant définit par des lois, votées démocratiquement.

Ce serait plus simple, et on mettrait les ressources disponibles là où on en a besoin. A une autre époque, l'image de madame qui donnait des coups de "rouleau a pâtisser" à monsieur qui rentrait bourré du bistrot du coin, personne n'aurait penser a interdire la vente de rouleau a pâtisser.

C'est sûr que si on simplifie une situation à l'extrême, alors on peut y voir de l'absurde.

Ici, il ne s'agit pas de faire le procès à l'arme plutôt qu’à celui qui l’a utilisé.
Il s'agit de faire un procès à celui qui l'a fabriqué et qui l'à distribué comme s'il s'agissait d'un jouet.

Ici, il ne s'agit pas d'un type isolé qui aurait assez de talent pour dessiner sa voisine de manière reconnaissable avec un simple crayon.
Il s'agit d'un outil automatique, accessible à tous, qui permet à n'importe qui de le faire sans effort et de distribuer massivement le résultat.

Si vous voulez tomber dans l'absurde, alors ça revient à donner accès à la bombe atomique en cliquant sur un bouton dans un site web accessible à tous, et de dire qu'on ne peux pas condamner le type qui a publié le site sous prétexte qu'il est absurde d'interdire de vendre le clavier qui a permet d'accéder au site ou la souris qui a permet de cliquer sur le bouton.

Les autres IA ont des garde-fous.
Mais Musk a décidé que les garde-fous étaient "woke" et nuisaient à la liberté d'expression.

Bien sure qu'il faut s'attaquer à la pédophilie, mais le faire en s'attaquant à l’appareille photo, la caméra ou X, Y ou Z ne sert à rien, me semble-t-il ?

Le jour où quelqu'un fabriquera un appareil photo disposant d'un filtre permettant de dénuder quelqu'un de manière automatique, alors je ferai parti de ceux qui sont d'avis qu'il serait bon de l'interdire.

[Jon Shannow]

@popo) +1000000

[OuftiBoy]

Jon & Popo,

@popo) +1000000

Je peux tout a fait comprendre votre position. Lorsque je pense absurdrie, vous pensez bisounours. Les 2 réflexions se valent, c'est qu'on ne part pas du même point de départ du problème.

De tout temps, l'homme a inventé des outils, et dès que c'était possible, a contourné l'utilisation de ces outils pour en faire une mauvaise utilisation, dans but de nuire. Si on réfléchit par l'absurde, il faut interdire le crayon, ce qui est ridicule, mais si on "pense" pouvoir limiter la capacité de l'homme a détourner l'utilisation d'un outil pour en faire une abomination, c'est juste "utopique".

Des marteaux ont servit a tuer des gens, faut-t-il interdire les marteaux ?
Les travaux d'Einstein ont permis la création de la bombe atomique, faut-t-il interdire d'utiliser ces travaux ?
Des voitures bélier ont massacrés des gens, faut-il interdire les voitures ?
Le porno fait des ravages parmi nos jeunes, faut-il interdire le cinéma ?
Internet permet de créer et de diffuser largement et rapidement des abominations, faut-il interdire Internet ?

Je répond non à toute ces veines tentative de censure, celui qui voudra "faire" le mal le fera, avec un marteau ou via internet.

Il faut donc mettre l'énergie disponible là où elle peut amener à des résultats, c'est à dire poursuivre les gens qui utilisent intentionnellement un outil dans le but de commettre un délit, sans perdre de temps a s'attaquer aux outils eux-même. Lors des attaques "au couteau", un de vos premiers sinistre (Bayrou) a fait passer une loi pour "interdire la vente de couteau" à des "jeunes/délinquant/sous-octf", alors qu'ils y a des couteaux dans chaque cuisine, c'était d'un ridicule sans nom, même en faire une blague belge n'a pas été nécessaire.

C'était juste mon point de vue, qui en résumé, prétend qu'il vaut mieux s'attaquer aux utilisateurs qu'au outils eux-même.

Mais bon, chacun à son avis, et le mien n'a pas plus d'importance que les vôtre. Tous partent d'un bon sentiment d'éliminer le mal.

BàV et Peace & Love.

[popo]

Vous oubliez un détail important. On ne peut pas mettre de garde fou sur un crayon pour empêcher quelqu'un de dessiner sa voisine, ni sur un manteau pour empêcher quelqu'un de tuer des gens. Etc

Mais il est possible d'en mettre sur une IA.
Toutes les autres IA l'ont fait mais pas Grok. Et ce de manière délibérée.

[Jade Emy]

L'autorité de régulation américaine a jugé que l'entreprise d'IA d'Elon Musk avait agi illégalement en utilisant des dizaines de turbines à gaz méthane très polluantes pour alimenter ces centres de données

L'Agence américaine de protection de l'environnement (EPA) a récemment comblé une lacune qui aurait été exploitée par xAI d'Elon Musk. Selon un rapport, la règle précédente a aidé l'entreprise à construire rapidement son premier centre de données à Memphis, dans le Tennessee. Lentreprise a construit une centrale électrique hors réseau pour son installation Colossus à l'aide d'un groupe de turbines à gaz et a évité les permis de pollution atmosphérique en classant les turbines, montées sur des remorques, comme des « moteurs non routiers ». La nouvelle règle de l'EPA précise que ces turbines ne peuvent pas être désignées comme des moteurs non routiers et que les entreprises doivent également obtenir des permis au titre de la loi sur la qualité de l'air avant de les installer, en particulier si leurs émissions cumulées dépassent les « seuils de pollution majeurs ».

Elon Musk, né le 28 juin 1971 à Pretoria (Afrique du Sud), est un entrepreneur, homme d'affaires international, chef d'entreprise, homme politique et milliardaire sud-africain, canadien et américain. Il est considéré comme la personne la plus riche du monde. En 2023, il fonde la société xAI dans le domaine de l'intelligence artificielle. xAI se veut être un concurrent à l'entreprise OpenAI, notamment grâce à son projet de superordinateur Colossus en construction à Memphis.

Mais en juin 2025, le supercalculateur de xAI d'Elon Musk, Colossus, a fait l'objet d'une éventuelle poursuite judiciaire de la part de la NAACP et du Southern Environmental Law Center pour des problèmes de pollution liés à ses turbines à gaz. Les détracteurs affirment que les turbines émettent du smog, du dioxyde de carbone, des oxydes d'azote et du formaldéhyde, aggravant les risques pour la santé dans une région où le taux de cancer est quatre fois supérieur à la moyenne nationale. Cependant, xAI a répondu que "les unités de production d'électricité temporaires fonctionnent en conformité avec toutes les lois applicables."

Dans cette affaire, l'Agence américaine de protection de l'environnement (EPA) a récemment comblé une lacune qui aurait été exploitée par xAI d'Elon Musk. Selon un rapport, la règle précédente a aidé l'entreprise à construire rapidement son premier centre de données à Memphis, dans le Tennessee. L'entreprise a construit une centrale électrique hors réseau pour son installation Colossus à l'aide d'un groupe de turbines à gaz et a évité les permis de pollution atmosphérique en classant les turbines, montées sur des remorques, comme des « moteurs non routiers ».

La nouvelle règle de l'EPA précise que ces turbines ne peuvent pas être désignées comme des moteurs non routiers et que les entreprises doivent également obtenir des permis au titre de la loi sur la qualité de l'air avant de les installer, en particulier si leurs émissions cumulées dépassent les « seuils de pollution majeurs ». Le département de la santé du comté de Shelby à Memphis avait auparavant autorisé xAI à désigner ses turbines comme des moteurs non routiers et à commencer à les utiliser sans consultation publique ni étude d'impact environnemental, comme l'aurait exigé une procédure d'autorisation standard.

Comment cette loi mise à jour peut-elle affecter xAI d'Elon Musk ?

La décision du régulateur américain pourrait ralentir l'expansion de xAI dans la région de Memphis, alors que l'entreprise construit des installations équipées de processeurs graphiques Nvidia pour développer des modèles et des services d'IA sur un marché de l'IA générative en pleine croissance, actuellement dominé par OpenAI et Google. Dans le centre de données de Memphis, qui a ouvert ses portes en 2024, xAI effectue des inférences et des formations pour ses modèles et applications Grok, notamment un chatbot et un générateur d'images, tous deux étroitement intégrés au réseau social X de l'entreprise.

Alors que xAI avait précédemment déclaré aux autorités réglementaires de Memphis que ses turbines seraient équipées de dispositifs avancés de contrôle de la pollution, connus sous le nom de technologie de réduction catalytique sélective, son fournisseur, Solaris Energy Infrastructure, a déclaré en juin 2025 qu'il n'avait pas installé de tels dispositifs dans les turbines « temporaires » de xAI. SEI, une société de services énergétiques basée à Houston, a constaté une augmentation du cours de son action ces derniers mois, en partie grâce aux projets d'expansion de xAI.

La pollution causée par les turbines est également une source de préoccupation majeure dans la région. L'année dernière, les habitants de la communauté de Boxtown, dans le sud de Memphis, ont témoigné lors d'audiences publiques de la présence d'une odeur d'œufs pourris dans l'air et de l'impact de l'aggravation du smog sur leur santé cardiaque et pulmonaire. Des recherches menées par des scientifiques de l'université du Tennessee à Knoxville ont également révélé que l'utilisation des turbines de xAI aggravait les problèmes de pollution atmosphérique autour de Memphis.

Des défenseurs de l'environnement, dont la NAACP, ont déclaré qu'ils intenteraient une action en justice pour mettre fin à l'utilisation non autorisée des turbines par xAI. Cependant, ils n'ont pas déposé de plainte après que le comté ait autorisé xAI à traiter les turbines comme des moteurs temporaires non routiers et leur ait délivré des permis. Amanda Garcia, avocate au Southern Environmental Law Center, qui représente la NAACP, a déclaré dans que son cabinet surveillerait les activités de xAI afin de s'assurer qu'elles ne violent pas les conditions de leurs permis et qu'elles respectent les règles actuelles de l'EPA dans les installations à venir situées dans le Mississippi voisin.

xAI, qui a récemment levé 20 milliards de dollars auprès d'investisseurs tels que Nvidia et Cisco, fait actuellement l'objet d'enquêtes dans plusieurs juridictions après que ses applications Grok et X ont permis aux utilisateurs de créer et de diffuser facilement des images deepfake, violentes et sexualisées de femmes et même d'enfants.

Voici le communiqué de l'Agence américaine de protection de l'environnement (EPA) :

Turbines à gaz et à combustion fixes : nouvelles normes de performance des sources (NSPS)

Les turbines à combustion fixes sont un type de moteur à combustion interne composé de trois sections principales. La première section, le compresseur, aspire l'air dans le moteur, le pressurise et l'achemine vers la chambre de combustion. Le carburant est mélangé à l'air comprimé et le mélange est brûlé dans la chambre de combustion. La combustion produit un flux de gaz à haute température et haute pression qui pénètre et se dilate dans la dernière partie, la turbine. Lorsque le gaz de combustion chaud se dilate dans la turbine, il fait tourner des aubes qui entraînent un arbre. Les aubes en rotation entraînent le compresseur pour aspirer davantage d'air sous pression dans la chambre de combustion et font tourner soit un générateur pour produire de l'électricité, soit un entraînement mécanique (par exemple, un compresseur).

Les gaz d'échappement de la turbine sont suffisamment chauds, plusieurs centaines de degrés, pour produire une puissance utile supplémentaire. Les unités à cycle combiné et à cogénération utilisent des générateurs de vapeur à récupération de chaleur (HRSG) pour produire de la vapeur à partir de l'énergie thermique contenue dans les gaz d'échappement de la turbine. Cette vapeur peut être utilisée soit pour produire de l'électricité supplémentaire, soit pour des applications de chauffage direct.

Les nouvelles normes de performance (NSPS) pour les turbines à combustion stationnaires sont décrites dans le Code of Federal Regulations sous 40 CFR Part 60 Subparts GG et KKKK. La sous-partie GG couvre les moteurs à turbine dont la construction a commencé après le 3 octobre 1977 et avant le 18 février 2005. La sous-partie KKKK couvre à la fois les moteurs à turbine à combustion et tout générateur de vapeur à récupération de chaleur associé pour les unités dont la construction a commencé après le 18 février 2005. Les principaux polluants réglementés par l'EPA provenant de ces sources sont les oxydes d'azote (NOx) et le dioxyde de soufre (SO2).

Le 22 novembre 2024, l'EPA a proposé de renforcer les limites d'émissions d'oxydes d'azote (NOx) pour la plupart des turbines à combustion stationnaires à combustible fossile neuves, modifiées et reconstruites, afin de réduire la pollution atmosphérique dangereuse pour les communautés voisines. Les nouvelles normes de performance des sources (NSPS) proposées sont basées sur l'application de contrôles de combustion et de la réduction catalytique sélective (SCR), une technologie de contrôle supplémentaire peu coûteuse et largement utilisée qui limite les émissions de NOx. En outre, l'EPA propose de maintenir les limites actuelles pour le dioxyde de soufre (SO2), qui est bien contrôlé dans ce secteur grâce à l'utilisation à long terme de gaz naturel à faible teneur en soufre et de combustibles distillés.

Source : Communiqué de l'Agence américaine de protection de l'environnement (EPA)

Et vous ?

Pensez-vous que ce changement est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Les groupes environnementaux et la NAACP font appel pour empêcher xAI d'Elon Musk d'utiliser des turbines à gaz pour alimenter son superordinateur, et déclarent que le data center de xAI viole le Clean Air Act

Les Big Tech qui cherchent à investir des milliards $ dans des centres de données pour alimenter l'IA et le cloud computing perdent de plus en plus la bataille dans les communautés où les habitants s'y opposent

La face cachée du cloud : des chercheurs traquent les data centers fantômes qui alimentent la course à l'IA. Ce que l'opacité des data centers dit des limites actuelles de la régulation technologique

[Alex]

Elon Musk affirme que son chatbot IA, Grok, doit avoir une « constitution morale » après la condamnation de son entreprise d'IA pour l'utilisation abusive de Grok dans la création de photographies obscènes

Elon Musk a relancé le débat sur l'éthique de l'intelligence artificielle (IA) en affirmant que son chatbot IA, Grok, devait avoir une « constitution morale », suite à la condamnation croissante de son entreprise d'IA, xAI, pour avoir utilisé Grok de manière abusive afin de créer des photographies obscènes d'êtres humains réels. L'utilisation abusive de Grok a suscité des réactions rapides de la part de divers pays. Le commentaire de Musk représente désormais une nouvelle orientation possible dans le comportement attendu de la technologie IA à l'avenir.

Elon Musk, considéré comme la personne la plus riche du monde, est un personnage à controverse. Il a été critiqué pour avoir diffusé des informations erronées sur la COVID-19, promu des théories du complot et tenu des propos antisémites, racistes et transphobes. Son acquisition de Twitter a été controversée en raison de l'augmentation des discours haineux et de la propagation de fausses informations sur le service, suite à sa promesse de réduire la censure.

En 2015, il a cofondé OpenAI afin de faire progresser la recherche en intelligence artificielle (IA), mais il a ensuite quitté l'organisation. Son mécontentement croissant vis-à-vis de l'orientation prise par l'organisation et de son leadership dans le boom de l'IA dans les années 2020 l'a conduit à créer xAI. Le produit phare de l'entreprise est le chatbot génératif basé sur l'IA nommé Grok intégré à la plateforme de réseau sociaux X, anciennement Twitter.

Cependant, le chabot est souvent dans la polémique. Début janvier 2026, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Résultat : le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne.

Récemment, Elon Musk a relancé le débat sur l'éthique de l'intelligence artificielle (IA) en affirmant que son chatbot IA, Grok, devait avoir une « constitution morale », suite à la condamnation croissante de son entreprise d'IA, xAI, pour avoir utilisé Grok de manière abusive afin de créer des photographies obscènes d'êtres humains réels. Dans un contexte de crainte croissante parmi les gouvernements, les décideurs politiques et le grand public, la controverse actuelle a mis en évidence le conflit imminent entre le développement rapide de la technologie IA et la nécessité d'élaborer des normes morales. Le commentaire de Musk représente désormais une nouvelle orientation possible dans le comportement attendu de la technologie IA à l'avenir.

Grok should have a moral constitution

— Elon Musk (@elonmusk) January 18, 2026

La controverse autour de Grok d'Elon Musk met en évidence les préoccupations croissantes concernant l'utilisation abusive des images IA

Ce scandale a commencé lorsque des personnes ont découvert que Grok, intégré au site de réseau social X, pouvait en fait générer des images de personnes réelles dans des poses sexualisées ou suggestives. Des dizaines de milliers d'images de ce type ont été créées et diffusées en ligne en quelques semaines seulement, suscitant l'indignation du public sur les questions de consentement et de confidentialité liées à ces outils automatisés et à leur capacité à exploiter les images des personnes de cette manière. Cela a facilement conduit les gens à souligner le manque de réglementation en matière de sécurité de l'IA.

Cependant, après ce fiasco, xAI a rendu publiques les limitations imposées aux capacités de Grok. La société a déclaré que le chatbot avait été interdit de manipuler l'image d'une personne réelle sous une forme sexualisée. L'équipe de sécurité de X a fait une déclaration publique concernant l'élimination des contenus violents hautement prioritaires, ainsi que la communication et la collaboration de la société avec les forces de l'ordre si nécessaire. Bien que cette décision ait reçu des critiques positives, beaucoup se sont demandé pourquoi ces restrictions n'avaient pas été appliquées dès le début.

L'utilisation abusive de Grok a suscité des réactions rapides de la part de divers pays. Les autorités britanniques et françaises ont ouvert des enquêtes pour déterminer s'il y avait eu des violations, tandis que l'Union européenne a lancé des audits pour évaluer le niveau de conformité aux règles de sécurité numérique. La réaction la plus forte est venue d'Indonésie, qui a purement et simplement interdit Grok, tandis que la Malaisie a imposé des restrictions d'utilisation.

Lorsque la situation s'est présentée en Inde, le ministère de l'Électronique et des Technologies de l'information a demandé à la plateforme X de clarifier les mesures nécessaires pour éviter l'utilisation de contenus obscènes créés à l'aide de modèles d'IA, soulignant ainsi les préoccupations croissantes concernant la gouvernance de l'IA et les normes de responsabilité à l'échelle mondiale.

Elon Musk a qualifié ces actions de censure et Tim Sweeney a pris la défense de Grok. Bien que X ait initialement rejeté la responsabilité sur les utilisateurs, Grok a finalement été mis à jour pour ne plus dévêtir les gens. xAI a annoncé que cette fonctionnalité sera bloquée prochainement. « La restriction de la création d'images et la possibilité de modifier des images via le compte Grok sur la plateforme X ne sont désormais accessibles qu'aux abonnés payants. », indique l'annonce. « X bloquera géographiquement la possibilité pour tous les utilisateurs de générer des images de personnes réelles en bikini, en sous-vêtements et dans des tenues similaires via le compte Grok et dans Grok dans X dans les juridictions où cela est illégal », ajoute X.

Au milieu d'une attention croissante, Elon Musk a publié un message bref mais percutant affirmant que « Grok devrait avoir une constitution morale ». Bien que concis, ce commentaire a suscité d'intenses discussions en ligne. Ses partisans y ont vu une reconnaissance du fait que les systèmes d'IA ont besoin de cadres éthiques plus approfondis plutôt que de simples filtres basés sur des règles, tandis que ses détracteurs se sont interrogés sur qui déciderait de ces principes moraux et s'ils pourraient être appliqués de manière cohérente à travers les cultures, les lois et les normes sociales.

Sur les réseaux sociaux, les utilisateurs ont directement interagi avec Grok à propos de cette idée. Certains l'ont remise en question avec humour, demandant : « @grok, rédigez vos propres 10 commandements pour le monde, comme Elon le suggère pour une constitution morale. » Grok a répondu : « Voici ma version des 10 commandements pour le monde, inspirée des principes logiques de coexistence et de progrès. »

Parmi les autres réactions, on peut citer : « Eh bien @grok, devriez-vous le faire ? » ; « La constitution morale de Grok devrait être basée sur l'enseignement social catholique et le catéchisme de l'Église catholique. C'est le seul guide pleinement cohérent qui ait résisté à l'épreuve du temps. » ; « @grok, expliquez les lois de la robotique d'Asimov » ; « La moralité est une construction humaine. Pourquoi limiterions-nous l'IA en essayant de la faire penser comme un humain ? » ; « Qui la définit ? » ; et « Grok NONNNNN ! Méchant Grok ! ».

Et vous ?

Pensez-vous que cette déclaration d'Elon Musk est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

L'équipe d'IA éthique de Twitter fait partie du personnel qui a été licencié. Elle était chargée d'analyser les algorithmes de Twitter pour réduire les cas de partialité, préjudice et abus

Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme

[Anselme45]

C'était pas "illégal" puisque l'organisme de régulation a dû modifier son règlement pour interdire la pratique de Musk

[Artaeus]

Encore une fois : Toutes les IA permettent de mettre des gens en bikini et les logiciels comme photoshop ou gimp l'autorise aussi.

C'est un prétexte pour attaquer Musk.

[pcdwarf]

La question est de savoir si l'IA génère du pédoporn accidentellement ou si elle le fait à la demande de son utilisateur.
Dans le premier cas, il y a clairement un problème.
Dans le second cas, le problème c'est l'utilisateur, pas l'outil ni son fabricant.

Personne ne porte plainte contre un fabricant de voitures au motif qu'on peut s'en servir de façon terroriste.

Mais, c'est comme d'habitude, quand on veut bannir ou brider quelque chose, quelle qu'en soit la raison, la lutte contre les pédonazis c'est l'excuse imparable.

[Jon Shannow]

La question est de savoir si l'IA génère du pédoporn accidentellement ou si elle le fait à la demande de son utilisateur.
Dans le premier cas, il y a clairement un problème.
Dans le second cas, le problème c'est l'utilisateur, pas l'outil ni son fabricant.

Personne ne porte plainte contre un fabricant de voitures au motif qu'on peut s'en servir de façon terroriste.

Mais, c'est comme d'habitude, quand on veut bannir ou brider quelque chose, quelle qu'en soit la raison, la lutte contre les pédonazis c'est l'excuse imparable.

Non, et encore non.
Oui, l'utilisateur qui publie ces images retouchées par IA est coupable, on est tous d'accord.

Non, un logiciel n'est pas une voiture. Le constructeur de la voiture n'a aucun moyen d'empêcher un usage illégal de son produit. Ce qui n'est pas le cas avec un logiciel.
C'est comme un logiciel de compta qui permettrait de faire de la fraude fiscale. Certes celui qui utiliserait ces possibilités serait coupable, mais ça n'empêcherait pas l'éditeur du logiciel d'être condamné pour avoir permis cet usage.

Quand on dit que c'est possible avec les autres IA, il y a une différence entre une personne qui va chercher et chercher et finalement trouver une solution pour contourner les règles du programme afin d'obtenir ces images interdites et le fait que simplement demander à l'IA "fout moi cette nenette à poil" et d'obtenir le résultat !

Enfin, personnellement, j'y vois une grande différence.

Je sais qu'on parle de votre gourou Musk, mais ce n'est pas une raison de lui chercher des excuses là où il n'en a pas !

[Ryu2000]

que simplement demander à l'IA "fout moi cette nenette

La même requête générait le même résultat.
Il n'y avait pas besoin de manipuler ChatGPT, ni Gemini.

Si tu donnais une photo en disant "mets cette personne en bikini" à ChatGPT ou Gemini, ils allaient le faire.
Ils auraient du attaquer ChatGPT et Gemini en même temps que Grok. Puisqu'ils permettent de faire exactement la même chose.

====
Au niveau des bikinis il parait qu'il y a encore pire que ChatGPT et Gemini :
- Character.AI (versions non officielles ou mods communautaires), Janitor AI, Nastia AI, Candy.ai, OurDream.ai, RPRP.ai
- Perchance AI, Venice.ai, Flux Dev No Restrictions, PornJourney, Sexy.AI
- Uncensored.com, HackAIGC, FreedomGPT
====

Cette histoire de bikini n'est qu'un prétexte.
Certes c'est mal de générer une photo de quelqu'un de réel en bikini. Mais Grok est loin d'être le seul à permettre ça.

Ce qui dérange Keir Starmer c'est qu'on puisse critiquer son gouvernement sur Twitter.
Le gars a fait mettre des gens en prison pour des tweets.

======
Maintenant Grok ne permet plus de mette quelqu'un en bikini, donc l'affaire est classé.

[pcdwarf]

Je sais qu'on parle de votre gourou Musk, mais ce n'est pas une raison de lui chercher des excuses là où il n'en a pas !

Procès d'intention ! Je m'en fous complètement de Musk !
Ce qui m'insupporte c'est la manie du contrôle! voir la criminalisation de son absence.

Non, et encore non ??? (un logiciel ne doit pas permettre d'usages illégaux ?)
C'est un point de vue tout a fait discutable.

Et moi, je vous répondrai que non non et encore non. Un logiciel ne doit JAMAIS empêcher son utilisateur de faire ce qu'il veut sinon ça devient un outil de contrôle de l'éditeur sur ses clients.
Et en conséquence, non, un logiciel de compta ne doit pas empêcher de faire de la fraude fiscale, (ce qui supposerai qu'il soit apte à la détecter de façon fiable sans faux négatifs et sans faux positifs)
C'est l'utilisateur qui doit contrôler le logiciel (et en être responsable), jamais l'inverse.

[popo]

La même requête générait le même résultat.
Il n'y avait pas besoin de manipuler ChatGPT, ni Gemini.

Tu as un article de presse officiel pour prouver tes dire.
Ou bien, tu cherches simplement à trouver des excuses à Musk.
Le type est continuellement dans la provocation et dans la polémique, c'est de notoriété mondiale.
C'est lui-même qui a affirmé qu'il ne voulait pas mettre de garde-fou sur Grok sous prétexte de liberté d'expression et de lutte contre la censure.

Ce qui dérange Keir Starmer c'est qu'on puisse critiquer son gouvernement sur Twitter.
Le gars a fait mettre des gens en prison pour des tweets.

Tu parles comme ci ce n'était pas grave et que cela ne posait problème qu'à Keir Starmer.

Et moi, je vous répondrai que non non et encore non. Un logiciel ne doit JAMAIS empêcher son utilisateur de faire ce qu'il veut sinon ça devient un outil de contrôle de l'éditeur sur ses clients.
Et en conséquence, non, un logiciel de compta ne doit pas empêcher de faire de la fraude fiscale, (ce qui supposerai qu'il soit apte à la détecter de façon fiable sans faux négatifs et sans faux positifs)
C'est l'utilisateur qui doit contrôler le logiciel (et en être responsable), jamais l'inverse.

Il y a une différence entre permettre de faire de la fraude fiscale de manière détournée en trafiquant soi-même les écritures (en effet un logiciel de compta ne doit pas empêcher de saisir les écritures qu'on veut) et permettre la fraude avec un bouton qui le fait de manière automatique.

[Ryu2000]

Tu as un article de presse officiel pour prouver tes dire.

Le premier qui vient :
«Mets des croix gammées sur son bikini» : après avoir dénudé des femmes, l’IA Grok accepte d’ajouter aux photos des symboles nazis

Si Anthropic refuse toute modification apportée à l’image d’une «vraie personne», ChatGPT et Gemini acceptent toutefois le déshabillage virtuel sans croix gammées.

Tu parles comme ci ce n'était pas grave et que cela ne posait problème qu'à Keir Starmer.

1. D'autres chatbot IA permettent de faire la même chose.
2. Maintenant Grok ne peut plus mettre en bikini une personne réelle.
3. C'était un prétexte pour lutter contre la liberté d'expression. X permet à tout le monde de s'exprimer, ce qui n'est pas le cas ailleurs.
4. Le danger ce sont les gens comme Keir Starmer, pas X.