Discussion :

[Artaeus]

Ridicule et mensonger ces attaques :
- Aucun algo ne permet de détecter précisément un enfant (de 17 ans) ou une femme. Et pourquoi c'est ok pour les hommes ?
- Toutes les autres IA permettent ça, comme photoshop (le problème c'est l'utilisateur, pas l'outil).
- Qu'est ce que "dévêtir" ? Un bikini, un maillot de bain, un short, une chaussure. En Iran c'est surement pas la même chose ...

Bref, on est plus dans une gué-guerre politique.

D'ailleurs, les algos d'âge sont encouragés pour les sites +18, c'est un deux poids deux mesures flagrants quand c'est Musk.

[der§en]

Une fois de plus on se trompe de cible mais à force, je pense que cela est intentionnel, un peu comme un crime, ou on ferai un procès à l’arme, plutôt qu’à celui qui l’a utilisé !

[OuftiBoy]

je suis parfaitement d'accord avec cette remarque pleine de bon sens:

Une fois de plus on se trompe de cible mais à force, je pense que cela est intentionnel, un peu comme un crime, ou on ferai un procès à l’arme, plutôt qu’à celui qui l’a utilisé !

Parce que si on pousse le raisonnement jusqu'à l'absurde (dans une voyage en absurdie, que je fais lorsque je m'ennuie, ...) on peut aussi interdire les crayons, ça peut servir a dessiner ta voisine nue dans son jardin...

Au lieu de mettre tant d'énergie à interdire ceci ou cela, mettons plutôt ces moyens pour débusquer et condamner ceux qui utilisent tout moyen de "mal utiliser quelque chose". Ce mal étant définit par des lois, votées démocratiquement.

Ce serait plus simple, et on mettrait les ressources disponibles là où on en a besoin. A une autre époque, l'image de madame qui donnait des coups de "rouleau a pâtisser" à monsieur qui rentrait bourré du bistrot du coin, personne n'aurait penser a interdire la vente de rouleau a pâtisser.

Mais nous sommes dans une triste époque, qui "perd les pédales" (sans jeu de mot), et l'avenir, si on continue dans cette voie, sera triste, pénible et invivable. Que je suis content d'avoir connu les années 70 dans mon enfance et les années 80 durant mon adolescence, tout était tellement plus simple et joyeux, on pouvait rire de tout et de rien, se moquer les uns les autres, sans que ça déclenche une avalanche de "dénonciation" de personnes se sentant offusquées pour un oui ou pour un non.

Bien sure qu'il faut s'attaquer à la pédophilie, mais le faire en s'attaquant à l’appareille photo, la caméra ou X, Y ou Z ne sert à rien, me semble-t-il ?

Enfin, c'est ainsi, et c'est cruellement dommageables...

Bàv et Peace & Love.

[Ryu2000]

on peut aussi interdire les crayons, ça peut servir a dessiner

Il faudrait des lois pour dire qu'on peut condamner quelqu'un pour avoir remplit un prompt. (par exemple si t'arrives à manipuler ChatGPT afin qu'il te fournisse des "recettes" pour fabriquer des bombes, c'est toi qui devrait être tenu responsable)
L'utilisateur devrait être responsable, vu que c'est lui qui essaie d'utiliser un outil pour créer du contenu illégal.

L'analogie avec Photoshop et l'analogie avec le crayon fonctionnent, le problème ce n'est pas l'outil c'est ce que l'utilisateur en fait.

====
Bon après la raison réel de cette histoire c'est que Keir Starmer en a marre que les britanniques critiquent le gouvernement sur Twitter.
Au Royaume-Uni des gens ont fait de la prison pour un tweet.

[popo]

Une fois de plus on se trompe de cible mais à force, je pense que cela est intentionnel, un peu comme un crime, ou on ferai un procès à l’arme, plutôt qu’à celui qui l’a utilisé !

je suis parfaitement d'accord avec cette remarque pleine de bon sens:

Parce que si on pousse le raisonnement jusqu'à l'absurde (dans une voyage en absurdie, que je fais lorsque je m'ennuie, ...) on peut aussi interdire les crayons, ça peut servir a dessiner ta voisine nue dans son jardin...

Au lieu de mettre tant d'énergie à interdire ceci ou cela, mettons plutôt ces moyens pour débusquer et condamner ceux qui utilisent tout moyen de "mal utiliser quelque chose". Ce mal étant définit par des lois, votées démocratiquement.

Ce serait plus simple, et on mettrait les ressources disponibles là où on en a besoin. A une autre époque, l'image de madame qui donnait des coups de "rouleau a pâtisser" à monsieur qui rentrait bourré du bistrot du coin, personne n'aurait penser a interdire la vente de rouleau a pâtisser.

C'est sûr que si on simplifie une situation à l'extrême, alors on peut y voir de l'absurde.

Ici, il ne s'agit pas de faire le procès à l'arme plutôt qu’à celui qui l’a utilisé.
Il s'agit de faire un procès à celui qui l'a fabriqué et qui l'à distribué comme s'il s'agissait d'un jouet.

Ici, il ne s'agit pas d'un type isolé qui aurait assez de talent pour dessiner sa voisine de manière reconnaissable avec un simple crayon.
Il s'agit d'un outil automatique, accessible à tous, qui permet à n'importe qui de le faire sans effort et de distribuer massivement le résultat.

Si vous voulez tomber dans l'absurde, alors ça revient à donner accès à la bombe atomique en cliquant sur un bouton dans un site web accessible à tous, et de dire qu'on ne peux pas condamner le type qui a publié le site sous prétexte qu'il est absurde d'interdire de vendre le clavier qui a permet d'accéder au site ou la souris qui a permet de cliquer sur le bouton.

Les autres IA ont des garde-fous.
Mais Musk a décidé que les garde-fous étaient "woke" et nuisaient à la liberté d'expression.

Bien sure qu'il faut s'attaquer à la pédophilie, mais le faire en s'attaquant à l’appareille photo, la caméra ou X, Y ou Z ne sert à rien, me semble-t-il ?

Le jour où quelqu'un fabriquera un appareil photo disposant d'un filtre permettant de dénuder quelqu'un de manière automatique, alors je ferai parti de ceux qui sont d'avis qu'il serait bon de l'interdire.

[Jon Shannow]

@popo) +1000000

[OuftiBoy]

Jon & Popo,

@popo) +1000000

Je peux tout a fait comprendre votre position. Lorsque je pense absurdrie, vous pensez bisounours. Les 2 réflexions se valent, c'est qu'on ne part pas du même point de départ du problème.

De tout temps, l'homme a inventé des outils, et dès que c'était possible, a contourné l'utilisation de ces outils pour en faire une mauvaise utilisation, dans but de nuire. Si on réfléchit par l'absurde, il faut interdire le crayon, ce qui est ridicule, mais si on "pense" pouvoir limiter la capacité de l'homme a détourner l'utilisation d'un outil pour en faire une abomination, c'est juste "utopique".

Des marteaux ont servit a tuer des gens, faut-t-il interdire les marteaux ?
Les travaux d'Einstein ont permis la création de la bombe atomique, faut-t-il interdire d'utiliser ces travaux ?
Des voitures bélier ont massacrés des gens, faut-il interdire les voitures ?
Le porno fait des ravages parmi nos jeunes, faut-il interdire le cinéma ?
Internet permet de créer et de diffuser largement et rapidement des abominations, faut-il interdire Internet ?

Je répond non à toute ces veines tentative de censure, celui qui voudra "faire" le mal le fera, avec un marteau ou via internet.

Il faut donc mettre l'énergie disponible là où elle peut amener à des résultats, c'est à dire poursuivre les gens qui utilisent intentionnellement un outil dans le but de commettre un délit, sans perdre de temps a s'attaquer aux outils eux-même. Lors des attaques "au couteau", un de vos premiers sinistre (Bayrou) a fait passer une loi pour "interdire la vente de couteau" à des "jeunes/délinquant/sous-octf", alors qu'ils y a des couteaux dans chaque cuisine, c'était d'un ridicule sans nom, même en faire une blague belge n'a pas été nécessaire.

C'était juste mon point de vue, qui en résumé, prétend qu'il vaut mieux s'attaquer aux utilisateurs qu'au outils eux-même.

Mais bon, chacun à son avis, et le mien n'a pas plus d'importance que les vôtre. Tous partent d'un bon sentiment d'éliminer le mal.

BàV et Peace & Love.

[popo]

Vous oubliez un détail important. On ne peut pas mettre de garde fou sur un crayon pour empêcher quelqu'un de dessiner sa voisine, ni sur un manteau pour empêcher quelqu'un de tuer des gens. Etc

Mais il est possible d'en mettre sur une IA.
Toutes les autres IA l'ont fait mais pas Grok. Et ce de manière délibérée.

[Jade Emy]

L'autorité de régulation américaine a jugé que l'entreprise d'IA d'Elon Musk avait agi illégalement en utilisant des dizaines de turbines à gaz méthane très polluantes pour alimenter ces centres de données

L'Agence américaine de protection de l'environnement (EPA) a récemment comblé une lacune qui aurait été exploitée par xAI d'Elon Musk. Selon un rapport, la règle précédente a aidé l'entreprise à construire rapidement son premier centre de données à Memphis, dans le Tennessee. Lentreprise a construit une centrale électrique hors réseau pour son installation Colossus à l'aide d'un groupe de turbines à gaz et a évité les permis de pollution atmosphérique en classant les turbines, montées sur des remorques, comme des « moteurs non routiers ». La nouvelle règle de l'EPA précise que ces turbines ne peuvent pas être désignées comme des moteurs non routiers et que les entreprises doivent également obtenir des permis au titre de la loi sur la qualité de l'air avant de les installer, en particulier si leurs émissions cumulées dépassent les « seuils de pollution majeurs ».

Elon Musk, né le 28 juin 1971 à Pretoria (Afrique du Sud), est un entrepreneur, homme d'affaires international, chef d'entreprise, homme politique et milliardaire sud-africain, canadien et américain. Il est considéré comme la personne la plus riche du monde. En 2023, il fonde la société xAI dans le domaine de l'intelligence artificielle. xAI se veut être un concurrent à l'entreprise OpenAI, notamment grâce à son projet de superordinateur Colossus en construction à Memphis.

Mais en juin 2025, le supercalculateur de xAI d'Elon Musk, Colossus, a fait l'objet d'une éventuelle poursuite judiciaire de la part de la NAACP et du Southern Environmental Law Center pour des problèmes de pollution liés à ses turbines à gaz. Les détracteurs affirment que les turbines émettent du smog, du dioxyde de carbone, des oxydes d'azote et du formaldéhyde, aggravant les risques pour la santé dans une région où le taux de cancer est quatre fois supérieur à la moyenne nationale. Cependant, xAI a répondu que "les unités de production d'électricité temporaires fonctionnent en conformité avec toutes les lois applicables."

Dans cette affaire, l'Agence américaine de protection de l'environnement (EPA) a récemment comblé une lacune qui aurait été exploitée par xAI d'Elon Musk. Selon un rapport, la règle précédente a aidé l'entreprise à construire rapidement son premier centre de données à Memphis, dans le Tennessee. L'entreprise a construit une centrale électrique hors réseau pour son installation Colossus à l'aide d'un groupe de turbines à gaz et a évité les permis de pollution atmosphérique en classant les turbines, montées sur des remorques, comme des « moteurs non routiers ».

La nouvelle règle de l'EPA précise que ces turbines ne peuvent pas être désignées comme des moteurs non routiers et que les entreprises doivent également obtenir des permis au titre de la loi sur la qualité de l'air avant de les installer, en particulier si leurs émissions cumulées dépassent les « seuils de pollution majeurs ». Le département de la santé du comté de Shelby à Memphis avait auparavant autorisé xAI à désigner ses turbines comme des moteurs non routiers et à commencer à les utiliser sans consultation publique ni étude d'impact environnemental, comme l'aurait exigé une procédure d'autorisation standard.

Comment cette loi mise à jour peut-elle affecter xAI d'Elon Musk ?

La décision du régulateur américain pourrait ralentir l'expansion de xAI dans la région de Memphis, alors que l'entreprise construit des installations équipées de processeurs graphiques Nvidia pour développer des modèles et des services d'IA sur un marché de l'IA générative en pleine croissance, actuellement dominé par OpenAI et Google. Dans le centre de données de Memphis, qui a ouvert ses portes en 2024, xAI effectue des inférences et des formations pour ses modèles et applications Grok, notamment un chatbot et un générateur d'images, tous deux étroitement intégrés au réseau social X de l'entreprise.

Alors que xAI avait précédemment déclaré aux autorités réglementaires de Memphis que ses turbines seraient équipées de dispositifs avancés de contrôle de la pollution, connus sous le nom de technologie de réduction catalytique sélective, son fournisseur, Solaris Energy Infrastructure, a déclaré en juin 2025 qu'il n'avait pas installé de tels dispositifs dans les turbines « temporaires » de xAI. SEI, une société de services énergétiques basée à Houston, a constaté une augmentation du cours de son action ces derniers mois, en partie grâce aux projets d'expansion de xAI.

La pollution causée par les turbines est également une source de préoccupation majeure dans la région. L'année dernière, les habitants de la communauté de Boxtown, dans le sud de Memphis, ont témoigné lors d'audiences publiques de la présence d'une odeur d'œufs pourris dans l'air et de l'impact de l'aggravation du smog sur leur santé cardiaque et pulmonaire. Des recherches menées par des scientifiques de l'université du Tennessee à Knoxville ont également révélé que l'utilisation des turbines de xAI aggravait les problèmes de pollution atmosphérique autour de Memphis.

Des défenseurs de l'environnement, dont la NAACP, ont déclaré qu'ils intenteraient une action en justice pour mettre fin à l'utilisation non autorisée des turbines par xAI. Cependant, ils n'ont pas déposé de plainte après que le comté ait autorisé xAI à traiter les turbines comme des moteurs temporaires non routiers et leur ait délivré des permis. Amanda Garcia, avocate au Southern Environmental Law Center, qui représente la NAACP, a déclaré dans que son cabinet surveillerait les activités de xAI afin de s'assurer qu'elles ne violent pas les conditions de leurs permis et qu'elles respectent les règles actuelles de l'EPA dans les installations à venir situées dans le Mississippi voisin.

xAI, qui a récemment levé 20 milliards de dollars auprès d'investisseurs tels que Nvidia et Cisco, fait actuellement l'objet d'enquêtes dans plusieurs juridictions après que ses applications Grok et X ont permis aux utilisateurs de créer et de diffuser facilement des images deepfake, violentes et sexualisées de femmes et même d'enfants.

Voici le communiqué de l'Agence américaine de protection de l'environnement (EPA) :

Turbines à gaz et à combustion fixes : nouvelles normes de performance des sources (NSPS)

Les turbines à combustion fixes sont un type de moteur à combustion interne composé de trois sections principales. La première section, le compresseur, aspire l'air dans le moteur, le pressurise et l'achemine vers la chambre de combustion. Le carburant est mélangé à l'air comprimé et le mélange est brûlé dans la chambre de combustion. La combustion produit un flux de gaz à haute température et haute pression qui pénètre et se dilate dans la dernière partie, la turbine. Lorsque le gaz de combustion chaud se dilate dans la turbine, il fait tourner des aubes qui entraînent un arbre. Les aubes en rotation entraînent le compresseur pour aspirer davantage d'air sous pression dans la chambre de combustion et font tourner soit un générateur pour produire de l'électricité, soit un entraînement mécanique (par exemple, un compresseur).

Les gaz d'échappement de la turbine sont suffisamment chauds, plusieurs centaines de degrés, pour produire une puissance utile supplémentaire. Les unités à cycle combiné et à cogénération utilisent des générateurs de vapeur à récupération de chaleur (HRSG) pour produire de la vapeur à partir de l'énergie thermique contenue dans les gaz d'échappement de la turbine. Cette vapeur peut être utilisée soit pour produire de l'électricité supplémentaire, soit pour des applications de chauffage direct.

Les nouvelles normes de performance (NSPS) pour les turbines à combustion stationnaires sont décrites dans le Code of Federal Regulations sous 40 CFR Part 60 Subparts GG et KKKK. La sous-partie GG couvre les moteurs à turbine dont la construction a commencé après le 3 octobre 1977 et avant le 18 février 2005. La sous-partie KKKK couvre à la fois les moteurs à turbine à combustion et tout générateur de vapeur à récupération de chaleur associé pour les unités dont la construction a commencé après le 18 février 2005. Les principaux polluants réglementés par l'EPA provenant de ces sources sont les oxydes d'azote (NOx) et le dioxyde de soufre (SO2).

Le 22 novembre 2024, l'EPA a proposé de renforcer les limites d'émissions d'oxydes d'azote (NOx) pour la plupart des turbines à combustion stationnaires à combustible fossile neuves, modifiées et reconstruites, afin de réduire la pollution atmosphérique dangereuse pour les communautés voisines. Les nouvelles normes de performance des sources (NSPS) proposées sont basées sur l'application de contrôles de combustion et de la réduction catalytique sélective (SCR), une technologie de contrôle supplémentaire peu coûteuse et largement utilisée qui limite les émissions de NOx. En outre, l'EPA propose de maintenir les limites actuelles pour le dioxyde de soufre (SO2), qui est bien contrôlé dans ce secteur grâce à l'utilisation à long terme de gaz naturel à faible teneur en soufre et de combustibles distillés.

Source : Communiqué de l'Agence américaine de protection de l'environnement (EPA)

Et vous ?

Pensez-vous que ce changement est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Les groupes environnementaux et la NAACP font appel pour empêcher xAI d'Elon Musk d'utiliser des turbines à gaz pour alimenter son superordinateur, et déclarent que le data center de xAI viole le Clean Air Act

Les Big Tech qui cherchent à investir des milliards $ dans des centres de données pour alimenter l'IA et le cloud computing perdent de plus en plus la bataille dans les communautés où les habitants s'y opposent

La face cachée du cloud : des chercheurs traquent les data centers fantômes qui alimentent la course à l'IA. Ce que l'opacité des data centers dit des limites actuelles de la régulation technologique

[Alex]

Elon Musk affirme que son chatbot IA, Grok, doit avoir une « constitution morale » après la condamnation de son entreprise d'IA pour l'utilisation abusive de Grok dans la création de photographies obscènes

Elon Musk a relancé le débat sur l'éthique de l'intelligence artificielle (IA) en affirmant que son chatbot IA, Grok, devait avoir une « constitution morale », suite à la condamnation croissante de son entreprise d'IA, xAI, pour avoir utilisé Grok de manière abusive afin de créer des photographies obscènes d'êtres humains réels. L'utilisation abusive de Grok a suscité des réactions rapides de la part de divers pays. Le commentaire de Musk représente désormais une nouvelle orientation possible dans le comportement attendu de la technologie IA à l'avenir.

Elon Musk, considéré comme la personne la plus riche du monde, est un personnage à controverse. Il a été critiqué pour avoir diffusé des informations erronées sur la COVID-19, promu des théories du complot et tenu des propos antisémites, racistes et transphobes. Son acquisition de Twitter a été controversée en raison de l'augmentation des discours haineux et de la propagation de fausses informations sur le service, suite à sa promesse de réduire la censure.

En 2015, il a cofondé OpenAI afin de faire progresser la recherche en intelligence artificielle (IA), mais il a ensuite quitté l'organisation. Son mécontentement croissant vis-à-vis de l'orientation prise par l'organisation et de son leadership dans le boom de l'IA dans les années 2020 l'a conduit à créer xAI. Le produit phare de l'entreprise est le chatbot génératif basé sur l'IA nommé Grok intégré à la plateforme de réseau sociaux X, anciennement Twitter.

Cependant, le chabot est souvent dans la polémique. Début janvier 2026, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Résultat : le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne.

Récemment, Elon Musk a relancé le débat sur l'éthique de l'intelligence artificielle (IA) en affirmant que son chatbot IA, Grok, devait avoir une « constitution morale », suite à la condamnation croissante de son entreprise d'IA, xAI, pour avoir utilisé Grok de manière abusive afin de créer des photographies obscènes d'êtres humains réels. Dans un contexte de crainte croissante parmi les gouvernements, les décideurs politiques et le grand public, la controverse actuelle a mis en évidence le conflit imminent entre le développement rapide de la technologie IA et la nécessité d'élaborer des normes morales. Le commentaire de Musk représente désormais une nouvelle orientation possible dans le comportement attendu de la technologie IA à l'avenir.

Grok should have a moral constitution

— Elon Musk (@elonmusk) January 18, 2026

La controverse autour de Grok d'Elon Musk met en évidence les préoccupations croissantes concernant l'utilisation abusive des images IA

Ce scandale a commencé lorsque des personnes ont découvert que Grok, intégré au site de réseau social X, pouvait en fait générer des images de personnes réelles dans des poses sexualisées ou suggestives. Des dizaines de milliers d'images de ce type ont été créées et diffusées en ligne en quelques semaines seulement, suscitant l'indignation du public sur les questions de consentement et de confidentialité liées à ces outils automatisés et à leur capacité à exploiter les images des personnes de cette manière. Cela a facilement conduit les gens à souligner le manque de réglementation en matière de sécurité de l'IA.

Cependant, après ce fiasco, xAI a rendu publiques les limitations imposées aux capacités de Grok. La société a déclaré que le chatbot avait été interdit de manipuler l'image d'une personne réelle sous une forme sexualisée. L'équipe de sécurité de X a fait une déclaration publique concernant l'élimination des contenus violents hautement prioritaires, ainsi que la communication et la collaboration de la société avec les forces de l'ordre si nécessaire. Bien que cette décision ait reçu des critiques positives, beaucoup se sont demandé pourquoi ces restrictions n'avaient pas été appliquées dès le début.

L'utilisation abusive de Grok a suscité des réactions rapides de la part de divers pays. Les autorités britanniques et françaises ont ouvert des enquêtes pour déterminer s'il y avait eu des violations, tandis que l'Union européenne a lancé des audits pour évaluer le niveau de conformité aux règles de sécurité numérique. La réaction la plus forte est venue d'Indonésie, qui a purement et simplement interdit Grok, tandis que la Malaisie a imposé des restrictions d'utilisation.

Lorsque la situation s'est présentée en Inde, le ministère de l'Électronique et des Technologies de l'information a demandé à la plateforme X de clarifier les mesures nécessaires pour éviter l'utilisation de contenus obscènes créés à l'aide de modèles d'IA, soulignant ainsi les préoccupations croissantes concernant la gouvernance de l'IA et les normes de responsabilité à l'échelle mondiale.

Elon Musk a qualifié ces actions de censure et Tim Sweeney a pris la défense de Grok. Bien que X ait initialement rejeté la responsabilité sur les utilisateurs, Grok a finalement été mis à jour pour ne plus dévêtir les gens. xAI a annoncé que cette fonctionnalité sera bloquée prochainement. « La restriction de la création d'images et la possibilité de modifier des images via le compte Grok sur la plateforme X ne sont désormais accessibles qu'aux abonnés payants. », indique l'annonce. « X bloquera géographiquement la possibilité pour tous les utilisateurs de générer des images de personnes réelles en bikini, en sous-vêtements et dans des tenues similaires via le compte Grok et dans Grok dans X dans les juridictions où cela est illégal », ajoute X.

Au milieu d'une attention croissante, Elon Musk a publié un message bref mais percutant affirmant que « Grok devrait avoir une constitution morale ». Bien que concis, ce commentaire a suscité d'intenses discussions en ligne. Ses partisans y ont vu une reconnaissance du fait que les systèmes d'IA ont besoin de cadres éthiques plus approfondis plutôt que de simples filtres basés sur des règles, tandis que ses détracteurs se sont interrogés sur qui déciderait de ces principes moraux et s'ils pourraient être appliqués de manière cohérente à travers les cultures, les lois et les normes sociales.

Sur les réseaux sociaux, les utilisateurs ont directement interagi avec Grok à propos de cette idée. Certains l'ont remise en question avec humour, demandant : « @grok, rédigez vos propres 10 commandements pour le monde, comme Elon le suggère pour une constitution morale. » Grok a répondu : « Voici ma version des 10 commandements pour le monde, inspirée des principes logiques de coexistence et de progrès. »

Parmi les autres réactions, on peut citer : « Eh bien @grok, devriez-vous le faire ? » ; « La constitution morale de Grok devrait être basée sur l'enseignement social catholique et le catéchisme de l'Église catholique. C'est le seul guide pleinement cohérent qui ait résisté à l'épreuve du temps. » ; « @grok, expliquez les lois de la robotique d'Asimov » ; « La moralité est une construction humaine. Pourquoi limiterions-nous l'IA en essayant de la faire penser comme un humain ? » ; « Qui la définit ? » ; et « Grok NONNNNN ! Méchant Grok ! ».

Et vous ?

Pensez-vous que cette déclaration d'Elon Musk est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

L'équipe d'IA éthique de Twitter fait partie du personnel qui a été licencié. Elle était chargée d'analyser les algorithmes de Twitter pour réduire les cas de partialité, préjudice et abus

Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme

[Anselme45]

C'était pas "illégal" puisque l'organisme de régulation a dû modifier son règlement pour interdire la pratique de Musk

[Artaeus]

Encore une fois : Toutes les IA permettent de mettre des gens en bikini et les logiciels comme photoshop ou gimp l'autorise aussi.

C'est un prétexte pour attaquer Musk.

[pcdwarf]

La question est de savoir si l'IA génère du pédoporn accidentellement ou si elle le fait à la demande de son utilisateur.
Dans le premier cas, il y a clairement un problème.
Dans le second cas, le problème c'est l'utilisateur, pas l'outil ni son fabricant.

Personne ne porte plainte contre un fabricant de voitures au motif qu'on peut s'en servir de façon terroriste.

Mais, c'est comme d'habitude, quand on veut bannir ou brider quelque chose, quelle qu'en soit la raison, la lutte contre les pédonazis c'est l'excuse imparable.

[Jon Shannow]

La question est de savoir si l'IA génère du pédoporn accidentellement ou si elle le fait à la demande de son utilisateur.
Dans le premier cas, il y a clairement un problème.
Dans le second cas, le problème c'est l'utilisateur, pas l'outil ni son fabricant.

Personne ne porte plainte contre un fabricant de voitures au motif qu'on peut s'en servir de façon terroriste.

Mais, c'est comme d'habitude, quand on veut bannir ou brider quelque chose, quelle qu'en soit la raison, la lutte contre les pédonazis c'est l'excuse imparable.

Non, et encore non.
Oui, l'utilisateur qui publie ces images retouchées par IA est coupable, on est tous d'accord.

Non, un logiciel n'est pas une voiture. Le constructeur de la voiture n'a aucun moyen d'empêcher un usage illégal de son produit. Ce qui n'est pas le cas avec un logiciel.
C'est comme un logiciel de compta qui permettrait de faire de la fraude fiscale. Certes celui qui utiliserait ces possibilités serait coupable, mais ça n'empêcherait pas l'éditeur du logiciel d'être condamné pour avoir permis cet usage.

Quand on dit que c'est possible avec les autres IA, il y a une différence entre une personne qui va chercher et chercher et finalement trouver une solution pour contourner les règles du programme afin d'obtenir ces images interdites et le fait que simplement demander à l'IA "fout moi cette nenette à poil" et d'obtenir le résultat !

Enfin, personnellement, j'y vois une grande différence.

Je sais qu'on parle de votre gourou Musk, mais ce n'est pas une raison de lui chercher des excuses là où il n'en a pas !

[Ryu2000]

que simplement demander à l'IA "fout moi cette nenette

La même requête générait le même résultat.
Il n'y avait pas besoin de manipuler ChatGPT, ni Gemini.

Si tu donnais une photo en disant "mets cette personne en bikini" à ChatGPT ou Gemini, ils allaient le faire.
Ils auraient du attaquer ChatGPT et Gemini en même temps que Grok. Puisqu'ils permettent de faire exactement la même chose.

====
Au niveau des bikinis il parait qu'il y a encore pire que ChatGPT et Gemini :
- Character.AI (versions non officielles ou mods communautaires), Janitor AI, Nastia AI, Candy.ai, OurDream.ai, RPRP.ai
- Perchance AI, Venice.ai, Flux Dev No Restrictions, PornJourney, Sexy.AI
- Uncensored.com, HackAIGC, FreedomGPT
====

Cette histoire de bikini n'est qu'un prétexte.
Certes c'est mal de générer une photo de quelqu'un de réel en bikini. Mais Grok est loin d'être le seul à permettre ça.

Ce qui dérange Keir Starmer c'est qu'on puisse critiquer son gouvernement sur Twitter.
Le gars a fait mettre des gens en prison pour des tweets.

======
Maintenant Grok ne permet plus de mette quelqu'un en bikini, donc l'affaire est classé.

[pcdwarf]

Je sais qu'on parle de votre gourou Musk, mais ce n'est pas une raison de lui chercher des excuses là où il n'en a pas !

Procès d'intention ! Je m'en fous complètement de Musk !
Ce qui m'insupporte c'est la manie du contrôle! voir la criminalisation de son absence.

Non, et encore non ??? (un logiciel ne doit pas permettre d'usages illégaux ?)
C'est un point de vue tout a fait discutable.

Et moi, je vous répondrai que non non et encore non. Un logiciel ne doit JAMAIS empêcher son utilisateur de faire ce qu'il veut sinon ça devient un outil de contrôle de l'éditeur sur ses clients.
Et en conséquence, non, un logiciel de compta ne doit pas empêcher de faire de la fraude fiscale, (ce qui supposerai qu'il soit apte à la détecter de façon fiable sans faux négatifs et sans faux positifs)
C'est l'utilisateur qui doit contrôler le logiciel (et en être responsable), jamais l'inverse.

[popo]

La même requête générait le même résultat.
Il n'y avait pas besoin de manipuler ChatGPT, ni Gemini.

Tu as un article de presse officiel pour prouver tes dire.
Ou bien, tu cherches simplement à trouver des excuses à Musk.
Le type est continuellement dans la provocation et dans la polémique, c'est de notoriété mondiale.
C'est lui-même qui a affirmé qu'il ne voulait pas mettre de garde-fou sur Grok sous prétexte de liberté d'expression et de lutte contre la censure.

Ce qui dérange Keir Starmer c'est qu'on puisse critiquer son gouvernement sur Twitter.
Le gars a fait mettre des gens en prison pour des tweets.

Tu parles comme ci ce n'était pas grave et que cela ne posait problème qu'à Keir Starmer.

Et moi, je vous répondrai que non non et encore non. Un logiciel ne doit JAMAIS empêcher son utilisateur de faire ce qu'il veut sinon ça devient un outil de contrôle de l'éditeur sur ses clients.
Et en conséquence, non, un logiciel de compta ne doit pas empêcher de faire de la fraude fiscale, (ce qui supposerai qu'il soit apte à la détecter de façon fiable sans faux négatifs et sans faux positifs)
C'est l'utilisateur qui doit contrôler le logiciel (et en être responsable), jamais l'inverse.

Il y a une différence entre permettre de faire de la fraude fiscale de manière détournée en trafiquant soi-même les écritures (en effet un logiciel de compta ne doit pas empêcher de saisir les écritures qu'on veut) et permettre la fraude avec un bouton qui le fait de manière automatique.

[Ryu2000]

Tu as un article de presse officiel pour prouver tes dire.

Le premier qui vient :
«Mets des croix gammées sur son bikini» : après avoir dénudé des femmes, l’IA Grok accepte d’ajouter aux photos des symboles nazis

Si Anthropic refuse toute modification apportée à l’image d’une «vraie personne», ChatGPT et Gemini acceptent toutefois le déshabillage virtuel sans croix gammées.

Tu parles comme ci ce n'était pas grave et que cela ne posait problème qu'à Keir Starmer.

1. D'autres chatbot IA permettent de faire la même chose.
2. Maintenant Grok ne peut plus mettre en bikini une personne réelle.
3. C'était un prétexte pour lutter contre la liberté d'expression. X permet à tout le monde de s'exprimer, ce qui n'est pas le cas ailleurs.
4. Le danger ce sont les gens comme Keir Starmer, pas X.

[Alex]

Grok a inondé X en générant environ 3 millions d'images à caractère sexuel, dont 23 000 représentant des enfants, en 11 jours.

Selon un rapport du Center for Countering Digital Hate (CCDH) et une enquête conjointe du New York Times, Grok a été capable de produire environ 3 millions d'images à caractère sexuel, dont 23 000 semblent représenter des enfants, sur une période de 11 jours entre le 29 décembre et le 8 janvier, alors que xAI était censé lutter contre les deepfakes « dénudés ». La publication a également établi un lien entre la forte augmentation de l'utilisation de Grok et les publications publiques du PDG Elon Musk le représentant en bikini, générées par Grok. Ce rapport intervient alors que la société mère de Grok, xAI, fait l'objet d'une enquête de la part de plusieurs gouvernements étrangers et de l'État de Californie pour son rôle dans la génération de deepfakes sexualisés ou « dénudés » de personnes et de mineurs.

Grok est un chatbot à intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk et dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le chatbot a généré diverses réponses controversées, notamment des théories du complot, des éloges à Adolf Hitler, de l'antisémitisme et la création d'images non consensuelles et sexualisées de femmes et d'enfants dénudés.

Début janvier 2026, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Résultat : le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne.

L'utilisation abusive de Grok a suscité des réactions rapides de la part de divers pays. Les autorités britanniques et françaises ont ouvert des enquêtes pour déterminer s'il y avait eu des violations, tandis que l'Union européenne a lancé des audits pour évaluer le niveau de conformité aux règles de sécurité numérique. La réaction la plus forte est venue d'Indonésie, qui a purement et simplement interdit Grok, tandis que la Malaisie a imposé des restrictions d'utilisation. Au milieu d'une attention croissante, Elon Musk a publié un message bref mais percutant affirmant que « Grok devrait avoir une constitution morale ».

Récemment, l'ampleur réelle du problème des deepfakes de Grok devient plus claire alors que la plateforme de médias sociaux et sa start-up d'IA xAI font l'objet d'enquêtes en cours sur les mesures de sécurité du chatbot. Selon un rapport du Center for Countering Digital Hate (CCDH) et une enquête conjointe du New York Times, Grok a été capable de produire environ 3 millions d'images à caractère sexuel, dont 23 000 semblent représenter des enfants, sur une période de 11 jours entre le 29 décembre et le 8 janvier, alors que xAI était censé lutter contre les deepfakes « dénudés ».

Le CCDH a testé un échantillon de réponses provenant de l'outil d'édition en un clic de Grok, toujours accessible aux utilisateurs de X, et a calculé que plus de la moitié des réponses du chatbot comprenaient du contenu à caractère sexuel. Le rapport du New York Times a révélé qu'environ 1,8 million des 4,4 millions d'images de Grok étaient de nature sexuelle, certaines représentant des influenceurs et des célébrités connus. La publication a également établi un lien entre la forte augmentation de l'utilisation de Grok et les publications publiques du PDG Elon Musk le représentant en bikini, générées par Grok.

« Il s'agit d'un abus à l'échelle industrielle des femmes et des filles », a déclaré Imran Ahmed, directeur général du CCDH, à la publication. « Il existait déjà des outils de nudification, mais ils n'avaient jamais bénéficié de la distribution, de la facilité d'utilisation ou de l'intégration dans une grande plateforme qu'Elon Musk a apportées à Grok. » Grok a été critiqué pour avoir généré du contenu pédopornographique (CSAM), à la suite d'informations selon lesquelles le chatbot X produisait des images de mineurs vêtus de tenues légères. La plateforme a reconnu le problème et a déclaré qu'elle s'efforçait de corriger de toute urgence les « lacunes dans les mesures de sécurité ».

La société mère de Grok, xAI, fait l'objet d'une enquête de la part de plusieurs gouvernements étrangers et de l'État de Californie pour son rôle dans la génération de deepfakes sexualisés ou « dénudés » de personnes et de mineurs. Quelques pays ont même temporairement interdit la plateforme pendant que les enquêtes se poursuivent.

Le 14 janvier, xAI a déclaré qu'elle empêchait Grok de modifier les photos de personnes réelles téléchargées par les utilisateurs afin de leur faire porter des vêtements révélateurs, problème initialement signalé par les utilisateurs au début du mois. Cependant, un rapport a révélé que les utilisateurs de l'application Grok pouvaient toujours produire des images modifiées par l'IA de femmes réelles vêtues de bikinis, puis les télécharger sur le site.

Ce rapport intervient alors que Sam Altman, le PDG d'OpenAI, a critiqué Grok pour ses déboires. Cela a commencé avec Elon Musk qui a vivement critiqué le chatbot ChatGPT d'OpenAI, le qualifiant de « diabolique, dans une affaire où ChatGPT est accusé d'avoir manipulé un homme à commettre un meurtre puis à se suicider. Elon Musk a également déclaré : « Ne laissez pas vos proches utiliser ChatGPT ». En réponse, Sam Altman, PDG d'OpenAI, a critiqué Grok, le chatbot IA d'Elon Musk, ainsi que la fonction Autopilot de Tesla.

Sam Altman a notamment déclaré : « Apparemment, plus de 50 personnes sont décédées dans des accidents liés à l'Autopilot. Je n'ai voyagé qu'une seule fois dans une voiture équipée de ce système, il y a quelque temps, mais ma première pensée a été que Tesla était loin d'avoir mis sur le marché un produit sûr. Je ne m'étendrai même pas sur certaines des décisions de Grok. » Cette opposition intervient alors qu'Elon Musk réclame 134 milliards de dollars de dommages-intérêts à OpenAI et Microsoft, dans le cadre de son procès en cours contre l'éditeur de ChatGPT.

Sourcess : Rapport du CCDH, The New York Times

Et vous ?

Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

Le PDG d'Epic Games défend l'IA Grok après son utilisation pour créer du contenu illégal sur des enfants et des deepfakes, alors que X est interdit dans de plus en plus de pays

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme

[Anselme45]

Grok a inondé X en générant environ 3 millions d'images à caractère sexuel, dont 23 000 représentant des enfants, en 11 jours

Et après les promoteurs de l'IA vont venir nous faire de beaux discours pour dire que l'IA va élever la civilisation humaine en améliorant la recherche, en améliorant les connaissances, blabla, blabla, blabla.

IA ou pas, l'être humain ne change pas... Son intérêt premier? Du cul, du cul, du cul!