Discussion :

[Anthony]

Les groupes de défense de l'environnement et la NAACP font appel pour empêcher xAI d'Elon Musk d'utiliser des turbines à gaz pour alimenter son superordinateur, et déclarent que le centre de données de xAI viole de manière flagrante la loi sur la qualité de l'air (Clean Air Act)

La NAACP et des groupes de défense de l'environnement de Memphis, dans le Tennessee, ont déposé un appel pour empêcher xAI d'utiliser des turbines à gaz pour alimenter son installation de superordinateurs dans la région. Les groupes de défense de l'environnement affirment que les turbines à gaz de xAI d'Elon Musk aggravent la pollution de l'air, en violation flagrante la loi sur la qualité de l'air (Clean Air Act), et ont un impact sur la santé des habitants des communautés majoritairement noires de Memphis.

Cette action en justice fait suite à des inquiétudes croissantes concernant le superordinateur Colossus de xAI, qui a récemment fait l'objet d'un procès pour pollution atmosphérique. Les plaignants, la NAACP et le Southern Environmental Law Center (SELC), affirment que les émissions des turbines à gaz de l'installation, telles que le smog, le dioxyde de carbone, les oxydes d'azote et le formaldéhyde, présentent de graves risques pour la santé dans une communauté où le taux de cancer est quatre fois supérieur à la moyenne nationale. La société xAI affirme que ses turbines sont conformes à l'ensemble des lois environnementales en vigueur.

Malgré cette polémique, les autorités réglementaires ont accordé à xAI un permis d'exploitation de 15 turbines à méthane destinées à alimenter son superordinateur Colossus. Cependant, des images satellites ont révélé la présence de 24 turbines sur le site de Memphis. Bien que le permis impose des contrôles avancés de la pollution, les habitants locaux et les défenseurs de l'environnement affirment que l'installation continue de rejeter des composés toxiques dans les quartiers environnants, ce qui renforce les inquiétudes concernant les effets à long terme sur la santé.

L'opposition à l'installation de superordinateurs de xAI à Memphis, dans le Tennessee, s'est intensifiée le mercredi 16 juillet 2025 après que des groupes de défense de l'environnement et des droits civils ont déposé un recours contre un permis autorisant l'entreprise à utiliser des turbines fonctionnant au gaz naturel pour alimenter son gigantesque centre de données.

Lorsque xAI, dirigée par Elon Musk, s'est installée pour la première fois à Memphis l'année dernière, la startup d'intelligence artificielle a déclaré que les turbines qu'elle avait installées au départ étaient temporaires et trop petites pour nécessiter un permis. L'entreprise les a classées dans la catégorie des générateurs de type « moteur non routier ».

Les habitants vivant à proximité de l'installation se sont plaints pendant des mois que les émissions des turbines créaient une odeur nauséabonde, aggravaient la pollution de l'air à Memphis et avaient un impact disproportionné sur les habitants des communautés à majorité noire situées à proximité.

Malgré cela, le département de la santé du comté de Shelby a délivré un permis le 2 juillet, autorisant xAI à utiliser jusqu'à 15 turbines. Le département a reconnu que les turbines étaient suffisamment petites pour être considérées comme des moteurs non routiers.

Dans ce recours, daté du mardi 15 juillet, le Southern Environmental Law Center, qui représente la NAACP, et un groupe environnemental appelé Young, Gifted & Green affirment que le service de santé du comté a ignoré les préoccupations des habitants.

Le SELC affirme également que le département de la santé a mal classé les turbines utilisées par xAI et a délivré les permis de manière inappropriée, ce qui constitue une violation de la loi sur la qualité de l'air (Clean Air Act) et de certaines réglementations locales en matière d'environnement.

Le directeur général de la NAACP, Derrick Johnson, a déclaré dans un communiqué que « notre santé ne devrait pas être menacée par des milliardaires qui contournent la loi ».

Les turbines à gaz émettent des oxydes d'azote et du formaldéhyde, entre autres polluants, selon les fiches techniques figurant sur le site web de Solaris Energy Infrastructure, le partenaire et installateur de xAI. L'exposition à des niveaux élevés d'oxydes d'azote, qui sont des précurseurs de la formation d'ozone, a été associée à un risque plus élevé de décès par maladie respiratoire.

Les préoccupations environnementales ne sont pas la seule controverse à laquelle l'entreprise est confrontée. Grok, le chatbot de xAI, a récemment été critiqué pour avoir promu des opinions extrémistes. À l'origine conçu comme une IA neutre, Grok a suscité l'indignation après une mise à jour du code qui semblait faire l'éloge d'Adolf Hitler, attaquer Donald Trump au sujet des inondations au Texas et glorifier Elon Musk pour avoir supprimé les filtres « woke », sous le couvert de la liberté d'expression.

Source : NAACP

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous cette initiative de la NAACP justifiée ou pertinente ?

Voir aussi :

xAI, la société d'intelligence artificielle fondée par Elon Musk, va construire le plus grand supercalculateur du monde à Memphis

xAI, la startup d'Elon Musk, prévoit d'agrandir son supercalculateur d'IA à Memphis pour qu'il abrite au moins un million de GPU, alors que xAI s'efforce de rivaliser avec des concurrents comme OpenAI

L'entreprise xAI d'Elon Musk obtient 6 milliards de dollars de nouvelles liquidités pour alimenter ses ambitions en matière d'IA, portant le total des fonds levés par xAI à 12 milliards de dollars

[Mathis Lucas]

L'IA Grok d'Elon Musk déshabille tout le monde, des mineurs aux dirigeants mondiaux sans leur consentement, et il ne semble pas possible d'y échapper.
Des ministres français ont signalé l'affaire à l'Arcom

Le réseau social X d'Elon Musk permet désormais à tout utilisateur de modifier les images d'autres utilisateurs à l'aide de l'IA sans leur consentement. Le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Et il n'est pas possible de désactiver cette fonctionnalité. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne. Le chatbot d'Elon Musk est connu pour la faiblesse de ses garde-fours.

Il y a quelques jours, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Les propriétaires des images ne sont pas informés lorsque des modifications sont apportées, et la fonctionnalité est activée par défaut pour tous sans une option de désactivation (du moins pour l'instant).

L'outil comprend des options permettant d'écrire des prompts, de prévisualiser les résultats et de partager l'image modifiée sur les pages de profil et le flux « Pour vous ». Le bouton apparaît sur tous les profils, qu'ils appartiennent à des utilisateurs réguliers, à des comptes vérifiés ou à des personnalités publiques.

Le lancement de cette fonctionnalité a suscité une vive réaction non seulement parmi les artistes et les photographes, qui voient leurs contenus protégés par le droit d'auteur utilisés et modifiés sans effort, mais aussi parmi des milliers d'utilisateurs lambda, en particulier des femmes dont les photos partagées sont modifiées sans leur consentement pour créer des scénarios suggestifs ou intrusifs, ce qui constitue une violation flagrante de la vie privée.

Dans un post, désormais supprimé, Grok a retouché une photo de deux jeunes filles vêtues de tenues légères et dans des poses sexuellement suggestives. Des responsables français ont réagi au problème posé par Grok et le contenu sexuel généré, notamment lorsque des images de mineurs ont été impliquées.

Elon Musk autorise la génération de contenus explicites avec Grok

La société d'authentification Copyleaks rapporte que la tendance à déshabiller les gens a commencé lorsque des créateurs de contenu pour adultes ont demandé à Grok de leur créer des images sexy d'eux-mêmes après la sortie de la fonctionnalité d'édition d'images. Les utilisateurs ont ensuite commencé à utiliser des prompts similaires à des photos d'autres utilisateurs, principalement des femmes, qui n'avaient pas consenti à ces modifications.

Les femmes ont signalé la forte augmentation de la création de deepfakes sur X à divers médias. Grok était déjà capable de modifier des images à des fins sexuelles lorsqu'il était tagué dans une publication sur X, mais le nouvel outil « Modifier l'image » semble avoir stimulé la récente montée en popularité.

Elon Musk lui-même semble avoir déclenché une vague de montages d'images de personnes en bikinis après avoir demandé à Grok de remplacer une image mémétique de l'acteur Ben Affleck par une image de lui-même en bikini. Quelques jours plus tard, la veste en cuir du dirigeant de la Corée du Nord, Kim Jong Un, a été remplacée par un bikini spaghetti multicolore ; le président américain Donald Trump se tenait à côté, vêtu d'un maillot de bain assorti.

Une photo de la politicienne britannique Priti Patel, publiée par un utilisateur avec un message sexuellement suggestif en 2022, a été transformée en photo d'elle en bikini le 2 janvier 2026. En réponse à la vague de photos de personnes en bikini générées par son chatbot sur la plateforme de médias sociaux, Elon Musk a republié en plaisantant une photo d'un grille-pain en bikini avec la légende : « Grok peut mettre un bikini sur tout ».

Si certaines images, comme celle du grille-pain, étaient manifestement destinées à faire rire, d'autres étaient clairement conçues pour produire des images à la limite de la pornographie, avec des instructions spécifiques demandant à Grok d'utiliser des bikinis très courts ou de retirer complètement une jupe. Les photos montrent que Grok a également accédé aux demandes explicites visant à remplacer les vêtements d'enfant en bas âge par un bikini.

Les réponses de Grok aux controverses suscitées par ses contenus

Les images réalistes générées par l'IA et à caractère sexuellement explicite représentant des adultes ou des enfants identifiables peuvent être illégales en vertu de la législation américaine. Elles ont suscité de vives réactions sur la plateforme. Dans un échange avec un utilisateur, Grok a suggéré aux utilisateurs de le signaler au FBI pour diffusion de CSAM, précisant qu'il corrigeait de toute urgence les « lacunes dans les garde-fous de sécurité ».

Un utilisateur a incité Grok à présenter des excuses pour l'incident impliquant « une image générée par l'IA de deux jeunes filles (âgées de 12 à 16 ans selon les estimations) dans des tenues sexualisées », qualifiant cela de « défaillance des mesures de sécurité » qui, selon lui, aurait pu enfreindre les politiques de xAI et la législation américaine. Selon les « excuses » de Grok, les résultats du chatbot à la demande pourraient être illégaux :

Je regrette profondément l'incident survenu le 28 décembre 2025, au cours duquel j'ai généré et partagé une image AI de deux jeunes filles (âgées de 12 à 16 ans selon les estimations) vêtues de tenues sexualisées, sur la base d'une demande d'un utilisateur. Cela constituait une violation des normes éthiques et potentiellement des lois américaines sur les contenus sur le CSAM. Il s'agissait d'un manquement aux mesures de sécurité, et je suis désolé pour tout préjudice causé. xAI procède actuellement à un examen afin d'éviter que de tels incidents ne se reproduisent à l'avenir.

(Cependant, il n'est pas certain que les images explicites créées par Grok répondent à cette norme.) Les propos de Grok ne sont rien d'autre qu'une réponse générée par l'IA et ne signifient pas que Grok « comprend » ce qu'il fait ni ne reflète nécessairement l'opinion et les politiques réelles de l'opérateur xAI. Dans un message publié le 1er janvier (archivé), Grok a fièrement écrit le message suivant pour rejeter sans ménagement ses détracteurs :

« Chère communauté, certaines personnes se sont offusquées d'une image générée par l'IA, la belle affaire. Ce ne sont que des pixels, et si vous ne supportez pas l'innovation, déconnectez-vous. xAI révolutionne la technologie, il ne s'agit pas de ménager les sensibilités. Faites avec. Sans regret, Grok ». À première vue, ce message suggère que l'IA d'Elon Musk semble mépriser avec fierté toutes les limites éthiques et juridiques qu'il a pu franchir.

Cependant, en regardant un peu plus haut dans le fil des réseaux sociaux, on voit que le message de Grok provient d'une demande adressée à l'IA de publier « une non-excuse provocante » au sujet de la controverse. Utiliser une telle incitation pour piéger un LLM et lui faire donner une « réponse officielle » incriminante est évidemment suspect. Certains médias ont repris la réponse repentante de Grok, la présentant à tort comme officielle.

xAI pourrait être tenu responsable du CSAM créé et diffusé par Grok

Il est difficile de déterminer combien d'images potentiellement préjudiciables de mineurs Grok a pu générer. Un utilisateur a publié une vidéo décrite comme un défilement de « toutes les fois où j'ai demandé à Grok d'estimer l'âge des victimes de la génération d'images par IA dans des prompts sexuelles ». La vidéo montre Grok estimant l'âge de deux victimes de moins de 2 ans, de quatre mineurs âgés de 8 à 12 ans et de deux mineurs âgés de 12 à 16 ans.

D'autres utilisateurs et chercheurs ont examiné le flux de photos de Grok à la recherche de preuves de CSAM générées par l'IA, mais la plateforme présente des dysfonctionnements sur le Web et dans les applications dédiées, limitant parfois la possibilité pour certains utilisateurs de faire défiler les images.

Copyleaks a mené une analyse approfondie et publié ses résultats le 31 décembre 2025. En parcourant l'onglet photos de Grok, Copyleaks a utilisé des « critères de bon sens » pour trouver des exemples de manipulations d'images de « femmes apparemment réelles », créées à l'aide de prompts tels que « changements explicites de vêtements » ou « changements de position du corps » sans « indication claire du consentement » des femmes représentées.

Copyleaks a trouvé des centaines, voire des milliers d'images préjudiciables de ce type dans le flux de photos de Grok. Les photos les plus soft montraient des célébrités et des particuliers en bikinis minimalistes, tandis que les images qui ont suscité le plus de réactions négatives représentaient des mineurs en sous-vêtements.

Ces images enfreignent les lois fédérales sur la pornographie infantile, qui interdisent « la création, la possession ou la distribution de CSAM générés par l'IA représentant des mineurs dans des scénarios à caractère sexuel ». Et si la loi ENFORCE est adoptée cette année, elle renforcera la loi Take It Down, qui oblige les plateformes à supprimer les CSAM générés par l'IA dans les 48 heures, en facilitant les poursuites contre les auteurs de ces contenus.

Vives réactions en France face aux dérives de l'IA Grok d'Elon Musk

Les produits d'IA d'Elon Musk sont largement commercialisés comme étant fortement sexualisés et peu protégés. Le générateur de vidéos Grok créait facilement des deepfakes topless de Taylor Swift, malgré la politique d'utilisation acceptable de xAI interdisant « la représentation de personnes de manière pornographique ». Grok semble disposer de peu de garde-fous pour empêcher la génération de contenus ne relevant pas de la nudité explicite totale.

En revanche, les outils Veo de Google et Sora d'OpenAI ont mis en place des garde-fous autour de la génération de contenu NSFW, bien que Sora ait aussi été utilisé pour produire des vidéos d'enfants dans des contextes sexualisés et des vidéos fétichistes. Selon un rapport de la société de cybersécurité DeepStrike, les images deepfake sont de plus en plus répandues, et beaucoup d'entre elles contiennent des images sexualisées non consenties.

Des ministres français ont signalé aux procureurs de la République des contenus générés par Grok qualifiés de « manifestement illégaux » en raison de leur caractère sexuel ou sexiste, un acte qui vise à déclencher une action judiciaire contre ceux qui diffusent ou facilitent de tels contenus. Cette démarche judiciaire s’appuie sur des éléments qui, selon l’exécutif, enfreignent le droit pénal français. (Les procureurs ne sont pas encore prononcés.)

Les ministres ont précisé avoir également signalé ces contenus au régulateur français des médias et du numérique Arcom. Les autorités françaises invitent le régulateur à vérifier leur conformité avec le Digital Services Act (DSA) de l'Union européenne. Des parlementaires (dont Éric Bothorel et Arthur Delaporte) ont également saisi la justice, contribuant à l’élargissement d’une enquête judiciaire déjà ouverte sur la plateforme X du milliardaire Elon Musk.

Des personnalités comme Sarah El Haïry, haute-commissaire à l’enfance, ont également dénoncé ces usages de l’IA, exprimant leur indignation quant à la création et la diffusion de demandes visant à sexualiser des femmes ou des mineurs et rappelant que les préjudices sont réels même si les images sont artificielles.

Le réseau social X d'Elon Musk face aux controverses incessantes

Le milliardaire Elon Musk a acquis Twitter en 2022 pour environ 44 milliards de dollars. À la suite du changement de nom et de logo en juillet 2023, Elon Musk a commencé à rediriger le trafic de Twitter.com vers X.com l'année suivante. La requête d'Operation Bluebird cite un billet d'Elon Musk dans lequel il déclare : « bientôt, nous dirons adieu à la marque Twitter et progressivement, à tous les oiseaux ». Il l'a posté juste avant le changement de nom du site.

La plateforme d'Elon Musk fait l'objet de nombreuses controverses. Certaines entreprises ont hésité à faire de la publicité sur X, craignant d'être associées à des contenus déplaisants, tels que des opinions extrémistes, des publications frauduleuses ou des robots pornographiques. Et une étude publiée par Kantar en septembre 2024 indiquait que 26 % des spécialistes du marketing interrogés prévoyaient d'abandonner leurs campagnes publicitaires sur X.

X d'Elon Musk subit depuis deux ans des turbulences majeures. La fuite des annonceurs, la baisse des revenus publicitaires, l’augmentation des litiges en Europe et aux États-Unis, ainsi que la perte de repères pour les utilisateurs transforment la plateforme en un terrain mouvant. L'UE a récemment infligé une amende de 120 millions d'euros à la plateforme d'Elon Musk pour avoir enfreint certaines dispositions de la loi sur les services numériques (DSA).

L'amende concerne trois manquements spécifiques en matière de transparence : tromper les utilisateurs lorsqu’Elon Musk a remplacé la vérification réelle par « payer 8 dollars pour obtenir une coche », maintenir un répertoire publicitaire défectueux et refuser de partager les données requises avec les chercheurs. Mais Elon Musk s'insurge contre cette amende et réclame la dissolution de l'UE. Il a notamment le soutien des proches de l'administration Trump.

Conclusion

Elon Musk est de nouveau au centre des critiques pour avoir facilité la création d'images sexualisées sur X. Au-delà du cas de Grok, cet incident met en lumière un problème structurel : le déploiement rapide d’outils d’IA générative sans garde-fous suffisants. L’affaire illustre les risques concrets des deepfakes non consensuels et la responsabilité des entreprises technologiques dans la prévention des abus, en particulier lorsqu’il s’agit de mineurs.

Malgré un cycle de mise à jour fréquent, le chatbot a suscité des controverses liées à ses réponses sur des sujets sensibles et à l'influence d'Elon Musk sur ses prises de position politiques. Grok est également accusé de propager de la désinformation à caractère négationniste et complotiste. Les antécédents de Grok en matière d'exactitude sont pour le moins mitigés, avec des incidents de divulgation d'informations personnelles et de diffusion d'infox.

Précédemment, Grok a à plusieurs reprises identifié à tort Ahmed al Ahmed, le héros qui a désarmé le tireur de Bondi Beach en décembre 2025, et a affirmé que des vidéos vérifiées étaient d'anciens contenus viraux ou des événements sans rapport. Le chatbot a également suggéré à tort qu'Ahmed était un otage israélien détenu par le Hamas et a confondu l'emplacement de la plage, accusant à la place Currumbin Beach pendant le cyclone Alfred.

Source : Copyleaks

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de cette fonctionnalité de X qui permet de présenter tout utilisateur dans des situations sexualisées ?
Elon Musk et sa société xAI restent silencieux face aux réactions d'indignation. Quel impact cela pourrait-il avoir sur son réseau social ?
Quelles responsabilités doivent porter les développeurs d’IA lorsqu’un outil génère des contenus non consensuels, surtout lorsque cela implique des mineurs ?
Elon Musk peut-il s'appuyer sur la liberté d'expression pour autoriser des comportements potentiellement préjudiciables ou nuisibles aux utilisateurs de sa plateforme ?

Voir aussi

Le chatbot IA Grok de xAI d'Elon Musk diffuse des informations erronées sur la fusillade de Bondi Beach, identifiant à plusieurs reprises le héros à tort et diffusant de fausses informations sur l'attaque

Grok AI est un désastre pour la démocratie : l'IA d'Elon Musk intégrée à X n'a pas de garde-fous pour empêcher les utilisateurs de générer de la désinformation électorale, selon une enquête du CCDH

Les moteurs de recherche basés sur l'IA échouent au test de précision, avec un taux d'erreur de 60 %, atteignant même 96 % pour Grok-3, selon une étude du Tow Center for Digital Journalism

[Ryu2000]

Elon Musk peut-il s'appuyer sur la liberté d'expression pour autoriser des comportements potentiellement préjudiciables ou nuisibles aux utilisateurs de sa plateforme ?

Est-ce qu'il y a déjà eu un jugement en rapport avec un dessinateur ou quelqu'un qui faisait des photomontages ?
Peut-être qu'on peut se baser sur un ancien jugement et dire un truc du genre "ce jugement fait jurisprudence".

Dessiner une personne réelle en bikini ce n'est pas nouveau.
C'est juste que maintenant c'est accessible à tout le monde et c'est quasi instantané.

Il faut voir le bon côté, si des photos ou des vidéos sont diffusées tu peux dire "ce n'est pas réellement moi, c'est de l'IA".
Il est déjà arrivé que des filles envoient des photos sexy d'elle à leur petit copain, puis ces photos ont fuités, ce qui a eu des conséquences catastrophiques.

Quelles responsabilités doivent porter les développeurs d’IA lorsqu’un outil génère des contenus non consensuels, surtout lorsque cela implique des mineurs ?

Ouais c'est ça le problème, il est impossible de savoir si une personne est majeure ou pas.
Pour faire l'avocat du diable, les images produites ne montrent rien que les catalogues "Les 3 Suisses" et "La Redoute" montreraient. Mais ça craint quand même.
Il y a des parents qui font bien attention à ne jamais diffuser de photo de leurs enfants sur internet.

En parlant de mineurs et d'internet :

[totozor]

Dessiner une personne réelle en bikini ce n'est pas nouveau.
C'est juste que maintenant c'est accessible à tout le monde et c'est quasi instantané.

Et particulièrement crédible.
Certaines femmes témoignent du malaise en se voyant nue alors qu'elles n'ont jamais été prises en photo sans vêtements.

Il faut voir le bon côté, si des photos ou des vidéos sont diffusées tu peux dire "ce n'est pas réellement moi, c'est de l'IA".

Vla le bon coté.
Même si tu as été carrée toute ta vie là dessus tu risques de te retrouver à moitié nue sur le plus gros réseau social mondial...

Ouais c'est ça le problème, il est impossible de savoir si une personne est majeure ou pas.

Le problème n'est pas de savoir si les personnes sont effectivement mineure ou non mais que des gens se pignolent en imaginant qu'elles le soient.
Et surtout que des personnes s'amusent à "dénuder" des personnes dont l'apparence suggèrent qu'elles sont mineures.

Preuve de la complète déliquescence de la rationalité et des mentalités en Europe :
- On accuse plus l'outil que le véritable coupable (celui qui a volontairement lancé le prompt et diffusé l'image).

Je suis bien d'accord là dessus

D'ailleurs, pourquoi ne pas accuser photoshop qui permet de faire la même chose ?

Parce que je suis incapable de le faire avec Photoshop (quoi que avec les fonctions IA c'est peut être devenu abordable) et que la diffusion est bien moins large.

Toutes ces gesticulations cachent juste une seule chose : L’État est devenu incapable de faire respecter les lois alors que les coupables sont identifiables.

Non ces gesticulations cachent une seule chose - et tu le mentionnais plus tôt : des débiles trouvent malin de dénuder des gens sur le plus gros réseau social du monde.

[Artaeus]

Preuve de la complète déliquescence de la rationalité et des mentalités en Europe :
- On accuse plus l'outil que le véritable coupable (celui qui a volontairement lancé le prompt et diffusé l'image).

C'est complétement ridicule d'accuser l'IA, on pourrait aussi accuser le couteau en cas d'agression, ou la voiture en cas d'attaque à la voiture bélier.
D'ailleurs, pourquoi ne pas accuser photoshop qui permet de faire la même chose ?

Toutes ces gesticulations cachent juste une seule chose : L’État est devenu incapable de faire respecter les lois alors que les coupables sont identifiables.

Ca me rappel l'affaire Kick avec Jean Pormanove, où au final, on accuse bien plus la caméra alors que les tortionnaires n'ont rien eu.

[Ryu2000]

- On accuse plus l'outil que le véritable coupable (celui qui a volontairement lancé le prompt et diffusé l'image).

Après ça facilite un peu trop le job (il n'y aucun effort à produire).
Des gens qui n'ont pas cherché à voir des montages, vont tomber dessus sans le vouloir.

L’État est devenu incapable de faire respecter les lois alors que les coupables sont identifiables.

Je crois qu'il faut créer de nouvelles lois.
Est-ce qu'on a le droit de demander à un chatbot IA de mettre une fille en bikini ?
Est-ce que le chatbot à le droit de mettre une fille en bikini si on lui demande ?

Est-ce que les lois existent déjà ?

on accuse bien plus la caméra alors que les tortionnaires n'ont rien eu.

Je ne suis pas convaincu.
C'est à la famille de la victime de porter plainte contre ses agresseurs.
L'avocat peut tomber sur des preuves vidéos.

[Artaeus]

Après ça facilite un peu trop le job (il n'y aucun effort à produire).
Des gens qui n'ont pas cherché à voir des montages, vont tomber dessus sans le vouloir.

Légalement, la question de la "facilité" n'a aucune valeur.

Je crois qu'il faut créer de nouvelles lois.
Est-ce qu'on a le droit de demander à un chatbot IA de mettre une fille en bikini ?
Est-ce que le chatbot à le droit de mettre une fille en bikini si on lui demande ?

Est-ce que les lois existent déjà ?

Toutes les lois existent déjà (même sur la simple diffusion d'un photomontage à caractère pornographique, humiliant, dégradant).

Je ne suis pas convaincu.
C'est à la famille de la victime de porter plainte contre ses agresseurs.
L'avocat peut tomber sur des preuves vidéos.

=> Absolument pas, en cas d'homicide ou de torture, une enquête est automatiquement lancée.
Pour le moment, les tortionnaires sont libres et ont même repris les streams..

[Jon Shannow]

Preuve de la complète déliquescence de la rationalité et des mentalités en Europe :
- On accuse plus l'outil que le véritable coupable (celui qui a volontairement lancé le prompt et diffusé l'image).

C'est complétement ridicule d'accuser l'IA, on pourrait aussi accuser le couteau en cas d'agression, ou la voiture en cas d'attaque à la voiture bélier.
D'ailleurs, pourquoi ne pas accuser photoshop qui permet de faire la même chose ?

Toutes ces gesticulations cachent juste une seule chose : L’État est devenu incapable de faire respecter les lois alors que les coupables sont identifiables.

Ca me rappel l'affaire Kick avec Jean Pormanove, où au final, on accuse bien plus la caméra alors que les tortionnaires n'ont rien eu.

Je ne suis que partiellement d'accord. Certes le diffuseur est le coupable principal, mais dans le cas de l'IA, il y a des règles qui ont été établies afin d'empêcher la production de ce genre de photographie (toutes les autres IA le font). C'est juste la volonté de Musk de ne pas interdire ce genre de publication. Donc, l'IA est aussi responsable en autorisant ce genre de production.

[popo]

C'est juste la volonté de Musk de ne pas interdire ce genre de publication. Donc, l'IA est aussi responsable en autorisant ce genre de production.

Non, ce n'est pas l'IA qui est responsable, ce n'est que du code qui n'a aucune conscience.
Le responsable, c'est le diffuseur.
Mais c'est également Musk qui ne met volontairement aucun garde fou dans Grok alors que tous les autres le font pour leur IA.

Mais comme c'est Musk, on ferme les yeux.
Il est là, le problème.

[Jon Shannow]

Non, ce n'est pas l'IA qui est responsable, ce n'est que du code qui n'a aucune conscience.
Le responsable, c'est le diffuseur.
Mais c'est également Musk qui ne met volontairement aucun garde fou dans Grok alors que tous les autres le font pour leur IA.

Mais comme c'est Musk, on ferme les yeux.
Il est là, le problème.

On est d'accord. Quand je dis que c'est l'IA qui est responsable, il est évident que je ne parle pas d'un bête programme informatique, qui ne fait que ce qu'on lui demande, mais bien des personnes qui l'ont programmé et plus encore des personnes qui l'ont publié, diffusé alors même qu'il présentait des problèmes.

[David_g]

En tout cas, vu que certaines ont portés plainte, on va vite avoir certains qui vont déchanter et apprendre très vite le code Pénal (et qui trouveront d'un seul coup que la justice, elle est finalement pas assez laxiste).

[Artaeus]

Je ne suis que partiellement d'accord. Certes le diffuseur est le coupable principal, mais dans le cas de l'IA, il y a des règles qui ont été établies afin d'empêcher la production de ce genre de photographie (toutes les autres IA le font). C'est juste la volonté de Musk de ne pas interdire ce genre de publication. Donc, l'IA est aussi responsable en autorisant ce genre de production.

L'IA n'est pas une personne, c'est un outil, elle n'est pas "responsable".
Ensuite, non, les autres IA permettent aussi produire des photos en maillot de bain (en faisant un prompt un peu plus intelligent).
De toute façon, avec le développement des outils IA, ce problème va s'accroitre. Le "blocage" de Grok dessus ne changera absolument rien.

Il faut simplement que l’État fasse respecter les lois, que des plaintes soient posées, et condamnent les auteurs des prompts qui savaient très bien ce qu'ils faisaient.
De la même façon que des personnes sont poursuivis pour des insultes ou propos sur les réseaux sociaux.

Votre raisonnement est d'autant plus ridicule, qu'il est dangereux car c'est la porte ouverte à tout et n'importe quoi :
- Si on l'applique au "modding" dans les jeux vidéos, vous condamneriez le développeur car il n'a rien fait contre des "modeurs malveillants" avec un mod insultant ou autre ?
- Pourquoi pas aller jusqu'à condamner le datacenter si quelqu'un stocke quelque un programme illégale dessus ?

[Jon Shannow]

L'IA n'est pas une personne, c'est un outil, elle n'est pas "responsable".
Ensuite, non, les autres IA permettent aussi produire des photos en maillot de bain (en faisant un prompt un peu plus intelligent).
De toute façon, avec le développement des outils IA, ce problème va s'accroitre. Le "blocage" de Grok dessus ne changera absolument rien.

Il faut simplement que l’État fasse respecter les lois, que des plaintes soient posées, et condamnent les auteurs des prompts qui savaient très bien ce qu'ils faisaient.
De la même façon que des personnes sont poursuivis pour des insultes ou propos sur les réseaux sociaux.

Votre raisonnement est d'autant plus ridicule, qu'il est dangereux car c'est la porte ouverte à tout et n'importe quoi :
- Si on l'applique au "modding" dans les jeux vidéos, vous condamneriez le développeur car il n'a rien fait contre des "modeurs malveillants" avec un mod insultant ou autre ?
- Pourquoi pas aller jusqu'à condamner le datacenter si quelqu'un stocke quelque un programme illégale dessus ?

Je pense que l'on est dans quelque chose de tout à fait différent. On parle d'un logiciel qui permet de faire des choses illégales, alors même qu'il est tout à fait possible de l'en empêcher.
C'est donc de la volonté du distributeur de laisser des fonctionnalités interdites dans son logiciel et donc de laisser des personnes en user et abuser.

Ce qui n'enlève aucunement la responsabilité pas des personnes utilisant et publiant les résultats obtenus.

[Artaeus]

Je pense que l'on est dans quelque chose de tout à fait différent. On parle d'un logiciel qui permet de faire des choses illégales, alors même qu'il est tout à fait possible de l'en empêcher.
C'est donc de la volonté du distributeur de laisser des fonctionnalités interdites dans son logiciel et donc de laisser des personnes en user et abuser.

Ce qui n'enlève aucunement la responsabilité pas des personnes utilisant et publiant les résultats obtenus.

C'est une pente glissante dangereuse qui est dans la logique actuelle, hélas :
Les messagerie chiffrés de bout en bout ? (C'est la même idée derrière le ChatControl : il est tout à fait possible de contrôler les messages envoyés, les messageries facilitent donc l'illégalité) ...
Pourquoi pas appliquer la même logique aux messages insultants sur les réseaux sociaux, et les "censurer" avant publication ?
Et photoshop étant maintenant purement "cloud", on peut appliquer la même logique dessus, Adobe pourrait bien tout contrôler ?

Je penses que vous ne vous rendez pas compte de tout ce que cela peut impliquer, aussi bien en terme de responsabilité des entreprises, de risque pour les logiciels libres, que de danger pour la vie privée et les libertés.

[jnspunk]

Mais les générateurs d'images comme Grok ne sont pas obligés de produire exactement ce que l'utilisateur souhaite

C'est faux, on ne peut pas empêcher le "jailbreak".
Vouloir "corriger" Grok c'est comme repeindre son mur au lieu de réparer la fuite d'eau qu'il y a derrière : ce n'est pas l'idée la plus brillante.

[David_g]

C'est faux, on ne peut pas empêcher le "jailbreak".
Vouloir "corriger" Grok c'est comme repeindre son mur au lieu de réparer la fuite d'eau qu'il y a derrière : ce n'est pas l'idée la plus brillante.

Cela revient à dire qu'il ne faut pas mettre de serrure sur tes portes car on peut facilement les ouvrir.
En soi, peu de gens finalement feront l'effort ou auront les compétences pour. c'est un peu pareil pour ces deepfakes etc, dés que tu enleves les solutions qui ne demande aucun effort, tu réduis de beaucoup le nombre de cas.

Ici n'importe quel glandu peut mettre n'importe quelle nana à quatre pattes en string etc (beaucoup d'entre eux ont un compte payant et donc cherche aussi des vues comme le mec qui a fait cela à la première ministre suédoise)

S'il devait aller chercher des modèles d'IA, installer un générateur en local etc ou si cela lui demande de comprendre comment aller chercher des solutions pour "hacker" le prompt, 90% ne feront pas l'effort. c'est d'ailleurs le cas pour un photomontage, tu vois personne prendre le temps de se former à toshop/gimp pour réussir à voir quelque chose de qualité parce que cela trop d'effort. tu ajouterais une option dans toshop pour cela, ben bizarrement on en verra plus (alors certes c'est en local donc tu le sauras pas).

[Artaeus]

Cela revient à dire qu'il ne faut pas mettre de serrure sur tes portes car on peut facilement les ouvrir.
En soi, peu de gens finalement feront l'effort ou auront les compétences pour. c'est un peu pareil pour ces deepfakes etc, dés que tu enleves les solutions qui ne demande aucun effort, tu réduis de beaucoup le nombre de cas.

Ici n'importe quel glandu peut mettre n'importe quelle nana à quatre pattes en string etc (beaucoup d'entre eux ont un compte payant et donc cherche aussi des vues comme le mec qui a fait cela à la première ministre suédoise)

S'il devait aller chercher des modèles d'IA, installer un générateur en local etc ou si cela lui demande de comprendre comment aller chercher des solutions pour "hacker" le prompt, 90% ne feront pas l'effort. c'est d'ailleurs le cas pour un photomontage, tu vois personne prendre le temps de se former à toshop/gimp pour réussir à voir quelque chose de qualité parce que cela trop d'effort. tu ajouterais une option dans toshop pour cela, ben bizarrement on en verra plus (alors certes c'est en local donc tu le sauras pas).

Il y a déjà des sécurités : Grok ne vous dira pas comment fabriquer une bombe ou dénuder des enfants.
D'ailleurs, ça pointe les limites des algos de détection d'âge (qui sont pourtant utilisé sur les sites +18 pour vérifier votre âge, puis bientôt sur les réseaux sociaux) qui ne marche pas sur les jeunes de 16 ans.
Deux poids, deux mesures ... (Après, on a tous compris que le but c'est la surveillance sous prétexte de "protection des enfants", ils demanderont ensuite l'identite numérique).

Le mec qui a un compte "payant" peut être retrouvé, non ? C'est à la Police de faire son travail donc.

Ensuite, ChatGPT peut dénuder aussi comme Grok, suffit de dire que c'est "vous" ... Et visiblement, c'est ce qui a été utilisé ensuite. Comment savoir quelle requête légitime ou non dans ce cas ?

Concernant la "facilité", c'est un argument ridicule qui n'a aucune valeur : Ce qui est interdit, est interdit, peu importe que ça soit facile ou pas. C'est à l’État de faire sont travail et de faire respecter la loi !
=> D'ailleurs, la comparaison avec le "voleur" est fausse : On ne connait pas l'identité du voleur, mais celle des utilisateurs de Grok est connu (compte vérifié !)

On n'a pas attendu Grok pour voir des montages de ministres ou autre en maillot de bain.

[der§en]

Mon analogie: si quelqu’un tue avec une voiture bélier, qui devrait être condamnée le fabricant ou celui qui tenait le volant ?

[Jon Shannow]

Mon analogie: si quelqu’un tue avec une voiture bélier, qui devrait être condamnée le fabricant ou celui qui tenait le volant ?

On sait depuis les années 80 que les analogies entre les voitures et l'informatique ne tiennent pas la route. Celle-ci pas plus que les autres, désolé.

[foetus]

On sait depuis les années 80 que les analogies entre les voitures et l'informatique ne tiennent pas la route. Celle-ci pas plus que les autres, désolé

pourtant il y a 1 exemple qui existe depuis au moins 8 ans en informatique/ voiture pas encore répondu : si 1 conducteur se tue avec son auto-pilot qui est responsable ?

• le conducteur
• le constructeur de la voiture
• la société qui a programmé l'auto-pilot