Discussion :

[Invité]

Notons que c'est en Asie où ils n'en sont plus au stade de la menace mais ont purement et simplement interdit Grok, notamment l'Indonésie. Mais l'Inde aussi où X a censuré des milliers de posts et des centaines de comptes sont supprimés. Les victimes doivent en être bienheureuses mais cela n'enlève rien à la néfaste fonctionnalité de l'IA. Une mesure conservatoire oblige X en France de conserver les contenus en cause pour poursuites judiciaires. Au nom de la liberté d'expression, doit-on laisser des femmes souvent mineures se laisser déshabiller ainsi ? Je ne pense pas. C'est interdit par la loi alors qu'aller à la piscine en maillot de bain ne revient pas au même puisqu'il s'agit d'une décision prise librement.

edit : donc je ne parlerai pas de prétexte mais d'application de la loi

edit 2 :

Il y en a marre de ces politicards. ces autorités, ces administrations diverses et variées qui n'ont pas de couilles et qui prennent le public pour des imbéciles!

Arrêtez avec vos pseudo-menaces qui finissent toujours en eau de boudin... Ce n'est rien d'autre que de la communication dont tout le monde se fout!

Soit vous interdisez, soit vous n'interdisez pas mais dans tous les cas... Fermez là et arrêtez de communiquer dans le vide pour le plaisir de... communiquer!

Pour le lecteur, quand vous avez une info du style "... on menace de...", il faut lire "on ne fera rien"

Je ne dirai pas qu'ils ne veulent rien faire mais ils menacent d'interdiction pour remettre X et Musk dans le droit chemin sinon ils interdisent. Donc ils n'interdiront peut-être pas à condition que des mesures soient prises pour éviter des atteintes à la vie privée de victimes. A noter qu'un recensement a été fait et cela concerne 10% d'hommes aussi. Pas que des femmes.

[Anselme45]

Je ne dirai pas qu'ils ne veulent rien faire mais ils menacent d'interdiction pour remettre X et Musk dans le droit chemin sinon ils interdisent. Donc ils n'interdiront peut-être pas à condition que des mesures soient prises pour éviter des atteintes à la vie privée de victimes. A noter qu'un recensement a été fait et cela concerne 10% d'hommes aussi. Pas que des femmes.

Si votre scenario était juste, ces guignols pourraient menacer les Musk & Cie directement sans avoir besoin des faire une communication au monde entier!

Ce n'est pas ce qu'ils font... Leur priorité est de montrer au monde entier qu'ils font quelque chose... Ce qui n'est clairement pas le cas: Les GAFAM américaines font ce qu'elles veulent en Europe et ce n'est pas une amende à payer de temps à autres qui va les remettre sur le droit chemin. Quand on voit la hauteur des amendes par rapport aux bénéfices annuelles des GAFAM, c'est comme si on vous condamne à une amende d'un demi-centime d'euro tout les 100 ans!

[Jade Emy]

La Malaisie et l'Indonésie bloque l'accès au chatbot IA Grok d'Elon Musk en raison d'images deepfake : « Les deepfakes constituent une grave violation des droits humains, de la dignité »

L'Indonésie est devenue le premier pays à refuser tout accès chatbot IA Grok d'Elon Musk. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré une ministre. La Malaisie a également suspendu l'accès au chatbot Grok d'Elon Musk en raison de contenus pornographiques générés par l'IA, a déclaré l'autorité de régulation des technologies du pays.

Grok est un chatbot d'intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk comme une initiative basée sur le grand modèle de langage (LLM) du même nom. Grok dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le bot a généré diverses réponses controversées, notamment des théories du complot, du nazisme, y compris des éloges à Adolf Hitler, de l'antisémitisme et des images sexualisées d'enfants, ainsi que des références aux opinions de Musk lorsqu'il était interrogé sur des sujets controversés ou des décisions difficiles.

Depuis cette année, le réseau social X d'Elon Musk permet de modifier les images d'autres utilisateurs à l'aide de l'IA sans leur consentement. Le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Et il n'est pas possible de désactiver cette fonctionnalité. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne.

Face à cette situation, l'Indonésie est devenue le premier pays à refuser tout accès à cet outil, qui est limité aux abonnés payants dans les autres pays. La ministre indonésienne des Communications et des Affaires numériques, Meutya Hafid, a annoncé des blocages sur X. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré la ministre.

La Malaisie a également suspendu l'accès au chatbot Grok d'Elon Musk en raison de contenus pornographiques générés par l'IA, a déclaré l'autorité de régulation des technologies du pays. La Commission malaisienne des communications et du multimédia a déclaré dans un communiqué qu'elle avait « ordonné une restriction temporaire de l'accès à l'intelligence artificielle Grok pour les utilisateurs en Malaisie », avec effet immédiat.

Ces décisions font suite à une vague de protestations mondiales après qu'il est apparu que la fonctionnalité de création d'images de Grok permettait aux utilisateurs de sexualiser des photos de femmes et d'enfants à l'aide de simples invites textuelles. « Cette mesure fait suite à des utilisations abusives répétées de Grok pour générer des images obscènes, sexuellement explicites, indécentes, grossièrement offensantes et manipulées sans consentement », a déclaré le régulateur malaisien.

Le communiqué cite « des contenus impliquant des femmes et des mineurs, malgré un engagement réglementaire préalable et des avis formels » adressés à la société X Corp. de Musk et à la start-up xAI qui a développé Grok. L'outil d'IA est intégré à la plateforme de médias sociaux X.

Le régulateur malaisien a déclaré qu'il jugeait les mesures de protection de la plateforme insuffisantes, ajoutant que l'accès ne serait rétabli qu'après vérification des modifications requises. X Corp. « n'avait pas su répondre aux risques inhérents à la conception et au fonctionnement de l'outil d'IA », s'appuyant « principalement sur des mécanismes de signalement initiés par les utilisateurs », a déclaré le régulateur.

Grok semblait avoir détourné les critiques grâce à une nouvelle politique de monétisation, publiant que la génération et l'édition d'images étaient désormais « réservées aux abonnés payants », avec un lien vers un abonnement premium. Des responsables européens et des militants technologiques ont critiqué Grok après que sa fonctionnalité controversée de création d'images ait été réservée aux abonnés payants, affirmant que ce changement ne répondait pas aux préoccupations concernant les deepfakes à caractère sexuel.

Sources : Ministre indonésienne des Communications et des Affaires numériques, Commission malaisienne des communications et du multimédia

Et vous ?

Pensez-vous que ces décisions sont crédibles ou pertinentes ?
Quel est votre avis sur le sujet ?

Voir aussi :

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme

Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

Grok, l'IA « anti-woke » d'Elon Musk, dérape : éloge d'Hitler, glorification de Musk pour avoir supprimé les filtres « woke », attaque contre Donald Trump au sujet des inondations au Texas

[Ryu2000]

Face à cette situation, l'Indonésie est devenue le premier pays à refuser tout accès à cet outil, qui est limité aux abonnés payants dans les autres pays. La ministre indonésienne des Communications et des Affaires numériques, Meutya Hafid, a annoncé des blocages sur X. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré la ministre.

Est-ce qu'ils ont également bloqué l'accès à ChatGPT et Gemini ? (ils permettent de faire exactement la même chose)

[Mingolito]

Dans la pratique c'est pas pareil si c'est publié sur le réseau social X dans la foulée, ça se voie, c'est pas pour usage privé

[Ryu2000]

Dans la pratique c'est pas pareil

Il est complètement possible de demander à ChatGPT ou Gemini de faire une photo et de la poster sur un réseau social comme Bluesky, Mastodon, ou même Twitter.

On reproche à Grok de générer des images de gens en Bikini ?
On reproche à X de permettre à des gens de diffuser des images, généré par l'IA, de gens en Bikini ?

Les alternatives à Grok permettent la même chose.
Des alternatives à X permettent la même chose.

Il y a une différence de traitement.

[Invité]

Il est complètement possible de demander à ChatGPT ou Gemini de faire une photo et de la poster sur un réseau social comme Bluesky, Mastodon, ou même Twitter.

On reproche à Grok de générer des images de gens en Bikini ?
On reproche à X de permettre à des gens de diffuser des images, généré par l'IA, de gens en Bikini ?

Les alternatives à Grok permettent la même chose.
Des alternatives à X permettent la même chose.

Il y a une différence de traitement.

Il y a un certain niveau de popularité qui devrait mener à un exemplaire comportement. Entre Mastodon, Bluesky et X, ils ne jouent pas dans la même cour d'audience. Donc de responsabilité. Le génocide des Rohyngas en Birmanie a été mené grâce aux algorithmes de Facebook. Musk joue exactement la même partition avec X. C'est extrêmement dangereux pour la démocratie. Pour l'IA générative en général je pisse dessus allègrement

[totozor]

On reproche à Grok de générer des images de gens en Bikini ?
On reproche à X de permettre à des gens de diffuser des images, généré par l'IA, de gens en Bikini ?

Non, on reproche de pouvoir diffuser largement une fausse photo d'un personne à moitié nue simplement en écrivant "@Grok peux tu mettre cette femme en bikini?"
C'est pourtant simple à comprendre. C'est le moyen qui demande le moins d'énergie que je connaisse pour harceler une personne. C'est au passage un moyen qui fournit un résultat convaincant au point de faire douter les victimes du montage.
Le problème n'est pas Grok (quoi que), la problème n'est pas X (quoi que).
Le problème est l'efficacité de la combinaison de Grok intégré dans X.

[Artaeus]

L'Indonésie et la Malaisie sont pourtant des modèles démocratiques reconnus comme l'affirme RSF ... (ironie)

[BenoitM]

L'Indonésie et la Malaisie sont pourtant des modèles démocratiques reconnus comme l'affirme RSF ... (ironie)

La Malaisie est classé 40 mondiale entre la Belgique et la Pologne.
(bon légèrement descendu en 2025 (44ème))

[OrthodoxWindows]

De toute manière, l'IA générative open-source se développant de jour en jour (notamment les modèles chinois), à terme, peu-importe si des modèles grands-public à source fermée restreindront les possibilités de génération d'image, il y aura toujours une possibilité de contournement.
Vu qu'il s'agit avant tout de code, j'imagine qu'en cas d'interdiction formelle, certains feront comme il a été fait par le passé pour protester contre l'interdiction du code de DeCSS

De manière plus générale, j'ai déjà parlé de mon opinion sur le sujet, il y a peu de temps, en voici un extrait :


De manière plus générale, je pense que si les deepfake posent clairement un problème, et continueront d'en poser un, ils ne sont qu'un problème minime en comparaison des risques que pose l’utilisation de l'IA à des fins de surveillance de masse, et de censure automatisée. L'utilisation de l'IA, générative ou non, par des structures possédant du pouvoir (états, armées, services secret, entreprises...), m’apparaît infiniment plus dangereuse que n'importe quel abus commis par des individus à l'aide de l'IA. C'est clairement là-dessus que les lanceurs d'alertes spécialiste du sujet devraient alerter en priorité. Je pense que trop se focaliser sur des problèmes secondaire risque même d'occulter le problème principal ; pire, certains moyens de résolution de ces problèmes secondaire peuvent être une aggravation du problème principal (surveillance des médias, public voir privés, détection automatique du contenu via IA...)

Je pense que les technologies d'IA générative n'en sont qu'à leur balbutiement, et qu'il serait très difficile, pour ne pas dire impossible d'arrêter cette marche. Il m’apparaît donc fort probable qu'un nouveau rapport aux médias, à la preuve, à la satire, et à la valeur du média, émerge. Peut-être un changement aussi important que celui ayant eu lieu part l'arrivée de l'imprimerie.
Un rapport où un trucage évident n'aura plus de valeur offensante pour la victime, car la banalité de la chose rendra le trucage risible.
Un nouveau rapport à la preuve, où il ne sera plus possible de prouver quoi que ce soit par des médias. Hors l'espèce humaine ne peut pas sombrer dans un chaos de violence généralisée, sans justice, elle sera contrainte de s'adapter, et de bâtir un nouveau rapport à la confiance, une plus grande honnêteté de par la plus grande difficulté de prouver certains délits ou crimes.
Dans le même temps, la possibilité de faire chanter quelqu'un avec des images disparaîtra inexorablement, ce qui enlèvera de la culture une catégorie très large de violences.

[Alex]

Le PDG d'Epic Games défend l'IA Grok après son utilisation pour créer du contenu illégal sur la maltraitance des enfants et des deepfakes, alors que X est interdit dans de plus en plus de pays

Le Royaume-Uni envisage d'interdire X en vertu de la loi sur la sécurité en ligne tandis que les sénateurs américains font pression sur Apple et Google pour qu'ils retirent l'application de leurs boutiques en ligne. En réponse, le PDG d'Epic Games a appelé les entreprises d'IA à « mettre fin aux demandes incessantes des politiciens qui exigent de tous les gardiens qu'ils censurent tous leurs adversaires politiques ».

Elon Musk a doté Grok d'une fonctionnalité permettant à un utilisateur de X de générer des images explicites à partir de la photo d'un autre utilisateur sans son consentement. La plateforme a rapidement été inondée d'images explicites, y compris de mineurs, suscitant un tollé mondial. Dans un premier temps, X a rejeté la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats, puis a décidé quelques jours plus tard de limiter l'outil aux abonnés payants. Mais cette mesure est jugée insuffisante. En réaction, des voix au Royaume-Uni, au Canada et en Australie appellent à interdire X, mais cette mesure est controversée.

En réponse, le PDG d'Epic Games a récemment appelé les entreprises d'IA à « mettre fin aux demandes incessantes des politiciens qui exigent de tous les gardiens qu'ils censurent tous leurs adversaires politiques ». Epic Games est un développeur et éditeur américain de jeux vidéo et de logiciels basé à Cary, en Caroline du Nord. La société a été fondée par Tim Sweeney sous le nom de Potomac Computer Systems en 1991, à l'origine dans la maison de ses parents à Potomac, dans le Maryland. Timothy Dean Sweeney (né en 1970) est un programmeur de jeux vidéo et homme d'affaires américain. Il est le fondateur et PDG d'Epic Games, et le créateur d'Unreal Engine, une plateforme de développement de jeux vidéo.

Tim Sweeney a déclaré sur X :

Raison n° 42 en faveur des plateformes ouvertes : mettre fin aux demandes incessantes des politiciens auprès de tous les gardiens afin qu'ils censurent tous leurs adversaires politiques.

Reason #42 for open platforms: to shut down every politician’s incessant demands to all gatekeepers to censor all of their political opponents. https://t.co/KXlCppiMmc

— Tim Sweeney (@TimSweeneyEpic) January 9, 2026

La plateforme de réseau social X (anciennement Twitter) a été vivement critiquée après que son chatbot IA Grok ait été utilisé pour déshabiller numériquement des femmes sans leur consentement et même générer des images à caractère sexuel d'enfants. Le Royaume-Uni envisage d'interdire X en vertu de la loi sur la sécurité en ligne, tandis que les sénateurs américains font pression sur Apple et Google pour qu'ils retirent l'application de leurs boutiques en ligne.

Le PDG d'Epic Games a appelé les entreprises d'IA à « mettre fin aux demandes incessantes des politiciens qui exigent de tous les gardiens qu'ils censurent tous leurs adversaires politiques ». « Toutes les grandes IA ont connu des dérapages documentés ; toutes les grandes entreprises d'IA font de leur mieux pour lutter contre cela ; aucune n'est parfaite », a poursuivi Sweeney. « Les politiciens qui exigent des gardiens qu'ils écrasent de manière sélective l'entreprise de leurs adversaires politiques pratiquent tout simplement le capitalisme de copinage. »

La secrétaire britannique à la technologie, Liz Kendall, a averti que X devait prendre « de toute urgence » des mesures concernant les images générées par Grok, ce à quoi la plateforme a répondu en verrouillant la génération d'images derrière un mur payant. Le Dr Daisy Dixon, maître de conférences en philosophie à l'université de Cardiff, a qualifié cette réponse de « pansement », suggérant que « Grok doit être entièrement repensé et doté de garde-fous éthiques intégrés ». Dans l'intervalle, l'Ofcom « procède à une évaluation accélérée » de la plateforme, et Kendall prévient que si l'organisme de réglementation décide de bloquer l'accès au site, « il bénéficiera du soutien total du gouvernement ».

X a expliqué qu'il supprimerait les contenus illégaux et suspendrait définitivement les comptes qui les créent, en collaboration avec les gouvernements locaux et les forces de l'ordre, mais beaucoup rétorquent que de tels contenus ne devraient pas pouvoir être générés en premier lieu. La réponse du propriétaire de X, Elon Musk, à ces préoccupations fait écho à celle de Sweeney, puisqu'il affirme que la réaction négative à ces images deepfake est un « prétexte à la censure », déclarant : « Et alors, si Grok peut mettre des gens en bikini ? Ce n'est pas un nouveau problème, c'est un nouvel outil ».

Un participant a insisté sur ce point auprès de Sweeney, lui demandant : « Vous rendez-vous compte de ce que vous défendez ? », ce à quoi il a répondu : « Je défends les plateformes ouvertes, la liberté d'expression et l'application cohérente de l'État de droit. Je ne défends pas les mauvaises actions commises par certaines personnes à l'aide de l'IA, mais je m'oppose fermement à ce que les actes répréhensibles de quelques-uns servent de prétexte pour porter atteinte aux libertés de tous. »

Alors que le gouvernement britannique subit des pressions pour quitter complètement X, la présidente du Parti travailliste, Anna Turley, a confirmé que « des discussions sont en cours » à ce sujet, soulignant que « X doit se ressaisir ». « Le Premier ministre a clairement indiqué que cela était absolument odieux », a-t-elle déclaré. « L'Ofcom a le pouvoir de s'attaquer à ce problème, et nous voulons nous assurer qu'il utilise les pouvoirs que nous lui avons conférés. »

Depuis cette controverse, l'Indonésie est devenue le premier pays à refuser tout accès au chatbot IA Grok d'Elon Musk. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré une ministre. La Malaisie a également suspendu l'accès au chatbot Grok d'Elon Musk en raison de contenus pornographiques générés par l'IA, a déclaré l'autorité de régulation des technologies du pays.

Et vous ?

Pensez-vous que cette réaction est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme

L'IA Grok d'Elon Musk déshabille tout le monde, des mineurs aux dirigeants mondiaux sans leur consentement, et il ne semble pas possible d'y échapper. Des ministres français ont signalé l'affaire à l'Arcom

Grok, l'IA « anti-woke » d'Elon Musk, dérape : éloge d'Hitler, glorification de Musk pour avoir supprimé les filtres « woke », attaque contre Do

[Ryu2000]

X a expliqué qu'il supprimerait les contenus illégaux et suspendrait définitivement les comptes qui les créent, en collaboration avec les gouvernements locaux et les forces de l'ordre, mais beaucoup rétorquent que de tels contenus ne devraient pas pouvoir être générés en premier lieu. La réponse du propriétaire de X, Elon Musk, à ces préoccupations fait écho à celle de Sweeney, puisqu'il affirme que la réaction négative à ces images deepfake est un « prétexte à la censure », déclarant : « Et alors, si Grok peut mettre des gens en bikini ? Ce n'est pas un nouveau problème, c'est un nouvel outil ».

Ils ont raison les types, l'histoire des bikinis est un prétexte. Des gouvernements veulent interdire X, car la liberté d'expression est dangereux pour eux.

X est neutre contrairement aux médias mainstream et aux autres réseaux sociaux.
Les britanniques critiquent Keir Starmer sur X et ces tweets font beaucoup de vues.

Le gouvernement britannique ne tolère pas la liberté d'expression :
People Are Being Thrown In U.K. Prisons Over What They’ve Said Online. Can Free Speech Be Saved?

Steve Forbes calls out the ugly crackdown on speech in Great Britain, pointing to the shocking arrests and convictions of people based on what they’ve said online. He urges the U.K. to reverse course.

C'était bien essayé de faire croire que Grok créer du contenu pédophile.
Mais bon des gens habillés comme ça tu peux en voir dans les catalogues et les magasins en ligne. (Est-ce qu'on va attaquer ceux qui vendent des maillots de bains pour enfants ? Ils diffusent des images d'enfants en maillots de bain )
L'histoire de pédopornographie ne fonctionne pas.
Par contre l'histoire de diffusion d'un photomontage sans consentement, fonctionne. Mais c'est pareil pour tous les autres services du genre...
Pour que ça passe mieux il ne fallait pas se concentrer sur X et Grok, mais visez tous les services IA qui permettent de faire des photomontages.

[popo]

C'était bien essayé de faire croire que Grok créer du contenu pédophile.
Mais bon des gens habillés comme ça tu peux en voir dans les catalogues et les magasins en ligne. (Est-ce qu'on va attaquer ceux qui vendent des maillots de bains pour enfants ? Ils diffusent des images d'enfants en maillots de bain )
L'histoire de pédopornographie ne fonctionne pas.
Par contre l'histoire de diffusion d'un photomontage sans consentement, fonctionne. Mais c'est pareil pour tous les autres services du genre...
Pour que ça passe mieux il ne fallait pas se concentrer sur X et Grok, mais visez tous les services IA qui permettent de faire des photomontages.

Il y a une sacré différence.
Dans les photos des catalogues et des magasins en ligne, les femmes (et les enfants encore moins) ne prennent pas des poses explicites, ni des photos de nu.

J'ajouterai que dans les vraies boutiques, on retrouve des mannequins et même parfois uniquement des bustes en plastique.
Il n'y a pas besoin d'avoir une vraie personnes pour montrer un produit.

[Jon Shannow]

Il y a une sacré différence.
Dans les photos des catalogues et des magasins en ligne, les femmes (et les enfants encore moins) ne prennent pas des poses explicites, ni des photos de nu.

Tu oublies également de préciser que dans les catalogues, les personnes qui sont exposées sont CONSENTANTES ! Et ça, ça fait une sacré différence !

[Ryu2000]

De toute façon maintenant les utilisateurs gratuit de Grok ne peuvent plus demander de créer une image d'une personne réelle en bikini. Donc il n'y a plus aucun problème au niveau de X/Grok.
L'histoire de pédopornographie ne fonctionnait pas, ceux qui cherchent ce type de contenu ne vont pas se contenter d'un truc aussi soft et virtuel...
Le roi des rats a fait une enquête, sur YouTube il y a beaucoup de vidéos de petits enfants sexualisé (en maillot de bain et ce genre de truc), c'est autre chose qu'une photomontage en bikini... (ce sont des enfants réels)

Et de toute façon il y a une règle simple, c'est de ne jamais publier de photo d'enfant sur les réseaux. Pas de photo, pas de montage.
Si votre fille a 17 ans et demi, il faut bien lui dire de ne pas publier de photo sur instagram parce que quelqu'un peut télécharger la photo et demander à ChatGPT de mettre la fille en bikini. (ou inversement si elle publie des photos d'elle en maillot de bain, des gens pourraient demander à l'IA de la rhabiller)

[Artaeus]

Le PDG d'Epic Games a très bien compris qu'avec l'Unreal Engine, il est le suivant sur la liste de la "régulation folle et délirante européenne".
Car rien ne vous empêche de créer quelque chose d'illégale avec Unreal Engine.
La logique européenne est devenu complètement dingue et préfère s'attaquer aux outils qu'aux responsables d'un délit.

Après, ça sera surement photoshop.

[olsimare]

Ca avance à petit pas vers une bonne grosse société de contrôle.
Mais toujours sous des prétextes bienveillants... car c'est la base --> des gens mettent de la merde sur X --> on interdit X.
Etonnamment, tous les outils existent pour déjà gérer le fait que des gens mettent de la merde sur X.
Donc quel est le but ?
Simple à mon sens, avoir une vérité unique sans possibilité de la challenger ou d'échanger sur d'autres alternatives.

L'Europe est foutue.

[Mathis Lucas]

Grok a finalement été mis à jour pour ne plus dévêtir les femmes et les enfants. Le procureur général de Californie va enquêter pour déterminer si le bot d'Elon Musk a enfreint les lois américaines

Elon Musk est au centre d’une vive controverse après avoir doté Grok d’une fonctionnalité permettant de dévêtir les utilisateurs de X (ex-Twitter) sans leur consentement. Le tollé est tel que X a été interdit dans plusieurs pays et est menacé d'interdiction au Royaume-Uni, au Canada et en Australie. Elon Musk a qualifié ces actions de censure et Tim Sweeney a pris la défense de Grok. Bien que X ait initialement rejeté la responsabilité sur les utilisateurs, Grok a finalement été mis à jour pour ne plus dévêtir les gens. X fait désormais l'objet d'une surveillance accrue et le procureur général de Californie a annoncé avoir ouvert une enquête sur X.

Le lancement de cette fonctionnalité a suscité une vive réaction non seulement parmi les artistes et les photographes, qui voient leurs contenus protégés par le droit d'auteur utilisés et modifiés sans effort, mais aussi parmi des milliers d'utilisateurs lambda, en particulier des femmes dont les photos partagées sont modifiées sans leur consentement afin de créer des scénarios suggestifs ou intrusifs, ce qui constitue une violation flagrante de la vie privée.

À la suite d'une vague de protestations mondiales contre l'utilisation de cet outil pour générer des images explicites, xAI a annoncé que cette fonctionnalité sera bloquée prochainement. Pendant ce temps, Elon Musk insiste sur le fait que les utilisateurs sont responsables de ce qu'ils font avec son chatbot.

« Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de modifier les images de personnes réelles portant des vêtements révélateurs, comme des bikinis. Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants », indique le compte X Safety. L'annonce ne précise pas si X va prendre des mesures contre les comptes qui ont créé et publié des images sexualisées de femmes et d'enfants sur le site.

« La restriction de la création d'images et la possibilité de modifier des images via le compte Grok sur la plateforme X ne sont désormais accessibles qu'aux abonnés payants. Cela ajoute une couche de protection supplémentaire en contribuant à garantir que les personnes qui tentent d'abuser du compte Grok pour enfreindre la loi ou nos politiques puissent être tenues responsables », indique l'annonce. X empêchera aussi Grok de dévêtir les gens.

« X bloquera géographiquement la possibilité pour tous les utilisateurs de générer des images de personnes réelles en bikini, en sous-vêtements et dans des tenues similaires via le compte Grok et dans Grok dans X dans les juridictions où cela est illégal », indique X Safety. En réaction à cette interdiction, le gouvernement britannique a revendiqué une « victoire » après que le Premier ministre Sir Keir Starmer a appelé X d'Elon Musk à contrôler Grok.

La Californie va déterminer si Grok a enfreint les lois américaines

Ce changement a été annoncé quelques heures après que le procureur général de Californie, Rob Bonta, a déclaré que l'État enquête sur la propagation de deepfakes sexualisés générés par l'IA, impliquant notamment des enfants. Cette fonctionnalité a suscité l'indignation et la colère des victimes, dont les photos ont été utilisées pour générer des images explicites sans leur consentement. Les utilisateurs ne pouvaient pas empêcher Grok d'utiliser leurs photos.

Dans un communiqué de presse publié le 14 janvier, Rob Bonta a déclaré : « xAI semble faciliter la production à grande échelle d'images intimes deepfake non consenties qui sont utilisées pour harceler des femmes et des filles sur Internet, y compris via la plateforme de médias sociaux X ».

Avant ce changement, X n'avait pas restreint l'application ou le site Web Grok. X avait seulement menacé de suspendre définitivement les utilisateurs qui modifiaient des images pour déshabiller des femmes et des enfants si les résultats étaient jugés « illégaux ». Il avait également empêché Grok de répondre aux demandes visant à dévêtir un utilisateur, mais toute personne disposant d'un abonnement Premium pouvait contourner cette restriction.

Selon Rob Bonta, l'enquête a été déclenchée par les articles concernant les pires productions de Grok. « L'avalanche d'articles détaillant les contenus sexuellement explicites et non consensuels que xAI a créés et publiés en ligne ces dernières semaines est choquante. Ces contenus, qui montrent des femmes et des enfants nus dans des situations sexuellement explicites, ont été utilisés pour harceler des personnes sur Internet », a déclaré Rob Bonta.

Le Premier ministre britannique Keir Starmer avait averti que X risquait de perdre son « droit à l'autorégulation » en raison de la polémique suscitée par les images générées par Grok, mais il a déclaré plus tard dans la semaine qu'il se réjouissait des informations selon lesquelles X prenait des mesures pour remédier au problème. Certains députés britanniques ont également quitté la plateforme de médias sociaux d'Elon Musk à la suite du tollé.

Elon Musk défend Grok et soutient qu'il n'a pas dénudé des enfants

Dans un post, désormais supprimé, Grok a retouché une photo de deux jeunes filles vêtues de tenues légères et dans des poses sexuellement suggestives. Mais avant la mise à jour de X Safety, Elon Musk, propriétaire de X, semblait défendre les résultats de Grok comme étant inoffensifs, insistant sur le fait qu'aucune des images signalées ne montrait des mineurs entièrement dénudés, comme cela constituait le seul résultat problématique de Grok.

« Je [sic] n'ai connaissance d'aucune image de mineurs nus générée par Grok. Littéralement aucune », a déclaré Elon Musk dans un message publié sur X. Cette déclaration d'Elon Musk semble ignorer que les chercheurs ont trouvé plusieurs images préjudiciables dans lesquelles « les utilisateurs demandaient spécifiquement que des mineurs soient placés dans des positions érotiques et que des fluides sexuels soient représentés sur leur corps ».

Elle ignore également que X s'était précédemment volontairement engagé à supprimer toute image intime abusive de sa plateforme, reconnaissant récemment, en 2024, que même les images partiellement nues que les victimes ne souhaiteraient pas voir publiées sur le site pouvaient être préjudiciables.

Le 9 janvier, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur le site que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Grok a ajouté que les utilisateurs peuvent s'abonner pour débloquer ces fonctionnalités. Certaines publications sur la plateforme suggèrent que seuls les abonnés payants ont pu demander avec succès des modifications d'images à Grok.

Aux États-Unis, le ministère de la Justice considère que « toute représentation visuelle d'un comportement sexuellement explicite impliquant une personne âgée de moins de 18 ans » relève de la pornographie infantile (CSAM). Le Centre national pour les enfants disparus et exploités (NCMEC) a déclaré que « les entreprises technologiques ont la responsabilité d'empêcher que leurs outils soient utilisés pour sexualiser ou exploiter des enfants ».

Le réseau social X d'Elon Musk pourrait avoir enfreint plusieurs lois

Grok fait l'objet d'une surveillance accrue dans le monde entier en raison de ses garde-fous jugés trop laxistes. Le chatbot d'Elon Musk est régulièrement empêtré dans les polémiques depuis sa sortie. La chercheuse en politiques publiques Riana Pfefferkorn s'est dite surprise que la plateforme ait mis autant de temps à déployer les nouvelles mesures de protection et estime que les fonctions d'édition auraient dû être supprimées dès le début des abus.

« Des questions subsistent quant à la manière dont X appliquera ses nouvelles politiques, notamment comment le Grok saura si une image représente une personne réelle et quelles mesures il prendra lorsque les utilisateurs enfreindront les règles. Musk n'a pas non plus présenté l'entreprise sous un jour sérieux », a déclaré la chercheuse, précisant qu'il serait utile qu'il cesse de faire des choses comme republier un deepfake de Keir Starmer en bikini.

Selon les experts, il est possible que les résultats de Grok, s'ils n'étaient pas contrôlés, aient finalement conduit X à enfreindre la loi américaine Take It Down Act, qui entrera en vigueur en mai 2026 et qui oblige les plateformes à supprimer rapidement les contenus pornographiques de vengeance générés par l'IA. L'une des mères des enfants d'Elon Musk, Ashley St. Clair, a qualifié les résultats de Grok utilisant ses images de pornographie de vengeance.

Le procureur Rob Bonta n'a pas encore précisé les lois qu'il soupçonne X d'Elon Musk d'avoir enfreintes aux États-Unis. Toutefois, Rob Bonta a précisé que les images représentant des victimes « légèrement vêtues » dépassent les limites, tout comme les images mettant des enfants dans des positions sexuelles. Il a appelé X à prendre plus de mesures pour restreindre les résultats de Grok, ce qui pourrait être fait grâce à quelques mises à jour.

« J'exhorte xAI à prendre des mesures immédiates pour que cela ne se reproduise plus. Nous avons une tolérance zéro pour la création et la diffusion par l'IA d'images intimes non consenties ou de matériel pédopornographique », a-t-il déclaré. xAI s'est engagé à continuer à faire de X une plateforme sûre et à appliquer une tolérance zéro envers toute forme d'exploitation sexuelle des enfants, de nudité non consentie et de contenu sexuel non désiré.

Conclusion

Selon les experts, même si bon nombre des productions de Grok ne peuvent être considérées comme du CSAM, en normalisant la sexualisation des enfants, Grok nuit aux mineurs. En plus du CSAM prétendument généré par Grok trouvé sur le dark Web, l'Internet Watch Foundation a remarqué que des personnes mal intentionnées utilisent des images modifiées par le chatbot pour créer des types encore plus extrêmes de CSAM généré par l'IA.

Elon Musk défend une vision qui privilégie une interprétation maximaliste de la liberté d’expression et se montre sceptique vis-à-vis des mécanismes de modération centralisés. Appliquée à l’IA générative, cependant, cette philosophie atteint toutefois ses limites. La liberté d’expression ne peut servir de paravent à la diffusion ou à la production de contenus criminels, surtout lorsqu’ils sont générés automatiquement par des systèmes industriels.

Malgré un cycle de mise à jour fréquent, le chatbot a suscité des controverses liées à ses réponses sur des sujets sensibles et à l'influence d'Elon Musk sur ses prises de position politiques. Grok est également accusé de propager de la désinformation à caractère négationniste et complotiste. Les antécédents de Grok en matière d'exactitude sont pour le moins mitigés, avec des incidents de divulgation d'informations personnelles et de diffusion d'infox.

Source : X Safety

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des mesures prises par xAI pour empêcher la génération de deepfakes explicites par Grok ?
Ces mesures sont-elles suffisantes ? Que pensez-vous des garde-fous du chatbot Grok d'Elon Musk ? Sont-ils trop permissifs ?
Elon Musk insiste sur le fait que les utilisateurs sont responsables de ce qu'ils font avec son chatbot. Qu'en pensez-vous ?
Que pensez-vous de l'interdiction de X dans certains pays ? Cette mesure est-elle justifiée ou cela relève-t-il de la censure ?

Voir aussi

Elon Musk limite l'outil d'image Grok de xAI aux abonnés payants, après le tollé créé par son IA qui déshabille tout le monde, y compris les mineurs, sans leur consentement

La Malaisie et l'Indonésie bloquent l'accès au chatbot IA Grok d'Elon Musk en raison d'images deepfake : « Les deepfakes constituent une grave violation des droits humains, de la dignité »

Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

[Ryu2000]

« Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de modifier les images de personnes réelles portant des vêtements révélateurs, comme des bikinis. Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants », indique le compte X Safety. L'annonce ne précise pas si X va prendre des mesures contre les comptes qui ont créé et publié des images sexualisées de femmes et d'enfants sur le site.

C'est parfait il n'y a plus aucun problème

« Des questions subsistent quant à la manière dont X appliquera ses nouvelles politiques, notamment comment le Grok saura si une image représente une personne réelle et quelles mesures il prendra lorsque les utilisateurs enfreindront les règles. Musk n'a pas non plus présenté l'entreprise sous un jour sérieux », a déclaré la chercheuse, précisant qu'il serait utile qu'il cesse de faire des choses comme republier un deepfake de Keir Starmer en bikini.

C'est drôle quand une personne suivi partage ce genre de chose

====
Keir Starmer va devoir trouver un autre prétexte, celui des bikinis n'existe plus.