Discussion :

[Ryu2000]

Ah ouais c'est peut-être illégal :
Article 226-8-1

Est puni de deux ans d'emprisonnement et de 60 000 euros d'amende le fait de porter à la connaissance du public ou d'un tiers, par quelque voie que ce soit, un montage à caractère sexuel réalisé avec les paroles ou l'image d'une personne, sans son consentement. Est assimilé à l'infraction mentionnée au présent alinéa et puni des mêmes peines le fait de porter à la connaissance du public ou d'un tiers, par quelque voie que ce soit, un contenu visuel ou sonore à caractère sexuel généré par un traitement algorithmique et reproduisant l'image ou les paroles d'une personne, sans son consentement.

Lorsque le délit prévu au premier alinéa est commis par la voie de la presse écrite ou audiovisuelle, les dispositions particulières des lois qui régissent ces matières sont applicables en ce qui concerne la détermination des personnes responsables.

Les peines prévues au même premier alinéa sont portées à trois ans d'emprisonnement et à 75 000 euros d'amende lorsque la publication du montage ou du contenu généré par un traitement algorithmique a été réalisée en utilisant un service de communication au public en ligne.

Il est interdit de diffuser sans accord :
Article 226-2-1

Lorsque les délits prévus aux articles 226-1 et 226-2 portent sur des paroles ou des images présentant un caractère sexuel prises dans un lieu public ou privé, les peines sont portées à deux ans d'emprisonnement et à 60 000 € d'amende.

Est puni des mêmes peines le fait, en l'absence d'accord de la personne pour la diffusion, de porter à la connaissance du public ou d'un tiers tout enregistrement ou tout document portant sur des paroles ou des images présentant un caractère sexuel, obtenu, avec le consentement exprès ou présumé de la personne ou par elle-même, à l'aide de l'un des actes prévus à l'article 226-1.

=====
Pour des histoires de :
- Droit à l'image
- Vie privée
- Dignité
Il doit également être interdit de diffuser des représentations de Keir Starmer en couche, en bikini, en uniforme Nazi, etc.

D'autres outils permettent de mettre des gens en bikinis, d'autres réseaux sociaux permettent de partager des images.
Donc il n'y a pas que Twitter qui doit être attaqué.

Il est impossible de modérer tout le contenu, la personne qui partage du contenu problématique devrait être plus inquiété que le réseau social.

[BenoitM]

Il est impossible de modérer tout le contenu, la personne qui partage du contenu problématique devrait être plus inquiété que le réseau social.

Alors tu ne fais pas de la diffusion de contenu

[Mathis Lucas]

Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

Elon Musk a doté Grok d'une fonctionnalité permettant à un utilisateur de X de générer des images explicites à partir de la photo d'un autre utilisateur sans son consentement. La plateforme a rapidement été inondée d'images explicites, y compris de mineurs, suscitant un tollé mondial. Dans un premier temps, X a rejeté la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats, puis a décidé quelques jours plus tard de limiter l'outil aux abonnés payants. Mais cette mesure est jugée insuffisante. En réaction, des voix au Royaume-Uni, au Canada et en Australie appellent à interdire X, mais cette mesure est controversée.

Au début de l'année, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Les propriétaires des images ne sont pas informés lorsque des modifications sont apportées, et la fonctionnalité est activée par défaut pour tous sans une option de désactivation (du moins pour l'instant).

L'outil comprend des options permettant d'écrire des prompts, de prévisualiser les résultats et de partager l'image modifiée sur les pages de profil et le flux « Pour vous ». Le bouton apparaît sur tous les profils, qu'ils appartiennent à des utilisateurs réguliers, à des comptes vérifiés ou à des personnalités publiques.

Le lancement de cette fonctionnalité a suscité une vive réaction non seulement parmi les artistes et les photographes, qui voient leurs contenus protégés par le droit d'auteur utilisés et modifiés sans effort, mais aussi parmi des milliers d'utilisateurs lambda, en particulier des femmes dont les photos partagées sont modifiées sans leur consentement pour créer des scénarios suggestifs ou intrusifs, ce qui constitue une violation flagrante de la vie privée.

Dans un post, désormais supprimé, Grok a retouché une photo de deux jeunes filles vêtues de tenues légères et dans des poses sexuellement suggestives. Des responsables français ont réagi au problème posé par Grok et le contenu sexuel généré, notamment lorsque des images de mineurs ont été impliquées.

Cette capacité de Grok a suscité un tollé dans le monde entier

Grok est un chatbot gratuit que les utilisateurs peuvent taguer directement dans les publications ou les réponses sous les publications d'autres utilisateurs sur X pour lui demander une réponse particulière. De nombreux utilisateurs ont demandé à Grok de modifier des images de femmes afin de les montrer en bikini ou légèrement vêtues, ce qui, selon les personnes concernées, leur a donné un sentiment « d'humiliation » et de « déshumanisation ».

Le 9 janvier, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur le site que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Grok a ajouté que les utilisateurs peuvent s'abonner pour débloquer ces fonctionnalités. Certaines publications sur la plateforme suggèrent que seuls les abonnés payants ont pu demander avec succès des modifications d'images à Grok.

Le Dr Daisy Dixon, maître de conférences en philosophie à l'université de Cardiff et utilisatrice de X, qui a déclaré avoir constaté une augmentation du nombre de personnes utilisant Grok pour la déshabiller, a salué ce changement, mais a déclaré qu'il s'agissait d'une « solution provisoire ».

Elle invite Elon Musk à repenser les garde-fous de Grok. « Grok doit être entièrement repensé et doté de garde-fous éthiques intégrés pour empêcher que cela ne se reproduise. Elon Musk doit également reconnaître cela pour ce que c'est : un autre exemple de violation fondée sur le genre », a-t-elle déclaré. Hannah Swirsky, responsable des politiques à l'Internet Watch Foundation, a déclaré que « cette mesure ne répare pas le mal qui a été fait ».

« Nous ne pensons pas qu'il soit suffisant de simplement limiter l'accès à un outil qui n'aurait jamais dû avoir la capacité de créer le type d'images que nous avons vu ces derniers jours », a-t-elle déclaré. L'organisation a précédemment rapporté que ses analystes ont découvert des « images criminelles » de filles âgées de 11 à 13 ans qui « semblaient avoir été créées » à l'aide de l'IA Grok. Ces modifications ont également visé des chefs d'État.

X est menacé d'une éventuelle interdiction dans certains pays

La sanction pourrait être incisive ailleurs. Le Royaume-Uni, le Canada et l'Australie envisagent d'interdire le réseau social X d'Elon Musk. La ministre britannique de la Technologie, Liz Kendall, a déclaré qu'elle soutiendrait l'autorité de régulation Ofcom si celle-ci bloquait l'accès au Royaume-Uni à la plateforme pour non-respect des lois sur la sécurité en ligne. L'Ofcom affirme qu'il est en train de décider de toute urgence de la suite à donner à Grok.

Liz Kendall a déclaré : « la manipulation sexuelle d'images de femmes et d'enfants est méprisable et odieuse. Moi-même, et surtout le public, nous attendons de l'Ofcom qu'il nous informe des prochaines étapes dans les jours qui viennent, et non dans les semaines à venir ». Elle a ajouté que « la loi sur la sécurité en ligne (Online Safety Act) permet de bloquer l'accès aux services au Royaume-Uni qui ne se conforment pas à la législation britannique ».

Un porte-parole de l'Ofcom a déclaré : « nous procédons actuellement à une évaluation accélérée en urgence et fournirons de nouvelles informations sous peu ». Les pouvoirs de l'Ofcom en vertu de la loi sur la sécurité en ligne lui permettent notamment de demander une ordonnance du tribunal pour empêcher des tiers d'aider X à lever des fonds ou d'être accessible au Royaume-Uni, si l'entreprise refuse de se conformer aux lois britanniques.

D'après un récent article de BBC News, des messages divulgués provenant du groupe WhatsApp du Parti travailliste parlementaire montrent qu'au moins 13 députés travaillistes ont appelé le gouvernement à cesser d'utiliser le réseau social X d'Elon Musk. Ils montrent également que les députés travaillistes appellent le gouvernement à « prendre position » et choisir une nouvelle plateforme pour « diffuser les messages officiels du gouvernement ».

Le Premier ministre australien Anthony Albanese a déclaré : « le fait que cet outil ait été utilisé, que des personnes se servent de sa fonction de création d’images via Grok, est, selon moi, tout simplement odieux. C'est, une fois de plus, un exemple de l'absence de responsabilité sociale des réseaux sociaux ».

La menace d'interdiction de X suscite des réactions contrastées

Cette éventuelle interdiction a suscité des réactions mitigées, des critiques accusant les trois pays de censure et de violation de la liberté d'expression. Elon Musk, qui a rejeté la responsabilité sur les utilisateurs, a dénoncé cette initiative. Sur X, en réponse à un message demandant pourquoi les autres plateformes d'IA n'étaient pas concernées, il a déclaré que « le gouvernement britannique cherchait n'importe quelle excuse pour censurer ».

L'utilisation de Grok pour générer des images à caractère sexuel non consensuelles a été condamnée par les politiciens de tous bords, mais beaucoup ont rejeté l'idée d'une interdiction de X. Le leader du parti Reform UK, Nigel Farage, estime que cette utilisation de l'IA est « horrible à tous points de vue ». Il a ajouté que « X doit aller plus loin que les changements qu'il avait apportés à Grok », notamment en limitant l'outil aux abonnés payants.

Cependant, Nigel Farage a ajouté que « l'idée d'interdire X au Royaume-Uni est franchement épouvantable et constituerait une atteinte à la liberté d'expression ». Les libéraux-démocrates ont demandé que l'accès à X soit temporairement restreint au Royaume-Uni pendant l'enquête sur le site se poursuive.

De nombreux internautes interprètent cette éventuelle interdiction de X comme une atteinte à la liberté d’expression ou un geste de censure de la part du gouvernement. Un utilisateur de X a écrit : « je ne pense pas qu'ils comprennent à quel point cela va leur nuire ». Un autre a ajouté : « c'est une décision insensée. Un pays ne devrait pas pouvoir interdire un réseau social. Les gens devraient être libres de choisir la façon dont ils s'informent ».

En Irlande, l'organisme de surveillance des médias a déclaré avoir fait part à la Commission européenne de ses inquiétudes concernant l'utilisation de Grok pour déshabiller numériquement des femmes et des enfants à des fins de diffusion sur X. Le régulateur irlandais a qualifié ce problème de « très préoccupant ».

Vives réactions en France face aux dérives de Grok d'Elon Musk

Les produits d'IA d'Elon Musk sont largement commercialisés comme étant fortement sexualisés et peu protégés. Le générateur de vidéos Grok créait facilement des deepfakes topless de Taylor Swift, malgré la politique d'utilisation acceptable de xAI interdisant « la représentation de personnes de manière pornographique ». Grok semble disposer de peu de garde-fous pour empêcher la génération de contenus ne relevant pas de la nudité explicite totale.

En revanche, les outils Veo de Google et Sora d'OpenAI ont mis en place des garde-fous autour de la génération de contenu NSFW, bien que Sora ait aussi été utilisé pour produire des vidéos d'enfants dans des contextes sexualisés et des vidéos fétichistes. Selon un rapport de la société de cybersécurité DeepStrike, les images deepfake sont de plus en plus répandues, et beaucoup d'entre elles contiennent des images sexualisées non consenties.

Des ministres français ont signalé aux procureurs de la République des contenus générés par Grok qualifiés de « manifestement illégaux » en raison de leur caractère sexuel ou sexiste, un acte qui vise à déclencher une action judiciaire contre ceux qui diffusent ou facilitent de tels contenus. Cette démarche judiciaire s’appuie sur des éléments qui, selon l’exécutif, enfreignent le droit pénal français. (Les procureurs ne sont pas encore prononcés.)

Les ministres ont précisé avoir également signalé ces contenus au régulateur français des médias et du numérique Arcom. Les autorités françaises invitent le régulateur à vérifier leur conformité avec le Digital Services Act (DSA) de l'Union européenne. Des parlementaires (dont Éric Bothorel et Arthur Delaporte) ont également saisi la justice, contribuant à l’élargissement d’une enquête judiciaire déjà ouverte sur le plateforme controversée d'Elon Musk.

Des personnalités comme Sarah El Haïry, haute-commissaire à l’enfance, ont également dénoncé ces usages de l’IA, exprimant leur indignation quant à la création et la diffusion de demandes visant à sexualiser des femmes ou des mineurs et rappelant que les préjudices sont réels même si les images sont artificielles.

Un risque juridique et réputationnel sous-estimé

La production de contenus pédopornographiques n’est pas une simple entorse aux règles communautaires : il s’agit d’un crime lourdement sanctionné dans la quasi-totalité des juridictions. En laissant entendre que le problème relève uniquement de l’usage, X s’expose à des risques juridiques considérables, notamment en Europe où la responsabilité des plateformes et des fournisseurs de technologies est de plus en plus encadrée.

Au-delà du droit, l’impact réputationnel est potentiellement dévastateur. Pour les annonceurs, les partenaires technologiques et même les développeurs internes, être associé à un outil d’IA impliqué dans de telles dérives constitue un signal d’alarme majeur.

Le Royaume-Uni est en faveur d’une action forte, jusqu’à envisager un blocage de l’accès à X si le site ne remédie pas à ces problèmes. Le gouvernement fédéral du Canada n’envisage pas, pour le moment, d’interdire X, bien qu’il reconnaisse la nécessité de débats sur la sécurité et la régulation de l’IA. La position de l’Australie s’aligne sur les préoccupations exprimées par le Royaume-Uni, mais sans confirmation d’un projet concret de bannissement.

Le réseau social X d'Elon Musk face aux controverses incessantes

Le milliardaire Elon Musk a acquis Twitter en 2022 pour environ 44 milliards de dollars. À la suite du changement de nom et de logo en juillet 2023, Elon Musk a commencé à rediriger le trafic de Twitter.com vers X.com l'année suivante. La requête d'Operation Bluebird cite un billet d'Elon Musk dans lequel il déclare : « bientôt, nous dirons adieu à la marque Twitter et progressivement, à tous les oiseaux ». Il l'a posté juste avant le changement de nom du site.

La plateforme d'Elon Musk fait l'objet de nombreuses controverses. Certaines entreprises ont hésité à faire de la publicité sur X, craignant d'être associées à des contenus déplaisants, tels que des opinions extrémistes, des publications frauduleuses ou des robots pornographiques. Et une étude publiée par Kantar en septembre 2024 indiquait que 26 % des spécialistes du marketing interrogés prévoyaient d'abandonner leurs campagnes publicitaires sur X.

X d'Elon Musk subit depuis deux ans des turbulences majeures. La fuite des annonceurs, la baisse des revenus publicitaires, l’augmentation des litiges en Europe et aux États-Unis, ainsi que la perte de repères pour les utilisateurs transforment la plateforme en un terrain mouvant. L'UE a récemment infligé une amende de 120 millions d'euros à la plateforme d'Elon Musk pour avoir enfreint certaines dispositions de la loi sur les services numériques (DSA).

L'amende concerne trois manquements spécifiques en matière de transparence : tromper les utilisateurs lorsqu’Elon Musk a remplacé la vérification réelle par « payer 8 dollars pour obtenir une coche », maintenir un répertoire publicitaire défectueux et refuser de partager les données requises avec les chercheurs. Mais Elon Musk s'insurge contre cette amende et réclame la dissolution de l'UE. Il a notamment le soutien des proches de l'administration Trump.

Conclusion

Elon Musk est de nouveau au centre des critiques pour avoir facilité la création d'images sexualisées sur X. Au-delà du cas de Grok, cet incident met en lumière un problème structurel : le déploiement rapide d’outils d’IA générative sans garde-fous suffisants. L’affaire illustre les risques concrets des deepfakes non consensuels et la responsabilité des entreprises technologiques dans la prévention des abus, en particulier lorsqu’il s’agit de mineurs.

Elon Musk défend une vision qui privilégie une interprétation maximaliste de la liberté d’expression et se montre sceptique vis-à-vis des mécanismes de modération centralisés. Appliquée à l’IA générative, cependant, cette philosophie atteint toutefois ses limites. La liberté d’expression ne peut servir de paravent à la diffusion ou à la production de contenus criminels, surtout lorsqu’ils sont générés automatiquement par des systèmes industriels.

Malgré un cycle de mise à jour fréquent, le chatbot a suscité des controverses liées à ses réponses sur des sujets sensibles et à l'influence d'Elon Musk sur ses prises de position politiques. Grok est également accusé de propager de la désinformation à caractère négationniste et complotiste. Les antécédents de Grok en matière d'exactitude sont pour le moins mitigés, avec des incidents de divulgation d'informations personnelles et de diffusion d'infox.

Et vous ?

Quel est votre avis sur le sujet ?
Cette nouvelle fonctionnalité du chatbot Grok d’Elon Musk est-elle justifiée ? Pourquoi ?
Que pensez-vous d'une éventuelle interdiction de X en raison des contenus explicites générés par Grok ?
Elon Musk et certains critiques qualifient cette mesure de censure gouvernementale. Qu'en pensez-vous ?
Qui doit être tenu responsable des contenus problématiques créés avec Grok ? Elon Musk ou les utilisateurs ?
Elon Musk et sa société xAI rejettent la responsabilité sur les utilisateurs de Grok. Qu'en pensez-vous ?
Le fait de limiter l'accès à l'outil de retouche de photo aux abonnés payants répond-il aux préoccupations ?
Que pensez-vous de la vision de la liberté d'expression défendue par Elon Musk ? Quels impacts pourrait-elle avoir sur X ?

Voir aussi

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme

Elon Musk limite l'outil d'image Grok de xAI aux abonnés payants, après le tollé créé par son IA qui déshabille tout le monde, y compris les mineurs, sans leur consentement

L'IA Grok d'Elon Musk déshabille tout le monde, des mineurs aux dirigeants mondiaux sans leur consentement, et il ne semble pas possible d'y échapper. Des ministres français ont signalé l'affaire à l'Arcom

[Ryu2000]

Que pensez-vous d'une éventuelle interdiction de X en raison des contenus explicites générés par Grok ?

Ce n'est qu'un prétexte. D'autres chatbot IA proposent exactement la même chose.

Ce qui dérange le pouvoir au Royaume-Uni, au Canada, en Australie, c'est qu'il y a de la liberté d'expression sur X et ils ne peuvent pas le supporter, ils détestent ça.
Australie => Premier ministre => Anthony Albanese
Canada => Premier ministre => Mark Carney
Royaume-Uni => Premier ministre => Keir Starmer
Ce sont 3 anti Trump.
Ces gens-là ne veulent pas que le peuple puisse voir la vérité. Ils veulent imposer leur vision du monde. Et pour cela il faut interdire Twitter. (l'algorithme de X est neutre, et ça leur pose problème)

Il y a un truc qui s'appelle "effet Trump" c'est quand des gens dans un pays votent pour un candidat qui est à l'opposé de Trump :
« L’effet Trump », en Australie comme au Canada

L’Australie semble aujourd’hui assister à un phénomène étrangement similaire à ce qu’on a vu au Canada dans les trois derniers mois : un "effet Trump" – au sens d’effet repoussoir – inspiré par l’angoisse, voire la peur, ou par un souci du statu quo, qui pourrait sauver la mise au gouvernement sortant.

[Artaeus]

Un prétexte ridicule (de plus) pour censurer internet.
Rien d'étonnant sachant les attaques générales contre les droits fondamentaux dans ces pays : vérification d'identité sous prétexte de "vérification d'âge", censure des réseaux sociaux, emprisonnement des critiques du gouvernement, discussion d'interdiction des VPN ...

Vraiment un sale temps pour les libertés et le respect de la vie privée.

[Anselme45]

Il y en a marre de ces politicards. ces autorités, ces administrations diverses et variées qui n'ont pas de couilles et qui prennent le public pour des imbéciles!

Arrêtez avec vos pseudo-menaces qui finissent toujours en eau de boudin... Ce n'est rien d'autre que de la communication dont tout le monde se fout!

Soit vous interdisez, soit vous n'interdisez pas mais dans tous les cas... Fermez là et arrêtez de communiquer dans le vide pour le plaisir de... communiquer!

Pour le lecteur, quand vous avez une info du style "... on menace de...", il faut lire "on ne fera rien"

[Ryu2000]

Un prétexte ridicule (de plus) pour censurer internet.

Les arguments sont bons, t'as pas le droit de faire un photomontage d'une personne réelle sans son consentement, tu n'as pas le droit de publier une image vraie ou fausse d'une personne réelle sans son consentement.

Donc l'histoire "n'importe qui peut se faire déshabiller par un chatbot IA et les images peuvent tourner sur internet" fonctionne.

Et en plus on rajoute "dans le tas il y a des victimes mineures".
Ce n'est pas bien de créer et de diffuser des photos de gens en bikini. Donc le prétexte fonctionne.

Les gens normaux n'aimeraient pas qu'une photo d'eux en bikini circule sur internet.

[marsupial]

Notons que c'est en Asie où ils n'en sont plus au stade de la menace mais ont purement et simplement interdit Grok, notamment l'Indonésie. Mais l'Inde aussi où X a censuré des milliers de posts et des centaines de comptes sont supprimés. Les victimes doivent en être bienheureuses mais cela n'enlève rien à la néfaste fonctionnalité de l'IA. Une mesure conservatoire oblige X en France de conserver les contenus en cause pour poursuites judiciaires. Au nom de la liberté d'expression, doit-on laisser des femmes souvent mineures se laisser déshabiller ainsi ? Je ne pense pas. C'est interdit par la loi alors qu'aller à la piscine en maillot de bain ne revient pas au même puisqu'il s'agit d'une décision prise librement.

edit : donc je ne parlerai pas de prétexte mais d'application de la loi

edit 2 :

Il y en a marre de ces politicards. ces autorités, ces administrations diverses et variées qui n'ont pas de couilles et qui prennent le public pour des imbéciles!

Arrêtez avec vos pseudo-menaces qui finissent toujours en eau de boudin... Ce n'est rien d'autre que de la communication dont tout le monde se fout!

Soit vous interdisez, soit vous n'interdisez pas mais dans tous les cas... Fermez là et arrêtez de communiquer dans le vide pour le plaisir de... communiquer!

Pour le lecteur, quand vous avez une info du style "... on menace de...", il faut lire "on ne fera rien"

Je ne dirai pas qu'ils ne veulent rien faire mais ils menacent d'interdiction pour remettre X et Musk dans le droit chemin sinon ils interdisent. Donc ils n'interdiront peut-être pas à condition que des mesures soient prises pour éviter des atteintes à la vie privée de victimes. A noter qu'un recensement a été fait et cela concerne 10% d'hommes aussi. Pas que des femmes.

[Artaeus]

Les arguments sont bons, t'as pas le droit de faire un photomontage d'une personne réelle sans son consentement, tu n'as pas le droit de publier une image vraie ou fausse d'une personne réelle sans son consentement.

Donc l'histoire "n'importe qui peut se faire déshabiller par un chatbot IA et les images peuvent tourner sur internet" fonctionne.

Et en plus on rajoute "dans le tas il y a des victimes mineures".
Ce n'est pas bien de créer et de diffuser des photos de gens en bikini. Donc le prétexte fonctionne.

Les gens normaux n'aimeraient pas qu'une photo d'eux en bikini circule sur internet.

Donc il faut poursuivre les coupable de l'infraction et pas interdire X (ou Photoshop) ?
Je rappel que X coopère au vue des 13 000 arrestations au Royaume-Unis pour commentaire sur les réseaux sociaux

Enfin, un bikini sur les adultes est une "sexualisation" chez les extrémistes religieux ou puritains. Bien curieux de connaitre ce que signifie "sexualiser" ? Ça marche pour une cheville ou une coiffure ?
Cela peut aussi bien concerner un bikini qu'un costume mais la loi est absolument flou, tout est potentiellement illégal : Bref, ça dépendra de vos relations avec la Justice ou de votre position au gouvernement.

Concernant les enfants, le droit existe déjà contre les montages malveillants pouvant leur porter préjudices ("sexualisation" ou autre) : Suffit d'appliquer.

[marsupial]

En France, le droit à l'image existe pour toutes et tous. La SACEM en est la dépositaire. Et qui contrevient à ce droit se met hors-la-loi. Et c'est valable dans l'immense majorité des pays. Combien de procès de personnages publics ont eu lieu en France ? Ou même de personnes morales ? Bien plus qu'on ne le croit...

[Anselme45]

Je ne dirai pas qu'ils ne veulent rien faire mais ils menacent d'interdiction pour remettre X et Musk dans le droit chemin sinon ils interdisent. Donc ils n'interdiront peut-être pas à condition que des mesures soient prises pour éviter des atteintes à la vie privée de victimes. A noter qu'un recensement a été fait et cela concerne 10% d'hommes aussi. Pas que des femmes.

Si votre scenario était juste, ces guignols pourraient menacer les Musk & Cie directement sans avoir besoin des faire une communication au monde entier!

Ce n'est pas ce qu'ils font... Leur priorité est de montrer au monde entier qu'ils font quelque chose... Ce qui n'est clairement pas le cas: Les GAFAM américaines font ce qu'elles veulent en Europe et ce n'est pas une amende à payer de temps à autres qui va les remettre sur le droit chemin. Quand on voit la hauteur des amendes par rapport aux bénéfices annuelles des GAFAM, c'est comme si on vous condamne à une amende d'un demi-centime d'euro tout les 100 ans!

[Ryu2000]

Donc il faut poursuivre les coupable de l'infraction et pas interdire X (ou Photoshop) ?

Ouais.
Mais après peut-être que des pays ont passé des lois pour responsabiliser les sites... Ce serait vraiment une idée de merde. (mais utile pour faire taire les sites que le gouvernement n'aime pas)

Cela peut aussi bien concerner un bikini qu'un costume mais la loi est absolument flou

Plein de choses peuvent rendre quelqu'un plus sexy, par exemple lui mettre des lunettes.
Dans le doute il ne faut faire aucun photomontage, il faut inventer des personnages et ne pas partir d'une personne réelle.

====
X n'a qu'a interdire à Grok d'enlever des vêtements et on verra si le Royaume-Uni, l'Australie et le Canada vont attaquer les autres, ou trouver un autre prétexte pour attaquer X.

[Anselme45]

En France, le droit à l'image existe pour toutes et tous. La SACEM en est la dépositaire. Et qui contrevient à ce droit se met hors-la-loi. Et c'est valable dans l'immense majorité des pays. Combien de procès de personnages publics ont eu lieu en France ? Ou même de personnes morales ? Bien plus qu'on ne le croît...

Et donc vous croyez gagner en attaquant Musk parce qu'un anonyme a utilisé Grok pour distribuer sur le net des photos à poils (voir pire) de votre petite copine grâce aux lois françaises?

Ce n'est pas vous qu'il allait faire fortune en encaissant des dommages et intérêts mais bien votre avocat...

[marsupial]

En général, ça se limite à 1 euro de dommages et intérêts et à des excuses publiques. Le but n'étant pas de faire de l'argent mais de préserver son droit à l'image. C'est comme les procès pour diffamation, la peine est souvent identique : 1 euro et des excuses publiques. LE plus souvent cela concerne des hommes et femmes politiques qui comptent gagner, ou ne pas perdre, de voix.

edit : j'ajoute que le jugement est souvent assorti aussi une peine de sursis dissuasive pour éviter la récidive

[Jade Emy]

La Malaisie et l'Indonésie bloque l'accès au chatbot IA Grok d'Elon Musk en raison d'images deepfake : « Les deepfakes constituent une grave violation des droits humains, de la dignité »

L'Indonésie est devenue le premier pays à refuser tout accès chatbot IA Grok d'Elon Musk. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré une ministre. La Malaisie a également suspendu l'accès au chatbot Grok d'Elon Musk en raison de contenus pornographiques générés par l'IA, a déclaré l'autorité de régulation des technologies du pays.

Grok est un chatbot d'intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk comme une initiative basée sur le grand modèle de langage (LLM) du même nom. Grok dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le bot a généré diverses réponses controversées, notamment des théories du complot, du nazisme, y compris des éloges à Adolf Hitler, de l'antisémitisme et des images sexualisées d'enfants, ainsi que des références aux opinions de Musk lorsqu'il était interrogé sur des sujets controversés ou des décisions difficiles.

Depuis cette année, le réseau social X d'Elon Musk permet de modifier les images d'autres utilisateurs à l'aide de l'IA sans leur consentement. Le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Et il n'est pas possible de désactiver cette fonctionnalité. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne.

Face à cette situation, l'Indonésie est devenue le premier pays à refuser tout accès à cet outil, qui est limité aux abonnés payants dans les autres pays. La ministre indonésienne des Communications et des Affaires numériques, Meutya Hafid, a annoncé des blocages sur X. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré la ministre.

La Malaisie a également suspendu l'accès au chatbot Grok d'Elon Musk en raison de contenus pornographiques générés par l'IA, a déclaré l'autorité de régulation des technologies du pays. La Commission malaisienne des communications et du multimédia a déclaré dans un communiqué qu'elle avait « ordonné une restriction temporaire de l'accès à l'intelligence artificielle Grok pour les utilisateurs en Malaisie », avec effet immédiat.

Ces décisions font suite à une vague de protestations mondiales après qu'il est apparu que la fonctionnalité de création d'images de Grok permettait aux utilisateurs de sexualiser des photos de femmes et d'enfants à l'aide de simples invites textuelles. « Cette mesure fait suite à des utilisations abusives répétées de Grok pour générer des images obscènes, sexuellement explicites, indécentes, grossièrement offensantes et manipulées sans consentement », a déclaré le régulateur malaisien.

Le communiqué cite « des contenus impliquant des femmes et des mineurs, malgré un engagement réglementaire préalable et des avis formels » adressés à la société X Corp. de Musk et à la start-up xAI qui a développé Grok. L'outil d'IA est intégré à la plateforme de médias sociaux X.

Le régulateur malaisien a déclaré qu'il jugeait les mesures de protection de la plateforme insuffisantes, ajoutant que l'accès ne serait rétabli qu'après vérification des modifications requises. X Corp. « n'avait pas su répondre aux risques inhérents à la conception et au fonctionnement de l'outil d'IA », s'appuyant « principalement sur des mécanismes de signalement initiés par les utilisateurs », a déclaré le régulateur.

Grok semblait avoir détourné les critiques grâce à une nouvelle politique de monétisation, publiant que la génération et l'édition d'images étaient désormais « réservées aux abonnés payants », avec un lien vers un abonnement premium. Des responsables européens et des militants technologiques ont critiqué Grok après que sa fonctionnalité controversée de création d'images ait été réservée aux abonnés payants, affirmant que ce changement ne répondait pas aux préoccupations concernant les deepfakes à caractère sexuel.

Sources : Ministre indonésienne des Communications et des Affaires numériques, Commission malaisienne des communications et du multimédia

Et vous ?

Pensez-vous que ces décisions sont crédibles ou pertinentes ?
Quel est votre avis sur le sujet ?

Voir aussi :

X accuse les utilisateurs d'être responsables des contenus pédopornographiques générés par Grok, aucune solution n'a été annoncée : quand une plateforme blâme ses utilisateurs plutôt que son algorithme

Le réseau social X d'Elon Musk menacé d'interdiction au Royaume-Uni, au Canada et en Australie en raison de la capacité de son IA Grok à générer des images explicites, y compris de mineurs

Grok, l'IA « anti-woke » d'Elon Musk, dérape : éloge d'Hitler, glorification de Musk pour avoir supprimé les filtres « woke », attaque contre Donald Trump au sujet des inondations au Texas

[Ryu2000]

Face à cette situation, l'Indonésie est devenue le premier pays à refuser tout accès à cet outil, qui est limité aux abonnés payants dans les autres pays. La ministre indonésienne des Communications et des Affaires numériques, Meutya Hafid, a annoncé des blocages sur X. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré la ministre.

Est-ce qu'ils ont également bloqué l'accès à ChatGPT et Gemini ? (ils permettent de faire exactement la même chose)

[Mingolito]

Dans la pratique c'est pas pareil si c'est publié sur le réseau social X dans la foulée, ça se voie, c'est pas pour usage privé

[Ryu2000]

Dans la pratique c'est pas pareil

Il est complètement possible de demander à ChatGPT ou Gemini de faire une photo et de la poster sur un réseau social comme Bluesky, Mastodon, ou même Twitter.

On reproche à Grok de générer des images de gens en Bikini ?
On reproche à X de permettre à des gens de diffuser des images, généré par l'IA, de gens en Bikini ?

Les alternatives à Grok permettent la même chose.
Des alternatives à X permettent la même chose.

Il y a une différence de traitement.

[Artaeus]

L'Indonésie et la Malaisie sont pourtant des modèles démocratiques reconnus comme l'affirme RSF ... (ironie)

[BenoitM]

L'Indonésie et la Malaisie sont pourtant des modèles démocratiques reconnus comme l'affirme RSF ... (ironie)

La Malaisie est classé 40 mondiale entre la Belgique et la Pologne.
(bon légèrement descendu en 2025 (44ème))