Discussion :

[Anthony]

Apple aurait menacé X et xAI, détenues par Elon Musk, de retirer l'application Grok de l'App Store plus tôt cette année, en raison des deepfakes à caractère sexuel générés par le chatbot IA Grok

Selon un rapport de NBC News, Apple aurait menacé en privé X (anciennement Twitter) et xAI d'Elon Musk de retirer l'application Grok de l'App Store, plus tôt cette année, à la suite de plaintes concernant des deepfakes à caractère sexuel générés par le chatbot d'intelligence artificielle (IA). La marque à la pomme a estimé que les applications X et Grok enfreignaient ses règles en matière de contenu et a exigé des mesures de modération plus strictes. Après avoir examiné les nouvelles mises à jour des applications, Apple a jugé que X avait largement remédié à ses manquements, tandis que Grok n'avait pas réussi les contrôles de conformité. Suite à de nouvelles soumissions des développeurs de Grok, Apple a approuvé la version révisée du chatbot, mais des rapports indiquent que celui-ci continue de générer certaines images à caractère sexuel non consensuelles.

Pour rappel, en janvier dernier, les applications Grok et X d'Elon Musk ont suscité l'indignation en ligne après que le chatbot IA Grok a généré des images à caractère sexuel, notamment d'enfants, de femmes et de dirigeants mondiaux, sans leur consentement. Le réseau social X a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées, et il n'était pas possible de désactiver cette fonctionnalité.

Après avoir subi des pressions, Apple aurait menacé X et xAI de retirer l’application Grok de l’App Store plus tôt cette année. Selon un rapport de NBC News, le fabricant de l’iPhone a adressé une lettre à des sénateurs américains pour leur expliquer comment il avait agi en coulisses afin de régler les incidents, alors viraux, liés aux deepfakes à caractère sexuel générés par Grok.

Alors qu'Apple était restée silencieuse à l'époque, NBC News affirme que la société « a estimé que X et Grok enfreignaient ses directives » et « a menacé en privé de retirer » Grok de l'App Store.

Selon le rapport, Apple « a contacté les équipes derrière X et Grok après avoir reçu des plaintes et pris connaissance des articles consacrés à ce scandale », exigeant « des développeurs de ces applications qu'ils élaborent un plan visant à améliorer la modération des contenus ». Le rapport de NBC News indique que X a soumis une mise à jour de l'application Grok pour examen, mais que celle-ci a été rejetée car « les modifications n'allaient pas assez loin ».

Ce qu'Apple a déclaré dans sa lettre adressée à X et xAI d'Elon Musk

Comme le rapporte NBC News, Apple a déclaré dans cette lettre :

Apple a examiné les nouvelles soumissions des développeurs et a estimé que X avait largement remédié à ses infractions, mais que l'application Grok restait non conforme. En conséquence, nous avons rejeté la soumission de Grok et avons informé le développeur que des modifications supplémentaires seraient nécessaires pour remédier à l'infraction, faute de quoi l'application pourrait être retirée de l'App Store.

[…] À la suite de nouveaux échanges et des modifications apportées par les développeurs de Grok, nous avons constaté que Grok s'était considérablement amélioré et avons donc approuvé sa dernière version.

Vers la mi-janvier 2026, Grok a donc été mis à jour pour ne plus dévêtir les femmes et les enfants. Cette polémique a déclenché une réaction internationale, avec des menaces d'interdiction de X dans plusieurs pays, dont le Royaume-Uni, le Canada et l'Australie. Alors que X avait initialement rejeté la responsabilité sur ses utilisateurs, l'affaire a conduit à une surveillance réglementaire accrue, le procureur général de Californie ayant ouvert une enquête pour déterminer d'éventuelles violations de la législation américaine.

Cependant, dans un autre rapport, NBC News indique que Grok « continue de générer des images à caractère sexuel de personnes sans leur consentement », après avoir recensé des dizaines de cas de ce type au cours du mois de mars dernier. Le média précise par ailleurs que le volume d'images a considérablement diminué depuis le début de l'année.

Source : NBC News

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous cette initiative d'Apple crédible ou pertinente ?

Voir aussi :

Grok a inondé X en générant environ 3 millions d'images à caractère sexuel, dont 23 000 représentant des enfants, en 11 jours

Grok transforme des photos scolaires en pédopornographie : xAI d'Elon Musk poursuivie dans un procès en recours collectif intenté par des mineures qui pourrait redéfinir la responsabilité des fournisseurs d'IA

La Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, soupçonnée d'avoir utilisé son outil d'IA Grok pour créer des images à caractère sexuel de personnes réelles

[Ryu2000]

Quel est votre avis sur le sujet ?

Cette histoire est réglée.

Depuis janvier 2026, Grok a mis en place des restrictions importantes sur la génération et l’édition d’images impliquant des tenues révélatrices.
Donc c'est bon, il n'y a plus de deepfake de femme en bikini depuis longtemps.

Grok blocks X users from creating images of real people in ‘revealing clothing’

"We have implemented technological measures to prevent the Grok account from allowing the editing of images of real people in revealing clothing such as bikinis,” read a statement published on the X Safety account just before 6 p.m. ET / 3 p.m. PT on Wednesday. "This restriction applies to all users, including paid subscribers.”

[Jon Shannow]

C'est histoire est réglée.

Cette histoire est réglée.

[popo]

Cette histoire est réglée.

Cependant, dans un autre rapport, NBC News indique que Grok « continue de générer des images à caractère sexuel de personnes sans leur consentement », après avoir recensé des dizaines de cas de ce type au cours du mois de mars dernier.

Visiblement, non.
Cette histoire n'est pas réglée.

[Ryu2000]

Visiblement, non.

Après il existe des personnes extremement douées qui réussissent l'exploit de passer outre les limites d'un chatbot IA.

Il y a des spécialistes qui peuvent faire dire ou produire des choses illégales à Claude, OpenAI, etc.
Si t'arrives et tu demandes directement des recettes de bombes ou de l'aide pour créer des malwares, ça ne passera pas, mais en le mettant dans un certains contexte...

[Artaeus]

Tout le monde passe complétement à côté d'un vrai problème qui me choque :

- C'est littéralement Apple qui décide de ce que tu peux avoir ou non sur ton téléphone. On ne possède même plus notre téléphone, du délire !

[Ryu2000]

- C'est littéralement Apple qui décide de ce que tu peux avoir ou non sur ton téléphone.

Normalement il y a une histoire de magasins d’applications alternatifs :
Apple fait face à une plainte à 1 milliard de dollars au Royaume-Uni pour « tarification abusive » dans l'App Store, les développeurs estiment qu'Apple abuse de sa position dominante

La plainte au Royaume-Uni s’inscrit dans un contexte de contestation croissante des pratiques d’Apple dans le monde entier. La société fait l’objet de plusieurs enquêtes et procès pour abus de position dominante, notamment aux États-Unis, en Europe, en Corée du Sud et au Japon. Certains pays ont déjà imposé à Apple de modifier son fonctionnement, comme la Corée du Sud, qui a autorisé les développeurs à proposer des systèmes de paiement alternatifs. En Europe, Apple devra se conformer aux règles du Digital Markets Act, qui prévoit la possibilité d’installer des applications sur les iPhone via le téléchargement direct ou des magasins d’applications alternatifs.

Sinon les gens peuvent jailbreaker leur iPhone.
Pourquoi ils ont un iPhone déjà ?

Le patron d'Apple doit clairement avoir un problème personnel avec Elon Musk, parce que l'histoire des deep fakes ne tient absolument pas...
Tous les chatbots IA qui font des images peuvent faire des deep fakes, Grok n'est pas pire que les autres...