Attendre quelques heures ou jours je trouve pas ça bien long persoEnvoyé par Ruy2000
Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter
Attendre quelques heures ou jours je trouve pas ça bien long perso
Un problème sans solution est un problème mal posé. (Albert Einstein)
Pour l'instant il n'y a que l'histoire du bikini.
Le problème est résolu et il n'y a pas encore de suite.
Dans le monde du développement de logiciel, parfois il est possible de se servir des utilisateurs comme bêta-testeurs.
Il y a une boucle :
- Les utilisateurs remontent un problème
- Ceux qui travaillent sur le logiciel corrige le problème et livrent une nouvelle version
Il y a moyen d'utiliser ceux qui veulent faire du mal à xAI comme un atout.
Ils vont développer un maximum d'efforts pour créer un scandale, en trouvant une faille dans le système.
Il n'y a qu'à attendre qu'ils trouvent un truc, le corriger et continuer la boucle.
Quand la complaisance sur l'utilisation de l'outil est un fait et une décision commerciale ? Pour de la publicité oui. Pour du pain test non
Compliqué de dire, tkt tu peux faire des signes nazis mais maintenant que c'est remontée, qu'on a fait notre coup de coms et qu'on dit en gros "rien à battre" de manière plus ou moins indirecte.
Puis la FCC passe par là et pof on peux plus faire des signes nazi.
Un problème sans solution est un problème mal posé. (Albert Einstein)
C'est en développement, on ne peut pas sortir une version parfaite dès le début.
Donc oui ChatGPT, Gemini et d'autres peuvent générer du contenu problématique, mais mais ça va être corrigé petit à petit avec le temps.
Peut-être que des gouvernements vont créer des nouvelles lois spéciales pour définir les limites de ce que peuvent générer les chatbots IA.
J'ai regardé la loi vite fait au sujet de "est-ce qu'on a le droit de dessiner une personne réelle".
Si on fait un dessin réaliste / portrait fidèle d'une personne réelle, il faut absolument une autorisation écrite.
Si c'est clairement une caricature ça passe, il y a beaucoup plus de tolérance.
Si c'est une personne publique, on a souvent pas besoin d'autorisation, c'est toléré si ce n'est pas dégradant.
Si la personne est mineure il faut forcément une autorisation écrite (il y a même une loi de 2024).
On a jamais le droit de faire un dessin très dégradant / pornographique / haineux, même avec une autorisation.
Donc ChatGPT, Gemini et tout ça, devront trouver une solution pour cette histoire d'autorisation.
L'histoire du contenu dégradant / pornographique / haineux semble réglé.
Si il y a des histoires de procès et que ChatGPT ou Gemini se fait condamner, peut-être qu'ils vont se dire "fuck it on ne permet que les caricatures styles cartoon, on arrête le réalisme et hop ! Plus de problème".
Ces histoires de droits à l'image sont compliqués, donc autant tout stopper.
Grok a inondé X en générant environ 3 millions d'images à caractère sexuel en 11 jours
Grok a inondé X en générant environ 3 millions d'images à caractère sexuel, dont 23 000 représentant des enfants, en 11 jours.
Selon un rapport du Center for Countering Digital Hate (CCDH) et une enquête conjointe du New York Times, Grok a été capable de produire environ 3 millions d'images à caractère sexuel, dont 23 000 semblent représenter des enfants, sur une période de 11 jours entre le 29 décembre et le 8 janvier, alors que xAI était censé lutter contre les deepfakes « dénudés ». La publication a également établi un lien entre la forte augmentation de l'utilisation de Grok et les publications publiques du PDG Elon Musk le représentant en bikini, générées par Grok. Ce rapport intervient alors que la société mère de Grok, xAI, fait l'objet d'une enquête de la part de plusieurs gouvernements étrangers et de l'État de Californie pour son rôle dans la génération de deepfakes sexualisés ou « dénudés » de personnes et de mineurs.
Grok est un chatbot à intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk et dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le chatbot a généré diverses réponses controversées, notamment des théories du complot, des éloges à Adolf Hitler, de l'antisémitisme et la création d'images non consensuelles et sexualisées de femmes et d'enfants dénudés.
Début janvier 2026, le réseau social X (ex-Twitter) d'Elon Musk a introduit un nouveau bouton « Modification d'image par IA » qui permet à tout utilisateur de modifier les images publiées par d'autres, même sans le consentement de l'auteur original. Résultat : le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne.
L'utilisation abusive de Grok a suscité des réactions rapides de la part de divers pays. Les autorités britanniques et françaises ont ouvert des enquêtes pour déterminer s'il y avait eu des violations, tandis que l'Union européenne a lancé des audits pour évaluer le niveau de conformité aux règles de sécurité numérique. La réaction la plus forte est venue d'Indonésie, qui a purement et simplement interdit Grok, tandis que la Malaisie a imposé des restrictions d'utilisation. Au milieu d'une attention croissante, Elon Musk a publié un message bref mais percutant affirmant que « Grok devrait avoir une constitution morale ».
Récemment, l'ampleur réelle du problème des deepfakes de Grok devient plus claire alors que la plateforme de médias sociaux et sa start-up d'IA xAI font l'objet d'enquêtes en cours sur les mesures de sécurité du chatbot. Selon un rapport du Center for Countering Digital Hate (CCDH) et une enquête conjointe du New York Times, Grok a été capable de produire environ 3 millions d'images à caractère sexuel, dont 23 000 semblent représenter des enfants, sur une période de 11 jours entre le 29 décembre et le 8 janvier, alors que xAI était censé lutter contre les deepfakes « dénudés ».
Le CCDH a testé un échantillon de réponses provenant de l'outil d'édition en un clic de Grok, toujours accessible aux utilisateurs de X, et a calculé que plus de la moitié des réponses du chatbot comprenaient du contenu à caractère sexuel. Le rapport du New York Times a révélé qu'environ 1,8 million des 4,4 millions d'images de Grok étaient de nature sexuelle, certaines représentant des influenceurs et des célébrités connus. La publication a également établi un lien entre la forte augmentation de l'utilisation de Grok et les publications publiques du PDG Elon Musk le représentant en bikini, générées par Grok.
« Il s'agit d'un abus à l'échelle industrielle des femmes et des filles », a déclaré Imran Ahmed, directeur général du CCDH, à la publication. « Il existait déjà des outils de nudification, mais ils n'avaient jamais bénéficié de la distribution, de la facilité d'utilisation ou de l'intégration dans une grande plateforme qu'Elon Musk a apportées à Grok. » Grok a été critiqué pour avoir généré du contenu pédopornographique (CSAM), à la suite d'informations selon lesquelles le chatbot X produisait des images de mineurs vêtus de tenues légères. La plateforme a reconnu le problème et a déclaré qu'elle s'efforçait de corriger de toute urgence les « lacunes dans les mesures de sécurité ».
La société mère de Grok, xAI, fait l'objet d'une enquête de la part de plusieurs gouvernements étrangers et de l'État de Californie pour son rôle dans la génération de deepfakes sexualisés ou « dénudés » de personnes et de mineurs. Quelques pays ont même temporairement interdit la plateforme pendant que les enquêtes se poursuivent.
Le 14 janvier, xAI a déclaré qu'elle empêchait Grok de modifier les photos de personnes réelles téléchargées par les utilisateurs afin de leur faire porter des vêtements révélateurs, problème initialement signalé par les utilisateurs au début du mois. Cependant, un rapport a révélé que les utilisateurs de l'application Grok pouvaient toujours produire des images modifiées par l'IA de femmes réelles vêtues de bikinis, puis les télécharger sur le site.
Ce rapport intervient alors que Sam Altman, le PDG d'OpenAI, a critiqué Grok pour ses déboires. Cela a commencé avec Elon Musk qui a vivement critiqué le chatbot ChatGPT d'OpenAI, le qualifiant de « diabolique, dans une affaire où ChatGPT est accusé d'avoir manipulé un homme à commettre un meurtre puis à se suicider. Elon Musk a également déclaré : « Ne laissez pas vos proches utiliser ChatGPT ». En réponse, Sam Altman, PDG d'OpenAI, a critiqué Grok, le chatbot IA d'Elon Musk, ainsi que la fonction Autopilot de Tesla.
Sam Altman a notamment déclaré : « Apparemment, plus de 50 personnes sont décédées dans des accidents liés à l'Autopilot. Je n'ai voyagé qu'une seule fois dans une voiture équipée de ce système, il y a quelque temps, mais ma première pensée a été que Tesla était loin d'avoir mis sur le marché un produit sûr. Je ne m'étendrai même pas sur certaines des décisions de Grok. » Cette opposition intervient alors qu'Elon Musk réclame 134 milliards de dollars de dommages-intérêts à OpenAI et Microsoft, dans le cadre de son procès en cours contre l'éditeur de ChatGPT.
Sourcess : Rapport du CCDH, The New York Times
Et vous ?
Pensez-vous que ce rapport est crédible ou pertinent ?
Voir aussi :
Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
Et après les promoteurs de l'IA vont venir nous faire de beaux discours pour dire que l'IA va élever la civilisation humaine en améliorant la recherche, en améliorant les connaissances, blabla, blabla, blabla.Grok a inondé X en générant environ 3 millions d'images à caractère sexuel, dont 23 000 représentant des enfants, en 11 jours
IA ou pas, l'être humain ne change pas... Son intérêt premier? Du cul, du cul, du cul!
L'IA ne fait rien pro-activement. Elle n'élève rien ni ne descend rien.
Peut-elle être utilisée pour faire le meilleur ? Oui.
Peut-elle être utilisée pour faire le pire ? Oui.
Peut-elle être utilisée pour faire des trucs totalement inutiles ? Aussi.
Tout dépend de l'utilisateur. Sans demande utilisateur, l'IA ne fait rien. C'est un outil, pas une entité active. Tous ceux qui disent "l'IA va" soit se bercent d'illusions qui leur vaudront des regrets plus tard de ne pas avoir vu la réalité en face, soit véhiculent un message fallacieux pour dédouaner la responsabilité humaine qu'il y a derrière.
Ajouter des sécurités à un outil, c'est une chose. Penser ou faire croire que ça empêchera les utilisateurs de faire n'importe quoi avec, c'est de l'idiotie voire de l'hypocrisie. S'il n'y a pas d'éducation, les gardes fou ne servent pas à grand chose à part donner des excuses du genre "vous ne pouvez pas dire qu'on n'a rien fait".
Site perso
Recommandations pour débattre sainement
Références récurrentes :
The Cambridge Handbook of Expertise and Expert Performance
L’Art d’avoir toujours raison (ou ce qu'il faut éviter pour pas que je vous saute à la gorge {^_^})
Cela montre un chose :
- Les algos de vérifications d'âge sont inefficaces est mauvais (pourquoi les gouvernements en font la promotion si ce n'est pour vérifier votre identité hypocritement ?!!)
- "3 millions d'images à caractère sexuel" : Considérer qu'un bikini, un décolleté ou une simple position est "sexuel" révèle quand même un gros problème psy ? Aucune définition clair de "sexuel" et en plus, c'est très culturel (une cheville est sexuel dans certains pays).
- Si un bikini, décolleté est "sexuel", cela revient à dire qu'une femme qui porte ces vêtements dans la rue se sexualise ? C'est délirant ...
- Grok ne génère rien seul, c'est un outil, comme photoshop. Un acte illicite doit mener à la condamnation du demandeur, pas de l'outil ou du concepteur.
- Toutes les autres IA permettent ça.
- Que des gens génèrent du contenu adulte ou porno n'enfreint pas la loi, c'est leur droit : Nous sommes dans du puritanisme moralisateur ridicule.
Bref, on est plus dans du militantisme anti-Musk que dans une vrai affaire.
Elon Musk demande pardon :
Là c'est un personnage fictif, donc ça n'enfreint pas les mêmes règles. (copyright Wolfenstein 3D)
=======
Edit :
Là c'est totalement en règle (à moins que ce soit une image de GTA VI auquel cas, il y a peut-être une histoire de copyright) :
Je suis tout à fait d'accord pour dire que je trouve le titre de l'actu abusif. On ne peut pas parler de contenu à caractère sexuel juste en évoquant un maillot de bain.
Par contre chaque personne possède sa notion de l'intimité de son corps ainsi sa notion de l'érotisme et donc, son échelle de pudeur.
Buzz, publicité par le scandale.
La signature d'un être bienveillant qui est prêt à tout pour faire parler de son produit, même s'il faut par là passer par la violation de l'intimité et de la pudeur des autres (ou, dans le meilleur des cas, considérer que leur consentement est implicite).
Et le mec continue de faire des blagues après le scandale.
Y'a un gène pour l'empathie ? Il en est dépourvu ?
Edit :
Wahou, j'avais pas vu que l'image avec les burqas était de lui aussi. Mais quel tocard.
L'UE a ouvert une enquête sur X d'Elon Musk concernant les deepfakes sexuels créés par l'IA Grok
La Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, soupçonnée d'avoir utilisé son outil d'IA Grok pour créer des images à caractère sexuel de personnes réelles
La Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, car son outil d'IA Grok a été utilisé pour créer des images à caractère sexuel de personnes réelles. Cette décision fait suite à une annonce similaire faite par l'autorité de régulation britannique Ofcom. Si le site est reconnu coupable d'avoir enfreint les règles de l'UE en vertu de la loi sur les services numériques, la Commission pourrait infliger à l'entreprise une amende pouvant atteindre 6 % de son chiffre d'affaires annuel mondial. Avant l'annonce de la Commission, Elon Musk a publié une photo sur X semblant minimiser les nouvelles restrictions mises en place autour de Grok.
Elon Musk a doté Grok d'une fonctionnalité permettant à un utilisateur de X de générer des images explicites à partir de la photo d'un autre utilisateur sans son consentement. La plateforme a rapidement été inondée d'images explicites, y compris de mineurs, suscitant un tollé mondial. Dans un premier temps, X a rejeté la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats, puis a décidé quelques jours plus tard de limiter l'outil aux abonnés payants.
Mais cette mesure est jugée insuffisante. En réaction, des voix au Royaume-Uni, au Canada et en Australie appellent à interdire X. La ministre britannique de la Technologie, Liz Kendall, a déclaré qu'elle soutiendrait l'autorité de régulation Ofcom si celle-ci bloquait l'accès au Royaume-Uni à la plateforme pour non-respect des lois sur la sécurité en ligne. L'Ofcom affirme qu'il est en train de décider de toute urgence de la suite à donner à Grok.
Récemment, la Commission européenne a ouvert une enquête sur X, la société d'Elon Musk, car son outil d'IA Grok a été utilisé pour créer des images à caractère sexuel de personnes réelles. Cette décision fait suite à une annonce similaire faite par l'autorité de régulation britannique Ofcom. Si le site est reconnu coupable d'avoir enfreint les règles de l'UE en vertu de la loi sur les services numériques, la Commission pourrait infliger à l'entreprise une amende pouvant atteindre 6 % de son chiffre d'affaires annuel mondial.
Une déclaration précédente du compte Safety de X indiquait que la plateforme de médias sociaux avait empêché Grok de modifier numériquement des photos de personnes afin de leur retirer leurs vêtements dans les « juridictions où ce type de contenu est illégal ». Regina Doherty, membre du Parlement européen représentant l'Irlande, a déclaré que la Commission évaluerait si des « images sexuellement explicites manipulées » avaient été montrées aux utilisateurs dans l'UE.
Les militants et les victimes ont déclaré que la possibilité de générer des images sexuellement explicites à l'aide de cet outil n'aurait « jamais dû exister », et l'Ofcom a déclaré que son enquête se poursuivrait. Le régulateur européen a déclaré qu'il pourrait « imposer des mesures provisoires » si X refusait de mettre en œuvre des ajustements significatifs. Il a également déclaré avoir prolongé son enquête en cours, lancée en décembre 2023, sur les risques associés aux systèmes de recommandation de X, l'algorithme qui recommande des publications spécifiques aux utilisateurs.
Avant l'annonce de la Commission, Elon Musk a publié une photo sur X semblant minimiser les nouvelles restrictions mises en place autour de Grok. Le propriétaire de X a déjà critiqué ceux qui examinent de près la fonction d'édition d'images de l'application, en particulier le gouvernement britannique, la qualifiant de « prétexte à la censure ». Le compte Grok sur X a affirmé que plus de 5,5 milliards d'images avaient été générées par l'outil en seulement 30 jours.
D'autres enquêtes sur le chatbot de la plateforme sont en cours en Australie, en France et en Allemagne. Grok a été temporairement interdit en Indonésie et en Malaisie, bien que cette dernière ait désormais levé l'interdiction. Selon un rapport du Center for Countering Digital Hate (CCDH) et une enquête conjointe du New York Times, Grok a été capable de produire environ 3 millions d'images à caractère sexuel, dont 23 000 semblent représenter des enfants, sur une période de 11 jours entre le 29 décembre et le 8 janvier, alors que xAI était censé lutter contre les deepfakes « dénudés ». La publication a également établi un lien entre la forte augmentation de l'utilisation de Grok et les publications publiques du PDG Elon Musk le représentant en bikini, générées par Grok.
Henna Virkkunen, vice-présidente exécutive chargée de la souveraineté technologique, de la sécurité et de la démocratie à la Commission, a qualifié les deepfakes à caractère sexuel de « forme violente et inacceptable de dégradation ». « Grâce à cette enquête, nous déterminerons si X a respecté ses obligations légales en vertu de la DSA, ou s'il a traité les droits des citoyens européens, y compris ceux des femmes et des enfants, comme des dommages collatéraux de son service », a-t-elle déclaré.
Doherty a déclaré qu'il y avait des « questions sérieuses » quant à savoir si des plateformes telles que X respectaient leurs obligations légales « d'évaluer correctement les risques et d'empêcher la diffusion de contenus illégaux et préjudiciables ». « L'Union européenne a des règles claires pour protéger les personnes en ligne », a-t-elle déclaré. « Ces règles doivent avoir un sens dans la pratique, en particulier lorsque des technologies puissantes sont déployées à grande échelle. Aucune entreprise opérant dans l'UE n'est au-dessus des lois. »
Andrea Simon, directrice de la coalition End Violence Against Women, a déclaré que « compte tenu de la nature évolutive des préjudices générés par l'IA », la responsabilité « ne devrait pas s'arrêter » au retrait de contenu par X. « Nous attendons du gouvernement britannique qu'il fasse davantage pour garantir que les plateformes technologiques ne puissent pas tirer profit des abus en ligne, par exemple en s'appuyant sur la loi sur la sécurité en ligne afin qu'elle soit adaptée à son objectif », a-t-elle ajouté.
Si le Royaume-Uni envisage d'interdire X en vertu de la loi sur la sécurité en ligne, les sénateurs américains font pression sur Apple et Google pour qu'ils retirent l'application de leurs boutiques en ligne. En réponse, le PDG d'Epic Games a appelé les entreprises d'IA à « mettre fin aux demandes incessantes des politiciens qui exigent de tous les gardiens qu'ils censurent tous leurs adversaires politiques ». « Toutes les grandes IA ont connu des dérapages documentés ; toutes les grandes entreprises d'IA font de leur mieux pour lutter contre cela ; aucune n'est parfaite », a poursuivi Sweeney. « Les politiciens qui exigent des gardiens qu'ils écrasent de manière sélective l'entreprise de leurs adversaires politiques pratiquent tout simplement le capitalisme de copinage. »
Cette décision intervient un mois après que l'UE a infligé une amende de 120 millions d'euros à X pour ses badges bleus, affirmant qu'ils « trompent les utilisateurs » car l'entreprise ne « vérifie pas de manière significative » qui se cache derrière le compte. En réponse, le secrétaire d'État américain Marco Rubio et la Commission fédérale des communications (FCC) ont accusé le régulateur européen d'attaquer et de censurer les entreprises américaines. « L'amende infligée par la Commission européenne n'est pas seulement une attaque contre X, c'est une attaque contre toutes les plateformes technologiques américaines et le peuple américain par des gouvernements étrangers », a-t-il déclaré. Ses propos ont été republiés par Musk, qui a ajouté « absolument ».
Voici le communiqué de la Commission européenne :
La Commission enquête sur les systèmes de recommandation de Grok et X au titre de la loi sur les services numériques
La Commission européenne a ouvert une nouvelle enquête formelle à l'encontre de X au titre de la loi sur les services numériques (DSA). Parallèlement, la Commission a prolongé son enquête en cours, lancée en décembre 2023, sur le respect par X de ses obligations en matière de gestion des risques liés à ses systèmes de recommandation.
La nouvelle enquête permettra de déterminer si l'entreprise a correctement évalué et atténué les risques liés au déploiement des fonctionnalités de Grok dans X au sein de l'UE. Cela inclut les risques liés à la diffusion de contenus illégaux dans l'UE, tels que les images sexuellement explicites manipulées, y compris les contenus pouvant constituer du matériel pédopornographique.
Ces risques semblent s'être concrétisés, exposant les citoyens de l'UE à des préjudices graves. Compte tenu de cela, la Commission examinera plus en détail si X respecte ses obligations au titre de la DSA, à savoir :
- évaluer et atténuer avec diligence les risques systémiques, y compris la diffusion de contenus illégaux, les effets négatifs liés à la violence sexiste et les conséquences négatives graves pour le bien-être physique et mental résultant du déploiement des fonctionnalités de Grok sur sa plateforme.
- réaliser et transmettre à la Commission un rapport d'évaluation des risques ad hoc pour les fonctionnalités de Grok dans le service X ayant un impact critique sur le profil de risque de X avant leur déploiement.
Par ailleurs, la Commission a prolongé la procédure formelle engagée à l'encontre de X en décembre 2023 afin de déterminer si X a correctement évalué et atténué tous les risques systémiques, tels que définis dans la DSA, associés à ses systèmes de recommandation, y compris l'impact de son passage récemment annoncé à un système de recommandation basé sur Grok.
Si elles sont avérées, ces défaillances constitueraient des infractions aux articles 34, paragraphes 1 et 2, 35, paragraphe 1, et 42, paragraphe 2, de la DSA. La Commission va désormais mener une enquête approfondie en priorité. L'ouverture d'une procédure formelle ne préjuge pas de son issue.
Pour préparer cette enquête, la Commission a collaboré étroitement avec Coimisiún na Meán, le coordinateur irlandais des services numériques. En outre, Coimisiún na Meán sera associé à cette enquête, conformément à l'article 66, paragraphe 3, en tant que coordinateur national des services numériques dans le pays d'établissement au sein de l'UE.
Prochaines étapes
La Commission continuera à recueillir des preuves, par exemple en envoyant des demandes d'informations supplémentaires, en menant des entretiens ou des inspections, et pourra imposer des mesures provisoires en l'absence d'ajustements significatifs du service X.
L'ouverture d'une procédure formelle habilite la Commission à prendre d'autres mesures coercitives, telles que l'adoption d'une décision de non-conformité. La Commission est également habilitée à accepter tout engagement pris par X pour remédier aux problèmes faisant l'objet de la procédure.
L'ouverture d'une procédure formelle décharge les coordinateurs des services numériques, ou toute autre autorité compétente des États membres de l'UE, de leurs pouvoirs de surveillance et d'application de la DSA en ce qui concerne les infractions présumées.
Source : Communiqué de la Commission européenne
Et vous ?
Voir aussi :
Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
Répondre avec citation
Partager