Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter
Il y a un certain niveau de popularité qui devrait mener à un exemplaire comportement. Entre Mastodon, Bluesky et X, ils ne jouent pas dans la même cour d'audience. Donc de responsabilité. Le génocide des Rohyngas en Birmanie a été mené grâce aux algorithmes de Facebook. Musk joue exactement la même partition avec X. C'est extrêmement dangereux pour la démocratie. Pour l'IA générative en général je pisse dessus allègrementEnvoyé par Ryu2000
De toute manière, l'IA générative open-source se développant de jour en jour (notamment les modèles chinois), à terme, peu-importe si des modèles grands-public à source fermée restreindront les possibilités de génération d'image, il y aura toujours une possibilité de contournement.
Vu qu'il s'agit avant tout de code, j'imagine qu'en cas d'interdiction formelle, certains feront comme il a été fait par le passé pour protester contre l'interdiction du code de DeCSS
De manière plus générale, j'ai déjà parlé de mon opinion sur le sujet, il y a peu de temps, en voici un extrait :
De manière plus générale, je pense que si les deepfake posent clairement un problème, et continueront d'en poser un, ils ne sont qu'un problème minime en comparaison des risques que pose l’utilisation de l'IA à des fins de surveillance de masse, et de censure automatisée. L'utilisation de l'IA, générative ou non, par des structures possédant du pouvoir (états, armées, services secret, entreprises...), m’apparaît infiniment plus dangereuse que n'importe quel abus commis par des individus à l'aide de l'IA. C'est clairement là-dessus que les lanceurs d'alertes spécialiste du sujet devraient alerter en priorité. Je pense que trop se focaliser sur des problèmes secondaire risque même d'occulter le problème principal ; pire, certains moyens de résolution de ces problèmes secondaire peuvent être une aggravation du problème principal (surveillance des médias, public voir privés, détection automatique du contenu via IA...)
Je pense que les technologies d'IA générative n'en sont qu'à leur balbutiement, et qu'il serait très difficile, pour ne pas dire impossible d'arrêter cette marche. Il m’apparaît donc fort probable qu'un nouveau rapport aux médias, à la preuve, à la satire, et à la valeur du média, émerge. Peut-être un changement aussi important que celui ayant eu lieu part l'arrivée de l'imprimerie.
Un rapport où un trucage évident n'aura plus de valeur offensante pour la victime, car la banalité de la chose rendra le trucage risible.
Un nouveau rapport à la preuve, où il ne sera plus possible de prouver quoi que ce soit par des médias. Hors l'espèce humaine ne peut pas sombrer dans un chaos de violence généralisée, sans justice, elle sera contrainte de s'adapter, et de bâtir un nouveau rapport à la confiance, une plus grande honnêteté de par la plus grande difficulté de prouver certains délits ou crimes.
Dans le même temps, la possibilité de faire chanter quelqu'un avec des images disparaîtra inexorablement, ce qui enlèvera de la culture une catégorie très large de violences.
Non, on reproche de pouvoir diffuser largement une fausse photo d'un personne à moitié nue simplement en écrivant "@Grok peux tu mettre cette femme en bikini?"
C'est pourtant simple à comprendre. C'est le moyen qui demande le moins d'énergie que je connaisse pour harceler une personne. C'est au passage un moyen qui fournit un résultat convaincant au point de faire douter les victimes du montage.
Le problème n'est pas Grok (quoi que), la problème n'est pas X (quoi que).
Le problème est l'efficacité de la combinaison de Grok intégré dans X.
Je ne pense pas qu'une loi puisse viser ça spécifiquement.
Il faut que tout le monde soit traité de manière égale, donc il faut s'en prendre à l'intégralité des chatbots IA qui permettent de mettre des gens en bikinis et à tous les réseaux sociaux qui permettent de partager des photomontages.
Maintenant l'option de grok qui permet de mettre des gens en bikini n'est plus disponible pour les utilisateurs gratuits, ça devrait calmer la situation.
Il faut attaquer les IA qui permettent de générer des images dans leur ensemble, pas uniquement Grok.
Le PDG d'Epic Games défend l'IA Grok après son utilisation pour créer du contenu illégal
Le PDG d'Epic Games défend l'IA Grok après son utilisation pour créer du contenu illégal sur la maltraitance des enfants et des deepfakes, alors que X est interdit dans de plus en plus de pays
Le Royaume-Uni envisage d'interdire X en vertu de la loi sur la sécurité en ligne tandis que les sénateurs américains font pression sur Apple et Google pour qu'ils retirent l'application de leurs boutiques en ligne. En réponse, le PDG d'Epic Games a appelé les entreprises d'IA à « mettre fin aux demandes incessantes des politiciens qui exigent de tous les gardiens qu'ils censurent tous leurs adversaires politiques ».
Elon Musk a doté Grok d'une fonctionnalité permettant à un utilisateur de X de générer des images explicites à partir de la photo d'un autre utilisateur sans son consentement. La plateforme a rapidement été inondée d'images explicites, y compris de mineurs, suscitant un tollé mondial. Dans un premier temps, X a rejeté la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats, puis a décidé quelques jours plus tard de limiter l'outil aux abonnés payants. Mais cette mesure est jugée insuffisante. En réaction, des voix au Royaume-Uni, au Canada et en Australie appellent à interdire X, mais cette mesure est controversée.
En réponse, le PDG d'Epic Games a récemment appelé les entreprises d'IA à « mettre fin aux demandes incessantes des politiciens qui exigent de tous les gardiens qu'ils censurent tous leurs adversaires politiques ». Epic Games est un développeur et éditeur américain de jeux vidéo et de logiciels basé à Cary, en Caroline du Nord. La société a été fondée par Tim Sweeney sous le nom de Potomac Computer Systems en 1991, à l'origine dans la maison de ses parents à Potomac, dans le Maryland. Timothy Dean Sweeney (né en 1970) est un programmeur de jeux vidéo et homme d'affaires américain. Il est le fondateur et PDG d'Epic Games, et le créateur d'Unreal Engine, une plateforme de développement de jeux vidéo.
Tim Sweeney a déclaré sur X :
Raison n° 42 en faveur des plateformes ouvertes : mettre fin aux demandes incessantes des politiciens auprès de tous les gardiens afin qu'ils censurent tous leurs adversaires politiques.La plateforme de réseau social X (anciennement Twitter) a été vivement critiquée après que son chatbot IA Grok ait été utilisé pour déshabiller numériquement des femmes sans leur consentement et même générer des images à caractère sexuel d'enfants. Le Royaume-Uni envisage d'interdire X en vertu de la loi sur la sécurité en ligne, tandis que les sénateurs américains font pression sur Apple et Google pour qu'ils retirent l'application de leurs boutiques en ligne.Reason #42 for open platforms: to shut down every politician’s incessant demands to all gatekeepers to censor all of their political opponents. https://t.co/KXlCppiMmc
— Tim Sweeney (@TimSweeneyEpic) January 9, 2026
Le PDG d'Epic Games a appelé les entreprises d'IA à « mettre fin aux demandes incessantes des politiciens qui exigent de tous les gardiens qu'ils censurent tous leurs adversaires politiques ». « Toutes les grandes IA ont connu des dérapages documentés ; toutes les grandes entreprises d'IA font de leur mieux pour lutter contre cela ; aucune n'est parfaite », a poursuivi Sweeney. « Les politiciens qui exigent des gardiens qu'ils écrasent de manière sélective l'entreprise de leurs adversaires politiques pratiquent tout simplement le capitalisme de copinage. »
La secrétaire britannique à la technologie, Liz Kendall, a averti que X devait prendre « de toute urgence » des mesures concernant les images générées par Grok, ce à quoi la plateforme a répondu en verrouillant la génération d'images derrière un mur payant. Le Dr Daisy Dixon, maître de conférences en philosophie à l'université de Cardiff, a qualifié cette réponse de « pansement », suggérant que « Grok doit être entièrement repensé et doté de garde-fous éthiques intégrés ». Dans l'intervalle, l'Ofcom « procède à une évaluation accélérée » de la plateforme, et Kendall prévient que si l'organisme de réglementation décide de bloquer l'accès au site, « il bénéficiera du soutien total du gouvernement ».
X a expliqué qu'il supprimerait les contenus illégaux et suspendrait définitivement les comptes qui les créent, en collaboration avec les gouvernements locaux et les forces de l'ordre, mais beaucoup rétorquent que de tels contenus ne devraient pas pouvoir être générés en premier lieu. La réponse du propriétaire de X, Elon Musk, à ces préoccupations fait écho à celle de Sweeney, puisqu'il affirme que la réaction négative à ces images deepfake est un « prétexte à la censure », déclarant : « Et alors, si Grok peut mettre des gens en bikini ? Ce n'est pas un nouveau problème, c'est un nouvel outil ».
Un participant a insisté sur ce point auprès de Sweeney, lui demandant : « Vous rendez-vous compte de ce que vous défendez ? », ce à quoi il a répondu : « Je défends les plateformes ouvertes, la liberté d'expression et l'application cohérente de l'État de droit. Je ne défends pas les mauvaises actions commises par certaines personnes à l'aide de l'IA, mais je m'oppose fermement à ce que les actes répréhensibles de quelques-uns servent de prétexte pour porter atteinte aux libertés de tous. »
Alors que le gouvernement britannique subit des pressions pour quitter complètement X, la présidente du Parti travailliste, Anna Turley, a confirmé que « des discussions sont en cours » à ce sujet, soulignant que « X doit se ressaisir ». « Le Premier ministre a clairement indiqué que cela était absolument odieux », a-t-elle déclaré. « L'Ofcom a le pouvoir de s'attaquer à ce problème, et nous voulons nous assurer qu'il utilise les pouvoirs que nous lui avons conférés. »
Depuis cette controverse, l'Indonésie est devenue le premier pays à refuser tout accès au chatbot IA Grok d'Elon Musk. « Le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits humains, de la dignité et de la sécurité des citoyens dans l'espace numérique », a déclaré une ministre. La Malaisie a également suspendu l'accès au chatbot Grok d'Elon Musk en raison de contenus pornographiques générés par l'IA, a déclaré l'autorité de régulation des technologies du pays.
Et vous ?
Pensez-vous que cette réaction est crédible ou pertinente ?
Voir aussi :
Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
Ils ont raison les types, l'histoire des bikinis est un prétexte. Des gouvernements veulent interdire X, car la liberté d'expression est dangereux pour eux.
X est neutre contrairement aux médias mainstream et aux autres réseaux sociaux.
Les britanniques critiquent Keir Starmer sur X et ces tweets font beaucoup de vues.
Le gouvernement britannique ne tolère pas la liberté d'expression :
People Are Being Thrown In U.K. Prisons Over What They’ve Said Online. Can Free Speech Be Saved?
C'était bien essayé de faire croire que Grok créer du contenu pédophile.Steve Forbes calls out the ugly crackdown on speech in Great Britain, pointing to the shocking arrests and convictions of people based on what they’ve said online. He urges the U.K. to reverse course.
Mais bon des gens habillés comme ça tu peux en voir dans les catalogues et les magasins en ligne. (Est-ce qu'on va attaquer ceux qui vendent des maillots de bains pour enfants ? Ils diffusent des images d'enfants en maillots de bain)
L'histoire de pédopornographie ne fonctionne pas.
Par contre l'histoire de diffusion d'un photomontage sans consentement, fonctionne. Mais c'est pareil pour tous les autres services du genre...
Pour que ça passe mieux il ne fallait pas se concentrer sur X et Grok, mais visez tous les services IA qui permettent de faire des photomontages.
Il y a une sacré différence.C'était bien essayé de faire croire que Grok créer du contenu pédophile.
Mais bon des gens habillés comme ça tu peux en voir dans les catalogues et les magasins en ligne. (Est-ce qu'on va attaquer ceux qui vendent des maillots de bains pour enfants ? Ils diffusent des images d'enfants en maillots de bain
L'histoire de pédopornographie ne fonctionne pas.
Par contre l'histoire de diffusion d'un photomontage sans consentement, fonctionne. Mais c'est pareil pour tous les autres services du genre...
Pour que ça passe mieux il ne fallait pas se concentrer sur X et Grok, mais visez tous les services IA qui permettent de faire des photomontages.
Dans les photos des catalogues et des magasins en ligne, les femmes (et les enfants encore moins) ne prennent pas des poses explicites, ni des photos de nu.
J'ajouterai que dans les vraies boutiques, on retrouve des mannequins et même parfois uniquement des bustes en plastique.
Il n'y a pas besoin d'avoir une vraie personnes pour montrer un produit.
Mes tutoriels
Avant de poster :
- F1
- FAQ
- Tutoriels
- Guide du développeur Delphi devant un problème
Tu oublies également de préciser que dans les catalogues, les personnes qui sont exposées sont CONSENTANTES ! Et ça, ça fait une sacré différence !
De toute façon maintenant les utilisateurs gratuit de Grok ne peuvent plus demander de créer une image d'une personne réelle en bikini. Donc il n'y a plus aucun problème au niveau de X/Grok.
L'histoire de pédopornographie ne fonctionnait pas, ceux qui cherchent ce type de contenu ne vont pas se contenter d'un truc aussi soft et virtuel...
Le roi des rats a fait une enquête, sur YouTube il y a beaucoup de vidéos de petits enfants sexualisé (en maillot de bain et ce genre de truc), c'est autre chose qu'une photomontage en bikini... (ce sont des enfants réels)
Et de toute façon il y a une règle simple, c'est de ne jamais publier de photo d'enfant sur les réseaux. Pas de photo, pas de montage.
Si votre fille a 17 ans et demi, il faut bien lui dire de ne pas publier de photo sur instagram parce que quelqu'un peut télécharger la photo et demander à ChatGPT de mettre la fille en bikini. (ou inversement si elle publie des photos d'elle en maillot de bain, des gens pourraient demander à l'IA de la rhabiller)
Le PDG d'Epic Games a très bien compris qu'avec l'Unreal Engine, il est le suivant sur la liste de la "régulation folle et délirante européenne".
Car rien ne vous empêche de créer quelque chose d'illégale avec Unreal Engine.
La logique européenne est devenu complètement dingue et préfère s'attaquer aux outils qu'aux responsables d'un délit.
Après, ça sera surement photoshop.
Ca avance à petit pas vers une bonne grosse société de contrôle.
Mais toujours sous des prétextes bienveillants... car c'est la base --> des gens mettent de la merde sur X --> on interdit X.
Etonnamment, tous les outils existent pour déjà gérer le fait que des gens mettent de la merde sur X.
Donc quel est le but ?
Simple à mon sens, avoir une vérité unique sans possibilité de la challenger ou d'échanger sur d'autres alternatives.
L'Europe est foutue.
Bon à savoir : la touche F1 ne sert pas à commander des places pour le grand prix de Belgique.
Grok a finalement été mis à jour pour ne plus dévêtir les femmes et les enfants
Grok a finalement été mis à jour pour ne plus dévêtir les femmes et les enfants. Le procureur général de Californie va enquêter pour déterminer si le bot d'Elon Musk a enfreint les lois américaines
Elon Musk est au centre d’une vive controverse après avoir doté Grok d’une fonctionnalité permettant de dévêtir les utilisateurs de X (ex-Twitter) sans leur consentement. Le tollé est tel que X a été interdit dans plusieurs pays et est menacé d'interdiction au Royaume-Uni, au Canada et en Australie. Elon Musk a qualifié ces actions de censure et Tim Sweeney a pris la défense de Grok. Bien que X ait initialement rejeté la responsabilité sur les utilisateurs, Grok a finalement été mis à jour pour ne plus dévêtir les gens. X fait désormais l'objet d'une surveillance accrue et le procureur général de Californie a annoncé avoir ouvert une enquête sur X.
Le lancement de cette fonctionnalité a suscité une vive réaction non seulement parmi les artistes et les photographes, qui voient leurs contenus protégés par le droit d'auteur utilisés et modifiés sans effort, mais aussi parmi des milliers d'utilisateurs lambda, en particulier des femmes dont les photos partagées sont modifiées sans leur consentement afin de créer des scénarios suggestifs ou intrusifs, ce qui constitue une violation flagrante de la vie privée.
À la suite d'une vague de protestations mondiales contre l'utilisation de cet outil pour générer des images explicites, xAI a annoncé que cette fonctionnalité sera bloquée prochainement. Pendant ce temps, Elon Musk insiste sur le fait que les utilisateurs sont responsables de ce qu'ils font avec son chatbot.
« Nous avons mis en place des mesures technologiques pour empêcher le compte Grok de modifier les images de personnes réelles portant des vêtements révélateurs, comme des bikinis. Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants », indique le compte X Safety. L'annonce ne précise pas si X va prendre des mesures contre les comptes qui ont créé et publié des images sexualisées de femmes et d'enfants sur le site.
« La restriction de la création d'images et la possibilité de modifier des images via le compte Grok sur la plateforme X ne sont désormais accessibles qu'aux abonnés payants. Cela ajoute une couche de protection supplémentaire en contribuant à garantir que les personnes qui tentent d'abuser du compte Grok pour enfreindre la loi ou nos politiques puissent être tenues responsables », indique l'annonce. X empêchera aussi Grok de dévêtir les gens.
« X bloquera géographiquement la possibilité pour tous les utilisateurs de générer des images de personnes réelles en bikini, en sous-vêtements et dans des tenues similaires via le compte Grok et dans Grok dans X dans les juridictions où cela est illégal », indique X Safety. En réaction à cette interdiction, le gouvernement britannique a revendiqué une « victoire » après que le Premier ministre Sir Keir Starmer a appelé X d'Elon Musk à contrôler Grok.
La Californie va déterminer si Grok a enfreint les lois américaines
Ce changement a été annoncé quelques heures après que le procureur général de Californie, Rob Bonta, a déclaré que l'État enquête sur la propagation de deepfakes sexualisés générés par l'IA, impliquant notamment des enfants. Cette fonctionnalité a suscité l'indignation et la colère des victimes, dont les photos ont été utilisées pour générer des images explicites sans leur consentement. Les utilisateurs ne pouvaient pas empêcher Grok d'utiliser leurs photos.
Dans un communiqué de presse publié le 14 janvier, Rob Bonta a déclaré : « xAI semble faciliter la production à grande échelle d'images intimes deepfake non consenties qui sont utilisées pour harceler des femmes et des filles sur Internet, y compris via la plateforme de médias sociaux X ».
Avant ce changement, X n'avait pas restreint l'application ou le site Web Grok. X avait seulement menacé de suspendre définitivement les utilisateurs qui modifiaient des images pour déshabiller des femmes et des enfants si les résultats étaient jugés « illégaux ». Il avait également empêché Grok de répondre aux demandes visant à dévêtir un utilisateur, mais toute personne disposant d'un abonnement Premium pouvait contourner cette restriction.
Selon Rob Bonta, l'enquête a été déclenchée par les articles concernant les pires productions de Grok. « L'avalanche d'articles détaillant les contenus sexuellement explicites et non consensuels que xAI a créés et publiés en ligne ces dernières semaines est choquante. Ces contenus, qui montrent des femmes et des enfants nus dans des situations sexuellement explicites, ont été utilisés pour harceler des personnes sur Internet », a déclaré Rob Bonta.
Le Premier ministre britannique Keir Starmer avait averti que X risquait de perdre son « droit à l'autorégulation » en raison de la polémique suscitée par les images générées par Grok, mais il a déclaré plus tard dans la semaine qu'il se réjouissait des informations selon lesquelles X prenait des mesures pour remédier au problème. Certains députés britanniques ont également quitté la plateforme de médias sociaux d'Elon Musk à la suite du tollé.
Elon Musk défend Grok et soutient qu'il n'a pas dénudé des enfants
Dans un post, désormais supprimé, Grok a retouché une photo de deux jeunes filles vêtues de tenues légères et dans des poses sexuellement suggestives. Mais avant la mise à jour de X Safety, Elon Musk, propriétaire de X, semblait défendre les résultats de Grok comme étant inoffensifs, insistant sur le fait qu'aucune des images signalées ne montrait des mineurs entièrement dénudés, comme cela constituait le seul résultat problématique de Grok.
« Je [sic] n'ai connaissance d'aucune image de mineurs nus générée par Grok. Littéralement aucune », a déclaré Elon Musk dans un message publié sur X. Cette déclaration d'Elon Musk semble ignorer que les chercheurs ont trouvé plusieurs images préjudiciables dans lesquelles « les utilisateurs demandaient spécifiquement que des mineurs soient placés dans des positions érotiques et que des fluides sexuels soient représentés sur leur corps ».
Elle ignore également que X s'était précédemment volontairement engagé à supprimer toute image intime abusive de sa plateforme, reconnaissant récemment, en 2024, que même les images partiellement nues que les victimes ne souhaiteraient pas voir publiées sur le site pouvaient être préjudiciables.
Le 9 janvier, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur le site que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Grok a ajouté que les utilisateurs peuvent s'abonner pour débloquer ces fonctionnalités. Certaines publications sur la plateforme suggèrent que seuls les abonnés payants ont pu demander avec succès des modifications d'images à Grok.
Aux États-Unis, le ministère de la Justice considère que « toute représentation visuelle d'un comportement sexuellement explicite impliquant une personne âgée de moins de 18 ans » relève de la pornographie infantile (CSAM). Le Centre national pour les enfants disparus et exploités (NCMEC) a déclaré que « les entreprises technologiques ont la responsabilité d'empêcher que leurs outils soient utilisés pour sexualiser ou exploiter des enfants ».
Le réseau social X d'Elon Musk pourrait avoir enfreint plusieurs lois
Grok fait l'objet d'une surveillance accrue dans le monde entier en raison de ses garde-fous jugés trop laxistes. Le chatbot d'Elon Musk est régulièrement empêtré dans les polémiques depuis sa sortie. La chercheuse en politiques publiques Riana Pfefferkorn s'est dite surprise que la plateforme ait mis autant de temps à déployer les nouvelles mesures de protection et estime que les fonctions d'édition auraient dû être supprimées dès le début des abus.
« Des questions subsistent quant à la manière dont X appliquera ses nouvelles politiques, notamment comment le Grok saura si une image représente une personne réelle et quelles mesures il prendra lorsque les utilisateurs enfreindront les règles. Musk n'a pas non plus présenté l'entreprise sous un jour sérieux », a déclaré la chercheuse, précisant qu'il serait utile qu'il cesse de faire des choses comme republier un deepfake de Keir Starmer en bikini.
Selon les experts, il est possible que les résultats de Grok, s'ils n'étaient pas contrôlés, aient finalement conduit X à enfreindre la loi américaine Take It Down Act, qui entrera en vigueur en mai 2026 et qui oblige les plateformes à supprimer rapidement les contenus pornographiques de vengeance générés par l'IA. L'une des mères des enfants d'Elon Musk, Ashley St. Clair, a qualifié les résultats de Grok utilisant ses images de pornographie de vengeance.
Le procureur Rob Bonta n'a pas encore précisé les lois qu'il soupçonne X d'Elon Musk d'avoir enfreintes aux États-Unis. Toutefois, Rob Bonta a précisé que les images représentant des victimes « légèrement vêtues » dépassent les limites, tout comme les images mettant des enfants dans des positions sexuelles. Il a appelé X à prendre plus de mesures pour restreindre les résultats de Grok, ce qui pourrait être fait grâce à quelques mises à jour.
« J'exhorte xAI à prendre des mesures immédiates pour que cela ne se reproduise plus. Nous avons une tolérance zéro pour la création et la diffusion par l'IA d'images intimes non consenties ou de matériel pédopornographique », a-t-il déclaré. xAI s'est engagé à continuer à faire de X une plateforme sûre et à appliquer une tolérance zéro envers toute forme d'exploitation sexuelle des enfants, de nudité non consentie et de contenu sexuel non désiré.
Conclusion
Selon les experts, même si bon nombre des productions de Grok ne peuvent être considérées comme du CSAM, en normalisant la sexualisation des enfants, Grok nuit aux mineurs. En plus du CSAM prétendument généré par Grok trouvé sur le dark Web, l'Internet Watch Foundation a remarqué que des personnes mal intentionnées utilisent des images modifiées par le chatbot pour créer des types encore plus extrêmes de CSAM généré par l'IA.
Elon Musk défend une vision qui privilégie une interprétation maximaliste de la liberté d’expression et se montre sceptique vis-à-vis des mécanismes de modération centralisés. Appliquée à l’IA générative, cependant, cette philosophie atteint toutefois ses limites. La liberté d’expression ne peut servir de paravent à la diffusion ou à la production de contenus criminels, surtout lorsqu’ils sont générés automatiquement par des systèmes industriels.
Malgré un cycle de mise à jour fréquent, le chatbot a suscité des controverses liées à ses réponses sur des sujets sensibles et à l'influence d'Elon Musk sur ses prises de position politiques. Grok est également accusé de propager de la désinformation à caractère négationniste et complotiste. Les antécédents de Grok en matière d'exactitude sont pour le moins mitigés, avec des incidents de divulgation d'informations personnelles et de diffusion d'infox.
Source : X Safety
Et vous ?
Voir aussi
Ridicule et mensonger ces attaques :
- Aucun algo ne permet de détecter précisément un enfant (de 17 ans) ou une femme. Et pourquoi c'est ok pour les hommes ?
- Toutes les autres IA permettent ça, comme photoshop (le problème c'est l'utilisateur, pas l'outil).
- Qu'est ce que "dévêtir" ? Un bikini, un maillot de bain, un short, une chaussure. En Iran c'est surement pas la même chose ...
Bref, on est plus dans une gué-guerre politique.
D'ailleurs, les algos d'âge sont encouragés pour les sites +18, c'est un deux poids deux mesures flagrants quand c'est Musk.
C'est parfait il n'y a plus aucun problème
C'est drôle quand une personne suivi partage ce genre de chose
====
Keir Starmer va devoir trouver un autre prétexte, celui des bikinis n'existe plus.
Une fois de plus on se trompe de cible mais à force, je pense que cela est intentionnel, un peu comme un crime, ou on ferai un procès à l’arme, plutôt qu’à celui qui l’a utilisé !
Tot ça devient ridicule...
je suis parfaitement d'accord avec cette remarque pleine de bon sens:
Parce que si on pousse le raisonnement jusqu'à l'absurde (dans une voyage en absurdie, que je fais lorsque je m'ennuie, ...) on peut aussi interdire les crayons, ça peut servir a dessiner ta voisine nue dans son jardin...
Au lieu de mettre tant d'énergie à interdire ceci ou cela, mettons plutôt ces moyens pour débusquer et condamner ceux qui utilisent tout moyen de "mal utiliser quelque chose". Ce mal étant définit par des lois, votées démocratiquement.
Ce serait plus simple, et on mettrait les ressources disponibles là où on en a besoin. A une autre époque, l'image de madame qui donnait des coups de "rouleau a pâtisser" à monsieur qui rentrait bourré du bistrot du coin, personne n'aurait penser a interdire la vente de rouleau a pâtisser.
Mais nous sommes dans une triste époque, qui "perd les pédales" (sans jeu de mot), et l'avenir, si on continue dans cette voie, sera triste, pénible et invivable. Que je suis content d'avoir connu les années 70 dans mon enfance et les années 80 durant mon adolescence, tout était tellement plus simple et joyeux, on pouvait rire de tout et de rien, se moquer les uns les autres, sans que ça déclenche une avalanche de "dénonciation" de personnes se sentant offusquées pour un oui ou pour un non.
Bien sure qu'il faut s'attaquer à la pédophilie, mais le faire en s'attaquant à l’appareille photo, la caméra ou X, Y ou Z ne sert à rien, me semble-t-il ?
Enfin, c'est ainsi, et c'est cruellement dommageables...
Bàv et Peace & Love.
Il faudrait des lois pour dire qu'on peut condamner quelqu'un pour avoir remplit un prompt. (par exemple si t'arrives à manipuler ChatGPT afin qu'il te fournisse des "recettes" pour fabriquer des bombes, c'est toi qui devrait être tenu responsable)
L'utilisateur devrait être responsable, vu que c'est lui qui essaie d'utiliser un outil pour créer du contenu illégal.
L'analogie avec Photoshop et l'analogie avec le crayon fonctionnent, le problème ce n'est pas l'outil c'est ce que l'utilisateur en fait.
====
Bon après la raison réel de cette histoire c'est que Keir Starmer en a marre que les britanniques critiquent le gouvernement sur Twitter.
Au Royaume-Uni des gens ont fait de la prison pour un tweet.
C'est sûr que si on simplifie une situation à l'extrême, alors on peut y voir de l'absurde.
Parce que si on pousse le raisonnement jusqu'à l'absurde (dans une voyage en absurdie, que je fais lorsque je m'ennuie, ...) on peut aussi interdire les crayons, ça peut servir a dessiner ta voisine nue dans son jardin...
Au lieu de mettre tant d'énergie à interdire ceci ou cela, mettons plutôt ces moyens pour débusquer et condamner ceux qui utilisent tout moyen de "mal utiliser quelque chose". Ce mal étant définit par des lois, votées démocratiquement.
Ce serait plus simple, et on mettrait les ressources disponibles là où on en a besoin. A une autre époque, l'image de madame qui donnait des coups de "rouleau a pâtisser" à monsieur qui rentrait bourré du bistrot du coin, personne n'aurait penser a interdire la vente de rouleau a pâtisser.
Ici, il ne s'agit pas de faire le procès à l'arme plutôt qu’à celui qui l’a utilisé.
Il s'agit de faire un procès à celui qui l'a fabriqué et qui l'à distribué comme s'il s'agissait d'un jouet.
Ici, il ne s'agit pas d'un type isolé qui aurait assez de talent pour dessiner sa voisine de manière reconnaissable avec un simple crayon.
Il s'agit d'un outil automatique, accessible à tous, qui permet à n'importe qui de le faire sans effort et de distribuer massivement le résultat.
Si vous voulez tomber dans l'absurde, alors ça revient à donner accès à la bombe atomique en cliquant sur un bouton dans un site web accessible à tous, et de dire qu'on ne peux pas condamner le type qui a publié le site sous prétexte qu'il est absurde d'interdire de vendre le clavier qui a permet d'accéder au site ou la souris qui a permet de cliquer sur le bouton.
Les autres IA ont des garde-fous.
Mais Musk a décidé que les garde-fous étaient "woke" et nuisaient à la liberté d'expression.
Le jour où quelqu'un fabriquera un appareil photo disposant d'un filtre permettant de dénuder quelqu'un de manière automatique, alors je ferai parti de ceux qui sont d'avis qu'il serait bon de l'interdire.
Avant de poster :
- F1
- FAQ
- Tutoriels
- Guide du développeur Delphi devant un problème
@popo) +1000000
Je peux comprendre votre avis...
Je peux tout a fait comprendre votre position. Lorsque je pense absurdrie, vous pensez bisounours. Les 2 réflexions se valent, c'est qu'on ne part pas du même point de départ du problème.
De tout temps, l'homme a inventé des outils, et dès que c'était possible, a contourné l'utilisation de ces outils pour en faire une mauvaise utilisation, dans but de nuire. Si on réfléchit par l'absurde, il faut interdire le crayon, ce qui est ridicule, mais si on "pense" pouvoir limiter la capacité de l'homme a détourner l'utilisation d'un outil pour en faire une abomination, c'est juste "utopique".
Des marteaux ont servit a tuer des gens, faut-t-il interdire les marteaux ?
Les travaux d'Einstein ont permis la création de la bombe atomique, faut-t-il interdire d'utiliser ces travaux ?
Des voitures bélier ont massacrés des gens, faut-il interdire les voitures ?
Le porno fait des ravages parmi nos jeunes, faut-il interdire le cinéma ?
Internet permet de créer et de diffuser largement et rapidement des abominations, faut-il interdire Internet ?
Je répond non à toute ces veines tentative de censure, celui qui voudra "faire" le mal le fera, avec un marteau ou via internet.
Il faut donc mettre l'énergie disponible là où elle peut amener à des résultats, c'est à dire poursuivre les gens qui utilisent intentionnellement un outil dans le but de commettre un délit, sans perdre de temps a s'attaquer aux outils eux-même. Lors des attaques "au couteau", un de vos premiers sinistre (Bayrou) a fait passer une loi pour "interdire la vente de couteau" à des "jeunes/délinquant/sous-octf", alors qu'ils y a des couteaux dans chaque cuisine, c'était d'un ridicule sans nom, même en faire une blague belge n'a pas été nécessaire.
C'était juste mon point de vue, qui en résumé, prétend qu'il vaut mieux s'attaquer aux utilisateurs qu'au outils eux-même.
Mais bon, chacun à son avis, et le mien n'a pas plus d'importance que les vôtre. Tous partent d'un bon sentiment d'éliminer le mal.
BàV et Peace & Love.
Répondre avec citation
Partager