On sait depuis les années 80 que les analogies entre les voitures et l'informatique ne tiennent pas la route. Celle-ci pas plus que les autres, désolé.Envoyé par der§en
Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter
On sait depuis les années 80 que les analogies entre les voitures et l'informatique ne tiennent pas la route. Celle-ci pas plus que les autres, désolé.
pourtant il y a 1 exemple qui existe depuis au moins 8 ans en informatique/ voiture pas encore répondu : si 1 conducteur se tue avec son auto-pilot qui est responsable
?
- le conducteur
- le constructeur de la voiture
- la société qui a programmé l'auto-pilot
Ce cas là est très intéressant. Mais il n'entre pas vraiment dans la même catégorie.
- le conducteur
- le constructeur de la voiture
- la société qui a programmé l'auto-pilot
Tout dépend du niveau d'autonomie du véhicule.
Si on parle de véhicule entièrement autonome (pour l'instant, malgré les dires de Musk, ça n'existe pas), alors la responsabilité revient forcément au fabricant.
Dans tous les autres cas, c'est plus ou moins compliqué. Mais, une part de la responsabilité (plus ou moins importante) revient au conducteur.
Ils vous diront qu'il fallait mettre des sécurités dans les voitures, un détecteur, pleins d’électronique, la relier à Internet ect ect ... Histoire de bien plomber l'économie, de figer le marché et mettre pleins de barrière à l'entré.
Mais jamais, ô jamais, pointer la responsabilité du conducteur.
qui est responsable.
Le fait d'être responsable ou non est de considérer X comme un media ou non.
S'il est considéré comme un media (ce que je pense) alors il est responsable de ce qui est diffusé. Il doit donc être pénalisé. A lui de vérifier les articles dont il assure la diffusion.
Autre chose pour le contrôle qu'il doit avoir.
Dans mon métier j'ai une obligation de résultats. Pour qu'elle raison n'a-t-il pas une obligation de résultats et non pas une obligation de moyen ?
Cette obligation de résultats couperai court à toute polémique.
Elon Musk limite l'outil d'image Grok de xAI aux abonnés payants
Elon Musk limite l'outil d'image Grok de xAI aux abonnés payants, après le tollé créé par son IA qui déshabille tout le monde, y compris les mineurs, sans leur consentement
Suite à une vive réaction contre les images sexualisées de femmes et d'enfants et à des menaces d'interdiction au Royaume-Uni., le service de réseau social X a empêché son chatbot IA Grok de générer des images pour la plupart des utilisateurs. Les utilisateurs de X qui tentent de créer des images se voient désormais afficher un message indiquant : « La génération et la modification d'images sont actuellement réservées aux abonnés payants. » Ils sont ensuite redirigés vers un lien d'inscription.
Grok est un chatbot d'intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk comme une initiative basée sur le grand modèle de langage (LLM) du même nom. Grok dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le bot a généré diverses réponses controversées, notamment des théories du complot, du nazisme, y compris des éloges à Adolf Hitler, de l'antisémitisme et des images sexualisées d'enfants, ainsi que des références aux opinions de Musk lorsqu'il était interrogé sur des sujets controversés ou des décisions difficiles.
Depuis cette année, le réseau social X d'Elon Musk permet désormais à tout utilisateur de modifier les images d'autres utilisateurs à l'aide de l'IA sans leur consentement. Le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Et il n'est pas possible de désactiver cette fonctionnalité. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne. Le chatbot d'Elon Musk est connu pour la faiblesse de ses garde-fours.
Suite à une vive réaction contre les images sexualisées de femmes et d'enfants et à des menaces d'interdiction au Royaume-Uni., le service de réseau social X a empêché son chatbot IA Grok de générer des images pour la plupart des utilisateurs. Les utilisateurs de X qui tentent de créer des images se voient désormais afficher un message indiquant : « La génération et la modification d'images sont actuellement réservées aux abonnés payants. » Ils sont ensuite redirigés vers un lien d'inscription. On ne sait pas si les abonnés payants pourront toujours créer des images sexualisées et non consensuelles de femmes suite à la limitation imposée par X aux utilisateurs non payants.
Grok – et par extension Elon Musk, propriétaire de X – a été vivement critiqué ces dernières semaines à ce sujet, le Premier ministre britannique Keir Starmer étant l'une des voix les plus virulentes à dénoncer le problème des deepfakes. La menace d'une interdiction de X au Royaume-Uni a été évoquée. Cela n'a pas empêché xAI, la société mère de X qui a créé Grok et son outil d'imagerie, d'annoncer une levée de fonds de 20 milliards de dollars, avec la participation de Valor Equity Partners, Stepstone Group, Fidelity Management & Research Company, Qatar Investment Authority, MGX, Baron Capital Group, Nvidia et Cisco Investments.
Les modifications apportées à l'IA Grok d'Elon Musk sont « insultantes » pour les victimes
Le gouvernement britannique estime que la décision de la plateforme X d'Elon Musk de limiter les modifications d'images par l'IA Grok aux utilisateurs payants est « insultante » pour les victimes de misogynie et de violences sexuelles. S'exprimant Downing Street a déclaré que cette mesure « transforme simplement une fonctionnalité d'IA qui permet la création d'images illégales en un service premium ».
Elle fait suite à une vive réaction après que Grok ait modifié numériquement des images d'autres personnes en les déshabillant, ce qu'elle affirme ne pouvoir désormais faire que pour ceux qui paient un abonnement mensuel. Cependant, aucune restriction de ce type n'est appliquée lorsque l'on accède à la fonctionnalité « modifier l'image », à l'application distincte ou au site web.
Le porte-parole officiel du Premier ministre a déclaré aux journalistes que cela montrait que X « pouvait agir rapidement quand il le souhaitait ». Il a ajouté qu'il était « tout à fait clair que X devait agir et agir maintenant ». « Il est temps que X s'attaque à ce problème. Si une autre entreprise médiatique affichait des images illégales sur des panneaux d'affichage dans les centres-villes, elle agirait immédiatement pour les retirer, sous peine de subir les réactions négatives du public », a-t-il ajouté.
Les libéraux-démocrates ont demandé que l'accès à X soit temporairement restreint au Royaume-Uni pendant que le site de réseau social fait l'objet d'une enquête. « Musk a piqué une crise pour protester contre le fait d'être tenu responsable du tsunami d'abus », a déclaré le professeur Clare McGlynn, experte en réglementation juridique de la pornographie, de la violence sexuelle et des abus en ligne. « Au lieu de prendre les mesures responsables pour garantir que Grok ne puisse pas être utilisé à des fins abusives, il a retiré l'accès à la grande majorité des utilisateurs. »
Et Hannah Swirsky, responsable des politiques à l'Internet Watch Foundation, a déclaré que cela « ne répare pas le mal qui a été fait ». « Nous ne pensons pas qu'il soit suffisant de simplement limiter l'accès à un outil qui n'aurait jamais dû avoir la capacité de créer le type d'images que nous avons vu ces derniers jours », a-t-elle déclaré. L'organisation caritative avait précédemment déclaré que ses analystes avaient découvert des « images criminelles » de filles âgées de 11 à 13 ans qui « semblaient avoir été créées » à l'aide de Grok. « Il est inacceptable d'attendre que des produits dangereux soient utilisés à mauvais escient avant d'agir », a déclaré Swirsky.
« Abonnez-vous pour débloquer »
Grok est un outil gratuit que les utilisateurs peuvent taguer directement dans des publications ou des réponses sous les publications d'autres utilisateurs pour lui demander une réponse particulière. Mais cette fonctionnalité a également permis à des personnes de lui demander de modifier des images et de dépouiller numériquement des personnes de la plupart de leurs vêtements.
Grok a répondu à de nombreuses demandes d'utilisateurs qui lui demandaient de modifier des images de femmes pour les montrer en bikini ou légèrement vêtues, ce qui, selon les personnes concernées par ces demandes, leur a donné un sentiment « d'humiliation » et de « déshumanisation », comme elles l'ont confié à la BBC. Cependant, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur X que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Il ajoute que les utilisateurs « peuvent s'abonner pour débloquer ces fonctionnalités ».
Le Dr Daisy Dixon, maître de conférences en philosophie à l'université de Cardiff et utilisatrice de X, qui a déclaré avoir constaté une augmentation du nombre de personnes utilisant Grok pour la déshabiller, a salué ce changement, mais a déclaré qu'il s'agissait d'une « solution provisoire ». « Grok doit être entièrement repensé et doté de garde-fous éthiques intégrés pour éviter que cela ne se reproduise », a-t-elle déclaré. « Elon Musk doit également reconnaître cela pour ce que c'est : un autre exemple de violation fondée sur le genre. »
Les associations caritatives qui militent pour mettre fin à la violence envers les femmes ont également critiqué X pour cette décision. « Restreindre l'accès aux abonnés payants est non seulement insuffisant, mais cela revient à monétiser les abus », a déclaré Emma Pickering, de Refuge. Elle a ajouté que même si le fait de limiter cette fonctionnalité aux utilisateurs payants de X pouvait réduire le volume, les abus avaient « simplement été placés derrière un mur payant, permettant à X de tirer profit du préjudice causé ».
De son côté, Andrea Simon, directrice de la coalition End Violence Against Women, a déclaré : « Nous ne sommes pas convaincus que X prendra des mesures pour identifier et prévenir ce phénomène, étant donné qu'il a traîné les pieds pour lutter contre ces abus ».
Le professeur McGlynn a déclaré que la réponse de X faisait écho à son approche concernant les deepfakes pornographiques de Taylor Swift sur la plateforme l'année dernière, où il avait bloqué les recherches de contenu sexualisé généré à partir de la pop star à l'aide d'une fonctionnalité vidéo Grok AI. « Il fait cela pour alimenter les arguments en faveur de la liberté d'expression », a-t-elle ajouté. « Il prétendra que la réglementation entrave l'utilisation de cette technologie par les gens. Mais tout ce que la réglementation exige, c'est qu'il prenne les précautions nécessaires pour réduire les dommages. »
« L'Ofcom doit restreindre X »
Les pouvoirs de l'Ofcom en vertu de la loi sur la sécurité en ligne lui permettent notamment de demander une ordonnance judiciaire pour empêcher des tiers d'aider la plateforme détenue par Elon Musk à lever des fonds ou à être accessible au Royaume-Uni. Les députés libéraux-démocrates Victoria Collins, Marie Goldman et Max Wilkinson ont écrit à la directrice de l'Ofcom, Dame Melanie Dawes, pour lui demander de prendre des mesures.
« Si une autre plateforme était reconnue coupable de faciliter la production massive d'images à caractère pédopornographique à cette échelle, il serait difficile de croire qu'elle serait autorisée à poursuivre ses activités sans interruption », ont-ils écrit. « L'Ofcom doit restreindre l'accès à X dès maintenant, pendant que l'enquête est en cours. » Downing Street a réitéré le « soutien total » du gouvernement à l'Ofcom pour qu'il utilise tous ses pouvoirs, y compris celui d'interdire la plateforme.
Le Premier ministre Sir Keir Starmer avait précédemment qualifié les images générées par Grok de « honteuses » et « répugnantes ». Dans le même temps, les conservateurs ont réitéré les commentaires formulés à la suite des questions au Premier ministre par un porte-parole de Kemi Badenoch, qui a qualifié les images deepfake d'« absolument odieuses ».
Pourtant, la première réaction officielle de l’entreprise a surpris, voire choqué : X rejette la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats. La réponse de X a consisté à affirmer que ces contenus résultaient d’un usage abusif de l’outil par des utilisateurs malveillants. Selon cette lecture, la responsabilité incomberait avant tout à ceux qui formulent les requêtes, et non à la plateforme ou au modèle d’IA lui-même. Cette position marque une rupture nette avec les standards émergents du secteur, où les éditeurs de modèles reconnaissent généralement une obligation de moyens en matière de prévention des usages criminels.
Source : Elon Musk
Et vous ?
Pensez-vous que cette décision est crédible ou pertinente ?
Voir aussi :
Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
Apparemment d'autres plateformes permettent de faire exactement la même chose et Keir Starmer fait semblant que ce n'est pas le cas.
L'histoire des bikinis c'est un prétexte pour attaquer X.https://x.com/BasilTheGreat/status/2009684469188546967
The UK Labour Government is threatening to block X but won't say a word about ChatGPT and Gemini
Why?
We know why.
X stands for freedom of speech.
They don't care about AI images, they care about people learning the truth.
On a beau expliquer qu'on peut faire la même chose avec Gimp ou Photoshop (et qu'il existe des tutos dispo sur Youtube, et que l'IA est même inclut dans ces outils), que n'importe quelle IA (sur Internet ou self-hosted, voir même des Lora) permet de faire ça ... Non, ils ne veulent pas écouter, discuter ou débattre.
On peut critiquer Musk, mais le faire en utilisant toutes la mauvaise foi, l'hypocrisie et l'ignorance possible c'est juste ridicule (notamment sur ce sujet).
Il faudrait être juriste spécialisé dans le domaine pour savoir comment ça marche.
Est-ce qu'il existe des lois qui interdisent de représenter quelqu'un en bikini ?
Est-ce que quelqu'un a déjà été condamné pour avoir réalisé des photos montages de fille en bikini ?
Si c'est le cas alors la justice pourra faire quelque chose contre Gemini et Chat GPT.
Combien d'évènements liés à Gémini ou ChatGPT ont mené à dénuder des milliers de personnes et à diffuser ces images en quelques jours?
Je pense que nous l'avons suffisamment dit plus haut, le problème n'est pas tant la capacité de le faire mais : la facilité, la qualité du résultat (ce que Gemini et ChatGPT semblent capables de faire) et la capacité de diffusion à grande échelle immédiate (Ce que Gemini et ChatGPT ne font pas).
Donc bien sur que cette histoire est un moyen de s'attaquer au média de harcèlement à grande échelle le plus efficace que l'histoire humaine a connu.
Mais nous vous écoutons, nous en discutons et nous essayons d'en débattre, ce qui est beaucoup plus compliqué parce que nous ne partons pas du même point de départ.
On peut soutenir Musk, mais le faire en utilisant toutes la mauvaise foi, l'hypocrisie et l'ignorance possible c'est juste ridicule (notamment sur ce sujet), la balle est facile à retourner
Doit-il y avoir de la censure au sein même des IA?
J'en suis convaincu, il me semble évident qu'une IA ne doit pas encourager à (se) donner la mort, ne doit pas créer d'éléments pédophiles etc...
Et pourtant je pense qu'on doit vivre avec le fait qu'il existera toujours des moyens de détourner pour arriver à ces objectifs.
Et pourtant je crois que ces sujets ne doivent pas être tabou dans l'IA (genre éviter les attitudes à la Deepseek qui s'arrête de fonctionner quand on parle de Taiwan) parce que pouvoir en parler et aussi un moyen de prévenir les évènements catastrophiques.
Je pense que le vrai débat est : devons nous relier une IA et un réseau social directement?
Ma réponse est clairement non parce que l'IA et une machine à créer de l'information approximative et le réseau social est un moyen de la diffuser à grande échelle avec le minimum d'effort.
Nous sommes dans une société où une partie des drames qui arrivent ne sont pas dûs à une seule cause mais à la combinaison de plusieurs. Et je penses qu'il est malhonnête de ne s'attaquer qu'à l'une. Et je pense que ça l'est d'autant plus d'utiliser l'une pour dédouaner l'autre.
Si j'écrase quelque'un avec ma voiture ...
Bonjour,
Il est simple d'accuser l'outil et de faire du Musk-washing ...
Si j'écrase quelqu'un avec mon véhicule le constructeur doit-il être tenu pour responsable.
Si j'envoie un mail d'insultes, le service de mail peut-il être tenu pour responsable ?
Ce genre de remarque est juste un encouragement à une sorte d'auto-censure des logiiels d'IA, mais la censure est-elle une solution car elle peut aussi être considérée comme une déviation grave d'un outil en "cachant" une partie des informations ...
Non, par contre le constructeur doit respecter des normes : sécurité, de pollution, ...
Non car le service mail ne publie pas les informations. Mais un journal lui est responsable s'il publie votre lettre
On a déjà dit et redit que ça ne fonctionne pas les analogies voitures/informatique !
Dans ton cas, le constructeur n'a pas donné comme fonction à son véhicule d'écraser quelqu'un.
Là, on a un logiciel qui permet de réaliser quelque chose d'illégale. C'est donc bien les concepteurs et distributeurs du logiciel qui sont responsables de la production.
Ils ne sont pas responsables de la diffusion.
Mais, là, encore, le support de diffusion se retrouve être le même Musk, et là encore, il ne respecte pas les lois qui interdisent de diffuser ce genre de photos.
Qu'est-ce que vous voulez de plus ?
Ah ouais c'est peut-être illégal :
Article 226-8-1
Il est interdit de diffuser sans accord :Est puni de deux ans d'emprisonnement et de 60 000 euros d'amende le fait de porter à la connaissance du public ou d'un tiers, par quelque voie que ce soit, un montage à caractère sexuel réalisé avec les paroles ou l'image d'une personne, sans son consentement. Est assimilé à l'infraction mentionnée au présent alinéa et puni des mêmes peines le fait de porter à la connaissance du public ou d'un tiers, par quelque voie que ce soit, un contenu visuel ou sonore à caractère sexuel généré par un traitement algorithmique et reproduisant l'image ou les paroles d'une personne, sans son consentement.
Lorsque le délit prévu au premier alinéa est commis par la voie de la presse écrite ou audiovisuelle, les dispositions particulières des lois qui régissent ces matières sont applicables en ce qui concerne la détermination des personnes responsables.
Les peines prévues au même premier alinéa sont portées à trois ans d'emprisonnement et à 75 000 euros d'amende lorsque la publication du montage ou du contenu généré par un traitement algorithmique a été réalisée en utilisant un service de communication au public en ligne.
Article 226-2-1
=====Lorsque les délits prévus aux articles 226-1 et 226-2 portent sur des paroles ou des images présentant un caractère sexuel prises dans un lieu public ou privé, les peines sont portées à deux ans d'emprisonnement et à 60 000 € d'amende.
Est puni des mêmes peines le fait, en l'absence d'accord de la personne pour la diffusion, de porter à la connaissance du public ou d'un tiers tout enregistrement ou tout document portant sur des paroles ou des images présentant un caractère sexuel, obtenu, avec le consentement exprès ou présumé de la personne ou par elle-même, à l'aide de l'un des actes prévus à l'article 226-1.
Pour des histoires de :
- Droit à l'image
- Vie privée
- Dignité
Il doit également être interdit de diffuser des représentations de Keir Starmer en couche, en bikini, en uniforme Nazi, etc.
D'autres outils permettent de mettre des gens en bikinis, d'autres réseaux sociaux permettent de partager des images.
Donc il n'y a pas que Twitter qui doit être attaqué.
Il est impossible de modérer tout le contenu, la personne qui partage du contenu problématique devrait être plus inquiété que le réseau social.
Alors tu ne fais pas de la diffusion de contenu
Un prétexte ridicule (de plus) pour censurer internet.
Rien d'étonnant sachant les attaques générales contre les droits fondamentaux dans ces pays : vérification d'identité sous prétexte de "vérification d'âge", censure des réseaux sociaux, emprisonnement des critiques du gouvernement, discussion d'interdiction des VPN ...
Vraiment un sale temps pour les libertés et le respect de la vie privée.
Il y en a marre de ces politicards. ces autorités, ces administrations diverses et variées qui n'ont pas de couilles et qui prennent le public pour des imbéciles!
Arrêtez avec vos pseudo-menaces qui finissent toujours en eau de boudin... Ce n'est rien d'autre que de la communication dont tout le monde se fout!
Soit vous interdisez, soit vous n'interdisez pas mais dans tous les cas... Fermez là et arrêtez de communiquer dans le vide pour le plaisir de... communiquer!
Pour le lecteur, quand vous avez une info du style "... on menace de...", il faut lire "on ne fera rien"
Les arguments sont bons, t'as pas le droit de faire un photomontage d'une personne réelle sans son consentement, tu n'as pas le droit de publier une image vraie ou fausse d'une personne réelle sans son consentement.
Donc l'histoire "n'importe qui peut se faire déshabiller par un chatbot IA et les images peuvent tourner sur internet" fonctionne.
Et en plus on rajoute "dans le tas il y a des victimes mineures".
Ce n'est pas bien de créer et de diffuser des photos de gens en bikini. Donc le prétexte fonctionne.
Les gens normaux n'aimeraient pas qu'une photo d'eux en bikini circule sur internet.
Donc il faut poursuivre les coupable de l'infraction et pas interdire X (ou Photoshop) ?
Je rappel que X coopère au vue des 13 000 arrestations au Royaume-Unis pour commentaire sur les réseaux sociaux
Enfin, un bikini sur les adultes est une "sexualisation" chez les extrémistes religieux ou puritains. Bien curieux de connaitre ce que signifie "sexualiser" ? Ça marche pour une cheville ou une coiffure ?
Cela peut aussi bien concerner un bikini qu'un costume mais la loi est absolument flou, tout est potentiellement illégal : Bref, ça dépendra de vos relations avec la Justice ou de votre position au gouvernement.
Concernant les enfants, le droit existe déjà contre les montages malveillants pouvant leur porter préjudices ("sexualisation" ou autre) : Suffit d'appliquer.
En France, le droit à l'image existe pour toutes et tous. La SACEM en est la dépositaire. Et qui contrevient à ce droit se met hors-la-loi. Et c'est valable dans l'immense majorité des pays. Combien de procès de personnages publics ont eu lieu en France ? Ou même de personnes morales ? Bien plus qu'on ne le croit...
Répondre avec citation
Partager