Discussion :

[Matthieu Vergne]

Je suis d'accord avec lui sur le principe : c'est celui qui fait la requête qui doit être tenu pour responsable.
Là où la responsabilité de l'éditeur de Grok doit être engagée, c'est quand l'image produite ne correspond pas à la requête.
Si la personne demande du CSAM, c'est à elle de se prendre les pénalités.
Si la personne n'en demande pas mais Grok en produit, c'est à l'éditeur de se les prendre.
L'éditeur doit s'assurer de la fiabilité de ce qu'il fournit, mais pas de ce que l'utilisateur en fait.
Et si Grok produit des images ne correspondant pas à la requête, une circonstance aggravante contre l'éditeur est qu'il ne fournisse pas de moyen de corriger, comme supprimer l'image mal générée.

Donc oui sur le fond, il a raison, mais qu'il s'assure au moins de fournir un outil qui fonctionne comme demandé et, pour les cas où ça ne correspond pas (qui arrivent forcément étant donné la techno), les capacités de correction minimales qu'il se doit d'implémenter (e.g. suppression d'image). Autrement il a quand même sa part de responsabilité.

[jnspunk]

Mais les générateurs d'images comme Grok ne sont pas obligés de produire exactement ce que l'utilisateur souhaite

C'est faux, on ne peut pas empêcher le "jailbreak".
Vouloir "corriger" Grok c'est comme repeindre son mur au lieu de réparer la fuite d'eau qu'il y a derrière : ce n'est pas l'idée la plus brillante.

[David_g]

C'est faux, on ne peut pas empêcher le "jailbreak".
Vouloir "corriger" Grok c'est comme repeindre son mur au lieu de réparer la fuite d'eau qu'il y a derrière : ce n'est pas l'idée la plus brillante.

Cela revient à dire qu'il ne faut pas mettre de serrure sur tes portes car on peut facilement les ouvrir.
En soi, peu de gens finalement feront l'effort ou auront les compétences pour. c'est un peu pareil pour ces deepfakes etc, dés que tu enleves les solutions qui ne demande aucun effort, tu réduis de beaucoup le nombre de cas.

Ici n'importe quel glandu peut mettre n'importe quelle nana à quatre pattes en string etc (beaucoup d'entre eux ont un compte payant et donc cherche aussi des vues comme le mec qui a fait cela à la première ministre suédoise)

S'il devait aller chercher des modèles d'IA, installer un générateur en local etc ou si cela lui demande de comprendre comment aller chercher des solutions pour "hacker" le prompt, 90% ne feront pas l'effort. c'est d'ailleurs le cas pour un photomontage, tu vois personne prendre le temps de se former à toshop/gimp pour réussir à voir quelque chose de qualité parce que cela trop d'effort. tu ajouterais une option dans toshop pour cela, ben bizarrement on en verra plus (alors certes c'est en local donc tu le sauras pas).

[Uther]

Je suis d'accord avec lui sur le principe : c'est celui qui fait la requête qui doit être tenu pour responsable.

C'est un peu plus compliqué que ça, on a déjà des réglementation sur les produits potentiellement dangereux.

Si la personne demande du CSAM, c'est à elle de se prendre les pénalités.

L'un n'exclut pas forcément l'autre. Pour beaucoup de produits potentiellement problématique, il est tout autant interdit de les fournir que les utiliser hors contrôle légal.

Vouloir "corriger" Grok c'est comme repeindre son mur au lieu de réparer la fuite d'eau qu'il y a derrière : ce n'est pas l'idée la plus brillante.

Certes mais en même temps on agit au niveau où on peut. Les verrous ne servent normalement a rien si on règle le problème des voleurs, mais on fait avec parce que on a pas de moyen efficace de repérer et arrêter les voleurs à priori.

[Artaeus]

Cela revient à dire qu'il ne faut pas mettre de serrure sur tes portes car on peut facilement les ouvrir.
En soi, peu de gens finalement feront l'effort ou auront les compétences pour. c'est un peu pareil pour ces deepfakes etc, dés que tu enleves les solutions qui ne demande aucun effort, tu réduis de beaucoup le nombre de cas.

Ici n'importe quel glandu peut mettre n'importe quelle nana à quatre pattes en string etc (beaucoup d'entre eux ont un compte payant et donc cherche aussi des vues comme le mec qui a fait cela à la première ministre suédoise)

S'il devait aller chercher des modèles d'IA, installer un générateur en local etc ou si cela lui demande de comprendre comment aller chercher des solutions pour "hacker" le prompt, 90% ne feront pas l'effort. c'est d'ailleurs le cas pour un photomontage, tu vois personne prendre le temps de se former à toshop/gimp pour réussir à voir quelque chose de qualité parce que cela trop d'effort. tu ajouterais une option dans toshop pour cela, ben bizarrement on en verra plus (alors certes c'est en local donc tu le sauras pas).

Il y a déjà des sécurités : Grok ne vous dira pas comment fabriquer une bombe ou dénuder des enfants.
D'ailleurs, ça pointe les limites des algos de détection d'âge (qui sont pourtant utilisé sur les sites +18 pour vérifier votre âge, puis bientôt sur les réseaux sociaux) qui ne marche pas sur les jeunes de 16 ans.
Deux poids, deux mesures ... (Après, on a tous compris que le but c'est la surveillance sous prétexte de "protection des enfants", ils demanderont ensuite l'identite numérique).

Le mec qui a un compte "payant" peut être retrouvé, non ? C'est à la Police de faire son travail donc.

Ensuite, ChatGPT peut dénuder aussi comme Grok, suffit de dire que c'est "vous" ... Et visiblement, c'est ce qui a été utilisé ensuite. Comment savoir quelle requête légitime ou non dans ce cas ?

Concernant la "facilité", c'est un argument ridicule qui n'a aucune valeur : Ce qui est interdit, est interdit, peu importe que ça soit facile ou pas. C'est à l’État de faire sont travail et de faire respecter la loi !
=> D'ailleurs, la comparaison avec le "voleur" est fausse : On ne connait pas l'identité du voleur, mais celle des utilisateurs de Grok est connu (compte vérifié !)

On n'a pas attendu Grok pour voir des montages de ministres ou autre en maillot de bain.

[der§en]

Mon analogie: si quelqu’un tue avec une voiture bélier, qui devrait être condamnée le fabricant ou celui qui tenait le volant ?

[Jon Shannow]

Mon analogie: si quelqu’un tue avec une voiture bélier, qui devrait être condamnée le fabricant ou celui qui tenait le volant ?

On sait depuis les années 80 que les analogies entre les voitures et l'informatique ne tiennent pas la route. Celle-ci pas plus que les autres, désolé.

[Artaeus]

Mon analogie: si quelqu’un tue avec une voiture bélier, qui devrait être condamnée le fabricant ou celui qui tenait le volant ?

Ils vous diront qu'il fallait mettre des sécurités dans les voitures, un détecteur, pleins d’électronique, la relier à Internet ect ect ... Histoire de bien plomber l'économie, de figer le marché et mettre pleins de barrière à l'entré.
Mais jamais, ô jamais, pointer la responsabilité du conducteur.

[foetus]

On sait depuis les années 80 que les analogies entre les voitures et l'informatique ne tiennent pas la route. Celle-ci pas plus que les autres, désolé

pourtant il y a 1 exemple qui existe depuis au moins 8 ans en informatique/ voiture pas encore répondu : si 1 conducteur se tue avec son auto-pilot qui est responsable ?

• le conducteur
• le constructeur de la voiture
• la société qui a programmé l'auto-pilot

[Ryu2000]

Faut-il attendre une intervention judiciaire ou réglementaire pour forcer des correctifs, ou l’autorégulation des plateformes d’IA est-elle déjà un mythe dépassé ?

Si il n'existe aucune loi qui interdit à quelqu'un de dessiner ou de faire un photo montage d'une personne réelle en bikini alors il faudra créer de nouvelles lois.

Si un état créait une loi pour interdire de créer une image d'une personne réelle en bikini, alors Grok serait obligé d'interdire cette action dans ce pays.

[Jon Shannow]

pourtant il y a 1 exemple qui existe depuis au moins 8 ans en informatique/ voiture pas encore répondu : si 1 conducteur se tue avec son auto-pilot qui est responsable ?

• le conducteur
• le constructeur de la voiture
• la société qui a programmé l'auto-pilot

Ce cas là est très intéressant. Mais il n'entre pas vraiment dans la même catégorie.
Tout dépend du niveau d'autonomie du véhicule.
Si on parle de véhicule entièrement autonome (pour l'instant, malgré les dires de Musk, ça n'existe pas), alors la responsabilité revient forcément au fabricant.
Dans tous les autres cas, c'est plus ou moins compliqué. Mais, une part de la responsabilité (plus ou moins importante) revient au conducteur.

[Marmounet]

Le fait d'être responsable ou non est de considérer X comme un media ou non.
S'il est considéré comme un media (ce que je pense) alors il est responsable de ce qui est diffusé. Il doit donc être pénalisé. A lui de vérifier les articles dont il assure la diffusion.
Autre chose pour le contrôle qu'il doit avoir.
Dans mon métier j'ai une obligation de résultats. Pour qu'elle raison n'a-t-il pas une obligation de résultats et non pas une obligation de moyen ?
Cette obligation de résultats couperai court à toute polémique.

[Jade Emy]

Elon Musk limite l'outil d'image Grok de xAI aux abonnés payants, après le tollé créé par son IA qui déshabille tout le monde, y compris les mineurs, sans leur consentement

Suite à une vive réaction contre les images sexualisées de femmes et d'enfants et à des menaces d'interdiction au Royaume-Uni., le service de réseau social X a empêché son chatbot IA Grok de générer des images pour la plupart des utilisateurs. Les utilisateurs de X qui tentent de créer des images se voient désormais afficher un message indiquant : « La génération et la modification d'images sont actuellement réservées aux abonnés payants. » Ils sont ensuite redirigés vers un lien d'inscription.

Grok est un chatbot d'intelligence artificielle générative (IA générative) développé par xAI. Il a été lancé en novembre 2023 par Elon Musk comme une initiative basée sur le grand modèle de langage (LLM) du même nom. Grok dispose d'applications pour iOS et Android et est intégré à Twitter et au robot Optimus de Tesla. Le bot a généré diverses réponses controversées, notamment des théories du complot, du nazisme, y compris des éloges à Adolf Hitler, de l'antisémitisme et des images sexualisées d'enfants, ainsi que des références aux opinions de Musk lorsqu'il était interrogé sur des sujets controversés ou des décisions difficiles.

Depuis cette année, le réseau social X d'Elon Musk permet désormais à tout utilisateur de modifier les images d'autres utilisateurs à l'aide de l'IA sans leur consentement. Le chatbot Grok habille Elon Musk en bikini à sa demande, et fait de même avec des enfants, des dirigeants mondiaux et des femmes. Le site a été inondé d'images de femmes et d'enfants apparaissant enceintes, sans jupe, en bikini ou dans d'autres situations sexualisées. Et il n'est pas possible de désactiver cette fonctionnalité. Les contenus sexuellement explicites partagés par Grok ont suscité l'indignation en ligne. Le chatbot d'Elon Musk est connu pour la faiblesse de ses garde-fours.

Suite à une vive réaction contre les images sexualisées de femmes et d'enfants et à des menaces d'interdiction au Royaume-Uni., le service de réseau social X a empêché son chatbot IA Grok de générer des images pour la plupart des utilisateurs. Les utilisateurs de X qui tentent de créer des images se voient désormais afficher un message indiquant : « La génération et la modification d'images sont actuellement réservées aux abonnés payants. » Ils sont ensuite redirigés vers un lien d'inscription. On ne sait pas si les abonnés payants pourront toujours créer des images sexualisées et non consensuelles de femmes suite à la limitation imposée par X aux utilisateurs non payants.

Grok – et par extension Elon Musk, propriétaire de X – a été vivement critiqué ces dernières semaines à ce sujet, le Premier ministre britannique Keir Starmer étant l'une des voix les plus virulentes à dénoncer le problème des deepfakes. La menace d'une interdiction de X au Royaume-Uni a été évoquée. Cela n'a pas empêché xAI, la société mère de X qui a créé Grok et son outil d'imagerie, d'annoncer une levée de fonds de 20 milliards de dollars, avec la participation de Valor Equity Partners, Stepstone Group, Fidelity Management & Research Company, Qatar Investment Authority, MGX, Baron Capital Group, Nvidia et Cisco Investments.

Les modifications apportées à l'IA Grok d'Elon Musk sont « insultantes » pour les victimes

Le gouvernement britannique estime que la décision de la plateforme X d'Elon Musk de limiter les modifications d'images par l'IA Grok aux utilisateurs payants est « insultante » pour les victimes de misogynie et de violences sexuelles. S'exprimant Downing Street a déclaré que cette mesure « transforme simplement une fonctionnalité d'IA qui permet la création d'images illégales en un service premium ».

Elle fait suite à une vive réaction après que Grok ait modifié numériquement des images d'autres personnes en les déshabillant, ce qu'elle affirme ne pouvoir désormais faire que pour ceux qui paient un abonnement mensuel. Cependant, aucune restriction de ce type n'est appliquée lorsque l'on accède à la fonctionnalité « modifier l'image », à l'application distincte ou au site web.

Le porte-parole officiel du Premier ministre a déclaré aux journalistes que cela montrait que X « pouvait agir rapidement quand il le souhaitait ». Il a ajouté qu'il était « tout à fait clair que X devait agir et agir maintenant ». « Il est temps que X s'attaque à ce problème. Si une autre entreprise médiatique affichait des images illégales sur des panneaux d'affichage dans les centres-villes, elle agirait immédiatement pour les retirer, sous peine de subir les réactions négatives du public », a-t-il ajouté.

Les libéraux-démocrates ont demandé que l'accès à X soit temporairement restreint au Royaume-Uni pendant que le site de réseau social fait l'objet d'une enquête. « Musk a piqué une crise pour protester contre le fait d'être tenu responsable du tsunami d'abus », a déclaré le professeur Clare McGlynn, experte en réglementation juridique de la pornographie, de la violence sexuelle et des abus en ligne. « Au lieu de prendre les mesures responsables pour garantir que Grok ne puisse pas être utilisé à des fins abusives, il a retiré l'accès à la grande majorité des utilisateurs. »

Et Hannah Swirsky, responsable des politiques à l'Internet Watch Foundation, a déclaré que cela « ne répare pas le mal qui a été fait ». « Nous ne pensons pas qu'il soit suffisant de simplement limiter l'accès à un outil qui n'aurait jamais dû avoir la capacité de créer le type d'images que nous avons vu ces derniers jours », a-t-elle déclaré. L'organisation caritative avait précédemment déclaré que ses analystes avaient découvert des « images criminelles » de filles âgées de 11 à 13 ans qui « semblaient avoir été créées » à l'aide de Grok. « Il est inacceptable d'attendre que des produits dangereux soient utilisés à mauvais escient avant d'agir », a déclaré Swirsky.

« Abonnez-vous pour débloquer »

Grok est un outil gratuit que les utilisateurs peuvent taguer directement dans des publications ou des réponses sous les publications d'autres utilisateurs pour lui demander une réponse particulière. Mais cette fonctionnalité a également permis à des personnes de lui demander de modifier des images et de dépouiller numériquement des personnes de la plupart de leurs vêtements.

Grok a répondu à de nombreuses demandes d'utilisateurs qui lui demandaient de modifier des images de femmes pour les montrer en bikini ou légèrement vêtues, ce qui, selon les personnes concernées par ces demandes, leur a donné un sentiment « d'humiliation » et de « déshumanisation », comme elles l'ont confié à la BBC. Cependant, Grok a informé les utilisateurs qui lui demandaient de modifier des images téléchargées sur X que « la génération et la modification d'images sont actuellement réservées aux abonnés payants ». Il ajoute que les utilisateurs « peuvent s'abonner pour débloquer ces fonctionnalités ».

Le Dr Daisy Dixon, maître de conférences en philosophie à l'université de Cardiff et utilisatrice de X, qui a déclaré avoir constaté une augmentation du nombre de personnes utilisant Grok pour la déshabiller, a salué ce changement, mais a déclaré qu'il s'agissait d'une « solution provisoire ». « Grok doit être entièrement repensé et doté de garde-fous éthiques intégrés pour éviter que cela ne se reproduise », a-t-elle déclaré. « Elon Musk doit également reconnaître cela pour ce que c'est : un autre exemple de violation fondée sur le genre. »

Les associations caritatives qui militent pour mettre fin à la violence envers les femmes ont également critiqué X pour cette décision. « Restreindre l'accès aux abonnés payants est non seulement insuffisant, mais cela revient à monétiser les abus », a déclaré Emma Pickering, de Refuge. Elle a ajouté que même si le fait de limiter cette fonctionnalité aux utilisateurs payants de X pouvait réduire le volume, les abus avaient « simplement été placés derrière un mur payant, permettant à X de tirer profit du préjudice causé ».

De son côté, Andrea Simon, directrice de la coalition End Violence Against Women, a déclaré : « Nous ne sommes pas convaincus que X prendra des mesures pour identifier et prévenir ce phénomène, étant donné qu'il a traîné les pieds pour lutter contre ces abus ».

Le professeur McGlynn a déclaré que la réponse de X faisait écho à son approche concernant les deepfakes pornographiques de Taylor Swift sur la plateforme l'année dernière, où il avait bloqué les recherches de contenu sexualisé généré à partir de la pop star à l'aide d'une fonctionnalité vidéo Grok AI. « Il fait cela pour alimenter les arguments en faveur de la liberté d'expression », a-t-elle ajouté. « Il prétendra que la réglementation entrave l'utilisation de cette technologie par les gens. Mais tout ce que la réglementation exige, c'est qu'il prenne les précautions nécessaires pour réduire les dommages. »

« L'Ofcom doit restreindre X »

Les pouvoirs de l'Ofcom en vertu de la loi sur la sécurité en ligne lui permettent notamment de demander une ordonnance judiciaire pour empêcher des tiers d'aider la plateforme détenue par Elon Musk à lever des fonds ou à être accessible au Royaume-Uni. Les députés libéraux-démocrates Victoria Collins, Marie Goldman et Max Wilkinson ont écrit à la directrice de l'Ofcom, Dame Melanie Dawes, pour lui demander de prendre des mesures.

« Si une autre plateforme était reconnue coupable de faciliter la production massive d'images à caractère pédopornographique à cette échelle, il serait difficile de croire qu'elle serait autorisée à poursuivre ses activités sans interruption », ont-ils écrit. « L'Ofcom doit restreindre l'accès à X dès maintenant, pendant que l'enquête est en cours. » Downing Street a réitéré le « soutien total » du gouvernement à l'Ofcom pour qu'il utilise tous ses pouvoirs, y compris celui d'interdire la plateforme.

Le Premier ministre Sir Keir Starmer avait précédemment qualifié les images générées par Grok de « honteuses » et « répugnantes ». Dans le même temps, les conservateurs ont réitéré les commentaires formulés à la suite des questions au Premier ministre par un porte-parole de Kemi Badenoch, qui a qualifié les images deepfake d'« absolument odieuses ».

Pourtant, la première réaction officielle de l’entreprise a surpris, voire choqué : X rejette la responsabilité sur les utilisateurs, sans annoncer de correctifs techniques immédiats. La réponse de X a consisté à affirmer que ces contenus résultaient d’un usage abusif de l’outil par des utilisateurs malveillants. Selon cette lecture, la responsabilité incomberait avant tout à ceux qui formulent les requêtes, et non à la plateforme ou au modèle d’IA lui-même. Cette position marque une rupture nette avec les standards émergents du secteur, où les éditeurs de modèles reconnaissent généralement une obligation de moyens en matière de prévention des usages criminels.

Source : Elon Musk

Et vous ?

Pensez-vous que cette décision est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

La société xAI, détenue par Elon Musk, a lancé un nouveau modèle d'IA baptisé Grok 4 Fast, présenté comme une version économique de son système Grok 4

xAI d'Elon Musk lève 20 milliards $, plus que prévu, auprès d'investisseurs tels que Nvidia, Cisco et des fonds soutenus par Abu Dhabi et le Qatar, alors que l'essor de l'IA se poursuit sans relâche

Grok, l'IA « anti-woke » d'Elon Musk, dérape : éloge d'Hitler, glorification de Musk pour avoir supprimé les filtres « woke », attaque contre Donald Trump au sujet des inondations au Texas

[Ryu2000]

« Si une autre plateforme était reconnue coupable de faciliter la production massive d'images à caractère pédopornographique à cette échelle, il serait difficile de croire qu'elle serait autorisée à poursuivre ses activités sans interruption », ont-ils écrit. « L'Ofcom doit restreindre l'accès à X dès maintenant, pendant que l'enquête est en cours. » Downing Street a réitéré le « soutien total » du gouvernement à l'Ofcom pour qu'il utilise tous ses pouvoirs, y compris celui d'interdire la plateforme.

Apparemment d'autres plateformes permettent de faire exactement la même chose et Keir Starmer fait semblant que ce n'est pas le cas.

https://x.com/BasilTheGreat/status/2009684469188546967
The UK Labour Government is threatening to block X but won't say a word about ChatGPT and Gemini

Why?

We know why.

X stands for freedom of speech.
They don't care about AI images, they care about people learning the truth.

L'histoire des bikinis c'est un prétexte pour attaquer X.

[Artaeus]

Apparemment d'autres plateformes permettent de faire exactement la même chose et Keir Starmer fait semblant que ce n'est pas le cas.



L'histoire des bikinis c'est un prétexte pour attaquer X.

On a beau expliquer qu'on peut faire la même chose avec Gimp ou Photoshop (et qu'il existe des tutos dispo sur Youtube, et que l'IA est même inclut dans ces outils), que n'importe quelle IA (sur Internet ou self-hosted, voir même des Lora) permet de faire ça ... Non, ils ne veulent pas écouter, discuter ou débattre.

On peut critiquer Musk, mais le faire en utilisant toutes la mauvaise foi, l'hypocrisie et l'ignorance possible c'est juste ridicule (notamment sur ce sujet).

[J_P_P]

Bonjour,
Il est simple d'accuser l'outil et de faire du Musk-washing ...
Si j'écrase quelqu'un avec mon véhicule le constructeur doit-il être tenu pour responsable.
Si j'envoie un mail d'insultes, le service de mail peut-il être tenu pour responsable ?
Ce genre de remarque est juste un encouragement à une sorte d'auto-censure des logiiels d'IA, mais la censure est-elle une solution car elle peut aussi être considérée comme une déviation grave d'un outil en "cachant" une partie des informations ...

[Ryu2000]

on peut faire la même chose

Il faudrait être juriste spécialisé dans le domaine pour savoir comment ça marche.
Est-ce qu'il existe des lois qui interdisent de représenter quelqu'un en bikini ?
Est-ce que quelqu'un a déjà été condamné pour avoir réalisé des photos montages de fille en bikini ?

Si c'est le cas alors la justice pourra faire quelque chose contre Gemini et Chat GPT.

[totozor]

Apparemment d'autres plateformes permettent de faire exactement la même chose et Keir Starmer fait semblant que ce n'est pas le cas.
L'histoire des bikinis c'est un prétexte pour attaquer X.

Combien d'évènements liés à Gémini ou ChatGPT ont mené à dénuder des milliers de personnes et à diffuser ces images en quelques jours?

Je pense que nous l'avons suffisamment dit plus haut, le problème n'est pas tant la capacité de le faire mais : la facilité, la qualité du résultat (ce que Gemini et ChatGPT semblent capables de faire) et la capacité de diffusion à grande échelle immédiate (Ce que Gemini et ChatGPT ne font pas).

Donc bien sur que cette histoire est un moyen de s'attaquer au média de harcèlement à grande échelle le plus efficace que l'histoire humaine a connu.

Non, ils ne veulent pas écouter, discuter ou débattre.
On peut critiquer Musk, mais le faire en utilisant toutes la mauvaise foi, l'hypocrisie et l'ignorance possible c'est juste ridicule (notamment sur ce sujet).

Mais nous vous écoutons, nous en discutons et nous essayons d'en débattre, ce qui est beaucoup plus compliqué parce que nous ne partons pas du même point de départ.
On peut soutenir Musk, mais le faire en utilisant toutes la mauvaise foi, l'hypocrisie et l'ignorance possible c'est juste ridicule (notamment sur ce sujet), la balle est facile à retourner

Ce genre de remarque est juste un encouragement à une sorte d'auto-censure des logiiels d'IA, mais la censure est-elle une solution car elle peut aussi être considérée comme une déviation grave d'un outil en "cachant" une partie des informations ...

Doit-il y avoir de la censure au sein même des IA?
J'en suis convaincu, il me semble évident qu'une IA ne doit pas encourager à (se) donner la mort, ne doit pas créer d'éléments pédophiles etc...
Et pourtant je pense qu'on doit vivre avec le fait qu'il existera toujours des moyens de détourner pour arriver à ces objectifs.
Et pourtant je crois que ces sujets ne doivent pas être tabou dans l'IA (genre éviter les attitudes à la Deepseek qui s'arrête de fonctionner quand on parle de Taiwan) parce que pouvoir en parler et aussi un moyen de prévenir les évènements catastrophiques.

Je pense que le vrai débat est : devons nous relier une IA et un réseau social directement?
Ma réponse est clairement non parce que l'IA et une machine à créer de l'information approximative et le réseau social est un moyen de la diffuser à grande échelle avec le minimum d'effort.
Nous sommes dans une société où une partie des drames qui arrivent ne sont pas dûs à une seule cause mais à la combinaison de plusieurs. Et je penses qu'il est malhonnête de ne s'attaquer qu'à l'une. Et je pense que ça l'est d'autant plus d'utiliser l'une pour dédouaner l'autre.

[BenoitM]

Bonjour,
Si j'écrase quelqu'un avec mon véhicule le constructeur doit-il être tenu pour responsable.

Non, par contre le constructeur doit respecter des normes : sécurité, de pollution, ...

Si j'envoie un mail d'insultes, le service de mail peut-il être tenu pour responsable ?

Non car le service mail ne publie pas les informations. Mais un journal lui est responsable s'il publie votre lettre

[Jon Shannow]

Bonjour,
Il est simple d'accuser l'outil et de faire du Musk-washing ...
Si j'écrase quelqu'un avec mon véhicule le constructeur doit-il être tenu pour responsable.

On a déjà dit et redit que ça ne fonctionne pas les analogies voitures/informatique !

Dans ton cas, le constructeur n'a pas donné comme fonction à son véhicule d'écraser quelqu'un.
Là, on a un logiciel qui permet de réaliser quelque chose d'illégale. C'est donc bien les concepteurs et distributeurs du logiciel qui sont responsables de la production.
Ils ne sont pas responsables de la diffusion.
Mais, là, encore, le support de diffusion se retrouve être le même Musk, et là encore, il ne respecte pas les lois qui interdisent de diffuser ce genre de photos.

Qu'est-ce que vous voulez de plus ?