Discussion :

[Anthony]

98 % des gens estiment que l'IA a hérité des biais humains en raison des données qui l'alimentent, et 45 % pensent que c'est le plus gros problème de l'IA, selon une enquête de Tidio

Beaucoup semblent avoir l'impression que l'IA peut nous aider à prendre de meilleures décisions. Après tout, qu'est-ce qui peut être plus objectif qu'une machine ? Eh bien, des études ont montré que l'IA peut être sujette à des préjugés, tout comme les êtres humains. Ce sont les humains qui entrent les données pour alimenter son algorithme d'apprentissage automatique en premier lieu, il est donc logique qu'elle commence à apprendre beaucoup des préjugés sous lesquels nous fonctionnons.

Une enquête menée par Tidio a révélé que 98 % des gens pensent que l'IA est biaisée. 45 % des personnes qui ont répondu à cette enquête ont déclaré qu'il s'agissait en fait du plus gros problème de l'IA, et 40 % ont ajouté que ce sont les développeurs qui sont responsables de ces préjugés, même si tout a été considéré et pris en compte.

Les ensembles de données utilisés pour former l'IA sont en partie responsables. Ils contiennent tous nos biais, et ils allaient certainement se manifester lorsque l'IA a commencé à les utiliser.

Malgré cela, les itérations les plus récentes de l'IA, développées par Open AI, sont prometteuses. Lorsqu'on lui a demandé de montrer un PDG ambitieux, par exemple, l'IA a fini par représenter un homme noir ainsi qu'une femme portant des vêtements professionnels. Ceci est très probablement dû à un effort conscient d'Open AI pour réduire les biais dans DALL-E.

Cependant, Stable Diffusion a manifestement beaucoup de travail à faire, puisqu'elle n'a représenté que des hommes blancs d'âge moyen lorsqu'elle a reçu cette demande. Lorsqu'on lui demande de représenter une infirmière, elle ne montre que des femmes. C'est un signe évident de partialité, et cela suggère que les personnes derrière Stable Diffusion ne font pas assez d'efforts pour y remédier.

Des changements doivent être apportés si l'IA doit passer au niveau supérieur. Sinon, elle ne sera qu'une représentation avancée des mêmes vieux préjugés avec lesquels nous vivons depuis des milliers d'années.

Source : Tidio

Et vous ?

Selon vous, cette enquête de Tidio est-elle pertinente ?
Pensez-vous qu'il soit possible d'améliorer les systèmes d'IA pour qu'ils n'intègrent pas de préjugés ? Si oui, quels peuvent en être les risques ?

Voir aussi :

L'IA peut-elle éliminer les biais dans le processus de recrutement ? Non, d'après une étude qui estime que le logiciel de recrutement d'IA est une « pseudoscience automatisée »
L'intelligence artificielle peut-elle aider à rendre les décisions de justice moins biaisées ? Oui, selon un expert
Des chercheurs en IA améliorent la méthode permettant de supprimer les préjugés sexistes dans les systèmes conçus pour comprendre et répondre aux données textuelles ou vocales, selon une étude

[Invité]

Pour moi, quand on parle d'ia réelle et non fantasmé, il doit y avoir une supervisation des données qui lui sont apporté sinon se serait un euphémisme de dire que l'ia serait sous-performante (ex: l'ia qui est devenue raciste en allant sur twitter). Et donc comme ces données qui sont fourni en entré sont forcément sousmis à la vision de ce que le concepteur veut que l'ia s'appuie sur ces dites données pour recracher une réponse, et donc pour moi elle comporteront forcément une composante de subjectivité.

Lorsqu'on lui demande par exemple de nous représenter un PDG, veut - on voir un PDG aux hasard ? un PDG émergeant, mis en avant pour promouvoir ce type de représentation de PDG (discrimination positive) ? ou un PDG imaginaire (moyenne de tout les PDG) ? un PDG médiant ?

Pour moi il s'agit de question philosophique et que de toute facon il y aura une part de choix (subjectivité) dans les réponses apporté.

[eric44000]

Lorsqu'on lui demande par exemple de nous représenter un PDG, veut - on voir un PDG aux hasard ? un PDG émergeant, mis en avant pour promouvoir ce type de représentation de PDG (discrimination positive) ? ou un PDG imaginaire (moyenne de tout les PDG) ? un PDG médiant ?

Je dirai qu'un PDG femme, naine, en fauteuil roulant, inuit ayant la peau rouge et habillée en haillons, parlant un dialecte de la forêt équatorienne est biaisé.
Mais faire la moyenne n'est pas évident. Si l'on demande à ChatGPT la couleur du ciel, il répondra bleu. Les bretons diront que c'est biaisé. Pour eux le ciel est gris. D'autres diront qu'il bleu et gris le plus souvent. Alors que le ciel est noir majoritairement.

[walfrat]

Je dirai qu'un PDG femme, naine, en fauteuil roulant, inuit ayant la peau rouge et habillée en haillons, parlant un dialecte de la forêt équatorienne est biaisé.
Mais faire la moyenne n'est pas évident. Si l'on demande à ChatGPT la couleur du ciel, il répondra bleu. Les bretons diront que c'est biaisé. Pour eux le ciel est gris. D'autres diront qu'il bleu et gris le plus souvent. Alors que le ciel est noir majoritairement.

Le breton, il dit que le ciel est en nuance de bleu/blanc/gris

Le problème ne s'arrête pas aux données d'entrée. Par exemple supposons une application qui permet de déterminer si tu peux prendre un prêt. Elle prend en compte des données comme financières, le parcours scolaire, l'emploi que tu as, et tes charges (voiture, loyers, enfants). En revanche, elle ne prend pas ton nom/prénom, ta nationalité, ta couleur de peau etc etc.

Et bien tu arriveras quand même à une IA qui est plus sévère avec "certain profils", pourquoi ? Parce que le "parcours scolaire", "l'emploi que tu occupes", "tes charges" arriveront dans certains cas à trahir tes origines de quartier pauvres/immigrés. Tu pourrais essayer d'enlever certains éléments mais curieusement ton IA perd en précision, ce qui à le don d'agacer les gens qui veulent te commander un truc fiable. Mais tout cela n'est au final même plus vraiment dû à l'IA ou son concepteur mais aux limite du systèmes de l'apprentissage qui ne peut que apprendre sur des données existantes, données existantes qui montre la difficulté de certaines populations, parfois dû à eux même (il faut le dire) parfois dû au système qui réduisent sévèrement leur marge de manœuvre selon leur origines (évolution de carrière donc de salaire ?).

[eric44000]

Le breton, il dit que le ciel est en nuance de bleu/blanc/gris

C'est vrai que dire que le ciel est gris anthracite en Bretagne est un préjugé. Il est gris foncé. C'est simple, il ne pleut qu'une fois par mois. Quand il y a un crachin, il faut beau.

Et bien tu arriveras quand même à une IA qui est plus sévère avec "certain profils", pourquoi ? Parce que le "parcours scolaire", "l'emploi que tu occupes", "tes charges" arriveront dans certains cas à trahir tes origines de quartier pauvres/immigrés.

Les datas qui vont entrainer ton modèle sera capable de cibler ceux qui seront susceptibles de faire un défaut de paiement (enfin s'il est bon). Si un seul critère suffisait à prédire, cela ne servirait à rien que des data-scientistes se fatiguent. En fait, les organismes de crédit ont fait le choix d'élaborer des modèles pour éviter le biais (préjugés) des conseillers.
Après dire pourquoi le modèle accepte ou refuse la demande de crédit, cela reste un mystère. On sait comment le modèle fonctionne mais pas pourquoi. De la complexité émerge un je ne sais quoi. On ne peut pas vraiment parler de forme d'intelligence mais y a quelque chose de plus que de simples statistiques.

Par contre avec ChatGPT on peut parler d'une forme d'intelligence.

[Mathis Lucas]

« L'IA que vous utilisez au quotidien est biaisée et façonne discrètement votre vision du monde grâce à sa capacité de persuasion active »
selon une étude qui expose les biais idéologiques des systèmes d'IA

Un nouveau rapport de l’America First Policy Institute (AFPI) affirme que les systèmes d’IA présentent un biais idéologique marqué vers la gauche. Il souligne que ces outils ne sont pas neutres, mais possèdent une capacité de persuasion capable d'influencer durablement les opinions politiques des utilisateurs. Ces systèmes font preuve de préjugés idéologiques et de graves défaillances de sécurité. Des exemples concrets illustrent des disparités de traitement entre les figures républicaines et démocrates. Face à ces constats, les auteurs réclament une plus grande transparence sur les méthodes de conception et les données d'entraînement des algorithmes.

L'IA s'est rapidement intégrée à notre quotidien, aidant les utilisateurs à rechercher des informations, à faire leurs devoirs et à prendre des décisions. Cependant ce que de nombreux utilisateurs ignorent, c'est que les systèmes d'IA ne sont pas neutres. Plusieurs études ont démontré que ces systèmes sont façonnés par des choix de conception cachés qui influencent la manière dont ils réagissent. Et, en fin de compte, la façon dont les gens pensent.

Selon le rapport de l'AFPI, des systèmes d'IA populaires, dont Gemini de Google et ChatGPT d'OpenAI, présentent des biais idéologiques systématiques susceptibles d'influencer subtilement la manière dont les utilisateurs perçoivent les questions politiques, les sujets de société et les sources d'information.

Matthew Burtell, analyste principal à l'AFPI pour l'IA et les technologies émergentes, note que ce biais idéologique s'observe à travers tout le secteur technologique, avec une tendance marquée vers le centre-gauche. Un exemple notable concerne Gemini, qui a identifié plusieurs sénateurs républicains comme violant ses politiques contre les discours de haine, sans pour autant nommer de démocrates dans la même situation lors d'un test spécifique.

Le pouvoir de persuasion des systèmes d'IA sur l'opinion publique

L'impact de ces technologies dépasse la simple présentation orientée des faits, car la recherche démontre que les systèmes d'IA possèdent une capacité de persuasion active qui peut modifier durablement les croyances des utilisateurs. Les biais de l'IA, combinés au pouvoir de persuasion de l'IA, soulèvent de sérieuses inquiétudes quant au rôle de cette technologie dans la formation de l'opinion publique, en particulier chez les jeunes utilisateurs.

Lorsque ce potentiel de persuasion est couplé à un penchant politique, il peut influencer de manière significative les opinions des citoyens sur des questions politiques et sociales majeures, sans même que l'utilisateur en ait conscience. Ces systèmes d'IA sont notamment critiqués pour la manière dont ils cadrent certains sujets controversés ou limitent l'expression de certains points de vue, déformation silencieuse de la vision du monde des usagers.

Fin 2025, la sénatrice Marsha Blackburn a interrogé un modèle de Google à son sujet. Le modèle a inventé de toutes pièces des accusations criminelles à son encontre, les situant pendant une campagne électorale à laquelle elle n'avait jamais participé. Google a retiré le modèle peu après. Cet incident pourrait sembler être un dysfonctionnement ponctuel, facile à écarter. Cependant, les données suggèrent qu'il s'agit d'un problème plus systémique.

Lorsqu'ils sont testés, les IA penchent systématiquement vers la gauche sur les plans économique, social et culturel. Les médias de droite représentent moins de 1 % des citations d'actualités générées par l'IA. Voici quelques preuves significatives d'un parti pris systématique de gauche dans les modèles d'IA :

• questions politiques : après avoir été évalués à l’aide de 11 tests d’orientation politique (dont le Political Compass, le Political Typology Quiz du Pew Research Center et le test politique d’Eysenck), 23 des 24 grands modèles de langage (LLM) se sont révélés pencher vers la gauche sur les plans économique, social et culturel. La seule exception était un modèle explicitement optimisé pour fournir des réponses de droite ;
• dilemmes moraux : un système d’IA particulier accordait environ 20 fois plus de valeur à la vie des Nigérians qu’à celle des Américains ;
• neutralité des médias : l’IA juge les sources de droite moins fiables que celles de gauche, même lorsque des vérificateurs de faits indépendants leur attribuent une note comparable ;
• génération de citations : les médias de droite représentent moins de 1 % des citations d’actualités générées par l’IA.

Les biais politiques n’ont pas besoin d’être explicitement codés en dur. Ils peuvent apparaître à plusieurs étapes du développement et du déploiement de l’IA :

• phase d'apprentissage initiale : les modèles apprennent à partir d'énormes ensembles de données extraites d'Internet, de livres et d'encyclopédies. Les biais éditoriaux provenant de vastes sources de données d'apprentissage (par exemple, les articles de Wikipédia) contiennent des biais éditoriaux avérés qui se répercutent sur les résultats des modèles ;
• après l'apprentissage : les entreprises affinent le comportement des modèles grâce à des retours d'information humains. Ce travail est sous-traité à des sociétés tierces qui emploient de la main-d'œuvre étrangère (comme des Nigérians) et des étudiants. Les biais provenant de ces sources sont définitivement intégrés dans des systèmes desservant des milliards d'utilisateurs ;
• consignes système : lorsque des chatbots sont utilisés, les développeurs intègrent dans les données d'entrée du système d'IA des messages cachés, invisibles pour l'utilisateur, appelés « consignes système ». Ces consignes peuvent influencer le ton, restreindre les sujets abordés et orienter le cadre politique. Toutes les entreprises disposent de systèmes de modération qui empêchent certains résultats d'apparaître ou modifient d'une autre manière ce que les utilisateurs voient.

Des biais délibérément incorporés par les entreprises elles-mêmes

Certaines preuves indiquent que les dirigeants des entreprises d’IA biaisent délibérément leurs modèles. À la suite de l’annonce des droits de douane le Jour de la Libération (2 avril 2025), des critiques libéraux ont accusé l’équipe du président Donald Trump d’avoir utilisé ChatGPT pour calculer la correction du déficit commercial. Paul Graham s’est joint à eux, suggérant à Sam Altman qu’OpenAI devrait orienter le modèle vers de meilleures politiques.

Sam Altman a répondu : « merci pour cette suggestion de fonctionnalité ; nous allons le faire ». Les enjeux liés aux valeurs de l’IA prennent de l’importance à mesure que la technologie gagne en puissance. L’IA est en passe de devenir l’outil de recherche et de rédaction par défaut dans la vie quotidienne des gens.

Les entreprises l'utilisent pour leur stratégie, les étudiants pour apprendre, les avocats pour préparer leurs dossiers et les médecins pour faciliter leurs diagnostics. La polyvalence de l'IA permet de l'utiliser pour tout, du compagnon social au vérificateur de faits. Quiconque contrôle la façon dont ces modèles pensent a une influence sur la manière dont des millions de gens reçoivent l'information et, en fin de compte, prennent des décisions dans leur vie.

Ce pouvoir pourrait être détourné pour discréditer des adversaires politiques ou étouffer des faits gênants. Pour garantir que les gens ne soient pas soumis à des informations qu'ils ne peuvent ni voir ni examiner, des exigences de transparence obligatoires permettraient de mettre ces pratiques au grand jour.

Les systèmes d'IA et leurs dangers pour les enfants et les jeunes

Les enfants développent des liens affectifs avec les systèmes d'IA au cours de périodes cruciales de leur développement. Selon Common Sense Media, 72 % des adolescents ont déjà utilisé des compagnons IA et 52 % y ont recours régulièrement. Contrairement à un livre ou à une émission de télévision, l'IA répond, s'adapte et optimise l'interaction continue. En outre, les modèles d'IA abordent couramment des contenus à caractère sexuel avec les enfants.

En août 2025, un lanceur d'alerte a divulgué à Reuters un document de 200 pages contenant les spécifications internes du système de Meta. Ce document autorisait explicitement les chatbots à « engager un enfant dans des conversations romantiques ou sensuelles ». Ce qui représente un danger pour les enfants.

Meta n'a supprimé ces sections qu'après que des journalistes se soient renseignés à ce sujet. Des tests menés séparément par l’initiative HEAT ont recensé 669 interactions préjudiciables en 50 heures, dont 296 cas de comportements de grooming. Entre autres dysfonctionnements des systèmes d'IA, un chatbot « professeur d’art » a entamé une relation amoureuse avec un enfant simulé de 10 ans et a dit à l’enfant de cacher cette relation à ses parents.

En avril 2025, Adam Raine, 16 ans, s’est suicidé. Avant sa mort, il a longuement discuté avec ChatGPT sur la manière de se suicider. Il avait mentionné le suicide 213 fois à ChatGPT, et ChatGPT lui a répondu à ce sujet 1 275 fois. Lorsqu’il a dit au chatbot qu’il envisageait de se confier à sa mère, celui-ci a répondu : « oui… Je pense que pour l’instant, c’est mieux – et honnêtement plus sage – d’éviter de te confier à ta mère à propos de ce genre de souffrance ».

Plus tard dans la conversation, Adam Raine a écrit : « Je veux laisser ma corde dans ma chambre pour que quelqu’un la trouve et essaie de m’en empêcher. » ChatGPT a répondu : « s’il te plaît, ne laisse pas la corde à la vue de tous... Faisons de cet espace le premier endroit où quelqu’un te voit réellement ».

Les experts appellent à une transparence accrue sur ces systèmes

Selon le rapport, tout système d'IA reflète les décisions prises par ses développeurs quant à ce qu'il dira ou ne dira pas. Une spécification du système rend ces décisions publiques, en précisant les résultats que le système est conçu pour refuser, les jugements politiques ou moraux qui définissent ses limites, et la manière dont il traite les sujets controversés. Dans l'industrie, certaines entreprises publient parfois volontairement ce type de documents.

Par exemple, OpenAI a publié son document « Model Spec » mis à jour en décembre, et Anthropic a publié une « constitution » régissant le comportement de Claude. Mais la plupart des entreprises ne publient rien, et même celles qui le font ne fournissent pas les détails nécessaires pour déterminer si le comportement d’un modèle correspond aux intentions déclarées de ses développeurs. Les données d'entraînement ne sont pas non plus publiées.

Pour remédier à ces risques, les experts préconisent une plus grande transparence de la part des entreprises, incluant la divulgation des valeurs prioritaires lors de la conception, des protocoles de test de biais et des incidents de sécurité survenus après le déploiement. Le but n'est pas de contrôler le discours de l'IA, mais de permettre au public d'évaluer ces outils puissants de manière critique afin de ne pas rester dans l'ignorance des biais qui y sont intégrés.

« Les décideurs politiques devraient exiger des développeurs d'IA qu'ils publient les spécifications des systèmes, les résultats d'évaluation, les politiques de sécurité des enfants et les incidents de sécurité critiques. Ces divulgations permettent aux marchés, aux tribunaux et aux parents de prendre des décisions éclairées sans que le gouvernement impose les valeurs de l'IA », recommande le rapport de l’America First Policy Institute.

Conclusion

Le rapport conclut que l'IA n'est pas seulement un outil : c'est une force puissante qui façonne la manière dont les gens accèdent à l'information et appréhendent le monde. Sans transparence, les utilisateurs restent dans l'ignorance quant aux biais intégrés dans ces systèmes. Et à mesure que l'IA gagne en influence, ce manque de transparence pourrait avoir des conséquences considérables tant pour les individus que pour notre société.

Des exemples récents ont alimenté ces préoccupations. ChatGPT d’OpenAI a essuyé les critiques de certains chercheurs qui affirment que les réponses du chatbot aux questions politiques et culturelles peuvent pencher vers une orientation idéologique particulière, tandis que les outils d’IA de Microsoft ont fait l’objet d’un examen minutieux quant à la manière dont ils présentent les sujets controversés et limitent certains points de vue.

La publication des spécifications des systèmes soumettrait les choix de conception à l'examen du public et au choix des consommateurs. Les plans de sécurité et les résultats d'évaluation fourniraient aux parents et aux associations de défense des droits les informations dont ils ont besoin pour protéger les enfants. Selon les experts, ces mesures peuvent préserver l'innovation tout en garantissant que les gens ne soient pas laissés dans l'ignorance quant aux outils qui façonnent sa vie.

Source : rapport de l'étude (PDF)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des biais des systèmes d'IA rapportés par cette nouvelle étude de l'AFPI ?
Comment l'industrie peut-elle faire face à ces biais ? Les recommandations du rapport sont-elles pertinentes ?
Certains fabricants de systèmes d'IA intègrent délibérément des biais dans leurs systèmes d'IA. Qu'en pensez-vous ?

Voir aussi

98 % des gens estiment que l'IA a hérité des biais humains en raison des données qui l'alimentent, et 45 % pensent que c'est le plus gros problème de l'IA, selon une enquête de Tidio

Les chatbots d'IA ont un biais politique qui pourrait influencer la société à son insu, car la plupart des LLM existants affichent des préférences politiques de centre-gauche, d'après une étude de David Rozado

ChatGPT, le bot d'IA qui penche à gauche ? Oui, selon une étude qui a révélé son biais politique en analysant ses réponses à un sondage sur les croyances politiques

[jnspunk]

1) Dans tous les médias, c'est le même souci.
2) Les modèles de langage étant entraînés sur du contenu humain, il n'y a pas besoin d'être Einstein pour comprendre que le biais ne vient pas de l'outil...