Discussion :

[Anthony]

Les entreprises ne s'autoréguleront pas en raison de la "ruée vers l'or" de l'IA à moins d'y être contraintes, selon une ex-chercheuse de Google licenciée après avoir mis en évidence les biais de l'IA

Une ancienne chercheuse de Google, qui a déclaré avoir été licenciée après avoir mis en évidence les biais de l'IA, a averti que la "ruée vers l'or" actuelle en matière d'IA signifie que les entreprises ne s'autoréguleront pas à moins qu'elles ne soient soumises à des pressions.

Timnit Gebru, une scientifique spécialisée dans l'intelligence artificielle, était coresponsable de l'équipe chargée de l'éthique de l'IA chez Google, avant d'être évincée en 2020 à la suite d'un conflit avec l'entreprise. Mme Gebru s'est confiée à The Guardian dans une interview publiée le lundi 22 mai 2023.

Cette femme de 40 ans, qui a également travaillé chez Apple et Microsoft, a expliqué que le battage médiatique autour de l'IA signifiait que les mesures de protection étaient mises de côté.

"À moins qu'il n'y ait une pression extérieure pour faire quelque chose de différent, les entreprises ne vont tout simplement pas s'autoréguler", a-t-elle déclaré au Guardian. "Nous avons besoin d'une réglementation et de quelque chose de mieux qu'une simple motivation de profit."

"On a l'impression d'assister à une ruée vers l'or", a ajouté Mme Gebru. "En fait, c'est une ruée vers l'or. Et beaucoup de ceux qui gagnent de l'argent ne sont pas ceux qui sont au cœur de l'action. Mais ce sont les humains qui décident si tout cela doit être fait ou non. Nous devrions nous rappeler que nous avons le pouvoir de le faire".

Mme Gebru a quitté Google peu de temps après avoir rédigé, avec des collègues, un document de recherche mettant en évidence les biais inhérents aux outils d'intelligence artificielle.

La direction de Google aurait contesté l'article et lui aurait demandé de le retirer ou de supprimer son nom et celui de ses collègues. Mme Gebru a précisé au Guardian qu'elle avait refusé de rétracter l'article et qu'elle ne retirerait les noms des auteurs que si Google formulait clairement ses critiques.

Mme Gebru affirme avoir été licenciée après cela, mais Google prétend qu'elle a démissionné, selon The Guardian.

"Nous pensons que notre approche de l'IA doit être à la fois audacieuse et responsable. Cela signifie qu'il faut développer l'IA de manière à maximiser les avantages pour la société tout en relevant les défis, conformément à nos principes en matière d'IA", a déclaré Google dans un communiqué.

"Le document ne dit rien de surprenant pour quiconque travaille avec des modèles de langage", a déclaré à l'époque un employé qui a examiné le rapport. "En fait, il donne une mauvaise image de ce que fait Google."

Le chatbot d'OpenAI, ChatGPT, a été lancé en novembre 2022 et est devenu l'application grand public à la croissance la plus rapide de l'histoire de l'internet. Google a lancé sa propre version, Bard, en mars.

Source : The Guardian

Et vous ?

Quel est votre avis sur le sujet ?

Trouvez-vous que le point de vue de Mme Gebru est pertinent ?

Êtes-vous d'accord avec l'affirmation selon laquelle le développement de l'IA doit aller au-delà de la simple recherche de profit et chercher à maximiser les avantages pour la société ?

Comment percevez-vous l'état actuel du développement de l'IA et les biais potentiels des outils d'IA ?

Voir aussi

L'autorité chinoise de régulation du cyberespace a proposé une série de mesures pour gérer les services d'IA générative, afin que les contenus créés soient conformes aux valeurs socialistes du pays

Les législateurs de l'UE s'accordent sur un projet de règles plus strictes en matière d'IA, les IA génératives comme ChatGPT devraient donner un résumé détaillé des données de formation sous copyright

L'IA et les droits civils : comment les pays s'adaptent à ChatGPT, et aux autres technologies qui échappent à tout contrôle

« Le développement de l'IA sans réglementation induit une menace existentielle pour l'humanité », d'après Elon Musk dont une société développe des puces à insérer dans le cerveau pour contrer l'IA

[JackIsJack]

C'est creux...

[totozor]

C'est creux...

Je suis d'accord mais il n'empeche qu'elle a probablement raison.
Les grandes entreprises actuelles exploitent les innovations aussi loin que possible si on ne les contraint pas, les nombreux scandales d'exploitations des données de facebook en est un exemple.

Lors d'une formation (qui était plus une lonnngue conférence) sur le 4.0 et l'IA j'ai demandé comment nous assurrer que nos avancées restent éthiques, je prenais l'exemple de l'autopilote de Tesla qui fait ses phases de test sur les routes au détriment possible de personnes qui n'ont consenti à rien. La réponse du formateur a été aussi courte que simple : si nous respectons les reglementations nous sommes éthiques. Dans la suite de la formation on nous a expliqué comment on peut récupérer des données gratuitement sur nos clients puis leur revendre et qu'ils soient heureux de ça.
Pendant cette formation nous avons fait des exercices de manières "d'améliorer le monde" parmi les propositions nous avons eu : des serrures électroniques gérées par nos assurrances, un analyseur de nourriture pour alimenter un "crédit santé", crédit santé qui a beaucoup inspiré les gens (controle du tabagisme, du sport, du temps d'écran etc), ce qui a mené à une lutte entre ceux qui mangent bien mais ne font pas de sport et les sportifs qui fument etc...

Si tu ne met pas de limites aux grandes entreprises, elles iront aussi loin que possible.

[walfrat]

Je suis d'accord mais il n'empeche qu'elle a probablement raison.
Les grandes entreprises actuelles exploitent les innovations aussi loin que possible si on ne les contraint pas, les nombreux scandales d'exploitations des données de facebook en est un exemple.

Lors d'une formation (qui était plus une lonnngue conférence) sur le 4.0 et l'IA j'ai demandé comment nous assurrer que nos avancées restent éthiques, je prenais l'exemple de l'autopilote de Tesla qui fait ses phases de test sur les routes au détriment possible de personnes qui n'ont consenti à rien. La réponse du formateur a été aussi courte que simple : si nous respectons les reglementations nous sommes éthiques. Dans la suite de la formation on nous a expliqué comment on peut récupérer des données gratuitement sur nos clients puis leur revendre et qu'ils soient heureux de ça.
Pendant cette formation nous avons fait des exercices de manières "d'améliorer le monde" parmi les propositions nous avons eu : des serrures électroniques gérées par nos assurrances, un analyseur de nourriture pour alimenter un "crédit santé", crédit santé qui a beaucoup inspiré les gens (controle du tabagisme, du sport, du temps d'écran etc), ce qui a mené à une lutte entre ceux qui mangent bien mais ne font pas de sport et les sportifs qui fument etc...

Si tu ne met pas de limites aux grandes entreprises, elles iront aussi loin que possible.

Après soyons honnêtes, ce n'est pas nouveau au 3ème millénaire et nos politiques sont censés le savoir depuis le temps.

[Anselme45]

L'auto-régulation est l'Arlésienne du capitalisme!

L'auto-régulation ne fonctionne jamais même lorsqu'elle fait l'objet d'une législation...

Qui serait prêt à abandonner du pognons en libre service à cause d'une quelconque règle morale dont la non-application n'est pas sanctionnée???

A une époque de notre histoire où le genre humain croyait encore en la religion, il y aurait eu 2 ou 3 neuneus pour se dire "j'irai en enfer si..." mais aujourd'hui?

[walfrat]

L'auto-régulation est l'Arlésienne du capitalisme!

L'auto-régulation ne fonctionne jamais même lorsqu'elle fait l'objet d'une législation...

Qui serait prêt à abandonner du pognons en libre service à cause d'une quelconque règle morale dont la non-application n'est pas sanctionnée???

A une époque de notre histoire où le genre humain croyait encore en la religion, il y aurait eu 2 ou 3 neuneus pour se dire "j'irai en enfer si..." mais aujourd'hui?

Les USA sont censé être très religieux hein, dur de penser dans les faits qu'ils croient à l'enfer

[free07]

Je suis d'accord mais il n'empeche qu'elle a probablement raison.
Les grandes entreprises actuelles exploitent les innovations aussi loin que possible si on ne les contraint pas, les nombreux scandales d'exploitations des données de facebook en est un exemple.

Lors d'une formation (qui était plus une lonnngue conférence) sur le 4.0 et l'IA j'ai demandé comment nous assurrer que nos avancées restent éthiques, je prenais l'exemple de l'autopilote de Tesla qui fait ses phases de test sur les routes au détriment possible de personnes qui n'ont consenti à rien. La réponse du formateur a été aussi courte que simple : si nous respectons les reglementations nous sommes éthiques. Dans la suite de la formation on nous a expliqué comment on peut récupérer des données gratuitement sur nos clients puis leur revendre et qu'ils soient heureux de ça.
Pendant cette formation nous avons fait des exercices de manières "d'améliorer le monde" parmi les propositions nous avons eu : des serrures électroniques gérées par nos assurrances, un analyseur de nourriture pour alimenter un "crédit santé", crédit santé qui a beaucoup inspiré les gens (controle du tabagisme, du sport, du temps d'écran etc), ce qui a mené à une lutte entre ceux qui mangent bien mais ne font pas de sport et les sportifs qui fument etc...

Si tu ne met pas de limites aux grandes entreprises, elles iront aussi loin que possible.

Après soyons honnêtes, ce n'est pas nouveau au 3ème millénaire et nos politiques sont censés le savoir depuis le temps.

L'auto-régulation est l'Arlésienne du capitalisme!

L'auto-régulation ne fonctionne jamais même lorsqu'elle fait l'objet d'une législation...

Qui serait prêt à abandonner du pognons en libre service à cause d'une quelconque règle morale dont la non-application n'est pas sanctionnée???

A une époque de notre histoire où le genre humain croyait encore en la religion, il y aurait eu 2 ou 3 neuneus pour se dire "j'irai en enfer si..." mais aujourd'hui?

Ce qui amène à se demander quel pouvoir on les politiques face aux multinationales ? c'est complexe, par exemple j'imagine mal un ou des hommes politiques aller à l'encontre de sociétés ou personnes qui les ont aidé à financer leur campagne électoral, c'est juste un exemple car j'imagine bien que ces relations sont délicates et complexes : des hommes qui élaborent et font appliquer des lois et celle des entreprises qui ont un énorme poids financier et social avec des intérêts qui peuvent aller à l'encontre du bien commun ou de l'intérêt général.