Discussion :

[Olivier Famien]

Plus de 1000 employés de Google signent une lettre pour demander des comptes à l'entreprise
au sujet du « licenciement » subit de leur collègue Timnit Gebru, une chercheuse de haut niveau en IA, qui souhaitait publier un rapport sur l’IA éthique

Depuis quelques jours, le milieu scientifique de l’intelligence artificielle connaît quelques remous après que Timnit Gebru, coresponsable technique de l'équipe IA (intelligence artificielle) éthique de Google, a déclaré sur sa page Twitter qu’elle venait d’être licenciée par Jeff Dean, chef de l'unité IA de Google. Cette situation est survenue à la suite d’un email que la chercheuse noire a envoyé à la liste de diffusion Google Brain Women and Allies de l’unité IA de l’entreprise afin d’exprimer sa frustration sur un document de recherche qu’elle espérait publier, mais qui avait été rejeté par ses supérieurs.

Licenciement de Timnit Gebru : comment en est-on arrivé là ?

Pendant plusieurs mois, le Dr Gebru et d’autres scientifiques (quatre collègues de Google et des collaborateurs extérieurs à l’entreprise) ont travaillé sur un article qui devait être révisé par Google avant sa publication. Fin novembre, cinq semaines après que l'article a été revu en interne et approuvé pour publication via des processus standards, la direction de Google a pris la décision de le censurer, sans donner plus de raisons. Selon les déclarations faites par Gebru, un des cadres de Google lui aurait demandé, soit de retirer son nom de l’article avant la publication, soit de le retirer tout simplement, car un examen interne aurait jugé le contenu non conforme aux standards de l’entreprise. L’article en question aborde les problèmes éthiques soulevés par les progrès récents des technologies IA qui fonctionnent avec le langage, recherche très importante pour l’avenir de Google.

Dans le document qui devait être publié, les chercheurs ont montré que la création de ces modèles IA plus puissants consomme de grandes quantités d'électricité en raison des vastes ressources informatiques requises. Ils ont également expliqué comment les modèles peuvent reproduire un langage biaisé en s’appuyant sur les données en ligne sur la race ou le sexe. Le document a en outre encouragé l'utilisation responsable de la technologie en documentant par exemple les données utilisées pour créer des modèles de langage. Mais les choses se sont compliquées lorsqu’il a été demandé à Timnit Gebru de ne pas publier le document ou de le faire sans ajouter les noms des auteurs.

Mardi 1^er décembre, Gebru aurait répondu par courriel pour proposer à Jeff l’accord suivant : si elle recevait une explication complète de ce qui s'était passé et que l'équipe de recherche rencontrait la direction pour convenir d'un processus de traitement équitable des recherches futures, elle retirerait son nom du document. Sinon, elle s'arrangerait pour quitter l'entreprise à une date ultérieure, la laissant libre de publier l'article sans faire référence à Google.

Manifestement, un point d’accord n’a pas pu être trouvé. Le mercredi 2 décembre, elle a donc envoyé un email au groupe Google Brain Women and Allies de Google afin de partager sa frustration avec les membres au sujet du mode de révision des documents, mais aussi au sujet du traitement des minorités au sein de Google. Dans cet email, Gebru a fait savoir que « cette organisation semble avoir embauché environ 14 % de femmes cette année ». Elle ajouta qu’« il n'y a aucune incitation à embaucher 39 % de femmes : votre vie s'aggrave lorsque vous commencez à plaider pour les personnes sous-représentées, vous commencez à mettre les autres dirigeants en colère ». « Il n'y a aucun moyen que plus de documents ou plus de conversations aboutissent à quoi que ce soit ». Au sujet de son article, elle expliqua dans son email qu’elle a essayé d’obtenir des réponses après que son supérieur l’a informée que l’article était rejeté, mais aucune explication ne lui a été fournie. Pour elle, cette action n'est qu’une tentative de la faire taire. « Faire taire les voix marginalisées comme celle-ci est le contraire des principes du NAUWU dont nous avons discuté. Et faire cela dans le contexte d'une “IA responsable” ajoute tellement de sel aux blessures », déclara-t-elle.

Le même mercredi, les choses se sont accélérées. Gebru déclara que son compte entreprise a été désactivé et un mail lui a été envoyé à son adresse personnelle pour lui signifier que sa démission a été acceptée. La suite on la connaît. Le lendemain, elle annonça sur son compte Twitter qu’elle avait été licenciée, tout en précisant que personne ne lui a dit ouvertement qu’elle avait été licenciée. Il s’en est suivi une vague d’indignation et de protestation contre Google.

Concernant Gebru, il faut savoir qu’est l'une des femmes scientifiques noires les plus connues et les plus respectées travaillant dans le domaine de l'IA. Avant de rejoindre Google en 2018, Gebru a travaillé avec la chercheuse du MIT Joy Buolamwini sur un projet appelé Gender Shades qui a révélé que la technologie d’analyse de visage d'IBM et de Microsoft était très précise pour les hommes blancs, mais très inexacte pour les femmes noires. Cela a aidé à pousser les législateurs et les acteurs américains dans le domaine de la technologie à remettre en cause et à tester l'exactitude de la reconnaissance faciale sur différentes données démographiques. Cela a poussé Microsoft, IBM et Amazon à annoncer qu'ils suspendraient la sortie grand public de cette technologie cette année. Gebru a également cofondé l'organisation à but non lucratif Black in AI qui vise à accroître la représentation des personnes de couleur sur le terrain.

Timnit Gebru

Réactions des acteurs de l’industrie technologique et du monde universitaire

Étant assez connue et respectée dans ce milieu, il n’est donc pas étonnant de voir de nombreuses voix s’élever pour défendre Gebru. Sur la toile, 1604 Googlers (employés de Google) et 2512 personnes du monde universitaire, de l'industrie technologique et de la société civile ont signé une lettre pour apporter leur soutien à la chercheuse IA. Dans cette lettre qui prend ouvertement la défense de Gebru, les auteurs font les déclarations suivantes :

1. Nous exigeons que Jeff Dean (Google Senior Fellow et Senior Vice-President of Research), Megan Kacholia (Vice-President of Engineering pour l’organisation Google Brain) et ceux qui ont participé à la décision de censurer l'article du Dr Gebru rencontrent l’équipe d'IA éthique pour expliquer le processus par lequel le document a été rejeté unilatéralement par les dirigeants.
2. Nous exigeons de la transparence auprès du grand public, y compris les utilisateurs de Google et nos collègues de la communauté universitaire, sur la décision de la direction de Google d'ordonner à Mme Gebru et à ses collègues de retirer leurs recherches sur les modèles linguistiques à grande échelle. Cela est devenu un sujet de préoccupation publique et il est nécessaire de rendre des comptes au public pour garantir toute confiance dans Google Research à l'avenir.
3. Nous demandons à Google Research de s'engager sans équivoque en faveur de l'intégrité de la recherche et de la liberté académique, de renforcer considérablement les engagements pris dans la philosophie de recherche de Google, et de s'engager à soutenir la recherche qui favorise les objectifs des principes d'IA de Google en fournissant des directives claires sur la manière dont la recherche sera examinée et comment l'intégrité de la recherche sera respectée.

Tentative d’éclaircissement effectuée par Jeff Dean

Face à ce déferlement de critiques contre Google, Jeff Dean aurait envoyé l’email ci-dessous à son équipe pour éclaircir tout amalgame.

« Parce qu'il y a eu beaucoup de spéculations et d'incompréhensions sur les médias sociaux, je voulais partager un peu plus sur la façon dont cela s'est passé et vous assurer que nous sommes là pour vous soutenir dans la poursuite des recherches dans lesquelles vous êtes tous engagés.
Timnit a coécrit un article avec quatre collègues de Google ainsi qu'avec des collaborateurs externes qui devaient passer par notre processus de révision (comme c'est le cas pour tous les articles soumis en externe). Nous avons approuvé des dizaines d'articles que Timnit et/ou les autres Googlers ont rédigés puis publiés.

Mais comme vous le savez, les articles nécessitent souvent des modifications au cours du processus de révision interne (ou sont même jugés inadaptés à la soumission). Malheureusement, ce document n'a été partagé qu'avec un préavis d'un jour avant sa date limite — nous avons besoin de deux semaines pour ce type de révision — et au lieu d'attendre les commentaires des examinateurs, il a été approuvé pour soumission et soumis. Une équipe interfonctionnelle a ensuite examiné l'article dans le cadre de notre processus régulier et les auteurs ont été informés qu'il ne respectait pas notre barre de publication et ont reçu des commentaires sur les raisons. L’article a mis de côté trop de recherches pertinentes — par exemple, il a parlé de l'impact environnemental des grands modèles, mais n'a pas tenu compte des recherches ultérieures montrant des gains d'efficacité beaucoup plus importants. De même, il a soulevé des préoccupations concernant les biais dans les modèles de langage, mais n'a pas pris en compte les recherches récentes pour atténuer ces problèmes. Nous reconnaissons que les auteurs ont été extrêmement déçus de la décision que Megan et moi avons finalement prise, d'autant plus qu'ils avaient déjà soumis l'article.

Timnit a répondu par un e-mail en exigeant qu'un certain nombre de conditions soient remplies pour qu'elle puisse continuer à travailler chez Google, ce qui signifie révéler l'identité de chaque personne à qui Megan et moi avions parlé et consultée dans le cadre de l'examen du document et de retour d'information. Timnit a écrit que si nous ne répondions pas à ces exigences, elle quitterait Google et travaillerait sur une date de fin. Nous acceptons et respectons sa décision de démissionner de Google.

Compte tenu du rôle de Timnit en tant que chercheuse respectée et gestionnaire de notre équipe d'IA éthique, je suis désolé que Timnit soit arrivée à un point où elle ressent ainsi le travail que nous faisons. Je suis également désolé que des centaines d’entre vous aient reçu cette semaine un e-mail de Timnit vous demandant de cesser de travailler sur des programmes critiques de DEI. Veuillez ne pas le faire. Je comprends la frustration suscitée par le rythme des progrès, mais nous avons un travail important à faire et nous devons le maintenir.
Je sais que nous partageons tous véritablement la passion de Timnit de rendre l'IA plus équitable et inclusive. Sans aucun doute, partout où elle ira après Google, elle fera un excellent travail et j'ai hâte de lire ses articles et de voir ce qu'elle accomplit.
Merci d'avoir lu et merci pour tout le travail important que vous continuez de faire.
—Jeff »

Que retenir de cette affaire ?

Bien évidemment, il est manifeste qu’avec un tel soutien des Googlers, il y a forcément anguille sous roche. Pour certains, la procédure utilisée par Google pour se séparer de Gebru fait peur, même si l’entreprise estime qu’elle ne marche plus dans sa vision. Toutefois, à la lecture de la réponse de Jeff, et sans remettre en cause les faits rapportés par Gebru, d'autres se demandent si la chercheuse n’a pas trop tiré sur la corde au point d’avoir poussé l’entreprise à se séparer d’elle ? Google étant une entreprise, devrait-elle laisser paraître en l’état un tel article qui pourrait nuire à l’image de ses services sans avoir au préalable apporté des correctifs ? N’aurait-il pas été judicieux pour Gebru d’attendre les corrections de Google par rapport à tous les points relevés dans le rapport avant de le publier comme Google le fait avec Project Zero pour les failles qu’elle trouve ?

Source : Déclaration de licenciement par Timnit Gebru, Précision sur son prétendu licenciement, Emails internes de Timnit Gebru et Jeff Dean, Lettre de soutien à Timnit Gebru

Et vous ?

Avec ce nouvel incident, pensez-vous que l’on doit craindre l’IA ?

Au-delà de la censure du document, comment jugez-vous la décision de Google de se séparer unilatéralement de Gebru ?

Selon vous, Gebru n’a-t-elle pas une part de responsabilité dans cette affaire ?

Voir aussi

Google promet de ne pas utiliser l'IA pour le développement d'armes, mais informe qu'il va continuer à coopérer avec les militaires
Les Googlers contre le conseil d'éthique de l'IA de Google, car il privilégie la proximité du pouvoir, sur le bien-être des groupes marginalisés
Google décide d'offrir son aide pour la gestion des aspects controversés en matière d'éthique de l'intelligence artificielle via un service dédié que l'entreprise entend lancer avant la fin d'année
IA : un guide éthique en développement chez Google pour répondre aux protestations contre la participation de l'entreprise à un projet du Pentagone
L'Autriche veut des règles éthiques sur l'utilisation des robots tueurs dotés d'IA sur le champ de bataille, le pays affirme que seuls les humains doivent décider des questions de vie ou de mort

[walfrat]

En parlant de biais, pour une fois l'histoire qu'on a dans cet article présente les deux points de vue. De fait il est donc moins biaisé que les articles habituels dans ce genre d'histoire

[Stan Adkens]

Le chef de Google, Sundar Pichai, s'excuse pour le licenciement d'une chercheuse en éthique de l'IA,
Et s'engage à enquêter sur son départ de l’entreprise

L’effervescence au sein de Google suite au licenciement d’une chercheuse en éthique de l’intelligence artificielle de premier plan a conduit mercredi à des excuses de Google. Sundar Pichai, directeur général de la société mère de Google, Alphabet, a présenté ses excuses pour le départ de Timnit Gebru, dont le départ a fait saliver les effectifs de la société, et a soulevé des questions sur son engagement déclaré en faveur de la diversité et du développement responsable de la technologie d'IA. Il a également déclaré qu'il enquêterait sur les événements et travaillerait à rétablir la confiance, selon un mémo interne envoyé à toute l'entreprise et lu par le New York Times.

Timnit Gebru a quitté Google la semaine dernière dans ce que l'entreprise a qualifié de démission, mais Gebru dit que c'était un licenciement. Gebru, qui a aidé à diriger l'équipe d'intelligence artificielle éthique de Google, a déclaré qu'elle avait été licenciée après avoir eu un différend au sujet d'un document de recherche et avoir envoyé une note aux autres employés de Google critiquant la société pour son traitement des personnes de couleur et des femmes, notamment lors de l'embauche.

Google avait refusé d'autoriser Gebru et d'autres chercheurs de Google à joindre leur nom ou celui de la société à un document d'éthique sur l'IA qui avait été accepté pour publication. L’article en question aborde les problèmes éthiques soulevés par les progrès récents des technologies IA qui fonctionnent avec le langage, recherche très importante pour l’avenir de Google. Dans le document qui devait être publié, les chercheurs ont montré que la création de ces modèles IA plus puissants consomme de grandes quantités d'électricité en raison des vastes ressources informatiques requises. Ils ont également expliqué comment les modèles peuvent reproduire un langage biaisé en s’appuyant sur les données en ligne sur la race ou le sexe.

En réponse au refus de Google, Gebru a envoyé à ses supérieurs un e-mail en déclarant qu'à défaut d'une explication transparente ou d'une discussion plus approfondie, elle démissionnerait après un délai approprié. Elle a dit qu’elle établirait un calendrier pour son départ de Google avec un minimum de perturbations pour son équipe. Au lieu de cela, Google a brusquement déclaré qu'il « acceptait sa démission » et lui a coupé l'accès à son courrier électronique interne.

Le départ de Gebru a provoqué la colère et la consternation au sein de Google ainsi que dans les cercles universitaires, des milliers de personnes ayant signé une lettre ouverte demandant à Google de revoir ses pratiques. Ses collègues se sont ralliés à la défense de Mme Gebru, affirmant que Google ne l'avait pas traitée équitablement et que cet incident était un exemple de la façon dont les employés noirs sont souvent maltraités dans l'entreprise.

« J'ai entendu la réaction au départ du Dr Gebru haut et fort : il a semé le doute et a conduit certains membres de notre communauté à remettre en question leur place chez Google. Je tiens à vous dire combien je suis désolé pour cela, et j'accepte la responsabilité de travailler à rétablir votre confiance », a écrit Pichai dans un courriel consulté par le New York Times. Axios a été le premier publié un reportage sur ce courriel.

« Nous devons évaluer les circonstances qui ont conduit au départ du Dr Gebru, en examinant les points que nous aurions pu améliorer et mener un processus plus respectueux », a-t-il ajouté. « Nous allons commencer un examen de ce qui s'est passé pour identifier tous les points où nous pouvons apprendre ».

Bien que la note de service de Pichai ait un ton contrit, on ne sait pas jusqu'où elle ira pour remédier au bouleversement important dans les rangs de Google, en particulier parmi ceux qui sont concernés par ses engagements en faveur de la diversité et de la liberté académique.

Un départ qui implique des inquiétudes liées aux conséquences dangereuses de la technologie de l'intelligence artificielle

Dans son courriel adressé aux employés mercredi, Sundar Pichai, cependant, n'a pas dit que l'entreprise s'est trompée en accélérant la démission de Timnit Gebru, qui était codirigeante de l'équipe de l'éthique d'IA et l'une de ses employées noires les plus connues. Toutefois, le licenciement de Gebru est particulièrement pénible pour Google, car elle implique deux sujets épineux pour l'entreprise : un manque de diversité dans sa main-d'œuvre et des inquiétudes quant aux conséquences dangereuses de la technologie de l'intelligence artificielle.

Dr Gebru, qui a rejoint la société l'année dernière en provenance de Stanford, a souligné l'importance des efforts de la société pour embaucher et retenir davantage de femmes ainsi que des employés noirs, qui représentent actuellement moins de 2 % de la main-d'œuvre de la société. En outre, ses recherches visant à examiner les implications à long terme de l'intelligence artificielle l'ont mise en désaccord avec les objectifs stratégiques de l'entreprise qui consiste à dépendre de l'intelligence artificielle comme technologie de pointe pour améliorer la plupart, sinon la totalité, de ses produits, selon le New York Times.

Sur Twitter, Gebru a déclaré que le courriel de M. Pichai n'était pas une véritable excuse. « Je ne vois pas de plan pour la responsabilité et il y a eu un éclairage supplémentaire dans la déclaration », a-t-elle déclaré dans un tweet, ajoutant dans un autre tweet que la note « ne dit pas "je suis désolée pour ce que nous lui avons fait et c'était mal" ... Je vois cela comme "je suis désolée de la façon dont cela s'est passé, mais je ne suis pas encore désolée de ce que nous lui avons fait" ».

La semaine dernière, environ 2000 employés de Google ont signé une pétition pour protester contre son licenciement de l'entreprise et demander que les dirigeants de son organisme de recherche soient plus transparents sur les circonstances du départ de Gebru. Lundi, des membres de l'équipe d'éthique de Google ont publié un article contestant certaines des déclarations de l'entreprise concernant son départ, notamment l'affirmation de l'entreprise selon laquelle elle a démissionné et n'a pas été licenciée.

Jeff Dean, l'un des plus hauts dirigeants de Google qui supervise la branche recherche en IA de l'entreprise, a rencontré un groupe d'employés mardi pour expliquer ce qui s'est passé avec le Dr Gebru, mais beaucoup ont quitté la réunion encore plus bouleversés, a rapporté le New York Times.

Jack Clark, directeur des politiques chez OpenAI, a dit dans une déclaration : « Je reste généralement en dehors de ce genre de choses, mais je suis absolument choqué par ce courriel. Il utilise la pire forme d'écriture d'entreprise pour présenter le licenciement (de Gebru) comme quelque chose qui ressemble à un événement météorologique - quelque chose qui vient de se produire. Mais ce sont de vraies personnes qui ont fait cela, et elles se cachent ».

Voici, ci-dessous, le courriel complet envoyé par le PDG de Google aux Googlers mercredi :

Sujet : Engagement dans notre travail sur l'équité raciale et l'éthique de l'IA

Bonjour à tous,

L'une des choses dont je suis le plus fier cette année est la façon dont les Googlers de toute l'entreprise se sont réunis pour répondre à nos engagements en matière d'équité raciale. C'est un travail difficile et important, et bien que nous soyons fermement résolus à faire mieux, nous avons beaucoup à apprendre et à nous améliorer. Un élément important de cette démarche consiste à tirer les leçons de nos expériences, comme le départ du Dr Timnit Gebru.

J'ai entendu la réaction au départ du Dr Gebru haut et fort : elle a semé le doute et a conduit certains membres de notre communauté à remettre en question leur place chez Google. Je tiens à vous dire combien j'en suis désolé, et j'accepte la responsabilité de travailler à rétablir votre confiance.

Tout d'abord, nous devons évaluer les circonstances qui ont conduit au départ du Dr Gebru, en examinant les points que nous aurions pu améliorer et mener un processus plus respectueux. Nous allons commencer à examiner ce qui s'est passé pour identifier tous les points où nous pouvons apprendre - en considérant tout, des stratégies de désescalade aux nouveaux processus que nous pouvons mettre en place. Jeff et moi avons discuté et nous sommes pleinement engagés à le faire. L'un des meilleurs aspects de la culture d'ingénierie de Google est notre désir sincère de comprendre où les choses vont mal et comment nous pouvons nous améliorer.

Deuxièmement - nous devons accepter la responsabilité du fait qu'une éminente dirigeante noire, femme de talent, a quitté Google avec regret. Cette perte a eu un effet d'entraînement sur certaines de nos communautés les moins représentées, qui se sont vues refléter, ainsi que certaines de leurs expériences à travers Dr Gebru. Cette perte a également été ressentie avec acuité, car Dr Gebru est un expert dans un domaine important de l'éthique de l'IA sur lequel nous devons continuer à progresser - progrès qui dépend de notre capacité à nous poser des questions stimulantes.

Il est incroyablement important pour moi que nos Googlers noirs, femmes et sous-représentés sachent que nous vous apprécions et que vous avez votre place chez Google. Et le fardeau de nous pousser à faire mieux ne doit pas vous retomber sur les épaules. Nous avons entamé une conversation ensemble au début de cette année lorsque nous avons annoncé un vaste ensemble d'engagements en matière d'équité raciale afin de jeter un regard neuf sur tous nos systèmes, de l'embauche et du nivellement, à la promotion et au maintien en poste, et de répondre au besoin de responsabilisation des dirigeants à toutes ces étapes. Les événements de la semaine dernière sont un rappel douloureux, mais important des progrès qu'il nous reste à faire.

Il s'agit d'une priorité absolue pour moi et pour les dirigeants de Google, et je veux m'engager à nouveau à traduire l'énergie que nous avons constatée cette année en changements réels à l'approche de 2021 et au-delà.

-- Sundar

Source : Mémo du PGD de Google

Et vous ?

Quel est votre commentaire concernant le mémo de Sundar Pichai pour s’excuser pour le licenciement de Timnit Gebru de Google ?
Que vous inspire ce remous dans l'équipe de l'éthique de l'IA de Google ?

Voir aussi :

Plus de 1000 employés de Google signent une lettre pour demander des comptes à l'entreprise, au sujet du « licenciement » subit de leur collègue Timnit Gebru, une chercheuse de haut niveau en IA
IA : un guide éthique en développement chez Google, pour répondre aux protestations contre la participation de l'entreprise à un projet du Pentagone
Google décide d'offrir son aide pour la gestion des aspects controversés en matière d'éthique de l'intelligence artificielle via un service dédié que l'entreprise entend lancer avant la fin d'année
Google promet de ne pas utiliser l'IA pour le développement d'armes, mais informe qu'il va continuer à coopérer avec les militaires

[MRSizok]

Que tu es raison ou non. Envoyer un mail à tout les collaborateurs en rabaissant ta boîte et en même temps un autre à tes supérieurs, en disant "Enfaite je me casse, alors je pars le 31 janvier. Car, ça me convient pour l'équipe et je vous ferai part de mon calendrier que je vous impose enfaite".

Perso, j'ai un surbordonné comme elle qui me fait un cinéma de fou avec des leviers de descrimination hors-sujet. Je fait pareil. Je la vire le jour même de son email...Elle cumule les fautes grave...Elle créer une mutinerie interne car elle a un bon feeling avec tout le monde.

Tout ça fait gamine qui n'a pas eu son joujou et qui fou en l'air sa chambre et tout le reste... Perso quand je lis cette article. Je vois rien contre google...Ils ont prit à chaque fois la bonne décision. Du coup l'enquête interne risque que de briser les acolytes de cette personne...C'est pas le moment de faire des vagues chez Google.

[tom_45]

Elle a fait du chantage à son employeur, elle a perdu, je ne comprends pas comment des gens puisse la soutenir.
Et la faire passer pour une victime uniquement parce que c'est une femme noire.
D'ailleurs sur les 5 employés de google (sans compter les externes) à l'origine du rapport, il n'y a qu'avec elle qui a des problèmes, je parie que les 4 autres ne sont ni des femmes, ni noirs, ni homo, ni handicapés, ni pédophiles ...

[Bill Fassinou]

La deuxième responsable de l'équipe de recherche en IA éthique de Google a été licenciée
au milieu des protestations du personnel par rapport au licenciement de Timnit Gebru en décembre

Après le licenciement l'année dernière de Timnit Gebru, première responsable de l'équipe de recherche en IA éthique (Ethical AI – une équipe qui se charge de rechercher et d'éliminer les biais dans les algorithmes d'intelligence artificielle et d'orienter le développement dans le bon sens), Google se sépare maintenant d'une autre figure importante de cette équipe. Vendredi, Alphabet Inc., la maison mère de Google, a licencié la scientifique Margaret Mitchell, un geste qui a eu pour effet d'attiser les divisions sur la liberté académique et la diversité qui étaient apparues au sein de l'entreprise depuis le licenciement en décembre Timnit Gebru.

Tension entre Google et ses employés à propos de la notion de diversité

Margaret Mitchell, coresponsable de l'équipe d'IA éthique de Google, a été licenciée en fin de semaine dernière, environ trois mois après que sa collègue Timnit Gebru a subi le même sort. Pourquoi ? La chercheuse se serait servie d'un script ou d'un logiciel automatisé pour parcourir ses e-mails dans l'espoir de trouver des preuves de discrimination contre son collègue Timnit Gebru. En effet, les sources sur le sujet indiquent qu'à la suite du licenciement de Timnit Gebru, Mitchell a fait l'objet d'une enquête de la part de Google pour son traitement des données de l'entreprise.

Après le départ de Gebru, Mitchell a ouvertement critiqué les dirigeants de Google, notamment le chef de la division IA de Google, Jeff Dean, et le PDG de l'entreprise, Sundar Pichai. En janvier, elle a perdu son accès à la messagerie électronique de la société après que Google a commencé à enquêter sur son activité, elle aurait été exclue de son compte d'entreprise pendant environ cinq semaines, ce qui l'a amené à agir de la sorte. Ainsi, à la suite des conclusions de l'enquête, la firme de Mountain View a jugé bon de se séparer de Mitchell. Google a confirmé son départ dans un communiqué.

« Après avoir examiné le comportement de ce directeur, nous avons confirmé qu'il y avait de multiples violations de notre code de conduite, ainsi que de nos politiques de sécurité, qui comprenaient l'exfiltration de documents confidentiels sensibles et de données privées d'autres employés », a déclaré une porte-parole. Outre Mitchell, toute l'équipe de Google chargée des problèmes éthiques de l'IA a fait l'objet d'un examen minutieux depuis le licenciement de Gebru, une scientifique qui s'est fait connaître pour avoir mis en évidence des préjugés dans les systèmes d'analyse faciale.

Le licenciement a incité des milliers de travailleurs de Google à protester. Mitchell et elle-même avaient appelé à une plus grande diversité et à une plus grande inclusion parmi le personnel de recherche de Google et avaient exprimé leur inquiétude quant au fait que la société commençait à censurer les articles critiquant ses produits. Après son départ, Gebru a déclaré que Google l'avait licenciée après qu'elle eut remis en question un ordre de ne pas publier une étude affirmant que l'IA imite un langage qui pourrait nuire aux populations marginalisées.

Mitchell, coauteure du document, s'est indignée du renvoi de sa collègue, raison pour laquelle elle a publiquement critiqué l'entreprise pour avoir licencié Gebru et miné la crédibilité de son travail. Par ailleurs, Alex Hanna, une autre chercheuse de l'équipe Ethical AI, a déclaré sur Twitter que l'entreprise menait une "campagne de diffamation" contre Mitchell et Gebru, avec qui elle travaillait étroitement. Google a toutefois refusé de commenter les propos de Hanna.

La gestion de crise de Google et les changements annoncés par la société

L'équipe de recherche en éthique de l'IA de Google est en crise depuis le licenciement de Gebru en décembre dernier. Son départ a provoqué la colère et la consternation au sein de Google ainsi que dans les cercles universitaires, des milliers de personnes ayant signé une lettre ouverte demandant à Google de revoir ses pratiques. Ses collègues, en particulier Mitchell, se sont ralliés à sa défense, affirmant que Google ne l'avait pas traitée équitablement et que cet incident était un exemple de la façon dont les employés noirs sont souvent maltraités dans l'entreprise, notamment celles de la trempe de Google.

Sundar Pichai a présenté publiquement des excuses à Gebru, aux employés de l'entreprise ainsi qu'à la communauté tout entière, mais cela n'a pas suffi à apaiser les tensions. « J'ai entendu la réaction au départ du Dr Gebru haut et fort : il a semé le doute et a conduit certains membres de notre communauté à remettre en question leur place chez Google. Je tiens à vous dire combien je suis désolé pour cela, et j'accepte la responsabilité de travailler à rétablir votre confiance », a écrit Pichai dans un mémo à la suite du licenciement de Gebru.

Selon cette dernière, le mémo de Pichai n'était pas une véritable excuse. « Je ne vois pas de plan pour la responsabilité et il y a eu un éclairage supplémentaire dans la déclaration », a-t-elle déclaré dans un tweet, ajoutant dans un autre tweet que la note « ne dit pas "je suis désolée pour ce que nous lui avons fait et c'était mal". Je vois cela comme "je suis désolée de la façon dont cela s'est passé, mais je ne suis pas encore désolée de ce que nous lui avons fait" ». Vendredi, Google a annoncé qu'il apportait des changements à ses politiques de recherche et de diversité.

Marian Croak, vice-présidente de l'organisation d'ingénierie, dirigera désormais "un nouveau centre d'expertise sur l'IA responsable au sein de Google Research". Après l'annonce de la réorganisation vendredi, Alex Hanna a écrit que l'équipe n'était pas au courant de la nomination de Croak jusqu'à ce que la nouvelle soit rendue publique mercredi soir. « On nous a dit de faire confiance au processus, de faire confiance à des décideurs comme Marian Croak pour veiller à nos intérêts. Mais ces décisions ont été prises dans notre dos », a-t-elle déclaré sur Twitter.

De son côté, Gebru s'est également indignée de cette annonce. « J'écris un e-mail pour demander des choses, je suis virée, puis après une enquête de 3 mois, ils disent qu'ils devraient probablement faire certaines des choses que j'ai probablement été virée en demandant, sans tenir personne responsable de leurs actions », a écrit Gebru sur Twitter. Dans un autre tweet, elle a ajouté : « Il y a une responsabilité ZÉRO. ZÉRO ».

Sources : Margaret Mitchell, Dr. Alex Hanna, Timnit Gebru

Et vous ?

Quel est votre avis sur le sujet ?

Voir aussi

Le chef de Google, Sundar Pichai, s'excuse pour le licenciement d'une chercheuse en éthique de l'IA et s'engage à enquêter sur son départ de l'entreprise

Plus de 1000 employés de Google signent une lettre pour demander des comptes à l'entreprise au sujet du « licenciement » subit de leur collègue Timnit Gebru, une chercheuse de haut niveau en IA

IA : un guide éthique en développement chez Google pour répondre aux protestations contre la participation de l'entreprise à un projet du Pentagone

Google promet de ne pas utiliser l'IA pour le développement d'armes, mais informe qu'il va continuer à coopérer avec les militaires

[TotoParis]

Amazon veut donner des primes à des salariés pour les faire partir avant l'élection de syndicats.
Google qui n'aime pas trop l'intrication de l'éthique et de l'IA.
Faut-il continuer à utiliser leurs services ?

[Nancy Rey]

La conférence de l'IA sur l'éthique de la recherche suspend le parrainage de Google,
les retombées sur la gestion par Google de son équipe de recherche sur l'éthique de l'IA se poursuivent

Les retombées sur la gestion par Google de son équipe de recherche sur l'éthique de l'IA se poursuivent alors que la Conférence de l'ACM FAccT pour l'équité, la responsabilité et la transparence a suspendu le parrainage de la société. La Conférence de l'ACM FAccT a décidé de suspendre sa relation de parrainage avec Google. C’est ce qu’ a confirmé Michael Ekstrand, coprésident du parrainage de la conférence et professeur adjoint de l'Université d'État de Boise. Les organisateurs de la conférence de recherche sur l'éthique de l'IA sont parvenus à cette décision un peu plus d'une semaine après le licenciement par Google de la responsable de l'IA éthique, Margaret Mitchell et trois mois après le licenciement du coresponsable de l'IA éthique, Timnit Gebru. Google a par la suite réorganisé une centaine d'ingénieurs répartis dans 10 équipes, en plaçant notamment l'IA éthique sous la direction de Marian Croak, vice-présidente de Google.

Google a fait la une des journaux lorsque l’entreprise a licencié les coresponsables de son équipe d'IA éthique, le Dr Timnit Gebru et Margaret Mitchell. Le licenciement de Gebru, que Google a qualifié de "démission", était le résultat de ce qui a été qualifié de censure de la recherche d'un article dont Gebru était le coauteur. Mitchell aurait été licenciée pour avoir tenté de trouver des exemples des mauvais traitements subis par Gebru. L'entreprise a été largement critiquée, tant par les employés que par des personnes extérieures. Les ingénieurs ont démissionné en signe de protestation, et la manière dont Google a géré son équipe d'éthique de l'IA a été l'un des problèmes spécifiquement mis en avant par les employés lors de la création de l'Alphabet Workers Union. Les tentatives de l'entreprise pour apaiser la situation ont été jugées peu convaincantes et généralement loin d'être suffisantes pour réparer les dégâts.

La conférence de l'ACM FAccT a maintenant suspendu le parrainage de Google, la nouvelle est d'abord apparue via un tweet de Suresh Venkatasubramanian, membre du comité du programme FaccT. Michael Ekstrand, coprésident du parrainage de la conférence et professeur adjoint de l'université d'État de Boise, a donné plus de détails : « FAccT est guidé par un plan stratégique, et le règlement de la conférence charge les présidents de parrainage, en collaboration avec le comité exécutif, de développer un portefeuille de parrainage qui s'aligne sur ce plan... Le Comité exécutif a pris la décision que le fait d'avoir Google comme sponsor pour la conférence de 2021 ne serait pas dans l'intérêt de la communauté et entraverait le Plan stratégique. Nous allons revoir la politique de parrainage pour la conférence de l'année prochaine ».

L'interruption du parrainage de Google ne signifie pas la fin du parrainage des entreprises de haute technologie, ni même de Google lui-même. DeepMind, un autre sponsor de la conférence FAccT qui a suscité une controverse sur l'éthique de l'IA en janvier, est également une entreprise de Google. Depuis sa fondation en 2018, FAccT a cherché à obtenir des fonds auprès de sponsors de Big Tech comme Google et Microsoft, ainsi qu'auprès de la Fondation Ford et de la Fondation MacArthur. Une analyse publiée l'année dernière, qui compare le financement de la recherche éthique sur l'IA par les grandes entreprises technologiques à l'histoire du financement de la recherche en santé par les grandes entreprises de tabac, a révélé que près de 60 % des chercheurs de quatre universités importantes ont reçu de l'argent de grandes entreprises technologiques.

Après le licenciement de Gebru, les employés de Google ont protesté contre ce qu'ils ont appelé un acte de "censure de la recherche sans précédent". La semaine dernière, il a été fait état d'un cas distinct d'interférence présumée dans la recherche sur l'IA au sein de l'entreprise, un coauteur de l'article de recherche citant des modifications "profondément insidieuses" de l'équipe juridique de Google.

Sources : ACM FAccT Strategic Plan, Twitter

Et vous ?

Qu’en pensez-vous ?

Voir aussi :

Le chef de Google, Sundar Pichai, s'excuse pour le licenciement d'une chercheuse en éthique de l'IA et s'engage à enquêter sur son départ de l'entreprise

Plus de 1000 employés de Google signent une lettre pour demander des comptes à l'entreprise au sujet du « licenciement » subit de leur collègue Timnit Gebru, une chercheuse de haut niveau en IA

La deuxième responsable de l'équipe de recherche en IA éthique de Google a été licenciée, au milieu des protestations du personnel par rapport au licenciement de Timnit Gebru en décembre

IA : un guide éthique en développement chez Google pour répondre aux protestations contre la participation de l'entreprise à un projet du Pentagone

[Bruno]

Un responsable de l'IA de Google est passé chez Apple, suite au licenciement de ses collègues,
il travaillera sous la direction de John Giannandrea, qui a également quitté Google pour Apple

Apple a embauché Samy Bengio, un éminent chercheur en IA qui travaillait auparavant chez Google. L’ancien scientifique distingué de Google n'est que le dernier en date d'une série d'éminents dirigeants et travailleurs de l'IA qu'Apple a recrutés chez Google. Ce dernier quitte le géant de la recherche au milieu des troubles dans son département de recherche en intelligence artificielle.

Bengio devrait diriger une nouvelle unité de recherche sur l'IA chez Apple sous la direction de John Giannandrea, vice-président senior de l'apprentissage automatique et de la stratégie d'IA. Giannandrea dirigeait auparavant le département d'IA chez Google avant de sauter le navire pour débuter chez Apple en 2018.

Apple utilise l'apprentissage automatique pour améliorer la qualité des photos prises avec l'iPhone, faire apparaître des suggestions de contenu et d'applications que les utilisateurs pourraient vouloir utiliser, alimenter les fonctions de recherche intelligente dans ses différentes offres logicielles, aider à la réjection de la paume de la main pour les utilisateurs qui écrivent avec l'accessoire Pencil de l'iPad, et bien plus encore.

Sa décision fait suite aux licenciements par Google, au cours des derniers mois, de deux collègues scientifiques, Margaret Mitchell et Timnit Gebru qui avaient codirigé une équipe chargée d'étudier les questions d'éthique dans le domaine de l'intelligence artificielle et avaient fait part de leurs préoccupations concernant la diversité sur le lieu de travail et l'approche de Google en matière d'évaluation des recherches.

Après le licenciement l'année dernière de Timnit Gebru, première responsable de l'équipe de recherche en IA éthique, en février, Alphabet Inc., la maison mère de Google, a licencié la scientifique Margaret Mitchell, un geste qui a eu pour effet d'attiser les divisions sur la liberté académique et la diversité qui étaient apparues au sein de l'entreprise depuis le licenciement en décembre Timnit Gebru. Margaret Mitchell, coresponsable de l'équipe d'IA éthique de Google, a été licenciée environ trois mois après que sa collègue Timnit Gebru a subi le même sort.

Ironie du sort, Sundar Pichai, directeur général de la société mère de Google, Alphabet, avait présenté ses excuses pour le licenciement de Timnit Gebru, et s'était engagé à enquêter sur son départ de l'entreprise. « J'ai appris le départ du Dr Gebru. Il a semé le doute et a conduit certains membres de notre communauté à remettre en question leur place chez Google. Je tiens à vous dire combien je suis désolé pour cela, et j'accepte la responsabilité de travailler à rétablir votre confiance », a écrit Pichai dans un courriel. « Nous devons évaluer les circonstances qui ont conduit au départ du Dr Gebru, en examinant les points que nous aurions pu améliorer et mener un processus plus respectueux », a-t-il ajouté. « Nous allons commencer un examen de ce qui s'est passé pour identifier tous les points où nous pouvons apprendre », avait-il ajouté.

Margaret Mitchell a déclaré qu'elle avait essayé « de soulever des préoccupations concernant l'inégalité entre les races et les sexes, et de s'exprimer sur le licenciement problématique du Dr Gebru par Google ». Gebru a déclaré que la société voulait étouffer ses critiques à l'égard de ses produits et de ses efforts pour accroître la diversité de sa main-d'œuvre. Google a déclaré avoir accepté sa proposition de démissionner.

Ce n’est pas la première fois que des employés sont licenciés à la suite d’une revendication, qu’elle soit légitime ou non. L'année dernière, Amazon a licencié Emily Cunningham et Maren Costa, deux employés qui avaient critiqué l'entreprise. Les employés avaient publiquement demandé à l'entreprise de faire davantage pour réduire son empreinte carbone et avaient fait circuler une pétition parmi les employés d'Amazon en faveur d'une meilleure rémunération et d'un soutien aux travailleurs des entrepôts. Au terme de l’enquête menée par le National Labor Relations Board, ou NLRB, l’organisation a estimé qu'Amazon avait agi de manière illégale en les licenciant.

Le leader mondial du e-commerce a la réputation de réagir de manière agressive à l'activisme des travailleurs et d'interdire à son personnel de parler publiquement de l'entreprise. Selon les dossiers en ligne, au cours de ces derniers mois, le National Labor Relations Board a reçu plus d'une douzaine de plaintes alléguant des représailles injustes de la part d'Amazon à l'encontre du personnel. Les responsables examinent ces cas pour voir si elles méritent une enquête consolidée sur les pratiques de l'entreprise.

Bengio faisait partie d'un groupe de professionnels de l'IA qui ont quitté Google pour protester contre le licenciement par l'entreprise de ses propres chercheurs en éthique de l'IA (Margaret Mitchell et Timnit Gebru), après que ces chercheurs eurent soulevé des questions sur la diversité et l'approche de Google concernant les considérations éthiques liées aux nouvelles applications de l'IA et de l'apprentissage automatique. Bengio a exprimé son soutien à Mitchell et Gebru, et a quitté l'entreprise de son plein gré après leur licenciement.

Andrew Ng, l'un des premiers membres de Brain, qui dirige aujourd'hui la startup Landing AI, a déclaré que Bengio « a contribué à faire progresser la technologie et l'éthique de l'IA ». Un autre membre fondateur, Jeff Dean, supervise désormais les milliers de chercheurs de Google.

Bengio avait pris la défense du couple, qui codirigeait une équipe d'une douzaine de personnes chargées d'étudier les questions éthiques liées aux logiciels d'IA. En décembre, Bengio a écrit sur Facebook qu'il était stupéfait que Gebru, qu'il dirigeait, ait été retiré de l'entreprise sans qu'il ait été consulté.

Sara Hooker, chercheuse chez Google Brain, a décrit dans un tweet le départ de Bengio comme « une perte énorme pour Google ». Dans le courriel interne que Bengio avait envoyé, il a déclaré qu'il avait décidé de quitter Google pour poursuivre « d'autres opportunités passionnantes ».

Et vous ?

Quels commentaires faites-vous de l’attitude des responsables de Google qui, licencient des employés pour des prises de position ?

Comment trouvez-vous la décision de Bengio qui démissionne suite au licenciement de ses collègues ?

Voir aussi :

Amazon aurait licencié illégalement deux employés qui réclamaient des mesures en faveur du climat et de meilleures conditions de travail

La deuxième responsable de l'équipe de recherche en IA éthique de Google a été licenciée, au milieu des protestations du personnel par rapport au licenciement de Timnit Gebru en décembre

Le chef de Google, Sundar Pichai, s'excuse pour le licenciement d'une chercheuse en éthique de l'IA et s'engage à enquêter sur son départ de l'entreprise

Google licencie un ingénieur qui accédait aux données privées, des utilisateurs et ce n'est pas une première : inquiétant ?