Discussion :

[Patrick Ruiz]

L’IA peut-elle éliminer les biais dans le processus de recrutement ?
Oui, d’après des observateurs qui pensent qu’elle supplante l’humain

Dans le cadre de la reconnaissance faciale, l’intelligence artificielle suscite beaucoup de controverses. Tenez par exemple, une récente publication publication de l’American Civil Liberties Union (ACLU) fait état de ce qu’une IA d’Amazon a, à tort, identifié 28 membres du congrès des États-Unis comme des criminels. Il n’empêche que cet ensemble de techniques a la faveur de certains observateurs sur le terrain du recrutement.

En juillet 2016, la multinationale anglo-néerlandaise Unilever a introduit l’intelligence artificielle à son processus de recrutement. Même son de cloche pour Entelo et Stella.ai qui font leur apparition après Unilever avec des plateformes en ligne d’automatisation du processus de recrutement basées sur l’intelligence artificielle. Ces entreprises vantent la technique pour sa capacité à opérer une extraction pertinente des candidats en s’appuyant sur la science des données. Dans le cas Unilever, les responsables soulignent que la technique a permis d’augmenter significativement l’embauche de candidats non blancs, mais aussi d’apporter plus de diversité en termes de genre et de milieu social d’origine.

L’aspect qui s’imbrique au précédent est celui de la neutralité que ces dernières lui attribuent. « L’algorithme effectue uniquement des correspondances sur la base des données qui lui sont fournies . Il ne scrute que les compétences et les industries », déclare Rich Joffe – CEO de Stella.ai.

Il faut le reconnaître, parcourir une pile de CV à la recherche de la perle rare est un exercice fastidieux et parfois improductif. Lorsqu’il faut effectuer une tâche de façon répétitive et sur la durée, un ordinateur est assurément mieux outillé. C’est probablement la raison pour laquelle Rich Joffe a ajouté que « bien qu’aucun algorithme ne soit livré avec une garantie d’infaillibilité, je crois qu’ils sont meilleurs que les humains. »

Seulement, dans un contexte où moins de 5 % des chefs d’entreprise du Fortune 500 sont des femmes, où la diversité raciale à la tête du même groupe d’entreprise est à questionner, l’argument de la neutralité de l’intelligence artificielle est mis à mal. Le fait est qu’ « identifier des candidats à forts potentiels est une tâche très subjective » comme le rappelle Alan Todd – CEO de CorpU. Il vient donc que l’intelligence artificielle peut exhiber les biais des programmeurs qui l’ont conçu. La question divise profondément au sein de la communauté de l’intelligence artificielle ; l’on n’arrive pas à tomber d’accord sur les caractéristiques de l’algorithme capable de rendre le processus de recrutement plus équitable.

L’intelligence artificielle à même de sortir l’homme du processus de recrutement de façon totale ? Il semble que ce ne soit pas pour demain. Pour le moment, les solutions adoptées en entreprise s’appuient sur le jumelage des capacités de l’homme à celles de la machine, en entendant ce fameux jour où l’ordre des choses va totalement s’inverser en faveur des ordinateurs.


Source : Bloomberg

Et vous ?

Avez-vous déjà eu à passer un entretien d’embauche avec une IA comme recruteur ? Partagez votre expérience. Quels sont les aspects qui vous ont plu (horripilé) ?

Est-il possible de créer une intelligence artificielle qui n’exhibe pas de biais ?

Voir aussi :

La Chine veut devenir leader mondial de l'intelligence artificielle avec un plan de développement national visant à augmenter son poids économique

Les chercheurs en intelligence artificielle peuvent-ils gagner jusqu'à 1 million $ par an dans la Silicon Valley ? Un aperçu des salaires

L'intelligence artificielle est-elle l'arme de la prochaine guerre froide ? Oui, répond un chercheur en informatique

Trolldi : cinq dangers émanant de l'utilisation de l'intelligence artificielle et la robotique

Des chercheurs du MIT créent la première intelligence artificielle psychopathe pour illustrer le problème de biais des données nourries aux IA

[BenoitM]

Avez-vous déjà eu à passer un entretien d’embauche avec une IA comme recruteur ? Partagez votre expérience. Quels sont les aspects qui vous ont plu (horripilé) ?

C'est quoi une IA?
Est-ce que les tests psychologiques sont des IA?

Est-il possible de créer une intelligence artificielle qui n’exhibe pas de biais ?

Elle peut peut-être réduire certains biais (discrimination sexuelle/raciale).

Mais je ne vois pas comment faire un test 1h pour recruter la bonne personne. Pas plus avec une IA qu'un humain.
Et je vois mal une IA pourvoir tester tous les types de métier
Juger de la compétence d'un maçon, un boucher uniquement via un test sur ordi me semble moyen comme idée...

ps: et j'ai toujours autant de mal avec le terme d'IA. Et je ne vois pas très bien comment marche cette IA.
Ca ressemble à un test de personnalité avec laquelle on paramètre quel profile ont souhaite.
Il n'y a pas l'air d'avoir grand chose de neuf...

[23JFK]

Les quelques tentatives d'utilisation d'IA dans ce genre de domaine ont montré que ces algorithmes décisionnels doivent être artificiellement biaisés par des quotas pour ne pas finir par exclure certains profils qui, quoi qu'en disent les bonnes âmes, s'avèrent souvent cohérés à une origine sociale/biologique/culturelle,... Bref, à l'histoire par laquelle et dans laquelle l'individu s'est construit.

[Invité]

L'IA peut-elle vraiment remplacer la graphologie ?

[Invité]

Les quelques tentatives d'utilisation d'IA dans ce genre de domaine ont montré que ces algorithmes décisionnels doivent être artificiellement biaisés par des quotas pour ne pas finir par exclure certains profils qui, quoi qu'en disent les bonnes âmes, s'avèrent souvent cohérés à une origine sociale/biologique/culturelle,... Bref, à l'histoire par laquelle et dans laquelle l'individu s'est construit.

Certes, mais dans ce cas ce sont des biais justifiés, qui sont corrigés par les quotas.
Si l'intégration de l'IA peut permettre d'éviter les biais qu'on peut avoir involontairement, même avec les meilleures intentions du monde, et qui ne sont pas forcément justifiés, moi je dis pourquoi pas.

[_Bérenger_]

Les processus de recrutement actuels sont parfois tellement non-intelligents, que les remplacer par des processus avec une (non-)intelligence artificielle ne devrait pas changer grand-chose...

[Invité]

Est-il possible de créer une intelligence artificielle qui n’exhibe pas de biais ?

oui, c'est possible :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
Personne recruter(vector<Personne> vp) {
    return random(vp);
}

[foetus]

oui, c'est possible

Tu me déçois Les algos génétiques devraient être parfaits.

La population de base est composée de

• X% de "réseau" (ou piston) (critère recommandation : 5)
• Y% de jeunes diplômés et de ceux qui coûtent le moins chers/ les plus malléables comme les chômeurs de longue durée ou les reconversions (critère recommandation : 3)
• Z% de profils correspondants (<- un vieux SELECT sur "un vivier" et un seuil minimum profil (soit à peu près 90%)) (critère recommandation : -1)

avec X >> Y >> Z

Et à chaque génération , soit tu prends ceux ayant le meilleur profil soit les plus recommandés et tu combines les populations faisant le plus de marge.

[epimannn]

A partir du moment où on parle de respecter des quotas, c'est qu'on sacrifie la qualité à la quantité.
Donc si on doit faire respecter à une IA des quotas, soit il y a un problème avec le pool de départ, soit c'est l’algorithme qui ne respect pas des critères objectifs.

Si par contre, on se retrouve quand même avec un résultat "biaisé", par exemple, plus de femme pour les postes d'infirmier et plus d'homme pour des postes d'électricien, avec des critères objectifs uniquement sur les compétences, c'est pas un problème de biais de l'IA qui fait de la discrimination parce qu'elle a été codé par le système patriarcale blanc raciste et sexiste , mais du pool de départ et que la sélection reflète cette disparité homme/femme dans le pool de départ dans mon exemple.

[Invité]

A partir du moment où on parle de respecter des quotas, c'est qu'on sacrifie la qualité à la quantité.
Donc si on doit faire respecter à une IA des quotas, soit il y a un problème avec le pool de départ, soit c'est l’algorithme qui ne respect pas des critères objectifs.

Pas forcément. Si on se rend compte par exemple que l'IA n'embauche que des diplômés de tel type d'école parce que la formation répond bien aux besoins de la boîte, mais qu'on préférerait embaucher aussi d'autres profils pour une raison X ou Y (apporter un regard extérieur à une équipe, par exemple), là les quotas prennent tout leur sens. La discrimination faite par l'IA à la base est justifiée par les besoins du poste, mais il y a d'autres paramètres qu'on n'a pas forcément pu lui faire ingérer. Les quotas peuvent corriger ça (sans parler de blancs ou de mâles).

[epimannn]

Pas forcément. Si on se rend compte par exemple que l'IA n'embauche que des diplômés de tel type d'école parce que la formation répond bien aux besoins de la boîte, mais qu'on préférerait embaucher aussi d'autres profils pour une raison X ou Y (apporter un regard extérieur à une équipe, par exemple), là les quotas prennent tout leur sens. La discrimination faite par l'IA à la base est justifiée par les besoins du poste, mais il y a d'autres paramètres qu'on n'a pas forcément pu lui faire ingérer. Les quotas peuvent corriger ça (sans parler de blancs ou de mâles).

Tu sacrifies la qualité à la quantité pour une raison subjective. Ou alors, c'est que tu as mal défini ton besoin de départ et tes critères de sélection sont à revoir.

Ces IA sont apparues pour répondre aux critiques de présumées discrimination à l'emploi des minorités aux USA. Faut voir ce que le mouvement féministe fait comme ravage là-bas sur ces sujets ( et à la population, ç'est arrivé en france surtout avec #metoo ). J'ai pas été lire l'article original, je peux me tromper, mais faut bien voir dans quel contexte cette news apparait. Et c'est subtilement suggéré que c'est pour répondre à ce problème de manque de diversité imposé par la "société-patriarcale-privilégiée-de-mâle-blanc-raciste-et-sexiste" ( l'argument qu'il n'y a pas assez de femme dans le top 500 des CEO est un des arguments phare des féministes US ). Le problème avec les individus de cette mouvance, c'est que même si on applique ces systèmes, ils vont encore trouver le moyen de ramener ça au "patriarcat-privilégié-de-mâle-blanc-raciste-et-sexiste" et de dire non à cette solution parce qu'il y a pas eu assez de femme, d'asiatiques, de genre "non femme et non homme parce que j'ai décidé d'être ni l'un ni l'autre", d'arabe, de noir et d'autres trucs qui me passent au dessus de la tête, dans l'équipe de développement de l'IA...

Jvoulais pas trop aborder ce sujet très politique, mais c'est pour expliquer d'où vient mon raisonnement. Ton raisonnement en France est tout à fait valide ( pour le moment, tu vas voir d'ici quelques années on va se la manger la vague féministe américaine en pleine dent et elles ont commencer avec la grammaire inclusive et d'autres absurdités dans les lois, comme aux USA )

[Hizin]

Ca présuppose aussi que l'offre d'emploi est claire et nette et que le besoin est clairement identifié.
Je ne pense pas être le seul à avoir passé un entretien (heureusement téléphonique) pour des postes n'ayant à peu de choses près strictement rien à voir avec soit mes compétences, soit l'offre d'emploi publiée.

On aura beau faire l'IA (ou l'aide décisionnelle) la meilleure, si le besoin de base est à côté de ses pompes, ça ne va pas changer grand chose :/

[Invité]

Tu sacrifies la qualité à la quantité pour une raison subjective. Ou alors, c'est que tu as mal défini ton besoin de départ et tes critères de sélection sont à revoir.

C'est fort probable. N'oublions pas que ce sont des ressources humaines, donc complexes. Tu ne parviens pas forcément à définir précisément tes besoins au départ. Pour certains postes clés et pour lesquels le côté social est particulièrement important, l'entretien est déterminant. L'IA trie simplement les CV dans le cas de cet article, mais à l'entretien tu peux avoir envie de voir des profils différents pour affiner tes besoins et mieux les définir par la suite.

Ces IA sont apparues pour répondre aux critiques de présumées discrimination à l'emploi des minorités aux USA.

Peu importe, j'ai envie de dire. Chaque culture a ses propres biais, et si on est un recruteur consciencieux, on essaie d'en faire abstraction. Pour moi, l'IA peut très possiblement aider les recruteurs. Si tu tries ta pile de 500 CV manuellement et que ça fait 50 CV que tu lis qui te viennent du pôle emploi et qui ne correspondent pas du tout (exemple fictif bien sûr), tu mets les 150 CV restants du pôle emploi à la poubelle et tu concentres tes efforts sur les autres, Il y en avait peut-être 5 que tu as jetés injustement dont, qui sait, celui de la perle rare, mais tu as gagné 3 heures.

Jvoulais pas trop aborder ce sujet très politique, mais c'est pour expliquer d'où vient mon raisonnement.

J'avais bien compris, mais il me semble important de ne pas non plus tomber dans le raisonnement strictement inverse à la discrimination positive. Ni l'un ni l'autre n'apporteront rien de bon. On est heureusement assez loin de la situation catastrophique aux US (quoique, ça se discute), mais dans tous les cas, plus le recruteur est objectif (pour ça, il faut qu'il ait le temps nécessaire), mieux l'entreprise peut se porter.

[Jipété]

Il y en avait peut-être 5 que tu as jetés injustement dont, qui sait, celui de la perle rare, mais tu as gagné 3 heures.

Tu as gagné 3 heures sur le moment, mais combien de temps perdu ensuite sur le long terme pour être passé à côté de la perle rare ?
Comme je dis toujours à mon fils (qui bricole dans le monde de l'éclairage de scène), vaut mieux perdre 5 minutes avant à survérifier un truc suspect que 30 minutes ou plus après, avec le truc suspect qui t'aura pété à la figure, loi de Murphy oblige.

mais à l'entretien tu peux envie de voir

[den66]

Je trouve indécent, voire stupide de parler d'IA par-ci, d'IA par là, quand à la fin du compte on parle simplement d'algorithme ("L’algorithme effectue uniquement des correspondances sur la base des données qui lui sont fournies").

TOUS CES ALGORITHMES NE SONT PAS DES INTELLIGENCES (pas même artificielles). Dès que trois lignes de code "décident" de quelque chose, on parle d'intelligence artificielle ! Mais dans ce cas, mon shangai.swf qui décide si mon choix de cube est bien agencé est aussi une intelligence artificielle !

Vous le dites vous-même "L’algorithme effectue uniquement". UNIQUEMENT. Alors, pourquoi parler d'IA ? Sensationnalisme ? Volonté politique de nous faire croire que nous sommes dans un monde qui ne nous appartient plus ? Sincèrement, j'aimerais bien comprendre d'où vient cette mode, à quoi elle sert ?

[Invité]

Personnellement, je suis un peu réfractaire à ce genre de développement de l'intelligence artificielle. Je ne comprends pas trop comment elle peut réellement être un bon outil de sélection de candidats dans le recrutement. c'est assez subjectif comme process... Je trouve que tout ces développement sur l'ia vont trop loin. Ce n'est que mon avis
Vous pouvez aller voir ce site, je trouve qu'il explique plutôt bien les dangers de l'intelligence artificielle : intelligenceartificielledanger.com

Après dans le recrutement je ne vois pas de réel danger mais laissons donc à l'homme la place qu'il mérite parce que la je comprend qu'à terme le métier de rh n'aura plus trop sa place si les on développe encore plus ces algorithmes d'intelligence artificielle... tous plus sophistiqués les uns que les autres

justement cet article montre certains métiers qui sont voués à disparaitre ... ça fait peur quand même : robots ia

après chacun son point de vue sur la question haha

[Invité]

Après dans le recrutement je ne vois pas de réel danger mais laissons donc à l'homme la place qu'il mérite parce que la je comprend qu'à terme le métier de rh n'aura plus trop sa place si les on développe encore plus ces algorithmes d'intelligence artificielle... tous plus sophistiqués les uns que les autres

iadanger ? Ça pourrait passer comme un profil de troll dédié à ce fil...

Sérieusement, as-tu fait affaire avec des gens de RH récemment ?
J'ai l'impression d'être au théâtre en leur compagnie, on interprète chacun notre rôle en se donnant les bonnes phrases. Mais dès que tu sors de leur script, il n'y a plus de réponse de leur part...
Et je fais un métier technique mais on va juste parler de « ma » personnalité ? Sérieux, j'ai 20 ans d'expérience et tu veux savoir comment je réagis quand un dev fait une connerie au lieu de savoir que j'ai géré la prod sans grosse faille pendant des années ?

Une sélection aléatoire serait tout aussi efficace et on gagnerait du temps.

[Invité]

iadanger ? Ça pourrait passer comme un profil de troll dédié à ce fil...

Sérieusement, as-tu fait affaire avec des gens de RH récemment ?
J'ai l'impression d'être au théâtre en leur compagnie, on interprète chacun notre rôle en se donnant les bonnes phrases. Mais dès que tu sors de leur script, il n'y a plus de réponse de leur part...
Et je fais un métier technique mais on va juste parler de « ma » personnalité ? Sérieux, j'ai 20 ans d'expérience et tu veux savoir comment je réagis quand un dev fait une connerie au lieu de savoir que j'ai géré la prod sans grosse faille pendant des années ?

Une sélection aléatoire serait tout aussi efficace et on gagnerait du temps.

Ah non je ne suis pas un troll comme vous dites... je cherche juste des réponses à mes questions. J'avoue que je ne m'y connais pas vraiment en recrutement, je cherche juste à comprendre la place de l'Intelligence Artificielle dans tout ça. Après, oui j'ai déjà fait affaire avec des gens de RH