Discussion :

[Patrick Ruiz]

L’IA peut-elle prédire qu’un tiers sera criminel sur la base d'une photo ? Oui, avec une précision de 80 % et sans biais racial, selon une étude
Retirée d’Internet en raison de l’afflux de la controverse

Repérer un individu dans une foule de cinquante à soixante mille personnes est le genre de prouesse que les forces de l’ordre sont capables de réaliser dans des pays où l’on fait un usage extensif des systèmes de reconnaissance faciale. Le cas Ao, suspect d’implication dans des crimes économiques et inscrit sur un système national en ligne répertoriant les personnes recherchées en Chine, en est une illustration. Des systèmes plus récents relèguent même le port de masque au rang d’artifices inutiles. Autrement dit, en arborer un n’empêche pas d’être reconnu.

Dans un cas des cas cités comme dans l’autre, une intelligence artificielle s’appuie sur des informations extraites d’une base de données de visages pour permettre aux autorités de pincer un individu. Une récente publication d’une équipe universitaire montre qu’on peut aller encore plus loin avec ces systèmes. L’étude de chercheurs de l'université américaine privée à but non lucratif de Harrisburg a de quoi plonger les lecteurs dans l’univers du film américain de science fiction Minority Report. En effet, sa conclusion de façon ramassée est qu’un logiciel peut prédire qu’un tiers sera criminel avec une précision de 80 % et sans biais racial, ce, rien qu’en s’appuyant sur sa photo. Le communiqué, qui avait commencé à être partagé sur Twitter, a fait l’objet de suppression du site web de l’institution en raison d’un afflux important de contradicteurs.

« L'étude a été retirée du site web à la demande de la faculté impliquée dans la recherche. Elle travaille sur une mise à jour du document afin de répondre aux préoccupations soulevées », indique la nouvelle mouture du communiqué.

L’étude de l’université d’Harrisburg n’est pas la première dans le genre. Elle fait suite à celle d’une université chinoise. En 2016, une équipe de recherche de la Jiao Tong University de Shanghai publiait son étude liant criminalité et caractéristiques faciales des individus. Dans les chiffres, l’étude rapporte que le système est capable de détecter avec une précision de 90 % qui est le plus susceptible d’être un criminel, ce, sans biais.

La phase d’entraînement de l’IA de l’université chinoise s’est faite avec plus de mille clichés d’individus tirés de cartes d’identité nationales dont sept cents appartenaient à des criminels reconnus. Il est peut-être là le problème avec ces systèmes. En effet, une étude de chercheurs du MIT montre que la création d’une intelligence artificielle psychopathe tient à une chose essentielle : la nourrir d’images ultras violentes lors du processus d’entraînement. C’est une illustration du problème de biais des données fournies aux IA qui semble être la raison profonde de la controverse que l’on observe. Si l’on inverse le regard sur les taux de précision, il faut dire qu’il y a 10 à 20 % de faux positifs en fonction des résultats de l’université auxquels on fait allusion. C’est un problème quand on sait que cela représente un paquet de personnes susceptibles d’être accusées à tort comme l'ont été des membres du Congrès des USA par une IA.

Sources : Twitter, Université de Jiao Tong

Et vous ?

Un logiciel peut-il prédire si quelqu’un est susceptible d’être un criminel sur la base de sa photo ?
Pourquoi l’utilisation de l’intelligence artificielle peut-elle ne pas être pertinente dans la recherche de solutions à ce type de problématiques ?

Voir aussi :

Chine : le système de crédit social, comme une science-fiction dystopique, est en marche, et fait déjà des victimes
La police chinoise utilise le big data pour des arrestations préventives dans la région du Xinjiang, d'après l'association Human Rights Watch
Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
À Londres, la police teste une technologie de reconnaissance faciale pour retrouver des suspects : les populations entre approbation et condamnation
Espagne : la police s'appuie sur l'IA pour débusquer les fausses déclarations de vol, VeriPol dispose d'un taux de précision de 83 %

[Mingolito]

J'ai eu accès au dossier l'étude a été faite d'après cet échantillon :




Et aussi celui ci :



Comme disais Coluche, le mec il a une mine pas tibulaire mais presque

Bon si j'ai bien compris dans le futur on aura une IA qui enverra directement les gens en prison suivant leur bobine, encore mieux que pré-crime

Ceci dit d'après l'IA le plus dangereux c'est celui ci :

[Matthieu Vergne]

C’est un problème quand on sait que cela représente un paquet de personnes susceptibles d’être accusées à tort comme l'ont été des membres du Congrès des USA par une IA.

Ah bon ? Faire partie du congrès n'est pas la garantie d'être un criminel ? Qui l'eut crû ! {^o^}

Un logiciel peut-il prédire si quelqu’un est susceptible d’être un criminel sur la base de sa photo ?

Rien ne l'interdit, physiquement parlant. Et tout l'objet de la recherche est de répondre à ce genre de question au travers de méthodes qui permettent d'évaluer la fiabilité de tel ou tel façon de faire. La question n'est alors pas de savoir si c'est possible, la réponse étant fondamentalement oui, mais avec quelle fiabilité (precision & recall).

Cependant, si quelqu'un arrive à démontrer qu'on peut construire un système fiable sur la seule base d'une photo, cela démontre qu'être un criminel s'exprime physiquement, et là c'est beaucoup de personnes qui se feront taxer de criminel latent alors qu'elles n'auront encore rien fait. C'est la porte ouverte à la discrimination et au délit de sale gueule "scientifiquement justifié". Bonjour l'ambiance.

Pourquoi l’utilisation de l’intelligence artificielle peut-elle ne pas être pertinente dans la recherche de solutions à ce type de problématiques ?

Je ne vois pas pourquoi elle ne le serait pas. Mais comme toute technique, elle vient avec ses limitations. Un système d'apprentissage ne fait que reproduire un comportement observé, sans règle de logique "humaine" : on juge la couleur d'un pixel et la forme d'un sourcil plutôt que l'acte et l'intention de la personne. Je vois mal comment on pourrait justifier une inculpation sur seul jugement "automatique". Je ne vois cependant rien contre l'orientation de recherches sur la base de tels outils.

De la même manière qu'un humain va réduire l'espace de recherche en se focalisant sur des groupes particuliers, et mener l'enquête pour déterminer s'il y en a qui doivent effectivement être arrêtés, un système d'IA intervient dans cette première étape de réduction de l'espace de recherche. Pas dans le jugement final. Même si elle est utilisée dans le cadre du jugement, ce serait uniquement pour lister des arguments, à charge du juge de les prendre en compte et de tirer sa conclusion en prenant la responsabilité du jugement. Un juge qui fonderait son jugement sur la seule base que celui-ci soit celui de l'IA, pour moi, ferait une faute professionnelle (e sachant qu'en France, la responsabilité du juge est visiblement reléguée à l'État). Une telle décision mériterait a minima de faire appel.

[Mat.M]

Bon si j'ai bien compris dans le futur on aura une IA qui enverra directement les gens en prison suivant leur bobine, encore mieux que pré-crime

Et si l'IA se trompait ? Par exemple si l'IA envoyait une beauté canonique comme Monica Belluci ?

J'ai eu accès au dossier l'étude a été faite d'après cet échantillon :

il manque sans doute le portrait de l'actuel chef de l'Etat, culte de la personnalité oblige...
mais vous me décevez Mr Mingolito,où est passé votre verve anti 35heures, anti assistés de l'Etat et tutti-quanti ? Un petite faiblesse passagère peut-être ? :

[calvaire]

c'est difficile de définir un criminel car c'est une notion très personnel, certaines personnes sont considéré comme des criminels ou des héros, sa dépend pour qui
et un criminel est une personne ayant commis un crime mais il en existe beaucoup
https://fr.wikipedia.org/wiki/Crime

cette IA a une précision de 80% sur tout les criminels ou sur certaines catégories ? parce que un crime contre l'ordre public c'est pas pareil qu'un crime de guerre.
Si j'extrapole, 80% des gilets jaune ressemble à physiquement Adolph Hitler ?

[Nym4x]

ben voyons... il faudrait déjà commencer par prouver scientifiquement un lien entre une physique et une aptitude au crime. Parce qu’une ia si on lui demande de sortir une correspondance entre un axe d’analyse et un autre elle y arrivera surtout si tu on la programme pour ça.... Afin d’avoir une référence je propose que la même étude soit faite avec un lien entre la taille du sexe et l’aptitude au crime pour comparer 😀au moins l’étude sera drôle à défaut de pouvoir servir à qq chose...

[CoderInTheDark]

Ca ressemble à de la Phrénologie numérique.
Au lieu d'avoir la bosse du crime, il a le pixel du crime.

Et puis toute personne est innocente tant qu'elle n'a pas comi de crime.
C'est encore une idée à la con comme celle du petit président qui voulait détecter les criminels dès la maternel.

[Mingolito]

Peut être que c'est une étude basée sur la célèbre méthode du Professeur Raoult :
1) on à une idée à la con.
2) on fait une étude faussée pour prouver que cette idée à la con est vrai, quitte à menacer les laborantins de se faire virer.
3) on proclame qu'on à eu une idée de génie et qu'on à une étude qui le prouve.
4) on trouve des gogos pour continuer à faire financer les recherches, ici par exemple un parti néo nazi.
5) on publie un livre qui explique la brillante idée de génie et l'irréprochable étude.
6) on invite les journalistes pour des interviews et on deviens de plus en plus médiatique.

[Neckara]

Le concept n'est pas entièrement déconnant sur son principe, car une photo dévoile beaucoup de choses :

• le physique ;
• la posture ;
• l'expression du visage ;
• les vêtements portés.

Cela est souvent très lié :

• à la génétique (physique) ;
• au comportement (expression du visage, posture, vêtements) ;
• à l'éducation (posture, vêtements) ;
• au niveau de richesse (vêtements).

Ce qui sont des éléments assez liés à la probabilité de commettre un délit/crime (e.g. être pauvre).
Je n'ai pas vu la source (pas le temps), mais crime peut être entendu au sens large, et regrouper aussi certains délits, pas juste les meurtres, assassinats et viols.


Après, ça reste des corrélations assez marrantes, et potentiellement utiles pour certaines politiques de diminution de la délinquance (e.g. en faisant diminuer la pauvreté). Mais il est évident que cela ne doit absolument pas être utilisé à des fins juridiques, ce serait une grosse connerie.

Par exemple, si je sais que les pauvres sont plus à même de commettre des délits, je ne peux pas sanctionner des pauvres juste parce qu'ils sont pauvres.



Fin bref, ça reste des boulets ces mecs, moi j'ai une méthode d'IA très avancé qui a une efficacité de 100% :

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
function isCriminal() {
   return true;
}

Ben oui, tout le monde a commis un délit au moins une fois dans sa vie. À dépassé la limitation de vitesse sur la route au moins une fois, a regardé une vidéo sur Youtube ou sur d'autres plateformes de streaming, etc. etc.

[Neckara]

Après, c'est facile, suffit juste de regarder sur la photo si la personne porte une cagoule, une capuche, une écharpe, ou un loup.

[Invité]

Que pense l'université chinoise à l'origine de cette étude des individus qui commettent cela ?

[Aiigl59]

@Neckara: Mois mon IA voit juste un bon citoyen modèle qui porte un masque par soucis d'enrayer ce covid-19... What else ?

[Neckara]

@Neckara: Mois mon IA voit juste un bon citoyen modèle qui porte un masque par soucis d'enrayer ce covid-19... What else ?

[deathman8683]

Rechercher le mal (pire : le prévoir) sur des critères physiques n'est rien d'autres que du racisme, tout le reste n'est que mensonge.

[Neckara]

Rechercher le mal (pire : le prévoir) sur des critères physiques n'est rien d'autres que du racisme, tout le reste n'est que mensonge.

Une photo ne montre pas que des critères physiques.

Juger sur le physique n'est pas du racisme… arrêtez d'utiliser ce type de mots à tort et à travers, vous allez leur faire perdre tout leur sens, ce qui est très préjudiciable à la lutte contre le racisme, justement.

[gerard093]

Le vrai problème est posé par le jeu d'apprentissage :
- il y a des criminels qui n'ont pas encore agi
- il y a des criminels qui ne se sont pas fait prendre
- la notion de crime est floue : être un opposant politique, est-ce un crime ? faire un excès de vitesse, est ce un crime ? que dire de ceux qui pètent à table ?
- la notion de crime évolue dans le temps #balance_ton-porc, et transmettre le corona virus, est ce un crime ?

le problème est que dans leur vie, certains individus sont innocents, puis criminels. D'autres sont criminels et passent pour des innocents. Al Capone avait ses bonne oeuvres, Bill Gates en a aussi.

Bref, les têtes d'assassins ... c'est pour celui qui voit tout !!!

[deathman8683]

Une photo ne montre pas que des critères physiques. [...]

Juger que telle personne doit être mis sous surveillance et d'autres non, c'est >octroyer des privilèges à ceux qui n'entrent pas dans la case "sale gueule"< définie par le développeur (racisme, non ?), le problème c'est que reconnaître un futur criminel à sa tête avant même qu'il planifie son crime est de la pseudo-science, c'est seulement de la statistique, ex : dans tel échantillon de personne une majorité des bruns et une minorité de blonds ont commis des actes de violences alors les bruns doivent être surveillés tandis que les blonds peuvent vaquer librement. Un projet qui ne se base pas sur de la science exacte est un projet qui ne priorise pas la vérité mais un dessein personnel tel que l'épuration radicale des sociétés sans égards pour les libertés de l'individu (inutile de préciser dans quelle partie de l'échiquier politique cette idée est défendue)

Une photo montre quoi d'autres que des critères physiques ? Des émotions ? Dans ce cas, l'agoraphobe qui aura les traits tendus en présence d'une foule sera perçu comme un potentiel terroriste. Il faudrait toujours avoir l'apparence détendue pour éviter une surveillance plus poussée qu'à la normale.

[Neckara]

Vous pourriez au moins lire mes messages avant de vous ridiculiser en postant de telles bêtises.

Une photo montre quoi d'autres que des critères physiques ? Des émotions ? Dans ce cas, l'agoraphobe qui aura les traits tendus en présence d'une foule sera perçu comme un potentiel terroriste. Il faudrait toujours avoir l'apparence détendue pour éviter une surveillance plus poussée qu'à la normale.

Alors on avait (de tête) :

• posture ;
• expression du visage ;
• habits ;
• ainsi que le physique.

Cf un de mes messages précédents.

Sachant qu'on peut compter les tatouages et autres dans les habits.

Juger que telle personne doit être mis sous surveillance et d'autres non, c'est >octroyer des privilèges à ceux qui n'entrent pas dans la case "sale gueule"< définie par le développeur (racisme, non ?), le problème c'est que reconnaître un futur criminel à sa tête avant même qu'il planifie son crime est de la pseudo-science, c'est seulement de la statistique, ex : dans tel échantillon de personne une majorité des bruns et une minorité de blonds ont commis des actes de violences alors les bruns doivent être surveillés tandis que les blonds peuvent vaquer librement. Un projet qui ne se base pas sur de la science exacte est un projet qui ne priorise pas la vérité mais un dessein subjectif tel que l'épuration radicale des sociétés sans égards pour les libertés de l'individu.

Si vous aviez lu mon message, vous n'auriez pas écrit ce long pavé vu que vous sauriez que j'estime que se baser sur ces critères dans le cadre de la Justice est une grosse connerie…


En revanche, comme je l'ai déjà dit, ces corrélations restent très intéressantes pour établir des politiques à finalité de diminuer la criminalité, e.g. réduire la pauvreté en espérant une baisse de la criminalité.


Ensuite quant au "délit de sale gueule", il n'est pas établi par le développeur, mais par la base d'apprentissage.
La "sale gueule" n'a rien à voir avec le racisme…


Quant à l'épuration… vous allez quand même très loin…



C'est justement sur des sujets sérieux et sensibles comme cela qu'on ne peut pas se permettre de dire n'importe quoi.

[deathman8683]

En quoi ça contribuerai à la réduction de la pauvreté, à part en faisant disparaître les pauvres dans des prisons ?

Ça m'étonnerai que les résultats d'un apprentissage artificiel soient très éloignés des préjugés de son concepteur car on est encore loin de perdre le contrôle sur nos IA, qui deviendraient réellement autonomes.

[Neckara]

En quoi ça contribuerai à la réduction de la pauvreté, à part en faisant disparaître les pauvres dans des prisons ?

On sait par diverses études que la pauvreté, ainsi que d'autres facteurs contribuent à certains types de criminalités.

Si tu adoptes une politique de lutte contre la pauvreté (et non de lutte contre les pauvres), de lutte aussi contre le manque d'éducations, etc. tu devrais constater une baisse de la criminalité.

Ça m'étonnerai que les résultats d'un apprentissage artificiel soit très éloignés des préjugés de son concepteur car on est encore loin de perdre le contrôle sur nos IA, qui deviendraient réellement autonomes.

Tu donnes des photos avec les labels issus de ta vérité de terrain, les préjugés du concepteur n'ont aucune influence dessus.