Discussion :

[Jonathan]

Une intelligence artificielle peut-elle être un juge équitable dans un tribunal ?
l'Estonie pense que oui

L'intelligence artificielle est aujourd'hui vue comme la solution à tous les problèmes dans notre société et plusieurs gouvernements l'utilisent déjà dans plusieurs domaines comme ceux de la médecine, de la défense ou encore même de la justice. Il y a d'ailleurs quelques mois, on apprenait que vingt avocats expérimentés se sont fait battre par un algorithme lors d'un test de détection de problèmes juridiques, ce qui laissait croire qu'une IA pourrait être meilleure qu'un avocat.

Bien que certains gouvernements montrent encore quelques réticences à se servir de l'IA, l'Estonie pour sa part a toujours fait montre d'un grand enthousiasme à se servir des technologies de l'information. Et c'est Ott Velsberg, un étudiant estonien de 28 ans qui supervise les efforts du petit pays balte visant à intégrer l'intelligence artificielle et l'apprentissage automatique dans les services fournis à ses citoyens. Le ministère estonien de la Justice a d'ailleurs demandé à Velsberg et à son équipe de concevoir un juge-robot capable de statuer sur des litiges de moins de 7000 euros (environ 8000 dollars).

Ceci pourrait sembler hallucinant, mais quand on connaît un peu mieux l'Estonie, on n'est pas trop surpris. En effet, il faut peut-être rappeler que pour mettre fin à la bureaucratie, l'Estonie a basculé presque tous ses services en ligne et fournit même des ordonnances médicales en ligne. Plusieurs projets de ce genre ont été réalisés dans le pays depuis 2017 et le succès qu'ils ont eu a encouragé le gouvernement à en faire encore davantage.

Parmi ces projets, on peut parler du fait que les enfants nés en Estonie sont automatiquement inscrits dans les écoles locales dès leur naissance. En effet, les dossiers hospitaliers sont automatiquement partagés avec les écoles locales. Le système ne nécessite pas vraiment d'IA, mais il montre comment les services automatisés se développent. En Estonie, les curriculums vitae des travailleurs licenciés sont intégrés dans un système d’apprentissage automatique. Ce système transmet donc automatiquement aux employeurs les différents profils ayant les compétences qu'ils recherchent sans effort de la part des personnes licenciées.

Ce projet de juge-robot en est à ses débuts et devrait commencer plus tard cette année par un projet pilote axé sur les différends contractuels. Dans un premier temps, l'IA sera utilisée pour rendre une décision susceptible de recours devant un juge humain. Beaucoup de détails restent encore à régler et Velsberg fait savoir que le système sera amélioré en tenant compte des remarques que feront les avocats et les juges. Cette tentative d'associer l'IA et la loi n'est pas la première dans le monde, on recense des cas similaires aux États-Unis et en Grande-Bretagne bien que celui de l'Estonie soit peut-être le premier à conférer un pouvoir décisionnel à un algorithme.

Pendant que certaines personnes pensent que l'idée d'un juge-robot pourrait fonctionner en Estonie, d'autres par contre s'appuient sur les anomalies qui avaient été constatées lors du passage aux services publics numériques de l'Estonie pour exprimer leurs craintes. Toujours est-il que pour les responsables estoniens, l'idée d'un juge-robot est assez appréciée et Kersti Kaljulaid, la présidente du pays, a déclaré : « Le déploiement d'un plus grand nombre d'IA dans les services gouvernementaux nous permettra de nous spécialiser dans quelque chose que les machines ne pourront jamais faire. »

Source : Wired

Et vous ?

Partagez-vous le point de vue des responsables de l'Estonie ?

Voir aussi :

Piratage d'identité : l'Estonie suspend ses cartes d'identité électroniques. Quel impact sur les citoyens ?
L'intelligence artificielle peut-elle aider à rendre les décisions de justice moins biaisées ? Oui, selon un expert
Intelligence artificielle : vingt avocats expérimentés se font battre par un algorithme lors d'un test de détection de problèmes juridiques

[Neckara]

Il est impossible qu'une IA devienne juge.
Détecter des problèmes logiques, aucun problème. Mais un jugement ne se limite pas à cela.

On pourrait être tenté de faire apprendre l'IA sur des cas de jugements connus, cependant, la loi et les mœurs évoluent, ce qu'une IA n'est pas, et ne sera jamais, capable de prendre en compte.
Tout simplement parce que cela découle de décisions humaines, or si les humains ne prennent plus ces décisions, l'IA ne peut plus apprendre de ces décisions, i.e. n'a pas de système de "feedback" pour s'adapter.

En revanche, une IA d'aide à la Justice est toujours possible pour, e.g. proposer des peines, le juge prenant seul la décision finale.

[Thomasa21]

En revanche, une IA d'aide à la Justice est toujours possible pour, e.g. proposer des peines, le juge prenant seul la décision finale.

je me trompe peut-être, mais je pense que l'article dit bien que dans un premier temps, c'est à peu près à ça que servira l'IA ici. rendre des décisions susceptibles de recours devant un vrai juge. donc l'IA sera un peu comme une aide à la justice. De plus il s'agit de cas de différends contractuels ce qui à mon avis ne demandera pas autant d'aptitudes humaines (sentimentales).

[Sodium]

Elles ne feront peut-être du meilleur boulot que les humains sur certains points.
Du genre arrêter de donner raison à des gens s'estimant frappés d'électrosensibilité ou empoisonnés par du glyphosate alors que la science est assez unanime sur le fait qu'ils ont tort.

[Thomasa21]

Elles ne feront peut-être du meilleur boulot que les humains sur certains points.
Du genre arrêter de donner raison à des gens s'estimant frappés d'électrosensibilité ou empoisonnés par du glyphosate alors que la science est assez unanime sur le fait qu'ils ont tort.

Entièrement d'accord. certains points resteront toujours à améliorer chez une IA puisqu'elle n'est pas humaine, mais je pense qu'il y a des cas bien précis sur lesquels je préfèrerais que la logique prime sur le sentiment et là j'opterai sans hésitation pour que ce soit l'IA qui doive se prononcer.

[virginieh]

Elles ne feront peut-être du meilleur boulot que les humains sur certains points.
Du genre arrêter de donner raison à des gens s'estimant frappés d'électrosensibilité ou empoisonnés par du glyphosate alors que la science est assez unanime sur le fait qu'ils ont tort.

D'après les tentatives d'IA actuelles, qui reproduisent en fait les comportements humains (voire en les amplifiant) on risque plutôt d'avoir l'effet inverse.
Si dans tel genre de cas les juges ont estimés le plus souvent que A avait raison face à B, l'IA dira que A' a raison face à B'.
Ca avait problème il y a peu pour le tri de CV automatisé, les biais de discrimination avaient été amplifiés par l'IA.

[pierre-y]

Il y aura toujours un doute que ce juge virtuel ne réponde pas avant tout a une décision politique ou autre plutôt que l'affaire qui lui est présenté. Il suffit d'imaginer la contestation que ça donnerait pour des peines à l'encontre des gilets jaune par exemple.

[Thorna]

Une IA peut tout apprendre, y compris devenir juge. Le seul problème est son éducation: on se rappelle ce robot microsoft (je crois) devenu nazi en quelques heures! Si l'IA juge suit le même "enseignement"...
Plus de 50 vidéos sur le sujet de l'apprentissage des IA :

[Sodium]

Il y aura toujours un doute que ce juge virtuel ne réponde pas avant tout a une décision politique ou autre plutôt que l'affaire qui lui est présenté. Il suffit d'imaginer la contestation que ça donnerait pour des peines à l'encontre des gilets jaune par exemple.

Ca avec des humains aussi.

[Thomasa21]

Il y aura toujours un doute que ce juge virtuel ne réponde pas avant tout a une décision politique ou autre plutôt que l'affaire qui lui est présenté. Il suffit d'imaginer la contestation que ça donnerait pour des peines à l'encontre des gilets jaune par exemple.

le même problème existe déjà avec les décisions rendues par les humains, donc cela ne peut être mis sur la table comme véritable point d'opposition à ce projet