Discussion :

[Patrick Ruiz]

Le Vatican, IBM et Microsoft ensemble pour appeler à une réglementation de la reconnaissance faciale
Et de façon générale, à une régulation de l'IA pour le bien de l’humanité

L’effort se nomme Call For an AI Ethics et c’est le Vatican qui en est l’initiateur. Les responsables de l’Église Catholique romaine appellent à la mise sur pied de normes éthiques plus strictes en matière de développement d’intelligence artificielle. IBM et Microsoft sont les premières entreprises à s’arrimer à l’initiative à côté du gouvernement italien et de l’Organisation des Nations Unies pour l’alimentation et l’agriculture…

En fait, ces différentes entités sont les premiers signataires du document support pour un usage éthique de l’intelligence artificielle. Le Rome Call For an AI Ethics énonce 6 grands principes : transparence, inclusion, responsabilité, impartialité, fiabilité, sécurité et respect de la vie privée. Grosso modo, ces derniers stipulent que la technologie (l’intelligence artificielle) doit être mise sur pied dans le but de protéger les personnes ; en particulier, les faibles et les défavorisés.

Le Vatican veut s'assurer que les entreprises n'utilisent pas l'intelligence artificielle comme un moyen de collecter des données sans le consentement des individus, puis de les utiliser à des fins commerciales ou politiques.

« Sur le plan personnel, l'ère numérique modifie notre perception de l'espace, du temps et du corps, et sur le plan socio-économique, les utilisateurs sont souvent réduits à des "consommateurs", en proie à des intérêts privés concentrés dans les mains de quelques-uns. Les algorithmes extraient désormais des données qui permettent de contrôler les habitudes mentales et relationnelles à des fins commerciales ou politiques, ce, souvent à notre insu. L'asymétrie par laquelle un petit nombre d'élus savent tout de nous alors que nous ne savons rien d'eux ternit la pensée critique et l'exercice conscient de la liberté », a déclaré le Pape François absent à l’atelier, mais représenté. Ce dernier n’a pas manqué de déplorer les inégalités qui se creusent énormément avec le savoir et la richesse qui s'accumulent entre quelques mains avec de graves risques pour les sociétés démocratiques. Les cas pour illustrer les propos du Pape sont légion avec de nombreuses agences gouvernementales et entreprises privées qui usent de logiciels de la société Clearview AI pour extirper des données de reconnaissance faciale à l’insu de tiers. La base de données de cette société, qui contient plus de 3 milliards d'images extraites de divers sites en ligne, est utilisée par les forces de l'ordre pour mettre la main sur des individus dignes d'intérêt.

Le Rome Call For an AI Ethics stipule en sus qu’un devoir d’explication doit faire l’objet d’instauration et que les algorithmes basés sur l'intelligence artificielle doivent fournir aux individus des informations sur la manière dont ces derniers ont abouti à leurs décisions afin de garantir qu'il n'y a pas de biais.

Toutefois, le document ne va pas plus loin que la définition de ce qui reste de grands axes de réflexion tant les principes énoncés peuvent prêter à débat. En effet, sur la base de ces derniers l’on peut déboucher sur un ensemble de points susceptibles de faire l’objet d’examen par des gouvernements :

• L'application de la reconnaissance faciale par les forces de l'ordre devrait-elle faire l'objet d'une surveillance et de contrôles humains, y compris des restrictions sur l'utilisation de la technologie de reconnaissance faciale sans preuve de culpabilité ou d'innocence ?
• De même, devrions-nous veiller à ce qu'il y ait une surveillance et une responsabilisation civiles pour l'utilisation de la reconnaissance faciale dans le cadre des pratiques gouvernementales en matière de technologie de sécurité nationale ?
• Quels types de mesures juridiques peuvent empêcher l'utilisation de la reconnaissance faciale pour le profilage racial et d'autres violations des droits tout en permettant les utilisations bénéfiques de la technologie?
• L'utilisation de la reconnaissance faciale par les autorités publiques ou d'autres personnes devrait-elle être soumise à des niveaux de performance minimum en matière de précision ?
• La loi devrait-elle exiger que les détaillants affichent un avis visible de leur utilisation de la technologie de reconnaissance faciale dans les espaces publics ?
• La loi devrait-elle exiger que les entreprises obtiennent un consentement préalable avant de recueillir des images d'individus pour la reconnaissance faciale ? Si oui, dans quelles situations et quels lieux cela devrait-il s'appliquer ? Et quelle est la manière appropriée de demander et d'obtenir un tel consentement ?
• Devrions-nous nous assurer que les personnes ont le droit de savoir quelles photos ont été recueillies et stockées avec leurs noms et visages ?
• Devrions-nous créer des processus qui accordent des droits légaux aux personnes qui croient avoir été mal identifiées par un système de reconnaissance faciale ?

Le Vatican espère augmenter le nombre de signataires de son initiative en matière d’éthique sur l'intelligence artificielle dans les mois à venir. En sus, il espère également collaborer avec des universités du monde entier pour promouvoir davantage de recherches scientifiques sur les directives éthiques en matière d'IA.

Sources : Vatican News, Academyforlife

Et vous ?

Que pensez-vous de cette initiative ?
Peut-elle cacher une manœuvre de positionnement du Vatican ?

Voir aussi :

Des chercheurs australiens créent un nouveau modèle de reconnaissance faciale 3D capable de reconnaitre des sujets portant des lunettes ou grimaçant
Des actionnaires demandent à Amazon d'arrêter de vendre son IA de reconnaissance faciale aux forces de l'ordre
Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
Londres : les tests d'une technologie de reconnaissance faciale ne mènent à aucune arrestation en raison du nombre élevé de faux positifs
Paris : la reconnaissance faciale pour le contrôle automatisé des passeports n'arrivera pas ce printemps, sa mise en service prévue pour le 18 juillet

[marsupial]

Toute initiative contre un Etat policier gouverné par une IA de reconnaissance faciale reste bonne à prendre même si cela donne un bon coup de pub aux signataires. Espérons qu'elle soit rejoint en masse.
Je pense que le Vatican sous l'impulsion de la ligne politique du Pape François se trouve sur la bonne voie.

Rappelons les biais et le niveau de faux positifs de cette technologie pas fiable à 100% pour contester l'instauration de la reconnaissance faciale ou le "délit de sale gueule" automatisé.

[TheLastShot]

Pour une fois je peux dire bravo au Vatican sans être ironique...
Mais je trouve ça quand même que flippant que ce soit eux qui fasse le plus preuve de bon sens plutôt que les personnes qui travail sur le sujet -_- A croire que les v=billets de 500 font de bons oeillères.

[Neckara]

Réglementer est une bonne idée, mais l'enfer est pavé de bonnes intentions.

Il n'y a rien de pire qu'une mauvaise réglementation édictée par des personnes qui n'ont aucune idée de ce qu'ils font.

Grosso modo, ces derniers stipulent que la technologie (l’intelligence artificielle) doit être mise sur pied dans le but de protéger les personnes ; en particulier, les faibles et les défavorisés.

Et voilà comment on va à l'encontre des droits de l'Homme alors même qu'un des buts initiaux était de les protéger.

Les Hommes naissent libres et égaux (aux yeux de la Loi). Vouloir protéger en particulier les "faibles" et "défavorisés", va à l'encontre de ce principe. De plus, on voit bien de quelle manière certaines personnes luttent pour défendre les "faibles" et "défavorisés", i.e. utiliser les "faibles" et "défavorisés" comme bouclier et prétexte pour faire n'importe quoi, jusqu'à tabasser ses opposants politiques.

Le Vatican veut s'assurer que les entreprises n'utilisent pas l'intelligence artificielle comme un moyen de collecter des données sans le consentement des individus, puis de les utiliser à des fins commerciales ou politiques.

C'est pas comme si il existait un truc comme le RGPD… ainsi qu'un équivalant au Japon… et une tentative de projet de loi (je ne sais pas où cela en est) en Californie…

Les algorithmes extraient désormais des données qui permettent de contrôler les habitudes mentales et relationnelles à des fins commerciales ou politiques, ce, souvent à notre insu.

Contrôler est un peu fort, "exploiter" serait plus juste, amha.

Le Rome Call For an AI Ethics stipule en sus qu’un devoir d’explication doit faire l’objet d’instauration et que les algorithmes basés sur l'intelligence artificielle doivent fournir aux individus des informations sur la manière dont ces derniers ont abouti à leurs décisions afin de garantir qu'il n'y a pas de biais.

Mmmm… ça me rappelle un truc ça…


Bref, ils arrivent 4 ans trop tard.

[Ryu2000]

Admettons qu'une excellente réglementation soit mise sur pied dans le but de protéger les personnes ; en particulier, les faibles et les défavorisés.
Certains pays ne respecterons pas cette réglementation.
Il arrive à des pays comme l'Arabie Saoudite, le Qatar, le Bahreïn, Israël, la Chine, etc, de ne pas respecter les résolutions de l'ONU et ils ne subissent pas de sanction. Par exemple :
Résolution de l'Onu : Israël ne la respectera pas (comme bien d'autres avant)

C'est cool de vouloir créer des réglementations pour protéger les faibles et les défavorisés, mais ce ne sera probablement pas appliqué partout.
C'est un peu comme le protocole de Kyoto qui n'est pas respecté par l'ensemble des pays qui l'ont signé. (les USA ne l'avaient pas signé à la base, ils étaient moins hypocrite )

[Anselme45]

Le Vatican, IBM et Microsoft ensemble pour appeler à une réglementation de la reconnaissance faciale.
Et de façon générale, à une régulation de l'IA pour le bien de l’humanité

Le Vatican? IBM? Microsoft?

Cela ne fait pas un peu penser à un club de "loosers" qui, en perte de vitesse dans leur domaine et totalement absents dans l'évolution de notre société actuelle, essaye de survivre médiatiquement en pensant aux belles années passées où ils étaient les maître du monde?

Pensées émues:

• Pour l'église catholique qui fait plus parler des affaires de pédophilies mal gérées que d'autres choses (la société actuelle fait d'ailleurs de moins en moins appel à elle que cela soit pour les mariages, les baptêmes ou les enterrements)
• Pour IBM qui ne produit plus rien, ni du point de vue équipement, ni du point de vue logiciel depuis longtemps
• Pour Microsoft qui multiplie ces dernières années une série calamiteuse de nouveaux OS

[fredinkan]

Le Vatican? IBM? Microsoft?

Cela ne fait pas un peu penser à un club de "loosers" qui, en perte de vitesse dans leur domaine et totalement absents dans l'évolution de notre société actuelle, essaye de survivre médiatiquement en pensant aux belles années passées où ils étaient les maître du monde?

Pensées émues:

• Pour l'église catholique qui fait plus parler des affaires de pédophilies mal gérées que d'autres choses (la société actuelle fait d'ailleurs de moins en moins appel à elle que cela soit pour les mariages, les baptêmes ou les enterrements)
• Pour IBM qui ne produit plus rien, ni du point de vue équipement, ni du point de vue logiciel depuis longtemps
• Pour Microsoft qui multiplie ces dernières années une série calamiteuse de nouveaux OS

Je rigole bien quand je lis ce message.

je n'épiloguerai pas sur le vatican, mais concernant les 2 autres acteurs, on voit que tu ne gratte les infos qu'en surface.


IBM bosse beaucoup sur l'informatique quantique et sort de nombreux algo IA qui se basent sur ces principes afin, entre autre, d'offrir des systèmes de détection pour les deepfakes.
C'est un point qui est très suivi par de nombreux newsdesk, mais c'est généralement pas suivi par des développeurs lambda...

Concernant Microsoft, je pense qu'ils s'en sortent relativement bien et leur cognitive services sont bien foutus, intégrés à leurs autres solutions et prennent leur envol au même niveau que leur division cloud.
Si tu regarde les utilisateurs des produits professionnels microsoft (la stack dynamics notamment) elle est en train de rattraper salesforce qui est l'actuel acteur incontournable et c'est en partie avec ces intégrations qu'ils y arrivent.

Mais c'est vrai que juger sur un avis complètement subjectif et énoncer ton un avis si direct, c'est toujours un bon point pour l'ego...

[Ryu2000]

Le Vatican? IBM? Microsoft?

Alors ok on essaie de salir l'image de l'église catholique avec des vieilles histoires qui ont 20 ans, alors que ce n'est pas de la faute au Vatican si des pédophiles deviennent curés... Il y a des instituteurs pédophiles, des coachs pédophiles, des animateurs pédophiles, etc, dès qu'il y a des enfants il y a des pédophiles. (et il y a également eu des ministres qui allaient au Maroc coucher avec des enfants)
«M», documentaire ahurissant sur la pédophilie en milieu hassidique

Si « M » est aussi ahurissant qu'explosif, c'est aussi parce qu'au fil des confidences et des arguments livrés par des religieux - visant à faire reposer tout ceci sur une logique tout à fait explicable, voire excusable -, certains dialogues laissent pantois. Ainsi un rabbin n'arrive pas à comprendre comment deux femmes peuvent s'aimer. Si l'homosexualité masculine lui est tout à fait envisageable, il ne parvient pas à se la représenter sur le plan féminin. « Les femmes n'ont pas de sexe ! »

Angers: Neuf nouvelles plaintes pour pédophilie contre un coach de basket récidiviste
Chirurgien pédophile de Jonzac : 250 potentielles victimes identifiées, 184 plaintes déjà déposées
Le professeur pédophile prenait des centaines de photos de ses élèves par jour

====
88% des ordinateurs utilisent un OS Microsoft :
Windows 10 passe la barre des 50 % de parts de marché

Un ordinateur personnel sur deux tourne désormais sous Windows 10, selon les derniers chiffres de NetApplications. Plus largement, 88 % des ordinateurs sont au total équipés d'un système d'exploitation conçu par Microsoft.

===
Je sais qu'il y a eu des licenciements massifs chez IBM en 2015 et peut-être d'autres depuis. Mais bon c'est la crise, tout va mal. La situation n'est peut-être pas catastrophique pour IBM.

[Anselme45]

Alors ok on essaie de salir l'image de l'église catholique avec des vieilles histoires qui ont 20 ans, alors que ce n'est pas de la faute au Vatican si des pédophiles deviennent curés...

Pas besoin de salir l'image de l'église catholique, elle se débrouille très bien toute seule pour le faire:

• 1. Les affaires ne sont pas vieilles de 20 ans... Il y a encore des cas aujourd'hui!
• 2. Le seul niveau de l'église qui n'a pas encore été condamné pour raison de pédophilie, c'est le dernier celui de Pape! Faut-il te rappeler que l'année passée un cardinal australien (cardinal, le dernier "grade" avant celui de "pape") a été condamné pas comme dans le cas français pour avoir caché des affaires de pédophilie mais pour s'y être corrompu?
• 3. Pour info, l'église catholique américaine est en faillite car ne pouvant plus payer les dommages et intérêts aux quels elle a été condamnée par la justice pour une multitude d'affaires!

88% des ordinateurs utilisent un OS Microsoft :
Windows 10 passe la barre des 50 % de parts de marché

Quand le client n'a pas le choix et que la totalité des nouveaux ordinateurs vendus sont équipés de Win10, il n'y a pas de quoi se vanter de couvrir 50 % de parts de marché. C'est même plutôt une preuve d'échec!

[Ryu2000]

Quand le client n'a pas le choix et que la totalité des nouveaux ordinateurs vendus sont équipés de Win10, il n'y a pas de quoi se vanter de couvrir 50 % de parts de marché.

C'est 88% des ordinateurs qui tournent sous un OS Microsoft. 55% c'est pour la même version de l'OS.

Le consommateur à le choix il peut acheter un ordinateur sans OS et installer ce qu'il veut, il peut acheter un ordinateur sous linux, ou un même un ordinateur sous macOS si il y a de l'argent.
Dell a gagné des dizaines de millions de dollars en vendant des PC Linux ce segment est extrêmement lucratif pour le constructeur
Dell lance cinq nouveaux ordinateurs livrés avec Ubuntu
Linux : l’ordinateur portable System 76 Gazelle est enfin disponible, pour le grand bien de la communauté Linux
C'est sous Windows qu'il y a le plus de logiciels, au niveau des jeux c'est mieux, etc.
Bon après pour la personne qui ne fait que naviguer un Linux Mint convient très bien.

Au niveau de l'action ça se porte bien :

[Patrick Ruiz]

Trump en soutien d’un appel au boycott gouvernemental de Microsoft ?
Le président US retweete une demande de sanctions pour refus de vendre la technologie de reconnaissance faciale à la police

Richard Grenell, ex-directeur intérimaire du service de renseignements national au sein du gouvernement Trump, appelle au boycott gouvernemental de Microsoft. Il l’a fait savoir dans un tweet repris par le président américain Donald Trump.

« Ils doivent désormais être mis à l’écart lors des procédures d’appels d’offres gouvernementales. Il doit y avoir des conséquences pour refus de vendre la technologie de reconnaissance faciale à la police », écrit-il.

Ces sorties font suite à une publication de l’Union américaine pour les libertés civiles (ACLU) annonçant que Microsoft refuse de vendre la technologie de reconnaissance faciale aux forces de l’ordre.

En fait, cela fait un moment que l’entreprise affiche ce positionnement. En effet, on a appris au début du deuxième trimestre de l’année précédente que Microsoft aurait refusé de vendre sa technologie de reconnaissance faciale à une agence de police californienne. L'agence en question, dont l'identité n'a pas été divulguée, voulait faire installer cette technologie dans les voitures et les caméras corporelles de ses officiers. Brad Smith, le président de Microsoft, avait alors déclaré lors d'une conférence sur l'IA à l'université de Stanford, que la principale raison du refus de Microsoft est l'impact potentiel sur les droits de l'homme. En effet, la société craint le fait que si cette technologie avait été installée dans les voitures et caméras corporelles des officiers de cette agence de police, cela aurait certainement conduit à l'interrogatoire disproportionné des femmes et des minorités innocentes.

Le contexte actuel marqué par la brutalité policière a encore donné à l’entreprise l’occasion de réitérer sa position sur le sujet. Dans une interview accordée Washington Post le 11 juin dernier, le président des affaires juridiques de Microsoft, Brad Smith, a fait savoir que Microsoft ne vend pas de technologie de reconnaissance faciale aux forces de police américaines et s'est engagé à ne pas la vendre jusqu'à ce qu'une loi nationale régissant son utilisation soit adoptée. Son intervention faisait suite à la publication, par 250 employés de l’entreprise, d’une lettre ouverte l’appelant à rompre les relations commerciales avec les forces de police de manière plus générale.

À date, Amazon, IBM et Microsoft ont la même position sur le sujet. IBM a été la première des trois sociétés à annoncer qu'elle se retirait du marché de la reconnaissance faciale et c'est également elle qui en a pris l'engagement le plus permanent.

« IBM ne propose plus de logiciel de reconnaissance ou d'analyse faciale IBM à usage général. IBM s'oppose fermement et ne tolérera pas l'utilisation de toute technologie, y compris la technologie de reconnaissance faciale offerte par d'autres fournisseurs, pour la surveillance de masse, le profilage racial, les violations des droits et libertés fondamentaux de la personne, ou tout autre objectif non conforme à nos valeurs et principes de confiance et transparence. Nous pensons que le moment est venu d'entamer un dialogue national sur l'opportunité et la manière dont la technologie de reconnaissance faciale devrait être utilisée par les autorités nationales chargées de l'application des lois », a écrit le PDG Arvind Krishna dans une lettre adressée aux membres du congrès.

Amazon a pour sa part annoncé le 10 juin dernier la suspension de la vente de son logiciel de reconnaissance faciale Rekognition aux forces de l'ordre pour un an. En fait, depuis le début de l’affaire, Amazon a exprimé sa faveur au mouvement Black Lives Matter. Le 3 juin, l’entreprise a notamment annoncé un don de 10 millions de dollars à plusieurs organisations qui soutiennent les opportunités économiques, l’éducation et la justice pour les Afro-Américains. Mais de nombreuses voix ont continué à demander plus de mesures. L’Union américaine pour les libertés civiles (ACLU) est par exemple revenue sur l’utilisation de Rekognition par la police. En juillet 2018, l’association avait déjà mené un test pour simuler la manière dont les forces de l’ordre utilisaient le logiciel. Ce dernier avait alors identifié 28 membres du Congrès comme étant des criminels.

Source : Twitter

Et vous ?

Quelle est votre opinion sur l’utilisation de la reconnaissance faciale par les gouvernements ?
Faut-il encadrer l’utilisation de cette technologie ?

Voir aussi :

La reconnaissance faciale comme méthode de sécurité est inutile pour 4 smartphones sur 10, d'après une étude
Reconnaissance faciale : Microsoft appelle à une régulation mondiale avant que cette technologie ne devienne problématique au sein de la société
Le président de Microsoft a déclaré que sans la réglementation de la technologie de reconnaissance faciale, 2024 pourrait ressembler au roman « 1984 »
Chine : même les porteurs de masques peuvent être identifiés, selon une société chinoise de reconnaissance faciale
Le Vatican, IBM et Microsoft ensemble pour appeler à une réglementation de la reconnaissance faciale et de façon générale, à une régulation de l'IA pour le bien de l'humanité

[micka132]

En effet, la société craint le fait que si cette technologie avait été installée dans les voitures et caméras corporelles des officiers de cette agence de police, cela aurait certainement conduit à l'interrogatoire disproportionné des femmes et des minorités innocentes.

Je vois pas le rapport, à part pour reconnaître une youtubeuse qui passe par là et dont le flic veut un selfie.

Quelle est votre opinion sur l’utilisation de la reconnaissance faciale par les gouvernements ?
Faut-il encadrer l’utilisation de cette technologie ?

Je n'aime pas cette technologie, que ce soit pour le gouvernement ou pour les entreprises privés.
Maintenant la techno existe, avec des composantes plus ou moins importante en open source (et une volonté de 100% pour certain), donc comment empêcher quelqu'un de l'utiliser?

[sirthie]

Les Hommes naissent libres et égaux (aux yeux de la Loi). Vouloir protéger en particulier les "faibles" et "défavorisés", va à l'encontre de ce principe. De plus, on voit bien de quelle manière certaines personnes luttent pour défendre les "faibles" et "défavorisés", i.e. utiliser les "faibles" et "défavorisés" comme bouclier et prétexte pour faire n'importe quoi, jusqu'à tabasser ses opposants politiques.

"Tous les êtres humains naissent libres et égaux en dignité et en droits."

https://www.un.org/fr/universal-decl...-human-rights/

C'est pas beau de tronquer les citations pour les faire correspondre avec ses idées.

Si les êtres humains naissent libres et égaux en dignité et en droits, il est logique de vouloir protéger les droits et la dignité des "faibles" et des "défavorisés".

[Patrick Ruiz]

Cisco rejoint Microsoft et IBM dans l'engagement du Vatican en faveur d'une utilisation et d'un développement éthiques de l'IA
Déjà utilisée pour tuer sur les champs de bataille

Le Vatican annonce que Cisco a rejoint le Rome Call for an AI Ethics. C’est une initiative du Vatican destinée à appeler à la mise sur pied de normes éthiques plus strictes en matière de développement d’intelligence artificielle. Cisco rejoint ainsi IBM et Microsoft qui sont les premières entreprises à s’arrimer à l’initiative à côté du gouvernement italien et de l’Organisation des Nations Unies pour l’alimentation et l’agriculture. Les appels des responsables de l’Eglise catholique romaine interviennent dans un contexte fait d’affrontements armés à divers endroits du monde et de mise à contribution de l’intelligence artificielle pour tuer des êtres humains.

« Nous sommes très heureux que Cisco ait rejoint l'Appel de Rome car c'est une entreprise qui joue un rôle crucial en tant que partenaire technologique pour l'adoption et la mise en œuvre de l'intelligence artificielle (IA) en offrant une expertise en matière d'infrastructure, de sécurité et de protection des données et des systèmes d'IA. À partir de maintenant, nous allons examiner comment ce partenariat peut encore se développer pour combiner l'engagement déjà présent de l'entreprise avec les principes éthiques de l'Appel de Rome », déclare l'archevêque Vincenzo Paglia, président de l'Académie pontificale pour la vie et de la Fondation RenAIssance.

Le Rome Call For an AI Ethics énonce 6 grands principes : transparence, inclusion, responsabilité, impartialité, fiabilité, sécurité et respect de la vie privée. Grosso modo, ces derniers stipulent que la technologie (l’intelligence artificielle) doit être mise sur pied dans le but de protéger les personnes ; en particulier, les faibles et les défavorisés.

Le Vatican veut s'assurer que les entreprises n'utilisent pas l'intelligence artificielle comme un moyen de collecter des données sans le consentement des individus, puis de les utiliser à des fins commerciales ou politiques.

« Sur le plan personnel, l'ère numérique modifie notre perception de l'espace, du temps et du corps, et sur le plan socio-économique, les utilisateurs sont souvent réduits à des "consommateurs", en proie à des intérêts privés concentrés dans les mains de quelques-uns. Les algorithmes extraient désormais des données qui permettent de contrôler les habitudes mentales et relationnelles à des fins commerciales ou politiques, ce, souvent à notre insu. L'asymétrie par laquelle un petit nombre d'élus savent tout de nous alors que nous ne savons rien d'eux ternit la pensée critique et l'exercice conscient de la liberté », a déclaré le Pape François absent à l’atelier, mais représenté. Ce dernier n’a pas manqué de déplorer les inégalités qui se creusent énormément avec le savoir et la richesse qui s'accumulent entre quelques mains avec de graves risques pour les sociétés démocratiques. Les cas pour illustrer les propos du Pape sont légion avec de nombreuses agences gouvernementales et entreprises privées qui usent de logiciels de la société Clearview AI pour extirper des données de reconnaissance faciale à l’insu de tiers. La base de données de cette société, qui contient plus de 3 milliards d'images extraites de divers sites en ligne, est utilisée par les forces de l'ordre pour mettre la main sur des individus dignes d'intérêt.

Le Rome Call For an AI Ethics stipule en sus qu’un devoir d’explication doit faire l’objet d’instauration et que les algorithmes basés sur l'intelligence artificielle doivent fournir aux individus des informations sur la manière dont ces derniers ont abouti à leurs décisions afin de garantir qu'il n'y a pas de biais.

Toutefois, le document ne va pas plus loin que la définition de ce qui reste de grands axes de réflexion tant les principes énoncés peuvent prêter à débat. En effet, sur la base de ces derniers l’on peut déboucher sur un ensemble de points susceptibles de faire l’objet d’examen par des gouvernements :

• L'application de la reconnaissance faciale par les forces de l'ordre devrait-elle faire l'objet d'une surveillance et de contrôles humains, y compris des restrictions sur l'utilisation de la technologie de reconnaissance faciale sans preuve de culpabilité ou d'innocence ?
• De même, devrions-nous veiller à ce qu'il y ait une surveillance et une responsabilisation civiles pour l'utilisation de la reconnaissance faciale dans le cadre des pratiques gouvernementales en matière de technologie de sécurité nationale ?
• Quels types de mesures juridiques peuvent empêcher l'utilisation de la reconnaissance faciale pour le profilage racial et d'autres violations des droits tout en permettant les utilisations bénéfiques de la technologie ?
• L'utilisation de la reconnaissance faciale par les autorités publiques ou d'autres personnes devrait-elle être soumise à des niveaux de performance minimum en matière de précision ?
• La loi devrait-elle exiger que les détaillants affichent un avis visible de leur utilisation de la technologie de reconnaissance faciale dans les espaces publics ?
• La loi devrait-elle exiger que les entreprises obtiennent un consentement préalable avant de recueillir des images d'individus pour la reconnaissance faciale ? Si oui, dans quelles situations et quels lieux cela devrait-il s'appliquer ? Et quelle est la manière appropriée de demander et d'obtenir un tel consentement ?
• Devrions-nous nous assurer que les personnes ont le droit de savoir quelles photos ont été recueillies et stockées avec leurs noms et visages ?
• Devrions-nous créer des processus qui accordent des droits légaux aux personnes qui croient avoir été mal identifiées par un système de reconnaissance faciale ?

Tous les pays sont lancés dans le développement d’armes autonomes tueuses et leur déploiement sur le terrain

Suite aux attaques menées par les militants du Hamas le 7 octobre dernier, les forces israéliennes ont frappé plus de 22 000 cibles à l'intérieur de Gaza. Depuis la fin de la trêve temporaire, le 1er décembre, l'armée de l'air israélienne a frappé plus de 3500 sites. Pour y parvenir, elle met à contribution une intelligence artificielle dénommée « Gospel » afin d'identifier en temps réel le plus grand nombre de cibles ennemies.

En septembre 2022, l'armée israélienne a commencé à installer une arme automatique à un poste de contrôle très fréquenté de la ville d'Hébron (Al-Khalil), en Cisjordanie occupée. Les tourelles jumelles ont été installées au sommet d'une tour de garde surplombant le camp de réfugiés d'Al-Aroub. « Elle tire toute seule sans intervention de la part du soldat. Quand un soldat israélien voit un petit garçon, il appuie sur un bouton ou quelque chose comme ça et elle tire toute seule. Elle est très rapide, même plus rapide que les soldats. Les bombes lacrymogènes qu'il tire peuvent atteindre l'extrémité du camp et tout le reste », a déclaré un résident du camp.

La tourelle télécommandée a été développée par la société de défense israélienne Smart Shooter, qui a mis au point un système de contrôle de tir autonome appelé SMASH, qui peut être fixé sur des fusils d'assaut pour suivre et verrouiller des cibles à l'aide d'un traitement d'image basé sur l'intelligence artificielle. Le site Web de la société appelle ce système "One Shot-One Hit" (qui pourrait être traduit en français par : "un tir - un succès". Elle se vante d'avoir réussi à "combiner un matériel simple à installer avec un logiciel de traitement d'image avancé pour transformer des armes légères de base en armes intelligentes du XXIe siècle".

La société affirme que la technologie SMASH permet de surmonter les défis auxquels sont confrontés les soldats lors des batailles, tels que l'effort physique, la fatigue, le stress et la pression mentale pour viser avec précision et assurer le succès du tireur. « Notre objectif est de permettre à tous les corps d'infanterie de bénéficier des armes de précision. Quelle que soit l'expérience ou la mission du soldat, notre système lui permet de ne pas faire d'erreur lorsqu'il tire et de toucher la cible sans faute. Tout soldat devient un véritable tireur d'élite », a déclaré Michal Mor, fondateur et PDG de Smart Shooter, lors d'une interview en 2020.

La tourelle vue à Hébron n'est pas annoncée sur le site Web de l'entreprise israélienne, mais deux autres tourelles automatisées, 'SMASH HOPPER' et 'SMASH HOPPER P', sont équipées de fusils d'assaut et du système Smart Shooter. « Le HOPPER peut être monté dans plusieurs configurations, notamment sur un trépied, un mât fixe, un navire de surface et des véhicules », indique le site Web de l'entreprise. Dans l'ensemble, l'entreprise indique que la technologie SMASH est censée améliorer l'efficacité des missions en engageant avec précision et en éliminant les cibles terrestres, aériennes, statiques ou mobiles, de jour comme de nuit.

« Habituellement, le terroriste se trouve dans un environnement civil avec de nombreuses personnes que nous ne voulons pas blesser. Nous permettons au soldat de regarder à travers son système de contrôle de tir, pour s'assurer que la cible qu'il veut atteindre est la cible légitime. Une fois qu'il aura verrouillé la cible, le système s'assurera que la balle sera libérée lorsqu'il appuiera sur la gâchette, uniquement sur la cible légitime et qu'aucun des passants ne pourra être touché par l'arme », a déclaré Mor. Les militants des droits de l'homme s'inquiètent de "la déshumanisation numérique des systèmes d'armes".

Selon les médias locaux, l'armée israélienne a déclaré qu'elle teste la possibilité d'utiliser le système pour appliquer des méthodes approuvées de dispersion de la foule, qui n'incluent pas le tir de balles réelles. « Dans le cadre des préparatifs améliorés de l'armée pour faire face aux personnes qui perturbent l'ordre dans la région, elle examine la possibilité d'utiliser des systèmes télécommandés pour employer des mesures approuvées de dispersion de foule. Cela n'inclut pas le contrôle à distance de tirs à balles réelles », explique un porte-parole de l'armée israélienne. Mais cela n'a pas suffi à calmer les craintes des militants des droits de l'homme.

L'armée israélienne a également précisé qu'au cours de sa phase pilote, le système n'utilisera que des balles à pointe éponge. Cependant, des experts ont signalé qu'à plusieurs reprises, des balles à pointe éponge ont causé des blessures permanentes à des personnes en Cisjordanie occupée et en Israël, certaines ayant même perdu leurs yeux. Des militants des droits de l'homme d'Hébron ont exprimé leur inquiétude quant à la défaillance du système qui pourrait avoir un impact sur de nombreuses personnes, notant que le système a été placé au centre d'une zone fortement peuplée, avec des centaines de personnes passant à proximité.

En outre, les militants des droits de l'homme, ainsi que d'autres critiques, affirment également que ce dispositif est un nouvel exemple de l'utilisation par Israël des Palestiniens comme cobayes, ce qui lui permettrait de commercialiser sa technologie militaire comme testée sur le terrain auprès des gouvernements du monde entier. « Je vois cela comme une transition du contrôle humain au contrôle technologique. En tant que Palestiniens, nous sommes devenus un objet d'expérimentation et de formation pour l'industrie militaire israélienne de haute technologie, qui n'est pas responsable de ce qu'elle fait », a déclaré un habitant de la région.

Les armes létales autonomes sont de plus en plus utilisées dans le monde. Les drones, notamment les drones kamikazes, sont largement utilisés de l'Ukraine en l'Éthiopie et les armes télécommandées ont été utilisées par les États-Unis en Irak, par la Corée du Sud le long de la frontière avec la Corée du Nord et par les rebelles syriens. Par ailleurs, la dépendance de l'armée israélienne à l'égard des systèmes automatisés s'est accrue au fils des ans. Ces dernières années, Israël a adopté de plus en plus de systèmes automatisés à des fins militaires, dont certains sont controversés. Cela comprend des robots et des chars d'assaut dotés d'une intelligence artificielle.

L'année dernière, un rapport a révélé qu'Israël avait déployé un système élaboré de caméras en Cisjordanie occupée pour contrôler et surveiller les Palestiniens. Ces caméras seraient reliées à une base de données appelée "Blue Wolf". La base de données comprendrait des détails et des photos des Palestiniens, notamment les numéros d'identité, l'âge, le sexe, l'adresse, les numéros de plaque d'immatriculation, les liens avec d'autres individus, le statut professionnel en Israël et les impressions négatives que les soldats ont du comportement d'un Palestinien lorsqu'ils le rencontrent. Hébron aurait été l'une des premières villes à utiliser ce système.

Selon d'autres rapports, en 2018, l'armée israélienne a commencé à utiliser un drone capable de lancer des gaz lacrymogènes pour disperser les manifestants dans la bande de Gaza. En 2021, même la police israélienne aurait commencé à employer de tels drones contre des manifestants en Israël. Dans ce contexte, beaucoup estiment que le déploiement des armes létales autonomes va davantage s'accélérer. Elon Musk, PDG de Tesla, affirme : « les drones autonomes sont le futur. Ce n’est pas que je veuille que l’avenir soit ainsi fait, mais c’est juste que c’est inéluctable. L’ère des avions de chasse est révolue ».

En Europe, Milrem Robotics, leader européen en matière de robotique et de systèmes autonomes, a partagé en juin dernier une vidéo mettant en scène un char doté d'une IA qui fait exploser des voitures et d'autres cibles. L'entrepreneur a déclaré que le char, baptisé Type-X, est conçu pour permettre aux troupes de "percer les positions défensives de l'ennemi avec un risque minimal". Il devrait fournir aux troupes "une puissance de feu et une utilisation tactique égales ou supérieures à celles d'une unité équipée de véhicules de combat d'infanterie". Les critiques ont déclaré que la démonstration reflète un futur dystopique de la guerre.

Les échecs des négociations sur les robots tueurs aux Nations unies jettent un doute sur la perspective de l’atteinte d’un règlement mondial juridiquement contraignant sur l’intelligence artificielle

L’intelligence artificielle est vue comme la clé du futur pour dominer sur les nations et c’est peut-être là l’explication principale des échecs à répétition des négociations aux Nations unies sur les robots tueurs. La Convention des Nations unies sur certaines armes classiques s’est à nouveau penchée sur la question de l'interdiction des armes autonomes lors de sa dernière réunion d'examen quinquennale à Genève du 13 au 17 décembre 2021. Résultat : pas de consensus des parties prenantes sur l’établissement de règles internationales contraignantes visant à interdire l’utilisation des robots tueurs autonomes.

Les avis demeurent partagés sur la question de savoir si les robots tueurs autonomes doivent faire l’objet d’interdiction. En effet, l'utilisation d'armes autonomes meurtrières est en discussion aux Nations unies depuis 2015, dans le cadre de la Convention sur certaines armes classiques (CCAC). Les pays pionniers dans le domaine des systèmes d'armes autonomes, dont la Russie, les États-Unis et Israël, rejettent une interdiction contraignante en vertu du droit international. Ces poids lourds militaires sont face à un groupe d'États qui réclament une législation contraignante dans le cadre de la campagne menée par les ONG pour arrêter les robots tueurs.

« Tuer ou blesser des personnes sur la base de données collectées par des capteurs et traitées par des machines porterait atteinte à la dignité humaine. Human Rights Watch et d'autres organisations craignent que le fait de s'appuyer sur des algorithmes pour cibler des personnes déshumanise la guerre et érode notre humanité collective », lancent des intervenants du deuxième groupe pour l’interdiction des robots tueurs autonomes.

Chaque pays poursuit donc avec le développement desdites armes autonomes. Les États-Unis par exemple sont sur des projets de construction de nouveaux chars d'assaut autonomes et semi-autonomes destinés à être utilisés sur le champ de bataille. Du côté des USA, il s'agit de former une famille de chars d'assaut robotisés lourdement armés pour combattre aux côtés des humains, sur les champs de bataille du futur.

Les véhicules sont prévus en trois classes de taille, dans trois degrés de létalité, dont léger, moyen et lourd, et pèseront jusqu'à 30 tonnes. Toute la famille des véhicules de combat robotisés utilisera des logiciels de navigation et des interfaces de commande communs déjà testés sur le terrain. Chaque variante utilisera les mêmes normes électroniques et mécaniques, une architecture ouverte dite modulaire, qui devrait permettre aux soldats sur le terrain de brancher et de faire fonctionner toute une gamme de charges utiles, des missiles aux générateurs de fumée en passant par les brouilleurs radio.

Pour l'instant, les robots seront télécommandés par des humains, à distance, depuis leur base. Quant à l'Israël, le pays veut construire le Carmel, un char d'assaut qui sera équipé de contrôleurs Xbox et d'une IA perfectionnée avec les jeux “StarCraft II” et “Doom”. Des prototypes de ce futur véhicule de combat blindé (AFV) de l'armée israélienne ont été dévoilés publiquement en août 2019. Vu de l'extérieur, il ressemble à n'importe quelle arme de guerre classique. Il est enrobé de couches d'acier très épaisses, certaines colorées en kaki traditionnel, d'autres en noir.

De forme rectangulaire et avec des marches de char, son sommet est équipé de capteurs, de caméras et d'un espace pour les armements. Cependant, la caractéristique unique du Carmel se trouve à l'entrée de la trappe arrière, qui mène vers un espace rempli d'équipements que l'on trouve le plus souvent dans la chambre d'un adolescent.

Cet autre échec des discussions à l’ONU faisait suite à des sorties d’experts de la filière visant à avertir contre les dangers de l’utilisation des robots autonomes tueurs : « Les armes autonomes létales menacent de devenir la troisième révolution dans la guerre. Une fois développées, elles vont propulser les conflits armés à une échelle plus grande que jamais, et à des échelles de temps plus rapides que les humains puissent comprendre. Celles-ci peuvent être des armes de terreur, des armes que les despotes et les terroristes utilisent contre des populations innocentes et des armes détournées pour se comporter de manière indésirable. Nous n'avons pas assez de temps pour agir. Une fois que cette boîte de Pandore est ouverte, il sera difficile de la fermer. »

Source : Romecall.org

Et vous ?

Pour ou contre l'utilisation de l'IA à des fins militaires ? Si pour, à quel degré ou à quelles fins ? Si contre, pourquoi ?
Êtes-vous surpris de la mise à contribution de l’intelligence artificielle sur les champs de bataille ?
Que pensez-vous de ces divergences dans les négociations sur l'interdiction des armes autonomes ? Partagez-vous les avis selon lesquels elles constituent un indicateur de ce que l’atteinte d’un accord mondial contraignant ne sera pas possible ?

Voir aussi :

Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes, lors d'une conférence internationale sur l'IA
USA : le sous-secrétaire à la défense soulève l'importance d'associer l'intelligence artificielle à l'armée, évoquant une future course aux armes
Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud, en partenariat avec le fabricant d'armes Hanwha Systems
Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone
Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur

[Aiekick]

aveu d'impuissance. malheureusement les developpmenst IA sont inaretables

[Patrick Ruiz]

Des responsables mondiaux d’organisations diverses appellent au bannissement des robots tueurs et des armes pilotées par des IA :
« C’est le tournant Oppenheimer de notre génération »

La conférence avec pour thème « l’humanité à la croisée des chemins : systèmes d’armement autonomes et défis de la régulation » s’est tenue à Vienne en Autriche, les 29 et 30 avril 2024. Elle a rassemblé des États, des représentants des Nations unies, des organisations internationales et régionales, des universitaires, des organisations internationales et régionales, des industriels, des parlementaires, des représentants de la société civile, l'industrie et des parlementaires pour discuter des implications et des défis liés aux systèmes d'armes autonomes. Un dénominateur commun aux différentes interventions : « Aucune arme autonome ne devrait être conçue ou utilisée pour cibler un être humain, ni être utilisée pour faire la distinction entre des êtres humains. »

Le ministre autrichien des affaires étrangères a comparé l'essor de l'intelligence artificielle militaire au tournant de la création de la première bombe atomique, et a appelé à l'interdiction des robots tueurs.

« C'est, je crois, le moment Oppenheimer de notre génération », a déclaré Alexander Schallenberg au début de la conférence de Vienne. « Les systèmes d'armes autonomes envahiront bientôt les champs de bataille du monde entier. Nous le voyons déjà avec les drones pilotés par intelligence artificielle et la sélection des cibles basée sur l'IA », a-t-il ajouté.

La sortie du ministre autrichien intervient quelques semaines seulement après que l'armée de l'air américaine et la DARPA ont fait part de leurs efforts pour mettre l'IA aux commandes de chars d'assaut et même d'un avion de chasse F-16. Grosso modo, des efforts sont déployés par plusieurs pays depuis des années pour accroître l'autonomie des plateformes d'armement.

Le ministre autrichien considère l'IA comme la plus grande révolution dans le domaine de la guerre depuis l'invention de la poudre à canon, mais il estime qu'elle est bien plus dangereuse. La prochaine étape logique du développement de l'IA militaire consistant à éliminer les humains du processus décisionnel, il estime qu'il n'y a pas de temps à perdre.

« Il est temps de se mettre d'accord sur des règles et des normes internationales pour garantir le contrôle humain. Au moins, assurons-nous que la décision de vie ou de mort reste entre les mains des humains et non des machines. », a-t-il déclaré.

Il a souligné qu'il n'était pas opposé à l'utilisation de l'intelligence artificielle, un point de vue partagé par de nombreux participants à la conférence, mais qu'il était important de comprendre les implications de cette technologie en tant qu'arme de guerre.

Faisant écho à ce sentiment, Hasan Mahmud, ministre des affaires étrangères du Bangladesh, a souligné que l'IA avait un énorme potentiel pour faire progresser la science et aider l'humanité, et a fait valoir que ces rôles devraient attirer plus d'efforts que l'automatisation de la violence.

L'une des principales préoccupations soulevées par les panélistes concernait la responsabilité de l'utilisation de l'intelligence artificielle dans la guerre, si les humains ne sont plus impliqués dans la décision de recourir à la violence.

« Nous ne pouvons plus garantir le respect du droit humanitaire international s'il n'y a plus de contrôle humain sur l'utilisation de ces armes », a déclaré Mirjana Spoljaric Egger, présidente du Comité international de la Croix-Rouge, avant d'insister sur la nécessité d'agir rapidement.

« Aujourd'hui, même les modèles d'intelligence artificielle les plus sophistiqués ne sont pas parfaits et il a été démontré qu'ils commettent des erreurs et font preuve de partialité », a déclaré M. Schallenberg, soulignant les préoccupations de Mme Spoljaric Egger.

« En fin de compte, qui est responsable si quelque chose tourne mal ? Le commandant ? L'opérateur ? Le développeur du logiciel ? »

L'Ukraine par exemple déploie bel et bien des drones capables d'aller de façon autonome à la recherche de cibles et de les abattre

Une vidéo du collecteur de fonds ukrainien Serhii Sternenko, publiée le 20 mars, présente un drone d'attaque doté d'un système de reconnaissance automatique de la cible qui vise un char d'assaut russe à longue distance. Même après la perte de la liaison vidéo, le drone réussit son attaque.

ЗБІР НА FPV ІЗ АВТОМАТИЧНИМ НАВЕДЕННЯМ НА ЦІЛЬ!

Наші дрони еволюціонували та тепер вміють уражати цілі майже самостійно!

На цьому відео знищення російського танка за допомогою саме такого дрона💥
Це спільна робота 60 та 63 механізованих бригад.

Дрон залітав на ціль в умовах… pic.twitter.com/5yGBjbIB9M

— Serhii Sternenko ✙ (@sternenko) March 20, 2024

Des développeurs ukrainiens confirment que leurs drones effectuent désormais des frappes autonomes sur les forces russes, sans opérateur humain. C'est en principe la première fois que de tels drones sont utilisés, les allégations de l'ONU concernant des attaques autonomes en Libye en 2020 n'ayant pas été prouvées.

Les drones Saker Scout peuvent trouver, identifier et attaquer 64 types différents d'objets militaires russes de manière autonome, en opérant dans des zones où le brouillage radio bloque les communications et empêche les autres drones de fonctionner.

Le quadcoptère Saker Scout est entré en service le mois dernier et peut transporter trois kilos de bombes. Les petits drones télécommandés se sont révélés extrêmement efficaces en tant que bombardiers équipés de grenades antichars RKG-3 modifiées ou d'ogives RPG et peuvent détruire même des chars lourds.

Source : Federal Ministry Republic of Austria

Et vous ?

Êtes-vous surpris de la mise à contribution de l’intelligence artificielle sur les champs de bataille ?
Que pensez-vous de l’absence d’accords contraignants en matière d’interdiction des armes autonomes ?

Voir aussi :

Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes, lors d'une conférence internationale sur l'IA
USA : le sous-secrétaire à la défense soulève l'importance d'associer l'intelligence artificielle à l'armée, évoquant une future course aux armes
Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud, en partenariat avec le fabricant d'armes Hanwha Systems
Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone
Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur