La Maison Blanche dévoile la "déclaration des droits" de l'IA

La Maison Blanche dévoile la "déclaration des droits" de l'IA,
des directives nationales non contraignantes qui pourraient éclairer les décisions politiques et commerciales futures

La Maison Blanche a proposé un "Blueprint for an AI Bill of Rights", un ensemble de principes et de pratiques visant à guider « la conception, l'utilisation et le déploiement de systèmes automatisés, dans le but de protéger les droits des Américains à l'ère de l'intelligence artificielle », selon la Maison Blanche. Le plan directeur est un ensemble de lignes directrices non contraignantes ou de suggestions fournissant une "déclaration de valeurs nationales" et une boîte à outils pour aider les législateurs et les entreprises à intégrer les protections proposées dans les politiques et les produits. La Maison-Blanche a élaboré ce projet après un processus d'un an qui a permis de recueillir les avis et observations de personnes de tout le pays « sur la question des préjudices causés par les algorithmes et les données et sur les solution possibles ». Toutefois, les critiques affirment que ce plan manque de mordant et que les États-Unis ont besoin d'une réglementation encore plus stricte en matière d'IA.

Pièce jointe 626689

Le document représente une approche de grande envergure pour contrer les préjudices potentiels de l'intelligence artificielle. Il aborde les préoccupations concernant les préjugés dans les systèmes d'IA, la surveillance basée sur l'IA, les décisions injustes en matière de soins de santé ou d'assurance, la sécurité des données et bien plus encore dans le contexte des libertés civiles américaines, de la justice pénale, de l'éducation et du secteur privé. « Parmi les grands défis posés à la démocratie aujourd'hui figure l'utilisation de la technologie, des données et des systèmes automatisés d'une manière qui menace les droits du public américain. Trop souvent, ces outils sont utilisés pour limiter nos possibilités et empêcher notre accès à des ressources ou des services essentiels, peut-on lire dans l'avant-propos du plan directeur.

Un ensemble de cinq principes élaborés par le Bureau de la politique scientifique et technologique de la Maison Blanche incarne le cœur du plan directeur de l'IA :

• "des systèmes sûrs et efficaces", qui met l'accent sur le retour d'information de la communauté dans le développement des systèmes d'IA et sur les protections contre l'IA "non sûre" ;
• "des protections contre la discrimination algorithmique", qui propose que l'IA soit déployée de manière équitable sans discrimination ;
• "la confidentialité des données", qui recommande que les gens aient un droit de regard sur la manière dont les données les concernant sont utilisées ;
• "la notification et l'explication, qui signifie que les gens devraient savoir comment et pourquoi un système basé sur l'IA a pris une décision ;
• "les alternatives humaines, la considération et le retour en arrière", qui recommande que les gens devraient être en mesure de refuser les décisions basées sur l'IA et d'avoir accès au jugement d'un humain dans le cas d'erreurs de l'IA.

Il s'agit de la première étape importante pour que l'IA rende des comptes.

En septembre, l'administration Biden a annoncé des principes fondamentaux pour la responsabilité et la réforme de la technologie, tels que l'arrêt des décisions algorithmiques discriminatoires, la promotion de la concurrence dans le secteur technologique et la mise en place de protections fédérales pour la vie privée.

La charte des droits de l'IA, dont la vision a été présentée pour la première fois il y a un an par l'Office of Science and Technology Policy (OSTP), un département du gouvernement américain qui conseille le président en matière de science et de technologie, est un plan détaillé sur la manière d'atteindre ces objectifs. Il fournit des conseils pratiques aux agences gouvernementales et appelle les entreprises technologiques, les chercheurs et la société civile à agir pour mettre en place ces protections. « Ces technologies causent des préjudices réels dans la vie des Américains, préjudices qui vont à l'encontre de nos valeurs démocratiques fondamentales, notamment le droit fondamental à la vie privée, la liberté de ne pas être discriminé et notre dignité de base », a déclaré un haut fonctionnaire de l'administration lors d'une conférence de presse.

L'IA est une technologie puissante qui transforme nos sociétés. Elle a également le potentiel de causer de graves préjudices, qui touchent souvent les minorités de manière disproportionnée. Les technologies de reconnaissance faciale utilisées dans le maintien de l'ordre et les algorithmes qui attribuent les avantages sociaux ne sont pas aussi précis pour les minorités ethniques, par exemple.

Le nouveau plan d'action vise à rétablir l'équilibre. Il stipule que les Américains doivent être protégés contre les systèmes dangereux ou inefficaces, que les algorithmes ne doivent pas être discriminatoires et que les systèmes doivent être utilisés tels qu'ils ont été conçus, de manière équitable, et que les citoyens doivent avoir la maîtrise de leurs données et être protégés contre les pratiques abusives en matière de données grâce à des garanties intégrées. Les citoyens devraient également savoir quand un système automatisé est utilisé sur eux et comprendre comment il contribue aux résultats. Enfin, les gens devraient toujours pouvoir se retirer des systèmes d'IA en faveur d'une alternative humaine et avoir accès à des recours en cas de problèmes.

La charte des droits de l'IA de l'OSTP est « impressionnante », selon Marc Rotenberg, qui dirige le Center for AI and Digital Policy, une organisation à but non lucratif qui suit la politique en matière d'IA. « Il s'agit clairement d'un point de départ. Cela ne met pas fin à la discussion sur la façon dont les États-Unis mettent en œuvre une IA centrée sur l'humain et digne de confiance. Mais c'est un très bon point de départ pour amener les États-Unis à un endroit où ils peuvent poursuivre cet engagement », dit-il.

Willmary Escoto, analyste des politiques américaines pour le groupe de défense des droits numériques Access Now, estime que les lignes directrices soulignent habilement « l'importance de la minimisation des données » tout en « nommant et en abordant les divers préjudices que les gens subissent du fait d'autres technologies basées sur l'IA, comme la reconnaissance des émotions ». « La Charte des droits de l'IA pourrait avoir un impact monumental sur les libertés civiles fondamentales des Noirs et des Latino-Américains à travers la nation », déclare Escoto.

Le secteur de la technologie a salué la reconnaissance par la Maison Blanche du fait que l'IA peut également être utilisée pour le bien

Matt Schruers, président du lobby technologique CCIA, qui compte parmi ses membres des entreprises comme Google, Amazon et Uber, dit apprécier « l'orientation de l'administration selon laquelle les agences gouvernementales devraient montrer l'exemple en élaborant des principes d'éthique de l'IA, en évitant la discrimination et en développant un cadre de gestion des risques pour les technologues du gouvernement ».

Shaundra Watson, directrice des politiques pour l'IA au sein du lobby technologique BSA, dont les membres comprennent Microsoft et IBM, dit qu'elle se félicite de l'accent mis par le document sur les risques et les évaluations d'impact. « Il sera important de s'assurer que ces principes sont appliqués d'une manière qui augmente les protections et la fiabilité dans la pratique », dit Watson.

Un ensemble de lignes directrices non contraignantes

La mise en œuvre de ces principes est entièrement volontaire pour le moment, puisque le plan directeur n'est pas soutenu par la loi. « Lorsque les lois ou les politiques existantes, telles que les lois sur la protection de la vie privée et les exigences en matière de surveillance propres à un secteur, ne fournissent pas déjà des orientations, le projet de charte des droits de l'IA devrait être utilisé pour éclairer les décisions politiques », a déclaré la Maison Blanche.

Alors que l'UE fait pression sur les réglementations visant à prévenir les dommages causés par l'IA et à tenir les entreprises responsables des technologies d'IA nuisibles, et qu'elle dispose d'un régime strict de protection des données, les États-Unis se sont montrés réticents à introduire de nouvelles réglementations. Les nouvelles protections décrites font écho à celles introduites dans l'UE, mais le document n'est pas contraignant et ne constitue pas une politique du gouvernement américain, car l'OSTP ne peut pas promulguer de lois. Il appartiendra aux législateurs de proposer de nouveaux projets de loi.

Russell Wald, directeur des politiques de l'Institut de Stanford pour l'IA centrée sur l'humain, estime que le document manque de détails ou de mécanismes d'application. « Il est décourageant de constater l'absence de politique fédérale cohérente pour relever les défis désespérément nécessaires posés par l'IA, tels que des actions de surveillance, d'audit et d'examen coordonnées au niveau fédéral pour atténuer les risques et les préjudices apportés par les modèles de fondation déployés ou à code source ouvert », dit-il.

Rotenberg dit qu'il préférerait que les États-Unis mettent en œuvre des réglementations comme l'AI Act de l'UE, une loi à venir qui vise à ajouter des contrôles et des équilibres supplémentaires aux utilisations de l'IA qui ont le plus de potentiel pour causer des dommages aux humains. « Nous aimerions voir des interdictions claires sur les déploiements de l'IA qui ont été les plus controversés, comme par exemple l'utilisation de la reconnaissance faciale pour la surveillance de masse », explique-t-il.

La charte des droits de l'IA pourrait ouvrir la voie à de futures législations, comme l'adoption de l'Algorithmic Accountability Act ou la création d'une agence chargée de réglementer l'IA, explique Sneha Revanur, qui dirige Encode Justice, une organisation qui s'intéresse aux jeunes et à l'IA. « Bien qu'elle soit limitée dans sa capacité à s'attaquer aux préjudices du secteur privé, la Charte des droits de l'IA peut tenir ses promesses si elle est appliquée de manière significative, et nous espérons que des réglementations ayant un réel mordant suivront », dit-elle.

Source : Maison-Blanche

Et vous ?

:fleche: Quel est votre avis sur le sujet ?

Voir aussi :

:fleche: Le Parlement et le Conseil de l'UE devraient s'accorder sur la mise en place d'un chargeur universel le 7 juin, une mesure qui permettrait de réaliser jusqu'à 250 millions d'euros d'économies par an

:fleche: USA : un nouveau projet de loi va sonder la partialité des algorithmes des entreprises, L'IA étant de plus en plus impliquée dans la prise de décision