L'ONU avertit que l’IA peut menacer les droits de l'homme
L'ONU avertit que l’IA peut menacer les droits de l'homme,
le rapport met en garde contre l'utilisation de l'IA en tant qu'outil de prévision et de profilage
Les systèmes d'intelligence artificielle sont utilisés pour déterminer qui bénéficie des services publics et décider qui a une chance d'être recruté pour un emploi, a déclaré Michelle Bachelet, Haut Commissaire des Nations Unies aux droits de l'homme, avertissant que les données collectées peuvent être compromises, obsolètes et même discriminatoires. Bachelet a reconnu que l'IA « peut être une force du bien, en aidant les sociétés à surmonter certains des grands défis de notre époque », mais a laissé entendre que les inconvénients qu'elle pourrait entraîner l'emportent sur les avantages.
Le responsable des droits de l'homme de l'ONU, a également mis en garde contre un « niveau sans précédent de surveillance à travers le monde par des acteurs étatiques et privés », qui, selon elle, est incompatible avec les droits de l'homme. L'appel de la Haut-Commissaire a été lancé alors que son bureau, le HCDH, a publié un rapport qui analyse la manière dont l'IA affecte le droit des personnes à la vie privée et d'autres droits, notamment les droits à la santé, à l'éducation, à la liberté de mouvement, à la liberté de réunion pacifique et d'association, et à la liberté d'expression. Le document comprend une évaluation du profilage, de la prise de décision automatisée et d'autres technologies d'apprentissage automatique.
La situation est « désastreuse », a déclaré Tim Engelhardt, spécialiste des droits de l'homme, section « État de droit et démocratie ». L'appel de la Haut-Commissaire a été lancé alors que son bureau, le HCDH, a publié un rapport qui analyse la manière dont l'IA affecte le droit des personnes à la vie privée et d'autres droits, notamment les droits à la santé, à l'éducation, à la liberté de mouvement, à la liberté de réunion pacifique et d'association, et à la liberté d'expression.
« La situation est désastreuse », a déclaré Tim Engelhardt, spécialiste des droits de l'homme, section « État de droit et démocratie », qui s'exprimait lors du lancement du rapport à Genève mercredi. « La situation ne s'est pas améliorée au fil des ans, mais a empiré », a-t-il ajouté.
Tout en se félicitant de l'accord de l'Union européenne pour renforcer les règles de contrôle et de la croissance des engagements volontaires internationaux et des mécanismes de responsabilité , il a averti que « nous ne pensons pas que nous aurons une solution dans l'année à venir, mais les premières mesures doivent être prises maintenant ou de nombreuses personnes dans le monde paieront un prix élevé ».
La directrice de l'engagement thématique du HCDH, Peggy Hicks, a complété l'avertissement de Engelhardt en déclarant qu’ « il ne s'agit pas des risques à venir, mais de la réalité d'aujourd'hui. Sans changements profonds, les préjudices se multiplieront avec ampleur et rapidité et nous ne connaîtrons pas l'étendue du problème », qui s'exprimait lors du lancement du rapport à Genève mercredi. La situation « ne s'est pas améliorée au fil des ans, mais a empiré », a-t-il ajouté.
Tout en se félicitant de l'accord de l'Union européenne pour renforcer les règles de contrôle et de la croissance des engagements volontaires internationaux et des mécanismes de responsabilité, il a averti : « nous ne pensons pas que nous aurons une solution dans l'année à venir, mais les premières mesures doivent être prises maintenant ou de nombreuses personnes dans le monde paieront un prix élevé ».
La directrice de l'engagement thématique du HCDH, Peggy Hicks, a complété l'avertissement de Engelhardt en déclarant qu'il ne s'agit pas des risques à venir, mais de la réalité d'aujourd'hui. Sans changements profonds, les préjudices se multiplieront avec ampleur et rapidité et nous ne connaîtrons pas l'étendue du problème.
D’après Elon Musk, « l’IA est plus dangereuse que les ogives nucléaires » et il devrait exister un organisme de réglementation supervisant le développement de cette technologie. Pour Elon Musk, le patron de Tesla et de SpaceX, a profité de son passage récent à la conférence South by Southwest (SXSW) qui se tenait à Austin, au Texas, pour réitérer ses avertissements concernant le danger de l’intelligence artificielle (IA). « Je ne suis pas normalement un partisan de la réglementation et de la surveillance je pense qu’on devrait généralement pécher par excès de minimisation de ces choses-là, mais il s’agit d’une situation où le public court un très grave danger », a prévenu Musk.
Selon le rapport de l’ONU, les États et les entreprises se sont souvent précipités pour intégrer des applications d'IA, en omettant de procéder à une diligence raisonnable. Il indique qu'il y a eu de nombreux cas de personnes traitées injustement en raison d'une mauvaise utilisation de l'IA, comme le fait de se voir refuser des prestations de sécurité sociale en raison d'outils d'IA défectueux ou d'être arrêté en raison d'un logiciel de reconnaissance faciale défectueux.
Le document détaille comment les systèmes d'IA s'appuient sur de vastes ensembles de données, avec des informations sur les individus collectées, partagées, fusionnées et analysées de manière multiple et souvent opaque. Le rapport indique également qu'il convient de s'interroger sérieusement sur les déductions, les prédictions et la surveillance effectuées par les outils d'IA, notamment en cherchant à comprendre les schémas de comportement humain.
Il a constaté que les ensembles de données biaisés sur lesquels s'appuient les systèmes d'IA peuvent conduire à des décisions discriminatoires, qui constituent des risques aigus pour les groupes déjà marginalisés. « C'est pourquoi il faut une évaluation et un suivi systématiques des effets des systèmes d'IA pour identifier et atténuer les risques pour les droits de l'homme », a-t-elle précisé.
Source : ONU
Et vous ?
Que pensez-vous des points de vue exprimés dans cet article ?
Voir aussi :
Répondre avec citation
Partager