IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Actualités Discussion :

L'ONU avertit que l’IA peut menacer les droits de l'homme

  1. #1
    Chroniqueur Actualités
    Avatar de Bruno
    Homme Profil pro
    Administrateur systèmes et réseaux
    Inscrit en
    mai 2019
    Messages
    439
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Autre

    Informations professionnelles :
    Activité : Administrateur systèmes et réseaux
    Secteur : High Tech - Produits et services télécom et Internet

    Informations forums :
    Inscription : mai 2019
    Messages : 439
    Points : 8 030
    Points
    8 030
    Par défaut L'ONU avertit que l’IA peut menacer les droits de l'homme
    L'ONU avertit que l’IA peut menacer les droits de l'homme,
    le rapport met en garde contre l'utilisation de l'IA en tant qu'outil de prévision et de profilage

    Les systèmes d'intelligence artificielle sont utilisés pour déterminer qui bénéficie des services publics et décider qui a une chance d'être recruté pour un emploi, a déclaré Michelle Bachelet, Haut Commissaire des Nations Unies aux droits de l'homme, avertissant que les données collectées peuvent être compromises, obsolètes et même discriminatoires. Bachelet a reconnu que l'IA « peut être une force du bien, en aidant les sociétés à surmonter certains des grands défis de notre époque », mais a laissé entendre que les inconvénients qu'elle pourrait entraîner l'emportent sur les avantages.

    Le responsable des droits de l'homme de l'ONU, a également mis en garde contre un « niveau sans précédent de surveillance à travers le monde par des acteurs étatiques et privés », qui, selon elle, est incompatible avec les droits de l'homme. L'appel de la Haut-Commissaire a été lancé alors que son bureau, le HCDH, a publié un rapport qui analyse la manière dont l'IA affecte le droit des personnes à la vie privée et d'autres droits, notamment les droits à la santé, à l'éducation, à la liberté de mouvement, à la liberté de réunion pacifique et d'association, et à la liberté d'expression. Le document comprend une évaluation du profilage, de la prise de décision automatisée et d'autres technologies d'apprentissage automatique.

    Nom : ONU2B.png
Affichages : 933
Taille : 179,3 Ko

    La situation est « désastreuse », a déclaré Tim Engelhardt, spécialiste des droits de l'homme, section « État de droit et démocratie ». L'appel de la Haut-Commissaire a été lancé alors que son bureau, le HCDH, a publié un rapport qui analyse la manière dont l'IA affecte le droit des personnes à la vie privée et d'autres droits, notamment les droits à la santé, à l'éducation, à la liberté de mouvement, à la liberté de réunion pacifique et d'association, et à la liberté d'expression.

    « La situation est désastreuse », a déclaré Tim Engelhardt, spécialiste des droits de l'homme, section « État de droit et démocratie », qui s'exprimait lors du lancement du rapport à Genève mercredi. « La situation ne s'est pas améliorée au fil des ans, mais a empiré », a-t-il ajouté.

    Tout en se félicitant de l'accord de l'Union européenne pour renforcer les règles de contrôle et de la croissance des engagements volontaires internationaux et des mécanismes de responsabilité , il a averti que « nous ne pensons pas que nous aurons une solution dans l'année à venir, mais les premières mesures doivent être prises maintenant ou de nombreuses personnes dans le monde paieront un prix élevé ».

    La directrice de l'engagement thématique du HCDH, Peggy Hicks, a complété l'avertissement de Engelhardt en déclarant qu’ « il ne s'agit pas des risques à venir, mais de la réalité d'aujourd'hui. Sans changements profonds, les préjudices se multiplieront avec ampleur et rapidité et nous ne connaîtrons pas l'étendue du problème », qui s'exprimait lors du lancement du rapport à Genève mercredi. La situation « ne s'est pas améliorée au fil des ans, mais a empiré », a-t-il ajouté.

    Tout en se félicitant de l'accord de l'Union européenne pour renforcer les règles de contrôle et de la croissance des engagements volontaires internationaux et des mécanismes de responsabilité, il a averti : « nous ne pensons pas que nous aurons une solution dans l'année à venir, mais les premières mesures doivent être prises maintenant ou de nombreuses personnes dans le monde paieront un prix élevé ».

    La directrice de l'engagement thématique du HCDH, Peggy Hicks, a complété l'avertissement de Engelhardt en déclarant qu'il ne s'agit pas des risques à venir, mais de la réalité d'aujourd'hui. Sans changements profonds, les préjudices se multiplieront avec ampleur et rapidité et nous ne connaîtrons pas l'étendue du problème.

    D’après Elon Musk, « l’IA est plus dangereuse que les ogives nucléaires » et il devrait exister un organisme de réglementation supervisant le développement de cette technologie. Pour Elon Musk, le patron de Tesla et de SpaceX, a profité de son passage récent à la conférence South by Southwest (SXSW) qui se tenait à Austin, au Texas, pour réitérer ses avertissements concernant le danger de l’intelligence artificielle (IA). « Je ne suis pas normalement un partisan de la réglementation et de la surveillance je pense qu’on devrait généralement pécher par excès de minimisation de ces choses-là, mais il s’agit d’une situation où le public court un très grave danger », a prévenu Musk.

    Selon le rapport de l’ONU, les États et les entreprises se sont souvent précipités pour intégrer des applications d'IA, en omettant de procéder à une diligence raisonnable. Il indique qu'il y a eu de nombreux cas de personnes traitées injustement en raison d'une mauvaise utilisation de l'IA, comme le fait de se voir refuser des prestations de sécurité sociale en raison d'outils d'IA défectueux ou d'être arrêté en raison d'un logiciel de reconnaissance faciale défectueux.

    Le document détaille comment les systèmes d'IA s'appuient sur de vastes ensembles de données, avec des informations sur les individus collectées, partagées, fusionnées et analysées de manière multiple et souvent opaque. Le rapport indique également qu'il convient de s'interroger sérieusement sur les déductions, les prédictions et la surveillance effectuées par les outils d'IA, notamment en cherchant à comprendre les schémas de comportement humain.

    Il a constaté que les ensembles de données biaisés sur lesquels s'appuient les systèmes d'IA peuvent conduire à des décisions discriminatoires, qui constituent des risques aigus pour les groupes déjà marginalisés. « C'est pourquoi il faut une évaluation et un suivi systématiques des effets des systèmes d'IA pour identifier et atténuer les risques pour les droits de l'homme », a-t-elle précisé.

    Source : ONU

    Et vous ?

    Que pensez-vous des points de vue exprimés dans cet article ?

    Diriez-vous que le point de vue de l'ONU est plutôt alarmiste ou réaliste ?

    Quel est votre avis sur les dangers liés à la création d'une super-intelligence numérique ?

    Voir aussi :

    Pour Elon Musk l'IA est bien plus dangereuse que l'arme nucléaire, alors que Bill Gates estime que l'IA est à la fois porteuse d'espoir et dangereuse

    Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC et l'Homme fusionne avec l'IA, aberration ou fiction ?

    Une caméra IA confond la tête chauve d'un arbitre avec le ballon et le suit pendant un match de football, les téléspectateurs suggèrent que le juge de touche porte un chapeau la prochaine fois

    Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC et l'Homme fusionne avec l'IA, aberration ou fiction ?
    Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  2. #2
    Membre régulier
    Profil pro
    Inscrit en
    septembre 2012
    Messages
    89
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : septembre 2012
    Messages : 89
    Points : 98
    Points
    98
    Par défaut
    Mettre en garde c'est bien, aller en justice est mieux. Si, comme l'affirme l'ONU les droits de l'homme sont bafoués, pourquoi l'ONU ne les défendent-il pas devant les tribunaux ? Je n'ose imaginer que l'ONU ait peur d'aller au bout face aux prestations de sécurité sociale. Il dénonce l'opacité des systèmes, donc si c'est opaque comment l'ONU voit ?
    Par ailleurs, les rond-de-cuir des administrations font des injustices également. J'ai déjà été victime de la sécu et j'ai du recourir à leur médiateur qui m'a donné raison. L'IA jamais... pour le moment.

  3. #3
    Membre expérimenté Avatar de denisys
    Profil pro
    Développeur informatique
    Inscrit en
    mai 2002
    Messages
    1 010
    Détails du profil
    Informations personnelles :
    Localisation : France, Paris (Île de France)

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : mai 2002
    Messages : 1 010
    Points : 1 538
    Points
    1 538
    Par défaut
    Pour moi …
    Qui ce cache derrière, cette affirmation !? !?
    Le responsable des droits de l'homme de l'ONU … ?
    Qui, a démocratiquement, élu : une /un responsable des droits de l'homme de l'ONU ???
    Ne pas savoir n’est pas une faute si l’on cherche à combler ses lacunes.

    "Il n'y a pas d'obstacles infranchissables , il y a des volontés plus ou moins énergiques voilà tous" Jules Vernes

Discussions similaires

  1. Bill Gates estime que l’IA peut être « l’ami » de l’homme
    Par Victor Vincent dans le forum Actualités
    Réponses: 7
    Dernier message: 20/02/2018, 13h18
  2. Réponses: 4
    Dernier message: 25/04/2013, 18h00
  3. les droits de l'homme en France
    Par el_socio dans le forum Politique
    Réponses: 110
    Dernier message: 07/11/2010, 12h20
  4. Réponses: 36
    Dernier message: 30/03/2010, 16h43
  5. [CIF] Est-ce que l'on conserve les droits habituels
    Par hegros dans le forum Droit du travail
    Réponses: 14
    Dernier message: 28/01/2008, 18h24

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo