Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

  1. #1
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur de base de données
    Inscrit en
    mars 2013
    Messages
    4 008
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Administrateur de base de données

    Informations forums :
    Inscription : mars 2013
    Messages : 4 008
    Points : 103 225
    Points
    103 225

    Par défaut USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon

    USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon,
    craignant une surveillance de masse par les forces de l'ordre

    Fin novembre 2016, Amazon a présenté Amazon Rekognition, un service de reconnaissance d’images. « Propulsé par l'apprentissage en profondeur et construit par notre équipe de Vision informatique durant de nombreuses années, ce service entièrement géré analyse déjà des milliards d'images par jour. Il a été formé sur des milliers d'objets et de scènes et vous pouvez désormais l'utiliser dans vos propres applications », avait alors expliqué Jeff Barr, évangéliste en chef d’AWS.

    Nom : amazon_1.png
Affichages : 4118
Taille : 246,0 Ko

    Peu de temps après, l’entreprise a mis sa technologie à la disposition des forces de l’ordre, affirmant qu’elle permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos. Elle a été utilisé dans un premier temps par quelques services comme le département de police d'Orlando en Floride et le bureau du shérif du comté de Washington dans l'Oregon, ces premiers utilisateurs auraient servi de jauge afin d’encourager d'autres fonctionnaires à y faire appel.

    Mardi, l'American Civil Liberties Union (ACLU), une association à but non lucratif de défense des droits numériques, accompagnée par plus de deux douzaines d'autres organisations du même type, a demandé à Amazon de cesser de vendre son système de reconnaissance d'image à la police. Pour le lobby, cette technologie pourrait entraîner des dérives ; par exemple, la police pourrait l'utiliser afin de pister des manifestants ou d'autres personnes que les autorités jugent suspectes, plutôt que de se limiter aux personnes qui commettent effectivement des crimes.

    « Amazon Rekognition est susceptible de connaître des abus entre les mains des gouvernements », a déclaré le lobby dans une lettre adressée à Jeff Bezos, le directeur général d'Amazon. « Ce produit constitue une grave menace pour les communautés, y compris les personnes de couleur et les immigrants, et pour la confiance et le respect qu'Amazon a travaillé à construire ».

    En pièce jointe, l’ACLU a publié une série de courriels internes et d'autres documents des forces de l’ordre dans le comté de Washington et Orlando relatifs aux correspondances avec Amazon qu'elle a obtenu en ayant recours au Freedom of Information Act, une loi américaine équivalente aux requêtes CADA françaises et qui permet à des citoyens et associations de demander l’accès aux documents administratifs.

    Les documents obtenus auprès du département de police d'Orlando montrent que les responsables de la ville ont utilisé des outils d'analyse vidéo d'Amazon avec des images provenant de caméras de surveillance, d'appareils photo mais également de drones.

    « L'idée qu'une entreprise aussi importante qu'Amazon ait résolument investi cet espace pourrait marquer un changement radical pour cette technologie », a déclaré Alvaro Bedoya, directeur exécutif du Center on Privacy & Technology du Georgetown University Law Center.

    Dans un communiqué, une porte-parole d'Amazon Web Services a souligné que l'entreprise proposait une technologie générale de reconnaissance d'images qui pourrait automatiser le processus d'identification des personnes, des objets et des activités. Elle a dit que les parcs d'attractions l'avaient utilisé pour trouver des enfants perdus, et Sky News, le diffuseur britannique, l'a utilisé le week-end dernier pour identifier automatiquement les invités qui assistaient au mariage royal.

    La porte-parole a déclaré que, comme tous les A.W.S. services, l'entreprise demande aux clients de se conformer à la loi.

    Nom : reconnaissance.png
Affichages : 3781
Taille : 429,8 Ko

    Il faut dire que les personnes qui peuvent être identifiées grâce à des systèmes de reconnaissance faciale ne sont pas seulement celles qui ont un casier judiciaire. Selon les estimations du Center on Privacy & Technology à la Georgetown Law, plus de 130 millions d'adultes américains sont dans des bases de données de reconnaissance faciale qui peuvent être fouillées durant des enquêtes criminelles.

    La reconnaissance faciale fait son apparition dans de nouveaux domaines de la vie publique, souvent suivie de contestations de la part des critiques quant à son efficacité en tant qu'outil de sécurité et son impact sur la vie privée. Arenas l'utilise pour dépister les fauteurs de troubles connus lors d'événements, tandis que le Department of Homeland Security l'utilise pour identifier les visiteurs étrangers dans les aéroports dont le visa est expiré.

    En Chine, si la reconnaissance faciale est utilisée pour chasser les voleurs de papier toilette, ou surveiller les étudiants dilettantes, la reconnaissance faciale fait son entrée dans la police et vient renforcer l’arsenal de surveillance des autorités chinoises. Une technologie qui a permis à la police chinoise d’arrêter un fugitif dans le sud-est du pays après l'avoir repéré dans une foule de cinquante à soixante mille (60 000) personnes assistant à un concert de musique pop. L'homme de 31 ans, qui a été arrêté la semaine dernière, était recherché pour des crimes économiques non spécifiés.

    Identifié par son nom de famille Ao, il a déclaré qu’il se sentait en sécurité au milieu de cette foule, son arrestation aurait donc été un choc.

    Source : ACLU (lettre, pièces jointes - au format PDF -), Amazon, recherches du Center on Privacy & Technology

    Et vous ?

    Que pensez-vous de l'utilisation des technologies de reconnaissance faciale par les forces de l'ordre ?
    La perspective d'une surveillance de masse devrait-elle en limiter l'usage ? Pourquoi ?

    Voir aussi :

    La police chinoise s'équipe de lunettes dotées d'une technologie de reconnaissance faciale, pour scanner les foules à la recherche de suspects
    Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
    Big data : la Chine a commencé à tester son système national de crédit social et menace de priver les citoyens mal notés de certains services de base
    Facebook veut utiliser la reconnaissance faciale pour vous prévenir, lorsque quelqu'un publie une photo de vous sur sa plateforme
    Mozilla publie une solution d'apprentissage profond pour la reconnaissance vocale, une implémentation TensorFlow de l'architecture Deep Speech
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  2. #2
    Chroniqueur Actualités
    Avatar de Patrick Ruiz
    Homme Profil pro
    Rédacteur technique
    Inscrit en
    février 2017
    Messages
    648
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Rédacteur technique
    Secteur : Communication - Médias

    Informations forums :
    Inscription : février 2017
    Messages : 648
    Points : 22 547
    Points
    22 547

    Par défaut Des actionnaires demandent à Amazon d’arrêter de vendre son IA de reconnaissance faciale

    Des actionnaires demandent à Amazon d’arrêter de vendre son IA de reconnaissance faciale
    Aux forces de l'ordre

    L’intelligence artificielle une fois de plus au centre de toutes les attentions … Des actionnaires d’Amazon appellent Jeff Bezos à arrêter de fournir une technologie de reconnaissance faciale mise au point par l’entreprise aux forces de l’ordre américaines.

    Il y a en effet que l’intelligence artificielle en tant qu’outil peut rendre d’énormes services. L’un des exemples les plus récents est celui d’une IA de Google qui permet de prédire le risque pour un patient de mourir bientôt ou d’être réadmis à l’hôpital entre autres, mais il peut également y avoir des usages malsains. C’est la crainte qu’a tenu à formuler une vingtaine d’actionnaires de l’entreprise dans une correspondance adressée à Jeff Bezos en date du 15 juin. « Nous sommes préoccupés par le fait qu’une telle infrastructure de surveillance pourrait non seulement porter atteinte à la vie privée des consommateurs, mais également introduire des risques importants pour notre entreprise en impactant négativement sur sa valeur en bourse et en augmentant le péril financier pour les actionnaires », écrivent-ils.

    L’Union américaine pour les libertés civiles (ACLU) est sur le coup bien avant cette sortie. Dans le texte sans détour d’une pétition qui engrange déjà 150 000 signatures on peut lire : « Amazon, sors du business de la surveillance. » Dans la foulée, une lettre ouverte signée par près de 70 organisations et associations a suivi pour demander à Jeff Bezos de renoncer à ce projet.

    Nom : amazon rekognition.jpg
Affichages : 1811
Taille : 229,3 Ko

    L’appel aura-t-il l’effet escompté ?

    Tout dépend de Jeff Bezos … NBC News rapporte en effet qu’il concentre près de 79 millions d’actions et est donc de très loin le plus gros actionnaire. Dès qu’on le sait, on comprend que le droit de vote des autres actionnaires ne compte que pour du beurre. Alors, que pense M. Bezos de tout ceci ? Eh bien, l’entreprise défend son business de vente de technologie de surveillance aux gouvernements en arguant, comme l’a fait Google dans le cadre du projet Maven, qu’elle ne saurait être comptable de l’usage que des tiers font de sa technologie. En sus, elle précise qu’ « il n’ y a jusqu’ici pas eu de rapports d’utilisation abusive de Rekognition par les forces de l’ordre. »

    La messe semble donc être dite, mais un revirement à la Google pourrait se produire. L’entreprise pourrait décider d’arrêter de fournir la technologie aux forces de l’ordre et la réorienter vers d’autres usages comme l’ont suggéré les actionnaires auteurs de la correspondance adressée à Bezos.

    Rekognition : qu’a donc cette technologie dans le ventre ? À quoi sert-elle concrètement ?

    Réponse de l’entreprise : « Amazon Rekognition facilite l'ajout d'une analyse des images et des vidéos à vos applications. Vous fournissez simplement une image ou une vidéo à l'API Rekognition, et le service peut identifier les objets, les personnes, le texte, les scènes et les activités, ainsi que détecter tout contenu inapproprié. Amazon Rekognition fournit également une reconnaissance et une analyse faciales précises sur vos fichiers image et vidéo. Vous pouvez détecter, analyser et comparer des visages pour une grande variété de cas de vérification d'utilisateurs, de comptage de personnes et d'utilisation pour la sécurité publique. »

    La technologie a été lancée fin 2016. D’après L’Union américaine pour les libertés civiles, elle est déployée dans trois États américains au minimum et peut identifier, suivre et analyser en temps réel jusqu’à 100 personnes par image.

    Sources : ACLU, NBC News

    Et vous ?

    Qu’en pensez-vous ? Ces entreprises de la Tech ont-elles vraiment le choix quand on sait que si elles ne se positionnent pas sur de tels créneaux quelqu’un d’autre le fera ?

    Les ingénieurs qui acceptent de concevoir ces systèmes ne sont-ils pas les plus gros fautifs ?

    Voir aussi :

    Google aide le Pentagone à développer une IA pour analyser les vidéos capturées par drone et certains de ses employés sont furieux

    Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone

    L'EFF appelle à ne pas utiliser l'intelligence artificielle pour la guerre s’adressant à Google et aux entreprises de l'IA

    Des employés de Google présentent leur démission pour protester contre la participation de l'entreprise à un projet en IA du Pentagone

    Google promet de ne pas utiliser l'IA pour le développement d'armes mais informe qu'il va continuer à coopérer avec les militaires
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  3. #3
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur systèmes et réseaux
    Inscrit en
    juin 2016
    Messages
    323
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Bénin

    Informations professionnelles :
    Activité : Administrateur systèmes et réseaux
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : juin 2016
    Messages : 323
    Points : 11 197
    Points
    11 197

    Par défaut La technologie de reconnaissance faciale d’Amazon identifie à tort 28 membres du Congrès comme des criminels

    La technologie de reconnaissance faciale d’Amazon identifie à tort 28 membres du Congrès US comme des criminels
    quels dangers pour les Américains ?

    Amazon, le géant IT américain a, depuis quelques années, consacré de grandes ressources à la reconnaissance faciale. Rekognition, la technologie de reconnaissance faciale d'Amazon est née de ces efforts. L’entreprise avait, à l’époque, entamé un partenariat avec les forces de l’ordre pour que celles-ci puissent se servir de la technologie de reconnaissance faciale dans l’exercice quotidien de leurs fonctions. Amazon avait alors expliqué que sa technologie permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos.

    Certaines associations ne l’entendaient pas de cette oreille. L’American Civil Liberties Union, une association à but non lucratif de défense des droits numériques, et une kyrielle d’autres organisations du même type ont expressément demandé à Amazon d’arrêter de vendre sa technologie aux forces de l’ordre. Ces associations craignaient que Rekognition, entre les mains du pouvoir en place, ne soit utilisée à des desseins autres que l’identification de vrais criminels.

    Cette même technologie qui est en instance d’intégration aux outils des forces de maintien de l’ordre et de la paix, vient de prouver qu’elle n’était peut-être pas aussi fiable qu’on pouvait le penser. En effet, l'ACLU a récemment conduit des tests sur le système de reconnaissance faciale d'Amazon et il s’est avéré que Rekognition a identifié 28 membres du Congrès américain comme étant des criminels. Au nombre de ces 28 congressistes identifiés à tort comme des criminels, il y avait des hommes, des femmes, des Républicains, des Démocrates de différents âges.

    Nom : false_matches_graphic_1.png
Affichages : 2511
Taille : 246,6 Ko

    L’association a, pour son test, construit une base de données de 25 000 photos de personnes arrêtées. Elle a ensuite lancé une recherche de correspondance entre cette base de données et l’ensemble des membres en exercice du Congrès. Et elle précise que toute la procédure a été exécutée avec les réglages de correspondance qu’Amazon définit par défaut pour Rekognition. A partir du moment où l’identification peut être biaisée, il est aisé d’anticiper les effets de ces éventuelles fausses identifications.

    Un policier pourrait, sur la base d’une identification erronée, catégoriser un individu comme armé et dangereux avant même de l’interpeller. Une identification, précise ou non, peut coûter a une personne sa liberté, et même sa vie. Amazon dit de sa technologie qu’elle peut identifier jusqu’à 100 visages sur une seule photo, suivre des gens en temps réel à travers les caméras de surveillance et analyser les enregistrements de cameras. La stratégie de marketing est tellement agressive qu’elle a même convaincu le bureau d’un shérif de l’Oregon de se servir de Rekognition, sans qu’il y ait eu aucun débat public autour de la question.

    Dans une lettre à Jeff Bezos, Black Caucus du Congrès a lui-même exprimé son inquiétude à propos des « graves conséquences néfastes inattendues » que Rekognition pourrait avoir pour les Noirs, les immigrants sans papiers et les manifestants. Cette inquiétude se justifie par le fait que 40 % des correspondances erronées lors du test de l’ACLU étaient des personnes de couleur, alors que les personnes de couleur ne représentent que 20 % du Congrès. Les crispations interraciales dues aux maltraitances disproportionnées des personnes de couleur par les pratiques policières sont déjà extrêmement graves. Et, il ne faut pas chercher longtemps pour se rendre compte de comment et combien Rekognition peut encore aggraver la situation. Entre les mains des autorités, cette technologie pourrait mettre en péril des activités protégées par le premier amendement de la Constitution américaine telles que manifester ou pratiquer une religion.

    C’est pour toutes ces raisons que des employés et des actionnaires d’Amazon, une coalition de presque 70 associations de défense des libertés civiles, plus de 400 membres de la communauté universitaire et plus de 150 000 citoyens ont élevé leurs voix pour exiger d’Amazon qu’elle arrête de fournir sa technologie de reconnaissance faciale au gouvernement. Ils demandent également au Congrès de prendre les dangers découlant de la reconnaissance faciale au sérieux et d’empêcher cette technologie d’être utilisée jusqu’à ce que les éventuelles conséquences néfastes soient examinées de fond en comble de manière à ne pas pouvoir fragiliser des communautés déjà vulnérables.

    Source : ACLU

    Et vous ?

    Qu’en pensez-vous ?
    Quelle est votre position par rapport à l'utilisation d'une IA de reconnaissance faciale par les forces de l’ordre ?

    Voir aussi

    Une IA aurait permis de commencer à percer les mystères entourant le manuscrit de Voynich considéré comme le plus important cryptogramme non résolu

    Des experts prédisent que l'IA va dominer les humains dans moins de 50 ans selon une étude menée par les deux universités Harvard et Yale

    IA : des chercheurs de Google développent un algorithme capable de créer des scènes 3D à partir d'images bidimensionnelles

    Intelligence artificielle : Facebook publie en open source ELF OpenGo, son IA qui a battu d'autres IA au jeu de Go, ainsi que des professionnels

    IA : des agents intelligents de DeepMind battent le record des humains au Quake III un jeu de tir en vue subjective
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  4. #4
    Membre averti

    Inscrit en
    décembre 2009
    Messages
    148
    Détails du profil
    Informations forums :
    Inscription : décembre 2009
    Messages : 148
    Points : 399
    Points
    399

    Par défaut

    Seulement 28 ?
    J'aurais dit plus.

  5. #5
    Membre émérite Avatar de marsupial
    Homme Profil pro
    DevOp, Tech leader
    Inscrit en
    mars 2014
    Messages
    893
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Autre

    Informations professionnelles :
    Activité : DevOp, Tech leader

    Informations forums :
    Inscription : mars 2014
    Messages : 893
    Points : 2 936
    Points
    2 936

    Par défaut

    J'aurai dit plus aussi. N'importe quel politicien aux Etats-Unis peut être considéré comme un criminel en puissance à cause du lobbying et de la corruption.

    Plus sérieusement, tous ces faux positifs devraient faire comprendre, s'ils arrivent à sortir du lobbying ambiant, le risque de romans kafkaïens. Etre un innocent poursuivi et persécuté pour un crime qu'il n'a pas commis et même dont il ignore totalement l'existence.
    Repeat after me
    Le monsieur lutte pour la défense des libertés individuelles et collectives

    Repeat after me...

  6. #6
    Membre éprouvé
    Profil pro
    Inscrit en
    mai 2011
    Messages
    429
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : mai 2011
    Messages : 429
    Points : 911
    Points
    911

    Par défaut

    Meme si je les connais et je ne devrais pas les juger. J'ai enfin l'impression qu'une AI marche ou alors c'est le turk mecanique d'amazon . Bon allez je vais l'utiliser .

  7. #7
    Membre chevronné

    Homme Profil pro
    Retraité
    Inscrit en
    juin 2012
    Messages
    992
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Retraité
    Secteur : Biens de consommation

    Informations forums :
    Inscription : juin 2012
    Messages : 992
    Points : 1 875
    Points
    1 875

    Par défaut

    identifie à tort 28 membres du Congrès US
    Disons plutôt qu'a ce jour on ne peut rien prouver...

  8. #8
    Membre extrêmement actif
    Profil pro
    Développeur
    Inscrit en
    mars 2012
    Messages
    1 822
    Détails du profil
    Informations personnelles :
    Localisation : Belgique

    Informations professionnelles :
    Activité : Développeur
    Secteur : Communication - Médias

    Informations forums :
    Inscription : mars 2012
    Messages : 1 822
    Points : 2 953
    Points
    2 953

    Par défaut

    Qu'en est t'ils de ceux-ci ??

    Nom : En-Marche-comment-devenir-depute-en-24-pages.jpg
Affichages : 889
Taille : 73,0 Ko
    Si la réponse vous a aidé, pensez à cliquer sur +1

  9. #9
    Membre éclairé Avatar de Matthieu76
    Homme Profil pro
    Consultant informatique
    Inscrit en
    mars 2013
    Messages
    512
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Hauts de Seine (Île de France)

    Informations professionnelles :
    Activité : Consultant informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : mars 2013
    Messages : 512
    Points : 741
    Points
    741

    Par défaut

    Citation Envoyé par Bill Fassinou Voir le message
    les personnes de couleur ne représentent que 20 % du Congrès.
    C'est peu.

  10. #10
    Expert éminent
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    août 2007
    Messages
    2 066
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : août 2007
    Messages : 2 066
    Points : 7 498
    Points
    7 498

    Par défaut

    Citation Envoyé par Matthieu76 Voir le message
    C'est peu.
    et encore, faut voir la proportion des femmes ou encore des latinos

  11. #11
    Nouveau membre du Club
    Inscrit en
    août 2005
    Messages
    10
    Détails du profil
    Informations forums :
    Inscription : août 2005
    Messages : 10
    Points : 31
    Points
    31

    Par défaut éculé

    Oui là-bas mieux vaut être un
    • homme
    • blanc
    • riche
    • en bonne santé


    Qu'une
    • femme
    • noire
    • pauvre
    • et malade.



  12. #12
    Membre averti
    Inscrit en
    juin 2010
    Messages
    505
    Détails du profil
    Informations forums :
    Inscription : juin 2010
    Messages : 505
    Points : 444
    Points
    444

    Par défaut

    Citation Envoyé par phylaine Voir le message
    Oui là-bas mieux vaut être un
    • homme
    • blanc
    • riche
    • en bonne santé


    Qu'une
    • femme
    • noire
    • pauvre
    • et malade.


    ça ne change pas de la france donc rien de spéciale pour nous les pas blancs

  13. #13
    Expert éminent
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    août 2007
    Messages
    2 066
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : août 2007
    Messages : 2 066
    Points : 7 498
    Points
    7 498

    Par défaut

    Citation Envoyé par redcurve Voir le message
    ça ne change pas de la france donc rien de spéciale pour nous les pas blancs
    En France, on a quand même les minima sociaux (RSA et sécurité sociale, pour ne citer qu'eux) et ça change quand même beaucoup de chose
    La France est loin d'être parfaite et on a aussi nos banlieues avec les tours "cage à lapin" héritées des années 60 / 70 mais que que dise Fox News avec les "no go zone", ça n'a rien à voir avec les USA, et c'est peu dire !!

  14. #14
    Membre averti Avatar de slowsaz
    Homme Profil pro
    Développeur informatique
    Inscrit en
    avril 2018
    Messages
    98
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Vaucluse (Provence Alpes Côte d'Azur)

    Informations professionnelles :
    Activité : Développeur informatique

    Informations forums :
    Inscription : avril 2018
    Messages : 98
    Points : 394
    Points
    394

    Par défaut

    Ce qui serait intéressant c'est de savoir exactement ce que cette technologie de reconnaissance faciale assimile au mot "criminel" pour comprendre le pourquoi du comment.

    Par contre il faudrait vraiment arrêter votre communautarisme, "pour nous les pas blanc" comme si vous aviez besoin de le dire et de montrer votre "différence" et reprocher après aux gens de vous catégoriser alors que vous le faites vous-même.

  15. #15
    Expert éminent
    Homme Profil pro
    Ingénieur développement logiciels
    Inscrit en
    août 2007
    Messages
    2 066
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France

    Informations professionnelles :
    Activité : Ingénieur développement logiciels
    Secteur : High Tech - Multimédia et Internet

    Informations forums :
    Inscription : août 2007
    Messages : 2 066
    Points : 7 498
    Points
    7 498

    Par défaut

    Citation Envoyé par slowsaz Voir le message
    Ce qui serait intéressant c'est de savoir exactement ce que cette technologie de reconnaissance faciale assimile au mot "criminel" pour comprendre le pourquoi du comment.
    C'est juste une recherche dans la BDD des casiers judiciaires et personnes recherchées et suspectées d'un crime.
    Autrement dit, les sénateurs identifiés comme "criminels" par le soft Rekognition doivent uniquement avoir un visage aux caractéristiques proches de celles d'un criminel reconnu ou supposé / recherché.

    Bref, on cherche à nous vendre un truc révolutionnaire doté d'une "intelligence" alors que ce n'est qu'une machine learning de reconnaissance faciale comme il en existe beaucoup d'autres désormais.

    J'ajouterai que l’American Civil Liberties Union peut facilement fausser son étude par du biais de données comme cela se fait souvent avec cette techno.
    Pour leur démonstration, ils n'ont entraîné leur prog qu'avec 25 000 casiers judiciaires ce qui est assez faible à l'échelle des USA et en fonction de la représentativité / diversité des casiers de l'échantillon utilisé, on peut faire varier les résultats de l'étude comme on le souhaite.
    Je ne serai pas surpris d'apprendre que l'asso ait fait plusieurs tests avec des échantillons de données différents et ont conservé celui qui leur permettait d'avoir les résultats les plus médiatiques pour leur démonstration...

  16. #16
    Membre éclairé Avatar de Matthieu76
    Homme Profil pro
    Consultant informatique
    Inscrit en
    mars 2013
    Messages
    512
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : France, Hauts de Seine (Île de France)

    Informations professionnelles :
    Activité : Consultant informatique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : mars 2013
    Messages : 512
    Points : 741
    Points
    741

    Par défaut

    Citation Envoyé par slowsaz Voir le message
    Ce qui serait intéressant c'est de savoir exactement ce que cette technologie de reconnaissance faciale assimile au mot "criminel" pour comprendre le pourquoi du comment.
    C'est extrêmement difficile de savoir exactement comment l'IA effectuer sa reconnaissance, même pour celui qui l'a programmé. Il faut reconstituer des images à partir des matrices du réseaux de neurones pour réussir à identifier les éléments qui sont utiliser dans la reconnaissance mais c'est quasiment impossible de trouver le biais sur ce genre algorithme. D'ailleurs le biais ne se trouve quasiment jamais dans l'IA elle-même mais se trouve dans les données d'apprentissages, l'échantillon ne représente pas assez bien la population. (statistique de base)
    Quoique bien souvent la population est elle-même biaiser. Dans ce cas peut-on vraiment reprocher à l'IA d’être biaiser ?

  17. #17
    Membre à l'essai
    Profil pro
    Inscrit en
    août 2006
    Messages
    11
    Détails du profil
    Informations personnelles :
    Localisation : France

    Informations forums :
    Inscription : août 2006
    Messages : 11
    Points : 22
    Points
    22

    Par défaut

    Citation Envoyé par Matthieu76 Voir le message
    C'est peu.
    Pourquoi ?

    D'après les stats officielles, il y a 13% d'afro-américains aux USA. Pourquoi 20% de noirs au congrès serait peu ?

  18. #18
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur de base de données
    Inscrit en
    mars 2013
    Messages
    4 008
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Canada

    Informations professionnelles :
    Activité : Administrateur de base de données

    Informations forums :
    Inscription : mars 2013
    Messages : 4 008
    Points : 103 225
    Points
    103 225

    Par défaut Un employé d'Amazon demande à son patron d'arrêter de vendre le système de reconnaissance faciale à la police

    Un employé d'Amazon demande à son patron d'arrêter de vendre le système de reconnaissance faciale à la police,
    évoquant des dérives

    Fin novembre 2016, Amazon a présenté Amazon Rekognition, un service de reconnaissance d’images. « Propulsé par l'apprentissage en profondeur et construit par notre équipe de Vision informatique durant de nombreuses années, ce service entièrement géré analyse déjà des milliards d'images par jour. Il a été formé sur des milliers d'objets et de scènes et vous pouvez désormais l'utiliser dans vos propres applications », avait alors expliqué Jeff Barr, évangéliste en chef d’AWS.

    Peu de temps après, l’entreprise a mis sa technologie à la disposition des forces de l’ordre, affirmant qu’elle permettrait de faciliter les enquêtes criminelles en reconnaissant des suspects dans des photos et des vidéos. Elle a été utilisé dans un premier temps par quelques services comme le département de police d'Orlando en Floride et le bureau du shérif du comté de Washington dans l'Oregon, ces premiers utilisateurs auraient servi de jauge afin d’encourager d'autres fonctionnaires à y faire appel.

    Mais certaines entités, comme des associations de défense des droits numériques parmi lesquelles l'American Civil Liberties Union (ACLU) ont récemment fait part de leur opposition à ce « mariage », estimant que cela pourrait entraîner des dérives (par exemple, la police pourrait l'utiliser afin de pister des manifestants ou d'autres personnes que les autorités jugent suspectes, plutôt que de se limiter aux personnes qui commettent effectivement des crimes).

    Une vingtaine d’actionnaires de l’entreprise, dans une correspondance adressée à Jeff Bezos en date du 15 juin 2018, ont demandé à l’entreprise de mettre fin à cette collaboration. « Nous sommes préoccupés par le fait qu’une telle infrastructure de surveillance pourrait non seulement porter atteinte à la vie privée des consommateurs, mais également introduire des risques importants pour notre entreprise en impactant négativement sur sa valeur en bourse et en augmentant le péril financier pour les actionnaires », ont-ils écrit.

    Nom : amazon.png
Affichages : 1860
Taille : 303,3 Ko

    Les employés ne sont pas d’accord

    Cette fois-ci, c’est un employé d'Amazon qui souhaite faire pression sur son employeur pour mettre fin à cet échange. Il s’est exprimé sous couvert de l’anonymat dans un billet sur Medium et la plateforme affirme avoir pu vérifier l’authenticité de son emploi. Il a critiqué le travail de l’entreprise dans le domaine et l’a invitée à répondre à une lettre ouverte envoyée par un groupe d'employés.

    Il a fait valoir que le gouvernement américain avait utilisé ces outils d'une manière qui nuisait de manière disproportionnée aux « communautés de couleur, aux immigrés et aux personnes exerçant leurs droits de premier amendement ».

    « Ignorer ces préoccupations urgentes lors du déploiement de technologies puissantes auprès du gouvernement et des forces de l'ordre est dangereux et irresponsable », a-t-il déclaré. « C’est pourquoi nous avons été déçus lorsque Teresa Carlson, vice-présidente du secteur public mondial d’Amazon Web Services, a récemment déclaré qu’Amazon “soutenait fermement” ses clients des forces de l’ordre, de la défense et du renseignement, même si nous ne “savons pas la façon dont ils utilisent réellement l’outil” ».

    Nom : amazon_1.png
Affichages : 1621
Taille : 246,0 Ko

    Un billet qui a été publié le lendemain du jour où le PDG d’Amazon, Jeff Bezos, a défendu la cause des entreprises de technologie qui travaillent avec le gouvernement fédéral sur des questions de défense lors d’un sommet à San Francisco. « Si les grandes entreprises de technologie doivent tourner le dos au département américain de la Défense, notre pays va avoir des problèmes », a déclaré Bezos lundi.

    Bezos a estimé que si toutefois une technologie était utilisée à mauvais escient, les sociétés seraient en mesure de régler le problème avant que les choses n’aillent trop loin. L’employé d'Amazon a déclaré dans sa lettre qu’il n’est pas exclu de se mordre les doigts avec ce genre de mantra.

    « Sur scène, il a reconnu que les produits de la grande technologie pourraient être mal utilisés, voire exploitées, par des autocrates », a noté l’employé. « Mais plutôt que d'expliquer de manière significative comment Amazon agira pour prévenir les mauvaises utilisations de sa propre technologie, monsieur Bezos a suggéré d'attendre la "réponse immunitaire« de la société ».

    « Si Amazon attend, nous pensons que le mal sera difficile à réparer ».

    Un groupe de plus de 400 employés a signé une lettre en juin invitant Amazon à cesser de vendre son logiciel de reconnaissance faciale aux forces de l'ordre et à collaborer avec Palantir, qui fournit des services numériques à l'Immigration et aux douanes.

    Amazon à l'époque défendait ses produits en affirmant qu'il existait toujours un risque pour les nouvelles technologies et que tout usage abusif potentiel ne devait pas entraver le développement des produits.

    L’employé d’Amazon a fait référence à cette lettre, invitant Amazon à prendre des mesures « dès maintenant ». Faisant allusion aux dérives, il a estimé « Qu’il ne s’agit pas là d’une situation hypothétique ».

    Une situation qui devient presque courante dans la Sillicon Valley

    Amazon n’est pas la seule entreprise technologique à avoir subi la pression de ses employés au sujet de contrats avec des services de renseignement et d’application de la loi américains. D’autres entreprises, y compris Salesforce et Microsoft, sont également passées par là.

    Nom : amazon rekognition.jpg
Affichages : 1614
Taille : 229,3 Ko

    Google a d’ailleurs cédé à deux reprises cette année. L’entreprise a accepté de mettre fin à son contrat avec le Pentagone pour le projet Maven (qui consiste à développer une IA qui prend en charge l'utilisation de drones militaires) et a mis un terme à sa recherche d'une proposition dans le but d’obtenir le contrat de « JEDI » même si, officiellement, Google a affirmé que ce ne sont pas les employés qui lui ont mis la pression pour JEDI, mais c’était à cause de ses valeurs.

    Vendredi, les employés de Microsoft ont eux aussi posté une lettre publique demandant à la société de retirer son offre de contrat JEDI. Mais l’entreprise ne semble pas disposée à céder.

    Source : billet de l'employé Amazon, lettre ouverte des employés Amazon

    Voir aussi :

    La police chinoise s'équipe de lunettes dotées d'une technologie de reconnaissance faciale, pour scanner les foules à la recherche de suspects
    Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif, la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?
    Big data : la Chine a commencé à tester son système national de crédit social et menace de priver les citoyens mal notés de certains services de base
    Facebook veut utiliser la reconnaissance faciale pour vous prévenir, lorsque quelqu'un publie une photo de vous sur sa plateforme
    Mozilla publie une solution d'apprentissage profond pour la reconnaissance vocale, une implémentation TensorFlow de l'architecture Deep Speech
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

  19. #19
    Chroniqueur Actualités

    Homme Profil pro
    Administrateur systèmes et réseaux
    Inscrit en
    juin 2016
    Messages
    323
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Bénin

    Informations professionnelles :
    Activité : Administrateur systèmes et réseaux
    Secteur : Aéronautique - Marine - Espace - Armement

    Informations forums :
    Inscription : juin 2016
    Messages : 323
    Points : 11 197
    Points
    11 197

    Par défaut Amazon annonce qu'il continuera de vendre sa technologie de reconnaissance faciale aux forces de l'ordre

    Amazon annonce qu'il continuera de vendre sa technologie de reconnaissance faciale aux forces de l'ordre
    malgré les protestations

    En dépit des nombreuses protestations de la part des employées d'Amazon, de ses actionnaires et des associations de défense des droits numériques, Amazon a la ferme intention de continuer à vendre son application de reconnaissance facile « Rekognition » aux forces de l'ordre et au service de contrôle de l'immigration et des douanes (CED) des États-Unis. Rappelons qu'en octobre dernier, un employé d'Amazon a demandé à son patron d'arrêter de vendre le système de reconnaissance faciale à la police évoquant des dérives. Il a fait valoir que le gouvernement américain avait utilisé ces outils d'une manière qui nuisait de manière disproportionnée aux « communautés de couleur, aux immigrés et aux personnes exerçant leurs droits de premier amendement ». « Ignorer ces préoccupations urgentes lors du déploiement de technologies puissantes auprès du gouvernement et des forces de l'ordre est dangereux et irresponsable », avait-il déclaré.

    Une vingtaine d’actionnaires de l’entreprise, dans une correspondance adressée à Jeff Bezos en date du 15 juin 2018, ont demandé à l’entreprise de mettre fin à cette collaboration. « Nous sommes préoccupés par le fait qu’une telle infrastructure de surveillance pourrait non seulement porter atteinte à la vie privée des consommateurs, mais également introduire des risques importants pour notre entreprise en impactant négativement sur sa valeur en bourse et en augmentant le péril financier pour les actionnaires », ont-ils écrit. Certaines entités, comme des associations de défense des droits numériques parmi lesquelles l'American Civil Liberties Union (ACLU) ont récemment fait part de leur opposition, estimant que cela pourrait entraîner des dérives (par exemple, la police pourrait l'utiliser afin de pister des manifestants ou d'autres personnes que les autorités jugent suspectes, plutôt que de se limiter aux personnes qui commettent effectivement des crimes).

    Nom : index.jpeg
Affichages : 1384
Taille : 6,9 Ko

    Malgré ces oppositions, Amazon a annoncé son intention de continuer à vendre son système de reconnaissance facile « Rekognition » aux forces de l'ordre et au service de contrôle de l'immigration des USA. En effet, lors d'une réunion tenue avec ses employés le jeudi dernier, Andy Jassy, le directeur des Services Web d'Amazon, a dit qu'il est tout à fait normal qu'avec plus de 5000 employés, les opinions soient diverses concernant Amazon Rekognition, mais qu'ils se sentent « grands et vraiment forts de la valeur qu'apporte Amazon Rekognition à tous leurs clients » peu importe leur taille ou leur types.

    Pour ce dernier, Amazon Rekognition est très avantageux, car « il a été utilisé pour mettre fin aux trafics humains, pour retrouver des enfants perdus lors des sorties pédagogiques, pour la sécurité et des multiples facteurs d'authentification ». Il a ajouté qu'il comprend l'inquiétude que peut susciter cette technologie et le désir de ne pas voir cette technologie mal utilisée et qu'à ce propos, des dispositions ont été prises dans les termes d'utilisation, afin de s'assurer que les utilisateurs fassent un usage responsable de cette technologie. Les personnes qui violeraient les termes d'utilisation, qui utiliseraient Rekognition de façon irresponsable ou qui violeraient des droits constitutionnels ne seront plus autorisées à l'utiliser à l'avenir. Il conclut, en disant qu'il ne faut pas oublier que dans une démocratie, c'est parfois au gouvernement de définir les conditions d'utilisation de la technologie.

    Beaucoup d'employés sont outrés par cette déclaration qui prouve que les patrons d'Amazon banalisent les conséquences de l'utilisation d'Amazon Rekognition par les forces de l'ordre. L'un des employés de l'entreprise a dit « qu'il est difficile de croire que les douleurs et les abus peuvent être évités uniquement à travers les termes d'utilisation ». Un autre employé d'Amazon a posé la question suivante : « devrions-nous vendre un service à un client quand nous savons qu'il va l'utiliser de façon peu éthique juste parce que ce client est le gouvernement ? ». Il faut dire que « Rekognition » n'a pas une très bonne réputation auprès des employés d'Amazon. Pour montrer leur mécontentement, 450 employés d'Amazon ont écrit en juin une lettre, au directeur de l'entreprise, Jeff Bezos, dans laquelle ils lui demandait d'arrêter la vente de cette application de reconnaissance faciale à la police.

    Les employées ne sont pas les seuls déçues par la position de leur employeur. Les actionnaires d'Amazon et les groupes de défense des droits numériques le sont également. Natasha Lamb, une actionnaire d'Amazon qui a signé une lettre de protestation adressée à Jeff Bezos, affirme que cette décision de vente aux forces de l'ordre « ne tient pas compte des effets à long terme sur les libertés civiles ». Ce qui semble important pour les dirigeants d'Amazon pour l'instant, c'est tester l'efficacité de cette application. Efficacité d'ailleurs relative, car rappelons qu'en juillet dernier, la technologie de reconnaissance faciale d'Amazon a identifié à tort 28 membres du Congrès US comme des criminels. Au nombre de ces 28 congressistes identifiés à tort comme des criminels, il y avait des hommes, des femmes, des Républicains, des Démocrates de différents âges.

    Pour les groupes de défense des droits numériques, la situation est grave. A cet effet, Kate Crockford, la directrice L’Union américaine pour les libertés civiles (ACLU) dit que « la technologie de surveillance dans les mains de la police est souvent mal utilisée pour cibler les immigrés, les communautés de couleur et les protestataires politique. Des termes d'utilisation ne changeront pas ça ». Du côté des internautes, on a deux camps : ceux qui sont contre l'utilisation par les forces de l'ordre, ceux qui trouvent que cette utilisation est un mal nécessaire. Les premiers trouvent que les forces de l'ordre vont l'utiliser pour renforcer le pouvoir du gouvernement et violer le 4ème amendement de la constitution des USA. La solution pour eux est d'affaiblir le pouvoir du gouvernement, pas de le renforcer. Les seconds pensent que cette utilisation va permettre aux forces de l'ordre de mieux assurer la sécurité de tout un chacun et de résoudre les crimes plus rapidement et plus facilement. Pour ces derniers, le combat est d'ailleurs déjà perdu d'avance.

    Source : BuzzFeed

    Et vous ?

    Êtes-vous pour ou contre la vente de Rekognition aux forces de l'ordre et aux services de contrôle de l'immigration ? Pourquoi ?

    Voir aussi

    Des actionnaires demandent à Amazon d'arrêter de vendre son IA de reconnaissance faciale aux forces de l'ordre

    Amazon : un employé demande à son patron d'arrêter de vendre le système de reconnaissance faciale à la police évoquant des dérives

    La technologie de reconnaissance faciale d'Amazon identifie à tort 28 membres du Congrès US comme des criminels quels dangers pour les Américains ?

    USA : des associations s'érigent contre la technologie de reconnaissance faciale d'Amazon craignant une surveillance de masse par la police
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

Discussions similaires

  1. Réponses: 24
    Dernier message: 01/06/2018, 18h49
  2. Réponses: 6
    Dernier message: 12/02/2018, 18h26
  3. Réponses: 3
    Dernier message: 07/07/2017, 18h14
  4. Réponses: 4
    Dernier message: 30/08/2016, 18h52
  5. Réponses: 11
    Dernier message: 18/03/2015, 10h33

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo