1 pièce(s) jointe(s)
Plus de 60 pays appellent à une utilisation « responsable » de l'IA militaire
Google aide le Pentagone à développer une IA pour analyser les vidéos capturées par drone
Et certains de ses employés sont furieux
Google a confirmé qu’il permet au Pentagone d’exploiter ses technologies de reconnaissance d’image dans le cadre d’un projet militaire. Cette révélation survient après que des rapports de presse ont informé que l’IA développée par le géant de la recherche a été utilisée pour analyser les contenus vidéo capturés par drone.
Cette collaboration fait partie d’un projet appelé « Project Maven », dont le but est d’accélérer l’intégration de données massives et d’apprentissage machine au sein du Département de la Défense des États-Unis. Les détails sur le rôle que joue Google dans ce projet ne sont pas clairs, mais un communiqué de presse sur le projet a informé que Project Maven a pour but de traiter « les millions d’heures de vidéos » collectées par l’armée. Pour cette raison, le Pentagone cherche à développer une vision par ordinateur capable de mieux comprendre les vidéos, et ainsi réduire la charge sur les analystes humains qui seraient incapables de gérer l’énorme flux de contenus. En tant que propriétaire de YouTube, Google serait le candidat idéal pour trouver une solution à ce problème.
Le projet a commencé en avril dernier, mais selon des rapports de presse, beaucoup d’employés de Google n’ont appris la nouvelle de son existence que la semaine dernière via des emails internes et certains ont été furieux de savoir que leur entreprise aide les militaires à développer la technologie de surveillance requise pour les opérations par drone.
Dans un communiqué de presse, une porte-parole de Google a informé que l’entreprise fournit au Pentagone un accès à sa solution TensorFlow pour mettre en place des algorithmes de reconnaissance des objets.
« Nous avons pendant longtemps travaillé avec des agences du gouvernement pour fournir des solutions de technologie, » a dit la porte-parole. « Ce projet spécifique avec le Département de défense sert à fournir des API TensorFlow open source qui peuvent aider dans la reconnaissance d’objets sur des données non confidentielles. La technologie signale les images pour qu’elles soient évaluées par des humains, et seulement pour des utilisations non offensantes. »
TensorFlow est un outil open source d'apprentissage automatique développé par Google. Le code source a été ouvert le 9 novembre 2015 par Google et publié sous licence Apache. TensorFlow est l'un des outils les plus utilisés en IA dans le domaine de l'apprentissage machine et constitue la pièce maitresse de la stratégie du géant de la recherche pour développer son IA.
Le fait que les chercheurs du pentagone utilisent TensorFlow n’est pas une surprise, mais il est difficile de savoir si Google offre seulement une assistance technique pour manier les outils, ou bien le géant de la recherche a véritablement déployé ses ingénieurs pour aider à développer les algorithmes requis par l’armée. Et les applications sont multiples, surveiller et traquer les cibles en utilisant des drones, ou rendre intelligent le réseau de caméra CCTV de l’armée. Mais pour le moment, le Pentagone a informé que le projet se concentre sur l’identification de 38 classes d’objets liés au combat contre ISIS en Irak et en Syrie.
Ces derniers points nous interpellent sur la question d’éthique et les différentes craintes de voir émerger des applications de l’IA aussi dangereuses. La porte-parole de Google a informé que ce sujet est vivement débattu en interne et avec d’autres parties, et en même temps, la firme « continue de développer des politiques et des garanties autour du développement et l’usage des technologies de machine learning. »
Bien que le Pentagone a informé que l’IA va servir seulement pour assister les humains, il faudra noter que la prise de décision assistée par ordinateur pourrait rendre les opérateurs de drone dépendants de la technologie dont les analyses pourraient être erronées. Sans supervision, ces erreurs pourraient ne pas être relevées. Les craintes découlent aussi du fait que les États-Unis ont un recours massif aux drones de surveillance et d'assassinat ciblé.
Bien que l’ancien président de Google Eric Schmidt soit devenu un conseiller du Pentagone en 2016, le géant de la recherche a toujours cherché à se distancer de l’armée américaine, à tel point qu’il a retiré un de ses robots d’une compétition organisée par le Département de la défense.
Google n’est pas la seule entreprise impliquée dans Project Maven, Nvidia avait aussi parlé du projet auparavant dans son blog et a informé qu'elle collabore avec le Pentagone. Un expert a expliqué que la baisse des coûts des drones a favorisé la capture de vidéos, en conséquence, de vastes quantités de données ont commencé à affluer sur les centres d’analyse et d’exploitation, avec de tels volumes, impossible que des humains seuls puissent tout traiter.
« En tant que leader du développement de l’IA, Google constitue un choix évident pour le Département de défense pour travailler en partenariat, malgré les réticences des employés et des actionnaires qui ne seraient pas motivés à 100 % par cette idée de travailler avec les militaires. »
Source : BBC News
Et vous ?
:fleche: Pensez-vous que la collaboration de Google avec le Pentagone rejoint son slogan "Don't be evil" ?
:fleche: Pensez-vous que l'IA doit avoir plus d'applications militaires ?
Voir aussi :
:fleche: Ubisoft met une IA au service des développeurs de jeux pour prédire les bogues et en identifier les causes potentielles
:fleche: Intel présente son programme Intel AI : In Production conçu pour faciliter le prototypage et la production en masse d'applications d'IA
:fleche: Paris appelle à la création d'une DARPA européenne financée à hauteur de 2,5 milliards par an pour garantir la souveraineté technologique de l'UE
Non, l'IA de Google ne doit pas être au service de la guerre !
Non, l'IA de Google ne doit pas être au service de la guerre !
Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone
« Celui qui réussira à s’imposer comme leader dans la sphère [de l'intelligence artificielle] sera le maître du monde », avait déclaré Vladimir Poutine dans un message adressé à la jeunesse russe en septembre dernier. C'est une déclaration forte qui indique que la course aux armements basés sur l'IA a déjà commencé. Une course dans laquelle on retrouvera probablement des pays comme les États-Unis et la Chine. Les États-Unis, par exemple, travaillent sur le projet Maven, un projet militaire qui vise à améliorer les opérations de drones en utilisant des technologies de reconnaissance d'images. Selon le Pentagone, l'objectif initial de Maven était de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets, dans pas moins de 38 catégories, capturés par la caméra d'un drone. Il va par conséquent permettre de suivre à la trace certaines cibles.
Le projet Maven utilise TensorFlow, la technologie open source d'apprentissage automatique de Google. Mais certains médias américains ont rapporté début mars que le géant de l'intelligence artificielle accompagne également le Département américain de la Défense dans son projet. La contribution exacte de Google n'est pas encore claire, mais le simple fait que Google soit plus ou moins impliqué dans cette affaire a scandalisé certains employés ayant connaissance de l'affaire, avant que cette information sorte de l'entreprise.
Google s'est défendu en expliquant que l'entreprise a depuis longtemps travaillé avec des agences du gouvernement américain pour leur fournir des solutions technologiques. Et d'ajouter que son travail sur le projet Maven est « non offensif », car la technologie ne sera pas utilisée pour des frappes ciblées. Les employés de l'entreprise ne voient toutefois pas cette situation de la même manière et appellent Google à garder ses distances de ce projet.
Des milliers d'employés de Google, dont des dizaines d'ingénieurs seniors, ont donc signé une lettre pour protester contre l'implication de l'entreprise dans le programme du Pentagone. « Nous pensons que Google ne devrait pas être impliqué dans la guerre », peut-on lire dans la lettre. Les auteurs de la lettre estiment que la participation de Google au projet du Pentagone va de manière irrémédiable salir l'image de l'entreprise et réduire sa capacité à rivaliser avec les autres géants de la technologie pour attirer les talents. Ils rappellent en effet que Google lutte déjà pour garder la confiance du public.
Participer à un projet militaire dont la finalité sera probablement condamnée par les institutions comme l'ONU va donc empirer la situation. Ils pensent également que Google ne devrait pas essayer de s'en laver les mains, alors qu'il est évident que le Pentagone pourrait faire un mauvais usage de sa technologie. « Nous ne pouvons pas externaliser la responsabilité morale de nos technologies à des tiers », disent-ils. « Construire cette technologie pour aider le gouvernement américain dans la surveillance militaire – avec des résultats potentiellement mortels – n'est pas acceptable. »
Reconnaissant que l'entreprise a une responsabilité morale et éthique dans cette affaire, et pour préserver sa réputation, les auteurs de la lettre demandent « que le projet Maven soit annulé et que Google rédige, publie et applique une politique claire stipulant que jamais Google ni ses sous-traitants ne construiront une technologie de guerre. » La lettre, qui circule au sein de l'entreprise, a déjà recueilli plus de 3100 signatures.
Sources : New York Times, Lettre adressée à Google
Et vous ?
:fleche: Qu'en pensez-vous ?
:fleche: Condamnez-vous une éventuelle implication de Google dans ce projet ? Pourquoi ?
Voir aussi :
:fleche: Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte, signée par 116 spécialistes de l'IA et la robotique
:fleche: L'intelligence artificielle pourrait mener à la troisième guerre mondiale : un nouvel épisode d'Elon Musk après la déclaration de Vladimir Poutine