Discussion :

[Coriolan]

Google aide le Pentagone à développer une IA pour analyser les vidéos capturées par drone
Et certains de ses employés sont furieux

Google a confirmé qu’il permet au Pentagone d’exploiter ses technologies de reconnaissance d’image dans le cadre d’un projet militaire. Cette révélation survient après que des rapports de presse ont informé que l’IA développée par le géant de la recherche a été utilisée pour analyser les contenus vidéo capturés par drone.

Drone militaire américain

Cette collaboration fait partie d’un projet appelé « Project Maven », dont le but est d’accélérer l’intégration de données massives et d’apprentissage machine au sein du Département de la Défense des États-Unis. Les détails sur le rôle que joue Google dans ce projet ne sont pas clairs, mais un communiqué de presse sur le projet a informé que Project Maven a pour but de traiter « les millions d’heures de vidéos » collectées par l’armée. Pour cette raison, le Pentagone cherche à développer une vision par ordinateur capable de mieux comprendre les vidéos, et ainsi réduire la charge sur les analystes humains qui seraient incapables de gérer l’énorme flux de contenus. En tant que propriétaire de YouTube, Google serait le candidat idéal pour trouver une solution à ce problème.

Le projet a commencé en avril dernier, mais selon des rapports de presse, beaucoup d’employés de Google n’ont appris la nouvelle de son existence que la semaine dernière via des emails internes et certains ont été furieux de savoir que leur entreprise aide les militaires à développer la technologie de surveillance requise pour les opérations par drone.

Dans un communiqué de presse, une porte-parole de Google a informé que l’entreprise fournit au Pentagone un accès à sa solution TensorFlow pour mettre en place des algorithmes de reconnaissance des objets.

« Nous avons pendant longtemps travaillé avec des agences du gouvernement pour fournir des solutions de technologie, » a dit la porte-parole. « Ce projet spécifique avec le Département de défense sert à fournir des API TensorFlow open source qui peuvent aider dans la reconnaissance d’objets sur des données non confidentielles. La technologie signale les images pour qu’elles soient évaluées par des humains, et seulement pour des utilisations non offensantes. »

TensorFlow est un outil open source d'apprentissage automatique développé par Google. Le code source a été ouvert le 9 novembre 2015 par Google et publié sous licence Apache. TensorFlow est l'un des outils les plus utilisés en IA dans le domaine de l'apprentissage machine et constitue la pièce maitresse de la stratégie du géant de la recherche pour développer son IA.

Le fait que les chercheurs du pentagone utilisent TensorFlow n’est pas une surprise, mais il est difficile de savoir si Google offre seulement une assistance technique pour manier les outils, ou bien le géant de la recherche a véritablement déployé ses ingénieurs pour aider à développer les algorithmes requis par l’armée. Et les applications sont multiples, surveiller et traquer les cibles en utilisant des drones, ou rendre intelligent le réseau de caméra CCTV de l’armée. Mais pour le moment, le Pentagone a informé que le projet se concentre sur l’identification de 38 classes d’objets liés au combat contre ISIS en Irak et en Syrie.

Ces derniers points nous interpellent sur la question d’éthique et les différentes craintes de voir émerger des applications de l’IA aussi dangereuses. La porte-parole de Google a informé que ce sujet est vivement débattu en interne et avec d’autres parties, et en même temps, la firme « continue de développer des politiques et des garanties autour du développement et l’usage des technologies de machine learning. »

Bien que le Pentagone a informé que l’IA va servir seulement pour assister les humains, il faudra noter que la prise de décision assistée par ordinateur pourrait rendre les opérateurs de drone dépendants de la technologie dont les analyses pourraient être erronées. Sans supervision, ces erreurs pourraient ne pas être relevées. Les craintes découlent aussi du fait que les États-Unis ont un recours massif aux drones de surveillance et d'assassinat ciblé.

Bien que l’ancien président de Google Eric Schmidt soit devenu un conseiller du Pentagone en 2016, le géant de la recherche a toujours cherché à se distancer de l’armée américaine, à tel point qu’il a retiré un de ses robots d’une compétition organisée par le Département de la défense.

Google n’est pas la seule entreprise impliquée dans Project Maven, Nvidia avait aussi parlé du projet auparavant dans son blog et a informé qu'elle collabore avec le Pentagone. Un expert a expliqué que la baisse des coûts des drones a favorisé la capture de vidéos, en conséquence, de vastes quantités de données ont commencé à affluer sur les centres d’analyse et d’exploitation, avec de tels volumes, impossible que des humains seuls puissent tout traiter.

« En tant que leader du développement de l’IA, Google constitue un choix évident pour le Département de défense pour travailler en partenariat, malgré les réticences des employés et des actionnaires qui ne seraient pas motivés à 100 % par cette idée de travailler avec les militaires. »

Source : BBC News

Et vous ?

Pensez-vous que la collaboration de Google avec le Pentagone rejoint son slogan "Don't be evil" ?
Pensez-vous que l'IA doit avoir plus d'applications militaires ?

Voir aussi :

Ubisoft met une IA au service des développeurs de jeux pour prédire les bogues et en identifier les causes potentielles
Intel présente son programme Intel AI : In Production conçu pour faciliter le prototypage et la production en masse d'applications d'IA
Paris appelle à la création d'une DARPA européenne financée à hauteur de 2,5 milliards par an pour garantir la souveraineté technologique de l'UE

[nikau6]

Ah, ben c'est bon á savoir. Jamais plus je n’achèterais quoi que ce soit qui vienne de l'entreprise Nvidia.

[rawsrc]

La technologie signale les images pour qu’elles soient évaluées par des humains, et seulement pour des utilisations non offensantes.»

et

Mais pour le moment, le Pentagone a informé que le projet se concentre sur l’identification de 38 classes d’objets liés au combat contre ISIS en Irak et en Syrie.

On n'en est plus à une contradiction près...
Google + Armée US + Pentagone = Laissez-moi rire (c'est pour votre bien, hein...)

La prochaine singularité fera que l'humanité sera dans la merde (déjà qu'on a une semelle dedans...)

[RyzenOC]

c'est la suite logique. Avoir une armée autonome opérante n'importe quand n'importe ou dans le monde.
La Russie aussi s'équipe, a quand pour l'Europe qui accumule du retard ?

Il reste malheureusement encore une de gros défis technologique a révéler, sur le plan software je ne pense pas que cela pose probleme. Mais sur la partie mécanique les drones ont encore pas mal de probleme, une autonomie trop faible, trop lourd, trop bruyant...
edit: je parle des drones terrestre par aérien

Cela dit en dehors de l’autonomie le reste progresse quand même assez bien depuis des 10 dernières années.

[Ryu2000]

Mais sur la partie mécanique les drones ont encore pas mal de probleme, une autonomie trop faible, trop lourd, trop bruyant...

Dans la presse officielle ils disent que c'est discret et que ça a une grande autonomie :
Défense: ce que les futurs drones armés vont changer

L'armée française va se doter de drones armés, a annoncé mardi Florence Parly. Un équipement vanté pour sa discrétion, sa grande autonomie et sa rapidité d'intervention.

Si ça vole un peu haut, tu ne dois pas l'entendre.

Ça lance des missiles :
General Atomics MQ-9 Reaper

Le premier prototype "Predator B-001" a fait son premier vol le 2 février 2001. Son moteur était un turbopropulseur Garrett AiResearch TPE-331-10T de 950 ch (712 kW), distribué ensuite par la société Honeywell. Les ailes avaient été allongées jusqu'à 20 m, la vitesse portée à 390 km/h, la charge utile à 340 kg, le plafond à 15 200 mètres et l'autonomie à 30 heures.

Ça coûte chère :

Le ministre de la défense français Jean-Yves Le Drian indique durant l'été 2013 que la France souhaite acquérir 12 exemplaires du drone américain pour 670 millions d'euros. Quelques semaines plus tard, les États-Unis indiquent qu'à long terme, la vente pourrait porter jusqu'à 16 drones et huit stations au sol pour un cout total de 1,14 milliard d'euros.

Personnellement je ne suis pas fan des drones...

[grunk]

Ah, ben c'est bon á savoir. Jamais plus je n’achèterais quoi que ce soit qui vienne de l'entreprise Nvidia.

Si tu boycott tout ce qui aide de près ou de loin l'amée , y va pas te rester grand chose à acheter...
J'espère en tout cas que tu n'utilises jamais de produit basé sur le GPS.

et

On n'en est plus à une contradiction près...
Google + Armée US + Pentagone = Laissez-moi rire (c'est pour votre bien, hein...)

La prochaine singularité fera que l'humanité sera dans la merde (déjà qu'on a une semelle dedans...)

Il peuvent très bien utiliser la technologie en situation de combat mais dans un unique but défensif et/ou de renseignement.

Après faut pas être naif , si une techno fonctionne et peut donner l'avantage sur le terrain , elle sera utilisée.

[MikeRowSoft]

J'espère en tout cas que tu n'utilises jamais de produit basé sur le GPS.

Je me suis demandé pourquoi la Lune de la Terre ne perturbe pas les signaux GPS...
Elle ne se trouve jamais perturbatrice je présume...

Les extraterrestres trouveront bien un moyen de retourner les armes contre ses créateurs.

[byrautor]

Juridiquement contraignante

: j'aime le terme ! (qui satisfait l'esprit)

[Patrick Ruiz]

Des employés de Google DeepMind poussent l'entreprise à abandonner les contrats militaires
Dans un contexte de protestations et d’appels à l’échelle mondiale contre l’utilisation de l’IA à des fins militaires

Des travailleurs de Google DeepMind font pression sur l'entreprise pour qu'elle abandonne les contrats militaires, dans un contexte de tensions croissantes concernant les relations de l'entreprise avec Israël. Ces derniers viennent allonger la liste des participants à un mouvement qui a vu des protestataires devant les bureaux d’entreprise comme OpenAI et Google afin de protester contre l’utilisation de l’intelligence artificielle à des fins militaires. Ces sorties font suite à des échecs à répétition des négociations sur les robots tueurs aux Nations unies. En d’autres termes, chaque pays poursuit avec le développement de robots tueurs autonomes au mépris des appels à réglementer les usages de l’intelligence artificielle à l’échelle mondiale.

🚨Exclusive: workers inside Google DeepMind are pushing the company to drop military contracts, amid rising tensions over the company's relationship with Israel. pic.twitter.com/G6ustl41LY

— Billy Perrigo (@billyperrigo) August 22, 2024

Ces manifestations font suite à la suppression par OpenAI, en début d’année, d'une clause de sa politique d'utilisation qui interdit l'utilisation de l'intelligence artificielle à des fins militaires et au début de la collaboration de l’entreprise avec le Pentagone.

Jusqu'au 10 janvier, la page des « politiques d'utilisation » d'OpenAI comprenait une interdiction des « activités présentant un risque élevé de dommages physiques, y compris », plus précisément, le « développement d'armes » et les « activités militaires et de guerre ». Cette interdiction des applications militaires, formulée en termes clairs, semble exclure toute utilisation officielle, et extrêmement lucrative, par le ministère de la défense ou toute autre armée nationale. La nouvelle politique conserve l'injonction de ne pas « utiliser notre service pour vous nuire ou nuire à autrui » et donne comme exemple « le développement ou l'utilisation d'armes », mais l'interdiction générale de l'utilisation « militaire et de guerre » a disparu.

« Plusieurs laboratoires spécialisés en intelligence artificielle et experts se rejoignent : l’IA est susceptible d’exterminer l’humanité », souligne Pause AI sur son site web.

« Je pense qu'une bonne analogie serait la façon dont les humains traitent les animaux. Ce n'est pas que nous détestons les animaux. Je pense que les humains aiment les animaux et ont beaucoup d'affection pour eux. Mais lorsqu'il s'agit de construire une autoroute entre deux villes, nous ne demandons pas la permission aux animaux. Nous le faisons simplement parce que c'est important pour nous. Je pense que, par défaut, c'est le type de relation qui s'établira entre nous et l’intelligence artificielle générale (AGI) », confirme le scientifique en chef d’OpenAI dans un documentaire.

L’intelligence artificielle sert déjà à traquer des cibles sur les théâtres de guerre et à tuer sans intervention humaine

Suite aux attaques menées par les militants du Hamas le 7 octobre de l’année précédente, les forces israéliennes ont frappé plus de 22 000 cibles à l'intérieur de Gaza. Pour y parvenir, elles mettent à contribution une intelligence artificielle dénommée « Gospel » afin d'identifier en temps réel le plus grand nombre de cibles ennemies.

En effet, en septembre 2022, l'armée israélienne a commencé à installer une arme automatique à un poste de contrôle très fréquenté de la ville d'Hébron (Al-Khalil), en Cisjordanie occupée. Les tourelles jumelles ont été installées au sommet d'une tour de garde surplombant le camp de réfugiés d'Al-Aroub. « Elle tire toute seule sans intervention de la part du soldat. Quand un soldat israélien voit un petit garçon, il appuie sur un bouton ou quelque chose comme ça et elle tire toute seule. Elle est très rapide, même plus rapide que les soldats. Les bombes lacrymogènes qu'il tire peuvent atteindre l'extrémité du camp et tout le reste », a déclaré un résident du camp.

La tourelle télécommandée a été développée par la société de défense israélienne Smart Shooter, qui a mis au point un système de contrôle de tir autonome appelé SMASH, qui peut être fixé sur des fusils d'assaut pour suivre et verrouiller des cibles à l'aide d'un traitement d'image basé sur l'intelligence artificielle. Le site Web de la société appelle ce système "One Shot-One Hit" (qui pourrait être traduit en français par : "un tir - un succès". Elle se vante d'avoir réussi à "combiner un matériel simple à installer avec un logiciel de traitement d'image avancé pour transformer des armes légères de base en armes intelligentes du XXIe siècle".

La société affirme que la technologie SMASH permet de surmonter les défis auxquels sont confrontés les soldats lors des batailles, tels que l'effort physique, la fatigue, le stress et la pression mentale pour viser avec précision et assurer le succès du tireur. « Notre objectif est de permettre à tous les corps d'infanterie de bénéficier des armes de précision. Quelle que soit l'expérience ou la mission du soldat, notre système lui permet de ne pas faire d'erreur lorsqu'il tire et de toucher la cible sans faute. Tout soldat devient un véritable tireur d'élite », a déclaré Michal Mor, fondateur et PDG de Smart Shooter, lors d'une interview en 2020.

La tourelle vue à Hébron n'est pas annoncée sur le site Web de l'entreprise israélienne, mais deux autres tourelles automatisées, 'SMASH HOPPER' et 'SMASH HOPPER P', sont équipées de fusils d'assaut et du système Smart Shooter. « Le HOPPER peut être monté dans plusieurs configurations, notamment sur un trépied, un mât fixe, un navire de surface et des véhicules », indique le site Web de l'entreprise. Dans l'ensemble, l'entreprise indique que la technologie SMASH est censée améliorer l'efficacité des missions en engageant avec précision et en éliminant les cibles terrestres, aériennes, statiques ou mobiles, de jour comme de nuit.

« Habituellement, le terroriste se trouve dans un environnement civil avec de nombreuses personnes que nous ne voulons pas blesser. Nous permettons au soldat de regarder à travers son système de contrôle de tir, pour s'assurer que la cible qu'il veut atteindre est la cible légitime. Une fois qu'il aura verrouillé la cible, le système s'assurera que la balle sera libérée lorsqu'il appuiera sur la gâchette, uniquement sur la cible légitime et qu'aucun des passants ne pourra être touché par l'arme », a déclaré Mor. Les militants des droits de l'homme s'inquiètent de "la déshumanisation numérique des systèmes d'armes".

Selon les médias locaux, l'armée israélienne a déclaré qu'elle teste la possibilité d'utiliser le système pour appliquer des méthodes approuvées de dispersion de la foule, qui n'incluent pas le tir de balles réelles. « Dans le cadre des préparatifs améliorés de l'armée pour faire face aux personnes qui perturbent l'ordre dans la région, elle examine la possibilité d'utiliser des systèmes télécommandés pour employer des mesures approuvées de dispersion de foule. Cela n'inclut pas le contrôle à distance de tirs à balles réelles », explique un porte-parole de l'armée israélienne. Mais cela n'a pas suffi à calmer les craintes des militants des droits de l'homme.

L'armée israélienne a également précisé qu'au cours de sa phase pilote, le système n'utilisera que des balles à pointe éponge. Cependant, des experts ont signalé qu'à plusieurs reprises, des balles à pointe éponge ont causé des blessures permanentes à des personnes en Cisjordanie occupée et en Israël, certaines ayant même perdu leurs yeux. Des militants des droits de l'homme d'Hébron ont exprimé leur inquiétude quant à la défaillance du système qui pourrait avoir un impact sur de nombreuses personnes, notant que le système a été placé au centre d'une zone fortement peuplée, avec des centaines de personnes passant à proximité.

En outre, les militants des droits de l'homme, ainsi que d'autres critiques, affirment également que ce dispositif est un nouvel exemple de l'utilisation par Israël des Palestiniens comme cobayes, ce qui lui permettrait de commercialiser sa technologie militaire comme testée sur le terrain auprès des gouvernements du monde entier. « Je vois cela comme une transition du contrôle humain au contrôle technologique. En tant que Palestiniens, nous sommes devenus un objet d'expérimentation et de formation pour l'industrie militaire israélienne de haute technologie, qui n'est pas responsable de ce qu'elle fait », a déclaré un habitant de la région.

Les armes létales autonomes sont de plus en plus utilisées dans le monde. Les drones, notamment les drones kamikazes, sont largement utilisés de l'Ukraine en l'Éthiopie et les armes télécommandées ont été utilisées par les États-Unis en Irak, par la Corée du Sud le long de la frontière avec la Corée du Nord et par les rebelles syriens. Par ailleurs, la dépendance de l'armée israélienne à l'égard des systèmes automatisés s'est accrue au fils des ans. Ces dernières années, Israël a adopté de plus en plus de systèmes automatisés à des fins militaires, dont certains sont controversés. Cela comprend des robots et des chars d'assaut dotés d'une intelligence artificielle.

Un rapport a révélé qu'Israël avait déployé un système élaboré de caméras en Cisjordanie occupée pour contrôler et surveiller les Palestiniens. Ces caméras seraient reliées à une base de données appelée "Blue Wolf". La base de données comprendrait des détails et des photos des Palestiniens, notamment les numéros d'identité, l'âge, le sexe, l'adresse, les numéros de plaque d'immatriculation, les liens avec d'autres individus, le statut professionnel en Israël et les impressions négatives que les soldats ont du comportement d'un Palestinien lorsqu'ils le rencontrent. Hébron aurait été l'une des premières villes à utiliser ce système.

Selon d'autres rapports, en 2018, l'armée israélienne a commencé à utiliser un drone capable de lancer des gaz lacrymogènes pour disperser les manifestants dans la bande de Gaza. En 2021, même la police israélienne aurait commencé à employer de tels drones contre des manifestants en Israël. Dans ce contexte, beaucoup estiment que le déploiement des armes létales autonomes va davantage s'accélérer. Elon Musk, PDG de Tesla, affirme : « les drones autonomes sont le futur. Ce n’est pas que je veuille que l’avenir soit ainsi fait, mais c’est juste que c’est inéluctable. L’ère des avions de chasse est révolue ».

En Europe, Milrem Robotics, leader européen en matière de robotique et de systèmes autonomes, a partagé en juin dernier une vidéo mettant en scène un char doté d'une IA qui fait exploser des voitures et d'autres cibles. L'entrepreneur a déclaré que le char, baptisé Type-X, est conçu pour permettre aux troupes de "percer les positions défensives de l'ennemi avec un risque minimal". Il devrait fournir aux troupes "une puissance de feu et une utilisation tactique égales ou supérieures à celles d'une unité équipée de véhicules de combat d'infanterie". Les critiques ont déclaré que la démonstration reflète un futur dystopique de la guerre.

Le développement d’armes autonomes se poursuit donc en parallèle de la multiplication des appels à réglementer les usages de l’intelligence artificielle à l’échelle mondiale

L’un des plus récents est celui du Pape François. Ce dernier appelle à un traité international juridiquement contraignant pour réglementer l'intelligence artificielle. Motifs : les algorithmes ne doivent pas être autorisés à remplacer les valeurs humaines et l’humanité doit éviter de tomber dans une dictature technologique qui menace l’existence humaine. Le pape a lancé cet appel dans un message dans le cadre des préparatifs de la Journée mondiale de la paix qui se célèbre tous les 1ers janviers par l’Eglise catholique romaine. Le titre du message, qu’il est de tradition d’envoyer aux dirigeants mondiaux et aux responsables d'institutions telles que les Nations unies, est « L'intelligence artificielle et la paix. »

Le dernier message du Pape s’inscrit dans la continuité du Rome Call for an AI Ethics. Cette initiative du Vatican vise à appeler les intervenants mondiaux à la mise sur pied de normes éthiques plus strictes en matière de développement d’intelligence artificielle. IBM et Microsoft sont les premières entreprises à s’y arrimer, suivis du gouvernement italien et de l’Organisation des Nations Unies pour l’alimentation et l’agriculture.

Le Rome Call For an AI Ethics énonce 6 grands principes : transparence, inclusion, responsabilité, impartialité, fiabilité, sécurité et respect de la vie privée. Grosso modo, ces derniers stipulent que la technologie (l’intelligence artificielle) doit être mise sur pied dans le but de protéger les personnes ; en particulier, les faibles et les défavorisés.

Le Vatican veut s'assurer que les entreprises n'utilisent pas l'intelligence artificielle comme un moyen de collecter des données sans le consentement des individus, puis de les utiliser à des fins commerciales ou politiques.

« Sur le plan personnel, l'ère numérique modifie notre perception de l'espace, du temps et du corps, et sur le plan socio-économique, les utilisateurs sont souvent réduits à des "consommateurs", en proie à des intérêts privés concentrés dans les mains de quelques-uns. Les algorithmes extraient désormais des données qui permettent de contrôler les habitudes mentales et relationnelles à des fins commerciales ou politiques, ce, souvent à notre insu. L'asymétrie par laquelle un petit nombre d'élus savent tout de nous alors que nous ne savons rien d'eux ternit la pensée critique et l'exercice conscient de la liberté », a déclaré le Pape François.

Le Rome Call For an AI Ethics stipule en sus qu’un devoir d’explication doit faire l’objet d’instauration et que les algorithmes basés sur l'intelligence artificielle doivent fournir aux individus des informations sur la manière dont ces derniers ont abouti à leurs décisions afin de garantir qu'il n'y a pas de biais.


Et vous ?

Pour ou contre l'utilisation de l'IA à des fins militaires ? Si pour, à quel degré ou à quelles fins ? Si contre, pourquoi ?
Quels sont les avantages et les inconvénients de l’utilisation de l’intelligence artificielle à des fins militaires ?
Comment OpenAI peut-elle garantir que ses outils ne seront pas utilisés pour développer ou utiliser des armes ?
Comment les travailleurs de la technologie peuvent-ils exprimer leurs préoccupations ou leur opposition à des projets militaires impliquant l’intelligence artificielle ?
Êtes-vous surpris de voir des entreprises comme OpenAI ou Google collaborer avec l’armée sur des projets d’IA militaire ?
Êtes-vous surpris de la mise à contribution de l’intelligence artificielle sur les champs de bataille ?


Voir aussi :

Des représentants de 150 entreprises de la tech plaident contre les robots tueurs autonomes, lors d'une conférence internationale sur l'IA
USA : le sous-secrétaire à la défense soulève l'importance d'associer l'intelligence artificielle à l'armée, évoquant une future course aux armes
Des experts en IA boycottent un projet de robots tueurs d'une université en Corée du Sud, en partenariat avec le fabricant d'armes Hanwha Systems
Non, l'IA de Google ne doit pas être au service de la guerre ! Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone
Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur

[Dgamax]

Ça coûte chère :


Personnellement je ne suis pas fan des drones...

Ça nous coûte chère, ils sont obsolètes et peu flexible quand on sait qu'à chaque sortie nous devons avoir l'accord des Américain.

Chez nous, nous avons Dassault qui travail sur un drone de combat autonome et capable de voler et communiquer avec un Rafale :
https://fr.wikipedia.org/wiki/Dassault_Neuron

[Ryu2000]

Ça nous coûte chère, ils sont obsolètes et peu flexible quand on sait qu'à chaque sortie nous devons avoir l'accord des Américain.

Ça ne va pas être pratique si dans un conflit nous nous retrouvons contre les USA.
Dépendre dans autre pays quand il est question d'armée, ça craint vraiment...

Il me semble que la France a stopper la production de plusieurs types de munitions et maintenant les achètent aux USA.
Nous devrions produire nos armes et nos munitions.

[Michael Guilloux]

Non, l'IA de Google ne doit pas être au service de la guerre !
Plus de 3000 employés de Google protestent contre la collaboration avec le Pentagone

« Celui qui réussira à s’imposer comme leader dans la sphère [de l'intelligence artificielle] sera le maître du monde », avait déclaré Vladimir Poutine dans un message adressé à la jeunesse russe en septembre dernier. C'est une déclaration forte qui indique que la course aux armements basés sur l'IA a déjà commencé. Une course dans laquelle on retrouvera probablement des pays comme les États-Unis et la Chine. Les États-Unis, par exemple, travaillent sur le projet Maven, un projet militaire qui vise à améliorer les opérations de drones en utilisant des technologies de reconnaissance d'images. Selon le Pentagone, l'objectif initial de Maven était de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets, dans pas moins de 38 catégories, capturés par la caméra d'un drone. Il va par conséquent permettre de suivre à la trace certaines cibles.

Le projet Maven utilise TensorFlow, la technologie open source d'apprentissage automatique de Google. Mais certains médias américains ont rapporté début mars que le géant de l'intelligence artificielle accompagne également le Département américain de la Défense dans son projet. La contribution exacte de Google n'est pas encore claire, mais le simple fait que Google soit plus ou moins impliqué dans cette affaire a scandalisé certains employés ayant connaissance de l'affaire, avant que cette information sorte de l'entreprise.

Google s'est défendu en expliquant que l'entreprise a depuis longtemps travaillé avec des agences du gouvernement américain pour leur fournir des solutions technologiques. Et d'ajouter que son travail sur le projet Maven est « non offensif », car la technologie ne sera pas utilisée pour des frappes ciblées. Les employés de l'entreprise ne voient toutefois pas cette situation de la même manière et appellent Google à garder ses distances de ce projet.

Des milliers d'employés de Google, dont des dizaines d'ingénieurs seniors, ont donc signé une lettre pour protester contre l'implication de l'entreprise dans le programme du Pentagone. « Nous pensons que Google ne devrait pas être impliqué dans la guerre », peut-on lire dans la lettre. Les auteurs de la lettre estiment que la participation de Google au projet du Pentagone va de manière irrémédiable salir l'image de l'entreprise et réduire sa capacité à rivaliser avec les autres géants de la technologie pour attirer les talents. Ils rappellent en effet que Google lutte déjà pour garder la confiance du public.

Participer à un projet militaire dont la finalité sera probablement condamnée par les institutions comme l'ONU va donc empirer la situation. Ils pensent également que Google ne devrait pas essayer de s'en laver les mains, alors qu'il est évident que le Pentagone pourrait faire un mauvais usage de sa technologie. « Nous ne pouvons pas externaliser la responsabilité morale de nos technologies à des tiers », disent-ils. « Construire cette technologie pour aider le gouvernement américain dans la surveillance militaire – avec des résultats potentiellement mortels – n'est pas acceptable. »

Reconnaissant que l'entreprise a une responsabilité morale et éthique dans cette affaire, et pour préserver sa réputation, les auteurs de la lettre demandent « que le projet Maven soit annulé et que Google rédige, publie et applique une politique claire stipulant que jamais Google ni ses sous-traitants ne construiront une technologie de guerre. » La lettre, qui circule au sein de l'entreprise, a déjà recueilli plus de 3100 signatures.

Sources : New York Times, Lettre adressée à Google

Et vous ?

Qu'en pensez-vous ?
Condamnez-vous une éventuelle implication de Google dans ce projet ? Pourquoi ?

Voir aussi :

Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte, signée par 116 spécialistes de l'IA et la robotique
L'intelligence artificielle pourrait mener à la troisième guerre mondiale : un nouvel épisode d'Elon Musk après la déclaration de Vladimir Poutine

[DegubError]

Google + Armée US + Pentagone = Skynet ...

[Matthieu76]

Roh, arrêtez de vous plaindre c'est pas parce que c'est l'armé que c'est forcement mal et puis on fait la même chose en France, j'avais trouvé un stage l'année dernière qui consister à concevoir une "IA" (En ce moment ce mot veut un peu tout est rien dire en ce moment) pour faire de la reconnaissance d'image pour guider des missiles. Ça avait l'air très intéressant comme stage mais bon j'ai jamais eu de réponse ...

Et puis bon, google (Deep Mind plus précisément) avait aussi voulu créer une IA pour effectuer des diagnostiques médicals automatiques pour sauver des vies mais ils se sont pris un procès parce que même si les données était annonymes il n'avait pas le droit de les utiliser parce qu'ils n'avait pas demander la permission au 2 millions de personnes, je trouve cela totalement CONTRE-PROUDUCTIF!!!

[hotcryx]

Tu dois être encore jeune toi lol, "sauver des vies", "l'armée c'est le bien"

Les riches seront sauvés pas les pauvres.
Voilà pourquoi les grosses pourritures de ce monde vivent très vieux.

[RyzenOC]

Tu dois être encore jeune toi lol, "sauver des vies", "l'armée c'est le bien"

Les riches seront sauvés pas les pauvres.
Voilà pourquoi les grosses pourritures de ce monde vivent très vieux.

bah non ils sont tous égaux.
Steve Jobs malgré tous sont fric cela ne la pas sauver du cancer.
Leurs jets privée peut se crasher contre une montagne au même titre que n'importe quel avion. Elon Musk dans sa Tesla peut foncer contre un arbre.

L'armée fait pleins de chose bien, elle te protège des menacent extérieure, elles sauvent des vies.... c'est pas juste des barbares qui pillent et rasent des villages de gentils civiles.
Ils patrouilles dans les gares pour te protéger des terroristes, cela me dérangerais pas d'avoir des drones terrestres armées qui patrouille dans les rues pour assurer notre sécurité.

De même dans ma maison j'aimerais bien que la loi m'autorise d'avoir un robot armée radiocommandé pour tuer le prochain cambrioleur.

[e101mk2]

cela me dérangerais pas d'avoir des drones terrestres armées qui patrouille dans les rues pour assurer notre sécurité.

Bah moi, bizarrement ça me dérangerais, autant qu'avoir un policier par rue ne me gênerais pas, mais des drones terrestre armées qui s'occupent de la sécurité civile, c'est un problème.
Sa me gêne d'entendre ce genre de propos sur developpez.net... . On a tous un devoir sur la sécurité informatique, et on sait qu'elle n'est pas infaillible, donc utiliser la technologie de façon militaire pour des problèmes de sécurité civile en masse, c'est du suicide...

De même dans ma maison j'aimerais bien que la loi m'autorise d'avoir un robot armée radiocommandé pour tuer le prochain cambrioleur.

Tu rêves, on n'a même pas le droit de nous défendre lorsque qu'un cambrioleur est armée sans perdre le procès nous incriminant.... donc dans le futur obtenir un robot armée radiocommandé en France, c'est un peu...

[joublie]

Steve Jobs, malgré tout son fric, cela ne l'a pas sauvé du cancer. [...] De même dans ma maison, j'aimerais bien que la loi m'autorise à avoir un robot armé radiocommandé pour tuer le prochain cambrioleur.

1° Jobs, Luciano Pavarotti, Patrick Swayze, etc., tous sont morts d'un cancer du pancréas ; ce type de cancer se guérit très peu, mais nul doute que l'argent aide à avoir de meilleurs oncologues que pour le pékin moyen (qui, de toute façon, ne pourrait probablement pas se payer de traitement aux USA). Personnellement, quand je vais voir un médecin, c'est un pas un " grand professeur " parisien à 500 € la simple consultation.

En France, Michel Onfray a déclaré explicitement que sa compagne (morte d'un cancer) a été soignée plus longtemps que d'autres personnes parce qu'elle était la femme d'une célébrité, sinon les traitements auraient été arrêtés plus tôt. En plus, avec la tarification à l'acte maintenant à l'hôpital, les patients sont devenus des clients plus ou moins rentables : les soins sont donc parfois choisis en fonction de critère de rentabilité davantage que pour des raisons médicales.

2° L'espérance de vie chez les professions intellectuelles et les cadres les plus élevée que dans la population générale ; l'argent n'y est pour rien, sérieusement ?

3° Si ma mémoire est bonne, quand on possède une arme à feu chez soi, la probabilité de tuer un membre de la famille au lieu d'un cambrioleur est sept fois plus grande (statistiques des USA), alors autant réfléchir un peu avant de s'armer, même avec un robot radiocommandé et tout et tout.

[RyzenOC]

1° Jobs, Luciano Pavarotti, Patrick Swayze, etc., tous sont morts d'un cancer du pancréas ; ce type de cancer se guérit très peu, mais nul doute que l'argent aide à avoir de meilleurs oncologues que pour le pékin moyen (qui, de toute façon, ne pourrait probablement pas se payer de traitement aux USA). Personnellement, quand je vais voir un médecin, c'est un pas un " grand professeur " parisien à 500 € la simple consultation.

En France, Michel Onfray a déclaré explicitement que sa compagne (morte d'un cancer) a été soignée plus longtemps que d'autres personnes parce qu'elle était la femme d'une célébrité, sinon les traitements auraient été arrêtés plus tôt. En plus, avec la tarification à l'acte maintenant à l'hôpital, les patients sont devenus des clients plus ou moins rentables : les soins sont donc parfois choisis en fonction de critère de rentabilité davantage que pour des raisons médicales.

2° L'espérance de vie chez les professions intellectuelles et les cadres les plus élevée que dans la population générale ; l'argent n'y est pour rien, sérieusement ?

3° Si ma mémoire est bonne, quand on possède une arme à feu chez soi, la probabilité de tuer un membre de la famille au lieu d'un cambrioleur est sept fois plus grande (statistiques des USA), alors autant réfléchir un peu avant de s'armer, même avec un robot radiocommandé et tout et tout.

1,2) oui mais ils sont mort quand même, l'argent ne fait pas des miracles non plus.
J'ai un pote qui était atteint du cancer de la prostate, c'est un professeur qui l'a soigné à Toulouse avec du matos de pointe, le robot Da Vinci.
Le professeur est peut être pas le plus célèbre du monde, mais c'est comme un informaticien on peut ne pas être célèbre et être très bon quand même. Je sais pas si les meilleurs clinique privée du monde te soigne vraiment mieux qu'un CHRU français, si t'es condamné, t'es condamné c'est pas 1 mois de plus qui vas changer grand chose.
Beaucoup d'africains aisé vienne se soigner dans des hôpitaux publique en France (il payent bien évitement)
En France le médecin n'a pas le droit d’arrêter le traitement et de laisser le patient crever, la décision finale reviens toujours au patient qui a le choix de faire le traitements ou de ne rien faire et de se laisser mourir, évidement sa décision est fortement influencer par l'avis du médecin/chirurgien. Mais si la patient veut tenter une intervention risqué 50/50 il peut parfaitement en faire la demande à (il faut trouver un chirurgien qui accepte si le tiens le refuse)
Et si t'es pas content de ton chirurgien de Lyon, tu peut gratuitement aller voir ailleurs à Paris, Marseille... si sa te chante, tu peut choisir l’hôpital de ton choix.
Tu ne peut cependant pas choisir ton traitement, c'est le médecin qui décide mais tu peut demander a ton médecin tes préference et si il refuse tu peut toujours aller en voir un autre.

tous est la :
http://sos-net.eu.org/medical/dpom.htm#19

et concernant l'arret d'un traitement : tu n'a pas totalement tord

* Comme vu supra, la loi du 22 avril 2005 permet au médecin de limiter ou d'arrêter un traitement concernant une personne " hors d'état d'exprimer une volonté " alors que " la limitation ou l'arrêt du traitement serait susceptible de mettre sa vie en danger " (C. santé publ., art. L. 1111-4).
Elle permet aussi au médecin, lorsque le malade est en " fin de vie et hors d'état d'exprimer sa volonté ", de " limiter ou d'arrêter un traitement inutile, disproportionné ou n'ayant d'autre objet que la seule prolongation artificielle de la vie " (C. santé publ., art. L. 1111-13).

Cela dit il est bien précisé : "traitement inutile, disproportionné ou n'ayant d'autre objet que la seule prolongation artificielle de la vie"
Uniquement donc si le traitement n'aura aucun effet a part prolonger la vie artificiellement du patient...

Je cite l’Article 47 (article R.4127-47 du code de la santé publique)
Quelles que soient les circonstances, la continuité des soins aux malades doit être assurée.


Quand t'a de l'argent tu peut toujours payer pour te maintenir en vie quelques semaine de plus... mais voila tu fini quand même par mourir assez rapidement
J'idéalise un peu, mais le système de santé en France fais beaucoup de jaloux malgré les coupes budgétaire et dans le monde la France hélas est surement l'exception qui confirme la règle

3) je m'étais renseigner que j'ai monter ce projet en France on peut avoir au mieux un flash ball, pas terrible.
Par contre ce que tu dit est faux, tu prend l'exemple des USA mais les américians sont des abrutis.
Prend la Suisse c'est très différent, tous le monde à une arme, mes parents ont une arme depuis toujours et pourtant j'ai jamais pris l'arme de mes parents pour tirer dans mon école et cela n'arrive "jamais" car c'est un pays civilisé. il ya toujours 2-3 fusillades de temps en temps comme dans tous les pays même si les armes sont interdit y'en a France, y'en a en Suède/Norvège.

Tu raisonne comme un français, mais si tu raisonne comme un Suisse avoir une arme chez soi pour défendre ta maison et ta famille c'est presque un devoir.

joublie tu soulève cependant une question pertinente, on voit surtout l'inverse : un patient qui refuse de se faire soigner ou qui veut se faire euthanasier.
mais l'inverse est malheureusement plus rarement abordé, un chirurgien peut t'il refuser de donner un traitement pour prolonger la vie du patient...etc.

[Ryu2000]

Steve Jobs malgré tous sont fric cela ne la pas sauver du cancer.

Ouais mais en parallèle il y a des gens comme David Rockefeller qui sont mort à 101 ans.
Bon cela dit, pas mal de stars sont morte à cause d'un excès de Fentanyl, donc ça équilibre un peu.
Mais effectivement l'argent aide à se faire soigner, je ne me rappel plus très bien, mais il y a quelques années il y a eu une épidémie en Afrique (ébola ?) et les occidentaux qui sont rentré chez eux, ne sont pas mort, contrairement aux africains...

En France, Michel Onfray a déclaré explicitement que sa compagne (morte d'un cancer) a été soignée plus longtemps que d'autres personnes parce qu'elle était la femme d'une célébrité, sinon les traitements auraient été arrêtés plus tôt. En plus, avec la tarification à l'acte maintenant à l'hôpital, les patients sont devenus des clients plus ou moins rentables : les soins sont donc parfois choisis en fonction de critère de rentabilité davantage que pour des raisons médicales.

Généralement c'est la sécu qui paie, et les laboratoires utilisent les patients comme cobaye pour tester de nouvelles drogues.
Les traitements contre le cancer coûte une fortune à l'état, c'est pour cela que les taxes sur le tabac sont aussi élevé (officiellement).

Le système c'est que l'état gagne énormément d'argent grâce aux gens qui fument, et cette argent revient à l'industrie pharmaceutique (les potes du gouvernement) avec le traitement contre le cancer.
Après ce serait pas impossible qu'il y ait eu des deals entre des ministre de la santé et l'industrie pharmaceutique (comme quand un médicament de mauvaise qualité entre dans la liste des médicaments remboursé, c'est l'industrie pharmaceutique qui a corrompu un ministre), l'histoire des 11 vaccins c'est pareil, l'industrie pharmaceutique trouvait que le vaccin DTP n'était pas assez chère, donc ils ont arrêté de le produire :
Le vaccin DTP est toujours indisponible
Ils en ont produit un plus chère à la place.
Et après le gouvernement a rendu 11 vaccins obligatoire.
BIENTÔT 11 VACCINS OBLIGATOIRES : QUEL SERAIT LE SURCOÛT POUR LES PATIENTS ?

Rendre obligatoire 8 vaccins supplémentaires entraînerait une hausse des dépenses de 245 euros pendant les 18 premiers mois du nourrisson, selon nos calculs. Mais ce surcoût serait pris en charge par la Sécu et la grande majorité des complémentaires santé.

Les français donne de l'argent à la sécu, et cet argent revient à l'industrie pharmaceutique, certains élus reçoivent des pots de vins.