Discussion :

[Saverok]

@oooopppp
Je ne vais pas répondre à toute ta tirade mais juste à cette phrase :

Vivre dans un monde en paix c'est quelque chose qui rassemble tous, non ?

La réponse est évidente et elle est non.
Car si la paix rassemblait réellement tout le monde, y aurai pas de guerre, tout simplement.
S'il y a la guerre, c'est qu'il y a bien des gens qui y trouvent de l'intérêt, non ?
==> économique, philosophique, religieux, politique, territorial, etc, etc.

Je vais citer une référence sacrément bateau mais qui convient assez bien au côté un peu simpliste de ton post :
Replonge toi dans la Guerre des Etoiles.
Si l'empire construit l'Etoile de la Mort, c'est justement pour apporter la paix dans toute la galaxie car si tout le monde se soumet à l'Empire, il n'y aura plus de guerre et plus de Rébellion mais juste UN Empire qui garantit la paix.
Du coup, l'Empire fait la guerre pour apporter la paix.
Et la moindre des choses qu'on puisse dire, c'est que ça ne rassemble pas tout le monde

L'être humain est belliqueux par nature.
Aussi loin qu'ont pu remonter les recherches archéologiques, on a trouvé des traces des guerres ancestrales.
Y a rien de nouveau.
Même quand on regarde la nature, y a peu de races réellement pacifiques.
As-tu déjà vu des animaux se battre pour défendre leur territoire ? (pas besoin d'aller loin, observe les chats de ton quartier).
Même en dehors des prédateurs, regarde un peu des cerfs se battre et on reparlera de la nature de la paix qui n'est pas vraiment un état naturel, pas pour l'homme en tout cas.
Si la paix était notre nature, la vraie, on trouverai nettement plus de traces de civilisations pacifistes, non ?
Les humains ont besoin de se confronter les uns aux autres et ça, c'est notre nature.
Depuis tjrs, on s'affronte au cours de jeux, de sports et de joutes rhétoriques.
Parfois ça dégénère et ça finit en guerre mais c'est ça, la vraie nature de l'homme et c'est aussi ce qui nous permet d'être alerte et d'aller de l'avant.
On veut tjrs être meilleurs que son voisin donc on innove, on crée, on progresse.
Sans ce moteur, on serait encore des singes qui vivent de la cueillette.

[Ryu2000]

La réponse est évidente et elle est non.
Car si la paix rassemblait réellement tout le monde, y aurai pas de guerre, tout simplement.
S'il y a la guerre, c'est qu'il y a bien des gens qui y trouvent de l'intérêt, non ?
==> économique, philosophique, religieux, politique, territorial, etc, etc.

La guerre ne profite qu'a deux types de personnes : Ceux qui prêtent l'argent et ceux qui vendent les armes. (ceux qui envoient tout le monde se faire tuer sont bien en sécurité)

Les banques et les fabricants d'armes sont très puissant (ils peuvent influencer des gouvernements), ils possèdent des journaux.


Nous sommes proche de la 3ieme guerre mondiale, en Syrie le conflit aurait pu dégénérer à plusieurs reprises.
La tension en Syrie est retombé, mais ça repartira peut être quelque part. (Peut être que l'ennemi numéro 1 passera de Bachar el-Assad à Recep Tayyip Erdogan, ou quelque chose d'autre...)
Ça peut arriver dans 30 ans comme dans 6 mois, mais un jour il y a aura une 3ième guerre mondiale.
En tout cas tous les gouvernements se préparent.

La mauvaise nouvelle c'est ça :
Budget : 20 milliards d'euros pour l'Union européenne de la Défense
On est déjà en crise profonde et on dépense l'argent pour n'importe quoi...

[Stéphane le calme]

Projet Maven : l'ICRAC, l'ONG visant à sensibiliser sur les dangers des robots militarisés, s'oppose à Google
et craint de voir des robots autorisés à tuer sans supervision humaine

Il y a quelques jours, des employés de Google ont décidé de déposer leur démission. La raison ? La participation de l’entreprise dans un projet en intelligence artificielle pour le compte du Pentagone.

« Nous demandons que le projet Maven soit annulé et que Google prépare, publie et instaure des règles qui stipulent que jamais l’entreprise et ses sous-traitants ne participeront à la construction de matériel de guerre », ont lancé les employés à Sundar Pichai.

Une douzaine d’employés ont présenté leurs démissions tandis que plus de 3000 Googlers ont signé une pétition demandant à l’entreprise d’arrêter sa participation dans ce projet.

Le projet Maven vise à améliorer les opérations des drones en utilisant des technologies de reconnaissance d'images. Selon le Pentagone, l'objectif initial est de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets (classés dans pas moins de 38 catégories) capturés par la caméra d'un drone. Le projet a donc vocation à pister certaines cibles plus aisément. Google dont le rôle n’est pas très clair dans l’affaire, mais dont on sait au moins qu’il fournit l’API TensorFlow utilisée en IA, ajoute pour se défendre qu’il intervient sur des aspects non offensifs.

Seulement, référence faite à une publication (parue en juillet 2017) du département de la Défense (DoD) des États-Unis, il s’agit de « gagner des guerres en s’appuyant sur les algorithmes et l’intelligence artificielle. » Plus loin dans le papier du DoD, un colonel de l’armée américaine rappelle que « nous [les USA] sommes dans la course aux armes autonomes ».

Les employés de Google ne sont pas les seuls à avoir demandé à l’entreprise de se retirer. En effet, dans une lettre publique, l’ICRAC (International Committee for Robot Arms Control), une ONG regroupant des experts tous azimuts dont l'objectif est de sensibiliser sur les dangers que représentent les robots militarisés pour la sécurité internationale, a montré son opposition à ce projet.

« En tant qu’universitaires et chercheurs qui étudient, enseignent et développent des technologies de l'information, nous nous solidarisons aux 3100 employés de Google, rejoints par d'autres travailleurs de la technologie, qui s'opposent à la participation de Google au projet Maven. Nous soutenons sans réserve leur demande que Google résilie son contrat avec le DoD, et que Google et sa société mère Alphabet s'engagent à ne pas développer de technologies militaires et à ne pas utiliser les données personnelles qu'ils collectent à des fins militaires. La mesure dans laquelle le financement militaire a toujours été un moteur de la recherche et du développement en informatique ne devrait pas déterminer la voie à suivre pour l'avenir. Nous invitons également les dirigeants de Google et d'Alphabet à se joindre à d'autres chercheurs en IA et en robotique et à des responsables de la technologie pour réclamer un traité international interdisant les systèmes d'armes autonomes.

« Google a longtemps cherché à organiser et à améliorer l'utilité de l'information du monde. Au-delà de la recherche de pages Web pertinentes sur Internet, Google est responsable de la compilation de nos courriels, vidéos, calendriers et photos, et nous guide vers des destinations physiques. Comme beaucoup d'autres sociétés de technologie numérique, Google a recueilli de vastes quantités de données sur les comportements, les activités et les intérêts de leurs utilisateurs. Les données privées collectées par Google ont pour responsabilité non seulement d'utiliser ces données pour améliorer ses propres technologies et développer son activité, mais aussi d’en faire bénéficier la société. La devise de l'entreprise "Do not Be Evil" embrasse cette responsabilité ».

Selon Defense One, les forces d'opérations spéciales interarmées « au Moyen-Orient » ont mené des essais initiaux en utilisant des images vidéo d'un petit drone de surveillance ScanEagle. Le projet devrait s'étendre « à des drones Predator et Reaper plus grands et de moyenne altitude d'ici l'été prochain » et finalement à Gorgon Stare, « une série sophistiquée de caméras high-tech capables de voir des villes entières ».

« Avec Project Maven, Google devient impliqué dans la pratique douteuse des assassinats ciblés. Il s'agit notamment de ce que l'on appelle des frappes de signatures et des frappes de type de vie qui ciblent des personnes non sur des activités connues mais sur des probabilités tirées de séquences de surveillance à longue portée. La légalité de ces opérations a été remise en question en vertu de la loi internationale et américaine », assure l’ICRAC.

Vers des robots autorisés à tuer automatiquement, sans supervision humaine ?

Alors que les rapports sur le projet Maven mettent actuellement l'accent sur le rôle des analystes humains, ces technologies sont sur le point de devenir une base pour la reconnaissance automatisée des cibles et les systèmes d'armes autonomes. « À mesure que les commandants militaires verront les algorithmes de reconnaissance d'objets comme fiables, il sera tentant d'atténuer ou même de supprimer l'examen humain et la surveillance de ces systèmes. Selon Defense One, le DoD prévoit déjà d'installer des technologies d'analyse d'images à bord des drones eux-mêmes, y compris des drones armés. Nous sommes alors à deux pas d'autoriser des drones autonomes à tuer automatiquement, sans supervision humaine ou contrôle humain significatif. Si une action éthique de la part des entreprises technologiques nécessite de considérer qui pourrait bénéficier d'une technologie et qui pourrait être lésé, alors nous pouvons affirmer qu'aucun sujet ne mérite une réflexion plus sérieuse - aucune technologie n'a d'enjeux plus importants - que les algorithmes destinés à cibler et tuer à distance et sans responsabilité publique ».

L’ICRAC indique que « Nous sommes également très préoccupés par l'intégration possible des données de Google sur la vie quotidienne des gens avec des données de surveillance militaire, et son application combinée à la mise à mort ciblée. Google s'est lancé dans le travail militaire sans se soumettre à un débat public ou délibéré, que ce soit au niveau national ou international. Alors que Google décide régulièrement de l'avenir de la technologie sans engagement public démocratique, son entrée dans les technologies militaires met en relief les problèmes du contrôle privé de l'infrastructure de l'information ».

Si Google décidait d'utiliser les données personnelles des utilisateurs d'Internet à des fins militaires, cela violerait la confiance du public qui est fondamentale à ses activités en mettant en péril la vie de ses utilisateurs et les droits de l'homme. « Les responsabilités des entreprises mondiales comme Google doivent être proportionnelles à la composition transnationale de leurs utilisateurs. Les contrats du DoD en cours d'examen par Google, et des contrats similaires déjà conclus chez Microsoft et Amazon, signalent une alliance dangereuse entre l'industrie technologique privée, actuellement en possession de vastes quantités de données personnelles sensibles recueillies auprès de personnes à travers le monde. Ils signalent également un échec à s'engager avec la société civile mondiale et les institutions diplomatiques qui ont déjà souligné les enjeux éthiques de ces technologies ».

Source : lettre de l'ICRAC

Et vous ?

Partagez-vous les craintes de l'ICRAC ?

Voir aussi :

RGPD : les développeurs Android auraient suspendu les annonces publicitaires Google, jusqu'à la sortie du nouveau SDK de Google
Google a-t-il l'intention de devenir malveillant ? L'entreprise efface toutes les mentions de « Don't be evil », de son code de conduite
Google estime que la sanction du gendarme indien de la concurrence va lui causer des dommages irréparables, sur le marché du moteur de recherche
Google aurait-il simulé une avancée dans le domaine de l'IA avec Google Duplex ? Un quotidien relève quelques incohérences
Chrome 66 : Google supprime temporairement sa nouvelle politique de lecture automatique, mais uniquement pour l'API Web Audio

[Kapeutini]

Moi je suis pour le projet de Google, si nous ne le faisons pas, les autres le feront.
Nous n'avons pas le choix, alors autant être les meilleurs.

Ce savoir faire nous servira pour envoyer des robots exploiter le système solaire.

[Ryu2000]

Moi je suis pour le projet de Google, si nous ne le faisons pas, les autres le feront.

Pourquoi tu dis "nous" ? T'es étasuniens ?
Normalement c'est l'armée américaine qui devrait développer ça et pas une entreprise privée.

Nous n'avons pas le choix, alors autant être les meilleurs.

Et si un jour un gouvernement agressif prend le pouvoir des USA ?
Ces armes pourraient être utilisé contre des civils innocents (même contre le peuple US directement).

Ce savoir faire nous servira pour envoyer des robots exploiter le système solaire.

Un robot militaire et un robot explorateur de l'espace ce n'est pas exactement la même chose...
Mais bon il y a peut être des points commun quelque part.

Les employés de Google qui sont contre ce projet n'auront surement aucun impact, mais c'est bien d'essayer de se battre pour ses convictions.

[Matthieu76]

Le point principal du journalisme aujourd'hui c'est le clickbait, il faut que le titre soit attractif pour générer du clique.
Ce titre aurait pu être le titre sur un journal mainstream, Le Figago, Le Monde, Le Parisien, Libération, etc auraient pu écrire ce titre.

Ce n'est pas parce que les autres le font qu'il faut le faire aussi. Personnellement, ça m’énerve quand je vois des titres d'articles "putaclick" sur Developpez.com (pardonnez-moi du mot mais je ne sais pas comme dire autrement).

[Ryu2000]

Ce n'est pas parce que les autres le font qu'il faut le faire aussi.

Non mais là ça va, c'est quasiment une citation de l'article.
C'est pas vraiment pute à clique (ou "Piège à clics", ou "appât à clic", ou "clickbait")...
Enfin ça aurait pu être "Certains employés de Google pensent que Google ne devrait pas développer d'IA pour la guerre", mais c'est trop long.

De toute façon le titre a changé maintenant, donc tout va bien pour tout le monde.

[onilink_]

Moi je suis pour le projet de Google, si nous ne le faisons pas, les autres le feront.
Nous n'avons pas le choix, alors autant être les meilleurs.

Ce savoir faire nous servira pour envoyer des robots exploiter le système solaire.

Pas forcement. Si on prévoit que d'autres états (comme la russie je crois) comptent faire des drôles militaires autonomes, en partant du principe qu'ils seront forcément armés, on peut plutôt prendre une position stratégique défensive.
Il y a tout un champ de recherche pour luter contre les drones. Donc des drones anti drones, non armés, plutôt avec des filets, ou des moyens pour dérégler les drones, faire des interférences etc... qui ne risquent pas de causer des morts humaines, ou des prises de pouvoir.

Je pense qu'on oublie trop souvent qu'il n'y a pas que l'attaque dans "l'art de la guerre".

[Jon Shannow]

Pas forcement. Si on prévoit que d'autres états (comme la russie je crois) comptent faire des drôles militaires autonomes, en partant du principe qu'ils seront forcément armés, on peut plutôt prendre une position stratégique défensive.
Il y a tout un champ de recherche pour luter contre les drones. Donc des drones anti drones, non armés, plutôt avec des filets, ou des moyens pour dérégler les drones, faire des interférences etc... qui ne risquent pas de causer des morts humaines, ou des prises de pouvoir.

Je pense qu'on oublie trop souvent qu'il n'y a pas que l'attaque dans "l'art de la guerre".

Toutefois, la meilleure défense, ça reste l'attaque.

[onilink_]

Ça dépend beaucoup du paradigme.
Les armes autonomes c'est pas comme le nucléaire, ça va pas causer un hiver nucléaire, et on est loin du truc impossible a contrer.

Au final, ce sera surtout les algorithmes et leur "puissance" qui sera décisive (temps de réaction, efficacité pour prévoir les actions/réactions...).

Puis si tout le monde a peur qu'un état fasse des armes autonomes sans vouloir pour autant entrer dans la course a l'armement... je vois pas mille autres solutions.

[Julien Bodin]

Allez, mvn clean

[Ryu2000]

Puis si tout le monde a peur qu'un état fasse des armes autonomes sans vouloir pour autant entrer dans la course a l'armement...

Peut être que les gars ne sont pas contre les armes autonomes mais ils ne veulent pas participer au projet.
Ils auraient préféré que Google ne collaborent pas avec l'armée, c'est pour ça que certains ont choisi de quitter l'entreprise.
Il y a peu être une question d'éthique, certains ne veulent pas participer à la création d'arme.

[oooopppp]

@oooopppp
Je vais citer une référence sacrément bateau mais qui convient assez bien au côté un peu simpliste de ton post :

Cher Ami, que tu me répondes en citant Star Wars (versions disney à ch..er!) et que tu affirmes que mon post est un peut simpliste,
désolé mais je tousse un peu,
j'aurais volontiers pris le compliment ( rpl: simpliste, donc) si tu m'avait fait une réponse plus intellectuelle que la mienne ...

En effet, si tu lis bien ce que j'ai écrit (une véritable tirade, on est d'accord) c'est qu'il est grand temps justement
DE NE PLUS SE COMPORTER COMME DES ANIMAUX !
y'en a assez, ça a assez duré comme ça, stop.

Expérience en direct : J'endure aujourd'hui les travaux de mon voisin hyper capitaliste pharmacien
qui fait jouer de la disqueuse à 8h00 du matin pour ne pas déranger ses clients en semaine,
les autres, ses voisins donc, lui il en a rein à foutre (il n'habite pas à la pharmacie), il est seul dans sa course, on peut tous crever,
tant qu'il survit, lui, c'est bon pour lui ...

On peut pas continuer ainsi, par exemple à s'acheter des nike
(ça, j'ai jamais compris comment on pouvais porter des shoes avec marqué "niké"
dessus ... ) et fermer les yeux sur le fait que ce sont des humains qu'on traite comme des sous-merdes, parfois des gosses,
qui les fabriquent.

Bref, je m'écarte, mon propos serait plus qu'il est temps de faire un sacré effort, au niveau de l'esprit,
afin de former un consensus planétaire.

On ne peut pas être d'accord sur tout, il est nécessaire d'avoir des divergences, ça stimule, ça permet de se remettre en question.

Mais continuer à se coltiner la rage des gogols qui veulent s’entre-tuer parce qu'on refuse, on bloque même l'éducation des gens ou
on l'oriente carrément vers la haine, franchement la coupe est pleine !

Oui, je passe pour un utopiste à dire cela et alors ?

Je préfère qu'on essaye de répandre l'idée d'un monde "Peace and Love" plutôt que
"Tue avant d'être tué", parce qu'on serait encore des animaux ??

P.S : une chose dont j'ai oublié de parler c’est de la fierté des militaires dans tout ça ...
Le militaires sont des gens fiers d'eux car il pensent qu'ils peuvent potentiellement perdre leur vie au profit de la nation,
d'ailleurs, on est militaire ou civil, donc on ne fait pas partie du même monde, déjà ...
Ceci dit, je me met (un court instant) à leur place ... Quelle fierté de partir au combat derrière l'écran d'un PC ou de lancer un programme "Tue tout le monde
dans un rayon de 20km" ??
Franchement, si c'était moi j'éprouverais un certain plaisir à partir au combat, à aller se canarder entre confrères militaires (mais de faction opposée),
à aller faire péter quelque roquettes et sentir le souffle des explosions à mes cotés, à batailler tout simplement ...
Le futur militaire est-il un geek chétif sans aucun courage ?

[oooopppp]

Vivement qu'une l'IA prenne le contrôle d'armes autonomes pour nous latter une bonne fois pour toutes !

Après tout ce que je viens de lire j'en démord pas, il faut taper du poing sur la table et dire STOP THE WAR !

C'est bien de regarder des séries trtash où complots politique ignobles et assassinats ultra-sanglant à gogo sont légion,
moi je kiffe ex: The Expanse (c'est bien dans le thème du topic),
c'est cool dans mon canapé, mais je ne veut à aucun prix que ça devienne MA réalité,
je ne veut pas d'un monde ou il existe des armes et encore moins d'armes autonomes.

[Ryu2000]

Je préfère qu'on essaye de répandre l'idée d'un monde "Peace and Love" plutôt que "Tue avant d'être tué", parce qu'on serait encore des animaux ??

Nous sommes des animaux (Mr Oizo - Positif).
Mais nous sommes les seuls qui faisons des guerres. (il me semble)

Votre vision du monde est trop naïve, vous ne voyez que la partie superficielle, la surface de mensonges avec "les droits de l'homme" et tout ça.
Ce n'est qu'une vitrine, derrière il y a la politique.
D'un côté il y a la propagande et les histoires qu'on raconte et en dessous il y a les vrais motivations.

Par exemple en Syrie, si on aide les rebelles ce n'est pas pour aider le peuple Syrien (si les rebelles gagnent la vie sera plus difficile pour les syriens).
Sarkozy n'a pas ordonné l'assassinat de Kadhafi pour aider les Libyens (leur niveau de vie a chuter depuis qu'il n'est plus là).
La liste est longue, c'est facile d'utiliser un prétexte humanitaire pour masquer qu'on veut s'accaparer des ressources.

La chose qui lance le plus de guerre c'est quand un pays producteur de pétrole ne veut plus utiliser le dollar.
Là les USA sont obligé d'intervenir.

Les USA useraient du scénario irakien ou libyen si le pétrole iranien était payé en euros

Quant à l'idée de payer le pétrole iranien en euros plutôt qu'en dollars, «cela pourrait être une déclaration de guerre ou servir de prétexte à Washington pour déclarer la guerre à l'Iran. […] On verra par ailleurs comment Washington pourrait punir ceux qui oseront intervenir contre sa politique globaliste envers le Fonds monétaire international, l'Otan et la Banque mondiale, ces mécanismes qui ont contrôlé les pays tout au long de ces 80 dernières années et qui ont permis aux États-Unis d'émettre de l'argent et de mener des guerres»

Dans un système capitaliste la finance fini toujours par provoquer une crise majeur et la meilleure solution pour sortir de la crise c'est une guerre mondiale.
Tant que nous sommes dans ce genre de système capitaliste, avec un monde de la finance qui est de plus en plus puissant, nous sommes obligé de revivre le même scénario en boucle.

La guerre sont provoqué par une élite et ce sont les peuples qui souffrent.

[Jon Shannow]

Cher Ami, que tu me répondes en citant Star Wars (versions disney à ch..er!)

J'interviens juste là-dessus, mais Saverok parle de l'Étoile Noire, donc rien à voir avec Disney. L'Étoile Noire c'est dans l'épisode IV, sorti en 77.

[DevTroglodyte]

Votre vision du monde est trop naïve, vous ne voyez que la partie superficielle, la surface de mensonges avec "les droits de l'homme" et tout ça.

Venant de ta part, ça me fait juste marrer.

Poutre, œil, tout ça...

[Patrick Ruiz]

IA : un guide éthique en développement chez Google
Pour répondre aux protestations contre la participation de l’entreprise à un projet du Pentagone

Le feuilleton qui met en scène Google, le département de la Défense des États-Unis et les employés de la firme de Mountain View se poursuit. Le New York Times a pu mettre la main sur des courriels internes relatifs à ce dernier. Il y a du nouveau en ce qui concerne la participation de l’entreprise à des projets en IA pour le compte des militaires. La firme travaille à la rédaction d’un guide éthique …

En mars, l’entreprise a confirmé qu’elle permet au Pentagone d’exploiter ses technologies de reconnaissance d’image dans le cadre du projet Maven piloté par le Pentagone. En réalité, le public est tenu à l’écart de ces développements depuis le mois de septembre 2017 à partir duquel la fuite survient d’abord en interne. Tout part d’un échange par courriel entre deux responsables de l’entreprise au sujet du « dossier brulant » sur le contrat à venir avec le Pentagone. Depuis, le mail a circulé et a débouché sur une protestation à grande échelle. 3100 employés (minimum) de la firme ont manifesté leur soutien pour son retrait de ce projet dénommé Maven. Y faisant suite, l’Electronic Frontier Foundation (EFF) a, de façon générale, appelé les entreprises de la technologie à s’extirper des collaborations dans le même genre.

« Nous demandons que le projet Maven soit annulé et que Google prépare, publie et instaure des règles qui stipulent que jamais l’entreprise et ses sous-traitants ne participeront à la construction de matériel de guerre », ont lancé les employés à Sundar Pichai.

La voix de ces derniers a, semble-t-il, porté. Le géant technologique a confirmé au New York Times qu’il travaille à l’élaboration de lignes directrices pour son implication dans des projets en intelligence artificielle pour le compte des militaires. L’un des axes du texte est qu’il empêche l’utilisation de l’intelligence artificielle pour la mise au point d’armes autonomes. Le contenu doit être publié en interne de la firme de Mountain View dans les semaines à venir.

La rédaction d’un guide éthique … une tâche aisée pour Google ?

Les mails internes obtenus par le New York Times montrent que l’équipe dirigeante de l’entreprise s’attendait à cette situation. « Évitez à tout prix toute mention de l’intelligence artificielle lorsque vous annoncerez le contrat avec le Pentagone. Le sujet des armes autonomes est probablement l’un des plus sensibles de l’IA – sinon le plus », rapporte le quotidien américain des propos du chief scientist de la plateforme cloud de Google (GCP).

Depuis que le géant technologique a confirmé son implication dans le projet, il s’est défendu en soulignant qu’il a un apport sur les aspects non-offensifs. Du peu qu’on en sait, Google fournit l’API TensorFlow pour améliorer les technologies de reconnaissance d'images utilisées sur les drones. Selon le Pentagone, l'objectif initial est de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets capturés par la caméra d'un drone : suffisant pour que les voix qui s’élèvent contre la participation de Google entrevoient une utilisation dans le cadre de frappes aériennes ciblées. La limite est mince est mince et la trouver requiert de répondre à toutes les questions connexes de manière à satisfaire toutes les parties ; pas une mince affaire.

Source : NYT

Et vous ?

Qu’en pensez-vous ?

Le texte du guide sera-t-il de nature à satisfaire les deux parties ? Lequel des camps a le plus de chances d’être lésé ?

Voir aussi :

L'intelligence artificielle pourrait mener à la troisième guerre mondiale : un nouvel épisode d'Elon Musk après la déclaration de Vladimir Poutine

L'intelligence artificielle : clé du futur pour dominer sur les nations, d'après le président russe, Vladimir Poutine

Mark Zuckerberg pense que les prédictions d'Elon Musk sur l'IA sont irresponsables, le PDG de Tesla serait-il un peu trop pessimiste ?

Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte signée par 116 spécialistes de l'IA et la robotique

Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur

[Michael Guilloux]

Le projet d'IA de Google et le Pentagone était « directement lié » à un contrat de cloud de plusieurs milliards de dollars
d'après une fuite d'emails

Début mars, il a été porté à la connaissance du public que Google travaillait secrètement avec le Pentagone sur Maven, qui fait référence à un projet d'intelligence artificielle à des fins militaires. Il s'agit en effet d'un projet qui vise à améliorer les opérations de drones en utilisant des technologies de reconnaissance d'images. Selon le Pentagone, l'objectif initial de Maven était de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets, dans pas moins de 38 catégories, capturés par la caméra d'un drone. Il va par conséquent permettre de suivre à la trace certaines cibles, pour éventuellement mener des frappes.

Google s'est défendu en expliquant que l'entreprise a depuis longtemps travaillé avec des agences du gouvernement américain pour leur fournir des solutions technologiques. Et d'ajouter que son travail sur le projet Maven est « non offensif », car la technologie ne sera pas utilisée pour des frappes ciblées. Les employés de l'entreprise n'ont toutefois pas vu cette situation de la même manière et ont lancé un mouvement de contestation en interne.

Début avril, des milliers d'employés de Google ont signé une lettre pour protester contre l'implication de l'entreprise dans le programme du Pentagone, ce qui pourrait, selon eux, salir de manière irrémédiable l'image de l'entreprise et réduire sa capacité à rivaliser avec les autres géants de la technologie pour attirer les talents. A cela, s'est ajoutée la démission récente d'une douzaine d'employés de Google en signe de protestation.

Trois mois depuis le début de l'affaire, une nouvelle fuite d'emails internes nous révèle que Google avait bien conscience du terrain sur lequel l'entreprise s'aventurait, mais semblait se préoccuper plus de l'opportunité qui se présentait à elle avec le projet Maven. D'après les emails datant de septembre et obtenus par The Intercept, le projet Maven, pour le début, ne semblait pas être un gros contrat : juste une affaire de 25 à 30 millions de dollars selon les emails. Mais au fur et à mesure que le programme allait se développer, Google pourrait empocher jusqu'à 250 millions de dollars par an, expliquait Aileen Black, une des responsables de l'équipe de ventes de Google. Elle affirme en effet que le projet Maven était « directement lié » à un important contrat de cloud computing de plusieurs milliards de dollars et pour lequel les entreprises de la Silicon Valley étaient en compétition. Le contrat concernait « le déplacement agressif du Département américain de la Défense vers le cloud », a-t-elle écrit.

Selon The Intercept, Black faisait référence à la Joint Enterprise Defense Infrastructure (JEDI), un contrat de 10 milliards de dollars sur dix ans et pour lequel Google a manifesté un intérêt. Le programme JEDI a été annoncé le 12 septembre.

D'autres entreprises technologiques telles qu'Amazon étaient en lice, aurait écrit un responsable de Google impliqué dans les négociations. Les emails ont révélé en outre qu'Amazon Web Services, la branche de cloud computing d'Amazon, « a des charges de travail » liées au projet Maven. Google n'avait donc pas intérêt à négliger le projet de drone militaire du Pentagone, mais l'entreprise craignait aussi la réaction du public si sa collaboration avec le Pentagone était divulguée. Google se demandait alors s'il fallait ou non révéler l'accord.

Fei-Fei Li, la chief scientist de la branche IA et machine learning de Google Cloud, a toutefois averti cette affaire donnerait aux médias une occasion de s'acharner sur l'entreprise. « Vous avez probablement entendu Elon Musk et son commentaire selon lequel l'IA provoquerait la troisième guerre mondiale », a-t-elle écrit. « Je ne sais pas ce qui se passerait si les médias commençaient à écrire sur le fait que Google construisait secrètement des armes d'IA ou des technologies IA pour les armes de l'industrie de la Défense », a-t-elle ajouté.

Aileen Black a toutefois essayé de les convaincre dans les discussions internes : « Le contrat n'est pas direct avec Google, mais par le biais d'un partenaire (ECS) et nous avons des conditions qui empêchent les communiqués de presse de se passer sans notre consentement mutuel », a écrit Black. Le département de la Défense « ne dira rien sur Google sans notre approbation », a-t-elle assuré.

Mais cela ne pourrait rester pendant longtemps un secret, et Aileen Black en était consciente. Elle a averti que les nouvelles finiront par être divulguées, par exemple, à travers une requête en vertu du Freedom of Information Act pour obtenir les informations sur le processus de passation de marchés. L'implication de Google dans le projet Maven « finira par sortir », a-t-elle prévenu. Elle a donc jugé qu'il serait approprié pour Google d'annoncer lui-même le contrat, avant que cela soit divulgué d'une autre manière.

L'entreprise n'avait aucun plan de presse pour l'annonce du contrat et a convenu qu'elle devrait travailler pour trouver un « récit » le plus rapidement possible. Mais le projet Maven n'a pas été annoncé publiquement jusqu'à ce que la nouvelle parvienne aux oreilles des médias au mois de mars.

Amazon, qui est cité dans l'affaire, n'a pas répondu à la demande de commentaire de The Intercept. Google Cloud, à travers un porte-parole, a pour sa part rappelé dans un email que la société travaille sur la rédaction de nouveaux principes qui empêchent l'utilisation de l'IA dans l'armement. L'entreprise est toutefois restée silencieuse sur les nouvelles révélations.

Source : The Intercept

Et vous ?

Que pensez-vous de ces nouvelles révélations ?
Croyez-vous que n'importe quelle autre entreprise aurait pris la même décision que Google ?

Voir aussi :

L'intelligence artificielle pourrait mener à la troisième guerre mondiale : un nouvel épisode d'Elon Musk après la déclaration de Vladimir Poutine
L'intelligence artificielle : clé du futur pour dominer sur les nations, d'après le président russe, Vladimir Poutine
Mark Zuckerberg pense que les prédictions d'Elon Musk sur l'IA sont irresponsables, le PDG de Tesla serait-il un peu trop pessimiste ?
Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte signée par 116 spécialistes de l'IA et la robotique
Robots militaires : les États-Unis testent l'efficacité de leurs prototypes dans le Pacifique, l'armée irakienne présente son robot mitrailleur

[Stan Adkens]

IA : Google ne renouvellera pas son contrat avec le DoD dans le projet controversé Maven,
sa réputation est mise en jeu

Google renonce, ce vendredi matin, à ses ambitions de faire prospérer son revenu tiré du projet d’IA militaire avec le ministère de la Défense des États-Unis dans le cadre du projet Maven. Il a annoncé ne pas vouloir renouveler le contrat qui expire 2019. C’est au cours d’une réunion avec les employés appelée « Weather Report », qui est une mise à jour hebdomadaire sur les activités de Google Cloud, que le PDG de Google Cloud, Diane Greene, a annoncé la décision. En effet, la pression exercée par des employés de Google ainsi que les critiques technologiques ont poussé l’entreprise à réviser sa position. Une dizaine d’employés a, par ailleurs, démissionné suite à une lettre ouverte signée par 3000 employés en début d’avril et restée sans effet pendant un bon moment.

Tout a commencé en mars 2018 lorsque l'implication de Google dans le projet Maven a été révélée dans une enquête menée par Gizmodo.

Gizmodo nous informe que pour Google, le contrat dont les contours demeuraient flous consistait essentiellement à fournir au gouvernement des logiciels libres comme sa plate-forme TensorFlow, cela afin de sécuriser dles contrats plus lucratifs du Pentagone. Greene avait dit aux employés inquiets lors des réunions que le contact de Google avec le ministère de la Défense ne valait que 9 millions de dollars, minimisant ainsi la portée de son engagement avec le DoD. Cependant les mails échangés entre les responsables de la société montrent que Google n’a pas été franc avec ses employés. Les courriers ont prouvé que son implication dans le projet Maven était aussi importante qu’il s'attendait à ce que les revenus provenant des projets d'IA militaires similaires passent de 15 à 250 millions de dollars par an.

Bien que le project Maven n’implique pas l'utilisation de logiciels de Google pour piloter ou participer activement à toute forme de guerre de drones, Google fournissait néanmoins des outils et une expertise dans l'analyse de séquences, selon Gizmodo.

Gizmodo rapporte que le projet Maven viserait à rendre les frappes de drones plus favorables aux civils. Les algorithmes de vision par ordinateur élaborés à l'aide de techniques d'intelligence artificielle, comme l'apprentissage automatique, pourraient en théorie mieux identifier les cibles et réduire les dommages collatéraux, même si la portée de l'implication de Google dans Project Maven n'a jamais été clairement établie. « La technologie est utilisée pour signaler des images à des fins de revue humaine et vise à sauver des vies et à éviter aux gens d'avoir à faire un travail fastidieux », a déclaré Google en avril dernier.

Toutefois, quel que soit le but de son contrat avec le DoD, les employés de Google étaient opposés à quelque utilisation de l’IA pour aider le gouvernement à renforcer son arsenal militaire et contribuer à tuer des personnes. C’est ce qu’ils ont exprimé dans la lettre ouverte au PDG. « Ce contrat met en péril la réputation de Google et s'oppose directement à nos valeurs fondamentales », peut-on lire dans la lettre. « Construire cette technologie pour aider le gouvernement américain dans la surveillance militaire en occasionnant des résultats potentiellement mortels n'est pas acceptable. », a rapporté Gizmodo.

Le PDG a déclaré aux employés que le contrecoup était la principale raison pour laquelle l'entreprise avait décidé de ne pas renouveler son contrat. Par ailleurs, le 18 mai dernier, Google a mis à jour son code de conduite pour supprimer les références importantes à l'ancienne devise de la société, « Ne soyez pas mauvais », qui a depuis été remplacée par « Faites la bonne chose ». Selon Greene, la société annoncera la semaine prochaine une nouvelle série de principes éthiques concernant l'IA et l'armée sans commenter la décision.

Source : Gizmodo

Et vous ?

Que pensez-vous de l’implication de Google dans un projet de développement de logiciel de précision avec le gouvernement américain ?
Les organisations devraient-elles être libres d’utiliser l’IA comme bon leur semble ?
Que pensez-vous de l’IA comme arme de guerre ?

Voir aussi

USA : le sous-secrétaire à la défense soulève l'importance d'associer l'intelligence artificielle à l'armée, évoquant une future course aux armes
Elon Musk appelle les Nations Unies à bannir les robots tueurs dans une lettre ouverte, signée par 116 spécialistes de l'IA et la robotique
Une intelligence artificielle bat des experts de l'armée de l'air américaine, dans des simulations de combats aériens