Discussion :

[Stan Adkens]

Clarifai, une startup d'IA impliquée dans le projet Maven soupçonnée d'avoir été piratée par des Russes
L’ensemble du code source a-t-il été exposé ?

Créée en 2013 par Matt Zeiler, Clarifai, spécialiste en intelligence artificielle et vision par ordinateur, est impliquée dans le projet Maven de façon similaire à Google, où elle est chargée d’analyser des images de drones et d’améliorer l'identification des objets.

Pour rappel, Maven est un projet d'intelligence artificielle à des fins militaires qui vise à améliorer les opérations de drones en utilisant des technologies de reconnaissance d'images et ayant pour objectif initial de fournir à l'armée une vision par ordinateur avancée, permettant la détection et l'identification automatique d'objets capturés par la caméra d'un drone. Il appartient au ministère américain de la Défense.

Clarifai, chargée d’élaborer des algorithmes d'apprentissage automatique pour interpréter l'imagerie de surveillance par drone, est accusée d'avoir été piratée l'an dernier par une ou plusieurs personnes en Russie alors qu'elle participait au projet Maven, puis de ne pas avoir signalé la violation aux responsables du Pentagone. C’est un ancien employé de Clarifai, qui était encore en fonction lors du piratage, et le capitaine d’Air Force Amy Liu qui ont intenté un procès en début de ce mois. Ils accusent la startup d’IA d'être compromise par des sources en Russie, puis avoir omis de signaler l'infraction au ministère de la Défense dans un délai raisonnable, selon Wired. Le capitaine de l’Air force et l’ex-employé ont, par ailleurs, perdu leur poste l’an dernier dans la gestion de la violation en tentant de convaincre la startup de signaler l’intrusion. Plusieurs autres employés de la société seraient partis en raison de l'implication de l'entreprise avec Maven.

La découverte de l’implication de Google dans ce projet, quelques semaines avant, a occasionné un remous parmi son personnel et suscité une vague de critiques des analystes. Plus de 3000 employés, dont le chef de l'IA Jeff Dean, ont signé une lettre en opposition à la création d'armes autonomes chez Google. Ce qui a valu la déclaration de retrait de la société du contrat en 2019. Google a, par ailleurs, édité et publié, à cet effet, des lignes directrices pour la création de l'intelligence artificielle, qui comprend une interdiction de fabriquer des armes autonomes et la plupart des applications de l'IA avec le potentiel de nuire aux gens.

Cependant, en réponse à l’accusation selon laquelle en novembre 2017, l'ensemble du code et des données clients de la société pourraient avoir été piratés via des logiciels malveillants en provenance de Russie, un porte-parole de Clarifai a défendu la société. Il a déclaré qu'en automne dernier, un bot a été identifié sur un serveur de recherche isolé, séparé de l'infrastructure sur laquelle les clients de Clarifai sont hébergés. Une évaluation externe a révélé qu'aucune donnée client, aucun code d'entreprise ni aucun algorithme n'étaient compromis, selon le porte-parole.

Alors que Google a annoncé ne pas vouloir continuer son implication dans le développement d’IA au sein de Maven, ne voulant pas être associée à la mise au point d’armes de précision destinées à la guerre, Zeiler a publié le 13 juin dernier un billet intitulé « Pourquoi nous faisons partie du Projet Maven. »

« Pour ce projet, nous utilisons la même version largement disponible de la technologie Clarifai à laquelle n'importe quel développeur ou entreprise peut accéder aujourd'hui », a écrit Zeiler. « Les capacités développées ici ont également d'importantes applications civiles telles que la réponse aux catastrophes, la recherche et le sauvetage. Nous sommes une société leader de l'IA et la responsabilité étant une valeur fondamentale pour nous, nous croyons en la mise à disposition de nos ressources en faveur des meilleurs intérêts de la société, et cela inclut la sécurité de l'Amérique. »

M. Zeiler s’est défendu également au sujet des prétendues allégations selon lesquelles il y a eu des départs parmi les employés en déclarant que deux employés avaient demandé et obtenu une réaffectation du projet Maven.

Source : Wired

Et vous ?

Que pensez-vous cet autre piratage des contractuels du gouvernement ?
A votre Avis, Clarifai ne devrait-il pas faire comme Google en sortant de pareil projet controversé ?

Voir aussi

Le projet d'IA de Google et le Pentagone était « directement lié » à un contrat de cloud de plusieurs milliards de dollars, d'après une fuite d'emails
La guerre sous-marine : la Chine aurait emporté un trésor inestimable, en piratant le réseau privé d'un entrepreneur de la Navy

[marsupial]

Beaucoup plus que Yahoo!, ici on peut clairement accusé un acteur étatique d'être à l'origine du hack vu l'importance stratégique du projet. Le Département américain de la Défense (DoD) étant devenu plus difficilement pénétrable, les états se rabattent sur les prestataires; cibles bien plus vulnérables et intéressantes dans le cadre de l'espionnage.

[MikeRowSoft]

Que pensez-vous cet autre piratage des contractuels du gouvernement ?

L'élève a très souvent dépassé le maitre.
S'y connaitre à ce point n'est vraiment pas donnée à tout le monde.

[darklinux]

C 'est surtout le fruit d ' un non sécurisation des données ... c ' était intéressant dans les années 1980 /1990 , mais gravissime à notre époque . C 'est l ' une des trois règles impératives de l' administration système , la sécurisation des données