Envoyé par
l’ex-employé de Clarifai
Quand j'ai rejoint la société d'intelligence artificielle Clarifai au début de l'année 2017, on pouvait pratiquement sentir la promesse dans l'air. Mes collègues étaient brillants, dévoués et déterminés à rendre le monde meilleur.
Nous avons fondé Clarifai 4 Good, avons aidé des étudiants, des associations caritatives et avons fait don de nos logiciels à des chercheurs du monde entier porteurs de projets bénéfiques pour le social. Nous étions déterminés à être la seule société d'IA à prendre notre responsabilité sociale au sérieux.
Je n'aurais jamais pu prévoir que je devrais quitter ce travail pour des raisons morales deux ans plus tard. Et je n'aurais certainement jamais pensé que cela arriverait en construisant des armes qui intensifient et modifient le paradigme de la guerre.
Pour rappel : en 2014, Stephen Hawking et Elon Musk ont mené un effort avec des milliers de chercheurs d'Amnesty International pour s'engager collectivement à ne jamais contribuer à la recherche au développement de systèmes d'armement autonomes mortels - des armes qui pourraient chercher une cible et mettre fin à une vie sans un humain dans le circuit de décision. D'après des développements de chercheurs dans le domaine, la technologie pour créer de telles armes est à portée de main et son utilisation serait désastreuse pour l'humanité.
J'ai donc signé cet engagement et en janvier de cette année, j'ai écrit une lettre à Matt Zeiler, PDG de Clarifai, lui demandant de faire pareil. Je ne m'attendais pas du tout à sa réponse. Comme l'a rapporté le New York Times vendredi, Matt a convoqué une réunion à l'échelle de l'entreprise et a annoncé qu'il était tout à fait disposé à vendre la technologie des armes autonomes à notre gouvernement.
Je ne pouvais pas supporter d'en faire partie, alors j'ai démissionné. Mes objections sont fondées sur le fait que les robots tueurs ne relèvent pas de la science-fiction, mais sont bien utilisés sur les champs de bataille de nos jours.
Partager