Un groupe d’experts de l’IA appelle le Canada et l’Australie à lutter pour l’interdiction des robots tueurs
Un groupe d’experts de l’IA appelle le Canada et l’Australie à lutter pour l’interdiction des robots tueurs autonomes,
paranoïa ou problème réel ?
Depuis plusieurs années, l’on annonce des avancées prometteuses dans le domaine de l’intelligence artificielle. L’éducation, la science, la médecine, les infrastructures sont autant de secteurs dans lesquels l’intelligence artificielle montre des avantages intéressants. Mais à l’opposé des personnes qui souhaitent un développement rapide de l’intelligence artificielle, d’autres personnes entretiennent un point de vue plutôt sombre.
Dans un premier temps, ces personnes soulignent que l’intelligence artificielle va entraîner un chômage massif avec le remplacement des ressources humaines nécessaires dans certains domaines actuels par les machines. Toutefois, cette opinion n’est pas partagée par tout le monde. D’autres personnes plus optimistes estiment que l’intelligence artificielle n’entraînera pas plus de chômage que la révolution industrielle n’en a apporté. Pour ces derniers, l’intelligence artificielle conduira effectivement à automatiser certaines tâches qui sont actuellement réalisées par les hommes, mais créera aussi de nouveaux emplois comme ce fut le cas dans les années passées.
Alors que le débat économique fait rage parallèlement aux différentes avancées technologiques dans le domaine de l’IA, d’autres personnes attirent l’attention du public sur d’autres conséquences encore plus sérieuses. En 2015, plusieurs centaines de scientifiques dont Stephen Hawking, Elon Musk, Steve Wozniak pour ne citer que ceux-là, ont signé une lettre ouverte afin d’alerter l’opinion publique sur les conséquences funestes de l’IA au cas où les recherches dans ce secteur seraient utilisées dans le domaine militaire.
Pour ces scientifiques, nous sommes à l’orée d’une ère décisive semblable à celle à laquelle les dirigeants des années passées qui devaient trancher sur la question relative à l’acceptation ou à l’interdiction des armes biologiques ont fait face. Fort heureusement, le monde a été unanime pour ne pas produire, stocker ou utiliser l’usage des armes biologiques. À l’instar de cette question qui a été tranchée dès les premiers soupçons de dérives éventuelles, ces scientifiques ont lancé un appel afin d’amener les gouvernements à ne pas s’engager dans le développement d’armes autonomes basées sur l’intelligence artificielle.
Deux ans après cette lettre ouverte signée par plusieurs centaines de chercheurs, la communauté scientifique représentée par un groupe d’experts gouvernementaux sur les systèmes d’armes autonomes revient encore à la charge en adressant à nouveau des lettres ouvertes aux gouvernements du Canada et de l’Australie afin d’amener ces pays à soutenir l’interdiction des armes autonomes lors de la prochaine conférence des Nations Unies qui aura lieu dans ce mois sur la convention de certaines armes conventionnelles.
Comme arguments avancés pour soutenir cette suggestion, le groupe d’experts rappelle les paroles du professeur Christof Heyns qui affirmait que « les machines manquent de moralité et de mortalité ». En conséquence, il serait contre nature de leur accorder le pouvoir de vie ou de mort sur les humains. En plus de ce fait que les experts relèvent, ils ajoutent que « les systèmes d’armes autonomes menacent de devenir la troisième révolution dans la guerre. S’ils sont développés, ils permettront le développement de conflits armés à une échelle plus grande que jamais auparavant, et à des échelles de temps plus rapides que les humains ne peuvent le comprendre ». Ainsi, la conséquence inéluctable d’une telle orientation est que les machines, non les hommes, décideront qui doit vivre et qui doit mourir.
Bien que certaines personnes puissent défendre le fait que les États pourront créer des armées de robots et ne plus envoyer des hommes au combat, si ces armes autonomes ayant pouvoir de décision sur la vie ou la mort des hommes tombaient entre les mains de personnes malveillantes, cela aurait des conséquences inimaginables. Pour se faire une idée de ce qui pourrait arriver, l’on peut déjà apprécier les conséquences d’un tel scénario avec les pirates informatiques qui sèment de nombreux dégâts dans les infrastructures et les systèmes des entreprises et des particuliers en utilisant leurs compétences pour le mal.
Cette situation entraînerait une escalade perpétuelle d’abord au sein des États qui pourraient chercher à posséder les armes autonomes les plus destructrices, mais aussi entre les acteurs malveillants ayant accès à ces armes et les forces de l’ordre. Tuer quelqu’un deviendrait assez facile et de nombreux problèmes pourraient en découler, comme attribuer la paternité d’un meurtre commis par un robot tueur autonome piraté par un tiers pour commettre un forfait.
Au regard de toutes ces conséquences, le groupe d’experts exhorte le Canada et l’Australie et probablement d’autres pays à prendre une position tranchée contre la fabrication et l’utilisation des armes autonomes.
Mais au-delà des deux lettres adressées au Canada et à l’Australie, l’on se demande si cette démarche n’est pas motivée par de la paranoïa. Le groupe aborde-t-il un problème réel qui arrivera certainement si rien n’est fait aujourd’hui ? Ou est-ce simplement une manœuvre pour faire peur au monde ?
Source : Independent, Lettre adressée au gouvernement du Canada, Lettre adressée au gouvernement de l’Australie (PDF)
Et vous ?
Pensez-vous que cette démarche du groupe d’experts relève de la paranoïa ?
Voir aussi
Répondre avec citation
Envoyé par Olivier Famien
Partager