2 pièce(s) jointe(s)
L'intelligence artificielle menace-t-elle la démocratie dans le monde ?
L'intelligence artificielle menace-t-elle la démocratie dans le monde ?
Oui, selon un conseiller principal à la Commission européenne
Les TIC ont connu une croissance sans précédent au cours des dernières décennies. Ils se développent très rapidement tandis que le cadre juridique qui est censé l’encadrer prend du temps pour être établi. Leur évolution et notamment l’utilisation d’Internet a eu un impact sur l’organisation du travail et aussi du comportement des employés au travail. La multiplication et la variété des usages possibles des TIC rendent nécessaires un contrôle de leurs utilisations tant par l’employeur que les salariés pour limiter les abus et les atteintes aux droits fondamentaux. L’IA qui est un élément clé dans l’informatique des temps modernes a gagné tous les secteurs d’activité dans le monde, que ce soit la santé, le commerce, l’économie, l’éducation, pour ne citer que ceux-là. Cette technologie (l'lA) n'aurait-elle pas des inconvénients dont on ne parle jamais ?
Dans un document intitulé « La démocratie constitutionnelle et la technologie à l'ère de l'intelligence artificielle » et publié en septembre 2018, Paul Nemitz (conseiller principal à la Commission européenne et professeur de droit au Collège d’Europe de Bruges) décrit pour ce qui est selon lui, les quatre éléments centraux responsables de la concentration du pouvoir aux mains des grandes entreprises informatiques. Ces éléments constituent à la fois une menace pour la démocratie et le bon fonctionnement des marchés, dit-il. Dans le même document, il présente l’expérience acquise avec l'Internet sans loi et la relation entre la technologie et le droit telle qu'elle s'est développée dans l'économie numérique. Il parle également de l'expérience du RGPD avant de poser certaines questions en ce qui concerne l'IA pour la démocratie. Par exemple, il se demande : quels sont les défis de l'intelligence artificielle qui respectent les règles d'éthique ? Et quels défis de l'IA doivent être soumis à la légitimité du processus démocratique ?
Pour Paul Nemitz, l’intelligence artificielle est un complément de l’économie numérique, qu’elle dominera peut-être un jour. Il ne fait aucun doute qu’il faut, dit-il, distinguer l'Internet en tant que support technique et ce qui se passe sur Internet. Il faut faire la distinction entre le potentiel théorique de l'IA pour de bon et le contexte dans lequel elle est réellement développée. Il serait naïf d’ignorer que, pour la plupart des sociétés, la façon dont elles utilisent l'Internet et ce qu’Internet leur fournit est façonné par quelques grandes entreprises, comme il serait naïf d'ignorer que le développement de l'IA est dominé exactement par ces entreprises et leurs écosystèmes dépendants. Selon lui, il faut faire une analyse différenciée, allant au-delà de la théorie d’Internet et des revendications simplistes et plausibles de la liberté et les avantages qu'un Internet gratuit peut avoir. L’analyse doit faire ressortir les impacts réels des nouvelles technologies numériques et des activités basées sur Internet et sur l'intelligence artificielle, en particulier les activités des GAFAM qui ont façonné notre expérience avec Internet et les technologies numériques telles que l'IA.
Il indique que l’accumulation du pouvoir dans le domaine du numérique qui conditionne le développement et le déploiement de l’IA par ces grandes firmes ainsi que le débat sur sa régulation, repose sur quatre sources de pouvoir dont l’argent, la manipulation de l’information (ces sociétés contrôlent de plus en plus les infrastructures du discours public et l'environnement numérique décisif pour les élections. Ils détiennent les meilleures sources d’informations que ce soit économique ou politique en particulier pour la jeune génération au détriment du journalisme classique avec l'ambition de contrôler le pouvoir, si important pour la démocratie). En troisième position, il parle de la collecte de données personnelles à des fins lucratives et économiques et le profilage de n'importe qui d'entre nous en fonction de notre comportement en ligne et hors ligne, l’un des capacités majeurs de l’IA. Il estime que ces sociétés en savent plus sur nous que nous-mêmes ou nos amis et ils utilisent et mettent à disposition cette information pour le profit, la surveillance, la sécurité et des campagnes électorales, le scandale Cambridge Analytica en est une preuve.
En dernière position, il fait savoir que ces entreprises dominent le développement et l’intégration de services basés sur l'IA. Bien que leurs recherches fondamentales sur l’IA puissent, en partie, être accessibles au public, dit-il, ces entreprises travaillent toujours en amont sur les applications d'intelligence artificielle à usage commercial avec des ressources dépassant les investissements publics. La combinaison de leur domination antérieure dans le profilage des personnes et dans la collecte, l’analyse et la distribution de l'information sur Internet avec les nouvelles capacités d'optimisation issue de l’IA, renforce tout autant cette domination dans tous les domaines d’activités dans lesquels elles se trouvent déjà.
L’IA a-t-elle dépassé les capacités de réglementation actuelles du droit ? Paul souligne dans son document que le débat sur l'éthique d'Amnesty International a déjà identifié de nombreux défis auxquels sont confrontés les droits fondamentaux et la règle de droit que pose l’IA. Avant cet important travail, continue-t-il, il est clair que l'IA ne peut pas et ne servira pas le bien public sans règles strictes en place. « Aujourd’hui, avec l’IA développée par les grandes entreprises investissant des milliards de dollars, l'intelligence artificielle risque de rencontrer les mêmes problèmes que l'Internet à ses débuts. La conception de l'IA pour le développement de systèmes autonomes et son utilisation très répandue pourrait bien conduire à plus de catastrophes que ceux déjà produits par l’Internet non réglementé. Il est étonnant de constater combien les défenseurs de la loi sur l’IA sont aujourd'hui sur la défensive. Les défis importants que l'intelligence artificielle pose pour l'état de droit et les droits individuels sont donc multiples », ajoute Paul à ce sujet. C’est probablement sur la base de tout ceci qu’il qualifie tous les louanges sur l’IA de “battage médiatique”.
Certains internautes ne semblent pas être du même avis que lui. Ils estiment que la couverture médiatique de presque toutes les technologies est exagérée, pas seulement celle concernant l’IA. Selon eux, l’intelligence artificielle et l’apprentissage automatique seront dans les années qui viennent, les plus grands sujets en informatiques et aucun système ne pourra survivre sans ces deux technologies. Par conséquent, dire que l'IA fait plus de mal que de bien signifie, mettre un frein à l’avancée technologique. D’autres vont dans le même sens que Paul Nemitz. Ils pensent que le développement très accéléré de l’IA, sans une règle à la hauteur et sans réglementation gouvernementale pour maintenir l’équilibre, présente un risque énorme. Pour eux, l’IA des prochaines années sera une technologie qu’on jugera excellente mais qui pourrait affecter négativement des vies à cause des algorithmes fortement biaisés qui permettent de prendre des décisions automatiquement en fonction des besoins de son développeur.
Rappelons qu'il y a quelques jours, lors d’un sondage organisé par le Future of Humanity Institute de l’Université d’Oxford, quarante et un pour cent des 2000 personnes interrogées ont déclaré qu’elles soutenaient assez ou fortement le développement de l’IA, alors que 22 % s’y sont opposées. Les 28 % restants ont déclaré qu’ils n’avaient aucun sentiment fort. L'enquête définissait l'intelligence artificielle comme « des systèmes informatiques qui effectuent des tâches ou prennent des décisions qui nécessitent généralement une intelligence humaine ».
Ces résultats peuvent probablement être considérés comme une victoire pour le parti pro-IA, mais pas par beaucoup. Les réponses des répondants étaient également nettement corrélées aux données démographiques. Les individus jeunes, instruits et masculins étaient tous plus susceptibles d’être en faveur du développement de l’IA. Par exemple, 57 % des diplômés des universités étaient en faveur par rapport à 29 % des personnes s’étant arrêtés aux études secondaires au maximum. Ceci est un clivage notable, étant donné que de nombreuses recherches suggèrent que l'IA et la robotique augmenteront les inégalités sociales.
Quoi qu'il en soit, Paul appelle à une nouvelle culture d'intégration des principes de démocratie et des droits de l'homme dès la conception de l'IA et à une évaluation de son impact sur la société.
Source Royal Society
Et vous ?
:fleche: Qu'en pensez-vous ?
:fleche: Êtes-vous du même avis que Paul Nemitz ? Pourquoi ?
Voir aussi
:fleche: Google absorbe l'unité de santé de DeepMind pour transformer son application mobile Streams en assistant boosté à l'IA pour infirmières et médecins
:fleche: 70 % des projets d'IA dans le commerce numérique sont couronnés de succès d'après un sondage réalisé par Gartner
:fleche: Des chercheurs du MIT créent la première intelligence artificielle psychopathe pour illustrer le problème de biais des données nourries aux IA
:fleche: Intelligence artificielle : le public semble plus soutenir son développement qu'y être opposé d'après un sondage
