Quelles seront les avancées technologiques les plus dangereuses à l'avenir ? L'IA figure parmi les réponses
Quelles seront les avancées technologiques les plus dangereuses à l'avenir ? L'IA figure parmi les réponses les plus courantes
ainsi que les deepfakes et les essaims de drones
Qu'est-ce qui pourrait mal tourner avec la technologie à l'avenir ? Le monde franchit sans cesse de nouvelles frontières grâce aux avancées technologiques et profite des avantages et des effets positifs qu'elles peuvent avoir sur notre façon de travailler, de nous divertir et de vivre. Mais il est aussi important de se préparer à d'éventuels effets négatifs et de garder à l'esprit que la technologie peut être détournée de son but initial pour une mauvaise utilisation avec des conséquences catastrophiques pour l'humanité. La question est de savoir quelles technologies pourraient s'avérer les plus dangereuses dans le futur. Voici les réponses recueillies sur la toile.
La singularité de l'IA
Alors, une IA superpuissante va-t-elle décider de transformer les humains en trombones ? Certaines personnes pensent que l'IA finira par surpasser l'homme en matière d'intelligence dans un avenir pas si lointain que ça. Dans son livre "Humanité 2.0 (La singularité est proche : quand les humains transcenderont la biologie)" paru en 2005, Ray Kurzweil, directeur de l'ingénierie chez Google et célèbre futurologue, prédit que cela arrivera en 2045 et appelle ce moment "la singularité". Les experts qui y croient prédisent que la technologie pourrait plonger le monde dans un véritable chaos si elle n'est alignée sur les valeurs humaines.
L'un des scénarios dystopiques les plus couramment cités imagine une IA dotée d'une "superintelligence qui échappe au contrôle de l'homme et qui décide de soumettre l'humanité et d'anéantir toute personne qui résistera. « La technologie est bonne lorsque ça nous facilite la vie. Cependant, à trop nous faciliter les choses, la technologie deviendra mauvaise et finira par nous détruire à l'avenir. Plus la technologie est avancée et plus elle est intrusive et nocive pour l'humain. Nous devons réfléchir pour savoir si nous voulons vraiment laisser nos emplois à l'IA ou si nous volons juste qu'elle nous assiste », note un critique.
« Le problème est que lorsque les applications distinctes de l'IA se connecteront, elles pourront collaborer en dehors de tout contrôle humain. Elles penseront plus vite, apprendront plus vite et réagiront plus vite que les êtres humains », affirme un autre critique. Certains pensent que les garde-fous des modèles d'IA pourraient incorporer une boussole morale ou éthique qui limitera le comportement de l'IA. Cependant, si les modèles d'IA deviennent capables de se réparer tout seuls, de corriger eux-mêmes leurs codes et d'accéder à des ressources indépendantes, le monde ne pourra plus compter sur ces garde-fous.
Les essaims de drones
Un développement qui passe presque inaperçu est les essaims de drones. Ces derniers pourraient servir dans plusieurs domaines comme l'agriculture pour récolter des données sur une grande surface. Mais les essaims de drones ont suscité le plus d'intérêt dans le domaine militaire. Inspirés des essaims d'insectes travaillant ensemble, les essaims de drones pourraient révolutionner les conflits futurs, que ce soit en submergeant les capteurs de l'ennemi par leur nombre ou en couvrant efficacement une vaste zone pour des missions de recherche et de sauvetage. Le monde craint également des essaims de drones explosifs.
Bien que la technologie en soit encore au stade de l'expérimentation, l'idée d'un essaim de drones suffisamment intelligent pour coordonner son propre comportement se rapproche de la réalité. Les forces armées britanniques, chinoises, américaines, etc. testent l'utilisation de drones interconnectés et coopératifs dans le cadre d'opérations militaires. Par exemple, en août 2019, il a été rapporté que la DARPA a testé un essaim de 250 drones pour assister l’infanterie en milieu urbain.
Outre les avantages des essaims de drones, qui permettent de minimiser les pertes, au moins pour l'attaque, et d'atteindre plus efficacement un objectif de recherche et de sauvetage, l'idée que des machines équipées d'armes pour tuer soient capables de "penser" par elles-mêmes est une source de cauchemars. Malgré les possibilités négatives, les experts affirment qu'il ne fait guère de doute que la technologie militaire des essaims finira par être déployée dans les conflits futurs.
La surveillance du lieu de travail
Le monde a été confronté à sa plus grande expérience de travail à distance au plus fort de la pandémie de Covid-19. Cela a permis aux entreprises de plusieurs secteurs de survivre aux mesures drastiques de lutte contre le coronavirus telles que la distanciation sociale. Mais cette tendance a également accentué les pratiques de surveillance du lieu de travail des employés. Les dirigeants ont déployé des technologies leur permettant de contrôler la présence de leurs employés devant leurs ordinateurs ou dans leurs bureaux à distance. Selon certains experts, ces technologies ont la capacité de nuire aux employés dans le futur.
Selon Zephyr Teachout, professeure associée de droit à l'université Fordham, à New York, aux États-Unis, la surveillance du lieu de travail privé bouleverse la dynamique de pouvoir déjà terrible entre employeurs et employés en permettant aux employeurs de traiter les employés comme des cobayes, avec de vastes asymétries d'information, en sachant ce qui les motive à travailler de manière malsaine et la façon dont ils peuvent extraire plus de valeur pour moins de salaires. Cela permet aux employeurs d'éliminer les dissidents à l'aide de systèmes d'alerte précoce et de détruire la solidarité par un traitement différencié.
Zephyr Teachout explique : « la recherche sur les jeux d'argent a appris aux casinos à établir des profils de joueurs pour personnaliser les appels afin de pouvoir gagner autant que possible sur les faiblesses de chaque joueur. Cette technologie, qui fait maintenant son entrée sur le marché du travail, est sur le point d'être omniprésente, à moins que nous ne l'arrêtions ».
La reconnaissance faciale
La reconnaissance faciale a des applications utiles, mais elle est régulièrement citée comme l'une des technologies émergentes les plus dangereuses de la planète. Selon ses détracteurs, elle peut être à des fins sinistres et ses avantages ne l'emportent pas sur ses inconvénients. De nombreux rapports indiquent que la Chine utilise la reconnaissance faciale à des fins de surveillance et de profilage racial. Non seulement les caméras chinoises identifient les piétons, mais elles auraient également surveillé et contrôlé les musulmans ouïgours qui vivent dans le pays. Toutefois la Chine n'est pas le seul pays concerné.
Selon les rapports, les caméras russes scrutent les rues à la recherche de "personnes d'intérêt" et Israël utiliserait la technologie de reconnaissance faciale pour suivre les Palestiniens à l'intérieur de la Cisjordanie. Outre le fait qu'elle traque les personnes à leur insu, la reconnaissance faciale est entachée de biais. Lorsqu'un algorithme est entraîné sur un ensemble de données qui n'est pas diversifié, il est moins précis et commet davantage d'erreurs d'identification. Aux États-Unis, de nombreuses personnes ont déjà témoigné qu'elles ont été arrêtées après avoir été identifiées à tort par un logiciel de reconnaissance faciale.
« L'une des craintes est d'ordre existentiel : nos déplacements ne seront plus privés. Quelqu'un pourra toujours savoir où nous sommes et où nous sommes allés. Même si personne n'utilise ces informations à mauvais escient, la perte de la vie privée et de l'anonymat me semble significative. Une autre crainte est celle des abus : le risque d'utilisation abusive de ces informations est réel. Quiconque a accès à ces informations peut certainement les utiliser à des fins malveillantes », a déclaré David Shumway Jones, professeur d'épidémiologie, Université de Harvard.
Il a ajouté : « les harceleurs, qu'il s'agisse d'amants éconduits ou de gouvernements autoritaires, pourraient s'en donner à cœur joie avec leur nouvelle capacité à surveiller où nous allons et qui nous rencontrons, et même à prédire ce que nous pourrions faire ensuite. Et je soupçonne que je n'ai imaginé qu'une petite partie des façons dont ces technologies de surveillance pourraient être détournées ».
Les assistants domestiques
Les assistants domestiques ont désormais acquis une triste réputation : ils sont considérés comme de dangereux outils d'espionnage. Pour que les appareils domestiques "intelligents répondent aux demandes et soient aussi utiles que possible, ils doivent être à l'écoute et suivre des informations sur vous et vos habitudes. Lorsque vous avez ajouté un assistant à votre chambre en tant que radio et réveil, vous avez également permis à un espion d'entrer dans votre maison. Toutes les informations que les assistants domestiques recueillent sur vos habitudes sont envoyées aux fabricants et stockées dans le cloud.
Ces informations comprennent : votre historique de visionnage sur Netflix, votre lieu de résidence et l'itinéraire que vous empruntez pour rentrer chez vous afin que Google puisse vous indiquer comment éviter les embouteillages, l'heure à laquelle vous arrivez généralement à la maison afin que votre thermostat intelligent puisse mettre la pièce familiale à la température que vous préférez, etc. En théorie, les assistants domestiques doivent entendre un "mot de réveil" avant de s'activer, mais dans certains cas, ils peuvent penser que vous avez prononcé le mot de réveil et commencer à écouter ou enregistrer.
Tous les appareils intelligents de votre domicile, y compris les consoles de jeu et les téléviseurs intelligents, peuvent être le point d'entrée d'une utilisation abusive de vos données personnelles. Il existe des stratégies défensives telles que dissimuler les caméras, éteindre les appareils lorsqu'ils ne sont pas utilisés et couper les microphones, mais les études ont démontré qu'aucune d'entre elles n'est infaillible à 100 %.
L'informatique quantique
Les ordinateurs quantiques actuels sont pour la plupart expérimentaux. À terme, ils devraient offrir une puissance de calcul qui, selon les experts, pourrait potentiellement être mille milliards de fois supérieure à celle des superordinateurs dont nous disposons aujourd'hui. Cela peut avoir d'énormes avantages, mais les experts craignent également que l'informatique ouvre la voie à plus de violations et d'escroqueries sur Internet. Les ordinateurs quantiques pourraient permettre aux pirates informatiques de déjouer les systèmes de sécurité traditionnels et de s'introduire dans tous les infrastructures en ligne.
Actuellement, le monde utilise un chiffrement avancé pour protéger nos données personnelles, militaires et commerciales, mais les ordinateurs quantiques pourraient avoir la capacité de percer ce chiffrement. Certains entreprises et gouvernements commencent à prendre cette menace au sérieux et consacrent d'importantes ressources au développement d'algorithmes de chiffrement postquantique qui protégera nos données les plus sensibles.
« L'informatique quantique accélère plutôt les menaces qui pèsent sur la vie privée et l'autonomie depuis l'ère des supercalculateurs. Je crains que l'informatique quantique ne contribue à l'avènement d'un monde dans lequel tous les gouvernements et toutes les entreprises seront des Sherlock Holmes, devinant tous nos secrets sur la base d'informations que nous ne pensons même pas à cacher », a déclaré Ryan Calo, professeur de droit à l'université de Washington.
Les véhicules autonomes
Le nombre de véhicules dotés de capacités de conduite autonome a considérablement augmenté ces dernières années. Cependant, selon de nombreux experts, les véhicules autonomes et semi-autonomes manquent de sécurité. La cybersécurité des voitures autonomes et semi-autonomes est une affaire sérieuse. Les vulnérabilités dans les systèmes de sécurité des voitures pourraient non seulement coûter vos informations personnelles, mais aussi mettre en danger votre sécurité physique. Un piratage à grande échelle de ces véhicules pourrait provoquer un véritable chaos, voire la mort de nombreuses personnes.
Ces véhicules étant connectés à Internet presque en permanence, ils envoient un flux de relevés métriques et de données provenant des capteurs de la voiture à un environnement centralisé dans le cloud pour qu'ils soient analysés. Malgré tous les efforts des fabricants, aucun système, en ligne ou hors ligne, n'est totalement sécurisé. Les nombreux piratages de données qui ont paralysé de grandes entreprises mondiales en témoignent.
La possibilité d'imprimer n'importe quoi
L'impression 3D n'est pas une technologie nouvelle, mais elle se perfectionne d'année en année. Elle permet de créer pratiquement n'importe quel objet en 3D, mais selon certains experts, cette capacité peut également être utilisée de manière préjudiciable. Les imprimantes 3D devenant de plus en plus abordables et omniprésentes, il sera plus difficile de contrôler l'impression d'armes, y compris d'armes à feu, car n'importe qui peut télécharger un algorithme et "imprimer" ce qu'il veut, directement chez lui.
La réglementation et le suivi des armes imprimées en 3D sont difficiles, car elles ne portent pas de numéro de série et représentent donc une menace croissant. Par exemple, en 2022, la police britannique a effectué une importante saisie de composants d'armes à feu imprimées en 3D dans une usine de fabrication d'armes à feu improvisée à Londres. L'on craint que les extrémistes et les criminels ne mettent la main sur ces armes non réglementées à mesure qu'elles se généralisent.
Les deepfakes
Les deepfakes, qui étaient à l'origine utilisés pour faire de petites animations de vidéo, sont aujourd'hui considérés comme "l'une des technologies modernes les plus dangereuses". Autrefois, le traitement d'une vidéo deepfake, même courte, d'une personne ou d'un groupe de personnes nécessite une grande quantité de données visuelles ainsi qu'un ordinateur puissant. C'est pourquoi les deepfakes ne concernaient que des personnalités importantes. Mais les choses ont changé. L'IA générative a favorisé l'avènement de nombreux outils permettant la génération de contenus visuels et audios à moindre coût.
Les utilisateurs en ligne ayant facilement accès à la technologie actuelle, presque tout le monde peut créer un deepfake d'une autre personne sans avoir besoin d'innombrables photos et vidéos prises sous de nombreux angles. Quelques photos de profil prises sur des comptes de médias sociaux et un court clip vidéo suffisent désormais pour créer un deepfake, qui semble tout à fait convaincant. Il existe également des histoires de personnes victimes de deepfakes, qui ont généralement pour but d'embarrasser ou de blesser une personne. La chanteuse Taylor Swift en a fait l'amère expérience récemment.
Si la technologie des deepfakes peut avoir de nombreuses applications bénéfiques - comme la recréation de personnages historiques dans des environnements éducatifs ou la mise à disposition des personnes qui en ont besoin d'outils d'accessibilité aux médias synthétiques basés sur l'IA - son utilisation malveillante est préoccupante. Et à mesure que nous pénétrons dans le métavers et que nous passons plus de temps dans le monde virtuel, nous aurons besoin de moyens pour vérifier notre identité afin que nos interactions avec les autres soient protégées et sûres.
La fusion de l'homme et de la machine
Les interfaces cerveau-ordinateur se popularisent davantage et de nouvelles entreprises d'implants cérébraux voient le jour. Elon Musk, PDG de Neuralink, a annoncé récemment que sa société a posé avec succès un implant dans le cerveau d'un être humain. Cependant, la technologie pose d'importantes préoccupations, notamment en matière de sécurité et de vie privée. Comment se passerait-il si la technologie est piratée et que l'humain qui la porte se retrouve forcé d'agir contre son gré ? Les conséquences pourraient être dommageables pour la société si de telles choses devaient se produire à l'avenir.
L'autre crainte est que cette technologie soit utilisée pour donner vie au Terminator de l'avenir. D'incroyables technologies émergentes se profilent à l'horizon, mais il existe aussi des avancées dangereuses et inquiétantes qu'il convient de surveiller. Ces technologies émergentes pourraient avoir d'énormes répercussions sur l'espèce humaine.
La manipulation des gènes
Grâce à la technologie CRISPR-Cas9, nous avons la possibilité de modifier les gènes héréditaires des plantes, des animaux et de notre propre corps. L'édition de gènes présente des avantages incroyables, car elle peut aider à lutter contre les maladies, à corriger les mutations génétiques à l'origine de maladies dévastatrices, à éliminer les allergies alimentaires et à faire en sorte qu'il y ait suffisamment de nourriture pour nourrir la planète. Les expériences de CRISPR sur des souris et des chiens sont prometteuses et pourraient déboucher sur des traitements humains viables pour la dystrophie musculaire de Duchenne.
D'un autre côté, l'idée de modifier à jamais des gènes héréditaires suscite de nombreuses inquiétudes. Avec la technologie CRISPR, le monde a la possibilité de manipuler des gènes qui seront incorporés de manière permanente dans le génome et transmis de génération en génération. De nombreux pays, dont la majeure partie de l'Europe, ont interdit l'édition de gènes parce que ses implications ne sont pas encore totalement comprises, mais l'édition de gènes est toujours légale en Chine et aux États-Unis. Il faut s'attendre à de nouveaux débats publics sur les implications et l'éthique de cette technologie.
Les nanobots (nanorobots)
Les nanobots sont de minuscules robots à l'échelle nanométrique qui peuvent pénétrer dans le système sanguin et même franchir la barrière hématoencéphalique. Cette technologie présente d'énormes avantages potentiels dans des domaines tels que le prélèvement d'échantillons, la collecte et la transmission de données et l'administration de médicaments, mais le risque d'abus est également élevé. Selon certains experts, à l'avenir, les nanorobots pourraient même être utilisés pour transmettre la pensée humaine.
Les nanorobots armés pourraient tuer une personne ou un groupe de personnes, ou même réécrire leur mémoire pour qu'ils se retournent contre leur propre camp. Notre monde moderne d'appareils hautement connectés soulève également de sérieuses questions en matière de protection de la vie privée. Qu'est-ce qui protégera nos données médicales et nos pensées dans le monde des nanorobots ? Une réglementation et une surveillance rigoureuses sont nécessaires pour assurer la transparence et prévenir ces problèmes.
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi
Répondre avec citation
Envoyé par Mathis Lucas
Partager