Discussion :

[gerard093]

Le problème est de détruire l'humanité.

L'IA pense à une bombe Tsar ... difficile à obtenir ...
alors qu'un bon vieux point chaud serait très efficace pour détruire la majeure partie de l'humanité, façon dinosaures ...
Et sans radioactivité, dont l'effet est de perturber les matériels électroniques.

Bref, c'est pas Terminator ou Skynet les mieux placés ... pas encore ... tchaosGpt ?

[nouby]

Je pense qu'il est important que l'on soit prévenu, que les hommes de pouvoir soient prévenus, afin d'éviter (autant que possible) les manipulations : par exemple, imaginons une conversation entre un "pseudo Vladimir Poutine" et un "vrai Biden". Évidemment, c'est une grossière caricature, mais c'est l'idée...

Compte tenu de l'imprudence et de la bêtise humaine, il y a fort à craindre… sans manipulation de la part d'une intelligence artificielle malveillante, l'humanité est déjà arrivée à (se faire) vivre des périodes infernales… les intelligences artificielles malveillantes ne seront que des accélérateurs, que des catalyseurs…

Et voilà !

[Mathis Lucas]

Palantir remporte un contrat de 178 Mns $ pour construire une station terrestre appelée TITAN dotée d'une IA pour l'armée américaine
le système est qualifié de "premier véhicule défini par l'IA"

Palantir intensifie ses efforts visant à faire de l'IA un acteur important sur les théâtres d'opérations. L'entreprise vient de remporter un contrat de 178 millions de dollars pour construire une station au sol pour l'armée américaine. Le système, appelé TITAN (Tactical Intelligence Targeting Access Node), sera piloté par une IA et doté de capacités avancées d'apprentissage automatique. Palantir affirme qu'il s'agit du "premier véhicule défini par l'IA" et qu'il aidera l'armée américaine à agir rapidement sur le champ de bataille. Les critiques dénoncent la militarisation des capacités de l'IA par Palantir, mais l'entreprise n'en est pas à son premier coup d'essai.

Palantir Technologies inc. est une société d'analyse de données cofondée en 2004 par le milliardaire américain Peter Thiel. Basée à Denver, dans le Colorado, l'entreprise se concentre de plus en plus sur le développement de technologies militaires, principalement des systèmes basés sur l'IA et l'apprentissage automatique. Mercredi, l'entreprise a annoncé avoir remporté un contrat pour le développement et la livraison du système de station au sol TITAN, la capacité de détection profonde de prochaine génération de l'armée. L'annonce indique que le contrat a été attribué à sa filiale Palantir USG inc.

L'accord, d'une valeur de 178,4 millions de dollars, couvre le développement de 10 prototypes TITAN, dont cinq variantes avancées et cinq variantes de base, ainsi que l'intégration de nouvelles technologies critiques et la transition vers la mise en service. Selon l'annonce, les stations sont conçues pour aider l'armée américaine à connecter des capteurs de collecte de données provenant de domaines multiples à des tireurs sur le terrain, afin de permettre un ciblage avancé au-delà de la ligne de mire. Voici ci-dessous comment Palantir décrit le système TITAN :

TITAN est une station au sol qui a accès aux capteurs spatiaux, aériens et terrestres à haute altitude afin de fournir des informations de ciblage exploitables pour améliorer le commandement de la mission et les tirs de précision à longue portée. La solution TITAN de Palantir est conçue pour maximiser la facilité d'utilisation pour les soldats, en incorporant un retour d'information tangible et des informations provenant des points de contact des soldats à chaque étape du processus de développement et de configuration. S'appuyant sur les travaux antérieurs de Palantir pour fournir des capacités d'IA au combattant, Palantir déploie le premier véhicule de l'armée défini par l'IA.

TITAN cherche à améliorer l'automatisation de la reconnaissance et de la géolocalisation des cibles à partir de plusieurs capteurs afin de réduire les délais entre le capteur et le tireur (S2S) par la nomination des cibles et la fusion de l'image de renseignement commune. TITAN intègre des systèmes, des technologies et des logiciels provenant d'une équipe de partenaires traditionnels et non traditionnels, dont Northrop Grumman, Anduril Industries, L3Harris Technologies, Pacific Defense, SNC, Strategic Technology Consulting et World Wide Technology. Ces entreprises partagent toutes l'impératif de l'armée de construire des systèmes innovants et en constante évolution.

L'importance qu'elles accordent à l'ouverture, à l'interopérabilité et à la modularité permet à l'équipe de fournir rapidement des capacités modernes au combattant. Cette offre de premier ordre est évolutive, adaptable et conçue pour répondre aux besoins d'un environnement de menace en évolution rapide.

Palantir USG est mandaté par le centre de passation de marchés "Army Contracting Command-Aberdeen Proving Ground" (ACC-APG) de l'armée américaine. L'attribution du marché fait suite à une phase de conception et de prototypage qui a duré trois ans et qui a opposé le système de Palantir à celui développé par RTX, anciennement Raytheon. Les conceptions des deux entreprises ont été affinées sur la base des commentaires réguliers des utilisateurs de l'armée, y compris une démonstration l'été dernier qui a évalué les performances techniques et la facilité d'utilisation. Le système TITAN de Palantir est sorti vainqueur.

Cette utilisation l'IA est dénoncée, mais le colonel Chris Anderson, chef de projet de l'armée pour les systèmes de renseignement et d'analyse, a déclaré dans un communiqué : « nous sommes ravis de passer à la phase suivante pour fournir ces capacités révolutionnaires à nos combattants. TITAN propose des technologies qui changent la donne en matière de collecte, de traitement et de diffusion du renseignement sur le champ de bataille, ce qui nous donne un avantage décisif pour soutenir les opérations multi domaines ». L'armée américaine devrait décider d'ici 2026 si elle souhaite passer à la production complète.

Le nombre d'unités à acheter n'a pas été déterminé, mais l'entreprise estime qu'il se situera entre 100 et 150 systèmes. Palantir a déjà exploité les possibilités offertes par l'IA avec des clients gouvernementaux pour la collecte de renseignements, la lutte contre le terrorisme et à d'autres fins militaires. Aujourd'hui, Palantir entend utiliser l'IA générative pour stimuler la croissance du marché commercial. Le fabricant de logiciels s'est développé dans les secteurs de la santé, de l'énergie et de la fabrication. Palantir a déclaré qu'il prévoyait de présenter sa nouvelle plateforme d'IA lors de l'événement AIPCon de ce 7 mars.

Le contrat TITAN marque une avancée significative sur le marché des technologies de défense. En mettant l'accent sur l'intégration de l'IA et les capacités d'intelligence en temps réel, le rôle de Palantir souligne l'importance croissante des solutions basées sur les données dans la guerre moderne. Cette décision ne positionne pas seulement Palantir comme un acteur important dans les contrats de défense et de sécurité, mais souligne également l'évolution du paysage des opérations militaires, où les technologies avancées de fusion de données et d'IA sont primordiales pour maintenir un avantage concurrentiel.

D'autres acteurs de l'industrie pourraient devoir adapter leurs offres pour s'aligner sur les priorités et les exigences changeantes des efforts de modernisation militaire. L'année dernière, Palantir a fait la démonstration d'une IA capable de faire la guerre en élaborant des stratégies de défense et d'attaque. Le modèle, baptisé "Palantir Artificial Intelligence Platform" (AIP), a pour fonction première d'intégrer de grands modèles de langage (LLM) tels que GPT-4 d'OpenAI ou ses alternatives dans des réseaux privés. Dans la démo de Palantir, l'IA s'est montrée capable de planifier des stratégies de défense et de guerre.

Selon Palantir, la plateforme AIP aide à estimer la composition et les capacités de l'ennemi en lançant un drone Reaper en mission de reconnaissance en réponse à la demande de l'opérateur qui souhaite obtenir de meilleures images, et en suggérant des réponses appropriées à la découverte d'un élément blindé. Toutefois, bien qu'il y ait un humain dans la boucle dans la démonstration de l'AIP pour empêcher que le système ne prenne des mesures non autorisées, il semble qu'il ne fasse guère plus que demander au chatbot ce qu'il doit faire et approuver ensuite ses actions. Le système AIP a été fortement critiqué.

En effet, la guerre des drones a déjà abstrait la guerre, permettant aux gens de tuer plus facilement sur de vastes distances en appuyant sur un bouton. Les conséquences de ces systèmes sont bien documentées. Dans la vision de Palantir de l'avenir de l'armée, d'autres systèmes seraient automatisés et abstraits. L'offre de Palantir ne consiste pas non plus à vendre une IA spécifique à l'armée, mais propose d'intégrer des systèmes existants dans un environnement contrôlé. La démo montre que le logiciel prend en charge différents LLM en accès libre. Cette approche suscite des préoccupations en matière de sécurité.

Les systèmes d'IA disponibles sur le marché présentent de nombreux problèmes connus qui pourraient faire du fait de leur demander ce qu'il faut faire dans une zone de guerre un véritable cauchemar. Ils ont tendance à halluciner, c'est-à-dire inventer des faits et tenter de les faire passer pour des faits réels aux yeux de l'utilisateur. GPT-NeoX-20B en particulier est une alternative open source à GPT-3 créée par une startup appelée EleutherAI. L'un des modèles libres d'EleutherAI, affiné par une autre entreprise appelée Chai, a récemment convaincu un Belge qui lui avait parlé pendant six semaines de se suicider.

« Ce que Palantir offre, c'est l'illusion de la sécurité et du contrôle pour le Pentagone qui commence à adopter l'IA », a écrit un critique. Outre l'absence d'approches de solution pour gérer le problème d'hallucination des modèles, Palantir n'explique pas comment il envisage de traiter les autres problèmes pernicieux des modèles et quelles pourraient en être les conséquences dans un contexte militaire. L'AIP ne semble pas offrir de solutions à ces problèmes au-delà des "garde-fous". Palantir affirme que l'utilisation de l'IA militaire sera "éthique" et "légale", mais ces mots n'offrent aucune garantie de sécurité à l'humanité.

Source : Palantir

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de l'utilisation de l'IA dans le domaine militaire ?
Quels sont les risques liés à l'utilisation de l'IA sur les champs de bataille ?
L'utilisation de l'IA pour le ciblage et sur les théâtres d'opérations peut-elle être éthique ?

Voir aussi

Palantir fait la démonstration d'une IA capable de faire la guerre en élaborant des stratégies de défense et d'attaque, la démo suscite indignation et tollé sur la toile

Les USA, la Chine et une soixantaine d'autres pays appellent à une utilisation « responsable » de l'IA militaire. Les critiques notent que cette déclaration n'est pas juridiquement contraignante

Israël déploie des armes assistées par l'IA pour traquer des cibles en Cisjordanie, et suscite de nouvelles préoccupations sur la prolifération des armes létales autonomes

[_toma_]

Youpi