Version imprimable
Le problème est de détruire l'humanité.
L'IA pense à une bombe Tsar ... difficile à obtenir ...
alors qu'un bon vieux point chaud serait très efficace pour détruire la majeure partie de l'humanité, façon dinosaures ...
Et sans radioactivité, dont l'effet est de perturber les matériels électroniques.
Bref, c'est pas Terminator ou Skynet les mieux placés ... pas encore ... tchaosGpt ?
Et voilà !Citation:
Envoyé par christophe7777777
Palantir remporte un contrat de 178 Mns $ pour construire une station terrestre appelée TITAN dotée d'une IA pour l'armée américaine
le système est qualifié de "premier véhicule défini par l'IA"
Palantir intensifie ses efforts visant à faire de l'IA un acteur important sur les théâtres d'opérations. L'entreprise vient de remporter un contrat de 178 millions de dollars pour construire une station au sol pour l'armée américaine. Le système, appelé TITAN (Tactical Intelligence Targeting Access Node), sera piloté par une IA et doté de capacités avancées d'apprentissage automatique. Palantir affirme qu'il s'agit du "premier véhicule défini par l'IA" et qu'il aidera l'armée américaine à agir rapidement sur le champ de bataille. Les critiques dénoncent la militarisation des capacités de l'IA par Palantir, mais l'entreprise n'en est pas à son premier coup d'essai.
Palantir Technologies inc. est une société d'analyse de données cofondée en 2004 par le milliardaire américain Peter Thiel. Basée à Denver, dans le Colorado, l'entreprise se concentre de plus en plus sur le développement de technologies militaires, principalement des systèmes basés sur l'IA et l'apprentissage automatique. Mercredi, l'entreprise a annoncé avoir remporté un contrat pour le développement et la livraison du système de station au sol TITAN, la capacité de détection profonde de prochaine génération de l'armée. L'annonce indique que le contrat a été attribué à sa filiale Palantir USG inc.
L'accord, d'une valeur de 178,4 millions de dollars, couvre le développement de 10 prototypes TITAN, dont cinq variantes avancées et cinq variantes de base, ainsi que l'intégration de nouvelles technologies critiques et la transition vers la mise en service. Selon l'annonce, les stations sont conçues pour aider l'armée américaine à connecter des capteurs de collecte de données provenant de domaines multiples à des tireurs sur le terrain, afin de permettre un ciblage avancé au-delà de la ligne de mire. Voici ci-dessous comment Palantir décrit le système TITAN :
Palantir USG est mandaté par le centre de passation de marchés "Army Contracting Command-Aberdeen Proving Ground" (ACC-APG) de l'armée américaine. L'attribution du marché fait suite à une phase de conception et de prototypage qui a duré trois ans et qui a opposé le système de Palantir à celui développé par RTX, anciennement Raytheon. Les conceptions des deux entreprises ont été affinées sur la base des commentaires réguliers des utilisateurs de l'armée, y compris une démonstration l'été dernier qui a évalué les performances techniques et la facilité d'utilisation. Le système TITAN de Palantir est sorti vainqueur.Citation:
Envoyé par Palantir
Cette utilisation l'IA est dénoncée, mais le colonel Chris Anderson, chef de projet de l'armée pour les systèmes de renseignement et d'analyse, a déclaré dans un communiqué : « nous sommes ravis de passer à la phase suivante pour fournir ces capacités révolutionnaires à nos combattants. TITAN propose des technologies qui changent la donne en matière de collecte, de traitement et de diffusion du renseignement sur le champ de bataille, ce qui nous donne un avantage décisif pour soutenir les opérations multi domaines ». L'armée américaine devrait décider d'ici 2026 si elle souhaite passer à la production complète.
Le nombre d'unités à acheter n'a pas été déterminé, mais l'entreprise estime qu'il se situera entre 100 et 150 systèmes. Palantir a déjà exploité les possibilités offertes par l'IA avec des clients gouvernementaux pour la collecte de renseignements, la lutte contre le terrorisme et à d'autres fins militaires. Aujourd'hui, Palantir entend utiliser l'IA générative pour stimuler la croissance du marché commercial. Le fabricant de logiciels s'est développé dans les secteurs de la santé, de l'énergie et de la fabrication. Palantir a déclaré qu'il prévoyait de présenter sa nouvelle plateforme d'IA lors de l'événement AIPCon de ce 7 mars.
Le contrat TITAN marque une avancée significative sur le marché des technologies de défense. En mettant l'accent sur l'intégration de l'IA et les capacités d'intelligence en temps réel, le rôle de Palantir souligne l'importance croissante des solutions basées sur les données dans la guerre moderne. Cette décision ne positionne pas seulement Palantir comme un acteur important dans les contrats de défense et de sécurité, mais souligne également l'évolution du paysage des opérations militaires, où les technologies avancées de fusion de données et d'IA sont primordiales pour maintenir un avantage concurrentiel.
D'autres acteurs de l'industrie pourraient devoir adapter leurs offres pour s'aligner sur les priorités et les exigences changeantes des efforts de modernisation militaire. L'année dernière, Palantir a fait la démonstration d'une IA capable de faire la guerre en élaborant des stratégies de défense et d'attaque. Le modèle, baptisé "Palantir Artificial Intelligence Platform" (AIP), a pour fonction première d'intégrer de grands modèles de langage (LLM) tels que GPT-4 d'OpenAI ou ses alternatives dans des réseaux privés. Dans la démo de Palantir, l'IA s'est montrée capable de planifier des stratégies de défense et de guerre.
Selon Palantir, la plateforme AIP aide à estimer la composition et les capacités de l'ennemi en lançant un drone Reaper en mission de reconnaissance en réponse à la demande de l'opérateur qui souhaite obtenir de meilleures images, et en suggérant des réponses appropriées à la découverte d'un élément blindé. Toutefois, bien qu'il y ait un humain dans la boucle dans la démonstration de l'AIP pour empêcher que le système ne prenne des mesures non autorisées, il semble qu'il ne fasse guère plus que demander au chatbot ce qu'il doit faire et approuver ensuite ses actions. Le système AIP a été fortement critiqué.
En effet, la guerre des drones a déjà abstrait la guerre, permettant aux gens de tuer plus facilement sur de vastes distances en appuyant sur un bouton. Les conséquences de ces systèmes sont bien documentées. Dans la vision de Palantir de l'avenir de l'armée, d'autres systèmes seraient automatisés et abstraits. L'offre de Palantir ne consiste pas non plus à vendre une IA spécifique à l'armée, mais propose d'intégrer des systèmes existants dans un environnement contrôlé. La démo montre que le logiciel prend en charge différents LLM en accès libre. Cette approche suscite des préoccupations en matière de sécurité.
Les systèmes d'IA disponibles sur le marché présentent de nombreux problèmes connus qui pourraient faire du fait de leur demander ce qu'il faut faire dans une zone de guerre un véritable cauchemar. Ils ont tendance à halluciner, c'est-à-dire inventer des faits et tenter de les faire passer pour des faits réels aux yeux de l'utilisateur. GPT-NeoX-20B en particulier est une alternative open source à GPT-3 créée par une startup appelée EleutherAI. L'un des modèles libres d'EleutherAI, affiné par une autre entreprise appelée Chai, a récemment convaincu un Belge qui lui avait parlé pendant six semaines de se suicider.
« Ce que Palantir offre, c'est l'illusion de la sécurité et du contrôle pour le Pentagone qui commence à adopter l'IA », a écrit un critique. Outre l'absence d'approches de solution pour gérer le problème d'hallucination des modèles, Palantir n'explique pas comment il envisage de traiter les autres problèmes pernicieux des modèles et quelles pourraient en être les conséquences dans un contexte militaire. L'AIP ne semble pas offrir de solutions à ces problèmes au-delà des "garde-fous". Palantir affirme que l'utilisation de l'IA militaire sera "éthique" et "légale", mais ces mots n'offrent aucune garantie de sécurité à l'humanité.
Source : Palantir
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
:fleche: Que pensez-vous de l'utilisation de l'IA dans le domaine militaire ?
:fleche: Quels sont les risques liés à l'utilisation de l'IA sur les champs de bataille ?
:fleche: L'utilisation de l'IA pour le ciblage et sur les théâtres d'opérations peut-elle être éthique ?
Voir aussi
:fleche: Palantir fait la démonstration d'une IA capable de faire la guerre en élaborant des stratégies de défense et d'attaque, la démo suscite indignation et tollé sur la toile
:fleche: Les USA, la Chine et une soixantaine d'autres pays appellent à une utilisation « responsable » de l'IA militaire. Les critiques notent que cette déclaration n'est pas juridiquement contraignante
:fleche: Israël déploie des armes assistées par l'IA pour traquer des cibles en Cisjordanie, et suscite de nouvelles préoccupations sur la prolifération des armes létales autonomes
Youpi
