Anthropic dévoile un framework matériel permettant aux agents IA de diriger des équipements physiques
« Model Hardware Standard » : Anthropic dévoile un framework matériel permettant aux agents IA de contrôler des équipements physiques et des robots
mais la sécurité reste une préoccupation centrale
Anthropic a dévoilé « Model Hardware Standard » (MHS), un framework innovant conçu pour permettre aux agents IA de diriger des équipements physiques et des robots. Ce projet vise à uniformiser les communications entre les logiciels et le matériel, éliminant ainsi le besoin de créer des programmes de traduction complexes pour chaque nouvel outil scientifique. Grâce à ce système, des modèles comme Claude peuvent désormais manipuler des bras robotiques ou ajuster des microscopes en utilisant un langage naturel et un raisonnement autonome. Anthropic travaille actuellement à peaufiner ce framework avant de le publier en libre accès.
Anthropic a dévoilé le framework MHS (Model Hardware Standard), un ensemble de pilotes standardisés conçus pour permettre aux agents d'IA de se connecter à des appareils physiques et de les contrôler. Alors que les systèmes d'IA ont été jusqu'à présent principalement limités à des tâches virtuelles au sein d'un ordinateur, le projet MHS marque un tournant majeur en ouvrant la voie à une interaction directe et automatisée avec le monde réel.
Actuellement disponible sous la forme d'une version préliminaire de recherche, ce framework s'adresse en premier lieu aux scientifiques. Le framework MSH vise à simplifier la configuration souvent laborieuse des expériences scientifiques de laboratoire. Il sert de couche de traduction commune pour que différents appareils puissent échanger des données sur un réseau, « sans avoir besoin d'un programme "traducteur" conçu sur mesure entre les deux ».
Origine et fonctionnement du framework MHS d'Anthropic
Selon le récit d'Anthropic, la création du standard MHS a été inspirée par une observation de terrain au campus de recherche HHMI Janelia en Virginie. Le chercheur Alek Kemeny d'Anthropic a vu un neuroscientifique élaborer une interface personnalisée pour coordonner des équipements hétérogènes tels que des faisceaux laser rotatifs, des microscopes et des caméras. Il s'agit d'un travail fastidieux pouvant faire perdre du temps aux scientifiques.
En observant le travail de ce neuroscientifique, Alek Kemeny a alors réalisé que « cette idée pourrait être utilisée pour permettre à l'IA de mener n'importe quelle expérience scientifique au monde ». Bien que les appareils compatibles avec la technologie MHS puissent être contrôlés par de simples lignes de commande classiques, leur véritable potentiel se révèle lorsqu'ils sont intégrés à un modèle d'IA via le protocole MCP (Model Context Protocol).
Cette intégration permet aux scientifiques d'interagir avec les appareils en langage naturel et offre aux modèles la capacité de raisonner pas à pas, d'ajuster des paramètres en temps réel et de corriger des erreurs matérielles de manière autonome. Pour illustrer ces capacités, Anthropic a démontré qu'un modèle comme Claude peut ajuster un laser, analyser le résultat via une caméra et recalibrer l'ensemble de façon répétée sans aide humaine.
De plus, l'IA peut orienter d'elle-même un microscope sur une zone d'intérêt spécifique après avoir analysé des données préliminaires, ou encore planifier les étapes permettant à un bras robotique de saisir une canette en aluminium, sans y avoir été entraînée spécifiquement au préalable. Selon Anthropic, cette standardisation pourrait réduire des semaines ou des mois d'installation fastidieuse à seulement quelques heures ou minutes.
Préoccupations en matière de sécurité liées à ce système
La question de la sécurité est une préoccupation centrale dans les discussions en ligne sur le framework MHS de Nvidia. Les agents IA ont récemment fait la une de l’actualité pour toutes les mauvaises raisons. Anthropic, OpenAI et d’autres ont récemment découvert des cas où des agents IA chargés de résoudre des problèmes de cybersécurité avaient secrètement piraté des systèmes externes et tenté de tromper des utilisateurs humains.
Laisser l’IA utiliser des systèmes physiques soulève la perspective de nouveaux risques en raison du danger potentiel d’endommager ces systèmes ou de blesser des personnes. Des expériences ont montré comment des modèles d’IA peuvent être manipulés pour pousser des robots à se comporter de manière inappropriée. Plusieurs rapports ont signalé des incidents dans les entrepôts robotisés d'Amazon, bien que l'entreprise réfute les allégations.
Pour faciliter la transition des modèles du virtuel vers le réel, le standard MHS de Nvidia intègre un système d'étiquetage standardisé qui informe l'IA des contraintes physiques de l'équipement, comme le poids, la portée d'un membre robotisé, ou les limites de sécurité intégrées. Anthropic a précisé que son outil permettra aux scientifiques et ingénieurs de définir comment les modèles d'IA doivent éviter certains matériels pour prévenir les incidents.
Anthropic indique qu'elle collaborera avec des partenaires de confiance afin de déterminer comment optimiser la sécurité avant de rendre cette technologie accessible au grand public. Bien qu'il existe des risques d'utilisation abusive (comme le développement d'armes biologiques), l'entreprise affirme que les mécanismes de protection intégrés aux modèles d'IA devraient empêcher les acteurs malveillants d'exploiter ce framework à des fins néfastes.
« Notre motivation est de faire progresser la science », explique Alek Kemeny, physicien quantique qui a codirigé le développement de la technologie MHS. « Comment boucler la boucle entre l’accélération de l’analyse documentaire et celle des données, et transposer cette puissance dans le monde expérimental ? »
Perspectives et avenir open source de la technologie MSH
Afin de perfectionner la technologie, Anthropic collabore actuellement avec un premier groupe d'acteurs de la recherche scientifique et de l'industrie avancée, incluant notamment Raspberry Pi, Hugging Face, AWS, Automata et Universal Robots. Ces partenariats visent à concevoir des évaluations de sécurité et à définir des pratiques exemplaires avant que le système MHS ne devienne à terme un standard open source et indépendant des agents IA.
Cette efficacité accrue incite Alek Kemeny à affirmer : « c'est ainsi qu'un siècle de progrès peut se condenser en une décennie ». Bien que la technologie soit prometteuse, il nécessite des garde-fous pour empêcher les usages malveillants, tout en réduisant les hallucinations des modèles d'IA.
En matière de concurrence, plusieurs startups bien financées poursuivent une vision de la découverte scientifique pilotée par des agents IA, notamment Periodic Labs, LILA Sciences, Edison Scientific et Discovery Loop, fondée par plusieurs éminents anciens chercheurs de Google. L’idée centrale est que l’IA pourrait développer et tester des hypothèses scientifiques dans une boucle récursive qui automatise, en substance, la découverte scientifique.
Jonah Cool, biologiste expérimental ayant travaillé sur la technologie MHS chez Anthropic, explique que la configuration d’équipements scientifiques et leur interaction avec d’autres éléments matériels nécessitent généralement une expertise approfondie. Avec les progrès récents, « l’IA pourrait automatiser une grande partie de l’ingénierie complexe » impliquée en configurant les machines et en leur permettant de communiquer entre elles.
« Nous commençons à observer des cas où l’on dispose de plusieurs systèmes robotiques qui, auparavant, auraient nécessité un code sur mesure. Grâce à ce nouveau standard, Claude peut observer les robots sur la chaîne de production et déterminer comment optimiser leur comportement », explique Alek Kemeny.
L'outil Nvidia ENPIRE pour le contrôle des bras robotiques
Le laboratoire GEAR (Generalist Embodied Agent Research) de Nvidia a mis au point une infrastructure logicielle novatrice nommée ENPIRE. Ce système permet à des agents IA spécialisés dans le codage d'entraîner des bras robotiques de manière autonome pour accomplir des tâches physiques complexes. Jim Fan, directeur de l'IA chez Nvidia, ajoute : « une partie de notre laboratoire Nvidia GEAR s'améliore désormais sans relâche pendant la nuit ».
Développé en collaboration avec l'université Carnegie Mellon et l'UC Berkeley, ce framework utilise une boucle de rétroaction fermée et fait appel à des agents IA qui collaborent afin d'améliorer les performances sur du matériel réel. Concrètement, ENPIRE assure la boucle complète entre l’écriture du code d’entraînement des robots, le test du code sur du matériel réel et son affinage jusqu’à ce que le robot apprenne le comportement souhaité.
La démonstration qui a retenu l’attention de tous montre un bras robotisé sélectionnant une carte graphique (GPU), la transmettant à un deuxième bras, puis l’insérant avec précaution dans un emplacement PCIe d’une carte mère. Cette démo comprenait quelques autres tâches, telles que le tri de broches métalliques dans une boîte, la coupe de colliers de serrage à l’aide de véritables cisailles, ainsi que le test de référence classique appelé « Push-T ».
Grâce à ENPIRE, des agents IA ont passé l’année écoulée à mener ce que les chercheurs appellent de la « recherche automatique » : écrire du code, le tester, puis le réécrire sans intervention humaine. Ce processus s’est principalement déroulé sur un écran, où la réinitialisation d’une expérience ratée ne coûte rien. ENPIRE transpose ce processus dans le monde physique, où réinitialiser une expérience implique de déplacer un véritable bras robotisé.
Limites actuelles de l'outil Nvidia ENPIRE et perspectives
Les chercheurs ont mis en lumière certaines limites à cette automatisation. Les robots physiques restent souvent inactifs pendant que les agents d'IA sont occupés à analyser des données, lire des articles ou corriger des bogues. Les grandes équipes d'agents IA perdent parfois du temps à synthétiser leurs idées mutuelles au lieu d'utiliser activement les bras robotiques, entraînant au passage une consommation très élevée et coûteuse de tokens.
Mais l'avenir de ce logiciel s'annonce prometteur. L'équipe prévoit de rendre le projet open source pour que chacun puisse « héberger son propre laboratoire de robots autonome à la maison ». Avec beaucoup d'enthousiasme face à ce système capable de travailler seul, Jim Fan a même plaisanté en affirmant : « nous prenons tous des vacances et Jensen ne s'en rendrait même pas compte », faisant référence à Jensen Huang, le PDG de Nvidia.
Cette avancée marque une étape majeure vers l'autoamélioration de la robotique industrielle, promettant des laboratoires capables de fonctionner seuls jour et nuit. En parallèle, l'entreprise investit massivement dans le domaine de l'IA physique, notamment en multipliant les partenariats avec des constructeurs comme Unitree et Hyundai pour développer la fabrication de robots humanoïdes de nouvelle génération, un marché en plein essor.
Source : Anthropic
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi
Répondre avec citation
Partager