Perplexity et Nvidia lancent un agent IA qui tourne entièrement en local sans aucun coût en tokens
Portable Computer : Perplexity et Nvidia lancent un agent IA qui tourne entièrement en local sans « aucun coût » en tokens
mais la plateforme présente des limites matérielles et logicielles
Perplexity et Nvidia lancent « Portable Computer », une plateforme d'IA conçue pour fonctionner entièrement en local sur le matériel de l'utilisateur. Elle permet d'exécuter des tâches complexes et de traiter des documents sensibles sans dépendre du cloud, garantissant ainsi une confidentialité totale et une absence de frais liés à l'utilisation de token. Le système privilégie les ressources matérielles sur site, comme les processeurs graphiques RTX de Nvidia, tout en offrant la possibilité de solliciter des modèles distants plus puissants si nécessaire. Cette plateforme d'IA marque un tournant stratégique, bien que des limites matérielles et logicielles subsistent.
Jusque-là, l'accès aux modèles d'IA de pointe tels que ChatGPT et Claude se faisait depuis le cloud. Toutefois, cela posait de nombreux défis liés à la confidentialité et à la vie privée : les données sensibles (code source, informations personnelles...) devaient transiter par des serveurs distants, hors du contrôle direct de l'utilisateur. Ce qui l'exposait à des risques de fuite de données ou à la réutilisation des contenus pour entraîner des modèles.
Pour faire face à ce problème, Perplexity a lancé « Portable Computer », une version de son produit Perplexity Computer qui fonctionne entièrement sur l'ordinateur de l'utilisateur. Ce produit a été développé en collaboration avec le fabricant de puces Nvidia. Cette annonce intervient alors que des informations indiquent que Nvidia souhaiterait prendre une participation dans Perplexity pour une valorisation supérieure à 30 milliards de dollars.
Computer est un agent capable d’effectuer des tâches à votre place. Cet assistant polyvalent utilise les mêmes interfaces et applications que vous. Vous décrivez une tâche en langage naturel, puis Computer lance des sous-agents selon les besoins pour effectuer des recherches et connecter des outils.
Portable Computer : une IA locale sans frais de token
Portable Computer est un projet qui vise à déplacer les charges de travail complexes des agents IA du cloud vers les appareils locaux, permettant aux fichiers, aux modèles et au travail de rester confinés sur la machine de l'utilisateur. Cette approche garantit l'absence de frais de facturation, l'appareil démarrant chaque tâche par défaut et sollicitant l'autorisation de l'utilisateur avant d'envoyer toute étape vers un modèle cloud plus puissant.
Nate Kupp, vice-président de l'ingénierie pour l'infrastructure et l'entreprise chez Perplexity, affirme que la société a essentiellement transposé la même interface utilisateur sur une application entièrement locale, intégrant ainsi l'ensemble de la structure d'agent IA, de l'inférence et de tout ce qui est nécessaire pour travailler localement. Pour le géant Nvidia, cette annonce démontre que l'intelligence artificielle locale a franchi un cap décisif.
Nader Khalil, directeur de la technologie pour les développeurs chez Nvidia, a déclaré à ce sujet que « l'IA locale a atteint un point d'inflexion », passant du statut de curiosité pour amateurs à celui d'outil pratique grâce à l'émergence de nouveaux modèles d'IA open source très utiles et performants.
Portable Computer est conçu pour exécuter autant de tâches que possible en local, sur votre propre matériel. Vous pouvez résumer des documents, extraire des informations et effectuer des analyses, envoyer des fichiers vers des applications, etc. Mais si Portable Computer rencontre une tâche trop complexe pour le modèle local, il s’arrêtera et vous demandera si vous souhaitez plutôt la déléguer à une IA plus puissante, basée sur le cloud.
Une plateforme d'IA locale unifiée et prête à l'emploi
Portable Computer rassemble au sein d'un système unique des modèles locaux, un moteur d'inférence, des connecteurs d'applications, des outils et un bac à sable de sécurité. Cette intégration clé en main résout le principal problème des installations locales classiques, qui imposent habituellement aux utilisateurs de configurer et d'assembler ces éléments séparément. (Des critiques mettent en garde contre l'envoi de données de télémétrie.)
Dès son lancement, il pourra exécuter Qwen 3.8 27B ou Qwen PPLX 27B. Lors d'une démo, il a ainsi simulé l'analyse confidentielle de documents fiscaux et d'investissement par un investisseur individuel. En faisant tourner localement Qwen 3.8 27B sur un DGX Spark à pleine utilisation de son GPU, cet assistant IA a pu inspecter chaque document et identifier les frais inutiles, tandis que « le compteur de crédits cloud est resté égal à zéro ».
Un autre essai a démontré la capacité de Portable Computer à fonctionner de manière hybride en analysant localement des données de tunnel d'achat avant de publier le rapport final sur Slack. Portable Computer propose des connexions avec des plateformes tierces telles que Google Drive, Gmail et GitHub. En plus de Qwen 3.8 27B ou Qwen PPLX 27B, la prise en charge des modèles Nemotron 3.5 Lightning de Nvidia sera bientôt disponible.
L'accès est réservé aux abonnés Pro, Max, Enterprise Pro et Enterprise Max sous Linux, l'environnement Windows devant suivre en septembre. macOS est pour l'instant absent de la feuille de route de Portable Computer. Le matériel requis exige au minimum une carte graphique RTX avec 24 Go de mémoire vidéo.
Co-conception entre modèle et structure d'agent IA
En marge de ce lancement de l'outil Portable Computer, Perplexity a publié un document de recherche démontrant qu'un agent IA local efficace repose sur la conception conjointe du modèle et de sa structure d'orchestration. Les architectures généralistes actuelles supposent que les modèles peuvent absorber d'immenses contextes et gérer de nombreux outils, une exigence sous laquelle les petits modèles locaux ont tendance à s'effondrer.
Parmi les améliorations apportées par Portable Computer, les connecteurs comme Gmail et GitHub ont été convertis en outils légers en ligne de commande, et un mécanisme d'autovérification surveille la bonne exécution des tâches. La sécurité est également renforcée par un bac à sable au niveau du système d'exploitation qui désactive l'infrastructure en cas d'indisponibilité, ce qui empêche l'exécution non protégée de prompt par le modèle.
Les tests menés par Perplexity révèlent que Portable Computer fonctionnant avec Qwen 3.8 27B obtient un score de 82,6 % sur Local Knowledge Work Bench, un benchmark composé de 53 tâches complexes d'analyse financière, de recherche approfondie et de rédaction documentaire. Ce résultat surpasse nettement les systèmes open source concurrents exécutant exactement le même modèle de base, comme Pi (77,6 %) ou Hermes (74,0 %).
La version personnalisée PPLX 27B parvient à hisser ce score à 85,4 %. Les écarts de performance s'accentuent de manière spectaculaire sur des benchmarks plus spécialisés. Sur le benchmark de recherche Web BrowseComp, l'application de Perplexity atteint une exactitude de 66,7 % (contre 50,2 % pour Pi et 43,9 % pour Hermes), tout en se payant le luxe de consommer 51 % de temps de calcul en moins et 70 % de jetons en moins que Pi.
Rentabilité économique et protection des données
La viabilité économique de cette initiative repose sur la consommation intense de tokens par les agents IA autonomes. Contrairement aux systèmes de messagerie instantanée classiques où les échanges sont ponctuels, les agents IA ont besoin de fonctionner en continu et de consommer un grand nombre de tokens pour accomplir leurs missions. Nader Khalil a expliqué que c'est « la demande insatiable de tokens qui rend l'IA locale si formidable ».
Un agent s'exécutant pendant des heures pour analyser des dossiers générerait des factures de cloud exorbitantes, alors que le coût marginal des tokens sur un équipement possédé localement devient nul. Pour les entreprises, cette approche résout simultanément la dérive des coûts et les enjeux de confidentialité.
Les données sensibles ne quittent jamais l'appareil de l'utilisateur. Comme souligné plus haut, en ce qui concerne les situations nécessitant une puissance accrue, un système d'escalade hybride permet au modèle local d'interroger un modèle cloud de pointe agissant comme « conseiller ». Ce mécanisme permet de récupérer environ trois cinquièmes de la performance d'un modèle de pointe « pour seulement deux tiers de son coût traditionnel ».
Avant chaque envoi d'informations vers le cloud, un classificateur de données personnelles examine le contexte et montre à l'utilisateur ce qui s'apprête à quitter la machine, le modèle distant ne renvoyant que des instructions textuelles sans jamais accéder directement aux fichiers locaux.
Limites matérielles, logicielles et critiques techniques
Malgré ces chiffres flatteurs, Portable Computer souffre de barrières à l'entrée très élevées et de limites de conception notables. Sur le plan matériel, l'application requiert au minimum une GPU RTX dotée de 24 Go de mémoire vidéo. Ce seuil exclut de fait l'immense majorité des ordinateurs personnels grand public. Sur le plan logiciel, Portable Computer est restreint à Linux pour son lancement, la version Windows n'étant attendue qu'en septembre.
De façon très visible, le matériel Apple Silicon, pourtant plébiscité par les amateurs d'IA locale, est totalement absent des plans de déploiement. Nate Kupp a confirmé que « l'entreprise est très concentrée actuellement sur le matériel Nvidia ». De plus, l'expérience utilisateur et la simplicité promise sont remises en cause.
Même pour des profils très techniques, l'utilisation de superordinateurs de bureau comme le DGX Spark de Nvidia reste complexe et pénible. Lors de la présentation, un ingénieur présent dans le public a ouvertement partagé sa frustration au sujet de sa propre configuration Spark : « cette expérience est nulle, nous devons corriger cela ». Enfin, Perplexity admet que les modèles locaux ne parviennent pas à égaler les modèles cloud les plus puissants.
Les performances réelles des modèles sont aussi en deçà de leurs spécifications commerciales : bien que Qwen 3.8 27B annonce une fenêtre de contexte théorique de 260 000 jetons, les tests empiriques de Perplexity montrent qu'il commence à éprouver de sérieuses difficultés dès qu'il dépasse les 100 000 jetons.
Les enjeux stratégiques et juridiques sous-jacents
Derrière la vitrine technologique se cachent des intérêts commerciaux et des pressions stratégiques pour les deux partenaires. Pour Perplexity, ce virage vers l'IA locale permet de contourner le problème du coût d'infrastructure lié à la consommation de tokens, mais constitue aussi une manœuvre d'adaptation. L'entreprise fait en effet face à une forte pression juridique, matérialisée par des actions en justice intentées par le New York Times et Forbes.
Proposer une solution locale permet à Perplexity de cibler des entreprises extrêmement soucieuses de leur confidentialité dans les domaines du droit, de la santé ou de la finance, tout en se détachant de sa dépendance exclusive au Web ouvert. Pour Nvidia, cette application sert avant tout à créer un cas d'usage concret pour justifier l'achat de machines puissantes comme le DGX Spark, qui s'avéraient jusqu'ici complexes à exploiter au quotidien.
Sources : Portable Computer, Perplexity AI, Nvidia
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi
Répondre avec citation
Partager