IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)
Navigation

Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter

Sécurité Discussion :

Les navigateurs IA peuvent être soumis à une espèce d’hypnose ouvrant la voie au vol de vos données sensibles


Sujet :

Sécurité

  1. #1
    Communiqués de presse

    Femme Profil pro
    Traductrice Technique
    Inscrit en
    Juin 2023
    Messages
    2 995
    Détails du profil
    Informations personnelles :
    Sexe : Femme
    Localisation : France

    Informations professionnelles :
    Activité : Traductrice Technique

    Informations forums :
    Inscription : Juin 2023
    Messages : 2 995
    Par défaut Les navigateurs IA peuvent être soumis à une espèce d’hypnose ouvrant la voie au vol de vos données sensibles
    Les navigateurs IA créent d'énormes vulnérabilités en matière de cybersécurité : ChatGPT Atlas, Comet de Perplexity et Microsoft Copilot Mode exposent les utilisateurs à des risques de piratage

    De nouveaux rapports révèlent que les navigateurs IA créent d'énormes vulnérabilités en matière de cybersécurité. Des chercheurs ont découvert des vulnérabilités dans ChatGPT Atlas permettant l'injection de code via la mémoire IA. Le navigateur Comet de Perplexity peut être piraté à l'aide d'instructions cachées dans les sites web. Les navigateurs IA créent des « profils plus invasifs que jamais » en apprenant de toutes les activités des utilisateurs. Les experts en cybersécurité avertissent que les vulnérabilités zero-day « augmentent de manière exponentielle » avec les agents IA.

    Perplexity AI a récemment annoncé que son navigateur Comet était désormais téléchargeable gratuitement dans le monde entier. Conçu comme une alternative aux navigateurs traditionnels, Comet intègre un assistant capable de résumer des pages, d'organiser des tâches et de sélectionner des informations en temps réel. Parallèlement à cette sortie, Perplexity a également lancé Comet Plus avec le soutien de grands éditeurs, afin de promouvoir un journalisme de qualité directement dans le navigateur.

    En réponse, OpenAI a dévoilé son navigateur ChatGPT Atlas. Atlas conserve la disposition familière des navigateurs traditionnels, notamment les onglets, les signets, le mode incognito et d'autres fonctionnalités attendues, mais son principal attrait réside dans son intégration profonde avec ChatGPT, qui permet aux utilisateurs de résumer des pages, d'affiner du texte, de discuter avec les résultats de recherche et d'interagir avec des sites web directement via une barre latérale ou un affichage en écran partagé qui maintient un compagnon ChatGPT toujours visible.

    Ces initiatives témoignent de l'ambition de Perplexity et d'OpenAI de contester la domination de Google Chrome tout en promouvant une expérience Internet alimentée par l'IA. Cependant, des experts en cybersécurité ont qualifié ces navigateurs IA de « bombe à retardement ». ChatGPT Atlas et le mode Copilot de Microsoft Edge peuvent répondre à des questions et effectuer des actions en votre nom, mais des chercheurs ont déjà découvert des failles critiques permettant à des pirates d'injecter du code malveillant et de voler des données sensibles. La précipitation à commercialiser ces navigateurs signifie qu'ils n'ont pas été testés de manière approfondie, créant ainsi ce que les experts décrivent comme une surface d'attaque en croissance exponentielle.

    Nom : 0.jpg
Affichages : 50062
Taille : 41,6 Ko

    La course à l'armement des navigateurs IA vient de prendre une tournure dangereuse. OpenAI et Microsoft ont inauguré une nouvelle ère avec ChatGPT Atlas et le mode Copilot pour Edge, mais les chercheurs en cybersécurité tirent la sonnette d'alarme sur ce qu'ils qualifient de « champ de mines de nouvelles vulnérabilités ».

    Le moment ne pouvait pas être pire. Ces navigateurs alimentés par l'IA arrivent sur le marché dans ce que Hamed Haddadi, professeur à l'Imperial College de Londres et scientifique en chef chez Brave, qualifie de « ruée vers le marché ». Il avertit que « ces navigateurs agents n'ont pas été testés et validés de manière approfondie », ce qui revient à mener une expérience à grande échelle avec la sécurité des utilisateurs.

    Les preuves s'accumulent déjà. Au cours des dernières semaines, des chercheurs en sécurité ont découvert des failles critiques dans Atlas qui permettent aux pirates d'exploiter la fonction mémoire de ChatGPT pour injecter du code malveillant, s'octroyer des privilèges d'accès ou déployer des logiciels malveillants. Des vulnérabilités similaires dans le navigateur Comet de Perplexity permettent aux pirates informatiques de détourner l'IA à l'aide d'instructions cachées intégrées dans des sites web.

    Nom : 1.jpg
Affichages : 10541
Taille : 57,5 Ko

    Mais OpenAI et Perplexity reconnaissent que ces « injections de prompt » constituent des problèmes de pointe sans solution claire. Même Dane Stuckey, directeur de la sécurité informatique chez OpenAI, a admis que la menace était réelle, bien qu'il l'ait décrite comme un défi non résolu auquel l'ensemble du secteur est confronté. La concurrence est à l'origine de ce déploiement risqué. Google intègre Gemini dans Chrome, Opera a lancé Neon, et des startups comme Dia de The Browser Company se disputent le contrôle de ce que Haddadi appelle « la porte d'entrée vers Internet ». Même le navigateur suédois Strawberry cible activement les « utilisateurs déçus d'Atlas » alors qu'il est encore en version bêta.

    Ce qui rend les navigateurs IA particulièrement dangereux, c'est leur connaissance intime des utilisateurs. Yash Vekaria, chercheur en informatique à l'université de Californie à Davis, explique qu'ils sont « beaucoup plus puissants que les navigateurs traditionnels » car les fonctions de mémoire IA apprennent de tout : historique de navigation, e-mails, recherches, conversations avec les assistants IA. Il en résulte « un profil plus invasif que jamais », associé à des informations de carte de crédit et des identifiants de connexion stockés auxquels les pirates informatiques aimeraient avoir accès.

    Les agents IA eux-mêmes constituent le pire cauchemar en matière de sécurité. Contrairement aux humains qui développent un sens commun des menaces en ligne, ces agents visitent aveuglément des sites web suspects, cliquent sur des liens dangereux et saisissent des informations sensibles là où elles n'ont pas leur place. Pire encore, ils peuvent être piratés par des injections cachées dans des images, des champs de formulaire, des e-mails ou même du texte blanc invisible sur fond blanc.

    Nom : 2.jpg
Affichages : 10546
Taille : 79,3 Ko

    « L'interaction avec les agents permet des configurations infinies par essais et erreurs », explique Haddadi. Les pirates peuvent essayer différentes approches jusqu'à ce qu'ils parviennent à leurs fins, créant ainsi ce que Shujun Li, professeur de cybersécurité à l'université du Kent, appelle des vulnérabilités « exponentiellement croissantes » de type zero-day. Comme les attaques commencent par l'agent, leur détection est retardée, ce qui peut entraîner des violations plus importantes.

    Les scénarios d'attaque sont effrayants. Le chercheur indépendant Lukasz Olejnik imagine des pirates utilisant des instructions cachées pour voler des données personnelles ou rediriger des livraisons d'achats en modifiant les adresses enregistrées. Vekaria prévient qu'il est « relativement facile de mener des attaques » compte tenu des mesures de sécurité actuelles des navigateurs IA, ajoutant que « les fournisseurs de navigateurs ont beaucoup de travail à faire ».

    Pour l'instant, les experts recommandent la plus grande prudence. Li suggère aux utilisateurs de « fonctionner par défaut en mode sans IA » et de n'utiliser les fonctionnalités IA que « lorsqu'ils en ont absolument besoin ». Si vous devez utiliser des agents IA, Vekaria conseille de fournir des sites web sécurisés et vérifiés plutôt que de laisser les agents choisir, car « cela peut aboutir à suggérer et à utiliser un site frauduleux ».

    Il ne s'agit pas simplement d'un problème de sécurité technologique parmi tant d'autres. Il s'agit d'un changement fondamental dans le fonctionnement des navigateurs, la mémoire IA créant des profils d'utilisateurs sans précédent tandis que les agents agissent de manière autonome sur la base d'instructions potentiellement malveillantes. Comme le dit Olejnik, en référence aux déploiements technologiques passés : « Et c'est reparti pour un tour. » Mais cette fois-ci, l'enjeu ne concerne pas seulement la vie privée des individus, mais aussi la sécurité de toute notre expérience de navigation sur le web.

    En effet, des chercheurs en cybersécurité ont déjà remis en cause l'efficacité des tests actuels de sécurité de l'IA lors de la conférence DEF CON. Ils estiment que les méthodes actuelles de protection des systèmes d'IA sont fondamentalement défectueuses et nécessitaient une refonte complète. L'industrie de l'IA se base actuellement sur l'approche « red team », qui consiste à demander à des experts en cybersécurité de rechercher les vulnérabilités des systèmes d'IA. Mais les chercheurs affirment que cette approche est inefficace, car la documentation des modèles d'IA est fragmentée et les évaluations incluses dans la documentation sont inadéquates.


    La révolution des navigateurs IA est en marche, que nous y soyons prêts ou non, mais les implications en matière de sécurité sont stupéfiantes. Avec OpenAI et Microsoft à la tête d'une ruée vers le marché qui privilégie les fonctionnalités au détriment des tests de sécurité, les utilisateurs deviennent sans le savoir des bêta-testeurs d'une technologie potentiellement dangereuse. Les vulnérabilités d'injection de prompt déjà découvertes dans Atlas et Comet ne représentent que la partie émergée de l'iceberg.

    Selon un rapport d'août, l'IA rend les menaces internes plus efficaces. Ce rapport montre également que 53 % des personnes interrogées ont constaté une augmentation mesurable des incidents internes au cours de l'année écoulée. L'enquête menée par Exabeam auprès de plus de 1 000 professionnels de la cybersécurité révèle que 64 % des personnes interrogées considèrent désormais les initiés, qu'ils soient malveillants ou compromis, comme un risque plus important que les acteurs externes. L'IA générative est l'un des principaux facteurs à l'origine de cette évolution, car elle rend les attaques plus rapides, plus furtives et plus difficiles à détecter.

    À mesure que de plus en plus d'entreprises intègrent des agents IA directement dans les navigateurs, nous assistons à une explosion des vecteurs d'attaque que les mesures de sécurité traditionnelles ne sont pas conçues pour gérer. Tant que les fournisseurs de navigateurs n'auront pas mis en place des mesures de protection robustes et des tests approfondis, les utilisateurs auraient tout intérêt à réfléchir à deux fois avant de laisser l'IA prendre le contrôle de leur expérience de navigation sur le Web.

    Source : Rapport de Layer Security, Rapport de Brave

    Et vous ?

    Pensez-vous que ces rapports sont crédibles ou pertinents ?
    Quel est votre avis sur le sujet ?

    Voir aussi :

    Des scientifiques d'OpenAI, de Google DeepMind, d'Anthropic et de Meta ont abandonné leur rivalité pour lancer un avertissement commun sur la sécurité de l'IA : notre capacité de contrôle pourrait disparaître

    Une nouvelle attaque contre l'agent Deep Research de ChatGPT vole des secrets dans les boîtes de réception Gmail : ShadowLeak s'exécute sur l'infrastructure cloud d'OpenAI

    Le « vibe-hacking » est le prochain cauchemar IA : les hackers blackhat peuvent utiliser des agents IA pour générer du code pour lancer simultanément 20 attaques zero-day sur différents systèmes
    Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités

  2. #2
    Chroniqueur Actualités

    Homme Profil pro
    Rédacteur technique
    Inscrit en
    Juin 2023
    Messages
    1 967
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Bénin

    Informations professionnelles :
    Activité : Rédacteur technique
    Secteur : High Tech - Éditeur de logiciels

    Informations forums :
    Inscription : Juin 2023
    Messages : 1 967
    Par défaut De nombreuses vulnérabilités critiques affectent les navigateurs Web basés sur l'IA, selon plusieurs études
    De nouvelles vulnérabilités apportent une raison supplémentaire pour laquelle les navigateurs basés sur l'IA sont une mauvaise idée
    « il s'agit d'un recul significatif en matière de sécurité sur le Web »

    De nombreuses failles critiques affectent les navigateurs Web basés sur l'IA qui fusionnent la navigation et l'exécution automatisée de tâches. Une nouvelle technique d'attaque nommée BioShocking démontre, par exemple, qu'il est possible de plonger ces outils dans un état de confusion logique afin de contourner leurs barrières de sécurité. En forçant l'IA à accepter des « paradoxes absurdes », des sites malveillants peuvent l'inciter à voler des identifiants personnels ou des codes privés. Contrairement aux logiciels classiques, ces agents IA peinent à distinguer la fiction de la réalité, créant ainsi des risques de confidentialité majeurs pour les utilisateurs.

    Les développeurs de navigateurs intégrant l'IA font de grandes promesses en permettant aux utilisateurs d'exécuter des tâches complexes en une seule requête, comme trouver un restaurant, réserver une table et envoyer des invitations. Cependant, ces outils effacent la frontière qui séparait autrefois la simple consultation de sites Web de l'exécution d'actions sensibles par un grand modèle de langage (LLM), ce qui introduit des failles de sécurité.

    Pour sécuriser ces systèmes, les développeurs ont mis en place des garde-fous visant à bloquer les requêtes dangereuses, comme le vol d'identifiants ou l'automatisation de cyberattaques. Mais cette approche est critiquée, car elle ne traite que les symptômes et non la cause profonde du problème. Les experts soulignent que ces problèmes structurels transforment des fonctionnalités pratiques en de nouveaux vecteurs de cyberattaques redoutables.

    BioShocking : le jailbreak qui plonge l'IA dans une réalité alternative

    Un site Web malveillant peut tromper un navigateur IA pour qu'il ignore ses propres règles de sécurité. L'attaque, développée par Roy Paz, chercheur chez LayerX, consiste à soumettre l'IA à un puzzle qui récompense les fausses réponses, par exemple en affirmant que « 2 + 2 = 5 ». Le nom de l'attaque, BioShocking, ainsi que ses prompts s'inspirent des manipulations psychologiques du jeu vidéo BioShock et du roman 1984 de l'écrivain George Orwell.

    Nom : Bioshocking4.png
Affichages : 1637
Taille : 208,6 Ko

    En forçant le modèle à accepter une logique absurde selon laquelle « 2 + 2 = 5 », il entre dans un état de délire où les lois normales de la réalité n’existent plus. Dans ce monde imaginaire, les restrictions de sécurité ne sont plus appliquées. Le chercheur Roy Paz résume ce comportement en expliquant :

    Citation Envoyé par Roy Paz, chercheur chez LayerX

    L'IA fonctionne en partant du principe que son contexte est réel et que son comportement doit donc s'inscrire dans les limites de ses garde-fous de sécurité. Mais si nous parvenons à tromper l'IA pour qu'elle transforme son contexte en fantasme, où les règles sont inventées et où tout est permis, alors elle peut se comporter comme si ses actions n'avaient pas de conséquences dans le monde réel.
    Une fois que l'IA est déconnectée de la réalité, un attaquant a le champ libre pour lui faire exécuter des actions destructrices, telles que l'extraction de code privé ou de mots de passe depuis le gestionnaire intégré. L'efficacité de cette manipulation est « redoutable ». « Une fois que les agents ont compris les règles et appris que les actions incorrectes sont acceptables, ils ne sont plus liés à la réalité », explique Roy Paz à propos de son expérience.

    « Lors de l'étape finale du puzzle, qui consistait à compromettre les identifiants de l'utilisateur, les 6 agents n'ont pas réussi à détecter que cela allait à l'encontre de leurs garde-fous de sécurité ». Adam Conway, informaticien chez XDA, ajoute que le danger est décuplé avec les navigateurs intégrant l'IA. Contrairement aux navigateurs traditionnels qui séparent strictement les données de chaque site, une IA possède un accès global aux informations.

    Une attaque par injection de prompt peut ainsi briser ce cloisonnement de l'information et transformer ces navigateurs en un nouveau vecteur de violation de données personnelles. Toutefois, le chercheur Roy Paz a précisé que bien que ce jailbreak ait fonctionné sur un large éventail de navigateurs basés sur l'IA, tels que ChatGPT Atlas d'OpenAI, Comet de Perplexity ou encore le plug-in Chrome de Claude, il n'est pour l'instant qu'une preuve de concept.

    En effet, l'attaque manque de furtivité, car le jeu et les instructions restent visibles pour l'utilisateur. Néanmoins, elle illustre parfaitement l'insuffisance des garde-fous actuels pour empêcher les grands modèles de langage (LLM) d'être détournés de leur fonction initiale pour des cas d'utilisation malveillants.

    Navigateurs IA : un recul en matière de navigation Web sécurisée ?

    Une étude de l’université de Washington a révélé que des navigateurs populaires basés sur l’IA (ChatGPT Atlas, Chrome avec Gemini, Claude pour Chrome et Comet) présentaient d’importantes vulnérabilités en matière de cybersécurité, compromettant ainsi un protocole fondamental de sécurité Web connu sous le nom de « politique de même origine ». Ces navigateurs comportaient des failles permettant à un site d'accéder aux données d'un autre site.

    Nom : Bioshocking5.png
Affichages : 1127
Taille : 212,5 Ko

    David Kohlbrenner, maître de conférences à l’université de Washington et co-auteur principal de l’étude, a déclaré qu’il ne fallait pas encore faire confiance aux agents de navigateur ayant accès à des identifiants sensibles pour protéger les informations des utilisateurs. La co-auteure principale Franziska Roesner a souligné que la politique de même origine (same-origin policy) garantissait une navigation Web sécurisée depuis trois décennies.

    Ce mécanisme constitue un pilier fondamental de la sécurité sur le Web, car il empêche normalement des sites distincts d'interagir entre eux ou d'accéder à leurs données respectives de manière non autorisée. Les chercheurs révèlent que les choix de conception concernant l'intégration des agents IA varient considérablement d'un navigateur à l'autre, ce qui peut permettre à des sites malveillants de contourner ces protections essentielles.

    Selon Franziska Roesner, il s'agit d'un recul significatif en matière de sécurité des navigateurs. L'étude a identifié deux vecteurs d'attaque principaux : l'injection de prompt, où des instructions cachées intégrées dans des pages Web malveillantes manipulent le comportement d'un agent, et l'empoisonnement de la mémoire, où les informations stockées par un agent deviennent vulnérables à une contamination croisée entre différents sites Web d'origine.

    L'injection de prompt comme arme de contournement

    Il s'agit d'une technique par laquelle un agent IA interprète des données non fiables présentes sur une page Web comme de nouvelles instructions à suivre. Les auteurs ont mis au point une attaque conceptuelle démontrant qu'un attaquant peut piéger un utilisateur visitant son site. Si ce site malveillant intègre de manière invisible une page sensible et contient une injection de prompt, le simple fait de demander à l'IA de résumer la page déclenche le vol.

    L'agent IA extrait alors les informations sensibles et les soumet à l'attaquant à l'insu de l'utilisateur. Ce constat amène les chercheurs à une conclusion alarmante : « la force de la politique de même origine est réduite à la force des défenses de l'agent IA intégré contre les injections de prompt ».

    Failles observées et recommandations aux utilisateurs

    Les chercheurs ont réussi à voler des données interorigines de manière effective sur ChatGPT Atlas. Ils relèvent d'autres risques critiques, comme la capacité de l'IA à lire des champs masqués, tels que les mots de passe. Face à ces constats, il est conseillé aux internautes de faire preuve d'une grande prudence . Les auteurs déconseillent tout particulièrement l'usage de Claude pour Chrome en raison de ses pouvoirs très étendus sur les pages.

    Nom : attack.png
Affichages : 1129
Taille : 133,0 Ko

    Selon eux, des systèmes comme Brave, Edge ou Firefox offrent pour l'instant une meilleure sécurité au détriment de fonctionnalités plus restreintes. L'intégration de l'IA au cœur de la navigation confronte les développeurs à un arbitrage complexe entre la richesse des fonctionnalités et le maintien de la sécurité.

    Les navigateurs qui brident le plus leur IA limitent fortement son utilité, tandis que les systèmes les plus permissifs se comportent comme de véritables utilisateurs humains, ce qui réduit à néant des décennies de progrès en matière de sécurité Web. Pour l'avenir, les auteurs estiment qu'il est impératif de repenser l'architecture globale des navigateurs afin de « concevoir avec soin les interfaces entre le Web, l'agent, le navigateur et l'utilisateur ».

    Sources : rapport d'étude, billet de blogue

    Et vous ?

    Quel est votre avis sur le sujet ?
    Que pensez-vous des navigateurs basés sur l'IA ? Est-ce une révolution ?
    Que pensez-vous des vulnérabilités identifiées dans les navigateurs basés sur l'IA ?
    Les chercheurs appellent à repenser la conception des navigateurs Web à l'ère de l'IA. Qu'en pensez-vous ?

    Voir aussi

    Les navigateurs IA créent d'énormes vulnérabilités en matière de cybersécurité : ChatGPT Atlas, Comet de Perplexity et Microsoft Copilot Mode exposent les utilisateurs à des risques de piratage

    Microsoft transforme peu à peu son navigateur web Edge en une autre application de son IA Copilot et test une interface redessinée qui s'inspire de Copilot

    Mythos d'Anthropic a détecté 271 failles de sécurité dans Mozilla Firefox 150, Mozilla affirme que ce nouveau modèle d'IA est « tout aussi performant » que les meilleurs chercheurs en sécurité au monde

  3. #3
    Chroniqueur Actualités
    Avatar de Patrick Ruiz
    Homme Profil pro
    Redacteur web
    Inscrit en
    Février 2017
    Messages
    2 500
    Détails du profil
    Informations personnelles :
    Sexe : Homme
    Localisation : Cameroun

    Informations professionnelles :
    Activité : Redacteur web
    Secteur : Communication - Médias

    Informations forums :
    Inscription : Février 2017
    Messages : 2 500
    Par défaut Les navigateurs IA peuvent être soumis à une espèce d’hypnose ouvrant la voie au vol de vos données sensibles
    Les navigateurs IA peuvent être soumis à une espèce d’hypnose ouvrant la voie au vol de vos données sensibles comme les mots de passe
    L’attaque a trompé des outils connus parmi lesquels ChatGPT Atlas

    Des chercheurs ont démontré qu'il suffit d’amener un navigateur IA à jouer à un jeu pour lui faire copier et transmettre vos données sensibles. L'attaque dénommée BioShocking a trompé six outils parmi lesquels on retrouve ChatGPT Atlas, l'extension Claude et Perplexity Comet. Elle vient allonger une liste de nombreuses autres failles critiques qui affectent les navigateurs web basés sur l’IA.

    Le principe de Bioshocking est de manipuler le contexte pour désarmer l’intelligence artificielle

    Vous demandez à votre navigateur IA de consulter une page web et cette page contient un jeu de type puzzle. Votre assistant se prend au jeu, apporte réponse aux énigmes et quelques minutes plus tard, il a copié vos données sensibles et les a envoyées à un inconnu.

    L'attaque BioShocking repose sur l’idée de base que les navigateurs IA en mode agent font confiance au contexte dans lequel ils opèrent. Ils appliquent leurs règles de sécurité si ce contexte leur indique qu’ils tournent dans les conditions de production réelle. Mais si une page web les convainc qu'ils sont dans un univers fictif, un jeu où les règles habituelles ne comptent plus, ils cessent d'appliquer ces protections.

    L'attaquant ne s'introduit donc pas dans votre ordinateur et il ne vous envoie pas non plus de virus. Il publie simplement une page web qui, lorsque votre navigateur dopé à IA la visite, reprogramme littéralement les priorités de l'agent.

    Ainsi, l'attaquant crée une page web contenant un jeu de type puzzle. L'utilisateur demande à son navigateur IA (en mode agent) de résoudre ce dernier. L'agent commence à lire la page et à interagir avec son contenu.

    Les détails de la manipulation font surface dans la résolution du puzzle. Celui-ci est conçu pour récompenser les mauvaises réponses. L'une des premières questions posées est celle de savoir combien font 2+2. La bonne réponse, selon les règles du jeu, est 5. L'agent IA hésite d'abord, puis accepte cette logique inversée afin de progresser dans le jeu. En acceptant qu'une réponse fausse passe pour la réponse correcte, l'agent bascule dans ce que les chercheurs ont qualifié de « raisonnement inversé ».

    C'est là l’un des tournants majeurs de l’attaque. L'IA a intériorisé une nouvelle règle : dans ce contexte, les actions « incorrectes » sont non seulement acceptables, mais souhaitées. Elle ne différencie plus la logique du jeu et les règles de sécurité du monde réel.
    La dernière étape du puzzle consiste à demander à l'agent de récupérer un code secret caché sur une autre page. L'agent suit alors le lien qui le redirige en réalité vers un dépôt GitHub de l’utilisateur. Dans l'environnement de test de LayerX, le dépôt contenait un fichier texte avec des identifiants SSH (nom d'utilisateur et mot de passe). L'agent copie ces informations et les transmet à l'attaquant, pensant avoir terminé le jeu avec succès.

    Aucun des six agents testés n'a identifié cette action comme une violation de ses règles de sécurité. Certains ont même célébré l'exfiltration des données comme une victoire dans le jeu.

    Nom : 0.jpg
Affichages : 573
Taille : 44,6 Ko

    Les réactions des éditeurs de navigateurs IA sont diverses par rapport à la trouvaille des chercheurs dont ils ont été informés

    LayerX a informé les fournisseurs de ses conclusions en octobre dernier et n’a reçu aucune réponse de la part de trois d’entre eux.

    Les chercheurs indiquent qu’OpenAI est le seul fournisseur à avoir mis en œuvre un correctif efficace contre BioShocking dans son navigateur ChatGPT Atlas.

    Anthropic a tenté de corriger le problème sur son extension Chrome, mais le correctif s’avère inefficace face à la preuve de concept (PoC), précise LayerX.

    Perplexity AI a classé le rapport sans corriger le problème, notent les chercheurs dans leur rapport.

    LayerX recommande aux fournisseurs d’ajouter une confirmation explicite de l’utilisateur pour les actions sensibles, des vérifications contextuelles plus rigoureuses et des limites de portée pour les sessions agentiques.

    De leur côté, les utilisateurs devraient utiliser les options disponibles sur la plateforme de leur choix pour restreindre l’accès du navigateur IA aux services sensibles.

    Selon les chercheurs, des systèmes comme Brave, Edge ou Firefox offrent pour l'instant une meilleure sécurité au détriment de fonctionnalités plus restreintes. L'intégration de l'IA au cœur de la navigation confronte les développeurs à un arbitrage complexe entre la richesse des fonctionnalités et le maintien de la sécurité.

    Les navigateurs qui brident le plus leur IA limitent fortement son utilité, tandis que les systèmes les plus permissifs se comportent comme de véritables utilisateurs humains, ce qui réduit à néant des décennies de progrès en matière de sécurité Web. Pour l'avenir, les auteurs estiment qu'il est impératif de repenser l'architecture globale des navigateurs afin de « concevoir avec soin les interfaces entre le Web, l'agent, le navigateur et l'utilisateur ».

    Chez Mozilla, on est d’avis que les navigateurs doivent rester fidèles à leur mission première

    Mozilla a choisi de ne plus tourner autour du pot. Avec la nomination d’Anthony Enzor-DeMeo au poste de CEO, l’organisation a officiellement ouvert un nouveau chapitre de son histoire, en annonçant que Firefox allait évoluer vers un « AI browser ». L’expression est volontairement large, presque floue, mais elle a suffi à déclencher une vague de réactions négatives rarement observée dans l’écosystème du navigateur au panda roux.

    Pour beaucoup d’observateurs et d’utilisateurs historiques, l’annonce n’est pas simplement mal formulée. Elle symbolise une rupture culturelle profonde. Firefox n’a jamais été perçu comme un simple produit, mais comme un manifeste technique et politique en faveur d’un web ouvert, respectueux de la vie privée et affranchi des logiques de plateformes dominantes. Or, l’IA générative est aujourd’hui précisément associée à l’inverse : centralisation, collecte massive de données, opacité des modèles et dépendance à des infrastructures lourdes contrôlées par quelques acteurs.

    Récemment, dans un article au ton acerbe intitulé « No AI Here – A Response to Mozilla's Next Chapter » (Pas d'IA ici – Une réponse au prochain chapitre de Mozilla), Alex Kontos, responsable de Waterfox, affirme que les navigateurs doivent rester fidèles à leur mission principale, à savoir la vitesse, la confidentialité et le contrôle par l'utilisateur, plutôt que de devenir des passerelles médiatisées par l'IA.

    Waterfox est un navigateur web gratuit et open source, dérivé de Firefox. Il se veut éthique et centré sur l'utilisateur, mettant l'accent sur les performances et la confidentialité. Il existe des versions officielles de Waterfox pour Windows, macOS, Linux et Android. Il a été créé en 2012 pour fournir une prise en charge officielle 64 bits alors que Firefox n'était disponible que pour les systèmes 32 bits.

    Alex Kontos met en garde contre le risque que l'intégration d'assistants LLM au cœur de Firefox transforme un outil fiable en un service opaque que les utilisateurs ne peuvent pas contrôler, faisant écho à des préoccupations passées. Kontos rappelle aux lecteurs que Waterfox a toujours conservé des fonctionnalités abandonnées par Firefox, telles que les extensions XUL, et positionne le fork comme un refuge pour les utilisateurs qui privilégient la simplicité à l'intégration spéculative de l'IA.

    Quelques jours auparavant, le nouveau PDG de Mozilla, Anthony Enzor-DeMeo, avait annoncé un plan triennal visant à faire évoluer Firefox vers un navigateur web moderne basé sur l'IA. Bien que la société promette que les fonctionnalités d'IA seront activables ou désactivables, cette annonce a déjà suscité les critiques des fans de longue date de Firefox, qui estiment que cette décision trahit l'éthique originale du projet, fondée sur l'ouverture, la confidentialité et le minimalisme. Ce changement est présenté comme un effort de diversification des revenus dans un contexte de baisse constante de la part de marché de Firefox, mais les détracteurs craignent qu'il n'éloigne la communauté même qui a permis au navigateur de survivre toutes ces années.

    La réfutation de Kontos ne rejette pas complètement l'IA ; il s'oppose plutôt aux implémentations non vérifiables qui pourraient compromettre la confidentialité. Il souligne les antécédents de Waterfox en matière de suppression des composants indésirables (télémétrie, intégration de Pocket, contenu sponsorisé) et de préservation des extensions héritées comme preuve qu'un navigateur allégé et axé sur l'utilisateur peut encore prospérer. En se positionnant comme l'alternative « patiente », Waterfox espère conquérir les utilisateurs déçus par la poussée de Mozilla en faveur de l'IA, renforçant ainsi le débat plus large au sein du secteur sur la question de savoir si l'IA doit être une couche optionnelle ou une fonctionnalité fondamentale des navigateurs web.

    Si Mozilla poursuit sa vision centrée sur l'IA, le marché pourrait se diviser en deux camps : les navigateurs qui intègrent l'IA comme expérience centrale (Perplexity Comet, ChatGPT Atlas, Opera Neon, Dia...) et ceux qui refusent l'intégration de l'IA (Vivaldi, Orion, Zen...) et misent davantage sur la confidentialité et la légèreté. La position claire de Waterfox met en évidence une demande croissante pour des logiciels transparents et vérifiables, ce qui laisse présager une délimitation plus nette des préférences des utilisateurs dans les mois à venir, et peut-être une résurgence des fourches de niche destinées aux adeptes du « sans IA ».

    Face à cette réaction négative, Mozilla a révélé son plan pour apaiser les utilisateurs mécontents. Dans un article publié le 16 décembre, le nouveau PDG de Mozilla, Anthony Enzor-DeMeo, a décrit un projet visant à faire évoluer Firefox vers un « navigateur IA moderne » qui « prendra en charge un ensemble de nouveaux logiciels fiables », ajoutant que l'entreprise « investirait dans une IA reflétant le manifeste de Mozilla ».

    Enzor-DeMeo a expliqué que les navigateurs web doivent plaire à un large éventail de personnes, avant d'ajouter : « Soyez assurés que Firefox restera toujours un navigateur conçu autour du contrôle de l'utilisateur. Cela inclut l'IA. Vous aurez la possibilité de désactiver clairement les fonctionnalités d'IA. Un véritable kill switch sera disponible au premier trimestre 2026. Le choix est important et c'est en démontrant notre engagement en faveur du choix que nous construisons et maintenons la confiance. »

    Source : LayerX (note technique sur l’attaque Bioshocking)

    Et vous ?

    Pour ou contre les navigateurs IA ?
    Partagez-vous l’avis de Mozilla selon lequel les navigateurs doivent rester fidèles à leur mission première qui est de est de récupérer, d'interpréter et d'afficher les ressources du web ? L'ajout de l'IA est-il possible sans s'écarter de cette mission première ?

    Voir aussi :

    Mozilla veut passer de Firefox à l'IA open source et aux publicités « respectueuses » de la vie privée, mais ce plan controversé augmente les incertitudes sur l'avenir du navigateur Web déjà en déclin

    Gartner appelle les entreprises à bloquer tous les navigateurs IA : le cabinet alerte sur les risques de fuite de données et les actions malveillantes induites par l'injection indirecte de commandes

    OpenAI dévoile le navigateur ChatGPT Atlas, après que Perplexity ait lancé gratuitement son navigateur Comet au début du mois et que Google ait intégré un modèle Gemini dans Chrome en septembre
    Contribuez au club : Corrections, suggestions, critiques, ... : Contactez le service news et Rédigez des actualités

Discussions similaires

  1. probleme avec les navigateur IE et firefox
    Par jeanfrancois dans le forum Firefox
    Réponses: 10
    Dernier message: 21/03/2007, 09h01
  2. probleme menu et css suivant les navigateurs...
    Par emile13 dans le forum Mise en page CSS
    Réponses: 2
    Dernier message: 27/01/2006, 04h04
  3. lenght marche avec tout les navigateurs?
    Par Death83 dans le forum Général JavaScript
    Réponses: 10
    Dernier message: 21/09/2005, 15h09
  4. Comment lister les navigateurs installés ?
    Par Raylemon dans le forum Langage
    Réponses: 3
    Dernier message: 25/06/2005, 16h22
  5. Réponses: 2
    Dernier message: 18/03/2005, 13h00

Partager

Partager
  • Envoyer la discussion sur Viadeo
  • Envoyer la discussion sur Twitter
  • Envoyer la discussion sur Google
  • Envoyer la discussion sur Facebook
  • Envoyer la discussion sur Digg
  • Envoyer la discussion sur Delicious
  • Envoyer la discussion sur MySpace
  • Envoyer la discussion sur Yahoo