
Envoyé par
Microsoft
Pourquoi la sécurité est-elle importante ?
L'IA agentique dispose aujourd'hui de capacités puissantes : elle peut par exemple accomplir de nombreuses tâches complexes en réponse aux demandes des utilisateurs, transformant ainsi la manière dont ceux-ci interagissent avec leur PC. Malgré l'introduction de ces capacités, les modèles d'IA restent confrontés à des limitations fonctionnelles en termes de comportement et peuvent parfois produire des hallucinations et des résultats inattendus. De plus, les applications d'IA agentique introduisent de nouveaux risques de sécurité, tels que l'injection croisée de requêtes (XPIA), où des contenus malveillants intégrés dans des éléments de l'interface utilisateur ou des documents peuvent passer outre les instructions de l'agent, entraînant des actions involontaires telles que l'exfiltration de données ou l'installation de logiciels malveillants.
Alors que nous commençons à intégrer des capacités agentique dans Windows, nous nous engageons à inclure des contrôles de sécurité et de confidentialité robustes qui permettent aux clients d'explorer leur potentiel en toute confiance, grâce à des conseils clairs et des garde-fous appropriés guidés par ces objectifs.
Partager