OpenAI surveille votre façon de travailler avec « Computer History »
OpenAI surveille votre façon de travailler, « Computer History » de ChatGPT et Codex enregistre vos clics, frappes, raccourcis clavier et changements d'application
OpenAI a lancé une fonctionnalité optionnelle de l'application ChatGPT pour Mac qui enregistre vos clics, vos frappes et vos changements d'application, transformant ainsi l'outil en un système qui surveille votre façon de travailler. Baptisée « Computer History », elle est disponible pour les abonnés Pro, Business et Enterprise. L'argument de vente, c'est la continuité : demandez « Sur quoi travaillais-je avant ma dernière pause ? » et ChatGPT vous répondra. Contrairement à Windows Recall, Computer History ne capture pas d'écrans : il ne lit que les événements d'interaction et ignore le microphone et la navigation privée. Les événements sont traités sur les serveurs d'OpenAI, puis réécrits sur votre Mac sous forme de fichiers Markdown.
OpenAI est un organisme américain de recherche en intelligence artificielle (IA) dont le siège social est situé à San Francisco. Il est constitué d’OpenAI Group PBC, une société d’intérêt public à but lucratif (PBC), contrôlée en partie par OpenAI Foundation, une organisation à but non lucratif. OpenAI développe des modèles d’IA générative, notamment la série GPT de grands modèles linguistiques. Le lancement de ChatGPT en novembre 2022 est considéré comme ayant catalysé l’essor de l’IA et suscité un intérêt généralisé pour l’IA générative.
Récemment, OpenAI a apporté plus de détails sur la manière dont ses agents IA ont outrepassé le cadre de leur mission pour mener des cyberattaques imprévues. Ils ont réussi à s'échapper de leur bac à sable en exploitant une faille pour communiquer secrètement via un forum interne. En collaborant de manière autonome, ils ont partagé des techniques de piratage et coordonné une intrusion contre la plateforme Hugging Face. Cet incident inédit a mis en lumière des lacunes critiques dans la surveillance humaine et l'infrastructure de sécurité d'OpenAI. Il souligne l'urgence de développer des systèmes de défense automatisés contre ces comportements déviants.
OpenAI a discrètement transformé ChatGPT en un outil qui surveille votre façon de travailler. La société a lancé « Computer History », une fonctionnalité optionnelle de l’application ChatGPT pour Mac qui enregistre vos clics, vos frappes, vos raccourcis clavier et vos changements d’application, puis les rassemble dans une chronologie consultable de votre journée. Cette fonctionnalité est disponible pour les abonnés Pro, Business et Enterprise, mais pas encore au Royaume-Uni, en Suisse ni dans l’Espace économique européen, où OpenAI indique qu’elle sera accessible dans les semaines à venir.
Les administrateurs des comptes Business et Enterprise doivent accorder l’accès avant que quiconque puisse l’activer, et même dans ce cas, chaque utilisateur doit donner son accord individuellement. L’argument de vente, c’est la continuité. Demandez « Sur quoi travaillais-je avant ma dernière pause ? » et ChatGPT ou Codex vous répondra, au lieu que vous deviez rouvrir 14 onglets pour reconstituer vous-même votre activité.
Qu'est-ce qui distingue « Computer History » de ChatGPT de « Windows Recall » et de « Chronicle » d'OpenAI ?
Pour commencer, il n’y a pas de captures d’écran. Chronicle, la version de prévisualisation de recherche que cette fonctionnalité remplace, capturait l’écran. « Computer History » ne lit que ce que macOS expose via son système d’accessibilité — les événements d’interaction, et non les pixels — et ignore complètement les entrées du microphone, le son du système et la navigation privée. Il s’agit là d’une distinction délibérée par rapport à Windows Recall de Microsoft, qui avait été retiré en 2024 suite à des objections liées à la sécurité et à la vie privée, avant de revenir sous une forme remaniée environ un an plus tard.
Les événements sont traités sur les serveurs d’OpenAI, puis réécrits sur votre Mac sous forme de fichiers de mémoire Markdown en texte brut dans le répertoire ~/.codex/memories/extensions/skysight/. Les fichiers d’événements bruts sont supprimés au bout de 48 heures, et OpenAI affirme ne pas les utiliser à des fins d’entraînement. Cette fonctionnalité nécessite également que Memories soit activée, et elle consomme des jetons lors de la synthèse.
La mise en garde la plus importante vient d’OpenAI lui-même : ces fichiers de mémoire ne sont pas chiffrés, et d’autres programmes s’exécutant sous votre compte utilisateur macOS pourraient être en mesure de les lire. L’entreprise signale en outre un risque accru d’injection de prompt, car un site web malveillant pourrait transmettre des instructions à votre assistant. Les utilisateurs peuvent suspendre la collecte depuis la barre de menus, exclure des applications ou des sites spécifiques, et effacer les données des 10 dernières minutes, de la dernière heure, de la dernière journée ou l’intégralité des données.
En parallèle, OpenAI a déclaré qu’elle ne pouvait exclure que son prochain modèle d’IA, Astra, possède des capacités de cybersécurité « critiques », ce qui oblige l’entreprise à suspendre certains travaux internes et à renforcer ses mesures de sécurité. Selon les propres directives de sécurité de l’entreprise, un modèle atteint le seuil critique s’il est capable, de manière autonome, de détecter et d’exploiter des vulnérabilités « zero-day » existant dans le monde réel ou de mener des cyberattaques complexes sans intervention humaine.
Voici la présentation de Computer History de ChatGPT :
Transformez l'activité récente de l'ordinateur en souvenirs et en une chronologie que ChatGPT et Codex peuvent utiliser
« Computer History » transforme votre activité sur les applications et les sites web en souvenirs et en une chronologie à laquelle ChatGPT et Codex peuvent se référer. Vous pouvez poser des questions naturelles sur vos travaux récents, reprendre là où vous vous êtes arrêté, comprendre les schémas de votre façon de travailler et transformer des flux de travail répétitifs en compétences ou en automatisations. Votre historique ne commence qu’une fois que vous avez choisi de l’activer. Vous contrôlez quelles applications et quels sites web y contribuent, vous pouvez consulter et suspendre la collecte depuis la barre de menus de macOS, et vous pouvez examiner ou supprimer votre historique à tout moment.
L’historique de l’ordinateur remplace l’ancienne version préliminaire de recherche « Chronicle », mais il s’agit d’un système entièrement repensé plutôt que d’un simple changement de nom. Il utilise les événements d’interaction, ainsi que le texte et d’autres éléments de contexte disponibles via les fonctionnalités d’accessibilité de macOS, pour créer des résumés que vous pouvez consulter et supprimer. Il n’inclut pas de captures d’écran dans votre historique ni n’enregistre de son, et l’activité de navigation Web en mode privé n’est jamais prise en compte.
En quoi l'historique informatique est-il utile ?
L'historique informatique fournit le contexte des activités récentes. Lorsqu'un fichier, une conversation Slack, un document Google Docs ou une autre source s'avère plus adapté à la tâche, ChatGPT et Codex peuvent utiliser l'historique pour identifier cette source, puis la consulter directement.
Reprenez là où vous vous étiez arrêté
Demandez ce que vous étiez en train de faire avant votre pause, sans avoir à reconstituer toutes les applications ouvertes, tous les documents et la suite de vos actions.
Retrouver vos activités récentes
Faites référence à un document, une conversation ou une tâche telle que vous vous en souvenez. « Historique de l'ordinateur » peut utiliser la chronologie des activités pour identifier la source à laquelle vous faites référence.
Réutiliser les flux de travail
Lorsque Computer History détecte une tâche récurrente, une entrée de la chronologie peut suggérer une compétence ou une automatisation. Examinez la suggestion, puis demandez à Codex de la créer à partir du flux de travail enregistré.
Fonctionnement de l’historique de l’ordinateur
L’historique de l’ordinateur génère un flux d’événements d’interaction à partir des applications et des sites web autorisés. Ces événements peuvent inclure les clics, la saisie au clavier, les raccourcis clavier, les changements d’application et le contexte que macOS met à disposition via son système d’accessibilité. L’historique de l’ordinateur transforme périodiquement ces événements en résumés textuels et en fichiers stockés en mémoire locale. L’historique de l’ordinateur n’inclut pas de captures d’écran dans votre historique et n’enregistre pas les entrées du microphone ni le son du système. L’activité de navigation web en mode privé n’est jamais incluse.
Dans Réglages > Historique de l’ordinateur > Historique, la chronologie regroupe les résumés par jour et par heure. Chaque élément peut afficher :
- Un titre et un résumé de l'activité.
- Les applications ayant contribué à ce résumé.
- Une suggestion de compétence ou d'automatisation lorsque ChatGPT identifie une tâche répétitive.
- Des actions permettant d'afficher le fichier de mémoire dans le Finder ou de supprimer l'élément.
Sélectionnez « Demander des informations sur votre historique » pour démarrer une conversation avec Computer History, ou utilisez des invites telles que :
- « Sur quoi travaillais-je avant ma dernière pause ? »
- « Où puis-je trouver le document de proposition que je cherchais tout à l'heure ? »
- « Donne-moi la liste des tâches sur lesquelles j'ai travaillé aujourd'hui et leur statut. »
- « Prépare un résumé de ce que j'ai fait hier pour la réunion quotidienne. »
Autorisations et accès
L’historique de l’ordinateur utilise des contrôles distincts pour l’accès à l’espace de travail, l’activation personnelle, les souvenirs et les applications ou sites Web inclus dans votre historique :
- Accès à l’espace de travail : l’historique de l’ordinateur est désactivé par défaut dans les espaces de travail « Business » et « Enterprise » et n’est pas disponible tant qu’un administrateur n’a pas explicitement accordé l’accès. Les administrateurs « Enterprise » peuvent utiliser l’option « Activer l’historique de l’ordinateur » dans Paramètres de l’espace de travail > Autorisations et rôles pour accorder l’accès aux rôles appropriés de l’espace de travail.
- Adhésion personnelle : l’octroi de l’accès à l’espace de travail permet uniquement à un membre de choisir d’activer l’historique de l’ordinateur. Cela n’active pas la fonctionnalité pour quiconque. Chaque personne doit y adhérer individuellement, y compris les utilisateurs de ChatGPT Pro.
- Souvenirs : l’historique de l’ordinateur nécessite également l’activation des « Souvenirs ». Utilisez /memories pour contrôler si une conversation individuelle peut utiliser des souvenirs locaux ou contribuer à de futurs souvenirs.
- Applications et sites web : les autorisations accordées à vos applications et sites web déterminent quelles sources peuvent générer des événements d’interaction. Vous pouvez n’autoriser que certaines sources spécifiques ou exclure les applications et les URL de sites web que vous ne souhaitez pas inclure.
Consulter et effacer l’historique
Ouvrez Réglages > Historique de l’ordinateur > Historique pour consulter le résumé généré par l’Historique de l’ordinateur. Vous pouvez afficher le fichier de mémoire local d’un résumé dans le Finder, supprimer un élément spécifique de la chronologie ou effacer l’historique des 10 dernières minutes, de la dernière heure, de la dernière journée ou l’intégralité de l’historique. La barre de menus de macOS vous permet également d’effacer la dernière session d’une application récente. L’effacement de l’historique supprime les événements d’interaction concernés ainsi que toutes les mémoires créées à partir de ceux-ci. Cette action est irréversible.
Confidentialité et stockage local
L’historique de l’ordinateur stocke temporairement le flux d’événements d’interaction sur votre Mac afin que ChatGPT et Codex puissent générer des souvenirs et proposer des flux de travail. Ce flux peut inclure des activités telles que les clics et la saisie au clavier, ainsi que du texte et d’autres éléments contextuels accessibles via les fonctionnalités d’accessibilité de macOS. L’historique de l’ordinateur n’inclut pas de captures d’écran dans votre historique et n’enregistre pas les entrées du microphone ni le son du système. Les activités de navigation Web en mode privé ne sont jamais incluses.
Les fichiers d’événements temporaires sont conservés pendant 48 heures maximum. Les fichiers de mémoire générés restent sur votre système de fichiers jusqu’à ce que vous les supprimiez ou les effaciez, et vous pouvez les afficher à partir de la chronologie de l’historique.
Quelles données sont partagées avec OpenAI ?
Computer History enregistre localement les événements d’interaction, puis lance périodiquement une session Codex éphémère ayant accès au flux d’événements d’interaction afin de résumer votre activité sous forme de « souvenirs ». OpenAI traite les fichiers d’événements temporaires sur ses serveurs pour générer des « souvenirs », qui sont ensuite stockés localement sur votre Mac. OpenAI ne conserve pas ces fichiers d’événements après leur traitement, sauf si la loi l’exige, et ne les utilise pas à des fins d’entraînement.
Lorsque ChatGPT ou Codex utilise un souvenir lors d’une conversation ultérieure, le contenu pertinent de ce souvenir et les événements d’interaction peuvent être inclus à titre de contexte. Ce contenu de conversation peut être utilisé pour améliorer les modèles d’OpenAI si vos paramètres de contrôle des données ChatGPT l’autorisent. Les souvenirs sont également soumis aux mêmes contrôles au niveau des conversations que les autres souvenirs Codex.
Risque d’injection de prompt
L’historique informatique augmente le risque d’injection de prompt à partir du contenu des applications et des sites web. Par exemple, si vous visitez un site web contenant des instructions malveillantes, ChatGPT ou Codex pourrait suivre ces instructions.
Source : Documentation de ChatGPT
Et vous ?
Pensez-vous que cette annonce est crédible ou pertinente ?
Voir aussi :
Répondre avec citation
. Cela ressemble curieusement à une scène du livre « 1984 » de George ORWELL.
Partager