Discussion :

[Eliora]

OpenAI va ajouter un filigrane invisible aux textes générés par ChatGPT et Codex dans l'UE pour se conformer aux règles de transparence de la loi européenne sur l'IA

OpenAI ajoutera un filigrane invisible aux textes générés par ChatGPT et Codex dans l'UE au cours des prochaines semaines. Cette modification concerne les utilisateurs éligibles, tous forfaits confondus, mais uniquement au sein de l'UE. OpenAI a précisé qu'elle agissait en réponse à la loi européenne sur l'IA, qui exige que les textes générés par l'IA soient identifiables par des machines. Ce système, baptisé « textGrain », ajoute un signal statistique caché aux choix lexicaux du modèle. L'article 50 de la loi sur l'IA impose aux fournisseurs d'IA générative de rendre leurs textes générés lisibles par machine, avec une échéance fixée au 2 décembre.

OpenAI est une société d'intérêt public (PBC) américaine spécialisée dans l'intelligence artificielle (IA), dont le siège social est situé à San Francisco, en Californie. Elle développe des modèles d'IA générative propriétaires, notamment sa série de grands modèles de langage « Generative Pre-trained Transformer » (GPT). Le lancement de ChatGPT en novembre 2022 est considéré comme ayant catalysé l'essor de l'IA ; en septembre 2026, ChatGPT est le cinquième site web le plus visité au monde. OpenAI commercialise également les modèles GPT Image et Codex, un agent de codage basé sur l'IA.

OpenAI ajoutera un filigrane invisible aux textes générés par ChatGPT et Codex dans l’UE au cours des prochaines semaines. Cette modification concerne les utilisateurs éligibles, tous forfaits confondus, mais uniquement au sein de l’UE, a indiqué la société récemment dans un article de blog. OpenAI a précisé qu’elle agissait en réponse à la loi européenne sur l’IA, qui exige que les textes générés par l’IA soient identifiables par des machines.

OpenAI ne rendra pas le tatouage numérique des textes obligatoire par défaut à l’échelle mondiale dès le lancement. Cette approche régionale lui permet de tirer des enseignements de l’utilisation concrète et des retours d’expérience, a-t-elle expliqué. Les clients de l’API, où qu’ils se trouvent, peuvent dès aujourd’hui choisir d’activer cette fonctionnalité pour certains modèles. Le tatouage numérique reste désactivé par défaut dans l’API. OpenAI a ajouté qu’elle collaborait également avec des partenaires cloud afin de proposer cette fonctionnalité sur ses modèles via leurs services.

Comment textGrain opère-t-il ?

Ce système, baptisé « textGrain », ajoute un signal statistique caché aux choix lexicaux du modèle. Un détecteur recherche ensuite ce signal. OpenAI a indiqué que textGrain égalait ou surpassait les autres approches testées, y compris SynthID de Google pour le texte. L’entreprise a publié un rapport technique rédigé en collaboration avec des chercheurs de l’université de Pennsylvanie et de Yale. Les résultats des tests de performance de son modèle Astra n’ont montré aucune différence significative lorsque le filigrane était activé, a déclaré OpenAI. L’entreprise prévoit également de publier cette technologie en open source.

Ses restrictions

OpenAI a également exposé les limites du système. Avec un taux de faux positifs cible de 1 %, son détecteur a identifié le filigrane dans environ 80 % des passages de 200 tokens portant sur des sujets tels que la psychologie. Pour les passages de 400 tokens, ce taux s’élevait à environ 95 %. Le remplacement de 10 % des mots par des synonymes a fait passer le taux de détection d’environ 92 % à 66 %. Le remplacement d’un quart des mots l’a ramené à 17 %. La détection était nettement plus faible en mathématiques, où le choix des mots est moins flexible, a précisé l’entreprise.

Le filigrane ne permet pas d’identifier l’utilisateur, de mesurer la contribution humaine, d’établir la propriété ou de vérifier l’exactitude, a précisé OpenAI. L’absence de filigrane ne prouve pas non plus que le texte ait été rédigé par un humain. Le texte pourrait être trop court, avoir été modifié ou traduit, ou provenir des outils d’une autre entreprise. « Ces limites ont motivé notre décision de ne donner accès au détecteur, dans un premier temps, qu’aux chercheurs agréés et aux organisations spécialisées, qui peuvent nous aider à évaluer la fiabilité et les utilisations responsables », a écrit OpenAI.

Les candidatures sont ouvertes dès aujourd’hui, et l’accès sera accordé au cas par cas, conformément au code de bonnes pratiques de l’UE, a précisé OpenAI. Le détecteur indique s’il détecte un filigrane OpenAI sans identifier l’utilisateur ni révéler les consignes de saisie. OpenAI a indiqué qu’il élargirait l’accès dès que les résultats pourraient être interprétés de manière responsable. Ses outils de vérification des images et des fichiers audio restent accessibles au public.

Le délai fixé par l’UE

L'article 50 de la loi sur l'IA impose aux fournisseurs d'IA générative de rendre leurs textes générés lisibles par machine. Les fournisseurs déjà présents sur le marché ont jusqu'au 2 décembre pour se conformer à cette exigence. Anthropic a commencé en août à apposer un filigrane sur les textes de Claude à l'échelle mondiale, avec quelques exceptions. Des outils permettant de supprimer ces filigranes d'IA ont depuis fait leur apparition. Google DeepMind a également apposé un filigrane sur des protéines conçues par l'IA à l'aide de SynthID.

En août 2026, Anthropic envisageait d'intégrer un marquage sémantique invisible dans les textes générés par son modèle d'IA Claude. Cette technique, appelée « stéganographie », influençait subtilement le choix des mots en privilégiant certaines probabilités, ce qui, selon les critiques, dégradait la précision et la qualité de l'écriture au profit de la traçabilité. Le programmeur américain John Gruber qualifiait cette pratique de « perversion de l'écriture », soulignant que même des synonymes proches modifiaient le sens profond d'une œuvre. De nombreux utilisateurs de Claude avaient résilié leurs abonnements, mais Anthropic avait déclaré n'avoir pas constaté de pic de résiliation.

Sources : OpenAI ; Rapport technique rédigé en collaboration avec des chercheurs de l'université de Pennsylvanie et de Yale ; Commission européenne

Et vous ?

Pensez-vous que cette annonce est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Anthropic va commencer à intégrer des filigranes invisibles dans les textes et les images générés par Claude, ces filigranes resteront visibles même lorsque le texte sera copié-collé ailleurs

Remove-AI-Watermarks : un nouvel outil CLI permettant de supprimer les filigranes visibles et invisibles des images générés par l'IA, menaçant d'aggraver l'invasion du Web par l'AI slop non identifié

Les chercheurs affirment que les filigranes actuels de l'IA sont faciles à supprimer, Microsoft a ajouté des filigranes dans Bing Image Creator et Google a conçu SynthID

[Artaeus]

Merci l'UE de baisser la qualité des IAs et de nous faire payer des tokens supplémentaires.
Certains ne comprennent toujours pas pourquoi l'UE ne produira jamais la moindre entreprise IA sérieuse avec autant de barrière ...

[Anselme45]

Merci l'UE de baisser la qualité des IAs et de nous faire payer des tokens supplémentaires.
Certains ne comprennent toujours pas pourquoi l'UE ne produira jamais la moindre entreprise IA sérieuse avec autant de barrière ...

Méchante, méchante UE qui empêche l'IA de faire baisser (un tout petit peu) le niveau intellectuel de ses utilisateurs!!!

L'UE n'a qu'une seule "barrière" à mettre: Obliger les promoteurs de l'IA à facturer leur services aux vrais prix que cela coûte y compris avec compensation intégrale de altérations de l'environnement!!!