Discussion :

[Eliora]

Anthropic va commencer à intégrer des filigranes invisibles dans les textes et les images générés par Claude, ces filigranes resteront visibles même lorsque le texte sera copié-collé ailleurs

Anthropic a révélé que Claude intégrera discrètement des filigranes invisibles dans les textes générés par l'IA, ces marqueurs pouvant potentiellement subsister même lorsque le texte est copié-collé ailleurs. L'entreprise ajoutera également des métadonnées de provenance signées numériquement aux fichiers image, conformément à la norme C2PA, dans le cadre de sa mise en conformité avec les nouvelles exigences de transparence prévues par la loi européenne sur l'IA. Ces marqueurs seront appliqués au niveau du modèle sur l'ensemble des produits et interfaces Claude. Le déploiement sera mondial et ne se limitera pas à l'UE. Toutefois, le système n'est pas infaillible, car les métadonnées peuvent être supprimées et les filigranes textuels peuvent devenir plus difficiles à détecter.

Le 1er août 2024, le règlement sur l’intelligence artificielle (IA) de l’Union européenne est entré en vigueur. Cette législation vise à encourager le développement et l’adoption de systèmes d’IA sûrs et fiables sur le marché unique de l’UE, tant par les acteurs privés que publics. Elle s’efforce également de garantir le respect des droits fondamentaux des citoyens de l’UE tout en stimulant les investissements et l’innovation dans le domaine de l’IA en Europe.

Anthropic, PBC, est une société américaine d'intérêt public spécialisée dans l'IA, dont le siège social est situé à San Francisco, en Californie, et qui a été fondée dans le but de promouvoir la sécurité de l'IA. Son produit phare est Claude, une série de grands modèles de langage (LLM). Anthropic a été fondée en 2021 par d'anciens membres d'OpenAI, notamment les frère et sœur Daniela Amodei et Dario Amodei, respectivement présidente et PDG. La société est privée mais prévoit d'entrer en bourse. En mai 2026, sa valorisation était estimée à 965 milliards de dollars, ce qui en fait la société spécialisée exclusivement dans l'IA la plus valorisée au monde.

Anthropic a révélé que Claude intégrera discrètement des filigranes invisibles dans les textes générés par l’IA, ces marqueurs pouvant potentiellement subsister même lorsque le texte est copié-collé ailleurs. L’entreprise ajoutera également des métadonnées de provenance signées numériquement aux fichiers image pris en charge, conformément à la norme C2PA, dans le cadre de sa mise en conformité avec les nouvelles exigences de transparence prévues par la loi européenne sur l’IA (EU AI Act), entrée en vigueur le 2 août.

Ces marqueurs seront appliqués au niveau du modèle sur l’ensemble des produits et interfaces Claude, notamment Claude, Claude Code, Claude Cowork, Claude Tag, l’API de la plateforme Claude, ainsi que des services tiers tels qu’AWS, Google Cloud et Microsoft Foundry. Les nouveaux modèles Claude intégreront ce système dès leur lancement, tandis qu’Anthropic travaille encore à l’ajouter aux modèles existants. Le déploiement sera mondial et ne se limitera pas à l’UE.

Anthropic développe également des outils et de la documentation technique afin que les utilisateurs et les tiers puissent détecter ces marqueurs. Il convient également de noter qu’un marqueur détecté indique uniquement que Claude a peut-être traité le contenu, et non qu’il l’a rédigé à l’origine. Cela peut s’appliquer même si l’utilisateur n’a utilisé Claude que pour des tâches mineures telles que la correction grammaticale ou la traduction de texte. Toutefois, le système n’est pas infaillible, car les métadonnées C2PA peuvent être supprimées, tandis que des modifications importantes, des paraphrases, des traductions ou des passages courts peuvent rendre les filigranes textuels plus difficiles à détecter.

Après des années de négociations et d’ajustements réglementaires, l’UE se verra désormais dotée de nouveaux pouvoirs étendus pour réglementer les grands modèles d’IA à usage général. À partir du 2 août, la Commission pourra exiger des informations auprès des fournisseurs de modèles, mener des évaluations de sécurité, ordonner des mesures correctives, retirer des modèles du marché de l’UE et même infliger des amendes pouvant atteindre 3 % du chiffre d’affaires annuel total. Le véritable défi sera de savoir si la Commission est disposée à les utiliser et si elle en a les moyens.

Voici les explications de Claude :

Comment Claude identifie les contenus générés par l'IA

Anthropic a signé le code de bonnes pratiques relatif à la transparence des contenus générés par l’IA, prévu à l’article 50, paragraphe 2, de la loi européenne sur l’IA, en tant que fournisseur à la fois de modèles et de systèmes d’IA générative. Cet article décrit comment nous comptons mettre en œuvre ces engagements, comment fonctionne le marquage et quelles en sont les limites. Nous mettrons à jour cet article et publierons des recommandations techniques plus détaillées dès qu’elles seront disponibles.

Mentions lisibles par machine dans les contenus générés par Claude

À mesure que les contenus générés par l’IA se généralisent, une plus grande transparence et des indications sur la provenance de ces contenus peuvent fournir aux utilisateurs un contexte utile concernant les informations qu’ils consultent. Afin de favoriser la transparence et de respecter nos obligations légales, Anthropic s’efforce d’intégrer des mentions lisibles par machine dans les contenus générés par Claude.

Ce qui est concerné

Modèles. Les modèles Claude lancés à compter du 2 août 2026 prennent en charge l’apposition de filigranes dès leur lancement. Nous travaillons également à l’ajout de cette fonctionnalité pour les modèles Claude publiés avant cette date, et nous mettrons à jour cet article dès qu’elle sera disponible.

Produits. Les filigranes Claude s’appliquent aux résultats générés par les modèles pris en charge partout où vous utilisez Claude, notamment sur la plateforme Claude (API), Claude, Claude Code, Claude Cowork et Claude Tag. Les filigranes intégrés s'appliqueront à tous les textes générés. Les métadonnées de provenance s'appliqueront lorsque Claude prend en charge le traitement des fichiers.

Partenaires cloud. Les filigranes intégrés s'appliqueront lorsque les modèles Claude pris en charge sont accessibles via AWS, Google Cloud ou Microsoft Foundry. Les métadonnées de provenance signées peuvent ne pas être prises en charge sur toutes les plateformes, en fonction des fonctionnalités offertes par chacune d'entre elles.

Régions. Le marquage s'appliquera aux résultats générés par les modèles pris en charge partout où Claude est proposé, dans le monde entier.

Comment Claude marque le contenu

Claude utilise deux techniques complémentaires pour marquer le contenu qu’il génère et traite : des filigranes intégrés au texte, et des métadonnées de provenance signées associées aux fichiers.

1. Filigranes intégrés au texte
   
   Lorsqu’un modèle Claude pris en charge génère du texte, il y intègre directement un filigrane imperceptible. Vous ne le verrez pas, et cela ne modifie en rien le sens, la qualité ou la lisibilité de la réponse de Claude. Comme le filigrane fait partie intégrante du texte, il sera transféré avec celui-ci lorsqu’il sera copié et collé ailleurs, et pourra persister malgré certaines modifications. L’application du filigrane se fera au niveau du modèle, ce qui signifie qu’il sera présent quel que soit le produit ou l’interface Claude d’où provient le texte.
   
   
2. Métadonnées de provenance signées
   
   Lorsque Claude génère un type de fichier pris en charge, tel qu’un fichier .svg, .png ou .jpg, il y joint des métadonnées de provenance signées. Ces métadonnées respectent la norme ouverte de la Coalition for Content Provenance and Authenticity (C2PA), utilisée dans l’ensemble du secteur pour enregistrer des informations sur la provenance du contenu. La présence d’une étiquette de métadonnées signée indique qu’un fichier a été traité par Claude et vous permet de détecter si le fichier a été altéré.

Détection des marques de Claude

Nous travaillons également à permettre aux utilisateurs et à d’autres tiers de détecter les filigranes intégrés et les métadonnées de provenance de Claude. La détection consiste à vérifier si un texte ou un fichier comporte une marque Claude prise en charge. Si une telle marque est détectée, cela indique que le contenu a peut-être été traité par Claude. Nous partagerons plus de détails sur les mécanismes de détection dans une documentation technique à paraître prochainement.

Limites

Les balises lisibles par machine fournissent des informations importantes sur le contenu, mais il est utile de bien comprendre leurs limites pour tous les types de contenu.

• La détection d'une balise indique que le contenu a été traité par Claude, mais ce n'est pas une preuve irréfutable.
  
  La présence d'une mention « Claude » indique que le contenu a peut-être été traité par Claude. Elle ne suffit pas à elle seule à confirmer la provenance complète du contenu. Par exemple :
  
  
  • Claude n'est peut-être pas l'auteur d'origine. Les utilisateurs ont souvent recours à Claude pour relire, traduire, résumer ou convertir des fichiers. Le résultat peut porter la mention « Claude » même si les idées, le texte ou les données sous-jacentes proviennent d'une autre source ;
  • Le contenu peut avoir été modifié après son traitement par Claude. Le contenu marqué peut être modifié, extrait ou combiné avec d'autres éléments après son traitement par Claude.
  
  
• L'absence de mention n'implique pas que le contenu n'ait pas été généré ou traité par une IA.
  
  
  • Le contenu généré par Claude peut ne pas comporter de marque identifiable si, par exemple :
  • Il a été généré par un modèle publié avant que la prise en charge du marquage ne soit disponible ;
  • Le texte a été fortement modifié, paraphrasé, traduit ou intégré à d'autres textes ;
  • Le passage est très court, ce qui ne laisse pas suffisamment de texte pour obtenir un signal fiable ;
  • Les métadonnées d'un fichier ont été supprimées lors d'une conversion de format, d'un nouvel enregistrement, de la création de captures d'écran ou par d'autres moyens ;
  • Il a été produit via une plateforme, une fonctionnalité ou un type de fichier ne prenant pas en charge un type de marquage particulier.
  
  

Si vous développez une solution avec Claude

Si vous intégrez Claude dans votre propre produit, il vous appartient d’évaluer de manière indépendante les exigences de l’article 50 applicables à vos produits et services. Conformément à nos engagements pris dans le cadre du Code de l’UE, notre objectif est de vous aider à respecter vos propres obligations en matière de transparence, et nous partagerons des conseils techniques sur notre approche en matière de marquage et de détection dès qu’ils seront disponibles.

Source : Assistance Claude

Et vous ?

Pensez-vous que cette annonce est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Les experts sont sceptiques quant à l'efficacité d'une norme mondiale en matière de filigrane visant à étiqueter les contenus générés par l'IA, pour empêcher la désinformation et la manipulation

Google pose désormais des filigranes sur ses textes générés par l'intelligence artificielle, des observateurs sont d"avis que l"approche ne constitue pas une solution pratique pour tout le monde

Remove-AI-Watermarks : un nouvel outil CLI permettant de supprimer les filigranes visibles et invisibles des images générés par l'IA, menaçant d'aggraver l'invasion du Web par l'AI slop non identifié

[Anselme45]

Anthropic va commencer à intégrer des filigranes invisibles dans les textes et les images générés par Claude, ces filigranes resteront visibles même lorsque le texte sera copié-collé ailleurs

Prochaine étape?

Facturer des droits d'auteur à tous les "neuneux" qui ont utilisé les outils de Anthropic pour leur oeuvres!!!

Cela va finir par devenir cher de produire des images de la voisine du 3ème en petite tenue...

[jbaipro]

"ces filigranes resteront visibles même lorsque le texte sera copié-collé ailleurs" ah oui? comment?

[Pierre Louis Chevalier]

C'est expliqué clairement dans l'article

[Nb]

C'est expliqué clairement dans l'article

ah ok moi je vois pas d explication claire. Juste des termes generiques "marques", "filigrane"...etc
Et effectivement d un point de vue technique je trouverai interessant qu ils expliquent comment ils font pour du texte brut.

[kain_tn]

ah ok moi je vois pas d explication claire. Juste des termes generiques "marques", "filigrane"...etc
Et effectivement d un point de vue technique je trouverai interessant qu ils expliquent comment ils font pour du texte brut.

S'ils l'expliquent en détails, les gens pourront facilement le contourner, car il est porté par le texte lui-même, pas par les caractères.

En gros, ça pourrait une tournure de style, une séquence de mots, des répétitions, etc, car les conditions ci-dessous ne permettent pas de retrouver le filigrane:

Le texte a été fortement modifié, paraphrasé, traduit ou intégré à d'autres textes ;
Le passage est très court, ce qui ne laisse pas suffisamment de texte pour obtenir un signal fiable ;

Et pour les images, ce sera probablement dans les métadonnées (ça m'étonne que ça ne soit pas déjà le cas, d'ailleurs). Bref, il suffira de stripper les métadonnées du fichier, qu'elles soient signées ou non

[Nb]

Pour les images ou son ou videos y a pas de probleme, y a pleins de moyens.
Pour du texte brut je ne vois pas. Car des tournure ou un style ca pourrait marcher pour de la prose, pour du code par exemple c est plus compliqué.
De toutes manieres ils le disent bien que c est pour faire semblant de se conformer à la loi et que ca n est pas fiable.

[Pierre Louis Chevalier]

L'annonce parles aussi de Claude code, alors comment faire le filigrane dans ce cas sans polluer le code ? les commentaires ?
Ceci dit pour un problème donné il y a souvent 1000 façons de le solutionner par un code différent, donc c'est bien possible qu'ils soient capables aussi de marquer du code, par exemple avec un nom de variable ou autres solutions.


Pour ceux qui n'ont toujours par compris que c'est expliqué a la suite dans la partie technique :

Filigranes intégrés au texte

Lorsqu’un modèle Claude pris en charge génère du texte, il y intègre directement un filigrane imperceptible. Vous ne le verrez pas, et cela ne modifie en rien le sens, la qualité ou la lisibilité de la réponse de Claude. Comme le filigrane fait partie intégrante du texte, il sera transféré avec celui-ci lorsqu’il sera copié et collé ailleurs, et pourra persister malgré certaines modifications. L’application du filigrane se fera au niveau du modèle, ce qui signifie qu’il sera présent quel que soit le produit ou l’interface Claude d’où provient le texte.

Si une personne utilise ce texte non modifié, ça veux dire que le détecteur serait capable de savoir par exemple si un étudiant a fait sa diserte avec une IA, un chercheur à fait son projet de recherche avec une IA, etc...

Il existe déjà des outils automatique de paraphrase, peut être que ce genre d'outil ferait disparaitre le filigrane, ou alors encore traduire dans un langage puis le retraduire vers le langage d'origine ferait aussi disparaitre ce filigrane.

Si Anthropic met à disposition cet outil au lieu de le garder pour lui par exemple pour les procès, ça voudrait dire qu'un utilisateur IA pourrais utiliser cet outil lui même sur ces travaux pour vérifier que sa solution d'éradication des filigranes a bien fonctionné.

Facile de penser que des prestataires cloud ou de modules add-ons vont proposer une surcouche pour gérer ça automatiquement

Si la Chine ne pas met en place de filigranes sur ses IA, ça risquerais en sus d'un coup 10 fois moindre voir gratuit pour les modèles locaux open source d'accentuer la migration des utilisateurs des modèles US vers les modèles chinois.

[Mathis Lucas]

Anthropic ajoute un filigrane invisible à Claude pour se conformer à l'AI Act de l'UE. Il s'applique aux contenus générés de toutes pièces, mais aussi aux écrits humains modifiés par l'IA
ce qui est décrié

Anthropic va intégrer des filigranes invisibles à l'ensemble des contenus traités par Claude afin de se conformer au règlement « AI Act » de l'Union européenne. Cette mesure s'appliquera non seulement aux textes générés de toutes pièces, mais aussi aux écrits humains ayant subi de simples modifications comme des corrections grammaticales. Bien que cette initiative vise à accroître la transparence et la responsabilité, elle suscite une vive controverse parmi les utilisateurs qui craignent une stigmatisation de leur travail personnel. De plus, ces filigranes pourraient être facilement altérés, entraînant des interprétations erronées sur l'origine réelle des documents.

Le règlement sur l’intelligence artificielle de l’Union européenne (AI Act) est entré en vigueur le 1er août 2024. Cette législation vise à encourager le développement et l’adoption de systèmes d’IA sûrs et fiables sur le marché unique de l’UE, tant par les acteurs privés que publics. Elle s’efforce également de garantir le respect des droits fondamentaux des citoyens de l’UE, tout en stimulant les investissements et l’innovation dans l'IA en Europe.

Pour se conformer à la législation, Anthropic va intégrer des filigranes invisibles dans les textes produits par son assistant d'IA Claude. L'entreprise a choisi de déployer ces filigranes invisibles de manière globale sur tous ses nouveaux modèles à l'échelle internationale, et non pas uniquement au sein de l'UE.

Mais cette décision a déclenché un véritable tollé parmi les utilisateurs. Anthropic marquera systématiquement tous les textes générés (ou traités) par ses modèles de langage. Cela signifie que même des modifications mineures, comme de simples corrections grammaticales ou des reformulations, recevront cette étiquette numérique invisible alors même que la loi européenne exempte explicitement les fonctions d'assistance à l'édition standard.

Fonctionnement technique et limites d'efficacité du système

« Les textes générés comporteront des filigranes intégrés, invisibles pour l’utilisateur, et les autres fichiers générés incluront des métadonnées de provenance signées numériquement lorsque cela est pris en charge », précise un billet de blogue de l'entreprise. Le filigrane textuel est intégré directement au niveau du modèle en influençant subtilement le choix des mots selon une structure détectable par un outil spécialisé conçu par l'entreprise d'IA.

Il convient de noter qu’Anthropic adopte une approche radicale, en appliquant les filigranes à l’ensemble du contenu traité lorsque cela est pris en charge, même si l’UE ne l’exige pas dans les cas où un système d’IA remplit « une fonction d’assistance pour l’édition standard » (l’exemple donné dans les lignes directrices est la correction grammaticale), ou lorsqu’il ne modifie pas de manière substantielle le texte de l’utilisateur ou sa signification.

De plus, cette empreinte numérique invisible comporte un inconvénient majeur : le modèle d'IA peut être contraint d'échanger un terme optimal contre un mot légèrement moins adapté pour préserver l'intégrité du signal. Un filigrane appliqué au niveau du modèle ne permet pas de distinguer la génération en masse d’une simple correction ponctuelle ; Claude pourrait donc finir par marquer précisément le contenu que la loi vise à laisser intact.

En bref, on ne saura pas dans quelle mesure ce filigrane est réellement efficace tant qu’Anthropic n’aura pas publié un outil de détection pouvant être testé. Le laboratoire a également précisé que les filigranes ne fonctionneront pas sur « certaines plateformes ou fonctionnalités » qui ne les prennent pas en charge. Pour les contenus non textuels, Anthropic s'appuiera sur l’approche des métadonnées C2PA afin d’en enregistrer la provenance.

Les filigranes d'Anthropic suscitent la colère des utilisateurs

Alors que les régulateurs européens ont salué cette évolution, certains utilisateurs ont fait part de leur frustration. Sur Reddit, des détracteurs ont fait valoir que le système de filigrane exposait injustement des cas d’utilisation courante, qu’il s’agisse d’étudiants réorganisant des paragraphes ou de journalistes résumant des transcriptions. Certains critiques vont même jusqu'à affirmer que cette pratique est « contraire à l’éthique et répugnante ».

« Claude n’était qu’un simple outil destiné à faciliter le travail humain, mais nous nous retrouvons désormais avec une balise qui attribuera chacune de nos productions à l'IA. C'est un véritable problème pour les particuliers et les entreprises qui ont des agents IA autonomes dans leurs processus », a écrit un critique.

« Un enseignant pourrait faussement suspecter un élève de plagiat intégral en détectant la marque Claude, même si l'étudiant a rédigé lui-même son devoir et a uniquement sollicité l'IA pour corriger son style ou sa grammaire. C'est un casse-tête pour les utilisateurs ». Pourtant, la non-conformité aux règles de l'AI Act expose Anthropic à de lourdes amendes pouvant atteindre 15 millions d'euros ou 3 % de son chiffre d'affaires mondial.

Tous les utilisateurs ne sont toutefois pas indignés. Certains défendent le filigrane comme une mesure de protection raisonnable, affirment qu’il permettrait de détecter les contenus générés par l’IA dans des contextes à haut risque. « Il n’y a littéralement aucun argument valable pour expliquer pourquoi ce n’est pas une bonne idée », a écrit un internaute, ajoutant que la seule raison de s’y opposer serait de vouloir induire les autres en erreur.

Des filigranes finalement peu fiables et faciles à contourner

L’approche décrite par l’UE et mise en œuvre par Anthropic s'avère en effet facile à contourner pour les acteurs malveillants, et risque de pénaliser les utilisateurs qui font confiance au système pour étiqueter avec précision leurs résultats. Selon Anthropic, les filigranes textuels fonctionnent en biaisant les choix lexicaux du modèle selon un schéma réparti sur l’ensemble du document, détectable uniquement de manière globale par l’outil approprié.

Le hic, c’est que cette « invisibilité » peut signifier que le modèle troque parfois le meilleur mot contre un autre légèrement moins bon, simplement pour préserver le signal. Anthropic a précisé que ces marques suivront le texte lorsqu’il sera copié et collé ailleurs, et pourraient subsister après certaines modifications. Toutefois, si un texte comportant un filigrane est collé dans un autre outil d'IA qui modifie le texte, le filigrane pourrait être détruit.

En ce qui concerne les contenus image et vidéo, il suffira également de faire une capture d’écran, d’enregistrer la vidéo ou d’utiliser n’importe quel outil d’édition de métadonnées digne de ce nom pour supprimer ces informations. Anthropic prévoit également de révéler au monde entier comment identifier ces filigranes. Une cela fait, mettre au point un système permettant de les supprimer ne sera qu’un jeu d’enfant pour les passionnés.

De plus, le risque d’interprétation erronée semble élevé ; le filigrane n’est pas particulièrement informatif. Selon Anthropic, une marque détectée indique que le contenu a été traité par Claude, mais n’est pas totalement concluante. « Le seul véritable message que transmet cette marque est que le contenu a peut-être été traité par Claude », a précisé Anthropic. La marque peut même apparaître sur du contenu qui n’a pas été généré par Claude.

À cela s’ajoute le grand public, qui ne saisit peut-être pas la différence entre un texte traité et un texte entièrement généré. Si le système appose un filigrane sur un texte rédigé par un humain simplement parce qu’il a été édité dans un flux de travail passant par Claude, celui-ci revêt soudainement la même connotation qu’un texte entièrement généré. « En cherchant à bien faire, ils ont peut-être ajouté de la confusion », a commenté un critique.

L'approche d'Anthropic va au-delà des exigences de l'AI Act

Les filigranes s'appliquent indifféremment à tout usage de Claude, de la correction orthographique à la réécriture complète. Ce qui signifie qu'ils vont plus loin que nécessaire dans l’étiquetage du contenu, d’une manière susceptible de brouiller involontairement la provenance. Cela pourrait frustrer les utilisateurs. La question devient encore plus confuse lorsque l’on se penche sur une autre disposition de la loi européenne sur l’IA, l’article 50(4).

Elle traite de la manière dont les éditeurs de ce type de texte doivent étiqueter leur contenu. Selon elle, les textes entièrement générés par l’IA ne nécessitent pas d’étiquette dans la plupart des cas. Un roman écrit par l’IA ? Pas d’étiquette. Un texte marketing généré par l’IA ? Non plus. Mais si le texte a pour but « d’informer le public sur des questions d’intérêt général », il doit être étiqueté, sauf si un être humain l’a relu à des fins éditoriales.

En conclusion, on se retrouve dans une situation étrange où, au niveau du système d'IA, la règle est « tout marquer d’un filigrane », mais en matière de diffusion publique, c’est « vous n’avez pas besoin d’étiqueter ce texte généré par l’IA si Joe l’a relu ». Anthropic a choisi la solution la plus facile, mais également la plus contraignante pour les utilisateurs. Sur la toile, certains ont publié des captures d'écran montrant qu'ils ont résilié leurs abonnements.

Sources : Anthropic, billet de blogue

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des filigranes intégrés à l'IA Claude d'Anthropic ?
Que pensez-vous des limites de cette approche. Quels seront les impacts sur les utilisateurs ?
L'approche d'Anthropic va au-delà des exigences du règlement de l'Union européenne sur l'IA. Qu'en pensez-vous ?

Voir aussi

Anthropic va commencer à intégrer des filigranes invisibles dans les textes et les images générés par Claude, ces filigranes resteront visibles même lorsque le texte sera copié-collé ailleurs

AI Act : les nouvelles règles européennes en matière d'intelligence artificielle entrent en vigueur, l'objectif déclaré est d'encourager le développement et l'adoption de systèmes IA sûrs et fiables en UE

Remove-AI-Watermarks : un nouvel outil CLI permettant de supprimer les filigranes visibles et invisibles des images générés par l'IA, menaçant d'aggraver l'invasion du Web par l'AI slop non identifié

[kain_tn]

Pour les images ou son ou videos y a pas de probleme, y a pleins de moyens.
Pour du texte brut je ne vois pas. Car des tournure ou un style ca pourrait marcher pour de la prose, pour du code par exemple c est plus compliqué.
De toutes manieres ils le disent bien que c est pour faire semblant de se conformer à la loi et que ca n est pas fiable.

Non, ce ne serait pas forcément compliqué. Le code produit est souvent très verbeux et personne ne le lis.
Il pourrait par exemple s'agit d'une combinaison de critère, comme de nommer des variables ou des méthodes d'une certaine façon ou de calculer la fréquence de certaines lettres ou de certains mots.

Encore une fois, c'est une approche heuristique.

"Ouiiiiiin! Ouiiiiiin! C'est inadmissible! Tout le monde va savoir que j'utilise Claude pour faire tout mon travail à ma place et que je n'apporte aucune valeur ajoutée!"

« Claude n’était qu’un simple outil destiné à faciliter le travail humain, mais nous nous retrouvons désormais avec une balise qui attribuera chacune de nos productions à l'IA. C'est un véritable problème pour les particuliers et les entreprises qui ont des agents IA autonomes dans leurs processus », a écrit un critique.

Comment peut-il s'agir de "leurs" productions, s'ils se contentent de copier-coller quelque chose qui sort directement d'un LLM?

Ce qui fait peur à ces particuliers et à ces entreprises, ce serait que leurs clients détectent que le rapport payé très cher a en réalité été produit en quelques minutes avec Claude.

Que pensez-vous des filigranes intégrés à l'IA Claude d'Anthropic ?

Ça permettrait d'afficher publiquement beaucoup d'escrocs.

Que pensez-vous des limites de cette approche. Quels seront les impacts sur les utilisateurs ?

Ça reste une approche statistique. Si Anthropic ne publie pas son algorithme, alors il faudra les croire sur mesure sur le fait que quelque chose leur appartient.
S'ils publient leur algorithme, alors ce sera facile de créer des outils pour retoucher le contenu généré de manière à faire sauter le filigrane.

Sans compter qu'avec ces rigolos, ils seraient foutus de faire payer la vérification de la présence du filigrane.

L'approche d'Anthropic va au-delà des exigences du règlement de l'Union européenne sur l'IA. Qu'en pensez-vous ?

Les exigences de l'UE en la matière sont nulles: en gros, on peut générer tout le travail par LLM, dire que quelqu'un a changé un mot pour des raisons éditoriales; et pouf, ce n'est plus de l'IA...

[Nb]

Pour ceux qui n'ont toujours par compris que c'est expliqué a la suite dans la partie technique :....etc

Ca n explique pas comment ils vont faire : ce sont des termes generaux. Techniquement c est vide.
Cacher des informations dans une image je vois bien comment on peut faire, dans du texte je n en ai aucune idee (je ne compte pas les methodes simplistes qui seraient contrées par n import qui).
Ceci etant s ils etaient capables de ca ils n expliqueraient pas comment ils font 😁

[Aspartame]

vivement qu'on sort une IA pour supprimer les filigrames

[der§en]

Ceci, techniquement parlant m’interpelle « Les textes générés comporteront des filigranes intégrés, invisibles pour l’utilisateur » sur la méthode employée, signer du texte brute, j’avoue que je ne vois pas trop comment ils comptent procéder !

[totozor]

Ceci, techniquement parlant m’interpelle « Les textes générés comporteront des filigranes intégrés, invisibles pour l’utilisateur » sur la méthode employée, signer du texte brute, j’avoue que je ne vois pas trop comment ils comptent procéder !

D'après l'article le texte brut contiendra le filigrane, donc Claude reformulerait en respectant une règle invisible.
Mais comme encore dit dans l'article, demande à une IA de reformuler et le filigrane est altéré.
Ce qui me rend curieux est que le filigrane sera présent quel que soit l'opération demandée, donc si je fais une requête déterministe ("Corrige les fautes d'orthographe de ce texte sans changer aucun mot"), Claude devra choisir entre appliquer la consigne et appliquer le filigrane.

[smarties]

Sur mes dépôts, je ne dit pas que j'utilise l'IA noir sur blanc mais le AGENT.md ou CLAUDE.md sont dans mon repo, je ne m'en cache pas.

Par contre, je produits beaucoup plus et je passe énormément de temps à review.

[Anselme45]

Sur mes dépôts, je ne dit pas que j'utilise l'IA noir sur blanc mais le AGENT.md ou CLAUDE.md sont dans mon repo, je ne m'en cache pas.

Par contre, je produits beaucoup plus et je passe énormément de temps à review.

Et qui consulte vos "repo"? Votre employeur? Vos clients si vous commercialisez vos "oeuvres" ou plutôt les "oeuvres" de votre IA?

Strictement personne!!!

Donc, votre usage de l'IA reste bien caché « à l'insu de mon plein gré » comme le dopage du légendaire cycliste français Richard Virenque lors de l'affaire Festina qui avait fait rire toute la France via les Guignols de l'Info.

[kain_tn]

Sur mes dépôts, je ne dit pas que j'utilise l'IA noir sur blanc mais le AGENT.md ou CLAUDE.md sont dans mon repo, je ne m'en cache pas.

Par contre, je produits beaucoup plus et je passe énormément de temps à review.

Alors j'avais davantage en tête des cas comme celui de Deloite et ses rapports générés par IA

[jbaipro]

kain_tn

Non, ce ne serait pas forcément compliqué. Le code produit est souvent très verbeux et personne ne le lis.
Il pourrait par exemple s'agit d'une combinaison de critère, comme de nommer des variables ou des méthodes d'une certaine façon ou de calculer la fréquence de certaines lettres ou de certains mots.

Encore une fois, c'est une approche heuristique.

Merci pour l'explication c'est l'info que je recherchais. Par contre que se passe-t-il si on redonne ce texte à une autre,dont le but est juste de reformuler? Ce n'est pas ce qu'il y a de plus compliqué, on pourrait même le donner à une IA locale qui n'a pas encore l'obligation de mettre des filigranes par exemple.