Discussion :

[Bruno]

Google intègre des filigranes inaudibles appelés SynthID dans sa musique générée par l'IA,
la protection contre les contrefaçons ne devrait pas compromettre la vie privée des utilisateurs

Google a récemment introduit des filigranes inaudibles dans sa musique générée par l'intelligence artificielle (IA), utilisant le modèle AI Lyria de Google DeepMind. Ces filigranes, appelés SynthID, permettent aux auditeurs d'identifier l'origine générée par l'IA des fichiers audio, sans compromettre l'expérience d'écoute. Le filigrane reste détectable même en cas de compression, accélération, ralentissement ou ajout de bruit à la piste audio. Ces outils de filigrane sont considérés comme une protection contre les contrefaçons potentielles de l'IA générative, répondant également aux normes gouvernementales émergentes, telles que celles mentionnées dans le décret du président Joe Biden sur l'intelligence artificielle.

Le décret du président Joe Biden sur l'intelligence artificielle, par exemple, prévoit un nouvel ensemble de normes gouvernementales pour le filigrane des contenus générés par l'IA. Il s'agit d'un domaine prometteur, mais les technologies actuelles sont loin d'être une solution miracle pour se défendre contre les contrefaçons. Le 30 octobre, le président Joe Biden a signé un décret établissant des règles relatives à l'IA générative, avant toute législation émanant des législateurs. L’un des objectifs du décret est de garantir une utilisation responsable et efficace de la technologie par le gouvernement.

Le président Biden a publié un décret historique pour s'assurer que l'Amérique ouvre la voie en saisissant la promesse et en gérant les risques de l'intelligence artificielle. Ce décret établit de nouvelles normes en matière de sûreté et de sécurité de l'IA, protège la vie privée des Américains, fait progresser l'équité et les droits civils, défend les consommateurs et les travailleurs, promeut l'innovation et la concurrence.

L'implémentation audio de SynthID convertit l'onde audio en une visualisation bidimensionnelle du spectre des fréquences, une approche qualifiée de « différente de tout ce qui existe aujourd'hui » par DeepMind. Cette initiative de Google s'inscrit dans la lignée de la version bêta de SynthID pour les images sur Vertex AI de Google Cloud, offrant une solution de filigrane robuste malgré certaines limitations face aux manipulations extrêmes d'images.

Dans un post publié le 16 novembre, DeepMind indique que le filigrane ne devrait pas être détectable par l'oreille humaine et « ne compromet pas l'expérience d'écoute », et ajoute qu'il devrait rester détectable même si une piste audio est compressée, accélérée ou ralentie, ou si du bruit supplémentaire est ajouté. Aujourd'hui, en partenariat avec YouTube, nous annonçons Lyria de Google DeepMind, notre modèle d'IA de génération musicale le plus avancé à ce jour, ainsi que deux expériences d'IA conçues pour ouvrir un nouveau terrain de jeu à la créativité :

• Dream Track : une expérience dans YouTube Shorts conçue pour aider à approfondir les liens entre les artistes, les créateurs et les fans par le biais de la création musicale ;
• Les outils d'IA musicale : un ensemble d'outils conçu avec des artistes, des auteurs-compositeurs et des producteurs pour les aider à renforcer leurs processus créatifs.

Pour développer ces projets, des experts techniques de Google et un large éventail d'artistes et d'auteurs-compositeurs de renommée mondiale ont été réuni afin d'explorer la manière dont les technologies musicales génératives peuvent façonner de manière responsable l'avenir de la création musicale.

Présentation du modèle Lyria

La musique contient d'énormes quantités d'informations : chaque battement, chaque note et chaque harmonie vocale à chaque seconde. Lorsqu'ils génèrent de longues séquences sonores, les modèles d'intelligence artificielle ont du mal à maintenir la continuité musicale entre les phrases, les vers ou les longs passages. Comme la musique comprend souvent plusieurs voix et instruments en même temps, elle est beaucoup plus difficile à créer que la parole.

Construit par Google DeepMind, le modèle Lyria excelle à générer de la musique avec des instruments et des voix, à effectuer des tâches de transformation et de continuité, et à donner aux utilisateurs un contrôle plus nuancé du style et de la performance de la sortie. Lyria est testé dans le cadre d'une expérience appelée Dream Track, conçue pour tester de nouvelles façons pour les artistes de se connecter avec leurs fans et développée en collaboration avec YouTube.

« L'émergence de l'IA a fait entrer la musique dans une nouvelle ère créative. Alors qu'une myriade d'entreprises définissent leur approche de l'IA, nous voulons que la nôtre soit définie par le partenariat et la responsabilité. C'est pourquoi nous avons élaboré un ensemble de principes relatifs à l'IA musicale et un incubateur d'IA musicale, publiés au début de l'année, qui s'appuient sur une collaboration responsable.

« Depuis lors, nous avons exploré les possibilités de l'IA pour stimuler la créativité aux côtés des artistes, des auteurs-compositeurs, des producteurs et de nos partenaires, tout en identifiant les défis qu'elle pose. En testant et en apprenant, nous pouvons mieux comprendre comment améliorer les opportunités pour les artistes et l'industrie et approfondir l'engagement des fans, au bénéfice de l'ensemble de la communauté musicale », ont déclaré Lyor Cohen et Toni Reid, responsable mondial de la musique, youtube et vice-présidente, expériences émergentes et produits communautaires.

Dans le cadre de cette expérience, un nombre limité de créateurs pourront utiliser Dream Track pour produire une bande-son unique avec la voix générée par l'IA et le style musical d'artistes tels qu'Alec Benjamin, Charlie Puth, Charli XCX, Demi Lovato, John Legend, Sia, T-Pain, Troye Sivan et Papoose. Les utilisateurs de Dream Track peuvent entrer un sujet et choisir un artiste dans le carrousel pour générer une bande-son de 30 secondes pour leur court. Grâce au modèle Lyria, Dream Track génère simultanément les paroles, la bande-son et la voix générée par l'IA dans le style de l'artiste sélectionné.

L'approche de SynthID, qui convertit l'onde audio en une visualisation bidimensionnelle du spectre des fréquences, est décrite comme unique, ce qui souligne l'effort de Google pour développer des méthodes de filigranage qui vont au-delà des solutions conventionnelles. Cependant, il reste essentiel de surveiller la résistance du filigrane face à des manipulations extrêmes, bien que l'annonce mentionne sa stabilité face à des altérations telles que la compression, l'accélération et le ralentissement.

Les limites des solutions actuelles pour lutter contre les contrefaçons

Des chercheurs de l’université du Maryland ont examiné la fiabilité des filigranes actuels de l’IA et ont constaté qu’il est facile pour les mauvais acteurs d’ajouter ou de supprimer des filigranes. Les chercheurs ont pu facilement échapper aux méthodes actuelles de filigrane pendant les tests et ont trouvé qu’il était encore plus facile d’ajouter de faux emblèmes.

La protection contre les contrefaçons ne devrait pas compromettre la vie privée des utilisateurs, et il est crucial de s'assurer que ces filigranes ne sont pas utilisés à des fins de suivi ou de collecte d'informations sensibles. Il est important de s'assurer que de telles solutions ne créent pas de disparités d'accès à la protection des œuvres générées par l'IA.

Sur le plan positif, l'initiative de Google est en phase avec les préoccupations croissantes concernant les contenus générés par l'IA et les implications potentielles en matière de droits d'auteur. Elle répond également aux nouvelles normes gouvernementales, comme évoqué dans le décret du président Joe Biden sur l'intelligence artificielle.

Cependant, il est important de noter que, malgré ces avancées, aucune solution n'est totalement infaillible, et la vigilance reste nécessaire pour anticiper les éventuelles évolutions des contrefaçons. Certains pourraient craindre que la connaissance qu'une œuvre est marquée puisse influencer le processus créatif, limitant ainsi l'expérimentation et l'innovation artistique.

En conclusion, l'intégration de filigranes inaudibles dans la musique générée par l'IA par Google est une avancée positive pour renforcer la traçabilité et la protection des contenus. Cependant, la technologie doit continuer à évoluer pour rester en phase avec les défis en constante mutation de la contrefaçon numérique.

Sources : Google, YouTube

Et vous ?

Les filigranes actuels de l’IA sont-ils suffisamment fiables pour empêcher la contrefaçon ?

Quel est votre avis sur le sujet ?

Voir aussi :

Microsoft annonce la disponibilité de DALL-E 3 pour tous les utilisateurs de Bing Chat et de Bing Image Creator, des filigranes permettent d'identifier les images comme étant générées par l'IA

Les chercheurs affirment que les filigranes actuels de l'IA sont faciles à supprimer, Microsoft a ajouté des filigranes dans Bing Image Creator et Google a conçu SynthID

[OrthodoxWindows]

Le problème n'est pas la contrefaçon ou non de la musique généré par IA. Le problème c'est la musique généré par IA.

[Mathis Lucas]

Le filigrane invisible SynthID de Google permettra désormais d'identifier les textes et les vidéos générés par l'IA
mais il est moins détectable lorsque le texte a été entièrement réécrit ou traduit

Google étend sa technologie de détection et de filigrane des contenus à deux nouveaux supports. La nouvelle version du système d'impression de filigrane SynthID peut désormais marquer les vidéos et les textes générés numériquement par les programmes d'IA Gemini de Google dans l'application Gemini ou sur le Web. Auparavant, l'outil SynthID ne permettait de filigraner que les images et les sons générés par l'IA de Google. Le logiciel permettra de répondre aux inquiétudes concernant l'influence des contenus générés par l'IA lors des élections. OpenAI a également lancé récemment un outil capable de détecter les images créées par son logiciel DALL-E 3.

Alors que les contenus générés par l'IA commencent à inonder Internet, la nécessité de les détecter et de les distinguer s'est accrue. L'une des principales solutions explorées par les entreprises est le filigrane. Le filigrane des contenus générés par l'IA sera de plus en plus important au fur et à mesure que la technologie gagnera en popularité, en particulier lorsque l'IA sera utilisée à des fins malveillantes. L'IA est déjà utilisée pour générer et diffuser des informations politiques erronées, prétendre que quelqu'un a dit quelque chose qu'il n'a pas dit et créer des contenus sexuels de célébrités sans leur consentement.

Toutefois, les outils de filigrane ont été beaucoup plus faciles à mettre au point pour les images que pour le texte. Mardi, Demis Hassabis, PDG de Google DeepMind, est monté sur scène pour la première fois lors de la conférence des développeurs Google I/O pour parler non seulement des nouveaux outils d'IA de l'équipe, comme le générateur vidéo Veo, mais également du nouveau système d'impression de filigrane SynthID. Ce système peut désormais marquer les vidéos générées numériquement ainsi que les textes générés par l'IA. Hassabis a fourni peu d'informations sur l'outil, mais un billet de blogue de l'entreprise note :

Aujourd'hui, nous étendons les capacités de SynthID au tatouage de texte généré par l'IA dans l'application Gemini et l'expérience Web, et de vidéo dans Veo, notre modèle vidéo génératif le plus performant.

SynthID pour le texte est conçu pour compléter la plupart des modèles de génération de texte par IA disponibles et pour être déployé à grande échelle, tandis que SynthID pour la vidéo s'appuie sur notre méthode de marquage d'image et d'audio pour inclure toutes les images dans les vidéos générées. Cette méthode innovante permet d'intégrer un filigrane imperceptible sans affecter la qualité, la précision, la créativité ou la rapidité du processus de génération de texte ou de vidéo.

Pour les images, Google explique avoir conçu le filigrane SynthID de manière à ce qu'il reste détectable même après qu'elles ont été modifiées par l'ajout de filtres, la modification des couleurs ou l'ajustement de la luminosité. Et contrairement aux filigranes visibles, SynthID ne peut pas être supprimé par recadrage. Quant aux contenus textuels, Google DeepMind explique brièvement que le fonctionnement de SynthID est basé sur la façon dont les grands modèles de langage (LLM) génèrent du contenu. Les LLM prédisent la phrase, le mot ou le caractère suivant en fonction de ce qui est le plus susceptible d'apparaître dans la séquence.

Les LLM génèrent des séquences de texte à partir d'une question telle que "Explique-moi la mécanique quantique comme si j'avais cinq ans" ou "Quel est ton fruit préféré ?". Les phrases, mots et caractères sont appelés "tokens" et chaque token se voit attribuer un score de probabilité. Google DeepMind explique :

Les jetons sont les blocs de construction qu'un modèle génératif utilise pour traiter l'information. Dans ce cas, il peut s'agir d'un seul caractère, d'un mot ou d'une partie de phrase. Chaque jeton possible se voit attribuer un score, qui représente le pourcentage de chances qu'il soit le bon. Les jetons ayant un score élevé ont plus de chances d'être utilisés. Les LLM répètent ces étapes pour construire une réponse cohérente.

SynthID est conçu pour intégrer des filigranes imperceptibles directement dans le processus de génération de texte. Pour ce faire, il introduit des informations supplémentaires dans la distribution des jetons au point de génération en modulant la probabilité de génération des jetons ; le tout sans compromettre la qualité, la précision, la créativité ou la rapidité de la génération du texte.

Pushmeet Kohli, vice-président de la recherche chez Google DeepMind, précise : « il s'agit spécifiquement de modifier le contenu généré par l'IA de manière à ce qu'il reste détectable à l'avenir ». Bien que Google affirme que "SynthID pour le texte est compatible avec la plupart des modèles d'IA de génération de texte", il reste à voir si ses concurrents, notamment OpenAI, Microsoft et Meta, l'adopteront ou s'ils proposeront leurs propres approches. En février, Meta a annoncé que l'entreprise commencera à étiqueter les images générées par les modèles d'IA des rivaux tels qu’OpenAI, Google, Midjourney, Adobe et bien d'autres.

Meta a également appelé à l'adoption de normes visant à étiqueter le matériel généré par l'IA. Nick Clegg, président des affaires mondiales de Meta, a déclaré que le géant des réseaux sociaux collabore avec différentes entités, dont le Partenariat sur l'IA (une organisation à but non lucratif composée d'universitaires, de professionnels de la société civile et d'organisations médiatiques dont l'objectif est de veiller à ce que l'IA ait des résultats positifs pour les personnes et la société) afin d'élaborer des normes pouvant être utilisées pour identifier les images d'IA sur l'ensemble du Web. OpenAI travaille aussi sur des outils similaires.

OpenAI a lancé au début du mois un outil capable de détecter les images générées par son modèle d'IA de génération d'images DALL-E 3 afin de répondre aux inquiétudes concernant l'influence des contenus générés par l'IA lors des élections. L'entreprise a déclaré que l'outil avait identifié correctement les images créées par DALL-E 3 dans environ 98 % des cas lors de tests internes et qu'il pouvait gérer des modifications courantes telles que la compression, le recadrage et les changements de saturation avec un impact minimal. OpenAI prévoit d'ajouter un filigrane inviolable pour marquer les photos ou les audios générés par l'IA.

Les filigranes sont encore limités et peuvent être supprimés en combinant différentes techniques. Google DeepMind indique que le texte généré par l'IA avec son filigrane peut être détecté même en cas de "paraphrase légère", mais que le filigrane est moins détectable lorsque le contenu a été entièrement réécrit ou traduit. SynthID pour le texte est également moins efficace pour les documents factuels lorsqu'il y a peu de réponses possibles à une question donnée. L'entreprise prévoit d'ouvrir le code source de cette technique de filigrane dans le courant de l'été afin que d'autres puissent l'intégrer dans leurs services.

« SynthID n'est pas une solution miracle pour identifier les contenus créés par l'IA, mais il constitue un élément important pour développer des outils d'identification de l'IA plus fiables et peut aider des millions de personnes à prendre des décisions éclairées sur la manière dont elles interagissent avec les contenus générés par l'IA. Dans le courant de l'été, nous prévoyons d'ouvrir le code source de SynthID pour le filigrane de texte, afin que les développeurs puissent utiliser cette technologie et l'incorporer dans leurs modèles », affirme Google DeepMind.

Source : Google DeepMind

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la nouvelle version de l'outil de filigrane SynthID ?
Sera-t-il efficace contre les abus de l'IA ? Que pensez-vous des limites de SynthID ?

Voir aussi

Google intègre des filigranes inaudibles appelés SynthID dans sa musique générée par l'IA, la protection contre les contrefaçons ne devrait pas compromettre la vie privée des utilisateurs

Meta va commencer à étiqueter les images générées par les modèles d'IA des entreprises comme OpenAI et Google, et appelle à l'adoption de normes visant à étiqueter le matériel généré par l'IA

OpenAI ajoutera bientôt des filigranes aux images générées par DALL-E 3, l'adoption des normes C2PA est essentielle pour accroître la fiabilité des informations numériques, selon OpenAI

[Mathis Lucas]

Le filigrane SynthID de Google est difficile à contourner, mais il ne résout pas le problème de la désinformation générée par l'IA. À l'avenir, il ne sera pas facile de déterminer ce qui est vrai sur Internet

Les fabricants de modèles d'IA déploient des filigranes invisibles pour identifier les contenus générés par leurs systèmes. Toutefois, leur efficacité reste, à certains égards, discutable. Le filigrane SynthID de Google se révèle particulièrement résistant aux modifications et à la compression, mais il est loin d'être un rempart contre la désinformation. L'efficacité de SynthID est entravée par un manque d'interopérabilité entre les plateformes et par l'existence de modèles d'IA à poids ouverts qui n'intègrent aucune protection. Selon les experts, la lutte pour la vérité numérique s'annonce complexe dans un monde saturé de médias artificiels difficiles à tracer.

Le volume de médias générés par l'IA est devenu colossal en un temps record. Le Starling Lab, une collaboration de recherche entre l'Université de Stanford et l'Université de Californie du Sud, estime qu'il a fallu attendre 1975, soit 149 ans après l'invention de l'appareil photo, pour que l'humanité produise collectivement 1,5 milliard d'images. En comparaison, l'IA générative a atteint ce même chiffre en seulement 18 mois. Et le rythme s'accélère.

Lors de sa conférence I/O de mai 2026, Google a annoncé que ses propres outils avaient été utilisés pour créer plus de 100 milliards d'images et de vidéos d'IA en l'espace de deux ans. Face à cette prolifération, le géant de Mountain View s'est associée à plusieurs entreprises technologiques majeures, telles que Nvidia, OpenAI et Runway, afin de déployer une technologie avancée de marquage numérique invisible (o filigrane) appelée « SynthID ».

SynthID est conçu pour étiqueter le contenu généré par IA et aider le public à distinguer le réel du virtuel. Google affirme que SynthID est suffisamment robuste pour résister aux modifications. Mais les filigranes invisibles peuvent-ils réellement résoudre le casse-tête du contenu créé par l’IA générative ?

Google parle d'une marque robuste et quasi « indélébile »

Il existe deux grandes méthodes pour identifier le contenu généré par IA : les filigranes invisibles comme SynthID et les schémas de métadonnées cryptographiques comme le C2PA (Coalition for Content Provenance and Authenticity). Le C2PA est une norme technique ouverte qui permet aux éditeurs, aux entreprises et à d'autres acteurs d'intégrer des métadonnées dans les médias afin de vérifier leur origine et les informations qui s'y rapportent.

Outre les images générées par l'IA, il est aussi adopté par les fabricants d'appareils photo, les éditeurs de presse et d'autres acteurs pour certifier la source et l'historique (ou la provenance) du contenu des médias. Contrairement au C2PA qui peut être facilement éliminé lors d'une simple capture d'écran ou d'une retouche d'image, Google SynthID s'intègre directement dans les pixels d'une image, d'une vidéo ou dans l'onde sonore d'un clip audio.

Pushmeet Kohli, chercheur chez Google DeepMind, affirme que son équipe a anticipé les attaques : « tout au long du processus de développement, nous avons supposé qu'un outil comme celui-ci serait attaqué. Nous avons donc fait beaucoup de recherches pour rendre SynthID robuste face à différents types de transformations ». Des tests indépendants confirment la résilience de cet outil, mais dans certaines conditions, SynthID peut être altéré.

Un test indépendant mené par un journaliste d’Ars a confirmé cette résilience en soumettant des images à 300 cycles intensifs de compression et de redimensionnement. Même lorsque les images sont devenues extrêmement floues et dégradées, le filigrane SynthID est resté parfaitement détectable. Cependant, la technologie a révélé ses limites lorsqu'un simple recadrage de 20 % a suffi à rendre le filigrane indétectable après compression.

Les limites d'utilisation et les défis liés à l'interopérabilité

Malgré ses performances, SynthID n'est pas infaillible et ne prétend pas résister à des attaques ciblées et sophistiquées d'utilisateurs malveillants. De plus, Google restreint fortement l'accès à son outil de détection pour éviter que des acteurs de la menace ne s'en servent pour apprendre à contourner le système. L'entreprise ne propose pas d'API pour sa technologie ; les utilisateurs doivent passer par son modèle Gemini pour vérifier une image.

Toujours pour des raisons de sécurité, cette vérification est limitée à environ dix requêtes par jour. Cependant, cela pose un problème de réactivité à une époque où la manipulation numérique est largement utilisée, notamment à des fins politiques. Un autre obstacle majeur réside dans le manque d'interopérabilité. Bien que plusieurs entreprises de l'industrie adoptent la technologie de base de SynthID, les filigranes générés restent cloisonnés.

Ainsi, le détecteur de Google ne reconnaît pas le filigrane d'OpenAI, et inversement, ce qui force l'utilisateur à multiplier les vérifications sur différents outils sans garantie de résultat. Un porte-parole de Google a admis cette limite : « nous collaborons avec les partenaires pour rendre la vérification plus accessible et unifiée. Notre vision est de créer un écosystème plus interchangeable permettant une expérience fluide entre diverses plateformes ».

Mais la sécurité n’est jamais parfaite. Si SynthID venait à être contourné, ce qui semble plausible compte tenu de sa popularité croissante, ces milliards d’images et de vidéos générées par l’IA pourraient se retrouver sans marquage. Google pourrait alors se retrouver pris dans un jeu du chat et de la souris, contraint de mettre à jour la norme pour bloquer ces attaques. L'entreprise souligne d'ailleurs que SynthID n'est pas une solution miracle.

SynthID : l'illusion d'une parade contre la désinformation

Selon les critiques, même en résolvant ces problèmes d'usage, le marquage invisible ne pourra jamais éradiquer la désinformation. La raison principale en est que de nombreux outils d'IA de génération de contenus n'adopteront jamais ces systèmes de marquage, d'autant plus que les modèles en libre accès (open source) permettent à n'importe qui de générer du contenu directement sur son ordinateur personnel, sans aucun marquage.

Comme le souligne Adam Rose, conseiller au Starling Lab : « le problème le plus important n'est pas seulement les images produites par les Google et OpenAI de ce monde. Le problème vient des personnes qui peuvent faire tourner leurs propres modèles, qui peuvent faire des choses sur leurs propres ordinateurs ». Dans le même temps, la généralisation du filigrane pourrait même s'avérer dangereuse en créant un faux sentiment de sécurité.

Les utilisateurs risquent de croire à tort que toute image dépourvue de filigrane est automatiquement authentique. Cet état de choses constituerait un problème majeur de désinformation. Enfin, la prolifération de l'IA renforce ce que l'on appelle « le dividende du menteur », une stratégie par laquelle des personnalités publiques récusent des preuves réelles de leurs méfaits en prétendant simplement qu'il s'agit de manipulations générées par IA.

Meta a récemment lancé son filigrane « Content Seal », mais Reuters a constaté qu’il suffisait souvent de recadrer légèrement les images pour le faire disparaître. En effet, ce n'est pas parce que SynthID semble fiable pour l'instant que toutes les méthodes de filigrane invisible pour l'IA fonctionneront.

Vers l'authentification du contenu authentique à l'avenir ?

Il est tout à fait possible qu’une personne disposant de suffisamment de temps et motivée par un intérêt particulier trouve un moyen de contourner le filigrane SynthID de Google. Certaines personnes ont déjà affirmé avoir réussi à pirater SynthID, mais des tests indépendants n'ont pas pu le confirmer. Le chercheur Pushmeet Kohli de Google DeepMind précise également que son équipe n’a pas réussi à reproduire les contournements supposés.

L'identification précise des contenus générés par l'IA devient un problème urgent. Toutefois, face à la quantité illimitée de contenus synthétiques partagés en ligne, certains experts de l'industrie affirment que l'approche consistant à traquer les faux semble désormais vouée à l'échec.

Mike Caronna, photojournaliste, propose plutôt de se concentrer sur ce qui est rare : « il y a une limite à la quantité de contenu qui peut être créée avec de vrais appareils photo physiques dans le monde. En revanche, il n'y a pas de limite à la quantité de contenu synthétique qui peut être créée. C'est la raison pour laquelle nous voulons nous tourner vers ce qui est rare, et ce qui est rare, c'est l'information véridique de grande valeur ».

C'est dans ce contexte que le protocole C2PA prend tout son sens. En fonctionnant comme un sceau d'inviolabilité numérique, il permet de prouver l'authenticité d'une image en enregistrant de manière sécurisée où, quand et comment elle a été capturée. Si le C2PA est présent et valide, l'utilisateur a la certitude absolue et vérifiable que l'image est authentique et conforme à sa source. Mais si l'image est capturée ou modifiée, le C2PA disparaît.

L'image se retrouve donc sans preuve d'authenticité. Au-delà de ça, la technologie C2PA est encore peu répandue. Peu de téléphones et d’appareils photo créent ces empreintes numériques. Actuellement, les téléphones Pixel de Google, notamment le Pixel 10, intègrent profondément cette technologie, ce qui pourrait préfigurer un avenir où tout contenu dépourvu de métadonnées de provenance vérifiables sera considéré comme suspect.

Source : Google SynthID

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la technologie C2PA et de ses limites ?
Que pensez-vous de la technologie SynthID de Google DeepMind ?
Que pensez-vous des problèmes liés à l'utilisation et à l'interopérabilité de SynthID ?
Certains considèrent que la traque du contenu généré par l'IA est vouée à l'échec. Êtes-vous d'avis ?
La norme C2PA est-elle une solution plus efficace que le filigrane invisible SynthID de Google ? Pourquoi ?

Voir aussi

Google intègre des filigranes inaudibles appelés SynthID dans sa musique générée par l'IA, la protection contre les contrefaçons ne devrait pas compromettre la vie privée des utilisateurs

Le filigrane invisible SynthID de Google permettra désormais d'identifier les textes et les vidéos générés par l'IA, mais il est moins détectable lorsque le texte a été entièrement réécrit ou traduit

OpenAI ajoutera bientôt des filigranes aux images générées par DALL-E 3, l'adoption des normes C2PA est essentielle pour accroître la fiabilité des informations numériques, selon OpenAI

[Freem]

"À l'avenir, il ne sera pas facile de déterminer ce qui est vrai sur Internet" non mais, vraiment?

Parce que ce que les humains écrivent sur le net, c'est toujours vrai? Wow, le foutage de gueule bats des reccords ces derniers temps.

[Artaeus]

Les gens ont besoin d'esprit critique, pas de censure ou de filigrane ridicule.