Discussion :

[Bruno]

Google intègre des filigranes inaudibles appelés SynthID dans sa musique générée par l'IA,
la protection contre les contrefaçons ne devrait pas compromettre la vie privée des utilisateurs

Google a récemment introduit des filigranes inaudibles dans sa musique générée par l'intelligence artificielle (IA), utilisant le modèle AI Lyria de Google DeepMind. Ces filigranes, appelés SynthID, permettent aux auditeurs d'identifier l'origine générée par l'IA des fichiers audio, sans compromettre l'expérience d'écoute. Le filigrane reste détectable même en cas de compression, accélération, ralentissement ou ajout de bruit à la piste audio. Ces outils de filigrane sont considérés comme une protection contre les contrefaçons potentielles de l'IA générative, répondant également aux normes gouvernementales émergentes, telles que celles mentionnées dans le décret du président Joe Biden sur l'intelligence artificielle.

Le décret du président Joe Biden sur l'intelligence artificielle, par exemple, prévoit un nouvel ensemble de normes gouvernementales pour le filigrane des contenus générés par l'IA. Il s'agit d'un domaine prometteur, mais les technologies actuelles sont loin d'être une solution miracle pour se défendre contre les contrefaçons. Le 30 octobre, le président Joe Biden a signé un décret établissant des règles relatives à l'IA générative, avant toute législation émanant des législateurs. L’un des objectifs du décret est de garantir une utilisation responsable et efficace de la technologie par le gouvernement.

Le président Biden a publié un décret historique pour s'assurer que l'Amérique ouvre la voie en saisissant la promesse et en gérant les risques de l'intelligence artificielle. Ce décret établit de nouvelles normes en matière de sûreté et de sécurité de l'IA, protège la vie privée des Américains, fait progresser l'équité et les droits civils, défend les consommateurs et les travailleurs, promeut l'innovation et la concurrence.

L'implémentation audio de SynthID convertit l'onde audio en une visualisation bidimensionnelle du spectre des fréquences, une approche qualifiée de « différente de tout ce qui existe aujourd'hui » par DeepMind. Cette initiative de Google s'inscrit dans la lignée de la version bêta de SynthID pour les images sur Vertex AI de Google Cloud, offrant une solution de filigrane robuste malgré certaines limitations face aux manipulations extrêmes d'images.

Dans un post publié le 16 novembre, DeepMind indique que le filigrane ne devrait pas être détectable par l'oreille humaine et « ne compromet pas l'expérience d'écoute », et ajoute qu'il devrait rester détectable même si une piste audio est compressée, accélérée ou ralentie, ou si du bruit supplémentaire est ajouté. Aujourd'hui, en partenariat avec YouTube, nous annonçons Lyria de Google DeepMind, notre modèle d'IA de génération musicale le plus avancé à ce jour, ainsi que deux expériences d'IA conçues pour ouvrir un nouveau terrain de jeu à la créativité :

• Dream Track : une expérience dans YouTube Shorts conçue pour aider à approfondir les liens entre les artistes, les créateurs et les fans par le biais de la création musicale ;
• Les outils d'IA musicale : un ensemble d'outils conçu avec des artistes, des auteurs-compositeurs et des producteurs pour les aider à renforcer leurs processus créatifs.

Pour développer ces projets, des experts techniques de Google et un large éventail d'artistes et d'auteurs-compositeurs de renommée mondiale ont été réuni afin d'explorer la manière dont les technologies musicales génératives peuvent façonner de manière responsable l'avenir de la création musicale.

Présentation du modèle Lyria

La musique contient d'énormes quantités d'informations : chaque battement, chaque note et chaque harmonie vocale à chaque seconde. Lorsqu'ils génèrent de longues séquences sonores, les modèles d'intelligence artificielle ont du mal à maintenir la continuité musicale entre les phrases, les vers ou les longs passages. Comme la musique comprend souvent plusieurs voix et instruments en même temps, elle est beaucoup plus difficile à créer que la parole.

Construit par Google DeepMind, le modèle Lyria excelle à générer de la musique avec des instruments et des voix, à effectuer des tâches de transformation et de continuité, et à donner aux utilisateurs un contrôle plus nuancé du style et de la performance de la sortie. Lyria est testé dans le cadre d'une expérience appelée Dream Track, conçue pour tester de nouvelles façons pour les artistes de se connecter avec leurs fans et développée en collaboration avec YouTube.

« L'émergence de l'IA a fait entrer la musique dans une nouvelle ère créative. Alors qu'une myriade d'entreprises définissent leur approche de l'IA, nous voulons que la nôtre soit définie par le partenariat et la responsabilité. C'est pourquoi nous avons élaboré un ensemble de principes relatifs à l'IA musicale et un incubateur d'IA musicale, publiés au début de l'année, qui s'appuient sur une collaboration responsable.

« Depuis lors, nous avons exploré les possibilités de l'IA pour stimuler la créativité aux côtés des artistes, des auteurs-compositeurs, des producteurs et de nos partenaires, tout en identifiant les défis qu'elle pose. En testant et en apprenant, nous pouvons mieux comprendre comment améliorer les opportunités pour les artistes et l'industrie et approfondir l'engagement des fans, au bénéfice de l'ensemble de la communauté musicale », ont déclaré Lyor Cohen et Toni Reid, responsable mondial de la musique, youtube et vice-présidente, expériences émergentes et produits communautaires.

Dans le cadre de cette expérience, un nombre limité de créateurs pourront utiliser Dream Track pour produire une bande-son unique avec la voix générée par l'IA et le style musical d'artistes tels qu'Alec Benjamin, Charlie Puth, Charli XCX, Demi Lovato, John Legend, Sia, T-Pain, Troye Sivan et Papoose. Les utilisateurs de Dream Track peuvent entrer un sujet et choisir un artiste dans le carrousel pour générer une bande-son de 30 secondes pour leur court. Grâce au modèle Lyria, Dream Track génère simultanément les paroles, la bande-son et la voix générée par l'IA dans le style de l'artiste sélectionné.

L'approche de SynthID, qui convertit l'onde audio en une visualisation bidimensionnelle du spectre des fréquences, est décrite comme unique, ce qui souligne l'effort de Google pour développer des méthodes de filigranage qui vont au-delà des solutions conventionnelles. Cependant, il reste essentiel de surveiller la résistance du filigrane face à des manipulations extrêmes, bien que l'annonce mentionne sa stabilité face à des altérations telles que la compression, l'accélération et le ralentissement.

Les limites des solutions actuelles pour lutter contre les contrefaçons

Des chercheurs de l’université du Maryland ont examiné la fiabilité des filigranes actuels de l’IA et ont constaté qu’il est facile pour les mauvais acteurs d’ajouter ou de supprimer des filigranes. Les chercheurs ont pu facilement échapper aux méthodes actuelles de filigrane pendant les tests et ont trouvé qu’il était encore plus facile d’ajouter de faux emblèmes.

La protection contre les contrefaçons ne devrait pas compromettre la vie privée des utilisateurs, et il est crucial de s'assurer que ces filigranes ne sont pas utilisés à des fins de suivi ou de collecte d'informations sensibles. Il est important de s'assurer que de telles solutions ne créent pas de disparités d'accès à la protection des œuvres générées par l'IA.

Sur le plan positif, l'initiative de Google est en phase avec les préoccupations croissantes concernant les contenus générés par l'IA et les implications potentielles en matière de droits d'auteur. Elle répond également aux nouvelles normes gouvernementales, comme évoqué dans le décret du président Joe Biden sur l'intelligence artificielle.

Cependant, il est important de noter que, malgré ces avancées, aucune solution n'est totalement infaillible, et la vigilance reste nécessaire pour anticiper les éventuelles évolutions des contrefaçons. Certains pourraient craindre que la connaissance qu'une œuvre est marquée puisse influencer le processus créatif, limitant ainsi l'expérimentation et l'innovation artistique.

En conclusion, l'intégration de filigranes inaudibles dans la musique générée par l'IA par Google est une avancée positive pour renforcer la traçabilité et la protection des contenus. Cependant, la technologie doit continuer à évoluer pour rester en phase avec les défis en constante mutation de la contrefaçon numérique.

Sources : Google, YouTube

Et vous ?

Les filigranes actuels de l’IA sont-ils suffisamment fiables pour empêcher la contrefaçon ?

Quel est votre avis sur le sujet ?

Voir aussi :

Microsoft annonce la disponibilité de DALL-E 3 pour tous les utilisateurs de Bing Chat et de Bing Image Creator, des filigranes permettent d'identifier les images comme étant générées par l'IA

Les chercheurs affirment que les filigranes actuels de l'IA sont faciles à supprimer, Microsoft a ajouté des filigranes dans Bing Image Creator et Google a conçu SynthID

[OrthodoxWindows]

Le problème n'est pas la contrefaçon ou non de la musique généré par IA. Le problème c'est la musique généré par IA.

[Mathis Lucas]

Le filigrane invisible SynthID de Google permettra désormais d'identifier les textes et les vidéos générés par l'IA
mais il est moins détectable lorsque le texte a été entièrement réécrit ou traduit

Google étend sa technologie de détection et de filigrane des contenus à deux nouveaux supports. La nouvelle version du système d'impression de filigrane SynthID peut désormais marquer les vidéos et les textes générés numériquement par les programmes d'IA Gemini de Google dans l'application Gemini ou sur le Web. Auparavant, l'outil SynthID ne permettait de filigraner que les images et les sons générés par l'IA de Google. Le logiciel permettra de répondre aux inquiétudes concernant l'influence des contenus générés par l'IA lors des élections. OpenAI a également lancé récemment un outil capable de détecter les images créées par son logiciel DALL-E 3.

Alors que les contenus générés par l'IA commencent à inonder Internet, la nécessité de les détecter et de les distinguer s'est accrue. L'une des principales solutions explorées par les entreprises est le filigrane. Le filigrane des contenus générés par l'IA sera de plus en plus important au fur et à mesure que la technologie gagnera en popularité, en particulier lorsque l'IA sera utilisée à des fins malveillantes. L'IA est déjà utilisée pour générer et diffuser des informations politiques erronées, prétendre que quelqu'un a dit quelque chose qu'il n'a pas dit et créer des contenus sexuels de célébrités sans leur consentement.

Toutefois, les outils de filigrane ont été beaucoup plus faciles à mettre au point pour les images que pour le texte. Mardi, Demis Hassabis, PDG de Google DeepMind, est monté sur scène pour la première fois lors de la conférence des développeurs Google I/O pour parler non seulement des nouveaux outils d'IA de l'équipe, comme le générateur vidéo Veo, mais également du nouveau système d'impression de filigrane SynthID. Ce système peut désormais marquer les vidéos générées numériquement ainsi que les textes générés par l'IA. Hassabis a fourni peu d'informations sur l'outil, mais un billet de blogue de l'entreprise note :

Aujourd'hui, nous étendons les capacités de SynthID au tatouage de texte généré par l'IA dans l'application Gemini et l'expérience Web, et de vidéo dans Veo, notre modèle vidéo génératif le plus performant.

SynthID pour le texte est conçu pour compléter la plupart des modèles de génération de texte par IA disponibles et pour être déployé à grande échelle, tandis que SynthID pour la vidéo s'appuie sur notre méthode de marquage d'image et d'audio pour inclure toutes les images dans les vidéos générées. Cette méthode innovante permet d'intégrer un filigrane imperceptible sans affecter la qualité, la précision, la créativité ou la rapidité du processus de génération de texte ou de vidéo.

Pour les images, Google explique avoir conçu le filigrane SynthID de manière à ce qu'il reste détectable même après qu'elles ont été modifiées par l'ajout de filtres, la modification des couleurs ou l'ajustement de la luminosité. Et contrairement aux filigranes visibles, SynthID ne peut pas être supprimé par recadrage. Quant aux contenus textuels, Google DeepMind explique brièvement que le fonctionnement de SynthID est basé sur la façon dont les grands modèles de langage (LLM) génèrent du contenu. Les LLM prédisent la phrase, le mot ou le caractère suivant en fonction de ce qui est le plus susceptible d'apparaître dans la séquence.

Les LLM génèrent des séquences de texte à partir d'une question telle que "Explique-moi la mécanique quantique comme si j'avais cinq ans" ou "Quel est ton fruit préféré ?". Les phrases, mots et caractères sont appelés "tokens" et chaque token se voit attribuer un score de probabilité. Google DeepMind explique :

Les jetons sont les blocs de construction qu'un modèle génératif utilise pour traiter l'information. Dans ce cas, il peut s'agir d'un seul caractère, d'un mot ou d'une partie de phrase. Chaque jeton possible se voit attribuer un score, qui représente le pourcentage de chances qu'il soit le bon. Les jetons ayant un score élevé ont plus de chances d'être utilisés. Les LLM répètent ces étapes pour construire une réponse cohérente.

SynthID est conçu pour intégrer des filigranes imperceptibles directement dans le processus de génération de texte. Pour ce faire, il introduit des informations supplémentaires dans la distribution des jetons au point de génération en modulant la probabilité de génération des jetons ; le tout sans compromettre la qualité, la précision, la créativité ou la rapidité de la génération du texte.

Pushmeet Kohli, vice-président de la recherche chez Google DeepMind, précise : « il s'agit spécifiquement de modifier le contenu généré par l'IA de manière à ce qu'il reste détectable à l'avenir ». Bien que Google affirme que "SynthID pour le texte est compatible avec la plupart des modèles d'IA de génération de texte", il reste à voir si ses concurrents, notamment OpenAI, Microsoft et Meta, l'adopteront ou s'ils proposeront leurs propres approches. En février, Meta a annoncé que l'entreprise commencera à étiqueter les images générées par les modèles d'IA des rivaux tels qu’OpenAI, Google, Midjourney, Adobe et bien d'autres.

Meta a également appelé à l'adoption de normes visant à étiqueter le matériel généré par l'IA. Nick Clegg, président des affaires mondiales de Meta, a déclaré que le géant des réseaux sociaux collabore avec différentes entités, dont le Partenariat sur l'IA (une organisation à but non lucratif composée d'universitaires, de professionnels de la société civile et d'organisations médiatiques dont l'objectif est de veiller à ce que l'IA ait des résultats positifs pour les personnes et la société) afin d'élaborer des normes pouvant être utilisées pour identifier les images d'IA sur l'ensemble du Web. OpenAI travaille aussi sur des outils similaires.

OpenAI a lancé au début du mois un outil capable de détecter les images générées par son modèle d'IA de génération d'images DALL-E 3 afin de répondre aux inquiétudes concernant l'influence des contenus générés par l'IA lors des élections. L'entreprise a déclaré que l'outil avait identifié correctement les images créées par DALL-E 3 dans environ 98 % des cas lors de tests internes et qu'il pouvait gérer des modifications courantes telles que la compression, le recadrage et les changements de saturation avec un impact minimal. OpenAI prévoit d'ajouter un filigrane inviolable pour marquer les photos ou les audios générés par l'IA.

Les filigranes sont encore limités et peuvent être supprimés en combinant différentes techniques. Google DeepMind indique que le texte généré par l'IA avec son filigrane peut être détecté même en cas de "paraphrase légère", mais que le filigrane est moins détectable lorsque le contenu a été entièrement réécrit ou traduit. SynthID pour le texte est également moins efficace pour les documents factuels lorsqu'il y a peu de réponses possibles à une question donnée. L'entreprise prévoit d'ouvrir le code source de cette technique de filigrane dans le courant de l'été afin que d'autres puissent l'intégrer dans leurs services.

« SynthID n'est pas une solution miracle pour identifier les contenus créés par l'IA, mais il constitue un élément important pour développer des outils d'identification de l'IA plus fiables et peut aider des millions de personnes à prendre des décisions éclairées sur la manière dont elles interagissent avec les contenus générés par l'IA. Dans le courant de l'été, nous prévoyons d'ouvrir le code source de SynthID pour le filigrane de texte, afin que les développeurs puissent utiliser cette technologie et l'incorporer dans leurs modèles », affirme Google DeepMind.

Source : Google DeepMind

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la nouvelle version de l'outil de filigrane SynthID ?
Sera-t-il efficace contre les abus de l'IA ? Que pensez-vous des limites de SynthID ?

Voir aussi

Google intègre des filigranes inaudibles appelés SynthID dans sa musique générée par l'IA, la protection contre les contrefaçons ne devrait pas compromettre la vie privée des utilisateurs

Meta va commencer à étiqueter les images générées par les modèles d'IA des entreprises comme OpenAI et Google, et appelle à l'adoption de normes visant à étiqueter le matériel généré par l'IA

OpenAI ajoutera bientôt des filigranes aux images générées par DALL-E 3, l'adoption des normes C2PA est essentielle pour accroître la fiabilité des informations numériques, selon OpenAI