Les créateurs de YouTube sont désormais tenus d'indiquer si les vidéos réalistes ont été réalisées à l'aide d'une IA, afin d'éviter tout contenu susceptible d'induire les utilisateurs en erreur.

Les créateurs de YouTube devront indiquer si des vidéos réalistes ont été réalisées à l'aide d'une intelligence artificielle. Cette mesure s'inscrit dans le cadre d'un effort plus large de l'entreprise visant à faire preuve de transparence à l'égard des contenus susceptibles de troubler ou d'induire en erreur les utilisateurs.

Lorsqu'un utilisateur téléchargera une vidéo sur le site, il verra apparaître une liste de contrôle lui demandant si son contenu fait dire ou faire à une personne réelle quelque chose qu'elle n'a pas fait, s'il modifie les images d'un lieu ou d'un événement réel ou s'il dépeint une scène d'apparence réaliste qui ne s'est pas réellement produite.

L'objectif est d'éviter que les utilisateurs ne soient déroutés par des contenus synthétiques dans un contexte de prolifération de nouveaux outils d'IA générative destinés au grand public, qui permettent de créer rapidement et facilement des textes, des images, des vidéos et des sons convaincants qu'il est souvent difficile de distinguer de la réalité. Les experts de la sécurité en ligne se sont alarmés du fait que la prolifération du contenu généré par l'IA pourrait troubler et induire en erreur les utilisateurs sur l'internet, en particulier à l'approche des élections qui se tiendront aux États-Unis et dans d'autres pays en 2024.

Les créateurs de YouTube seront tenus d'indiquer si leurs vidéos contiennent du contenu généré par l'IA ou manipulé d'une autre manière qui semble réaliste, afin que YouTube puisse apposer une étiquette pour les téléspectateurs, et pourraient subir des conséquences s'ils omettent à plusieurs reprises d'ajouter cette information.

La plateforme a annoncé que la mise à jour interviendrait à l'automne, dans le cadre d'un déploiement plus large de nouvelles politiques en matière d'IA.


Comment YouTube aide les créateurs à divulguer les contenus modifiés ou synthétiques ?

L'IA générative transforme la façon dont les créateurs s'expriment, qu'il s'agisse de scénariser des idées ou d'expérimenter des outils qui améliorent le processus créatif. Mais les spectateurs veulent de plus en plus de transparence pour savoir si le contenu qu'ils voient est modifié ou synthétique.

C'est pourquoi YouTube a décidé d'introduire un nouvel outil dans Creator Studio, qui oblige les créateurs à informer les spectateurs lorsqu'un contenu réaliste (un contenu qu'un spectateur pourrait facilement confondre avec une personne, un lieu ou un événement réel) est réalisé à l'aide de médias modifiés ou synthétiques, y compris l'IA générative.

Comme annoncé en novembre, ces informations apparaîtront sous forme d'étiquettes dans la description détaillée ou sur le devant du lecteur vidéo. YouTube n'exige pas des créateurs qu'ils divulguent les contenus manifestement irréalistes, animés, comportant des effets spéciaux ou faisant appel à l'IA générative pour l'aide à la production.

Ce nouveau label vise à renforcer la transparence vis-à-vis des spectateurs et à instaurer un climat de confiance entre les créateurs et leur public. Voici quelques exemples de contenus qui doivent être divulgués :

  • L'utilisation de l'image d'une personne réaliste : Modifier numériquement un contenu pour remplacer le visage d'une personne par celui d'une autre ou générer synthétiquement la voix d'une personne pour narrer une vidéo.

  • Modifier des séquences d'événements ou de lieux réels : Par exemple, faire croire qu'un bâtiment réel a pris feu ou modifier un paysage urbain réel pour le faire apparaître différent de la réalité.

  • Générer des scènes réalistes : Montrer une représentation réaliste d'événements majeurs fictifs, comme une tornade se déplaçant vers une ville réelle.


Cependant, YouTube reconnaît que les créateurs utilisent l'IA générative de diverses manières tout au long du processus de création. Ils n'exigeront pas des créateurs qu'ils indiquent si l'IA générative a été utilisée à des fins de productivité, par exemple pour générer des scripts, des idées de contenu ou des sous-titres automatiques. Ils n'exigeront pas non plus des créateurs qu'ils divulguent les informations lorsque le média synthétique n'est pas réaliste et/ou que les changements sont sans conséquence. Il s'agit notamment des cas suivants :

  • Un contenu clairement irréaliste, tel qu'une animation ou une personne chevauchant une licorne dans un monde fantastique.

  • Ajustement des couleurs ou filtres d'éclairage

  • Effets spéciaux tels que le flou d'arrière-plan ou les effets vintage

  • Filtres de beauté ou autres améliorations visuelles



On peut trouver une liste plus longue d'exemples dans le Centre d'aide de YouTube. Pour la plupart des vidéos, un label apparaîtra dans la description détaillée, mais pour les vidéos qui abordent des sujets plus sensibles, comme la santé, l'actualité, les élections ou la finance, YouTube affichera également un label plus visible sur la vidéo elle-même.

Dans les semaines à venir, les étiquettes seront déployées sur toutes les surfaces et dans tous les formats de YouTube, en commençant par l'application YouTube sur votre téléphone, et bientôt sur votre ordinateur et votre téléviseur. YouTube souhaiterait laisser à sa communauté le temps de s'adapter aux nouvelles procédures et fonctionnalités, mais ils envisageront à l'avenir des mesures coercitives pour les créateurs qui choisissent systématiquement de ne pas divulguer ces informations. Dans certains cas, YouTube peut ajouter un label même si le créateur ne l'a pas divulgué, en particulier si le contenu modifié ou synthétique est susceptible de prêter à confusion ou d'induire les gens en erreur.

YouTube :

Il est important de noter que nous continuons à collaborer avec l'ensemble du secteur afin d'accroître la transparence des contenus numériques. Cela inclut notre travail en tant que membre directeur de la Coalition for Content Provenance and Authenticity (C2PA).

Parallèlement, comme nous l'avons déjà annoncé, nous continuons à travailler à la mise en place d'une procédure actualisée de protection de la vie privée permettant aux personnes de demander la suppression de contenus générés par l'IA ou d'autres contenus synthétiques ou modifiés qui simulent une personne identifiable, y compris son visage ou sa voix. Nous aurons bientôt plus d'informations sur la manière dont nous introduirons cette procédure à l'échelle mondiale.

Les créateurs sont au cœur de YouTube, et ils continueront à jouer un rôle extrêmement important en aidant leur public à comprendre, à adopter et à s'adapter au monde de l'IA générative. Il s'agit d'un processus en constante évolution, et YouTube continuera à s'améliorer au fur et à mesure de ses apprentissages. Nous espérons que cette transparence accrue nous aidera tous à mieux apprécier la façon dont l'IA continue à renforcer la créativité humaine.
Source : YouTube

Et vous ?

Pensez-vous que cette décision de YouTube est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

YouTube autorise désormais les vidéos qui prétendent que Trump a gagné les élections de 2020. Cette décision, qui intervient avant les élections de 2024, annule une politique mise en œuvre en 2020

YouTube se transforme en mine d'or pour les créateurs alors que les paiements atteignent 70 milliards de dollars en seulement 3 ans, de plus en plus de gens regardent YouTube, selon son PDG Neal Mohan

Google intègre des filigranes inaudibles appelés SynthID dans sa musique générée par l'IA. La protection contre les contrefaçons ne devrait pas compromettre la vie privée des utilisateurs