Deepfake : la Chine veut réglementer les médias générés par l’IA qui ont été créés sans autorisation
afin de lutter contre les activités criminelles en ligne

L’administration du cyberespace de Chine (CAC) vient de publier un nouveau règlement qui vise à interdire la création de deepfakes et de tous types de médias générés par l’IA qui ne porteraient pas une étiquette informative distincte ou qui auraient été créés sans autorisation. Cette nouvelle directive aura pour objectif de limiter les risques liés à l’utilisation abusive des deepfakes en effectuant une surveillance plus stricte des technologies d'apprentissage profond. Le règlement en question entrera en vigueur le 10 janvier 2023 et concernera principalement tous les fournisseurs de services d’IA basés en Chine.

Le dispositif intitulé « Règlement sur la gestion de la synthèse profonde des services d’information sur Internet », a été publié conjointement par l’administration du cyberespace de Chine, le ministère de la Sécurité publique et le ministère de l’Industrie et des Technologies de l’Information. Il stipule que la création de deepfakes sans le consentement du sujet est désormais interdite et sanctionnée par la loi. Il en sera de même pour tout autre contenu généré par l’IA qui porterait atteinte à l’intérêt de la nation, qui irait à l’encontre des valeurs socialistes ou qui mettrait en péril les droits et intérêts des personnes.

Dans le document qui a été publié le 11 décembre 2022, le CAC, principal organisme de réglementation et de surveillance d’Internet du pays, stipule que les utilisateurs et les services qui proposent des créations utilisant la synthèse profonde devront désormais se soumettre à une évaluation de sécurité par le gouvernement. Ce contrôle aura pour objectif de vérifier la conformité des contenus avec la nouvelle réglementation.

Nom : Morphing_madness.jpg
Affichages : 780
Taille : 74,4 Ko

Les autorités compétentes insistent en outre sur la mise en place d’une étiquette évidente — une sorte de filigrane — sur tous les contenus afin qu’ils soient clairement identifiés comme ayant été générés par l’IA.

« Les services qui fournissent des fonctionnalités telles que le dialogue intelligent, la voix humaine synthétisée, la génération de visages humains et les scènes réalistes immersives qui génèrent ou modifient de manière significative le contenu des informations seront marqués de manière bien visible afin d’éviter toute confusion ou erreur d’identification de la part du public. Il est exigé qu’aucune organisation ou personne n’utilise des moyens techniques pour supprimer, altérer ou dissimuler les marques pertinentes. », rajoute les autorités chinoises.

Mais la nouvelle réglementation impose également aux fournisseurs de technologies d'apprentissage profond — les créateurs de deepfakes — de tenir un registre en conformité avec la loi. Ils devront par ailleurs s’assurer que leurs algorithmes d’IA et d’Apprentissage automatique restituent le plus fidèlement possible le sujet qu’ils traitent. En outre, les créateurs de deepfakes seront légalement tenus responsables de la sécurité des données en cas d’abus et toute personne qui a recours à la technologie devra s’enregistrer avec sa véritable identité afin de permettre aux autorités chinoises de retracer son activité.

À travers ce nouveau règlement, la Chine vient ainsi renforcer sa politique générale en matière de restriction et de censure sur Internet. Le CAC n’est pas non plus à son coup d’essai puisqu’en 2019, le régulateur avait déjà interdit, sous peine de poursuites pénales, la diffusion d'infox et de vidéos trompeuses créés sans divulgation avec l’aide de l’IA. La mesure a été prise quelque temps après que l’application chinoise de deepfake Zao a été épinglée pour collecte de données illicites par le ministère de l’Industrie et des Technologies de l’Information.

Aujourd’hui, le géant asiatique a clairement manifesté ses inquiétudes concernant la technologie d'apprentissage profond. La prolifération des plateformes alimentées par l’IA — à l’instar de Baidu, DALL-E ou de Stable Diffusion — et l’augmentation impressionnante des incidents liés à cette technologie durant ces dernières années (deepfake du président ukrainien), ont donc incité Pékin à adopter la nouvelle réglementation.


Le gouvernement chinois a en effet exposé ses préoccupations dans une note d’information publiée sur le site du Bureau de la Commission centrale des affaires du cyberespace :

« Ces dernières années, la technologie d'apprentissage profond s’est développée rapidement. Tout en répondant aux besoins des utilisateurs et en améliorant leur expérience, elle a également été utilisée par des personnes peu scrupuleuses pour produire, copier, publier et diffuser des informations illégales et nuisibles, pour calomnier et porter atteinte à la réputation et à l’honneur d’autrui, et pour contrefaire l’identité d’autrui. La fraude, etc., affecte l’ordre de la communication et l’ordre social, porte atteinte aux droits et intérêts légitimes des personnes et met en danger la sécurité nationale et la stabilité sociale. L’introduction du “Règlement” est un besoin pour prévenir et résoudre les risques de sécurité, et c’est aussi un besoin pour promouvoir le développement sain des services synthétiques approfondis et améliorer le niveau des capacités de supervision. »

Notons toutefois que la Chine n’est pas le seul gouvernement à se méfier de l’IA générative. Les États-Unis ont également proposé en octobre dernier, un ensemble de directives non contraignantes pour aider les entreprises à créer leurs propres règles en matière d’IA. Beaucoup moins restrictif que celui de leur homologue asiatique, ce projet de « déclaration des droits » de l’IA reconnaît les risques liés à l’utilisation abusive des systèmes à base d’intelligence artificielle. Toutefois, comme le relate la Maison-Blanche, ces effets néfastes ne sont pas inévitables et l’IA est capable de « redéfinir chaque partie de notre société et d’améliorer la vie de chacun ».

Concernant ce dernier point, Pékin semble être du même avis que l’administration Biden. Le gouvernement central chinois reconnaît en effet ouvertement le rôle important que l’IA aura à jouer pour soutenir la croissance économique du pays. Ainsi, comme le prévoit la nouvelle réglementation, la Chine s’attend à une plus large utilisation des « humains synthétiques » dans des applications comme les chatbots, les productions cinématographiques ou la présentation d’actualités. Dans de tels cas d’utilisation, les produits générés par l’IA devront alors être signalés comme des créations numériques et seront soumis aux nombreuses règles du pays concernant les contenus en ligne acceptables.

Source : Projet de loi

Et vous ?

Que pensez-vous de ces nouvelles mesures prises par le gouvernement chinois ?
Selon vous, cette nouvelle réglementation pourrait-elle être utilisée par le gouvernement pour censurer et réprimer arbitrairement les utilisateurs qui n’adhèrent pas à sa politique nationale ?

Voir aussi :

Les arnaques de type deepfake et crypto ont augmenté durant le premier trimestre 2022
L'acteur Bruce Willis manque de devenir la première célébrité à « vendre son visage » à une firme spécialisée en deepfake
Les humains trouvent les visages générés par l'IA plus dignes de confiance que les vrais visages
La loi européenne sur l'intelligence artificielle peut avoir un effet dissuasif sur les efforts en matière de logiciels libres