Discussion :

[Anthony]

L'autorité chinoise de régulation du cyberespace a proposé une série de mesures pour gérer les services d'IA générative, afin que les contenus créés soient conformes aux valeurs socialistes du pays

Le régulateur chinois du cyberespace a dévoilé, ce mardi 11 avril, un projet de mesures pour gérer les services d'intelligence artificielle générative, indiquant qu'il souhaitait que les entreprises soumettent des évaluations de sécurité aux autorités avant de lancer leurs offres au public.

Les règles rédigées par la Cyberspace Administration of China (CAC) interviennent alors que plusieurs gouvernements réfléchissent à la manière d'atténuer les dangers de la technologie émergente, qui a connu un boom des investissements et de la popularité auprès des consommateurs au cours des derniers mois après la publication du ChatGPT d'OpenAI.

Elles interviennent également après qu'une série de géants chinois de la technologie, dont Baidu, SenseTime et Alibaba, ont présenté ces dernières semaines leurs nouveaux modèles d'intelligence artificielle qui peuvent alimenter des applications allant des chatbots aux générateurs d'images.

La CAC a déclaré que la Chine soutenait l'innovation et l'application de l'IA et encourageait l'utilisation de logiciels, d'outils et de ressources de données sûrs et fiables, mais que le contenu généré par l'IA générative devait être conforme aux valeurs socialistes fondamentales du pays.

Les fournisseurs seront responsables de la légitimité des données utilisées pour former les produits d'IA générative et des mesures devraient être prises pour prévenir la discrimination lors de la conception des algorithmes et des données de formation.

L'autorité de régulation a également déclaré que les fournisseurs de services doivent exiger des utilisateurs qu'ils soumettent leur véritable identité et les informations connexes.

Les fournisseurs seront condamnés à des amendes, verront leurs services suspendus ou feront même l'objet d'enquêtes criminelles s'ils ne se conforment pas aux règles.

Si un contenu inapproprié est généré par leurs plateformes, les entreprises doivent mettre à jour la technologie dans un délai de trois mois afin d'empêcher qu'un contenu similaire ne soit à nouveau généré, a déclaré la CAC.

Le public peut commenter les propositions jusqu'au 10 mai, et les mesures devraient entrer en vigueur dans le courant de l'année, selon le projet de règles.

Source : L'autorité chinoise de régulation du cyberespace

Et vous ?

Quel est votre avis sur le sujet ?

Que pensez-vous des différentes tentatives actuelles de réglementation de l'IA générative ? Pensez-vous que ces mesures visent à contrôler le développement de l'IA en général ?

Voir aussi

La société chinoise Baidu dévoile un chatbot d'IA générative basé sur un modèle de langage plus grand que GPT-3, mais l'on ignore encore de quoi le chatbot d'IA de Baidu est réellement capable

Des chercheurs chinois auraient construit un modèle d'IA de 100 000 milliards de paramètres, soit autant de paramètres que le cerveau humain, il serait 571 fois plus puissant que GPT-3

L'IA de génération d'images la plus avancée de la Chine bloque déjà les contenus politiques, des entrées telles que "place Tiananmen" et "Xi Jinping" ne produisent aucun résultat

Les États-Unis commencent à étudier la possibilité de réglementer les systèmes d'IA comme ChatGPT, pour garantir que ces technologies soient légales, efficaces, éthiques, sûres et dignes de confiance

[Patrick Ruiz]

La Chine introduit la proposition de loi la plus restrictive au monde sur l’IA générative
Et ravive les craintes sur le virage à un Internet global piloté sur le modèle chinois

L’Italie a interdit l’utilisation du chatbot ChatGPT pour des raisons en lien avec la sécurité des informations personnelles. L’Allemagne envisage de lui emboîter le pas. C’est dire que les gouvernements réfléchissent à la manière d’atténuer les dangers de cette technologie émergente qu’est l’intelligence artificielle. Dans une sortie qu’on pourrait qualifier d’avant-gardiste, la Chine vient de publier une série de mesures allant dans le même sens. L’objectif : imposer des interdictions strictes sur les productions de l’IA générative non conformes aux idéaux socialistes. La manœuvre est de nature à entraîner un virage à l’échelle global vers un Internet piloté sur le modèle chinois.

Les points saillants de la série de mesures

Les contenus issus de l’IA générative devront s’aligner avec les valeurs fondamentales du socialisme, ne pas inciter à la division du pays ou au renversement du système socialiste.

Les concepteurs d’IA et les fournisseurs desdits services sont interdits de toute promotion du terrorisme, de l'extrémisme, de la haine ethnique et de la discrimination. La violence, les informations obscènes et pornographiques, les fausses informations et les contenus susceptibles de perturber l'ordre économique et social sont également interdits.

Les concepteurs d’IA et les fournisseurs desdits services ont la charge de prévenir la discrimination fondée sur la race, l'appartenance ethnique, les croyances, le pays, la région, le sexe, l'âge et la profession, en sélectionnant avec soin les données d'entraînement, en concevant des algorithmes et en procédant à d'autres optimisations.

Les utilisateurs desdits services devront s'inscrire avec leur vrai nom et ceux qui fournissent des services d'IA générative, ou qui aident d'autres à le faire, seront considérés comme les producteurs de contenus. Ces derniers assumeront la responsabilité de toutes les mesures de protection de la vie privée qui s'y rapportent, y compris celles qui concernent les informations personnelles.

Les fournisseurs de services au public seront tenus de procéder à une évaluation de la sécurité avant que leurs offres ne soient mises en ligne. Ces fournisseurs deviennent alors responsables du résultat, de toute fuite d'informations personnelles ou de toute violation de la propriété intellectuelle. Ils doivent également indiquer clairement que le contenu est généré par l'IA et traiter toute plainte, et veiller à ce que les utilisateurs ne deviennent pas accros ou dépendants de l'outil.

L’IA générative : raison supplémentaire pour le virage à un Internet global piloté sur le modèle chinois ?

C’est le tableau qui se dessine si les pays de l’espace européen adoptent des règles similaires pour encadrer l’utilisation de l’intelligence artificielle générative. Ce ne serait pas une posture nouvelle si l’on s’en tient à la tendance de généralisation de la levée d’anonymat sur Internet. Les tentatives dans le genre se multiplient à l’échelle mondiale comme l’illustrent des exemples tirés de pays d’Europe comme la France ou l’Allemagne. Les États justifient leur positionnement par la nécessité de la protection des citoyens (lutte contre la pédophilie en ligne, positionnement contre le terrorisme, etc.).

Le gouvernement australien par exemple a annoncé son intention de lever l’anonymat sur Internet en requérant des internautes de fournir une pièce d’identité (passeport, permis de conduire, etc.) pour l’accès à leurs comptes de réseaux sociaux. La nouvelle disposition s’inscrivait en droite ligne avec l’adoption d’une loi qui autorise les forces de l'ordre à prendre le contrôle de comptes de médias sociaux lorsque des tiers sont soupçonnés dans le cadre d'une enquête.

La manœuvre est destinée à protéger les citoyens contre les abus en ligne (pédophilie, discours haineux, propagande terroriste, etc.). Elle n’est pas sans faire penser à une sortie d’Emmanuel Macron à propos de l’anonymat en ligne : « Nos gouvernements, nos populations ne vont pas pouvoir tolérer encore longtemps les torrents de haine que déversent en ligne des auteurs protégés par un anonymat devenu problématique. » Beaucoup s'accordent sur le fait qu'en rendant les utilisateurs responsables de leurs propos – en supprimant la possibilité de poster des messages dans l’anonymat –, il est moins probable qu’ils s'engagent dans des discussions ou publications inciviles. C’est la raison pour laquelle des élus français ont proposé que les réseaux sociaux et autres hébergeurs soient obligés à vérifier l’identité réelle des internautes lors de leur inscription.

L’Allemagne s’est penchée sur la question depuis un moment dans le cadre de discussions sur les amendements à apporter au Code pénal en vigueur dans le pays. Un extrait de la proposition de loi mise sur la table par le ministre de la justice de Rhénanie-du-Nord-Westphalie :

« Le projet de loi vise à introduire de nouvelles infractions pénales via un nouvel article 126a au Code pénal. Une peine privative de liberté ou une amende est prévue à l'encontre de quiconque offre un service sur Internet dont l'accès et l'accessibilité sont limités par des précautions techniques spéciales et dont le but ou l'activité est de commettre ou de promouvoir certains actes illicites.

Les criminels utilisent de plus en plus les possibilités d'anonymisation que leur offre Internet. Le chiffrement des données de l'utilisateur et la sélection aléatoire d'itinéraires contrôlée par programme via des serveurs répartis dans le monde entier rendent considérablement plus difficile la détermination des points de départ et d'arrivée d'un transfert de données. En particulier, le réseau Tor, qui sert cet anonymat, permet également l'accès au Darknet.

L'accès au Darknet et l'accessibilité à ses services sont limités par des programmes spéciaux. En plus desdits services à accès restreint, le Darknet donne également l'accès à d'autres qui sont à caractère criminel tels que les plateformes de trafic de stupéfiants, de pédopornographie, de vente d'armes, de logiciels malveillants, etc. Ces offres constituent une menace considérable pour la sécurité publique. »

Si le texte fait directement référence au réseau Tor, il faut souligner qu’il est susceptible de s’appliquer à une panoplie d’autres situations. En effet, une relecture plus globale de « service sur Internet dont l'accès et l'accessibilité sont limités par des précautions techniques spéciales et dont le but ou l'activité est de commettre ou de promouvoir certains actes illicites » peut, par exemple, permettre de classer un service de courriel avec chiffrement dans le lot des plateformes qui tombent sous le coup dudit projet de loi.

Ces développements laissent penser que l’on s’achemine vers un Internet piloté sur le modèle chinois. Pour parvenir à une telle maîtrise de son cyberespace, la Chine s’appuie sur un levier de taille : le contrôle de l’anonymat en ligne. Il n’ y a qu’à jeter un œil à l’article 6 de la réglementation chinoise en la matière. À la réalité, la question revient de plus en plus en Europe ; le cas autrichien l’illustre puisque le pays a lui aussi annoncé son intention de mettre fin à l’anonymat en ligne. On anticipe à 2020 la période à laquelle il ne sera plus possible dans ce pays de rédiger un commentaire en ligne sans fournir son nom, prénom et adresse exacts. La raison, souligne le ministère en charge des médias dans ce pays, est très simple ; en cas d’enquête, les opérateurs de plateformes seraient tenus de fournir des informations aux agences gouvernementales ou, dans certains cas, aux personnes privées en cas d'insulte ou de diffamation. En France, le processus est lancé pour la mise en place d’une loi en vue d’en finir avec l’anonymat sur Internet.

Le train est en marche ; lentement certes, mais il semble que la destination finale soit, à l’échelle globale, un Internet régulé, modéré et censuré par les États. L’intelligence artificielle générative est susceptible de constituer un motif supplémentaire pour l’atteinte de cet objectif par les Etats.

Source : CAC

Et vous ?

Que pensez-vous de cette proposition de loi ? Avant-gardiste ? Rétrograde ?
La Chine ne se tire-t-elle pas une balle dans le pied quand on sait quelles sont ses ambitions dans la filière de l’intelligence artificielle ?
Quelles sont les mesures pertinentes au sein de ce projet de loi et dont l’Europe peut s’inspirer ?
Partagez-vous l’idée selon laquelle l’IA générative risque de servir de motif aux Etats pour une plongée sur un Internet piloté sur le modèle chinois ?

Voir aussi :

L'organisme italien de surveillance de la vie privée a déclaré vendredi qu'il avait bloqué le Chatbot controversé ChatGPT, car il ne respectait pas les données des utilisateurs
Un ministre italien, Matteo Salvini, a critiqué dimanche la décision de l'autorité de protection des données du gouvernement d'interdire temporairement le chatbot ChatGPT, l'estimant excessive
Les régulateurs européens de la vie privée surveillent de près la suspension de ChatGPT en Italie. Plusieurs envisageraient de lui emboîter le pas, évoquant des problèmes de confidentialité

[walfrat]

Je suis plus inquiété par ce que ferait n'importe qui s'il peut retrouver absolument tout ce que j'ai écris sur le net, que le gouvernement en soit.

Si on me demandait l'anonymat contre le gouvernement vs l'anonymat contre les personnes qui feraient des recherches sur Internet, c'est le deuxième que j'aime le moins (genre un futur potentiel employeur ou les voisins).

Et n'oublions pas à l'heure ou nous parlons, qu'un Etat motivé arrivera déjà a nous retrouver s'il y met les moyens.

[Refuznik]

Que pensez-vous de cette proposition de loi ? Avant-gardiste ? Rétrograde ?

On parle de quelle proposition de loi ici ? Le brouillon donné par la Chine n'est pas des plus restrictives par rapport aux obligations de fournisseurs de service sur les services existant en France ou en Europe. C'est un brouillon pour un fournisseur qui va fournir une IA générative comme service et elle regroupe grosso modo tout ce que l'on reproche actuellement à l'IA à travers le monde. D'ailleurs ils ne sont pas trop forcé là-dessus.

La Chine ne se tire-t-elle pas une balle dans le pied quand on sait quelles sont ses ambitions dans la filière de l’intelligence artificielle ?

Perso. je ne vois pas le rapport.

Quelles sont les mesures pertinentes au sein de ce projet de loi et dont l’Europe peut s’inspirer ?

Déja il aurait fallut le passer en entier avec tous les articles (bon google translate est votre ami) et comme j'ai dit ils ont repompé sur tous ce que l'on raconte et discute actuellement en occident et couvrant les dérives de l'IA.

Partagez-vous l’idée selon laquelle l’IA générative risque de servir de motif aux Etats pour une plongée sur un Internet piloté sur le modèle chinois ?

Ici on a pas mal de contradictions sur la compréhension d'internet. ce n'est pas seulement un nom, c'est aussi un terme technique.

Pour le reste, je ne vois pas le rapport avec l'IA et la levée d'anonymat pour répondre à la question posée dans l'article.
Déja l'anonymat n'existe pas sur internet, on parlera plutôt de pseudonymat. Après il est devenu malheureusement courant de voir les politiques faire des amalgames de termes (darknet, tor, blackmarket) et des prétendu menaces ou atteintes (pédo, terrorisme, tueur de chatons, etc...) pour justifier de plus en plus de controle sur une société qu'ils ne connaissent/maitrisent pas. Il suffit de voir la militarisation de notre police et tout les rajouts au code pénales pour tout et n'importe quoi depuis vingt ans.

[Invité]

Bon c'est dit, comme pour Stable Diffusion, attendons un concurrent totalement self-hosted et donc plus sûre !
Je n'ai pas confiance en ChatGPT, mais de là à l'interdire, c'est de la folie.

[OrthodoxWindows]

Déja l'anonymat n'existe pas sur internet, on parlera plutôt de pseudonymat. Après il est devenu malheureusement courant de voir les politiques faire des amalgames de termes (darknet, tor, blackmarket) et des prétendu menaces ou atteintes (pédo, terrorisme, tueur de chatons, etc...) pour justifier de plus en plus de controle sur une société qu'ils ne connaissent/maitrisent pas. Il suffit de voir la militarisation de notre police et tout les rajouts au code pénales pour tout et n'importe quoi depuis vingt ans.

+1000

C'est exactement ça, tout est dit