Discussion :

[Bill Fassinou]

La Chine propose un contrôle strict des algorithmes en vue de réglementer davantage les services Internet,
Le pays veut interdire les algorithmes qui créent la dépendance chez les utilisateurs

La Chine poursuit ses efforts visant à établir des réglementations plus strictes pour les services et les plateformes Internet. Dans un projet de directives en 30 points publié vendredi, l'Administration chinoise du cyberespace (CAC - Cyberspace Administration of China) a introduit des règles interdisant aux entreprises de déployer des algorithmes qui "encouragent la dépendance ou la consommation élevée et mettent en danger la sécurité nationale ou perturbent l'ordre public". Le pays revendique une autorité sur des services Internet que des gouvernements comme celui des États-Unis ont eu du mal à réglementer.

La Chine, ou le Parti communiste chinois (PCC), est connu pour son envie de contrôler et de filtrer toutes les données transitant par le cyberespace national, comme en témoignent les projets tels que le grand pare-feu de Chine. Au cours de ces 18 derniers mois, le pays s'est attaqué aux entreprises technologiques pour comportement monopolistique présumé et non-respect de la réglementation. Désormais, les régulateurs chinois cherchent à mettre en œuvre des règles de grande portée concernant les algorithmes utilisés par les entreprises technologiques pour recommander des vidéos et d'autres contenus.

Ainsi, l'Administration chinoise du cyberespace a dévoilé vendredi un projet de proposition en 30 points pour une "réglementation de la gestion des recommandations d'algorithmes" qui affecterait directement des entreprises telles que ByteDance Ltd, Tencent Holdings Ltd et Kuaishou Technology. Ces règles interdiraient les pratiques qui "encouragent la dépendance ou la forte consommation", ainsi que toute activité mettant en danger la sécurité nationale ou perturbant l'ordre social et économique. Selon certains spécialistes, ces nouvelles règles pourraient finalement permettre de lutter contre le doomscrolling.

Le doomscrolling est le fait de défiler sans réfléchir des articles d'actualité, des messages sur les médias sociaux ou d'autres plateformes de partage de contenu. Ces contenus sont la plupart du temps à prédominance négative. Essentiellement, il s'agit de lire une histoire négative après l'autre. Une étude canadienne a même appelé ce phénomène "panique des médias sociaux". Bien que l'on puisse penser que l'année 2020 et tous ses obstacles (la pandémie du Covid-19, les tensions politiques et l'injustice sociale, etc.) ont inspiré le terme "doomscrolling", l'on estime qu'il est probablement apparu sur Twitter en 2018.

Il est devenu un terme culturel depuis lors. Pour en revenir aux nouvelles règles proposées par la CAC, elles stipulent que les services Internet doivent respecter l'éthique commerciale et les principes d'équité, et leurs algorithmes ne doivent pas être utilisés pour créer de faux comptes d'utilisateurs ou d'autres impressions erronées. Il faut noter que la CAC, l'organisme de surveillance de l'Internet chinois, rend compte à un groupe de dirigeants centraux présidé par le président Xi Jinping. Le chien de garde a indiqué qu'il recueillerait les commentaires du public sur ces nouvelles directives pendant un mois (jusqu'au 26 septembre).

Les lignes directrices proposent aussi que les utilisateurs aient la possibilité de désactiver facilement les recommandations des algorithmes. En outre, il est indiqué que les fournisseurs d'algorithmes qui ont le pouvoir d'influencer l'opinion publique ou de mobiliser les citoyens doivent obtenir une approbation de la CAC. La proposition de vendredi intervient à un moment où Pékin cible de plus en plus les entreprises technologiques pour la manière dont elles ont traité les données des consommateurs et les positions monopolistiques qu'elles ont prises dans la nation. Ces entreprises ont vu leur influence considérablement diminuée.

Au début de l'année, l'Association chinoise des consommateurs, soutenue par Pékin, a déclaré que les sociétés Internet locales avaient "intimidé" les utilisateurs pour qu'ils effectuent des achats et des promotions, et porté atteinte à leur droit à la vie privée. Les récentes mesures prises par Pékin en matière de sécurité des données et le renforcement des réglementations relatives aux services de tutorat ont effrayé les investisseurs et fait perdre des centaines de milliards de dollars. Les nouvelles directives proposées vendredi semblent viser ByteDance, Alibaba Group, Tencent et Didi, et d'autres entreprises de médias sociaux.

La raison pour laquelle ces entreprises seront immédiatement touchées par ces directives est que leurs services sont construits à partir d'algorithmes propriétaires. Les actions d'Alibaba et de Tencent ont légèrement baissé à la suite de l'annonce. Par ailleurs, ces dernières années, plusieurs gouvernements, dont ceux des États-Unis et de l'Inde, ont tenté - avec peu ou pas de succès - de bien comprendre le fonctionnement ces algorithmes et de mettre en place des contrôles pour éviter les abus. Si le gouvernement américain n'a pas réussi à imposer des changements, les autorités de réglementation de Pékin ont un pouvoir considérable. Voici quelques-unes des principales propositions de réglementation :

1. les entreprises doivent divulguer les principes de base de tout service de recommandation par algorithme, en expliquant l'objectif et les mécanismes des recommandations de manière "ostensible" ;
2. elles doivent proposer aux utilisateurs des options pratiques pour désactiver les recommandations algorithmiques et donner suite "immédiatement" à toute demande de désinscription ;
3. les algorithmes ne doivent pas être utilisés pour une discrimination par les prix fondée sur les préférences et les habitudes des utilisateurs ;
4. les fournisseurs doivent évaluer et tester régulièrement leurs algorithmes et leurs données afin d'éviter les modèles qui induiront chez les utilisateurs des comportements obsessionnels, des dépenses excessives ou d'autres comportements contraires à l'ordre public et à la morale ;
5. ils doivent adhérer aux "valeurs dominantes" et "diffuser activement une énergie positive, et promouvoir l'application des algorithmes pour le mieux" ;
6. les algorithmes ne peuvent pas être utilisés pour créer de faux comptes ou influencer faussement les classements et les résultats de recherche au profit du fournisseur, influencer le discours en ligne ou éviter la surveillance réglementaire ;
7. les algorithmes ne peuvent pas mettre en danger la sécurité nationale, perturber l'ordre économique et social ou porter atteinte aux droits et intérêts légitimes d'autrui ;
8. les fournisseurs d'algorithmes qui peuvent influencer l'opinion publique ou mobiliser les masses doivent soumettre leurs services à l'approbation du CAC. Ceux qui n'obtiennent pas cette autorisation s'exposent à une amende pouvant aller jusqu'à 30 000 yuans et à l'obligation de mettre fin à leurs services.

Source : Site Web de la CAC (Cyberspace Administration of China)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des règles proposées par la CAC ?
Pensez-vous que ces règles protègent réellement les consommateurs ?
Ou augmentent-elles simplement le pouvoir de Pékin sur le cyberespace national ?

Voir aussi

Le Parti communiste chinois se dirigerait vers une nationalisation des groupes Alibaba et Ant de Jack Ma, alors que des médias rapportent que le milliardaire n'a pas disparu, mais fait profil bas

Comment la Chine a retourné le piratage d'un iPhone primé lors d'un concours contre les Ouïghours. Pékin utiliserait les vulnérabilités zero-days découvertes lors de concours à ses avantages

Le PDG d'Epic Games met en garde contre la "surveillance d'État" d'Apple, alors qu'Epic Games est détenu en partie par Tencent en Chine

La Chine adopte la PIPL, l'équivalent du RGPD, pour protéger la vie privée en ligne et les données personnelles, la nouvelle loi devrait entrer en vigueur le 1er novembre 2021

[MysticKhal_0]

Interdire les mécanismes liés à l'addition est une bonne idée. Ça réduit les perspectives de croissance à court terme, mais il me semble que c'est bien peu cher payé pour ce qu'on obtient en retour.

[calvaire]

cela ne reviens pas a ces entreprises à donner l'algorithme au PCC ?
les algo de Youtube, Netflix etc ont couter des millions en R&D et sont très bien protégé, pas sur qu'ils acceptent...

[Gazeld]

Interdire les mécanismes liés à l'addition

: en cours de maths ou au resto ? 😅

[Gazeld]

NB : on ne défile pas qqch sur un écran, on le fait défiler.

[Médinoc]

Il y a du doomscrolling en Chine? J'aurais pensé que toutes leurs news disaient seulement que tout allait bien...

[tanaka59]

Bonsoir,

La Chine propose un contrôle strict des algorithmes en vue de réglementer davantage les services Internet

Quel est votre avis sur le sujet ?

En Chine FAI (tel,mail,internet) et provider sont tous dans le giron de l'état chinois ... Donc un contrôle accru de la data pour ceux s’inscrivant sut des sites de media sociaux .

En Europe/Amerique du Nord le marché est liberalisé pour les télécoms ... les états ont donc bien peu de droit de regard ou on du mal. Résultat des sites comme Facebook ou Twitter , c'est une hydre à réguler !

Pensez-vous que ces règles protègent réellement les consommateurs ?

La Chine veut garder une main de fer sur ce qui se dit/fait sur les réseaux sociaux, même sans être aux manettres des entreprises en question. L'idée est de mater toute forme de opposition politique .

Ou augmentent-elles simplement le pouvoir de Pékin sur le cyberespace national ?

Cela augmente le pouvoir de pékin sur son cyberespace.

[Stéphane le calme]

La Chine implémente une loi qui interdit les algorithmes qui créent la dépendance chez les utilisateurs,
« une législation sans précédent pour le bien-être », selon un expert

La Chine est connue pour son envie de contrôler et de filtrer toutes les données transitant par le cyberespace national, comme en témoignent les projets tels que le grand pare-feu de Chine. Ces dernières années, le pays s'est attaqué aux entreprises technologiques pour comportement monopolistique présumé et non-respect de la réglementation. Désormais, les régulateurs chinois cherchent à mettre en œuvre des règles de grande portée concernant les algorithmes utilisés par les entreprises technologiques pour recommander des vidéos et d'autres contenus.

En août, l'Administration chinoise du cyberespace (ACC) a dévoilé un projet de proposition en 30 points pour une « réglementation de la gestion des recommandations d'algorithmes » qui affecterait directement des entreprises telles que ByteDance Ltd, Tencent Holdings Ltd et Kuaishou Technology. Ce projet a été le fruit de la collaboration entre l'ACC et quatre autres départements gouvernementaux.

Ces règles interdisent les pratiques qui « encouragent la dépendance ou la forte consommation », ainsi que toute activité mettant en danger la sécurité nationale ou perturbant l'ordre social et économique.

Les règles proposées par l'ACC stipulent que les services Internet doivent respecter l'éthique commerciale et les principes d'équité, et leurs algorithmes ne doivent pas être utilisés pour créer de faux comptes d'utilisateurs ou d'autres impressions erronées. Il faut noter que l'ACC rend compte à un groupe de dirigeants centraux présidé par le président Xi Jinping. Le gendarme du cyberespace a indiqué à cette période qu'il recueillerait les commentaires du public sur ces nouvelles directives jusqu'au 26 septembre 2021 (soit pendant un mois).

Les lignes directrices proposent aussi que les utilisateurs aient la possibilité de désactiver facilement les recommandations des algorithmes. En outre, il est indiqué que les fournisseurs d'algorithmes qui ont le pouvoir d'influencer l'opinion publique ou de mobiliser les citoyens doivent obtenir une approbation de l'ACC.

La loi, que l'ACC a publiée en janvier, vise à « réglementer les activités de recommandation d'algorithmes... protéger les droits et intérêts légitimes des citoyens... et promouvoir le développement sain des services d'information sur Internet ». Depuis le 1^er mars 2022, cette proposition de loi est en vigueur en Chine.

Ci-dessous, les articles relatifs à la protection des droits et intérêts des utilisateurs :

• Article 16 : Les prestataires de services de recommandation algorithmique informent les utilisateurs de manière visible de la fourniture de services de recommandation algorithmique et publient de manière appropriée les principes de base, les objectifs et les principaux mécanismes de fonctionnement des services de recommandation algorithmique.
• Article 17 : Les prestataires de services de recommandation algorithmique offrent aux utilisateurs des options qui ne sont pas adaptées à leurs caractéristiques personnelles ou offrent aux utilisateurs une option pratique pour désactiver le service de recommandation algorithmique. Si l'utilisateur choisit de fermer le service de recommandation d'algorithmes, le fournisseur de services de recommandation d'algorithmes cessera immédiatement de fournir les services concernés.
  
  Le fournisseur de service de recommandation algorithmique devrait fournir aux utilisateurs la fonction de sélection ou de suppression des balises d'utilisateur pour leurs caractéristiques personnelles pour le service de recommandation algorithmique.
  
  Si l'application de l'algorithme par le fournisseur de services de recommandation d'algorithmes a un impact significatif sur les droits et les intérêts de l'utilisateur, il doit l'expliquer conformément à la loi et assumer les responsabilités correspondantes.
  
• Article 18 : Lorsque les prestataires de services de recommandation d'algorithmes fournissent des services aux mineurs, ils s'acquittent de leurs obligations de protection du réseau des mineurs conformément à la loi, et facilitent l'utilisation des mineurs en développant des modèles adaptés à l'usage des mineurs et en fournissant des services adaptés aux caractéristiques. Les mineurs obtiennent des informations bénéfiques pour leur santé physique et mentale.
  
  Les fournisseurs de services de recommandation algorithmique ne doivent pas transmettre aux mineurs des informations susceptibles de les amener à imiter des comportements dangereux, à violer la moralité sociale, à induire de mauvaises habitudes chez les mineurs, etc. susceptibles d'affecter la santé physique et mentale des mineurs, et ne doivent pas utiliser les services de recommandation algorithmique pour induire des comportements dangereux. Les adultes sont dépendants d'Internet.
  
• Article 19 : Lorsque les prestataires de services recommandés par l'algorithme fournissent des services aux personnes âgées, ils doivent protéger les droits et intérêts dont jouissent les personnes âgées conformément à la loi, tenir pleinement compte des besoins des personnes âgées en matière de déplacements, de soins médicaux, de consommation et de courses, et fournir des services intelligents adaptés aux personnes âgées conformément aux réglementations nationales en vigueur. Effectuer la surveillance, l'identification et l'élimination des informations relatives à la fraude sur les réseaux de télécommunication conformément à la loi et faciliter l'utilisation en toute sécurité des services de recommandation d'algorithmes par les personnes âgées.
  
• Article 20 : Lorsque les prestataires de services de recommandation d'algorithmes fournissent aux travailleurs des services de planification des tâches, ils doivent protéger les droits et intérêts légitimes des travailleurs tels que la rémunération du travail, le repos et les vacances, et établir et améliorer les algorithmes pertinents pour la distribution des commandes de la plateforme, la composition et le paiement de la rémunération, les heures de travail, récompenses et punitions, etc.
• Article 21 : Lorsque les prestataires de services recommandés par des algorithmes vendent des biens ou fournissent des services aux consommateurs, ils protègent les droits des consommateurs à des transactions équitables et n'utilisent pas d'algorithmes pour déterminer les prix des transactions et d'autres conditions de transaction en fonction de caractéristiques telles que les préférences et les habitudes de transaction des consommateurs. Mettre en œuvre un traitement différentiel déraisonnable et d'autres actes illégaux.
• Article 22 : Les prestataires de services de recommandation d'algorithmes doivent mettre en place des portails pratiques et efficaces pour les plaintes des utilisateurs, les plaintes du public et les rapports, clarifier les procédures de traitement et les délais de retour d'information, et accepter, traiter et retourner rapidement les résultats du traitement.

« Une législation sans précédent pour le bien-être », selon un expert

Alberto Romero, spécialiste en IA et analyste pour le compte de CambrianIA, a noté :

« Les algorithmes définissent nos réalités. Ils manipulent notre attention et nous font perdre notre temps. Nous pensons que nous ne voulons pas vivre sans eux, mais finissons par chercher des moyens de lutter contre la forte envie de faire défiler vers le bas sur nos téléphones. Les entreprises technologiques ont un pouvoir absolu sur eux et ne répondent pas aux voix de plus en plus fortes demandant de rétablir ces prisons numériques incontournables.

« Les algorithmes devraient être soumis aux mêmes règles qui régissent les autres nouvelles technologies, mais la grande technologie refuse d'être tenue responsable ou de faire auditer ses algorithmes les plus importants en externe. Maintenant, la Chine a décidé de renverser la tendance ».

Il s'est laissé aller à une analyse des textes de loi pour étayer sa déclaration.

Art 6 : « ... diffuser activement l'énergie positive et promouvoir l'application d'algorithmes pour le bien. »

« De nos jours, nous acceptons les algorithmes comme un mal nécessaire. Nous embrassons l'idée fausse que la nature inhérente de l'algorithme est de nous donner quelque chose (la recommandation) en échange de notre attention, de notre temps ou de notre santé mentale. Nous essayons ensuite de riposter en passant du temps hors d'Internet ou en désinstallant des applications pendant quelques jours.

« Je dis que nous devrions recadrer cet état d'esprit. Comme je l'ai dit dans l'article que j'ai mentionné ci-dessus, "avec très peu d'efforts, les algorithmes pourraient être modifiés pour protéger notre psychologie sensible au lieu de l'exploiter. Ils pourraient être formés pour optimiser le bien-être au lieu de l'engagement".

« C'est exactement l'objet de ce nouveau règlement chinois. Ils obligeront des entreprises comme ByteDance (TikTok et Douyin) à faire du bien-être des utilisateurs l'objectif principal de leurs algorithmes ».

Art 8 : « … ne pas mettre en place des modèles d'algorithmes qui incitent les utilisateurs à s'adonner à l'addiction, à la consommation excessive, etc. »

« L'algorithme Youtube a été initialement conçu pour maximiser le temps passé sur la plateforme et la probabilité qu'un utilisateur clique sur une vidéo. Aujourd'hui, environ 70 % du temps que nous passons sur YouTube, nous regardons des vidéos recommandées. Lorsque Facebook a démarré, l'objectif principal était de consommer autant de temps et d'attention que possible.

« Les algorithmes peuvent être extrêmement addictifs et s'engager dans ce qu'on appelle "l'intoxication du contenu". Par exemple, les flux TikTok For You sont conçus pour maintenir l'engagement des utilisateurs en affichant un flux constant de contenu personnalisé, sans épuiser notre durée d'attention raccourcie.

Art 13 : « … ne pas générer de fausses informations synthétiques ni les diffuser. …”

« Les fake news sont le problème de l'information de notre époque. Avec des IA capables d'écrire comme des humains et des algorithmes optimisés pour que les gens discutent en ligne, il faut s'attendre à ce que les fake news prolifèrent.

« Étant donné que les gens aiment lire ce qu'ils croient déjà - formant ce qu'on appelle une chambre d'écho - les algorithmes vont certainement promouvoir des articles de presse (réels ou faux) qui renforcent ces croyances, car ils recevront des quantités considérables de goûts, d'attention et de débats.

« Les fake news qui reflètent une réalité fabriquée peuvent cibler des groupes vulnérables. Les croyants fermes renforceront davantage leurs opinions au lieu de trouver de nouvelles perspectives qui pourraient leur fournir une vision tridimensionnelle de la réalité. Et les sceptiques pourraient voir leurs décisions prises pour eux par la présence écrasante d'un récit particulier.

« Si Facebook était une entreprise chinoise, elle devrait prendre très au sérieux le problème omniprésent des fake news et de la désinformation qui inonde la plateforme – qui aurait eu un impact définitif sur les élections américaines de 2016 ».

Art 14 : « ... ne pas utiliser d'algorithmes pour enregistrer faussement des comptes, des comptes de transactions illégales, manipuler des comptes d'utilisateurs, ou faussement aimer, commenter ou transférer... »

« Un autre problème critique dans les médias sociaux d'opinion comme Twitter est l'existence de faux comptes, communément appelés bots. Ces comptes peuvent être créés par milliers pour promouvoir des messages spécifiques et les diffuser via la plateforme. Les personnes qui en sont victimes peuvent finir par former leurs croyances ou leurs visions de la réalité sur des mensonges.

« Cela peut également être un problème pour des entreprises comme Amazon ou Alibaba. Les bots créés par les vendeurs peuvent remplir les pages d'avis avec des notes élevées, créant ainsi la sensation qu'un produit est extrêmement bon, alors qu'en réalité ce n'est peut-être pas le cas.

« Souvent, les robots et les fake news vont de pair, créant un mélange extrêmement dangereux qui brouille et déforme la perception des gens en général, tout en fournissant une source de revenus difficilement traçable pour les esprits sans scrupules derrière la tromperie.

« Nous sommes témoins de la gravité de ce problème dans la guerre russo-ukrainienne actuelle. Il est difficile d'évaluer la véracité d'une source, car les faux comptes et les fake news inondent les canaux d'information ».

Art 16 : « … informent les utilisateurs de manière apparente de leur fourniture de services de recommandation algorithmique, et rendent publics les principes de base, les finalités et les principaux mécanismes de fonctionnement … »

« Les utilisateurs peuvent désormais être conscients des mécanismes derrière les algorithmes et des objectifs pour lesquels ils sont employés. Cela signifie que les gens peuvent prendre des décisions éclairées. Si Facebook indique explicitement la raison pour laquelle chaque article est promu dans les flux des utilisateurs, ils peuvent réfléchir à deux fois à leurs habitudes et à leurs comportements – ou s'ils souhaitent conserver leur compte Facebook ».

Art 17 : « … fournir aux utilisateurs des options qui ne sont pas adaptées à leurs caractéristiques personnelles, ou fournir aux utilisateurs une option pratique pour désactiver le service de recommandation algorithmique. »

« C'est sans doute l'article principal du nouveau règlement. Cela oblige les entreprises à offrir aux utilisateurs la possibilité de désactiver les recommandations et de sélectionner ou de supprimer les balises utilisateur. Cette législation pourrait, à elle seule, changer radicalement le paysage commercial des technologies Internet en Occident. Cela permettrait aux utilisateurs d'avoir un impact sur les principales sources de revenus de Facebook, Instagram, YouTube, Twitter, Reddit et de nombreuses autres plateformes qui dépendent fortement de l'argent publicitaire pour exister.

« Les entreprises de technologie Internet en Chine qui fournissent des services de recommandation guidés par des algorithmes devront adapter leurs plateformes et applications à la nouvelle législation. Ils pourraient perdre beaucoup d'argent. Mais que vaut cet argent par rapport au bien-être des gens ?

« Permettre aux gens de vivre dans un monde qui ne leur est pas artificiellement personnalisé est libérateur et sans précédent (les personnes qui choisissent de conserver les recommandations peuvent toujours le faire). Cette mesure vise à réduire le pouvoir des entreprises et les incitations à gagner de l'argent grâce à des publicités ciblées qui utilisent non seulement nos informations personnelles, mais également nos comportements et tendances en ligne : ce que nous aimons, ce que nous pensons d'un sujet ou ce que nous sommes plus susceptibles de faire ou d'acheter ».

Sources : texte de loi de l'administration chinoise du cyberespace, analyse d'Alberto Romero

Et vous ?

Quelle lecture faites-vous de cette loi chinoise ?
Partagez-vous le point de vue d'Alberto Romero qui y voit une « législation sans précédent pour le bien-être » ?
L'Occident devrait-il s'en inspirer ? Dans quelle mesure ?
Des chances qu'une telle loi puisse être promulguée en Europe ?

Voir aussi

Le Parti communiste chinois se dirigerait vers une nationalisation des groupes Alibaba et Ant de Jack Ma, alors que des médias rapportent que le milliardaire n'a pas disparu, mais fait profil bas
Comment la Chine a-t-elle retourné le piratage d'un iPhone primé lors d'un concours contre les Ouïghours. Pékin utiliserait les vulnérabilités zero-days découvertes lors de concours à ses avantages
Le PDG d'Epic Games met en garde contre la "surveillance d'État" d'Apple, alors qu'Epic Games est détenu en partie par Tencent en Chine
La Chine adopte la PIPL, l'équivalent du RGPD, pour protéger la vie privée en ligne et les données personnelles, la nouvelle loi devrait entrer en vigueur le 1er novembre 2021