2 pièce(s) jointe(s)
Projet de loi CSAM : les législateurs européens assurent que le chiffrement de bout ne sera pas affecté
Projet de loi CSAM : les législateurs européens assurent que le chiffrement de bout ne sera pas affecté,
par le règlement qui oblige les grandes entreprises technologiques à lutter contre la pédopornographie
Les législateurs de l’Union européenne ont approuvé mercredi un projet de règlement qui obligerait les grandes entreprises technologiques à détecter et à signaler les contenus liés à la pornographie infantile sur leurs plateformes, affirmant que le chiffrement de bout en bout ne serait pas affecté. Le projet de règlement vise à harmoniser les normes de protection des enfants en ligne dans les 27 États membres de l’UE et à renforcer la coopération entre les autorités nationales et les fournisseurs de services de communication.
Une proposition de la Commission européenne pourrait obliger les entreprises technologiques à analyser les messages privés à la recherche de matériel d'abus sexuel d'enfants (CSAM pour Child Sexual Abuse Material) et de preuves de pédopiégeage, même lorsque ces messages sont censés être protégés par un chiffrement de bout en bout.
Proposé par la Commission européenne l'année dernière, le CSAM est une graine de discorde entre les partisans des mesures de sécurité en ligne et les militants de la vie privée qui s'inquiète des mesures de surveillance qui pourraient en découler. L'exécutif de l'Union européenne a présenté la proposition CSAM après que le système actuel de détection et de signalement volontaire par les entreprises se soit révélé insuffisant pour protéger les enfants.
D'après le projet de régulation, les messageries devraient, d'ici à l'an prochain, mettre en place des outils pour détecter l'échange d'images pédopornographiques. Il est question de se servir d'outils basés sur l'intelligence artificielle pour analyser ces contenus, dans le but de détecter une image suspecte ou une conversation problématique. En cas de suspicion, une alerte serait envoyée à une agence européenne dédiée, à des fins d'analyses complémentaires.
La Commission affirme que cette mesure est nécessaire pour protéger les enfants des prédateurs sexuels et pour aider les autorités à poursuivre les criminels. Cependant, de nombreux experts, activistes et organisations de défense des droits de l’homme s’opposent à cette proposition, estimant qu’elle constitue une atteinte disproportionnée à la vie privée et à la sécurité des communications en ligne
La pilule a du mal à passer
Lors d'un séminaire public organisé ce 23 octobre, de nombreux experts ont toutefois pointé du doigt l'impossibilité de recourir à de telles analyses sans mettre à mal la vie privée des internautes européens.
Helen Charles, représentante des affaires publiques de Whatsapp, a exprimé ses « inquiétudes concernant l'implémentation » d'une telle solution à l'occasion de ce séminaire : « Nous pensons que toute demande d'analyse des contenus dans une messagerie chiffrée pourrait nuire aux droits fondamentaux » a-t-elle indiqué, tout en plaidant pour l'utilisation d'autres techniques, comme le signalement d'utilisateurs mais aussi le suivi du trafic des internautes pour détecter des comportements suspects.
Le même jour, le Contrôleur européen de la protection des données (CEPD), une institution indépendante de l’Union européenne, a rendu son avis sur le CSAM :
Citation:
Il est techniquement impossible de mettre en œuvre une analyse de contenu connu ou nouveau et une détection de toilettage par un fournisseur de services sans affaiblir le chiffrement de bout en bout et porter atteinte à la vie privée des utilisateurs. C’est la conclusion sans équivoque de centaines d’éminents scientifiques et chercheurs dans le domaine. En outre, de nombreux experts s’accordent sur le fait que les solutions technologiques de détection les plus récentes ne sont pas suffisamment fiables et sont également vulnérables aux cyberattaques.
La proposition CSAM n’offre pas non plus de solutions sur la manière d’atténuer le risque émergent du « CSAM synthétique », c’est-à-dire des images, des vidéos et du texte/voix générés par ordinateur, y compris à l’aide d’applications d’IA générative accessibles au public.
Il faut également rappeler que les entreprises technologiques se sont farouchement opposées à un affaiblissement du chiffrement.
En décembre, Apple a abandonné ses projets de construire une technologie de scan côté client pour iCloud, affirmant plus tard qu’il ne pouvait pas faire fonctionner le système sans porter atteinte à la vie privée de ses utilisateurs. Les opposants au projet de loi affirment que l’installation de portes dérobées dans les appareils des gens pour rechercher des images CSAM ouvrirait presque certainement la voie à une surveillance plus large de la part des gouvernements. « Vous rendez la surveillance de masse presque inévitable en mettant [ces outils] entre leurs mains », estime Alan Woodward, professeur en cybersécurité à l’Université de Surrey. « Il y aura toujours des « circonstances exceptionnelles » auxquelles [les forces de sécurité] penseront et qui justifieront qu’elles recherchent autre chose. »
Bruxelles se rétracte : le chiffrement de bout en bout ne sera pas affecté
Les législateurs européens ont convenu mercredi d'un projet de règles exigeant que Google, Meta et d'autres services en ligne d'Alphabet identifient et suppriment la pédopornographie en ligne, affirmant que le chiffrement de bout en bout ne serait pas affecté.
Ordres de détection
Afin d’éviter une surveillance de masse ou un contrôle généralisé de l’internet, le projet de loi permettra aux autorités judiciaires d’autoriser, en dernier ressort, des ordonnances limitées dans le temps de détection et de surveillance des contenus à caractère pédopornographique et d’effacement ou d’interdiction d’accès à ces contenus, lorsque les mesures restrictives ne sont pas efficaces pour l’éliminer.
En outre, les députés soulignent la nécessité de cibler les ordres de détection sur des individus ou des groupes (y compris les abonnés à une chaîne) liés à des abus sexuels commis sur des enfants, en s’appuyant des « motifs raisonnables de suspicion ».
Dans le texte adopté, les députés ont exclu du champ d’application des ordres de détection le chiffrement de bout en bout, afin de garantir que les communications de tous les utilisateurs sont sécurisées et confidentielles. Les fournisseurs seront en mesure de choisir les technologies à utiliser tant qu’elles respectent les garanties strictes prévues par la loi et sous réserve d’un audit public indépendant de ces technologies.
Centre européen pour la protection de l’enfance
La loi créera un centre européen pour la protection de l’enfance afin de contribuer à la mise en œuvre des nouvelles règles et d’aider les fournisseurs d’internet à détecter les contenus à caractère pédopornographique. Il collectera, classera et distribuera les rapports liés à ces contenus aux autorités nationales compétentes et à Europol. Le Centre mettra au point des technologies de détection pour les fournisseurs et tiendra à jour une base de données sur les hachages et autres indicateurs techniques des contenus à caractère pédopornographiques identifiés par les autorités nationales.
Le Centre aidera également les autorités nationales à appliquer le nouveau règlement sur les abus sexuels commis sur des enfants, à mener des enquêtes et à prélever des amendes allant jusqu’à 6 % du chiffre d’affaires mondial en cas de non-respect.
Enfin, les députés proposent de créer un nouveau forum consultatif sur les droits des victimes afin de veiller à ce que les voix des victimes soient prises en compte.
Quelques exemples d'amendements relatifs au chiffrement de bout en bout
Citation:
(9a) Le chiffrement, et notamment de bout en bout, est un outil de plus en plus important pour garantir la sécurité et la confidentialité des communications de tous les utilisateurs, y compris les enfants. Toute restriction ou atteinte au chiffrement de bout en bout peut être utilisée et abusée par des tiers malveillants. Aucune disposition du présent règlement ne doit donc être interprétée comme interdisant, affaiblissant ou compromettant le chiffrement de bout en bout. Les fournisseurs de services de la société de l'information ne devraient en aucun cas être empêchés de fournir leurs services en utilisant les normes de chiffrement les plus élevées, étant donné que ce chiffrement est essentiel à la confiance et à la sécurité des services numériques.
Ou encore :
Citation:
[...]Par conséquent, le présent règlement laisse au fournisseur concerné le choix des technologies à utiliser pour se conformer efficacement aux ordres de détection et ne doit pas être compris comme incitant ou dissuadant l'utilisation d'une technologie donnée, à condition que les technologies et les mesures d'accompagnement répondent aux exigences de présent règlement. Cela inclut l'utilisation de la technologie de chiffrement de bout en bout, qui constitue un outil important pour garantir la sécurité et la confidentialité des communications des utilisateurs, y compris celles des enfants.
[...]Lors de l'exécution de l'ordre de détection, les prestataires devraient prendre toutes les mesures de sauvegarde disponibles pour garantir que les technologies qu'ils emploient ne peuvent pas être utilisées par eux ou leurs employés à des fins autres que le respect du présent règlement, ni par des tiers, et ainsi éviter de porter atteinte à la sécurité et la confidentialité des communications des utilisateurs, tout en garantissant la détection efficace des matériels pédopornographiques et l'équilibre de tous les droits fondamentaux en jeu. À cet égard, les prestataires devraient garantir des procédures et des garanties internes efficaces pour empêcher une surveillance générale. Les ordres de détection ne doivent pas s’appliquer au chiffrement de bout en bout.
[ndlr. emphase mise sur le document]
Une position acclamée par les défenseurs des droits numériques
Les législateurs européens doivent régler les derniers détails avec les États membres avant que le projet puisse devenir une législation dans le cadre d'un processus qui pourrait être finalisé l'année prochaine.
La décision des législateurs d’exempter le chiffrement de bout en bout du projet de règles a suscité les éloges des défenseurs de la vie privée.
« La position du Parlement européen supprime le contrôle aveugle des discussions et permet uniquement une surveillance ciblée d'individus et de groupes spécifiques raisonnablement suspects d'être liés à du matériel pédopornographique avec un mandat judiciaire », a déclaré la Jeunesse libérale européenne (LYMEC).
Sources : communiqué de presse du Parlement européen, amendements
Et vous ?
:fleche: Quelle lecture faites-vous des propositions de Bruxelles ?
Le Parlement européen rejette la numérisation de masse des messages privés dans un projet de loi controversé
CSAR : le Parlement européen rejette la numérisation de masse des messages privés dans l'un des projets de loi les plus controversés, ce qui marque une évolution positive pour les droits de l'homme
Le 22 novembre, le Parlement européen a officiellement adopté sa position sur le projet de "règlement établissant des règles pour prévenir et combattre les abus sexuels concernant les enfants" (CSAR). Les sept groupes politiques européens ayant fortement soutenu cette position, il s'agit d'une évolution positive pour les droits de l'homme dans l'un des projets de loi de l'Union européenne (UE) les plus controversés de l'histoire récente.
L'EDRi (European Digital Rights) a longtemps plaidé contre les mesures de balayage de masse et de décryptage de la CSAR proposées en 2022 par l'unité de l'exécutif de l'UE chargée des affaires intérieures. Nous sommes donc rassurés que le Parlement ait écouté les preuves et la règle de droit. En même temps, nous sommes encore loin de la fin du processus législatif. Cela signifie que nous devons rester attentifs à la manière dont les deux autres institutions législatives - le Conseil des États membres de l'UE et la Commission européenne - réagissent. Seront-ils d'accord avec le Parlement pour dire que les nouvelles lois européennes doivent respecter les droits fondamentaux ? Ou bien vont-ils redoubler d'efforts en matière de "contrôle des discussions" ?
La position du Parlement européen
Comme nous l'avons expliqué lorsque cette position a été provisoirement approuvée par la commission des libertés civiles du Parlement le 14 novembre, il s'agit d'une déclaration politique claire selon laquelle même les objectifs sociétaux les plus importants ne justifient pas l'adoption de mesures à n'importe quel prix. La législation européenne sur les droits fondamentaux exige que les limitations des droits des personnes soient nécessaires pour atteindre l'objectif qu'elles cherchent à atteindre - notamment en étant objectivement efficaces et le moins intrusives possible - et proportionnées. Cela signifie que leur impact plus large doit être raisonnable.
Sur cette base, le Parlement a fermement rejeté les règles qui obligeraient les entreprises à scanner d'énormes volumes de messages privés, en exigeant désormais un soupçon raisonnable. Les avocats du Conseil des États membres de l'UE avaient auparavant lancé un avertissement sans précédent : la proposition initiale violerait l'essence même du droit à la vie privée. En langage européen, il s'agit d'une évaluation accablante, car la jurisprudence de la Cour de justice de l'UE a toujours soutenu que si les droits peuvent être limités pour des raisons justifiables, le "noyau essentiel" de tout droit de l'homme ne doit jamais être violé. Le Parlement a clairement écouté cet avertissement.
Le travail d'EDRi et la coalition
Avant même que l'unité des affaires intérieures (DG HOME) ne propose cette loi, l'EDRi a été en première ligne pour demander à l'UE de s'assurer que les mesures visant à lutter contre le crime grave que constituent les abus sexuels sur les enfants soient conformes aux règles des droits de l'homme. Pourtant, nos "10 principes pour défendre les enfants à l'ère numérique" ont été ignorés dans la proposition législative initiale (tout comme les préoccupations du comité de révision de la Commission).
Grâce à la campagne Stop Scanning Me menée par l'EDRi, des milliers de personnes à travers l'Europe ont depuis tiré la sonnette d'alarme sur le projet de mesures. Les scientifiques et les chercheurs du monde entier ont affirmé sans ambiguïté que, telles qu'elles sont proposées, les mesures compromettraient le cryptage et mettraient en péril les informations numériques de tout un chacun. D'autres parties prenantes, telles que les journalistes, les jeunes militants, les avocats et les associations de survivants, ont mis en garde contre les risques qu'elles pourraient encourir du fait de la proposition.
Quelles sont les prochaines étapes ?
Sa position ayant été officiellement adoptée, le Parlement européen est prêt à entamer des "trilogues". Il s'agit de négociations à huis clos entre les principaux parlementaires et le Conseil des gouvernements des États membres de l'UE. Toutefois, dans le cas présent, le Conseil ne dispose pas actuellement d'un mandat de négociation lui permettant d'entamer les trilogues. En fait, les gouvernements des États membres de l'UE sont divisés sur la question, certains pays refusant d'écouter la réalité technologique et juridique. Heureusement, beaucoup d'autres se sont opposés à leurs collègues, avertissant à juste titre que l'UE ne peut pas donner carte blanche à la destruction de la sécurité numérique, de la vie privée et de l'anonymat.
En juillet, l'EDRi a exhorté les gouvernements des États membres à ne pas accepter une position qui ouvrirait la voie à la surveillance de masse de la vie privée numérique de chacun. Les citoyens sont ensuite descendus dans la rue en Allemagne, en Suède et dans d'autres pays pour demander à leurs gouvernements de ne pas accepter le "Chat Control". Ces efforts ont porté leurs fruits : les gouvernements allemand, autrichien, polonais, estonien et slovène auraient adopté une position ferme à l'encontre de cette proposition malavisée, tandis que la France aurait exprimé de vives inquiétudes.
En l'absence d'une position du Conseil, le processus législatif relatif à la CSAR est actuellement dans les limbes. La présidence espagnole du Conseil tenterait de faire adopter une position avant la fin de son mandat (fin décembre 2023). Mais à l'heure où nous écrivons ces lignes, elle n'a pas de texte sur la table - et encore moins d'accord politique de la part d'un nombre suffisant d'États membres.
Même si le Conseil est en mesure d'arrêter sa position rapidement, il est très peu probable qu'il puisse adopter la loi au cours de ce mandat politique. En effet, nous approchons d'un événement qui ne se produit qu'une fois tous les cinq ans : les élections européennes. En juin 2024, un nouveau Parlement sera élu et, par la suite, une nouvelle série de commissaires européens sera nommée. Selon des documents ayant fait l'objet d'une fuite, cela signifie que toute négociation entre les institutions législatives doit se terminer au début du mois de février 2024.
Alors que les négociations en trilogue sur des lois, même simples, peuvent prendre des mois, il serait sans précédent qu'un dossier aussi complexe et sensible que la CSAR - avec autant d'enjeux - soit adopté en si peu de temps. Cette situation d'incertitude signifie également que la figure de proue politique de la CSAR, la commissaire suédoise controversée Ylva Johansson, ne restera probablement pas en poste pendant toute la durée de vie de cette proposition.
L'EDRi a toujours défendu l'idée que les lois visant à lutter contre la CSA en ligne doivent être conformes à la législation sur les droits fondamentaux et s'appuyer sur des preuves objectives d'efficacité. Avec cette dernière étape, le Parlement européen a fermement réfuté la tentative de la DG HOME d'adopter une loi qui échoue lamentablement sur ces deux points. Bien que les prochaines étapes de cette loi ne soient pas claires, il s'agit néanmoins d'une étape importante pour la protection des droits de l'homme numériques, et nous comptons sur le Conseil pour ne pas revenir en arrière.
Source : EDRi
Et vous ?
:fleche: Qu'en pensez-vous ?
Voir aussi :
:fleche: NOYB dépose une plainte contre la Commission européenne concernant une campagne publicitaire ciblée sur le Contrôle des chats
:fleche: « Stop au plan de surveillance de masse proposé par la Commission de l'UE », lance un éditeur de VPN, car l'UE entend scanner toutes les correspondances privées pour lutter contre la pédopornographie
:fleche: Victoire de la vie privée : Le contrôle du Chat a été reporté pour la deuxième fois ! voici pourquoi les plans de balayage CSAM de l'UE doivent échouer, d'après Tutanota
Comment voir l'interdit si on ne le regarde pas ?
Le 22 novembre, le Parlement européen a officiellement adopté sa position sur le projet de "règlement établissant des règles pour prévenir et combattre les abus sexuels concernant les enfants" (CSAR). Les sept groupes politiques européens :
Comment appliquer cela avec la déclaration :
CSAR : le Parlement européen rejette la numérisation de masse des messages privés dans l'un des projets de loi les plus controversés, ce qui marque une évolution positive pour les droits de l'homme
:roll:
1 pièce(s) jointe(s)
Les adolescents sur Facebook et Instagram ne pourront plus voir les contenus sur l'automutilation
Les adolescents sur Facebook et Instagram ne pourront plus voir les contenus sur l'automutilation,
le suicide et les troubles de l'alimentation, même si leurs amis les partagent
Meta, la société mère de Facebook et Instagram, répond à la pression gouvernementale en annonçant des mesures visant à protéger les adolescents de contenus sensibles liés au suicide, à l'automutilation et aux troubles de l'alimentation. Les adolescents ne pourront plus voir ces contenus, même s'ils sont partagés par leurs amis, et seront redirigés vers des ressources d'aide expertes en cas de recherche de telles informations. Les comptes d'adolescents seront soumis à des paramètres de filtrage restrictifs par défaut, modifiant le type de contenu visible. Ces changements surviennent alors que Meta est sous surveillance gouvernementale concernant la sécurité des enfants sur ses plateformes.
Aux États-Unis, le PDG de Meta, Mark Zuckerberg, et d'autres dirigeants d'entreprises technologiques témoigneront devant le Sénat sur la sécurité des enfants le 31 janvier, tandis qu'en Europe, des lois strictes obligent les grandes entreprises technologiques à être responsables du contenu partagé sur leurs plateformes.
« Meta fait évoluer ses politiques concernant les contenus qui pourraient être plus sensibles pour les adolescents, ce qui constitue une étape importante pour faire des plateformes de médias sociaux des espaces où les adolescents peuvent se connecter et être créatifs d'une manière adaptée à leur âge. Ces politiques reflètent les connaissances actuelles et les conseils d'experts concernant la sécurité et le bien-être des adolescents. Au fur et à mesure que ces changements se produisent, ils offrent de bonnes occasions aux parents de discuter avec leurs adolescents de la manière de gérer les sujets difficiles », Rachel Rodgers, professeur associé, département de psychologie appliquée, Northeastern University.
Le parcours de Facebook dans le ciblage des jeunes utilisateurs et la réaction réglementaire
En avril 2021, Facebook (Meta) a suscité des inquiétudes en annonçant des projets visant à développer une version d'Instagram destinée aux enfants de moins de 13 ans. Cette décision a été critiquée par une coalition internationale de défenseurs de la santé des enfants, soulignant les préoccupations liées à la manipulation et à l'exploitation potentielles des jeunes utilisateurs. Bien que Facebook affirmait vouloir créer une expérience adaptée à l'âge des enfants et axée sur la sécurité, les signataires de la lettre ouverte ont exprimé leurs doutes des véritables intentions de l'entreprise. Ils citent des risques pour la santé mentale des enfants, faisant référence à une étude classant Instagram comme la pire plateforme pour la santé mentale des jeunes.
En septembre 2021, des documents internes de Facebook révélés par le Wall Street Journal dévoilent les efforts de l'entreprise pour exploiter les préadolescents considérés comme une « richesse inexploitée ». Les documents montrent que Facebook envisageait de tirer parti des rendez-vous de jeu pour inciter davantage d'enfants à utiliser l'application Messenger Kids. Cette révélation s'inscrit dans la série d'enquêtes du WSJ, The Facebook Files, mettant en lumière les efforts de Facebook pour cibler et engager les jeunes enfants malgré une baisse de popularité parmi les adolescents. Les documents internes révèlent la préoccupation de Facebook quant à sa perte de terrain face à des applications concurrentes telles que Snapchat et TikTok, ainsi qu'une baisse de 19 % du nombre d'adolescents utilisant Facebook chaque jour au cours des deux dernières années. Facebook prévoyait une chute d'environ 45 % de son audience adolescente en 2023 et cherchait des moyens d'inciter les enfants à utiliser Messenger Kids pour éviter cette diminution.
En octobre 2021, Facebook a annoncé la suspension temporaire de son projet Instagram Kids, une version destinée aux enfants de moins de 13 ans, suite à des préoccupations exprimées par des législateurs et d'autres parties concernant les effets potentiels de la plateforme sur la santé mentale des jeunes. Adam Mosseri, responsable d'Instagram, a déclaré que cette pause permettrait à l'entreprise de prendre en compte les préoccupations, de démontrer la valeur de la version pour enfants, censée être dépourvue de publicité et permettant aux parents de surveiller l'activité des enfants.
Cette décision fait suite à une enquête du Wall Street Journal révélant que les recherches internes de Facebook indiquaient qu'Instagram était potentiellement dangereux pour un pourcentage important de jeunes utilisateurs, en particulier les adolescentes ayant des problèmes d'image corporelle, suscitant ainsi des inquiétudes sur l'impact de l'application sur la santé mentale des adolescents. Facebook a contesté ces conclusions tout en soulignant la nécessité de créer des espaces numériques fiables pour les enfants, où les parents peuvent mieux surveiller leurs activités plutôt que de les empêcher totalement d'accéder en ligne.
Dans un article de blog daté du 22 octobre 2023, David Colborne, chroniqueur et responsable informatique pour The Nevada Independent, critique la Kids Online Safety Act, une loi régulant l'âge et le contenu des utilisateurs en ligne. Colborne affirme que cette loi, censée protéger les enfants, porte atteinte à leur vie privée et à leur liberté d'expression. Il souligne que la législation actuelle ne répond pas efficacement aux véritables dangers en ligne tels que le harcèlement, la haine, la violence et la publicité. Selon lui, cette loi risque d'être anticonstitutionnelle en instaurant une forme excessive et indiscriminée de censure.
Dans un contexte où les enfants passent de plus en plus de temps en ligne dès un jeune âge, avec un nouvel enfant connecté toutes les demi-secondes dans le monde, Colborne reconnaît les opportunités éducatives et sociales offertes par l'internet. Cependant, il met en garde contre les risques inhérents à cette présence en ligne croissante. La cyberintimidation et d'autres formes de violence entre pairs peuvent impacter les jeunes lors de leur utilisation des médias sociaux et des plateformes de messagerie instantanée. L'exposition à des discours haineux et à des contenus violents, incluant des incitations à l'automutilation et au suicide, est également soulignée comme une préoccupation majeure. Colborne cite des statistiques alarmantes, indiquant que 80 % des enfants dans 25 pays se sentent en danger d'abus sexuel ou d'exploitation en ligne.
En outre, il met en avant le danger que représentent les violations de la vie privée des enfants par les entreprises technologiques, qui collectent des données à des fins de marketing ciblé. Le marketing dirigé vers les enfants par le biais d'applications, souvent associé à une utilisation excessive de l'écran, peut compromettre le développement sain des enfants.
En janvier 2023, la secrétaire d'État britannique à la culture, Michele Donelan, a envisagé des modifications au projet de loi sur la sécurité en ligne pour permettre la poursuite des dirigeants de médias sociaux qui ne protègent pas la sécurité des enfants. Un amendement, soutenu par des députés conservateurs, y compris Priti Patel et Iain Duncan Smith, propose de donner à l'Ofcom le pouvoir de poursuivre individuellement les cadres complices de violations de la loi sur la sécurité des enfants.
Ces dirigeants pourraient être condamnés à des peines de prison allant jusqu'à deux ans. Le projet de loi prévoit également des changements dans la répression des contenus préjudiciables vus par des adultes, avec des obligations de transparence accrues pour les entreprises technologiques en matière de modération de ces contenus, et la possibilité pour les utilisateurs de demander leur suppression des plateformes de médias sociaux.
Au-delà du porno, les législateurs ont fait savoir qu'ils étaient prêts à imposer des limites d'âge sur de larges pans de l'internet afin de protéger les enfants de certains contenus (légaux), tels que ceux qui traitent du suicide ou des troubles de l'alimentation. Depuis des années, des rapports indiquent que les fils d'actualité des adolescents sont inondés de contenus préjudiciables, par exemple. Mais le blocage de tous les contenus autres que ceux que les plateformes jugent dignes de confiance et acceptables pourrait empêcher les jeunes d'accéder à d'autres ressources éducatives ou de soutien.
Dans le même temps, dans l'UE, la loi sur les services numériques tient les grandes entreprises technologiques, dont Meta et TikTok, responsables du contenu partagé sur leurs plateformes, avec des règles concernant la transparence algorithmique et le ciblage publicitaire. La Commission européenne a présenté en décembre 2020 deux propositions législatives, le Digital Services Act (DSA) et le Digital Markets Act (DMA), visant à réguler le secteur numérique. Un accord provisoire a été trouvé pour le DMA en mars 2022 et pour le DSA en avril 2022. Ces règlements ont pour objectif de mettre fin à l'irresponsabilité des géants du numérique en créant un cadre de régulation adapté aux défis actuels tout en préservant l'innovation. Le DSA, remplaçant la directive sur le commerce électronique obsolète de 2000, vise à établir des règles communes pour les intermédiaires en ligne et garantir un niveau élevé de protection des utilisateurs.
Les impacts de la législation sur les services numériques
Le Conseil de l'UE a salué l'accord sur le DSA, le décrivant comme une première mondiale en matière de régulation du numérique. Les nouvelles règles sont conçues pour mieux protéger les consommateurs en ligne, assurer la transparence des plateformes et favoriser l'innovation tout en rééquilibrant les responsabilités entre les utilisateurs, les plateformes et les pouvoirs publics. Ces règlements s'appliqueront à tous les intermédiaires en ligne opérant dans le marché unique de l'UE, avec des obligations adaptées à leur rôle, taille et impact sur l'écosystème en ligne.
Les micro- et petites entreprises auront des obligations proportionnées à leur taille pour rester responsables. Ces nouvelles règles visent à offrir plus de choix, des prix plus bas, une exposition moindre aux contenus illicites et une protection accrue des droits fondamentaux pour les citoyens et les entreprises utilisant des services numériques. En résumé, la législation sur les services numériques vise à créer un environnement en ligne plus sûr, transparent et propice à l'innovation au sein du marché unique européen.
Chaque géant de la technologie avait jusqu'au 17 février 2023 pour divulguer ses données sur le nombre d'utilisateurs mensuels, et ceux qui dépassent le seuil ont maintenant quatre mois pour se conformer aux nouvelles règles, sous peine de lourdes amendes. Twitter a signalé 100 millions d'utilisateurs mensuels dans l'UE, Google a présenté des chiffres pour Google Maps, Play, Search, Shopping, et YouTube, tandis que Meta Platforms a détaillé les données d'utilisation de Facebook et Instagram.
Au Royaume-Uni, la loi sur la sécurité en ligne, entrée en vigueur en octobre, oblige désormais les plateformes en ligne à se conformer aux règles de sécurité des enfants, sous peine d'amendes. La loi sur la sécurité en ligne a pour objectif de faire du Royaume-Uni « l'endroit le plus sûr au monde pour être en ligne », mais elle a suscité de vives critiques, estimant qu'elle pourrait porter atteinte à la vie privée des utilisateurs. L'application de messagerie cryptée Signal, par exemple, a déclaré qu'elle quitterait le Royaume-Uni plutôt que de collecter davantage de données susceptibles de mettre en péril la vie privée des utilisateurs.
Les nouvelles mesures soulèvent des questions sur la censure
La société Meta a aujourd'hui qu'elle interdisait aux adolescents de consulter des contenus traitant de sujets tels que le suicide, l'automutilation et les troubles de l'alimentation. Ces contenus, qui, selon Meta, peuvent ne pas être "adaptés à l'âge" des jeunes, ne seront pas visibles même s'ils sont partagés par une personne que l'adolescent suit.
Si un adolescent recherche ce type de contenu sur Facebook et Instagram, il sera dirigé vers des « ressources d'aide expertes » telles que la National Alliance on Mental Illness, selon Meta. Les utilisateurs adolescents peuvent également ne pas savoir si les contenus de ces catégories sont partagés et qu'ils ne peuvent pas les voir. Cette modification sera étendue aux utilisateurs de moins de 18 ans au cours des prochains mois.
En plus de masquer le contenu des catégories sensibles, les comptes des adolescents seront également soumis par défaut à des paramètres de filtrage restrictifs qui modifient le type de contenu qu'ils voient sur Facebook et Instagram. Ce changement affecte les posts recommandés dans Search et Explore qui pourraient être « sensibles » ou « de faible qualité », et Meta réglera automatiquement tous les comptes d'adolescents sur les paramètres les plus stricts, bien que ces paramètres puissent être modifiés par les utilisateurs.
La décision de Meta d'implémenter des mesures visant à protéger les adolescents de contenus sensibles liés au suicide, à l'automutilation et aux troubles de l'alimentation est sujette à une évaluation nuancée. D'un côté, ces actions témoignent d'une responsabilité accrue de la part de l'entreprise en réponse à des préoccupations légitimes concernant la sécurité des adolescents en ligne. D'un autre côté, cela soulève des questions sur la ligne fine entre la protection des utilisateurs et la censure.
D'un point de vue positif, l'initiative de Meta d'empêcher les adolescents de voir des contenus potentiellement dangereux et de les rediriger vers des ressources d'aide spécialisées démontre une prise de conscience de l'impact potentiellement néfaste de certaines informations sur la santé mentale des jeunes utilisateurs. Cela pourrait être interprété comme une mesure proactive visant à créer un environnement en ligne plus sécurisé et à prévenir des situations graves.
Cependant, la question de savoir si ces actions représentent une forme de censure dépend de la perspective adoptée. Certains pourraient applaudir ces mesures comme une intervention nécessaire pour protéger les adolescents vulnérables, tandis que d'autres pourraient exprimer des préoccupations quant à la restriction de l'accès à certaines informations, argumentant que cela limite la liberté d'expression et l'autonomie des utilisateurs, même s'il s'agit d'une population jeune.
La surveillance gouvernementale concernant la sécurité des enfants sur les plateformes de Meta souligne également le défi complexe de trouver un équilibre entre la protection des utilisateurs les plus jeunes et le respect de principes tels que la liberté d'expression. Il est essentiel de s'interroger sur la manière dont ces mesures sont mises en œuvre, surveillées et ajustées afin d'éviter tout excès qui pourrait conduire à une forme de censure indue.
Source : Meta
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
:fleche: Dans quelle mesure ces nouvelles mesures de protection des adolescents sont-elles une réponse efficace aux préoccupations liées à la sécurité sur les plateformes de Meta, et sont-elles susceptibles de résoudre les problèmes sous-jacents ?
:fleche: Les récentes annonces de Meta concernant la protection des adolescents ne sont-elles pas simplement une réaction à la pression gouvernementale, plutôt qu'une initiative proactive de l'entreprise ?
:fleche: Face aux multiples scandales liés à la confidentialité des données et aux contenus nuisibles sur ses plateformes, comment Meta peut-elle garantir que ces nouvelles mesures ne sont pas simplement des actions superficielles pour redorer son image ?
:fleche: En tant que société qui a profité de la viralité de contenus controversés par le passé, comment Meta peut-elle prétendre sérieusement vouloir créer un environnement en ligne plus sûr pour les adolescents sans compromettre ses propres intérêts commerciaux ?
Voir aussi :
:fleche: Instagram pour les enfants ? Mark Zuckerberg cible maintenant vos enfants et si le milliardaire les attrape tôt, il les aura pour la vie
:fleche: Des documents internes de Facebook divulgués décrivent les enfants de 10 à 12 ans comme une « richesse inexploitée » et contiennent des plans pour attirer les enfants sur le réseau social
:fleche: Facebook suspend son projet de lancer Instagram Kids, cette décision fait suite aux préoccupations concernant les effets sur la santé mentale des moins de 13 ans
:fleche: Réseaux sociaux et santé mentale des enfants : le Royaume-Uni pourrait emprisonner les responsables de médias sociaux, qui enfreignent les règles de sécurité des enfants
:fleche: La loi sur la sécurité des enfants en ligne (Kids Online Safety Act) serait préjudiciable à la liberté et à la sécurité des enfants, selon David Colborne, chroniqueur et responsable informatique
1 pièce(s) jointe(s)
Lettre ouverte de Tuta appelant les États membres de l'UE à défendre le chiffrement
Lettre ouverte de Tuta appelant les États membres de l'UE à défendre le chiffrement, les États membres de l'UE doivent décider de leur camp : vie privée ou surveillance
En mars 2024, les ministres de l'Intérieur des pays de l'UE doivent voter sur l'introduction d'une analyse obligatoire côté client pour tous les fournisseurs afin d'identifier les contenus pédopornographiques. Une lettre ouverte publiée sur Tuta par un groupe d'entreprises soucieuses de la protection de la vie privée, met en garde contre le risque d'ouvrir une porte dérobée et invite les ministres à défendre le droit des citoyens à la vie privée et à renforcer la position des entreprises de l'Union européenne.
"Les experts en sécurité s'accordent à dire que la proposition de la Commission européenne visant à analyser chaque message de chat et chaque courrier électronique créerait une porte dérobée, dont les criminels pourraient profiter et profiteront. En tant que plus grand fournisseur de messageries chiffrées de l'UE, nous sommes fiers d'avoir construit Tuta ici en Allemagne - un produit sécurisé conforme au RGPD européen permettant à des millions de personnes de communiquer en ligne en toute confidentialité", déclare Matthias Pfau, fondateur de Tuta.
"Nous demandons maintenant à nos ministres de l'intérieur, et plus particulièrement à Nancy Faeser (SPD, Allemagne), de choisir le bon camp dans cette discussion : défendre un chiffrement fort et protéger le droit à la vie privée de millions de citoyens et d'entreprises de l'UE. L'Europe ne peut pas s'enorgueillir des progrès réalisés grâce à la législation GDPR tout en promouvant l'analyse côté client. Une telle démarche détruirait toute crédibilité de l'UE en matière de protection de la vie privée et de chiffrement, tant pour les entreprises que pour les citoyens".
La lettre souligne que l'UE a une chance unique de devenir le phare de l'espoir pour la liberté d'expression et la démocratie en défendant un chiffrement fort afin que les citoyens et les entreprises de l'UE puissent continuer à jouir de la vie privée et de la confidentialité en ligne au niveau le plus élevé possible.
Il appelle le Conseil de l'UE à garantir un certain nombre de choses pour préserver un niveau élevé de cybersécurité dans l'UE en protégeant le chiffrement de bout en bout et en apportant les garanties nécessaires dans le texte. Elle affirme que l'analyse côté client et les portes dérobées en particulier ne devraient pas être rendues obligatoires afin de préserver la confidentialité de la correspondance.
Les États membres de l'UE doivent décider de leur camp : vie privée ou surveillance
Nouvelle année, ancienne discussion : Cette année, l'Union européenne entamera le trilogue sur le règlement de la Commission relatif aux abus sexuels commis sur des enfants (CSAR), qui propose d'analyser chaque message des citoyens de l'Union européenne afin d'y déceler des informations sur les abus sexuels.
L'année dernière, le Parlement européen s'est déjà prononcé contre ce type d'analyse côté client, ce qui a constitué un grand succès pour les défenseurs de la vie privée en Europe. Le moment est venu pour les États membres de l'UE de se positionner dans cette bataille de la vie privée contre la surveillance.
Une coalition d'entreprises européennes soucieuses de la protection de la vie privée, appelons los ministres à faire respecter le droit des citoyens à la vie privée et à défendre un chiffrement fort.
L'année dernière, ils ont été ravis de voir l'accord historique du Parlement européen contre la surveillance du contrôle des conversations. Ils ont félicité le Parlement européen pour sa décision de défendre le droit des citoyens à la vie privée et d'assurer un chiffrement fort en Europe.
Dans sa décision, le Parlement européen a suivi les conseils de 300 scientifiques et experts en cryptographie et du Service de recherche du Parlement européen (EPRS) qui ont fortement critiqué le contrôle des chats pour ses vastes pouvoirs de surveillance qui détruiraient le droit à la vie privée en ligne et porteraient atteinte à la liberté d'expression, sapant ainsi les valeurs démocratiques.
Alors que le monde est plus que jamais confronté à des tendances à la surveillance - comme en témoignent le projet de loi sur la sécurité en ligne au Royaume-Uni, la législation australienne sur la surveillance et la réforme de la FISA aux États-Unis -, l'Union européenne a aujourd'hui la chance unique de devenir le phare de l'espoir pour la liberté d'expression et la démocratie.
Avec le règlement général sur la protection des données (RGPD), l'UE a fixé une norme très élevée pour la protection des données et de la vie privée dans l'UE. Il est maintenant important de maintenir ce niveau élevé de protection de la vie privée en défendant un chiffrement fort afin que les citoyens et les entreprises de l'UE puissent continuer à bénéficier d'une protection de la vie privée et d'une confidentialité en ligne au plus haut niveau possible.
Lettre ouverte aux États membres de l'UE sur la proposition de règlement CSA
Citation:
Chers ministres de l'intérieur, de la justice et de l'économie des États membres de l'UE,
Nous vous écrivons en tant que petites et moyennes entreprises et organisations européennes, préoccupées par la proposition de règlement sur les abus sexuels envers les enfants (CSA). Collectivement, nous vous demandons de veiller à ce que la position de votre pays sur ce dossier soit aussi proche que possible de celle du Parlement européen (PE).
On est tous d'accord pour dire que la sécurité des enfants en ligne est l'une des tâches les plus importantes des entreprises technologiques et c'est pourquoi nous trouvons la proposition de règlement de la Commission européenne extrêmement inquiétante. S'il était mis en œuvre tel qu'il est proposé, il aurait un impact négatif sur la vie privée et la sécurité des enfants en ligne, tout en ayant des conséquences imprévues et dramatiques sur le paysage de la cybersécurité de l'UE, en plus de créer un fardeau administratif inefficace.
Le Parlement européen a récemment adopté sa position sur le dossier, reconnaissant que les technologies de balayage ne sont pas compatibles avec l'objectif d'avoir des communications confidentielles et sécurisées. Les changements cruciaux qu'il propose pour la proposition reflètent les avis du Contrôleur européen de la protection des données (CEPD), des services juridiques du Conseil ainsi que d'innombrables experts en cryptographie et en cybersécurité. Ils reflètent également l'opinion de 63 à 69 % des entreprises, des autorités publiques, des ONG et des citoyens consultés par la Commission européenne dans le cadre de son analyse d'impact.
Citation:
En tant que petites et moyennes entreprises et organisations technologiques, nous partageons leurs préoccupations, car nous savons que la recherche de contenus spécifiques - tels que du texte, des photos et des vidéos - dans une communication chiffréee de bout en bout nécessiterait la mise en œuvre d'une porte dérobée ou d'une technologie similaire appelée "balayage côté client". Même si ce mécanisme est créé dans le but de lutter contre la criminalité en ligne, il serait aussi rapidement utilisé par les criminels eux-mêmes, ce qui mettrait les citoyens et les entreprises plus en danger en ligne en créant des vulnérabilités pour tous les utilisateurs.
La protection des données est un solide avantage concurrentiel
En tant qu'entreprises technologiques opérant au sein de l'Union européenne, les auteurs de la lettre ont conçu des produits et des services conformes au solide cadre de protection des données de l'UE, qui sert encore d'exemple et d'inspiration dans le monde entier. Le RGPD a permis la création d'entreprises technologiques éthiques et soucieuses de la protection de la vie privée en Europe, qui n'auraient autrement jamais pu rivaliser avec les grandes entreprises technologiques. Il a donné aux entreprises européennes un solide avantage concurrentiel dans ce domaine au niveau international et a permis aux consommateurs de trouver enfin des alternatives aux services américains et chinois.
Citation:
Nos utilisateurs, tant au sein de l'UE qu'au-delà, en sont venus à faire confiance à notre engagement à protéger leurs données, et cette confiance est un moteur essentiel de notre compétitivité. La courbe d'apprentissage pour s'adapter à la charge administrative nécessaire imposée par le RGPD a été élevée, mais elle en valait la peine.
Cependant, le règlement CSA pourrait menacer cet argument de vente unique des entreprises informatiques européennes et ajouterait également une nouvelle charge administrative qui, nous le craignons, pourrait submerger à la fois nos entreprises et les organismes chargés de l'application de la loi. Compte tenu du volume de communications et de contenus transitant par nos services, même un taux d'erreur insignifiant des technologies appliquées à la recherche de contenus abusifs se traduirait par des millions de faux positifs à examiner manuellement chaque jour.
Le règlement de la CSA pourrait éroder la confiance et la sécurité en ligne
Dans un monde où les violations de données et les scandales liés à la protection de la vie privée sont de plus en plus fréquents, la réputation de l'UE en matière de protection rigoureuse des données est un argument de vente unique pour les entreprises opérant à l'intérieur de ses frontières. Elle confère un avantage concurrentiel en garantissant aux clients que leurs informations sont traitées avec le plus grand soin et la plus grande intégrité.
Une fois érodée, cette confiance est difficile à rétablir, et toute mesure qui la compromet, telle que l'obligation de scanner ou de vérifier l'âge, risque de nuire aux entreprises, grandes et petites. En outre, l'UE a récemment adopté le règlement 2023/2841, qui impose aux institutions et organes de l'UE d'envisager l'utilisation du chiffrement de bout en bout parmi leurs mesures de gestion des risques liés à la cybersécurité. Il existe également de nombreuses propositions "cyber" de l'UE actuellement sur la table, telles que la loi sur la cyber-résilience et la loi sur la cybersécurité.
Soutenir une approche opposée pour le règlement CSA ne ferait que saper le cadre de cybersécurité de l'UE en créant un nouvel ensemble de mesures contradictoires, incohérentes et inefficaces que les entreprises ne seraient pas en mesure d'appliquer sans mettre les citoyens et les entreprises en danger.
La proposition du Parlement européen va dans la bonne direction
Citation:
C'est pourquoi nous félicitons le Parlement européen pour sa position résolue dans la défense du droit des citoyens européens à la vie privée et à la sécurité des communications.
L'engagement du Parlement européen en faveur de ces principes n'est pas seulement un témoignage de son dévouement aux droits de l'homme, mais aussi une lueur d'espoir pour les entreprises qui accordent la priorité à la protection des données et à la sécurité. La position du Parlement inclut des alternatives au scanning qui ont un impact minimal sur la cybersécurité et la protection des données, et qui, selon les experts, seraient à la fois plus efficaces et plus efficientes que le scanning obligatoire.
De tels changements de paradigme impliqueraient de dépasser la fausse dichotomie entre vie privée et sécurité, tout en faisant en sorte que la proposition respecte le principe de proportionnalité, comme l'a demandé le comité de surveillance de la réglementation.
Citation:
Même s'ils ne sont pas parfaits à nos yeux, les changements apportés par le Parlement européen dans sa position constituent un bon compromis pour maintenir la sécurité et la confidentialité numériques et pour mieux protéger les enfants en ligne. Nous pensons que ces changements établissent un juste équilibre entre la protection des enfants et la sauvegarde de la vie privée et de la cybersécurité.
En tant que représentants de la dynamique communauté des petites entreprises européennes, nous encourageons les États membres de l'UE à continuer à défendre les valeurs de la vie privée, de la cybersécurité et de la protection des données. Ces principes sont non seulement conformes à l'engagement de l'UE en faveur des droits de l'homme, mais servent également de fondement à un environnement commercial prospère et compétitif. Défendons et renforçons ces principes, en veillant à ce que l'UE reste un défenseur de la vie privée sur le marché mondial.
Demande des auteurs de la lettre
Pour tout cela, ils demandent de :
- Veiller à ce que la position du Conseil soit alignée aussi étroitement que possible sur celle du Parlement européen. Cela permettra une adoption plus rapide du règlement tout en s'appuyant sur le travail important du Parlement européen.
- Maintenir le niveau élevé des droits fondamentaux - et en particulier la protection des données - dont jouissent les citoyens de l'Union européenne.
- S'abstenir de forcer des entreprises de communication utilisant le chiffrement de bout en bout à effectuer une surveillance de masse de la correspondance privée pour le compte des forces de l'ordre.
- Garantir un niveau élevé de cybersécurité dans l'UE en protégeant le chiffrement de bout en bout et en introduisant les garanties nécessaires dans le texte. L'analyse côté client et les portes dérobées, en particulier, ne devraient pas être imposées.
- Préserver la confidentialité de la correspondance.
- Réduire la charge administrative de la proposition en la rendant plus efficace et efficiente, grâce à des solutions alternatives à la numérisation de masse.
La lettre a été signé par : Blacknight Solutions, Cyberstorm, Element, Gate 15, Mailfence, Mail.de GmbH, Olvid, One Privacy, Parsec, Proton, Seezam, Surfshark, TelemetryDeck, Threema, Tresorit, Tuta. Voici les partenaires et les associations partisants de la lettre : ACT | The App Association, Defend Democracy, Encryption Europe, ISOC-CAT, Privacy & Access Council of Canada, STUDIO LEGALE FABIANO.
Source : Tuta
Et vous ?
:fleche: Pensez-vous que cette lettre ouverte est crédible ou pertinente ?
:fleche: Quel est votre avis sur le sujet ?
Voir aussi :
:fleche: Tutanota a indiqué qu'il ne se retirera pas du Royaume-Uni, même si le projet de loi sur la sécurité en ligne est adopté et s'oppose fermement à toute demande de porte dérobée pour le chiffrement
:fleche: CSAR : le Parlement européen rejette la numérisation de masse des messages privés dans l'un des projets de loi les plus controversés, ce qui marque une évolution positive pour les droits de l'homme
:fleche: Les États membres de l'UE ne parviennent toujours pas à se mettre d'accord sur le chiffrement de bout en bout. Les opinions divergent quant à la protection des droits et la surveillance de masse
Mark Zuckerberg s'excuse auprès des familles des enfants qui se sont suicidés à cause de ses réseaux sociaux
Mark Zuckerberg s'excuse auprès des familles des enfants qui se sont suicidés après avoir rejeté la suggestion de créer un fonds de compensation
pour aider les familles à avoir des conseils
Mark Zuckerberg, PDG de Meta, présente ses excuses aux familles dont les enfants ont subi des préjudices en utilisant ses plateformes de médias sociaux. Il s'est notamment excusé auprès des familles dont les enfants se sont suicidés ou ont eu des problèmes de santé mentale après avoir utilisé Facebook et Instagram. Il faut noter que ce geste de Zuckerberg est survenu après qu'un sénateur lui a intimé l'ordre lors d'une audition au Sénat américain sur l'impact des médias sociaux sur les enfants. Le milliardaire a toutefois rejeté une proposition visant à créer un fonds de compensation pour aider les familles à obtenir des conseils, ce qui lui a valu des critiques.
Les plateformes de médias sociaux de Meta, notamment Facebook et Instagram, sont reconnues comme ayant des effets néfastes sur la santé mentale des enfants. De nombreux rapports parus au fil des ans allèguent que les dirigeants de Meta, y compris le PDG Mark Zuckerberg, étaient au fait des impacts négatifs de leurs produits sur les adolescents, mais cela ne les a pas empêchés de continuer à les exploiter. La réaction de Meta a toujours été de nier les accusations, affirmant qu'il s'engage à protéger les enfants en ligne. Et ce, malgré les témoignages et les études qui confirment les troubles chez les enfants.
Cependant, lors d'une récente audition de la commission judiciaire du Sénat américain, Zuckerberg a subi des pressions de la part du sénateur républicain Josh Hawley pour reconnaître les faits et présenter des excuses aux familles. L'audition portait sur les solutions de sécurité pour les enfants sur les médias sociaux. « Voulez-vous maintenant vous excuser auprès des victimes qui ont été lésées par votre produit ? », a demandé Hawley, soulignant que l'audience était retransmise en direct à la télévision. Et dans une première historique, Zuckerberg s'est levé, s'est retourné et s'est adressé aux familles en ces termes :
« Je suis désolé pour tout ce que vous avez vécu. Personne ne devrait vivre les choses que vos familles ont subies. Et c'est pourquoi nous investissons autant et nous allons continuer à faire des efforts à l'échelle de l'industrie pour nous assurer que personne n'ait à vivre les choses que vos familles ont dû subir ». Le sénateur Hawley a critiqué Zuckerberg de manière agressive au cours d'un échange houleux avec Zuckerberg. « En interne vous savez que votre produit est un désastre pour les adolescents. Votre produit tue des gens », a déclaré le sénateur républicain, suscitant les applaudissements de son auditoire.
Au début de l'audition, la commission a diffusé une vidéo dans laquelle des enfants racontent qu'ils sont victimes d'intimidation sur les plateformes de médias sociaux. Les sénateurs ont raconté des histoires de jeunes qui ont mis fin à leurs jours après s'être fait extorquer de l'argent après avoir partagé des photos avec des prédateurs sexuels. Mais si Zuckerberg s'est plié volontiers à la demande de Hawley et a présenté des excuses, il a rejeté une autre suggestion du sénateur invitant le PDG de Meta à mettre personnellement en place "un fonds d'indemnisation pour aider les familles à obtenir un soutien psychologique".
Les PDG de Discord, TikTok, Snap et X (ex-Twitter) étaient également présents à l'audition. Il leur a été demandé s'ils soutenaient une série de projets de loi sur la sécurité des enfants en ligne. Ces projets de loi ont été introduits dans le but de lutter contre les préjudices après des années de ce que les sénateurs ont décrit lors de l'audition comme une action insuffisante de la part des entreprises pour y faire face de manière efficace. Parmi ces projets de loi figure la législation sur le renforcement de la transparence et des obligations pour protéger les enfants victimes d'abus et de mauvais traitements (STOP CSAM).
Ce projet de loi a été introduit par le sénateur Dick Durbin (D-Ill.), président de la commission qui a auditionné les PDG des entreprises de médias sociaux. Dans sa forme initiale, le projet de loi du sénateur Durbin visait à rendre les plateformes responsables de "l'hébergement ou du stockage intentionnel, conscient ou imprudent de pornographie enfantine ou de la mise à disposition de pornographie enfantine à toute personne". Depuis, le sénateur Durbin a modifié le projet de loi en supprimant le mot "imprudent" afin d'empêcher les plateformes d'interpréter la loi comme interdisant le chiffrement de bout en bout.
Selon Durbin, X est devenue la première entreprise de médias sociaux à soutenir publiquement la loi STOP CSAM lorsque Linda Yaccarino, PDG de X, a accepté de soutenir le projet de loi lors de l'audition. En outre, Yaccarino semblait être la seule à soutenir le projet de loi SHIELD (Stopping Harmful Image Exploitation and Limiting Distribution), qui impose une responsabilité pénale pour le partage d'images intimes non consensuelles et d'images de mineurs nus. Aucun des dirigeants n'a exprimé son soutien à d'autres projets de loi, dont la loi EARN IT (Eliminating Abusive and Rampant Neglect of Interactive Technologies).
Pour rappel, le projet de loi EARN IT limite les protections de la responsabilité des plateformes au titre de l'article 230 pour les "plaintes alléguant des violations des lois sur l'exploitation sexuelle des enfants". De son côté, Zuckerberg a déclaré à la commission que la Meta était d'accord avec les objectifs de ces projets de loi, mais qu'il avait proposé sa propre législation, qui obligerait les magasins d'applications à vérifier l'âge des utilisateurs et à obtenir le consentement des parents pour l'utilisation des applications. La proposition de Meta est controversée et même les sénateurs affirment qu'elle ne fonctionne pas.
« Ces mesures ne fonctionnent pas », a répondu la sénatrice Amy Klobuchar (D-Minn), suggérant que le seul moyen d'amener les plateformes à améliorer la sécurité des enfants est d'imposer une responsabilité pour les dommages causés. « Je pense que le temps de cette immunité est révolu », a-t-elle ajouté. Le PDG de TikTok, Shou Chew, s'est engagé à investir davantage dans la sécurité. Il a déclaré que son entreprise investirait 2 milliards de dollars dans l'amélioration de la sécurité en 2024. Les sénateurs ont suggéré que ce n'était pas suffisant, soulignant que TikTok ne communique pas sur ses bénéfices.
Cela permettrait de savoir quelle part de ceux-ci l'entreprise consacre à la protection de la sécurité des enfants. D'autres PDG ont évoqué de nouvelles solutions à venir. Par exemple, le PDG de Discord, Jason Citron, a déclaré que sa plateforme, qui ne permet pas le chiffrement de bout en bout des messages textuels, travaille de manière proactive à la mise en place d'une technologie pour soutenir un "classificateur de toilettage" avec Thorn, qui pourrait être utilisé pour signaler davantage d'incidents de toilettage aux forces de l'ordre. La PDG de X a également déclaré que l'entreprise déploierait plus d'efforts.
Lors de l'audition, les sénateurs ont abordé les PDG avec hostilité, leur coupant la parole pour éviter le "double langage" justifiant les protections actuelles offertes qui, selon eux, sont la raison pour laquelle les enfants sont toujours lésés par les plateformes de médias sociaux aujourd'hui. Le sénateur Richard Blumenthal (D-Conn.) a lors de l'audition : « le double langage est la raison pour laquelle le Sénat ne peut plus faire confiance à Meta ou à tout autre média social pour noter leurs propres devoirs ». Certains sénateurs ont demandé aux PDG de s'engager à répondre aux questions qu'ils évitent depuis longtemps.
Le sénateur Sheldon Whitehouse (D-RI) a décrit un incident tragique au cours duquel un adolescent victime de CSAM s'est suicidé en 2020 après qu'une vidéo soit restée sur X (qui s'appelait alors Twitter) pendant des mois avant que la plateforme ne la supprime. Il a demandé à chaque PDG de s'engager à envoyer, dans les cinq jours suivant l'audition, une explication des exemptions aux protections de la section 230 qu'ils seraient prêts à accepter pour prévenir les préjudices subis par les enfants en raison d'un manque de réactivité tel que celui de Twitter. Tous les PDG ont répondu par l'affirmative.
Le sénateur Mazie Hirono (D-Hawaii), se référant au témoignage du lanceur d'alerte de Facebook Arturo Bejar, a spécifiquement demandé à Zuckerberg de s'engager à communiquer non pas des pourcentages de préjudices signalés par des mineurs sur les produits Meta, mais des chiffres réels dans les rapports trimestriels sur les résultats présentés à la Securities and Exchange Commission (SEC). Zuckerberg n'a pas accepté, suggérant que Meta publie déjà des rapports publics qui seraient un endroit plus approprié pour ce type de rapport.
Le lanceur d'alerte de Facebook Arturo Bejar a suggéré que Meta permette aux mineurs de signaler facilement les préjudices subis sur la plateforme et que Meta publie des données précises sur la fréquence des préjudices afin de suivre et de traiter de manière transparente les problèmes émergents et persistants.
Et vous ?
:fleche: Que pensez-vous des excuses de Mark Zuckerberg aux familles des enfants qui se sont suicidés ?
:fleche: Que pensez-vous des propos de Zuckerberg qui reconnaît finalement que ses plateformes ont tué des enfants ?
:fleche: Que pensez-vous de la proposition visant à créer un fonds de compensation pour les familles que Zuckerberg a rejetée ?
:fleche: Pourquoi Zuckerberg a-t-il refusé cette proposition alors qu'il est milliardaire et que Meta réalise un chiffre d'affaires colossal ?
Voir aussi
:fleche: Les adolescents sur Facebook et Instagram ne pourront plus voir les contenus sur l'automutilation, le suicide et les troubles de l'alimentation, même si leurs amis les partagent
:fleche: Les médias sociaux tels que Google, YouTube, Facebook, TikTok et Snapchat doivent faire face à des poursuites pour addiction des jeunes, selon un juge américain
:fleche: Meta permet désormais aux utilisateurs de l'UE de dissocier leurs comptes Facebook, Messenger et Instagram, afin de se conformer à la loi sur les marchés numériques (DMA)
