Discussion :

[Stéphane le calme]

Les avocats de l'UE affirment que le projet de scanner les messages privés pour détecter les abus d'enfants pourrait être illégal,
selon un avis juridique interne qui a fuité

Un projet de l’UE qui prévoit que tous les comptes WhatsApp, iMessage et Snapchat puissent être contrôlés pour détecter des contenus de pédopornographie a rencontré un obstacle important après qu’un avis juridique interne a dit qu’il serait probablement annulé par les tribunaux pour violation des droits des utilisateurs. Le projet de loi, annoncé par la commissaire européenne aux affaires intérieures, Ylva Johansson, indique que les entreprises technologiques ont échoué à supprimer volontairement les contenus abusifs et a été salué par les groupes de protection et de sécurité des enfants.

Une proposition de la Commission européenne vise à obliger les entreprises technologiques à analyser les messages privés à la recherche de matériel d'abus sexuel d'enfants (CSAM) et de preuves de pédopiégeage, même lorsque ces messages sont censés être protégés par un chiffrement de bout en bout. La sollicitation d’enfants à des fins sexuelles, ou pédopiégeage, est « une pratique où un adulte se "lie d’amitié" avec un enfant (de manière générale en ligne, mais le pédopiégeage hors ligne existe également) dans le but de commettre des abus sexuels à son encontre ». L'adulte cherche à se rapprocher d'un enfant et à instaurer avec lui une relation affective, voire parfois aussi avec sa famille, pour lever les inhibitions de la victime dans l'intention de perpétrer des abus sexuels.

Les services en ligne qui reçoivent des « ordres de détection » en vertu de la législation en cours de l'Union européenne auraient « des obligations concernant la détection, le signalement, la suppression et le blocage du matériel d'abus sexuel d'enfants connus et nouveaux, ainsi que la sollicitation d'enfants, quelle que soit la technologie utilisée dans les échanges en ligne », indique la proposition. Le plan qualifie le chiffrement de bout en bout un outil de sécurité important, mais ordonne essentiellement aux entreprises de casser ce chiffrement de bout en bout par tous les moyens technologiques nécessaires :

Afin de garantir l'efficacité de ces mesures, de permettre des solutions sur mesure, de rester technologiquement neutres et d'éviter le contournement des obligations de détection, ces mesures devraient être prises, quelles que soient les technologies utilisées par les prestataires concernés dans le cadre de la fourniture de leurs services. Par conséquent, le présent règlement laisse au fournisseur concerné le choix des technologies à exploiter pour se conformer efficacement aux ordres de détection et ne devrait pas être compris comme incitant ou décourageant l'utilisation d'une technologie donnée, à condition que les technologies et les mesures d'accompagnement répondent aux exigences de présent règlement.

Cela inclut l'utilisation de la technologie de chiffrement de bout en bout, qui est un outil important pour garantir la sécurité et la confidentialité des communications des utilisateurs, y compris celles des enfants. Lors de l'exécution de l'ordre de détection, les fournisseurs devraient prendre toutes les mesures de sauvegarde disponibles pour s'assurer que les technologies qu'ils emploient ne peuvent pas être utilisées par eux ou leurs employés à des fins autres que le respect du présent règlement, ni par des tiers, et pour éviter ainsi de porter atteinte à la sécurité et la confidentialité des communications des utilisateurs.

Un avis juridique interne fait l'objet d'une fuite

L'avis juridique interne de l'UE a fait l'objet d'une fuite. Il a été présenté aux diplomates des États membres du bloc le 27 avril et a été vu par Politico. Il soulève des doutes importants quant à la légalité du règlement dévoilé par la Commission européenne en mai de l'année dernière.

Le service juridique du Conseil de l'UE, l'organe décisionnel dirigé par les ministres nationaux, a indiqué que le règlement proposé pose une « limitation particulièrement grave des droits à la vie privée et aux données personnelles » et qu'il existe un « risque sérieux » qu'il tombe sous le coup d'un contrôle judiciaire pour plusieurs motifs.

Les avocats de l'UE écrivent que le projet de règlement « exigerait le filtrage général et indiscriminé des données traitées par un prestataire de services spécifique, et s'appliquerait sans distinction à toutes les personnes utilisant ce service spécifique, sans que ces personnes soient, même indirectement, dans une situation susceptible de donner lieu à des poursuites pénales ».

Le service juridique poursuit en avertissant que la Cour de justice européenne a précédemment jugé que le filtrage des métadonnées des communications est « proportionné uniquement dans le but de sauvegarder la sécurité nationale » et qu'il est donc « plutôt peu probable qu'un filtrage similaire du contenu des communications dans le but de lutter contre le crime d'abus sexuel d'enfants serait jugé proportionné et encore moins eu égard à la conduite ne constituant pas des infractions pénales ».

Les avocats concluent que le règlement proposé court « un risque sérieux de dépasser les limites de ce qui est approprié et nécessaire pour atteindre les objectifs légitimes poursuivis, et donc de ne pas respecter le principe de proportionnalité ».

Le service juridique s'inquiète également du fait qu'en cherchant à réprimer la sollicitation d'enfants, les fournisseurs devraient introduire une technologie et des processus de vérification de l'âge dans les services chiffrés populaires.

Les avocats écrivent que cela impliquerait nécessairement le profilage de masse des utilisateurs, ou l'analyse biométrique du visage ou de la voix de l'utilisateur, ou alternativement l'utilisation d'un système de certification numérique qui, selon eux, « ajouterait nécessairement une autre couche d'interférence avec les droits et libertés des les utilisateurs ».

Malgré les conseils, il est entendu que 10 États membres de l'UE (la Belgique, la Bulgarie, Chypre, la Hongrie, l'Irlande, l'Italie, la Lettonie, la Lituanie, la Roumanie et l'Espagne) soutiennent la poursuite du règlement sans amendements.

Patrick Breyer, un eurodéputé allemand qui siège à la commission des libertés civiles du Parlement européen, a déclaré que l'UE devrait abandonner les plans, qu'il a qualifiés de « dystopiques » et qui, selon lui, empêcheraient les forces de l'ordre et les entreprises technologiques de rechercher de faux rapports de contenu préjudiciable.

Il a déclaré : « Le conseil des services de l'UE confirme désormais en termes clairs ce que d'autres experts juridiques, défenseurs des droits de l'homme, responsables de l'application des lois, victimes d'abus et organisations de protection de l'enfance mettent en garde depuis longtemps : courriel, messagerie et chat obligeants les fournisseurs de rechercher dans tous les messages privés du matériel prétendument illégal et de le signaler à la police détruit et viole le droit à la confidentialité de la correspondance ».

Une proposition loin de faire l'unanimité

Le projet de loi européen sur la pédopornographie en ligne a suscité des réactions contrastées de la part des différents acteurs concernés. Les groupes de protection et de sécurité des enfants ont salué l’initiative, en soulignant qu’elle était nécessaire pour lutter contre un phénomène qui met en danger la dignité et le bien-être des enfants.

« Nous nous félicitons de l’engagement de la Commission européenne à protéger les enfants contre les abus sexuels en ligne », a déclaré Delphine Moralis, la secrétaire générale de Missing Children Europe, une fédération d’organisations non gouvernementales qui œuvrent pour la protection des enfants disparus et exploités sexuellement. « Nous espérons que ce projet de loi sera adopté rapidement et mis en œuvre efficacement par les États membres ».

La proposition européenne de scanner les messages des utilisateurs a été accueillie avec frustration par les groupes de défense des droits civils et les experts en sécurité, qui disent qu’elle risque de compromettre le chiffrement de bout en bout et de nuire à la vie privée en ligne des personnes.

« Très décevant de voir une proposition de règlement européen sur internet qui ne protège pas le chiffrement de bout en bout », a tweeté Will Cathcart, le responsable de WhatsApp. « Cette proposition obligerait les entreprises à scanner tous les messages des personnes et mettrait en danger la vie privée et la sécurité des citoyens européens ».

Les entreprises technologiques ont exprimé leur préoccupation quant à l’impact du projet de loi sur le chiffrement de bout en bout et la vie privée des utilisateurs. Elles ont également souligné les difficultés techniques et juridiques liées à la mise en place de technologies de détection de la pédopornographie en ligne.

« Nous sommes profondément préoccupés par le fait que ce projet de loi pourrait affaiblir le chiffrement de bout en bout et mettre en danger la sécurité et la confidentialité des communications des utilisateurs », a déclaré un porte-parole de Facebook, qui possède WhatsApp et Instagram. « Nous pensons qu’il existe des moyens plus efficaces et moins intrusifs de lutter contre la pédopornographie en ligne, comme le signalement volontaire, la coopération avec les forces de l’ordre et l’éducation des utilisateurs ».

Les défenseurs des droits civils et les experts en sécurité ont également critiqué le projet de loi, en affirmant qu’il constituait une menace pour le chiffrement de bout en bout et qu’il ouvrait la porte à d’autres formes de surveillance de masse.

« Ce projet de loi est une attaque contre le chiffrement de bout en bout et un pas vers une société de surveillance généralisée », a déclaré Diego Naranjo, le directeur politique d’European Digital Rights (EDRi), un réseau d’organisations qui défendent les droits numériques en Europe. « Il n’existe pas de solution magique pour détecter la pédopornographie en ligne sans compromettre la sécurité et la vie privée des utilisateurs. Ce projet de loi doit être rejeté par le Parlement européen et les États membres ».

Conclusion

Le service juridique du Conseil européen n’a pas le pouvoir d’empêcher le projet de loi d’avancer, mais son avis pourrait influencer les négociations entre les États membres, le Parlement européen et la Commission européenne. Le projet de loi doit encore être approuvé par ces trois institutions avant d’entrer en vigueur. Il pourrait donc être modifié ou abandonné au cours du processus législatif.

Le projet de loi européen fait suite à une initiative similaire d’Apple l’année dernière, qui visait à scanner les photos sur les iPhone des utilisateurs pour détecter des contenus abusifs avant qu’ils ne soient téléchargés sur iCloud. Apple a suspendu ses efforts après une vive réaction de la part des défenseurs de la vie privée, des experts en sécurité et des organisations de défense des droits humains.

Les partisans du projet de loi européen affirment qu’il est nécessaire de lutter contre la pédopornographie en ligne, qui est en augmentation constante. Selon les données du Centre européen de lutte contre la cybercriminalité (EC3), plus de 4 millions d’images et de vidéos de pédopornographie ont été signalées par les entreprises technologiques en 2020, soit une augmentation de 30 % par rapport à 2019.

Le projet de loi européen sur la pédopornographie en ligne devra faire l’objet d’un examen approfondi et d’un débat démocratique avant d’être adopté. Il devra trouver un équilibre entre la protection des enfants contre les abus sexuels en ligne et le respect des droits fondamentaux des utilisateurs.

Source : Politico

Et vous ?

Que pensez-vous de l'avis du service juridique de l'UE ?

[marsupial]

Que pensez-vous de l'avis du service juridique de l'UE ?

Il rejoint tout ce qui a été dit précédemment sur cette loi sur ce forum et bien content de leur avis.
Les états devraient plutôt traquer dans le dark web les pédophiles puisque des sites existent mettant en relation des pédophiles entre eux. Rien n'est impossible sur internet et même si c'est plus difficile que de traquer toutes les communications, au moins ce sera efficace et pas injuste et illégal comme le dit le service juridique de l'UE.

[Jules34]

Il rejoint tout ce qui a été dit précédemment sur cette loi sur ce forum et bien content de leur avis.
Les états devraient plutôt traquer dans le dark web les pédophiles puisque des sites existent mettant en relation des pédophiles entre eux. Rien n'est impossible sur internet et même si c'est plus difficile que de traquer toutes les communications, au moins ce sera efficace et pas injuste et illégal comme le dit le service juridique de l'UE.

Oui et il y a un moment ou il faudra que quelqu'un fasse vraiment quelque chose. On entends pleins de choses sur la lutte contre la pédophilie mais rarement des condamnations.

Rien que dans l'affaire Lola, la plus récente, n'importe qui peut se rendre compte que ce qu'on nous dit n'est qu'un cinquième de la réalité. Pourquoi l'ancien maire de New York qui a des liens avec le pédophile Epstein et sa folle île de pédophile, a verser des fonds à la caisse de solidarité de Lola ?

Dès qu'on rentre dans ce domaine, tout devient trouble tout de suite, personne n'est inquiété et systématiquement, ça pointe vers le haut de la pyramide...

Biden lui même est gravement visé par des accusations du genre mais ils ont réussis à ce que ça colle plus au train de Trump pendant les précédentes éléctions. Sauf que d'un coté y'a des vrais agressions et de l'autre une nana de 70 ans qui inventent une histoire après qu'une prostituée ait pas réussi à le faire condamner.

[mith06]

Si on a rien a cacher il ne faut pas avoir peur!!!

[OrthodoxWindows]

Si on a rien a cacher il ne faut pas avoir peur!!!

Vu les que tu te prend, j'ai l'impression que certains membres ne comprennent pas le second degré...

[byrautor]

Tout de même quel pataquès, tout ce charabia
c'est clair il faudra une "intelligence artificielle" pour en tirer quelque chose !

[Aiekick]

ca revient tous les dis ans. question : n'est ce pas en complet desaccord avec le RGPD ?

[Hallebarde]

Il n'y a pas que la vie privée, qu'en sera-t-il de la sécurité bancaire ?

[oooopppp]

Salut,
on vous dicte déjà comment vivre, comment consommer et comment travailler,
on vous dicte quand faire la fête, on vous dicte comment vous droguer,
on vous dicte aussi comment baiser,
si être un mouton vous plait, à moi ça ne me plait pas !
ça ne me plait pas non plus de ne plus avoir de vie privée,
ça ne me plait pas que le gouv. sache que je préfère le POV quand je regarde du porno,
-> vous en regardez aussi.

A un moment donné, si vous voulez tous qu'on vous dicte votre vie,
si vous voulez tous vous ressembler, si vous voulez tous devenir des robots,
je peux rien pour vous, moi ça ne me plait pas, je ne veux pas de cette vie sous dictat / en dictature.

Bien sûr que la vie privée et le chiffrement sont absolument nécessaires,
les états s'espionnent sans cesse, il y a la guerre commerciale,
déjà qu'avec une carte bancaire et un smartphone dans la poche, on vous flique de partout,
un jour ou l'autre quelqu'un se servira de vos infos pour vous faire du chantage,
pour voler votre argent, pour voler votre identité ou bien votre ADN (permutation dans la BDD).

Si nous voulons combattre la pédophilie, il faudrait commencer par l'éducation et la pédagogie,
écouter les enfants qui ont des comportement étranges, au lieu de s'en foutre et de les traiter de cassos.

Chaque photocopie, chaque image est traçable par des moyens gardés secrets et une enquête
c'est d'abord des gens qui réfléchissent, pas des gens qui utilisent des gadgets numériques.

Aussi, il est assez aisé de rentrer dans n'importe quel appareil numérique, rappelez-vous "Pegasus".

Le fait de ne plus pouvoir chiffrer est une voie directe vers la dictature, alors vous ne morflez pas encore,
mais sans cela vous morflerez bientôt, déjà, on ne peut plus s'exprimer librement en public,
il faut constamment faire attention à ses propos car si ils ne plaisent pas à micron, vous en payerez le prix fort !

Le chiffrement est le garant de notre liberté, pour ceux qui s'est soucient encore.

Combien de journalistes risquent leur vie dans des dictatures ?
- Mais ça vous vous en foutez tant vous êtes obsédés par votre nombril !

Les liberté reculent de plus en plus et certains en redemandent.

Oui, il y a des fous, des gens profondément atteints psychologiquement, nous devons les soigner
avant qu'ils ne fassent du mal, mais ceux qui vous dictent comment vivre, eux ne sont'ils pas fous ?

Et croire que les gens qui font du renseignement ne sont pas soumis à l'autorité, cet argument ne vaux rien,
ils sont capables du pire pour peu qu'ils arrivent à payer le crédit de la maison !

Franchement, je ne comprend pas les arguments en faveur de moins de chiffrement au nom de la lutte contre la pédo-criminalité,
c'est oublier qu'avant le numérique, les pédophiles existaient déjà et c'est là, à mon avis, qu'est le cœur du problème !

Soignons les humains et laissez-nous notre vie privée tranquille, la plupart des gens,
bien que plus assimilés à des clones qu'à de véritables être humains,
ne sont pas de mauvaises personnes avec de mauvaises intentions.

L'argument de la lutte contre la pédo-criminalité n'est qu'un argument en faveur de ceux qui rêvent de contrôler totalement les humains,
pour en faire des marionnettes serviles, ce sont eux les vrais malades !

[byrautor]

Salut,
on vous dicte déjà comment vivre, comment consommer et comment travailler,
on vous dicte quand faire la fête, on vous dicte comment vous droguer,
[...]
L'argument de la lutte contre la pédo-criminalité n'est qu'un argument en faveur de ceux qui rêvent de contrôler totalement les humains,
pour en faire des marionnettes serviles, ce sont eux les vrais malades !

Il y a une autre solution : l'anarchie, générée par souvent par la démocratie démentielle.
Ainsi comme tout est "permis" la vie est un tirage au sort jusqu'à ce que la nature, pure et dure, s'en mêle (et s'emmêle) et règle tous les problèmes.

[Patrick Ruiz]

Apple se joint à l’opposition contre le projet de loi britannique visant à affaiblir le chiffrement
Pour permettre aux forces de l’ordre de lutter contre la pédopornographie

Apple se joint à Whatsapp, Signal et d’autres entreprises de messagerie pour s’opposer au projet de loi britannique visant à affaiblir le chiffrement pour permettre aux forces de l’ordre de lutter contre la pédopornographie. Le projet de loi a été soumis à l’examen du Parlement et en cas d’adoption il donnera à l’Office des communications (Ofcom) la technologie et l’autorité nécessaire pour analyser les messages des utilisateurs à la recherche de contenus « inquiétants. » L’initiative s’inscrit dans la lancée de celle de la Commission européenne d’obliger les fournisseurs de services en ligne à scanner de façon automatique des contenus suspects dans tous les chats, messages et courriels privés, ce, de manière générale et sans distinction. L'objectif : lutter contre les abus sexuels des enfants en ligne.

Online Safety Bill est présenté comme étant un nouvel ensemble de lois visant à protéger les enfants et les adultes en ligne. Cela rendra les entreprises de médias sociaux plus responsables de la sécurité de leurs utilisateurs sur leurs plateformes. Online Safety Bill envisage d'affaiblir le chiffrement grâce à une analyse côté appareil soi-disant pour protéger les enfants contre les contenus nuisibles et, par conséquent, briser la sécurité du chiffrement de bout en bout par la même occasion.

Le projet de loi tel qu'il est actuellement formulé obligerait les entreprises de médias sociaux à empêcher une exposition des enfants à des contenus préjudiciables en ligne et tiendrait les dirigeants pénalement responsables des préjudices tels que le fait de ne pas supprimer les contenus illégaux ou de ne pas censurer les messages impliqués dans la cyberintimidation ou l'automutilation.

Le projet de loi contient ce que les critiques ont appelé « une clause d'espionnage ». Elle oblige les entreprises à supprimer le matériel d'exploitation et d'abus sexuels d'enfants ou le contenu terroriste des plateformes en ligne « qu'elles soient communiquées en public ou en privé ».

« Cette clause donnera à l'Ofcom le pouvoir de demander aux entreprises privées de scanner les messages privés de tout le monde au nom du gouvernement. Il s'agit tout simplement d'une surveillance privée mandatée par l'État, du type de celle que l'on voit dans les régimes autoritaires. L'annonce de Signal souligne à quel point ces propositions menacent sérieusement le chiffrement et sapent notre droit à communiquer en toute sécurité et en privé. Si Signal se retire du Royaume-Uni, cela nuira aux journalistes, aux militants et aux activistes qui comptent sur le chiffrement de bout en bout pour communiquer en toute sécurité », pensent certains observateurs.

Les dispositions du projet de loi visent spécifiquement le chiffrement de bout en bout (End-to-end encryption - E2EE), qui est une forme de chiffrement permettant uniquement aux expéditeurs et aux destinataires d'un message d'accéder à la forme lisible par l'homme du contenu. Il se base sur un mécanisme qui empêche même le fournisseur de services de déchiffrer les messages chiffrés.

L'Allemagne s'oppose à l'analyse côté client

Alors que le Royaume-Uni tente de saper le chiffrement avec le projet de loi sur la sécurité en ligne, en Allemagne, les réserves contre l'affaiblissement du chiffrement pour permettre l'analyse côté client sont très élevées.

Cela a été prouvé une fois de plus lors de l'audition de la commission numérique du Parlement allemand le 1er mars. Bien que le Parlement allemand n'ait pas son mot à dire sur la proposition de la Commission européenne de lutter contre le matériel pédopornographique (CSAM) en ligne, les résultats de cette audition ont été accablants :

Tous les experts, y compris les organisations de protection de l'enfance, s'accordent à dire que la proposition de l'UE va trop loin et qu'elle porterait atteinte aux droits humains fondamentaux protégés par la Constitution de l'UE.

Par exemple, Elina Eickstädt, informaticienne et porte-parole du Chaos Computer Club, a souligné que le projet d'ordonnance manque fondamentalement l'objectif de lutter contre les représentations de maltraitance d'enfants. Le projet est basé sur une « surestimation grossière des capacités des technologies », en particulier lorsqu'il s'agit de reconnaître du matériel inconnu.

Il représente également une « infrastructure de surveillance sans précédent », selon Eickstädt. Elle a précisé qu'avec un taux d'erreur d'un pour cent et un milliard de messages par jour, dix milliards de faux rapports pourraient survenir. Le projet nécessitera également une identification sur Internet. Elle a également souligné que le blocage d'Internet pourrait devenir « un outil de censure sans précédent ».

L'experte Ella Jakubowska de l'Association européenne des droits numériques a également parlé d'une « attaque numérique ». Elle a souligné que le règlement proposé n'était pas conforme aux droits de l'homme. Il porte atteinte à la confidentialité des communications privées dans les e-mails, les chats ou les photos dans le cloud personnel. Elle plaide pour que la proposition soit retirée.

Teresa Widlok a également rejoint la cohorte : l'association pour la politique libérale des réseaux - LOAD rejette fondamentalement la surveillance déraisonnable et extensive de la communication et du contenu stocké. Le projet de règlement devrait conduire à la détection de nouvelles victimes de violences sexuelles, mais un véritable test de proportionnalité n'est pas possible. Widlok a également souligné que le droit au cryptage serait bien loin avec la réglementation.

Alors, à quoi bon voter une loi qui sera à nouveau annulée par la Cour européenne de justice (CJE) ?

Bien que le Parlement allemand lui-même ne soit pas directement impliqué dans la proposition de la Commission européenne de rendre obligatoire l'analyse côté client des communications chiffrées pour les services en ligne, l'audition a tout de même été un grand succès pour les groupes de défense des droits numériques et les militants de la protection de la vie privée.

Online Safety Bill découle d’une proposition similaire au niveau de l’Union européenne

L'Union européenne a franchi un cap décisif dans sa lutte contre la pédophilie, la pédopornographie et toute autre forme d'abus que peuvent subir les enfants en ligne en approuvant – à mi-parcours de l’année 2021 – la ePrivacy Derogation. Une majorité de membres du Parlement de l’UE avait adopté la loi qui permet aux fournisseurs de services de scanner toutes les correspondances privées. La proposition de la Commission en entente de présentation vient saler l’addition : Chatcontrol 1.0 prévoyait que la fouille des chats, messages et courriels privés soit effectuée par les fournisseurs de services en ligne de façon volontaire. Chatcontrol 2.0 (le texte en attente de présentation) les y oblige et s’applique aux communications chiffrées.

Les conséquences de la possible adoption de ce projet sont :

• toutes les conversations en ligne et tous les courriels seront automatiquement fouillés pour détecter tout contenu suspect. Rien ne reste confidentiel ou secret. Il ne sera pas nécessaire d'obtenir une ordonnance du tribunal ou d'avoir un soupçon initial pour effectuer une recherche dans les messages ;
• si un algorithme classe le contenu d'un message comme suspect, les photos privées ou intimes pourront être consultées par le personnel et les sous-traitants de sociétés internationales et les autorités policières. Ces mêmes contenus pourront être consultés par des personnes inconnues ou se retrouver entre les mains d’individus mal intentionnés ;
• les conversations intimes pourront être lues par le personnel et les sous-traitants de sociétés internationales et les autorités policières, car les filtres de reconnaissance de texte qui ciblent la "sollicitation d'enfants" signalent souvent à tort les conversations intimes ;
• des tiers pourront être faussement signalés et faire l'objet d'enquêtes pour diffusion présumée de matériel d'exploitation sexuelle d'enfants. Les algorithmes de contrôle des messages et des chats sont connus pour signaler des photos de vacances tout à fait légales d'enfants sur une plage, par exemple. Selon les autorités de la police fédérale suisse, 86 % de tous les signalements générés par des machines s'avèrent sans fondement ;
• lors d’un voyage à l'étranger, l’on peut se retrouver face à de gros problèmes. Les rapports générés par les machines sur les communications pourront être transmis à d'autres pays, comme les États-Unis, où la confidentialité des données demeure très mal encadrée, ce, avec des résultats incalculables ;
• ce serait la porte ouverte pour les services de renseignement et les pirates sur les conversations et courriels.

Plus de 80 % des participants à un sondage de la Commission européenne sur la question ont exprimé leur défaveur à l’application de cette loi en gestation aux communications chiffrées.

Source : BBC

Et vous ?

Que pensez-vous du projet de loi britannique sur la sécurité en ligne (Online Safety Bill) et plus généralement du projet de loi européen visant à analyser les données côté appareil au nom de la lutte contre les abus sexuels d'enfants en ligne ?
Un Internet sur le modèle chinois, c’est-à-dire contrôlé par les gouvernements, relève-t-il de l’inéluctable ?
Que pensez-vous des portes dérobées comme solution à l'affaiblissement du chiffrement d'un point de vue technique ? Est-ce une solution envisageable ?
Un outil de surveillance déguisé en une initiative pour protéger les enfants ou un vœu pieux émis par des personnes qui n'en mesure pas l'ampleur ?
Dans le dernier cas de figure, les multiples avis d'experts dans le domaine ne devraient-ils pas montrer la limite d'un tel raisonnement ?

Voir aussi :

Le DOJ prévoit de frapper le chiffrement alors que le fer du « Techlash » est chaud, en espérant que la loi anti-chiffrement australienne facilitera l'adoption d'une loi similaire aux USA
Un rapport de l'EFF révèle comment les trackers de données personnelles de la Big Tech se cachent dans les médias sociaux et les sites Web, et attaquent la vie privée des utilisateurs à chaque clic
Le Congrès US pourrait adopter EARN IT, le projet de loi qui met fin au chiffrement en ligne, malgré l'opposition des entreprises technologiques
Des sénateurs US présentent un projet de loi pour la protection des enfants qui sous-entend l'arrêt du chiffrement en ligne, et considéré par ses détracteurs comme un « cheval de Troie »

[Stéphane le calme]

La présidente de Signal déclare que l'entreprise ne se conformera pas à la proposition de loi britannique sur la « surveillance de masse »,
exigeant l'analyse obligatoire des messages avant le chiffrement

Le gouvernement britannique a proposé une loi sur la sécurité en ligne qui vise à obliger les plateformes à utiliser certaines technologies pour identifier et supprimer les contenus illégaux, comme l’exploitation et les abus sexuels sur les enfants. Signal et d’autres services de messagerie chiffrée, comme WhatsApp et iMessage, s’opposent à cette loi, car elle pourrait affaiblir le chiffrement de bout en bout et créer des failles de sécurité exploitables par des acteurs malveillants.

Meredith Whittaker, la présidente de Signal, a déclaré qu’elle quitterait le marché britannique si la loi était adoptée, car elle ne compromettrait jamais la confiance que les gens placent en Signal pour fournir un moyen de communication vraiment privé.

Whittaker a également critiqué un système appelé analyse côté client, qui consiste à scanner les images avant de les chiffrer. Elle a dit qu’un tel système transformerait le téléphone de chacun en un « dispositif de surveillance de masse » qui ferait des rapports aux entreprises technologiques, aux gouvernements et aux entités privées.

Le projet de loi sur la sécurité en ligne (Online Safety Bill), proposé par l'ancien Premier ministre Boris Johnson, veut obliger les fournisseurs de services de messagerie chiffrée tels que Signal et WhatsApp à mettre en place un système d'analyse du côté de l'appareil afin de rechercher dans les messages des utilisateurs le matériel pédopornographique (Child sexual abuse material - CSAM) et le signaler aux autorités. L'objectif annoncé est donc la protection des enfants en ligne au détriment du chiffrement de bout en bout qui s'en retrouverait profondément affaibli.

« Ce sera une décision périlleuse pour le Royaume-Uni », a-t-elle déclaré. « Nous ne pouvons pas continuer à offrir un service de communication véritablement privé et saper ou falsifier notre chiffrement ».

Signal ne veut pas faire de compromis avec la sécurité des utilisateurs

Avec des dizaines de millions d'utilisateurs dans le monde, Signal est l'une des principales applications de messagerie offrant un chiffrement pour protéger les messages contre les espions. En conséquence, l'application est également devenue la cible des législateurs cherchant à saper la technologie.

Chargée de superviser une équipe d'un peu plus de 40 personnes dans la petite organisation à but non lucratif qui assure le fonctionnement de l'application, la présidente de Signal, Meredith Whittaker, est la voix de l'entreprise lorsqu'il s'agit de lutter contre les politiques qui menacent la vie privée des utilisateurs. Et dernièrement, les risques ne manquent pas. Récemment, Signal s'est joint à des critiques, dont Meta, pour demander des modifications à ce projet de loi britannique sur la sécurité en ligne.

Éminent chercheur en intelligence artificielle qui travaillait auparavant chez Google avant d'aider à cofonder l'institut de recherche AI Now, Whittaker est également une voix de premier plan dans la mise en garde contre les dommages potentiels de la technologie aux libertés civiles. Dans un entretien, Whittaker a évoqué les menaces mondiales contre le chiffrement et de la façon dont l'IA pourrait alimenter une « réflexion magique » sur la façon dont les gouvernements tentent d'échapper aux technologies chiffrées.

« Ce sera une décision périlleuse pour le Royaume-Uni », a-t-elle déclaré. « Nous ne pouvons pas continuer à offrir un service de communication véritablement privé et saper ou falsifier notre chiffrement ».

Certaines personnes disent que nous entrons dans une autre étape des guerres de chiffrement. Comment décririez-vous le moment où nous sommes?

La menace est bien réelle et très immédiate. De mon temps, je n'ai pas vu de menace plus grande. Et je pense qu'il faut qu'on repousse et qu'on clarifie les termes. Maintenant, si nous devions présenter cela comme une guerre, je ne pense pas que allons définitivement gagner. Parce qu'il ne s'agit pas d'un malentendu sur le fonctionnement de la technologie, du moins ce n'est pas basé sur un malentendu. Nous n'allons pas convaincre ceux qui sont au pouvoir qu'ils devraient abandonner leur poursuite de l'asymétrie de l'information en tant qu'outil de pouvoir, ce qui est effectivement ce que la surveillance génère pour ceux qui surveillent ceux qui sont surveillés. La volonté de centraliser le pouvoir s'est accompagnée d'une sorte de volonté de gérer, de surveiller, de contrôler socialement les populations, et je ne pense pas que ce genre de noyau va disparaître. Mais en ce moment, je pense que nous sommes dans un moment assez important. Il est vraiment important que nous continuions à clarifier les termes et que nous continuions finalement à gagner là-dessus, sinon nous pourrions être confrontés à un scénario où la possibilité de communications numériques privées est pratiquement réduite.

Que voulez-vous dire par « clarifier les termes » ?

Il y a une veine de pensée magique qui prétend que des technologies telles que la numérisation côté client seront en quelque sorte capables de surveiller les communications de chacun au nom du gouvernement et qu'un mélange d'entités privées déterminera si ces communications sont considérées comme acceptables ou non, et agira sur cette détermination. Et d'une manière ou d'une autre, faites-le en privé. Je pense que nous devons être très clairs sur le fait qu'il n'y a aucun moyen de mettre en œuvre une porte dérobée sûre. L'intelligence artificielle - quoi que vous ayez laissé croire par le marketing de ces entreprises - n'est en fait pas capable de magie.

Les affirmations qui sont faites sur ce qui est possible via ce type de surveillance ne sont en fait pas fondées sur la réalité. Il y a un certain démystification et un certain dégonflement du battage médiatique qui doit se produire. Et puis je pense qu'il est nécessaire de placer cela dans un contexte historique plus fondé qui reconnaît les enjeux de la création d'un système qui permet au gouvernement de surveiller efficacement les communications privées de chacun tout le temps. Le prétexte de cette surveillance peut changer. Mais c'est quelque chose que nous devons vraiment souligner - à quel point ce type de régime pourrait être dangereux.

Nous sommes à l'ère post-Dobbs maintenant [ndlr. en juin 2022, la Cour suprême a annulé le droit à un avortement légal établi par l'affaire Roe c. Wade en 1973. Dans une décision avec 6 voix pour et 3 contre, le tribunal a voté pour annuler la décision d'un tribunal inférieur dans l'affaire Dobbs c. Jackson Women's Health Organization, confirmant une Loi du Mississippi interdisant les procédures d'avortement après 15 semaines de gestation]. Nous avons déjà vu Jessica Burgess, qui était une mère dans le Nebraska, qui a été accusée d'un crime pour avoir aidé sa fille à accéder aux soins d'avortement après que l'État les a soudainement interdit. Et les preuves fournies qui ont conduit à cette accusation étaient des messages Facebook. Nous avons une idée de la façon dont cela pourrait être utilisé dans un monde où l'identité des gens est criminalisée et où l'accès des gens à l'information est criminalisé. Cela doit vraiment être une partie beaucoup plus importante du débat.

Selon vous, quelles sont les menaces les plus imminentes pour le chiffrement ?

Je surveille de près les dispositions de chiffrement du projet de loi sur la sécurité en ligne du Royaume-Uni. Je dois préciser que le projet de loi lui-même est une sorte de recueil omnibus d'un certain nombre de dispositions différentes, dont certaines sont bonnes. Je pense que les chercheurs ayant accès aux données des entreprises technologiques sont vraiment positifs et nous ne devrions pas jeter cela. Cependant, il y a des dispositions vraiment troublantes qui donneraient au régulateur britannique des télécommunications et de la concurrence la possibilité d'imposer une technologie de numérisation approuvée par le gouvernement sur l'appareil de chacun qui mettrait en œuvre un régime de surveillance de masse, qui vérifierait les communications des gens avant qu'ils ne soient envoyé contre une base de données opaque de discours inacceptables en utilisant très probablement une variante de l'intelligence artificielle ou des modèles de machines pour détecter en quelque sorte le contenu interdit et prendre des mesures en fonction de ces détections. Et c'est absolument inacceptable. Et ce serait une éviscération totale du droit à la vie privée en plus de simplement mettre en place un régime extraordinairement coûteux et inapplicable.

Vous avez déjà mentionné que l'analyse côté client a gagné en popularité en tant que solution de contournement pour le chiffrement. Pourquoi pensez-vous qu'elle a gagné en popularité?

Le genre de moment où nous nous trouvons, où il y a tellement de battage médiatique non fondé sur l'IA, y contribue. Vous avez des dirigeants de la technologie qui arrivent sur scène en disant qu'ils croient que ces systèmes sont conscients. Nous avons de très nombreuses entreprises différentes et de très nombreux «pères de l'IA» différents qui font des déclarations sur les capacités de ces systèmes qui ne sont tout simplement pas fondées sur la réalité. Et donc cela crée une atmosphère dans laquelle il n'est pas difficile de comprendre pourquoi quelqu'un qui n'est pas familier avec les détails matériels de ces technologies pourrait croire que, "Oh, je suppose que si l'IA peut penser mieux qu'un être humain, pourquoi l'analyse côté client ne pourrait-elle pas accomplir l'impossible en analysant le contenu en privé ? » Et je pense qu'il y a une suspension de l'incrédulité qui s'est produite parce que nous sommes inondés de revendications sans fondement. Et alors pourquoi cette autre affirmation sans fondement ne serait-elle pas également vraie ?

Meredith Whittaker dirige le dernier effort de l'industrie technologique dominée par les États-Unis pour éviter le projet de loi britannique sur la sécurité en ligne

Michelle Donelan, la secrétaire à la technologie, souhaite que l'Ofcom (le régulateur britannique des communications) élargisse ses pouvoirs en tant que régulateur britannique de l'Internet et est sur le point de lui accorder de nouveaux droits pour examiner le fonctionnement interne des entreprises technologiques. Dans le cadre de ces plans, l'Ofcom pourra obliger les entreprises technologiques à installer des «logiciels accrédités» pour rechercher les messages terroristes et pédopornographiques sur des services tels que Signal, WhatsApp et iMessage d'Apple.

Le gouvernement affirme que ce type de logiciel de numérisation de masse est sûr et ne portera pas atteinte à la vie privée de quiconque.

Les défenseurs de la technologie tels que Whittaker, un ancien cadre supérieur de Google qui est maintenant président de Signal, sont fortement en désaccord.

« Il y a donc une certaine confusion au cœur de ce débat », a déclaré l'Américain, « parce que ce que nous entendons des gens [qui soutiennent les nouveaux pouvoirs de l'Ofcom], c'est qu'ils sont d'accord avec nos arguments, ils comprennent qu'une porte dérobée sûre n'existe pas et que le chiffrement est une technologie fondamentale pour assurer la sécurité et la sûreté de l'infrastructure numérique.

« Mais lorsqu'il s'agit d'apporter des précisions, de clarifier cet ensemble de faits de base dans le texte du projet de loi, il y a une source d'hésitation qui ne m'est pas claire. Je ne sais pas comment faire la quadrature de ce cercle.

« Le débat actuel sur le projet de loi a atteint son paroxysme alors que les défenseurs de la technologie, les militants des droits de l'enfant et même les ministres en exercice se lancent des accusations véhémentes ».

Tom Tugendhat, le ministre de la Sécurité, a affirmé en mai que le patron de Meta, Mark Zuckerberg, se souciait davantage des « énormes profits » de son entreprise réalisés sur les enfants que de « les protéger des dangers sur la propre plate-forme [de Meta] ». Certains du côté technique de la clôture ont décrit en privé le projet de loi sur la sécurité en ligne comme « stupide » et « incompréhensible », s'en prenant aux ministres et aux fonctionnaires.

Source : interview de Meredith Whittaker

Et vous ?

Que pensez-vous de la position de Signal face à la loi sur la sécurité en ligne ? Êtes-vous d’accord ou pas d’accord avec sa décision de quitter le Royaume-Uni si la loi est adoptée ?
Utilisez-vous Signal ou une autre application de messagerie chiffrée ? Si oui, pourquoi ? Si non, pourquoi pas ?
Pensez-vous que le chiffrement de bout en bout est essentiel pour protéger la vie privée et la sécurité des utilisateurs ? Quels sont les avantages et les inconvénients du chiffrement de bout en bout ?
Comment voyez-vous l’avenir de la communication en ligne ? Croyez-vous que les gouvernements et les entreprises technologiques vont respecter le droit à la confidentialité des utilisateurs ou qu’ils vont chercher à le violer ?

[marsupial]

George Orwell, de nationalité britannique, doit se retourner dans sa tombe.

[Christophe]

1984 de Georges Orwell n'est ni de la SF ni de l'anticipation. C'est un documentaire.

[binarygirl]

Black Mirror aussi.

[OrthodoxWindows]

Justement Orwell avait travaillé dans l'empire Britannique en Birmanie, il avait été témoins des abus de ce système. Dans 1984, il parle d'un régime totalitaire d'inspiration stalinienne, mais appliqué à une idéologie anglo-saxonne, ce qui pour Orwell, fait un régime bien pire.

Ce n'est pas un hasard si ce genre de loi passe par l'Angleterre pour contaminer tout l'occident. L’Australie (qui à des lois comme celle-ci depuis plusieurs année), partage des idées similaire, mais sans protection pour les citoyens (ce pays possède une constitution proche du défunt empire britannique).

[Mathis Lucas]

Le projet de loi britannique sur la sécurité en ligne veut filtrer les contenus avant leur publication sans aucune procédure régulière
ce qui pourrait limiter gravement la liberté d'expression

Le Royaume-Uni continue à élaborer son projet de loi sur la sécurité en ligne (Online Safety Bill) et les dispositions qu'il contient donnent des sueurs froides à toute l'industrie technologique. Ce projet de loi tentaculaire donne au gouvernement britannique la possibilité d'introduire des portes dérobées dans les services de messagerie, ce qui détruira le chiffrement de bout en bout. Il introduit le concept de "restriction préalable" : il permet d'interdire un contenu avant publication ou de bloquer la publication sans procédure régulière, ce qui peut être interprété comme un filtre. Aucun amendement susceptible d'atténuer les éléments les plus dangereux du projet de loi n'a été accepté.

Le projet de loi britannique sur la sécurité, qui trouve son origine dans un livre blanc sur "les préjudices en ligne" (Online Harms) datant maintenant de plus de quatre ans, constituerait la réglementation la plus étendue jamais adoptée en matière d'Internet. Autrement dit, il donnerait au gouvernement britannique un contrôle sans précédent sur l'infrastructure Internet. S'il est adopté, le projet de loi sur la sécurité en ligne exigera des logiciels approuvés par le gouvernement dans les services de messagerie utilisés par des millions de citoyens britanniques. Cela signifie que les fournisseurs seront tenus d'introduire des portes dérobées dans leurs services.

Il exigerait le filtrage des contenus, ainsi que des contrôles d'âge pour l'accès aux contenus érotiques. Le projet de loi exige également que des rapports détaillés sur l'activité en ligne soient envoyés au gouvernement. Le but déclaré de tout ceci est, entre autres, la protection des enfants en ligne. Et pour cela, le gouvernement britannique veut s'octroyer le droit d'analyser chaque message en ligne à la recherche de contenus liés à la maltraitance des enfants ainsi que le matériel d'abus sexuel d'enfants (CSAM). Un argument très peu convaincant. En outre, le principal signal d'alarme du projet de loi britannique est le concept de "restriction préalable".

Il s'agit du concept d'interdiction de contenu avant publication, ou de blocage de la publication sans procédure régulière, qui peut être interprété comme un "filtre de téléversement". Le projet de loi exige des propriétaires de plateformes en ligne qu'ils empêchent les utilisateurs de rencontrer des contenus illicites. Il confère à l'Ofcom (l'autorité britannique de régulation des communications) le pouvoir d'exiger des services de messagerie chiffrés qu'ils filtrent les communications des utilisateurs. Cela pourrait modifier fondamentalement la communication en ligne en imposant "une restriction préalable par le biais de l'IA ou d'autres systèmes automatisés.

Selon les critiques, si le projet de loi est adopté, la législation étouffera la liberté d'expression en bloquant le contenu jugé "illégal" sans aucune explication, notification ou procédure régulière pour l'utilisateur censuré. Dans ce cas, des gens pourraient voir leur vie et leur carrière détruites pour s'être exprimées, pour avoir remis en question le récit "officiel" ou pour avoir proposé des méthodes d'atténuation différentes de celles adoptées par des technocrates non élus et non tenus de rendre des comptes. Les critiques estiment qu'une fois voté, le projet de loi sur la sécurité en ligne constituera un énorme pas en arrière pour la protection de la vie privée.

Au cours des dix dernières années, les gouvernements, les Big Tech et les médias d'entreprise ont fortement ébranlé leur crédibilité et ont érodé la confiance du public qu'ils ont tous trahi au-delà de toute rédemption. Au lieu de penser ces plaies encore "béantes", ils tentent de faire passer en force une nouvelle législation, des règles supplémentaires et des algorithmes opaques qui viseraient à pénaliser davantage la dissidence, à criminaliser la pensée non conforme et, comme l'explique clairement de nombreux experts, à violer les droits de l'homme universels. Ironiquement, le gouvernement britannique affirme que la proposition protège la vie privée.

L'EFF (Electronic Frontier Foundation) dénonce la législation : « avoir une conversation privée est un droit humain fondamental. Pour que ces droits se concrétisent dans le monde numérique, la meilleure technologie dont nous disposons est le chiffrement de bout en bout. Or, il est totalement incompatible avec la technologie d'analyse des messages approuvée par le gouvernement et exigée par le projet de loi sur la sécurité en ligne. Nous le répétons depuis plusieurs années : il n'existe pas une porte dérobée au chiffrement qui ne serait utilisée que par les "bons" ». Selon le groupe, le monde deviendrait très dangereux avec de telles lois et réglementations.

« Saper le chiffrement, que ce soit en l'interdisant, en faisant pression sur les entreprises pour qu'elles l'abandonnent ou en exigeant un balayage côté client, sera une aubaine pour les mauvais acteurs et les États autoritaires », a déclaré l'EFF. Les entreprises qui fournissent des messageries chiffrées - telles que WhatsApp, Signal et Element, basée au Royaume-Uni - ont également expliqué le danger que représente le projet de loi. Dans une lettre ouverte publiée en avril, elles ont expliqué que le projet de loi pourrait briser le chiffrement de bout en bout, ouvrant la porte à une surveillance routinière, générale et indiscriminée des messages personnels.

Apple a rejoint ce groupe en juin, déclarant publiquement que le projet de loi menace le chiffrement et pourrait mettre les citoyens britanniques en plus grand danger. Face à cette vague de résistance, le gouvernement britannique a réagi en agitant les mains et en niant la réalité. Dans une lettre de réponse à la Chambre des Lords consultée par l'EFF, le ministre britannique de la Culture, des Médias et des Sports se contente de ressasser un monde imaginaire dans lequel les messages peuvent être scannés tout en préservant la vie privée de l'utilisateur. Cependant, tous les experts du domaine s'accordent à dire qu'un tel système n'est pas réalisable.

« Nous avons déjà vu des entreprises développer de telles solutions pour des plateformes avec le chiffrement de bout en bout. L'Ofcom devrait être en mesure d'exiger l'utilisation de ces technologies et, lorsque des solutions prêtes à l'emploi ne sont pas disponibles, il est juste que le gouvernement montre la voie en explorant ces technologies. Nous attendons de l'industrie qu'elle construise des solutions robustes pour les plateformes/services individuelles qui garantissent à la fois la vie privée et la sécurité des enfants en empêchant le matériel d'abus sexuel d'enfants d'être librement partagé sur des canaux publics et privés », peut-on lire dans la lettre.

Pour les critiques, le fait que la Chambre des Lords n'ait même pas entamé un débat sérieux sur la protection du chiffrement et de la vie privée, alors qu'elle a largement eu le temps d'examiner chaque article du projet de loi, constitue un échec remarquable. Ils appellent le Parlement britannique à rejeter le projet de loi, car le balayage et la surveillance universels sont odieux pour ses propres électeurs. Une récente enquête menée auprès des citoyens britanniques a montré que 83 % d'entre eux souhaitaient bénéficier du niveau de sécurité et de confidentialité le plus élevé possible sur des applications de messagerie telles que Signal, WhatsApp et Element.

Source : Open Rights Group

Et vous ?

Quel est votre avis sur le sujet ?

Voir aussi

Contrairement au UK, l'Allemagne s'oppose aux projets de l'UE visant à affaiblir le chiffrement grâce à une analyse côté appareil, au nom de la lutte contre les abus sexuels d'enfants en ligne

Le directeur de WhatsApp déclare qu'il ne supprimera pas le chiffrement de bout en bout au profit de la loi britannique sur la sécurité en ligne, et que la société quittera le pays si elle est votée

Le PDG de Signal : « nous sommes à 1 000 % opposés à la loi britannique visant à affaiblir le chiffrement », la société annonce qu'elle fermera ses portes au Royaume-Uni si le projet de loi est voté

Apple se joint à l'opposition contre le projet de loi britannique visant à affaiblir le chiffrement pour permettre aux forces de l'ordre de lutter contre la pédopornographie

[OrthodoxWindows]

La Grande-Bretagne est tout simplement entrain de se transformer en état ultra-autoritaire, proche de la Chine. Qui peut dévier en état totalitaire si changement de dirigeant.

Si cette loi passe, ce sera le deuxième pays occidental à ne plus respecter de nombreux droits fondamentaux. L'Australie a été le premier (des lois de ce genre sont passées il y a quelques années).

[phil995511]

La Grande-Bretagne est tout simplement entrain de se transformer en état ultra-autoritaire, proche de la Chine. Qui peut dévier en état totalitaire si changement de dirigeant.

Si cette loi passe, ce sera le deuxième pays occidental à ne plus respecter de nombreux droits fondamentaux. L'Australie a été le premier (des lois de ce genre sont passées il y a quelques années).

Quand on s'en prend à la liberté d'expression on est bien au delà de l'autoritarisme qui en soit est déjà est une plaie. Là on est carrément en pleines dérives fascistes où même la justice n'a plus son mot à dire :-(

[marsupial]

Combien de temps avant que cela n'arrive en Europe ? Le gouvernement français est chaud bouillant pour y faire sauter le chiffrement.