2 pièce(s) jointe(s)
Un groupe de chercheurs a déclaré que la « technologie dangereuse » d'analyse de photos d'Apple était invasive
Un groupe de chercheurs a déclaré que la « technologie dangereuse » d'analyse de photos d'Apple était invasive et inefficace,
pour détecter les images d'abus sexuels sur des enfants
Plus d'une douzaine d'éminents experts en cybersécurité ont accusé Apple de s'être appuyé sur une « technologie dangereuse » dans son plan controversé de détection d'images d'abus sexuels sur des enfants sur iPhone
En aout, Apple a annoncé l'arrivée de nouvelles fonctions d'identification des photos sur iOS qui utiliseront des algorithmes de hachage pour faire correspondre le contenu des photos de la galerie des utilisateurs avec des éléments connus d'abus d'enfants, tels que la pornographie enfantine. L'iPhone téléchargera un ensemble d'empreintes numériques représentant le contenu illégal, puis comparera chaque photo de la galerie de l'utilisateur à cette liste.
Apple a précisé que la technologie de balayage fait partie d'une nouvelle série de systèmes de protection des enfants qui « évolueront et se développeront au fil du temps ».
Le système, appelé neuralMatch, alertera de manière proactive une équipe d'examinateurs humains s'il pense que des images illégales sont détectées. Selon un article de Financial Times, qui a rapporté la nouvelle pour la première fois, les examinateurs humains contacteront ensuite les forces de l'ordre si le matériel peut être vérifié. Le système neuralMatch, qui a été formé à l'aide de 200 000 images du National Center for Missing & Exploited Children, sera d'abord déployé aux États-Unis, puis au reste du monde. Les photos seront hachées et comparées à une base de données d'images connues d'abus sexuels sur des enfants.
Selon les explications de Cupertino, chaque photo téléchargée sur iCloud aux États-Unis recevra un « bon de sécurité » indiquant si elle est suspecte ou non. Ainsi, une fois qu'un certain nombre de photos seront marquées comme suspectes, Apple permettra de déchiffrer toutes les photos suspectes et, si elles apparaissent comme illégales, de les transmettre aux autorités compétentes. « Apple ne prend connaissance des photos des utilisateurs que si ceux-ci possèdent une collection de CSAM connus dans leur compte iCloud Photos », a déclaré l'entreprise pour tenter de rassurer les utilisateurs quant à la confidentialité de leurs données.
Une initiative qui a créé la division, même au sein des employés Apple. Matthew Green, professeur à l'université John Hopkins et cryptographe, a indiqué sur Twitter : « Ce genre d'outil peut être une aubaine pour trouver de la pédopornographie dans les téléphones des gens... Mais imaginez ce qu'il pourrait faire entre les mains d'un gouvernement autoritaire ».
En outre, selon les chercheurs, bien que le système soit actuellement formé pour repérer les abus sexuels sur les enfants, il pourrait être amélioré pour détecter toute autre image, par exemple, les décapitations de terroristes ou les signes antigouvernementaux lors de manifestations. Mais les dangers ne se limitent pas là et pourraient atteindre d'autres plateformes.
Le précédent créé par Apple pourrait également accroître la pression exercée sur les autres entreprises technologiques pour qu'elles utilisent des techniques similaires. « Les gouvernements l'exigeront de tous », s'est inquiété Green. Alec Muffett, chercheur en sécurité et militant pour la protection de la vie privée qui a travaillé chez Facebook et Deliveroo, a déclaré que la décision d'Apple était "tectonique" et constituait un "pas énorme et régressif pour la vie privée". « Apple fait reculer la vie privée pour permettre 1984 [NDLR, le plus célèbre roman dystopique de George Orwell, publié en 1949] », a-t-il déclaré.
Au départ, les fonctionnalités devaient être déployées dans le cadre d'iOS 15, qui est sorti en septembre. « Cette nouvelle technologie innovante permet à Apple de fournir des informations précieuses et exploitables au National Center for Missing and Exploited Children et aux forces de l'ordre concernant la prolifération de CSAM [child sexual abuse material] connus », a déclaré la société. Mais le tollé provoqué sur la toile a contraint Apple à modifier sa feuille de route.
Apple a tenté sans succès de rassurer
Dans un mémo interne à l'intention des équipes qui ont travaillé sur ce projet, Apple a reconnu les « malentendus » autour des fonctionnalités, tout en affirmant que ces fonctionnalités font partie d'une « mission importante » pour assurer la sécurité des enfants. Le document, qui a également été dévoilé le même jour que les nouvelles fonctionnalités, a été rédigé par Sébastien Marineau-Mes, un VP logiciel chez Apple. Marineau-Mes affirme qu'Apple continuera à « expliquer et à détailler les fonctionnalités » incluses dans cette suite de protections étendues pour les enfants. Voici le mémo dans son intégralité :
« Aujourd'hui marque le dévoilement public officiel des protections élargies pour les enfants, et je voulais prendre un moment pour remercier chacun d'entre vous pour votre travail acharné au cours des dernières années. Nous n'aurions pas atteint cette étape importante sans votre dévouement inlassable et votre résilience. Assurer la sécurité des enfants est une mission tellement importante. À la manière d'Apple, la poursuite de cet objectif a nécessité un engagement transversal profond, englobant l'ingénierie, l'administration générale, l'informatique, les services juridiques, le marketing produit et les relations publiques. »
« Ce que nous avons annoncé aujourd'hui est le fruit de cette collaboration, un produit qui fournit des outils pour protéger les enfants, tout en respectant l'engagement profond d'Apple envers la vie privée des utilisateurs. Nous avons vu beaucoup de réactions positives aujourd'hui. Nous savons que certaines personnes ont des malentendus et que plus d'une s'inquiète des implications, mais nous continuerons à expliquer et à détailler les fonctionnalités pour que les gens comprennent ce que nous avons construit. »
« Et alors qu'il reste beaucoup de travail à accomplir pour mettre en œuvre les fonctionnalités dans les prochains mois, je voulais partager cette note que nous avons reçue aujourd'hui du NCMEC. Je l'ai trouvé incroyablement motivant, et j'espère que vous le serez aussi. Je suis fier de travailler chez Apple avec une équipe aussi formidable. Merci à tous ! ».
Le mémo comprenait aussi un message du National Center for Missing and Exploited Children, signé par Marita Rodriguez, directrice exécutive des partenariats stratégiques. Apple travaille en étroite collaboration avec le NCMEC sur les nouvelles fonctionnalités de numérisation d'iCloud. Voici le texte intégral de la note du NCMEC envoyée à l'équipe d'Apple travaillant sur ces fonctionnalités :
« Équipe Apple, je voulais partager un mot d'encouragement pour dire que tout le monde à NCMEC est TELLEMENT FIER de chacun d'entre vous et des décisions incroyables que vous avez prises au nom de la priorité accordée à la protection des enfants. Il a été revigorant pour toute notre équipe de voir (et de jouer un petit rôle dans) ce que vous avez dévoilé aujourd'hui. Je sais que la journée a été longue et que beaucoup d'entre vous n'ont probablement pas dormi depuis 24 heures. Nous savons que les jours à venir seront remplis des voix criardes de la minorité. Nos voix seront plus fortes. »
« Notre engagement à soutenir les enfants qui ont vécu les abus et les victimisations les plus inimaginables sera plus fort. Pendant ces longues journées et ces nuits sans sommeil, j'espère que vous trouverez du réconfort dans le fait que, grâce à vous, des milliers d'enfants victimes d'exploitation sexuelle seront sauvés et auront une chance de guérir et de vivre l'enfance qu'ils méritent. Merci d'avoir trouvé la voie à suivre pour protéger les enfants tout en préservant leur vie privée ! »
Des chercheurs en cybersécurité montent au créneau
Dans un document de 46 pages publié jeudi, un groupe de chercheurs a déclaré que la « technologie dangereuse » était invasive et inefficace pour détecter les images d'abus sexuels sur des enfants.
Les chercheurs en cybersécurité ont déclaré avoir commencé leur étude avant l'annonce d'Apple. Des documents publiés par l'Union européenne et une réunion avec des responsables de l'UE l'année dernière les ont amenés à croire que l'organe directeur du bloc voulait un programme similaire qui analyserait non seulement les images d'abus sexuels sur des enfants, mais également les signes de crime organisé et les indices de liens terroristes.
Une proposition visant à autoriser la numérisation de photos dans l'Union européenne pourrait arriver dès cette année, estiment les chercheurs.
Ils ont déclaré qu'ils publiaient leurs conclusions maintenant pour informer l'Union européenne des dangers de son plan, et parce que « l'extension des pouvoirs de surveillance de l'État passe vraiment une ligne rouge », a déclaré Ross Anderson, professeur d'ingénierie de sécurité à l'Université de Cambridge et membre du groupe.
Mis à part les problèmes de surveillance, ont déclaré les chercheurs, leurs résultats ont indiqué que la technologie n'était pas efficace pour identifier les images d'abus sexuels sur des enfants. Quelques jours après l'annonce d'Apple, ont-ils déclaré, les gens avaient indiqué des moyens d'éviter la détection en modifiant légèrement les images.
La technologie permet « de scanner un appareil privé personnel sans aucune cause probable pour que quoi que ce soit d'illégitime soit fait », a ajouté un autre membre du groupe, Susan Landau, professeur de cybersécurité et de politique à l'Université Tufts. « C'est extraordinairement dangereux. C'est dangereux pour les affaires, la sécurité nationale, la sécurité publique et la vie privée ».
Sources : Rapport des chercheurs, UE
Et vous ?
:fleche: Que pensez-vous des conclusions des chercheurs ?
:fleche: Que pensez-vous des mises en garde adressées à l'UE sur un plan s'appuyant non seulement sur l'analyse des images pour détecter d'éventuels abus sexuels sur des enfants, mais également les signes de crime organisé et les indices de liens terroristes ?
1 pièce(s) jointe(s)
Apple supprime les mentions aux fonctionnalités de protection de l'enfance après un tollé sur la vie privée
Apple supprime de la page web dédiée les mentions aux fonctionnalités controversées de protection de l’enfance après un tollé sur la vie privée
Mais des documents suggèrent un maintien du cap
Apple a procédé à la mise à jour de la page web dédiée sur ses fonctionnalités controversées de protection de l'enfance. L'entreprise a retiré toutes les mentions y relatives. Malgré la modification, des documents d’Apple suggèrent un maintien du cap vers l'implémentation.
En effet, si la page dédiée a fait l’objet de toilettage, la foire aux questions d’Apple sur « les protections étendues pour l’enfance » demeure très explicite sur les fonctionnalités à controverse.
« Non. De par sa conception, cette fonctionnalité ne s'applique qu'aux photos que l'utilisateur choisit de télécharger sur iCloud Photos, et même dans ce cas, Apple ne prend connaissance que des comptes qui stockent des collections d'images d'abus sexuels sur enfants connues, et uniquement des images qui correspondent à celles d'abus sexuels sur enfants connues. Le système ne fonctionne pas pour les utilisateurs qui ont désactivé Photos iCloud. Cette fonctionnalité ne tourne pas sur la bibliothèque privée de photos de votre iPhone », indique Apple quant à la question de savoir si l’entreprise compte procéder au scannage de toutes les photos sur les iPhone.
« Non. Les images d'abus sexuels sur enfants ne sont pas stockées ou envoyées sur l'appareil. Au lieu d'images réelles, Apple utilise des hash illisibles qui sont stockés sur l'appareil. Ces hash sont des chaînes de chiffres qui représentent des images d'abus sexuels sur enfants connues, mais il n'est pas possible de lire ou de convertir ces hash en images d'abus sexuels sur enfants sur lesquelles ils sont basés. Cet ensemble de hash est basé sur des images acquises et validées comme étant des images d'abus sexuels sur enfants par au moins deux organisations de protection de l'enfance. Grâce à de nouvelles applications du chiffrement, Apple est en mesure d'utiliser ces hash pour connaître uniquement les comptes iCloud Photos qui stockent des collections de photos correspondant à ces images d'abus sexuels sur enfants connues », ajoute Apple.
« L'un des défis importants dans ce domaine est de protéger les enfants tout en préservant la vie privée des utilisateurs. Grâce à cette nouvelle technologie, Apple sera informé des photos d'abus sexuels sur enfants connues, stockées dans iCloud Photos, lorsque le compte stocke une collection d'abus sexuels sur enfants connus. Apple n'apprendra rien sur les autres données stockées uniquement sur l'appareil. Les techniques existantes, telles qu'elles sont mises en œuvre par d'autres entreprises, analysent toutes les photos des utilisateurs stockées dans le nuage. Cela crée un risque pour la vie privée de tous les utilisateurs. La détection d'images d'abus sexuels sur enfants dans iCloud Photos offre des avantages significatifs en matière de protection de la vie privée par rapport à ces techniques, en empêchant Apple de prendre connaissance des photos à moins qu'elles ne correspondent à des images d'abus sexuels sur enfants connues et qu'elles soient incluses dans un compte iCloud Photos qui comprend une collection d'images d'abus sexuels sur enfants », précise la firme.
Deux des trois fonctionnalités de sécurité ont fait l’objet de publication en début de semaine sous iOS 15.2. L'une est conçue pour avertir les enfants lorsqu'ils reçoivent des images contenant de la nudité dans des messages, tandis que la seconde fournit des informations supplémentaires lors de la recherche de termes liés à l'exploitation des enfants via Siri, Spotlight ou Safari Search. Celle de détection d’images d’abus sexuels sur enfants était attendue avec iOS15, mais continue d’être retardée.
La fonction de détection d'images d'abus sexuels sur enfants d'Apple fait l'objet de controverse, car elle laisse le sentiment aux possesseurs d'appareils Apple que leurs photos sont passées au peigne fin. Dans une série de tweets, le militant de la protection de la vie privée Edward Snowden exprime ses inquiétudes qu'Apple déploie une forme de « surveillance de masse dans le monde entier » et crée un précédent qui pourrait permettre à l'entreprise de rechercher tout autre contenu arbitraire dans le futur.
Apple pour sa part affirme que cette approche lui permet de signaler aux autorités les utilisateurs dont on sait qu'ils mettent en ligne des images d'abus sexuels sur enfants sans compromettre la vie privée de ses clients en général. Apple affirme également que le chiffrement des données des utilisateurs n'est pas affecté et que l'analyse est effectuée sur l'appareil.
Sources : Apple 1,2
Et vous ?
:fleche: Quel est votre avis sur le sujet ?
Voir aussi :
:fleche: Dans un mémo interne, Apple répond aux préoccupations concernant les nouvelles fonctions de balayage des photos, alors que les experts dénoncent un recul dans les progrès en matière de vie privée
:fleche: Après les critiques, Apple ne recherchera que les images d'abus signalées dans plusieurs pays et insiste sur le fait qu'il s'agit d'une avancée en matière de confidentialité
:fleche: Les fonctions de protection de l'enfance d'Apple suscitent l'inquiétude dans ses propres rangs, des employés craignent qu'elles deviennent une arme au service des gouvernements répressifs
:fleche: Le PDG d'Epic Games met en garde contre la "surveillance d'État" d'Apple, alors qu'Epic Games est détenu en partie par Tencent en Chine
:fleche: Apple envisage un système de détection d'images d'abus d'enfants dans la galerie de photos des utilisateurs, mais les chercheurs en sécurité craignent une surveillance de masse des iPhone
1 pièce(s) jointe(s)
Un père a pris en photo son enfant nu et l'a envoyée au pédiatre, mais Google l’a marqué comme criminel
Un père a pris en photo son enfant nu et l'a envoyée au pédiatre, mais Google l’a marqué comme criminel
après avoir désactivé son compte et signalé aux forces de l’ordre
Alors que de nombreuses personnes ont tiré la sonnette d’alarme sur les risques d’intrusion des géants de la Tech dans la vie privée des utilisateurs au motif de lutter contre les abus sur les enfants, de nombreuses organisations de protection de l’enfance se sont réjouies de l’analyse des fichiers effectuée par les grandes entreprises comme Apple et Google. Récemment, il a été rapporté qu’un père de famille vivant aux États-Unis a fait l’objet d’une enquête du gouvernement après avoir envoyé au médecin les photos d’une enflure située au niveau du sexe de son fils à des fins d’examen pour une prescription.
L’an dernier au mois de février, Mark, un ingénieur logiciel qui est actuellement père au foyer, a été pris pour cible par l’algorithme de Google permettant de détecter les images d’abus sexuels sur enfants. Cette situation s’est produite lorsque Mark a constaté que le pénis de son fils avait l’air enflé et lui faisait mal. Possédant un téléphone Android, Mark a fait des photos de l’enflure dans laquelle apparaît son doigt pour indiquer où se trouve le problème. Il a ensuite appelé d’urgence son service de santé le vendredi soir pour une consultation par vidéo, car le lendemain était samedi et la pandémie faisait encore rage. Sur demande de l’infirmière, la femme de Mark a envoyé sur son iPhone les photos de l’enfant prises à partir du téléphone de Mark. Ceci, afin de pouvoir les télécharger sur la plateforme de leur service de santé. Après avoir reçu les photos, le médecin les a examinés et a prescrit des antibiotiques qui ont permis de régler le problème assez rapidement.
Si le chapitre de la santé du fils de Mark a pris fin après cette prescription, un autre problème venait de commencer pour Mark. En effet, pour lutter contre la pédopornographie, Google, le géant du Web, et même Apple et Microsoft analysent aussi bien les informations en ligne qui sont traitées par leurs serveurs ainsi que les informations privées contenues sur les appareils des utilisateurs comme les photos, les vidéos, et autres informations susceptibles d’être en lien avec des images d’abus sexuels sur les enfants. Aussi, deux jours après avoir pris les photos de son fils avec son téléphone Android, celui-ci a émis un bruit de notification atypique. Google venait de l’informer que son compte a été désactivé et était invité à prendre les mesures idoines pour son rétablissement. Un lien lui avait été fourni sur la page afin de lui donner les éventuelles raisons qui avaient conduit à la désactivation de son compte.
Troublé par ce qui venait de se passer, l’ingénieur logiciel s’est souvenu de la photo de son enfant qu’il avait prise et a conclu que Google devait croire qu’il s’adonnait au contenu pédopornographique. Mark qui a déjà travaillé en tant qu’ingénieur logiciel dans une grande entreprise sur un outil automatisé utilisé pour supprimer des vidéos signalées comme problématiques s’est dit que le problème allait être réglé facilement vu qu’il y a toujours des personnes physiques travaillant de concert avec l’outil de détection automatique. Mais que nenni ! Après avoir renseigné le formulaire de réclamation, Google a maintenu sa position en bloquant l’accès à son compte.
Nous précisons que Mark dispose d’un compte Gmail depuis le milieu des années 2000 avec ses photos et vidéos stockés sur Google Cloud. Il dispose même d’un forfait téléphonique Google Fi. Avec la désactivation de son compte, non seulement il n’a plus accès à ses emails, ses photos, vidéos personnelles, numéros de contacts, mais aussi certains comptes tiers pour lesquels il a utilisé son compte Google ou son numéro de téléphone comme support de vérification.
Lorsque Google fait une telle découverte d’image d’abus d’enfants, cela ne s’arrête pas au simple verrouillage de compte. L’entreprise recherche d’autres éléments d’exploitation et, comme l’exige la loi fédérale, fait un rapport à la CyberTipline du National Center for Missing and Exploited Children. Et c’est ce qui s’est passé. En effet, dix mois plus tard, c’est-à-dire en décembre 2021, Mark a reçu par la poste une lettre du département de police de San Francisco l’informant qu’il avait fait l’objet d’une enquête ainsi que des copies des mandats de perquisition signifiés à Google et à son fournisseur d’accès Internet. Les informations utilisées lors de l’enquête contenaient ses recherches sur Internet, son historique de localisation, ses messages et tout document, photo et vidéo qu’il avait stockés auprès de Google.
Ayant contacté l’agent fédéral qui a mené l’enquête pour savoir à quoi il devait s’attendre, ce dernier lui a signifié que l’affaire était close. Aucune charge n’a été retenue contre lui. Aucun élément de crime n’a été trouvé. En outre, l’agent du gouvernement lui a expliqué qu’il a essayé d’entrer en contact avec lui, mais son numéro et son adresse ne fonctionnaient pas. Soucieux de récupérer son compte, Mark a demandé à l’agent de communiquer à Google le rapport de l’enquête afin que son compte soit réactivé, mais l’agent lui a expliqué qu’il ne pouvait rien faire à ce niveau. Il y a deux mois, Mark a reçu un avis lui signifiant que son compte a été définitivement supprimé. Voyant le préjudice qu’il a subi de la part de Google, Mark s’est tourné vers un avocat pour voir s’il pouvait intenter un procès contre l’entreprise. Mais vu les frais qui s’élèvent à 7000 dollars, Mark a décidé de laisser tomber.
Mark n’est pas le seul dans cette situation. Le 22 février 2021, le même scénario s’est produit avec un homme nommé Cassio qui a expliqué en ligne qu’après avoir pris des photos de son fils qui avait une infection au niveau de ses parties intimes pour les envoyer à son pédiatre, il a reçu un message de Google qui a désactivé son compte. Après avoir saisi l’entreprise pour un réexamen de sa situation, l’entreprise lui a signifié que son compte ne serait pas restauré.
Source : Twitter, Message de Cassio
Et vous ?
:fleche: Quels commentaires faites-vous de cette affaire ?
:fleche: Selon vous, comment doit-on s’y prendre pour éviter d’éventuelles dérives comme ce fut le cas avec Mark et Cassio ?
juqu'où cela s'arrête-t-il ?
On se retrouve avec des GAFAM qui en pratique ont autant de pouvoir qu'un tribunal civil ou administratif, mais sans procès équitable ni appel...
OK, les téléphones contiennent des espions automates qui analysent chaque photo pour chercher de la pédopornographie, mais ça pourrait être n'importe quoi d'autre à la demande d'un gouvernement (les loi secrètent existent aux USA), mais on pourrait aussi lire les documents, ou le micro.
Personnellement, par manque de confiance, je n'utilise de google que leur compte développeur, mais j'ai aussi un tél. android (sous une autre adresse) avec à peu près toutes les appli google désactivées (sauf le store forcément), mais si c'est dans l'OS...
Je n'ai pas de solution pratique pour avoir l'indispensable smartphone de nos jours, qui fonctionne, et ne soit ni android, ni iOS. Idéalement, il faudrait un téléphone linux... capable de faire tourner des appli android dans des containers : ça existe de manière utilisable ?
2 pièce(s) jointe(s)
Google refuse de rétablir le compte d’un parent signalé par son IA de scannage automatique de correspondances
Google refuse de rétablir le compte d’un parent signalé par son IA de scannage automatique de correspondances
Qui a assimilé des photos médicales de l’aine de son fils à du contenu pédopornographique
Google refuse de rétablir le compte d’un parent signalé par son intelligence artificielle de scannage automatique de correspondances. Motif : le logiciel a signalé à tort des photos médicales de l’aine de son fils comme étant du contenu pédopornographique. Le tableau ravive les débats sur les dérives du scannage automatique des correspondances numériques dont les grandes enseignes technologiques font usage. La situation est d’autant plus intéressante que l’UE travaille à ce que les tous les fournisseurs de services de courrier électronique, de chat et de messagerie fouillent dans les communications privées à la recherche de messages suspects de manière entièrement automatisée et à les transmettre à la police dans le cadre de la lutte contre la pédopornographie.
« C’est précisément le type de cauchemar qui nous préoccupe tous. Ils vont scanner mon album de famille et ensuite je vais avoir des problèmes », commente un responsable de l’Electronic Frontier Foundation.
En effet, Mark a été innocenté de tout acte criminel, mais Google a annoncé le maintien de la décision de blocage de son compte. « Nous suivons la loi américaine pour définir ce que sont les contenus pédopornographiques et utilisons une combinaison de technologie de correspondance de hachage et d'intelligence artificielle pour les identifier et les retirer de nos plateformes », a déclaré Christa Muldoon, une porte-parole de Google.
Pour pallier les limites que les algorithmes pourraient avoir à distinguer les images d'abus sexuels des images médicales, les entreprises font souvent appel à un humain dans la boucle. Mais ces personnes sont elles-mêmes limitées dans leur expertise et l'obtention du contexte approprié pour chaque cas nécessite un accès supplémentaire aux données des utilisateurs. En d’autres termes, en l’état actuel des développements, un faux positif de l’intelligence artificielle peut entraîner la suspension du compte d’un tiers par Google sans autre forme de procès.
La situation interpelle d’autant plus que l’UE travaille ce que les tous les fournisseurs de services de courrier électronique, de chat et de messagerie fouillent dans les communications privées à la recherche de messages suspects de manière entièrement automatisée et à les transmettre à la police dans le cadre de la lutte contre la pédopornographie. La présentation d’un projet de loi y relatif s’est en principe faite au cours du mois de mai de l’année en cours.
« Cette intrusion dans nos messages privés et nos photos par des algorithmes sujets aux erreurs est un pas de géant vers un État de surveillance à la chinoise. La prochaine étape consistera-t-elle pour la poste à ouvrir et à scanner toutes les lettres ? Les réseaux organisés de pornographie infantile n'utilisent pas le courrier électronique ou les services de messagerie, mais les forums du darknet. Avec ses projets visant à briser le chiffrement sécurisé, la Commission européenne met en péril la sécurité globale de nos communications privées et de nos réseaux publics, ainsi que les secrets commerciaux et d'État, pour satisfaire des désirs de surveillance à court terme. Ouvrir la porte aux services de renseignement étrangers et aux pirates informatiques est totalement irresponsable. Pour arrêter le contrôle des chats, la communauté du net doit monter au créneau », commente Patrick Breyer – défenseur des libertés civiles.
En effet, les conséquences de l’entrée en vigueur de ce projet de loi sont :
- toutes les conversations en ligne et tous les courriels seront automatiquement fouillés pour détecter tout contenu suspect. Rien ne reste confidentiel ou secret. Il ne sera pas nécessaire d'obtenir une ordonnance du tribunal ou d'avoir un soupçon initial pour effectuer une recherche dans les messages ;
- si un algorithme classe le contenu d'un message comme suspect, les photos privées ou intimes pourront être consultées par le personnel et les sous-traitants de sociétés internationales et les autorités policières. Ces mêmes contenus pourront être consultés par des personnes inconnues ou se retrouver entre les mains d’individus mal intentionnés ;
- les conversations intimes pourront être lues par le personnel et les sous-traitants de sociétés internationales et les autorités policières, car les filtres de reconnaissance de texte qui ciblent la "sollicitation d'enfants" signalent souvent à tort les conversations intimes ;
- des tiers pourront être faussement signalés et faire l'objet d'enquêtes pour diffusion présumée de matériel d'exploitation sexuelle d'enfants. Les algorithmes de contrôle des messages et des chats sont connus pour signaler des photos de vacances tout à fait légales d'enfants sur une plage, par exemple. Selon les autorités de la police fédérale suisse, 86 % de tous les signalements générés par des machines s'avèrent sans fondement ;
- lors d’un voyage à l'étranger, l’on peut se retrouver face à de gros problèmes. Les rapports générés par les machines sur les communications pourront être transmis à d'autres pays, comme les États-Unis, où la confidentialité des données demeure très mal encadrée, ce, avec des résultats incalculables ;
- ce serait la porte ouverte pour les services de renseignement et les pirates sur les conversations et courriels.
En mars, 35 organisations du monde entier, dont l'Association des juristes allemands, Digitale Gesellschaft et le Comité pour la protection des journalistes (CPJ), avaient mis en garde contre la loi européenne sur le contrôle des communications numériques. Selon un sondage, 72% des citoyens s'y opposent. L'accord de coalition du gouvernement allemand déclare sur le sujet du contrôle des communications numériques : « Nous rejetons les mesures visant à scanner les communications privées. »
Et vous ?
:fleche: Interdire le scannage automatique des communications privées ou le maintenir : de quel bord êtes-vous ?
:fleche: Quelles solutions techniques préconisez-vous dans le cas d’un maintien du scannage automatique des communications privées pour garantir un équilibre entre vie privée et sécurité ?
Voir aussi :
:fleche: Le bitcoin vaut moins que le coût d'extraction, selon JPMorgan, le coût de revient moyen pondéré d'un bitcoin étant estimé à environ 4060 $
:fleche: La cryptomonnaie de Facebook, une opportunité de 19 milliards de dollars de revenus, et une nouvelle affaire autre que la publicité, selon Barclays
:fleche: La majorité du marché de bitcoin est une tromperie, 95 % du volume des échanges de cette monnaie étant truqué, selon une nouvelle étude
:fleche: Cryptomonnaie : le crash du marché laisse des entreprises en faillite dans son sillage, des développeurs étant privés de financement supplémentaire
:fleche: L'État de New York approuve deux cryptomonnaies liées au dollar : deux nouveaux stablecoins à la suite du TrueUSD aux États-Unis
