Discussion :

[Hinault Romaric]

Google s’explique sur l’analyse des photos dans Gmail
qui aurait permis l’arrestation d’un pédophile

Google a contribué le weekend dernier à l’arrestation d’un délinquant sexuel par la justice américaine grâce à l’analyse des messages électroniques de celui-ci.

Google avait signalé aux autorités que celui-ci recevait dans sa boite mail des images pédopornographiques illégales. L’information transmisse par Google a permis aux autorités d’obtenir un mandat de perquisition contre celui-ci, et la fouille de son domicile a révélé des images et des textes suspects, ce qui a entrainé son arrestation. L’homme en question avait déjà été reconnu coupable d’agression sexuelle sur un enfant de 8 ans en 1994.

Cet acte louable de Google n’a pas manqué de créer une certaine polémique, remettant sur la scène les débats sur la protection de la vie privée des utilisateurs et dévoilant au passage les capacités technologiques dont dispose Google pour scanner les mails des utilisateurs de son service de messagerie.

Il est connu depuis plusieurs mois et Google l’avait confirmé, que ses systèmes automatisés analysent les courriels des utilisateurs pour fournir des fonctionnalités personnalisées, lutter contre les spams et procéder à la publicité ciblée. À la lumière de ces informations, ces systèmes seraient capables de chercher toutes sortes de contenu, y compris dans les pièces jointes, en dehors des termes clés utilisés pour la publicité.

Face à la polémique, Google a tenu à clarifier la situation et son application dans un communiqué qui a été transmis à l’AFP. Le géant de la recherche, tout comme les autres entreprises de l’internet, notamment Microsoft, contribue depuis plusieurs années à éradiquer la pédopornographie sur internet.

Jusqu’ici, la firme se limitait à répondre aux injonctions de la justice dans les affaires criminelles. D’ailleurs, cela est connu, car la firme publie constamment des chiffres sur les demandes des autorités pour accéder aux données des utilisateurs. Dans le cadre de cette affaire, c’est la première fois que Google de sa propre initiative, informe les autorités.

« Malheureusement, toutes les entreprises de l’internet sont confrontées à des cas d'abus sexuel sur des enfants. C'est pourquoi Google supprime les images illégales de ses services », a déclaré la firme, qui explique que l’information est transmise au National Center for Missing and Exploited Children (NCMEC) qui se charge de gérer la suite du dossier.

En ce qui concerne le système utilisé, Google explique que chaque image d'abus sexuel sur un enfant est signée d'une empreinte numérique unique qui permet à ses systèmes d'identifier ces photos, même au sein de Gmail.

Sans entrer dans les détails, le géant de la recherche précise que le système est utilisé uniquement pour identifier des images pornographiques et non les autres contenus du mail qui pourraient être liés à une activité illégale. De quoi calmer les plus sceptiques ?

Source : AFP

[Voyvode]

Il est connu depuis plusieurs mois et Google l’avait confirmé, que ses systèmes automatisés analysent les courriels des utilisateurs pour fournir des fonctionnalités personnalisées, lutter contre les spams et procéder à la publicité ciblée. À la lumière de ces informations, ces systèmes seraient capables de chercher toutes sortes de contenu, y compris dans les pièces jointes, en dehors des termes clés utilisés pour la publicité.

C’est tout bénef pour Google de rechercher des images pédopornographiques dans les mails : ça ne leur coute plus rien à mettre en place et ça met un vernis moral qui rend le système de surveillance difficilement critiquable.

[Paul TOTH]

C’est tout bénef pour Google de rechercher des images pédopornographiques dans les mails : ça ne coute leur plus rien à mettre en place et ça met un vernis moral qui rend le système de surveillance difficilement critiquable.

ce qui est dérangeant dans tout cela ce n'est évidemment pas que Google participe à la lute contre la pédophilie, c'est l’absence totale de débat démocratique sur la question de la confidentialité de nos données en ligne. Les stratégies sont mise en place par Google, Microsoft ou encore Mozilla, et ils nous imposent leur façon de voir sans que jamais nous ne donnions notre avis...parfois l'Europe sort une directive de son chapeau sans nous demander d'avantage ce que l'on en pense.

Je m'interrogeais dernièrement en regardant le Dictateur de Chaplin sur la différence entre dictature et capitalisme,

Soldats, ne vous donnez pas à ces brutes,
à une minorité qui vous méprise et qui fait de vous des esclaves,
enrégimente toute votre vie et qui vous dit tout ce qu'il faut faire
et ce qu'il faut penser, qui vous dirige, vous manoeuvre,
se sert de vous comme chair à canons et qui vous traite comme du bétail.

Ne donnez pas votre vie à ces êtres inhumains,

ces hommes-machines avec une machine à la place de la tête
et une machine dans le coeur.

Vous n'êtes pas des machines !

Vous n'êtes pas des esclaves !

Vous êtes des hommes !

http://lilifloria.blogspot.fr/2009/0...haplin-un.html

[Gugelhupf]

Je suppose qu'un service Gmail va exécuter une procédure qui va lire le contenu des mails pour relever les mots-clés suspicieux (un taux par ex).
Pour ce qui est de l'analyse des pièces jointes je pense que cela ne s'invente pas, Google possède certainement l'original des fichiers (avec l'accord des autorités). Il suffit d'une la bande sonore pour que le nom de l'artiste apparaisse dans une vidéo uploadé sur Youtube. Mais bon comme c'est un sujet tabou on préfère simplement dire que le super algo est autonome pour "comprendre" que le fichier est suspicieux.

Une question qu'on pourrait se poser est que se serait-t-il passé si le pervers était une personnalité importante ou ayant une certaine l'influence.

[thetrollman]

Le pape et beaucoup de religion ont a se tenir. Ils ne peuvent plus s'envoyer des mails avec des photos pédophiles. D'ici un ans plus de religion ( c’était une blague).

Plus sérieusement oui c'est positif d'un sens..
Mais savoir ce que je consulte, regarde, lit sur internet ou j'envoie je trouve ça dérangeant. Déja que ebay me dérange avec vous avez consulter ce ci alors regarde tous ce qui ressemble par email... ( Je sais on peux cliquer sur courrier indésirable). De plus, Si un homme reçoit une photo de sa copine ( sexté ) , google peuvent être au courant. Puis c'est pas tous le monde qui a l'esprit saint. Y'a du monde qui vont aller contre le code de l'entreprise c'est sur..

Imaginer le pouvoir de quelqu'un qui peut consulter tous les messages de d'autres personnes... C'est leurs vie presque complète qui peuvent s'afficher.

[Invité]

De toute manière c'est partout la même chose pas de quoi être étonné il faudrait plutôt se demander où l'on est sur de ne pas être surveillé , en faisant ce genre d'activité en ligne il aurait fallu être plus intelligent , heureusement qu'il existe des alternatives dont une qui a l'air très prometteuse : protonmail.ch

[Grabeuh]

Pour ce qui est de l'analyse des pièces jointes je pense que cela ne s'invente pas, Google possède certainement l'original des fichiers (avec l'accord des autorités). Il suffit d'une la bande sonore pour que le nom de l'artiste apparaisse dans une vidéo uploadé sur Youtube. Mais bon comme c'est un sujet tabou on préfère simplement dire que le super algo est autonome pour "comprendre" que le fichier est suspicieux.

J'ai travaillé pour une boite Vietnamienne dont le produit phare était un algorithme de détection d'images de personnes nues, totalement interdites dans ce pays. Le programme en question passait chaque image à la moulinette et était capable de dire avec un faible taux d'erreur si l'image était une image porno ou non.
Ceci date de 2008, des progrès énormes ont du être faits depuis (y a qu'à voir les bots de Facebook qui suppriment même des photos de statues dans des musées).

Combine ça avec un algo pour détecter la tranche d'âge d'un visage, et tu obtiens un algo quasi-autonome (faut quand même revérifier les fichiers manuellement de temps en temps pour éviter les faux positifs)

D'ailleurs, un papier académique (Vietnamien, là encore) à propos d'un algo de détection d'images pornographiques.
http://www.academia.edu/4027750/A_no...upload_picture



Et pour la comparaison de fichiers audio, je te conseille de regarder http://gizmodo.com/5647458/how-shaza...ou-throw-at-it
Là non plus, pas besoin d'avoir le fichier original pour comparaison.

[Gugelhupf]

Je sais que ce genre d'outil existe (Facebook possède un module de reconnaissance faciale mais ne l'utilise pas), mais combien de temps prend l'analyse d'une image sachant qu'il doit y avoir des millions de mails qui transitent par jour ?

Par curiosité est-ce qu'il s'agit d'un algorithme glouton ? Voici un 1er moyen plus ou moins rapide que je vois : relever le nombre d'octet du fichier et le comparer avec les fichiers d'origines, analyser la bande sonore pour confirmer et envoyer le mail aux autorités.

PS: je vois mal le bot de Google transmettre des milliers d'images de statue aux autorités.

[ILP]

En ce qui concerne le système utilisé, Google explique que chaque image d'abus sexuel sur un enfant est signée d'une empreinte numérique unique qui permet à ses systèmes d'identifier ces photos, même au sein de Gmail.

Je me demande comment sont signées les photos ? C'est les pédophiles photographes qui signent leurs "œuvres", ou c'est Google qui a une base de données des photos signalées et qui utilise un algorithme similaire à sa recherche par image ?

[Heydrickx]

Evidemment plusieurs personnes sont d'accord pour applaudir Google quand à sa contribution dans la lutte contre la pédopornographie.
Mais pour aller encore plus loin, je me demande dans quelle mesure il faut encore encourager ces alternatives qui proposent des moyens de communiquer sur le web de façon anonyme et confidentielles (TOR, protonmail, ...).
La question qui se pose, c'est de savoir si le respect de la vie privée est assez importante pour justifier la facilité qu'elle procure à ceux qui ont de mauvaises intentions (pédopornographie par exemple).
Je serais d'avis à ce qu'une utilisation anonyme d'internet devienne complètement impossible pour qui que ce soit. Cette situation devrait bien sûr être sécurisée de façon à ce qu'aucun abus ne soit possible pour, par exemple, utiliser nos données à des fins commerciales.
Je sacrifierais volontier la confidentialité de mon utilisation d'internet (et de tous les réseaux en général) si cela permettait concrètement et conséquemment à lutter contre le terrorisme et/ou la pédophilie...

[fredinkan]

Je serais d'avis à ce qu'une utilisation anonyme d'internet devienne complètement impossible pour qui que ce soit. Cette situation devrait bien sûr être sécurisée de façon à ce qu'aucun abus ne soit possible pour, par exemple, utiliser nos données à des fins commerciales.

Un doux rêveur !
C'est déjà outrageusement utilisé à des fins commerciales sans que les gens ne s'en rendent compte. Crois-tu vraiment que si on en met encore plus, il y aura des brides ?
Pour empêcher ça, il faut déjà que le commun des mortel comprenne ce qui est fait de leurs données !

[Heydrickx]

Un doux rêveur !
C'est déjà outrageusement utilisé à des fins commerciales sans que les gens ne s'en rendent compte. Crois-tu vraiment que si on en met encore plus, il y aura des brides ?
Pour empêcher ça, il faut déjà que le commun des mortel comprenne ce qui est fait de leurs données !

Je suis bien au courant de la situation, et non je ne pense pas qu'il y aura des brides. Ou alors il y aura des brides officielles et des débridages officieux.
Cela étant, la question reste la même. Si la fin de l'anonymat permet de lutter de façon (beaucoup) plus efficace contre la pédophilie et d'autres graves problèmes, et malgré les abus que l'on peut logiquement prédire (exploitation des données à des fins commerciales), le jeu n'en vaudrait-il pas la chandelle ?

[gangsoleil]

Je suis bien au courant de la situation, et non je ne pense pas qu'il y aura des brides. Ou alors il y aura des brides officielles et des débridages officieux.
Cela étant, la question reste la même. Si la fin de l'anonymat permet de lutter de façon (beaucoup) plus efficace contre la pédophilie et d'autres graves problèmes, et malgré les abus que l'on peut logiquement prédire (exploitation des données à des fins commerciales), le jeu n'en vaudrait-il pas la chandelle ?

Tu oublies un gros détail : les pédophiles qui abusent physiquement des enfants ne le font pas sur le net, mais dans la vraie vie, là où ils sont pourtant absolument reconnaissables, tout sauf anonyme, etc etc ...

Internet est utilisé depuis 15 ans. Depuis combien de temps y-a-t-il des pedophiles ? Alors oui, il faut lutter contre ces gens, mais ce n'est pas en supprimant theoriquement l'anonymat sur le net que tu vas changer quoi que ce soit.

[Heydrickx]

Tu oublies un gros détail : les pédophiles qui abusent physiquement des enfants ne le font pas sur le net, mais dans la vraie vie, là où ils sont pourtant absolument reconnaissables, tout sauf anonyme, etc etc ...

Internet est utilisé depuis 15 ans. Depuis combien de temps y-a-t-il des pedophiles ? Alors oui, il faut lutter contre ces gens, mais ce n'est pas en supprimant theoriquement l'anonymat sur le net que tu vas changer quoi que ce soit.

Je suis d'accord avec toi quand tu dis que le drame se joue dans la vraie vie et pas sur le net.
Mais je pense que :

1. Internet est un moyen pour les pédophiles pour être plus "actifs" dans la vraie vie. C'est connu, ils ont leurs réseaux, leurs sites webs...
2. Ceux qui essayeraient quand même, dans le postulat où la confidentialité n'existe plus sur le web, seraient plus faciles à reconnaitre, à arrêter, et à empêcher de nuire dans la vraie vie.

[4sStylZ]

@spidetra C'est bien de suggérer qu'ils ne font que tabler leurs écoutes sur des méthodes de lectures de nos données indirectes.

Mais, l'exploitation des méta-données est potentiellement un fléau, de même manière que l'utilisation que l'on peut faire de ces méthodes de "ciblages" par reconnaissance de motif de données brutes (comme les formes, dans le cas d'analyse des photos...), j'imagine que tu est d'accord là dessus?

[Agrajag]

Après les terroristes, les pédophiles !


Pièce jointe 153197
AMEUWIKEUN !

Pourquoi parler de confidentialité des données, alors qu'un devrait plutôt causer de récupération de data à grande échelle?
Je compare désormais certains sites sur le net, à des champs de données, où il suffit que quelques utilisateurs y naviguent pour générer des montagnes de données.
Et leur campagne de "droit à l'oubli", c'est une vaste blague. A l'heure où les corpos mettent l'humanité en boite (dans des gros data-center cette fois-ci), qui viendrait réclamer la suppression de ses données, en risquant tout simplement de se faire détecter comme un faux positif ?

"Pourquoi il veut se faire effacer lui? A-t-il quelque chose à cacher?", dixit le bon petit conformiste.

Perso, je vois des caméra partout, on contrôle de plus en plus difficilement nos périphériques d'acquisition d'images, même les consoles de salon peuvent avoir des images de vous maintenant, et même au boulot j'ai une reconnaissance faciale pour rentrer dans les locaux, et digitale pour pouvoir accéder à mon poste.

Et je n'ai même pas eu besoin d'en faire la demande, c'est pas miraculeux !?
Mais comme l'ont affirmé certains, si c'est pour la bonne cause, on peut difficilement critiquer l'action :

- Terrorisme -> On surveille tout le monde
- Protection des citoyens -> On surveille tout le monde, personne ne bouge, et il n'arrive rien à personne.
- La médecine -> Dans 20 ans, quid de la visite médicale sur Skype ?
- Pédophile -> Grace au boutons des réseaux sociaux sur les pornsites, Twitter, Facebook et Google savent quand est-ce que vous regarder du "HOT TEEN AMATEUR" !

A quand un algo qui détecte votre âge (via les datas) et celui des personnes présentes dans la vidéos (via un annuaire) ? (moi aussi je peux avoir des idées complètement absurdes )
Sur le même concept d'absurdité, on pourrai aussi signaler toutes les personnes ayant répondu à ce topic comme potentiellement louches / concernés par la pédophilie.

Y'a des gens que ça éclate grave de fouiller dans toute cette mer** en plus, ce sont les data-scientists.
Des gens comme vous et moi, qui plutôt que de souhaiter devenir Pompier ou pilote de chasse comme tout enfant, eux voulaient déjà faire des requêtes SQL toute leur vie, un métier de rêve !

Bon week-end, et sortez cryptés ;-)

[Matthieu Vergne]

Un peu en retard, les newsletters se sont perdues pendant les vacances (et elles semblent recommencer).

Google avait signalé aux autorités que celui-ci recevait dans sa boite mail des images pédopornographiques illégales. L’information transmisse par Google a permis aux autorités d’obtenir un mandat de perquisition contre celui-ci, et la fouille de son domicile a révélé des images et des textes suspects, ce qui a entrainé son arrestation. L’homme en question avait déjà été reconnu coupable d’agression sexuelle sur un enfant de 8 ans en 1994.

Si les images en question sont effectivement de la pédophilie réelle, je n'ai rien à rajouter. Mais de plus en plus de pays passent sous le joucs du lobbying de la protection de l'enfance, classant comme pédophiles des oeuvres de l'esprit (dessins purement imaginaire) où aucun enfant n'est donc concerné. En particulier, quand je lis "des images et des textes suspects" on ne parle pas de flagrant délit du style photo d'enfant en plein rapport. Et si ça n'a effectivement impliqué aucun enfant, au final on l'a arrêté parce qu'il détenait des images qui ne plaisaient ni à Google ni aux policiers.

Donc si ça se trouve, le type s'est fait arrêté pour avoir fait un truc qui n'a potentiellement embêté personne, juste parce que Google, dans sa grande omnipotence, aurait eu accès à un échange privé. C'est plus ça qui me turlupine moi dans cet article. Il a été reconnu comme coupable en 1994, certes donc il a déjà du écoper de sa peine, y'a pas de raison de remettre ça sur le tapis à moins qu'il y ait vraiment atteinte à la personne ou à la société. Mais si, dans sa tendance naturelle à "aimer" les enfants, et après avoir retenu la leçon, il se serait tourné vers des oeuvres pour adultes purement imaginaire comme on en trouve au Japon, où la représentation d'enfants dans des oeuvres adultes existent depuis des lustres... je trouverai dégueulasse que quelqu'un qui se trouve un moyen d'assouvir ses désirs sans embêter qui que ce soit se fasse arrêter parce qu'il a une tête de turc (i.e. il y a des raisons de penser qu'il pourrait peut-être faire des atrocités, sans preuve mais il a fait des trucs que moi, Google, j'aime pas, et puis ça me donnerai une bonne image dans les média aussi).

Bref, ça manque de détails et sa joue sur un sujet où il est difficile aujourd'hui de voir noir ou blanc.

[Agrajag]

@Matthieu Vergne :
[TROLL]Tu les défenfrais presque [/TROLL]

Tu restes objectif, tu ne t'arrêtes pas à ta première impression et ta façon de penser avec du recul est impressionnante, tu dois être l'un des seuls du topic à ne pas avoir répondu "à chaud".

Mais ton point de vue me laisse songeur.
Qu'en sera-t-il des personnes qui se verront cataloguées comme drogué en ayant écouté de la musique, ou appartenant potentiellement à une communauté en s'intéressant à divers sujets?

1998 : Google permet de faire des recherches sur Internet.
2014 : Google innove et investit dans la répression.

[Matthieu Vergne]

Faut dire que répondre à chaud sur une news vieilles de plus de 2 mois n'aurait pas spécialement d'intérêt {'^_^}. Mais je regarde pas mal d'animation japonaise et le sujet revient assez souvent sur le tapis, donc forcément on finit par se sentir concerné et se renseigner.

Mais c'est exactement ça : la loi est là pour protéger des gens, pas des principes. Si on se met à arrêter des gens sur des principes sans qu'ils aient fait quoi que ce soit à personne, juste parce que ce qu'ils font dans leur coins laisse imaginer des choses... qu'en est-il de ceux qui cherchent justement à comprendre et étudier des phénomènes criminels ? Ils vont aussi se faire arrêter parce qu'ils ont demandé à un collègue expert de leur envoyer l'info qu'il a par e-mail ? Si ça se trouve le gars a vraiment des choses à se reprocher, mais l'article n'en dit pas long et sert surtout la polémique.

Ce que je défends c'est la présomption d'innocence. La culpabilité doit être prouvée, on n'arrête pas quelqu'un parce qu'il a une tête (ou des images) qui ne nous reviennent pas. Donc j'espère juste qu'au delà de ce que dit l'article il y a autre chose.

[Saverok]

Faut dire que répondre à chaud sur une news vieilles de plus de 2 mois n'aurait pas spécialement d'intérêt {'^_^}. Mais je regarde pas mal d'animation japonaise et le sujet revient assez souvent sur le tapis, donc forcément on finit par se sentir concerné et se renseigner.

Mais c'est exactement ça : la loi est là pour protéger des gens, pas des principes. Si on se met à arrêter des gens sur des principes sans qu'ils aient fait quoi que ce soit à personne, juste parce que ce qu'ils font dans leur coins laisse imaginer des choses... qu'en est-il de ceux qui cherchent justement à comprendre et étudier des phénomènes criminels ? Ils vont aussi se faire arrêter parce qu'ils ont demandé à un collègue expert de leur envoyer l'info qu'il a par e-mail ? Si ça se trouve le gars a vraiment des choses à se reprocher, mais l'article n'en dit pas long et sert surtout la polémique.

Ce que je défends c'est la présomption d'innocence. La culpabilité doit être prouvée, on n'arrête pas quelqu'un parce qu'il a une tête (ou des images) qui ne nous reviennent pas. Donc j'espère juste qu'au delà de ce que dit l'article il y a autre chose.

Le principe de précaution existe également dans le domaine judiciaire : ça s'appelle la garde à vue
En clair, on peut te mettre en prison juste parce que l'on présume que tu as quelque chose à te rapprocher
Le temps que tu es en prison permet aux policiers de confirmer ou non les présomptions
La durée et les conditions de la garde à vue varie celons les pays, de même que la justification de la présomption

C'est ce qui s'est passé dans le cas présent
Si le gus est effectivement innocent et que les photos dans ces mails ne sont pas réelles et qu'il n'a rien à se reprocher, il sera relâcher, faute de preuve
Ne connaissant pas la suite de l'affaire, j'ignore si les présomptions ont été confirmées ou non.

Par contre, ce qui me gène, est que Google ne respecte absolument pas la confidentialité du courrier
Dans ses CGU, il n'est question que d'analyse auto. à des fins de ciblage publicitaire.
Il n'est jamais indiqué la recherche de contenus illégal et encore moins l'analyse des photos en PJ
Si Google ment sur la nature des analyses auto, on peut supposer de l’espionnage industriel, commercial, militaire, policier, etc. Et là, c'est nettement plus grave.