Discussion :

[Coriolan]

Facebook voudrait lutter contre le « revenge porn »
en demandant aux utilisateurs de soumettre leurs photos intimes

Le « revenge porn » (revanche pornographique en français) est l’un des problèmes sérieux en ligne et qui semble être difficile à résoudre même pour les géants du web. Mais Facebook semble avoir trouvé une solution : demander aux utilisateurs d’envoyer des photos intimes eux-mêmes au réseau social, pour qu’il puisse les protéger en cas d’attaque.

Non, ce n’est pas un poisson d’avril, c’est bel et bien la solution que propose Facebook pour lutter contre le revenge porn dans le cadre d’un programme testé au préalable en Australie et que Facebook va étendre désormais aux États-Unis, au Canada et au Royaume-Uni. À travers cette protection, le réseau social promet aux utilisateurs de télécharger leurs photos intimes avant qu’elles ne soient publiées sur internet.

Pour mener à bien ce programme, Facebook s’est associé à des organismes et associations de protection de vie privée sur internet pour permettre aux utilisateurs de signaler proactivement les images. Le réseau social a informé que la démarche pourrait se faire quand une photo est déjà partagée ou bien si un utilisateur soupçonne qu’une personne malicieuse essaie de la publier sur Facebook ou l’un des services affiliés à la société. La démarche se fait en contactant une organisation locale associée à Facebook, ensuite l’utilisateur se verra offrir un formulaire qu’il doit remplir, et reçoit un lien valable une fois pour télécharger les images.

Une fois cette première étape passée, une équipe d’employés de Facebook se charge d’examiner les images pour confirmer qu’il s’agit bien de contenu sexuellement explicite qui viole les règles d’utilisation du service. Ensuite, un hachage unique est créé pour chaque image. Ce hashage fait que les photos sont taguées d’une empreinte numérique unique afin de bloquer préventivement leur distribution sur Facebook, Instagram ou Messenger. Cette deuxième étape n’est guère réjouissante, mais il semble que le réseau social n’a pas trouvé mieux pour examiner les images.

Lutter contre le revenge porn c’est bien, mais le système mis en place par Facebook risque d’être limité pour plusieurs raisons. Premièrement, on peut imaginer le scénario où une photo interdite sera modifiée légèrement pour duper l’algorithme de Facebook. De plus, il faudra que l’utilisateur soit en possession du double de l’image qu’il veut interdire, ce qui n’est pas toujours le cas.

Après le scandale Cambridge Analytica, le niveau de confiance des utilisateurs envers Facebook s’est détérioré. Si le réseau social n’a pas connu une baisse significative des utilisateurs, il reste toutefois difficile d’imaginer que des utilisateurs vont confier à Facebook des données aussi sensibles que leurs photos intimes.

Autre bémol de la solution proposée par Facebook, c’est qu’elle pourrait être abusée par des attaquants. En effet, ils pourraient convaincre des utilisateurs à envoyer les photos à une mauvaise source pour les exploiter par la suite. Généralement, les experts en sécurité préconisent d’éviter de stocker des images intimes en ligne pour limiter tout risque.

Facebook n’est pas le seul à chercher à combattre le revenge porn, en 2015, Google a déjà annoncé que sur requête de personnes victimes, les images sexuellement explicites seront retirées de ses résultats de recherche.

Source : Facebook Safety

Et vous ?

Pensez-vous que cette solution de Facebook va fonctionner ?
Pensez-vous que les utilisateurs accepteront que leurs images soient examinées par des employés de Facebook ?

Voir aussi :

Facebook licencie un ingénieur qui aurait abusé de son accès privilégié aux données privées des utilisateurs, pour traquer les femmes en ligne
Facebook collecterait des données sur les appareils ayant préinstallé son application, même si l'utilisateur n'a pas de compte sur le réseau social
Scandale Cambridge Analytica : Mark Zuckerberg comparaît devant le Parlement européen, voici l'essentiel de l'audience
USA : des groupes de progressistes militent pour la dislocation de Facebook, soupçonné de pratiques de monopole des réseaux sociaux

[onilink_]

Ça me semble totalement stupide.
Surtout qu'on est a la période du deep learning, donc faire bosser de vrai humains sur des images du genre...

Pourquoi ne pas faire un système d'analyse d'image client side, qui envoie ensuite à FB uniquement des features intéressantes qui ne permettent pas la reconstruction de l'image, mais de les identifier?
Je suis sur que ce n'est pas techniquement impossible pour eux. Surtout que la reconnaissance d'image ça commence a devenir un domaine ou les ordinateurs deviennent très bon.

Puis vu ce qu'ils disent, ils comptent déjà faire un système de hash, donc autant que tout se passe client side
(je ne comprend pas l’intérêt de vérifier les images une a une, à la limite s'il faut une vérification d'image manuelle ce serait après un abus ou une demande, mais pas tout le temps).

[Theta]

Puis vu ce qu'ils disent, ils comptent déjà faire un système de hash, donc autant que tout se passe client side
(je ne comprend pas l’intérêt de vérifier les images une a une, à la limite s'il faut une vérification d'image manuelle ce serait après un abus ou une demande, mais pas tout le temps).

J'ai pensé la même chose au début (générer le hash client side), le hic c'est que ça permettrait à n'importe qui de bloquer n'importe quelle image donc un beau bordel en perspective.

[Fleur en plastique]

Là, tout de suite, j'aurais envie d'être un employé Facebook et aider à trier les photos intimes de ces pauvres malheureuses.

[Mingolito]

Facebook licencie un ingénieur qui aurait abusé de son accès privilégié aux données privées des utilisateurs, pour traquer les femmes en ligne

Comme on a tous très bien compris qu'en réalité les informaticiens de la boite ont accès aux données privées, il y en à chez Facebook qui vont se régaler

Et encore le jour ou il y en à un qui va partir avec les données, ou alors quand ils vont se faire hacker, comme tous le monde, tout ça sera balancé sur le dark web et puis un peu partout

Comme on dit, "le remède pire que le mal"...

[onilink_]

J'ai pensé la même chose au début (générer le hash client side), le hic c'est que ça permettrait à n'importe qui de bloquer n'importe quelle image donc un beau bordel en perspective.

Je ne pense pas que ce soit forcement un problème, y a pas mal de solutions possible a mon avis.
Par ex, il faudrait payer (très légèrement) pour chaque image postée (donc les gens éviteraient de poster trop et n'importe quoi), en plus ça dissuaderais les jeunes mineurs et payerait le service.
Ensuite, ils auraient déjà une base de donnée permettant de voir si une image est déjà sous copyright ou ce genre de chose. Google ont bien leur reverse search image (qui est très efficace).
Puis il pourrait y avoir un système d'ancienneté pour évaluer si un compte est plus du genre a poster des images legit ou non, pour simplifier les choses et diminuer les coûts.

De plus rien n’empêche de garder un côté manuel, mais uniquement quand il y a un conflit ou un soucis qui le nécessite.

Dans tous les cas, le problème est le même avec des personnes qui vérifient manuellement ou non le contenu.
Si je vais sur le net récupérer des images pornographiques sous copyright et que je les postes sur leur service, à moins que leurs employés aient une forte culture a ce niveau ( )... il faut bien qu'ils aient une solution pour le détecter.

[ShigruM]

voila pourquoi j'ai des photos/videos de petite fille nu sur mon pc, pour les protéger du revenge porn
actuellement j'expérimente aussi l’acquisition de l'un de leurs 10 doigts afin de les protéger d'un hacking de leurs empreinte digitale

dans ce genre d'affaire il vaut mieux prendre gants d'y'aller doucement et d'en rire que d'un apporter une quelconque crédibilité tellement on atteint l'idiocratie

edit : après l'industrie des armes et du tabac le porno doit être ce qui rapporte le plus, collectionner ce genre de contenus exclusif peut toujours servir en cas de coup dur pour la firme

[Zirak]

Là, tout de suite, j'aurais envie d'être un employé Facebook et aider à trier les photos intimes de ces pauvres malheureuses.

C'est ça, en fait il y a un certain nombre d'amateurs de revenge porn parmi les employés Facebook, et comme les sites se font fermer un par un, il fallait bien qu'ils trouvent un truc pour continuer d'avoir de nouveaux clichés.

[yzokahn]

Ils ne finiront pas de nous surprendre ceux là!
J'espère juste que ça arrivera pas en Afrique parce que je voudrais en aucun cas aider ma bonne tante à upload ces photos pour Facebook