Microsoft lance Project Artemis, un système automatisé, pour identifier les prédateurs sexuels
qui tentent d'attirer les enfants à des fins sexuelles dans les chats en ligne

Jeudi dernier, Microsoft a partagé avec la communauté des médias sociaux, en particulier des services de clavardage, un nouvel outil capable de retrouver les profils de pédophiles. L'outil de Microsoft porte le nom de Project Artemis et est un système automatisé pour détecter les prédateurs sexuels d’enfants en ligne. Selon la firme de Redmond, il pourra repérer les modèles de communication suspects dans les conversations. Cependant, l’entreprise a indiqué qu’il y a un risque élevé de faux positifs, car les outils automatisés ont encore du mal à bien cerner le langage humain.

Microsoft considère l'exploitation des enfants en ligne comme un crime horrible nécessitant une approche de la société dans son ensemble. L’entreprise pense donc que son nouvel outil peut aider à atteindre un niveau supérieur dans cette lutte. Project Artemis permet de détecter, de combattre et de signaler les prédateurs en ligne qui tentent d'attirer les enfants à des fins sexuelles. Cet outil est né d’une collaboration entre The Meet Group, Roblox, Kik et Thorn et Microsoft. Il sera mis gratuitement à la disposition des services de chat en ligne via Thorn.

Thorn est une organisation à but non lucratif qui construit des outils pour défendre les enfants contre les abus sexuels. Ils ont mis au point Project Artemis pour rechercher les modes de communication qu’utilisent les prédateurs pour cibler les enfants. Si ces modèles sont détectés, le système signale la conversation à un modérateur de contenu qui, après analyse, peut déterminer s'il faut contacter les forces de l'ordre. En fait, sur la base des mots et des modèles de discours, le système attribue une note pour la probabilité qu'un des participants essaie de toiletter l'autre.


« L’outil permettra aux experts de la protection de l'enfance de disposer de plus d'informations sur le fonctionnement des pédophiles en ligne. Microsoft utilise ces techniques depuis plusieurs années pour ses propres produits, notamment les plateformes Xbox et Skype », a déclaré Courtney Grégoire, directrice de la sécurité numérique de l'entreprise. Dans sa présentation, Microsoft n’a pas expliqué en profondeur comment son outil fonctionne. L’entreprise n'a par exemple pas expliqué les mots précis ou les modèles que l'outil recherche.

L’on estime que cela pourrait potentiellement amener les prédateurs à ajuster leur comportement pour masquer leurs activités. Toutefois, la firme a expliqué que ce n’est pas la seule fonction de Project Artemis. Le système signalera également les cas qui pourraient ne pas atteindre le seuil d'une menace ou d'une exploitation imminente, mais qui violent les conditions de service de l'entreprise. Dans ces cas, un utilisateur pourrait voir son compte désactivé ou suspendu. Le toilettage en ligne est devenu un grand problème qui a mis beaucoup d’entreprises sur le pied de guerre.

L’une des plateformes les plus exposées à ce problème est YouTube. La semaine passée, la société a revu ses règles sur les contenus pour enfants à la suite des préoccupations des régulateurs sur la vie privée des enfants. Cela a amené Google à payer une amende de 170 millions de dollars à la FTC (Federal Trade Commission) au mois de septembre 2019. Les nouvelles règles renseignent que YouTube va limiter la collecte des données personnelles de tout individu qui regarde les vidéos pour enfants, quel que soit l’âge estimé du spectateur.

L’entreprise a aussi annoncé qu’elle ne diffusera plus désormais des annonces qui ciblent les internautes en fonction de leur navigation sur le Web. Enfin, selon NBC News, la manière dont Artemis a été développé et licencié est semblable à PhotoDNA, une autre technologie développée par Microsoft et le professeur Hany Farid du Dartmouth College. Elle aide les forces de l'ordre et les entreprises de technologie à trouver et à supprimer les images connues d'exploitation sexuelle d'enfants. Elle est utilisée par plus de 150 entreprises et organisations, dont Google, Facebook, Twitter.

PhotoDNA convertit les images illégales en une signature numérique connue sous le nom de “hash” qui peut être utilisée pour trouver des copies de la même image lorsqu'elles sont téléchargées ailleurs.

Sources : Microsoft, MIT Technology Review

Et vous ?

Que pensez-vous de cet outil ?

Voir aussi

YouTube décide de traiter comme enfants tous ceux qui regardent des contenus pour enfants en limitant la collecte et l'utilisation de leurs données personnelles

YouTube fait actuellement l'objet d'une enquête fédérale pour son incapacité à protéger les enfants, d'après un rapport du Washington Post

YouTube va désactiver les commentaires sur la plupart des vidéos de mineurs à cause des pédophiles

Google et Microsoft main dans la main pour combattre la pédopornographie. Les Américains veulent bannir ce type de recherches de leurs moteurs