Contenus extrémistes en ligne : des bloqueurs de publications à la sauce IA
Contenus extrémistes en ligne : des bloqueurs de publications à la sauce IA
Une prescription du secrétaire d’État à l’Intérieur britannique
Comment faire pour supprimer des contenus dits extrémistes de la toile en moins de deux heures ? La question n’a pas été mise sur la table par la Première ministre britannique, Theresa May, lors d'une réunion sur la prévention de l’utilisation d’Internet par les terroristes en septembre dernier. Toutefois, les développements d’alors appellent à un tel questionnement. Le quotidien The Daily Telegraph s’est fait le relais d’une intervention de la secrétaire d’État à l’Intérieur britannique à ce sujet.
D’après la collaboratrice de la Première ministre britannique, il est possible de faire mieux que supprimer des contenus déjà présents en ligne en moins de deux heures. Il faut bloquer des publications avant leur atterrissage sur une plateforme et pour cela elle mise sur l’intelligence artificielle. « Les entreprises technologiques doivent presser le pas dans la mise au point et le déploiement des systèmes d’intelligence artificielle capables de détecter de tels contenus avant leur publication sur Internet et empêcher leur dissémination », rapporte le quotidien du propos de la secrétaire.
Mais le propos de la secrétaire porte une fois de plus comme un soupçon de déconnexion de la réalité, ce, d’une part parce que des systèmes de ce type sont déjà déployés. Dans une publication du quotidien The Daily Telegraph datée du 16 juin 2017, des responsables de l’entreprise donnent des détails sur les capacités de détection de son programme d’intelligence artificielle. « Nous mettons les meilleures techniques dont nous disposons à contribution pour combattre les contenus terroristes en lien avec ISIS, Al Qaeda et ses organisations affiliées et nous étendrons cette initiative à d’autres organisations terroristes », rapporte le quotidien des propos des responsables de Facebook.
« Lorsqu’un tiers essaie de publier une photo ou une vidéo à caractère terroriste, nos systèmes vérifient si le contenu correspond à un autre répertorié comme tel. Ceci veut dire que nous sommes capables d’empêcher la publication d’un contenu sur notre plateforme à partir d’autres comptes en ligne s’il a précédemment été bloqué parce que contenant de la propagande terroriste », ajoute le quotidien. Secundo, la secrétaire fait fi de réalités techniques qui ne relèvent pas de sa compétence. En effet, avec l’exemple Facebook, le problème n’est donc pas celui de la disponibilité de tels systèmes, mais celui de la gestion de cette immensité qu’est Internet.
« Le plus gros problème est que vous ne pouvez pas nécessairement tout saisir sur l'ensemble de l'Internet. Le défi est que l'apprentissage par machine est un outil puissant, mais il est encore relativement aux balbutiements de son évolution », a déclaré Kent Walker, conseiller général chez Google dans le cadre de la réunion sur la prévention de l’utilisation d’Internet par les terroristes. On le comprend, Amber Rudd est dans son rôle : celui d’appeler à l’implémentation de techniques susceptibles d’enrayer ce problème. Cela se fera sans qu’il soit nécessaire qu’elle comprenne les défis techniques comme elle l’a martelé en ce qui concerne le chiffrement, créant une polémique au passage.
Le propos du conseiller général chez Google laisse simplement filtrer que l’intelligence artificielle fait son bout de chemin et qu’il sera difficile qu’elle rende satisfaction aux gouvernements à la hauteur de leurs attentes dans de très brefs délais. On notera néanmoins que la rhétorique « les entreprises technologiques ne font pas assez pour enrayer les contenus terroristes en ligne » fait partie du passé puisque les gouvernements reconnaissent que les entreprises technologiques y mettent de plus en plus du leur.
Sources
The Daily Telegraph
The Daily Telegraph (juin 2017)
Votre avis
:fleche: Que pensez-vous de cette nouvelle sortie de la secrétaire d’État à l’Intérieur britannique ?
Voir aussi
:fleche: Facebook va recruter 3000 modérateurs de plus pour supprimer tout contenu choquant sur sa plateforme, qu'en est-il de son programme d'IA ?
:fleche: Google présente un plan d'action en quatre étapes pour combattre la publication de contenu terroriste en ligne
1 pièce(s) jointe(s)
Le Royaume-Uni dévoile un outil de blocage des contenus extrémistes basé sur l’IA
Le Royaume-Uni dévoile un outil de blocage des contenus extrémistes basé sur l’IA
Qui pourrait faciliter les opérations de modération des PME
Le gouvernement britannique a récemment dévoilé un outil qui, selon lui, permettrait de détecter le contenu djihadiste avec une grande précision et empêcherait sa diffusion. Cet outil basé sur la technologie de l’intelligence artificielle (IA) s’appuie sur les caractéristiques typiques de l’État islamique et de son activité en ligne pour effectuer ses opérations de tri.
Grâce à l’entrainement qu’il a reçu, ce logiciel serait en mesure de détecter automatiquement les contenus à caractère terroriste, notamment ceux dont le groupe État islamique fait la promotion. Il pourrait également faciliter les opérations de modération en permettant aux petites entreprises qui n’ont pas forcément les moyens des géants de l’industrie comme Facebook ou Google de lutter plus efficacement contre la prolifération des contenus extrémistes sur leurs sites.
Le gouvernement britannique aurait dépensé environ 600 000 livres (près de 673 500 euros) pour la création de cet outil et c’est ASI Data Science, une société d’intelligence artificielle basée à Londres, qui l’a conçue. D’après ASI, ce logiciel serait capable de détecter 94 % des contenus vidéo diffusés par l’État islamique. La société a également indiqué qu’en général 0,005 % des résultats affichés par son logiciel se rapportaient à des faux positifs.
La secrétaire d'État à l'Intérieur, Amber Rudd, qui est actuellement en visite aux États-Unis pour rencontrer des entreprises technologiques et discuter avec elles des efforts à consentir pour lutter plus efficacement contre la prolifération de l’extrémisme en ligne a déclaré à la BBC qu’elle n’excluait pas de contraindre légalement les entreprises technologiques à utiliser cet outil dans le futur. Elle a insisté sur le fait que cet outil a été conçu afin de montrer que les demandes de son gouvernement en matière de répression des activités extrémistes en ligne n’étaient pas déraisonnables.
« La technologie est là. Il y a des outils qui peuvent faire exactement ce que nous demandons. Pour les petites entreprises, ça pourrait être idéal », a-t-elle confié avant d’ajouter : « je reste convaincu que la meilleure façon de prendre des mesures concrètes et d’obtenir les meilleurs résultats passe par la mise en place d’un forum dirigé par l’industrie comme celui auquel nous assistons actuellement. »
Le Forum mondial sur la lutte contre le terrorisme auquel La secrétaire d'État à l'Intérieur fait allusion a été lancé l’année dernière. Il rassemble plusieurs gouvernements, États-Unis et Royaume-Uni inclus, ainsi que de grandes entreprises d’Internet telles que Facebook, Google, Twitter, etc.
Des outils similaires ont par le passé été vivement critiqués par les partisans d’un Internet « ouvert », affirmant que de telles solutions ont tendance à générer des faux positifs, bloquant ou supprimant ainsi des contenus qui ne sont pas particulièrement problématiques. Il reste aussi à définir clairement ce que tel ou tel gouvernement entend par « contenu extrémiste » lorsqu'il milite pour la mise en place de pareilles solutions afin d'éviter les dérives.
Source : BBC
Et vous ?
:fleche: Qu’en pensez-vous ?
Voir aussi
:fleche: Theresa May appelle les entreprises d'Internet à installer des portes dérobées magiques que seuls les services de sécurité pourront exploiter
:fleche: Grande-Bretagne : Theresa May veut sanctionner les réseaux sociaux qui ne contrôlent pas suffisamment les posts de leurs utilisateurs
:fleche: Theresa May et Macron prévoient une initiative contre le terrorisme en ligne avec une responsabilité juridique pour les entreprises de technologie
