Le Conseil constitutionnel valide la loi portant sur le retrait du contenu terroriste en ligne en 1 heure
Le rapport de la mission Avia-Taïeb-Amellal pour lutter contre le racisme et l'antisémitisme en ligne,
propose cinq axes d'actions concrètes
En France, la liberté d’expression est fondamentale, mais elle est encadrée, y compris sur Internet, principalement par la loi de 1881 sur la liberté de la presse et par la loi sur la confiance dans l’économie numérique de 2004. Néanmoins, les discours de haine y prospèrent dans une relative impunité.
C’est cette remarque qui a incité le gouvernement à agir : « Le Gouvernement est déterminé à mener le combat contre le racisme et l’antisémitisme sur Internet. Il ne peut, en effet, accepter le déferlement de haine constaté aujourd’hui sur les réseaux sociaux. Les propos ou les messages qui constituent des infractions pénales doivent être retirés sans délai, et ceux qui les émettent ou les diffusent en France doivent voir leur responsabilité civile et pénale engagée », a assuré le Premier ministre.
Aussi, le 7 mars 2018, le Président de la République a confié à Karim Amellal, écrivain et enseignant à Sciences-Po Paris, Laetita Avia, députée LREM, et Gil Taiëb, vice-Président du Crif, une mission sur la lutte contre le racisme et l’antisémitisme sur Internet.
Ce jeudi 20 septembre, ils ont rendu leur rapport au Premier Ministre et qui contient un certain nombre de recommandations afin de « renforcer la lutte contre le racisme et l’antisémitisme sur Internet ».
Selon eux, cette réflexion vise, en se nourrissant de nombreux travaux antérieurs, à répondre à ce problème par des solutions opérationnelles, concrètes, immédiatement applicables, parfaitement conformes à la protection de la liberté d’expression qui constitue l’un des piliers de notre Etat de droit.
Il est d’abord proposé de responsabiliser les plateformes en amendant la LCEN de 2004. Cette loi pose en effet tous les fondements nécessaires à la régulation des contenus illicites par les opérateurs eux-mêmes, mais ces principes sont actuellement non appliqués, compte tenu,d’une part, des restrictions à leur mise en œuvre, et, d’autre part, de la faiblesse des sanctions encourues en cas de manquement.
En premier lieu, eu égard à la nécessité de faire disparaître le plus vite possible les contenus de haine manifeste, en particulier sur les réseaux sociaux, il est proposé d'imposer à ces plateformes un délai de 24 heures pour les retirer.
Ils proposent par ailleurs de porter le niveau de sanction potentiel à 37,5 millions pour les personnes morales.
Enfin, il apparaît nécessaire pour eux de définir un statut particulier d’hébergeur, qui pourrait être dénommé « accélérateur de contenus » pour les réseaux sociaux et les moteurs de recherche les plus utilisés, assorti d’obligations renforcées, lesquelles peuvent être introduites dès maintenant dans le cadre législatif français, à l’image de ce qu’ont fait récemment nos voisins allemands pour leur propre législation
Responsabiliser les plateformes
Recommandation 1 : Imposer aux grandes plateformes un délai de 24 heures pour retirer les contenus manifestement racistes ou antisémites
Ce délai court, décompté depuis le moment où la plateforme a connaissance de l’existence du contenu incriminé, soit à la suite d’un signalement, soit de son propre fait, serait imposé aux seuls réseaux sociaux et moteurs de recherche de grande taille, tels que définis infra.
Recommandation 2 : Imposer aux grands opérateurs un représentant légal au sein de l’Union européenne.
Les opérateurs concernés seraient invités à rendre l’information au sujet de ce représentant aisément reconnaissable et directement accessible. Le médiateur au sein de chaque plateforme, dont la création est proposée par ailleurs, pourrait constituer un des points de contact utiles. Par ailleurs, ces mêmes grands acteurs devraient remettre un rapport annuel de transparence sur la lutte contre les contenus illicites et sur le traitement des signalements et notifications reçues.
Recommandation 3 : Imposer aux grands opérateurs des obligations de transparence en matière de retrait, déréférencement et blocage des contenus illicites.
Le rapport contiendra à minima les éléments suivants :
- la description des mécanismes de notification des contenus et les critères appliqués pour décider s’il faut informer les autorités publiques compétentes d'un contenu ou d'une activité illicite ;
- le nombre de notifications effectuées dans les 12 derniers mois en fonction de l’origine de la notification (utilisateurs, plateformes, associations), les motifs des notifications, et la durée de traitement des notifications par la plateforme ; le nombre d'activités illicites portées à connaissance de l'autorité publique, selon les mêmes critères d'origine, de motifs et de durée ;
- des informations portant sur l'organisation des unités traitant des signalements, le nombre de personnes qui y sont affectées, les formations juridiques et en langue et culture française qui leur sont le cas échéant dispensées, le mode de recours à des spécialistes en expertise linguistique, la mise à disposition de supports techniques.
Recommandation 4 : Rendre dissuasives les amendes prévues en cas de manquement, par les grands réseaux sociaux et moteurs de recherche, à leurs obligations de retrait ou de déréférencement de contenus, comme de coopération avec les autorités judiciaires, en en multipliant le montant par 100.
La mission a choisi de suivre l’exemple allemand en fixant un montant à effet dissuasif à l’encontre de ces opérateurs.Ne serait-ce que par son impact psychologique, la multiplication par 100 des montants actuels participe de cet objectif, soit un montant maximal de 37,5 millions d’euros pour les personnes morales et 7,5 millions d’euros pour les personnes physiques. Ce régime de sanctions pourrait même être enrichi d’une option qui verrait l’opérateur être requalifié sous le statut d’éditeur, avec toutes les responsabilités que cette situation engendre, sous l’angle du droit pénal comme du droit civil.
Recommandation 5 : Porter à l’échelle européenne un projet de création d’un statut particulier d’hébergeur induisant une responsabilité renforcée s'agissant du traitement des contenus illicites.
Renforcer la régulation du numérique
Recommandation 6 : Créer une autorité de régulation des contenus illicites sur Internet en charge notamment de contrôler la mise en œuvre des objectifs de lutte contre les propos haineux en ligne.
La commission des sanctions de l’autorité, saisie sur la seule décision du collège de l’autorité, pourrait prononcer toute sanction financière utile dès lors qu’un manquement à une obligation est constaté. Pour le trio, il apparaît prudent que le juge des référés soit saisi pour se prononcer sur le caractère manifestement illicite d’un contenu. Dans le cas contraire, si la commission des sanctions devait juger d’elle-même que le contenu (dont il reproché une absence de retrait ou un retrait trop tardif) était manifestement illicite, il pourrait exister un risque d’invalidation par le Conseil constitutionnel, qui pourrait considérer que c’est au juge judiciaire, et non à une autorité administrative, de juger que des propos sont manifestement illicites et constituent manifestement une infraction pénale.
Recommandation 7 : Créer une instance de dialogue entre toutes les parties prenantes (autorité de régulation / plateformes / société civile), chargée notamment de mettre en œuvre un code de conduite national.
L’instance tiendrait chaque année une réunion de l’ensemble des acteurs et produirait un rapport public annuel. Parmi les actions qui pourraient être portées par l’instance, la mission propose cet exemple d’accord volontaire au sein de l’économie Internet: l’adoption d’un code de conduite des plateformes dans le domaine de la modération des contenus, qui pourrait être inspiré de celui qui a été mis en place au niveau européen, et prévoyant le cas échéant des clauses plus particulièrement adaptées au cas français.
Améliorer le signalement des contenus illicites
Recommandation 8 : Créer un logo unique de signalement des contenus illicites, visible et identifiable sur toutes les plateformes
Pour cette commission, il apparaît nécessaire de cadrer, également par voie réglementaire les caractéristiques principales de la procédure de signalement, sur la base des critères suivants :
- procédure intégralement en ligne, sans rupture modale (en particulier, proscrire tout passage obligé par le mode papier) ;
- fluidité de l’expérience utilisateur: limitation du nombre de clics, entre le début et la fin de la procédure ;
- non obligation pour l’internaute de créer un compte pour effectuer un signalement, donc possibilité de rester anonyme, le minimum requis pour l’identification étant la vérification de l’adresse électronique ;
- libellé compréhensible des différents items permettant de préciser la nature de l’infraction supposée, par exemple « incitation à la haine », avec possibilité de préciser le motif, en fonction des principales catégories de discriminations (origine ethnique, groupe religieux, orientation sexuelle, handicap ou maladie) ;
- libellés des items identiques, quel que soit le type de contenu signalé (texte, image, vidéo, commentaire etc.) ;
- limitation du nombre d’éléments à renseigner: localisateur uniforme de ressource (URL) du contenu litigieux ; s'ils peuvent être connus, nom et domicile du destinataire ou, s'il s'agit d'une personne morale, sa dénomination et son siège social ; description des faits litigieux ; motifs pour lesquels le contenu devrait être retiré ;
- en particulier, mention facultative, par l’internaute, de la qualification juridique de l’infraction supposée ou de la référence à un article de loi ;
- information, et liens hypertexte associés, sur les différentes voies de recours offertes aux internautes confrontés à un contenu jugé illicite, en particulier : simple signalement à l’opérateur, signalement auprès d’une association spécialisée, signalement auprès de la plateforme PHAROS (= communication aux pouvoirs publics), dépôt de plainte en ligne (= engagement d’une procédure au plan pénal) ;
- à la fin de la procédure, envoi automatique d’un accusé de réception faisant office de balise « t0 » du décompte du délai de réponse par l’opérateur
Recommandation 9 : Imposer une procédure uniformisée et applicable à toutes les plateformes pour le signalement des contenus illicites ainsi que les recours contre ces signalements.
Enfin, il est hautement souhaitable que les opérateurs aménagent leurs procédures de traitement des signalements, afin de satisfaire aux objectifs suivants, selon des modalités qui pourraient être discutées au sein de l’instance de dialogue proposée par ailleurs :
- offrir un accès privilégié aux acteurs tels que les associations ou les autorités, afin que leurs signalements soient immédiatement repérés, en vue d’un traitement prioritaire.
- informer de façon systématique l’internaute quant aux différentes étapes du traitement de son signalement ;
- instaurer en interne un modérateur ou médiateur apte à porter une appréciation sur les contenus « gris », c’est-à-dire ceux dont le caractère illicite n’apparaît pas de façon manifeste.
Agir contre les sites illicites
Recommandation 10 : Créer une procédure simple et rapide, sous le contrôle du juge, afin de bloquer des sites manifestement racistes et antisémites, sur le modèle de la procédure appliquée pour les jeux en ligne illégaux.
La modification de la loi de 1881 (au niveau de son article 50-1) aurait deux objets :
- un élargissement des cas de saisine du juge des référés de façon à intégrer les infractions pénales se référant à des menaces de mort par un motif de discrimination, d’incitation à la violence, d’atteinte à la dignité humaine, de harcèlement par le biais d’un service de communication au public en ligne (faire cesser le trouble ou en prévenir la réapparition par la suspension de l’accès au service) ;
- la possibilité de saisine par le président de l’AAI du juge des référés du tribunal de grande instance de Paris.
L’autorité « haine » suivrait, comme l’ARJEL et l’AMF aujourd’hui, les étapes suivantes :
- la mise en demeure adressée par le président de l’AAI aux éditeurs de sites illicites en ligne ; de cette manière, les éditeurs sont avertis des dispositions et des sanctions encourues, et sont également dans l’obligation de cesser la diffusion des éléments visés; cette mise en demeure est également assortie d’une invitation à présenter leurs observations sous un délai de huit jours ;
- en parallèle, l’autorité adresse aux hébergeurs une copie de la mise en demeure et invite également ces derniers à présenter leurs observations sous huit jours ;
- à l’issue du délai de huit jours et en cas d’inexécution des injonctions, le président de l’AAI peut saisir le président du tribunal de grande instance de Paris, en la forme des référés, afin d’obtenir des FAI l’arrêt de l’accès au service litigieux.
Certes l’autorité n’agit pas elle-même directement pour bloquer l’accès à un site, puisqu’elle doit passer par le juge, mais elle est susceptible de jouer auprès de lui un rôle très utile de facilitation, de par son expertise sur ces questions. Il convient de préciser que la demande de blocage auprès d’un FAI porte sur le site dans son intégralité (DNS) et non sur une portion de ce dernier (contenu identifié par une URL55). Ceci, pour des raisons tenant à la lourdeur technique que sous-tend un blocage « chirurgical », mais surtout parce que cela engendrerait de facto une surveillance généralisée des communications.
Recommandation 11 : Encourager les annonceurs à publier la liste des emplacements de diffusion de leurs annonces en ligne,afin de lutter contre la publicité sur des sites diffusant la haine.
Au cas où cette incitation ne donnerait pas les résultats escomptés, il pourrait être envisagé de soutenir les initiatives de « Name and shame » visant à publier la liste des annonceurs dont les contenus sont visibles sur des sites internet diffusants des propos haineux.
Parallèlement, il conviendrait de promouvoir les démarches dites d’« investissement publicitaire responsable » des entreprises, qui consistent à éviter la publication sur des sites toxiques ou non désirés (pornographie, antisémitisme, fausses informations, propagande extrémiste etc.)
Enfin, la mise en place d’une charte des annonceurs pourrait compléter le dispositif, visant la prévention de l’apparition de leurs annonces publicitaires sur des sites inappropriés car diffusant par ailleurs des messages de haine ou d’autres contenus illicites. Les entreprises et les sites adhérant à cette charte pourraient bénéficier d’une labellisation.
Mieux sanctionner les auteurs de propos haineux
Recommandation 12 : Créer un mécanisme de dépôt de plainte en ligne pour les victimes de propos racistes et antisémites sur Internet.
Le projet de loi de programmation 2018-2022 et de réforme pour la justice prévoit, en son article 27, la possibilité de déposer plainte en ligne pour un certain nombre d’infractions, principalement elles mêmes commises en ligne. Cette disposition permettrait une réelle adaptation du système judiciaire à l’évolution de la cyber-délinquance. La mission souhaite l’extension du dépôt de plainte en ligne aux infractions visées par la loi de 1881, lorsqu’elles sont commises via un outil de communication au public.
En outre, et afin que les victimes soient davantage encouragées à utiliser ce dispositif, il est proposé d’envoyer après chaque signalement auprès de Pharos un accusé de réception automatique comportant le lien URL vers l’outil permettant de procéder au dépôt de plainte en ligne
Recommandation 13 : Sanctionner les auteurs de propos haineux par des amendes fortes, des stages de sensibilisation à la lutte contre le racisme et l’antisémitisme ou des travaux d’intérêt général, prononcés par le juge pénal, par ordonnances pénales.
Serait ouverte la possibilité pour le juge de recourir à la procédure simplifiée de l’ordonnance pénale comme il le fait déjà aujourd’hui pour les actes de contrefaçon sur Internet. L’ordonnance pénale est une procédure qui permet un traitement rapide des affaires en ce qu’elle ne nécessite pas de contradictoire et donc pas d’audience. Elle est particulièrement adaptée aux hypothèses de manquement manifeste aux dispositions légales. L’ordonnance pénale signée par le président qui fixe, en cas de condamnation, le montant de l’amende, la peine complémentaire et statue sur les demandes de dommages et intérêts.
Au-delà de la célérité, l’ordonnance pénale permet de garantir l’intervention d’un juge dans le traitement des nombreuses plaintes qui seront, demain, déposées en ligne, ainsi que la détermination de peines adaptées aux diverses situations et pouvant aller de l’amende aux travaux d’intérêt général ou stages de sensibilisation à la lutte contre les contenus haineux sur Internet. Le budget alloué au parquet et au ministère de l’intérieur devra être augmenté en conséquence pour une réelle efficacité de ce dispositif. A noter qu’il conviendra d’exclure cette procédure au traitement des affaires visant directement le directeur de publication, ce afin d’éviter que des ordonnances pénales ne soient prononcées pour affaires relevant du droit de la presse lorsqu’il s’agit d’articles de presse publiés en ligne.
Recommandation 14 : Créer des chambres pénales spécialisées dans le traitement des infractions (actes et propos) relatives au racisme, à la discrimination, à l'antisémitisme, en ligne et hors ligne.
Ici il est par exemple question de diversification de sanctions au-delà de la peine de prison :
- l’amende, prononcée par voie d’ordonnance ou décision judiciaire ;
- la réalisation de travaux d’intérêt général, y compris auprès des services de Pharos ;
- l’obligation d’effectuer un stage de sensibilisation à la lutte contre les propos haineux sur Internet, stage effectué aux frais de la personne délinquante.
Afin de lutter contre le sentiment d’impunité qui règne actuellement quant à la profération de propos incitant à la haine, comme dans un souci d’information du public au sujet des poursuites judiciaires de ces actes, la publication des décisions de justice et des condamnations sur les supports électroniques pourrait être envisagée.
Il est ainsi proposé d’inciter les juridictions à ordonner plus souvent la publication en ligne des décisions de justice relativement aux propos racistes et antisémites sur Internet, notamment sur le profil de la personne condamnée. Pour ce faire, le rapport note qu’il conviendrait de sensibiliser les magistrats à l’intérêt de prononcer l’obligation de publier les condamnations.
Recommandation 15 : Encourager la publication en ligne des décisions de justice.
En ce qui concerne la publication sur les espaces concernant la personne (sa page Facebook, son compte Twitter, son blog, etc.), celle-ci doit être motivée par de strictes fins d’intérêt général, sans atteinte aux droits fondamentaux de la personne. Au regard de l’intérêt pédagogique qu’ell e pourrait présenter, c’est un principe de stricte proportionnalité qu’il convient d’appliquer, à raison de la gravité des infractions commises.
Par ailleurs, il conviendra de tenir compte des réserves qui ont été émises par la CNIL. Celle-ci a en effet rappelé en 2014 que la publication sur un site web dédié des noms de personnes condamnées au titre de certaines infractions légales n’était pas admissible, au regard de l’équilibre à trouver entre le caractère public et l’accessibilité d’une décision de justice, et la non atteinte aux droits des personnes. En matière, elle a ainsi averti que les pratiques inspirées du « Name and shame» devaient être compatibles avec le respect de la vie privée et des chances de réinsertion.
Recommandation 16 : Renforcer les modules de formation au dispositif de lutte contre la cyber-haine en formation initiale et continue pour les magistrats et les policiers et gendarmes.
Compte tenu des caractéristiques changeantes de l’espace numérique, notamment quant à la variété des usages offerts aux utilisateurs, et de la subtilité requise dans l’appréciation à donner aux faits de racisme et d’antisémitisme, il est fortement recommandé ici d’actualiser en permanence les programmes de formation initiale et de formation continue des acteurs de la chaîne pénale, c’est-à-dire essentiellement :
- les magistrats, pour ceux relevant du siège comme du parquet ;
- les policiers et les gendarmes, qu’il s’agisse des « plaintiers » en poste à l’accueil des commissariats ou les brigades, ou des enquêteurs.
Prévenir les comportements et mieux accompagner les victimes
Recommandation 17 : Créer un observatoire de la cyber-haine.
Prendre précisément la mesure des contenus haineux sur Internet s’avère aujourd’hui très difficile. Or mieux lutter contre la haine en ligne présuppose de mieux la connaître, d’en comprendre les modalités de surgissement, les mécanismes de propagation, les espaces où elle se diffuse le plus aisément. Il est par conséquent indispensable de se doter d’outils statistiques permettant de mieux identifier le phénomène, pour mieux le combattre, ainsi d’ailleurs que l’ont souligné de nombreux rapports et études sur le sujet depuis plusieurs années.
A cet égard, l’élaboration et la mise en œuvre de ces instruments, ainsi que des études de nature plus qualitative, pourraient être réalisées par un groupe de chercheurs, par exemple dans le cadre de l’autorité en charge des contenus illicites que la mission recommande de créer.
Cet observatoire de la haine en ligne pourrait ainsi être chargé de réaliser un baromètre mensuel et de publier chaque année un rapport sur les principales tendances des discours de haine telle qu’ils se manifestent sur Internet, en particulier sur les réseaux sociaux les plus importants.
L’observatoire, tout en en étant distinct, serait conduit à entretenir des relations de forte proximité avec l’autorité de régulation, notamment pour lui apporter son expertise. Il pourrait être placé sous l’égide de l’autorité de régulation évoquée dans le présent rapport. Regroupant des universitaires et des experts de tous horizons, l’observatoire, pourrait constituer un lieu d’échange privilégié sur le sujet, non seulement à des fins d’études et de réflexion, mais également d’animation d’un réseau à travers l’organisation de conférences et d’événements susceptibles de nourrir l’action des politiques publiques.
Recommandation 18 : Renforcer les dispositifs d’éducation et de formation contre la cyberhaine à destination de la jeunesse, en particulier des publics les plus vulnérables.
Recommandation 19 : Diffuser via les réseaux sociaux des campagnes de contre-discours face aux discours de haine et de sensibilisation du public sur les dangers des discours de haine sur Internet.
Recommandation 20 : Imposer aux plateformesla mise en place d’un « kit » d’information destiné aux victimes de cyber-haine, comprenant notamment un lien vers le module de dépôt de plainte en ligne.
Participer à Stop Haine Sur Internet
Source : Rapport (en PJ)
Et vous ?
Voir aussi :
Répondre avec citation
Partager