Instagram utilise l'IA pour détecter les utilisateurs mineurs et les transférer vers des comptes d'adolescents
Instagram utilise l'IA pour détecter les utilisateurs mineurs et basculer automatiquement toute personne soupçonnée d'avoir moins de 18 ans vers un compte adolescent
L'outil d'IA de Meta détectera les utilisateurs de moins de 18 ans sur Instagram et les transférera vers des comptes d'adolescents. Le "classificateur d'adultes" analyse les données de profil et les interactions pour estimer l'âge de l'utilisateur. Les comptes d'adolescents ont des paramètres de confidentialité plus stricts afin de protéger les jeunes utilisateurs des contenus préjudiciables.
Instagram est un service de réseau social américain de partage de photos et de vidéos appartenant à Meta Platforms. Lancé en octobre 2010, l'application a rapidement gagné en popularité, atteignant 1 million d'utilisateurs enregistrés en deux mois, 10 millions en un an et 1 milliard en juin 2018. Bien que souvent admiré pour son succès et son influence, Instagram a également été critiqué pour ses effets négatifs sur la santé mentale des adolescents, ses changements de politique et d'interface, sa censure présumée et les contenus illégaux et inappropriés téléchargés par les utilisateurs.
En 2021, Meta, société mère de Facebook et Instagram, a commencé à développer un produit destiné aux personnes trop jeunes pour s'inscrire officiellement sur Instagram, la plateforme exigeant que les utilisateurs aient au moins 13 ans. À l'époque, Meta affirmait que cela permettra à l'entreprise de se concentrer sur la confidentialité et la sécurité des enfants. Mais les défenseurs de la santé des enfants ont déclaré que "cela augmentera probablement l'utilisation d'Instagram par les jeunes enfants qui sont particulièrement vulnérables aux fonctions de manipulation et d'exploitation de la plateforme."
Récemment, Meta a annoncé qu'il aurait l'intention d'utiliser l'IA pour estimer l'âge des utilisateurs d'Instagram et de basculer automatiquement toute personne soupçonnée d'avoir moins de 18 ans vers un compte d'adolescent si l'on pense qu'elle fait une fausse déclaration sur son âge. Cette initiative intervient alors que l'entreprise est confrontée à une surveillance accrue de l'impact des plateformes de médias sociaux sur la santé mentale des adolescents.
Selon Bloomberg, toute personne surprise à mentir sur son âge sera automatiquement soumise à des paramètres de confidentialité plus restrictifs. Meta utiliserait un outil propriétaire appelé "classificateur d'adultes" pour classer les utilisateurs comme étant majeurs ou mineurs, sur la base des données de leurs comptes, explique Allison Hartnett, directrice de la gestion des produits de Meta pour la jeunesse et l'impact social.
Le logiciel est censé analyser les détails du profil, les listes de followers et les interactions de contenu, et même analyser des indicateurs subtils tels que les messages de "joyeux anniversaire" des amis, afin d'estimer l'âge d'un utilisateur. Meta a également expliqué qu'elle avait besoin d'un moyen de gérer sa base d'utilisateurs croissante. Elle a déclaré : "Avec des milliards de personnes dans le monde qui utilisent nos services, nous avons besoin d'un moyen évolutif pour comprendre ce qui se passe lorsque l'âge qu'une personne nous donne ne correspond pas à son âge réel."
Meta indique qu'elle entraîne son modèle d'IA à l'aide de signaux de profil tels que la date de création du compte et les modèles d'interaction pour estimer si un utilisateur est un adulte ou un adolescent. Pour évaluer sa précision, Meta développe ensuite un ensemble de données d'évaluation en demandant à des équipes d'examiner des points de données anonymes, tels que des messages d'anniversaire, afin d'étiqueter les utilisateurs en tant qu'adolescents ou adultes.
Les performances du modèle sont testées pays par pays pour en vérifier la précision auprès de divers groupes d'utilisateurs. L'entreprise réapprend et vérifie le classificateur par rapport à l'ensemble de données étiquetées afin de s'assurer qu'il reflète les dernières interactions et qu'il reste précis et représentatif de l'ensemble des données démographiques des utilisateurs.
Meta renforce les mesures de sécurité
Selon Allison Hartnett, les utilisateurs soupçonnés par le logiciel d'avoir moins de 18 ans seront automatiquement affectés à des comptes d'adolescents, quel que soit l'âge qu'ils déclarent sur leur profil. C'est la première fois qu'elle donne des détails sur ce processus. Les nouveaux comptes Instagram pour adolescents de Meta avec des paramètres de confidentialité améliorés pour les moins de 16 ans ont été révélé en septembre.
Les utilisateurs de ces comptes sont limités en ce qui concerne les personnes qui peuvent les contacter et le contenu qu'ils peuvent voir. Les adolescents doivent demander à leurs parents d'approuver toute modification de ces paramètres par défaut. Au début de l'année, le PDG de la plateforme de médias sociaux, Mark Zuckerberg, a été contraint de faire face aux familles dont les enfants ont été victimes d'abus en ligne.
Cette initiative de Meta intervient également dans un contexte où de plus en plus d'études confirment l'impact des réseaux sociaux sur la santé mentale des adolescents. D'un côté, ces plateformes offrent une source d'information et de socialisation, mais de l'autre, une utilisation intensive est associée à des problèmes de santé mentale, particulièrement chez les filles. Face à l'augmentation des troubles mentaux chez les jeunes, divers acteurs, allant des enseignants aux scientifiques, surveillent de près les entreprises telles que Meta.
Source : Bloomberg
Et vous ?
Pensez-vous que cette initiative est crédible ou pertinente ?
Voir aussi :
Répondre avec citation
Envoyé par Jade Emy
Partager