Discussion :

[Alex]

Mozilla critique le flux "intrusif" Discover de Meta, qui affiche les instructions génératives d'IA des utilisateurs, et exige sa fermeture, car les utilisateurs ne comprennent pas vraiment ce qu'ils partagent

Mozilla a publié son propre avertissement sur le flux "intrusif" Discover de Meta, qui affiche les instructions génératives d'IA des utilisateurs. "Meta transforme discrètement les conversations privées avec l'IA en contenu public", prévient la Fondation Mozilla, "et trop de gens ne se rendent pas compte de ce qui se passe".

Meta est une multinationale américaine spécialisée dans les technologies, qui possède et exploite plusieurs plateformes de réseaux sociaux et services de communication, notamment Facebook, Instagram, Threads, Messenger et WhatsApp. La société exploite également un réseau publicitaire pour ses propres sites et des tiers ; en 2023, la publicité représentait 97,8 % de son chiffre d'affaires total.

Fin 2024, un rapport a révélé que Meta développe plusieurs produits d'IA, notamment un service conçu pour aider les utilisateurs à créer des bots d'IA sur Instagram et Facebook. Ces bots pourraient cloner la personnalité des utilisateurs et interagir avec d'autres utilisateurs (non bots) sur le réseau. L'entreprise espère attirer un public plus jeune, apparemment très friand d'IA en ce moment.

Cette initiative intervient alors que les entreprises de médias sociaux se sont empressées d'intégrer les dernières technologies d'IA générative dans leurs produits afin d'attirer de nouveaux utilisateurs et davantage de contenu sur leurs plateformes. Toutefois, les experts mettent en garde contre les risques liés au contenu généré par l'IA, notamment la collecte de données qui soulève de sérieuses inquiétudes quant à la vie privée et à la sécurité des informations.

Fin avril, Meta a lancé son application Meta AI, qui comprenait une fonctionnalité appelée "Discover feed" ("Vous pouvez voir les meilleures instructions génératives (prompt) partagées par les utilisateurs ou les remixer pour les personnaliser").

Mais alors que Meta insistait sur le fait que "vous avez le contrôle : rien n'est partagé sur votre fil d'actualité à moins que vous ne choisissiez de le publier", deux jours plus tard, Business Insider a remarqué que "de toute évidence, certaines personnes ne se rendent pas compte qu'elles partagent des informations personnelles".

Pour être clair, vos conversations IA ne sont pas publiques par défaut : vous devez choisir de les partager individuellement en appuyant sur un bouton de partage. Malgré cela, j'ai l'impression que certaines personnes ne comprennent pas vraiment ce qu'elles partagent, ni ce qui se passe.

Comme cette femme dont la tortue était malade. Ou cette autre personne qui demandait conseil sur les mesures juridiques qu'elle pouvait prendre contre son ancien employeur après avoir été licenciée. Ou cette femme qui s'interrogeait sur les effets de l'acide folique chez une femme de 60 ans déjà ménopausée. Ou encore cette personne qui demandait de l'aide pour sa facture d'assurance maladie Blue Cross... Peut-être que ces personnes savaient qu'elles partageaient sur un fil d'actualité public et qu'elles le faisaient volontairement. Peut-être pas. Cela nous amène à une question évidente : quel est l'intérêt de tout cela ? Même si l'on met de côté le risque de divulgation accidentelle, quel est l'intérêt de voir un fil d'actualité contenant les instructions génératives (prompt) IA des gens ?

Mozilla a désormais publié son propre avertissement. "Meta transforme discrètement les conversations privées avec l'IA en contenu public", prévient la Fondation Mozilla, "et trop de gens ne se rendent pas compte de ce qui se passe".

C'est pourquoi la communauté Mozilla exige que Meta :

• Ferme le fil d'actualité Discover jusqu'à ce que de véritables mesures de protection de la vie privée soient mises en place.
  
  
• Rende toutes les interactions avec l'IA privées par défaut, sans option de partage public, sauf si cela est explicitement activé par consentement éclairé.
  
  
• Assure une transparence totale sur le nombre d'utilisateurs qui ont partagé des informations privées à leur insu.
  
  
• Crée un système de désactivation universel et facile à utiliser pour toutes les plateformes Meta, qui empêche l'utilisation des données des utilisateurs pour l'entraînement de l'IA.
  
  
• Informe tous les utilisateurs dont les conversations ont pu être rendues publiques et leur permette de supprimer définitivement leur contenu.

Meta brouille la frontière entre privé et public, au détriment de notre vie privée. Les gens ont le droit de savoir quand ils s'expriment en public, surtout lorsqu'ils pensent s'exprimer en privé.

Si vous êtes d'accord, ajoutez votre nom pour demander à Meta de fermer son flux IA intrusif et de garantir qu'aucune conversation privée ne sera rendue publique sans consentement clair, explicite et éclairé.

Pour rappel, Noyb a récemment averti que Meta continue de violer les règles du RGPD avec son dernier plan pour former l'IA en utilisant les données personnelles privées d'Instagram et de Facebook pour former ses nouveaux systèmes d'IA sans votre consentement. Selon Noyb, l' "intérêt légitime" évoqué par Meta ne tient pas la route, alors que l'entreprise de Mark Zuckerberg prétend que les activistes veulent "retarder l'innovation en matière d'IA".

Max Schrems de Noyb a envoyé une lettre de cessation et d'abstention à Meta le 14 mai 2025. La lettre de Noyb indique à la société mère de Facebook que, s'il choisit de ne pas discuter de la question ou d'accepter que les données des utilisateurs pour l'entraînement des données d'IA fassent l'objet d'un consentement explicite, par opposition à l'approche opt-out que Meta poursuit actuellement, le groupe de défense est prêt à déposer une injonction, ou même à porter l'affaire devant les tribunaux dans le cadre d'une action collective.

Source : Communiqué de Mozilla

Et vous ?

Pensez-vous que cet avertissement est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Meta prévoit d'utiliser vos données personnelles pour entraîner ses modèles d'IA sans demander de consentement, mais le groupe de défense NOYB demande aux autorités de l'Europe d'y mettre un terme

Le prompt engineering, qui a émergé avec l'essor de l'IA générative, est en voie d'extinction. Les offres d'emploi proposant des salaires élevés pour cette compétence sont désormais presque inexistantes

Recherche : Le droit de ne pas être soumis au profilage par l'IA basé sur des données publiquement disponibles sans consentement éclairé explicite, car le règlement RGPD de l'UE ne garantit pas ce droit

[Alex]

L'application Meta AI fait face à une vague de critiques pour avoir compromis la confidentialité des utilisateurs, qui révèlent sans le savoir leurs secrets les plus intimes et leurs conversations privées.

Un nouveau rapport a montré que l'application Meta AI a failli à sa mission de protection de la vie privée des utilisateurs. Les utilisateurs de l'application Meta AI partagent sans le savoir des conversations privées, des clips audio et des images avec le public. La conception de l'application facilite le partage de contenu, par conséquent, des questions privées sont largement partagées.

Ce mois-ci, Mozilla a publié son propre avertissement sur le flux "intrusif" Discover de Meta, qui affiche les instructions génératives d'IA des utilisateurs. Selon la Fondation Mozilla, "Meta transforme discrètement les conversations privées avec l'IA en contenu public et trop de gens ne se rendent pas compte de ce qui se passe". L'avertissement affirmait :"Meta brouille la frontière entre privé et public, au détriment de notre vie privée. Les gens ont le droit de savoir quand ils s'expriment en public, surtout lorsqu'ils pensent s'exprimer en privé."

Récemment, un nouveau rapport a montré que l'application Meta AI a failli à sa mission de protection de la vie privée des utilisateurs. Les utilisateurs de l'application Meta AI partagent sans le savoir des conversations privées, des clips audio et des images avec le public. La conception de l'application facilite le partage de contenu, parfois par accident. En conséquence, les utilisateurs exposent des informations sensibles, personnelles et même compromettantes.

Meta AI a inclut un bouton « Partager » dans son interface de chat. Lorsque l'on clique dessus, un écran de prévisualisation s'affiche. À partir de là, les utilisateurs peuvent publier leurs conversations avec l'IA. Cependant, l'application n'explique pas clairement qui verra le contenu partagé. Si quelqu'un se connecte avec un compte Instagram public, sa publication devient visible par tous.

Selon le rapport, de nombreux utilisateurs ne sont pas conscients de ce lien. Par conséquent, des questions privées sont largement partagées. Certains utilisateurs ont publié des préoccupations personnelles liées à leur santé. D'autres ont posé des questions juridiques, notamment sur la manière d'échapper à l'impôt. Quelques-uns ont même inclus leur nom complet et leur adresse personnelle. Cela a créé un risque sérieux pour la sécurité et la vie privée des utilisateurs.

Les publications publiques sur l'application révèlent un large éventail de comportements des utilisateurs. Une personne a demandé pourquoi certains pets sentaient plus mauvais que d'autres. Une autre a demandé l'aide de Meta pour rédiger une lettre de référence juridique pour un employé devant le tribunal. Un utilisateur a demandé à Meta de publier son numéro de téléphone dans des groupes Facebook afin de trouver un partenaire.

Il existe également des images étranges générées par l'IA. Certaines montrent des personnages fictifs comme Mario ou Goku dans des scénarios étranges. Des experts en sécurité, tels que Rachel Tobac, ont découvert des cas de divulgation de dossiers judiciaires et d'adresses résidentielles. Il s'agit là de violations graves de la vie privée.

Meta n'est pas étranger aux controverses en matière de confidentialité. Malgré ces antécédents, l'entreprise a lancé une application dotée d'une fonctionnalité risquée. La transformation des requêtes IA en publications publiques fait écho à une expérience ratée d'AOL en 2006, qui s'était soldée par un scandale majeur en matière de confidentialité. La plupart des gens considèrent les outils d'IA comme privés et s'attendent à ce qu'ils soient confidentiels. Ce n'est pas le cas de Google, qui préserve la confidentialité des requêtes des utilisateurs.

L'application a été lancée le 29 avril 2025 et, selon Appfigures, elle a été téléchargée 6,5 millions de fois. Ce chiffre peut sembler impressionnant. Cependant, pour une entreprise de la taille de Meta, il est relativement faible. Meta a investi des milliards dans l'IA. Pourtant, ce lancement, entaché de problèmes de confidentialité, reflète un manque de planification et de supervision.

Des personnes réelles sont touchées. Imaginez que vous interrogiez l'IA sur une question juridique ou un problème médical, en pensant que cela resterait privé. Plus tard, vous découvrez que votre nom, votre photo ou votre voix ont été publiés. Ce n'est pas seulement embarrassant, mais dans certains cas, cela peut être dangereux. Certaines publications contiennent des informations qui pourraient être utilisées à des fins de harcèlement ou d'usurpation d'identité.

Pour rappel, Meta a récemment commencé à utiliser les données des utilisateurs de l'Union européenne pour entraîner ses modèles d'intelligence artificielle (IA). Lors de cette annonce, Meta affirmait qu' "il est si important que nos modèles d'IA générative soient formés sur une variété de données afin qu'ils puissent comprendre les incroyables et diverses nuances et complexités qui composent les communautés européennes." Cette initiative de Meta intervenait après de nombreux retards et difficultés pour obtenir l'autorisation d'utiliser les données de l'UE, en vertu des règles plus strictes de la région en matière de protection de la vie privée.


Et vous ?

Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Mark Zuckerberg est tellement frustré par la position de Meta dans le domaine de l'IA qu'il est prêt à dépenser des milliards de $ pour convaincre le PDG de Scale AI de rejoindre son entreprise

Meta continue de violer les règles du RGPD avec son dernier plan pour former l'IA en utilisant vos données personnelles privées d'Instagram et de Facebook sans votre consentement, selon Noyb

Chaque utilisateur de Facebook est surveillé par des milliers d'entreprises, selon les résultats d'une enquête. Qui envoie des informations sur votre activité en ligne à Meta ?

[Anselme45]

Les seuls responsables de la "violation des données privée des utilisateurs" sont les utilisateurs eux-mêmes!

Personne ne les oblige à étaler leur vie privée (et la plupart du temps sans le moindre intérêt) sur les réseaux sociaux...