Discussion :

[Nancy Rey]

Les sites d'information générés par l'IA se multiplient,
NewsGuard recense désormais 125 sites web d'actualités et d'informations générés par des outils d'IA

Selon NewsGuard, le nombre de sites de contenu généré par l'IA a plus que doublé en l'espace de deux semaines, ce qui est sans précédent. Deux semaines après avoir évalué à 49 le nombre de sites d'actualités et d'informations générés par l'IA, NewsGuard a mis à jour ce chiffre pour le porter à 125, soit une augmentation de 155 %. Cette croissance rapide s'explique par des motifs économiques liés à la recherche de revenus publicitaires grâce à des articles monotones, car ces sites sont publiés dans au moins dix langues, dont l'arabe, le chinois, l'anglais, le français et bien d'autres encore.

Ces sites générés par l'IA utilisent souvent des images de stock et des articles génériques copiés et collés à partir d'autres sources. Ces articles manquent souvent d'idées nouvelles et tentent continuellement de tromper les lecteurs en leur faisant accepter des affirmations exagérées ou des informations erronées. Les lecteurs doivent donc être conscients de l'existence de ces sources d'information douteuses.

NewsGuard prend ses responsabilités très au sérieux en ce qui concerne l'aide apportée aux lecteurs pour identifier les informations problématiques sur Internet. Il propose des évaluations sur plus de 5 500 sites web, qui aident les lecteurs à déterminer si le site qu'ils lisent est digne de confiance ou non. Pour aider les consommateurs à déterminer si les sites web sont de bonnes sources d'informations factuelles, NewsGuard étudie minutieusement chaque site web.

Face à la croissance rapide des sites d'information générés par l'IA, les lecteurs doivent rester vigilants lorsqu'ils consomment des médias en ligne. En utilisant des plateformes de vérification des faits, vous pouvez vous assurer que vous n'êtes pas induit en erreur par de fausses affirmations ou manipulé en croyant des informations inexactes.

NewsGuard met en garde contre la consultation de sites d'information récemment découverts, car ils publient souvent des articles mal rédigés et contiennent des affirmations fausses. Par le biais de placements publicitaires, ces sites, qui portent des noms tels que iBusiness Day et Daily Time Update, se font passer pour des sources d'information fiables tout en maximisant les recettes publicitaires.

Cette évolution est alimentée par l'expansion du contenu généré par l'IA dans le secteur secret de la publicité programmatique, parfois financée involontairement par des entreprises et des agences de publicité. Si le contenu d'un site web est principalement produit par l'IA, avec peu ou pas de contrôle humain, et sans qu'il soit clairement indiqué que c'est le cas, NewsGuard classe le site web dans la catégorie UAIN.

En lisant des sources dignes de confiance et en prenant des précautions supplémentaires lorsqu'ils visitent des sites web inconnus, les lecteurs peuvent s'assurer qu'ils ne sont pas manipulés par du contenu généré par l'IA. Le système d'évaluation de NewsGuard permet d'identifier les sites qui exploitent les lecteurs et ceux qui respectent les normes journalistiques. Il est essentiel de savoir à quels sites se fier pour prendre des décisions éclairées en matière de consommation de nouvelles et d'informations.

Source : NewsGuard

Et vous ?

Pensez-vous que les articles générés par l'IA rendent le web encore pire qu'il n'est déjà ?
Pensez-vous que les résultats de cette étude sont pertinents ou crédibles ?
Quel est votre avis sur le sujet ?

Voir aussi :

90% du contenu en ligne pourrait être « généré par l'IA d'ici 2025 », selon une conférencière en IA. « Les choses qui nous émerveillent début 2023 vont sembler pittoresques d'ici la fin de l'année »

CNET suspend la publication d'articles générés par l'IA après une controverse sur la divulgation d'informations, le site n'a pas été transparent sur le fait qu'une IA écrivait certains articles

Les artistes commencent à vendre des œuvres d'art générées par IA sur des sites Web de photos, en utilisant un logiciel qui crée de l'art à la demande, certains artistes tentent d'en tirer profit

Google estime que le contenu généré automatiquement par une IA est contraire à ses directives aux webmasters, et est considéré comme du spam

[cobalt3d]

....
Les lecteurs doivent donc être conscients de l'existence de ces sources d'information douteuses.
...

Pas attendu l'avènement des sites gavés par IA interposées pour commencer. Bien naïf qui prend pour argent comptant ce qu'il lit dans les journaux qui ne font que reprendre des dépêches fournies par trois agences spécialisées qui détiennent un monopole mondial.

[onilink_]

Ouais, mais ça amplifie beaucoup le problème. Surtout quand on voit comment les moteurs de recherche comme google ont tendance à extraire les infos récurrentes pour donner une réponse directement sur la page de recherche.

Si plusieurs sites utilisent ChatGPT (par exemple) pour générer leurs article, on peut parier que le contenu sera similaire, et donc ça donne l'impression qu'il y a un consensus pour quiconque essayerais de recouper les informations.

C'est déjà problématique quand tous les sites se "re-pompent" l'info mais au moins ils ont généralement la décence d'ajouter une source. Puis ils étaient limités humainement par le nombre d'articles qu'ils pouvaient pondre.
Et je doute que quiconque place ChatGPT en tant que source dans un article, vu qu'il est souvent utilisé de manière un peu désavouée...

[Stéphane le calme]

Les chatbots IA sont utilisés pour produire du contenu sur des sites web de mauvaise qualité afin d'attirer les annonceurs,
l'argent de la publicité en ligne finance les fermes de contenu basées sur l’IA

Des personnes utilisent des chatbots basés sur l’IA pour remplir des sites web de mauvaise qualité avec du texte généré par l’IA afin d'attirer les annonceurs payants, selon un nouveau rapport de l’organisation de recherche médiatique NewsGuard. Au total, ce sont plus de 140 grandes marques qui paient pour des publicités qui se retrouvent sur des sites écrits par l'IA peu fiables, probablement à leur insu.

90% des annonces de grandes marques trouvées sur ces sites d'actualités générés par l'IA ont été diffusées par Google, bien que les propres politiques de l'entreprise interdisent aux sites de placer des annonces diffusées par Google sur des pages qui incluent du « contenu généré automatiquement par du spam ». Cette pratique menace d'accélérer l'arrivée d'un Internet spammé qui est envahi par le contenu généré par l'IA, ainsi que de gaspiller d'énormes quantités d'argent publicitaire.

La plupart des entreprises qui font de la publicité en ligne enchérissent automatiquement sur des spots pour diffuser ces publicités via une pratique appelée « publicité programmatique ». Les algorithmes placent des publicités sur divers sites Web selon des calculs complexes qui optimisent le nombre de vues qu'une publicité pourrait attirer du public cible de l'entreprise. En conséquence, les grandes marques finissent par payer pour des emplacements publicitaires sur des sites Web dont elles n'ont peut-être jamais entendu parler auparavant, avec peu ou pas de surveillance humaine.

Pour en profiter, des fermes de contenu ont vu le jour où des humains peu rémunérés produisent du contenu de mauvaise qualité pour attirer des revenus publicitaires. Ces types de sites Web ont déjà un nom : les sites « faits pour la publicité ». Ils utilisent des tactiques telles que le clickbait, les vidéos en lecture automatique et les publicités contextuelles pour soutirer le plus d'argent possible aux annonceurs. Dans une récente enquête, l'Association of National Advertisers a constaté que 21 % des impressions publicitaires de son échantillon étaient destinées à des sites conçus pour la publicité. Le groupe a estimé qu'environ 13 milliards de dollars sont gaspillés chaque année dans le monde sur ces sites.

Aujourd'hui, l'IA générative offre une nouvelle façon d'automatiser le processus de ferme de contenu et de créer plus de sites indésirables avec moins d'effort, ce qui entraîne ce que NewsGuard appelle « des sites Web d'actualités générés par l'intelligence artificielle peu fiables ». Un site signalé par NewsGuard a produit plus de 1 200 articles par jour.

Certains de ces nouveaux sites sont plus sophistiqués et convaincants que d'autres, avec des photos et des biographies de faux auteurs générées par l'IA. Et le problème se développe rapidement. NewsGuard, qui évalue la qualité des sites Web sur Internet, déclare découvrir environ 25 nouveaux sites générés par l'IA chaque semaine. Il en a trouvé 217 dans 13 langues depuis qu'il a commencé à suivre le phénomène en avril.

La prolifération des UAIN

Selon une analyse de NewsGuard, de grandes marques mondiales soutiennent la prolifération de sites Web d'actualités et d'informations générés par l'intelligence artificielle (UAIN pour unreliable artificial intelligence-generated news) peu fiables en canalisant les dollars publicitaires programmatiques vers le nombre en croissance rapide de ces sites.

Ces publicités semblent avoir été générées par programmation, ce qui signifie qu'au lieu que les entreprises choisissent de faire apparaître leurs publicités sur ces sites, elles ont été positionnées automatiquement via un système qui place des publicités quelle que soit la nature du site Web. Cette approche programmatique finance ainsi des sites de mauvaise qualité et de désinformation, tout en ne protégeant pas la « sécurité de la marque », la plupart des publicités étant placées par Google.

NewsGuard définit les sites Web d'actualités non fiables générés par l'intelligence artificielle (UAIN) comme des sites qui fonctionnent avec peu ou pas de surveillance humaine et publient des articles rédigés en grande partie ou entièrement par des bots. Au cours du mois dernier, les analystes de NewsGuard ont mis à jour le nombre de sites sur son nouveau traceur de sites UAIN de 49 à 217.

Beaucoup de ces sites générés par l'IA semblent être entièrement financés par la publicité programmatique. Certains des sites Web produisent d'énormes volumes d'articles sur lesquels des publicités peuvent être placées - un de ces sites produit en moyenne plus de 1 200 articles par jour - incitant ainsi à la création de ces sites de faible qualité générés par l'IA avec peu ou pas d'éléments apparents de veille éditoriale. Bien que de nombreux annonceurs et leurs agences de publicité maintiennent des «listes d'exclusion» de sites Web «non sécurisés» où leur publicité ne devrait pas apparaître, ces listes ne sont souvent pas tenues à jour et n'ont manifestement pas suivi le rythme de l'augmentation des sites UAIN.

En mai et juin 2023, les analystes de NewsGuard ont identifié 393 publicités programmatiques de 141 grandes marques qui sont apparues sur 55 des 217 sites UAIN identifiés par NewsGuard. Tous les sites Web UAIN que NewsGuard a trouvés n'affichent pas de publicités pour les grandes marques, et certains ne diffusent aucune publicité programmatique. Les publicités trouvées par NewsGuard ont été diffusées à des analystes naviguant sur Internet dans quatre pays : les États-Unis, l'Allemagne, la France et l'Italie.

Parce qu'il est probable qu'aucune des marques ou de leurs agences de publicité n'avait la moindre idée que leurs publicités apparaîtraient sur ces sites peu fiables et pilotés par l'IA, NewsGuard ne les nomme pas. Mais ils comprennent une grande variété d'annonceurs de premier ordre : une demi-douzaine de grandes banques et sociétés de services financiers, quatre grands magasins de luxe, trois grandes marques de vêtements de sport, trois fabricants d'appareils électroménagers, deux des plus grandes sociétés de technologie grand public au monde, deux sociétés mondiales des sociétés de commerce électronique, deux des principaux fournisseurs de haut débit américains, trois services de streaming proposés par les réseaux de diffusion américains, une plate-forme numérique de la Silicon Valley et une grande chaîne de supermarchés européenne.

Plus de 90 % des publicités identifiées par NewsGuard – 356 sur 393 – ont été diffusées à NewsGuard par Google Ads, la plus grande plate-forme en ligne de ce type.

Une annonce pour une entreprise de vêtements de sport est apparue sur NoticiasDeEmprego.com.br, un site Web UAIN qui publie des informations générées par l'IA sur les opportunités d'emploi au Brésil. Le texte indique clairement qu'il s'agit d'une IA

Gagner de l'argent avec de la camelote

NewsGuard a un moyen intelligent d'identifier ces sites Web indésirables écrits par l'IA. Parce que beaucoup d'entre eux sont également créés sans surveillance humaine, ils sont souvent truffés de messages d'erreur typiques des systèmes d'IA générative. Par exemple, un site appelé CountyLocalNews.com contenait des messages tels que « Désolé, je ne peux pas répondre à cette invite car cela va à l'encontre des principes éthiques et moraux... En tant que modèle de langage d'IA, il est de ma responsabilité de fournir des informations factuelles et fiables ».

L'IA de NewsGuard recherche ces extraits de texte sur les sites Web, puis un analyste humain les examine.

« Il semble que la publicité programmatique soit la principale source de revenus de ces sites Web générés par l'IA », déclare Lorenzo Arvanitis, analyste chez NewGuard qui suit le contenu Web généré par l'IA. « Nous avons identifié des centaines d'entreprises Fortune 500 et de marques bien connues et de premier plan qui font de la publicité sur ces sites et qui la soutiennent sans le savoir ».

MIT Technology Review a examiné la liste de près de 400 publicités individuelles de plus de 140 grandes marques que NewsGuard a identifiées sur les sites générés par l'IA qui diffusaient des publicités programmatiques, qui comprenaient des entreprises de nombreux secteurs différents, notamment la finance, la vente au détail, l'automobile, les soins de santé et le commerce électronique. Le coût moyen d'une publicité programmatique était de 1,21 $ pour mille impressions en janvier 2023, et les marques ne vérifient souvent pas tous les placements automatiques de leurs publicités, même si elles coûtent de l'argent.

La réaction de Google

Le produit publicitaire programmatique de Google, appelé Google Ads, est la plus grande bourse de ce type et a réalisé 168 milliards de dollars de revenus publicitaires l'année dernière. La société a été critiquée pour avoir diffusé des annonces sur des fermes de contenu dans le passé, même si ses propres politiques interdisent aux sites de placer des annonces diffusées par Google sur des pages avec du « contenu généré automatiquement par du spam ». Environ un quart des sites signalés par NewsGuard présentaient des publicités programmatiques de grandes marques. Sur les 393 annonces de grandes marques trouvées sur les sites générés par l'IA, 356 ont été diffusées par Google.

« Nous avons des politiques strictes qui régissent le type de contenu qui peut être monétisé sur notre plate-forme », a déclaré Michael Aciman, responsable des communications politiques pour Google, au MIT Technology Review dans un e-mail. « Par exemple, nous n'autorisons pas la diffusion d'annonces à côté de contenu préjudiciable, de spam ou de contenu de faible valeur, ou de contenu qui a été uniquement copié à partir d'autres sites. Lors de l'application de ces politiques, nous nous concentrons sur la qualité du contenu plutôt que sur la façon dont il a été créé, et nous bloquons ou supprimons les publicités de la diffusion si nous détectons des violations. »

La plupart des bourses d'annonces et des plates-formes ont déjà des politiques contre la diffusion d'annonces sur des fermes de contenu, mais elles « ne semblent pas appliquer ces politiques de manière uniforme » et « beaucoup de ces bourses d'annonces continuent de diffuser des annonces sur des sites [conçus pour la publicité] même s'ils semblent enfreindre… les politiques de qualité », déclare Krzysztof Franaszek, fondateur d'Adalytics, une société de criminalistique numérique et de vérification des publicités.

Google a déclaré que la présence de contenu généré par l'IA sur une page n'est pas une violation inhérente : « Nous reconnaissons également que les acteurs malveillants modifient constamment leur approche et peuvent tirer parti de la technologie, telle que l'IA générative, pour contourner nos politiques et nos systèmes d'application », a déclaré Aciman.

Source : NewGuard,

Et vous ?

L’IA, une nouvelle arme pour les sites web faits pour la publicité ?
Que pensez-vous de la pratique de la publicité programmatique?
Avez-vous déjà rencontré des sites web qui utilisent du texte généré par l’IA?
Quelles mesures devraient être prises pour réguler ces sites web de mauvaise qualité?
Quels sont les risques potentiels du contenu généré par l’IA pour la société?
Comment vérifiez-vous la fiabilité et la qualité des sources d’information en ligne?

[Stéphane le calme]

Les sites Web remplis de texte généré par l'IA tirent profit de l'argent des publicités programmatiques.
Plus de 140 marques font de la pub sur des fermes de contenu basées sur l'IA

L’intelligence artificielle (IA) offre une nouvelle façon d’automatiser le processus des fermes de contenu et de créer plus de sites web de mauvaise qualité avec moins d’effort, selon un rapport de l’organisation de recherche sur les médias NewsGuard. Plus de 140 grandes marques paient pour des annonces qui se retrouvent sur des sites web peu fiables écrits par l’IA, probablement sans le savoir. Quatre-vingt-dix pour cent des annonces des grandes marques trouvées sur ces sites web d’actualités générés par l’IA ont été diffusées par Google, bien que les propres politiques de l’entreprise interdisent aux sites de placer des annonces Google sur des pages qui comprennent du « contenu généré automatiquement et spammeur ».

La pratique menace d’accélérer l’arrivée d’un internet défectueux, envahi par le contenu généré par l’IA, ainsi que de gaspiller des sommes colossales d’argent publicitaire. La plupart des entreprises qui font de la publicité en ligne enchérissent automatiquement sur des emplacements pour diffuser ces annonces grâce à une pratique appelée « publicité programmatique ». Des algorithmes placent des annonces sur divers sites web selon des calculs complexes qui optimisent le nombre de personnes qu’une annonce pourrait attirer parmi le public cible de l’entreprise. En conséquence, les grandes marques se retrouvent à payer pour des placements publicitaires sur des sites web dont elles n’ont peut-être jamais entendu parler auparavant, avec peu ou pas de supervision humaine.

Pour en profiter, des fermes de contenu ont vu le jour où des humains peu rémunérés produisent du contenu de mauvaise qualité pour attirer des revenus publicitaires. Ces types de sites Web ont déjà un nom : les sites « faits pour la publicité ». Ils utilisent des tactiques telles que le clickbait, les vidéos en lecture automatique et les publicités contextuelles pour soutirer le plus d'argent possible aux annonceurs. Dans une récente enquête, l'Association of National Advertisers a constaté que 21 % des impressions publicitaires de son échantillon étaient destinées à des sites conçus pour la publicité. Le groupe a estimé qu'environ 13 milliards de dollars sont gaspillés chaque année dans le monde sur ces sites.

Aujourd'hui, l'IA générative offre une nouvelle façon d'automatiser le processus de ferme de contenu et de créer plus de sites indésirables avec moins d'effort, ce qui entraîne ce que NewsGuard appelle « des sites Web d'actualités générés par l'intelligence artificielle peu fiables ». Un site signalé par NewsGuard a produit plus de 1 200 articles par jour.

Certains de ces nouveaux sites sont plus sophistiqués et convaincants que d'autres, avec des photos et des biographies de faux auteurs générées par l'IA. Et le problème se développe rapidement. NewsGuard, qui évalue la qualité des sites Web sur Internet, déclare découvrir environ 25 nouveaux sites générés par l'IA chaque semaine. Il en a trouvé 217 dans 13 langues depuis qu'il a commencé à suivre le phénomène en avril.

La prolifération des sites d'information générés par l'IA

NewsGuard définit les sites Web d'actualités non fiables générés par l'intelligence artificielle (UAIN) comme des sites qui fonctionnent avec peu ou pas de surveillance humaine et publient des articles rédigés en grande partie ou entièrement par des bots. En mai, les analystes de NewsGuard ont mis à jour le nombre de sites sur son nouveau traceur de sites UAIN de 49 à 217.

Beaucoup de ces sites générés par l'IA semblent être entièrement financés par la publicité programmatique. Certains des sites Web produisent d'énormes volumes d'articles sur lesquels des publicités peuvent être placées - un de ces sites produit en moyenne plus de 1 200 articles par jour - incitant ainsi à la création de ces sites de faible qualité générés par l'IA avec peu ou pas d'éléments apparents de veille éditoriale. Bien que de nombreux annonceurs et leurs agences de publicité maintiennent des «listes d'exclusion» de sites Web «non sécurisés» où leur publicité ne devrait pas apparaître, ces listes ne sont souvent pas tenues à jour et n'ont manifestement pas suivi le rythme de l'augmentation des sites UAIN.

Entre mai et juin 2023, les analystes de NewsGuard ont identifié 393 publicités programmatiques de 141 grandes marques qui sont apparues sur 55 des 217 sites UAIN identifiés par NewsGuard. Tous les sites Web UAIN que NewsGuard a trouvés n'affichent pas de publicités pour les grandes marques, et certains ne diffusent aucune publicité programmatique. Les publicités trouvées par NewsGuard ont été diffusées à des analystes naviguant sur Internet dans quatre pays : les États-Unis, l'Allemagne, la France et l'Italie.

Parce qu'il est probable qu'aucune des marques ou de leurs agences de publicité n'avait la moindre idée que leurs publicités apparaîtraient sur ces sites peu fiables et pilotés par l'IA, NewsGuard ne les nomme pas. Mais ils comprennent une grande variété d'annonceurs de premier ordre : une demi-douzaine de grandes banques et sociétés de services financiers, quatre grands magasins de luxe, trois grandes marques de vêtements de sport, trois fabricants d'appareils électroménagers, deux des plus grandes sociétés de technologie grand public au monde, deux sociétés mondiales des sociétés de commerce électronique, deux des principaux fournisseurs de haut débit américains, trois services de streaming proposés par les réseaux de diffusion américains, une plate-forme numérique de la Silicon Valley et une grande chaîne de supermarchés européenne.

Une annonce pour une entreprise de vêtements de sport est apparue sur NoticiasDeEmprego.com.br, un site Web UAIN qui publie des informations générées par l'IA sur les opportunités d'emploi au Brésil. Le texte indique clairement qu'il s'agit d'une IA

NewsGuard a une façon astucieuse d’identifier ces sites web indésirables écrits par l’IA. Comme beaucoup d’entre eux sont également créés sans supervision humaine, ils sont souvent truffés de messages d’erreur typiques des systèmes générateurs d’IA. Par exemple, un site appelé CountyLocalNews.com contenait des messages tels que « Désolé, je ne peux pas répondre à cette invite car cela va à l'encontre des principes éthiques et moraux... En tant que modèle de langage d'IA, il est de ma responsabilité de fournir des informations factuelles et fiables ».

L'IA de NewsGuard recherche ces extraits de texte sur les sites Web, puis un analyste humain les examine.

« Il semble que la publicité programmatique soit la principale source de revenus de ces sites Web générés par l'IA », déclare Lorenzo Arvanitis, analyste chez NewGuard qui suit le contenu Web généré par l'IA. « Nous avons identifié des centaines d'entreprises Fortune 500 et de marques bien connues et de premier plan qui font de la publicité sur ces sites et qui la soutiennent sans le savoir ».

MIT Technology Review a examiné la liste de près de 400 publicités individuelles de plus de 140 grandes marques que NewsGuard a identifiées sur les sites générés par l'IA qui diffusaient des publicités programmatiques, qui comprenaient des entreprises de nombreux secteurs différents, notamment la finance, la vente au détail, l'automobile, les soins de santé et le commerce électronique. Le coût moyen d'une publicité programmatique était de 1,21 $ pour mille impressions en janvier 2023, et les marques ne vérifient souvent pas tous les placements automatiques de leurs publicités, même si elles coûtent de l'argent.

La réaction de Google

Le produit publicitaire programmatique de Google, appelé Google Ads, est la plus grande bourse de ce type et a réalisé 168 milliards de dollars de revenus publicitaires l'année dernière. La société a été critiquée pour avoir diffusé des annonces sur des fermes de contenu dans le passé, même si ses propres politiques interdisent aux sites de placer des annonces diffusées par Google sur des pages avec du « contenu généré automatiquement par du spam ». Environ un quart des sites signalés par NewsGuard présentaient des publicités programmatiques de grandes marques. Sur les 393 annonces de grandes marques trouvées sur les sites générés par l'IA, 356 ont été diffusées par Google.

« Nous avons des politiques strictes qui régissent le type de contenu qui peut être monétisé sur notre plate-forme », a déclaré Michael Aciman, responsable des communications politiques pour Google, au MIT Technology Review dans un e-mail. « Par exemple, nous n'autorisons pas la diffusion d'annonces à côté de contenu préjudiciable, de spam ou de contenu de faible valeur, ou de contenu qui a été uniquement copié à partir d'autres sites. Lors de l'application de ces politiques, nous nous concentrons sur la qualité du contenu plutôt que sur la façon dont il a été créé, et nous bloquons ou supprimons les publicités de la diffusion si nous détectons des violations. »

Comment se protéger des sites web générés par l’IA ?

Jusqu’à présent, il n’existe pas de solutions faciles, surtout étant donné que la publicité soutient tout le modèle économique d’internet. « Ce qu’il faut retenir, c’est que les annonces programmatiques - et les annonces ciblées plus généralement - sont un élément fondamental de l’économie internet », a déclaré Hodan Omaar, conseillère principale en politique d’IA à la Fondation pour l’innovation et la technologie de l’information, un think tank basé à Washington, DC. « Si les décideurs politiques interdisaient l’utilisation de ces types de services publicitaires, les consommateurs seraient confrontés à un internet radicalement différent : plus d’annonces qui sont moins pertinentes, du contenu et des services en ligne de moindre qualité, et plus de paywall », a-t-il continué. « La politique ne devrait pas viser à se débarrasser des annonces programmatiques en général, mais plutôt à garantir qu’il existe des mécanismes plus robustes pour empêcher la propagation de la désinformation, qu’elle soit directe ou indirecte ».

Face à la prolifération des sites web de mauvaise qualité remplis de texte généré par l’IA, les consommateurs, les annonceurs et les plateformes doivent être vigilants et responsables. Voici quelques conseils pour se prémunir contre ces sites web trompeurs et nuisibles :

• Pour les consommateurs, il est important de vérifier la fiabilité des sources d’information qu’ils consultent. Ils peuvent utiliser des outils qui évaluent la crédibilité des sites web sur internet, ou des sites comme FactCheck.org, qui vérifie les faits et les déclarations des personnalités publiques. Ils peuvent également se méfier des signes révélateurs d’un contenu généré par l’IA, tels que des erreurs grammaticales, des incohérences logiques, des répétitions ou des affirmations non étayées.
• Pour les annonceurs, il est essentiel de surveiller où leurs annonces sont diffusées et de s’assurer qu’elles ne financent pas des sites web malveillants ou de mauvaise qualité. Ils peuvent utiliser des outils comme Google Ads Transparency Report, qui montre quels sites web ont reçu de l’argent de Google pour diffuser des annonces, ou Brand Safety Institute, qui propose des certifications et des formations pour les professionnels de la publicité en ligne. Ils peuvent également exiger plus de transparence et de responsabilité de la part des plateformes qui diffusent leurs annonces.
• Pour les plateformes, il est nécessaire de renforcer leurs politiques et leurs mécanismes pour détecter et supprimer les sites web générés par l’IA qui enfreignent leurs règles. Ils peuvent utiliser des outils comme GLTR, qui utilise l’apprentissage automatique pour identifier le texte généré par l’IA, ou Perspective API, qui utilise l’IA pour détecter le contenu toxique ou trompeur. Ils peuvent également collaborer avec d’autres acteurs du secteur pour partager les bonnes pratiques et les normes éthiques.

Source : NewsGuard

Et vous ?

Que pensez-vous de l’utilisation de l’IA pour générer du contenu sur internet ?
Avez-vous déjà rencontré des sites web générés par l’IA ? Comment les avez-vous reconnus ? Quelle a été votre réaction ?
Quelles sont les mesures que vous prenez pour vérifier la fiabilité des sources d’information que vous consultez ? Quels sont les outils ou les critères que vous utilisez ?
Comment pensez-vous que les annonceurs, les plateformes et les régulateurs devraient faire face au phénomène des sites web générés par l’IA ? Quelles sont les solutions ou les recommandations que vous proposez ?
Quel est l’impact des sites web générés par l’IA sur la qualité et l’intégrité de l’information sur internet ? Quels sont les risques ou les opportunités que cela représente pour la société ?

[Anthony]

Le nombre de sites web et de blogs hébergeant de faux articles générés par l'IA a augmenté de 1 150 % depuis avril 2023, soit une hausse mensuelle de plus de 143 %, selon une étude de Newsguard

L'une des principales sociétés de surveillance de la désinformation met en lumière des statistiques alarmantes concernant les sites web contenant du contenu généré par l'IA.

Selon l'étude réalisée, Newsguard a prouvé par des statistiques que le nombre de sites Web hébergeant de faux articles générés par des moyens d'IA est en hausse, augmentant de 1100 % (ou 1150,51 % pour être exact) depuis avril de cette année, ce qui représente une augmentation mensuelle moyenne de 143,81 %. Comme vous pouvez l'imaginer, ce chiffre est très inquiétant.

Plus de 614 pages web différentes proposant des informations et des statistiques faussement produites par la technologie de l'IA continuent à fonctionner de manière très fonctionnelle et sans aucun obstacle. Ces pages ne font l'objet que d'une surveillance humaine minime, voire inexistante, et si l'on considère que ces chiffres ne concernaient que 49 sites web auparavant, il s'agit là d'un bond en avant considérable et inquiétant.

Cette recherche et de nombreuses autres études similaires mettent en lumière quelque chose de très intéressant, à savoir que l'avènement des outils d'IA a réellement constitué un essor considérable pour ceux qui se livrent à la diffusion de fausses informations ainsi que pour ceux qui disposent de fermes de contenu pour cet acte illégal.

Aujourd'hui, il est si simple de faire de la propagande en ligne ou de générer les récits les plus faux sur des sujets d'actualité tels que les conflits, la météo et même le monde politique.

Dans le passé, des campagnes liées à la propagande qui mettaient l'accent sur les trolls pour diffuser leur message ont déjà été menées. Ces derniers étaient payés à bas prix pour effectuer le travail correctement. Mais aujourd'hui, pourquoi avoir besoin de trolls quand on dispose d'outils d'IA gratuits et faciles à utiliser qui peuvent faire la même chose à un rythme plus rapide et plus efficace ?

Il n'est pas nécessaire d'être un gros bonnet pour participer à cet acte. Qu'il s'agisse d'un adolescent un peu geek ou d'une société de renseignement haut de gamme, n'importe qui peut créer ce type de services, selon les rapports de NewsGuard.

Beaucoup de gens ne savent pas très bien distinguer le vrai du faux, et c'est là un autre problème majeur. On peut croire quelque chose de totalement faux sans même s'en rendre compte.

De nombreux sites web jugés douteux sont généralement désignés par des termes génériques classiques tels que Top News, Daily Time Updates, iBusiness Day, etc. Ils peuvent sembler bien établis et bien réputés. Mais en réalité, cela ne fait qu'occulter le fait que ces pages fonctionnent sans aucune intervention humaine ou réglementation, tout en produisant des articles qui sont pour la plupart le fruit du travail de robots.

En comparaison, les articles produits par des moyens classiques sont diffusés par les meilleurs rédacteurs et journalistes qui font appel à une supervision humaine pour assurer un contrôle permanent.

La liste des histoires fictives est trop longue. Vous verrez des gens déclarés morts alors qu'ils sont encore en vie ou bien impliqués dans une affaire dont ils n'auraient jamais osé rêver. C'est le pouvoir de la désinformation aujourd'hui et il est alarmant de voir à quel point elle passe inaperçue.

De nombreuses grandes marques continuent de commercialiser de telles pages et elles font certainement partie du problème car elles permettent à ces pages de prospérer à l'heure où nous parlons. Après tout, elles génèrent des revenus et, pour elles, rien ne compte plus que l'argent facilement gagné dans un monde où nous sommes tous en proie à des difficultés économiques.

Tant que les grandes marques ne prendront pas les mesures qui s'imposent pour éliminer ces faux sites, les publicités continueront de s'afficher sur ces pages et d'inciter financièrement à produire davantage de matériel de ce type et de cette ampleur.

Quelle est donc la solution au problème ? Si vous souhaitez faire la différence entre le vrai et le faux, vous devez être conscient de certaines constatations qui en disent long. Par exemple, de nombreux articles contiennent des erreurs ou une terminologie spécifique caractéristique d'un chatbot. Un tel comportement met en évidence la façon dont le contenu est généré par des moyens d'IA sans qu'une forme d'édition appropriée ne soit mise en place.

Nous sommes tous d'accord sur le fait que de nombreux sites web d'information utiliseront des outils d'IA à l'avenir. Cependant, ils déploieront également le bon type de contrôles et ne produiront pas une pléthore d'articles d'actualité par jour, a ajouté NewsGuard. C'est tout le contraire de ce qui se passe actuellement. Il n'y a pas de contrôle et d'équilibre.

Le nombre de sites web diffusant de fausses informations est très préoccupant, sans compter que les prochaines élections américaines auront lieu en 2024. N'oublions pas qu'il est très facile pour la propagande d'influencer les électeurs et que cela peut ruiner les chances d'un candidat méritant, comme on l'a vu par le passé.

Aujourd'hui, à l'heure où nous parlons, le nombre d'applications de médias sociaux contenant de fausses données continue d'augmenter et les géants de la technologie comme Meta se battent vraiment pour contrôler leurs applications populaires. Ils ont parlé d'interdire à toutes les campagnes à thème politique de bénéficier des produits publicitaires de l'entreprise qui tirent le meilleur parti de l'IA, ce qui constitue une excellente initiative.

Source : "Tracking AI-enabled Misinformation: 614 ‘Unreliable AI-Generated News’ Websites (and Counting), Plus the Top False Narratives Generated by Artificial Intelligence Tools" (étude de Newsguard)

Et vous ?

Quelle lecture faites-vous de cette situation ?

Trouvez-vous les résultats de cette étude de Newsguard crédibles ou pertinents ?

Voir aussi

Les sites d'information générés par l'IA se multiplient, NewsGuard recense désormais 125 sites web d'actualités et d'informations générés par des outils d'IA

Les chatbots d'IA pourraient aggraver la désinformation en ligne, en permettant aux acteurs malveillants de créer des campagnes plus rentables, et plus difficiles à repérer, selon certains chercheurs

Le côté obscur de l'IA : les fermes de contenu utilisent les chatbots à mauvais escient en termes de désinformation

Un développeur dépense à peine 400 dollars pour construire un outil de désinformation basé sur la technologie d'IA d'OpenAI, l'IA a rendu bon marché la diffusion de propagande à grande échelle