Discussion :

[Nancy Rey]

Un district scolaire de l'Iowa exploite l'IA pour établir des listes de livres potentiellement interdits dans les bibliothèques du district
avant l'année scolaire prochaine

Selon le Globe Gazette, le conseil scolaire de Mason City, dans l'Iowa, a commencé à exploiter la technologie de l'IA pour établir des listes de livres potentiellement interdits dans les bibliothèques du district avant l'année scolaire 2023/ 2024.

En mai dernier, la législature de l'État, contrôlée par les républicains, a adopté, et le gouverneur Kim Reynolds a ensuite signé, le dossier du Sénat 496 (SF 496), qui a apporté des changements radicaux au programme d'enseignement de l'État. Plus précisément, il limite les livres pouvant être mis à disposition dans les bibliothèques scolaires et les salles de classe, exigeant que les titres soient « adaptés à l'âge » et ne contiennent pas de « descriptions ou de représentations visuelles d'un acte sexuel », conformément au code de l'Iowa 702.17. Mais s'assurer que tous les livres des archives du district respectent ces nouvelles règles devient rapidement une entreprise colossale. « Les bibliothèques de nos classes et de nos écoles possèdent de vastes collections, composées de textes achetés, donnés ou trouvés. Il n'est tout simplement pas possible de lire tous les livres et de les filtrer pour répondre à ces nouvelles exigences », a déclaré Bridgette Exman, surintendante adjointe chargée des programmes scolaires et de l'enseignement au Mason City Community School District, dans un communiqué.

C'est pourquoi le district scolaire de Mason City fait appel à l'intelligence artificielle pour analyser les textes suspects à la recherche d'idées et de descriptions interdites, car il y a tout simplement trop de titres pour que les réviseurs humains puissent les couvrir à eux seuls. Selon le district, une « liste principale » est d'abord établie à partir de « plusieurs sources », en fonction de l'existence ou non de plaintes antérieures concernant le contenu sexuel. Les livres de cette liste sont ensuite scannés par un « logiciel d'intelligence artificielle » - le district ne précise pas quels systèmes seront utilisés - qui indique aux censeurs de l'État s'il y a ou non une représentation du sexe dans le livre. Jusqu'à présent, l'IA a signalé 19 livres à supprimer.

Source : The Globe Gazette

Et vous ?

Que pensez-vous de cette approche ?

Voir aussi :

Des chercheurs font appel à un outil basé sur l'IA pour mettre en quarantaine le discours haineux afin d'éviter de passer par la censure et donner à l'utilisateur plus de contrôle

Des chercheurs ont mis au point Geneva, une IA capable de contourner la censure de l'Internet, en détectant les bogues et les lacunes dans le système de censure

Le concurrent chinois de ChatGPT bannit les utilisateurs qui demandent à l'IA des infos sur Xi Jinping et Winnie l'ourson, comment la Chine censure son chatbot pour éviter les questions gênantes

La Russie lance l'outil de surveillance par l'IA Oculus pour renforcer sa machine de censure, l'IA du Kremlin serait capable de passer au crible jusqu'à 200 000 images et vidéos par jour sur le Web

[Pazu12]

Attention, les livres c'est dangereux, parfois y'a des descriptions de scènes sexuelles !!! Et on a besoin de l'IA pour faire face aux potentiels dangers !
Bon par contre l'hyper sexualisation des filles sur insta/tiktok, et le porn gratuit full démocratisé sur n'importe quelle plateforme, ça ça va, tkt t'es pas en danger.

[Fleur en plastique]

Les livres c'est dangereux, par exemple y'a eu Mein Kampf.

[Madmac]

Attention, les livres c'est dangereux, parfois y'a des descriptions de scènes sexuelles !!!

Oui, il y a des livres qui n'ont pas leur place dans les bibliothèques du primaire. Les enfants de 8 ans n'ont pas besoin d'être des experts en fellation.

[Fleur en plastique]

Oui, il y a des livres qui n'ont pas leur place dans les bibliothèques du primaire. Les enfants de 8 ans n'ont pas besoin d'être des experts en fellation.

Non mais un peu de sérieux. Tu crois vraiment qu'il y avait des livres de ce genre ?

C'est juste qu'il y a eu une e-nième loi votée dans l'urgence suite à un fait divers qui, je suppose, punit d'une peine disproportionnée (genre 20 ans de taule) la présence d'un livre qui pourrait comporter la possible l'évocation d'une possibilité qu'une reproduction humaine ait eu lieu. Aux États-Unis, tout a toujours été à l'excès, donc les bibliothèques sont obligées de recourir à des mesures d'urgence, quitte à brûler tout un tas de livres en faux positif plutôt que de risquer la taule suite à une loi stupide.