Discussion :

[Anthony]

Google est poursuivi devant la Cour suprême pour son algorithme YouTube à base d'IA recommandant du contenu pro-ISIS aux utilisateurs, et violant la loi antiterroriste américaine, selon les plaignants

Les applications des réseaux sociaux d'aujourd'hui ne sont pas étrangères aux procès puisqu'elles sont constamment confrontées à l'un ou l'autre, mais cette fois-ci, l'affaire a été portée devant la Cour suprême. Un très grand nombre de personnes, allant d'entreprises à des internautes en passant par des universitaires et même des experts en droits de l'homme, ont pris la défense de la charge de la Big Tech dans une affaire portée devant la Cour suprême jeudi, qui concernait les algorithmes de YouTube. Cela a conduit certains à dire que le fait de retirer les algorithmes basés sur l'IA de l'éligibilité des lois fédérales de protection juridique entraînera des changements qui feront complètement basculer le monde de l'internet ouvert.

Le groupe qui fait pression sur le tribunal comprend de très grands noms du marché technologique comme Meta, Microsoft et Twitter, ainsi que certains des critiques les plus virulents de la Big Tech, dont Yelp et Electronic Frontier Foundation. Parallèlement, Reddit et certains de ses modérateurs qui se sont portés volontaires se sont également impliqués dans l'affaire.

La loi qui pourrait potentiellement faire pencher l'affaire en faveur des Big Tech est la section 230 du Communications Decency Act, qui stipule que tous les sites web sont protégés par cette loi et qu'ils ne peuvent être tenus pour responsables des contenus de tiers qui ont été partagés sur leur site web et qu'ils ne peuvent donc pas faire l'objet de poursuites judiciaires pour ces messages.

Mais, la question principale, dans ce cas, est de savoir si Google peut être poursuivi pour son algorithme YouTube recommandant du contenu pro-ISIS aux utilisateurs. Comme nous l'avons déjà dit, la Section 230 peut y remédier. Toutefois, les plaignants, qui sont la famille d'une personne tuée lors d'une attaque d'ISIS à Paris en 2015, ont fait valoir que la recommandation d'un tel contenu les rendait responsables d'une accusation en vertu d'une loi antiterroriste américaine. Mais le problème est que l'algorithme ne fait qu'afficher des recommandations basées sur ce que l'utilisateur a regardé précédemment et que l'algorithme est généré par l'IA qui, techniquement, ne connaît pas les droits et les torts de la société.

Reddit, qui s'est également impliqué dans cette affaire, a déclaré dans son dépôt que cette affaire, si elle s'avère être en faveur du plaignant, ouvrira la voie à de futures poursuites contre des formes de recommandations non algorithmiques et pourrait conduire à un procès ciblé contre des internautes individuels.

Il convient de mentionner que Reddit est une plateforme entièrement construite autour d'utilisateurs qui se recommandent mutuellement des choses pour leur bénéfice mutuel, ce qui pourrait donner lieu à des procès de propagande contre des individus particuliers.

Source : Cour Suprême

Et vous ?

Quel est votre avis sur le sujet ?
Selon vous, les entreprises technologiques devraient-elles être tenues responsables de l'usage de leurs algorithmes par les utilisateurs ?

Voir aussi :

Google averti la Cour suprême de USA que l'altération de l'article 230 de la Communications Decency Act pourrait ruiner Internet et déclencher des retombées dévastatrices
Le ministère US de la Justice poursuit Google pour dominance publicitaire et veut démanteler l'entreprise, ce qui pourrait nuire à sa capacité à fournir de la pub ciblée, selon Paul Gallant
Le Texas poursuit Google pour avoir prétendument capturé les données biométriques de millions de personnes sans leur consentement, Google Photos et la caméra Nest auraient permis cette collecte

[daerlnaxe]

Une question m'interpelle, car oui en effet c'est basé sur le contenu précédent mais c'est facile d'identifier aussi l'aspect violent... Ne serait ce pas d'avoir voulu "compenser" certains points de vue qui a poussé à être tolérant au point même d'aller conseiller du contenu pro-ISIS ?

Si je croise que Google s'est engouffré dans le point de vue très sectaire de ce qu'on appelle actuellement "woke" dans les médias FR et qui n'a rien à voir avec ce que woke était ou que d'autres nomment SJW avec le fait qu'il y a eu une volonté d'améliorer les IA jugées trop "blanches" et cette histoire... Je me dis que la question mérite d'être posée.

De la même manière doit on accepter de faire faire des exceptions aux IA sur les textes religieux violents au titre qu'ils sont religieux et qu'il y a liberté de culte. De mon point de vue soit l'IA filtre, soit elle ne filtre rien mais elle n'a pas à faire d'exceptions, d'autant que derrière ça amène à tromper l'utilisateur qui s'attend à un certain comportement mais se retrouve avec un autre.

Pour moi, IA, sport, technologies, sciences, il y a un devoir de neutralité absolue.