Discussion :

[Bill Fassinou]

Californie : un sénateur propose une loi imposant aux bots de révéler qu’ils ne sont pas des humains
Mais elle suscite la controverse

Depuis quelques années, une nouvelle tendance est apparue sur Internet : les bots informatiques. Ils sont de plus en plus exploités sur Internet. Sur les réseaux sociaux par exemple, Facebook a mis un magasin de bots à la disposition des utilisateurs pour que ceux-ci puissent s’en servir. L’évolution de la technologie faisant son petit effet, les bots sont devenus plus rapides et plus efficaces, et sont parfois difficiles à distinguer des humains. C'est ainsi que lors des dernières élections présidentielles aux USA et en France par exemple, les bots ont été utilisés sur les réseaux sociaux pour diffuser les fake news, dans le but d'influencer les opinions politiques.

C’est donc en réponse à ce problème que le sénateur américain Robert Hertzberg a émis une proposition de loi qui imposera aux bots de révéler aux personnes avec qui ils interagissent qu’ils ne sont pas des humains. Précisons que seuls les bots destinés à vendre des biens et des services ou à influencer les votes lors d’une élection sont concernés par la proposition de loi. Le texte de loi a été rédigé par Common Sense Media, un organisme à but non lucratif qui donne son avis sur l'âge minimal pour regarder des films et des émissions de télévision, en collaboration avec le Center for Humane Technology, un groupe d'anciens employés de grosses firmes technologiques.

Le fait que les bots soient si simples à créer et que les entreprises n’aient aucune obligation légale de s’en débarrasser justifie le fait qu’ils soient encore autant utilisés. Une loi sanctionnant leur utilisation pourrait s’avérer utile, mais les experts n’ont aucune idée des effets que celle proposée par le sénateur Hertzberg pourrait avoir.

Oren Etzioni, directeur général de l'Institut Allen pour l'intelligence artificielle, a fait remarquer qu’il approuvait entièrement l’esprit de la loi, mais que le texte en lui-même était très perfectible. « C'est une législation révolutionnaire », a-t-il déclaré. « Nous sommes sur une trajectoire où la réalité, le tissu même de l'information que nous voyons, peut être modifiée de façon inédite. Quand cela est fait, comme le dit la loi, avec l'intention de tromper, c'est un énorme problème », a-t-il poursuivi. Ajoutant cependant qu’on ne devait ni « faire deux poids, deux mesures » ni « mettre de mauvaises lois aux conséquences inconnues dans les livres », le directeur de l’institut Allen a mis en lumière le fait que le texte de la loi était problématique.

Madeline Lamo, une ex-laborantine du Tech Policy Lab de l’université de Washington, a déclaré que le libellé du projet de loi sur les bots « influençant un vote lors d'une élection » se heurtait au même problème qui a empoisonné les règlements sur le financement des campagnes et les lois sur les discours liés aux élections. « Dans la mesure où les bots ont eu une emprise sur les opinions politiques, ils ont agi à grande échelle, avec des milliers de comptes automatisés travaillant pour diffuser une gamme diversifiée de messages ». Il est difficile d'imaginer, a-t-elle dit, que l’obligation d’identification de quelques comptes dans un seul Etat aurait un effet remarquable sur les bots à l’échelle mondiale.

Interrogés sur la question, ni le sénateur Hertzberg ni le directeur général de Common Sense Media n’ont semblé trop préoccupés par les critiques que leur proposition de loi essuyait. Mais il faut préciser qu’après qu’ils aient été interviewés et que les comités de l’assemblée aient examiné le projet, le contenu de celui-ci a considérablement changé. La définition de « bot » s’est faite plus précise passant de « compte en ligne » à « compte en ligne automatisé sur une plateforme en ligne ». Cette loi est encore un autre symbole de la difficulté que cela représente pour les législateurs d’élaborer des lois répondant efficacement aux problèmes auxquels les utilisateurs sont confrontés sur Internet.

Source : Brisbane Times, California legislative information

Et vous ?

Qu'en pensez-vous ?
Quel effet une telle loi pourrait-elle avoir sur l'utilisation des bots ?
Cela va-t-il contribuer à lutter efficacement contre les fake news ?

Voir aussi

Fortinet publie un rapport sur l'écosystème des menaces informatiques au T1, les cybercriminels préfèrent le cryptojacking aux ransomwares

Microsoft annonce avoir fait l'acquisition du spécialiste de bots informatiques Wand Labs pour accélérer sa stratégie Conversation as a Platform

Des experts en sécurité mettent fin à Grum le troisième botnet de spam mondial

Microsoft met à jour la plateforme de chatbots de Skype et ajoute le support du chat en groupe et les cartes visuelles

Le Parlement européen adopte le rapport sur la robotique en écartant les questions d'impôt sur le travail des robots et de revenu universel de base

[supergeoffrey]

Ce n'est pas une bonne chose.
Quand les boots simulent les comportement humains, c'est pour ne pas se faire piéger.

L'exemple le plus fréquent :

Google boot fait plusieurs appel HTTP une fois en disant que c'est lui, des fois en le cachant.
Il compare fortement les différences entre ses deux appels, afin d'éviter les publicités intempestive...

Dans le cas de cette loi, il ne pourra plus le faire. Du coup les résultats sur google pourront être trompé sur leurs contenu...

[pmithrandir]

Ce n'est pas une bonne chose.
Quand les boots simulent les comportement humains, c'est pour ne pas se faire piéger.

L'exemple le plus fréquent :

Google boot fait plusieurs appel HTTP une fois en disant que c'est lui, des fois en le cachant.
Il compare fortement les différences entre ses deux appels, afin d'éviter les publicités intempestive...

Dans le cas de cette loi, il ne pourra plus le faire. Du coup les résultats sur google pourront être trompé sur leurs contenu...

Dans ton exemple de google bot, on a un robot qui communique avec un serveur.
C'est assez different d'un bot déstiné à communiquer avec des humains.

[Saverok]

Ce n'est pas une bonne chose.
Quand les boots simulent les comportement humains, c'est pour ne pas se faire piéger.

L'exemple le plus fréquent :

Google boot fait plusieurs appel HTTP une fois en disant que c'est lui, des fois en le cachant.
Il compare fortement les différences entre ses deux appels, afin d'éviter les publicités intempestive...

Dans le cas de cette loi, il ne pourra plus le faire. Du coup les résultats sur google pourront être trompé sur leurs contenu...

Il faut lire l'article en entier :

Précisons que seuls les bots destinés à vendre des biens et des services ou à influencer les votes lors d’une élection sont concernés par la proposition de loi.

Les bots d'indexations ne sont donc pas concernés par cette proposition de loi.

[Ryu2000]

C'est ainsi que lors des dernières élections présidentielles aux USA et en France par exemple, les bots ont été utilisés sur les réseaux sociaux pour diffuser les fake news, dans le but d'influencer les opinions politiques.

L'influence des bots lors des dernières élections présidentielles aux USA est grandement exagéré...
C'est un peu prendre des gens pour des cons, les étasuniens ont vu des publications sur Twitter alors ça leur a donné envie de voter Trump ?!
Alors que l'ensemble des journaux, des radios, des chaines TV, des stars, des politiciens étaient pro Hillary...

Il y a une propagande beaucoup plus forte que l'autre et elle ne se fait pas attaquer.
Ce serait marrant que Trump se fasse réélire malgré toutes les dispositions prise pour empêcher la diffusion d'informations qui vont dans son sens.

[franceinsoumise]

tres bonne initiative, cela apportera plus de transparence dans notre monde, chose dont on a bien besoin.

J'ai arreter de m'indigner devant la propagande de bot pro Macron et pro Hillary.
Sans ces bots, aujourd'hui ce serait bien JLM au pouvoir et Trump aux USA avec une bien meilleur popularité.

La propagande est partous, mais surtout la ou la voit le plus (situation de normalité)
Quand je vois mon partis moins bien vue par les francais que le FN je ne comprend pas, ou encore Trump accusé de tous les noms par les journalistes a chacune de ces lois par des journalistes vendeur de peur

On a la même chose en France, des que quelqu’un souhaite quitter l’Europe, on a le même blabla de capitaliste lobotomisé qui nous vendent de la peur et mème carrément de la haine (je ne relèverais les messages haineux de Macron,Fillon ou Sarkozie) comme par exemple ceux de l'actuel "président" :

Le meilleur moyen de se payer un costard, c'est de travailler
Dans une gare, on croise des gens qui réussissent et des gens qui ne sont rien

c'est juste pour attiser la haine envers les plus nécessiteux.

Les bots sont un fléau, c'est eux qui nous pompe des disocurs capitalistes ou néo nazis, qui nous dise que l’Europe c'est bien, qu'il ne faut pas accueillir de réfugiées...
un exemple de bot celui de twitter
https://motherboard.vice.com/en_us/a...n-transactions

le monde se porterais bien mieux sans les bots de communication avec un humain

Et je ne parle même pas des bots qui automatise et nous vole notre travail, qui crée des situations précaire, du chômage de masse et donc de la haine et de la violence, cela nourris l’extrême droite et attise la haine envers nos amis les arabes, les réfugiées et les roms.

[Ryu2000]

J'ai arreter de m'indigner devant la propagande de bot pro Macron et pro Hillary.

Ce n'est pas sympa d’appeler les journalistes mainstreams des "bots".
Ils sont humain, même si leur job consiste à recopier des articles.

Quand je vois mon partis moins bien vue par les francais que le FN

Ils ont fait des études la dessus ?
Parce qu'il ne me semble pas que quelque chose fasse plus peur aux français que le FN.
C'est quand même l’épouvantail absolu, "ça rappelle les heures les plus sombres de l'Europe" et toutes ces conneries...
Je pense qu'un second tour FN / FI, se terminerai avec une victoire de FI.
Si Melenchon avait accepté de s'allier à Hamon il serait peut être au pouvoir à la place de Macron.

On a la même chose en France, des que quelqu’un souhaite quitter l’Europe

Ce serait un gros chantier de déplacer un pays d'un sous-continent.
Par contre quitter l'UE ça peut se faire.

le monde se porterais bien mieux sans les bots de communication avec un humain

Bof, c'était déjà la merde dans le monde bien avant l'apparition des bots.
Les bots n'y sont pour rien dans la crise économique de 1907 ni dans la krach de 1929 ni dans la crise de 2008.

Et je ne parle même pas des bots qui automatise et nous vole notre travail, qui crée des situations précaire, du chômage de masse

Le chômage était déjà là avant l'automatisation.
C'est un progrès technologique, on créera de nouveaux jobs, pour l'instant on a aucune idée de ce que ça pourrait être, mais on finira peut être pas trouver ce que pourront faire les humains dans le futur.

[CoderInTheDark]

Laissez les vivre "touche pas à mon bot"
Il faudra peut être faire comme Harrison Ford dans "Blade runner"et faire passer des testes pour s'assurer qu'on on est pas
fave à un bot,bref c'est un catcha.
J'aimerai bien en avoir un de catcha sur mon téléphone et si ils pouvait bloquer les télévendeurs et cie

Pourquoi Hillary à perdu, à mon minable avis
- c'est une femme, ils sont progressistes aux USA, mais ils ont aussi leurs limites rétrogrades Ils se sont pas encore prets. Et nous aussi à qaund un noir à l'Elysé ou à Matignon ?
- elle représentait l'ordre établi, les meilleurs qui nous envoyés dans le mur, alors pourquoi ne pas voter pour une grosse tâche au moins on sera pourquoi on est dedands jusqu'au cou
- Après la dynastie Bush-il y a un frère en embuscade), les Clinton avec la fille aussi en zmbuscade

Lors de nos élection, c'était à Hamon d'abdiquer face au désastre annoncé. "Chronique d'une mort du PS annoncé".
Et c'est la deuxième fois et sûrement pas la dernière.

A force de nous prendre pour des cons, et d'agiter le chiffon rouge du FN, vvous devez voter pour la démocratie.
Me suis fait bien avoir en 2002 et je ne me suis pas déplacé au 2ème tour la dernière foi
On peut me taxer d'irresponsable, je n'étais pas favorable aux manifestations.
Mais quand j'ai entendu Juppé au soir du second tour, j'ai été dégoûté par cette récupération
Et les moutons d'électeurs de voter pour l'UMP
Et surtout que cet crapule ne soit pas en prison, qu'il a bafoué la démocratie en refusant le débat.
Pourquoi ? Car l'autre lui aurai parlé de ses casseroles de ses contradictions "le brit et l'odeur" "les faux électeur", "les avions renifleurs", "son château qu'il a fait classer", "de la mairie de Paris".
C'est en partie a cause de politiques comme lui si la maison démocratie brûle

Cetteligne ressemble à De Gaulle "C'est moi ou le chao".
Un jour on optera pour le caho le vrai.
Ce qui est le plus tragique, est que si les bots font les élections ils font de nous des pantins et qu'on est plus lobotomisé que l'on croit

[Saverok]

Ce qui est le plus tragique, est que si les bots font les élections ils font de nous des pantins et qu'on est plus lobotomisé que l'on croit

Faut pas exagérer non plus.
Il est certains que les bots, comme d'autres facteurs, influencent dans une certaine mesure les élections.
Reste maintenant à mesurer cette influence et là, y a pas 2 études qui avancent les mêmes chiffres donc difficile de savoir le nombre de points attribuables aux bots.

Par contre, croire qu'on est un esprit hermétique à toute influence extérieure est illusoire.
Personne n'est totalement un libre penseur.
Nous sommes tous influencés par une multitude de choses (famille, amis, presse, environnement, réseaux sociaux, etc, etc, etc) et ça n'a rien de mal pour autant car sans cela, il n'y aurait pas de construction d'idées et les gens n'évolueraient jamais car chacun serait persuadé de détenir la seule et unique vérité.
Au contraire, on subit / vit des interactions en permanence qui nous impactent plus ou moins profondément (consciemment ou non) et c'est ainsi qu'on évolue et qu'on se forge nos opinions.
Est-ce que ça fait de nous des moutons pour autant ?

[CoderInTheDark]

Au contraire, on subit / vit des interactions en permanence qui nous impactent plus ou moins profondément (consciemment ou non) et c'est ainsi qu'on évolue et qu'on se forge nos opinions.
Est-ce que ça fait de nous des moutons pour autant ?[/QUOTE]

Au sujet de l'Irak et des armes de destructions massives Bush avait déclaré "L'effet du mensonge l'emporte sur la vérité".
Le bot qui va pouvoir faire sonner la bonne corde sensible de ses victimes, qu'il aura bien identifié, classé pour personnalisé sa propagande.
S'il arrive a influencer le petit pourcentage qui peut nous précipiter dans l'abîme c'est dangereux
Ma manipulation ce n'est pa nouveau.


Même si j'espère que nos concitoyens ne sont pas des moutons.
Je désespère de plus en plus de mon prochain

En 2002 comment le FN est passé.
Le PS et le RPR//ULP/Les républicains/bientôt un nouveau nom ont joué avec le feu à savoir le FN
Ils espéraient que le Fn aspirait les voix de l'autre.
Mais très vites la politique de la peur, a profiter à la droite.
Il n'y avait que Jospin pour ne rien voir
Les JT passaient en boucle des reportages sur l'insécurité
Tout le monde se sentait en insécurité, et avait peur et en parlait.
Tout le monde accusait le gouvernement et surtout la gauche d'être trop laxiste, il fallait une réponse forte.
Un boulevard pour le FN
Mais quand on demandait aux gens on se rendait compte que personne n'avait été confronté à un danger , à part à la télévision.

Le coup de grâce a été l'agression de papi Voise la veille des élections
Une affaire arrangé pour faire pencher la balance
Ca c'est de la manipulation à l'ancienne, pas besoin de bots.
Comme Hitler qui accusait les tchèques et les polonais d'opprimer les minorités allemande fragiles.
Le prétexte de vouloir défendre le faible a souvent été efficave.

Les bots ne feront ou ne déferont pas une élection à eux seul, je ne suis pas aussi naïf.
Mais ils sont une arme supplémentaire contre la démocratie
Et c'est pourquoi il faut s'en méfier

[Luckyluke34]

Très bonne idée qui aura au moins le mérite de pointer du doigt les marchands qui remplacent un vrai service clientèle par une IA souvent aux fraises. J'espère qu'on y viendra en Europe.

[Invité]

A voir la qualité de certains tchats en ligne, il faudra aussi une loi imposant aux humains de révéler qu'ils ne sont pas des bots

-VX

[Ryu2000]

il faudra aussi une loi imposant aux humains de révéler qu'ils ne sont pas des bots

Ça s'appelle un Test de Turing.

[Invité]

Ça s'appelle un Test de Turing.

+1

[Christian Olivier]

La Californie adopte une loi qui interdit aux bots de se faire passer pour de vraies personnes
Et les oblige à révéler leur identité

L’État de Californie s’est récemment démarqué aux États-Unis après l’adoption par cet État d’une loi visant à rétablir la neutralité du réseau sur son territoire et l’approbation de cette mesure par son gouverneur Edmund Gerald Brown, une décision qui a immédiatement fait l’objet d’une poursuite du ministère de la Justice. Cette loi interdit aux fournisseurs de services à large bande de ralentir ou de bloquer des sites Web, tout en imposant des frais plus élevés pour des débits Internet plus rapides.

Le gouverneur de l’État de Californie a signé un autre projet de loi qui a, cependant, moins retenu l’attention des médias. Celui-ci interdit aux comptes automatisés, communément appelés robots, de faire semblant d’être de vraies personnes dans le cadre de la vente de produits ou d’influencer les élections. Les comptes automatisés peuvent encore interagir avec les Californiens, selon la loi, mais ils devront révéler qu’ils sont des bots (des agents logiciels qui exécutent des tâches automatisées sur Internet).

La signature de cette seconde loi intervient dans un contexte sécuritaire particulier aux États-Unis qui est marqué par des soupçons prononcés d’ingérence étrangère dans le système électoral étasunien à l’approche des élections de mi-mandat de 2018. Une grande partie des efforts du gouvernement US menés dans le but de minimiser ce risque sécuritaire a été de cibler les bots qui servent de vecteurs à la désinformation et la rhétorique politique de division.

À ce propos, on peut rappeler que le mois dernier, les responsables des géants américains d’Internet et des réseaux sociaux, que sont Facebook, Twitter et Google, ont été convoqués par le Congrès US. Cette audition visait à prendre connaissance des avancées réalisées en matière de cybersécurité et de lutte contre les fausses informations par chacun de ces acteurs afin de limiter les risques liés à la survenue d’éventuelles nouvelles ingérences étrangères dans le processus électoral du pays.

Robert Hertzberg, un sénateur de l’État de Californie, fait partie des fervents défenseurs de la loi « anti-bots » signée par Edmund Gerald Brown. Hertzberg a déclaré au New York Times qu’il avait fait l’objet d’une attaque de bot et qu’il s’est résolu plus tard à combattre le feu par le feu ou plutôt les bots par les bots en lançant @Bot_Hertzberg en janvier sur Twitter. Et, selon la loi californienne, le compte automatisé de Hertzberg est tenu de divulguer sa nature, ce qu’il fait en ses termes :

« Les comptes automatisés comme le mien sont faits pour désinformer et exploiter les utilisateurs. Mais contrairement à la plupart des robots, je suis transparent sur le fait d’être un robot. »

Alors que le terme « bot » pourrait encore à ce stade être perçu comme une notion péjorative, il ne faudrait pas oublier que ces programmes automatisés sont essentiels au fonctionnement d’Internet. Tony Veale, professeur agrégé d’informatique à l’University College de Dublin, estime d’ailleurs que le monde nuancé des robots et leur potentiel ne reçoivent peut-être pas l’attention qu’ils méritent.

Veale est le co-auteur de « Twitterbots : Making Machines that Make Meaning », un livre publié en septembre qui explore le monde des robots et offre même un guide sur la façon de les fabriquer. Le livre explore les différentes manières dont les machines peuvent être utilisées comme un exutoire pour la créativité.

Le co-auteur de Veale, Mike Cook, chercheur principal à l’Université de Falmouth, au Royaume-Uni, a déclaré que le fait de donner aux gens une meilleure idée de la façon dont les robots sont fabriqués peut aider le public à se protéger contre les robots malveillants.
« Je pense qu’il y a un argument selon lequel la maitrise de cette technologie nous aide à nous défendre un peu contre elle », dit Cook.

Source : NBC News

Et vous ?

Qu’en pensez-vous ?

Voir aussi

Google Duplex, le système d'IA pour les échanges téléphoniques, est si réaliste, que Google envisage qu'il se présente au début d'une conversation
Ingérence étrangère dans les élections US de 2016 : 12 officiers russes accusés d’avoir piraté le Comité national démocrate et la campagne Clinton
IoT : la Californie est sur le point de prendre une loi pour réglementer les objets connectés et deviendra ainsi le premier État américain à le faire
L'IA peut être facilement induite en erreur par des attaques contradictoires, devrait-on s'en inquiéter ?

[joublie]

Cette loi me semble une bonne chose pour aider à mettre en éveil le sens critique des utilisateurs. Mais voyons plus grand : à quand une loi obligeant à se démasquer les personnes physiques payées pour influencer des discussions de toute nature, une loi obligeant à préciser qui emploie ces personnes (entreprises privées, fonction publique, ONG, etc.) ? Ce serait assez instructif.