Discussion :

[Ludovic Barry]

Big data : la Chine a commencé à tester son système national de crédit social
et menace de priver les citoyens mal notés de certains services de base

C'est en 2014 pour la première fois que le gouvernement chinois a annoncé son projet de « système de crédit social » visant à mettre en place un système national pour noter ses citoyens. En effet, ce projet consiste à attribuer une note à chaque citoyen, fondée sur les données dont dispose le gouvernement sur les Chinois. Le système repose sur un outil de surveillance de masse et utilise les technologies d'analyse Big Data. Il permet aussi de noter les entreprises opérant sur le marché chinois.

Le système devra être pleinement opérationnel en 2020, mais il est déjà testé sur des millions de personnes. À l'instar des scores de crédit privé, le score social d'une personne peut augmenter ou diminuer en fonction de son comportement. Il peut notamment baisser en cas d'infractions comme la mauvaise conduite routière, le tabagisme dans les zones non-fumeurs, l'achat d'un trop grand nombre de jeux vidéo et l'affichage de fausses nouvelles en ligne. La méthode d'attribution des scores reste toutefois secrète.

Ce programme peut à la fois récompenser ou sanctionner le citoyen, mais pour l'heure, les sanctions auxquelles est exposé le citoyen sont effrayantes, portant atteinte à ses besoins fondamentaux. Comme sanctions, nous pouvons citer entre autres l'interdiction de prendre l'avion ou le train. En effet, se basant sur les statistiques officielles, Channel News Asia affirme que neuf millions de personnes ayant de faibles notes se sont vu refuser le droit d'acheter des billets d'avion pour les vols sur le territoire.

Comme autres sanctions, le bannissement ou le non-accès aux meilleures écoles. En effet, selon Beijing News, dix-sept personnes ayant refusé d'effectuer le service militaire l'année dernière ont été interdites de s'inscrire dans l'enseignement supérieur, de demander une inscription à l'école secondaire ou de poursuivre leurs études. De plus, les personnes au crédit social faible n'auraient pas le droit d'inscrire leurs enfants dans certaines écoles privées.

En outre, l'interdiction d'exercer des fonctions de direction dans les entreprises d'État et les grandes banques est possible dans le cas de certains crimes comme la fraude et le détournement de fonds. Aussi, les entreprises pourront consulter une liste noire avant d'embaucher des personnes ou de leur donner des contrats, ce qu'encourage le gouvernement. Toutefois, les personnes seront avisées par les tribunaux avant d'être ajoutées à la liste et pourront faire appel de la décision dans les dix jours suivant la réception de l'avis.

Sources : Businessinsider

Et vous ?

Qu'en pensez-vous ?

[marsupial]

Proprement hallucinant. Comme je l'ai dit sur le fil FB, il existe tellement mieux à faire de la data science qu'un instrument de pouvoir. Bienvenue dans le monde fantastique de l'IA vu par les êtres humains. Pour le coup, Cambridge Analytica, c'est de la petite bière en comparaison.

[vayel]

sa me rappelle un épisode de black mirror, cela vas faire une société peuplé que de faux cue qui se font bien voir pour avoir la note de 5/5

En outre, l'interdiction d'exercer des fonctions de direction dans les entreprises d'État et les grandes banques est possible dans le cas de certains crimes comme la fraude et le détournement de fonds.

la seul chose positif de l'article


Mais je pense pas qu'un tel système pourra se mettre en place, car dans ce cas n'importe qui y compris les personnes qui gouvernement pourraient passer de 5/5 à 0/5, suffit d'une affaire come l'affaire Cahuzac, l'affaire Fillon, l'affaire des paillotes... et hop la chaise électrique ?

Ce projet est voué a l’échec comme le communisme de Mao. L'élite chinoise quittera le pays et ira se réfugier dans la jungle de calais, les entreprises étrangère refuserons d’être noté et délocaliserons en thailande/vietam ou même ne Afrique. La chine deviendra l'urss, un pays pauvre peuplé de clodo.

[Neckara]

Laissez-moi deviner... les opposants politiques perdent des points et ceux qui les dénoncent en gagnent ?

[JackIsJack]

J'ai hâte de voir ce que cela va donner ; c'est un laboratoire social à MEGA-échelle.

Les gens vont-ils devenir fous ?
L'économie va-t-elle être boosté par le système de point ?
Va-t-on voir apparaître de la fraude ?
Va-t-on voir l’émergence d'une classe supérieure qui triche ? à l'instar des autres systèmes globalisants (type communisme...)
Ce système peut-il révolutionner la relation entre "état et individu" ? (genre l'état impose une règle : -100 points à tout ceux qui ne trient pas leur déchet ; et bim, en 1 mois, tout le pays est clean.)
Va-t-on voir des véritables "castes" apparaître ? La caste des gens entre 0 et 200, entre 201 et 400...

Mine de rien, ils sont couillus les chinois.
En Europe, avec la règlementation RGPD on devient frilleux avec tout, y compris des données qui ont des dommages quasi-nulles sur nos vies.
Et eux, ils font ça. ..
Je n'ai jamais vu deux courants de pensées aussi contraire dans le monde du numérique.

[sergio_is_back]

Facebook en avait rêvé... Pékin l'a fait....

Ok je sors

[wolinn]

...
la seul chose positif de l'article

Mais je pense pas qu'un tel système pourra se mettre en place, car dans ce cas n'importe qui y compris les personnes qui gouvernement pourraient passer de 5/5 à 0/5, suffit d'une affaire come l'affaire Cahuzac, l'affaire Fillon, l'affaire des paillotes... et hop la chaise électrique ?

Ce projet est voué a l’échec comme le communisme de Mao. L'élite chinoise quittera le pays et ira se réfugier dans la jungle de calais, les entreprises étrangère refuserons d’être noté et délocaliserons en thailande/vietam ou même ne Afrique. La chine deviendra l'urss, un pays pauvre peuplé de clodo.

En fait, cela existe déjà en France, mais ne concerne pas les postes de direction : il ne doit pas être très facile de travailler dans une banque ou une administration avec une condamnation pour escroquerie dans son casier judiciaire.
Pour le reste, nous sommes déjà noté pendant toute notre vie, à l'école, au travail (et même sur certains forums ), les entreprises le sont aussi, sur des critères variés, et même les Etats. Ce qui est éventuellement dangereux ici est la centralisation de l'information.

[Ryu2000]

sa me rappelle un épisode de black mirror, cela vas faire une société peuplé que de faux cue qui se font bien voir pour avoir la note de 5/5

C'est peut être Nosedive (Saison 3 - Episode 1) :

En Europe, avec la règlementation RGPD on devient frilleux avec tout, y compris des données qui ont des dommages quasi-nulles sur nos vies.
Et eux, ils font ça. ..
Je n'ai jamais vu deux courants de pensées aussi contraire dans le monde du numérique.

C'est une autre civilisation, une autre façon de vivre, une autre philosophie.

Mais du point de vue occidental, ils font un gros truc bien dystopique, on croirait vraiment de la science fiction et ça fait vraiment peur.
Mais au moins là c'est officiel, ce n'est pas caché.
En France ou en Belgique on peut perdre son emploi, parce qu'on aime une "mauvaise" chose.

Peut-on perdre son emploi après avoir "liké" certaines publications sur Facebook?

Un comptable s'est vu remercier par son employeur après avoir "liké" des posts du polémiste Dieudonné.

Il réalise une quenelle et perd son travail

Pour avoir posé sur le réseau social Instagram en faisant une quenelle, un geste popularisé par l'humoriste Dieudonné, Nabil, un éducateur de 26 ans employé par la mairie de Ferrières-en-Brie (Seine-et-Marne) a été contraint à la démission au début du mois de décembre, explique Rue89.

Aujourd'hui, en France, il existe un délit d'opinion, qui peut te faire black-lister.
C'est quand même grave.

Il peut notamment baisser en cas d'infractions comme la mauvaise conduite routière, le tabagisme dans les zones non-fumeurs, l'achat d'un trop grand nombre de jeux vidéo et l'affichage de fausses nouvelles en ligne.
(...)
Channel News Asia affirme que neuf millions de personnes ayant de faibles notes se sont vu refuser le droit d'acheter des billets d'avion pour les vols sur le territoire.
(...)
En effet, selon Beijing News, dix-sept personnes ayant refusé d'effectuer le service militaire l'année dernière ont été interdites de s'inscrire dans l'enseignement supérieur, de demander une inscription à l'école secondaire ou de poursuivre de leurs études.
(...)
En outre, l'interdiction d'exercer des fonctions de direction dans les entreprises d'État et les grandes banques est possible dans le cas de certains crimes comme la fraude et le détournement de fonds. Aussi, les entreprises pourront consulter une liste noire avant d'embaucher des personnes ou de leur donner des contrats, ce qu'encourage le gouvernement.

L'achat d'un trop grand nombre de jeux vidéo c'est n'importe quoi...
Ils risquent d'avoir un problème si ils achètent un Humble Bundle ?
L'affichage de fausses nouvelles c'est le pire de tout, ça veut dire qu'il y a une façon de penser et si tu ne penses pas comme la propagande officielle, tu vas te faire mettre à l'écart...
Macron essaie de lutter contre ceux qui pensent différemment également, le délit d'opinion existe en 2018 en France.

Punir ceux qui ont des mauvaises notes, c'est bien une mentalité asiatique.

Ça doit un peu motiver à être un bon élève et faire son service miliaire comme tout le monde.

Punir les politiciens qui ont fraudé c'est cool.
La liste noire avant d'embaucher ça craint...

======
La technologie a apporté la surveillance de masse.
Les entreprises et les gouvernements veulent fliquer leur population et les forcer à "bien" penser.
C'est fini la liberté, ça n'existe plus...
Tu dois te conformer, sinon le système te mettra à l'écart.

On vit dans une sale époque, et ça va empirer.
Si ça continu comme ça, un jour on aura un implant dans le cerveau et toutes nos pensées seront directement analysée par une IA...
Déjà qu'aujourd'hui tout ce qu'on écrit numériquement se retrouve dans une base de données...

[ymoreau]

Voilà donc vers quoi tend la société moderne ? Les auteurs d'anticipation seraient à la fois fiers de leur exactitude et désolés qu'on ne les ai pas compris en les lisant (ou qu'on ne les ait pas assez lus sans doute).

La Chine ne fait pas dans la demi-mesure, c'est quasiment surréaliste... Mais n'oublions pas qu'une dizaine d'années en arrière Sarkozy mettait en place un système de dossier pour détecter au plus tôt les enfants susceptibles de devenir délinquants et les surveiller de plus près. C'est plus discret comme approche mais le principe est globalement le même à long terme : classer les gens et les cloisonner, garder les moutons dans l'enclos, le berger dans son château et le reste derrière les barrières à survivre dans la forêt.
Quand on voit les études qui sont faites sur les stéréotypes et l'impact qu'ils ont sur ceux qu'ils ciblent, on voit bien que les solutions des politiciens ne nous mènent pas dans la bonne direction.

[onilink_]

C'est triste, mais j'imagine qu'il faut bien qu'un état le fasse un jour pour qu'on puisse évaluer les conséquences réelles.
Avec de la chance ce sera désastreux et ça coupera l'envie aux autres états de faire la même, même si malheureusement j'imagine que ce sera bien plus vicieux.

Surtout qu'on a déjà l'exemple des US chez qui une preuve empirique n'a pas l'air de faire avancer les choses (les armes a feu par exemple).

L'humain est vraiment con.

[hotcryx]

La Chine a ouvert son 1er syndicat (lol)

C'est en 2014 pour la première fois que le gouvernement chinois a annoncé son projet de « système de crédit social » visant à mettre en place un système national pour noter ses citoyens. En effet, ce projet consiste à attribuer une note à chaque citoyen, fondée sur les données dont dispose le gouvernement sur les Chinois. Le système repose sur un outil de surveillance de masse et utilise les technologies d'analyse Big Data. Il permet aussi de noter les entreprises opérant sur le marché chinois.

Science-fiction qui devient bien réel.

[hotcryx]

C'est triste, mais j'imagine qu'il faut bien qu'un état le fasse un jour pour qu'on puisse évaluer les conséquences réelles.

Après le 1er mariage gay, l'euthanasie, la city parade et autres pervertions du genre, la Belgique a raté l'occasion d'être le pays qui testerait cette nouvelle abomination à échelle réduite.
[Non ce n'est pas un troll - This is not a troll]

[G'Optimus]

Qu'est que c'est ce système esclavagiste . Ses gens prennent les gens pour quoi ?

[Ryu2000]

C'est triste, mais j'imagine qu'il faut bien qu'un état le fasse un jour pour qu'on puisse évaluer les conséquences réelles.

Ouais tu parles...
Pour lutter contre un problème, un jour des puissants diront "Si on avait un système de point comme en Chine on pourrait stopper les terroristes avant qu'ils n'agissent".
On peut changer "terroristes" par autre chose selon le contexte.
Christophe Barbier : "Ça se régule aussi Internet... Les Chinois, ils y arrivent bien !"

Il y a des gens qui sont scandalisé par la violation de la vie priée, la surveillance, etc. Et il y a des gens qui trouvent ça chouette "Si on pouvait mettre des bâtons dans les roues de ceux qui ne pensent pas comme nous, ce serait chouette".

Surtout qu'on a déjà l'exemple des US chez qui une preuve empirique n'a pas l'air de faire avancer les choses (les armes a feu par exemple).

Il existe d'autres pays au monde où l'accès aux armes est également simple et pourtant il n'y a pas les conséquences qu'il y a aux USA.
Faut arrêter de croire que : Arme facile d'accès = Des milliers de tué par balle.
C'est pas le seul facteur qui joue dans l'équation...
Au Canada ou en Suisse il y a beaucoup de gens armé et il y a beaucoup moins de mort par balle.

L'humain est vraiment con.

En fait c'est les pires qui prennent le pouvoir, c'est ça le problème.

Ceux qui sont atteint de psychopathie sont doué en manipulation, ils n'éprouvent pas de remords et manque de "comportement humain", du coup ils sont parfait pour être banquier, politique, etc.
Le problème des humains c'est leur élite, ils ont laissé le pouvoir aux gens les moins "humain".
Et peut être que ça marche aussi dans l'autre sens aussi : au début t'es gentil et à force de monter les échelons tu te fais corrompre et tu deviens pourri.
Parce qu'à force de fréquenter l'élite t'as de quoi devenir taré...

Il y a des multinationales qui produisent des catastrophe et qui n'en ont rien à foutre (Monsanto-Bayer, Goldman Sachs, JP Morgan).
Pour leur profit et leur intérêt ils seraient prêt à faire n'importe quoi, tuer des millions de personnes, etc.
Il y a des interventions militaire en Afrique, ou c'est des occidentaux renversent un pouvoir pour mettre en place un pantin qui va collaborer avec un pays de l'occident.

Là ce ne sont pas la masse des chinois qui demande "S'il vous plait punissez-nous si on ne respect pas le protocole. On a très envie d'être surveillé dans tout ce qu'on fait".

Toutes les pires choses de l'histoire (génocide des natifs Américain, génocide des aborigènes d'Australie, l'esclavage, etc) ce ne sont pas des grands mouvements populaire, les étasuniens n'étaient pas là à se dire "Il faudrait balancer de l'agent orange sur les vietnamiens" en fait le peuple est souvent contre la guerre.

Les crises, les guerres, la surveillance viennent de l'élite, la superclasse qui dirige, les gros patrons, les médias, les banquiers, les politiques.
Là on le voit bien avec les GAFA, ils font tout pour maximiser leur profit, ils vont vendre les données personnelles, ils vont faire de l'évasion fiscale, ils vont éxploiter des pauvres dans leur usine, etc.

Politiquement on se dirige vers un système plus totalitaire.
Les gouvernements veulent stopper la résistance avant qu'elle prenne des proportions trop grande.
Les gouvernements ont peur de leur propre peuple on dirait.
Quand on voit Macron parler de lutte contre les fakes news ça fait peur.

[Invité]

Dans certains cas un tel système de notation est une excellent chose !

Lutter contre de la fraude , détecter des usurpations d'identités , mettre sous surveillance des individus dangereux .

Quand on sait qu'en France les usurpations d'identités et la fraude aux prestations sociales explosent ... je ne demande pas mieux comme système .

Après il est vrai que la chine n'est pas systématiquement un exemple sur tout les points

[DevTroglodyte]

C'est rare que je sois d'accord avec Ryu...

Qu'est que c'est ce système esclavagiste . Ses gens prennent les gens pour quoi ?

Pour une ressource, pas pour des gens. Et une ressource qui se révolte, c'est problématique. Du coup, ils l'ont mise sous surveillance constante, et là ils la contrôlent.

[Itachiaurion]

Parfois ont aimerais se reveiller et se dire que c'est un cauchemars. Qu'il n'y a ai pas de glandu pour cité la chine comme exemple sur le contrôle de l'internet, que ce pays ne devienne pas un "phare" pour tous les politiques du genres qui trouverais ça sympa pour lutter contre le terrorisme, tout ça au nom du bien de tous:

Sauf que c'est la réalité et qu'on va se la prendre en pleine figure... Et après on se demande pourquoi ça fait pas envie.

[Saverok]

Quand on sait qu'en France les usurpations d'identités et la fraude aux prestations sociales explosent ... je ne demande pas mieux comme système .

On n'a pas besoin d'un système de surveillance de masse à la chinoise pour résoudre ces sujets.

Pour les fraudes aux prestations sociales, il faut tout d'abord un peu de volonté de courage politique pour tout remettre à plat car c'est un bordel sans nom et mettre en place un système dégressif pour ne plus avoir le phénomène de pallier comme on l'a actuellement.
Rien qu'avec ça, les gens frauderont moins car y aura moins à gagner à frauder (en raison de la dégressivité) donc beaucoup ne prendront plus le risque.
Et pour ce qui reste, on renforce les contrôles (très impopulaire comme sujet et raison pour laquelle tous les politiques de gauche comme de droite se sont tjrs refusés à le faire et c'est aussi une raison pour laquelle les fraudes sont si nombreuses).

Pour ce qui est des usurpations d'identité, il existe déjà tout un arsenal juridique pour ça mais aucun moyen n'a été mis en face pour le mettre en application.
Donc on commence par appliquer ce qui existe déjà et rien qu'avec ça, les choses devraient évoluer dans le bon sens.

[Ryu2000]

Parfois ont aimerais se reveiller et se dire que c'est un cauchemars. Qu'il n'y a ai pas de glandu pour cité la chine comme exemple sur le contrôle de l'internet, que ce pays ne devienne pas un "phare" pour tous les politiques du genres qui trouverais ça sympa pour lutter contre le terrorisme, tout ça au nom du bien de tous

La Chine n'est pas leader dans la surveillance, aux USA la NSA, le FBI, la CIA ont accès à toutes les informations de tout le monde depuis longtemps...
La différence c'est que la Chine l'annonce et veut faire un système de point qui peut t'empêcher l'accès à certains services.

Ce genre de technologie n'existe pas qu'en Chine :
En Chine, des caméras devinent qui sont les passants dans la rue

Le terrorisme est un prétexte, il y a des gouvernements qui veulent surveiller leur peuple, c'est ça le réel objectif.
Bon cela dit, cette surveillance force les terroristes à faire attention, peut être qu'ils se donnent rendez-vous des des grottes où il y aucun réseau ou quelque chose, parce que si ils font une conversation de groupe sur Facebook pour organiser leur attentat, ils vont vite être retrouvé...

Il est probable qu'on aille vers de plus en plus de surveillance (déjà qu'on a en permanence sur nous un smartphone, qui est équipé de micro, de caméras, de GPS et qui peut se connecter à internet. Aujourd'hui même les TV ont micro + caméra + internet).

Estrosi dit que l'utilisation de caméras peut prévenir les attentats :
"Les Kouachi n'auraient pas passé trois carrefours": quand Estrosi vantait les mérites de la vidéosurveillance à Nice

Là on ajoute de la délation :
Grâce à une application venue d'Israël, 2 000 personnes pourront filmer pendant deux mois les incivilités dont ils sont témoins, dans une ville déjà surarmée de caméras de surveillance.

De la vidéosurveillance, en veux-tu en voilà. La ville de Nice, déjà surveillée par 1 950 caméras, soit 27 au km2, va désormais être arpentée par des citoyens eux-mêmes équipés. Une application, Reporty, leur permet, depuis ce lundi, de filmer lorsqu’ils sont témoins d’une incivilité et de transmettre leur œuvre en direct au centre de vidéosurveillance de la police municipale.

Ce qui me rappelle (Ça c'est un métier pour les vieilles, elles pourraient gagner de l'argent en surveillant les gens) :
En Angleterre, la vidéosurveillance peut rapporter gros

Voulez-vous jouer à Big Brother ? Pas le jeu télévisé, mais le roman de George Orwell, qui prévoyait un monde sous surveillance permanente ? Au Royaume-Uni, la société «Internet eyes» propose aux internautes (britanniques ou d'ailleurs) de se connecter à quatre caméras de vidéosurveillance installées dans des lieux publics. Depuis leur ordinateur, ils doivent alors observer le mieux possible ce qui se passe devant les objectifs. Et s'ils surprennent un délit ou, pire, un crime, c'est bingo pour eux. En prévenant le propriétaire de la caméra (police, entreprises ou commerces), l'internaute chanceux gagne des points qui peut, à terme, lui rapporter jusqu'à 1000 £ (1100 euros).

[Saverok]

Estrosi dit qu'avec des caméras empêchent les attentats :
"Les Kouachi n'auraient pas passé trois carrefours": quand Estrosi vantait les mérites de la vidéosurveillance à Nice

Dois-je rappeler qu'il y a eu l'attentat de Nice sur la Promenade des Anglais en 2016 où toutes les merveilleuses caméras de Monsieur Estrosi ont parfaitement tout filmé.
Là dessus, on ne peut rien reprocher à son super réseau de caméra qui a permis de voir que le camion était dans une zone non autorisée plus de 15min avant le début du massacre...
Oui, tout était là pour éviter ce drame sauf que... Monsieur Estrosi a oublié que mettre des caméras partout ne sert strictement à rien s'il n'y a personne pour les regarder et agir en conséquence.
Donc non seulement il faut des gens pour regarder ces images mais en plus, il faut que ces personnes soient suffisamment formées et instruites pour comprendre ces images et prendre les bonnes décisions.

Et avant qu'une IA soit capable de faire ça, va falloir encore quelques décennies...