Discussion :

[Victor Vincent]

Des entreprises chinoises collectent les données émotionnelles de leurs employés pour réduire les erreurs humaines,
selon des responsables

Alors que le monde a les yeux rivés sur les scandales d’abus de données en Europe et aux États-Unis, la Chine explore à grande échelle une technologie permettant d’extraire des données émotionnelles des travailleurs. La technologie en question, scanne le cerveau de la personne pour détecter des changements émotionnels tels que le stress, la fatigue, la colère ou la dépression. La collecte de données émotionnelle est déjà application sous différentes formes à travers le monde. Elle peut se faire par l’intermédiaire d’un logiciel d’analyse sentimentale qui se base sur des modèles linguistiques pour analyser des publications sur les réseaux sociaux, des emails, entre autres. La collecte peut aussi se faire par l’intermédiaire de capteurs qui récupèrent des données biométriques comme le rythme cardiaque, la température, etc. C’est ce dernier cas de figure qui est en application en Chine. Pékin est la première nation à l’appliquer à très grande échelle, dans le domaine militaire, dans les compagnies publiques et dans le transport.

Cet outil de surveillance, sous la forme d’un capteur embarqué dans le chapeau du travailleur, surveille les ondes cérébrales pour extraire les données. Elles seront par la suite analysées pour déclencher une alerte. Cette alerte peut permettre aux manageurs d’optimiser le rythme de production et réajuster les charges de travail. « Lorsque le système émet un avertissement, le gestionnaire demande au travailleur de prendre un jour de congé ou de passer à un poste moins critique. Certains emplois nécessitent une forte concentration. Il n'y a pas de place pour une erreur », affirme Jin Jia, professeur agrégé en neurologie et psychologie cognitive à l'école de commerce de l'Université de Ningbo. La ligne de trains à grande vitesse de Beijing-Shanghai, ayant l’un des plus intenses trafics au monde, utilise une implémentation de l’entreprise Deayea. Selon la compagnie, avec une précision de 90 %, le capteur intégré dans le chapeau du conducteur mesure différents types d’activités cérébrales parmi lesquels la fatigue et la perte d’attention. Ainsi, une alarme est déclenchée pour l’alerter, si le conducteur est victime d’un moment d’inattention ou s’endort.

D’après le professeur Zheng Xingwu, qui officie à l’université de l’aviation civile de Chine, la majorité des accidents aériens sont causés par une défaillance humaine suite à une perturbation émotionnelle. La chine serait l’un des premiers pays à faire usage d’un outil de surveillance émotionnelle à l’intérieur des Cockpits. Au sein de l’industrie, la technique est utilisée par exemple pour la formation des employés. « Cela a considérablement réduit le nombre d'erreurs commises par nos travailleurs », a déclaré Zhao, un dirigeant de la société Ningbo Shenyang Logistics. La technologie a permis à la société d’Électricité de l’État du Zhejiang d’augmenter ses gains de près de 2 milliards de Yuans, soit 315 millions de dollars depuis 2014, d’après le responsable interne de programme de surveillance émotionnelle.

L’adoption par les travailleurs n’a pas été systématique. Croyant que l’outil lisait dans leur pensée, ils ont montré des réticences au début avant de s’y habituer. « Après un certain temps, ils se sont habitués à l'appareil. Il ressemblait à un casque de sécurité. Ils l'ont porté toute la journée au travail », selon un responsable. Même si l’outil ne lit pas dans les pensées, un problème d’intrusion dans la vie privée de l’employé se pose. L’analyse émotionnelle est une étape de plus vers le contrôle de la vie privée des personnes par l’intelligence artificielle et augmente le risque d’utilisation négative de la technologie par un état autoritaire. Rappelons que la Chine a lancé depuis 2014, le projet « Social Credit System » pour « récompenser » les citoyens pour leur bon comportement et les « sanctionner » le cas échéant.

Source : SCMP

Et vous ?

Pensez-vous que les raisons mises en avant justifient l'utilisation d'une telle technologie à grande échelle ?

Voir aussi

Chine : la police se sert de la reconnaissance faciale pour arrêter un fugitif la fiction Big Brother de 1984 est-elle devenue une réalité en 2018 ?

Big data : la Chine a commencé à tester son système national de crédit social et menace de priver les citoyens mal notés de certains services de base

La Chine est le pays qui a investi le plus de fonds dans la création de startups d’IA en 2017 d’après un rapport de CB Insight

[Theta]

Il me semble qu'en France les fauteuils des conducteurs de trains sont équipés de capteurs qui détectent quand ils s'endorment, donc c'est à peu près la même chose que le casque chinois, en plus rudimentaire.

Ce genre de capteur ne me choque pas plus que ça tant que c'est uniquement dans le cadre de métiers où rester vigilant a des enjeux de sécurité importants.

[Buffet_froid]

L’analyse émotionnelle est une étape de plus vers le contrôle de la vie privée des personnes par l’intelligence artificielle et augmente le risque d’utilisation négative de la technologie par un état autoritaire.

Ah. Et par un État pas autoritaire, ça va, c'est bon, c'est droits-de-l'homme approved ?
Insupportable obsession de l'occidental à vouloir donner des leçons qui ne sont même pas les siennes...

[Saverok]

Comme dit par Theta, la SNCF utilise déjà un système pour détecter les pertes d'attention des chauffeurs.
De même, dans les voitures de séries hautes gammes, pour le moment, il y a également des détecteurs de somnolence intégré.
Certes, cela se fait par une caméra et par des capteurs dans les siège et le volant, mais ça existe déjà.

Du coup, passer par les ondes cérébrales était il vraiment nécessaire ?
A partir du moment où l'on peut détecter tous ces signes par d'autres moyens moins intrusifs, passer par les ondes cérébrales laisse penser que le véritable but est ailleurs.
On commence par habituer les gens à ces casques en prétextant identifier les signes de stress et de fatigue pour ensuite utiliser ces casques à d'autres fins.

[Ryu2000]

Du coup, passer par les ondes cérébrales était il vraiment nécessaire ?

Ça ne détecte pas que la fatigue.
Et il y avait déjà des brevets sur les autres technologies (quoi que les chinois ne sont pas à cheval sur le respect des copyrights).

Rappelons que la Chine a lancé depuis 2014, le projet « Social Credit System » pour « récompenser » les citoyens pour leur bon comportement et les « sanctionner » le cas échéant.

Apparemment ce genre de système est efficace sur des chinois.
Mais ça fait super peur quand même

[Saverok]

Ça ne détecte pas que la fatigue.

Oui, mais il existe d'autres moyens de détecter le stress que de passer par les ondes cérébrales.
Les montres connectées avec leurs capteurs le font très bien.

Si c'est uniquement pour détecter la fatigue et le stress, je trouve que passer les ondes cérébrales est un peu comme amarrer un paquebot de fret au complet pour transporter une clé usb là où un simple transfère par le cloud serait largement suffisant.

[bistouille]

[troll on]
Ils sont malins les Chinois !
Réalisant que faire des robots avec une réelle IA n'est pas prêt de voir le jour, on n'en est même pas encore aux balbutiements, ils prennent le problème en sens inverse, ils vont fabriquer des robots en partant de modèles qui possèdent déjà l'IA, les humains !

Ceci, n'est que le premier pas.

Cela nous promet un avenir radieux ! Purée, j'ai déjà plein d"idées de concepts dans la tête !
[troll off]

Remarque, je plaisante, mais il y a tout de même des choses peu rassurantes avec ce genre d'expérimentations.

[CoderInTheDark]

Sans les trains il y a le dispositif de l'homme mort.
A interval régulier le conducteur doit soulever le dessous du volant
Si il ne le fait pas une alarme le rappel à l'ordre et après le train s'arrrète.

Ce qui est dangereux si on met le casque à une personne lors d'un entretien avec son manager par exemple.
"Aimez vous travaillez pour notre société "
"que pensez bous de votre manager ?"
Ca permet de cuisiner la personne.
C'est un peu un détetecteur de mensonges

Vous imaginer la pagaille dans les couples avec un tel casques.
"Est ce que tu m'aimes ? é alarme
"Comment tu la trouve la fille là bas "