Discussion :

[Miary]

Un robot renverse un enfant dans un centre commercial en Californie
son champ de vision limité l'ayant empêché de voir le bébé de 16 mois

L’intelligence artificielle est de plus en plus sollicitée dans le domaine de la sécurité. Récemment, la police de Dallas a eu recours à un robot du nom de Remotec Andros Mark V-A1 pour éliminer un tueur présumé de policiers. De plus en plus d’écoles et de centres commerciaux ont recours aux services d’un robot patrouilleur pour surveiller leurs locaux. Cependant, il semblerait que les robots de sécurité n’attirent pas la sympathie de tout le monde. C’est le cas notamment des parents d’Harwing Cheng, un garçon de 16 mois, qui se serait fait renverser par un robot de sécurité dans un centre commercial en Californie. Bien que leur fils n’ait subi de blessures graves, ils craignent pour la sécurité d’autres enfants à la suite de cette mésaventure.

Le robot en question, baptisé K 5, a été conçu par Knightscope, une entreprise américaine spécialisée en robotique. Sa mission principale est de surveiller et prévenir la criminalité après la tuerie de l’école primaire de Sandy Hook. C’est un robot autonome mesurant 1,50 m et pesant environ 140 kilos. Il est doté de nombreux capteurs : caméra, détecteur de mouvements, capteur thermique, radar, capteur de qualité de l’air, etc. K 5 peut géolocaliser l’origine d’un bruit suspect et son alarme se déclenche si on essaie de le renverser. Le robot K 5 n’est pas doté d’arme, mais est surtout utilisé comme agent de renseignement par la police. En effet, il peut transmettre en temps réel les informations obtenues avec ses capteurs.

À l’origine, K 5 a été conçu pour protéger les enfants à la suite de la tuerie de l’école de Sandy Hook qui a fait une vingtaine de victimes en 2012. Knightscope l'a doté de nombreux capteurs qui vont détecter la moindre anomalie lorsque le robot fait sa patrouille. Il semblerait toutefois que le champ de vision de K 5 soit limité et ne détecte rien en dessous d'une certaine hauteur, donc le bébé de 16 mois également avec sa petite taille.

L'utilisation des robots dans le domaine de la sécurité est de plus en plus courante. Certes, l'incident avec le robot K 5 est un cas isolé, mais il montre néanmoins que l’intelligence artificielle reste une technologie en développement. Les spécialistes en robotique ne devraient-ils pas encore multiplier les essais et apporter quelques améliorations avant de les proposer au grand public ?

Source : abc7news

Et vous ?

Que pensez-vous de l’utilisation des robots de sécurité ?

Voir aussi :

Remotec Andros Mark V-A1 : le robot utilisé par la police de Dallas pour abattre le tueur présumé des policiers lors des récentes manifestations

[Marialyce]

C'est un Dalek !!

[Voyvode]

Quelques années plus tard :

Tu n’aimes pas Star Wars ?

Non, R2D2 me fait peur…

Les sociétés technologiques veulent nous faire gober que nous sommes déjà dans le « monde de demain ». Ce genre d’accidents est un message clair qu’il ne faut pas mettre la charrue avant les bœufs.

Mais l’avidité rend idiot et imprudent.

[MarieKisSlaJoue]

Oui enfin je suis sur que un agent de sécurité a deja du bousculer des enfants qu'il n'avait pas vu...

[RyzenOC]

Les sociétés technologiques veulent nous faire gober que nous sommes déjà dans le « monde de demain ». Ce genre d’accidents est un message clair qu’il ne faut pas mettre la charrue avant les bœufs.

Mais l’avidité rend idiot et imprudent.

Ce qui m’inquiète le plus c'est la sécurité de ces dispositifs, quand je vois avec quelle facilité on arrive à pirater les objets connectés (et meme les smartphones), sa vas être géniale le jours on produira par millions ces robots connectés sous une version d'android pas à jours et truffé de failles.

[Arkal]

Et l'enfant étant sans surveillance dans un centre commercial?
Les parents trouvent une faute pour éviter de voir la réalité en face et assumer leur propre responsabilité...

N'importe quel garde de sécurité dans le feu de l'action pourrait bousculer un bambin...

[Omote]

Combien de fois je me suis fait rentrer dedans avec un chariot... La différence c'est que le robot va pouvoir être corrigé. Un être humain même si il a la capacité d'apprendre comment répondre correctement à une situation, pourra toujours se tromper face à la même situation. Ce n'est pas pour placer la machine au dessus de l'homme mais au niveau spécifiquement des accidents la machine n'est pas sujet à la fatigue ou à la distraction. Le seul "défaut" face à l'homme, c'est sa capacité à raisonné, qui est nul dans une machine qui ne fait suivre que son programme.

[Mingolito]

Le même en version Deluxe :

[Voyvode]

Oui enfin je suis sur que un agent de sécurité a deja du bousculer des enfants qu'il n'avait pas vu...

Et l'enfant étant sans surveillance dans un centre commercial?
Les parents trouvent une faute pour éviter de voir la réalité en face et assumer leur propre responsabilité...

N'importe quel garde de sécurité dans le feu de l'action pourrait bousculer un bambin...

La source indique clairement que les parents ont vu le robot percuter la tête de l’enfant puis lui rouler sur la jambe droite.

Les gardes balourds existent, mais à ce point…

Cela dit, un enfant aussi jeune n’a en effet strictement rien à faire dans un centre commercial.

Combien de fois je me suis fait rentrer dedans avec un chariot... La différence c'est que le robot va pouvoir être corrigé. Un être humain même si il a la capacité d'apprendre comment répondre correctement à une situation, pourra toujours se tromper face à la même situation. Ce n'est pas pour placer la machine au dessus de l'homme mais au niveau spécifiquement des accidents la machine n'est pas sujet à la fatigue ou à la distraction. Le seul "défaut" face à l'homme, c'est sa capacité à raisonné, qui est nul dans une machine qui ne fait suivre que son programme.

Les humains sont plus susceptibles de commettre des erreurs que des machines, pour un tas de raisons. Néanmoins, un humain peut « sentir » que quelque chose ne va pas (de sa faute ou non) et tenter une correction, alors que le robot accomplira l’action prévue jusqu’au bout. Peu importe que la Tesla aille à vau-l’eau ou que la sentinelle fasse un carton, les instructions doivent être exécutées.

Pour que la machine soit fiable, elle doit être abondamment testée et avoir une utilisation précisément délimitée, ce qui est difficilement compatible avec des objectifs commerciaux dans un marché en pleine explosion.

[Invité]

Le seul "défaut" face à l'homme, c'est sa capacité à raisonné, qui est nul dans une machine qui ne fait suivre que son programme.

Le deuxième défaut, c'est qu'elle est programmée par l'homme. Et là, que la machine ne détecte rien en deçà d'une certaine hauteur, c'est quand même un sacré oubli. Combien de temps après que le robot ait été mis en conditions réelles cet accident s'est-il produit ? A ce point, on peut se demander quels sont les autres oublis. Un bébé de 16 mois dans un centre commercial, c'est pas comme si quelque chose de hautement improbable que personne n'aurait pu imaginer s'était produit.

Néanmoins, un humain peut « sentir » que quelque chose ne va pas (de sa faute ou non) et tenter une correction, alors que le robot accomplira l’action prévue jusqu’au bout. Peu importe que la Tesla aille à vau-l’eau ou que la sentinelle fasse un carton, les instructions doivent être exécutées.

+1

[Saverok]

Cela dit, un enfant aussi jeune n’a en effet strictement rien à faire dans un centre commercial.

C'est sûr qu'il est beaucoup mieux de le laisser seul dans la voiture dans le parking

Pour en revenir au sujet du topic, je ne pense que ce soit un problème lié à l'IA du robot mais à ses capteurs ce qui est totalement différent.
Je suis myope donc on peut considérer que j'ai une anomalie de mes capteurs de vision mais cela n'affecte en rien mon intelligence... quoique

Ensuite, cela reste un incident mineur à relativiser.
On ne compte plus les cas où des personnes se sont prises une porte vitrée dans la figure car le capteur d'ouverture auto n'a pas correctement fonctionné.
Ce n'est pas une raison pour crier au scandale pour autant.

[a028762]

Vivement que ces robots soient équipés d'arme à feu !
Dans mon ancienne vie, les robots (industriels) étaient mis en cage
Un robot de 150kg ! Ben dis donc , ils n'y vont pas de main morte pour un truc de surveillance
D'ailleurs, l'article ne décrit pas clairement ce que le robot était censé faire en cas d'attaque armée puisque c'est la raison de son introduction dans un centre commercial ...
je crains le pire ...

[Saverok]

Un robot de 150kg ! Ben dis donc , ils n'y vont pas de main morte pour un truc de surveillance

Rien que les moteurs et les batteries, ça pèse lourd.
Rien de surprenant là dedans.

D'ailleurs, l'article ne décrit pas clairement ce que le robot était censé faire en cas d'attaque armée puisque c'est la raison de son introduction dans un centre commercial ...

C'est un robot de surveillance.
Bref, il ne fait pas grand chose de plus qu'une caméra.
A la différence qu'il est à terre et mobile.
L'idée est de prévenir les autorités le plus tôt possible et non d'agir sur la situation.
Au mieux, il peut déclencher une alarme sonore mais c'est tout.
Pour le moment, je trouve que l'on paye cela très cher pour pas grand chose.
Le même logiciel de reconnaissance faciale et d'identification de situation mis en place sur des caméras fixent fait aussi bien.

[Skury]

De mon point de vue, les deux partis sont en faute :
- L'entreprise qui a conçu un robot de surveillance, qui ne surveille pas le sol
- Les parents, qui ont visiblement laissé leur enfant sur le sol d'un centre commercial, alors qu'un robot automatique se balade à proximité. J'aurais bien aimé voir la scène pour comprendre, quand même...

[Invité]

- Les parents, qui ont visiblement laissé leur enfant sur le sol d'un centre commercial, alors qu'un robot automatique se balade à proximité. J'aurais bien aimé voir la scène pour comprendre, quand même...

C'est quand même ironique.
22 ! Un robot de surveillance ! Ramassez vos gosses !!

Je ne comprend pas en quoi les parents sont responsables de ne pas avoir deviné qu'un robot de surveillance était potentiellement dangereux pour les enfants.
J'ai surtout l'impression que dès qu'il s'agit d'enfant, le premier coupable c'est le parent. Après, on réfléchit. Mais les parents sont quand même coupables, faut pas déconner.

[Cincinnatus]

Combien de fois je me suis fait rentrer dedans avec un chariot... La différence c'est que le robot va pouvoir être corrigé. Un être humain même si il a la capacité d'apprendre comment répondre correctement à une situation, pourra toujours se tromper face à la même situation. Ce n'est pas pour placer la machine au dessus de l'homme mais au niveau spécifiquement des accidents la machine n'est pas sujet à la fatigue ou à la distraction. Le seul "défaut" face à l'homme, c'est sa capacité à raisonné, qui est nul dans une machine qui ne fait suivre que son programme.

Les êtres humains sont très certainement faillibles : les chariots, c'est banal. Le record : une mère de famille faisant faire une demi-tour à une poussette (vide) a failli me faucher il y a quelques années. J'avais de bons réflexes, heureusement.

De mon point de vue, les deux partis sont en faute :
- L'entreprise qui a conçu un robot de surveillance, qui ne surveille pas le sol
- Les parents, qui ont visiblement laissé leur enfant sur le sol d'un centre commercial, alors qu'un robot automatique se balade à proximité. J'aurais bien aimé voir la scène pour comprendre, quand même...

Qu'il y ait eu un robot n'est pas le problème, n'importe qui aurait pu heurter un enfant trop petit pour être visible.

[Invité]

Qu'il y ait eu un robot n'est pas le problème, n'importe qui aurait pu heurter un enfant trop petit pour être visible.

À te lire, on dirait qu'un centre commercial est une jungle. Je suis contente de ne pas fréquenter ce genre d'endroit. Là bas, les enfants ne peuvent pas se déplacer seuls parce qu'alors ils sont parfaitement invisibles ? C'est une vraie question, parce que dans les endroits civilisés, quand on heutre un gosse, on s'excuse platement. Dans les centres commerciaux c'est normal ?

[Saverok]

Qu'il y ait eu un robot n'est pas le problème, n'importe qui aurait pu heurter un enfant trop petit pour être visible.

Un enfant, aussi petit soit il, ça reste visible.
C'est plus de l'inattention qu'autre chose.

Personnellement, tant que je n'avais pas d'enfant, ça m'est arrivé quelque fois de bousculer ou éviter de justesse un bambin tout simplement parce que je n'avais pas le réflexe de regarder à mes pieds.
Mais bon, depuis que j'ai eu un enfant assez grand pour gambader à 4 pattes partout dans les miennes, j'ai fini par l'acquérir ce réflexe

[Pierre GIRARD]

Que celui qui ne s'est jamais pris les pieds dans le tapis ou ai involontairement écrasé les pieds d'un chien ou la queue d'un chat etc... jette la première pierre à ce Robot. Surtout que maintenant, connaissant ce défaut de champs de vision, le problème sera probablement corrigé rapidement par son concepteur.

Reste à voir l’efficacité de ce Robot face à ce pour quoi il a été créé, à savoir un criminel ou un terroriste armé qui arrive et se met à tirer dans le tas ... et qu'il est muni d'une ceinture d'explosifs ?

[dasdeb]

C'est quand même ironique.
22 ! Un robot de surveillance ! Ramassez vos gosses !!

Je ne comprend pas en quoi les parents sont responsables de ne pas avoir deviné qu'un robot de surveillance était potentiellement dangereux pour les enfants.
J'ai surtout l'impression que dès qu'il s'agit d'enfant, le premier coupable c'est le parent. Après, on réfléchit. Mais les parents sont quand même coupables, faut pas déconner.

À te lire, on dirait qu'un centre commercial est une jungle. Je suis contente de ne pas fréquenter ce genre d'endroit. Là bas, les enfants ne peuvent pas se déplacer seuls parce qu'alors ils sont parfaitement invisibles ? C'est une vraie question, parce que dans les endroits civilisés, quand on heutre un gosse, on s'excuse platement. Dans les centres commerciaux c'est normal ?

Un enfant de 18 mois n'a rien à faire par terre dans un centre commercial. Il doit être soit dans une poussette, soit porté par un parent.
Agir autrement est irresponsable.

Il y a malgré tout une erreur de conception au niveau du K5. Ne pas percevoir ce qui est en dessous d'une certaine hauteur va l'empêcher de percevoir des dangers potentiels.