Discussion :

[Blondelle Mélina]

Le véhicule autonome d'Uber impliqué dans l'accident mortel aurait vu sa victime, mais l'a ignorée
À cause d'une défaillance de son système d'automatisation

Plus tôt en mars, un véhicule autonome d'Uber a été impliqué dans un accident qui a coûté la vie à une piétonne aux États-Unis, a indiqué l'entreprise, qui a décidé dans la foulée de suspendre son programme de circulation de voitures sans conducteur à Phoenix, à Pittsburgh, à San Francisco et à Toronto. L’entreprise a assuré qu’il s’agit là d’une procédure standard.

L'accident s'est déroulé dans la ville de Tempe, en Arizona, où Uber fait rouler des voitures autonomes. Les autorités locales ont identifié la victime comme étant Elaine Herzberg, âgée de 49 ans. Selon la police de Tempe, l’accident « s'est produit pendant la nuit sur Mill Avenue juste au sud de Curry Rd ». Herzberg poussait sa bicyclette de l'autre côté de la rue quand le véhicule Uber, qui se dirigeait vers le nord, l’a heurtée.

La cause de cet accident mortel engendré par un véhicule Uber semble avoir été au niveau logiciel, en particulier une fonction qui détermine quels objets ignorer ou surveiller. En effet, les capteurs installés sur ce type de véhicule sont censés détecter et générer des alertes si la présence d’un piéton au milieu de la route est signalée. Ce qui permet de déclencher le processus de freinage d’urgence.

Compte tenu de la multiplicité des systèmes de vision et des sauvegardes à bord des véhicules autonomes, il semble impossible que l'un d'entre eux n'ait pas fonctionné et ait empêché les systèmes de la voiture de percevoir Elaine Herzberg qui traversait la rue devant le radar. Cependant, comme la voiture n'a pas freiné et qu'aucune alarme n'a été déclenchée, cela pousse les enquêteurs à mettre en doute la crédibilité de l'automatisation de ce véhicule.

Les véhicules autonomes ont des sens surhumains. Ils sont équipés de radars qui s'étendent sur des centaines de pieds dans l'obscurité totale. Comment le véhicule Uber a-t-il fait pour ne pas détecter Herzberg ?

Suite à cet incident, diverses hypothèses ont été émises visant toutes à déterminer la cause de cet accident. Entre autres :

• erreur dans le système de reconnaissance d'objets, qui peut avoir été incapable de classer Herzberg et son vélo comme piéton. Cela semble improbable puisque les motos et les personnes font partie des choses que le système devrait être le plus capable d'identifier ;
  
  
• défaut dans la logique supérieure de la voiture, qui prend les décisions (au lieu des personnes) comme les objets à surveiller. Pas besoin de ralentir pour un vélo stationné sur le bord de la route, par exemple, mais un virage dans un carrefour est la cause d'une action immédiate.

Il faut noter que beaucoup valident la seconde option. Plus précisément, le système a été conçu pour ignorer les objets auxquels il aurait dû répondre ; Herzberg semble avoir été détectée, mais considérée comme un faux positif.

Uber a publié des mises à jour, mais n'a pas commenté les causes de l'accident. « Nous collaborons activement avec le NTSB dans son enquête. Par respect pour ce processus et la confiance que nous avons établie avec le NTSB, nous ne pouvons pas commenter les détails de l'incident. Entre-temps, nous avons entrepris un examen de sécurité de haut niveau de notre programme de véhicules autonomes, et nous avons invité l'ancien président du NTSB, Christopher Hart, à nous conseiller sur notre politique de sécurité ».

Source : The Information

Et vous :

Qu'en pensez-vous ?
D'après vous, qu'est-ce qui serait la cause de cet accident ?

Voir aussi :

La police a diffusé la vidéo de la collision du véhicule autonome d'Uber, qui a causé la mort d'une piétonne dans la nuit de dimanche
Uber va arrêter les tests de sa voiture autonome « indéfiniment » en Californie, en Pennsylvanie et à Toronto, après l'accident mortel d'Arizona
Uber suspend son activité de voiture autonome après une collision mortelle aux États-Unis, suite à laquelle une piétonne a perdu la vie

[Madmac]

Le film de l'accident a circulé sur liveleak. Et ce que l'on constate est que:

- le "chauffeur de taxi" était endormi.
- le système utilisé par uber ne surveille que l'avant du véhicule (que la partie éclairé par les phares), et qu'avec un angle additionnelle de 30 degrés, l'accident aurait pu éviter.
- un humain aurait pu faire la même erreur. La victime a tenté un voie rapide avec des vêtements très sombres, pendant une heure tardive.

[pierre-y]

- un humain aurait pu faire la même erreur. La victime a tenté un voie rapide avec des vêtements très sombres, pendant une heure tardive.

Un humain qui aurait fait ça en ayant malgré tout vue la victime aurait été inculpé pou meurtre ^^. Le principe de la voiture autonome dans le cahier des charges c'est d'être plus sur que la conduite humaine d'autant qu'elle possède bien plus de capteurs que l'homme.

[Chuck_Norris]

Un humain qui aurait fait ça en ayant malgré tout vue la victime aurait été inculpé pou meurtre ^^.

Meurtre ? Rien que ça ? Pourquoi pas assassinat, tant qu'à faire ? Au pire, on pourrait inculper d'homicide involontaire. Mais dans tous les cas, voir la personne ne veut malheureusement pas dire que l'accident aurait pu être évité, vu qu'un arrêt immédiat du véhicule n'est pas possible à cause des lois de la physique.

Et en ce qui concerne le "conducteur" (qui est en réalité un passager), on ne peut malheureusement pas nier le fait qu'il est impossible d'être aussi attentif à la route et aux événements quand on ne pilote pas directement. Prétendre le contraire serait de la mauvaise foi. Bon, ce n'est pas une excuse pour dormir ou tripoter un téléphone mais le fait est que dans le rôle potentiel d'éviter un accident mortel qui se joue en quelques millisecondes, l'humain qui ne pilote pas ne sera pas d'une grande aide.

[Neckara]

vu qu'un arrêt immédiat du véhicule n'est pas possible à cause des lois de la physique.

Les lois de la physique ne sont pas au-dessus des lois des États souverains !

.


Le meurtre se caractérise par une volonté de donner la mort. Je ne pense pas qu'on puisse assumer qu'une machine, ou ses concepteurs, aient eu une telle volonté.
On peut aussi voir, sans reconnaître correctement la situation. Quand on conduit, on voit tout, la lumière nous arrive directement dans les yeux. Cependant il y a derrière tout un traitement effectué par le cerveau, que ce soit l'identification de mouvements, de zones d'intérêts, des entités présentes dans le champ de vision, etc.

Ainsi voir n'est pas suffisant pour percevoir. Il en est de même pour une IA.


Un petit exemple en vidéo.

[MikeRowSoft]

La cause de cet accident mortel engendré par un véhicule Uber semble avoir été au niveau logiciel, en particulier une fonction qui détermine quels objets ignorer ou surveiller.
[...]

Compte tenu de la multiplicité des systèmes de vision et des sauvegardes à bord des véhicules autonomes, il semble impossible que l'un d'entre eux n'ait pas fonctionné et ait empêché les systèmes de la voiture de percevoir Elaine Herzberg qui traversait la rue devant le radar. Cependant, comme la voiture n'a pas freiné et qu'aucune alarme n'a été déclenchée, cela pousse les enquêteurs à mettre en doute la crédibilité de l'automatisation de ce véhicule. [...]

Même ci le mot obstable ou obstable mobile aurait pu être utilisé au lieu de simplement piéton, c'est tout de même plutôt gros de perdre de vue (ignorer ou ne pas surveiller) une masse aussi volumineuse qui en plus est mobile...
Un gros bogue digne de poser des questions et d'a un moment obtenir une réponse absurde parque les questions (if imbriqué) n'aurait pas été posé dans le bonne ordre...

[hotcryx]

Ils n'ont pas de capteur infrarouge sur leur p* de voiture à plusieurs milliions!

Que se passe t'il derrière la voiture en cas d'arrêt brutal !!!
Un vrai danger public.

Les conducteurs derrière cette voiture autonome n'ont pas les réflexes et la même conduite qu'une machine, il faudrait en tenir compte.
Comment un système comme celui-là a t'il pû voir le jour et avoir l'homologation!
Des personnes ont touché un gros paquet d'argent, ça ne fait aucun doute!

J'espère que la famille de la victime vont prendre jusque leur chemise.

[sergio_is_back]

Ils n'ont pas de capteur infrarouge sur leur p* de voiture à plusieurs milliions!

Et non : Pas de capteur infrarouge mais plutôt un "Lidar"

Le capteur infrarouge ne détecte que ce qui émet des infrarouges : Un animal, une personne, bref une source de chaleur.
Un bloc de béton tombé sur la chaussée par exemple sera invisible aux infrarouges... Même chose pour une voiture tous
feux éteints arrêtée sur la voie de circulation...

De plus un capteur infrarouge peut être aveuglé par une source de chaleur, par exemple une forte source lumineuse renvoyée par
une surface vitrée, ce n'est pas le cas du lidar.

Comment un système comme celui-là a t'il pû voir le jour et avoir l'homologation!

Que je sache, aucun de ces véhicules n'est actuellement HOMOLOGUE !
Ils sont tous en phase de test et de développement...

A part, les Tesla qui proposent une "Aide à la conduite" mais ne sont pas des véhicules totalement autonomes à proprement parler:
La voiture ne peut pas décider de démarrer toute seule et de se rendre en totale autonomie d'un point A à un point B sans chauffeur.

[MikeRowSoft]

Exemple de l'usage du Lidar. Cependant il ne peut voir les faces cachées.

Franchement, une cible est different d'un obstacle en tout cas...

Les vecteurs ont leurs importances.

[pierre-y]

Meurtre ? Rien que ça ? Pourquoi pas assassinat, tant qu'à faire ? Au pire, on pourrait inculper d'homicide involontaire.

Oui c'est bien un meurtre. Le fait d'être conscient et de voir quelqu'un sur la route puis de continuer à rouler dans sa direction sans chercher à l'éviter ou à freiner rentre bien dans cette catégorie et ça n'est certainement pas involontaire.

Et en ce qui concerne le "conducteur" (qui est en réalité un passager), on ne peut malheureusement pas nier le fait qu'il est impossible d'être aussi attentif à la route et aux événements quand on ne pilote pas directement.

A mon avis c'est moins le conducteur que google qui est en cause si j'ai bien suivi l'histoire au départ il y a avait deux personnes d'assigné à cette tache justement pour réduir les risque et il l'avait ramené à un conducteur. C'est comme ça que j'ai compris l'affaire du moins.

[Neckara]

Le fait d'être conscient et de voir quelqu'un sur la route puis de continuer à rouler dans sa direction sans chercher à l'éviter ou à freiner rentre bien dans cette catégorie et ça n'est certainement pas involontaire.

Comme je l'ai fait remarquer lors de ma précédente intervention, pour un humain, comme pour une IA, voir n'est pas suffisant pour percevoir.

[pierre-y]

Comme je l'ai fait remarquer lors de ma précédente intervention, pour un humain, comme pour une IA, voir n'est pas suffisant pour percevoir.

Je suis bien d'accord, C'est pour ça que j'ai rajouté que l'information est vue de manière consciente.

[Neckara]

Je suis bien d'accord, C'est pour ça que j'ai rajouté que l'information est vue de manière consciente.

Une IA a-t-elle vraiment une "conscience" ? Peut-elle être alors "consciente" de quelque chose ?

[pierre-y]

Une IA a-t-elle vraiment une "conscience" ? Peut-elle être alors "consciente" de quelque chose ?

Je parlais d'un humain et personnellement, je ne considère pas ce système comme une ia. Pour moi, ça sera d'ailleurs le propre d'une ia d'être consciente justement.

[Saverok]

A mon avis c'est moins le conducteur que google qui est en cause si j'ai bien suivi l'histoire au départ il y a avait deux personnes d'assigné à cette tache justement pour réduir les risque et il l'avait ramené à un conducteur. C'est comme ça que j'ai compris l'affaire du moins.

Pour commencer, ce n'est pas Google mais Uber donc je me permets de douter quelque peu de ton suivi de cette histoire
De plus, il n'y avait qu'une seule personne présente dans le véhicule lorsque l'incident est survenu ce qui est conforme à l'autorisation de test qui a été délivrée par l'Etat d'Arizona à Uber ce qui là encore, me fait encore plus douter de ton suivi de cette histoire

Quoiqu'il arrive, la cause de l'incident incombe à Uber et cela, personne ne le nie.
L'enquête et le jugement détermineront le niveau de responsabilité d'Uber car il y a à la fois des circonstances atténuantes et d'autres aggravantes et c'est à la justice de trancher.
==> le piéton traversait une voie rapide, de nuit, et habillé de couleur sombre (absence de bande réfléchissante, etc.)
==> le "chauffeur" d'Uber à bord du véhicule n'était pas attentif et le véhicule ne disposait d'aucun équipement pour garantir son attention
==> bug info du véhicule mais est-ce une surprise sur un véhicule en cours de test ?

Je pense, mais je ne suis pas juriste, que le point crucial est le second que je cite car le fait que le "chauffeur" Uber n'était pas attentif n'est pas conforme à l'autorisation de test émis par l'Etat d'Arizona et qui met Uber en situation "illégale".

[el_slapper]

Une IA a-t-elle vraiment une "conscience" ? Peut-elle être alors "consciente" de quelque chose ?

C'est la question à un trillion d'euros.

Le fait que la donnée soit dans la base suffit-il à considérer qu'elle doit obligatoirement être exploitée? Je n'ai pas la réponse. Il y a plein de pièges à la fois techniques et philosophique dans ces histoires de conscience, qui font qu'on a tous tort sur le sujet, probablement, toi, moi, les autres, les experts, les béotiens. Tous.

[BenoitM]

C'est la question à un trillion d'euros.

Le fait que la donnée soit dans la base suffit-il à considérer qu'elle doit obligatoirement être exploitée? Je n'ai pas la réponse. Il y a plein de pièges à la fois techniques et philosophique dans ces histoires de conscience, qui font qu'on a tous tort sur le sujet, probablement, toi, moi, les autres, les experts, les béotiens. Tous.

Moi je dirai que c'est plutôt l'inverse est-ce que l'homme a une conscience.

[Neckara]

Moi je dirai que c'est plutôt l'inverse est-ce que l'homme a une conscience.

On sait qu'on a soit-même une conscience, mais on ne peut pas le prouver aux autres, ou prouver que les autres en ont une.

[Matthieu76]

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
if (MyVariable == true)
    // do something
else
 // do something else

Le programme ci-dessus est une forme d'intelligence même si elle est très basique, elle récupère des informations de son environnement ici MyVariable et agis en conséquence. Bien qu'en informatique on parle plus souvent d'intelligence artificielle lorsqu'il y a "adaptation" (en encore là le mot est fou). Tout ça pour dire que la conscience d'une IA n'est pas binaire, un programme qui n'effectue qu'une seule action (programme sans aucune condition) n'est pas consistent mais dès qu'il y a une condition on peu alors commencer à parler de conscience et plus il y a de conditions plus le programme devient intelligent et conscience de ce qui l'entoure.

Il faut plutôt voir la conscience/intelligence comme une variable entre 0 et 1. L'homme est proche de 1 et les programmes que l'on développe sont proche de 0 mais non nul. Quoique l'IA de AlphaGo doit être très proche de 1, ce n'est pas parce qu'elle évolue dans un environnement moins complexe que celui de l'homme qu'elle est forcément moins intelligente.

PS : Pour moi conscience et intelligence son très étroitement corrélées.

[sergio_is_back]

Code :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
if (MyVariable == true)
    // do something
else
 // do something else

Le programme ci-dessus est une forme d'intelligence même si elle est très basique, elle récupère des informations de son environnement ici MyVariable et agis en conséquence. Bien qu'en informatique on parle plus souvent d'intelligence artificielle lorsqu'il y a "adaptation" (en encore là le mot est fou). Tout ça pour dire que la conscience d'une IA n'est pas binaire, un programme qui n'effectue qu'une seule action (programme sans aucune condition) n'est pas consistent mais dès qu'il y a une condition on peu alors commencer à parler de conscience et plus il y a de conditions plus le programme devient intelligent et conscience de ce qui l'entoure.

Il faut plutôt voir la conscience/intelligence comme une variable entre 0 et 1. L'homme est proche de 1 et les programmes que l'on développe sont proche de 0 mais non nul. Quoique l'IA de AlphaGo doit être très proche de 1, ce n'est pas parce qu'elle évolue dans un environnement moins complexe que celui de l'homme qu'elle est forcément moins intelligente.

PS : Pour moi conscience et intelligence son très étroitement corrélées.

Euh....

Ton programme ci-dessus n'a aucune intelligence (et encore moins de conscience), c'est un bête interrupteur booléen: Si l'interrupteur est actionné (MyVariable==True) alors la lumière est allumée, dans le cas contraire est elle éteinte...

Une petite (et très restreinte) définition de la "conscience" : https://fr.wikipedia.org/wiki/Conscience

C'est beaucoup complexe qu'une variable 0/1, et l'intelligence aussi au passage.