Discussion :

[Stéphane le calme]

Uber suspend son activité de voiture autonome après une collision mortelle aux États-Unis,
suite à laquelle une piétonne a perdu la vie

Un véhicule autonome d'Uber a été impliqué dans un accident qui a coûté la vie à une piétonne lundi aux États-Unis, a indiqué l'entreprise, qui a décidé dans la foulée de suspendre son programme de circulation de voitures sans conducteur à Phoenix, à Pittsburgh, à San Francisco et à Toronto. L’entreprise a assuré qu’il s’agit là d’une procédure standard.

L'accident s'est déroulé dans la ville de Tempe, en Arizona, où Uber fait rouler des voitures autonomes. Les autorités locales ont identifié la victime comme étant Elaine Herzberg, âgée de 49 ans. Selon la police de Tempe, l’accident « s'est produit pendant la nuit sur Mill Avenue juste au sud de Curry Rd ». Herzberg poussait sa bicyclette de l'autre côté de la rue quand le véhicule Uber, qui se dirigeait vers le nord, l’a heurtée.

Du côté d’Uber, l’entreprise explique que « le véhicule était en mode autonome lors de la collision, avec un opérateur derrière le volant » lorsqu’il a heurté « une femme qui traversait en dehors du passage clouté ». Celle-ci a été transportée à l’hôpital où elle est décédée, a précisé Uber. « Nous collaborons pleinement avec les autorités locales dans leur enquête », a encore dit le service de réservation de voitures avec chauffeur (VTC), qui n’a pas donné davantage de détails.

Une enquête de la police est en cours. Le Conseil national de la sécurité des transports, une agence indépendante du gouvernement américain, est aussi mobilisé.

Le PDG d'Uber, Dara Khosrowshahi, a également reconnu l'incident sur Twitter:

« Des nouvelles incroyablement tristes de l'Arizona. Nous pensons à la famille de la victime pendant que nous travaillons avec les forces de l'ordre locales pour comprendre ce qui s'est passé », peut-on lire sur son message Twitter.

Uber a commencé à tester des voitures autonomes à Tempe en février 2017. La flotte de véhicules autonomes Volvos est arrivée en Arizona après avoir été bannie des routes californiennes pour des raisons de sécurité. Le gouverneur Doug Ducey avait vanté l'Arizona comme étant un bon terrain d'essai, en disant à l'époque dans une déclaration écrite, « l'Arizona accueille les voitures autonomes d’Uber à bras ouverts et à routes ouvertes. »

L'une des voitures autonomes a été impliquée dans un accident un mois plus tard, après qu'une voiture n'a pas cédé la priorité au véhicule Uber et l'a heurtée, ont indiqué les autorités. Aucune blessure grave n'a été signalée dans cet accident.

L’épisode de la ville de Tempe devrait venir renforcer les interrogations quant à la sécurité des voitures autonomes, d’autant que l’événement de lundi n’est pas le premier accident mortel impliquant un véhicule ayant des fonctions de ce type. Un automobiliste américain d’une quarantaine d’années avait trouvé la mort en 2016 alors qu’il conduisait une berline Model S de Tesla équipé d’Autopilot, logiciel qui permet un certain nombre de manoeuvres sans l’intervention du conducteur.

Le régulateur des transports, le NTSB, avait estimé que le système était en partie responsable de l’accident et n’aurait pas dû être utilisé sur la route où était survenu l’accident parce que celle-ci n’était pas adaptée à cette technologie. La «trop grande dépendance» du conducteur à Autopilot « a entraîné un désengagement prolongé » ayant conduit à la collision, avait conclu le NTSB. Autopilot « n’est pas une technologie de conduite autonome » et « les conducteurs doivent rester attentifs à tout moment pendant la conduite », avait plaidé Tesla.

Source : ABC

Et vous ?

Cette situation relance-t-elle le débat sur la sécurité des voitures autonomes et le degré de dépendance à la technologie ?

[Cpt Anderson]

Ca va etre l'embrouille pour définir les responsabilités maintenant. Qui va payer ?

[Invité]

Le gars qui avait volé la technologie de Google pour Uber a dû oublier un fichier de configuration...

[Neckara]

Il serait intéressant de comparer le taux d'accidents des voitures autonomes avec celui des conducteurs.

Il ne faut pas que cela parte en panique morale en affirmant la dangerosité des voitures autonomes, sans chiffres pour appuyer cela. Il faut rappeler que le risque 0 n'existe pas, et même avec un risque annuel négligeable de 0.00000025, il y aura statistiquement 10 morts en France (40 millions de conducteurs).

Donc ce n'est pas parce qu'il y a quelques morts que la technologie est dangereuse, ou tout du moins, plus dangereuse qu'en son absence.


En l'absence de comparaisons pertinentes, il n'est pour le moment pas possible de conclure.

[Jon Shannow]

J'espère que l'enquête arrivera a déterminée si l'accident aurait été évité si un humain avait conduit. Est-ce le comportement de la personne accidentée qui est responsable de l'accident, ou est-ce vraiment une erreur de l'auto-pilote ?

[Zirak]

J'espère que l'enquête arrivera a déterminée si l'accident aurait été évité si un humain avait conduit.

Cela doit être très compliqué, du simple fait que tout le monde n'a pas la même conduite. Rien qu'en fonction de la vue et des réflexes de chacun, de son niveau d'attention, etc. etc.

Peut-être que certains humains auraient pu éviter l'accident, d'autres peut-être que non.


(Et sans même parler du fait que l'humain pourrait être alcoolisé ou drogué.)


De ce qui est dit dans la news, la personne décédée traversait en dehors des clous, donc même avec un chauffeur humain, cela aurait dépendu de nombreux paramètres (attention, réflexes, visibilité, etc.).

[Matthieu76]

Il serait intéressant de comparer le taux d'accidents des voitures autonomes avec celui des conducteurs.

Il ne faut pas que cela parte en panique morale en affirmant la dangerosité des voitures autonomes, sans chiffres pour appuyer cela. Il faut rappeler que le risque 0 n'existe pas, et même avec un risque annuel négligeable de 0.00000025, il y aura statistiquement 10 morts en France (40 millions de conducteurs).

Donc ce n'est pas parce qu'il y a quelques morts que la technologie est dangereuse, ou tout du moins, plus dangereuse qu'en son absence.

En l'absence de comparaisons pertinentes, il n'est pour le moment pas possible de conclure.

Tu as 100% raison je vais tout à fait dans ton sens mais si j'ai dû mal à comprendre comment un tel accident à pu arriver sachant que sur internet j'ai vue des projets "étudiants" sur la conduite autonome ou la voiture ne fessait aucune error, d'accord c'était des simulations sur GTA mais bon ... Et puis ça ne doit pas être bien compliqué de foutre un capteur à ultrason et de faire piler la voiture s'il y a un obstacle devant.

J'espère que c'est plus une panne matérielle que logicielle.

[Anselme45]

Et puis ça ne doit pas être bien compliqué de foutre un capteur à ultrason et de faire piler la voiture s'il y a un obstacle devant.

Et bien justement tu as tout faux!

Il n'est pas besoin de philosopher sur le cas des voitures Uber ou Google aux USA. Il y a actuellement plusieurs tests de navettes autonomes (des petits bus permettant de transporter une dizaine de personnes) en Europe comme en France ou en Suisse... Et ils rencontrent tous le même problème: La détection des obstacles!

Les problèmes rencontrés sont de 2 ordres:

1. Des obstacles qui n'ont pas été détectés (il y a eu plusieurs accidents en Europe, heureusement sans faire de victime... Peut-être parce que ces navettes roulent au ralenti... 20 km/h max)

2. Des arrêts de navettes intempestifs après détection d'obstacles qui n'en sont pas: Des cartons placés au bord de la route le jour de ramassage par les service communaux, les flocons de neige, les toiles déployés devant les devantures de magasins, etc...

Eh oui... Lorsque l'on veut déployer ces véhicules autonomes dans la vraie vie (et pas uniquement dans les rues californiennes avec 365 jours de soleil/an), c'est la galère!

J'ai personnellement eu la chance de tester l'une de ces navettes déployées comme ligne de transport publique et j'ai été témoin de la chose suivante: La navette autonome suit son trajet sans problème puis entre dans une rue commerçante et là... C'est la fête: La navette commence à planter tous les 100 mètres avec le chauffeur (et oui, il y a de toute manière un chauffeur pour raison de sécurité) qui finit par pêter les plombs et reprend le contrôle de la navette manuellement pour mener les passagers à bon port

Conclusion: La détection des obstacles est extrêmement délicate... Soit tu es trop sensible et le véhicule autonome passe son temps à s'arrêter, soit tu es moins sensible avec le risque d'écraser la poussette de bébé

[Buffet_froid]

Il serait intéressant de comparer le taux d'accidents des voitures autonomes avec celui des conducteurs.

Il ne faut pas que cela parte en panique morale en affirmant la dangerosité des voitures autonomes, sans chiffres pour appuyer cela. Il faut rappeler que le risque 0 n'existe pas, et même avec un risque annuel négligeable de 0.00000025, il y aura statistiquement 10 morts en France (40 millions de conducteurs).

Donc ce n'est pas parce qu'il y a quelques morts que la technologie est dangereuse, ou tout du moins, plus dangereuse qu'en son absence.

Un seul mort tué par une machine devrait mettre un terme définitif à ces délires de véhicules automatiques !

Ce n'est pas un problème de justice (ça c'est le point de vue anglo-saxon selon lequel on a le droit d'absolument tout faire du moment qu'on a les moyens de se payer des avocats).
C'est un principe philosophique de libre-arbitre.
Ce n'est pas parce qu'un humain est moins fiable qu'une machine qu'il faut remplacer les hommes par des robots.

Peut-être qu'au bout de 10000 accidents par mois, les dingos de la Siliconne Vallée commenceront à se montrer plus modestes et à freiner leurs ardeurs futuristes.

Je vous signale par ailleurs que des projets très sérieux de codification du droit des machines sont à l’œuvre en ce moment même.
Dans quelques années vous serez considéré comme agresseur et traité comme tel si vous détériorez un automate.

[Zirak]

Un seul mort tué par une machine devrait mettre un terme définitif à ces délires de véhicules automatiques !

Si on supprime tout ce qui ôte une vie, on peut potentiellement interdire tous les véhicules, tous les objets , et supprimer tous les êtres humains, ainsi que pas mal de choses que l'on trouve dans la nature (plantes / animaux, etc.)...

Dans quelques années vous serez considéré comme agresseur et traité comme tel si vous détériorez un automate.

Mais c'est déjà le cas aujourd'hui pour les choses "inanimées"...

La destruction ou la dégradation d’un bien appartenant à autrui, sauf en cas de dommages légers, est punie de deux ans d’emprisonnement et 30 000 euros d’amende. Le vandalisme, c'est-à-dire tracer des inscriptions ou dessins sur une voiture, un mur ou les façades d’édifices, sans aucune autorisation, est puni de 3750 euros accompagné de travaux d’intérêt généraux (TIG). Il faut souligner que la tentative est punie des mêmes peines que les actes accomplis.

La peine sera augmentée dans les cas suivants : le bien détérioré est destiné à l’utilité publique ou à la décoration publique (abris-bus par exemple) ; les actes délictueux sont commis pour des motifs discriminatoires (appartenance racial, sexuelle ou autre…) ; plusieurs personnes ont participé aux détériorations ou les victimes sont des personnes vulnérables ; l’édifice détérioré est un établissement scolaire ; … Dans tous ces cas, la peine peut aller de 7500 euros et de TIG à cinq ans d’emprisonnement ans et 75 000 euros d’amende.

Il faut préciser que la peine augmente encore d’un cran, dès lors que l’édifice dégradé est un monument ou encore une découverte archéologique. Elle est portée alors portée à sept ans d’emprisonnement et 100 000 euros d’amende.

Est aussi assimilé à une dégradation ou une détérioration, le fait d’occuper un terrain appartenant à une commune et d’y élire domicile même temporairement. Cette infraction est punie de six mois d’emprisonnement et 3750 euros d’amende.

D’autre part, en plus des dégradations des biens, il faut distinguer les dégradations représentant un danger pour les personnes. Il s’agit notamment du fait de provoquer un incendie ou une explosion au mépris des règles de prudence et de sécurité. Si cette infraction est involontaire, la sanction sera d’un an d’emprisonnement et 15 000 euros d’amende. Si par contre, le non respect des règles de prudence et de sécurité est délibéré, alors la peine peut aller jusque trois ans d’emprisonnement et 45 000 euros d’amende.

Donc à moins de dégrader ton propre automate que tu auras payé, cette loi n'apportera pas grand chose de neuf, si jamais elle voit le jour.

[SofEvans]

Un seul mort tué par une machine devrait mettre un terme définitif à ces délires de véhicules automatiques !

Si tu savais le nombre d’expérience "abominable" et de mort qu'a engendrer l'évolution de la médecine, dirais-tu que nous n'aurions jamais dû persévérer ?

Oui je sais, l'évolution d'une chose aussi fondamentale que la médecine n'est pas comparable à un "luxe" tel que les véhicules automatiques, mais au final cela se rejoint un peu quand même.
Si tout les véhicules étaient automatisés de manière fiable, beaucoup de problème seraient réduit : pollution, embouteillage , accident ...

Sauf qu'avant d'en arriver à une automatisation fiable, il y a énormément de progrès à faire dans beaucoup de secteur (meilleurs matériel (capteur/route ...) ? meilleur algorithme (vitesse réaction/pertinence décision ...) ? ... ).

Le fait qu'une personne ait perdu la vie est plus que regrettable, et ceci ne doit pas être passé sous silence ou traité à la légère, mais d'un autre côté il serait dommage de tout stopper à ce stade.

[Matthieu76]

Le gars qui avait volé la technologie de Google

Quand je vois des projets sur YouTube d'un mec seul qui fait rouler une voiture sur GTA avec de l'IA, je pense qu'ils n'ont rien volé à Google.

Actuellement la conduite autonome est plus une bataille juridique que technologique.

[Invité]

Quand je vois des projets sur YouTube d'un mec seul qui fait rouler une voiture sur GTA avec de l'IA, je pense qu'ils n'ont rien volé à Google.

Actuellement la conduite autonome est plus une bataille juridique que technologique.

Hein ? Non mais c'est prouvé le vol de données... Donc tu peux penser ce que tu veux...

L’entreprise Uber a récemment signé un accord amiable avec la société Waymo, mettant ainsi fin à l’action judiciaire lancée par cette dernière à son encontre après quatre jours d’audience. Selon une source proche du dossier, Uber aurait consenti à verser près de 245 millions USD à la filiale d’Alphabet spécialisée dans les véhicules sans chauffeur et promis de ne pas utiliser les technologies que Waymo l’accusait de lui avoir dérobées.

Tu crois que tu paies autant quand tu vas gagner le procès ? (+ 0.34% de son capital)

https://www.developpez.com/actu/1871...x-entreprises/

Et GTA répond lui aussi à un algorithme crée par des développeurs, rien à voir avec une circulation d'êtres humains...

[benjani13]

Ca va etre l'embrouille pour définir les responsabilités maintenant. Qui va payer ?

Je trouve qu'il y a trop d'effervescence sur ces accidents de voitures autonomes et assez peu de pragmatisme. Tant que les technos de conduite autonome n'auront pas été bien rodées il faudra les considérés comme un accessoire de conduite comme un régulateur de vitesse, l'ABS, un radar de recule, etc. Le conducteur doit rester maitre de son véhicule (un peu comme un professeur d'auto école qui freine à la place d'un élève inattentif) avec les responsabilités qui incombent. Maintenant la techno peut réellement faillir et entrainer un accident (un conducteur qui ne pourrait pas reprendre la main sur le véhicule, l'IA qui effectuerai une manœuvre irrattrapable) et dans ce cas là le constructeur doit enquêter et porter sa responsabilité, de la même manière que les histoires de régulateur de vitesse bloqués.

Il serait intéressant de comparer le taux d'accidents des voitures autonomes avec celui des conducteurs. [...]

Tout à fait. C'est difficile de se faire une opinion car on a rarement de détails sur ces accidents pour comprendre la situation et les responsabilités (accident évitable par l'IA? évitable par un humain?).
Je me demande si les technos de conduite autonome sont capable d'anticiper certaines situations qui seraient évitées grâce à l'instinct humain ou bien par la compréhension des intentions des conducteurs et piétons. Par exemple différencier un piéton attentif qui ne va surement pas traverser devant vous et un autre pas du tout attentif qui va surement débouler (et donc anticiper en ralentissant au cas où).

[Invité]

Je trouve qu'il y a trop d'effervescence sur ces accidents de voitures autonomes et assez peu de pragmatisme.

C'est assez normal, notre société fonctionne avec des "coupables", des assurances, un système judiciaire, etc... toutes les morts sont analysés, contrôlés et ça dans tous les domaines...

Donc laissez le "Tué par l'IA" et ça s'arrête là, il faut régler des problèmes de sociétés, d'assurance, etc.. de tout un système qui fonctionne sans IA...

Logique pour moi de se poser beaucoup de questions autour de l'IA en général, ça permet justement de ne pas aller trop vite...

[Dasoft]

@Neckara Ce n'est pas comparable. Il faut bien penser que le nombre de véhicule autonome est quasi nul comparé au reste du trafic et on ne peut pas évaluer le pourcentage actuel d'accident de façon linéaire suivant la valeur actuelle.
La courbe d'accident sera d'ailleurs de façon logarithmique au meilleur des cas et au pire exponentielle !

Au risque de faire bondir les aficionados de l'IA, un algorithme ne pourra jamais s'adapter de façon intelligente, il suit des logiques préprogrammée par des humains qui ont des connaissances limités suivant un instant T. Il y a même un président américain qui ne croit toujours pas aux impacts de l'humain sur l'environnement, c'est vous dire qu'on loin d'être prêt à créer un IA crédible !

[Matthieu76]

il suit des logiques préprogrammée par des humains

Faux ! Les réseaux de neurones ne fonctionne pas comme ça. Tu n'as pas du faire beaucoup d'IA pour dire ce genre de chose

Oui enfin entre une simulation dans GTA et la réalité il y a un gouffre...

Pas tant que ça au vu des sommes investi dans ce genre de projet, ça reste de l'analyse d'image et de la prise de décisions dans les 2 cas.

Hein ? Non mais c'est prouvé le vol de données... Donc tu peux penser ce que tu veux...

Autant pour moi.

[sergio_is_back]

@Neckara Ce n'est pas comparable. Il faut bien penser que le nombre de véhicule autonome est quasi nul comparé au reste du trafic et on ne peut pas évaluer le pourcentage actuel d'accident de façon linéaire suivant la valeur actuelle.
La courbe d'accident sera d'ailleurs de façon logarithmique au meilleur des cas et au pire exponentielle !

Je ne sais pas si les courbes seront ou pas exponentielles mais il faudra prendre en compte :

- L'interaction entre véhicules autonomes de plusieurs constructeurs, générations différentes, au comportement pas forcement
identiques, des véhicules non autonomes, des piétions, des cyclistes, etc... et sans doute beaucoup d'autres facteurs comme
la météo (pluie, vent, neige, verglas, orage de grêle, etc... et parfois une combinaison de plusieurs facteurs), une mouette qui
chie sur le capteur. Pour avoir travaillé sur des systèmes embarqués avec capteurs, je sais que les capteurs peuvent êtres pris
en défaut par facteurs extérieurs non prévisibles (la pluie poussée par le vent par exemple) c'est pour cela qu'il faut les multiplier...

- En plus un véhicule autonome suit des algorithmes (que ce soit de l'IA ou pas) à la base c'est du codage écrit par des humains
et qui dit codage dit risque d'erreurs et de comportement non souhaité.

- Reste aussi les responsabilité juridiques, en cas de pépin qui est responsable ? Le propriétaire, le constructeur, les développeurs,
les fabricants de capteurs (si l'un a confondu un parque-mètre avec ta grand-mère) ? Tout cela nous promet de belles batailles
juridiques dans les prochaines années

[Neckara]

Je ne sais pas si les courbes seront ou pas exponentielles mais il faudra prendre en compte :

Tu fais des stats, tu n'as pas besoin de prendre en compte le moindre paramètres.

Tu considères juste que ce qui te ne prends pas en compte est aléatoire.

- En plus un véhicule autonome suit des algorithmes (que ce soit de l'IA ou pas) à la base c'est du codage écrit par des humains
et qui dit codage dit risque d'erreurs et de comportement non souhaité.

Pas quand on utilise de l'apprentissage.

Ce n'est pas des "lignes de code" en tant que tel, mais des pondérations/classification.

[sergio_is_back]

Tu fais des stats, tu n'as pas besoin de prendre en compte le moindre paramètres.

Tu considères juste que ce qui te ne prends pas en compte est aléatoire.

Nan, aujourd'hui on a quelques dizaines de véhicules qui évoluent dans un environnement "prédéterminé" à l'avance
sur ces parcours autorisés, on pourrait "presque" en déduire à l'avance le risque de collision. Suffit de connaitre le
trafic en temps et en heure sur le parcours et appliquer un modèle statistique.

Lorsque tu vas lâcher un million de ces véhicules dans une mégalopole ça change les données du problèmes, sachant
que ces véhicules n'ont pas le comportement d'un véhicule conduit pas un humain et donc on ne peut pas leur
appliquer un modèle statistique connu...

Tu prend Waze dont le but est d'éviter les bouchons et des chercheurs viennent de montrer qui si 25% des
automobilistes suivent ses conseils cela créé des bouchons encore plus importants que sans Waze et qui sont
plus long à résorber... Ce qui n'était pas le but recherché

Pas quand on utilise de l'apprentissage.

Ce n'est pas des "lignes de code" en tant que tel, mais des pondérations/classification.

Beaucoup d'informations sont pré-traitées avant d'être enregistrées dans les données d'apprentissage : les
capteurs ont besoin de seuillage, d'étalonnage, etc... La majorité de ces "filtres" en amont sont généralement
traités par des algos traditionnels et c'est ce résultat qui est pondéré/classifié (si l'étalonnage du capteur est
pas bon, il peut dire l'inverse de ce qu'il voit en réalité)...

"L'apprentissage" c'est aussi réalisé à la base par du code (plus au moins malin)... Au bout du compte
c'est un processeur qui exécute des instructions dans un certain ordre -> cet ordre c'est le développeur
qui l'a défini au départ même si les données "apprises" vont influer ensuite sur l'ordre et le nombre des
instructions exécutées... Mais l'on peut toujours tomber sur un biais.... L'histoire de l'informatique regorge
de "bugs" fabuleux non détectés au départ.... et aux conséquences pas forcément maitrisées...