Les Mercedes-Benz autonomes seront-elles programmées pour sacrifier les piétons et sauver leurs occupants ?

Les Mercedes-Benz autonomes seront-elles programmées pour sacrifier la vie des piétons afin de sauver les occupants du véhicule ?
C’est une solution qu’a formulée un responsable de l’entreprise au dilemme du tramway

Avec le développement rapide de l'intelligence artificielle (IA) des inquiétudes sur l'éthique des décisions que devront prendre les dispositifs intelligents font surface. En ce qui concerne les voitures autonomes par exemple, l'une des applications les plus importantes de l'IA, une question cruciale est : si une voiture autonome devait faire un accident inévitable, qui faudrait-il sacrifier en priorité ?

C'est le fameux dilemme du tramway dont la version originale peut se formuler comme suit : imaginons le conducteur d'un tramway hors de contrôle qui se doit de choisir sa course entre deux voies possibles : cinq hommes travaillent sur la première voie et un homme est situé sur l'autre. La voie prise par le tramway entraînera automatiquement la mort des personnes qui s'y trouvent. Que faut-il faire alors ? Prendre la deuxième voie afin de sacrifier une seule vie pour en sauver cinq ? Dans le cas de la dernière option le choix est-il moral ?

Dans un entretien accordé à des médias présents lors du Paris Auto Show de 2016, Christoph von Hugo – responsable sécurité automobile chez Mercedes – formule une solution à ce dilemme : « Si vous savez que vous pouvez sauver au moins une personne, sauvez au moins celle-là ; sauvez celle qui est à l'intérieur du véhicule. Si tout ce dont vous êtes sûr c'est qu'un décès peut être évité, alors c'est votre première priorité. » En d’autres termes, les véhicules autonomes doivent être programmés pour sauvegarder la vie des occupants du véhicule, ce, quelles que soient les circonstances.

Le positionnement de Christoph Von Hugo reste d'actualité puisque les développements relatifs aux véhicules entièrement autonomes et sans conducteurs sont en cours au sein de l’entreprise allemande. En effet, dans le cadre d’un partenariat avec Bosch, Mercedes entend lancer ses premiers robots-taxis sans conducteurs au début de l’année qui pointe à l’horizon. Pour ce qui est de savoir si les Mercedes Benz autonomes (niveaux 4 et 5) seront programmées pour sauvegarder la vie de leurs occupants en toutes circonstances, il convient peut-être d’attendre pour voir ce que 2020 nous réserve si l’entreprise reste cohérente avec son planning.

Pièce jointe 524785

En fait, le problème mobilise les réflexions de plusieurs équipes de recherche de par le monde. Le MIT Media Lab s’y est penché pour dégager neuf axes majeurs de réflexion : la voiture autonome devrait-elle épargner en priorité les humains plutôt que les animaux de compagnie, les passagers au lieu des piétons, les femmes au lieu des hommes, les jeunes plutôt que les vieux, les personnes ayant un haut statut social au lieu de celles ayant un statut inférieur, les personnes respectant la loi plutôt que les criminels, les personnes mal portantes au lieu de celles en bonne santé ? La voiture devrait-elle dévier (agir) ou ne rien faire ou encore chercher à épargner le plus de vies possible ? Ces questionnements font l’objet d’une expérience dénommée Moral Machine. Le MIT Media Lab l’a montée dans le but de recueillir les avis du public sur la question de savoir ce qu'il faut sacrifier ou épargner en priorité si une voiture autonome devait faire un crash inévitable.

Quatre ans après la mise en ligne de la plateforme, les millions d’avis recueillis en font l’une des plus grandes études réalisées sur les préférences morales mondiales et ce qu’il faut dire c’est que les divergences sont notables. Grosso modo, il ressort de l’étude que les gens sont d’accord pour épargner les humains plutôt que les animaux ou encore préserver la vie des enfants en priorité plutôt que celle des adultes. L’étude révèle également que les gens estiment aussi qu'il faut privilégier le scénario le moins coûteux en nombre de vies.

Sur la question de savoir s’il faut épargner les piétons plutôt que les passagers la réponse varie en fonction des pays. Le Japon s'est classé comme étant le premier pays où les répondants préfèrent que la vie des piétons soit épargnée au détriment de la vie des passagers. À l'opposé du Japon, on retrouve la Chine où les répondants ont clairement fait savoir qu'ils préfèrent plutôt qu'on épargne la vie des passagers et donc qu'on risque la vie des piétons si nécessaire. Par rapport à la moyenne mondiale, la France penche du côté de ceux qui veulent qu'on épargne la vie des passagers plutôt que la vie des piétons.

Pièce jointe 524786

Un score proche de 1 dénote de ce que les répondants estiment qu’il faut épargner davantage de vies

Ces questionnements et les études qui en découlent des implications intéressantes pour les pays au sein desquels les tests de voitures autonomes ont lieu, car ces préférences pourraient jouer un rôle dans la conception et la réglementation de ces véhicules. En outre, ces contenus sont susceptibles d’orienter les constructeurs quant à ce qui concerne les choix commerciaux à effectuer compte tenu des tendances des potentiels consommateurs. Enfin, ces divers questionnements ont une pertinence qui porte sur une problématique qui prendra toute sa force dans une dizaine, voire une vingtaine d’années. En effet, les développements liés aux voitures autonomes se poursuivent et les prouesses technologiques demeurent nombreuses à réaliser, ce, même si des camions sont déjà capables de livrer du beurre sans conducteur sur des distances de plus de quatre mille kilomètres.

Source : cardanddriver , MIT technology Review

Et vous ?

:fleche: Que pensez-vous du positionnement de Christoph Von Hugo ? Quels sont les problèmes qu’il pose ?

:fleche: Qui (ou que) faut-il sacrifier en priorité si une voiture autonome devait faire un accident inévitable ?

Voir aussi :

:fleche: Voitures autonomes : UPS acquiert des actions dans TuSimple et teste des camions autonomes en Arizona, depuis le mois de mai
:fleche: Le service postal des États-Unis teste des camions à conduite autonome, pour la distribution du courrier
:fleche: Uber ferme sa division dédiée aux camions autonomes, afin de recentrer ses efforts de conduite autonome sur les voitures uniquement
:fleche: Un camion électrique et autonome démarre les livraisons sur la voie publique suédoise, une première du genre au monde

Citation:

---

Envoyé par Patrick Ruiz

:fleche: Qui (ou que) faut-il sacrifier en priorité si une voiture autonome devait faire un accident inévitable ?

---

La question c'est plutot ou placer ta belle-mère? (tu peux remplacer belle-mère, par ton patron, ton voisin....). Faut il traverser sur l'autoroute devant la voiture de ta belle-mère? ou placer ta belle-mere sur le coté de la rue et dire à 5 potes de traverser devant la voiture? :mouarf:

Je vous recommande la lecteur de cet ouvrage sur le sujet :

"La voiture qui en savait trop: L'intelligence artificielle a-t-elle une morale ?"
de Jean-François Bonnefon

Citation:

---

Envoyé par Patrick Ruiz

Christoph von Hugo – responsable sécurité automobile chez Mercedes – formule une solution à ce dilemme : « Si vous savez que vous pouvez sauver au moins une personne, sauvez au moins celle-là ; sauvez celle qui est à l'intérieur du véhicule. Si tout ce dont vous êtes sûr c'est qu'un décès peut être évité, alors c'est votre première priorité. » En d’autres termes, les véhicules autonomes doivent être programmés pour sauvegarder la vie des occupants du véhicule, ce, quelles que soient les circonstances.

---

c'est une position qui se tient et qui permet d'évacuer le problème à moindre frais, ça revient à dire qu'aucune vie ne vaut plus qu'une autre, ce qui en pratique n'est pas tout à fait exact mais ça reste une position défendable.

Citation:

---

Envoyé par Patrick Ruiz

:fleche: Qui (ou que) faut-il sacrifier en priorité si une voiture autonome devait faire un accident inévitable ?

---

« mon fils, même pour cent millions je ne pourrais pas te répondre. » (Jésus, South Park)

une éthique fondée sur les coûts d'opportunité pourrait peut-être répondre à la question de manière satisfaisante ou au moins identifiable par tout un chacun.
en pratique il faut aussi compter avec les enjeux économiques qu'il y a derrière ; plus la morale de l'IA embarquée sera complexe à mettre au point plus ça retardera le lancement des véhicules autonomes sur le marché.

il n'y a pas de bonne réponse à ce genre de question, uniquement des sensibilités différentes, tout le propos étant que si on veut que le produit fonctionne auprès du grand public alors il aurait tout intérêt à s'adapter à la morale du plus grand nombre ou celle qui sera la mieux tolérée par l'ensemble de la population.

Dans un monde libéral, la voiture doit protéger son propriétaire, le fabriquant son client, et éventuellement minimiser les coûts (financiers) de l'accident pour lui. Reste à savoir si le proprio se trouve bien au volant, dès fois qu'il se trouverait à la place du piéton.

Qui achèterais, en pleine conscience, une voiture qui pourrait décider de vous tuer en cas de statistiques défavorables...

Pourquoi les constructeurs d'automobiles devraient assurer, seuls, la morale de notre société sur cette décision ? En l'état, qu'ils prennent une décision qui va sauvegarder leurs ventes me semble conforme aux besoins de leur entreprise.

Pour ce qui est de la morale, c'est à notre société de le prendre en charge.

c'est une fausse question.

Au delà de la voiture, dans la vie courante en cas d'accident tu sauve d'abord ta peau ensuite celle des autres si cela ne te mets pas en danger, c'est l’instinct de survie et c'est meme inscrit dans la lois (tu doit aider une personne en danger uniquement si tu ne ne te mets pas en danger).
Donc la réponse semble bien simple a cette question : tu sauve le conducteur en priorité et ensuite les passager de la voiture et ensuite les personnes extérieure au véhicule.
Mais de toute façon un piéton regarde avant de traverser une national à 110km/h et en ville à < 50km/h on peut normalement freiner un bon coup sans trop de risque pour ta vie (sauf si un camion te colle au cue).

Ce qui m’inquiète plus moi perso c'est les voitures électrique, à faible vitesse elle émettent un faible bruit qu'on entends difficilement, je me suis fait surprendre en vélo à avoir une zoé qui me double par exemple.

Sinon, le tableau des sacrifices sont intéressant je trouve. La Chine fait bien contrast.

Il me semble que la question ne se base pas sur un rapport 1:1 initialement.

La question c'est de savoir à partir de combien piétons tu envoies le conducteur dans le mur.

Citation:

---

Les Mercedes-Benz autonomes seront-elles programmées pour sacrifier la vie des piétons afin de sauver les occupants du véhicule ?

---

Poser la question et y répondre, prouve simplement que la "voiture 100% autonome" est destinée à finir dans les archives de l'histoire!

Quand les voitures 100% autonomes seront vraiment commercialisées et qu'un piéton américain aura été écrasé, il y aura juste des centaines d'avocats pour attaquer le fabricant en justice par un "la société X a programmé l'assassinat des piétons qui ont la malchance de croiser ses véhicules".

Et là, bonjour les centaines de milliards d'amendes en tout genre à la mode US. Le 1er constructeur concerné disparaîtra du marché en faillite et tous les autres se dépêcheront de sortir de leur catalogue la "voiture autonome programmée pour sacrifier la vie des piétons"! :mrgreen:



PS: A remarquer que cela finira de la même manière, si la voiture 100% autonome est programmée pour sacrifier les passagers!

@saint_win, +10000 :ptdr:.

@calvaire, +1 tout à fait d'accord avec toi, sur l'instinct de survie, mais pas tellement en ce qui concerne les voitures électriques qui devraient faire du bruit.
Si (et c'est un "si" du style "Paris en bouteille" :aie:) tous respectaient le Code de la Route, il n'y aurait pas "besoin" que les véhicules fassent du bruit (sauf danger immédiat).
Quand tu écrit "c'est même inscrit dans la lois (tu doit aider une personne en danger uniquement si tu ne ne te mets pas en danger)."

cf. :
Code Pénal, article 223-6, Peine pour non-assistance à personne en danger

Code Civil, articles 1240 à 1244, Responsabilité civile

"La personne coupable de non-assistance à personne peut être condamnée à une peine pouvant aller jusqu'à 5 ans d'emprisonnement et 75 000 € d'amende."




J'ai envie de dire que même dans la loi, , il y a possibilité d'argumenter avec les notions d' "abstention de porter secours" & de "péril grave et imminent".

Citation:

---

Que pensez-vous du positionnement de Christoph Von Hugo ? Quels sont les problèmes qu’il pose ?

---

Je suis globalement d'accord avec le M. sur le fait que l'on devrait sauver la vie qu'on est sur de pouvoir sauvé, les autres relèvent des probabilités (oui, c'est horrible à dire, mais ça n'en est pas moins vrai pour autant).
Il pose LE problème qu'avant d'avoir des machines autonomes dans les rue, il faudrait d'abord que l'on ce mette d'accord avec notre conscience collective (aka la morale) pour savoir ce que nous leurs demandons de faire :mouarf:.
Ce n'est pas une IA ou un algorithme qui vont prendre des décisions, mes les personnes qui les programmes, partant de ce constat il faudrait que collectivement, on ce mette d'accord sur les traitement à autoriser ou pas, avant même de savoir si c'est techniquement faisable.

Citation:

---

Qui (ou que) faut-il sacrifier en priorité si une voiture autonome devait faire un accident inévitable ?

---

C'est bizarre, m'est personne n'as répondu ...la voiture :ptdr:.

Si l'on parle de choque entre piétons et voitures autonomes avec passagers, la voiture devrait être en mesure de calculer sa vélocité à un instant T pour déterminer quelle collision ou type de collision, empercherait totalement le risque humain / animale au détriment du véhicule pour le coup.
Dans ce cas particulier, le risque serait d'avoir un problème technique sur la voiture (plus de frein ou autres) et à ce moment là, je doute qu'une IA puisse faire beaucoup mieux qu'un humain en ayant de contrôle sur rien :aie:.

Citation:

---

la voiture autonome devrait-elle épargner en priorité les humains plutôt que les animaux de compagnie

---

C'est une évidence, et ça sera aussi une solution au problème de salubrité publique des chiens errants et de la prolifération des chats.

Citation:

---

les passagers au lieu des piétons

---

Le conducteur a acheté la voiture, il ne s'attend pas à être tué par elle ; de la même manière les passagers veulent être en sécurité, et ce n'est pas de leur faute si un sale bambin joue au ballon sur la route.

Citation:

---

les femmes au lieu des hommes

---

Les femmes en priorité, pour la survie de l'espèce humaine (procréation et durée de vie plus longue).

Citation:

---

les jeunes plutôt que les vieux

---

Les jeunes en priorité, et ça règlerait ainsi les problèmes de retraites et toutes ces grèves et manifs.

Citation:

---

les personnes ayant un haut statut social au lieu de celles ayant un statut inférieur

---

Clodo, SDF, racaille, tout ça, c'est pas productif et ça doit dégager. Il est évident que les actifs productifs sont à épargner dans ce cas de figure.

Citation:

---

les personnes respectant la loi plutôt que les criminels

---

Cela donnera une raison de plus de respecter la loi. Tu as choisi une vie de crime ? Tu pourras être choisi par les voitures autonomes comme personne sacrifiable. Peut-être qu'on pourra enfin marcher dans la rue sans se faire agresser par tous ces voleurs et dragueurs.

Citation:

---

les personnes mal portantes au lieu de celles en bonne santé

---

Il faudra garder les personnes en bonne santé, c'est aussi une bonne solution pour l'euthanasie (toujours pas légale) et également le trou de la sécu.

Citation:

---

La voiture devrait-elle dévier (agir) ou ne rien faire ou encore chercher à épargner le plus de vies possible

---

Malgré les points ci-dessus, épargner le plus de vies possibles doit rester, malgré tout, l'objectif.

Un piéton contre une voiture, c'est sur que la voiture énormément. Plus sérieusement, c'est une entreprise, c'est forcement le client qui va passer en priorité, la notion d'éthique n'a rien a voir la dedans.

Citation:

---

Envoyé par pierre-y

Un piéton contre une voiture, c'est sur que la voiture énormément. Plus sérieusement, c'est une entreprise, c'est forcement le client qui va passer en priorité, la notion d'éthique n'a rien a voir la dedans.

---

Non mais c'est du bon sens...

Imagine tu te retrouve dans cette situation sans voiture autonome, tu es conducteur, vas du sacrifier ta vie et sauver le piéton ou alors tuer le piéton ?
Pour moi la question ne se pose meme pas, je tue le piéton... et la voiture autonome a intérêt de faire pareil sinon je risque pas d'en acheter 1.
Faut etre malade pour acheter un produit qui peut te sacrifier.

Peut importe que moi je suis un célibataire alcoolique et que le piéton c'est une femme enceinte + avec un 2ieme bébé dans un landau...
Désolé moi je suis peut etre le seul ici a avoir plus l'instinct de survie que le sens du sacrifice.

Citation:

---

Envoyé par calvaire

Non mais c'est du bon sens...

---

ah vraiment :)

Citation:

---

Envoyé par calvaire

Imagine tu te retrouve dans cette situation sans voiture autonome, tu es conducteur, vas du sacrifier ta vie et sauver le piéton ou alors tuer le piéton ?
Pour moi la question ne se pose meme pas, je tue le piéton...

---

c'est une façon de dire les choses, mais en réalité sur le moment ton but ce n'est pas de tuer le piéton (enfin j'espère ! :lol:), ton but est plutôt de sauver ta propre peau, et tuer le piéton n'est que l'ultime moyen pour y parvenir.
si on procède par analogie, devrait-on dire que la voiture autonome doit préserver sa propre intégrité avant tout ? c'est pratique, puisqu'on part du principe qu'on est dedans.

mais bon, le problème n'est pas analogue, puisque la voiture autonome justement n'a pas de volonté propre ni d'égo, et ne souhaite donc pas préserver sa carrosserie, si on lui programme de se sacrifier elle se sacrifiera, si on lui programme de tuer le piéton elle tuera le piéton, et dans la mesure du possible elle évitera de tuer qui que ce soit.

les questions éthiques ne viennent pas de la machine elle-même, mais des humains qui interagissent avec (en tant que passagers, en tant que piétons etc.), un questionnement éthique n'est donc pas inutile, et étant donné le potentiel de dangerosité d'une automobile (autonome ou pas), c'est d'autant plus un passage obligé de se poser toutes ces questions, il n'y a rien qui va vraiment de soi.

imaginons le scénario suivant ; c'est un voleur qui est dans ta voiture, et la voiture doit choisir entre faire avoir un accident "modéré" au passager (le voleur donc, disons avoir une jambe cassée, ou les deux) ou tuer le piéton (en l'occurrence le propriétaire qui lui courre après), dirais-tu que c'est évident et que ta voiture doit sacrifier la vie du piéton (c'est à dire toi) ?

Citation:

---

Envoyé par calvaire

Peut importe que moi je suis un célibataire alcoolique et que le piéton c'est une femme enceinte + avec un 2ieme bébé dans un landau...
Désolé moi je suis peut etre le seul ici a avoir plus l'instinct de survie que le sens du sacrifice.

---

en réalité il est moins question d'instinct de survie que d'égocentrisme moral, ce que tu décris c'est "moi d'abord, quoiqu'il en coûte aux autres", "après moi le déluge" ou encore "après moi la femme enceinte", c'est la position la plus simple dans un contexte de sélection naturelle et d'une certaine efficacité, mais nous sommes des humains et en tant que tels des animaux à la fois sociaux et moraux.