Discussion :

[petitours]

La vache cette question débile a toujours cours ? elle était déjà sorti au début du buzz voiture autonome.

L'objet même d'un moyen de transport sans pilote est de ne pas créer de telles situations. a quoi bon un tel système sinon ?
Si la machine n'a pas de visibilité à 10m elle adapte sa vitesse pour pouvoir réagir en moins de 10m etc..

Par ailleurs les choix du sondages sont d'un malsain très marqué, si c'est sensé être drôle (et ça pourrait l'être) il ne faudrait pas que ce soit ici. L'article parle d'éthique, vous imaginez le niveau de l’éthique de ceux qui auraient répondu ici hors humour sur l'élimination d'un quelconque élément de la société (et j'inclus les animaux) ?

[catzy]

La vache cette question débile a toujours cours ? elle était déjà sorti au début du buzz voiture autonome.

L'objet même d'un moyen de transport sans pilote est de ne pas créer de telles situations. a quoi bon un tel système sinon ?
Si la machine n'a pas de visibilité à 10m elle adapte sa vitesse pour pouvoir réagir en moins de 10m etc..

ET si y'a eu un problème ? Ça va surement pas arriver tous les jours, mais ça peut arriver...

LPar ailleurs les choix du sondages sont d'un malsain très marqué, si c'est sensé être drôle (et ça pourrait l'être) il ne faudrait pas que ce soit ici. L'article parle d'éthique, vous imaginez le niveau de l’éthique de ceux qui auraient répondu ici hors humour sur l'élimination d'un quelconque élément de la société (et j'inclus les animaux) ?

Il faut bien choisir une réponse, même pour ces choix...

[catzy]

Pas les soirs d'Halloween

•.•

[petitours]

ET si y'a eu un problème ? Ça va surement pas arriver tous les jours, mais ça peut arriver...

Il faut bien choisir une réponse, même pour ces choix...

L'IA n'a pas à faire de tels choix, le débat ne fait que montrer l'impossibilité de choisir. L'étude citée plus haut n'est pas une étude éthique sur les IA des voitures, c'est juste une étude sociale des dérives sectaires et racistes.

Toute l'énergie des développeurs doit être consacrée à éviter de telles situations, par une meilleur anticipation des dangers pour adapter le comportement du véhicule et le maintenir sous contrôle (un peu comme devrait le faire tout conducteur aujourd'hui ) ; après si l'IA est en échec et qu'elle ne peut pas éviter le choc une solution possible serait de définir des stratégies en énergie. Tous les risques sont liés à l'énergie (= un potentiel d'action), donc à la vitesse or l'IA aura constamment à calculer ses temps de réaction en fonction de son énergie(vitesse) et de celle des choses dans son environnement, elle sera donc parfaitement compétente pour choisir la stratégie qui entraine le moins de perte d'énergie au contact des êtres vivants, donc de dommages physiques.
Vu qu'elle est en situation d'échec, donc dans un environnement qu'elle ne maîtrise plus, elle sera de toute manière dans l'incapacité d'anticiper la suite et encore moins d'anticiper le comportement des gens qui se font foncer dessus (on parle de phénomène chaotique là, imprévisible); perdre son énergie le plus rapidement possible, par exemple en se frottant contre un obstacle ou je ne sais quel autre moyen d'urgence à sa portée (ou faisant partie des accessoires de sécurité du véhicule) serait surement la seule réponse logique et universelle à toute situation. Les situations exceptionnelles faisant exception à ce principe de perte d'énergie peuvent être définies en tant qu'exception avec la stratégie ad hoc allant avec. C'est le genre de réflexion que l'on a sur les machines dangereuses en cas de déclenchement des arrêts d'urgence.

D’ailleurs, puisque le comportement des "êtres à sacrifier" est totalement imprévisible dans la situation où le véhicule leur foncera dessus, il ne reste dans la liste du sondage que les passagers du véhicule sous le contrôle du véhicule. cela donne une stratégie à plusieurs niveaux mais identique dans tous les cas :
Fonctionnement normal : le véhicule adapte son énergie à l'environnement. Si un danger nouveau apparait dans l'environnement il ralenti.
Urgence : idem sauf qu'il va perdre son énergie en urgence, en s'aidant des objets et/ou en abimant le véhicule.
Risque d'accident physique : il réduit encore le temps de perte d'énergie ; il fait comme pour l'urgence (perdre de l'énergie s'il faut en abimant le véhicule) mais prend en compte que les seuls êtres vivants sous contrôle et relativement protégés sont à bord.

[Fabiani]

L'IA n'a pas à faire de tels choix...

Je ne suis pas aussi catégorique que ça. On peut imaginer le cas d'un camion citerne débouchant d'un seul coup avec le choix pour l'IA (par manque de distance de freinage) de foncer sur le camion ou de projeter la voiture contre un arbre ou dans un ravin, tout ça dans une zone trés habitée.
Bien sûr les autres projections sont hautement aléatoires. Laisser la voiture foncer sur des êtres vivants, (animaux ou pas) est trop complexe. Les questions sociales (ou environnementales) évidemment ne doivent pas entrer en compte (âge,sexe,santé,QI,richesse...) à part bien sûr pour quelques fachos de service, mais on peut se demander si choisir les animaux, non pas pour les sacrifier mais en sachant que leurs reflexes, pour éviter le véhicule, doivent être beaucoup plus rapides que ceux d'un humain, peut être une option.
On pourrait alors conclure que c'est l'option "le moins de victimes possible" qui s'impose, mais je suis quand même gêné par ce choix. Si dans la voiture se trouvent ma femme et mes enfants, cette voiture n'a-t-elle pas le "devoir" car j'en suis l'acquéreur, de faire le maximum pour ramener ma famille à bon port, même si elle devait renverser 20 personnes au lieu de projeter la voiture contre un mur ?
Je vais choquer, mais je préfère cette option : "Sauver les passagers".

Salutations.

[catzy]

Je vais choquer, mais je préfère cette option.

En même temps, il est impossible de savoir exactement ce qu'il faut faire, cela dépend des croyances...

[Fabiani]

En même temps, il est impossible de savoir exactement ce qu'il faut faire, cela dépend des croyances...

Je ne comprends pas ! Choisir ma famille c'est croire en quoi ?

Salutations.

[petitours]

Je ne suis pas aussi catégorique que ça. On peut imaginer le cas d'un camion citerne débouchant d'un seul coup avec le choix pour l'IA (par manque de distance de freinage) de foncer sur le camion ou de projeter la voiture contre un arbre ou dans un ravin, tout ça dans une zone trés habitée.

La voiture autonome (comme le conducteur aujourd'hui) ne doit pas pouvoir se faire surprendre par ce cas. un camion citerne ça le déboule pas de l'espace, or si la voiture a la maitrise de sa vitesse en fonction de la la visibilité dont elle dispose elle sera capable, comme le serait un conducteur de stopper dans de bonnes conditions.

On pourrait alors conclure que c'est l'option "le moins de victimes possible" qui s'impose, mais je suis quand même gêné par ce choix. Si dans la voiture se trouvent ma femme et mes enfants, cette voiture n'at-elle pas le "devoir" car j'en suis l'acquéreur, de faire le maximum pour ramener ma famille à bon port, même si elle devait renverser 20 personnes au lieu de projeter la voiture contre un mur ?
Je vais choquer, mais je préfère cette option : "Sauver les passagers"

Moi ça me choque énormément comme point de vue. Personne ne vous a imposé de prendre la route et encore moins de foncer (si l'ia est en défaut c'est peut être parce que vous l'avez invité à le faire...), vous êtes donc responsable de ce qui arrive et de la mise en danger des autres ; la moindre des choses et de ne pas sacrifier délibérément les autres pour rattraper votre erreur.
Aujourd'hui celui qui conduit prudemment et dans le respect des autres ne tuera jamais personne, la moindre des choses est que l'IA fasse ce minimum !
De plus comme indiqué plus haut, les passagers sont les seuls à être sous contrôle et relativement protégés.

[catzy]

Je ne comprends pas ! Choisir ma famille c'est croire en quoi ?

Salutations.

Je veux dire que on a pas un truc dans la tête qui nous dit "un enfant a la valeur exacte de 4,76 adultes entre 30 et 38 ans" xD.

Choisir ta famille c'est croire en... la famille c'est important ?
Je veux dire aussi que la religion - par exemple - peut influencer les choix, c'est croire à une certaine vie après la mort - par exemple.

[Fabiani]

La voiture autonome (comme le conducteur aujourd'hui) ne doit pas pouvoir se faire surprendre par ce cas...

Je pensais à Coluche pour le camion.
Je comprends ton point de vue et que ça choque, mais je maintiens le mien : que la voiture me ramène ma famille saine et sauve.

Salutations.

[Neckara]

Personne ne vous a imposé de prendre la route et encore moins de foncer (si l'ia est en défaut c'est peut être parce que vous l'avez invité à le faire...), vous êtes donc responsable de ce qui arrive et de la mise en danger des autres ;

Vous partez du principe que le conducteur est responsable de la situation, ce qui n'est pas nécessairement le cas.

L'IA peut être mise en défaut par une situation impromptue et soudaine. Les piétons peuvent aussi être en tords e.g. courir sous les roues de la voiture sans regarder, marcher au milieu d'une autoroute/voie grande vitesse.

[Fabiani]

c'est croire à une certaine vie après la mort - par exemple...

Ok, je comprends mieux, mais je suis un athée immuable !!
Je veux qu'ils vivent avec moi, maintenant et pas dans mon esprit.

Salutations.

[petitours]

Vous partez du principe que le conducteur est responsable de la situation, ce qui n'est pas nécessairement le cas.

absolument pas, si on autorise une IA a prendre des risques là où son rôle devrait être de faire l'inverse la responsabilité serait sociétale. Si on laisse le choix à l'utilisateur de la voiture de donner des critères de choix alors la responsabilité est non seulement celle de l'utilisateur mais aussi celle de la société (en plus de faire un système qui ne fonctionnerait pas en obligeant les IA "prudente" à ralentir encore plus pour laisser la place aux bourrins).

L'IA peut être mise en défaut par une situation impromptue et soudaine

On est d'accord. mais elle n'a pas pour autant à choisir qui doit mourir et comme j'ai donné un exemple plus haut elle a des critères de décision, déjà utilisés aujourd'hui en industrie.

Les piétons peuvent aussi être en tords e.g. courir sous les roues de la voiture sans regarder

Non, ça c'est un cas que l'IA DOIT gérer (comme le conducteur aujourd'hui). La probabilité qu'un piéton déboule de quelque part (un enfant par exemple) est énorme, le véhicule DOIT être en mesure de s’arrêter ou éviter le piétons qui déboule en toutes circonstance ; soit on s'éloigne du bord (augmente le temps de réponse), soit on passe lentement le pied sur le frein... nous, comme l'IA, ne pouvons pas garantir de voir tous les piétons, par contre nous savons qu'il n'arrivera pas à 250km/h entre les 2 voitures qui sont garées...

marcher au milieu d'une autoroute/voie grande vitesse.

Comme il peut y avoir un obstacle, un vélo, un biche, une pierre ou un pneu éclaté... Là encore, soit il y a visibilité, soit l'IA DOIT ralentir en fonction de la visibilité dont elle dispose....comme le conducteur aujourd'hui

Je ne doute pas qu'il y ait des cas fouareux à gérer mais ces 2 exemples n'en sont pas puisque sont des cas hautement normaux et probables. En cas fouareux on pourrait avoir la route qui s’effondre, un avion qui se pose sur la route...(quoi que l'ia devrait le savoir ça...)
Une IA défaillante, piratée ou bricolée, c'est prévisible et fort probable, un capteur défaillant idem
La présence de piétons ou animaux c'est plus que probable, sûr que ça arrivera à toutes les IA et sont rôle essentiel est ici.
Des défauts sur la route une évidence

[Neckara]

Non, ça c'est un cas que l'IA DOIT gérer (comme le conducteur aujourd'hui). La probabilité qu'un piéton déboule de quelque part (un enfant par exemple) est énorme, le véhicule DOIT être en mesure de s’arrêter ou éviter le piétons qui déboule en toutes circonstance ; soit on s'éloigne du bord (augmente le temps de réponse), soit on passe lentement le pied sur le frein... nous, comme l'IA, ne pouvons pas garantir de voir tous les piétons, par contre nous savons qu'il n'arrivera pas à 250km/h entre les 2 voitures qui sont garées...
[…]
Comme il peut y avoir un obstacle, un vélo, un biche, une pierre ou un pneu éclaté... Là encore, soit il y a visibilité, soit l'IA DOIT ralentir en fonction de la visibilité dont elle dispose....comme le conducteur aujourd'hui

C'est toujours probabiliste, on n'arrivera jamais à faire une reconnaissance à 100%.
Dans ce cas, peut-on vraiment dire que cela est de la faute des passagers et qu'ils doivent ainsi se sacrifier ?

[petitours]

C'est toujours probabiliste, on n'arrivera jamais à faire une reconnaissance à 100%.
Dans ce cas, peut-on vraiment dire que cela est de la faute des passagers et qu'ils doivent ainsi se sacrifier ?

Non ces obstacles sur la route ou le piéton qui se lance sur la route ce n'est pas probabiliste. Soit on voit, soit on ne voit pas, soit on a la place de s’arrêter, soit on ne l'a pas. Le rôle de l'IA c'est de s'adapter à l'environnement, en fonction de ses temps de réaction et des informations dont elle dispose, comme nous devrions tous le faire. Elle est sensé le faire mieux, avec plus d'infos, plus de réactivité et avec constance.
Celui qui dit que c'est pas d'bol que le piéton (donc un gamin) saute sur la route et juste un chauffard. Comme celui qui roule à 130 sur l'autoroute quand il y a du brouillard et qu'il voit à 10m.

[Neckara]

Il n'existe aucun algorithme biométrique, ou de reconnaissance fiable à 100%, cela n'existe pas.
Même l'être humain n'est pas fiable à 100%.

Sans compter qu'il n'y a pas que la reconnaissance de la situation, mais aussi de la prédiction.
Là encore, des erreurs sont possibles.

[petitours]

justement, c'est pour cela que l'on doit maitriser sa vitesse... éviter tout ce que l'on n'a pas vu ou prévu.

[Neckara]

justement, c'est pour cela que l'on doit maitriser sa vitesse... éviter tout ce que l'on n'a pas vu ou prévu.

Le seul moyen de tout éviter, c'est de rester à l'arrêt… mais tu ne vas pas aller bien loin comme ça.

Je suis tout à fait d'accord quant au fait qu'il faille avoir une conduite prudente, et qu'il faut faire attention non-seulement pour toi, mais aussi pour les autres. Mais cela reste probabiliste, en allant plus lentement tu réduits certes le risque, mais il ne passe pas à 0.

Sachant aussi que rouler trop lentement est aussi un danger.

[petitours]

Sachant aussi que rouler trop lentement est aussi un danger.

oui, dans l'environnement actuel où beaucoup ne connaissent pas la pédale de frein et estiment que les limitations de vitesses sont des valeurs minimales, pas dans un environnement avec des IA qui s'adaptent objectivement et sans considérations phalliques.

D’ailleurs, je me demande bien comment le marketing va gérer ça pour les voitures autonomes, la sécurité intéresse qu'une minuscule partie des consommateurs aujourd'hui, la pub ne vente que le plaisir de conduire et les gros moteurs et autre signes de puissance.

[pierre2080]

Entièrement d'accord, la voiture devrait se prendre le rail. D'abord le matériel, puis les animaux, puis les vieux, et en dernier les jeunes. Dans une zone de catastrophe, les secouristes se focalisent en priorité sur les jeunes plutôt que sur les vieux, c'est la règle. Mais qu'entend-t-on par jeune ? Il est évident qu'un jeune de 18 ans passe avant un de 30 ans. Toutefois, qu'en est-il entre un jeune de 18 ans et un enfant de 5 ans ?
Pour moi, si on réfléchit de façon rationnelle, c'est le jeune de 18 ans qui passe avant car on a investi plus de temps à son éducation et sa formation. Après, je comprends que ça puisse choquer, mais si je n'avais pas le choix, c'est ce que je ferais.