Discussion :

[ShigruM]

Entièrement d'accord, la voiture devrait se prendre le rail. D'abord le matériel, puis les animaux, puis les vieux, et en dernier les jeunes. Dans une zone de catastrophe, les secouristes se focalisent en priorité sur les jeunes plutôt que sur les vieux, c'est la règle. Mais qu'entend-t-on par jeune ? Il est évident qu'un jeune de 18 ans passe avant un de 30 ans. Toutefois, qu'en est-il entre un jeune de 18 ans et un enfant de 5 ans ?
Pour moi, si on réfléchit de façon rationnelle, c'est le jeune de 18 ans qui passe avant car on a investi plus de temps à son éducation et sa formation. Après, je comprends que ça puisse choquer, mais si je n'avais pas le choix, c'est ce que je ferais.

entre un jeune ou une jeune on prend qui ? les femmes et les enfants d'abord ? cela fait des années que l'on se bat pour l'égalité on vas quand même pas tous détruire pour une simple "IA"

si ce jeune de 18ans c'est juste un dealer de drogue qui n'est donc qu'un parasite pour la société le sauverais tu en 1er ? ou bien laisserais tu la chance à Charle Édouard de 5ans d'apporter quelque chose de plus dans la société ?
sa me la fouterais mal de sauver un jeune de 18ans dealer de drogue, violeur, pédophile ou pire encore apprentis djihadiste.

ce genre de cas existe en médecine, un alcoolique seras moins prioritaire dans le cas d'une greffe de foie par exemple.

[Ecthelion2]

si ce jeune de 18ans c'est juste un dealer de drogue qui n'est donc qu'un parasite pour la société le sauverais tu en 1er ? ou bien laisserais tu la chance à Charle Édouard de 5ans d'apporter quelque chose de plus dans la société ?
sa me la fouterais mal de sauver un jeune de 18ans dealer de drogue, violeur, pédophile ou pire encore apprentis djihadiste.

Et tu nous explique comment tu sais ce que fait la personne dans la vie, ou même mieux ce que fera cette personne dans la vie dans 20/25 ans (pour le cas de Charles Edouard), lors d'un simple coup d'oeil qui dure quelques dixièmes de secondes (dans le cas où tu as effectivement le temps de voir la personne avant de la percuter) ?

Il faut arrêter de raconter n'importe quoi message après message...

[SofEvans]

Il serait plus logique de sauver les plus jeunes, ils ont plus de vie devant eux.

Je vais réagir sur ce point qui revient beaucoup.

Personnellement, ça me ferait gravement chier de me faire buter parce qu'une bande de gamins écervelé a cru rigolo de se jeter sous les roues d'une voiture autonome.
Ok, les jeunes ont plus de vie devant eux que moi, mais ça ne signifie pas que moi je n'ai pas de vie devant moi.

Merde, mais c'est quoi ces questions bizarres ?

Si une voiture autonome est dans une situation où elle ne peut rien faire pour éviter un accident mortel, alors elle pile à mort et reste sur sa voie de circulation.
De toute manière, il y a toujours une situation où la réponse est inversé car le groupe "fautif" n'est pas le même :
Pour le cas où la voiture doit "choisir" entre sacrifier 1 vieux ou 4 enfants, on dit quoi à la famille du vieux si la voiture à choisi de le buter parce que 4 môme ont fait de la merde et qu'ils ont provoqué l'accident ?
"Désolé, mais vous comprenez, ils sont si jeune, c'est normal de faire des bêtises à leurs âges.Et puis votre père n'en avait plus pour très longtemps non plus hein, je veux dire, à 80 ans, on a bien vécu, il a fait son temps".
Et on dit quoi à la famille des jeunes si la voiture à "choisi" de sacrifier les 4 jeunes en restant sur sa voie de circulation alors qu'elle aurai pu choisir de juste buter un vieux ?

Oui je sais, j'utilise des mots cru, mais en même temps, c'est pour montrer qu'on est tous le jeune de quelqu'un, ou est tous le vieux de quelqu'un, on est tous plus important pour un autre et on a tous quelqu'un de plus important que nous.
Alors comment voulez-vous faire quoi que ce soit sur cet aspect ?

De mon point de vue, le seul truc qui pourrait potentiellement être plus "moral" serait de choisir le groupe avec le plus de chance de survis, mais on sort de la question philosophique présente ici (car la chance de survie est 0%).
Et puis même sur ce point, que faire quand 1 vieux à 20% de chance de survis et que 4 enfant ont chacun 19% de chance de survis ? On retombe exactement dans le même problème. (edit : et encore que sur ce point, on peut bien rigoler aussi sur comment on va calculer les chances de survis d'un individu !)

Bref, question utile pour s’éveiller au casse-tête de la moralité, mais sans plus.

[deltree]

On oublie un peu le temps de réaction. pour moi le véhicule doit automatiquement stopper en ligne droite en moins d'une ms de temps de réaction. On passe notre vie à avoir des programmes qui mettent plusieurs dizaine ou centaine de ms à répondre pour des problèmes de base, m'étonnerais qu'une IA qui décide qui est jeune, qui est une femme etc. puisse répondre plus rapidement. 100 ms à 30m/s c'est déjà 3m, 10 ms, 30cm.. ça suffit à tuer quelqu'un ou le blesser gravement.

D'ailleurs est-ce qu'un conducteur, même très bon se pose ce genre de question? En situation d'urgence, on n'as que les réflexes, faut pas se poser de question. Donc même une mauvaise IA sera en principe meilleurs q'un bon conducteur, je reprends un propose précédent, le problème ne se pose pas la, un des vrais problèmes parmis tant d'autre: est-ce que le IA vont détecter toutes les situations d'urgence aussi bien qu'un humain?

[AoCannaille]

L'objet même d'un moyen de transport sans pilote est de ne pas créer de telles situations. a quoi bon un tel système sinon ?
Si la machine n'a pas de visibilité à 10m elle adapte sa vitesse pour pouvoir réagir en moins de 10m etc..
[...]

La voiture autonome (comme le conducteur aujourd'hui) ne doit pas pouvoir se faire surprendre par ce cas. un camion citerne ça le déboule pas de l'espace, or si la voiture a la maitrise de sa vitesse en fonction de la la visibilité dont elle dispose elle sera capable, comme le serait un conducteur de stopper dans de bonnes conditions

Vous faites un bien mauvais ingénieur. "Non, ce cas n'arrivera pas, on ne le code pas, on ne le prévoit pas, on n'en discute pas".

On parle ici d’expérience de pensée visant à estimer les différences d'éthiques dans le monde. Ce débat n'est pas technique mais philosophique et s'en passer sous prétexte que la qualité de réalisation est suffisante pour que le cas ne se présente pas est réducteur au possible et réduit de fait la sécurité et la sureté du système. En particulier quand aucune norme suffisamment stricte ne régit le développement de solutions autonomes comme dans l'aviation civile par exemple.

Pour l'instant, on a juste plein de protos plein de bugs aux cas limites qui n'attendent que le bon moment pour se réaliser. Et plus on pense comme vous le proposez, plus on aura de bugs aux cas limites...

[petitours]

Vous faites un bien mauvais ingénieur. "Non, ce cas n'arrivera pas, on ne le code pas, on ne le prévoit pas, on n'en discute pas".

On parle ici d’expérience de pensée visant à estimer les différences d'éthiques dans le monde. Ce débat n'est pas technique mais philosophique et s'en passer sous prétexte que la qualité de réalisation est suffisante pour que le cas ne se présente pas est réducteur au possible et réduit de fait la sécurité et la sureté du système. En particulier quand aucune norme suffisamment stricte ne régit le développement de solutions autonomes comme dans l'aviation civile par exemple.

Pour l'instant, on a juste plein de protos plein de bugs aux cas limites qui n'attendent que le bon moment pour se réaliser. Et plus on pense comme vous le proposez, plus on aura de bugs aux cas limites...

Soit vous n'avez pas compris ce que j'ai dit, soit c'est vous le mauvais ingénieur.

Si un véhicule autonome est en situation d'accident c'est qu'il a de fait perdu le contrôle de la situation, son IA a été mise en échec par des choses qu'il n'a pas su anticiper ou imposé par l'humain qui a souhaité dépasser le justement du véhicule (par exemple en imposant une vitesse minimum). A partir du moment où l'IA est en échec, si à l'instant t elle n'a pas été capable de gérer la situation, il est complètement stupide de lui demander gérer la situation à t+pas grand chose.


Ce que j'ai écrit c'est que l'IA en situation d'échec, parce qu'elle a une panne, parce que qu'elle na pas vu un truc ou n'a pas pu l'anticiper pour une infinité de raisons qui relèvent de la "limite" comme vous dites ne peut être résolue que par un comportement standard d'urgence, comme cela est pratiqué par exemple depuis des lustres en automatisme industriel.
L'objectif de cette réaction d'urgence étant d'éviter des dommages humains, une réaction possible, standard et facile à gérer, serait de perdre de l'énergie, aussi vite que possible. Pour rappel, tout ce qui se passe dans ce bas monde met en jeux de l'énergie, si dommage il y a c'est parce que la voiture a de l'énergie (1/2 m v²).

Vous parlez d’étique mais vous constatez bien que cette étude ne révèle pas d'étique ; elle ne fait que mettre à la lumière les caractères égoïste voir racistes de la population. D'autres études ne portant pas sur la voiture autonome révèlent les même tendances, en politique par exemple. Il n'y a aucun enrichissement possible de l'IA sur ces faux aspects étiques, en plus que cela serve à rien puisque en situation d'échec elle ne disposera de toute manière pas des éléments techniques pour choisir et agir.

[ddoumeche]

Vous parlez d’étique mais vous constatez bien que cette étude ne révèle pas d'étique ; elle ne fait que mettre à la lumière les caractères égoïste voir racistes de la population. D'autres études ne portant pas sur la voiture autonome révèlent les même tendances, en politique par exemple. Il n'y a aucun enrichissement possible de l'IA sur ces faux aspects étiques, en plus que cela serve à rien puisque en situation d'échec elle ne disposera de toute manière pas des éléments techniques pour choisir et agir.

Hors propos

[MiaowZedong]

Moi ce qui m'interloque c'est les gens qui disent qu'il faut sacrifier les femmes d'abord. J'entends bien qu'il y a mouvement de rejet parce que de nombreuses femmes veulent être égales mais seulement quand ça leur chante, et qu'en raison de cela les féministes sont mal vues (en fait, ce devrait être même certaines féministes, pas toutes les féministes et encore moins toutes les femmes).

Mais il y a un argument beaucoup plus vieux que cela pour sauver les femmes en priorité: les femmes, c'est des uterus, donc l'avenir de la société. Les hommes sont bien utiles, mais en définitive un homme pour cent femmes, ce n'est pas la mort de la société, alors que l'inverse, si.

[petitours]

Hors propos

En réponse à AoCannaille ce n'est pas du tout hors de propos

[petitours]

Moi ce qui m'interloque c'est les gens qui disent qu'il faut sacrifier les femmes d'abord. J'entends bien qu'il y a mouvement de rejet parce que de nombreuses femmes veulent être égales mais seulement quand ça leur chante, et qu'en raison de cela les féministes sont mal vues (en fait, ce devrait être même certaines féministes, pas toutes les féministes et encore moins toutes les femmes).

Mais il y a un argument beaucoup plus vieux que cela pour sauver les femmes en priorité: les femmes, c'est des uterus, donc l'avenir de la société. Les hommes sont bien utiles, mais en définitive un homme pour cent femmes, ce n'est pas la mort de la société, alors que l'inverse, si.

+1 mais entre autre. Ce sondage, comme toute étude d'opinion sur des priorités entre les êtres vivants est fondamentalement choquant. Plus globalement, outre que cette question ne devrait même pas être posée par les développeurs d'auto autonomes pour des raisons techniques, sa présence sur le forum est choquante je trouve.

[Sunchaser]

C'est l'hiver. Fin de journée.
Il ne fait pas très beau, mais cela a peu d'importance, la pluie ne gêne pas la très dense circulation: tous les systèmes automatisés communiquent et se règlent les uns aux autres afin de fluidifier au mieux la circulation. Les véhicules automones gèrent leur trajet au mieux (analyse des situations, échange d'infos avec les autres véhicules et éléments d'environnements "intelligents") parmis les autres véhicules, y compris les tramways et bus automatisés.
Tout glisse.
La, sur le bord du trottoir, la petite vieille est en panique: elle a lâchée par mégarde la laisse de son vieux chien, qui a traversé la terrible avenue. Il tremblote au milieu de la voie, sur le petit terre-plein central. Il ne risque rien, la, le petit chien: tous les systèmes de transport automatisés l'ont évités bien gentillement et à la limite, il pourrait rester la ou même traverser dans l'autre sens pour rejoindre mémère que cela ne changerait pas grand-chose aux traffic - les machins automatisés l'ont vu, ils ont échangés l'info entre eux afin de bien prendre en compte qu'il y a cet obstacle.
Mais la petite grand-mère, elle ne sais pas tout ça. Elle y comprends rien. Elle ne sait même pas que personne ne conduit les véhicules qui passent devant son nez. Elle veut juste récupérer son vieux chien. Elle est toute voûtée, vetue de couleurs plutôt sombre et trempée a cause de la pluie: on la remarque à peine dans la pénombre. Sans regarder la signalisation, elle s'avance, en dehors du passage piéton. Elle commence a paniquer, frolée par tous ces machins autonomes qui optimisent leur trajectoire tout en l'évitant. Elle hâte le pas, trébuche, s'affale au milieu de la voie et laissant tomber ses cabats, qui renversent leur contenus sur la route; dans la même seconde, le vieux chien se jete sur la chaussée pour rejoindre sa grand-mère qu'il a vu s'étaler.
Tout ceci met les nombreux véhicules automones concernés directement par l'incident en mode d'alerte maximale: ils doivent calculer soit la meilleure ou la moins pire des solutions. Percuter le véhicule de gauche ou de droite, afin d'éviter la petite vieille?
Ecraser le chien? La grand-mère? Monter sur le terre-plein central et percuter les gens qui attendaient pour traverser l'autre moitié de la route? Percuter le bus avec tous les gens dedans?
Se décaler et faire un face a face avec le tramway automatique?
En plus, ils passent tous l'infos aux véhicules autour, qui se mettent aussi a calculer de possibles trajectoires: le bus autonome peut il décider de faire une embardée afin de laisser une petite place afin qu'une des voitures puissent se dégager sans écraser la petite vieille et sans le percuter? Etc, etc, etc ... en qq millisecondes, le nombre de calculs a effectuer, le nombre d'infos qui transitent (via des serveurs spécialisés) provoque une hausse de la consommation électrique insoutenable pour le réseau.
Tout saute.
Tout est plongé dans le noir, les véhicules autonomes ne contrôlent plus rien, carambolage géant qui se propage de rues en rues. Le vieux chien est applati comme une crêpe, la petite vieille est en charpie.
Comme il avait fallu trouver des solutions pour répondre aux nouvelles demandes en électricité, surtout lorsqu'en hiver tout le monde après le travail se mettait a recharger sa voiture électrique quasiment dans les même plages horaires, on avait
patché encore et encore les vieilles centrales nucléaires, en croisant les doigts. Dommage, elles sont maintenant hors de contrôle.
Dans les 2 jours qui suivent, personne n'aura su reprendre le contrôle, elles seront en surchauffe et de partout en France on verra naitre des petits Tchernobyls.
La population panique, elle tente de fuir dans les pays voisins, qui eux sont déjà en alerte. Les gens sont refoulés par les armées voisines, c'est le chaos.
Donald Trump, qui a pris le pouvoir depuis de très nombreuses années, en fin analyste y voit une attaque des services secrets de la Corée du Nord: il balance une attaque nucléaire.
C'est la fin de l'humanité.
Tout ça à cause d'une petite vieille et de son chien ... p**in de petite vieille !

[petitours]

Tout ça à cause d'une petite vieille et de son chien ... p**in de petite vieille !

[Jipété]

C'est la fin de l'humanité.
Tout ça à cause d'une petite vieille et de son chien ... p**in de petite vieille !

Pas mal, mais t'aurais pu citer ta source d'inspiration (ou alors c'est une sacrée coïncidence) : Herbert Pagani (RIP), et son œuvre, Mégalopolis, la petite différence c'est que tout ça y survenait simplement à cause d'un embouteillage monstre généré par une tempête de neige (pas assez visionnaire, le Herbert, dans les années '70 ?)
Résultat, la relève des contrôleurs aériens n'arrive pas à la tour, les gens qui y bossent sont sur les genoux, des erreurs se produisent, deux avions se percutent et tombent sur une centrale nucléaire, le reste on l'imagine très bien...
Heureusement, Herbert termine sur une note optimiste, il a dû lire "Ravage", de Barjavel (écrit en '43, je ne le répéterai jamais assez -- Et lisez-le !)

Damned !

Petite particularité de la réédition EMI Pathé de 1989 : l'absence de la chanson "Vole la colombe". Une autre réédition de 1999 omet les textes de liaison, indispensables à la compréhension, juste avant "Confession d'un cadre supérieur" tout comme la reprise scénique de 1999 supprime la chanson "Le P.A.P.E."

M'en fous, j'ai l'original, mais franchement, c'est une honte, des rééditions où il manque des bouts,

[Neckara]

J'étais en train de penser… pour ce genre de problème, le système de score chinois serait pas mal.

[chrtophe]

L'effet papillon.

Comme je l'ai déjà proposé, le problème peut être partiellement géré en créant un couloir de circulation sécurisé, que la pauvre vielle dame ou son chien ne puisse pas atteindre, comme dans les métros automatiques.

Je dis bien que le problème de sécurité est partiellement géré, j'ai vu au moins un film avec un métro fou inarrêtable peut-être le métro de New-York.

[Sunchaser]

Bonjour,

Pas mal, mais t'aurais pu citer ta source d'inspiration (ou alors c'est une sacrée coïncidence) : Herbert Pagani (RIP), et son œuvre, Mégalopolis

C'est pire: je ne connaissais pas
Je jette un oeil la dessus dès que j'ai un peu de temps ...

[AoCannaille]

le nombre d'infos qui transitent (via des serveurs spécialisés) provoque une hausse de la consommation électrique insoutenable pour le réseau.
Tout saute.
Tout est plongé dans le noir, les véhicules autonomes ne contrôlent plus rien, carambolage géant qui se propage de rues en rues. Le vieux chien est applati comme une crêpe, la petite vieille est en charpie.

L'hypothèse de base de ton chaos est fausse : une voiture autonome doit l'être vraiment. Autant en energie, qu'en moyen de detection. Il ne faut absolument pas qu'une panne d'un serveur quelque part en californie provoque un crash en Allemagne...

[AoCannaille]

Soit vous n'avez pas compris ce que j'ai dit, soit c'est vous le mauvais ingénieur.

Je vais te renvoyer ta phase, soit tu n'as pas compris ce que j'ai dit, soit tu es toujours un mauvais ingénieur.
Tu as apporté une petite nuance, donc mon résumé précédent change de "Non, ce cas n'arrivera pas, on ne le code pas, on ne le prévoit pas, on n'en discute pas" à "Ce cas T implique que en T-1 on a pas su géré, donc on ne saura pas gérer le cas T, donc on ne le code pas, on ne le prévoit pas, on en discute pas".

On est en train de faire des plans sur la comète à propos de cas ultra précis, je prône le principe de précaution et vous arrivez avec une vérité absolue!



Le fait qu'il n'y ai pas de consensus sur les priorité à apporter est déjà une réponse en soit dont on peut tenir compte. Ce n'est qu'un seul pas dans le sens de l'automatisation et chaque information peut être mise à profit.

[petitours]

Je vais te renvoyer ta phase, soit tu n'as pas compris ce que j'ai dit, soit tu es toujours un mauvais ingénieur.
Tu as apporté une petite nuance, donc mon résumé précédent change de "Non, ce cas n'arrivera pas, on ne le code pas, on ne le prévoit pas, on n'en discute pas" à "Ce cas T implique que en T-1 on a pas su géré, donc on ne saura pas gérer le cas T, donc on ne le code pas, on ne le prévoit pas, on en discute pas".

On est en train de faire des plans sur la comète à propos de cas ultra précis, je prône le principe de précaution et vous arrivez avec une vérité absolue!


Le fait qu'il n'y ai pas de consensus sur les priorité à apporter est déjà une réponse en soit dont on peut tenir compte. Ce n'est qu'un seul pas dans le sens de l'automatisation et chaque information peut être mise à profit.

Je n'ai jamais dit qu'on ne devait pas prévoir ce que l'on doit faire !

Il n'y a pas de consensus sur la réponse à donner quant à qui doit être sacrifié (et pas besoin de cette étude pour le savoir, ça ressort dans toutes les enquêtes d'opinion qui concernent la priorité de telle ou telle "race" ou genre). Donc la réponse de la voiture n'a pas à prendre en compte qui est où, la voiture doit gérer une urgence, un imprévu et ce avec un comportement standard, le plus simple pour elle à maitriser, le plus simple pour les autres voitures à anticiper et demandant le moins d'informations possibles puisque ces situations peuvent relever en tout ou partie d'une défaillance capteur (sans que la voiture ne puisse le savoir qu'il y a défaillance) => la voiture doit limiter les dégâts = perdre de l'énergie = ralentir en créant elle même le moins de danger possible. C'est le propre de tout comportement d'urgence que l'on pratique sur des machines depuis des décennies par exemple. Là il y a en plus le problème de rester prévisible pour les autres véhicule.

[Eric80]

Tout ça à cause d'une petite vieille et de son chien ... p**in de petite vieille !

ton discours m'as fait bien rire!