Discussion :

[Jonathan]

Des chercheurs réussissent à inciter deux modèles de Tesla à dépasser la limitation de vitesse
en se servant uniquement d’un ruban adhésif

Les progrès technologiques récents nous ont jusqu’ici très bien facilité la vie et nous ne sommes certainement pas au bout de nos surprises. En matière d'électronique embarquée pour automobiles, le désassemblage du modèle 3, a récemment montré que Tesla a 6 ans d’avance technologique sur les constructeurs historiques comme Toyota ou Volkswagen. Seulement, il s'avère que tout ce dont vous avez besoin pour tromper le système de caméra Tesla est un petit ruban adhésif. Cela peut paraître surprenant, mais ceci a été prouvé sur une Tesla modèle X et une autre de modèle S.

En effet, c’est au cours d’une expérience assez troublante que 2 chercheurs en sécurité travaillant chez McAfee, ont réussi à inciter deux Teslas 2016, avec le régulateur de vitesse activé, à accélérer jusqu'à 50 mph dans une zone dont la limite est fixée à 35 mph. Les chercheurs Steve Povolny et Shivangee Trivedi puisqu’il s’agit d’eux, ont réussi cet exploit simplement en collant une fine bande noire de ruban adhésif sur le signe prolongeant la ligne médiane sur le numéro 3 du panneau de signalisation. Cela a suffi pour tromper la voiture qui a lu 85 mph sur le panneau au lieu de 35 mph.

Cette astuce des chercheurs ne fonctionne que sur des Teslas dotées des systèmes de caméras Hardware Pack 1, mis en place par une société appelée MobilEye. Ces systèmes ont été installés dans les véhicules entre 2014 et 2016. D’après McAfee, plus de 40 millions de véhicules, y compris de nombreux modèles Tesla, disposent de ce système. C’est assez effrayant quand on y pense, de savoir qu’on pourrait partager la chaussée avec des appareils pouvant si facilement être dupés. McAfee déclare avoir informé Tesla et MobilEye des résultats de cette expérience.

Tesla a reconnu la recherche et a déclaré ne pas avoir l'intention de réparer les problèmes matériels sur cette génération de véhicules. MobilEye pour sa part, a rejeté les conclusions de cette expérience, affirmant que la même erreur aurait pu être commise par l'œil humain. Les véhicules de Tesla sont désormais équipés de caméras propriétaires, mais avec tous les problèmes rencontrés par les modèles précédents, il y a des raisons de penser qu’il faudra encore longtemps avant que les voitures autonomes ne soient disponibles dans le commerce.

Source : McAfee

Et vous ?

Qu’en pensez-vous ?
Pensez-vous comme MobilEye, qu’un humain aurait lui aussi pu mal lire ce panneau ?

Voir aussi :

Tesla bat un nouveau record en bourse avec la valeur de son action qui franchit la barre des 500 dollars laissant dans la poussière les objectifs de cours des analystes
Le désassemblage du Model 3 montre que Tesla a 6 ans d'avance technologique en matière d'électronique embarqué pour automobiles sur les constructeurs historiques comme Toyota ou Volkswagen
Elon Musk recrute pour Tesla et signe dans un style qui lui est particulier : « Je me fiche de savoir si tu es même parvenu à obtenir ton diplôme d'études secondaires »

[L33tige]

[B][SIZE=4]la même erreur aurait pu être commise par l'œil humain.

Exact, c'est d'ailleurs fait par les agents de la route eux-même dans certains cas lors de travaux, et sur d'autre voitures aussi, comme la mienne.

[yoyo3d]

je suis partagé sur cette étude... il est très facile de tromper une machine (ou un être humain) . De la même maniére ils auraient pu mettre un bande blanche sur le coté gauche du "8" pour faire croire à l'ordinateur qu'il s'agit d'un "3"
il est vrais que l’œil humain aurait été trompé de la même maniéré, sauf que le conducteur pourrait estimer qu'il roule trop vite par rapport aux conditions de circulation (l'état de la route, sa trajectoire etc) et donc réagir en conséquence.
je suis curieux de voir quelle solution il vont apporter...
est ce que les algorithmes peuvent décider...: "si j'ai un doute sur l'affichage, je ralenti", je suppose que oui mais cela signifierait qu'à chaque dégradation de signalisation le véhicule ralentirait constamment... en se rapprochant du panneau, l’œil humain repérerait peut être l'anomalie et le conducteur reprendrait une circulation normale.
je suppose que tout cela se calcule...et que c'est beaucoup plus compliqué que me ma simple analyse de conducteur lambda

[L33tige]

je suis partagé sur cette étude... il est très facile de tromper une machine (ou un être humain) . De la même maniére ils auraient pu mettre un bande blanche sur le coté gauche du "8" pour faire croire à l'ordinateur qu'il s'agit d'un "3"
il est vrais que l’œil humain aurait été trompé de la même maniéré, sauf que le conducteur pourrait estimer qu'il roule trop vite par rapport aux conditions de circulation (l'état de la route, sa trajectoire etc) et donc réagir en conséquence.
je suis curieux de voir quelle solution il vont apporter...

C'est pour ça qu'il y à encore un conducteur derrière le volant, ça permet d'avoir une double vérification, le conducteur peut toujours prendre la main.

[spyserver]

C'est marrant parce que le problème il saute aux yeux en réalité, en essayant de mimer l'humain à lire des panneaux la machine échoue au moindre biais, ne faudrait-il pas plutot inventer un nouveau système de guidage qui transite par le réseau LoRa ou Qowisio (crypté de bout en bout) ?
Ainsi la machine se connecterait au réseau de guidage et éliminerait de facto tous les biais induit avec ce type de traitement, les capteurs sont la pr detecter des hommes, des animaux ou des voitures mais ne doivent pas être utilisés pr lire des panneaux c'est débile !

[LuCiFeR-III]

Ca veut dire que dans les campagnes où toutes les routes sont limitées à 80 même quand ya des gros virages où on ne peut pas aller à plus de 50, la tesla va à fond les ballons ?

[clorr]

Si on était à 0 morts/blessés/accidents sur la route, je pourrais comprendre qu'on s'oppose à toute approche technologique pour la conduite.

Ici, je ne vois pas grand chose d'autre qu'un coup de buzz de McAfee pour surfer sur la vague du scepticisme face à l'automatisation des voitures.

Accessoirement, un humain ne regarde pas la route environ 10 à 20% du temps, donc oui, bien sûr qu'il peut faire ce genre d'erreur...

[Thomasa21]

Quand je vois le panneau de signalisation en question, je pense que moi aussi j'aurai pu confondre ces chiffres.

[L33tige]

C'est marrant parce que le problème il saute aux yeux en réalité, en essayant de mimer l'humain à lire des panneaux la machine échoue au moindre biais, ne faudrait-il pas plutot inventer un nouveau système de guidage qui transite par le réseau LoRa ou Qowisio (crypté de bout en bout) ?
Ainsi la machine se connecterait au réseau de guidage et éliminerait de facto tous les biais induit avec ce type de traitement, les capteurs sont la pr detecter des hommes, des animaux ou des voitures mais ne doivent pas être utilisés pr lire des panneaux c'est débile !

Ça marcherait pas dans le cas d'une petite intervention de la DDE, d'une zone temporaire due à un accident ce genre de choses, ya des tas de raison pour laquelle un agent de la route peut modifier la vitesse d'un tronçon.

Je rappelle que la voiture à tout moment peut être ralentie par le conducteur, j'ai jamais vu personne se plaindre parce-qu’un régulateur de vitesse ne ralentissait pas à l'approche d'un panneau donc je sais pas pourquoi vous vous emballez à moins de se mettre à roupiller au volant...

[spyserver]

Ça marcherait pas dans le cas d'une petite intervention de la DDE, d'une zone temporaire due à un accident ce genre de choses, ya des tas de raison pour laquelle un agent de la route peut modifier la vitesse d'un tronçon.

Je rappelle que la voiture à tout moment peut être ralentie par le conducteur, j'ai jamais vu personne se plaindre parce-qu’un régulateur de vitesse ne ralentissait pas à l'approche d'un panneau donc je sais pas pourquoi vous vous emballez à moins de se mettre à roupiller au volant...

Au contraire ça marcherait très bien, il suffirait de définir le tronçon sur le réseau de guidage via une interface mobile (tablette ou autre en possession de l'agent DDE ou des secours) en plus du balisage classique.

Il faut juste prendre un peu de recul et re-designer les réseaux routiers pour qu'ils soient adaptés à la conduite autonome.
Personne se plaint c'est vous qui le dite ? les conducteurs sont tjrs preneurs d'améliorations, si un véhicule permet de me conduire tranquillement, c'est autant d'attention qui peut être utilisée pour autre chose et c'est d'ailleurs l'objectif ultime de Tesla, créer des voitures de catégorie 5 d'ailleurs les japonais viennent de démontrer qu'ils avaient 6 ans d'avance sur VW/Toyota en terme de calculateur ...

Et j'ai même envie de dire et alors ? si ça marche pas "juste" sur les tronçons en travaux ou autre c'est pas si grave ! C'est déjà énorme et bien plus fiable que de lire des pauvres panneaux pouvant être biaisés et inadaptés aux IA ...

[L33tige]

c'est autant d'attention qui peut être utilisée pour autre chose

Faire attention à autre chose que la vitesse à laquelle on roule et le traffic qui circule autour de nous ? euh, ok. Ce que Tesla n'à surtout jamais caché (et il y à eu un procès à ce propos) c'est que l'autopilot n'est pas là pour remplacer le conducteur, donc comme d'habitude, il faut que l'utilisateur soit attentif à ce que fait l'autopilot, et ça inclue sa vitesse Et j'ai envie de dire ça sera le cas même quand on sera sur du full autonome, rien de mieux qu'un double contrôle homme + machine.

viennent de démontrer qu'ils avaient 6 ans d'avance sur VW/Toyota en terme de calculateur ...

Il à surtout été prouvé que c'est faux.

[Jipété]

Et j'ai envie de dire ça sera le cas même quand on sera sur du full autonome, rien de mieux qu'un double contrôle homme + machine.

Mais tu rêves complètement !

Déjà qu'à l'heure actuelle ils sont sans arrêt en train de consulter leurs gadgets électroniques, alors quand ils auront acheté l'engin qui va les dispenser d'être attentif h24, je te dis pas la montée en flèche de la consommation de connexions 5G et autres.
Comment être attentif à la route quand on ne tient pas le volant ? Rappelle-toi que certains s'y endorment, alors dans les dortoirs autonomes, ça picolera, ça lutinera Bobonne, ça bouquinera (pour ceux qui savent lire), ça tweetera, etc.

Ah, au début j'ai écrit "ils" car, oui, je ne suis pas concerné.

[kaitlyn]

Pfiou! 6 ans d'avance et déjà la cataracte.

[Dodfr2]

Il est où "l'exploit" ? je ne vois pas en quoi fausser l'apparence d'un chiffre pour le faire ressembler de (trop) près à un autre est un exploit, c'est plutôt un Proof Of Concept montrant les limites de la reconnaissance de caractères et qu'à un moment si le 3 ressemble trop à un 8 pour le système il sera lu comme un 8.

[ALT]

Jipété"[/COLOR]]Comment être attentif à la route quand on ne tient pas le volant ?

Je suis 100 % d'accord !
Demander à quelqu'un de surveiller constamment la route alors que le véhicule se débrouille (très) bien, c'est comme demander au passager d'un véhicule de se tenir prêt à prendre la relève du conducteur en cas de défaillance de celui-ci !
À ce niveau, autant exiger systématiquement deux conducteurs dans chaque véhicule.
Tant qu'on exigera la perfection absolue pour les véhicules automatiques, on pourra attendre très longtemps. Car il y aura toujours un plaisantin pour montrer que dans une situation tordue le système réagira mal.
Évidemment sans prouver qu'un humain aurait fait mieux (surtout si on tient compte du temps de réaction de ce dernier, supérieur à la seconde, quand l'opération est simple [freiner en urgence, par exemple]. Si, en plus il faut préalablement comprendre la situation...)

[Viking05]

Cette expérience conforte TESLA dans son choix d'abandonner ce système de lecture des panneaux qu'il a jugé peu sûr (et onéreux !) dans les TESLA Model 3. Ils ont préféré attendre et développer leur propre procédé. (à venir) En revanche les autres constructeurs utilisent toujours ce système.Si ma voiture veut m'entrainer pour une raison ou une autre au delà de la vitesse autorisée, je reprends la main et impose ma vitesse.
Pour répondre @LuCiFer-III, Non, sur une route limitée à 80 km/h, s'il y a un virage, en mode "limiteur de vitesse adaptatif", la voiture ralentit d'elle même et réaccélère ensuite.
Dans ce même mode, en circulation urbaine, elle maintient la distance avec le véhicule précédent. De toutes façon il est exclu de lâcher le volant sans être rappelé à l'ordre par un avertisseur sonore. (du moins en Europe).
Ce genre d'expérience rappelle celle qui consistait à coller un isolant sur le contact de l'allumeur d'une voiture thermique et à dire au garagiste : "trouvez la panne". Totalement artificiel.

[Pelote2012]

Faudrait qu'il recoupe ce qu'il voit avec des données GPS pour voir la cohérence... ca devrait pas être trop compliqué comme ça

[ALT]

Oui, sauf que les informations du GPS ne sont qu'indicatives.
Rien de fiable, là-dedans (en suivant mon GPS, j'ai jadis failli me retrouver dans une carrière [où, bien sûr, je n'avais strictement rien à faire]).
Et en cas de divergence (entre signalisation & informations GPS), on fait quoi ?
Car, pour corser la chose, la signalisation peut changer. Sans parler des routes elles-mêmes.

Conclusion, je crois que ça risque de compliquer les choses plutôt que de les fiabiliser.