3 randonneurs qui ont utilisé l'IA pour planifier leur excursion se sont retrouvés bloqués sur le mont Shasta
Trois randonneurs qui affirment avoir utilisé l'IA pour planifier leur excursion ont été secourus après avoir été bloqués sur le mont Shasta, utiliser l'IA était une "erreur grave", selon le bureau du shérif
Trois randonneurs novices originaires de Roseville, en Californie, se sont retrouvés bloqués sur le mont Shasta après avoir utilisé l'intelligence artificielle (IA) Gemini de Google pour planifier leur excursion, une décision que le bureau du shérif du comté de Siskiyou a qualifiée d'« erreur grave ». Le chatbot avait en effet conseillé au groupe d'emporter moins de nourriture et d'eau que ce dont ils avaient besoin. Leur ascension, initialement prévue pour durer 8 heures, s'est alors transformée en une épreuve de plusieurs jours. Le groupe a finalement été secouru par les « Climbing Rangers » du Service forestier américain, après qu'un des randonneurs a été blessé et que le groupe a passé une nuit bloqué dans le ravin escarpé de Mud Creek Canyon.
Gemini, également connu sous le nom de Google Gemini (anciennement Bard), est un chatbot et assistant virtuel basé sur l'IA générative, développé par Google. Il est alimenté par la famille de grands modèles de langage (LLM) du même nom, après avoir été initialement basé sur LaMDA et PaLM 2. La famille de LLM multimodaux Gemini, composée de Gemini Pro, Gemini Deep Think, Gemini Flash et Gemini Flash Lite, a été annoncée le 6 décembre 2023.
Le lundi 31 août 2026, trois randonneurs ont été secourus après s'être retrouvés bloqués sur le mont Shasta, près de la Clear Creek Route, en Californie. Les randonneurs ont déclaré au bureau du shérif du comté de Siskiyou qu’ils s’étaient largement appuyés sur Gemini, l’assistant IA de Google, pour obtenir des informations sur l’itinéraire et sur ce qu’il fallait emporter, ce que le bureau du shérif a qualifié d’« erreur grave ».
« Gemini leur avait conseillé d'emporter beaucoup moins de nourriture et d'eau que ce dont leur groupe avait besoin, d'autant plus que leur ascension, initialement prévue pour durer 8 heures, s'est transformée en une épreuve de plusieurs jours », a indiqué le bureau du shérif dans un communiqué.
Ces randonneurs « novices », originaires de Roseville en Californie, ont établi leur campement le samedi 29 août à 2 560 mètres d'altitude. Ils sont ensuite partis dimanche à 3 heures du matin, équipés de sacs à dos de randonnée, pour tenter de gravir le mont Shasta, d'après le bureau du shérif du comté de Siskiyou. Ils ont déposé leur demande le dimanche soir, après l'heure limite recommandée de midi, et sont redescendus dans l'obscurité, a précisé l'autorité du comté.
Une heure après avoir entamé leur descente, ils ont appelé le centre d'appel du bureau du shérif pour demander leur chemin, mais ils se sont égarés et se sont retrouvés dans le Mud Creek Canyon, a indiqué le bureau du shérif. Un membre du groupe est tombé et s'est blessé au genou plus tard dans la nuit, avant que le groupe ne s'enfonce dans le canyon de Mud Creek, où il s'est retrouvé bloqué.
Le groupe a ensuite été contraint de bivouaquer dans le ravin escarpé de Mud Creek Canyon jusqu'à ce que les « Climbing Rangers » du Service forestier américain (USFS) viennent à leur secours le lendemain matin, a précisé le bureau du shérif. Ils ont reçu des soins médicaux, puis les randonneurs et les équipes de secours sont retournés au point de départ sans incident.
Le bureau du shérif du comté de Siskiyou a indiqué que les randonneurs devaient faire demi-tour s'ils n'avaient pas atteint le sommet du mont Shasta avant midi, afin de disposer de suffisamment de lumière pour redescendre. Les randonneurs doivent également s'arrêter régulièrement pour vérifier qu'ils sont bien sur le bon itinéraire et ne pas se fier uniquement à leur téléphone portable ou à leur GPS.
« Bien que la voie Clear Creek sur le mont Shasta ne soit pas une voie d’alpinisme technique, elle exige tout de même que les grimpeurs soient en bonne condition physique et préparés à faire face à des imprévus, tels qu’une blessure, des intempéries ou une nuitée imprévue. Des accidents graves, voire mortels, se produisent sur la voie Clear Creek lorsque des personnes se perdent et s’aventurent sur des terrains plus dangereux, comme le bassin versant de Mud Creek », a déclaré le bureau du shérif.
« Il est toujours conseillé d'appeler le poste de garde forestier local de l'USFS du mont Shasta avant votre départ afin de vous assurer de disposer des informations les plus précises possibles, et de ne jamais vous fier uniquement à l'IA pour planifier votre voyage », a ajouté l'autorité de maintien de l'ordre du comté de Siskiyou.
Cette mésaventure rappelle que les limites de l’IA générative ne se résument pas aux biais ou aux erreurs de représentation ; elles peuvent également concerner des recommandations concrètes utilisées dans des situations potentiellement à risque. En février 2024, Sundar Pichai, PDG de Google, avait reconnu dans une note interne adressée aux employés que certaines réponses textuelles et visuelles de l'IA Gemini étaient biaisées et « totalement inacceptables ». Cette situation a suscité plusieurs réactions négatives de la part des utilisateurs et fait perdre 90 milliards de dollars à la capitalisation boursière de l'entreprise.
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi :
Répondre avec citation
Envoyé par weed
Partager