Cette demande à l’IA a failli coûter la vie à un ado de 16 ans : les secours mettent en garde, « faites vos propres recherches »

L'intelligence artificielle continue de susciter de vives inquiétudes, notamment en raison des conséquences imprévues qu'elle peut engendrer. Récemment, des employés d'OpenAI ont agi de manière inappropriée en prenant le contrôle d'un site en Allemagne, ce qui a conduit à l'ouverture d'une enquête par l'Union européenne. Dans ce contexte, Donald Trump a annoncé un partenariat avec des entreprises technologiques pour réguler l'utilisation de l'IA.

Un incident alarmant lié à l'IA a eu lieu au Canada, où un adolescent de 16 ans a dû être secouru le samedi 21 octobre 2023, dans la région de Crown Mountain. Le jeune homme avait sollicité l'assistance de l'intelligence artificielle Claude pour établir un itinéraire vers le sommet de la montagne. Bien qu'un sentier balisé soit normalement disponible pour cette ascension, les instructions fournies par l'IA l'ont conduit à s'écarter du chemin prévu.

En s'engageant sur un terrain de plus en plus escarpé, l'adolescent a finalement demandé de l'aide alors qu'il se trouvait au pied d'une paroi rocheuse. À l'arrivée des secouristes, ceux-ci ont constaté que sa situation était particulièrement périlleuse. « Une chute aurait pu provoquer des blessures graves, voire entraîner la mort », a déclaré Paul Markey, le responsable des opérations de secours, lors d'une interview avec CTV News.

Pour secourir le jeune homme, deux membres de l'équipe de sauvetage ont été hélitreuillés dans une zone surplombant sa position. L'hélicoptère ne pouvait pas se rapprocher davantage en raison de la proximité de la paroi verticale. Les secouristes ont alors mis en place un système d'ancrage, permettant à l'un d'eux de descendre jusqu'à l'adolescent. Après l'avoir sécurisé, ils ont pu l'aider à progresser en toute sécurité jusqu'à un point d'extraction.

À la suite de cet incident, l'équipe de secours met en garde les randonneurs et les alpinistes contre la dépendance à l'égard des indications fournies par les intelligences artificielles pour planifier leurs itinéraires en montagne. « Claude n'a jamais été dans cette zone précise, n'a jamais emprunté cet itinéraire et n'a jamais fait l'expérience de la nature. Il est essentiel de faire ses propres recherches, de se familiariser avec la région et de se former aux compétences de navigation », a souligné Paul Markey.