Elon Musk vante Grok pour payer à votre place, poste sa commande LEGO… et expose son e-mail et 4 chiffres de sa carte

Elon Musk encourage ses abonnés sur X à utiliser Grok, son agent d'intelligence artificielle développé par xAI, pour effectuer des achats en ligne. Selon Musk, Grok est capable de trouver les meilleures offres et de passer des commandes à la place des utilisateurs. En effet, il suffit de photographier sa carte bancaire et de l'envoyer dans le chat pour que l'IA se charge de comparer les prix, choisir un vendeur et finaliser l'achat, sans intervention humaine à chaque étape.

Pour démontrer la simplicité de ce service, Musk a partagé une capture d'écran de sa commande de kits LEGO Star Wars destinés aux jeunes enfants. Malheureusement, il n'a pas flouté les informations sensibles, laissant apparaître des données personnelles comme son adresse e-mail et les quatre derniers chiffres de sa carte bancaire. Ce manque de précaution a rapidement suscité une réaction sur les réseaux sociaux, mettant en lumière les dangers potentiels d'une telle technologie.

À peine quelques heures après la publication, un utilisateur connu sous le nom d'Enderman a affirmé avoir annulé la commande de Musk en contactant le service client de LEGO avec le numéro de commande visible sur l'image. Son tweet a généré un grand nombre de réactions, mais Musk a rapidement répondu en affirmant que la commande n'avait pas été annulée. D'autres utilisateurs ont ensuite pris le relais, certains prétendant avoir passé des commandes similaires ou modifié l'adresse de livraison vers des lieux controversés, bien que ces affirmations n’aient pas été vérifiées de manière indépendante.

Interrogée par le magazine Wired, la société LEGO a choisi de ne pas commenter l'incident, tandis que le tweet de Musk est resté en ligne. Ce cas soulève également des préoccupations concernant la capacité d'une IA à interagir avec des systèmes de paiement en ligne, surtout lorsque l'agent a accès à des informations sensibles. L'incident met en avant les dangers inhérents à la gestion des données financières par une intelligence artificielle.

Un des principaux risques réside dans l'absence de vérification entre la carte bancaire et le paiement. En confiant ses informations à Grok, les utilisateurs permettent à l'IA d'accéder directement à leurs finances. L'agent peut photographier et utiliser ces données pour effectuer des achats, sans qu'aucune vérification humaine ne soit effectuée. Cela signifie qu'un site frauduleux pourrait facilement compromettre les informations transmises, ce qui expose les utilisateurs à des risques de fraude.

Les escrocs ciblent déjà les chatbots pour les inciter à recommander des produits frauduleux, et certains créent des sites imitant des marques reconnues pour collecter des données de paiement. Plus l'agent dispose de permissions sur le compte, plus le risque de compromission augmente. Ce problème ne concerne pas uniquement Grok, mais s'applique également à d'autres agents de paiement automatisés.

Une autre question importante se pose : qui est responsable en cas de problème ? Ni Grok ni d'autres agents d'intelligence artificielle comme ChatGPT n'ont de certification financière comparable à celle des applications bancaires. Cela devient particulièrement préoccupant, car aucune garantie de remboursement automatique n'existe pour les achats effectués par le biais d'une IA. En cas de fraude, les utilisateurs doivent assumer seuls la responsabilité.

À ce jour, aucune régulation spécifique ne régit les agents de paiement automatisés. Les escroqueries utilisant des synthèses vocales montrent déjà que les fraudeurs s'adaptent rapidement aux nouvelles technologies. Pendant ce temps, LEGO est restée silencieuse sur l'incident, et il n'est pas clair si la commande de Musk a été annulée, bien qu'il ait lui-même affirmé le contraire. Son post continue d’alimenter les moqueries sur les réseaux sociaux.

Pour les utilisateurs, la leçon est claire : confier sa carte à une IA revient à lui donner un accès direct à ses informations financières, sans les protections d'une application bancaire. Même des données partielles peuvent poser problème, et un simple paramètre mal configuré peut exposer des informations que l'on pensait privées. La démonstration de Musk, bien que gênante, souligne l'importance de vérifier les mesures de sécurité avant de confier ses informations financières à un robot.

Enfin, cet incident soulève des questions sur la sécurité des données, notamment à la lumière des récents piratages, comme celui subi par Basic-Fit. Pour ceux qui doutent des capacités des IA, la question des informations que nous leur confions devient plus pressante que jamais.