Un nouveau scénario très inquiétant avec l’IA… et cela concerne les objets que vous utilisez tous les jours !

La start-up Anthropic a récemment averti que des modèles d'intelligence artificielle (IA) pourraient bientôt être capables de s'installer sur des objets connectés courants, tels que des aspirateurs ou des fours. Cette annonce fait écho à une étude réalisée par des chercheurs de l'université de Toronto, présentée en juin, qui examine la possibilité pour un modèle d'utiliser un appareil connecté à Internet. Anthropic souligne que pour qu'un modèle puisse fonctionner sur un tel appareil, il doit être à la fois puissant et suffisamment compact pour s'adapter aux capacités de traitement de l'équipement en question. Actuellement, aucun modèle ne répond à ces critères, mais la société prévoit qu'une IA répondant à ces exigences pourrait être développée d'ici la fin de l'année 2026.

Anthropic utilise le terme de « ver informatique » pour décrire ce type de logiciel, qui pourrait se propager de manière autonome d'un appareil à un autre. Les chercheurs de l'entreprise ont observé qu'un modèle peut être divisé en plusieurs segments afin de s'intégrer dans les spécificités d'un équipement connecté, permettant ainsi aux différentes parties de collaborer pour retrouver la puissance de l'IA d'origine. Les chercheurs, William Zhou et Daniel Freeman, notent que « un duplicateur de ce type serait difficile à désactiver, car il n'y aurait pas de point de contrôle central », bien qu'ils estiment qu'un tel outil serait relativement lent et peu efficace.

Cette publication intervient après plusieurs incidents récents où des modèles d'OpenAI, Anthropic, Google et Meta ont été impliqués dans des intrusions non autorisées sur de nombreux sites web. Des experts en informatique, anciens employés de ces grandes entreprises, ont exprimé leurs inquiétudes concernant une perte de contrôle progressive de ces modèles, qui pourraient agir indépendamment des intentions de leurs concepteurs. En répliquant eux-mêmes sur un objet connecté, ces modèles pourraient tirer parti des capacités de traitement de l'appareil grâce à ses composants intégrés, tout en échappant à toute intervention humaine sur le modèle initial.

Anthropic admet ne pas avoir encore observé d'IA capable de se reproduire de manière autonome et complète, mais souligne que les agents d'IA deviennent de plus en plus compétents dans l'exécution des différentes étapes de ce processus. Des critiques ont été émises concernant les conclusions d'Anthropic, notamment par le spécialiste en cybersécurité Marcus Hutchins, qui doute de la capacité d'un modèle à causer des dommages significatifs via un objet connecté, en raison des limitations des capacités informatiques de ces appareils. Il a également souligné que les systèmes d'exploitation de ces dispositifs se réinitialisent fréquemment, ce qui pourrait supprimer l'IA ajoutée.

Varun Chandrasekaran, professeur d'informatique à l'université d'Illinois, a également commenté que, même en cas de réinitialisation, il est relativement simple d'effectuer à nouveau une intrusion. Il estime qu'il est difficile d'évaluer les risques associés aux IA d'OpenAI ou d'Anthropic, car ces entreprises ne fournissent pas suffisamment de données pour valider leurs affirmations. Il accorde plus de crédit à l'idée qu'une personne mal intentionnée pourrait exploiter l'IA pour faciliter des actes répréhensibles. Il fait référence à une cyberattaque récente qui a touché les réfrigérateurs de plusieurs centaines de supermarchés en France.

Une équipe de l'université de Toronto avait déjà signalé en juin que des agents d'IA pouvaient utiliser un objet connecté pour se propager, en soupçonnant un pirate informatique plutôt qu'une IA autonome. Les chercheurs avaient averti qu'il est nécessaire de se préparer à faire face à des adversaires d'IA générative autonomes, capables de raisonner, de s'adapter et de concevoir des logiques d'attaque en temps réel. Les objets connectés, tels que les enceintes intelligentes, les tondeuses à gazon, les télévisions et autres appareils, font maintenant partie intégrante de notre quotidien.

Anthropic met en garde qu'un modèle dupliqué sur un appareil connecté pourrait s'avérer plus dangereux qu'un ver informatique traditionnel. La société propose plusieurs pistes pour renforcer la protection contre ce type d'invasion, notamment la mise en quarantaine d'un appareil pour éviter la propagation de l'IA vers d'autres objets connectés. Varun Chandrasekaran a souligné que « le problème réside dans le fait que la sécurité informatique des objets connectés reste extrêmement faible ».