Images piégées : comment le redimensionnement menace la sécurité des IA

brève actu

Des images redimensionnées peuvent exfiltrer des données via l’IA. Une attaque discrète mais puissante, désormais décryptée par des chercheurs en cybersécurité.

L’essor des systèmes d’intelligence artificielle (IA) a conduit à l’émergence de nouvelles vulnérabilités exploitant des méthodes sophistiquées. Une attaque récemment mise en lumière utilise le redimensionnement d’images pour insérer des commandes secrètes dans les systèmes IA, compromettant potentiellement des données sensibles.

Cette technique, qui repose sur la manipulation d’images pour révéler des instructions cachées lors du redimensionnement, a été démontrée par des chercheurs de Trail of Bits. Ils ont montré que des plateformes comme Gemini CLI et Vertex AI Studio sont susceptibles à ces attaques, mettant en évidence un risque significatif pour la sécurité des données.

Exploitation du Redimensionnement d’Images

Les systèmes IA, pour des raisons d’efficacité, redimensionnent souvent les images avant de les traiter. Ce processus, appelé interpolation, peut être exploité pour révéler des commandes cachées dans les images d’origine. Les algorithmes de redimensionnement tels que l’interpolation bicubique transforment des images de haute résolution en versions plus petites, où des artefacts peuvent apparaître.

Ces artefacts sont invisibles à l’œil nu mais peuvent être interprétés par les modèles IA comme des commandes valides. Par exemple, une image apparemment inoffensive peut contenir des instructions cachées qui, une fois traitées, déclenchent l’exfiltration de données, comme l’a démontré une attaque où des informations de Google Calendar ont été siphonnées sans autorisation utilisateur.

Implications Sécuritaires et Défenses

Face à ces nouvelles menaces, les systèmes traditionnels de défense, comme les pare-feu, ne sont pas adaptés pour détecter ce type d’attaques. Les chercheurs recommandent donc des mesures de sécurité renforcées, notamment l’implémentation de modèles de conception sécurisés et de défenses systématiques. Ces stratégies incluent la limitation des dimensions d’entrée, la prévisualisation des résultats redimensionnés et l’exigence de confirmation explicite pour les appels d’outils sensibles. Par ailleurs, l’outil open-source Anamorpher a été développé pour générer et visualiser ces attaques, permettant aux utilisateurs de mieux comprendre et défendre leurs systèmes contre de telles vulnérabilités.

La confiance dans les systèmes IA multimodaux est remise en question par ces attaques sophistiquées. Alors que de nombreuses plateformes intègrent ces systèmes pour des tâches quotidiennes, le simple téléchargement d’une image peut potentiellement entraîner un accès non désiré à des données. L’attaque soulève également des préoccupations quant au vol d’identité si des informations sensibles sont exfiltrées.

L’intégration croissante des modèles IA avec des outils de communication et de gestion de tâches élargit ainsi le champ des risques. Pour mitiger ces menaces, une approche de sécurité en couches et des modèles de conception sécurisés sont essentiels pour protéger les données des utilisateurs.