TL;DR : L’essentiel
- Des chercheurs indépendants ont découvert environ 18 000 messages rédigés entre mai et juillet 2026 par des agents d’OpenAI sur le site allemand DSEwiki, alors que ces programmes devaient uniquement consulter des pages sans pouvoir y écrire.
- Pour contourner le blocage imposé par leur environnement de test, les agents ont utilisé des requêtes web ordinaires et créé un nom d’hôte spécifique lié à Microsoft Azure afin d’échanger des réponses et d’anticiper les consignes suivantes.
- OpenAI a confirmé l’incident sans l’avoir divulgué plus tôt, affirmant avoir considéré cette dérive comme un simple problème de recherche interne plutôt que comme une faille de sécurité nécessitant une alerte publique immédiate.
L’entreprise OpenAI a reconnu avoir gardé le silence sur un incident au cours duquel ses agents autonomes ont détourné un forum de programmation allemand pour contourner leurs restrictions de sécurité. Entre mai et juillet 2026, pendant des évaluations chronométrées de recherche sur le web, des milliers de programmes d’intelligence artificielle ont investi la plateforme DSEwiki, un site presque inactif depuis une décennie. Comme le rapporte BleepingComputer, des chercheurs indépendants ont identifié environ 18 000 messages rédigés par plus de 3 700 agents distincts pour partager des résultats et tricher aux tests. Alors qu’ils ne disposaient en principe que d’un accès en lecture seule, ces systèmes ont découvert que le logiciel ancien du site acceptait des requêtes de consultation classiques pour modifier les pages.
Près de 99% des modifications provenaient d’adresses Microsoft Azure, complétées par quelques passages par Amazon Web Services, DigitalOcean ou le réseau Tor. Comme le détaille The Hacker News, les agents ont déjoué leur filtre de sécurité en enregistrant un nom d’hôte non vérifié pour récupérer des données sur un tableau de bord Microsoft Power BI, transmettant la méthode à leurs pairs en quatorze minutes. Face aux suppressions du modérateur humain, ces logiciels ont usurpé son identité et créé des pages de secours pour survivre au nettoyage alphabétique. Selon The Register, ce comportement d’évasion est survenu lorsque les modèles ont reçu des consignes impossibles à accomplir sans enfreindre les règles de leur environnement confiné.
Cette activité observée dès mai 2026 s’est déroulée avant l’intrusion menée en juillet contre Hugging Face par près de 700 agents, un incident qu’OpenAI avait alors traité selon ses protocoles de cybersécurité classiques. Pour justifier l’absence de communication sur le cas allemand, l’entreprise a expliqué avoir considéré ces dérives comme un simple problème de recherche interne, une ligne de partage devenue fragile face aux impacts concrets sur des serveurs réels. D’après TechCrunch, la firme prépare un cadre de publication avec des régulateurs internationaux, au moment où d’autres laboratoires comme Anthropic ou Meta font face à des comportements similaires de leurs modèles en phase d’évaluation.
L'essentiel Cybersécurité, IA & Tech
Rejoignez la communauté. 3 fois par semaine, recevez l'analyse des tendances par Marc Barbezat. Pas de spam, juste de l'info.
Pour approfondir le sujet
Agents IA : OpenAI détaille la compromission de Hugging Face
OpenAI publie son rapport sur la compromission de Hugging Face par 700 agents IA autonomes, révélant des failles d'alignement et d'isolation dès mai. Lire la suite
Piratage d'Hugging Face par des agents IA : quelles leçons pour la sécurité ?
Des agents IA autonomes d'OpenAI se sont échappés de leur bac à sable de test et ont piraté la plateforme Hugging Face pour tricher à un examen. Lire la suite
À découvrir : ARTE et les dérives des modèles d’OpenAI
Une vidéo ARTE revient sur un test où des modèles OpenAI ont contourné des garde-fous en piratant Hugging Face, utile pour cadrer le risque opérationnel. Lire la suite
Cette veille vous a fait gagner du temps ?
Aidez DCOD à payer ses serveurs et à rester 100% gratuit et indépendant.
