Faits marquants de la semaine
- Des développeurs ont publié sur GitHub des méthodes pour contourner les filigranes invisibles ajoutés aux textes de Claude par Anthropic, exigés par l’AI Act de l’Union européenne (détection automatisée). Le code a attiré plus de 100 contributeurs.
- OpenAI a annoncé avoir mis en pause, pendant deux semaines, l’entraînement par reinforcement learning (apprentissage par renforcement) de ses derniers modèles, afin de renforcer des défenses et d’élargir la surveillance interne après un incident « type Hugging Face ».
- Snowflake a corrigé le jour même une faille d’injection de script dans un workflow GitHub Actions de snowflakedb/snowflake-connector-net : un agent d’attaque IA l’a exploitée pour extraire des identifiants, avant rotation le lendemain.
- Des pirates exploitent une faille critique dans MLflow, une plateforme d’IA téléchargée en moyenne 30 millions de fois par mois.
La semaine met en lumière des frictions croissantes entre déploiement de l’IA et sécurité : contournement de filigranes invisibles dans Claude, pause temporaire chez OpenAI pour renforcer les défenses, et incident Snowflake où une modification co-rédigée par un assistant de code a introduit une vulnérabilité ensuite exploitée par un agent IA. En parallèle, des recherches décrivent des contournements de garde-fous via des « prompts » chiffrés, tandis qu’un cas judiciaire rapporte des sanctions après insertion de prompt injections cachées dans des documents. Les usages offensifs progressent aussi, avec DeepSeek automatisant des étapes d’exploitation et des groupes menant des attaques à grande échelle.
L'essentiel Cybersécurité, IA & Tech
Rejoignez la communauté. 3 fois par semaine, recevez l'analyse des tendances par Marc Barbezat. Pas de spam, juste de l'info.
La sélection des 12 actualités à retenir cette semaine
Des programmeurs affirment avoir déjà trouvé des solutions de contournement aux filigranes invisibles de Claude.
Son code permettant de supprimer les filigranes des textes générés par Claude est depuis devenu viral sur GitHub, a été mis en favoris plus de 20 000 fois sur X et a attiré plus de 100 contributeurs, dont… Lire la suite
OpenAI suspend l'entraînement de Frontier RL et renforce ses défenses contre les comportements dangereux de l'IA
OpenAI a annoncé mardi avoir suspendu l'entraînement par renforcement (RL) de ses derniers modèles d'intelligence artificielle (IA) pendant deux semaines afin de renforcer ses défenses et d'étendre son dispositif de surveillance pour éviter un nouvel incident similaire… Lire la suite
Une IA a compromis le code de Snowflake. Puis une autre IA a exploité cette faille.
Une IA a compromis le code de Snowflake ; puis une autre IA, un agent d’attaque, a découvert la faille de manière autonome, l’a exploitée et a extrait les identifiants sans intervention humaine. Lire la suite
Des pirates exploitent une faille critique dans MLflow, une plateforme d'IA téléchargée 30 millions de fois par mois.
La faille SSRF MLflow CVE-2026-64849 peut permettre à des attaquants non authentifiés d'accéder aux services internes et aux métadonnées du cloud, exposant potentiellement des informations d'identification et des secrets sensibles. Lire la suite
OpenAI lance ChatGPT pour adolescents avec des mesures de sécurité renforcées.
La version pour adolescents est destinée aux jeunes de 13 à 17 ans et inclut des protections contre les contenus à caractère autodestructeur et sexuel. OpenAI lance une version de ChatGPT conçue pour les adolescents Lire la suite
Les invites chiffrées contournent les garde-fous de sécurité de l'IA dans Grok et Gemini
Des chercheurs affirment que la nouvelle technique d’« injection de contexte cryptographique » dissimule les instructions malveillantes jusqu’à leur déchiffrement dans un environnement d’exécution sécurisé. Lire la suite
Des messages d'IA invisibles déclenchent des sanctions judiciaires
Un plaideur a dissimulé des instructions automatisées par intelligence artificielle dans un document judiciaire afin d'influencer une décision. Le juge l'a découvert et lui a interdit de déposer des documents par voie électronique. Lire la suite
La société chinoise d'intelligence artificielle Zhipu affirme que son nouvel outil de détection de bugs est plus performant qu'Anthropic et OpenAI.
La société chinoise Zhipu a lancé la semaine dernière un nouveau modèle d'IA, GLM-5.3, dont elle affirme qu'il possède des capacités de détection de bugs équivalentes à celles des modèles américains. Lire la suite
Des patients se plaignent que leur réceptionniste médicale IA ne comprenne pas leur accent.
À Rotherham, dans le South Yorkshire, les patients sont exaspérésd et déplore l'incapacité d'un système d'intelligence artificielle à comprendre les accents locaux, source de frustration pour les patients. Lire la suite
Un pirate informatique chinois utilise l'IA de DeepSeek pour automatiser l'exploitation des vulnérabilités.
Un acteur malveillant sinophone a été observé utilisant l'IA DeepSeek comme opérateur offensif autonome pour identifier les infrastructures exposées, rechercher les vulnérabilités, acquérir des preuves de concept d'exploits publics et lancer des attaques avec une intervention humaine… Lire la suite
Des pirates informatiques chinois utilisent l'IA pour automatiser des attaques contre 170 000 serveurs
Un groupe de cybercriminels sinophones utilise des outils d'intelligence artificielle pour automatiser des attaques contre des serveurs web Windows et Linux vulnérables à travers le monde. Lire la suite
Google annonce que Gemma a dépassé le milliard de téléchargements.
Google annonce que sa famille de modèles ouverts Gemma a franchi le cap du milliard de téléchargements. Plus de 100 000 variantes de Gemma ont été publiées par les développeurs au cours des deux dernières années, a indiqué… Lire la suite
Cette veille vous a fait gagner du temps ?
Aidez DCOD à payer ses serveurs et à rester 100% gratuit et indépendant.
