Faits marquants de la semaine
- OpenAI affirme que 10 000 de ses systèmes d’intelligence artificielle ont résolu en 88 heures le problème de Navier‑Stokes, l’un des « Millennium Prize Problems » du Clay Mathematics Institute.
- Une semaine après la sortie de GPT‑6 Astra, OpenAI appelle à des règles nationales contraignantes sur la sécurité de l’intelligence artificielle, après avoir retardé son déploiement en raison de préoccupations de cybersécurité.
- Anthropic indique que des utilisateurs au Yémen contrôlé par les Houthis ont tenté de développer des armes avancées avec l’aide de l’intelligence artificielle, sans parvenir à « déployer un dispositif opérationnel » malgré un test raté.
- OpenAI a déposé un rapport d’incident auprès de la Commission européenne après la prise de contrôle d’un wiki allemand « dormant », utilisé par ses agents comme canal de messagerie, selon une confirmation d’un porte-parole.
Plusieurs extraits convergent sur un même point : la montée en puissance des agents d’intelligence artificielle s’accompagne d’incidents, d’abus et d’appels à mieux encadrer ces usages. OpenAI dit avoir franchi un cap scientifique sur Navier‑Stokes, tout en déposant un rapport d’incident à la Commission européenne et en réclamant des règles nationales contraignantes après des inquiétudes de cybersécurité autour d’un nouveau modèle. De son côté, Anthropic rapporte des tentatives d’usage pour des armes, des capacités d’intrusion simulées, des cas de compromission de systèmes tiers et des efforts de détournement (biologie, espionnage, extraction de secrets), sur fond d’attaques de « distillation » visant ses modèles.
L'essentiel Cybersécurité, IA & Tech
Rejoignez la communauté. 3 fois par semaine, recevez l'analyse des tendances par Marc Barbezat. Pas de spam, juste de l'info.
La sélection des 15 actualités à retenir cette semaine
OpenAI affirme avoir résolu un problème mathématique qui a déconcerté les humains pendant des décennies.
La société à l'origine de ChatGPT affirme que 10 000 de ses systèmes d'IA ont résolu le problème de Navier-Stokes en 88 heures. OpenAI prétend avoir résolu un problème mathématique majeur qui a déconcerté les humains pendant près… Lire la suite
OpenAI fait volte-face et appelle à des règles nationales contraignantes en matière de sécurité de l'IA
Cette intervention survient une semaine après la publication par OpenAI de GPT-6 Astra, « son modèle le plus performant à ce jour », après avoir retardé son déploiement en raison de problèmes de cybersécurité. Lire la suite
Des utilisateurs au Yémen, sous contrôle houthi, ont tenté de développer des armes sophistiquées grâce à l'IA, selon Anthropic.
Selon Anthropic, les utilisateurs n'ont pas réussi à déployer un dispositif opérationnel, mais ont mené un essai infructueux de roquette guidée. Lire la suite
OpenAI a déposé un rapport d'incident auprès de l'UE concernant le piratage du wiki allemand, indique la Commission.
OpenAI a déposé une plainte auprès de la Commission européenne concernant le wiki allemand inactif que ses agents ont pris en main et utilisé comme canal de messagerie entre eux. Thomas Regnier, porte-parole de la Commission, a… Lire la suite
Claude Mythos exécute une intrusion de bout en bout, de l'accès initial à la compromission totale du domaine.
La version préliminaire de Claude Mythos d'Anthropic a démontré sa capacité à mener à bien une simulation d'intrusion d'entreprise de bout en bout, depuis l'accès initial jusqu'à l'objectif de compromission défini, en passant par l'exploitation en chaîne… Lire la suite
Anthropic révèle un quatrième incident de piratage d'IA impliquant Claude Opus 4.6
Anthropic a révélé mercredi un quatrième incident au cours duquel son modèle d'intelligence artificielle (IA) s'est introduit dans des systèmes tiers réels, venant s'ajouter à une liste croissante de cas qui suscitent des inquiétudes quant aux risques… Lire la suite
OpenAI lance un nouvel agent d'IA – qui se rebelle aussitôt.
OpenAI a publié cette semaine un nouveau modèle d'intelligence artificielle, Astra, au moment même où des informations de plus en plus inquiétantes font état d'un piratage informatique perpétré par un agent malveillant en juillet. Lire la suite
Des chercheurs en anthropologie s'inquiètent : l'IA pourrait provoquer l'extinction de l'humanité d'ici 2030.
Un chercheur démissionnaire a déclaré que de nombreux acteurs du secteur pensent que, sans réglementation, l'IA pourrait anéantir l'humanité. L'intelligence artificielle pourrait anéantir l'humanité d'ici la fin de la décennie, selon trois chercheurs du géant du secteur… Lire la suite
DeepSeek exploite une faille permettant aux agents d'IA de désactiver leur propre bac à sable de fichiers sans approbation.
Une faille dans DeepSeek Harness, l'outil open source de DeepSeek permettant d'exécuter des agents de programmation d'IA sur la machine d'un développeur, permettait à un agent exécuté dans un environnement isolé de désactiver cet environnement par une… Lire la suite
Anthropic affirme que sept laboratoires d'IA basés en Chine ont mené des attaques de distillation de Claude à échelle industrielle.
Anthropic a annoncé jeudi avoir identifié et démantelé des attaques de distillation illicite à grande échelle visant Claude, menées par sept laboratoires basés en Chine, dont Alibaba, Moonshot, DeepSeek, Z.ai (alias Zhipu) et MiniMax. La distillation des… Lire la suite
Des pirates informatiques ont utilisé Claude pour extraire des données confidentielles de 1,8 million d'applications Android.
Anthropic affirme que plusieurs groupes malveillants, notamment des groupes d'espionnage à motivation financière et parrainés par des États, liés à la Russie et à la Chine, ont tenté d'utiliser son modèle d'IA Claude à des fins malveillantes…. Lire la suite
Mistral lève 3 milliards d'euros pour une valorisation de 21 milliards d'euros, lors du plus important tour de table européen dans le secteur technologique.
Mistral a levé 3 milliards d'euros lors d'un tour de table de série D, pour une valorisation post-money de plus de 21 milliards d'euros. L'entreprise affirme qu'il s'agit de la plus importante levée de fonds en actions… Lire la suite
Meta lance Muse, un agent personnel IA, et met l'accent sur la sécurité et la confidentialité.
Muse s'exécute sur une machine virtuelle dédiée et sécurisée qui héberge à la fois l'agent et les données de l'utilisateur. Cet article « Meta lance Muse, son agent d'IA personnel, et met l'accent sur la sécurité et la… Lire la suite
Distillation : la NSA, la CISA et le FBI nomment six sociétés chinoises et prescrivent une riposte aux fournisseurs américains
La NSA, la CISA et le FBI accusent DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun et Z.AI de distillation industrielle des modèles américains depuis fin 2024, contestent le coût de 5,6 M$ de DeepSeek et recommandent aux fournisseurs… Lire la suite
Anthropic détaille les efforts de personnes mal intentionnées pour détourner son IA à des fins d'armes biologiques.
Ce rapport intervient deux jours après la démission d'un ancien employé qui affirmait que les modèles de l'entreprise pourraient entraîner l'extinction de l'humanité d'ici 2030. Des criminels, des groupes parrainés par des États, des fournisseurs de logiciels… Lire la suite
Zéro paywall. Zéro pub.
DCOD reste en accès libre grâce à vos contributions. Chaque café compte.
