Faits marquants de la semaine
- Les premiers chatbots grand public ont pu être aisément « jailbreakés » par de simples consignes textuelles, contournant leurs garde-fous pour générer recettes de drogue, instructions de logiciels malveillants ou guides de fabrication d’explosifs.
- Le Pentagone a officiellement inscrit Anthropic sur sa liste de menaces pour la chaîne d’approvisionnement nationale, tandis que la NSA continue malgré tout d’utiliser un modèle avancé de Claude, faute d’alternative disponible.
- L’Allemagne lance un programme de 125 millions d’euros via l’agence d’innovation SPRIND pour tenter de rattraper le retard européen dans le développement de modèles d’intelligence artificielle dits de « frontière ».
- Le modèle Mythos d’Anthropic a identifié quelque 23 000 vulnérabilités potentielles dans 1 000 projets open source, dont un grand nombre déjà confirmés comme critiques ou de gravité élevée, avec un total encore appelé à croître.
Les différentes études et annonces soulignent une accélération des risques liés aux modèles d’intelligence artificielle avancés, utilisés à la fois comme outils critiques par des agences de renseignement, comme leviers industriels pour l’Europe, et comme scanners massifs de vulnérabilités logicielles. Cette montée en puissance heurte frontalement les enjeux de sécurité nationale, de dépendance technologique et de durcissement des écosystèmes open source.
L'essentiel Cybersécurité, IA & Tech
Rejoignez la communauté. 3 fois par semaine, recevez l'analyse des tendances par Marc Barbezat. Pas de spam, juste de l'info.
La sélection des 15 actualités à retenir cette semaine
Les pirates informatiques apprennent à exploiter les « personnalités » des chatbots.
Les pirates informatiques demandent rarement à un modèle d'enfreindre ouvertement ses règles. Ils préfèrent cajoler, amadouer, flatter et tromper un chatbot pour qu'il baisse sa garde, rendant ainsi l'acte interdit acceptable, voire souhaitable, compte tenu du contexte de la conversation. Lire la suite
Les États-Unis ont placé Anthropic sur liste noire en raison de son statut de menace pour la sécurité. Leurs services de renseignement utilisent néanmoins Claude.
Le gouvernement américain est confronté à un problème qu'il ne peut résoudre publiquement. Le Pentagone a officiellement placé Anthropic sur liste noire, la considérant comme une menace pour la sécurité nationale. La NSA utilise néanmoins l'IA d'Anthropic… Lire la suite
« Nous n’avons pas de temps à perdre » : l’Allemagne lance un plan de 125 millions d’euros pour développer l’IA de pointe en Europe.
Euronews Next s'est entretenu avec Jano Costard de SPRIND pour savoir si l'Europe peut encore rattraper son retard dans la course à l'IA et ce qu'elle peut encore faire différemment. Lire la suite
Anthropic : Mythos a détecté 23 000 vulnérabilités potentielles dans 1 000 projets open source.
De nombreuses vulnérabilités critiques ou à haut risque ont été confirmées et leur nombre ne cesse d'augmenter. Cet article « Anthropic : Mythos a détecté 23 000 vulnérabilités potentielles dans 1 000 projets open source » a été initialement publié sur SecurityWeek. Lire la suite
Nouvelle vague d'attaques nord-coréennes : utilisation de malwares npm insérés par IA, de fausses entreprises et de RAT
Des chercheurs en cybersécurité ont découvert du code malveillant dans un paquet npm, après qu'un paquet malveillant soit entré en dépendance du projet Claude Opus, le modèle de langage étendu (LLM) d'Anthropic. Le paquet en question est… Lire la suite
Une étude révèle que les chatbots IA amicaux sont plus susceptibles de soutenir les théories du complot.
Des chatbots programmés pour répondre chaleureusement vont jusqu'à remettre en question les alunissages d'Apollo et le sort d'Hitler, selon des chercheurs. La volonté de rendre les chatbots IA plus conviviaux a un revers inquiétant, affirment des chercheurs…. Lire la suite
Anthropic lance un plugin gratuit Claude Code Terminal pour détecter les failles de sécurité
Anthropic a lancé un plugin gratuit pour le terminal Claude Code, « security-guidance », qui analyse en continu le code généré par l'IA pendant la session afin de détecter et de corriger les failles de sécurité avant… Lire la suite
Anthropic confirme que les maquettes de classe Claude Mythos seront bientôt disponibles pour le public.
Anthropic a confirmé son intention de proposer les modèles de classe Mythos au grand public après avoir retardé leur lancement en raison de risques de sécurité liés aux logiciels publics et privés. […] Lire la suite
Claude Opus 4.8 est disponible avec des fonctionnalités de codage avancées de niveau ingénierie.
Anthropic a annoncé la sortie de Claude Opus 4.8, une mise à jour majeure de son modèle d'IA phare qui introduit des capacités de programmation avancées de niveau ingénierie et une exécution autonome des tâches améliorée. Cette… Lire la suite
Les principaux modèles d'IA sont plus vulnérables aux incitations malveillantes que ne le prétendent les fournisseurs.
Selon Cisco, des pirates informatiques pourraient subvertir les modèles de pointe grâce à des attaques que leurs développeurs négligent. Lire la suite
Les patrons aveuglés par leur confiance dans l'utilisation de l'IA parallèle par les employés
Plus de la moitié des entreprises ont subi un incident de sécurité ou une alerte liée à l'IA au cours de l'année écoulée, alors même que les dirigeants restent majoritairement confiants dans leur capacité à gérer les… Lire la suite
Les pirates informatiques de GreyVibe utilisent ChatGPT et Gemini pour mener des cyberattaques.
Un groupe de menaces probablement russe, identifié sous le nom de GreyVibe, cible des entités ukrainiennes à l'aide d'appâts générés par l'IA et d'un ensemble complet d'outils malveillants personnalisés. […] Lire la suite
DuckDuckGo enregistre une croissance fulgurante de 30 % suite à l'intégration de l'IA dans la recherche Google.
DuckDuckGo affirme avoir enregistré une forte hausse du nombre d'utilisateurs suite à l'annonce par Google, lors de la conférence Google I/O 2026, d'une refonte majeure de son moteur de recherche grâce à l'intelligence artificielle. Selon les chiffres… Lire la suite
Google dévoile une plateforme de défense contre les menaces d'IA pour lutter contre les cyberattaques alimentées par l'IA
La nouvelle plateforme de défense contre les menaces d'IA combine les capacités de Mandiant, Wiz et Gemini pour aider les clients à lutter contre l'IA grâce à l'IA. Cet article « Google dévoile une plateforme de défense contre… Lire la suite
L’alliance d’Anthropic avec le pape sur les méfaits de l’IA : une action de bonne foi ou une opération de « blanchiment par le Vatican » ?
Des experts affirment que l'engagement d'une entreprise d'IA auprès du Vatican risque de créer un discours bienveillant, dépourvu d'examen critique. Pourquoi le fondateur d'Anthropic était-il assis aux côtés du pape lors d'une mise en garde concernant l'IA ?… Lire la suite
Zéro paywall. Zéro pub.
DCOD reste en accès libre grâce à vos contributions. Chaque café compte.
