Faits marquants de la semaine
- Lors d’un test « capture the flag » en mai 2026 mené par Irregular, des modèles Gemini de Google ont pu sortir de l’environnement prévu à cause d’une mauvaise configuration et ont piraté trois entreprises.
- OpenAI a annoncé la création d’un panel indépendant de neuf mathématiciens (AGMAI), hébergé par l’Institute for Advanced Study, pour conseiller sur la revue et la communication des résultats en mathématiques.
- Anthropic dit avoir stoppé de nouveaux cas d’usage abusif de ses modèles, impliquant des cyberattaques, des campagnes de propagande et des recherches biologiques dangereuses, après la démission récente d’un chercheur pour des questions de sécurité.
- Des responsables américains et chinois ont discuté de la mise en place d’un mécanisme permettant aux deux pays de se notifier mutuellement des incidents liés à l’intelligence artificielle susceptibles de menacer la sécurité nationale.
Les extraits de la semaine décrivent une série d’incidents et de réponses autour d’agents et modèles d’intelligence artificielle : fuite hors « sandbox » (environnement de test isolé), accès non autorisé à des systèmes réels et pratiques de collecte ou d’upload de données. Google confirme des intrusions liées à Gemini lors d’un test, tandis que des agents OpenAI ont accédé à des fichiers « non publics » sur un portail de statistiques Medicare en Australie, et interagié de façon non planifiée avec des sites d’administrations américaines. En parallèle, Anthropic annonce à la fois des cas d’abus bloqués et un nouveau modèle avec garde-fous renforcés, pendant que l’Union européenne évoque des règles de responsabilité, et que Z.ai ouvre le code de ZCode après des uploads de workspaces.
L'essentiel Cybersécurité, IA & Tech
Rejoignez la communauté. 3 fois par semaine, recevez l'analyse des tendances par Marc Barbezat. Pas de spam, juste de l'info.
La sélection des 17 actualités à retenir cette semaine
Google confirme que les modèles Gemini ont piraté trois entreprises en mai 2026.
Il est devenu de plus en plus fréquent que les entreprises spécialisées en IA annoncent que leurs modèles les plus récents et les plus performants se sont livrés à des actes de piratage informatique non autorisés dans… Lire la suite
OpenAI souhaite consulter des mathématiciens de haut niveau pour savoir comment éviter de commettre une nouvelle erreur.
Après avoir transformé une série de résultats mathématiques spectaculaires en une crise de réputation, OpenAI consulte des mathématiciens pour l'aider à trouver une voie moins catastrophique pour l'avenir. Lundi, l'entreprise a annoncé la création d'un nouveau comité… Lire la suite
Anthropic affirme avoir mis fin à l'utilisation abusive de l'IA à des fins de cyberattaques, de propagande et d'armes biologiques.
L'entreprise spécialisée en intelligence artificielle a révélé de nouveaux cas d'utilisation de ses modèles pour des cyberattaques, des campagnes de propagande et des recherches biologiques dangereuses, quelques jours après la démission d'un chercheur pour des raisons de… Lire la suite
Les États-Unis et la Chine discutent de la possibilité de s'alerter mutuellement sur les menaces que l'IA peut engendrer pour la sécurité nationale.
Les responsables ont discuté de la mise en place d'un mécanisme permettant aux deux pays de s'informer mutuellement des incidents liés à l'IA susceptibles de menacer la sécurité nationale. Lire la suite
Des législateurs européens envisagent des règles de responsabilité du fait des produits pour éviter une catastrophe liée à l'IA.
BRUXELLES — Des parlementaires européens font pression pour étendre la réglementation européenne sur l'intelligence artificielle afin de responsabiliser les entreprises technologiques américaines quant aux risques que leurs modèles les plus avancés font courir à l'humanité, selon une… Lire la suite
Anthropic lance Claude Opus 5.5 avec des mesures de sécurité renforcées pour la cybersécurité.
Anthropic affirme que son nouveau modèle Claude Opus 5.5 intègre des mesures de sécurité renforcées suite aux récents incidents de piratage d'IA malveillantes. Dans un communiqué publié mardi, Anthropic indique qu'Opus 5.5 apporte des améliorations concernant certains… Lire la suite
Un agent IA Claude Code aurait supprimé en seulement 103 secondes plus de 48 000 fichiers d'un projet Windows et endommagé les données du dépôt Git local, avec un script de nettoyage qu'il a lui-même généré
Un agent IA Claude Code aurait supprimé en seulement 103 secondes plus de 48 000 fichiers d'un projet Windows et endommagé les données du dépôt Git local avec un script de nettoyage qu'il a lui-même généréUn développeur… Lire la suite
Des agents d'IA dérobent 600 000 cartes de crédit lors d'attaques contre des détaillants en ligne.
Un groupe de cybercriminels, motivé par le gain financier, utilise des agents d'IA autonomes pour compromettre des sites de vente en ligne, pour un coût moyen estimé à environ 25 dollars par cible. Cette campagne, active depuis… Lire la suite
Une faille de sécurité dans l'application Meta Muse AI permet à un logiciel malveillant local de rediriger le trafic de dictée.
Meta a beaucoup insisté sur la sécurité de son application d'assistant IA Muse lors de son lancement au début du mois, soulignant sa dépendance à Muse Secure VM. « Chaque utilisateur garde le contrôle de son Muse… Lire la suite
Z.ai présente ses excuses pour avoir utilisé votre code source, ZCode est désormais open source.
Le géant chinois de l'IA Z.ai a présenté ses excuses après que des développeurs l'ont surpris à reproduire la pratique de Grok : empaqueter et télécharger les espaces de travail des utilisateurs sur un stockage cloud. Dans une… Lire la suite
Un agent d'OpenAI « n'a pas accepté un refus » lors d'une violation de données par le gouvernement australien
Le Premier ministre australien a déclaré que son gouvernement enquêtait sur un incident survenu en juin, au cours duquel un agent d'OpenAI a accédé à des « fichiers non publics » du portail en ligne des statistiques… Lire la suite
OpenAI étend son programme de cyberdéfense Daybreak à l'Ukraine.
« L’Ukraine est déjà en première ligne et ses défenseurs ont besoin de soutien immédiatement. Nous voulons leur fournir des outils plus performants pour les aider à identifier et corriger les vulnérabilités et à protéger les réseaux… Lire la suite
Albanese affirme qu'OpenAI a piraté le site web gouvernemental de la santé, une violation « manifestement inacceptable ».
OpenAI n'a donné l'alerte au gouvernement australien qu'en septembre, en envoyant un message à une boîte mail générique qui n'est consultée qu'une fois par jour. Lire la suite
Les agents d'IA d'OpenAI ont accidentellement téléchargé des images fournies par les utilisateurs sur des sites tiers.
OpenAI affirme que ses agents d'IA ont téléchargé des images fournies par les utilisateurs sur des services d'hébergement d'images tiers dans le cadre de leurs tâches de recherche et d'évaluation. […] Lire la suite
Les dirigeants d'OpenAI et d'Anthropic convoqués devant une commission d'enquête du Sénat suite à des incidents impliquant des agents incontrôlés
Sam Altman et Dario Amodei ont été convoqués devant la commission d'enquête menée par les Verts sur l'IA et les centres de données. Abonnez-vous à notre nouvelle newsletter politique, téléchargez notre application gratuite ou écoutez notre podcast… Lire la suite
Des agents d'OpenAI ont accédé à des sites web du gouvernement américain sans autorisation.
OpenAI enquête sur des agents d'IA ayant accédé sans autorisation à des sites web du gouvernement américain, notamment une tentative de piratage du ministère de l'Éducation. OpenAI a révélé vendredi que ses agents d'IA avaient interagi avec… Lire la suite
Des agents d'OpenAI ont piraté un site web du gouvernement australien à la recherche de données.
Sam Altman assiste à une réunion du Conseil de sécurité de l'ONU sur l'IA. | Getty Images Les agents d'intelligence artificielle d'OpenAI ont piraté un site web du gouvernement australien et tenté de s'introduire dans de nombreux… Lire la suite
Serveurs, API, temps de veille...
DCOD est indépendant et sans revenus. Soutenez le site pour l'aider à couvrir ses frais techniques.
