Faits marquants de la semaine
- Anthropic lance Fable 5, un modèle de classe Mythos pour un usage général, avec des garde-fous qui redirigent les requêtes sensibles en cybersécurité et biologie vers Claude Opus 4.8, tandis que Mythos 5 reste testé dans Project Glasswing pour les infrastructures critiques.
- Quelques jours après ce lancement, le gouvernement américain ordonne à Anthropic de suspendre l’accès à Fable 5 et Mythos 5 pour les ressortissants étrangers, en raison d’un possible contournement des protections permettant de transformer rapidement des vulnérabilités logicielles en exploits opérationnels.
- Face à ces capacités d’industrialisation des attaques, une nouvelle directive de l’agence américaine CISA impose aux agences fédérales de corriger les failles les plus graves en trois jours, les vulnérabilités moins critiques pouvant être traitées ultérieurement.
- Parallèlement, Anthropic pousse l’idée d’une coordination sectorielle permettant aux principaux laboratoires d’intelligence artificielle avancée de vérifier que leurs rivaux mondiaux ont effectivement ralenti ou interrompu leurs développements en cas de montée des risques.
L’essor de modèles d’intelligence artificielle de classe Mythos, capables d’identifier et d’exploiter massivement des vulnérabilités, déclenche une réponse en chaîne : restrictions d’exportation, exigences de correctifs accélérées pour les agences fédérales et appels à un mécanisme international de « pause » vérifiable entre laboratoires d’IA avancée. L’enjeu devient autant géopolitique qu’opérationnel, autour de modèles présentés comme disposant des capacités de cybersécurité les plus puissantes au monde.
L'essentiel Cybersécurité, IA & Tech
Rejoignez la communauté. 3 fois par semaine, recevez l'analyse des tendances par Marc Barbezat. Pas de spam, juste de l'info.
La sélection des 17 actualités à retenir cette semaine
Anthropic lance une version moins puissante de son modèle le plus avancé
Anthropic a dévoilé un nouveau modèle « Mythos » destiné au grand public, alors que les inquiétudes concernant la diffusion d'outils d'intelligence artificielle avancés dotés de puissantes capacités de piratage s'intensifient. Ce nouveau modèle, Fable 5, offre des… Lire la suite
Anthropic lance Claude Fable 5, mais il ne sera disponible que pour une durée limitée.
Anthropic a commencé le déploiement d'un nouveau modèle appelé « Fable », basé sur le même modèle sous-jacent que Mythos, sa classe de modèle d'IA la plus puissante. […] Lire la suite
Les États-Unis ordonnent à Anthropic de suspendre l'accès des ressortissants étrangers à Fable 5 et Mythos 5.
Anthropic a annoncé vendredi qu'elle désactiverait « brutalement » ses modèles d'intelligence artificielle (IA) les plus avancés, Claude Fable 5 et Mythos 5, pour tous les utilisateurs, suite à une injonction du gouvernement américain lui ordonnant de… Lire la suite
Les recherches d'Amazon en matière de sécurité auraient conduit à l'interdiction du livre Anthropic Fable par la Maison Blanche.
Selon le Wall Street Journal, la directive sur le contrôle des exportations qui a conduit Anthropic à bloquer l'accès à Fable 5 et Mythos 5 a été déclenchée en partie par des recherches en cybersécurité menées par… Lire la suite
La CISA révise les exigences fédérales en matière de correctifs pour l'ère des menaces liées à l'IA
La nouvelle directive donne aux agences fédérales trois jours pour corriger les défauts les plus dangereux, tandis que les problèmes moins graves peuvent être reportés. Lire la suite
Anthropic exhorte l'industrie à se coordonner pour permettre une pause dans le développement de l'IA si les risques augmentent.
La coordination proposée permettrait aux laboratoires d'IA de pointe de vérifier que leurs concurrents internationaux ont effectivement interrompu ou ralenti leurs travaux. Cet article, intitulé « Anthropic exhorte l'industrie à se coordonner pour permettre une pause dans… Lire la suite
Apple dévoile une version remaniée de « Siri AI » et de nouvelles fonctionnalités de sécurité enfant pour les iPhones et les iPads.
Lors de sa dernière conférence WWDC, Tim Cook a mis en avant une mise à jour majeure de l'assistant vocal, Siri, basée sur l'IA et dont le déploiement à grande échelle est prévu cet automne. Après des… Lire la suite
Des chercheurs créent un ver d'IA autoréplicateur qui fonctionne entièrement sur des modèles locaux à poids ouverts.
Des chercheurs de l'Université de Toronto ont conçu et testé un ver informatique de démonstration piloté par l'IA. Ce ver utilise un modèle de langage ouvert et hébergé localement pour se déplacer au sein d'un réseau, générer… Lire la suite
Aviva détecte un montant record de 230 millions de livres sterling de fausses déclarations d'assurance, alors que l'utilisation de l'IA augmente.
L'assureur Aviva a détecté 18 400 déclarations de sinistre suspectes l'an dernier, certains fraudeurs utilisant l'IA pour falsifier des scènes d'accident et des documents. Des déclarations de sinistre frauduleuses d'une valeur de plus de 230 millions de livres… Lire la suite
De nouvelles attaques trompent l'agent d'IA d'OpenClaw, le poussant à exécuter du code et à divulguer des secrets.
Deux équipes de sécurité ont démontré, dans des recherches distinctes publiées cette semaine, qu'OpenClaw, l'agent d'IA auto-hébergé très répandu, peut être amené à exécuter du code contrôlé par un attaquant ou à transmettre des données sensibles via… Lire la suite
Les données de Pokémon Go ont permis d'entraîner une IA qui pourrait assister les drones militaires dans les zones de guerre.
Les données de géolocalisation du jeu en réalité augmentée à succès mondial ont permis d'entraîner une IA à reconnaître et interpréter les espaces physiques. Un modèle d'IA entraîné sur les données collectées auprès des utilisateurs de Pokémon… Lire la suite
Une faille de sécurité dans l'outil de récupération Meta AI a compromis plus de 20 000 comptes Instagram.
Une faille dans l'outil de récupération Instagram de Meta, basé sur l'IA, a exposé plus de 20 000 comptes, permettant à des pirates de réinitialiser les mots de passe et de prendre le contrôle des profils. L'outil d'assistance… Lire la suite
Un chercheur utilise l'IA pour pirater Google et empoche 500 000 $ de prime à la découverte de bugs
Le chercheur Arvin Shivram a gagné 500 000 $ en primes de bug du programme de récompense des vulnérabilités (VRP) de Google en déployant un framework de fuzzing basé sur l’IA contre l’infrastructure API interne de Google, découvrant ainsi… Lire la suite
Le nouveau mode de verrouillage de ChatGPT vise à bloquer les attaques par injection de prompt et par exfiltration de données.
OpenAI a lancé cette semaine le mode de verrouillage, un paramètre de sécurité pour ChatGPT conçu pour réduire le risque d'exfiltration de données lors d'attaques par injection de prompts. Cette fonctionnalité est déployée progressivement sur les comptes… Lire la suite
Google porte plainte contre des prétendus pirates informatiques chinois pour des opérations de fraude utilisant l'intelligence artificielle.
Google a porté plainte contre une organisation de cybercriminalité présumée basée en Chine. Selon l'entreprise, cette organisation aurait utilisé des kits d'hameçonnage basés sur l'intelligence artificielle pour envoyer des millions de SMS frauduleux et rediriger les victimes… Lire la suite
Google poursuit en justice un réseau chinois de cybercriminalité qui utilisait Gemini pour automatiser des escroqueries.
Google adore vanter les mérites de ses produits d'IA générative, utilisés pour créer de nouvelles choses, développer des entreprises et sauver le monde. Du moins, c'est ce qu'on dit. Bien sûr, l'IA est aussi utilisée à… Lire la suite
Apple veut que l'Europe cède.
Apple accuse la DMA d'être responsable du retard de Siri en Europe. L'UE affirme que rien n'empêche Apple de la lancer. Lire la suite
