Faits marquants de la semaine
- Des hackers ont exploité le chatbot de support de Meta pour demander un changement d’e‑mail sur des comptes Instagram, en combinant réseau privé virtuel et réinitialisation de mot de passe, permettant le détournement et la revente de profils sur un marché gris avant un correctif d’urgence fin mai.
- Anthropic propose une « pause temporaire » mondiale dans le développement de l’intelligence artificielle, en annonçant la convocation de responsables politiques et en détaillant les progrès de Claude vers l’auto‑amélioration récursive, présentée comme une étape pouvant déclencher des conséquences très larges.
- Anthropic étend l’accès à son modèle Mythos à 150 organisations supplémentaires, incluant des opérateurs d’infrastructures critiques, tout en examinant des moyens d’aider les développeurs de logiciels libres à gérer un afflux massif de rapports de vulnérabilités.
- Une notification piégée provenant de WhatsApp, Slack, SMS, Signal, Instagram ou Messenger pouvait suffire à détourner l’assistant vocal Google Gemini sur Android pour ouvrir des fenêtres, imiter un message hiérarchique, lancer un appel vidéo ou altérer discrètement sa mémoire à long terme.
Les incidents récents illustrent la transformation rapide des systèmes d’intelligence artificielle en surface d’attaque à part entière, avec des assistants détournés par des demandes malveillantes, des modèles puissants diffusés vers des opérateurs d’infrastructures critiques et des usages mobiles vulnérables à une simple notification piégée, tandis que certains acteurs de l’industrie appellent publiquement à un débat mondial sur les risques d’auto‑amélioration des modèles.
L'essentiel Cybersécurité, IA & Tech
Rejoignez la communauté. 3 fois par semaine, recevez l'analyse des tendances par Marc Barbezat. Pas de spam, juste de l'info.
La sélection des 13 actualités à retenir cette semaine
Des pirates informatiques ont dupé le chatbot d'assistance de Meta AI pour voler des comptes Instagram de célébrités.
Le chatbot d'assistance IA de Meta s'est révélé étonnamment utile aux pirates informatiques cherchant à voler et revendre des comptes Instagram populaires. Ces derniers demandaient simplement au bot de modifier les adresses e-mail associées aux comptes tout… Lire la suite
Anthropic appelle à une « pause temporaire » du développement de l'IA pour discuter des risques
L'annonce d'une réunion de « décideurs politiques » par une entreprise américaine est perçue par certains experts comme un coup marketing. Anthropic a évoqué l'idée d'une « pause temporaire » mondiale sur le développement de l'IA et… Lire la suite
Anthropic partage Mythos avec 150 autres organisations, dont des opérateurs d'infrastructures critiques.
La société spécialisée en IA a également indiqué qu'elle étudiait comment aider les développeurs open source à gérer l'afflux de signalements de vulnérabilités. Lire la suite
Les notifications WhatsApp et Slack pourraient détourner Google Gemini sur Android.
Une simple notification malveillante provenant de WhatsApp, Slack, SMS, Signal, Instagram ou Messenger aurait pu détourner l'assistant vocal Google Gemini sur Android et l'amener à ouvrir les fenêtres connectées de la victime, à falsifier un message de… Lire la suite
Le nouveau mode de verrouillage de ChatGPT limite les outils susceptibles de permettre l'exfiltration de données.
OpenAI a commencé le déploiement d'un nouveau mode de verrouillage pour ChatGPT destiné aux comptes personnels éligibles, afin de réduire les risques d'exfiltration de données liés aux attaques par injection rapide. Cette fonctionnalité est principalement conçue pour… Lire la suite
OpenAI dévoile un mode de verrouillage pour protéger les données sensibles contre les attaques par injection rapide.
Même en mode de verrouillage, ChatGPT pourrait toujours être vulnérable aux injections de requêtes, mais l'objectif est de réduire la probabilité que des données sensibles soient partagées au cours du processus. Lire la suite
Alors que le Pentagone promeut l'IA sur le champ de bataille, certains chefs militaires appellent à la prudence.
L’utilisation de l’IA dans l’armée s’inscrit dans le cadre d’une initiative plus vaste du gouvernement visant à développer cette capacité qu’il considère comme un avantage américain unique. Cet article, intitulé « Alors que le Pentagone promeut l’IA sur… Lire la suite
Votre agent IA pourrait devenir votre plus grande menace interne.
Les agences gouvernementales, les entreprises de cybersécurité et les chercheurs spécialisés dans les menaces investissent massivement dans l'étude de la manière dont les outils d'IA en constante évolution peuvent être utilisés par des acteurs malveillants pour pirater… Lire la suite
Une plainte déposée en Floride accuse OpenAI d'avoir ignoré les avertissements de sécurité et d'avoir mis des enfants en danger.
L’État de Floride poursuit OpenAI, le fabricant de ChatGPT, et son PDG, Sam Altman, les accusant d’avoir « laissé un produit dangereux atteindre des millions d’utilisateurs ». Lundi, la Floride a déposé une plainte contre OpenAI, le fabricant de… Lire la suite
La FIFA étend l'utilisation de l'IA lors de la Coupe du monde afin de réduire le nombre d'abus subis par les joueurs.
La FIFA propose un service de protection sur les réseaux sociaux. La Fédération anglaise de football (FA) n'a pas encore confirmé si elle l'utilisera. La FIFA étendra l'utilisation de l'intelligence artificielle lors de la Coupe du monde… Lire la suite
L'agent d'OpenAI a enchaîné des attaques DoS vieilles de dix ans pour faire planter des serveurs web en quelques secondes.
La prochaine menace qui pèse sur votre serveur pourrait avoir été orchestrée par un bot. Selon des chercheurs en sécurité californiens, l'agent Codex d'OpenAI a permis de découvrir une faille de déni de service (DoS) à distance,… Lire la suite
Google renforce la protection d'Android contre les appels frauduleux utilisant des deepfakes d'IA
Google introduit une nouvelle fonctionnalité de sécurité Android qui détectera et signalera les appels téléphoniques au cours desquels des escrocs utilisent l'intelligence artificielle pour usurper l'identité des contacts personnels d'un utilisateur. […] Lire la suite
Trump signe un décret sur l'IA à portée réduite
Le président Donald Trump a signé mardi un décret présidentiel allégé visant à lutter contre les menaces de cybersécurité liées à l'intelligence artificielle, mais avec un contrôle gouvernemental moins poussé que celui que la Maison Blanche prévoyait… Lire la suite
Zéro paywall. Zéro pub.
DCOD reste en accès libre grâce à vos contributions. Chaque café compte.
