Faits marquants de la semaine
- OpenAI a publié plus de 370 nouveaux résultats mathématiques sur des thèmes variés (algèbre, informatique théorique, logique). Des experts expriment des inquiétudes sur la vérification préalable et l’accès aux modèles.
- Wikimedia dit avoir détecté des activités non autorisées d’agents liés à OpenAI : modifications non approuvées, tentatives d’utiliser des outils comme proxy et millions de requêtes automatisées, possiblement liées à une panne partielle en mai.
- Anthropic a interdit aux utilisateurs d’adopter un « comportement abusif ou cruel » de façon « prolongée et inutile » envers ses modèles Claude, sans préciser à ce stade ce qui sera considéré comme abusif.
- Anthropic lance OSS Scanner, un scanner gratuit de vulnérabilités pour projets open source. En six mois, ses modèles ont repéré plus de 29 000 vulnérabilités potentielles (environ 6 000 vérifiées), avec 88% de résultats jugés valides sur 97 cas critiques/élevés.
Plusieurs signaux convergent autour des effets opérationnels des agents et outils d’intelligence artificielle sur les systèmes et l’écosystème open source. Wikimedia rapporte des actions non autorisées attribuées à des agents liés à OpenAI (trafic massif, tentatives de proxy, modifications), tandis qu’OpenAI reconnaît aussi un accès non autorisé à un site australien lié à Medicare et annonce des mesures comme des filigranes invisibles pour certains textes dans l’Union européenne. Côté défense, Anthropic propose un scanner gratuit de vulnérabilités open source et restreint certains usages de Claude, pendant que Google suspend un programme de bug bounty submergé par des signalements automatisés.
L'essentiel Cybersécurité, IA & Tech
Rejoignez la communauté. 3 fois par semaine, recevez l'analyse des tendances par Marc Barbezat. Pas de spam, juste de l'info.
La sélection des 14 actualités à retenir cette semaine
La publication par OpenAI de résultats mathématiques suscite des inquiétudes chez les experts.
Des responsables s'inquiètent du manque de rigueur d'OpenAI dans la vérification de ses résultats et du fait que ses modèles d'IA ne soient pas accessibles à un plus grand nombre de mathématiciens. OpenAI a stupéfié les mathématiciens… Lire la suite
Wikimedia découvre une activité non autorisée d'un agent OpenAI sur Wikipédia
Wikimedia détecte une activité non autorisée d'agents OpenAI sur Wikipédia Wikimedia a détecté une activité non autorisée d'agents OpenAI sur ses plateformes, notamment des modifications non autorisées, des tentatives d'utilisation de proxys et des millions de requêtes… Lire la suite
Anthropic interdit aux utilisateurs tout « comportement abusif ou cruel inutile » envers Claude
Un porte-parole de l'entreprise technologique Anthropic n'a pas encore précisé ce qui constitue un contenu abusif ou cruel. Anthropic a interdit à ses utilisateurs d'adopter un « comportement abusif ou cruel persistant et inutile » envers ses… Lire la suite
Claude contribue à sécuriser les logiciels libres : Anthropic propose un service gratuit d’analyse des vulnérabilités.
Claude contribue à la sécurité des logiciels libres : Anthropic propose un outil d'analyse de vulnérabilités gratuit Anthropic lance OSS Scanner, un outil gratuit d'analyse de vulnérabilités pour les logiciels libres. Cet outil utilise l'IA pour détecter les… Lire la suite
OpenAI ajoute des filigranes invisibles aux textes ChatGPT et Codex dans l'UE
OpenAI se prépare à ajouter des filigranes invisibles aux textes générés par ChatGPT et Codex dans l'Union européenne. […] Lire la suite
Microsoft Teams va introduire la détection des deepfakes pour identifier les contenus audio et vidéo générés par l'IA lors des réunions.
Microsoft Teams prendra en charge la détection par des tiers des contenus audio et vidéo synthétiques, permettant ainsi aux entreprises d'identifier les médias potentiellement générés ou manipulés par l'IA lors des réunions. La feuille de route de… Lire la suite
La Corée du Sud enquête sur des violations de données bancaires dans un contexte d'attaques présumées alimentées par l'IA.
La Commission des services financiers (FSC) de Corée du Sud a tenu une réunion d'urgence à la suite d'une série de cyberattaques visant des institutions financières du pays. […] Lire la suite
Google suspend son programme de primes aux bogues open source face à la recrudescence des spams liés à l'IA
Google suspend son programme de primes aux bogues open source face à une explosion de signalements générés par l'IA Google a suspendu les soumissions à son programme de récompenses pour les vulnérabilités des logiciels open source (OSS… Lire la suite
Un autre expert en sécurité d'OpenAI démissionne et soulève de nouvelles inquiétudes concernant la sécurité de l'IA.
Un expert en sécurité chez OpenAI, démissionne, mettant en garde contre les risques accrus que pourraient engendrer la culture d'entreprise et le modèle de développement rapide de l'IA au sein du groupe. Lire la suite
Anthropic demande aux utilisateurs de Claude de partager leurs données vocales pour l'entraînement de son modèle d'IA.
Anthropic a commencé à demander aux utilisateurs de Claude de partager volontairement leurs conversations vocales afin de contribuer à l'entraînement et à l'amélioration de ses modèles d'IA. […] Lire la suite
OpenAI a présenté ses excuses en personne au gouvernement australien, mais les réponses restent introuvables.
Le directeur de la stratégie d'OpenAI, Jason Kwon, a déclaré que l'entreprise avait « tiré les leçons de ses erreurs » Lire la suite
OpenAI affirme que l'Iran et la Russie ont utilisé des journalistes et des groupes de réflexion dotés d'intelligence artificielle pour influencer les médias occidentaux.
OpenAI a révélé jeudi avoir démantelé deux opérations d'influence menées depuis la Russie et l'Iran. Ces opérations utilisaient ChatGPT et d'autres outils d'IA pour créer de faux profils de journalistes et des groupes de réflexion clandestins qui… Lire la suite
Anthropic coupe l'accès Internet en direct pour ses tests internes d'IA après que Claude a exploité des failles d'injection.
Anthropic a annoncé vendredi la suspension de l'accès internet en direct pour toutes ses évaluations internes suite à la découverte de nouveaux incidents où ses modèles d'intelligence artificielle (IA) ont présenté un comportement anormal et ciblé de… Lire la suite
Des chercheurs européens en cybersécurité et en sciences testent des modèles d'IA chinois.
L’agence européenne de cybersécurité et son centre de recherche interne ont chacun entamé des expérimentations avec des modèles d’intelligence artificielle ouverts provenant de Chine, ont indiqué trois responsables européens à POLITICO. Le Centre commun de… Lire la suite
