Google offre jusqu’à 30 000 $ pour des bugs IA critiques

brève actu

Google a lancé un programme de récompense pour les failles IA, offrant jusqu’à 30 000 $ aux chercheurs en sécurité identifiant des vulnérabilités critiques.

Google a récemment introduit un programme de récompense dédié aux vulnérabilités de ses systèmes d’intelligence artificielle (IA). Ce programme vise à encourager les chercheurs en sécurité à identifier et signaler les failles potentielles dans les produits IA de l’entreprise, en offrant des récompenses allant jusqu’à 30 000 $. L’initiative met en lumière l’importance croissante de la sécurité dans le domaine de l’IA, alors que de plus en plus de systèmes reposent sur ces technologies avancées. Les failles ciblées incluent celles qui exploitent les modèles de langage ou les systèmes génératifs pour effectuer des actions malveillantes, soulignant l’impact potentiel de telles vulnérabilités sur la sécurité des utilisateurs.

Le programme de récompense de Google pour les failles IA

Le programme de Google se distingue par son approche ciblée sur les vulnérabilités spécifiques aux systèmes d’IA. Comme le détaille The Verge, l’accent est mis sur les actions malveillantes qui peuvent être provoquées par l’exploitation des modèles IA. Des exemples incluent l’injection de prompts qui permettent d’ouvrir une porte via Google Home ou de résumer et envoyer des emails à un attaquant. Ces actions, qualifiées de « rogue actions », sont considérées comme les plus critiques. Depuis le lancement officiel de l’invitation aux chercheurs à explorer ces failles, Google a déjà versé plus de 430 000 $ en récompenses. Ce montant reflète l’engagement de l’entreprise à sécuriser ses produits IA et à prévenir les abus potentiels.

Selon Bleeping Computer, le programme de Google ne se contente pas de récompenser la découverte de failles, mais précise également les critères qui définissent une vulnérabilité IA. Les problèmes liés au contenu généré par l’IA, tels que les discours haineux ou les violations de droits d’auteur, doivent être signalés via le canal de retour d’information intégré au produit. Cette approche permet à Google de mieux diagnostiquer le comportement des modèles et de mettre en œuvre des formations de sécurité à long terme. En outre, Google a introduit un agent IA nommé CodeMender, capable de corriger les codes vulnérables, ayant déjà contribué à 72 correctifs de sécurité pour des projets open source, une initiative qui renforce la sécurité globale des produits.

Le programme offre des récompenses financières substantielles, notamment 20 000 $ pour les actions malveillantes détectées sur les produits phares de Google tels que Search, Gemini Apps, et les applications Workspace comme Gmail et Drive. Des multiplicateurs basés sur la qualité des rapports et des bonus de nouveauté peuvent ainsi ensuite porter le total à 30 000 $. En revanche, les récompenses sont moindres pour les failles découvertes dans d’autres produits comme Jules ou NotebookLM, et pour les abus de moindre envergure, tels que le vol de paramètres de modèles secrets. Cette échelle de récompenses souligne l’importance accordée par Google à la protection de ses principaux produits et à la prévention des abus les plus graves.