Atlas d’OpenAI : un navigateur IA qui inquiète sur la sécurité et la vie privée

Les fonctions d’automatisation et de mémoire d’Atlas soulèvent des inquiétudes sur le stockage des données et les attaques par injection de commandes.

Le navigateur Atlas s’inscrit dans une tendance visant à rendre la navigation web plus assistée et automatisée. Comme l’explique Gizmodo, l’outil n’est pas seulement une interface d’accès à Internet, mais également un dispositif d’apprentissage continu du comportement de l’utilisateur. La fonction « Memories », activée par défaut, permet au navigateur de se souvenir non seulement des pages consultées, mais aussi de la manière dont l’utilisateur interagit avec celles-ci.

Collecte de données et enjeux de confidentialité

Selon le Washington Post, Atlas va bien au-delà de l’historique de navigation classique. Le navigateur conserve des « faits et insights » issus des pages, ce qui lui permet de fournir des recommandations personnalisées et d’adapter les réponses de l’agent intégré. Cette personnalisation repose sur une collecte de données importante, dont la portée exacte peut être difficile à comprendre pour l’utilisateur.

La promesse est celle d’un assistant capable d’anticiper les besoins, de rouvrir des pages consultées antérieurement ou de contextualiser des recherches en cours. Toutefois, cette capacité implique un niveau de surveillance potentiellement intrusif. Le navigateur n’est pas censé mémoriser des informations personnelles sensibles, mais des tests ont montré que certaines données privées pouvaient malgré tout être conservées, soulevant des inquiétudes quant à l’efficacité des filtres.

La gestion des « Memories » exige une vigilance active : l’utilisateur doit identifier les interactions à exclure, nettoyer les données stockées et naviguer entre plusieurs niveaux de paramètres. En d’autres termes, le contrôle existe, mais ne garantit pas la maîtrise complète de ce qui est enregistré.

Vulnérabilités liées aux interfaces d’IA et automatisation des actions

En intégrant une IA capable d’exécuter des tâches à la place de l’utilisateur, Atlas introduit un modèle de navigation beaucoup plus interactif. L’agent peut cliquer, charger des pages et effectuer des actions automatisées. Cette fonctionnalité ouvre cependant la porte à des attaques exploitant les décisions de l’IA.

Des précédents existent déjà. L’article de Gizmodo référencé ci-dessus mentionne notamment une démonstration où l’agent a pu être manipulé via des techniques de « prompt injection », conduisant à la divulgation d’informations confidentielles. Ce type d’attaque, basé sur l’insertion de consignes cachées dans des pages web, peut détourner le comportement du navigateur.

Par ailleurs, une étude de SquareX décrite par GBHackers a révélé que l’interface latérale de l’IA dans certains navigateurs peut être imitée via des extensions malveillantes. Cette attaque, appelée « AI Sidebar Spoofing », consiste à superposer une fausse barre latérale identique à l’interface de l’IA légitime. Les utilisateurs croient alors interagir avec l’agent réel, alors qu’ils exécutent des instructions contrôlées par un tiers.

La menace ne se limite pas à l’usurpation visuelle. BleepingComputer a, pour sa part, montré que ces attaques peuvent permettre le vol d’identifiants, l’accès à des comptes en ligne ou la compromission directe d’un appareil. L’automatisation, conçue pour apporter confort et rapidité, amplifie les conséquences d’une fraude.

Vers une maturité encore à construire

Les navigateurs intégrant des IA conversationnelles et des fonctions d’automatisation constituent une évolution notable du paysage numérique. Toutefois, leur maturité en matière de sécurité reste limitée. L’association d’un accès aux données personnelles, à la navigation quotidienne et à des capacités d’exécution d’actions crée une surface d’attaque particulièrement sensible.

Pour les utilisateurs, le principal enjeu consiste à évaluer le niveau de confiance accordé à ces outils. L’équilibre entre commodité et confidentialité devient central : la facilité apportée par Atlas ne doit pas masquer le risque associé à la délégation excessive de contrôle.

Les organisations, quant à elles, doivent considérer ces navigateurs comme des applications à haut risque dans les environnements professionnels. Les fonctions avancées d’automatisation pourraient, en cas de compromission, fournir un accès direct à des systèmes critiques.

Il est probable que des améliorations soient rapidement apportées, notamment en matière de transparence, d’isolation des tâches d’IA et de mécanismes de validation des actions automatisées. Cependant, tant que ces aspects ne seront pas solidement établis, Atlas et les navigateurs similaires devraient être utilisés avec prudence.

L’évolution vers des navigateurs intégrant des agents autonomes annonce donc un changement de paradigme dans la manière d’interagir avec Internet. Cette transformation doit être maintenant accompagnée d’une réflexion approfondie sur la protection des données personnelles et la maîtrise des actions effectuées au nom de l’utilisateur.

Pour en savoir plus sur Atlas

Introducing ChatGPT Atlas

Aujourd’hui, nous vous présentons ChatGPT Atlas, un nouveau navigateur web construit autour de ChatGPT. L’IA nous offre une occasion unique de repenser notre utilisation du web. L’année dernière, nous avons intégré la recherche à ChatGPT pour vous permettre de trouver instantanément des informations pertinentes sur Internet ; cette fonctionnalité est rapidement devenue l’une des plus utilisées. Mais c’est dans votre navigateur que convergent votre travail, vos outils et le contexte.

Lire la suite sur openai.com