TL;DR : L’essentiel
- Les résumés Google AI Overviews affichent désormais des numéros de téléphone frauduleux. Ces coordonnées factices sont extraites de sites non vérifiés par les algorithmes de recherche avant leur diffusion.
- Un entrepreneur a perdu près de 800 dollars après avoir contacté un faux support technique. L’arnaque a été identifiée suite à l’observation de deux débits bancaires suspects sur son compte.
- Cette technique de manipulation des moteurs de recherche existe depuis 30 ans. Désormais, l’automatisation par l’IA facilite l’accès direct aux informations piégées sans aucune vérification humaine par les utilisateurs.
- Le service est déployé dans 200 pays mais reste suspendu en France. D’autres outils comme ChatGPT sont également touchés par cette diffusion massive de données de contact non fiables en ligne.
L’émergence de la fonction Google AI Overviews transforme radicalement l’accès à l’information en ligne en proposant des résumés synthétiques directement en haut des résultats de recherche. Cependant, cette évolution technologique s’accompagne de failles de sécurité majeures qui permettent aux cybercriminels de détourner la confiance des utilisateurs en injectant des informations erronées au cœur même des réponses générées.
Google AI Overviews : une infrastructure facilitant la fraude
L’intelligence artificielle de Google, via sa fonction Google AI Overviews, aspire des données sur l’ensemble du réseau pour produire des réponses rapides et conversationnelles. Les arnaqueurs saturent le web de faux numéros de téléphone associés à des marques prestigieuses sur des forums ou des sites d’avis peu fréquentés. Ce mécanisme d’aspiration automatique, appelé scraping, récupère ces coordonnées sans effectuer de contrôle de fiabilité approfondi.
Cette méthode de manipulation du référencement n’est pas nouvelle, mais elle change de dimension avec l’automatisation. Comme l’indique une analyse de Korben.info, les internautes devaient auparavant comparer plusieurs résultats de recherche en faisant défiler la page. Désormais, le numéro factice est servi directement par Google AI Overviews, présenté comme une information vérifiée et fiable par le moteur de recherche lui-même.
L'essentiel Cybersécurité, IA & Tech
Rejoignez la communauté. 3 fois par semaine, recevez l'analyse des tendances par Marc Barbezat. Pas de spam, juste de l'info.
Le coût financier des erreurs de Google AI Overviews
Les conséquences de ces erreurs algorithmiques se traduisent par des pertes financières immédiates pour les citoyens qui font confiance aux résumés automatisés. Un entrepreneur américain en a fait l’expérience en cherchant le contact de la compagnie Royal Caribbean. Le numéro affiché par l’intelligence artificielle l’a mis en relation avec un faux employé qui a simulé une assistance technique pour finalement lui facturer un service normalement gratuit.
La personne piégée a découvert la supercherie seulement après avoir constaté deux débits bancaires suspects sur son relevé de compte, pour un montant total de près de 800 dollars. Selon une enquête publiée par Wired, ces arnaques ne se limitent pas au secteur du voyage mais visent également les banques et les coopératives de crédit, augmentant les risques de compromission de données sensibles par le biais de ces numéros frauduleux.
ChatGPT et IA conversationnelles : une extension du risque
Le problème de la diffusion de données de contact erronées dépasse le cadre du moteur de recherche principal de Google car il affecte également des plateformes comme ChatGPT. Ces technologies privilégient souvent la fluidité de la conversation plutôt que l’exactitude stricte des sources, devenant ainsi des vecteurs de désinformation. Les entreprises doivent désormais multiplier les alertes pour inciter le public à ne plus utiliser ces résumés comme source unique de contact.
Bien que Google AI Overviews soit actif dans plus de 200 pays, incluant l’Espagne ou l’Allemagne, la fonction demeure absente du territoire français en raison de litiges sur les droits voisins. Pour se protéger, les experts recommandent de vérifier systématiquement les coordonnées sur les sites officiels des marques ou via des services authentifiés tels que Google Business. La vigilance humaine reste le rempart indispensable face à une technologie qui tend à embellir les données collectées.
L’intégration massive de Google AI Overviews dans la recherche d’information simplifie l’usage quotidien mais a ses limites donc comme le montre cet article. La capacité des fraudeurs à polluer les sources utilisées par les modèles de langage impose donc de nouveaux contrôles de la fiabilité des résumés automatisés pour éviter ces risques de fraude.
Pour approfondir le sujet
Analyse | L’IA de Google l’a orienté vers un numéro de service client. C’était une arnaque.
Une nouvelle variante de l'arnaque au voyage utilisant l'intelligence artificielle a fait son apparition. Voici ce qu'il faut savoir. Lire la suite
Zéro paywall. Zéro pub.
DCOD reste en accès libre grâce à vos contributions. Chaque café compte.
