TikTok : une ferme de 1 000 mobiles révèle l’ombre des faux influenceurs

Une fuite dévoile une start-up dopée au capital-risque, pilotant plus d’un millier de mobiles et des centaines de comptes TikTok générés par intelligence artificielle.

La compromission de Doublespeed, une start-up financée par un important fonds de capital-risque, met en lumière une nouvelle étape dans l’industrialisation de la tromperie en ligne : des fermes de smartphones entièrement automatisées, alimentées par des influenceurs générés par intelligence artificielle, capables de diffuser massivement des publicités déguisées en contenus authentiques. Ce piratage ne dévoile pas seulement une faille de sécurité spectaculaire, il illustre aussi la collision entre marketing automatisé, politiques de modération des plateformes et risques systémiques pour la confiance du public dans les réseaux sociaux.

Selon 404 Media, le hacker, qui demande à rester anonyme par crainte de représailles, dit avoir signalé la vulnérabilité à Doublespeed le 31 octobre, tout en affirmant disposer encore, au moment du reportage, d’un accès au système interne de l’entreprise. Cet accès lui aurait permis de consulter l’ensemble de l’infrastructure : plus de 1 ‘000 smartphones, les ordinateurs qui les pilotent, les comptes TikTok associés, les proxys réseau et leurs mots de passe, ainsi que les tâches programmées sur chaque appareil. Pour prouver la réalité de son contrôle, il aurait activé à distance la caméra d’un téléphone, montrant celui-ci dans un rack aux côtés d’autres terminaux de la ferme.

Doublespeed a levé un million de dollars dans le cadre du programme « Speedrun », un accélérateur de douze semaines géré par un important acteur du capital-risque, censé accompagner les jeunes pousses dans les étapes clés de leur croissance. Le modèle de la start-up consiste à utiliser des outils de génération d’images, de textes et de vidéos par intelligence artificielle pour créer en masse des comptes et des contenus destinés à promouvoir des produits pour le compte de clients. Pour contourner les mécanismes de détection d’activités inauthentiques des plateformes, la société ne se contente pas de simples émulateurs logiciels : elle s’appuie sur une « ferme de téléphones », c’est-à-dire des centaines de vrais smartphones physiquement connectés, chacun se comportant comme un utilisateur humain distinct.

Dans l’écosystème des réseaux sociaux, ces fermes de téléphones sont proches des « click farms », ces installations qui utilisent de nombreux appareils pour générer de faux clics, vues ou avis. La différence ici tient au degré d’automatisation et de sophistication : des personnages complets, au visage, à la voix et au discours artificiels, sont animés par des algorithmes pour donner l’illusion de vraies personnalités influentes. Selon les informations consultées, Doublespeed parle de « réchauffer » les comptes, c’est-à-dire les faire vivre avec des contenus apparemment neutres et réguliers, avant de lancer des promotions de produits afin d’éviter les bannissements automatiques.

Une usine à faux influenceurs pour inonder TikTok de publicités déguisées

Les données divulguées montrent plus de 400 comptes TikTok opérés par Doublespeed, dont environ la moitié activement utilisée pour mettre en avant des produits. Une large part de ces contenus ne mentionnait pas qu’il s’agissait de publicités, alors même que les posts affichaient de manière répétée des applications, compléments alimentaires, accessoires de bien-être ou outils numériques. Parmi les exemples recensés figurent des applications d’apprentissage de langues, des services de rencontres, une application biblique, des compléments alimentaires et un appareil de massage.

Plusieurs comptes reposaient sur des personnages féminins générés par intelligence artificielle, déclinés dans des diaporamas d’images statiques ou de courtes séquences vidéo. Un compte thématique santé diffusait près de 200 diaporamas mettant en scène une femme d’âge mûr, elle aussi synthétique, décrivant divers maux physiques et les moyens de les soulager, chaque série se concluant par une image d’une personne utilisant un rouleau de massage d’une marque identifiée. Un autre compte adopte le ton d’une étudiante, enchaînant les diaporamas dénonçant l’industrie pharmaceutique et celle des compléments alimentaires, tout en faisant la promotion régulière d’un produit à base de moringa d’une société se vantant d’être « virale sur TikTok ».

Les images utilisées trahissent souvent leur origine artificielle : flacons dont les étiquettes comportent des textes illisibles, mains approximatives, éléments visuels incohérents. Néanmoins, dans le flux rapide de la plateforme, ces signaux restent difficilement perceptibles pour un utilisateur non averti. La start-up ne se limite pas aux images fixes : au moins un compte a mis en ligne des vidéos générées par intelligence artificielle montrant une jeune femme dansant face caméra, cette fois au service de la promotion d’une agence de contenu TikTok qui rémunère des utilisateurs humains pour parler de produits, soit une activité que ce type de technologie peut précisément concurrencer.

Cette stratégie relève d’une forme d’« astroturfing » numérique, terme qui désigne des campagnes destinées à faire passer une initiative coordonnée pour un mouvement spontané de la base. Ici, l’illusion ne concerne pas seulement l’authenticité de l’opinion exprimée, mais l’existence même des personnes censées la porter. En combinant des personnages entièrement artificiels, des histoires calibrées pour susciter la confiance et une infrastructure matérielle dense pour simuler une activité humaine, Doublespeed se positionne à la frontière des règles de transparence publicitaire et des politiques d’« authenticité » des plateformes.

Plateformes sous pression et risques systémiques pour la confiance en ligne

TikTok rappelle dans ses règles communautaires que les créateurs doivent étiqueter les contenus générés ou fortement modifiés par intelligence artificielle lorsqu’ils représentent des scènes réalistes ou des personnes plausibles. Après avoir été sollicitée sur plusieurs comptes opéré par Doublespeed, la plateforme a ajouté un label indiquant qu’il s’agissait de contenus artificiels. Cette réaction souligne un enjeu clé : les mécanismes d’auto-déclaration, qui reposent sur la bonne foi des créateurs, s’avèrent fragiles face à des acteurs dont le modèle économique repose sur la dissimulation de la nature publicitaire et artificielle des contenus.

Doublespeed a indiqué avoir la capacité d’étendre ses services à d’autres plateformes majeures comme Instagram, Reddit ou X.

Sur le plan de la sécurité pure, le piratage révèle une surface d’attaque inattendue : une ferme de plus de mille smartphones connectés, chacun associé à un compte, à un proxy et à des données de connexion, constitue un butin potentiel considérable. Le hacker assure qu’il aurait pu utiliser ces appareils comme ressources de calcul, les détourner pour mener des campagnes de pourriel ou manipuler directement les comptes, même s’il affirme ne pas l’avoir fait. Le fait qu’un tel accès persiste après signalement illustre des pratiques de sécurité insuffisantes pour une infrastructure de cette envergure.

Au-delà de ce cas particulier, l’affaire agit comme un avertissement pour l’écosystème numérique. La combinaison d’intelligence artificielle générative, de capital-risque et d’infrastructures matérielles dédiées permet de déployer à bas coût des campagnes massives d’influence commerciale ou idéologique, difficiles à distinguer du contenu authentique. Les plateformes se retrouvent contraintes d’accélérer leurs mécanismes de détection et de labellisation, tandis que les utilisateurs, noyés dans un flux de visages et de récits artificiels, voient leur capacité à discerner le vrai du faux encore un peu plus secouée.