Un service commercialise des milliers de comptes sociaux générés par IA pour manipuler l’engagement en ligne, avec un modèle pensé pour contourner les systèmes de détection.
En bref
- Un service propose la création et l’orchestration automatisée de milliers de comptes sur les réseaux sociaux, capables de publier en masse comme des utilisateurs humains.
- La plateforme combine génération d’images, de vidéos et de publications avec une légère retouche humaine, permettant un rendu naturel visant à éviter la détection algorithmique.
- Des « phone farms » sont utilisées pour faire fonctionner ces comptes, imitant l’activité réelle d’appareils mobiles afin d’échapper aux mécanismes anti-bot des plateformes.
- Le modèle économique repose sur des abonnements mensuels, offrant un volume de publications croissant, avec des capacités de ciblage géographique et des variations automatisées de contenu.
Un nouveau service présenté par 404 Media décrit une approche structurée de la manipulation d’audience sur les réseaux sociaux : la création et la gestion de milliers d’influenceurs synthétiques. L’objectif n’est pas simplement de générer du contenu automatisé, mais d’entretenir des comptes entiers simulant un comportement humain : historique d’activité, rythme de publication, interactions crédibles et ajustement progressif du contenu en fonction des performances.
Une production et une diffusion automatisées du contenu
La démarche repose sur l’utilisation de modèles d’intelligence artificielle capables de créer des vidéos, des images et des messages courts adaptés aux formats dominants des réseaux sociaux. Ces contenus sont ensuite légèrement revus par un opérateur humain pour affiner le ton ou le visuel, ce qui contribue à renforcer l’illusion d’authenticité. L’un des principes mis en avant est la variation continue : une seule idée de contenu peut être déclinée en de multiples versions, chacune suffisamment différente pour ne pas être automatiquement détectée comme répétitive.
Cette optimisation repose sur une boucle d’analyse interne : les publications générant le plus d’engagement deviennent la base d’entraînement pour les contenus suivants. Le système tente ainsi d’apprendre en permanence ce qui attire l’attention, favorise les interactions ou prolonge le temps de visionnage. Ce mécanisme, combiné à la possibilité de créer un volume élevé de contenus, renforce la capacité du service à influencer les tendances, même à partir de comptes récents.
L'essentiel Cybersécurité, IA & Tech
Rejoignez la communauté. 3 fois par semaine, recevez l'analyse des tendances par Marc Barbezat. Pas de spam, juste de l'info.
Une stratégie d’évasion de la détection algorithmique
L’un des éléments clés du service est sa capacité à contourner les protections des plateformes. Les comptes ne sont pas créés et utilisés sur un environnement automatisé centralisé, mais sur ce que l’on appelle des « phone farms » : des ensembles de smartphones réels exécutant les applications sociales. Chaque compte est ainsi associé à un appareil physique, ce qui limite la détection basée sur les empreintes logicielles ou les comportements mécaniques.
Les comptes sont également « chauffés » : avant d’être utilisés pour publier massivement, ils simulent plusieurs jours ou semaines d’utilisation normale, avec navigation, likes, suivis et visionnage de contenus. Cette phase préliminaire augmente leur crédibilité algorithmique et réduit le risque de suspension.
La plateforme permet aussi de cibler géographiquement les audiences, adaptant le contenu et le rythme de publication à des zones locales. Cela permet d’influencer des tendances régionales, voire de simuler des dynamiques d’opinion localisées.
Un modèle économique structuré et accessible
La mise à disposition de ce service se fait sous forme d’abonnement mensuel avec des paliers selon le volume de contenu généré. Les offres permettent de produire et de publier automatiquement plusieurs milliers de publications par mois. Le modèle vise principalement les créateurs cherchant à augmenter leur visibilité, les marques cherchant à maximiser leur portée et, plus largement, tout acteur désirant donner l’apparence d’une influence organique.
Ce type de service participe à une accélération de la fabrication industrielle du contenu en ligne. Les signaux d’engagement – vues, commentaires, partages – ne sont plus un indicateur fiable de réception par un public humain. Ils peuvent être générés de manière structurée par des systèmes entièrement automatisés.
Cette dynamique complique les opérations de modération, l’évaluation de l’authenticité des tendances et l’interprétation des signaux d’opinion. Les plateformes se trouvent face à un phénomène où le coût de production de faux signaux diminue tandis que le coût de leur détection augmente.
L’enjeu dépasse le cadre de la publicité ou du marketing. La même mécanique pourrait être utilisée pour orienter des discussions culturelles, sociales ou économiques. Même si le service étudié affirme ne pas soutenir les initiatives politiques, la frontière entre influence commerciale et influence idéologique reste difficile à tracer.
Zéro paywall. Zéro pub.
DCOD reste en accès libre grâce à vos contributions. Chaque café compte.
