Les fraudeurs utilisent l’IA pour simuler des produits endommagés. Décryptage d’une tendance (+15%) qui force les e-commerçants à durcir leurs règles.
TL;DR : L’essentiel
- Des anomalies visuelles flagrantes trahissent souvent ces arnaques, comme des crabes morts aux pattes dressées vers le ciel ou des tasses en céramique se déchirant comme du papier, révélant l’incapacité actuelle de l’IA à maîtriser parfaitement la physique des objets du quotidien.
- Les fraudeurs ciblent prioritairement des catégories spécifiques telles que les produits frais, les cosmétiques bon marché ou les objets fragiles, car les vendeurs préfèrent souvent rembourser directement ces articles plutôt que d’exiger un retour coûteux et logistiquement complexe de la marchandise.
- Le phénomène dépasse l’échelle individuelle pour devenir industriel, avec des groupes criminels organisés utilisant des adresses IP rotatives pour soumettre massivement des demandes frauduleuses, une tendance mondiale qui a vu ce type d’incidents augmenter de plus de 15 % depuis le début de l’année.
- Face à cette menace, les forces de l’ordre commencent à intervenir, allant jusqu’à la détention d’acheteurs malveillants, tandis que les commerçants tentent maladroitement de riposter en utilisant eux-mêmes des chatbots pour analyser la véracité des photos, créant une guerre technologique incertaine.
Les achats en ligne s’accompagnent traditionnellement de leur lot de déceptions et de retours légitimes, un processus basé sur la confiance où une simple photo suffit généralement à prouver qu’un colis a été endommagé. Cependant, ce système de validation, pilier de la fluidité logistique du commerce électronique, se heurte désormais à une barrière technologique majeure. L’accessibilité grandissante des outils de génération d’images par intelligence artificielle permet à des acteurs malveillants de fabriquer de toutes pièces des preuves de détérioration, bouleversant le principe de confiance entre le service client et les acheteurs.
Des incohérences physiques qui défient la réalité
Les premières vagues de ces tentatives de fraude se distinguent par des erreurs grossières, témoignant d’une technologie encore imparfaite dans la restitution du réel. Sur les réseaux sociaux et plateformes de vente, des commerçants partagent leur désarroi face à des clichés aberrants. Un cas emblématique concerne un vendeur de fruits de mer ayant reçu une réclamation pour des crabes prétendument livrés morts. Les images montraient des crustacés dans des positions antinaturelles, pattes pointées vers le haut, et une vidéo révélait même un spécimen doté de neuf pattes au lieu de huit. Une autre incohérence pour les connaisseurs : la répartition des sexes changeait d’une séquence à l’autre : alors que la première vidéo montrait deux mâles et quatre femelles, la seconde affichait trois mâles et trois femelles. Une incohérence impossible qui a permis de confondre l’acheteur.
D’autres exemples illustrent cette méconnaissance des matériaux par les algorithmes génératifs. Des vendeurs ont reçu des photos de tasses en céramique présentant des « fissures » ressemblant à du carton déchiré en couches, ou des draps abîmés dont l’étiquette d’expédition affichait des caractères illisibles, typiques des hallucinations de l’IA. Ces tentatives ciblent aujourd’hui délibérément des produits de faible valeur ou périssables, pour lesquels le coût du retour physique dépasse la valeur de la marchandise, incitant les vendeurs à rembourser sans poser de questions.
L'essentiel Cybersécurité, IA & Tech
Rejoignez la communauté. 3 fois par semaine, recevez l'analyse des tendances par Marc Barbezat. Pas de spam, juste de l'info.
Un bond de plus de 15 % des réclamations
Si ces anecdotes peuvent prêter à sourire par leur absurdité, la tendance de fond est alarmante pour le secteur. Selon les données relayées par Wired, les réclamations frauduleuses utilisant des images retouchées ont bondi de plus de 15 % au niveau mondial depuis le début de l’année, une accélération notable depuis la mi-2024. Il ne s’agit plus seulement de petits escrocs isolés, mais de véritables opérations du crime organisé.
Des experts en détection de fraude ont identifié des attaques coordonnées où des millions de dollars de remboursements ont été réclamés sur une courte période. Ces réseaux utilisent des techniques sophistiquées, comme la rotation d’adresses IP, pour masquer leur identité et saturer les services après-vente. L’objectif est de profiter du manque de temps des équipes de modération, qui ne peuvent scruter chaque pixel de chaque photo reçue. La facilité d’utilisation des outils de génération d’images abaisse considérablement la barrière à l’entrée pour ce type de délit, rendant la fraude accessible à n’importe quel utilisateur disposant d’un smartphone.
La difficile riposte des commerçants
La réponse du secteur s’organise, mais non sans dommages. Certains vendeurs tentent de combattre le feu par le feu en soumettant les photos suspectes à d’autres intelligences artificielles chargées de détecter les manipulations. Toutefois, ces outils de contre-mesure manquent de fiabilité et les plateformes de vente ne tranchent pas systématiquement en faveur du marchand, même en présence d’un doute avéré. Dans certains cas extrêmes, la justice est saisie, menant à l’arrestation de quelques acheteurs ayant fabriqué de fausses preuves vidéos et marquant ainsi une première réponse judiciaire à ce phénomène.
Le risque majeur réside dans la réaction probable des grands détaillants : un durcissement drastique des politiques de retour. Si la confiance est rompue, les procédures de remboursement pourraient devenir beaucoup plus contraignantes pour l’immense majorité des clients honnêtes, transformant l’expérience d’achat en parcours du combattant. Reste à savoir si l’e-commerce s’enfonce dans une spirale de méfiance, ou si les garde-fous permettront de combattre rapidement et efficacement cette explosion de fraudes.
A lire aussi
Cryptomonnaies : Comment l’IA intensifie les arnaques modernes
Les escroqueries dans les cryptomonnaies exploitent l'IA pour piéger avec réalisme. Deepfakes, faux bots et phishing évoluent plus vite que les défenses.
Des serveurs, des API et du temps.
DCOD est bénévole, mais l'hébergement a un coût. Participez aux frais techniques.
