Fraude basée sur l'IA : Comment les escrocs exploitent l'IA générative
Selon les données de Chainabuse, la plateforme open-source de signalement des fraudes de TRM Lab, les signalements d'escroqueries fondées sur l'intelligence artificielle générative (genAI) entre mai 2024 et avril 2025 ont augmenté de 456 %, par rapport à la même période en 2023-24, qui avait déjà connu une augmentation de 78 % par rapport à 2022-23. Cela illustre comment l'explosion des outils d'IA générative au cours des dernières années a conduit à une augmentation de la fraude basée sur l'IA.
Ces outils permettent aux acteurs malveillants de produire à grande échelle du texte, du code, des images et des vidéos semblables à ceux d'un être humain. La technologie est utilisée pour des activités telles que la création de leurres d'hameçonnage plus convaincants ainsi que la production de deepfakes pour l'extorsion, comme le détaille notre rapport de février 2025, "The Rise of AI-Enabled Crime" (La montée de la criminalité basée sur l'IA).
Dans cet article, nous examinons les méthodes les plus courantes utilisées par les escrocs pour utiliser l'IA, en nous appuyant sur des exemples tirés de Chainabuse et de nos propres enquêtes.
{{horizontal-line}}
Principaux enseignements
- Les escrocs utilisent de plus en plus d'outils d'IA générative (genAI) tels que les deepfakes et les grands modèles de langage (LLM) pour créer des personas plus crédibles et usurper l'identité de personnalités publiques. Ces technologies permettent aux opérations de fraude de paraître plus légitimes et plus difficiles à détecter.
- Les escroqueries basées sur la technologie Deepfake sont le type d'escroquerie à l'IA le plus souvent signalé. Il s'agit notamment d'escroqueries à la crypto-monnaie mettant en scène des vidéos manipulées de personnalités publiques telles qu'Elon Musk. Les deepfakes en direct rendent ces escroqueries particulièrement difficiles à détecter.
- Les agents d'IA, qui ne nécessitent qu'une surveillance humaine limitée, accélèrent l'ampleur et la sophistication de la fraude. Ils sont utilisés par les escrocs pour atteindre les gens sur différentes plateformes, collecter des données personnelles sur le web pour des escroqueries personnalisées, ainsi que pour construire des chatbots alimentés par des LLM et de faux services d'assistance.
- Bien que les criminels abusent de l'IA, ces mêmes outils peuvent être exploités pour riposter. Les plateformes d'Blockchain intelligence comme TRM Labs intègrent l'IA pour aider les enquêteurs à tracer les fonds plus rapidement, à analyser les contrats intelligents et à détecter les nouvelles typologies de fraude. La lutte contre les escroqueries induites par l'IA impliquera une réponse coordonnée des institutions financières, des régulateurs, des forces de l'ordre et des fournisseurs de renseignements.
{{horizontal-line}}
Comment les escrocs utilisent l'IA
TRM a observé des escrocs qui utilisent l'IA pour :
- Générer des escroqueries cryptographiques de type deepfake
- Créer des escroqueries à l'usurpation d'identité de PDG (deepfake)
- Créer de fausses personnalités par le biais de LLM
- Automatiser et améliorer les opérations
1. Escroqueries cryptographiques de type Deepfake
Les escroqueries de type "deepfake" sont le type d'escroquerie basé sur l'IA le plus souvent signalé, la fraude aux crypto-monnaies faisant partie des cas d'utilisation les plus courants. Les utilisateurs de Chainabuse ont notamment signalé une version alimentée par genAI de l'escroquerie classique "double-your-bitcoin".
La version originale de l'escroquerie implique que des acteurs malveillants compromettent des chaînes YouTube populaires, puis les renomment et les utilisent pour diffuser de vraies interviews de personnalités populaires de la communauté cryptographique avec un site web d'escroquerie superposé. Parmi les célébrités figurant dans ces vidéos, on peut citer Elon Musk, Brad Garlinghouse, PDG de Ripple, Michael Saylor, PDG de MicroStrategy, et Cathy Woods, PDG d'Ark Invest.
Depuis au moins la mi-2024, une version plus sophistiquée de cette escroquerie est apparue, aidée par des "deepfakes". Les escrocs utilisent des deepfakes de ces personnes - le plus souvent Elon Musk - pour faire croire qu'ils font la promotion du site web spécifique de l'escroquerie , par exemple en disant qu'ils doubleront votre investissement.
Un autre utilisateur de Chainabuse a signalé qu' il avait perdu des fonds à cause d'une escroquerie deepfake Elon Musk giveaway sur YouTube en juin 2024. L'analyse de TRM montre que l'adresse signalée semble avoir reçu des fonds de plusieurs victimes en l'espace d'environ 20 minutes, probablement lorsque le flux était en direct sur YouTube.
Les fonds provenant de cette adresse sont destinés à diverses destinations, mais surtout à quelques grandes bourses, en particulier MEXC. Les escrocs qui ont arnaqué cette victime ont reçu au moins 5 millions de dollars entre mars 2024 et janvier 2025. TRM a également observé l'envoi de petites sommes d'argent à deux marchés du darknet et à une entité cybercriminelle.
Un autre rapport de Chainabuse datant de novembre 2023 prétendait qu'un deepfake d'Elon Musk encourageait l'utilisateur à investir dans une plateforme de négociation alimentée par l'IA. L'escroc a également déplacé les fonds vers MEXC et a probablement reçu plus de 3,3 millions USD entre juillet 2023 et février 2024.
Ces affaires mettent en évidence la manière dont les escrocs continuent d'exploiter la confiance du public dans les célébrités pour manipuler socialement leurs victimes. Les deepfakes permettent aux acteurs malveillants de créer des vidéos très réalistes qu'il est difficile de distinguer des authentiques approbations de crypto-monnaies par des célébrités.
2. Escroqueries par usurpation d'identité Deepfake
Les personnalités publiques ne sont pas les seules à faire l'objet d'escroqueries par "deepfake". De plus en plus, les escrocs utilisent des "deepfakes" pour se faire passer pour des cadres d'entreprise ou des membres du public.
Les "deepfakes" en direct, qui consistent à superposer le visage d'une autre personne au vôtre lors d'un appel vidéo en direct, ont ajouté un nouvel élément sophistiqué à ce type d'escroquerie. Cette technologie n'exige pas des criminels qu'ils collectent un grand nombre de données sur leurs victimes. Les escrocs peuvent désormais reproduire la voix ou l'image d'une personne à partir de quelques secondes de vidéo ou d'audio. En février 2024, une multinationale de Hong Kong aurait été escroquée de plusieurs millions de dollars après qu'un employé a tenu un appel vidéo avec des escrocs se faisant passer pour des cadres de l'entreprise en utilisant cette fonction.
Dans une autre escroquerie courante, les criminels se font passer pour des victimes en imitant leur voix, puis en contactant les membres de leur famille en leur disant qu'ils ont des problèmes et qu'ils ont besoin d'argent. Dans une escroquerie similaire, la plus courante en Asie, les acteurs de la menace se font passer pour des amis ou des parents des victimes et leur disent qu'ils ont besoin d'aide pour une faveur ou encouragent les victimes à investir dans un projet dont ils prétendent avoir tiré profit.
TRM a également constaté que des escrocs utilisaient des "deepfakes" vivants dans le cadre d'escroqueries financières de type "grooming" (escroqueries de longue durée communément appelées "pig butchering"). pig butchering). En outre, nous avons observé des paiements en crypto-monnaie provenant d'escroqueries de toilettage financier, ainsi que d'une escroquerie à l'investissement, à des fournisseurs de deepfake-as-a-service.
Cela indique que les escrocs utilisent probablement ces services pour mener à bien leurs escroqueries. L'essor du deepfake-as-a-service - et plus largement de l'IA-as-a-service - témoigne de la demande croissante pour cette technologie, probablement de la part de criminels organisés.
TRM a été témoin d'une autre utilisation d'un "deepfake" en direct lors d'un appel vidéo avec un escroc susceptible de faire du "grooming" financier (voir ci-dessous). Nous soupçonnons ce fraudeur d'avoir utilisé la technologie deepfake en raison de l'aspect peu naturel de la racine des cheveux de la personne. Les outils de détection de l'IA nous ont permis de corroborer notre évaluation selon laquelle l'image était probablement générée par l'IA. Cette escroquerie spécifique et d'autres qui lui sont liées ont reçu au moins 60 millions USD, principalement sur Ethereum, ce qui indique les gains financiers potentiels d'une telle activité frauduleuse.
L'épreuve de vérité
Au fur et à mesure que l'IA générique se répandra dans les escroqueries, le public sera probablement plus conscient de son utilisation à des fins illicites. Pour apaiser les craintes des victimes potentielles et paraître plus authentiques, les escrocs, en particulier ceux qui sont impliqués dans des escroqueries amoureuses, utilisent des personnes réelles en conjonction avec l'IA.
Par exemple, TRM a trouvé des preuves que des femmes au Cambodge annonçaient leurs services en tant que "modèles à visage réel" par opposition à des "modèles IA" à des escroquerie potentiels et à des recruteurs de casinos en ligne sur Telegram. Dans ce type d'opérations, les escrocs organisent un appel vidéo entre la victime et l'un de leurs mannequins. Les femmes impliquées utilisent la technologie deepfake pour modifier leur apparence afin de paraître plus attirantes ou de ressembler à une personne en particulier.
3. Générer de faux personas à l'aide de LLM
Bien que les deepfakes deviennent de plus en plus sophistiqués, ils ont toujours été plus faciles à détecter que la genAI basée sur le texte. Les escrocs se tournent de plus en plus vers les LLM pour améliorer leurs stratagèmes.
Les LLM sont particulièrement utiles aux escrocs qui effectuent des travaux de longue haleine, tels que le pig butchering:
- Réduire la nécessité d'une surveillance humaine et minimiser la fatigue opérationnelle
- Créer de faux personnages pour instaurer la confiance avec les victimes
- Adapter les messages en améliorant le contexte culturel ou régional pour paraître plus légitime
- Créer des messages de phishing convaincants à grande échelle (KnowBe4 a publié un rapport en mars 2025 indiquant qu'au moins 73,8 % des courriels de phishing qu'ils ont analysés en 2024 montraient une certaine utilisation de l'IA).
- Traduire des textes plus rapidement et avec plus de fluidité dans les langues cibles
Pour illustrer ce dernier point, TRM a également découvert des escrocs qui utilisaient probablement un LLM pour communiquer à la fois en chinois simplifié et en anglais.
Avatars de PDG et d'employés générés par l'IA
De la même manière que les LLM permettent aux escrocs de paraître plus légitimes, le simple fait d'avoir l'image d'un PDG ou d'une équipe d'employés sur un site web peut contribuer à instaurer la confiance chez les victimes. Par exemple, l'un des plus grands systèmes pyramidaux de 2024, MetaMax, semble avoir utilisé un PDG généré par l'IA.
Comme beaucoup d'autres systèmes pyramidaux et de Ponzi, MetaMax prétendait que les utilisateurs pouvaient réaliser d'importants retours sur investissement en s'engageant dans des contenus sur les médias sociaux. Le système utilisait un tiers pour créer un avatar généré par l'IA et ciblait des victimes dans le monde entier, en particulier aux Philippines, et a reçu près de 200 millions de dollars d'entrées.
En outre, un site d'escroquerie l'investissement, babit[.]cc, a créé des avatars de son personnel supposé au lieu d'utiliser des images de personnes réelles comme l'ont fait les escroqueries précédentes. Un coup d'œil rapide à cette page (voir ci-dessous) révèle qu'elle est probablement générée par une IA. Toutefois, à mesure que la technologie évolue et que les images deviennent de plus en plus réalistes, il sera de plus en plus difficile de détecter de telles utilisations de l'IA.
4. Comment les agents d'IA améliorent et automatisent les opérations de fraude
Les agents d'IA apparaissent comme un développement transformateur pour les activités licites et illicites. Contrairement aux modèles d'IA plus réactifs, ils fonctionnent avec un haut degré d'autonomie et peuvent initier des tâches, prendre des décisions et souvent incorporer de l'IA générique à différents stades de leurs flux de travail.
Par exemple, une entreprise pourrait créer un agent d'IA pour.. :
- Analyser tous les courriels non lus d'une boîte de réception
- Classer chaque message par catégorie (par exemple, demande de prix ou demande d'état d'expédition).
- Répondre automatiquement lorsque l'on dispose de suffisamment d'informations
- Transmettre le message à une personne si des informations supplémentaires sont nécessaires.
De même, les escrocs peuvent utiliser des agents d'IA pour organiser, dimensionner et rendre leurs opérations plus efficaces. Les mauvais acteurs peuvent utiliser des agents pour récupérer des données publiques telles que l'emploi, la localisation, les centres d'intérêt, les achats récents et les interactions avec les médias sociaux d'une cible, afin de créer des escroqueries personnalisées. Ils peuvent également créer des chatbots et de faux services d'assistance alimentés par le LLM, et utiliser un agent pour résumer la présence en ligne des utilisateurs et analyser leurs sentiments généraux afin de trouver des personnes vulnérables à grande échelle.
Les escrocs utilisent probablement des agents d'IA pour automatiser la sensibilisation, la traduction et la communication sur plusieurs plateformes. Ces outils peuvent également aider les mauvais acteurs à élaborer des processus programmatiques de blanchiment d'argent, à optimiser les stratégies d'escroquerie en examinant les résultats des scripts d'escroquerie à l'échelle, et même à utiliser des agents victimes-personnes pour tester de nouvelles techniques d'escroquerie .
Malgré les protections intégrées, les fraudeurs manipulent probablement les modèles de genAI pour les contourner. Par exemple, vous pouvez obtenir des conseils en matière de fraude de la part d'un GPT restreint en vous faisant passer pour un chercheur et en demandant de l'aide pour élaborer des processus à des fins de fraude. Pour illustrer cela, TRM a demandé à ChatGPT comment un fraudeur pourrait utiliser des agents d'IA pour améliorer son flux de travail. Voici la réponse qu'il a donnée :
{{horizontal-line}}
Comment l'IA peut-elle aider à détecter et perturber les escroqueries basées sur l'IA ?
Pour mettre fin aux escroqueries fondées sur l'IA, il faudra adopter une approche multiforme et tournée vers l'avenir, impliquant des solutions techniques, des mesures politiques et réglementaires, l'éducation du public et la collaboration. Les décideurs politiques du monde entier s'efforcent de créer des environnements réglementaires qui encouragent l'innovation dans le domaine de l'IA, tout en atténuant les risques liés aux acteurs illicites qui cherchent à abuser de cette technologie transformatrice.
Il est impératif d'informer le public sur les risques d'escroquerie liés à l'IA pour contribuer à les atténuer. Des agences telles que le Federal Bureau of Investigation (FBI) et Europol ont investi dans des campagnes visant à informer le public sur les risques de la genAI. La sensibilisation réduit la vulnérabilité et aide les individus à reconnaître les comportements frauduleux avant qu'ils ne s'aggravent.
Les institutions financières, les régulateurs, les forces de l'ordre et les fournisseurs de renseignements devront également collaborer pour lutter contre cette menace. À ce titre, les outils de blockchain intelligence tels que ceux fournis par TRM Labs permettent aux enquêteurs de disposer d'outils fondés sur l'IA pour accélérer leurs investigations. Les technologies et les outils d'IA peuvent également être utilisés pour accélérer le traçage le long des chemins du dernier entré-premier sorti (LIFO) ou du premier entré-premier sorti (FIFO), pour créer des résumés de graphiques d'enquête et pour découvrir de nouveaux modèles de comportement criminel sur la chaîne.
La plateforme d'blockchain intelligence de TRM :
- La combinaison de l'apprentissage automatique et de l'analyse de la chaîne permet de détecter les typologies criminelles, même lorsque des techniques d'obscurcissement sont utilisées.
- Permet un suivi en temps réel et une hiérarchisation des risques pour les institutions financières et les organismes chargés de l'application de la loi.
- Exploite l'IA pour analyser automatiquement les contrats intelligents à la recherche de problèmes potentiels ou pour traduire le langage de programmation d'Ethereum, Solidity, en langage clair afin de comprendre ce que fait un contrat.
En intégrant l'IA dans nos outils d'blockchain intelligence , TRM permet aux organisations de détecter les menaces plus rapidement, de répondre plus efficacement et de renforcer la résilience face à l'évolution du paysage des menaces de fraude. Les combattants de la fraude doivent intégrer l'IA dans leurs kits d'outils pour renforcer leurs défenses et avoir les meilleures chances de prévenir et d'enquêter sur les fraudes basées sur l'IA.
