LLM-Based Social Engineering Scams

L’industrialisation de l’ingénierie sociale par l’IA

OpenAI a démantelé un réseau cybercriminel basé au Cambodge exploitant ChatGPT pour mener des campagnes d’ingénierie sociale à grande échelle. Ces opérateurs utilisaient l’IA pour automatiser des interactions complexes et crédibles, augmentant ainsi l’efficacité de leurs fraudes.

Points clés :

• Diversification des scénarios : Utilisation de multiples approches combinées (romance, investissements fictifs en cryptomonnaies/or, usurpation d’identité d’autorités judiciaires ou plateformes de jeux en ligne).
• Automatisation du contenu : Création de profils de rencontre fictifs et génération automatisée de faux documents officiels (passeports, avis juridiques, confirmations d’actions).
• Mode opératoire : Établissement d’une relation de confiance prolongée avec les victimes avant de passer à l’escroquerie financière.

Vulnérabilités :

• Il ne s’agit pas d’une faille logicielle technique (CVE), mais d’une vulnérabilité liée au facteur humain : la capacité des modèles de langage (LLM) à générer des interactions persuasives, personnalisées et exemptes d’erreurs linguistiques, rendant les tentatives d’hameçonnage indétectables par les méthodes traditionnelles.

Recommandations :

• Vigilance accrue : Se méfier des relations développées exclusivement en ligne, particulièrement lorsque des transactions financières sont sollicitées.
• Vérification systématique : Ne jamais se fier à l’apparence professionnelle de documents numériques ; vérifier leur authenticité via les canaux officiels des institutions concernées.
• Culture de la méfiance : Adopter une approche critique face à toute sollicitation non sollicitée, même si l’interlocuteur semble crédible, cohérent et empathique.

Source