Phantom Squatting Uses AI-Hallucinated Domains for Phishing and Malware

Le “Phantom Squatting” : Quand les hallucinations des IA deviennent des vecteurs d’attaque

Le phantom squatting est une technique émergente où des attaquants exploitent les hallucinations des grands modèles de langage (LLM). Les IA génèrent régulièrement des adresses web inexistantes avec une telle cohérence que les attaquants peuvent prédire ces “hallucinations”, enregistrer les noms de domaine correspondants et y déployer des sites de phishing ou des logiciels malveillants avant que les systèmes de sécurité ne les répertorient.

Points clés :

• Vulnérabilité structurelle : Ce comportement est inhérent à l’architecture des LLM et est considéré comme impossible à corriger.
• Anticipation : Étant donné que les modèles génèrent les mêmes domaines fictifs de manière répétitive, les attaquants peuvent “réserver” ces noms de domaine bien avant qu’ils ne soient utilisés par des victimes.
• Abus de confiance : Les utilisateurs et les agents autonomes tendent à considérer les liens fournis par une IA comme fiables. Une fois le domaine enregistré par un attaquant, il ne possède aucun historique malveillant, échappant ainsi aux outils de réputation et de filtrage.
• Propagation : Cette technique, similaire au slopsquatting (création de faux paquets logiciels), a déjà été observée dans des campagnes réelles, notamment pour usurper des services postaux et bancaires.

Vulnérabilités :

• Il n’existe pas de CVE spécifique, car il s’agit d’une faille conceptuelle dans l’usage des LLM et non d’un bug logiciel traditionnel. Le problème réside dans la confiance accordée aux sorties non vérifiées des modèles d’IA.

Recommandations :

• Vérification systématique : Ne jamais considérer un lien fourni par une IA comme authentique. Toujours vérifier manuellement l’URL officielle avant toute saisie de données sensibles.
• Encadrement des agents autonomes : Empêcher les agents IA d’ouvrir ou de télécharger automatiquement des contenus provenant de liens générés sans une validation humaine préalable.
• Veille proactive : Les équipes de cybersécurité peuvent anticiper les menaces en cartographiant les domaines “hallucinés” par les modèles qu’elles utilisent et en surveillant leur enregistrement.
• Adopter une posture de défiance : Considérer systématiquement tout contenu généré par une IA comme un brouillon non vérifié et non comme une source d’information faisant autorité.

Source