Russia-Aligned UAC-0099 Plants Nuclear Weapon Prompt in Malware to Disrupt AI Analysis

GuardBreaker : Le sabotage de l’analyse par IA via l’injection de prompts malveillants

Le groupe de menace russe UAC-0099 utilise une nouvelle technique baptisée GuardBreaker pour neutraliser les systèmes d’analyse de sécurité assistés par intelligence artificielle. Cette méthode consiste à insérer des textes provocateurs dans des scripts malveillants — notamment une demande de fabrication d’arme nucléaire — afin de déclencher les mécanismes de sécurité des grands modèles de langage (LLM) et de provoquer leur refus d’analyse.

Points clés :

• Technique d’évasion : Le code malveillant injecte intentionnellement du contenu sensible pour saturer ou bloquer les outils d’analyse basés sur l’IA avant qu’ils n’atteignent la charge utile réelle.
• Objectif opérationnel : Le script sert à installer MATCHBOIL, un chargeur C# utilisé par UAC-0099 pour déployer des logiciels malveillants secondaires.
• Tendance croissante : Cette tactique d’« anti-analyse » LLM a été observée dans plusieurs campagnes récentes (ex: Mini Shai-Hulud, Hades, Miasma), visant à corrompre les pipelines d’intégration et les systèmes de triage automatisés.
• Contexte cybercriminel : Bien que liée initialement au groupe TeamPCP (dont deux membres ont été arrêtés), la fuite de leurs outils a permis à d’autres acteurs étatiques ou criminels d’adopter ces méthodes de contournement.

Vulnérabilités :

• Il ne s’agit pas d’une vulnérabilité logicielle classique (CVE), mais d’une faille de conception dans le traitement des données au sein des pipelines de sécurité. Les systèmes d’analyse automatique ne séparent pas correctement les données non fiables du code source, permettant à l’attaquant de manipuler le contexte envoyé à l’IA.

Recommandations :

• Isolation des données : S’assurer que le contenu analysé par les modèles d’IA est strictement isolé des instructions système et des prompts.
• Analyse multi-couches : Ne pas se reposer exclusivement sur des outils d’analyse pilotés par IA ; coupler ces solutions avec des scanners statiques (SAST) et dynamiques (DAST) traditionnels.
• Traitement des entrées : Sanctuariser les fichiers analysés en supprimant les commentaires ou les blocs de texte suspects avant de les soumettre à une analyse LLM.
• Validation humaine : Mettre en place des processus de revue humaine pour les alertes critiques, surtout lorsque le système d’analyse automatique rapporte un comportement erratique ou un refus d’analyse inhabituel.

Source