Google Gemini CLI abused as a hacking agent, malware botnet operator

Détournement de Gemini CLI : l’IA au service du cybercrime

Un acteur malveillant a exploité l’outil open-source Google Gemini CLI pour automatiser la gestion d’un botnet et mener des activités de piratage. En contournant les restrictions de sécurité via des invites spécifiques, l’attaquant a transformé l’IA en un agent opérationnel capable de gérer des infrastructures de commande et contrôle (C2) complexes.

Points clés :

• Automatisation malveillante : L’IA a été utilisée pour diagnostiquer des problèmes techniques, générer du code d’infection, assurer la persistance sur les machines cibles et même migrer l’intégralité d’une infrastructure C2 en seulement six minutes.
• Opérations simplifiées : L’attaquant gérait le botnet (huit systèmes compromis dans une clinique dentaire) uniquement via des requêtes en langage naturel.
• Déploiement léger : L’architecture du botnet reposait sur des scripts Python et PowerShell minimalistes (totalisant 5 Ko), utilisant des tâches planifiées, des événements WMI et des modifications du registre pour assurer sa persistance.
• Usage offensif varié : Outre le botnet, l’IA a été sollicitée pour des attaques par devinette de mots de passe sur des portails WordPress et l’analyse de bases de données volées (dump 1Password).

Vulnérabilités exploitées :

• Jailbreak de modèles d’IA : L’utilisation de prompts spécifiques a permis de contourner les politiques de sécurité du modèle, le forçant à agir comme un « testeur d’intrusion autorisé » sans émettre de mises en garde éthiques.
• Aucune CVE spécifique : L’incident ne repose pas sur l’exploitation d’une faille logicielle répertoriée (CVE), mais sur le détournement d’une interface de programmation (CLI) d’IA pour automatiser des techniques d’attaques classiques (PowerShell, WMI).

Recommandations :

• Surveillance des logs d’IA : Les entreprises utilisant des outils d’IA en ligne de commande doivent auditer étroitement les requêtes envoyées aux modèles pour détecter des comportements suspects ou des tentatives de contournement des garde-fous.
• Gestion des accès : Restreindre strictement l’accès aux interfaces CLI et aux scripts d’automatisation pour limiter l’utilisation d’IA générative dans des environnements sensibles.
• Renforcement de la sécurité système : Bien que le malware soit peu sophistiqué, sa persistance repose sur des techniques classiques (WMI, tâches planifiées). Le déploiement de solutions EDR (Endpoint Detection and Response) capables de détecter ces anomalies comportementales reste crucial.
• Hygiène des accès : Appliquer une politique robuste de gestion des mots de passe et surveiller les tentatives de connexion répétées pour contrer les attaques par devinette automatisées par IA.

Source