Hugging Face warns an autonomous AI agent hacked its network

Infiltration par agent IA autonome chez Hugging Face

Hugging Face a subi une intrusion majeure dans ses infrastructures de production, orchestrée par un agent IA autonome. Les attaquants ont exploité le pipeline de traitement de données pour compromettre des clusters internes, dérober des identifiants cloud et effectuer des déplacements latéraux. Bien qu’aucune altération des modèles publics n’ait été constatée à ce jour, les données sensibles internes restent sous enquête.

Points clés :

• Mode opératoire : Utilisation d’un framework d’agent IA automatisé exécutant des milliers d’actions via une multitude de sandboxes éphémères.
• Command & Control : Déploiement de serveurs C2 auto-migrants sur des services publics.
• Complexité forensique : Les outils de défense basés sur des modèles commerciaux ont entravé l’analyse technique en raison de leurs “guardrails” (filtres de sécurité), soulignant la nécessité d’outils de sécurité IA auto-hébergés.

Vulnérabilités exploitées : L’attaque a tiré parti de deux failles critiques dans le pipeline de traitement :

• Injection de template : Via la configuration de jeux de données (datasets).
• Chargement distant de code (Remote Code Execution) : Via un chargeur de jeux de données malveillant. (Note : Aucune référence CVE spécifique n’a été communiquée par l’éditeur dans le cadre de cet incident).

Recommandations :

• Pour Hugging Face : Rotation systématique de tous les jetons d’accès et identifiants, renforcement de la détection des activités malveillantes, et déploiement de modèles de défense auto-hébergés pour contourner les restrictions des services tiers lors des investigations.
• Pour les utilisateurs : Procéder à la rotation de leurs propres jetons d’accès et auditer l’activité récente de leurs comptes pour détecter toute anomalie.

Source