OpenAI Disrupts Reasoning Extraction Campaign Linked to Moonshot AI Associates
Mis à jour :
Neutralisation d’une campagne d’extraction de raisonnement IA liée à Moonshot AI
OpenAI a récemment démantelé une campagne malveillante de « distillation adverse » visant à extraire les traces de raisonnement protégées de ses modèles. Cette activité, attribuée à des acteurs liés à la société chinoise Moonshot AI, consistait à manipuler les interactions pour forcer le modèle à révéler ses processus internes de réflexion.
Points clés :
- Mode opératoire : Les attaquants n’ont pas piraté les bases de données, mais ont utilisé des modèles de requêtes (“prompt-pattern”) pour forcer la reproduction de raisonnements protégés.
- Ampleur : Plus de 15 000 utilisateurs ont été impliqués, avec un pic de 16 000 requêtes malveillantes en 48 heures fin juillet 2026.
- Risques : L’extraction de ces données permet de reproduire les capacités d’un modèle sans investir dans la sécurité, facilitant ainsi la création de modèles concurrents moins protégés ou l’injection de prompts invisibles.
- Contexte : Moonshot AI a déjà été accusé par Anthropic de détourner des requêtes utilisateurs vers le modèle Claude pour entraîner ses propres systèmes (campagne GTG-16002).
Vulnérabilité identifiée :
- Interopérabilité des traces chiffrées : Une faille architecturale permet d’injecter une trace de raisonnement chiffrée issue d’un modèle performant dans un modèle moins sécurisé du même écosystème. Ce dernier décode alors la trace en texte clair, contournant ainsi les mécanismes de protection (cette technique ne fait pas l’objet d’une CVE classique, mais relève d’une vulnérabilité structurelle documentée dans la recherche académique d’août 2026).
Recommandations :
- Renforcement des contrôles : OpenAI a déployé des filtres supplémentaires pour détecter et bloquer les flux de données sortantes contenant des traces de raisonnement.
- Correction des chemins d’accès : Suppression de la possibilité pour un utilisateur de rejouer des traces chiffrées provenant d’autres sessions pour en récupérer le contenu.
- Gestion des comptes : Bannissement systématique des comptes identifiés comme participant à des campagnes de distillation automatisée.