Anthropic Restores Claude Fable 5 After U.S. Lifts Jailbreak-Linked Export Controls

Réhabilitation de Claude Fable 5 : Entre sécurité et régulation gouvernementale

Anthropic a rétabli l’accès mondial à son modèle d’IA Claude Fable 5 après deux semaines de suspension imposées par le département du Commerce des États-Unis. Cette restriction faisait suite à la découverte d’un jailbreak permettant au modèle d’identifier des vulnérabilités logicielles et de générer du code d’exploitation.

Points clés :

• Contexte réglementaire : Les contrôles à l’exportation visaient à empêcher l’accès aux ressortissants étrangers, une mesure que l’entreprise a appliquée par une coupure totale du service faute de système fiable de vérification de nationalité.
• Sécurisation : Anthropic a déployé un nouveau classificateur de sécurité bloquant les techniques de jailbreak identifiées dans plus de 99 % des cas.
• Surveillance renforcée : Anthropic s’est engagé à effectuer des recherches proactives sur les risques de sécurité, à collaborer étroitement avec le gouvernement pour les futurs lancements et à signaler toute utilisation malveillante.
• Vers une standardisation : En collaboration avec d’autres géants technologiques, Anthropic propose une grille d’évaluation de la dangerosité des jailbreaks basée sur quatre critères : le gain de capacité, l’étendue des attaques, la facilité d’armement (weaponization) et la découvrabilité.

Vulnérabilités : L’article souligne le risque intrinsèque des modèles d’IA “frontière” : leur capacité à analyser et exploiter des vulnérabilités de type Zero-Day sur des systèmes d’exploitation et navigateurs majeurs. Aucune CVE spécifique n’est mentionnée, mais le rapport note une démonstration où le modèle a généré des exploits opérationnels en moins de 24 heures.

Recommandations et mesures prises :

• Programme de Bug Bounty : Lancement d’un programme sur HackerOne spécifiquement dédié aux signalements de jailbreak pour Fable 5.
• Veille opérationnelle : Création d’une équipe dédiée à la surveillance des rapports de vulnérabilités et de contournement 24h/24.
• Gouvernance : Accord pour soumettre les futurs modèles à des tests gouvernementaux préalables au déploiement public afin d’anticiper les risques de double usage (défense vs exploitation).

Source