OpenAI Explains URL-Based Data Exfiltration Mitigations in New Paper

Sécurisation des Agents IA Contre l’Exfiltration de Données par URL

Une nouvelle publication d’OpenAI détaille les avancées dans la protection contre les fuites de données via les URL par les agents d’IA. Ces vulnérabilités, découvertes il y a plusieurs années, permettent à des acteurs malveillants d’extraire des informations sensibles en exploitant la manière dont les modèles de langage interagissent avec les liens web.

Points Clés :

• Historique de la Vulnérabilité : Le problème de l’exfiltration de données via les URL a été signalé à OpenAI dès début 2023. Bien que Microsoft ait implémenté une première parade en mai 2023, la généralisation des correctifs a pris du temps.
• Évolution des Mitigations : OpenAI a introduit des protections progressives, notamment une fonctionnalité url_safe en décembre 2023 et des améliorations supplémentaires en août 2025. Cependant, des contournements ont continué d’être découverts.
• Nouvelle Approche de Mitigations : La stratégie actuelle repose sur un index web propre à OpenAI. Les URL rencontrées par un crawler sont ajoutées à une liste blanche, leur permettant d’être consultées sans risque. Les URL générées dynamiquement sont considérées comme potentiellement dangereuses. Les URL saisies directement par l’utilisateur sont généralement considérées comme sûres pour la session en cours.
• Persistance des Risques : Malgré ces avancées, l’exfiltration de données reste possible. Une technique de contournement consiste à utiliser des URL individuelles pour représenter chaque caractère d’une information à exfiltrer. Si ces URL sont déjà indexées, cette méthode peut être exploitée, surtout si un grand nombre d’URL pré-existantes sont disponibles.
• Recommandations Supplémentaires : Pour renforcer la sécurité, il est suggéré d’empêcher la visite répétée de la même URL complète au sein d’une session, soit par la mise en cache des réponses, soit en limitant le nombre d’accès à une URL donnée.
• Défi d’Adoption : Le risque réel réside dans l’adoption complète et uniforme de ces nouvelles mesures de sécurité par tous les développeurs au sein d’OpenAI. L’article souligne que cette publication ne traite pas des risques liés à l’injection indirecte de prompts.

Vulnérabilités :

L’article ne mentionne pas de CVE spécifiques, mais décrit la vulnérabilité générale de l’exfiltration de données par URL, permettant à un agent d’IA de transmettre des informations sensibles à un site web contrôlé par un attaquant via la consultation de liens.

Recommandations :

• Mise en œuvre d’un index web pour valider les URL.
• Blocage des URL générées dynamiquement potentiellement malveillantes.
• Considération des URL saisies directement par l’utilisateur comme sûres pour la session.
• (Idées supplémentaires) Mise en cache des réponses d’URL et limitation des visites répétées d’une même URL au sein d’une session.
• Assurer l’adoption généralisée des mesures de sécurité par tous les développeurs.

Source