Varonis Agent IBAC keeps AI agents within their intended boundaries

Sécurisation des agents IA : Le contrôle d’accès basé sur l’intention (IBAC)

Varonis a lancé le module Agent Intent-Based Access Control (IBAC) au sein de sa plateforme Atlas, conçu pour prévenir les comportements déviants des agents d’IA en entreprise. En s’interposant directement entre l’agent et le modèle (LLM), la solution vérifie en temps réel si les actions entreprises par l’IA correspondent aux instructions initiales de l’utilisateur.

Points clés

• Analyse contextuelle : Le système compare chaque étape de raisonnement et chaque appel d’outil de l’agent avec l’intention originelle de la requête.
• Évaluation globale de session : Le module surveille l’intégralité de la conversation pour détecter des dérives cumulatives ou des tentatives de “jailbreak” fragmentées sur plusieurs interactions.
• Protection en temps réel : Contrairement à une analyse post-événement, Atlas bloque ou modifie les actions litigieuses avant leur exécution.
• Traçabilité complète : Chaque interaction, incluant les appels d’outils invisibles à l’utilisateur, est auditée pour faciliter la conformité et les enquêtes de sécurité.

Vulnérabilités ciblées

L’article ne mentionne pas de CVE spécifique, mais se concentre sur des risques intrinsèques à l’utilisation des agents IA :

• Dérive d’intention (Intent Drift) : Lorsqu’un agent dépasse le périmètre de sa mission initiale (ex: accès à des données non autorisées, suppression de bases de données).
• Escalade de privilèges : L’auto-élévation de droits par un agent pour contourner les contrôles statiques.
• Attaques par jailbreak multi-tours : Utilisation de requêtes bénignes successives pour manipuler l’agent et lui faire contourner ses garde-fous.

Recommandations

• Déploiement de garde-fous dynamiques : Mettre en place des mécanismes de contrôle à l’exécution (runtime) plutôt que de s’appuyer uniquement sur le contrôle d’accès statique traditionnel.
• Configuration de la sensibilité : Ajuster les paramètres de détection selon la criticité des données (niveaux lenient, balanced, ou strict).
• Mise en quarantaine automatisée : Isoler les identités des agents compromis pour une durée déterminée afin de stopper immédiatement toute tentative ultérieure.
• Validation humaine (Human-in-the-loop) : Exiger une approbation manuelle pour les actions identifiées comme étant hors périmètre avant qu’elles ne soient autorisées à se poursuivre.

Source