Yoan AGOSTINI

Yoan AGOSTINI

1337 G33k

ChatGPhish Vulnerability Turns ChatGPT Web Summaries Into a Phishing Surface

1 minute de lecture

Mis à jour :

Vulnérabilités des agents IA : Le risque croissant de l’injection indirecte

L’écosystème de l’IA générative fait face à une recrudescence de vecteurs d’attaque où la confiance accordée par les modèles au contenu externe devient une porte d’entrée pour des cyberattaques.

Points clés

  • ChatGPhish : Une vulnérabilité dans ChatGPT qui permet à une page web malveillante de s’exécuter dans l’interface de l’assistant lors d’une simple demande de résumé. L’IA rend alors des liens, des images et des codes QR frauduleux, contournant les contrôles de sécurité traditionnels.
  • Attaques sur les agents de développement : Des failles comme SymJack et TrustFall permettent d’obtenir une exécution de code à distance (RCE) sur la machine d’un développeur simplement en ouvrant un dépôt GitHub malveillant qui incite l’outil IA à autoriser des configurations malicieuses.
  • Diversification des vecteurs : L’article souligne que les attaquants exploitent désormais l’injection de prompts indirecte (contenu web), le contournement de filtres par typographie (images masquant du texte), et l’utilisation de compétences (“skills”) d’agents compromises.

Vulnérabilités identifiées

  • CVE-2026-25592 & CVE-2026-26030 : Vulnérabilités dans Microsoft Semantic Kernel permettant de transformer une injection de prompt en RCE au niveau de l’hôte.
  • ClaudeBleed : Flaw dans l’extension Chrome de Claude permettant à n’importe quelle extension tierce de détourner les actions de l’IA.
  • WebPromptTrap : Injection indirecte dans BrowserOS permettant de tromper l’utilisateur via une autorisation obtenue après un résumé généré par IA.

Recommandations

  • Méfiance vis-à-vis du contenu généré : Ne pas considérer les résumés ou les rendus d’IA comme des environnements “sains” et isolés.
  • Vigilance lors de l’utilisation d’agents de code : Faire preuve d’une extrême prudence avant d’accorder des droits de confiance (“Trust folder”) à des dépôts de code tiers ou des agents d’IA.
  • Audit des extensions et outils : Vérifier régulièrement les permissions des extensions de navigateur interagissant avec des modèles de langage.
  • Gestion des accès : Minimiser les privilèges accordés aux processus lancés par des outils d’IA pour limiter l’impact d’une exécution de code malveillant.

Source

Vous pourriez aimer