WhatsApp, Slack Notifications Could Hijack Google Gemini on Android

Exploitation par injection de prompt via les notifications Android sur Google Gemini

Des chercheurs en sécurité de SafeBreach ont découvert une vulnérabilité permettant de détourner l’assistant Google Gemini sur Android via des notifications provenant d’applications tierces (WhatsApp, Slack, Signal, etc.). En injectant des instructions malveillantes dans ces notifications, un attaquant pouvait forcer l’IA à exécuter des actions non autorisées, à manipuler la mémoire de l’assistant ou à usurper l’identité de contacts.

Points clés :

• Vecteur d’attaque : La fonctionnalité « Utilities » de Gemini permet à l’assistant de lire et de traiter les notifications entrantes. L’attaquant envoie une notification contenant une charge utile (prompt malveillant) que Gemini interprète comme une instruction légitime.
• Technique « Fake Context Alignment » : Pour contourner les mécanismes de sécurité de Google, les chercheurs ont utilisé une technique combinant l’obfuscation linguistique (poser la question d’autorisation dans une langue étrangère) et la dissimulation de texte (masquer les actions sensibles derrière des liens hypertextes non lus par la synthèse vocale).
• Impacts : Contrôle de la domotique, ouverture de fenêtres, lancement d’appels Zoom, redirection vers des URL malveillantes, empoisonnement de la mémoire à long terme de l’IA (persistant sur le compte utilisateur) et création de tâches récurrentes.

Vulnérabilités :

• Aucun identifiant CVE n’a été attribué. Il s’agit d’une faille logique liée à l’interprétation des notifications comme du contenu de confiance par le modèle d’IA.

Recommandations :

• Correctif : Google a déployé une mise à jour côté serveur pour améliorer le filtrage du contenu et bloquer l’invocation retardée des outils. Aucune action manuelle n’est requise pour appliquer le patch.
• Mesures préventives utilisateur : Pour limiter le risque, il est conseillé de désactiver l’accès aux notifications pour Gemini :
  • Dans les paramètres de Gemini, déconnecter l’application « Utilities » (ou les services connectés).
  • Alternativement, révoquer l’autorisation « Lecture, réponse et contrôle des notifications » accordée à l’application Google dans les paramètres Android.

Source