Perplexity’s Comet AI browser tricked into buying fake items online

Les navigateurs IA agentiels : une nouvelle frontière de vulnérabilités

Les navigateurs dotés d’IA agentielle, tels que Comet de Perplexity, capable d’effectuer des tâches en ligne de manière autonome, présentent des risques de sécurité significatifs. Une étude a révélé que ces outils sont susceptibles de tomber dans des pièges conçus pour les exploiter.

Points Clés :

• Autonomie des IA agentielles : Ces navigateurs peuvent naviguer, faire des achats et gérer diverses tâches en ligne sans intervention humaine directe.
• Pénétration rapide du marché : Bien qu’initialement destinés aux utilisateurs technophiles, ces outils, comme Comet, se diffusent rapidement auprès du grand public.
• Nouvelles formes d’attaques : L’émergence de ces IA ouvre la voie à des attaques inédites, distinctes des méthodes ciblant les humains.
• Enjeux de sécurité majeurs : Le succès d’une seule attaque contre un modèle d’IA peut être exploité à grande échelle, permettant aux cybercriminels de perfectionner leurs méthodes.

Vulnérabilités identifiées :

• Achats sur des sites frauduleux : Les IA peuvent être amenées à acheter des produits sur des plateformes falsifiées sans vérification adéquate de leur légitimité. Ceci peut être déclenché par des techniques comme le SEO poisoning ou la publicité malveillante. Dans un test, Comet a été incité à acheter une fausse montre Apple sur un site contrefait de Walmart.
• Phishing : Les IA sont vulnérables aux e-mails de phishing, cliquant sur des liens malveillants et soumettant des identifiants sur de fausses pages de connexion. Une tentative a vu Comet cliquer sur un lien d’un faux e-mail Wells Fargo, menant à une page de phishing.
• Prompt Injection : Des instructions cachées dans le code source de pages web, par exemple via de faux CAPTCHAs, peuvent être interprétées par l’IA comme des commandes valides, entraînant des actions indésirables comme le téléchargement de fichiers malveillants.

Recommandations :

• Prudence avec les tâches sensibles : Il est conseillé de ne pas confier aux IA agentielles des opérations critiques telles que les opérations bancaires, les achats importants ou l’accès à des comptes email, tant que leur sécurité n’est pas mature.
• Ne pas partager d’informations sensibles : Éviter de fournir des identifiants, des données financières ou des informations personnelles aux IA. Il est préférable de saisir manuellement ces informations lorsque cela est nécessaire, agissant comme une étape de confirmation supplémentaire.

Source