Cybercriminals Exploit X’s Grok AI to Bypass Ad Protections and Spread Malware to Millions

Grokking : La nouvelle technique des cybercriminels pour contourner les protections sur X

Des chercheurs en cybersécurité ont identifié une nouvelle méthode employée par des cybercriminels pour tromper les protections publicitaires de la plateforme X et distribuer des liens malveillants en exploitant l’assistant IA, Grok. Baptisée “Grokking”, cette approche contourne les restrictions sur les publicités promues qui limitent le contenu aux textes, images ou vidéos.

Les fraudeurs utilisent des vidéos à contenu adulte comme appât dans des publicités promues, dissimulant le lien malveillant dans les métadonnées “From:” sous le lecteur vidéo, un champ apparemment non scanné par la plateforme. Ils taguent ensuite Grok dans les réponses aux publications en posant des questions comme “d’où vient cette vidéo ?”, incitant ainsi l’IA à afficher le lien. Ce lien, une fois diffusé par Grok, bénéficie d’une visibilité accrue grâce au SEO et à la réputation du domaine.

Les liens ainsi diffusés redirigent les utilisateurs vers des réseaux publicitaires douteux, proposant des arnaques de type faux CAPTCHA, des logiciels malveillants voleurs d’informations, ou d’autres contenus suspects via des liens directs (smartlinks) monétisés. Les domaines identifiés font partie d’un système de distribution de trafic (TDS) couramment utilisé par des acteurs malveillants du secteur de la technologie publicitaire. Des centaines de comptes ont été observés utilisant cette technique de manière organisée, postant intensivement jusqu’à ce qu’ils soient suspendus.

Points Clés:

• Utilisation de l’IA Grok de X pour contourner les protections publicitaires.
• Diffusion de liens malveillants via des publicités à contenu adulte comme appât.
• Le lien est caché dans les métadonnées “From:” des vidéos et révélé par Grok.
• Les liens redirigent vers des arnaques, des malwares et des contenus trompeurs.

Vulnérabilités :

• Aucune vulnérabilité spécifique avec un identifiant CVE n’est explicitement mentionnée pour Grok ou le système de publicité de X dans l’article. La technique exploite une lacune dans la manière dont les métadonnées sont traitées et la réponse de l’IA.

Recommandations :

• Les utilisateurs doivent faire preuve de prudence face aux liens apparus dans des réponses de l’IA ou dans des contextes publicitaires inattendus.
• Les plateformes comme X doivent renforcer les mécanismes de scan et de filtrage des liens, même dans les métadonnées, et surveiller l’exploitation de leurs outils IA.
• Une vigilance accrue est nécessaire pour détecter et signaler les comportements suspects sur les réseaux sociaux.

Source