OpenAI Bans Russian ChatGPT Accounts Used to Run Influence Operation

Opération d’influence russe démantelée par OpenAI

OpenAI a supprimé un groupe de comptes ChatGPT utilisés par des acteurs russes pour mener une opération d’influence secrète. Ces utilisateurs contournaient les restrictions géographiques via des VPN pour générer du contenu destiné aux réseaux sociaux (X, Telegram, Facebook, LinkedIn) et à Substack, dans le but de promouvoir l’« International Burke Institute » (IBI), un faux think tank israélien conçu pour légitimer les positions russes.

Points clés :

• Objectif : Créer une illusion d’autorité via un site web prétendant regrouper des experts mondiaux, tout en diffusant un « indice de souveraineté » avantageux pour la Russie.
• Stratégie : Utilisation de l’IA pour rédiger des publications, créer des images de profil et masquer l’origine linguistique russe des contenus.
• Méthodologie : Le site web de l’IBI reposait sur des travaux académiques détournés, des fausses attributions et des textes traduits mécaniquement.
• Impact : Bien que l’audience touchée soit restée limitée, l’infrastructure construite visait à établir des actifs crédibles pour des opérations futures à plus grande échelle.

Vulnérabilités :

• Aucune CVE spécifique n’est associée. Il s’agit d’une vulnérabilité liée à l’usage abusif des services d’IA générative (misuse of AI) pour l’ingénierie sociale et la désinformation.

Recommandations :

• Vigilance accrue : La création de sites web au contenu académique ou institutionnel “crédible” doit faire l’objet d’une vérification rigoureuse des sources et des auteurs.
• Détection des contenus IA : Renforcer la capacité d’analyse pour identifier les textes traduits ou générés automatiquement, souvent utilisés pour masquer l’origine réelle des opérateurs.
• Audit des think tanks : Méfiance envers les entités nouvellement créées (ex: domaines enregistrés récemment) prétendant posséder des expertises complexes ou des index de données exclusifs.

Source