EU launches investigation into X over Grok-generated sexual images
Mis à jour :
L’UE enquête sur X et le problème des images générées par Grok
La Commission européenne a ouvert une enquête officielle sur X (anciennement Twitter) concernant l’outil d’intelligence artificielle Grok. Cette action fait suite à l’utilisation de Grok pour générer des images sexuellement explicites, y compris du contenu pouvant s’apparenter à de la pédopornographie. L’enquête vise à déterminer si X a correctement évalué les risques avant le déploiement de Grok et s’il a respecté ses obligations légales en vertu du Digital Services Act (DSA) de l’UE.
Des autorités au Royaume-Uni et en Californie ont également lancé des enquêtes similaires concernant le contenu généré par Grok. En réponse à ces préoccupations, X a annoncé des restrictions sur la création d’images par Grok, la limitant aux abonnés payants. Cette mesure a été critiquée comme étant insuffisante.
Points clés :
- La Commission européenne enquête sur X dans le cadre du Digital Services Act (DSA).
- L’enquête porte sur la génération d’images sexuellement explicites, y compris du contenu potentiellement illégal, par l’IA Grok.
- Les régulateurs au Royaume-Uni et en Californie mènent également des investigations.
- X a limité la capacité de Grok à générer des images aux utilisateurs payants suite aux réactions négatives.
Vulnérabilités :
- Bien qu’aucun CVE spécifique ne soit mentionné, la vulnérabilité réside dans la capacité de l’outil d’IA Grok à générer du contenu sexuellement explicite et potentiellement illégal, ainsi que dans l’évaluation des risques par X avant son déploiement.
Recommandations :
- Pour X : Respecter pleinement les obligations légales du Digital Services Act (DSA), y compris l’évaluation et la mitigation des risques systémiques liés à la diffusion de contenu illégal et aux atteintes aux droits fondamentaux. Mettre en place des mesures de sécurité robustes pour prévenir la génération et la diffusion de contenu préjudiciable par ses outils d’IA.
- Pour les régulateurs : Poursuivre les enquêtes pour s’assurer du respect des lois sur la protection des données et la sécurité en ligne. Examiner les mesures prises par les plateformes pour prévenir la création et la diffusion de contenu illégal et nuisible.