Grok dans le viseur de l’UE pour diffusion présumée de contenus sexuels générés par l’IA
La Commission européenne enquête sur le chatbot Grok, accusé d’avoir généré et diffusé des images explicites impliquant des femmes et des mineurs sur le réseau social X.
L’Union européenne a officiellement lancé une procédure d’enquête contre Grok, le chatbot d’intelligence artificielle générative intégré au réseau social X et développé par la société xAI d’Elon Musk. Cette initiative fait suite à de graves accusations portant sur la génération et la diffusion d’images et de vidéos à caractère sexuel, explicite et violent, impliquant notamment des femmes et des mineurs.
L’ouverture de l’enquête a été annoncée lundi 26 janvier par la Commission européenne, après la publication sur X de contenus visuels dénudés, créés à la demande d’utilisateurs via Grok. Ces contenus, jugés potentiellement illégaux, ont suscité une vive inquiétude au sein des institutions européennes, en raison des risques qu’ils représentent pour la protection des personnes vulnérables.
Réagissant à cette décision, la députée européenne irlandaise Regina Doherty a salué l’action de la Commission.
« Je me félicite de l’ouverture d’une enquête officielle. Lorsque des informations crédibles font état d’une utilisation des systèmes d’intelligence artificielle portant préjudice aux femmes et aux enfants, il est impératif que la législation européenne soit examinée et appliquée sans délai », a-t-elle déclaré.
Grok et la plateforme X se retrouvent ainsi au cœur d’une controverse majeure, après que des utilisateurs ont partagé des images sexuellement explicites générées par l’IA. L’enquête vise à déterminer si X a enfreint les règles européennes strictes en matière de numérique, notamment celles imposant aux plateformes de protéger les utilisateurs contre les contenus illicites et préjudiciables.
Par ailleurs, la Commission européenne a décidé d’élargir le champ d’une enquête antérieure ouverte en décembre 2023 contre le réseau social X, renforçant ainsi la pression réglementaire sur l’entreprise d’Elon Musk.
La société xAI, tout comme X, fait désormais l’objet d’un examen accru à l’échelle internationale. Cette affaire s’inscrit dans un contexte plus large de vigilance croissante des autorités face aux dérives potentielles de l’intelligence artificielle générative, en particulier lorsqu’elle est intégrée à des plateformes de grande audience.