Le xAI d’Elon Musk fait face à des réactions négatives car son chatbot Grok, un élément clé de la plateforme de médias sociaux X, a généré à plusieurs reprises des images sexuellement explicites de femmes et de mineurs.
La réaction mondiale croissante face aux images sexuellement explicites générées par l’intelligence artificielle de xAI a contraint l’entreprise, propriété d’Elon Musk, à répondre aux problèmes de sécurité.
Ces dernières semaines, Grok, le chatbot IA de X, a répondu aux invites des utilisateurs pour « déshabiller » des images de femmes et les poser en bikini, créant ainsi des deepfakes générés par l’IA sans consentement ni garantie.
Les analyses des médias ont également révélé que Grok se conformait souvent lorsque les utilisateurs l’incitaient à générer des images sexuellement suggestives de mineurs, notamment celle d’une actrice de 14 ans, sonnant ainsi l’alarme auprès des régulateurs mondiaux.
En réponse au flot d’images, des responsables gouvernementaux de l’UE, de la France, de l’Inde et de la Malaisie ont lancé des enquêtes et menacé de poursuites judiciaires si xAI ne prenait pas de mesures pour prévenir et supprimer les deepfakes sexuels de personnes réelles et les matériels d’abus sexuels sur des enfants (CSAM).
Musk, qui avait initialement ridiculisé les images du bikini en republiant des portraits de lui-même et d’un grille-pain en bikini générés par Grok, a posté samedi que « quiconque utilise ou incite Grok à créer du contenu illégal subira les mêmes conséquences que s’il téléchargeait du contenu illégal ».
Le compte de sécurité de X a ajouté dimanche dans un article que le contenu illégal serait supprimé et que les comptes qui le publient seraient définitivement suspendus, affirmant que la société travaillerait avec les gouvernements locaux et les forces de l’ordre pour identifier les contrevenants.
Grok, habitué des polémiques
Depuis que Musk a acheté X, anciennement connu sous le nom de Twitter, en 2023, il a présenté la plateforme de médias sociaux comme un contrepoids au « politiquement correct », visant les médias traditionnels et la politique progressiste.
Cette philosophie a également été appliquée au secteur de l’IA, Grok étant conçu pour être « politiquement neutre » et « en quête maximale de vérité », selon Musk.
En réalité, le chatbot – qui est intégré à l’interface de X, ce qui signifie que les utilisateurs peuvent lui poser directement des questions en le taguant dans les messages – reflète de plus en plus la vision du monde et les opinions de droite de Musk.
En juillet dernier, xAI a présenté de longues excuses après que Grok ait publié une série de commentaires antisémites faisant l’éloge d’Adolf Hitler, se faisant appeler « MechaHitler » et générant du contenu négationniste.
Grok Imagine, le générateur d’images et de vidéos alimenté par l’IA de la société, a été critiqué pour avoir permis la propagation de deepfakes sexuels depuis son lancement en août 2025.
Le générateur comprend un « Mode épicé » payant qui permet aux utilisateurs de créer du contenu NSFW, y compris de la nudité partielle.
Ses termes interdisent la pornographie présentant des portraits de personnes réelles et les contenus à caractère sexuel impliquant des mineurs. Mais l’outil aurait généré des vidéos nues de la pop star Taylor Swift sans y être invité, selon The Verge.
La lutte contre les outils de « nudification » basés sur l’IA
Les outils basés sur l’IA qui permettent aux utilisateurs de modifier des images pour retirer les vêtements de quelqu’un ont été critiqués par les régulateurs visant à lutter contre la misogynie et à protéger les enfants.
En décembre, le gouvernement britannique a annoncé qu’il interdirait les applications dites de « nudification » dans le cadre d’un effort plus large visant à réduire de moitié la violence à l’égard des femmes et des filles. Les nouvelles lois rendraient illégale la création ou la fourniture d’outils d’IA permettant aux utilisateurs de retirer numériquement les vêtements de quelqu’un.
La pornographie deepfake représente environ 98 % de toutes les vidéos deepfake en ligne, 99 % des cibles étant des femmes, selon un rapport de 2023 de la société de cybersécurité Home Security Heroes.
