L’enquête formelle sur X fait suite au tollé suscité par l’échec de la plateforme à empêcher la création d’images sexuellement explicites de personnes réelles, y compris d’enfants.
La Commission européenne a ouvert une enquête formelle sur Grok, le chatbot de X, après que la fonction d’édition d’images de son outil d’IA intégré ait été largement utilisée pour déshabiller virtuellement des photos de vraies femmes et de filles mineures sans leur consentement.
Comme l’a rapporté pour la première fois Handelsblatt, l’enquête examinera si la plateforme de médias sociaux a fait suffisamment pour atténuer le risque de création et de diffusion des images.
S’il s’avère que X a enfreint les règles de l’UE relatives aux plateformes en ligne en vertu de la loi sur les services numériques (DSA), la Commission pourrait infliger à l’entreprise une amende pouvant aller jusqu’à 6 % de son chiffre d’affaires annuel mondial.
En décembre dernier, la Commission européenne a infligé une amende de 120 millions d’euros au réseau social d’Elon Musk pour ses vérifications de compte et ses pratiques publicitaires.
Les inquiétudes sont apparues l’été dernier après que l’outil d’IA intégré à la plateforme, Grok, ait été amélioré avec une fonctionnalité payante connue sous le nom de « Mode épicé », qui permettait aux utilisateurs de l’inviter à créer du contenu explicite.
Elon Musk s’est moqué du tollé qui a suivi dans un message sur son compte X.
Plus tôt ce mois-ci, alors que l’indignation mondiale face à cette fonctionnalité grandissait, un porte-parole de la Commission a condamné cette fonctionnalité dans les termes les plus fermes.
« Ce n’est pas ‘épicé' », ont-ils déclaré. « C’est illégal. C’est épouvantable. C’est dégoûtant. Cela n’a pas sa place en Europe. »
En réponse à la colère et à l’inquiétude du public, X a finalement mis en œuvre des mesures pour empêcher Grok d’autoriser l’édition d’images de personnes réelles afin de les mettre dans des vêtements révélateurs et dans des situations sexuelles – avec des restrictions s’appliquant à tous les utilisateurs, y compris les abonnés payants.
X a également déclaré que les images sexualisées d’enfants modifiées par Grok avaient été supprimées de la plateforme et que les utilisateurs impliqués dans leur création avaient été bannis.
« Nous prenons des mesures contre les contenus illégaux sur X, y compris les contenus pédopornographiques (CSAM), en les supprimant, en suspendant définitivement les comptes et en travaillant avec les gouvernements locaux et les forces de l’ordre si nécessaire », a publié le compte X Safety.
Ce n’est pas la première fois que Grok est sous surveillance pour des violations présumées du droit européen. En novembre dernier, le chatbot IA a généré du contenu négationniste.
Des enquêtes sur le chatbot de la plateforme sont actuellement en cours en France, au Royaume-Uni et en Allemagne, ainsi qu’en Australie. Grok a été totalement interdit en Indonésie et en Malaisie.
La Commission a déclaré qu’elle avait envoyé une demande d’informations au titre du DSA et qu’elle était toujours en train d’analyser la réponse.
