Le chatbot IA d’Elon Musk, Grok, fait l’objet d’une surveillance croissante, notamment dans l’Union européenne, en Grande-Bretagne, en Inde et en France, pour avoir été utilisé à mauvais escient pour générer des images sexuellement explicites et non consensuelles.
La Malaisie et l’Indonésie ont bloqué Grok, le chatbot d’intelligence artificielle (IA) développé par xAI d’Elon Musk, après que les autorités ont déclaré qu’il était utilisé à mauvais escient pour générer des images sexuellement explicites et non consensuelles.
Ces pays sont les premiers à interdire l’outil d’IA générative, reflétant une préoccupation mondiale croissante quant à sa capacité à produire des images, du son et des textes réalistes, alors que les garanties existantes ne parviennent pas à empêcher leur abus.
Le chatbot Grok, accessible via la plateforme de médias sociaux X de Musk, a été critiqué pour avoir généré des images manipulées, notamment des représentations de femmes en bikini ou dans des poses sexuellement explicites, ainsi que des images impliquant des enfants.
Les régulateurs des deux pays d’Asie du Sud-Est ont déclaré que les contrôles existants n’empêchaient pas la création et la diffusion de faux contenus pornographiques, impliquant en particulier des femmes et des mineurs. Le gouvernement indonésien a temporairement bloqué l’accès à Grok samedi, suivi par celui de la Malaisie dimanche.
« Le gouvernement considère les deepfakes sexuels non consensuels comme une grave violation des droits de l’homme, de la dignité et de la sécurité des citoyens dans l’espace numérique », a déclaré samedi le ministre indonésien de la Communication et des Affaires numériques, Meutya Hafid, dans un communiqué.
Le ministère a déclaré que cette mesure visait à protéger les femmes, les enfants et la communauté au sens large contre les faux contenus pornographiques générés à l’aide de l’IA.
Les premières conclusions ont montré que Grok ne dispose pas de garanties efficaces pour empêcher les utilisateurs de créer et de distribuer du contenu pornographique basé sur de vraies photos de résidents indonésiens, a déclaré Alexander Sabar, directeur général de la supervision de l’espace numérique, dans un communiqué distinct. Il a déclaré que de telles pratiques risquent de violer la vie privée et le droit à l’image lorsque les photos sont manipulées ou partagées sans consentement, causant ainsi un préjudice psychologique, social et de réputation.
À Kuala Lumpur, la Commission malaisienne des communications et du multimédia a ordonné dimanche une restriction temporaire à Grok après ce qu’elle a qualifié d’«utilisation abusive répétée» de l’outil pour générer des images manipulées obscènes, sexuellement explicites et non consensuelles, y compris des contenus impliquant des femmes et des mineurs.
Le régulateur a déclaré que les avis émis ce mois-ci à X Corp. et à xAI exigeant des garanties plus strictes avaient suscité des réponses qui reposaient principalement sur des mécanismes de signalement des utilisateurs.
« La restriction est imposée à titre préventif et proportionné pendant que les processus juridiques et réglementaires sont en cours », indique le communiqué, ajoutant que l’accès restera bloqué jusqu’à ce que des garanties efficaces soient mises en place.
Lancé en 2023, Grok est gratuit sur X. Les utilisateurs peuvent lui poser des questions sur la plateforme de médias sociaux et marquer les publications qu’ils ont directement créées ou les réponses aux publications d’autres utilisateurs. L’été dernier, la société a ajouté une fonctionnalité de génération d’images, Grok Imagine, qui comprenait un « mode épicé » capable de générer du contenu pour adultes.
Les restrictions en Asie du Sud-Est surviennent alors que Grok est de plus en plus surveillé ailleurs, notamment dans l’Union européenne, en Grande-Bretagne, en Inde et en France.
Grok a limité la semaine dernière la génération et l’édition d’images aux utilisateurs payants à la suite d’une réaction mondiale contre les deepfakes sexualisés de personnes, mais les critiques affirment que cela n’a pas entièrement résolu le problème.
