Pourquoi les recherches sur la pop star la plus célèbre du monde sont-elles bloquées sur X, et comment cette question suscite-t-elle un tollé jusqu’à la Maison Blanche ?
La plateforme de médias sociaux X a temporairement bloqué la recherche du nom de Taylor Swift après que de fausses images pornographiques de la chanteuse générées par l’IA soient devenues virales la semaine dernière.
Une fausse photo de Swift publiée sur la plateforme a été vue 47 millions de fois avant la suspension du compte.
Le matériel a été partagé des dizaines de milliers de fois avant que l’équipe de sécurité de X ne réponde : « Nous avons une politique de tolérance zéro à l’égard de ce type de contenu. Nos équipes suppriment activement toutes les images identifiées et prennent les mesures appropriées contre les comptes responsables de leur publication.
Désormais, la recherche du nom de Swift et de « AI Taylor Swift » sur X conduira les utilisateurs à une page indiquant : « Quelque chose s’est mal passé. Essayez de recharger. »
Le responsable des opérations commerciales de X, Joe Benarroch, a déclaré dans un communiqué publié par Variety : « Il s’agit d’une action temporaire et effectuée avec beaucoup de prudence, car nous accordons la priorité à la sécurité sur ce problème. »
Dans le même temps, Meta a déclaré dans un communiqué qu’elle condamnait fermement « le contenu apparu sur différents services Internet » et s’efforçait de le supprimer.
« Nous continuons de surveiller nos plateformes pour détecter tout contenu violant et prendrons les mesures appropriées si nécessaire », a déclaré la société.
Encore un jour sur internet, mais c’est de Swift dont on parle, donc les choses ont vite dégénéré…
Mobilisation rapide
Les « Swifties » du chanteur se sont mobilisés en lançant une contre-offensive sur la plateforme anciennement connue sous le nom de Twitter et un hashtag #ProtectTaylorSwift pour l’inonder d’images plus positives de la pop star.
Et puis la mise a été augmentée…
La Maison Blanche s’en est mêlée, qualifiant l’incident d’« alarmant ».
La secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, a déclaré dans un communiqué : « Nous savons qu’une application laxiste a un impact disproportionné sur les femmes et qu’elle a également un impact sur les filles, malheureusement, qui sont les cibles écrasantes. »
Jean-Pierre a même suggéré qu’il devrait y avoir une législation qui traite de l’utilisation abusive de l’IA sur les réseaux sociaux.
Si seulement ce type de réaction rapide était appliqué aux non-milliardaires présentant des plaintes similaires concernant les deepfakes, les fausses images abusives, la vengeance pornographique et d’autres formes de harcèlement en ligne préjudiciable…
Néanmoins, progressez là où vous pouvez l’obtenir, et l’incident semble avoir quelque peu bouleversé les choses. Pour rappel, il n’existe actuellement aucune loi fédérale aux États-Unis contre le partage ou la création d’images deepfake – malgré certaines mesures prises au niveau des États pour s’attaquer à ce problème.
Les maux de l’IA générative
Les législateurs fédéraux qui ont présenté des projets de loi visant à imposer davantage de restrictions ou à criminaliser la pornographie deepfake ont indiqué que l’incident montre pourquoi les États-Unis doivent mettre en œuvre de meilleures protections.
« Pendant des années, les femmes ont été victimes de deepfakes non consensuelles, donc ce qui est arrivé à Taylor Swift est plus courant que la plupart des gens ne le pensent », a déclaré la représentante américaine Yvette D. Clarke, une démocrate de New York qui a présenté une législation obligeant les créateurs à filigraner numériquement le contenu deepfake.
« Generative-AI aide à créer de meilleurs deepfakes à une fraction du coût », a déclaré Clarke.
Le représentant américain Joe Morelle, un autre démocrate de New York qui défend un projet de loi qui criminaliserait le partage de pornographie deepfake en ligne, a déclaré que ce qui est arrivé à Swift était inquiétant et était devenu de plus en plus répandu sur Internet.
« Les images sont peut-être fausses, mais leurs impacts sont bien réels », a déclaré Morelle dans un communiqué. « Deepfakes arrivent chaque jour aux femmes du monde entier dans notre monde de plus en plus numérique, et il est temps d’y mettre un terme. »
Les deepfakes utilisent l’intelligence artificielle pour réaliser une vidéo de quelqu’un en manipulant son visage ou son corps.
Les chercheurs ont déclaré que le nombre de deepfakes explicites avait augmenté au cours des dernières années, à mesure que la technologie utilisée pour produire de telles images est devenue plus accessible et plus facile à utiliser. En 2019, un rapport publié par la société d’IA DeepTrace Labs montrait que ces images étaient majoritairement utilisées comme une arme contre les femmes. La plupart des victimes, selon le communiqué, étaient des acteurs hollywoodiens et des chanteurs de K-pop sud-coréens.
Brittany Spanos, rédactrice principale chez Rolling Stone qui donne un cours sur Swift à l’Université de New York, a déclaré à propos du récent incident de Swift : « Cela pourrait être une affaire énorme si elle le poursuit réellement devant les tribunaux. »
Spanos affirme que le problème de la fausse pornographie s’aligne sur d’autres problèmes rencontrés par Swift dans le passé, soulignant son procès de 2017 contre un DJ d’une station de radio qui l’aurait pelotée ; les jurés ont accordé à Swift 1 $ de dommages et intérêts, une somme que son avocat, Douglas Baldridge, a qualifié de « un seul dollar symbolique, dont la valeur est incommensurable pour toutes les femmes dans cette situation » au milieu du mouvement MeToo.
