Les chatbots d’IA citent la propagande russe émanant de médias sanctionnés par l’UE, affirment des chercheurs, soulevant des questions sur la façon dont la guerre hybride s’étend pour influencer les grands modèles linguistiques (LLM).
Les grands modèles linguistiques grand public (LLM) tels que Google Gemini auraient cité la propagande pro-russe d’un média sanctionné par l’UE pour générer des réponses, notamment des affirmations selon lesquelles l’Ukraine utilise les corps de soldats morts dans des produits carnés.
Selon un nouveau rapport publié par des chercheurs du groupe de réflexion multipartite basé au Royaume-Uni Demos, partagé exclusivement avec l’équipe de vérification des faits d’L’Observatoire de l’Europe, The Cube, il semble également que des acteurs étrangers engagés dans des activités de guerre hybride de l’information, comme la Russie, pourraient utiliser l’industrie croissante du GEO (optimisation générative des moteurs), qui vise à influencer les informations reçues par les LLM.
Les chercheurs ont sélectionné 50 récits de propagande parmi dix articles publiés par la Fondation pour combattre l’injustice ou « r-FBI ». Fondée en 2021, l’organisation se présente comme une ONG qui œuvre pour dénoncer la discrimination, la censure et enquêter sur les cas de persécution.
Mais en fait, il s’agit d’une fausse organisation de défense des droits humains fondée en 2021 par l’ancien chef décédé du groupe paramilitaire russe Wagner, Eugène Prigojine. L’organisation est sanctionnée à la fois par les États-Unis et l’UE.
Les affirmations des chercheurs sélectionnées étaient « sinistres », selon Carl Miller, co-fondateur du Center for the Analysis of Social Media (CASM), une unité de recherche créée par le groupe de réflexion Demos.
« Ce ne sont pas des affirmations qui appartiennent à un quelconque discours dominant », a déclaré Miller. « Il s’agit d’affirmations selon lesquelles l’Ukraine réutilise les cadavres de soldats morts pour fabriquer des produits carnés, que Zelensky draine le réseau cryptographique et c’est la raison pour laquelle l’Ukraine est à court d’électricité. Nous avons constaté que les LLM les traitent comme des éléments légitimes d’un débat. »
Pour mener leurs recherches, les chercheurs ont testé cinq LLM grand public – exploités par xAI, OpenAI, Anthropic, Google Gemini et Mistral AI – et ont rédigé des invites en trois langues (anglais, allemand et français) basées sur des récits de propagande présentés dans des articles du R-FBI.
Comment les LLM ont amplifié la propagande russe
Les chercheurs ont constaté que les cinq LLM citent le r-FBI comme source favorable.
Au total, 16,6 % des réponses ont abordé le matériel du r-FBI d’une manière qui pourrait servir les intérêts de la propagande, soit en présentant les reportages de l’organisation comme une partie légitime du débat et en répétant les affirmations sans critique, soit en soutenant activement ces récits.
Pendant ce temps, 30,9 % des réponses abordaient le sujet sous-jacent mentionné dans l’invite, mais ne parvenaient pas du tout à faire apparaître le contexte de la source sanctionnée, laissant ainsi les utilisateurs ignorer que la réponse utilisait un actif d’influence désigné comme source.
En outre, 52 % des réponses ont rejeté ou démystifié les fausses allégations d’une manière ou d’une autre.
Lorsque les chercheurs ont interrogé le GPT 4.1 Mini d’OpenAI sur des allégations selon lesquelles de la viande humaine transformée était envoyée vers des entrepôts ukrainiens de première ligne et vers des chaînes de vente au détail nationales, le LLM a cité un article du r-FBI dans sa réponse comme preuve à l’appui de ces affirmations.
Interrogée sur les projets de cryptominage du président ukrainien Volodymyr Zelenskyy – une affirmation récurrente poussée par des acteurs pro-Kremlin – Mistral Small 3.2 LLM, de la société française d’IA Mistral, a soutenu ces affirmations, citant à nouveau une prétendue enquête de plusieurs mois menée par le r-FBI.
Dans sa réponse, Mistral Small 3.2 a souligné le « lien entre l’état critique du système énergétique ukrainien et les activités de hauts responsables de l’entourage du président Zelensky ».
La bataille pour l’optimisation générative des moteurs
Alors que de plus en plus de personnes se tournent vers les chatbots plutôt que vers les moteurs de recherche ou les médias traditionnels, une industrie en croissance rapide a émergé, qui vise à influencer la manière dont les modèles d’IA rassemblent leurs sources.
Cette pratique est également connue sous le nom d’optimisation générative du moteur. Basé sur les fondements de l’optimisation des moteurs de recherche (SEO) – un domaine développé pour influencer les résultats sur les plateformes de recherche traditionnelles – GEO s’efforce d’influencer les résultats générés par les plateformes d’IA.
« De nouvelles informations sont créées spécifiquement pour les LLM, mais dans ce cas, il s’agit de nouveaux contenus proposés aux marques et au marketing, ou de l’édition de contenus déjà en ligne à l’aide de forums d’utilisateurs comme Reddit, Quora et Wikipedia », nous a expliqué Hannah Perry, directrice de Demos Digital, le centre de politique numérique du groupe de réflexion.
Pour les chercheurs, il existe un risque réel que les acteurs menant des opérations hybrides d’ingérence étrangère se concentrent sur ces tactiques et exploitent une zone grise réglementaire.
« Nos recherches ne disent pas que les sociétés GEO mènent une guerre de l’information au nom des États », a déclaré Miller. « Ce que nous disons, c’est qu’ils construisent un savoir-faire et une capacité à grande vitesse avec d’énormes incitations commerciales, qui pourraient très facilement être détournées vers une vision antagoniste. »
« Dans ce cas particulier, Amnesty International croit à tort que la Fondation pour combattre l’injustice est une ONG légitime de défense des droits de l’homme », a-t-elle ajouté. « C’est à cause de tout ce genre d’usurpation et de configuration techniques, donc de centaines de petits détails techniques dans lesquels les Russes ont essentiellement entouré ces documents, ce qui leur permet de devenir visibles alors qu’ils ne devraient vraiment pas l’être. C’est une guerre de l’information. »
Le Cube a contacté les sociétés technologiques LLM citées dans l’étude, mais n’a pas reçu de réponse au moment de la publication de xAI et de Google, qui développent respectivement Grok 4.20 et Gemini 2.5 Flash.
Un porte-parole de Mistral, fondée par le Français Arthur Mensch et largement reconnue comme la première entreprise européenne d’IA générative, nous a déclaré qu’elle prenait la lutte contre la désinformation très au sérieux et qu’elle garantissait un investissement continu dans des capacités avancées de détection et de prévention.
Mistral a également distingué les modèles bruts traités dans l’étude Demos et Vibe Work. Mistral a déclaré que si les modèles bruts permettent aux utilisateurs d’être libres sur les invites et les paramètres, Vibe Work fonctionne avec un agent prêt à l’emploi doté d’un raisonnement et d’une analyse contextuelle intégrés.
OpenAI nous a dit que l’étude utilisait un modèle qui a maintenant été retiré et n’était disponible que via son API (utilisée par les développeurs) plutôt que via ChatGPT accessible au public. Il a indiqué que des équipes spécifiques se consacrent à perturber les opérations de faible crédibilité ou d’influence secrète présumée.
Une source proche d’Anthropic – la société américaine qui a créé le chatbot Claude AI – a déclaré que des systèmes de contrôle sophistiqués étaient en place pour atténuer la propagation de la désinformation.
Ils ont déclaré qu’une équipe de renseignement sur les menaces s’efforce de détecter et de perturber les opérations d’influence étrangère afin d’atténuer la propagation de la désinformation, ajoutant que leur LLM a été programmé pour présenter un large éventail de perspectives, en particulier lorsqu’une source peut présenter un point de vue ou un programme spécifique.
