Lorsque les électeurs se sont rendus aux urnes pour élire le prochain président irlandais, certains d’entre eux ont peut-être été surpris de voir le nom de Catherine Connolly sur le bulletin de vote.
Quelques jours auparavant, une fausse vidéo montrant le vainqueur éventuel se retirant de la course avait circulé, imitant Connolly et plusieurs journalistes dans sa fausse réalité.
Aux Pays-Bas, deux députés d’extrême droite ont été découverts derrière une page Facebook faisant la promotion d’images truquées de leur rival de gauche avant les élections serrées de dimanche, ce qui a suscité des excuses et des récriminations.
C’est la semaine où l’intelligence artificielle a eu un impact majeur sur deux campagnes électorales européennes et a révélé des lacunes significatives dans les efforts en cours pour lutter contre toute influence indue sur les électeurs.
On s’inquiète de ce que cela signifie pour la politique européenne et pour ses électeurs, alors que les politiciens et les régulateurs se réveillent face à l’arrivée de contenus textuels et vidéo générés par l’IA qui font partie de la vie politique américaine depuis un certain temps.
« La normalisation de telles pratiques est inquiétante », a déclaré Hannes Cools, professeur assistant sur le facteur humain dans les nouvelles technologies à l’Université d’Amsterdam.
Les élections néerlandaises « sont l’une des premières élections en Europe où nous constatons que (la technologie) est devenue partie intégrante des campagnes électorales de diverses manières », a déclaré Claes de Vreese, professeur d’intelligence artificielle et de société à l’Université d’Amsterdam.
Dans une étude portant sur quelque 20 000 postes liés aux élections aux Pays-Bas, des chercheurs de l’Université d’Amsterdam et de l’Université de Mayence ont découvert que plus de 400 postes étaient générés par l’IA.
Le parti du leader d’extrême droite Geert Wilders, le Parti pour la liberté (PVV), s’est imposé en matière d’utilisation de l’IA. Plus d’un quart des publications d’AI (120 au total) pourraient être attribuées à des comptes liés au PVV.
Wilders a lancé la campagne du PVV avec une vidéo générée par l’IA représentant un futur Pays-Bas fictif vivant sous la charia. L’hebdomadaire néerlandais De Groene Amsterdammer a rapporté que la vidéo avait été réalisée avec le générateur vidéo Sora d’OpenAI.
Interrogé sur la domination des partis extrémistes ou marginaux dans l’utilisation de l’IA, le chercheur Fabio Votta a déclaré : « Il y a encore un aspect normatif dans l’utilisation de l’IA. »
« Pour l’extrême droite, une grande partie de leur approche est contraire aux normes et choquante. Ils ne craignent pas que leur réputation soit touchée. »
Pourtant, Wilders a pris la rare mesure lundi de s’excuser auprès de Frans Timmermans, ancien poids lourd de la Commission européenne et leader du groupe GreenLabour-Gauche, après que la presse néerlandaise ait révélé que deux députés du PVV étaient à l’origine d’une page Facebook diffusant des représentations incendiaires de lui, générées par l’IA.
Sur l’une des images, diffusée par le quotidien néerlandais De Volkskrant, on pouvait voir Timmermans emmené menotté par la police. Dans un autre, il avait la main sur une pile d’argent.
En Irlande, la fausse vidéo montrant Connolly annoncer son retrait de l’élection présidentielle a été qualifiée par la candidate de « tentative honteuse d’induire les électeurs en erreur et de saper notre démocratie ».
Grâce à un faux bulletin de la chaîne nationale irlandaise RTÉ, la vidéo montrait une version deepfake de Connolly déclarant : « C’est avec grand regret que j’annonce le retrait de ma candidature et la fin de ma campagne », avec des versions deepfake de deux présentateurs de télévision bien connus validant la nouvelle et discutant de l’impact.
Meta et YouTube, propriété de Google, ont supprimé la vidéo Connolly de leurs plateformes sans préciser depuis combien de temps elle était en ligne. Le candidat indépendant de gauche irlandais a remporté les élections de manière convaincante avec 63 pour cent des voix.
Représenter des événements fictifs ou attaquer ou discréditer d’autres candidats ne sont que deux manières par lesquelles le contenu généré par l’IA est déployé pour influencer les esprits.
Les chercheurs mettent également en garde contre une troisième méthode, sans doute plus directe, par laquelle l’IA pourrait influencer les résultats des élections : les utilisateurs demandent aux chatbots IA pour qui voter.
Alors qu’une grande majorité d’électeurs sont généralement indécis jusqu’aux derniers jours de l’élection, l’autorité néerlandaise de protection des données a averti le 21 octobre les électeurs de ne pas demander des conseils de vote aux chatbots IA, car ceux-ci donnent une « image très déformée et polarisée du paysage politique néerlandais ».
« Les chatbots sont pleins d’erreurs », a déclaré de Vreese, ajoutant qu' »ils attribuent diverses positions partisanes aux mauvais partis et semblent également avoir une sorte d’effet d’aspiration » dans une direction politique spécifique.
Une expérience a montré que les chatbots privilégiaient le ticket GreenLeft-Labour pour les électeurs de gauche, tandis que les électeurs de droite étaient principalement dirigés vers le PVV d’extrême droite.
« Les personnes peu alphabétisées sont particulièrement vulnérables à la désinformation générée par l’IA », a déclaré Cools.
Les régulateurs bruxellois ont fait de l’intégrité électorale, des risques liés à l’IA et de la désinformation en ligne des priorités majeures, un ensemble d’efforts en cours les obligeant à surveiller le déroulement des élections.
Étant donné que la technologie permettant de générer du contenu d’IA et les plateformes permettant de le distribuer sont principalement basées aux États-Unis, tous les regards sont tournés vers Bruxelles pour une réponse à l’échelle du bloc.
La puissante loi européenne sur les services numériques confère une certaine responsabilité aux plateformes pour lutter contre les risques liés aux élections, et Meta et Google ont reconnu l’IA générative comme un facteur de risque majeur – contribuant probablement à leur décision de supprimer la vidéo Connolly.
Mais ces exigences sont motivées principalement par des préoccupations concernant la désinformation, plutôt que par des efforts visant à réglementer la manière dont les partis politiques européens utilisent l’IA générative pour diffuser leurs messages.
L’étiquetage constitue également un élément important de la réponse, comme l’exige une loi européenne distincte spécifique à l’intelligence artificielle. Des chercheurs de l’Université d’Amsterdam ont signalé que la majorité des publications qu’ils ont suivies pour les élections néerlandaises ne comportaient pas de clause de non-responsabilité concernant l’IA. Pour ceux qui l’ont fait, c’est la plateforme qui l’a ajouté, et non les partis politiques.
D’autres lois susceptibles de régler ce problème sont en préparation.
La Commission européenne élabore actuellement des lignes directrices pour les systèmes d’IA dits à haut risque pouvant présenter un risque pour les droits fondamentaux des personnes, qui entreront en vigueur au plus tôt en août 2026. « Ces lignes directrices comprendront une section sur les systèmes d’IA destinés à influencer les résultats des élections ou des référendums », a déclaré le porte-parole de la Commission, Thomas Regnier.
Les développeurs des modèles d’IA les plus complexes, comme le GPT d’OpenAI ou le Gemini de Google, doivent déjà se conformer à une série d’obligations depuis août, notamment l’atténuation des « risques systémiques » pour les processus démocratiques.
Le mois prochain, Bruxelles dévoilera une autre proposition, destinée à aider les pays de l’UE à maintenir l’équité et l’intégrité des campagnes électorales contre la manipulation et l’ingérence étrangère. Cela ne devrait contenir aucune exigence juridique contraignante.
