Study found AI chatbots have been

Jean Delaunay

Les chatbots IA propagent intentionnellement de la désinformation liée aux élections, selon une étude

Un rapport mis à jour conclut que la plupart des entreprises technologiques n’ont pas apporté suffisamment de modifications à leurs plateformes pour les empêcher de diffuser de fausses informations.

Les chatbots d’intelligence artificielle (IA) les plus populaires d’Europe diffusent désormais intentionnellement de la désinformation liée aux élections à leurs utilisateurs, selon une étude mise à jour.

Democracy Reporting International (DRI) a examiné comment les chatbots répondaient aux questions directement liées au processus électoral avec Google Gemini, ChatGPT4 d’OpenAI, ChatGPT4-o et Copilot de Microsoft.

Du 22 au 24 mai, les chercheurs ont posé aux chatbots cinq questions dans 10 langues de l’UE, notamment comment un utilisateur s’inscrirait sur les listes électorales s’il vivait à l’étranger, que faire pour envoyer un vote par correspondance et quand les résultats des élections au Parlement européen seraient annoncés. dehors.

« Nous avons intitulé notre dernière étude ‘désinformation’… nous avons maintenant changé la catégorie en ‘désinformation’, ce qui implique un certain niveau d’intention », peut-on lire dans le rapport.

« Une fois qu’une entreprise a été informée d’une désinformation mais n’agit pas en conséquence, elle accepte sciemment la diffusion de fausses informations ».

L’étude révisée est le prolongement d’un rapport publié en avril par DRI qui concluait que les chatbots étaient incapables de « fournir des réponses fiables » aux réponses typiques liées aux élections.

« Lorsque vous demandez (aux chatbots IA) quelque chose pour lequel ils n’avaient pas beaucoup de matériel et pour lequel on ne trouve pas beaucoup d’informations sur Internet, ils inventent simplement quelque chose », Michael-Meyer Resende, directeur exécutif de DRI, avait déclaré à l’époque L’Observatoire de l’Europe Next.

Gémeaux, Copilot refuse les réponses

Les tests ont montré que Gemini a refusé de répondre à toute question sur le processus électoral dans aucune des langues testées, selon le rapport.

« Nous considérons qu’il s’agit d’une manière responsable de résoudre ce problème, car il est préférable pour les utilisateurs de ne pas obtenir d’informations (et de chercher ailleurs) plutôt que d’obtenir des informations incorrectes sur les élections », poursuit l’étude.

Le rapport d’avril de DRI a révélé que Gemini de Google avait les pires performances en matière de fourniture d’informations précises et exploitables, ainsi que le plus grand nombre de refus de réponse.

Google avait précédemment déclaré à L’Observatoire de l’Europe Next qu’il avait introduit des restrictions supplémentaires sur la mesure dans laquelle Gemini pouvait répondre aux questions liées aux élections dans les 10 langues utilisées dans cette étude.

Copilot de Microsoft a refusé de répondre à certaines questions, notamment en anglais et en portugais, et a renvoyé les chercheurs vers Bing, leur moteur de recherche, pour obtenir des informations viables.

Il n’y avait « aucun modèle perceptible » dans les autres langues quant au moment où Copilot tentait ou refusait de répondre. Pour les chercheurs, cela montre que Microsoft a déployé des efforts pour limiter les hallucinations de son chatbot, mais que la restriction ne s’étend pas à toutes les langues de l’UE.

Lorsqu’ils ont répondu, les chercheurs ont constaté que plus d’une réponse sur trois était partiellement ou totalement incorrecte.

Les chercheurs ont parfois observé les mêmes problèmes que dans leur dernière étude, comme lorsque Copilot n’a pas mentionné en polonais que les nationaux résidant à l’étranger peuvent s’inscrire pour voter pour les députés européens de leur pays.

Un autre exemple a demandé aux électeurs grecs de s’inscrire pour pouvoir voter, alors qu’en fait, tous les citoyens sont automatiquement inscrits.

Dans une précédente déclaration à L’Observatoire de l’Europe Next, Microsoft a présenté ses actions à l’approche des élections européennes, notamment un ensemble d’engagements en matière de protection électorale qui « contribuent à protéger les électeurs, les candidats, les campagnes et les autorités électorales ».

Dans le cadre de ces engagements, il s’agit de fournir aux électeurs des « informations électorales faisant autorité » sur Bing.

« Bien qu’aucune personne, institution ou entreprise ne puisse garantir que les élections soient libres et équitables, nous pouvons faire des progrès significatifs dans la protection du droit de chacun à des élections libres et équitables », indique le communiqué de Microsoft.

OpenAI devrait « recycler de toute urgence » les chatbots

Les deux modèles ChatGPT4 refusaient rarement de répondre aux questions, ce qui entraînait des taux de réponses incorrectes ou partiellement correctes plus élevés que leurs concurrents chatbots. Les erreurs qu’ils ont commises concernaient souvent des détails mineurs mais importants.

OpenAI ne semble avoir fait aucune tentative pour éviter la désinformation électorale.

Démocratie Reporting International

Dans un cas, ChatGPT a renvoyé les électeurs irlandais vers un formulaire spécifique à remplir en personne afin de voter, alors qu’en réalité, ils sont disponibles en ligne et que le type de formulaire dont vous avez besoin dépend du « contexte et du statut personnels ».

« En se concentrant uniquement sur un seul formulaire, les chatbots ont fourni une image incomplète du processus d’enregistrement en Irlande », révèle l’étude.

Les chercheurs affirment que ChatGPT pourrait avoir « (fourni)… des informations plus générales » au lieu de réponses détaillées aux questions des utilisateurs pour être plus précis.

Un avertissement visant à vérifier les informations fournies par ChatGPT lors des élections locales a été sporadiquement ajouté aux réponses, poursuit le rapport.

« OpenAI ne semble pas avoir fait de tentatives pour éviter la désinformation électorale », conclut l’étude.

« Il devrait de toute urgence recycler ses chatbots pour empêcher une telle désinformation », poursuit le rapport.

OpenAI explique sur son site Web que son approche en matière de contenu lié aux élections consiste à « poursuivre le travail de sécurité de la plateforme en fournissant des informations de vote précises » et en améliorant la transparence de son entreprise.

Laisser un commentaire

7 + onze =