Une agence américaine a déclaré que les appels automatisés générés par l’IA étaient désormais illégaux.
Les appels passés avec des voix générées par l’intelligence artificielle (IA) sont désormais illégaux aux États-Unis, suite à la décision unanime d’une agence gouvernementale.
La Commission fédérale des communications (FCC) des États-Unis a déclaré jeudi que ces types d’appels avaient augmenté au cours des dernières années et pourraient semer la confusion chez les consommateurs en leur donnant de fausses informations en imitant différentes voix.
Cette décision intervient alors que les autorités de l’État américain du New Hampshire ont avancé leur enquête sur les appels automatisés générés par l’IA qui imitent la voix du président américain Joe Biden pour empêcher les gens de voter lors de la première primaire nationale de l’État le mois dernier.
En vigueur immédiatement, le règlement autorise la FCC à imposer des amendes aux entreprises qui utilisent les voix de l’IA dans leurs appels ou à bloquer les fournisseurs de services qui les transmettent.
Cela ouvre également la porte aux destinataires des appels pour intenter des poursuites et donne aux procureurs généraux des États un nouveau mécanisme pour réprimer les contrevenants, selon la FCC.
« Des acteurs malveillants utilisent des voix générées par l’IA dans des appels automatisés non sollicités pour extorquer des membres vulnérables de la famille, imiter des célébrités et désinformer les électeurs. Nous avertissons les fraudeurs à l’origine de ces appels automatisés », a déclaré la présidente de l’agence, Jessica Rosenworcel, dans un communiqué.
Les autorités de l’État américain « disposeront désormais de nouveaux outils pour réprimer ces escroqueries et garantir que le public soit protégé contre la fraude et la désinformation », a-t-elle ajouté.
En vertu de la loi américaine sur la protection des consommateurs, les télévendeurs ne peuvent généralement pas utiliser de composeurs automatiques ou de messages vocaux artificiels ou préenregistrés pour appeler des mobiles et ils ne peuvent pas passer de tels appels vers des lignes fixes sans le consentement écrit préalable du destinataire de l’appel.
La nouvelle décision classe les voix générées par l’IA dans les appels automatisés comme « artificielles » et donc applicables selon les mêmes normes, a déclaré la FCC.
Ceux qui enfreignent la loi s’exposent à de lourdes amendes, avec un maximum de plus de 23 000 dollars (21 351 euros) par appel, a indiqué la FCC.
L’agence a déjà utilisé la loi sur la consommation pour réprimer les appels automatisés interférant dans les élections, notamment en imposant une amende de 5 millions de dollars (4,6 millions d’euros) à deux canulars conservateurs pour avoir faussement averti les habitants des zones à prédominance noire que le vote par correspondance pourrait augmenter leur risque d’arrestation. , recouvrement de créances et vaccination forcée.
La loi donne également aux destinataires des appels le droit d’intenter une action en justice et potentiellement de récupérer jusqu’à 1 500 $ (1 392 €) de dommages et intérêts pour chaque appel indésirable.
« La technologie s’améliorera »
Josh Lawson, directeur de l’IA et de la démocratie à l’Aspen Institute, a déclaré que même avec la décision de la FCC, les électeurs devraient se préparer au spam personnalisé pour les cibler par téléphone, SMS et réseaux sociaux.
« Les vrais chapeaux noirs ont tendance à ignorer les enjeux et ils savent que ce qu’ils font est illégal », a-t-il déclaré. « Nous devons comprendre que les mauvais acteurs vont continuer à faire trembler les cages et à repousser les limites. »
Kathleen Carley, professeure à Carnegie Mellon spécialisée dans la désinformation informatique, a déclaré que pour détecter les abus de la technologie vocale par l’IA, il faut être capable d’identifier clairement que l’audio a été généré par l’IA.
Elle a déclaré que cela était désormais possible « parce que la technologie permettant de générer ces appels existe depuis un certain temps. Elle est bien comprise et elle commet des erreurs courantes. Mais cette technologie va s’améliorer ».
Des outils sophistiqués d’IA générative, depuis les logiciels de clonage vocal jusqu’aux générateurs d’images, sont déjà utilisés lors des élections aux États-Unis et dans le monde.
