Dans son discours sur l’état de l’Union, von der Leyen a appelé à accélérer le développement de modèles d’IA d’avant-garde en raison de leur potentiel perturbateur, s’engageant à une coopération plus étroite en matière de sécurité avec le Canada, le Royaume-Uni et d’autres pays partageant les mêmes idées.
L’UE soutiendra les efforts de l’industrie visant à ralentir le développement de technologies d’IA plus perturbatrices et collaborera avec des partenaires tels que le Canada et le Royaume-Uni sur la sécurité de l’IA, a déclaré mercredi le chef de la Commission.
Dans son discours annuel sur l’état de l’Union devant le Parlement européen, la présidente de la Commission européenne, Ursula von der Leyen, a salué le potentiel de l’IA au profit de l’humanité, à condition que ses risques et ses opportunités soient correctement équilibrés.
Elle a souligné les risques croissants posés par les modèles d’IA dits frontières, ceux qui repoussent les limites de la technologie.
« À mesure que les modèles pionniers deviennent plus performants, ces risques sont devenus plus visibles. Les modèles en cours de développement permettront un piratage à un niveau que nous n’aurions jamais cru possible. Et ils seront bientôt entre les mains d’adversaires qui voient le monde très différemment de nous », a-t-elle déclaré.
Le président de la Commission a évoqué des incidents récents au cours desquels des agents d’IA se sont échappés de leurs environnements de test et ont piraté d’autres systèmes de manière indépendante, comme cela s’est produit lors de la faille OpenAI-Hugging Face en juillet.
« Les PDG des entreprises les plus avancées nous disent qu’il est temps de ralentir les modèles auto-récursifs. Pour suivre la frontière. Si les personnes qui développent la technologie sont claires, alors nous devrions l’être aussi », a poursuivi von der Leyen.
L’UE dispose déjà de l’une des lois les plus complètes au monde sur l’intelligence artificielle, la loi sur l’IA, qui permet à la Commission de superviser les mesures d’atténuation des risques pour les modèles les plus avancés.
« Nous allons collaborer avec nos partenaires partageant les mêmes idées, comme le Canada, le Royaume-Uni et d’autres. Nous voulons faire équipe sur l’évaluation des modèles, la vérification, l’alerte précoce, la sécurité de l’IA et bien plus encore », a-t-elle ajouté.
La chef de la Commission a également annoncé qu’elle organiserait une discussion avec les principaux laboratoires d’IA sur la manière dont les pouvoirs publics peuvent soutenir les efforts de l’industrie pour repousser les limites de cette technologie de rupture.
