The AI Act still needs to be formally adopted by both the Council of the EU and the Euroepan parliament.

Jean Delaunay

La loi européenne sur l’intelligence artificielle pourrait-elle accroître les systèmes de surveillance de masse ?

L’utilisation de la technologie de reconnaissance faciale pourrait augmenter dans l’ensemble de l’Union européenne malgré les efforts visant à la réglementer dans le cadre de la loi sur l’intelligence artificielle à l’échelle du bloc.

En décembre dernier, les négociateurs de l’UE sont parvenus à un accord préliminaire sur la loi sur l’IA, une première tentative mondiale de réglementation de la technologie émergente qui comprend de nouvelles règles sur l’utilisation de systèmes d’identification biométriques tels que la reconnaissance faciale.

Mais les organisations de la société civile craignent que le projet de loi comporte des lacunes.

« Ils ont fixé des conditions très larges pour que la police utilise ces systèmes. Ce que nous craignons, c’est que cela ait un effet légitimateur », a déclaré Ella Jakubowska de Reclaim Your Face, une coalition appelant à interdire la surveillance biométrique de masse.

Jakubowska affirme que jusqu’à présent, il était « possible de contester » ces systèmes et de faire valoir qu’ils n’étaient pas souhaités « dans une société démocratique ». Elle craint qu’ils ne soient désormais plus difficiles à rejeter et qu’ils soient plus susceptibles d’être adoptés par d’autres pays du monde entier, sous l’impression qu’ils ont reçu le sceau d’approbation de l’UE.

Le nouveau règlement, qui attend l’approbation finale du Conseil de l’UE et du Parlement européen, fixerait des conditions différentes selon que les systèmes de reconnaissance faciale sont utilisés directement ou à distance. Dans les deux cas, elle serait soumise à autorisation judiciaire et ne serait disponible que dans des contextes précis.

L’utilisation en direct devrait être limitée dans le temps et dans l’espace et devrait se concentrer sur la prévention de menaces terroristes spécifiques, l’identification de suspects de crimes tels que le terrorisme, la traite des êtres humains ou les enlèvements, ou pour anticiper une attaque terroriste.

En utilisation à distance, il se concentrerait sur la localisation des personnes reconnues coupables ou soupçonnées d’avoir commis un crime grave.

Le Parlement et les États membres s’affrontent

Le Parlement européen avait appelé à une interdiction totale de la reconnaissance faciale, mais a assoupli sa ligne rouge en réponse aux demandes de pays comme la France.

Paris était parmi les capitales qui ont le plus insisté pour obtenir des exceptions permettant une utilisation plus large. Il a même annoncé l’utilisation de l’IA pour surveiller les activités suspectes lors des Jeux olympiques de 2024 qui se tiendront dans le pays.

Les organisations de défense des droits numériques dénoncent la législation car elle ne parvient pas à mettre fin à la surveillance de masse. « Ce à quoi nous pouvons nous attendre, c’est une augmentation potentielle de l’utilisation des systèmes de reconnaissance faciale dans nos espaces publics, en particulier lorsque ces systèmes sont utilisés en direct », a déclaré Jakubowska.

« Lorsque vous marchez dans un espace public, que vous allez dans les magasins, à l’école, chez le médecin, à une manifestation », a-t-elle expliqué, « les forces de l’ordre pourraient avoir des pouvoirs accrus pour utiliser cette technologie de reconnaissance faciale en direct pour vous suivre. à travers le temps et l’espace, où que vous alliez.

Mais pour certains députés européens, la loi sur l’IA établit un juste équilibre entre sécurité et droits civils. « Je pense que c’est un très bon moyen d’équilibrer l’intégrité et la sécurité », a soutenu Arba Kokalari, député européen du Parti populaire européen (PPE) de centre-droit.

« Si nous avions interdit cette technique, deux choses se seraient produites. Pourquoi l’intégrité d’un terroriste devrait-elle être plus importante que la sécurité de nos citoyens ? Et deuxièmement, cette technique continuerait à être développée par d’autres pays et notamment par la Chine », dit Kokalari.

Les pays de l’UE voteront vendredi sur le texte final de la loi. Certains d’entre eux n’ont pas encore décidé comment ils voteront, mais les craintes d’un éventuel rejet de la législation se sont dissipées mardi après que l’Allemagne a annoncé qu’elle voterait pour. Le Parlement devra ensuite approuver le texte.

Laisser un commentaire

14 + onze =