Le pape s’est heurté à la technologie plus tôt cette année lorsqu’une image de lui vêtu d’une doudoune blanche produite à l’aide de l’IA générative est devenue virale.
Le pape François a appelé jeudi à un traité international pour garantir que l’intelligence artificielle (IA) soit développée et utilisée de manière éthique, arguant que les risques d’une technologie dépourvue des valeurs humaines de compassion, de miséricorde, de moralité et de pardon sont trop grands.
Le pontife a ajouté sa voix aux appels croissants en faveur d’une réglementation mondiale et contraignante de l’IA dans son message annuel à l’occasion de la Journée mondiale de la paix, que l’Église catholique célèbre chaque 1er janvier. Le Vatican a publié jeudi le texte du message.
Pour Francis, l’appel est quelque peu personnel.
Plus tôt cette année, une image générée par l’IA de lui portant une doudoune blanche de luxe est devenue virale, montrant à quelle vitesse des images réalistes et deepfake peuvent se propager en ligne.
Le message du pape a été publié quelques jours seulement après que les négociateurs de l’UE ont obtenu l’approbation provisoire des premières règles mondiales complètes en matière d’IA, qui devraient servir de référence pour les gouvernements envisageant leur propre réglementation.
L’IA a attiré l’attention du monde entier au cours de l’année écoulée grâce aux progrès époustouflants réalisés par des systèmes de pointe tels que ChatGPT d’OpenAI, qui ont ébloui les utilisateurs avec la capacité de produire du texte, des photos et des chansons de type humain.
Mais la technologie a également suscité des craintes quant aux risques que cette technologie en développement rapide fait peser sur l’emploi, la protection de la vie privée et des droits d’auteur, et même sur la vie humaine elle-même.
Préoccupations existentielles autour de l’IA
François a reconnu la promesse qu’offre l’IA et a salué les progrès technologiques comme une manifestation de la créativité de l’intelligence humaine, faisant écho au message délivré par le Vatican à l’Assemblée générale des Nations Unies de cette année, où une multitude de dirigeants mondiaux ont évoqué les promesses et les dangers de la technologie.
Mais son nouveau message de paix est allé plus loin et a souligné les graves préoccupations existentielles soulevées par les éthiciens et les défenseurs des droits de l’homme à propos de la technologie qui promet de transformer la vie quotidienne de manière à tout perturber, des élections démocratiques à l’art.
« L’intelligence artificielle pourrait bien représenter le pari le plus important de notre avenir », a déclaré le cardinal Michael Czerny, du bureau de développement du Vatican, qui a présenté le message lors d’une conférence de presse jeudi.
« Si les choses tournent mal, c’est l’humanité qui est à blâmer ».
Le document insiste sur le fait que le développement technologique et le déploiement de l’IA doivent rester au premier plan des préoccupations concernant la garantie des droits humains fondamentaux, la promotion de la paix et la protection contre la désinformation, la discrimination et la distorsion.
La plus grande inquiétude de François concernait l’utilisation de l’IA dans le secteur de l’armement, qui a été une préoccupation fréquente du pape jésuite qui a qualifié même les fabricants d’armes traditionnelles de « marchands de mort ».
Il a noté que les systèmes d’armes télécommandés avaient déjà permis de « s’éloigner de l’immense tragédie de la guerre et d’atténuer la perception de la dévastation causée par ces systèmes d’armes et du fardeau de la responsabilité de leur utilisation ».
« La capacité unique de jugement moral et de prise de décision éthique est plus qu’un ensemble complexe d’algorithmes, et cette capacité ne peut pas être réduite à la programmation d’une machine », a-t-il écrit.
Il a appelé à une surveillance humaine « adéquate, significative et cohérente » des systèmes d’armes létales autonomes (LAWS), arguant que le monde n’a pas besoin de nouvelles technologies qui « finissent simplement par promouvoir la folie de la guerre ».
À un niveau plus fondamental, il a mis en garde contre les profondes répercussions sur l’humanité des systèmes automatisés qui classent ou catégorisent les citoyens.
Les entreprises technologiques ne devraient pas s’autoréguler
Outre les menaces que les robots peuvent faire peser sur l’emploi dans le monde entier, le pape François a noté que la technologie pourrait déterminer la fiabilité d’un demandeur de prêt hypothécaire, le droit d’un migrant à recevoir l’asile politique ou le risque de récidive. quelqu’un déjà reconnu coupable d’un crime.
« Les algorithmes ne doivent pas être autorisés à déterminer la façon dont nous comprenons les droits de l’homme, à mettre de côté les valeurs humaines essentielles que sont la compassion, la miséricorde et le pardon, ou à éliminer la possibilité pour un individu de changer et de laisser son passé derrière lui », a-t-il écrit.
Pour François, la question touche certaines de ses priorités en tant que pape : dénoncer les injustices sociales, défendre les migrants et s’occuper des prisonniers et des personnes en marge de la société.
Le message du pape n’a pas approfondi les détails d’un éventuel traité contraignant, se contentant de dire qu’il doit être négocié au niveau mondial, à la fois pour promouvoir les meilleures pratiques et pour prévenir celles qui sont nuisibles. On ne peut pas faire confiance aux entreprises technologiques seules pour s’autoréguler, a-t-il déclaré.
Il a réutilisé les arguments qu’il avait utilisés auparavant pour dénoncer les multinationales qui ont ravagé les ressources nationales de la Terre et appauvri les peuples autochtones qui en vivent.
La liberté et la coexistence pacifique sont menacées « chaque fois que les êtres humains cèdent à la tentation de l’égoïsme, de l’intérêt personnel, du désir de profit et de la soif de pouvoir », écrit-il.
Barbara Caputo, professeur au centre d’intelligence artificielle de l’Université polytechnique de Turin, a noté qu’il y avait déjà une convergence sur certaines questions et définitions éthiques fondamentales dans la réglementation européenne et dans le décret dévoilé par le président américain Joe Biden en octobre.
« Ce n’est pas une mince affaire », a-t-elle déclaré lors du briefing du Vatican. « Cela signifie que quiconque veut produire de l’intelligence artificielle, il existe une base réglementaire commune ».
