OpenAI CEO Sam Altman talks on a video chat during the World Government Summit in Dubai, United Arab Emirates, February 13, 2024.

Jean Delaunay

Le PDG d’OpenAI prévient que les « désalignements sociétaux » pourraient rendre l’intelligence artificielle dangereuse

L’industrie de l’IA ne devrait pas être à l’origine de changements réglementaires, a prévenu le PDG d’OpenAI.

Le PDG d’OpenAI, créateur de ChatGPT, a déclaré mardi que les dangers qui l’empêchent de dormir la nuit en ce qui concerne l’intelligence artificielle (IA) sont les « désalignements sociétaux très subtils » qui pourraient faire des ravages dans les systèmes.

Sam Altman, s’exprimant lors du Sommet mondial des gouvernements à Dubaï via un appel vidéo, a réitéré son appel à la création d’un organisme comme l’Agence internationale de l’énergie atomique pour superviser l’IA qui progresse probablement plus rapidement que prévu.

« Il y a des choses là-dedans qui sont faciles à imaginer et où les choses tournent vraiment mal. Et je ne suis pas très intéressé par les robots tueurs marchant dans la rue dans le sens où les choses tournent mal », a déclaré Altman.

« Je suis beaucoup plus intéressé par les désalignements sociétaux très subtils où nous avons simplement ces systèmes dans la société et sans mauvaise intention particulière, les choses tournent horriblement mal. »

Cependant, Altman a souligné que l’industrie de l’IA, comme OpenAI, ne devrait pas être aux commandes lorsqu’il s’agit d’élaborer des réglementations régissant l’industrie.

« Nous sommes encore au stade de nombreuses discussions. Donc voilà, vous savez, tout le monde dans le monde tient une conférence. Tout le monde a une idée, un document politique, et ce n’est pas grave », a déclaré Altman. « Je pense que nous sommes encore à une époque où le débat est nécessaire et sain, mais à un moment donné au cours des prochaines années, je pense que nous devons aller de l’avant. vers un plan d’action bénéficiant d’une réelle adhésion dans le monde entier.

OpenAI, une startup d’intelligence artificielle basée à San Francisco, est l’un des leaders dans le domaine. Microsoft a investi environ 1 milliard de dollars (928,8 millions d’euros) dans OpenAI.

L’Associated Press a signé un accord avec OpenAI pour accéder à ses archives d’actualités. Pendant ce temps, le New York Times a poursuivi OpenAI et Microsoft pour l’utilisation de ses histoires sans autorisation pour former les chatbots d’OpenAI.

Le succès d’OpenAI a fait d’Altman le visage public de la commercialisation rapide de l’IA générative – et des craintes quant à ce qui pourrait résulter de la nouvelle technologie.

Les Émirats arabes unis, une fédération autocratique de sept cheikhs gouvernés héréditairement, présentent des signes de ce risque. La parole reste étroitement contrôlée. Ces restrictions affectent le flux d’informations précises – les mêmes détails sur lesquels les programmes d’IA comme ChatGPT s’appuient comme systèmes d’apprentissage automatique pour fournir leurs réponses aux utilisateurs.

Les Émirats disposent également de la société d’Abou Dhabi G42, supervisée par le puissant conseiller à la sécurité nationale du pays. G42 possède ce que les experts considèrent comme le premier modèle d’intelligence artificielle en langue arabe au monde. La société a fait l’objet d’allégations d’espionnage en raison de ses liens avec une application de téléphonie mobile identifiée comme un logiciel espion. Il a également été accusé d’avoir collecté secrètement du matériel génétique auprès d’Américains pour le gouvernement chinois.

Le G42 a déclaré qu’il romprait ses liens avec les fournisseurs chinois en raison des préoccupations américaines. Cependant, la discussion avec Altman, modérée par le ministre d’État chargé de l’Intelligence artificielle des Émirats arabes unis, Omar al-Olama, n’a abordé aucune des préoccupations locales.

Pour sa part, Altman s’est dit réconforté de voir que les écoles, où les enseignants craignaient que les élèves n’utilisent l’IA pour rédiger leurs devoirs, considèrent désormais cette technologie comme cruciale pour l’avenir. Mais il a ajouté que l’IA en est encore à ses balbutiements.

« Je pense que la raison en est que la technologie actuelle dont nous disposons est comme… ce tout premier téléphone portable avec un écran noir et blanc », a déclaré Altman.

« Alors donnez-nous un peu de temps. Mais je dirai que je pense que dans quelques années, ce sera bien mieux qu’aujourd’hui. Et dans une décennie, cela devrait être assez remarquable. »

Laisser un commentaire

17 − 8 =