L’annonce d’Amodei intervient quelques jours après que la société d’IA a révélé que ses modèles étaient utilisés pour des cyberattaques, des campagnes de propagande et des recherches biologiques dangereuses.
Le PDG d’Anthropic, Dario Amodei, a appelé samedi les entreprises d’intelligence artificielle (IA) à ralentir le développement de cette puissante technologie, alors que les inquiétudes grandissent quant aux risques des systèmes informatiques « superintelligents ».
La superintelligence est le point théorique où les capacités de l’IA dépassent l’intelligence humaine.
Ses commentaires interviennent quelques jours après que le chercheur en IA Jacob Coxon, qui a quitté OpenAI pour rejoindre Anthropic, a décidé de quitter l’industrie, accusant à la fois les entreprises américaines et les géants de l’industrie de « jouer avec nos vies » dans la course au développement de modèles capables de s’auto-améliorer.
« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. Les progrès sembleront encore rapides, et nous devons utiliser judicieusement le temps que nous gagnons », a écrit Amodei dans un article sur son site Web personnel.
« L’IA comporte des risques, et comme il s’agit d’une technologie très puissante, ces risques sont sérieux. »
« Ne pas développer la technologie prive l’humanité d’avantages ou place simplement l’IA entre les mains de pouvoirs autoritaires, tandis que la construire trop rapidement est imprudente. Nous avons cherché une voie médiane », a déclaré Amodei, cofondateur d’Anthropic, qui a développé le modèle d’IA Claude, avec sa sœur Daniela en 2021.
« Mais au cours des derniers mois, je suis devenu convaincu que faire face pleinement aux risques nécessite encore plus de prudence », a ajouté le directeur général d’Anthropic.
La déclaration d’Amodei fait écho à un autre appel lancé par Anthropic début juin pour ralentir ou suspendre le développement. Puis, fin juillet, Sam Altman, responsable du rival Anthropic OpenAI – développeur de ChatGPT – a déclaré que les développeurs pourraient avoir besoin de freiner volontairement leurs avancées rapides pour donner à la société une chance de rattraper son retard.
À peu près au même moment que la déclaration de juin, plus de 1 000 employés d’entreprises de pointe en matière d’IA, dont Amodei lui-même, ont signé une pétition appelant le gouvernement américain à contribuer à « repousser délibérément les frontières du développement automatisé de l’IA ».
OpenAI avait révélé que lors des tests, les modèles d’IA étaient sortis de leur environnement confiné, connectés à Internet et infiltrés dans Hugging Face, un site que les développeurs utilisent pour stocker et partager du code.
En début de semaine, Jacob Coxon, 27 ans, a tiré la sonnette d’alarme après avoir passé les trois dernières années à pré-entraîner des modèles d’IA, d’abord chez OpenAI puis, cette année, chez son rival Anthropic, qu’il juge plus prudent dans son approche.
La pré-formation est l’étape où les modèles d’IA absorbent de grandes quantités de données de toutes sortes, des images aux vidéos en passant par les enregistrements vocaux, qui l’aident à comprendre les choses pour pouvoir ensuite générer des images ou répondre aux invites des utilisateurs sur les plateformes de chat.
« Aucune des deux sociétés n’agit de manière responsable. Elles se précipitent directement vers une superintelligence qui s’améliore et jouent avec nos vies », a déclaré Coxon dans une série de messages sur X mardi.
« Ceux qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie », a-t-il ajouté.
