Le nouveau modèle d’IA le plus puissant d’Anthropic, Mythos, est trop dangereux pour être rendu public, affirme la société, déclenchant des discussions urgentes avec les gouvernements et les régulateurs financiers.
Anthropic est en discussion avec le gouvernement américain sur son nouveau modèle d’IA Mythos, que la société a qualifié de trop puissant pour être rendu public car il « pose des risques de cybersécurité sans précédent ».
Le secteur bancaire tire également la sonnette d’alarme.
« Le gouvernement doit être au courant de tout cela », a déclaré lundi le co-fondateur d’Anthropic lors de l’événement Semafor World Economy à Washington.
« Absolument, nous leur parlons de Mythos, et nous leur parlerons également des prochains modèles », a-t-il ajouté.
Faisant référence au différend public avec le gouvernement, qui a conduit l’entreprise à être qualifiée de risque pour la chaîne d’approvisionnement le mois dernier, il a déclaré : « Je ne veux pas que cela fasse obstacle au fait que nous nous soucions profondément de la sécurité nationale. »
La désignation de risque pour la chaîne d’approvisionnement fait suite à l’échec des négociations sur les efforts d’Anthropic visant à limiter la manière dont le département américain de la Défense peut utiliser ses modèles d’IA.
Cette décision intervient après que le secrétaire au Trésor, Scott Bessent, a convoqué la semaine dernière une réunion de hauts banquiers américains à Washington pour discuter du modèle Mythos.
La réunion a encouragé les dirigeants du secteur bancaire à utiliser le modèle Mythos d’Antropic pour détecter les vulnérabilités, selon Bloomberg.
Anthropic a également déclaré qu’elle limiterait la diffusion de son nouveau modèle d’IA à quelques entreprises de technologie et de cybersécurité. La liste comprend Amazon, Apple et JP Morgan Chase.
Goldman Sachs, Citigroup, Bank of America et Morgan Stanley testeraient également le modèle Anthropic, a rapporté Bloomberg.
Lundi, l’AI Security Institute (AISI) du gouvernement britannique a publié un avertissement selon lequel Mythos constituait une « avancée » par rapport aux modèles précédents en termes de cybermenace qu’il représentait.
Dans le même temps, le Financial Times a rapporté que les régulateurs financiers britanniques discutaient également des risques potentiels de Mythos.
