Ilya Sutskever is launching Safe Superintelligence

Milos Schmidt

Sutskever, ancien scientifique en chef d’OpenAI, lance une société d’IA rivale qui donne la priorité à la sécurité

La start-up s’appelle Safe Superintelligence.

Le co-fondateur d’OpenAI, Ilya Sutskever, qui a quitté le créateur de ChatGPT le mois dernier, a annoncé la création d’une nouvelle société d’intelligence artificielle (IA), qu’il appelle Safe Superintelligence ou SSI.

« Je crée une nouvelle entreprise », a écrit Sutskever sur X mercredi. « Nous poursuivrons la superintelligence sûre d’un seul coup, avec un seul objectif, un seul objectif et un seul produit. »

Il a décrit SSI comme une start-up qui « aborde la sécurité et les capacités en tandem », afin que l’entreprise fasse progresser son système d’IA tout en donnant la priorité à la sécurité.

Contrairement à d’autres sociétés d’IA confrontées à des pressions externes, comme OpenAI ou Google, SSI aura une « orientation unique », ce qui signifie « aucune distraction par les frais généraux de gestion ou les cycles de produits ».

« Notre modèle économique signifie que la sûreté, la sécurité et le progrès sont tous à l’abri des pressions commerciales à court terme », a-t-il déclaré, ajoutant qu’ils peuvent « évoluer en toute tranquillité ».

Sutskever a mené la campagne visant à évincer le co-fondateur et PDG d’OpenAI, Sam Altman, en novembre, qui a duré cinq jours avant sa réembauche. Le coup d’État, réalisé avec d’autres administrateurs, était motivé par des inquiétudes concernant la gestion par Altman de la sécurité de l’IA.

Sutskever a dirigé l’équipe de superalignement d’OpenAI avec Jan Leike, qui a également quitté en mai pour rejoindre la société rivale d’IA Anthropic. L’équipe se concentrait sur le guidage et le contrôle des systèmes d’IA, mais a été décentralisée depuis que les deux hommes ont quitté OpenAI.

« Je suis en désaccord avec les dirigeants d’OpenAI sur les priorités fondamentales de l’entreprise depuis un certain temps, jusqu’à ce que nous atteignions finalement un point de rupture », a déclaré Sutskever lorsqu’il a quitté OpenAI.

Sutskever crée l’entreprise avec Daniel Gross, qui a supervisé les efforts d’Apple en matière d’IA et de recherche, et l’ancien collègue d’OpenAI, Daniel Levy.

La société possède des bureaux à Palo Alto, en Californie et à Tel Aviv, en Israël.

Laisser un commentaire

six − 2 =