OpenAI聯(lián)合創(chuàng)始人之一Ilya Sutskever在正式離開 OpenAI 僅一個(gè)月后，就創(chuàng)立了一家新公司Safe Superintelligence Inc. （SSI）。

蘇茨克弗曾長期擔(dān)任 OpenAI 的首席科學(xué)家，他與前 Y Combinator 合伙人丹尼爾·格羅斯 (Daniel Gross) 和前 OpenAI 工程師丹尼爾·利維 (Daniel Levy) 共同創(chuàng)立了 SSI。

在 OpenAI，隨著“超級智能”人工智能系統(tǒng)的興起，Sutskever 是該公司改善人工智能安全性努力不可或缺的一部分，他與 Jan Leike 一起從事這一領(lǐng)域，后者是 OpenAI 超級對齊團(tuán)隊(duì)的聯(lián)合負(fù)責(zé)人。然而，Sutskever和Leike都于 5 月離開了公司，原因是他們在如何處理人工智能安全問題上與 OpenAI 領(lǐng)導(dǎo)層發(fā)生了激烈爭執(zhí)。Leike 現(xiàn)在領(lǐng)導(dǎo)著競爭對手人工智能公司 Anthropic 的一個(gè)團(tuán)隊(duì)。

長期以來，蘇茨克弗一直在關(guān)注人工智能安全方面的棘手問題。在 2023 年發(fā)表的一篇博客文章中，蘇茨克弗與 Leike 合著預(yù)測，人工智能將在十年內(nèi)超越人類，而且當(dāng)它真的出現(xiàn)時(shí)，它不一定是仁慈的，因此需要研究控制和限制它的方法。

顯然，他今天一如既往地致力于這項(xiàng)事業(yè)。周三下午，Sutskever 發(fā)布了一條推文，宣布成立新公司：“SSI 是我們的使命、我們的名字，也是我們整個(gè)產(chǎn)品路線圖，因?yàn)檫@是我們唯一的關(guān)注點(diǎn)。我們的團(tuán)隊(duì)、投資者和商業(yè)模式都致力于實(shí)現(xiàn) SSI。我們將安全性和能力作為技術(shù)問題，通過革命性的工程和科學(xué)突破來解決。”

“我們計(jì)劃盡快提升能力，同時(shí)確保我們的安全始終處于領(lǐng)先地位。這樣，我們就可以安心地?cái)U(kuò)大規(guī)模。我們的單一重點(diǎn)意味著不會(huì)受到管理費(fèi)用或產(chǎn)品周期的干擾，而我們的商業(yè)模式意味著安全、保障和進(jìn)步都不受短期商業(yè)壓力的影響�！�

蘇茨克維爾向彭博社詳細(xì)介紹了這家新公司，但拒絕討論其融資狀況或估值。

更明顯的是，與 OpenAI 不同——OpenAI 最初于 2015 年成立，是一家非營利組織，后來在其計(jì)算能力所需的巨額資金變得更加明顯時(shí)進(jìn)行了重組——SSI 從一開始就被設(shè)計(jì)為一家營利性實(shí)體。從對人工智能的興趣和團(tuán)隊(duì)的資歷來看，它可能很快就會(huì)陷入資金困境。格羅斯告訴彭博社：在我們面臨的所有問題中，籌集資金不會(huì)是其中之一。

▲ 滑動(dòng)查看往期內(nèi)容