国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

離職工程師長(zhǎng)文復(fù)盤(pán):為什么OpenAI總能誕生偉大產(chǎn)品?

0
分享至





編輯重點(diǎn)君

從掀起新一輪科技浪潮的ChatGPT,到DALL·E、Whisper、Sora、Codex,很多人好奇,為什么OpenAI總能誕生改變世界的偉大產(chǎn)品?

三周前,OpenAI資深工程師Calvin French-Owen宣布離職,他是Codex項(xiàng)目的核心成員之一,Codex 是 OpenAI 的新型編程助手,競(jìng)爭(zhēng)對(duì)手包括Cursor和 Anthropic 的 Claude Code。

離開(kāi)后,Calvin 寫(xiě)了一份長(zhǎng)長(zhǎng)的內(nèi)部回憶,從一線工程師的角度,給所有好奇OpenAI 的人揭秘了這個(gè)組織內(nèi)部的真實(shí)情況。在他眼里,OpenAI是一個(gè)非常復(fù)雜的存在:既像研究實(shí)驗(yàn)室,更像一臺(tái)永不停歇的產(chǎn)品機(jī)器。

OpenAI一年,從一千人暴增到三千人

在加入OpenAI 時(shí),Calvin 是第 1000 多個(gè)員工,一年后,公司規(guī)模翻了三倍。他在博客里寫(xiě)道,這種飛速擴(kuò)張帶來(lái)了典型的“成長(zhǎng)的煩惱”:組織溝通混亂、團(tuán)隊(duì)節(jié)奏各異、Slack 消息轟炸一切。

OpenAI 內(nèi)部幾乎不用郵件,所有溝通都在 Slack 上完成。沒(méi)有人會(huì)管你怎么用,只要你能跟上節(jié)奏。

他形容自己從Segment 的小團(tuán)隊(duì)創(chuàng)始人身份,切換到 3000 人組織里的一顆螺絲釘,這種落差感讓他一度懷疑自己的決定。但這段時(shí)間,也讓他看見(jiàn)了一個(gè)“巨型科研與產(chǎn)品工廠”是怎么運(yùn)轉(zhuǎn)的。

自下而上,一切都能自己先干起來(lái)

Calvin 反復(fù)提到一個(gè)詞:自下而上。在 OpenAI,好點(diǎn)子往往不是靠流程生出來(lái)的,而是哪個(gè)人先偷偷動(dòng)手做了個(gè)原型。

當(dāng)時(shí)Codex 的原型,內(nèi)部一度有 3-4 個(gè)版本同時(shí)流傳,都是幾個(gè)人自己攢出來(lái)的。等到效果好,就能拉人、組隊(duì)、立項(xiàng)。

管理也和傳統(tǒng)巨頭不太一樣:誰(shuí)能想出好點(diǎn)子、能做出來(lái),誰(shuí)就能在團(tuán)隊(duì)里獲得更高的話語(yǔ)權(quán)。相比演講和政治手腕,這家公司更看重“你能不能把東西做出來(lái)”。

他甚至說(shuō),最好的研究員都像是“小型 CEO”,他們對(duì)自己手頭的研究有完全的自主權(quán),沒(méi)人會(huì)管你要做什么,只看結(jié)果。

迅速行動(dòng),Codex僅七周就上線

Calvin 在這封備忘錄里最鮮活的部分,來(lái)自 Codex 沖刺的 7 周。

他提前結(jié)束了陪產(chǎn)假,又回到辦公室,和十幾個(gè)人拼了命地打磨產(chǎn)品、測(cè)試功能、改代碼。他寫(xiě)道:“這是我近十年來(lái)最累的七周。每天晚上十一二點(diǎn)回家,清晨五點(diǎn)半又被孩子叫醒,七點(diǎn)重新坐進(jìn)辦公室,周末也在趕工!

從第一行代碼到上線,Codex 只用了 7 周。在這背后,是一個(gè)不到 20 人的核心團(tuán)隊(duì),外加隨時(shí)拉來(lái)的 ChatGPT 工程師、設(shè)計(jì)、產(chǎn)品經(jīng)理、市場(chǎng)。沒(méi)有多余的扯皮,沒(méi)有季度 OKR,誰(shuí)能上就直接上。

他說(shuō)自己從沒(méi)見(jiàn)過(guò)哪家公司能在這么短的時(shí)間里把一個(gè)idea 變成產(chǎn)品,還免費(fèi)開(kāi)放給所有人用——這就是 OpenAI 最真實(shí)的工作節(jié)奏。

被放大的注目與隱形的壓力

這家公司的野心遠(yuǎn)不止ChatGPT。Calvin爆料,OpenAI 同時(shí)在十幾個(gè)方向上下注:API、生圖、編碼代理、硬件、甚至還有沒(méi)對(duì)外公布的項(xiàng)目。

他也看見(jiàn)了這背后不可避免的高壓。

幾乎所有團(tuán)隊(duì)都在追趕同一個(gè)目標(biāo):打造通用人工智能(AGI)。他們的每一條 Slack 消息,都可能會(huì)被全球放大成新聞。內(nèi)部很多產(chǎn)品和收入數(shù)據(jù)嚴(yán)防死守,團(tuán)隊(duì)里有不同的權(quán)限區(qū)隔。

外界討論的安全問(wèn)題,Calvin 也有他的觀察。他說(shuō),真正讓大多數(shù)團(tuán)隊(duì)日夜擔(dān)心的,并不是“AI 什么時(shí)候掌控世界”,而是仇恨言論、政治操縱、提示注入、或者用戶拿它來(lái)寫(xiě)生物武器配方。這些現(xiàn)實(shí)的、不起眼的風(fēng)險(xiǎn),遠(yuǎn)比哲學(xué)問(wèn)題更棘手。

OpenAI 到底酷在哪兒?

在外人看來(lái),這家公司是“離人類(lèi)終極智能最近的地方”。在離開(kāi)的人眼里,酷的地方恰恰是:它仍然沒(méi)變成一個(gè)遲鈍的巨頭。

Codex 項(xiàng)目用 7 周上線,團(tuán)隊(duì)可以隨時(shí)跨項(xiàng)目調(diào)人,“只要有用,就別等下個(gè)季度計(jì)劃”。領(lǐng)導(dǎo)層天天泡在 Slack 里,不是象征性露面,而是真的參與具體討論和決策。

還有一點(diǎn)讓他很服氣:OpenAI 把最強(qiáng)大的模型免費(fèi)放到 API 里,不僅賣(mài)給大企業(yè),也給普通人用,不用簽?zāi)甓葏f(xié)議,也不用交昂貴授權(quán)費(fèi)。這點(diǎn),他們算是說(shuō)到做到。

他離開(kāi)的原因,也沒(méi)那么戲劇化。外界總愛(ài)把離職放大成陰謀。Calvin 卻說(shuō),離開(kāi) OpenAI 70% 只是因?yàn)樗胫匦伦鳇c(diǎn)自己的事。

在他眼里,OpenAI 已經(jīng)從一群科學(xué)怪人做實(shí)驗(yàn)室,變成了一個(gè)混合體:一半是科研,一半是消費(fèi)級(jí)應(yīng)用的產(chǎn)品機(jī)器,不同團(tuán)隊(duì)有不同目標(biāo)和節(jié)奏。而他需要新的探索。

最后這封信留給外界的,是一份旁觀者視角的提醒:OpenAI 不是冷冰冰的 AGI 工廠,而是一群人,用一套近乎極限的速度,把腦子里的點(diǎn)子變成全世界用得上的產(chǎn)品。

他寫(xiě)道:“哪怕只是站在這臺(tái)巨型機(jī)器里的一顆小螺絲釘,也足夠讓人清醒,也足夠讓人興奮!

這段話或許就是所有離開(kāi)、留下,或者正好奇著OpenAI 的人,都會(huì)懂的一句話。

原文鏈接:https://calv.info/openai-reflections



以下為Calvin分享原文(由GPT翻譯):

關(guān)于OpenAI 的思考2025 年 7 月 15 日

我三周前離開(kāi)了OpenAI。我是在 2024 年 5 月加入這家公司的。

我想分享我的一些感想,因?yàn)閲@OpenAI 的所作所為有很多煙霧彈和噪音,但關(guān)于在那里工作的文化實(shí)際感受卻鮮有第一手的描述。

納比爾·奎雷希有一篇精彩的文章《對(duì) Palantir 的反思》,他在文中深思了 Palantir 的獨(dú)特之處。我也想趁記憶猶新時(shí),對(duì) OpenAI 做同樣的反思。這里沒(méi)有任何商業(yè)機(jī)密,更多的是對(duì)這個(gè)歷史上最引人入勝的組織之一在極其有趣時(shí)期的現(xiàn)狀的一些感想。

先說(shuō)明一下:我離開(kāi)的決定中沒(méi)有任何個(gè)人恩怨——事實(shí)上我對(duì)此感到非常矛盾。從自己創(chuàng)辦的項(xiàng)目轉(zhuǎn)變?yōu)橐患覔碛?3000 名員工的組織中的一員,這種轉(zhuǎn)變很難,F(xiàn)在我渴望一個(gè)新的開(kāi)始。

完全有可能是工作的質(zhì)量會(huì)吸引我回去。很難想象能打造出像AGI 那樣有深遠(yuǎn)影響的東西,而 LLMs 無(wú)疑是本十年的技術(shù)創(chuàng)新。我很幸運(yùn)能親眼見(jiàn)證一些發(fā)展,并且參與了 Codex 的發(fā)布。

顯然,這些并非公司的觀點(diǎn)——作為觀察,這是我個(gè)人的看法。OpenAI 是一個(gè)大平臺(tái),這只是我對(duì)它的一扇小窗。

關(guān)于OpenAI,首先要了解的是它的快速成長(zhǎng)。當(dāng)我加入時(shí),公司員工剛剛超過(guò) 1000 人。一年后,人數(shù)已超過(guò) 3000,而我在任職時(shí)間上位于前 30%。幾乎所有領(lǐng)導(dǎo)層成員的工作內(nèi)容與 2-3 年前截然不同。

當(dāng)然,快速擴(kuò)張帶來(lái)了各種問(wèn)題:如何作為一個(gè)公司進(jìn)行溝通,匯報(bào)結(jié)構(gòu),產(chǎn)品發(fā)布流程,人員管理與組織,招聘流程等等。各團(tuán)隊(duì)文化差異顯著:有些團(tuán)隊(duì)一直全速?zèng)_刺,有些則在監(jiān)控大型項(xiàng)目運(yùn)行,還有些保持著更為穩(wěn)定的節(jié)奏。沒(méi)有單一的OpenAI 體驗(yàn),研究、應(yīng)用和市場(chǎng)推廣部門(mén)的時(shí)間節(jié)奏也大相徑庭。

OpenAI 的一個(gè)特殊之處在于,所有一切——我指的是所有——都依賴 Slack 進(jìn)行。沒(méi)有電子郵件。在我整個(gè)任職期間,收到的郵件大約只有 10 封。如果你不善于組織,這會(huì)讓你感到極度分心。但如果你能合理管理頻道和通知,使用起來(lái)還是相當(dāng)可行的。

OpenAI 在研究方面尤其注重自下而上的方式。當(dāng)我剛加入時(shí),我開(kāi)始詢問(wèn)下一季度的路線圖。得到的回答是:“這并不存在”(雖然現(xiàn)在有了)。好點(diǎn)子可以來(lái)自任何地方,而且通常很難提前判斷哪些點(diǎn)子會(huì)最有成效。與其說(shuō)有一個(gè)宏大的“總體規(guī)劃”,不如說(shuō)進(jìn)展是迭代的,隨著新研究成果的出現(xiàn)逐步顯現(xiàn)。

正因?yàn)檫@種自下而上的文化,OpenAI 也非常重視能力和貢獻(xiàn)。公司歷來(lái)的領(lǐng)導(dǎo)者主要是基于他們提出好點(diǎn)子并付諸實(shí)施的能力而晉升。許多非常有能力的領(lǐng)導(dǎo)者在全員大會(huì)上的演講或政治手腕方面并不擅長(zhǎng)。在 OpenAI,這些方面的重要性遠(yuǎn)不如其他公司。最好的點(diǎn)子往往會(huì)勝出。

有一種強(qiáng)烈的行動(dòng)偏向(你可以直接去做事情)。類(lèi)似的團(tuán)隊(duì),雖然彼此無(wú)關(guān),卻經(jīng)常會(huì)在各種想法上不謀而合。我最初參與了一個(gè)與ChatGPT 連接器類(lèi)似的平行(但內(nèi)部)項(xiàng)目。在我們決定推動(dòng)發(fā)布之前,可能有大約 3-4 個(gè)不同的 Codex 原型在流傳。這些工作通常由少數(shù)幾個(gè)人在未獲許可的情況下自行開(kāi)展。隨著項(xiàng)目展現(xiàn)出潛力,團(tuán)隊(duì)往往會(huì)迅速圍繞它們組建起來(lái)。

Andrey(Codex 負(fù)責(zé)人)曾告訴我,你應(yīng)該把研究人員看作他們自己的“小型高管”。有一種強(qiáng)烈的傾向是專(zhuān)注于自己的事情,看看結(jié)果如何。這里有一個(gè)推論——大多數(shù)研究都是通過(guò)“極客誘導(dǎo)”研究人員專(zhuān)注于某個(gè)特定問(wèn)題來(lái)完成的。如果某個(gè)問(wèn)題被認(rèn)為無(wú)聊或“已解決”,它很可能不會(huì)被繼續(xù)研究。

優(yōu)秀的研究經(jīng)理極具影響力,但同時(shí)也非常有限。最出色的經(jīng)理能夠連接許多不同的研究工作,匯聚成更大的模型訓(xùn)練。同樣的道理也適用于出色的產(chǎn)品經(jīng)理(向ae 致敬)。

我合作過(guò)的ChatGPT 產(chǎn)品經(jīng)理(Akshay、Rizzo、Sulman)是我見(jiàn)過(guò)的最酷的客戶之一。感覺(jué)他們幾乎已經(jīng)見(jiàn)識(shí)過(guò)一切。他們大多相對(duì)放手,但都聘用了優(yōu)秀的人才,并努力確保他們能夠取得成功。

OpenAI 能夠迅速調(diào)整方向。這是我們?cè)?Segment 非常重視的一點(diǎn)——隨著新信息的出現(xiàn),做正確的事遠(yuǎn)比僅僅因?yàn)橛杏?jì)劃而堅(jiān)持原路更好。令人驚訝的是,像 OpenAI 這樣規(guī)模龐大的公司依然保持著這種精神——而谷歌顯然沒(méi)有。公司決策迅速,一旦決定追求某個(gè)方向,就全力以赴。

公司面臨著大量的審視。作為來(lái)自B2B 企業(yè)背景的人,這讓我有些震驚。我經(jīng)?吹叫侣劽襟w爆出尚未在內(nèi)部宣布的消息。當(dāng)我告訴別人我在 OpenAI 工作時(shí),常常會(huì)遇到對(duì)公司已有的既定看法。一些 Twitter 用戶運(yùn)行自動(dòng)機(jī)器人,檢查是否有新功能即將發(fā)布。

因此,OpenAI 是一個(gè)非常保密的地方。我不能向任何人詳細(xì)透露我正在做的工作。這里有幾個(gè)擁有不同權(quán)限的 Slack 工作區(qū)。收入和資金消耗數(shù)據(jù)則被更加嚴(yán)格地保密。

OpenAI 也是一個(gè)比你想象中更嚴(yán)肅的地方,部分原因是因?yàn)轱L(fēng)險(xiǎn)感非常高。一方面,目標(biāo)是構(gòu)建通用人工智能(AGI)——這意味著有很多事情必須做到位。另一方面,你正在打造一個(gè)產(chǎn)品,數(shù)億用戶依賴它來(lái)獲取從醫(yī)療建議到心理治療的各種服務(wù)。再另一方面,公司正參與全球最大的競(jìng)爭(zhēng)舞臺(tái)。我們會(huì)密切關(guān)注 Meta、谷歌和 Anthropic 的動(dòng)態(tài)——我相信他們也在做同樣的事情。所有主要國(guó)家政府都在密切關(guān)注這一領(lǐng)域。

盡管OpenAI 經(jīng)常在媒體上受到詆毀,但我遇到的每個(gè)人實(shí)際上都在努力做正確的事。鑒于其面向消費(fèi)者的定位,它是大型實(shí)驗(yàn)室中最為顯眼的,因此也承受了大量的誹謗。

話雖如此,你大概不應(yīng)該把OpenAI 看作一個(gè)單一的整體。我認(rèn)為 OpenAI 起初像洛斯阿拉莫斯實(shí)驗(yàn)室一樣,是一群科學(xué)家和技術(shù)愛(ài)好者在探索科學(xué)前沿。這個(gè)團(tuán)隊(duì)偶然間催生了史上最具病毒傳播性的消費(fèi)級(jí)應(yīng)用。隨后,它的發(fā)展目標(biāo)擴(kuò)展到了向政府和企業(yè)銷(xiāo)售。組織中不同資歷和不同部門(mén)的人,隨后有了截然不同的目標(biāo)和觀點(diǎn)。你在那里的時(shí)間越長(zhǎng),越可能通過(guò)“研究實(shí)驗(yàn)室”或“為公益服務(wù)的非營(yíng)利機(jī)構(gòu)”的視角來(lái)看待事情。

我最欣賞這家公司的一點(diǎn)是,它在分配人工智能利益方面“言行一致”。最先進(jìn)的模型并不局限于某個(gè)需要年度協(xié)議的企業(yè)級(jí)別。世界上任何人都可以直接使用 ChatGPT 獲取答案,即使沒(méi)有登錄。你可以注冊(cè)并使用 API——大多數(shù)模型(即使是最先進(jìn)或?qū)S械模┩ǔR矔?huì)很快進(jìn)入 API,供初創(chuàng)企業(yè)使用。你可以想象一種與我們今天所處的體系截然不同的運(yùn)作模式。OpenAI 為此應(yīng)當(dāng)獲得大量贊譽(yù),這仍然是公司核心的基因。

安全性實(shí)際上比你從Zvi 或Lesswrong等大量閱讀中猜測(cè)的要重要得多。有大量人員致力于開(kāi)發(fā)安全系統(tǒng)。鑒于 OpenAI 的性質(zhì),我看到更多關(guān)注的是實(shí)際風(fēng)險(xiǎn)(仇恨言論、濫用、操縱政治偏見(jiàn)、制造生物武器、自殘、提示注入)而非理論風(fēng)險(xiǎn)(智能爆炸、權(quán)力尋求)。這并不是說(shuō)沒(méi)人關(guān)注后者,確實(shí)有人專(zhuān)注于理論風(fēng)險(xiǎn)。但從我的角度來(lái)看,這并不是重點(diǎn)。大部分工作沒(méi)有公開(kāi)發(fā)表,OpenAI 確實(shí)應(yīng)該做更多工作來(lái)發(fā)布這些內(nèi)容。

與其他公司在每次招聘會(huì)隨意發(fā)放周邊不同,OpenAI 幾乎不發(fā)放周邊(即使是給新員工)。取而代之的是“限時(shí)發(fā)售”,你可以訂購(gòu)有現(xiàn)貨的商品。第一次發(fā)售時(shí),需求量大到導(dǎo)致 Shopify 商店癱瘓。內(nèi)部還流傳著一篇帖子,講解如何正確 POST JSON 數(shù)據(jù)包以繞過(guò)限制。

與GPU 成本相比,幾乎所有其他開(kāi)銷(xiāo)都微不足道。舉個(gè)例子:作為 Codex 產(chǎn)品一部分開(kāi)發(fā)的一個(gè)小眾功能,其 GPU 成本與我們整個(gè) Segment 基礎(chǔ)設(shè)施的 GPU 成本相當(dāng)(雖然規(guī)模不及 ChatGPT,但也承擔(dān)了相當(dāng)一部分互聯(lián)網(wǎng)流量)。

OpenAI 可能是我見(jiàn)過(guò)的最令人畏懼的雄心勃勃的組織。你可能會(huì)認(rèn)為擁有全球頂級(jí)的消費(fèi)級(jí)應(yīng)用之一已經(jīng)足夠了,但他們渴望在數(shù)十個(gè)領(lǐng)域展開(kāi)競(jìng)爭(zhēng):API 產(chǎn)品、深度研究、硬件、編碼代理、圖像生成,以及一些尚未公布的領(lǐng)域。這是一個(gè)孕育并推動(dòng)創(chuàng)意不斷前進(jìn)的沃土。

公司非常關(guān)注推特。如果你發(fā)了一條與OpenAI 相關(guān)且廣為傳播的推文,很可能有人會(huì)看到并加以考慮。我的一個(gè)朋友開(kāi)玩笑說(shuō):“這家公司靠推特氛圍運(yùn)轉(zhuǎn)。”作為一家面向消費(fèi)者的公司,這說(shuō)法或許并不完全錯(cuò)誤。雖然他們確實(shí)還在大量分析使用情況、用戶增長(zhǎng)和留存率,但氛圍同樣重要。

OpenAI 的團(tuán)隊(duì)比其他地方更加靈活。在推出 Codex 時(shí),我們需要幾位有經(jīng)驗(yàn)的 ChatGPT 工程師的幫助以趕上發(fā)布日期。我們與一些 ChatGPT 的工程經(jīng)理會(huì)面提出請(qǐng)求。第二天,就有兩位非常厲害的人準(zhǔn)備投入并提供幫助。沒(méi)有“等待季度計(jì)劃”或“重新調(diào)整人員編制”的繁瑣過(guò)程,進(jìn)展非常迅速。

領(lǐng)導(dǎo)層非常顯眼且深度參與。在像OpenAI 這樣的公司,這或許很明顯,但每位高管似乎都非常投入。你會(huì)經(jīng)常在 Slack 上看到 gdb、sama、kw、mark、dane 等人積極發(fā)言。沒(méi)有缺席的領(lǐng)導(dǎo)者。

代碼

OpenAI 使用一個(gè)龐大的單一代碼庫(kù),主要是 Python(盡管也有越來(lái)越多的 Rust 服務(wù)和少量用于網(wǎng)絡(luò)代理等的 Golang 服務(wù))。這導(dǎo)致代碼風(fēng)格多樣,因?yàn)?Python 有很多不同的寫(xiě)法。你會(huì)遇到既有來(lái)自擁有十年經(jīng)驗(yàn)的谷歌老兵設(shè)計(jì)的可擴(kuò)展庫(kù),也有剛畢業(yè)博士寫(xiě)的臨時(shí) Jupyter 筆記本。幾乎所有東西都圍繞 FastAPI 來(lái)創(chuàng)建 API,使用 Pydantic 進(jìn)行驗(yàn)證。但整體上并沒(méi)有強(qiáng)制執(zhí)行統(tǒng)一的代碼風(fēng)格指南。

OpenAI 的所有服務(wù)都運(yùn)行在 Azure 上。有趣的是,我認(rèn)為只有三項(xiàng)服務(wù)是值得信賴的:Azure Kubernetes 服務(wù)、CosmosDB(Azure 的文檔存儲(chǔ))和 BlobStore。沒(méi)有真正等同于 Dynamo、Spanner、Bigtable、BigQuery、Kinesis 或Aurora的服務(wù)。自動(dòng)擴(kuò)展單元的思維方式也較為罕見(jiàn)。IAM 的實(shí)現(xiàn)通常遠(yuǎn)不如 AWS 那樣完善,而且有很強(qiáng)的內(nèi)部開(kāi)發(fā)傾向。

在人員方面(至少在工程領(lǐng)域),Meta 到 OpenAI 的人才流動(dòng)非常顯著。在許多方面,OpenAI 類(lèi)似于早期的 Meta:一個(gè)爆款的消費(fèi)級(jí)應(yīng)用、初步的基礎(chǔ)設(shè)施,以及快速發(fā)展的渴望。我見(jiàn)過(guò)從 Meta 和 Instagram 轉(zhuǎn)過(guò)來(lái)的大多數(shù)基礎(chǔ)設(shè)施人才都非常優(yōu)秀。

將這些因素結(jié)合起來(lái),你會(huì)發(fā)現(xiàn)許多基礎(chǔ)設(shè)施的核心部分讓人聯(lián)想到Meta。內(nèi)部重新實(shí)現(xiàn)了 TAO,努力在邊緣整合身份認(rèn)證,我相信還有許多我不了解的其他項(xiàng)目。

聊天的概念非常深入。自從ChatGPT 走紅以來(lái),很多代碼庫(kù)的結(jié)構(gòu)都是圍繞聊天消息和對(duì)話的理念構(gòu)建的。這些基本元素已經(jīng)深深植入其中,忽視它們可能會(huì)帶來(lái)風(fēng)險(xiǎn)。我們?cè)?Codex 中稍有偏離(更多借鑒了響應(yīng) API 的經(jīng)驗(yàn)),但仍然利用了大量已有的技術(shù)成果。

代碼取勝。與其依賴某個(gè)中央架構(gòu)或規(guī)劃委員會(huì),決策通常由計(jì)劃執(zhí)行工作的團(tuán)隊(duì)做出。結(jié)果是行動(dòng)導(dǎo)向非常強(qiáng)烈,代碼庫(kù)中常常存在多個(gè)重復(fù)的部分。我大概見(jiàn)過(guò)半打左右的隊(duì)列管理或代理循環(huán)相關(guān)的庫(kù)。

在幾個(gè)方面,快速擴(kuò)展的工程團(tuán)隊(duì)和缺乏工具帶來(lái)了問(wèn)題。sa-server(后端單體應(yīng)用)成了一個(gè)有些雜亂的地方。主分支上的持續(xù)集成(CI)故障比預(yù)期頻繁得多。即使測(cè)試用例并行運(yùn)行,并且只考慮部分依賴,使用 GPU 運(yùn)行也可能需要大約 30 分鐘。這些問(wèn)題并非無(wú)法解決,但這提醒我們,這類(lèi)問(wèn)題無(wú)處不在,而且在快速擴(kuò)展時(shí)可能會(huì)變得更嚴(yán)重。值得肯定的是,內(nèi)部團(tuán)隊(duì)正高度重視并致力于改進(jìn)這一狀況。

我學(xué)到的其他東西

這就是大型消費(fèi)品牌的樣子。在我們開(kāi)始開(kāi)發(fā)Codex 之前,我并沒(méi)有真正意識(shí)到這一點(diǎn)。所有的衡量標(biāo)準(zhǔn)都是以“專(zhuān)業(yè)用戶”為單位。即使是像 Codex 這樣的產(chǎn)品,我們也主要考慮個(gè)人使用的入門(mén)體驗(yàn),而不是團(tuán)隊(duì)使用。作為一個(gè)主要來(lái)自 B2B/企業(yè)背景的人,這讓我有些難以適應(yīng)。你只需一開(kāi)關(guān),流量從第一天起就會(huì)涌入。

大型模型的訓(xùn)練(高層次概述)。從“實(shí)驗(yàn)”到“工程”存在一個(gè)光譜。大多數(shù)想法最初都是小規(guī)模實(shí)驗(yàn)。如果結(jié)果看起來(lái)有希望,它們會(huì)被納入更大規(guī)模的訓(xùn)練中。實(shí)驗(yàn)不僅涉及調(diào)整核心算法,還包括調(diào)整數(shù)據(jù)組合并仔細(xì)研究結(jié)果。在大規(guī)模訓(xùn)練方面,幾乎看起來(lái)像是巨型分布式系統(tǒng)工程。會(huì)遇到各種奇怪的邊緣情況和意想不到的問(wèn)題,調(diào)試這些問(wèn)題的責(zé)任就在于你。

如何進(jìn)行GPU 計(jì)算。作為 Codex 發(fā)布的一部分,我們必須預(yù)測(cè)負(fù)載容量需求,而這也是我第一次真正花時(shí)間對(duì) GPU 進(jìn)行基準(zhǔn)測(cè)試。關(guān)鍵是你應(yīng)該從所需的延遲要求入手(整體延遲、令牌數(shù)量、首個(gè)令牌時(shí)間),而不是從底層分析 GPU 能支持的性能開(kāi)始。每一次新模型的迭代都可能極大地改變負(fù)載模式。

如何在大型Python 代碼庫(kù)中工作。Segment 結(jié)合了微服務(wù),主要使用 Golang 和 Typescript。我們沒(méi)有 OpenAI 那樣龐大的代碼量。我學(xué)到了很多關(guān)于如何根據(jù)開(kāi)發(fā)者數(shù)量來(lái)擴(kuò)展代碼庫(kù)的經(jīng)驗(yàn)。你必須為“默認(rèn)可用”、“保持主分支干凈”和“難以誤用”等方面設(shè)置更多的保護(hù)措施。

發(fā)布Codex

我在OpenAI 的最后三個(gè)月中,很大一部分時(shí)間都投入到了 Codex 的發(fā)布。這無(wú)疑是我職業(yè)生涯中的一個(gè)重要亮點(diǎn)。

背景介紹:早在2024 年 11 月,OpenAI 就設(shè)定了 2025 年推出編程代理的目標(biāo)。到了 2025 年 2 月,我們內(nèi)部已有一些利用模型取得顯著效果的工具在運(yùn)行。我們感受到了推出專(zhuān)門(mén)針對(duì)編程的代理的壓力。顯然,模型已經(jīng)發(fā)展到對(duì)編程非常有用的階段(市場(chǎng)上新興的各種編程輔助工具的爆發(fā)即是明證)。

我提前結(jié)束了陪產(chǎn)假,回去協(xié)助參與Codex 的發(fā)布。一周后,我們經(jīng)歷了兩個(gè)團(tuán)隊(duì)(略顯混亂的)合并,隨后開(kāi)始了瘋狂的沖刺。從最初編寫(xiě)第一行代碼到完成,整個(gè)產(chǎn)品僅用了 7 周時(shí)間。

Codex 沖刺可能是我近十年來(lái)最努力的一次。大多數(shù)晚上都工作到十一點(diǎn)或午夜。每天早上五點(diǎn)半被新生兒叫醒。七點(diǎn)又去辦公室。大多數(shù)周末也在工作。我們作為一個(gè)團(tuán)隊(duì)全力以赴,因?yàn)槊恳恢芏贾陵P(guān)重要。這讓我想起了在 Y Combinator 的時(shí)光。

這種速度之快,難以用言語(yǔ)形容。我從未見(jiàn)過(guò)無(wú)論大小的組織能在如此短的時(shí)間內(nèi),從一個(gè)想法發(fā)展到完全發(fā)布且免費(fèi)提供的產(chǎn)品。范圍也不;我們構(gòu)建了一個(gè)容器運(yùn)行時(shí),優(yōu)化了代碼庫(kù)下載,微調(diào)了一個(gè)定制模型以處理代碼編輯,處理了各種git 操作,引入了全新的界面,啟用了互聯(lián)網(wǎng)訪問(wèn),最終打造出一個(gè)使用起來(lái)非常愉快的產(chǎn)品。 4

不管你怎么說(shuō),OpenAI 依然保持著那種開(kāi)拓精神。

好消息是,合適的人才能創(chuàng)造奇跡。我們是一個(gè)由大約8 名工程師、4 名研究員、2 名設(shè)計(jì)師、2 名市場(chǎng)推廣人員和 1 名產(chǎn)品經(jīng)理組成的高級(jí)團(tuán)隊(duì)。如果沒(méi)有這支團(tuán)隊(duì),我想我們?cè)缇褪×。沒(méi)人需要太多指導(dǎo),但確實(shí)需要相當(dāng)多的協(xié)調(diào)。如果你有機(jī)會(huì)與 Codex 團(tuán)隊(duì)的任何人合作,請(qǐng)知道他們每一個(gè)人都非常出色。

發(fā)布前一晚,我們五個(gè)人熬夜到凌晨4 點(diǎn),試圖部署主單體系統(tǒng)(這是一個(gè)耗時(shí)數(shù)小時(shí)的過(guò)程)。然后我們又回到辦公室,準(zhǔn)備上午 8 點(diǎn)的發(fā)布公告和直播。我們開(kāi)啟了功能開(kāi)關(guān),開(kāi)始看到流量涌入。我從未見(jiàn)過(guò)一個(gè)產(chǎn)品僅僅出現(xiàn)在左側(cè)邊欄就能獲得如此迅速的增長(zhǎng),但這就是 ChatGPT 的力量。

在產(chǎn)品形態(tài)方面,我們最終確定了一種完全異步的形式。與當(dāng)時(shí)的Cursor(現(xiàn)在也支持類(lèi)似模式)或 Claude Code 等工具不同,我們的目標(biāo)是讓用戶能夠啟動(dòng)任務(wù),讓代理在自己的環(huán)境中運(yùn)行。我們的賭注是在最終階段,用戶應(yīng)該像對(duì)待同事一樣對(duì)待編碼代理:他們向代理發(fā)送信息,代理有時(shí)間完成工作,然后帶著一個(gè) PR 回來(lái)。

這有點(diǎn)像一場(chǎng)賭博:我們現(xiàn)在處于一個(gè)有些奇怪的狀態(tài),模型表現(xiàn)不錯(cuò),但還不算出色。它們可以連續(xù)工作幾分鐘,但還不能持續(xù)幾個(gè)小時(shí)。用戶對(duì)模型能力的信任程度差異很大。而且我們甚至還不清楚模型的真正能力到底有多強(qiáng)。

從長(zhǎng)遠(yuǎn)來(lái)看,我確實(shí)相信大多數(shù)編程將更像Codex。同時(shí),觀察所有產(chǎn)品如何展開(kāi)將會(huì)非常有趣。

Codex(也許并不令人意外)非常擅長(zhǎng)在大型代碼庫(kù)中工作,理解如何導(dǎo)航。與其他工具相比,我見(jiàn)過(guò)的最大區(qū)別是它能夠同時(shí)啟動(dòng)多個(gè)任務(wù)并比較它們的輸出。

我最近看到有公開(kāi)數(shù)據(jù)比較了不同LLM 代理提交的 PR 數(shù)量。僅從公開(kāi)數(shù)據(jù)來(lái)看,Codex 已經(jīng)生成了 63 萬(wàn)個(gè) PR。自發(fā)布以來(lái)的 53 天內(nèi),平均每位工程師提交了約 7.8 萬(wàn)個(gè)公開(kāi) PR(你可以自行推測(cè)私有 PR 的倍數(shù))。我不確定我這輩子是否曾參與過(guò)如此有影響力的項(xiàng)目。

離別感言

說(shuō)實(shí)話,我最初對(duì)加入OpenAI 感到有些擔(dān)憂。我不確定放棄自由、接受上司管理、成為龐大機(jī)器中一個(gè)微小部分的感覺(jué)會(huì)是怎樣。我一直低調(diào)地保密自己加入了,萬(wàn)一不合適的話。

我確實(shí)想從這次經(jīng)歷中獲得三樣?xùn)|西:

1、建立對(duì)模型訓(xùn)練方式及其能力發(fā)展方向的直覺(jué)理解

2、與杰出人才共事并學(xué)習(xí)

3、推出一款偉大的產(chǎn)品

回顧這一年,我認(rèn)為這是我做過(guò)的最明智的決定之一。很難想象在別處還能學(xué)到更多。

如果你是創(chuàng)始人,感覺(jué)你的初創(chuàng)公司真的沒(méi)有什么進(jìn)展,你應(yīng)該要么1)深入重新評(píng)估如何增加更多嘗試機(jī)會(huì),要么 2)去加入一家大型實(shí)驗(yàn)室。現(xiàn)在是一個(gè)極佳的創(chuàng)業(yè)時(shí)機(jī),同時(shí)也是洞察未來(lái)走向的絕佳時(shí)刻。

在我看來(lái),通向通用人工智能(AGI)的道路目前是一場(chǎng)三馬爭(zhēng)霸:OpenAI、Anthropic 和谷歌。每個(gè)組織都會(huì)根據(jù)自身的基因(面向消費(fèi)者、面向企業(yè)、堅(jiān)實(shí)的基礎(chǔ)設(shè)施加數(shù)據(jù))走不同的路徑。在其中任何一家工作都會(huì)是一次開(kāi)闊眼界的經(jīng)歷。

感謝Leah 在深夜時(shí)分給予極大的支持并承擔(dān)了大部分育兒工作。感謝 PW、GDB 和 Rizzo 給我這個(gè)機(jī)會(huì)。感謝 SA 團(tuán)隊(duì)的成員教我入門(mén):Andrew、Anup、Bill、Kwaz、Ming、Simon、Tony 和 Val。還要感謝 Codex 核心團(tuán)隊(duì)帶我經(jīng)歷了人生難忘的旅程:Albin、AE、Andrey、Bryan、Channing、DavidK、Gabe、Gladstone、Hanson、Joey、Josh、Katy、KevinT、Max、Sabrina、SQ、Tibo、TZ 和 Will。我永遠(yuǎn)不會(huì)忘記這次沖刺。

每當(dāng)有領(lǐng)導(dǎo)離職時(shí),人們很容易去解讀各種戲劇性事件,但我認(rèn)為其中大約70%的原因僅僅是這個(gè)事實(shí)。

我確實(shí)認(rèn)為我們正處于一個(gè)輕微的階段性變化。公司正在從外部大量招聘高級(jí)領(lǐng)導(dǎo)。我總體上支持這一點(diǎn),我認(rèn)為公司從注入新的外部基因中受益匪淺。

我感覺(jué),擴(kuò)展有史以來(lái)增長(zhǎng)最快的C端產(chǎn)品往往會(huì)鍛煉出強(qiáng)大的實(shí)力。

當(dāng)然,我們也是站在巨人的肩膀上。CaaS 團(tuán)隊(duì)、核心強(qiáng)化學(xué)習(xí)團(tuán)隊(duì)、人類(lèi)數(shù)據(jù)和通用應(yīng)用基礎(chǔ)設(shè)施使這一切成為可能。

我們也一直在堅(jiān)持。

幾周前我們看到Meta 有一些重要的招聘。xAI 推出了在基準(zhǔn)測(cè)試中表現(xiàn)出色的 Grok 4。Mira和 Ilya 都有很強(qiáng)的才華。也許這會(huì)改變局面(這些人很優(yōu)秀)。他們還有一些需要趕上的地方。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
蘭州戰(zhàn)役中一野損失多大?光沈家?guī)X一地,犧牲干部名單就觸目驚心

蘭州戰(zhàn)役中一野損失多大?光沈家?guī)X一地,犧牲干部名單就觸目驚心

丞丞故事匯
2026-01-15 13:44:57
李在明斬草除根不留活路,尹錫悅面臨死刑判決,在法庭上大笑出聲

李在明斬草除根不留活路,尹錫悅面臨死刑判決,在法庭上大笑出聲

娛樂(lè)小可愛(ài)蛙
2026-01-15 00:33:54
2-3爆大冷!皇馬新帥首秀翻車(chē)!西乙保級(jí)隊(duì)轟絕殺,身價(jià)相差百倍

2-3爆大冷!皇馬新帥首秀翻車(chē)!西乙保級(jí)隊(duì)轟絕殺,身價(jià)相差百倍

球叮足球
2026-01-15 16:08:10
化身嘆息之墻!U23亞洲杯小組賽撲救榜:李昊16次大幅領(lǐng)先

化身嘆息之墻!U23亞洲杯小組賽撲救榜:李昊16次大幅領(lǐng)先

懂球帝
2026-01-15 00:27:09
劉小明會(huì)見(jiàn)深圳市市長(zhǎng)覃偉中

劉小明會(huì)見(jiàn)深圳市市長(zhǎng)覃偉中

這里是儋州
2026-01-15 08:38:02
陜西煤老板破產(chǎn)8年后,女兒從國(guó)外來(lái)電:國(guó)外的房子你還要嗎

陜西煤老板破產(chǎn)8年后,女兒從國(guó)外來(lái)電:國(guó)外的房子你還要嗎

青青會(huì)講故事
2025-06-12 10:53:10
楊翼:申花引援還在繼續(xù)進(jìn)行,不排除新內(nèi)援加盟

楊翼:申花引援還在繼續(xù)進(jìn)行,不排除新內(nèi)援加盟

劉哥談體育
2026-01-15 14:45:16
一場(chǎng)大裁員正在席卷中國(guó)的銀行!金飯碗也不香了,究竟是什么原因

一場(chǎng)大裁員正在席卷中國(guó)的銀行!金飯碗也不香了,究竟是什么原因

墨蘭史書(shū)
2025-12-26 19:40:03
第二個(gè)烏克蘭出現(xiàn)了?特朗普突然變臉,美軍瞞天過(guò)海,普京被騙了

第二個(gè)烏克蘭出現(xiàn)了?特朗普突然變臉,美軍瞞天過(guò)海,普京被騙了

科普100克克
2026-01-14 16:27:43
金晨:是我不夠喜慶嗎?未接春晚邀請(qǐng)笑翻網(wǎng)友,兩度登臺(tái)名場(chǎng)面堪稱喜劇擔(dān)當(dāng)

金晨:是我不夠喜慶嗎?未接春晚邀請(qǐng)笑翻網(wǎng)友,兩度登臺(tái)名場(chǎng)面堪稱喜劇擔(dān)當(dāng)

草莓解說(shuō)體育
2026-01-15 14:01:02
汪圓圓回娘家給外婆祝壽,96歲外婆雍容華貴,仨外孫女都嫁入豪門(mén)

汪圓圓回娘家給外婆祝壽,96歲外婆雍容華貴,仨外孫女都嫁入豪門(mén)

樹(shù)娃
2026-01-10 10:54:09
韓世軍擔(dān)任青島市政府領(lǐng)導(dǎo)職務(wù),助力嶗山實(shí)驗(yàn)室發(fā)展

韓世軍擔(dān)任青島市政府領(lǐng)導(dǎo)職務(wù),助力嶗山實(shí)驗(yàn)室發(fā)展

靚仔情感
2026-01-15 15:11:57
意大利撕毀同中國(guó)簽訂的合約,本需賠償70億之巨,而今正為自己的違約行徑付出代價(jià)

意大利撕毀同中國(guó)簽訂的合約,本需賠償70億之巨,而今正為自己的違約行徑付出代價(jià)

老杉說(shuō)歷史
2026-01-13 19:04:11
天助國(guó)際米蘭:0-0大冷門(mén),意甲第4遭意甲第14逼平,落后榜首3分

天助國(guó)際米蘭:0-0大冷門(mén),意甲第4遭意甲第14逼平,落后榜首3分

側(cè)身凌空斬
2026-01-15 03:27:16
廣州突然要拼制造業(yè)了,說(shuō)明真的急了?

廣州突然要拼制造業(yè)了,說(shuō)明真的急了?

前沿天地
2026-01-15 02:08:29
樊振東告知上海體育局媒體報(bào)道捐款280萬(wàn)不完全符合事實(shí)讓刪視頻

樊振東告知上海體育局媒體報(bào)道捐款280萬(wàn)不完全符合事實(shí)讓刪視頻

阿纂看事
2026-01-15 09:55:46
回顧許家印被抓捕現(xiàn)場(chǎng),奮力反抗,怒吼不已,被抓捕人員抬出去

回顧許家印被抓捕現(xiàn)場(chǎng),奮力反抗,怒吼不已,被抓捕人員抬出去

干史人
2026-01-08 22:47:00
善惡到頭終有報(bào)!57歲央視女主持王小丫,已經(jīng)走上另一條大路。

善惡到頭終有報(bào)!57歲央視女主持王小丫,已經(jīng)走上另一條大路。

原夢(mèng)叁生
2026-01-13 00:39:49
劉備的妻子孫尚香,回到東吳之后又嫁給了誰(shuí)?說(shuō)出來(lái)你可別不信!

劉備的妻子孫尚香,回到東吳之后又嫁給了誰(shuí)?說(shuō)出來(lái)你可別不信!

銘記歷史呀
2025-12-29 00:24:20
終于疼了?日本前首相之女請(qǐng)求訪華,中國(guó)8字回應(yīng)讓高市徹底慌了

終于疼了?日本前首相之女請(qǐng)求訪華,中國(guó)8字回應(yīng)讓高市徹底慌了

百科密碼
2026-01-15 15:53:14
2026-01-15 16:32:49
劃重點(diǎn)KeyPoints incentive-icons
劃重點(diǎn)KeyPoints
追蹤全球AI科技,記錄中國(guó)硬核崛起
145文章數(shù) 15關(guān)注度
往期回顧 全部

科技要聞

阿里最狠的一次“自我革命”

頭條要聞

媒體:不論美國(guó)是否會(huì)立即攻打伊朗 中方態(tài)度相當(dāng)鮮明

頭條要聞

媒體:不論美國(guó)是否會(huì)立即攻打伊朗 中方態(tài)度相當(dāng)鮮明

體育要聞

棋圣千古!聶衛(wèi)平俠氣豪情寄國(guó)足 一生情緣亦成憾

娛樂(lè)要聞

傳奇棋圣聶衛(wèi)平離世,網(wǎng)友集體悼念

財(cái)經(jīng)要聞

央行下調(diào)結(jié)構(gòu)性貨幣政策工具利率0.25%

汽車(chē)要聞

今年推出超40款新車(chē),BBA要把失去的奪回來(lái)

態(tài)度原創(chuàng)

房產(chǎn)
家居
健康
公開(kāi)課
軍事航空

房產(chǎn)要聞

近60萬(wàn)㎡!2026?跇鞘,開(kāi)始大規(guī)模補(bǔ)貨!

家居要聞

自在自宅 個(gè)性自由

血常規(guī)3項(xiàng)異常,是身體警報(bào)!

公開(kāi)課

李玫瑾:為什么性格比能力更重要?

軍事要聞

美國(guó)已正式開(kāi)始出售委內(nèi)瑞拉石油

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版