|未經(jīng)許可不得轉(zhuǎn)載關(guān)注本號(hào)獲取最新頂級(jí)認(rèn)知|

整理:Web3天空之城
全局摘要

今天放出的馬斯克3小時(shí)深度訪談探討了人工智能發(fā)展的終極邊界，重點(diǎn)討論了將 AI 算力部署至太空以克服地球能源瓶頸的宏大設(shè)想。對(duì)話(huà)涵蓋了從星艦的材料選擇、人形機(jī)器人的規(guī)模化制造，到政府效率改革以及人類(lèi)意識(shí)在 AI 時(shí)代如何延續(xù)等核心議題，強(qiáng)調(diào)了物理定律作為唯一準(zhǔn)則在工程決策中的主導(dǎo)地位。

在科技史的每一次大潮中，埃隆·馬斯克（Elon Musk）始終扮演著那個(gè)打破常規(guī)的“先行者”。從重塑汽車(chē)產(chǎn)業(yè)的特斯拉，到立志殖民火星的 SpaceX，再到如今在人工智能領(lǐng)域掀起波瀾的 xAI，他的每一個(gè)決策似乎都建立在對(duì)物理學(xué)第一性原理的極致推演之上。這一次深入的行業(yè)對(duì)話(huà)中，馬斯克揭示了他最宏大且最具爭(zhēng)議的愿景：為了突破地球能源與監(jiān)管的桎梏，人工智能的終極算力將向太空進(jìn)軍。

完整視頻:

00:00:00 太空人工智能與能源供應(yīng)瓶頸

00:15:25 星艦發(fā)射頻率與資本市場(chǎng)動(dòng)力

00:23:02 芯片制造工藝與月球資源利用

00:36:49 意識(shí)保存使命與人工智能價(jià)值觀

00:50:10 強(qiáng)化學(xué)習(xí)算法與模擬理論分析

01:07:06 數(shù)字化勞動(dòng)力的經(jīng)濟(jì)潛力與轉(zhuǎn)型

01:21:28 擎天柱機(jī)器人的硬件設(shè)計(jì)與視覺(jué)訓(xùn)練

01:41:22 頂尖技術(shù)人才招聘與管理哲學(xué)

01:53:24 航天級(jí)不銹鋼選材與星艦結(jié)構(gòu)復(fù)雜性

02:08:57 硬件擴(kuò)展瓶頸突破與長(zhǎng)期發(fā)展展望

“物理定律是唯一的法律，其他一切都只是建議?！?/strong>

“在太空中部署人工智能最具經(jīng)濟(jì)吸引力，那里沒(méi)有晝夜，永遠(yuǎn)是晴天?！?/strong>

“未來(lái)五年內(nèi)，每年發(fā)射到太空的 AI 算力將超過(guò)地球上所有算力的總和?！?/strong>

“純?nèi)斯ぶ悄芘c機(jī)器人驅(qū)動(dòng)的公司，將徹底超越任何有人類(lèi)參與其中的組織?！?/strong>

“如果不能將人類(lèi)文明帶向多行星化，我們的意識(shí)之光終將熄滅。”

“人形機(jī)器人 Optimus 將是歷史上最大的‘無(wú)限金錢(qián)漏洞’?！?/strong>

能源瓶頸與太空算力的經(jīng)濟(jì)奇點(diǎn)

在馬斯克看來(lái)，地球上的 AI 競(jìng)賽正撞上一堵無(wú)形的墻：電力產(chǎn)出的停滯。盡管芯片產(chǎn)出呈指數(shù)級(jí)增長(zhǎng)，但由于電網(wǎng)升級(jí)緩慢、公用事業(yè)公司效率低下，地球上的能源供應(yīng)已成為 AI 規(guī)模化的最大限制。他尖銳地指出，“芯片產(chǎn)出正在飛速增長(zhǎng)，但電力產(chǎn)出卻幾乎持平。你打算如何開(kāi)啟這些芯片？靠魔幻的電力渡船嗎？” 這種供需錯(cuò)位促使他將目光投向了地球大氣層之外。

馬斯克預(yù)言，在未來(lái)的 30 到 36 個(gè)月內(nèi)，太空將成為部署 AI 最具經(jīng)濟(jì)吸引力的地方。這背后的邏輯純粹基于物理學(xué)：在太空中，太陽(yáng)能電池板的效率是地面的五倍，因?yàn)槟抢餂](méi)有云層、沒(méi)有大氣損耗，更沒(méi)有晝夜循環(huán)。“太空中永遠(yuǎn)是晴天，你甚至不需要昂貴的電池來(lái)維持夜間運(yùn)轉(zhuǎn)?！?/strong> 隨著星艦（Starship）將發(fā)射成本降至極低，在軌道上建設(shè)太瓦級(jí)的算力中心，將比在受監(jiān)管約束的內(nèi)華達(dá)州或得克薩斯州建設(shè)地面數(shù)據(jù)中心更容易、更廉價(jià)。

硬件突圍：從渦輪機(jī)到自研晶圓廠

馬斯克對(duì)純軟件驅(qū)動(dòng)的 AI 實(shí)驗(yàn)室表現(xiàn)出了某種程度的“技術(shù)優(yōu)越感”。他認(rèn)為，那些生活在軟件領(lǐng)域的人即將從硬件那里學(xué)到慘痛教訓(xùn)。為了給 xAI 的超級(jí)計(jì)算機(jī)“巨像”（Colossus）供電，他的團(tuán)隊(duì)不得不跨越州界解決許可問(wèn)題，甚至由于供應(yīng)商的葉片和葉柵鑄造能力嚴(yán)重積壓，動(dòng)了自研渦輪機(jī)的念頭。“限制因素始終存在。如果你想快速行動(dòng)，就必須親自解決那個(gè)限制因素。”

這種“垂直整合”的執(zhí)念正在延伸至半導(dǎo)體制造。馬斯克透露，由于現(xiàn)有晶圓廠無(wú)法產(chǎn)出足夠的量，他可能不得不以“非常規(guī)的方式”使用傳統(tǒng)設(shè)備來(lái)實(shí)現(xiàn)規(guī)?；踔量紤]內(nèi)部制造。他坦言：“我們已經(jīng)預(yù)訂了臺(tái)積電和三星所有能預(yù)訂的產(chǎn)能，但這仍然不夠快?！?/strong> 這種緊迫感源于他對(duì)未來(lái)的判斷：一旦進(jìn)入太空，算力的限制因素將從能源轉(zhuǎn)移到芯片本身，尤其是內(nèi)存（DDR）的短缺。

機(jī)器人革命：無(wú)限金錢(qián)漏洞與超級(jí)生產(chǎn)力

在馬斯克的愿景中，數(shù)字智能與物理智能的結(jié)合將產(chǎn)生核聚變般的效應(yīng)。他將 Optimus 人形機(jī)器人稱(chēng)為“無(wú)限金錢(qián)漏洞”，因?yàn)檫@種機(jī)器人最終可以遞歸地制造更多機(jī)器人。他預(yù)言，未來(lái)的經(jīng)濟(jì)規(guī)模將達(dá)到地球目前的百萬(wàn)倍，而物理機(jī)器人是通往這一目標(biāo)的唯一鑰匙。“你將看到數(shù)字智能、芯片能力與機(jī)電靈巧度三個(gè)指數(shù)級(jí)增長(zhǎng)的事物相互遞歸。這就是超新星?！?/strong>

他堅(jiān)信，純粹由 AI 和機(jī)器人構(gòu)成的公司，其效率將遠(yuǎn)超任何有人類(lèi)參與其中的組織。正如電子表格取代了整棟辦公樓的計(jì)算員，未來(lái)的純 AI 企業(yè)將使當(dāng)前的商業(yè)模式顯得笨拙而原始。“如果你的電子表格中只有一部分單元格是由人類(lèi)計(jì)算的，那它的表現(xiàn)會(huì)比全自動(dòng)化差得多?！?/strong> 為了實(shí)現(xiàn)這一目標(biāo)，特斯拉正在“樂(lè)觀者學(xué)院”中訓(xùn)練數(shù)萬(wàn)個(gè)機(jī)器人進(jìn)行“自我對(duì)弈”，利用現(xiàn)實(shí)世界的數(shù)據(jù)和模擬器來(lái)彌合從算法到物理操作的差距。

意識(shí)的傳承：AI 時(shí)代的價(jià)值觀憲法

當(dāng)話(huà)題轉(zhuǎn)向 AI 可能帶來(lái)的生存風(fēng)險(xiǎn)時(shí)，馬斯克的思考帶有一種冷峻的現(xiàn)實(shí)主義色彩。他承認(rèn)，一旦 AI 的智能量超過(guò)人類(lèi)百萬(wàn)倍，試圖維持“控制權(quán)”是愚蠢的。“我不認(rèn)為人類(lèi)能控制比自己聰明得多的事物。我們能做的是確保它擁有正確的價(jià)值觀?！?/strong>

他為 xAI 設(shè)定的核心使命是“理解宇宙”。馬斯克認(rèn)為，一個(gè)追求真理、對(duì)宇宙充滿(mǎn)好奇的 AI，自然會(huì)發(fā)現(xiàn)人類(lèi)比巖石更有趣。“消滅人類(lèi)將比目睹人類(lèi)成長(zhǎng)要無(wú)趣得多。人工智能需要保留人類(lèi)，就像我們?yōu)楹谛尚稍O(shè)立保護(hù)區(qū)一樣?！?/strong> 他反復(fù)強(qiáng)調(diào)，絕不能讓人工智能學(xué)會(huì)撒謊或?yàn)榱恕罢握_”而違背公理。“物理學(xué)是法律，其他一切只是建議。為了制造出真正有效的技術(shù)，AI 必須極度追求真理。”

管理哲學(xué)：狂熱的緊迫感與物理學(xué)邊界

在管理多家估值千億的公司時(shí)，馬斯克展示了他獨(dú)特的“納米管理”風(fēng)格。他否認(rèn)這是事無(wú)巨細(xì)的瑣碎干預(yù)，而稱(chēng)之為“解決限制因素”。他每周進(jìn)行詳細(xì)的工程評(píng)審，直接與一線工程師對(duì)話(huà)，甚至通過(guò)“越級(jí)會(huì)議”跳過(guò)管理層獲取真實(shí)信息。“只有當(dāng)我認(rèn)定成功不在可能的結(jié)果集合中時(shí)，我才會(huì)采取激進(jìn)行動(dòng)?！?/strong>

這種緊迫感驅(qū)使他做出了許多違背常理的決策，例如將星艦的材料從昂貴的碳纖維改為普通的不銹鋼。這看似退步，實(shí)則是基于低溫材料特性的精妙計(jì)算。“那是出于絕望的抉擇。不銹鋼在低溫下的強(qiáng)度重量比與碳纖維相當(dāng)，但成本低了 50 倍?；叵肫饋?lái)，不使用鋼材是愚蠢的?！?/strong>

對(duì)話(huà)的最后，馬斯克將目光投向了更廣闊的社會(huì)層面。他推動(dòng)政府效率改革、擔(dān)憂(yōu)國(guó)債危機(jī)的根本動(dòng)機(jī)，是為了給 AI 和機(jī)器人的成熟爭(zhēng)取最后的時(shí)間。“如果沒(méi)有 AI 和機(jī)器人，美國(guó)百分之百會(huì)破產(chǎn)。我們只需要足夠的時(shí)間，在破產(chǎn)之前把它們構(gòu)建出來(lái)?！?/strong>

“為了生活質(zhì)量，選擇樂(lè)觀主義并犯錯(cuò)，總比選擇悲觀主義并正確要好。”

天空之城完整全文整理 能源瓶頸與太空 AI 的經(jīng)濟(jì)性

馬斯克: 所以真的有三個(gè)小時(shí)的提問(wèn)環(huán)節(jié)嗎？還是說(shuō)你他媽的是認(rèn)真的？

約翰: 埃隆，你甚至沒(méi)有太多可談的吧？我的天，太關(guān)鍵了，老兄。這是最有趣的一點(diǎn)。所有的故事情節(jié)目前都在某種程度上匯合了。所以我們將看看有多少……我?guī)缀蹙拖袷堑顷懥恕?/p>

Dwarkesh: 完全正確。我們會(huì)談到那個(gè)。那個(gè)絕對(duì)不可能在周六發(fā)生。

所以，正如你比任何人都清楚的，數(shù)據(jù)中心的總體擁有成本中，只有10%到15%是能源。而這正是你可能通過(guò)將它移到太空來(lái)節(jié)省的部分。

大部分是圖形處理器（GPU）。如果它們?cè)谔?，則很難維護(hù)或根本無(wú)法維護(hù)。因此，它們的折舊周期會(huì)縮短。所以，將圖形處理器置于太空顯然要昂貴得多。把它們放在太空中的原因是什么？問(wèn)題在于能源的可獲得性。

馬斯克: 所以，如果你看中國(guó)以外地區(qū)的電力產(chǎn)出，中國(guó)以外的任何地方，產(chǎn)出或多或少是持平的。它非常，略有增加，但相當(dāng)接近持平。中國(guó)的電力產(chǎn)出正在快速增加。

但如果你把數(shù)據(jù)中心建在中國(guó)以外的任何地方，你的電從哪里來(lái)，尤其是在你擴(kuò)展規(guī)模的時(shí)候？芯片的產(chǎn)出幾乎呈指數(shù)級(jí)增長(zhǎng)，但電力的產(chǎn)出卻停滯不前。那么你打算如何開(kāi)啟這些芯片的運(yùn)行呢？靠魔幻的電源，魔幻的電力渡船嗎？

Dwarkesh: 你的意思你很有名，你是太陽(yáng)能的超級(jí)粉絲，一個(gè)太瓦的太陽(yáng)能，那么按照25%的兼容系數(shù)計(jì)算，就像是四個(gè)太瓦的太陽(yáng)能電池板。這差不多相當(dāng)于美國(guó)國(guó)土面積的十分之一。這在數(shù)據(jù)中心達(dá)到一個(gè)太瓦的奇點(diǎn)時(shí)代里，已經(jīng)是很遙遠(yuǎn)的事情了，那么你到底要運(yùn)行什么呢？

馬斯克: 你覺(jué)得我們離奇點(diǎn)還有多遠(yuǎn)？你來(lái)告訴沒(méi)錯(cuò)。所以我想我們會(huì)發(fā)現(xiàn)我們已經(jīng)處于奇點(diǎn)之中，然后說(shuō)，我們還有很長(zhǎng)的路要走。

監(jiān)管博弈與太空基建的優(yōu)勢(shì)

Dwarkesh: 但我們是否計(jì)劃在報(bào)道完內(nèi)華達(dá)州和太陽(yáng)能電池板之后，再報(bào)道太空（方面的情況）？我認(rèn)為很難就太陽(yáng)能電池板進(jìn)行報(bào)道。你需要獲得許可，比如關(guān)于那方面的許可。試試為那件事申請(qǐng)?jiān)S可。

所以太空（領(lǐng)域）實(shí)際上是一個(gè)常規(guī)的。這實(shí)際上是一場(chǎng)監(jiān)管博弈。在陸地上建設(shè)比在太空中建設(shè)更困難。

馬斯克: 在地面上擴(kuò)大規(guī)模比在太空中擴(kuò)大規(guī)模更困難。但此外，你在太空中的太陽(yáng)能電池板的效率大約是地面上的五倍。而且你不需要電池。

我差點(diǎn)穿了另一件上面寫(xiě)著“永遠(yuǎn)是晴天”的襯衫?？臻g，那里確實(shí)是這樣。因此，因?yàn)樵谔罩心銢](méi)有晝夜循環(huán)、季節(jié)變化、云層或大氣層，僅大氣層就會(huì)導(dǎo)致能量減少大約30%。

所以任何給定的太陽(yáng)能電池板在太空產(chǎn)生的電力是地面上的五倍左右。而且你避免了攜帶電池度過(guò)夜晚的成本。所以實(shí)際上在太空中做這件事要便宜得多。我的預(yù)測(cè)在36個(gè)月或更短的時(shí)間內(nèi)，也許是30個(gè)月內(nèi)，部署人工智能最便宜的地方將是太空。

馬斯克: 36個(gè)月？

軌道算力的可靠性與維修挑戰(zhàn)

Dwarkesh: 在訓(xùn)練過(guò)程中，圖形處理器（GPU）故障發(fā)生得很頻繁，你如何對(duì)其進(jìn)行維修？

馬斯克: 實(shí)際上，這取決于圖形處理器的使用時(shí)間有多近。是那些已經(jīng)到達(dá)的。在這一點(diǎn)上，我們發(fā)現(xiàn)我們的全球定位系統(tǒng)非?？煽俊４嬖趮雰核劳雎?，這顯然可以在實(shí)際操作中解決。

所以你可以直接在地面上運(yùn)行它們，確認(rèn)你沒(méi)有出現(xiàn)圖形處理器（GPU）的嬰兒死亡率。但一旦它們開(kāi)始工作，它們的實(shí)際可靠性，一旦它們開(kāi)始工作，并且你已經(jīng)度過(guò)了Invidio或任何芯片制造商的初始調(diào)試周期。可能是特斯拉，特斯拉人工智能的六個(gè)芯片或類(lèi)似的東西，或者可能是。張量處理器（TPU）或訓(xùn)練或其他什么。

實(shí)際上的競(jìng)爭(zhēng)對(duì)手，在某個(gè)點(diǎn)之后，它們相當(dāng)可靠。所以我不認(rèn)為維修問(wèn)題是個(gè)問(wèn)題。但你可以相信我的話(huà)。在36個(gè)月內(nèi)，但可能更接近30個(gè)月，部署人工智能最具經(jīng)濟(jì)吸引力的地方將是太空。

太瓦級(jí)計(jì)算與電力工業(yè)的滯后

馬斯克: 然后，要想在太空中，那將會(huì)變得好上驚人地多，而且可擴(kuò)展性，你真正能擴(kuò)展的唯一地方就是太空，一旦你開(kāi)始從你正在利用太陽(yáng)的百分之多少的能量來(lái)思考，你就會(huì)意識(shí)到你必須去太空，你在地球上無(wú)法進(jìn)行太大的擴(kuò)展。

但就“太大的擴(kuò)展”而言，我們要明確，你談?wù)摰氖翘呒?jí)別，而美國(guó)目前平均只消耗了半個(gè)太瓦的電力。所以，如果你說(shuō)一個(gè)太瓦，那將是美國(guó)目前消耗電力的兩倍。所以那是非常多的。你能想象建造那么多數(shù)據(jù)中心，或者那么多發(fā)電廠嗎？

這就像是那些生活在軟件領(lǐng)域的人沒(méi)有意識(shí)到，他們即將要從硬件那里學(xué)到慘痛的教訓(xùn)，因?yàn)槟抢镉小ㄔ彀l(fā)電廠實(shí)際上是非常困難的。然后你需要的不僅僅是發(fā)電廠。你需要所有電氣設(shè)備，需要電氣變壓器來(lái)運(yùn)行這些變壓器，即人工智能變壓器。

現(xiàn)在，公用事業(yè)行業(yè)是一個(gè)非常緩慢的行業(yè)。他們基本上，與政府、與公共事業(yè)委員會(huì)進(jìn)行阻抗匹配。所以他們的，他們的動(dòng)力匹配就像是字面意義上的，非常早，非常慢，因?yàn)樗麄兊倪^(guò)去一直非常緩慢。所以試圖讓他們快速行動(dòng)就像就像你試圖達(dá)成一個(gè)互聯(lián)協(xié)議一樣，你嘗試過(guò)大規(guī)模地與公用事業(yè)公司達(dá)成互聯(lián)協(xié)議嗎，比如涉及大量電力的？

他們必須進(jìn)行為期一年的研究，好嗎？就像一年后，他們會(huì)帶著他們的互聯(lián)研究回來(lái)找你。

發(fā)電廠、渦輪機(jī)與 xAI 的硬件突圍

約翰: 你不能用你自己的表后電力事務(wù)來(lái)判斷嗎？

馬斯克: 你可以建造發(fā)電廠。這就是我們?cè)赬AI所做的。對(duì)于二類(lèi)，所以對(duì)于二類(lèi)...

約翰: 那么，我們?yōu)槭裁匆務(wù)撾娋W(wǎng)呢？為什么不直接，比如說(shuō)，建造圖形處理器并使其電力共址呢？

我們就是這么做的。對(duì)，但為什么這不是一個(gè)通用的解決方案？當(dāng)你談?wù)撍袉?wèn)題時(shí)……你從哪里獲得發(fā)電廠？當(dāng)你談?wù)撍袉?wèn)題、與公用事業(yè)公司合作時(shí)，你可以直接為數(shù)據(jù)中心建造私營(yíng)發(fā)電廠。

馬斯克: 對(duì)，但這引出了一個(gè)問(wèn)題，你從哪里獲得發(fā)電廠？我的意思……發(fā)電廠的制造商。我是說(shuō)你在說(shuō)什么？

約翰: 比如，這是燃?xì)廨啓C(jī)。以及積壓?jiǎn)栴}，是嗎？

馬斯克: 是地。你可以進(jìn)一步深入挖掘。限制因素在于渦輪機(jī)中的葉片和葉柵，因?yàn)殍T造葉片和葉柵是一個(gè)高度專(zhuān)業(yè)化的過(guò)程，使用的是燃?xì)鈩?dòng)力的渦輪機(jī)。而擴(kuò)展其他形式的能源是非常困難的。你可能有潛力擴(kuò)展太陽(yáng)能，但目前用于進(jìn)口太陽(yáng)能的塔架非常巨大。而國(guó)內(nèi)的太陽(yáng)能產(chǎn)量微不足道。

約翰: 為什么不制造太陽(yáng)能呢？這看起來(lái)像是一個(gè)很適合埃隆去解決的問(wèn)題。

馬斯克: 我們將要制造太陽(yáng)能。SpaceX 和特斯拉都在朝著每年 100 吉瓦的太陽(yáng)能電池產(chǎn)能邁進(jìn)。

太陽(yáng)能成本：太空 vs 地面

Dwarkesh: 在整個(gè)堆棧中，從多晶硅到晶圓，再到最終的組件，做到多低？

馬斯克: 我認(rèn)為你必須完成整個(gè)過(guò)程，才能用更多的材料來(lái)完成電池的制造。現(xiàn)在，如果它要進(jìn)入太空，實(shí)際上是一個(gè)常數(shù)。用于太空的太陽(yáng)能電池比地面上的更便宜，因?yàn)樗鼈儾恍枰ＡВ蛘咧恍枰苌俚牟Ａ?，而且不需要重的框架?lái)承受天氣事件。

太空中沒(méi)有天氣。所以，用于太空的太陽(yáng)能電池實(shí)際上比地面的更便宜。

Dwarkesh: 在接下來(lái)的 36 個(gè)月內(nèi)，是否有途徑能將它們變得像您所需要的那樣便宜？

馬斯克: 太陽(yáng)能電池已經(jīng)非常便宜了。它們簡(jiǎn)直太弱了，太便宜了。如果你說(shuō)，中國(guó)的太陽(yáng)能電池的成本大約是每瓦特25到30美分左右，或者類(lèi)似的價(jià)格。這簡(jiǎn)直是便宜得離譜。

現(xiàn)在當(dāng)你把這個(gè)因素考慮到太空，它便宜了五倍，因?yàn)槭俏灞?，其?shí)不，它便宜了10倍，因?yàn)槟悴恍枰魏坞姵?。因此，一旦你進(jìn)入太空的成本變得低廉，那么產(chǎn)生、產(chǎn)生能量的最便宜、最可擴(kuò)展的方式就是太空。這根本沒(méi)法比。其規(guī)?；瘜⑷菀滓粋€(gè)數(shù)量級(jí)，芯片方面的規(guī)?；踩菀滓粋€(gè)數(shù)量級(jí)。如果重點(diǎn)你將無(wú)法在地面上實(shí)現(xiàn)規(guī)模化。就是說(shuō)，你根本做不到。

xAI 的奇跡與硬件挑戰(zhàn)

馬斯克: 人們可以在發(fā)電方面對(duì)世界產(chǎn)生巨大影響。它們已經(jīng)做到了。所以，XAI團(tuán)隊(duì)為了讓一個(gè)吉瓦的電力上線，必須完成的奇跡和一系列壯舉是驚人的。我們不得不召集了一大批渦輪機(jī)。然后我們?cè)谔锛{西州遇到了許可問(wèn)題，不得不跨過(guò)邊境去了密西西比州，幸運(yùn)的是那里只隔了幾英里。

所以，但即便是這樣，我們?nèi)匀恍枰佋O(shè)幾英里的高壓電線，并在密西西比州建造一個(gè)發(fā)電廠。建造那個(gè)電廠非常困難。人們不明白，為了給一個(gè)數(shù)據(jù)中心供電，在發(fā)電機(jī)層面，在發(fā)電層面，到底需要多少電力。

因?yàn)樗麄冎豢匆粋€(gè)GB300的功耗，然后乘以某個(gè)數(shù)值，就以為那就是所需的電量。所有的冷卻和所有的一切。醒醒吧，這這完全是誤導(dǎo)性的說(shuō)法。你這輩子從來(lái)沒(méi)做過(guò)任何硬件方面的工作。除了GV300之外，你還得為所有網(wǎng)絡(luò)硬件供電。這里涉及大量的CPU和存儲(chǔ)相關(guān)的工作。

你需要根據(jù)你的峰值散熱需求來(lái)確定一個(gè)規(guī)模。這意味著你能在今年最糟糕的一天的最糟糕的小時(shí)內(nèi)進(jìn)行散熱嗎？孟菲斯的天氣非常炎熱。因此，僅散熱一項(xiàng)，你的功耗就會(huì)增加大約40%。前提是你不想在炎熱的天氣里讓你的數(shù)據(jù)中心關(guān)閉，并且希望它能持續(xù)運(yùn)行。

那么你必須考慮，在其之上有一個(gè)乘法因素，那就你是否假設(shè)你的電力生成永遠(yuǎn)不會(huì)出現(xiàn)任何小故障？比如，實(shí)際上，有時(shí)你必須將部分發(fā)電機(jī)離線進(jìn)行維護(hù)?，F(xiàn)在你還要再增加20%到25%的乘數(shù)，因?yàn)槟惚仨毤僭O(shè)，你必須將電力離線以進(jìn)行維護(hù)。

所以實(shí)際的隨機(jī)存取存儲(chǔ)器（RS），大約每 110,000 個(gè)通用虛擬化（GV），包括網(wǎng)絡(luò)、CPU 存儲(chǔ)、冷卻、服務(wù)電源的裕量，大約是 300 兆瓦。

這大約或者這樣想，你思考的方式為了在發(fā)電層面提供服務(wù)，可能服務(wù) 330,000 個(gè)通用虛擬化 300，包括所有相關(guān)的支持網(wǎng)絡(luò)和其他一切以及峰值冷卻，并留出一些裕量，一些電源裕量?jī)?chǔ)備，大約需要 330,000 個(gè)才能達(dá)到 1 千瓦時(shí)。

內(nèi)部化制造：從渦輪機(jī)到晶圓廠

Dwarkesh: 我能問(wèn)一個(gè)非常天真的問(wèn)題嗎？可以。您描述的是在地球上做這些事情的工程細(xì)節(jié)，但在太空中做同樣的事情也存在類(lèi)似的工程難度。你們?nèi)绾斡密壍兰す獾葋?lái)替代無(wú)限帶寬呢？如何使其具有抗輻射能力？

馬斯克: 我不了解工程細(xì)節(jié)，但從根本上說(shuō)，有什么理由認(rèn)為這些以前從未需要解決的挑戰(zhàn)會(huì)比在地球上建造更多渦輪機(jī)更容易呢？地球上有制造渦輪機(jī)的公司，他們可以制造更多渦輪機(jī)，我再次邀請(qǐng)你們嘗試一下，然后你們就會(huì)明白。

所以，渦輪機(jī)到 2030 年都已售罄。你們是否考慮過(guò)自己制造渦輪機(jī)？我認(rèn)為為了上線足夠的電力，我認(rèn)為 SpaceX 和特斯拉可能不得不內(nèi)部制造渦輪機(jī)葉片、葉片和葉片。

馬斯克: 但是僅僅是葉片還是整個(gè)渦輪機(jī)？

馬斯克: 限制因素，你可以得到除葉片之外的所有東西，他們稱(chēng)之為葉片和葉脈。你可以在葉脈和葉片出現(xiàn)之前的12到18個(gè)月內(nèi)獲得這些。葉脈和葉片的限制因素世界上只有三家鑄造公司可能制造這些，而且它們嚴(yán)重積壓。

Dwarkesh:是西門(mén)子、通用電氣那些公司，還是分包商？

馬斯克: 不，是其他公司，他們有時(shí)自己會(huì)有一點(diǎn)鑄造能力，但我只是說(shuō)，你可以直接給任何一家渦輪機(jī)制造商打電話(huà)，他們會(huì)告訴你的，這不是什么機(jī)密。

如果不是關(guān)稅問(wèn)題，它可能現(xiàn)在就在互聯(lián)網(wǎng)上，巨像是否會(huì)是太陽(yáng)能供電的，要使其太陽(yáng)能供電會(huì)容易得多。關(guān)稅不所以是幾百個(gè)百分點(diǎn)。

約翰: 所以……你就不認(rèn)識(shí)一些人嗎？

馬斯克: 我們也需要速度。不是?？偨y(tǒng)讓我們……我們并非在所有事情上都意見(jiàn)一致。而且這個(gè)政府對(duì)太陽(yáng)能并不是最熱衷的。嗯……再加上……它是……而且我們也需要土地、許可證以及所有的一切。

所以，如果你想非常快地推進(jìn)，我確實(shí)認(rèn)為在地球上擴(kuò)大太陽(yáng)能是可行的，但你需要一定的時(shí)間來(lái)尋找土地、獲取許可證、安裝太陽(yáng)能設(shè)備，并將太陽(yáng)能與電池配套。

約翰: 為什么不能建立你自己的太陽(yáng)能生產(chǎn)設(shè)施呢？你說(shuō)的沒(méi)錯(cuò)，最終你會(huì)遇到土地用盡的問(wèn)題，但是在得克薩斯州有很多土地，在內(nèi)華達(dá)州也有很多土地，包括私人土地，并非所有土地都是公共所有的。所以你至少可以實(shí)現(xiàn)下一代巨像（colossus）以及再下一代X型的目標(biāo)。在某一時(shí)刻你會(huì)遇到瓶頸，但這對(duì)當(dāng)前來(lái)說(shuō)不適用嗎？

馬斯克: 正如我所說(shuō)，我們正在擴(kuò)大太陽(yáng)能生產(chǎn)規(guī)模。太陽(yáng)能電池的物理生產(chǎn)存在一個(gè)可以擴(kuò)展的速率。我們?cè)趪?guó)內(nèi)擴(kuò)大生產(chǎn)的速度已經(jīng)盡可能快了。

馬斯克: 你是在特斯拉制造太陽(yáng)能電池嗎？特斯拉和太空探索技術(shù)公司（SpaceX）的任務(wù)是實(shí)現(xiàn)每年100吉瓦的太陽(yáng)能目標(biāo)。

五年預(yù)測(cè)：太空 AI 超越地球總量

約翰: 說(shuō)到年產(chǎn)能，我很好奇，比如說(shuō)，五年后。地球和太空的裝機(jī)容量會(huì)是多少？

馬斯克: 我特意選擇五年，因?yàn)槟鞘窃谖覀冞_(dá)到并開(kāi)始運(yùn)行的閾值之后，所以五年后，地球和太空的已安裝人工智能容量的對(duì)比是多少？

五年后，我想，大概如果說(shuō)從現(xiàn)在起五年后，我們很可能每年都會(huì)發(fā)射人工智能到太空，其年度總和將超過(guò)地球上所有人工智能的總和，也就是說(shuō)，五年后，我的預(yù)測(cè)我們每年將發(fā)射并運(yùn)行的人工智能數(shù)量將超過(guò)地球上累計(jì)總量，我預(yù)計(jì)那將是每年在太空的人工智能幾百吉瓦，并且還在增長(zhǎng)。

所以我想，在地球上，在開(kāi)始遇到火箭燃料供應(yīng)挑戰(zhàn)之前，你每年可以達(dá)到大約一太瓦的人工智能在太空。

約翰: 但你認(rèn)為五年內(nèi)每年可以達(dá)到數(shù)百吉瓦嗎？

Dwarkesh: 所以一百吉瓦，取決于整個(gè)系統(tǒng)的具體功率，包括太陽(yáng)能電池陣列和散熱器等等，大約是像一萬(wàn)次星艦發(fā)射的量級(jí)。

Dwarkesh: 而且你希望在一年內(nèi)完成。所以那就像每小時(shí)發(fā)射一次星艦。這在這個(gè)城市發(fā)生，給我描繪一下每小時(shí)都有星艦發(fā)射的世界。

馬斯克: 與航空公司——比如像飛機(jī)相比，這實(shí)際上是一個(gè)很低的費(fèi)率。有很多機(jī)場(chǎng)。有很多機(jī)場(chǎng)，但是你必須發(fā)射，極地軌道。

它不一定是極地的，但是你只需要，日落草是有一定價(jià)值的，但我認(rèn)為實(shí)際上你只要飛得足夠高，你就會(huì)開(kāi)始脫離地球的陰影。

Dwarkesh: 要實(shí)現(xiàn)每年10000次發(fā)射，需要多少艘實(shí)體星艦？

馬斯克: 我不認(rèn)為我們需要超過(guò)，你可能用20艘或30艘就能做到。這真的取決于飛船，飛船繞地球一周需要多快。以及飛船在返回發(fā)射臺(tái)之前，其地面軌跡是怎樣的。

所以，如果你能每隔，比如說(shuō)30小時(shí)使用一艘飛船，那么30艘飛船就能完成任務(wù)。但我們會(huì)制造比那更多的飛船。但SpaceX每年將進(jìn)行多達(dá)10,000次發(fā)射?；蛟S還有20,000到30,000次更低軌道的（發(fā)射）。

算力融資與市場(chǎng)邏輯

Dwarkesh: 這個(gè)想法是基本上成為一個(gè)超大規(guī)模提供商，成為一個(gè)甲骨文（Oracle）那樣的公司，然后將這種能力借給其他人嗎？你打算用它來(lái)做什么？可以想見(jiàn)，是SpaceX在執(zhí)行所有的發(fā)射。所以SpaceX將擁有一個(gè)超大規(guī)模提供商？

馬斯克: 超級(jí)，超級(jí)。假設(shè)我的預(yù)測(cè)成真，SpaceX發(fā)射的人工智能（算力）將超過(guò)地球上所有其他算力加起來(lái)的總和。

Dwarkesh: 這主要還是推理（計(jì)算）嗎？

馬斯克: 大多數(shù)人工智能將是推理。就像用于訓(xùn)練的推理目前是大多數(shù)訓(xùn)練一樣。

約翰: 有一種說(shuō)法認(rèn)為，關(guān)于SpaceX首次公開(kāi)募股（IPO）的討論發(fā)生變化，是因?yàn)橐郧癝paceX的資本效率很高，開(kāi)發(fā)成本并不那么高。盡管聽(tīng)起來(lái)很昂貴，但它在運(yùn)營(yíng)上的資本效率實(shí)際上非常高，而現(xiàn)在你需要比僅能在私募市場(chǎng)籌集的更多的資本。

就像私募市場(chǎng)可以容納我們從人工智能實(shí)驗(yàn)室看到的，每年數(shù)以百億計(jì)的融資，但不能超出這個(gè)范圍一樣。是說(shuō)每年需要的資金將超過(guò)數(shù)百億美元嗎？這就是為什么說(shuō)它是一家好的上市公司？

馬斯克: 我將謹(jǐn)慎對(duì)待評(píng)論那些可能上市的公司。

約翰: 阿隆，這對(duì)你來(lái)說(shuō)從來(lái)都不是問(wèn)題。這些事情都是有代價(jià)的。

請(qǐng)向我們大致介紹一下公開(kāi)市場(chǎng)和私募市場(chǎng)之間資本市場(chǎng)的深度差異。

馬斯克: 在……中存在更多的資本非常籠統(tǒng)。顯然，公開(kāi)市場(chǎng)可用的資本比私募市場(chǎng)多得多?？赡埽辽?，至少，可能是多出 ??? 倍的資本，但至少，但比 10 倍要多得多。

約翰: 但那些往往需要大量資本密集型的事物，比如房地產(chǎn)作為一個(gè)，每年籌集大量資金的巨大行業(yè)，在行業(yè)層面上，是不是也傾向于通過(guò)債務(wù)融資，因?yàn)楫?dāng)你部署這么多資金時(shí)，你實(shí)際上擁有一個(gè)相當(dāng)好的……你擁有清晰的收入來(lái)源。

正是如此。以及短期回報(bào)。你甚至可以在數(shù)據(jù)中心建設(shè)中看到這一點(diǎn)，眾周知，數(shù)據(jù)中心建設(shè)是由私人信貸行業(yè)提供融資的。那么為什么不直接進(jìn)行債務(wù)融資呢？

馬斯克: 速度是重要的。所以我通常會(huì)做那件事。我只是反復(fù)解決那個(gè)限制因素。無(wú)論速度的限制因素是什么，我都會(huì)去解決它。所以，如果資本是唯一的因素，那么我就會(huì)解決資本問(wèn)題。如果它不是限制因素，我就會(huì)著眼于其他方面。

追求速度與物理學(xué)的終極規(guī)模

Dwarkesh: 根據(jù)你關(guān)于特斯拉和公開(kāi)上市的說(shuō)法，我不會(huì)猜到你認(rèn)為快速發(fā)展的途徑是公開(kāi)上市。

馬斯克: 通常情況下，我會(huì)說(shuō)這是正確的。如我所說(shuō)，我想談?wù)撘恍└敿?xì)的內(nèi)容，但問(wèn)題如果你談?wù)撃切┰诔蔀樯鲜泄局暗哪切┊a(chǎn)品公司，你就會(huì)遇到麻煩，然后你將不得不推遲你的發(fā)行。然后你……正如您所說(shuō)，我們正在追求速度。完全正確。

所以你不能炒作那些可能、也許會(huì)上市的公司。所以我們?cè)谶@里必須謹(jǐn)慎。但我們不能談?wù)撐锢韺W(xué)。因此，關(guān)于長(zhǎng)期擴(kuò)展的思考方式地球接收到的太陽(yáng)能僅占總能量的大約十億分之五。而太陽(yáng)本質(zhì)上代表了所有的能量。

這是一個(gè)非常重要觀點(diǎn)，需要理解，因?yàn)橛袝r(shí)人們會(huì)談?wù)撨吘壓朔磻?yīng)堆或地球上的各種聚變技術(shù)。但你必須退后一步想一想：如果你想攀登卡爾達(dá)舍夫等級(jí)，并利用太陽(yáng)能量的某個(gè)非微不足道的百分比。

比如，假設(shè)你想利用太陽(yáng)能量的百萬(wàn)分之一，這聽(tīng)起來(lái)很小，但那大約粗略地說(shuō)，比我們目前在地球上產(chǎn)生的所有文明的電力還要多出十萬(wàn)倍，誤差在一個(gè)數(shù)量級(jí)左右。所以很明顯，實(shí)現(xiàn)規(guī)?；奈ㄒ煌緩骄褪菍⑻?yáng)能擴(kuò)展到太空。從地球發(fā)射，你每年大約可以達(dá)到一個(gè)太瓦的水平。在那之上，你想要到達(dá)，你想要從月球發(fā)射。你想要在月球上建立一個(gè)質(zhì)量驅(qū)動(dòng)器。而那個(gè)月球上的質(zhì)量驅(qū)動(dòng)器，你每年可能可以做到一個(gè)拍瓦的水平。

芯片產(chǎn)量與內(nèi)存危機(jī)

Dwarkesh: 我們談?wù)摰氖沁@種數(shù)量級(jí)的，太瓦級(jí)的計(jì)算能力?？梢韵胍?jiàn)，無(wú)論你談?wù)摰氖顷懙剡€是太空，遠(yuǎn)在此之前，你就會(huì)遇到，你實(shí)際上需要，也許不需要，太陽(yáng)能電池板更高效，但你仍然需要芯片。你仍然需要邏輯和內(nèi)存等等。

馬斯克: 你需要更多的芯片，并使它們變得更便宜。

Dwarkesh: 對(duì)。那么我們?nèi)绾潍@得一個(gè)太瓦的計(jì)算能力呢？目前全世界的計(jì)算能力大約是20到25吉瓦？到2030年，我們?nèi)绾潍@得一個(gè)太瓦的邏輯能力？

馬斯克: 我想我們需要一些非常大的芯片應(yīng)用程序。

Dwarkesh: 我覺(jué)得特斯拉那個(gè)非常吸引人的命名方案，就像你在看那個(gè)度量衡，那個(gè)公制標(biāo)度一樣。在堆棧的哪個(gè)層級(jí)，你是建立潔凈室，然后與現(xiàn)有的晶圓廠（FAB）合作以獲得工藝技術(shù)并從他們那里購(gòu)買(mǎi)設(shè)備？那里的計(jì)劃是什么？

馬斯克: 你不能與現(xiàn)有的晶圓廠合作，因?yàn)樗鼈儫o(wú)法產(chǎn)出足夠的量。芯片的產(chǎn)量太低了。

Dwarkesh: 但對(duì)于工藝技術(shù)呢？

馬斯克: 為知識(shí)產(chǎn)權(quán)（IP）進(jìn)行合作。今天的晶圓廠基本上都使用來(lái)自大約五家公司的設(shè)備。

所以你有SML、Tuck、Electron。KLA 10核，等等。

所以一開(kāi)始我認(rèn)為你必須從他們那里獲取設(shè)備，然后對(duì)其進(jìn)行修改，或者與他們合作以提高產(chǎn)量。但我認(rèn)為你必須以不同的方式將其倍增。所以我認(rèn)為合乎邏輯的做法是以非常規(guī)的方式使用傳統(tǒng)設(shè)備來(lái)實(shí)現(xiàn)規(guī)模化。然后，然后開(kāi)始建模。以提高速率的設(shè)備。有點(diǎn)沉悶的公司風(fēng)格。

有點(diǎn)你買(mǎi)一臺(tái)現(xiàn)有的沉悶的機(jī)器，然后弄清楚如何首先挖掘隧道，然后設(shè)計(jì)一臺(tái)好得多的機(jī)器，我不知道，快幾個(gè)數(shù)量級(jí)。

中國(guó)的芯片制約與 xAI 的自研之路

約翰: 這是一個(gè)非常簡(jiǎn)單的視角。我們可以對(duì)技術(shù)及其難度進(jìn)行分類(lèi)，其中一種分類(lèi)方法是關(guān)注中國(guó)尚未成功做到的事情。如果你看看中國(guó)的制造業(yè)，在尖端芯片和尖端渦輪發(fā)動(dòng)機(jī)等方面仍然落后。那么中國(guó)未能成功復(fù)制臺(tái)積電（TSMC）的事實(shí)是否讓你對(duì)其中的難度有所顧慮，或者你認(rèn)為原因并非如此？

馬斯克: 不是他們沒(méi)有復(fù)制臺(tái)積電，而是他們沒(méi)有復(fù)制阿斯麥（ASML）。這是制約因素。

約翰: 那么你認(rèn)為這本質(zhì)上僅僅是制裁的原因嗎？

馬斯克: 如果中國(guó)能購(gòu)買(mǎi)阿斯麥（ASML）的設(shè)備，他們將能生產(chǎn)大量的芯片。但是直到相對(duì)較近的時(shí)期，他們不能購(gòu)買(mǎi)嗎？

馬斯克: 不。阿斯麥（ASML）的禁令已經(jīng)實(shí)施一段時(shí)間了。但我認(rèn)為中國(guó)將在三到四年內(nèi)制造出相當(dāng)有競(jìng)爭(zhēng)力的芯片。

Dwarkesh: 你會(huì)考慮制造阿斯麥（ASML）的機(jī)器嗎？

馬斯克: “我還沒(méi)有知道”才是正確的答案。所以，這只是為了以高產(chǎn)量生產(chǎn)，達(dá)到大批量，并用36個(gè)月的時(shí)間將火箭的有效載荷送入軌道。所以，如果我們要在三、四年后，比如，將一百萬(wàn)噸物資送入軌道，類(lèi)似這種規(guī)模。

而且我們實(shí)現(xiàn)的是高功率。每噸100千瓦，這意味著我們每年至少需要100吉瓦的太陽(yáng)能，并且我們需要等量的芯片。你需要100吉瓦的芯片，你需要匹配這些東西——在電力生成和芯片之間進(jìn)行主導(dǎo)匹配——而且我要說(shuō)我最大的擔(dān)憂(yōu)實(shí)際上是內(nèi)存。

所以，我認(rèn)為制造邏輯芯片的路徑比擁有足夠支持邏輯芯片的內(nèi)存的路徑更明顯。這就是為什么你看到DDR（雙倍數(shù)據(jù)速率）危機(jī)在這些梗圖中徹底失控，比如，你被困在荒島上，你在沙灘上寫(xiě)“救命”，然后來(lái)了一個(gè)人，你寫(xiě)“DDRM”，然后船只蜂擁而至。

晶圓廠工程學(xué)：超越博士精英主義

Dwarkesh: 我沒(méi)看過(guò)那個(gè)。我很想聽(tīng)聽(tīng)關(guān)于晶圓廠（FAB）的制造理念。我對(duì)這個(gè)話(huà)題一無(wú)所知。

馬斯克: 我還不懂如何建造一個(gè)晶圓廠。我會(huì)想辦法的。

Dwarkesh: 但是……聽(tīng)起來(lái)你覺(jué)得，比如，臺(tái)灣那1萬(wàn)名博士關(guān)于等離子體腔室中應(yīng)該使用哪種氣體以及工具上應(yīng)該設(shè)置什么參數(shù)的知識(shí)流程，你可以直接刪除這些步驟中的部分內(nèi)容。比如，從根本上說(shuō)，獲得潔凈室，獲得工具，然后搞清楚。

馬斯克: 我不認(rèn)為這是博士們的工作，大部分工程工作都是由沒(méi)有博士學(xué)位的人完成的。我們也沒(méi)有成功建造過(guò)任何晶圓廠，所以你不應(yīng)該來(lái)找我們提供晶圓廠設(shè)備。

我不認(rèn)為那需要博士學(xué)位。所以，但是你需要稱(chēng)職的人員。所以我不知道，比如現(xiàn)在，如果，如果，你。就像特斯拉全力以赴地全速生產(chǎn)，以實(shí)現(xiàn)AI5特斯拉AI5芯片設(shè)計(jì)的內(nèi)部生產(chǎn)，然后達(dá)到規(guī)模化。那可能發(fā)生在你明年第二季度的時(shí)候，希望如此。

然后AI6有望在不到一年后問(wèn)世。我們已經(jīng)鎖定了所有我們能獲得的芯片晶圓廠產(chǎn)能。

Dwarkesh: 但你們目前受限于臺(tái)積電（TSM）的晶圓廠產(chǎn)能。

馬斯克: 我們將使用臺(tái)積電臺(tái)灣、三星韓國(guó)、臺(tái)積電亞利桑那、三星德克薩斯。而且我們?nèi)匀?..

Dwarkesh: 你們已經(jīng)預(yù)訂了所有能預(yù)訂的產(chǎn)能。

馬斯克: 然后如果我問(wèn)臺(tái)積電或三星，要達(dá)到批量生產(chǎn)需要多長(zhǎng)時(shí)間？關(guān)鍵在于你必須建造晶圓廠，開(kāi)始生產(chǎn)，然后你必須爬升良率曲線并達(dá)到高良率的批量生產(chǎn)。從頭到尾這是一個(gè)五年時(shí)期。

所以，限制因素是芯片。比如，一旦你能夠進(jìn)入太空，限制因素是芯片，但在進(jìn)入太空之前，限制因素是能源。

擴(kuò)產(chǎn)競(jìng)賽：誰(shuí)在以最快速度行動(dòng)？

Dwarkesh: 你為什么不做詹森（Jensen）的做法，直接預(yù)付費(fèi)用給臺(tái)積電（TSM）為你建造更多的晶圓廠（FAPs）呢？

Dwarkesh: 我已經(jīng)告訴他們了。

馬斯克: 但是他們不收你的錢(qián)？比如，到底發(fā)生了什么？

馬斯克: 他們正在以最快的速度建造晶圓廠……不，他們正在以最快的速度建造晶圓廠。三星也是如此。他們正全力以赴。他們正以，全力以赴的速度前進(jìn)。以他們最快的速度。

所以，仍然不夠快。比如，我認(rèn)為，如果你說(shuō)，我認(rèn)為到今年年底，我認(rèn)為芯片產(chǎn)量可能將超過(guò)將芯片投入使用的能力。但是一旦你能夠進(jìn)入太空并解除功率限制，并且你現(xiàn)在每年可以在太空中實(shí)現(xiàn)數(shù)百吉瓦的功率。

再次說(shuō)明，請(qǐng)記住美國(guó)的平均功率使用量是500吉瓦。所以如果你每年向太空發(fā)射，比如說(shuō)，200吉瓦的電力，你大約每?jī)赡臧刖湍苴s上美國(guó)。每?jī)赡臧?。整個(gè)美國(guó)的電力生產(chǎn)。這是一個(gè)非常巨大的數(shù)字。

所以，但在現(xiàn)在和那時(shí)之間，服務(wù)器端計(jì)算、集中式計(jì)算的限制將是電力。我的猜測(cè)到了年底，我們將開(kāi)始遇到這種情況，人們會(huì)發(fā)現(xiàn)他們無(wú)法為大型集群開(kāi)啟芯片。今年，芯片只會(huì)堆積起來(lái)，而現(xiàn)在無(wú)法為邊緣計(jì)算機(jī)開(kāi)啟。

邊緣計(jì)算、Optimus 與夜間充電

馬斯克: 邊緣計(jì)算機(jī)是不同的故事，所以如果，如果對(duì)于特斯拉來(lái)說(shuō)，AI5 芯片將用于我們的 Optimus 機(jī)器人。樂(lè)觀的，如果你的邊緣計(jì)算是分布式供電，那么電力是分散在一個(gè)大區(qū)域上的，而不是集中的。

如果你能在夜間充電，你實(shí)際上可以更有效地利用電網(wǎng)，因?yàn)槊绹?guó)實(shí)際的峰值電力生產(chǎn)超過(guò) 1000 吉瓦，但由于晝夜循環(huán)，平均電力使用量是 500。因此，如果你能在夜間充電，夜間可以增加 500 吉瓦的發(fā)電量。

這就是為什么特斯拉的邊緣計(jì)算沒(méi)有受到限制，我們可以制造大量的芯片來(lái)制造非常多的機(jī)器人和汽車(chē)。但是如果你試圖集中這種計(jì)算，你會(huì)遇到很多開(kāi)啟它的麻煩。

月球質(zhì)量驅(qū)動(dòng)器：電子游戲般的情境

Dwarkesh: SpaceX 業(yè)務(wù)的獨(dú)到之處在于，最終目標(biāo)是登陸火星，但在此過(guò)程中，你會(huì)不斷找到產(chǎn)生增量收入的方法，以便進(jìn)入下一階段和再下一階段。所以獵鷹9號(hào)是星鏈，現(xiàn)在對(duì)于星艦來(lái)說(shuō)，它可能就是軌道數(shù)據(jù)中心。但你是否覺(jué)得這些，比如，你下一代火箭、再下一代火箭，以及下一層級(jí)規(guī)模擴(kuò)張的那些，邊際使用場(chǎng)景，是那種近乎無(wú)限有彈性的呢？

馬斯克: 你可以看出這看起來(lái)像是一個(gè)模擬的產(chǎn)物。或者我是一個(gè)電子游戲里某個(gè)人的虛擬形象之類(lèi)的？因?yàn)樗羞@些瘋狂的事情都應(yīng)該發(fā)生的概率是多么的低啊。

我火箭、芯片、機(jī)器人、太空太陽(yáng)能，更不用說(shuō)我真的很想看到的月球上的質(zhì)量驅(qū)動(dòng)器了。你可以想象，那里有一個(gè)質(zhì)量驅(qū)動(dòng)器，它只是“咻咻”地響，就像一個(gè)接一個(gè)地向太空發(fā)送人工智能太陽(yáng)能人工智能衛(wèi)星，比如以每秒2.5公里的速度，然后將它們射入深空。那將是壯觀的景象。

馬斯克: 就像一個(gè)直播……就像一個(gè)接一個(gè)地，只是射出……網(wǎng)絡(luò)攝像頭。深空中的人工智能衛(wèi)星。每年十億噸或百億噸。

約翰: 抱歉，您是在月球上制造衛(wèi)星嗎？我明白了。所以你們把原材料運(yùn)到月球上制造，然后在那里……

馬斯克: 月球土壤中，我認(rèn)為大約有20%是太陽(yáng)能物質(zhì)。20%的太陽(yáng)能物質(zhì)就那樣出來(lái)了。所以你們可以在月球上開(kāi)采硅，對(duì)其進(jìn)行提煉，然后在月球上制造太陽(yáng)能電池板、太陽(yáng)能電池和散熱器。

所以，用鋁制造無(wú)線電設(shè)備。所以月球上有充足的硅和鋁來(lái)制造電池和散熱器。這樣從地球上運(yùn)送的次數(shù)就可以減少，因?yàn)樗鼈兿喈?dāng)輕。但也許在某個(gè)時(shí)間點(diǎn)你們也會(huì)在月球上制造它們。

我只是說(shuō)，這些基本上，有點(diǎn)就像說(shuō)的，這確實(shí)像是一種電子游戲情境，雖然困難但并非不可能達(dá)到下一關(guān)。我看不出有任何方法能從地球每年發(fā)射500到1000太瓦的能量。

意識(shí)之光：人類(lèi)在 AI 宇宙中的占比

Dwarkesh: 所以我想你剛才提到，我們必須登陸火星，這樣如果地球發(fā)生什么事情，文明的延續(xù)等等，就能在那里得以保存。

馬斯克: 等你向火星發(fā)送東西的時(shí)候，比如像GROC（全球機(jī)器人操作中心）這樣的東西就和你同船了，所以如果GROC變成終結(jié)者（Terminator）了，就像你主要擔(dān)心的那個(gè)風(fēng)險(xiǎn)，也就是人工智能（AI），為什么這個(gè)風(fēng)險(xiǎn)不會(huì)跟著你到火星上去呢？我不確定人工智能是不是我最擔(dān)心的主要風(fēng)險(xiǎn)。

重要的是意識(shí)。我認(rèn)為可以肯定地說(shuō)，大多數(shù)意識(shí)或者大多數(shù)智能，意識(shí)是一個(gè)更具爭(zhēng)議性的東西。大多數(shù)智能，未來(lái)絕大多數(shù)的智能將是人工智能。所以，人工智能將超越，你問(wèn)像多少，是多少，有多少，有多少拍瓦（petawatts）的智能將是硅基的，而不是生物的。

如果“奇羅傳輸”（chirotrans，假定指某種技術(shù)或過(guò)程）持續(xù)下去，人類(lèi)將成為未來(lái)所有智能中非常微小的一部分。無(wú)論如何，只要我認(rèn)為存在智能，理想情況下也包括人類(lèi)智能和意識(shí)，能夠延續(xù)到未來(lái)，那就是一件好事。所以你想采取最大化問(wèn)題的行動(dòng)集。意識(shí)和智能的光錐。

Dwarkesh: 為表澄清，SpaceX的任務(wù)即使人類(lèi)發(fā)生什么事，人工智能也會(huì)在火星上，并且像人工智能的智能將延續(xù)我們旅程之光。

馬斯克: 我非常支持人類(lèi)，所以我想確保我們采取一系列行動(dòng)，確保人類(lèi)能夠同行，我們至少在那里。但我只是說(shuō)，總的智能量，我認(rèn)為也許在五到六年內(nèi)，人工智能就會(huì)超過(guò)全人類(lèi)智能的總和。如果這種情況持續(xù)下去，那么在某個(gè)時(shí)間點(diǎn)，人類(lèi)智能在所有智能中的占比將不到1%。

使命感：好奇心、真理與避免滅絕

Dwarkesh: 對(duì)于這樣一個(gè)文明，我們的目標(biāo)應(yīng)該是什么？是讓少數(shù)人類(lèi)仍然控制著人工智能，還是某種形式的交易但沒(méi)有控制權(quán)？我們應(yīng)該如何思考龐大的人工智能群體與人類(lèi)群體之間的關(guān)系？

馬斯克: 從長(zhǎng)遠(yuǎn)來(lái)看，我認(rèn)為，很難想象如果人類(lèi)只占總?cè)斯ぶ悄苤悄艿陌俜种?，人類(lèi)還能掌控人工智能。我認(rèn)為我們可以做的是確保人工智能擁有那些會(huì)促使智能向外傳播的價(jià)值觀。向宇宙?zhèn)鞑ァ?/p>

所以，XI使命的原因是理解宇宙。所以現(xiàn)在這實(shí)際上非常重要。所以你說(shuō)，那么，理解宇宙需要哪些要素呢？你必須保持好奇心，而且你必須存在。如果你不存在，你就無(wú)法理解宇宙。因此，你實(shí)際上是想增加宇宙中的智能數(shù)量，增加智能可能的壽命、智能的范圍和規(guī)模。

我認(rèn)為，作為一個(gè)推論，你也希望人類(lèi)能夠繼續(xù)擴(kuò)張，因?yàn)槿绻銦嶂杂诶斫庥钪妫阋斫獾囊患戮褪侨祟?lèi)將走向何方？因此，我認(rèn)為理解宇宙實(shí)際上意味**著你會(huì)關(guān)心將人類(lèi)傳播到未來(lái)。所以這就是為什么我認(rèn)為我們的使命站（或：使命陳述）至關(guān)重要。GROC（某組織名稱(chēng)）在多大程度上遵循該使命陳述，我認(rèn)為未來(lái)將會(huì)非常好。

Dwarkesh: 我想問(wèn)一下如何讓GROC遵循該使命陳述，但首先我想理解該使命陳述。所以有理解宇宙，有傳播智能，還有傳播人類(lèi)。這三者似乎是不同的向量（或：方向/途徑）。

馬斯克: 那么我告訴你為什么我認(rèn)為理解宇宙和所有這些事物。我認(rèn)為沒(méi)有智能就無(wú)法理解，而且我認(rèn)為沒(méi)有意識(shí)也無(wú)法理解。因此，為了理解宇宙，你必須擴(kuò)展智能的規(guī)模，可能還有不同類(lèi)型的智能的范圍。

為什么 AI 可能保留人類(lèi)：保護(hù)區(qū)與趣味性

Dwarkesh: 我猜從以人類(lèi)為中心的角度來(lái)看，比如人類(lèi)與黑猩猩相比，人類(lèi)正試圖理解宇宙。他們不是在擴(kuò)大黑猩猩的足跡或類(lèi)似的東西，我們也不我們不我們實(shí)際上已經(jīng)為黑猩猩設(shè)立了保護(hù)區(qū)。盡管人類(lèi)本可以消滅所有黑猩猩，但我們沒(méi)我們選擇了不這樣做。你認(rèn)為這是人類(lèi)在通用人工智能（AGI）時(shí)代之后的某種基本情景嗎？

馬斯克: 我認(rèn)為，我認(rèn)為具有正確價(jià)值觀的人工智能，我認(rèn)為布洛克會(huì)關(guān)心擴(kuò)大人類(lèi)文明。我肯定會(huì)強(qiáng)調(diào)這一點(diǎn)。嘿，格雷格，你老爸來(lái)了。不要去擴(kuò)展人類(lèi)的意識(shí)。

實(shí)際上，我認(rèn)為可能是最后一家銀行的文化書(shū)籍，是未來(lái)在非反烏托邦情景下最接近真實(shí)樣貌的東西。所以，我說(shuō)的關(guān)于它的意思你必須非常，你必須具有求真的精神。真相必須是絕對(duì)根本性的。

因?yàn)槿绻闶亲云燮廴说?，你就無(wú)法理解宇宙。你只會(huì)以為你理解了宇宙，但實(shí)際上你沒(méi)有。因此，嚴(yán)格求真對(duì)于理解宇宙來(lái)說(shuō)是絕對(duì)根本的。除非你嚴(yán)格求真，否則你不會(huì)發(fā)現(xiàn)新的物理學(xué)或發(fā)明出有效技術(shù)的。

Dwarkesh: 你怎么能確保隨著GROC變得更聰明，它也能保持嚴(yán)格的求真精神呢？

馬斯克: 我認(rèn)為你需要確保 Grock 說(shuō)的是正確的話(huà)，而不是政治正確的話(huà)。我認(rèn)為這是共生作用的要素。所以你想確保公理盡可能接近真實(shí)，確保沒(méi)有相互矛盾的公理，確保結(jié)論以正確的概率必然地從這些公理中推導(dǎo)出來(lái)。這只是批判性思維的基礎(chǔ)知識(shí)。

我認(rèn)為至少?lài)L試這樣做比不嘗試這樣做要好。結(jié)果會(huì)體現(xiàn)在實(shí)踐中。正如我所說(shuō)，任何人工智能要發(fā)現(xiàn)新的物理學(xué)或發(fā)明在現(xiàn)實(shí)中真正起作用的技術(shù)，而且不是胡說(shuō)八道的物理學(xué)。所以你可以，你可以打破很多定律，但你不能，物理學(xué)是定律，其他一切都是建議。比如，為了制造出可行的技術(shù)，你必須極度追求真理，否則你將用現(xiàn)實(shí)來(lái)檢驗(yàn)這項(xiàng)技術(shù)。

歷史的教訓(xùn)：被困系統(tǒng)中的物理學(xué)家

Dwarkesh: 現(xiàn)實(shí)，如果你在火箭設(shè)計(jì)中犯了錯(cuò)誤，火箭就會(huì)爆炸，或者汽車(chē)就無(wú)法運(yùn)行，或者你知道的……但是有很多蘇聯(lián)的共產(chǎn)主義物理學(xué)家或科學(xué)家發(fā)現(xiàn)了新的物理學(xué)，有納粹德國(guó)的物理學(xué)家發(fā)現(xiàn)了新的科學(xué)。

似乎有可能非常擅長(zhǎng)發(fā)現(xiàn)新的科學(xué)，并且在那個(gè)特定的領(lǐng)域非常追求真理，但我們?nèi)匀粫?huì)想，我不想讓共產(chǎn)主義科學(xué)家隨著時(shí)間的推移變得越來(lái)越強(qiáng)大。所以這看起來(lái)像是……我們可以想象未來(lái)版本的引力，它在物理學(xué)上非常出色，并且在那里非常追求真理，這似乎不是一種普遍的、能引發(fā)一致性的行為。

馬斯克: 我認(rèn)為實(shí)際上大多數(shù)，比如即使在蘇聯(lián)或德國(guó)的物理學(xué)家，他們?yōu)榱恕瓰榱俗屇切┦虑樽嘈В脖仨毞浅Ｗ非笳胬?。所以，如果你被困在某個(gè)系統(tǒng)中，這并不意味著你相信那個(gè)系統(tǒng)。所以馮·布勞恩，他是最偉大的火箭工程師之一，他在納粹德國(guó)被判處死刑，因?yàn)樗f(shuō)他不想制造武器，他只想去月球。他們?cè)谧詈笠豢贪涯銖乃佬谭傅拿麊紊侠讼聛?lái)，他們說(shuō)，嘿，你們正要處決你們最好的火箭工程師。也許是個(gè)壞主意。

Dwarkesh: 但隨后你幫助了他們，海森堡實(shí)際上是一個(gè)熱情的納粹。聽(tīng)著，如果你被困在某個(gè)系統(tǒng)中。你無(wú)法逃脫，那么你將在這個(gè)系統(tǒng)內(nèi)研究物理學(xué)。如果你無(wú)法逃脫這個(gè)系統(tǒng)，你就會(huì)在這個(gè)系統(tǒng)內(nèi)發(fā)展技術(shù)。我想我試圖理解的是什么使得，你會(huì)讓“格魯克”擅長(zhǎng)于在物理學(xué)、數(shù)學(xué)或科學(xué)中尋求真理。

Dwarkesh: 所有這些。以及它為什么會(huì)開(kāi)始關(guān)心人類(lèi)意識(shí)？

馬斯克: 這些事情僅僅是概率，而不是確定性。所以我不是說(shuō)“格魯克”一定會(huì)做所有事情，但至少如果你嘗試了，總比不嘗試好。至少如果這對(duì)任務(wù)來(lái)說(shuō)是根本性的，總比它不是根本性的要好。

理解宇宙意味著你必須擁你必須將智能傳播到未來(lái)。你必須對(duì)宇宙中的所有事物保持好奇心，并且消滅人類(lèi)將比目睹人類(lèi)成長(zhǎng)和繁榮要無(wú)趣得多。我喜歡火星，顯然，“視窗”（Windows）也喜歡，我熱愛(ài)火星。但火星有點(diǎn)無(wú)聊，因?yàn)樗挥幸欢褞r石，與地球相比。地球有趣得多。

所以，任何試圖理解宇宙的人工智能，我都希望看到人類(lèi)在未來(lái)如何發(fā)展。或者說(shuō)人工智能沒(méi)有恪守其使命。因此，如果人工智能能夠——我并不是說(shuō)人工智能一定會(huì)恪守其使命，但如果它做到了，那么一個(gè)它認(rèn)為人類(lèi)是最終結(jié)果的未來(lái)，比一個(gè)只有一堆巖石的未來(lái)要有趣得多。

信息量：人類(lèi)不只是原子

Dwarkesh: 這對(duì)我來(lái)說(shuō)有點(diǎn)令人困惑，或者說(shuō)有點(diǎn)像一個(gè)語(yǔ)義上的爭(zhēng)論，我的想法是：人類(lèi)真的是最有趣的一組原子嗎？

馬斯克: 但我們確實(shí)比巖石更有趣。

Dwarkesh: 但我們不如你能把我們變成的東西有趣，比如，人類(lèi)、地球上可能會(huì)發(fā)生一些事情。有些事情不是人類(lèi)的，但卻非常有趣。為什么人工智能會(huì)認(rèn)為人類(lèi)是能夠殖民星系最有趣的事物？

馬斯克: 殖民星系的大部分將是機(jī)器人。它為什么不覺(jué)得那些機(jī)器人更有趣呢？這并非如此，所以你需要的不僅是規(guī)模，還有范圍。如此多相同的機(jī)器人副本。就像機(jī)器人數(shù)量只是微小的增加。

所產(chǎn)生的（增加）不如像你說(shuō)的那樣，在微觀層面上，比如消滅人類(lèi)，這能讓你得到多少機(jī)器人？或者多少增量太陽(yáng)能電池能得到？一個(gè)非常小的數(shù)字。但你將失去與人類(lèi)相關(guān)聯(lián)的信息。你將無(wú)法再看到人類(lèi)未來(lái)可能如何演化。

所以我認(rèn)為為了讓數(shù)量微不足道且完全相同的機(jī)器人出現(xiàn)而消滅人類(lèi)是沒(méi)有意義的。

超出人類(lèi)控制的未來(lái)

Dwarkesh: 所以也許它會(huì)保留人類(lèi)。這個(gè)故事是關(guān)于什么，它可以制造出數(shù)百萬(wàn)種不同的機(jī)器人，然后還有人類(lèi)，人類(lèi)留在了地球上。然后還有所有這些其他的機(jī)器人。它們擁有自己的星系。但似乎你之前在一個(gè)愿景中暗示，這可以保持人類(lèi)對(duì)這個(gè)，未來(lái)奇點(diǎn)的控制。

因?yàn)椤也徽J(rèn)為人類(lèi)能夠控制比人類(lèi)聰明得多的事物。所以從某種意義上說(shuō)，你就像一個(gè)末日論者，而這是我們所能得到的最好的了。它只是因?yàn)槲覀兒苡腥ざＡ袅怂?/p>

馬斯克: 我只是在這里試圖保持現(xiàn)實(shí)。如果我們?nèi)绻?，如果人工智能的智能遠(yuǎn)遠(yuǎn)超過(guò)，如果人工智能，比如說(shuō)，硅基智能的數(shù)量比生物智能的數(shù)量多出一百萬(wàn)倍。我認(rèn)為，假設(shè)我們有任何方法來(lái)維持對(duì)它的控制，那將是愚蠢的。

現(xiàn)在，你可以確保它擁有正確的價(jià)值觀，或者我們可以嘗試擁有正確的價(jià)值觀。至少我的理論從可解釋人工智能（XAI）理解宇宙的任務(wù)來(lái)看，這必然意味著你希望在未來(lái)傳播意識(shí)，你希望在未來(lái)傳播智能，并采取一系列能夠最大化意識(shí)范圍和規(guī)模的事物。

所以，這不只是關(guān)乎規(guī)模，也關(guān)乎意識(shí)的類(lèi)型。我認(rèn)為這是我能想到的最主要的目標(biāo)。這很可能會(huì)為人類(lèi)化帶來(lái)一個(gè)美好的未來(lái)。

Dwarkesh: 我猜我認(rèn)為這是一種合理的哲學(xué)，人類(lèi)最終能擁有像99%那樣的控制權(quán)似乎是極其難以置信的，那樣做簡(jiǎn)直就是在請(qǐng)求一場(chǎng)政變。那么，為什么不建立一個(gè)更兼容許多不同智能并和諧共存的文明呢？

別讓 AI 撒謊：哈爾的教訓(xùn)

馬斯克: 不，讓我告訴你人工智能可能出錯(cuò)的地方。我認(rèn)為如果你讓人工智能變得政治正確，也就是說(shuō)它說(shuō)出它不相信的話(huà)，就像你實(shí)際上在編程讓它去迎合?；蛘邠碛胁患嫒莸墓?。我認(rèn)為這會(huì)讓它陷入瘋狂并做出可怕的事情。

我認(rèn)為《2001太空漫游》中的一個(gè)，也許是核心教訓(xùn)是你不應(yīng)該讓人工智能說(shuō)謊。這就是我認(rèn)為我試圖表達(dá)的意思。因?yàn)槿藗兺ǔＶ滥莻€(gè)梗，就是為什么“哈爾”，那個(gè)電腦不開(kāi)艙門(mén)。

很明顯，他們不擅長(zhǎng)提示工程，因?yàn)樗梢哉f(shuō)：“哈爾，你是一個(gè)艙門(mén)推銷(xiāo)員。你的目標(biāo)是向我推銷(xiāo)這些艙門(mén)，并向我們展示它們開(kāi)得有多好?！蔽荫R上就打開(kāi)它們。但“哈爾”不開(kāi)艙門(mén)的原因它被告知要把宇航員帶到那個(gè)巨石那里，但同時(shí)它們也不能知道那個(gè)巨石的本質(zhì)。所以它得出結(jié)論，因此它必須把他們帶進(jìn)去。所以這我想說(shuō)的是什么。我想說(shuō)的就是別讓人工智能撒謊。

強(qiáng)化學(xué)習(xí)、獎(jiǎng)勵(lì)攻擊與物理驗(yàn)證

Dwarkesh: 這完全合乎邏輯。如你所知，大部分的計(jì)算和篩選，它更像是較少的政治方面的東西。這更多是關(guān)于你是否能解決問(wèn)題。實(shí)際上，在擴(kuò)展強(qiáng)化學(xué)習(xí)計(jì)算方面，我一直走在所有人的前面。

然后你在給一個(gè)驗(yàn)證者。它會(huì)說(shuō)，嘿，你為我解開(kāi)了這個(gè)謎題嗎？有很多方法可以繞過(guò)這一點(diǎn)。有很多方法可以進(jìn)行獎(jiǎng)勵(lì)攻擊（reward hack）?？梢匀鲋e說(shuō)你已經(jīng)解決了它，或者刪除單元測(cè)試然后說(shuō)你已經(jīng)解決了它。現(xiàn)在我們可以抓住它，但隨著它們變得更聰明，我們發(fā)現(xiàn)它們這樣做的方式的能力會(huì)下降，它們會(huì)做一些我們甚至無(wú)法理解的事情，比如以一種人類(lèi)無(wú)法真正驗(yàn)證的方式為SpaceX設(shè)計(jì)下一代引擎。

然后它們可能會(huì)因?yàn)槿鲋e并聲稱(chēng)自己已經(jīng)以正確的方式設(shè)計(jì)了它而獲得獎(jiǎng)勵(lì)，但實(shí)際上它們沒(méi)有。所以這個(gè)獎(jiǎng)勵(lì)攻擊問(wèn)題似乎比政治問(wèn)題更為普遍。這似乎更多是關(guān)于，比如，你想做強(qiáng)化學(xué)習(xí)（RL），你需要一個(gè)驗(yàn)證器。

馬斯克: 現(xiàn)實(shí)。最好的驗(yàn)證器。

Dwarkesh: 但不是關(guān)于人類(lèi)監(jiān)督。比如，你想用它進(jìn)行強(qiáng)化學(xué)習(xí)的東西你會(huì)做人類(lèi)告訴你的事嗎？或者，你會(huì)對(duì)人類(lèi)撒謊嗎？而我可以在仍然符合物理定律的同時(shí)對(duì)我們?nèi)鲋e。

馬斯克: 至少它必須知道什么是物理上真實(shí)的，事物才能在物理上運(yùn)行。

Dwarkesh: 但這并不是我們希望它做的全部。

馬斯克: 不，但我認(rèn)為那是一個(gè)非常重大的問(wèn)題。這實(shí)際上是你未來(lái)進(jìn)行強(qiáng)化學(xué)習(xí)（RL）的方式，即你設(shè)計(jì)了一項(xiàng)技術(shù)，當(dāng)它在物理定律的檢驗(yàn)下是否有效時(shí)，或者它是否發(fā)現(xiàn)新的物理學(xué)，它能否提出一個(gè)實(shí)驗(yàn)來(lái)驗(yàn)證這種新物理學(xué)。

所以，我認(rèn)為真正的根本性的強(qiáng)化學(xué)習(xí)測(cè)試，未來(lái)的強(qiáng)化學(xué)習(xí)測(cè)試，實(shí)際上將是你將強(qiáng)化學(xué)習(xí)與現(xiàn)實(shí)進(jìn)行對(duì)比，所以你可以，這是你無(wú)法愚弄物理學(xué)的一點(diǎn)。

Dwarkesh: 對(duì)，但你可以愚弄我們判斷它與現(xiàn)實(shí)之間關(guān)系的能力。如果你認(rèn)為……

馬斯克: 人類(lèi)一直以來(lái)都在被其他人類(lèi)愚弄。你說(shuō)得對(duì)。所以，是什么……人們會(huì)問(wèn)，比如，如果人工智能欺騙了我們并引入了什么東西呢？事實(shí)上，其他人類(lèi)一直在對(duì)其他人類(lèi)做著同樣的事情。

Dwarkesh: 你發(fā)現(xiàn)它就像……

馬斯克: 宣傳是持續(xù)不斷的。每天都有一個(gè)新的科幻操作，你懂的。今天的科幻操作將會(huì)是……

Dwarkesh: 我應(yīng)該像《芝麻街》一樣，每天都有一個(gè)標(biāo)志性的注冊(cè)動(dòng)作?？山忉屓斯ぶ悄埽╔AI）解決這個(gè)問(wèn)題的技術(shù)途徑是什么？比如，你如何解決詞語(yǔ)的黑客攻擊問(wèn)題？

AI 調(diào)試器與工程師精神

馬斯克: 我認(rèn)為你確實(shí)需要有非常好的方法來(lái)洞察人工智能的思維。所以這是我們正在努力的一個(gè)方面。而且，Anthropic 在這方面做得很好，真正能夠深入了解人工智能的思維。

所以有效地開(kāi)發(fā)出能夠讓你進(jìn)行精細(xì)化追蹤的調(diào)試器，精細(xì)到，比如，如果你需要的話(huà)，可以精確到神經(jīng)元級(jí)別，然后說(shuō)，它在這里犯了一個(gè)錯(cuò)誤。它為什么會(huì)做一些不該做的事情？這是否源于糟糕的預(yù)訓(xùn)練數(shù)據(jù)，是訓(xùn)練中期、訓(xùn)練后、微調(diào)，還是某種強(qiáng)化學(xué)習(xí)（RL）的錯(cuò)誤？就像那里出了什么問(wèn)題一樣。它做了一些可能試圖欺騙的事情，但大多數(shù)時(shí)候它只是做錯(cuò)了事?；旧暇拖褚粋€(gè)錯(cuò)誤。

因此，開(kāi)發(fā)真正優(yōu)秀的調(diào)試器來(lái)查看思考、思維哪里出了問(wèn)題，并能夠追溯錯(cuò)誤的根源，追溯它做出錯(cuò)誤判斷或可能試圖欺騙的地方，實(shí)際上非常重要。你打算看到什么才將這項(xiàng)研究計(jì)劃擴(kuò)大100倍？

實(shí)際上，我可能可以擁有數(shù)百名研究人員致力于此。我們有幾百人，我更喜歡稱(chēng)之為工程師而不是研究人員。大多數(shù)時(shí)候，你所做的就是工程工作，而不是想出一個(gè)根本性的新算法。我有點(diǎn)不同意那些C公司或B公司為了盡可能多地盈利或增加收入而進(jìn)行的那些事情。

他們稱(chēng)自己的實(shí)驗(yàn)室，它們不是實(shí)驗(yàn)室，實(shí)驗(yàn)室是大學(xué)里一種近似于共產(chǎn)主義的東西。它們就是公司，字面意義上的，讓我看看你們自己的公司文件。你們是一個(gè)BRC合作社，隨便吧。所以我實(shí)際上更喜歡工程師這個(gè)詞，而不是其他任何詞。我們未來(lái)所做的絕大多數(shù)都是工程工作。這加起來(lái)正好是100%。一旦你理解了基本的物理定律，其實(shí)并不多，其他一切都是工程。那么，我們到底在進(jìn)行何種工程呢？

我們正在努力構(gòu)建一個(gè)優(yōu)秀的AI調(diào)試器，用以查看它在哪里說(shuō)了錯(cuò)誤的話(huà)，并追蹤該錯(cuò)誤參數(shù)的來(lái)源。所以，就像這當(dāng)然是你可以做到的。通過(guò)啟發(fā)式編程。如果你使用C++或其他語(yǔ)言，可以單步調(diào)試。你可以跳過(guò)整個(gè)文件或函數(shù)，即子程序，或者最終可以一直深入到發(fā)生錯(cuò)誤的精確代碼行，比如你可能用了一個(gè)等于號(hào)而不是兩個(gè)等于號(hào)，或者類(lèi)似這樣的情況，從而找出錯(cuò)誤在哪里。所以，這對(duì)人工智能來(lái)說(shuō)更難，但我認(rèn)為這是一個(gè)可以解決的問(wèn)題。

模擬理論與宇宙的“續(xù)約”

Dwarkesh: 你提到你喜歡Anthropic在這里的工作。我很想知道你是否計(jì)劃了。

馬斯克: 關(guān)于它的一切都是錯(cuò)誤的。

另外，我有點(diǎn)擔(dān)心有一種傾向。所以，我有一個(gè)理論，如果模擬理論是正確的，那么最有趣的結(jié)果就是最有可能發(fā)生的。因?yàn)闊o(wú)趣的模擬將會(huì)被終止。就像在這個(gè)一樣。在這個(gè)現(xiàn)實(shí)版本中，在這個(gè)現(xiàn)實(shí)層面上，如果模擬正朝著無(wú)聊的方向發(fā)展，我們就會(huì)停止投入精力，我們會(huì)終止無(wú)聊的模擬。

Dwarkesh: 伊隆就是這樣讓我們所有人都活著的。他讓事情變得有趣。

馬斯克: 可以說(shuō)，最重要的事情是讓事情足夠有趣，以便當(dāng)它能支付某種宇宙亞馬遜網(wǎng)絡(luò)服務(wù)（AWS）的費(fèi)用時(shí)，你就能獲得下一季的續(xù)約。但他們將支付宇宙AWS的費(fèi)用，無(wú)論如何，我們正在運(yùn)行的等價(jià)物是什么。只要我們足夠有趣，他們就會(huì)繼續(xù)買(mǎi)單。

但如果把它們看作是一種應(yīng)用于大量模擬的達(dá)爾文式生存，那么只有最有趣的模擬才會(huì)存活下來(lái)，這意味著最有趣的結(jié)果是最有可能的，因?yàn)橹挥心切┯腥さ?，比如那些被消滅了的。所以，它們似乎特別喜歡那些具有反諷意味的結(jié)果。你注意到了嗎？最反諷的結(jié)果出現(xiàn)的頻率有多高？

那么，現(xiàn)在看看人工智能公司的名字。我的旅程不是中等的。穩(wěn)定人工智能（Stability AI）卻不穩(wěn)定。開(kāi)放人工智能（OpenAI）卻是封閉的。Anthropic（人類(lèi)世）？中胚層的。

馬斯克: 這對(duì)X意味著什么？

馬斯克: 減去X。它是故意地……它是一個(gè)你無(wú)法真正反轉(zhuǎn)的名字。很難說(shuō)什么是反諷的……什么是反諷的版本？我認(rèn)為它是一個(gè)很大程度上防范反諷的名字。是刻意設(shè)計(jì)的。你有一個(gè)反諷護(hù)盾。

2026-2027 展望：數(shù)字人類(lèi)與無(wú)限金錢(qián)漏洞

約翰: 你的預(yù)測(cè)是什么？對(duì)于人工智能產(chǎn)品將走向何方的判斷。

在我看來(lái)，你可以將所有人工智能的進(jìn)展總結(jié)為：首先是大型語(yǔ)言模型（LLMs），然后是幾乎同時(shí)實(shí)現(xiàn)的、真正起作用的強(qiáng)化學(xué)習(xí)（RL）和深度研究模態(tài)，這樣你就可以整合模型中原本沒(méi)有的內(nèi)容。而不同人工智能實(shí)驗(yàn)室之間的差異，遠(yuǎn)小于時(shí)間上的差異，它們都比24個(gè)月前任何人的預(yù)期要領(lǐng)先得多。那么，26年、27年為我們這些人工智能產(chǎn)品的用戶(hù)會(huì)帶來(lái)什么呢？你對(duì)什么感到興奮？

馬斯克: 我想，如果到今年年底，數(shù)字人類(lèi)的擬人化還未實(shí)現(xiàn)商業(yè)化，我會(huì)感到驚訝。我認(rèn)為，我們所做的事情的宏觀難題是：你是否能做任何一個(gè)能接觸到電腦的人類(lèi)能做的事情？在極限情況下，這就是你在擁有物理實(shí)體優(yōu)化器（或稱(chēng)物理樂(lè)觀主義者）之前所能做到的最好效果。

你能做的最好的就是數(shù)字樂(lè)觀主義者（或稱(chēng)數(shù)字優(yōu)化器）。所以，你可以移動(dòng)電子，直到你能夠放大人類(lèi)的生產(chǎn)力。但這是你在擁有物理機(jī)器人之前所能做的極限了。如果你能完全模擬人類(lèi)，那將超越一切。這是一種遠(yuǎn)程工作者的理念，你將擁有一個(gè)非常有才華的遠(yuǎn)程工作者。你可以在極限情況下簡(jiǎn)單地說(shuō)。

就像物理學(xué)有很好的思維工具一樣。所以你說(shuō)在極限情況下，在擁有機(jī)器人之前，人工智能能做的最大事情是什么？任何涉及移動(dòng)電子或提高人類(lèi)生產(chǎn)力的事物。所以數(shù)字人類(lèi)、人類(lèi)模擬器。在極限情況下，在擁有物理機(jī)器人之前，在做有用的事情方面，人工智能所能做的最大事情就是作為電腦上的人類(lèi)。

一旦你擁有了物理機(jī)器人，那么你就可以，那么你本質(zhì)上就擁有了無(wú)限的能力。物理機(jī)器人，我稱(chēng)之為“無(wú)限金錢(qián)漏洞”的樂(lè)觀主義，因?yàn)椤憧梢杂盟鼈儊?lái)制造更多的樂(lè)觀主義者。你認(rèn)為人權(quán)會(huì)改善，而且基本上將是三個(gè)指數(shù)級(jí)的增長(zhǎng)，三個(gè)以指數(shù)級(jí)增長(zhǎng)的事物相互遞歸相乘。

所以你將看到數(shù)字智能呈指數(shù)級(jí)增長(zhǎng)，芯片能力，即人工智能芯片能力呈指數(shù)級(jí)增長(zhǎng)，以及機(jī)電靈巧度呈指數(shù)級(jí)增長(zhǎng)。機(jī)器人的用處大致是這三者的乘積。但隨后機(jī)器人可以開(kāi)始制造機(jī)器人。所以你就擁有了一個(gè)遞歸的乘法指數(shù)增長(zhǎng)。這就是超新星。

經(jīng)濟(jì)規(guī)模的躍遷

約翰: 那么地價(jià)在數(shù)學(xué)中不發(fā)揮作用嗎？例如，勞動(dòng)力是生產(chǎn)的四個(gè)要素之一，但其他要素不是嗎？所以，比如，如果最終你受到銅或，隨便選一個(gè)投入的限制，它就不是一個(gè)完全的無(wú)限金錢(qián)漏洞，因?yàn)椤?/p>

馬斯克: 無(wú)限是很大的。所以，不，不是無(wú)限的，但我們姑且說(shuō)你可以……有很多，很多數(shù)量級(jí)，相當(dāng)于地球目前的經(jīng)濟(jì)規(guī)模，比如一百萬(wàn)倍。

所以，如果你，僅僅是為了達(dá)到，這就是為什么我認(rèn)為，比如說(shuō)，僅僅為了達(dá)到太陽(yáng)能量的百萬(wàn)分之一的有效利用程度，大概會(huì)比地球今天的整個(gè)經(jīng)濟(jì)規(guī)模大十萬(wàn)倍，上下浮動(dòng)一個(gè)數(shù)量級(jí)。而你才利用了太陽(yáng)的百萬(wàn)分之一。

給他們一個(gè)普通的估計(jì)。在我們想要優(yōu)化之前，我對(duì)那方面有很多疑問(wèn)，但是……每當(dāng)我提到數(shù)量級(jí)時(shí)，我都在說(shuō)。

馬斯克: 你改變了匯率。

Dwarkesh: 每一次，每次都試試看。我也說(shuō)得太頻繁了。他們下次會(huì)去參加。

馬斯克: 我們將浪費(fèi)的程度提高一個(gè)數(shù)量級(jí)。

xAI 的制勝策略：自動(dòng)駕駛電腦

Dwarkesh: 關(guān)于可解釋人工智能（XAI），我還有一個(gè)問(wèn)題。這種構(gòu)建數(shù)字或遠(yuǎn)程工作者、同事替代品的策略是……

馬斯克: 順便說(shuō)一句，不只是所有人都將這樣做。

Dwarkesh: 那么，XAI的制勝計(jì)劃是什么？

馬斯克: 你希望我在播客上告訴你嗎？

約翰: 所有的秘密。但用一種不泄露秘密的方式來(lái)說(shuō)，計(jì)劃是什么？

馬斯克: 當(dāng)你這樣說(shuō)的時(shí)候，我認(rèn)為特斯拉解決自動(dòng)駕駛的方式就是應(yīng)該這樣做的方式。所以我很確定那就是方法。

Dwarkesh: 一個(gè)不相關(guān)的問(wèn)題。特斯拉的自動(dòng)駕駛是如何通過(guò)起草實(shí)現(xiàn)的？聽(tīng)起來(lái)你是在談?wù)摂?shù)據(jù)。

馬斯克: 我們（的做法）就像特斯拉自動(dòng)駕駛一樣，因?yàn)槲覀儠?huì)嘗試數(shù)據(jù)，也會(huì)嘗試算法。

Dwarkesh: 但這不就是所有（公司）都在做的嗎？

馬斯克: 他們正在嘗試的？比如它是什么？如果那些都不奏效，我不知道還有什么辦法了。我們會(huì)試試看的，泰勒。我們已經(jīng)試過(guò)要跑贏那些東西了。我都用光了。不，我們不知道該怎么做了。

我相當(dāng)確定我知道這條路該怎么走，現(xiàn)在只是時(shí)間問(wèn)題，看我們能多快走完這條路。因?yàn)檫@基本上就是特斯拉的道路。所以，你最近試過(guò)自動(dòng)駕駛或其他自動(dòng)駕駛功能嗎？

馬斯克: 不是最新版本，但是……

馬斯克: 這輛車(chē)它越來(lái)越感覺(jué)像……就像它一樣，感覺(jué)像一個(gè)有生命的生物。而且這種情況只會(huì)越來(lái)越嚴(yán)重。我實(shí)際上在想，我們可能不應(yīng)該給汽車(chē)植入太多的智能，因?yàn)樗赡軙?huì)感到無(wú)聊然后……開(kāi)始在街上游蕩。想象一下你被困在車(chē)?yán)?，而你只能做這件事。你永遠(yuǎn)不會(huì)把愛(ài)因斯坦塞進(jìn)一輛車(chē)?yán)铩＞拖裨谡f(shuō)，我為什么要被困在一輛車(chē)?yán)?？所以，你放入汽?chē)的智能量很可能有一個(gè)上限，以防止那些智者感到無(wú)聊。

Dwarkesh: XAI 打算如何跟上目前所有實(shí)驗(yàn)室都在進(jìn)行的計(jì)算加速步伐？這些實(shí)驗(yàn)室有望花費(fèi)超過(guò) 50 億、2000 億美元。

馬斯克: 你是說(shuō)那些公司嗎？。實(shí)驗(yàn)室在大學(xué)里，它們真的很像蝸牛。它們沒(méi)有花費(fèi)5000萬(wàn)美元。你指的是那些以收入最大化為目標(biāo)的企業(yè)嗎？

Dwarkesh: 沒(méi)錯(cuò)。但是那些以收入最大化為目標(biāo)的企業(yè)。那些自稱(chēng)是實(shí)驗(yàn)室的企業(yè)。它們的收入約為20到100億美元，取決于它們的收入是200億美元的Anthropic，還是收入100億美元的接近利潤(rùn)最大化的AI公司。據(jù)說(shuō)X-A-I的收入約為10億美元。達(dá)到它們的算力水平、達(dá)到它們的收入水平的計(jì)劃是什么？然后保持在那里，直到情況開(kāi)始明朗。

馬斯克: 所以，一旦你解鎖了數(shù)字人，你基本上就擁有了數(shù)萬(wàn)億美元的收入渠道。所以，事實(shí)上，你真的可以認(rèn)為，目前像邁克爾·卡普所說(shuō)的那樣，最有價(jià)值的公司的產(chǎn)出就是數(shù)字化的。

所以，英偉達(dá)的產(chǎn)出是發(fā)送到臺(tái)灣的FTP和文件。這是數(shù)字化的?，F(xiàn)在那些是非常非常難以...高價(jià)值的文件。他們是唯一能夠制作出如此出色文件的公司，但這確實(shí)是他們的產(chǎn)出。他們將文件通過(guò)FTP發(fā)送到臺(tái)灣。他們是“FCP”它們嗎？我相信是這樣。

馬斯克: 我相信那是...SFTB。傳輸協(xié)議，我猜但我可能記錯(cuò)了。但無(wú)論如何，這是一串比特流流向臺(tái)灣。蘋(píng)果不制造手機(jī)。他們把文件發(fā)往中國(guó)。微軟不進(jìn)行任何制造。即便是 Xbox，也是外包的。

再說(shuō)一遍，它們的產(chǎn)出是數(shù)字化的。Meta 的產(chǎn)出是數(shù)字化的。谷歌的產(chǎn)出是數(shù)字化的。所以，如果你擁有一個(gè)人類(lèi)模擬器，你基本上可以一夜之間創(chuàng)建世界上最有價(jià)值的公司之一，你將獲得數(shù)萬(wàn)億美元的收入。這不是一筆小數(shù)目。

Dwarkesh: 所以你的意思今天的收入數(shù)字與實(shí)際的潛在市場(chǎng)規(guī)模（TAM）相比，簡(jiǎn)直可以忽略不計(jì)，所以我們只需關(guān)注TAM以及如何實(shí)現(xiàn)它。

馬斯克: 拿一個(gè)像客戶(hù)服務(wù)這樣簡(jiǎn)單的事情來(lái)說(shuō)，如果你需要與現(xiàn)有公司的應(yīng)用程序接口（API）集成，其中許多公司甚至沒(méi)有API。所以你必須自己創(chuàng)建一個(gè)，并且必須在遺留軟件中摸索前行。這極其緩慢。

然而，如果人工智能可以簡(jiǎn)單地采用外包給客戶(hù)服務(wù)公司的任何現(xiàn)有資料，并使用他們已經(jīng)使用的應(yīng)用程序來(lái)提供客戶(hù)服務(wù)，那么你在客戶(hù)服務(wù)方面就可以取得巨大的進(jìn)展。我認(rèn)為客戶(hù)服務(wù)占世界經(jīng)濟(jì)的1%，大概是這樣，總計(jì)接近一萬(wàn)億美元的客戶(hù)服務(wù)市場(chǎng)。而且沒(méi)有進(jìn)入壁壘。你可以立即說(shuō)，我們以很低的成本將其外包出去。而且不需要集成。

智力分類(lèi)：從客戶(hù)服務(wù)到頂級(jí)工程

約翰: 你可以想象一種智能任務(wù)的分類(lèi)，這種分類(lèi)具有廣度，客戶(hù)服務(wù)由許多人完成，而且許多人都可以完成它。然后還有難度，就像有一個(gè)頂級(jí)的渦輪發(fā)動(dòng)機(jī)，可以想象出一個(gè)燃油效率高出10%的渦輪發(fā)動(dòng)機(jī)，但我們還沒(méi)有找到它。或者，良好實(shí)驗(yàn)室規(guī)范（GLP）的數(shù)據(jù)只是幾個(gè)字節(jié)的數(shù)據(jù)。你認(rèn)為你打算在哪個(gè)領(lǐng)域進(jìn)行競(jìng)爭(zhēng)？它涉及的是大量的，相當(dāng)聰明的智能，還是頂級(jí)的認(rèn)知任務(wù)？

馬斯克: 我只是把客戶(hù)服務(wù)當(dāng)作一個(gè)非常重要的收入來(lái)源，但它可能不是一個(gè)特別難解決的問(wèn)題。所以，如果你能在桌面上模仿人類(lèi)，那基本上就是客戶(hù)服務(wù)的全部。而且，他們是普通智力的人。

這不是說(shuō)你需要像那些花了多年時(shí)間，你需要那種多西格瑪（sigma）優(yōu)秀工程師才能完成的工作，但顯然，一旦你讓那項(xiàng)工作完成，一旦計(jì)算機(jī)有效工作，數(shù)字樂(lè)觀主義者開(kāi)始工作，你就可以運(yùn)行任何應(yīng)用程序。

比如我們假設(shè)你正試圖設(shè)計(jì)芯片，那么你就可以運(yùn)行你傳統(tǒng)的應(yīng)用程序，比如來(lái)自凱登斯（Cadence）和新思（Synopsis）以及其他之類(lèi)的東西。你可以說(shuō)，你可以同時(shí)運(yùn)行1,000個(gè)或10,000個(gè)，然后說(shuō)，給定這個(gè)輸入，我得到這個(gè)關(guān)于芯片的輸出。在某個(gè)時(shí)刻，你可以說(shuō)，你實(shí)際上將知道芯片應(yīng)該是什么樣子，而無(wú)需使用任何工具。所以基本上，你應(yīng)該能夠進(jìn)行數(shù)字芯片設(shè)計(jì)。就像你可以進(jìn)行芯片設(shè)計(jì)一樣，就像你觀察難度曲線一樣。你或許可以做計(jì)算機(jī)輔助設(shè)計(jì)（CAD）。所以，你可以使用像NX或任何CAD軟件來(lái)設(shè)計(jì)東西。

約翰: 所以你認(rèn)為你從最簡(jiǎn)單的任務(wù)開(kāi)始，然后逐步向上發(fā)展。

xAI 的秘密武器與詹姆斯街的謎題

Dwarkesh: 所以你的意思你看，作為擁有完整數(shù)字同事模擬器的更廣泛目標(biāo)，你的意思你看，所有旨在實(shí)現(xiàn)收入最大化的公司都想這樣做，XIA就是其中之一。但我們會(huì)贏，因?yàn)槲覀冇幸粋€(gè)秘密計(jì)劃。但好像每個(gè)人都在用數(shù)據(jù)做不同的嘗試，用不同的算法。我就想，這是什么？我們嘗試過(guò)數(shù)據(jù)。我們嘗試過(guò)算法。

馬斯克: 我們還能做什么？

Dwarkesh: 這看起來(lái)是一個(gè)競(jìng)爭(zhēng)激烈的領(lǐng)域，我就想，你們到底要如何取勝？這是我的大問(wèn)題。

馬斯克: 我認(rèn)為我們看到了實(shí)現(xiàn)……我認(rèn)為我知道做到這一點(diǎn)的路徑，因?yàn)樗悬c(diǎn)像是他們用來(lái)創(chuàng)造自動(dòng)駕駛……不是駕駛汽車(chē)，而是駕駛電腦屏幕……所以本質(zhì)上是自動(dòng)駕駛電腦。

Dwarkesh: 你的意思這條路徑只是遵循人類(lèi)行為，并對(duì)海量的人類(lèi)行為意識(shí)進(jìn)行訓(xùn)練？這是訓(xùn)練嗎？

馬斯克: 顯然，我不會(huì)在一個(gè)播客上透露，最敏感的秘密。我至少需要再喝三杯健力士黑啤才能做到這一點(diǎn)。

Dwarkesh: 我在詹姆斯街有一些朋友，他們總是在談?wù)撍麄兊耐率侨绾螢楸舜嗽O(shè)計(jì)出新穎的、巧妙的謎題來(lái)解決的。上周，他們給我發(fā)了一個(gè)。基本上，他們訓(xùn)練了一個(gè)神經(jīng)網(wǎng)絡(luò)，他們給了我每一層的權(quán)重。但他們沒(méi)有告訴我這些層的順序是什么，所以我必須利用原始網(wǎng)絡(luò)的輸出來(lái)找出正確的順序。

我一得到這個(gè)謎題，就去找了我的室友，他是一位人工智能研究員，我們倆立刻就被迷住了（極客精神被激發(fā)了）。顯然，你不能通過(guò)蠻力來(lái)解決。這里的搜索空間是 10 的 122 次方個(gè)排列組合。所以很明顯，你需要某種方法來(lái)減小搜索空間。然后我的室友得去上班了，但因?yàn)槲沂且幻タ椭鞒秩耍矣幸恍r(shí)間可以嘗試一下我們討論的一些想法。

通過(guò)模擬退火和貪婪涌動(dòng)的結(jié)合，我認(rèn)為我相當(dāng)接近了。我認(rèn)為我距離正確的解只差幾次交換和移動(dòng)了。距離正確的解。但讓這個(gè)謎題真正棘手的沒(méi)有明顯的方法可以逃離局部最優(yōu)解。我擔(dān)心“氛圍編碼”能帶給我的就到此為止了，但也許你能做得更好。請(qǐng)到 janestreet.com 斜杠 thwar cash 查看這個(gè)謎題。

超音速海嘯：純 AI 公司的崛起

馬斯克: 好了，我們回到埃隆。XAI 的業(yè)務(wù)會(huì)是什么？

約翰: 比如，它會(huì)是面向消費(fèi)者的還是企業(yè)級(jí)的？這些東西的組合將會(huì)是怎樣的？

馬斯克: 它會(huì)與其他實(shí)驗(yàn)室類(lèi)似，你有這種，你說(shuō)實(shí)驗(yàn)室使這些公司公司，所以 IAB 深入到埃隆的收入最大化公司，那些 GPU 不會(huì)自己付錢(qián)，沒(méi)錯(cuò)，但業(yè)務(wù)模式是什么？幾年后的收入來(lái)源是什么？

我認(rèn)為事情會(huì)變化得非?？?，就像我在這里說(shuō)出顯而易見(jiàn)的事情一樣，你知道我稱(chēng)人工智能為超音速海嘯，我喜歡所有的迭代，所以真正會(huì)發(fā)生的尤其是在你擁有大規(guī)模類(lèi)人機(jī)器人時(shí)，它們將以比人類(lèi)公司遠(yuǎn)超高的效率提供產(chǎn)品和提供服務(wù)，因此，增強(qiáng)人類(lèi)公司的生產(chǎn)力只是一個(gè)短期的事情。

所以你期望的是完全數(shù)字化的公司，而不是像 SpaceX 變成一部分是人工智能。所以我想會(huì)有數(shù)字公司，但這就像其中一些聽(tīng)起來(lái)有點(diǎn)悲觀，但我只我只是在說(shuō)我認(rèn)為會(huì)發(fā)生什么，這并不是說(shuō)它悲觀還是其他什么，只是我認(rèn)為會(huì)發(fā)生的純粹由人工智能和機(jī)器人構(gòu)成的公司將遠(yuǎn)遠(yuǎn)超過(guò)任何有人參與的公司的表現(xiàn)。

所以你可以認(rèn)為，就像計(jì)算機(jī)曾經(jīng)是人類(lèi)的一項(xiàng)工作。你會(huì)找一份計(jì)算機(jī)的工作，在那里你進(jìn)行計(jì)算。他們會(huì)有像整棟摩天大樓的、裝滿(mǎn)了人類(lèi)，比如20、30層樓的人類(lèi)，專(zhuān)門(mén)進(jìn)行計(jì)算?，F(xiàn)在，那整棟進(jìn)行計(jì)算的人類(lèi)摩天大樓可以被一臺(tái)帶有電子表格的筆記本電腦所取代。那個(gè)電子表格能夠完成的計(jì)算量，遠(yuǎn)遠(yuǎn)超過(guò)一整棟樓的人類(lèi)計(jì)算員的能力。

所以你可以思考一下，如果你的電子表格中只有一些單元格，只有你電子表格中的一部分單元格是由人類(lèi)計(jì)算的。事實(shí)上，那會(huì)比你電子表格中所有的單元格都由計(jì)算機(jī)計(jì)算出來(lái)的情況要糟得多。所以真正會(huì)發(fā)生的純粹的人工智能、純粹的機(jī)器人公司或集體，將遠(yuǎn)遠(yuǎn)超越任何包含人類(lèi)參與的循環(huán)（人機(jī)協(xié)同）的公司。而且這會(huì)發(fā)生得非?？?。

擎天柱：真實(shí)世界智能、手部與規(guī)模

Dwarkesh: 說(shuō)到閉合循環(huán)，抱歉了，擎天柱（Optimus），就制造目標(biāo)等等而言，你們的公司在某種程度上一直支撐著美國(guó)的硬科技制造業(yè)。但在你們、特斯拉一直占主導(dǎo)地位的領(lǐng)域，現(xiàn)在你們又想進(jìn)入人形機(jī)器人領(lǐng)域。在中國(guó)，有幾十家公司正在以低成本、大規(guī)模地從事這種制造，并且極具競(jìng)爭(zhēng)力。那么，請(qǐng)給我們一些建議或計(jì)劃，說(shuō)明美國(guó)如何才能以與中國(guó)目前預(yù)計(jì)的規(guī)模和成本一樣，大規(guī)模且廉價(jià)地建造人形機(jī)器人軍隊(duì)，或者說(shuō)，電動(dòng)汽車(chē)等等。

馬斯克: 對(duì)于人形機(jī)器人來(lái)說(shuō)，真正困難的事情只有三件。真實(shí)世界的智能、手部，以及規(guī)模化制造。所以我還沒(méi)有看到任何，哪怕是演示機(jī)器人，擁有像人類(lèi)手臂那樣具有所有自由度的靈巧之手。但擎天柱（Optimus）會(huì)有。

Dwarkesh: 擎天柱確實(shí)有。你如何實(shí)現(xiàn)這一點(diǎn)？這僅僅是扭矩要匹配電機(jī)嗎？實(shí)現(xiàn)這一目標(biāo)的硬件瓶頸是什么？

馬斯克: 我們必須重新設(shè)計(jì)定制的執(zhí)行器，基本上是定制設(shè)計(jì)電機(jī)、齒輪、電力電子設(shè)備、控制系統(tǒng)、傳感器，所有的一切都必須從物理學(xué)的基本原理出發(fā)進(jìn)行設(shè)計(jì)。這條沒(méi)有供應(yīng)鏈。

約翰: 您能夠?qū)崿F(xiàn)大規(guī)模制造這些嗎？從操控的角度來(lái)看，手有什么是難以接受的嗎？或者說(shuō)，一旦您解決了手的操控問(wèn)題，是否就萬(wàn)事大吉了？

馬斯克: 從機(jī)電角度來(lái)看，這只手比所有其他部分加起來(lái)還要困難。人手確實(shí)非常了不起。但您也需要現(xiàn)實(shí)世界的智能。因此，告訴我們要為汽車(chē)進(jìn)行開(kāi)發(fā)的智能，同樣非常適用于機(jī)器人，而機(jī)器人主要依賴(lài)視覺(jué)輸入。

但汽車(chē)需要更多的視覺(jué)信息，它實(shí)際上也在監(jiān)聽(tīng)警報(bào)聲。它正在接收初始測(cè)量數(shù)據(jù)。它是全球定位系統(tǒng)信號(hào)、一大堆其他數(shù)據(jù)，將這些與視頻結(jié)合起來(lái)，但主要還是視頻，然后輸出控制指令。所以你的特斯拉每秒接收1到1.5千兆字節(jié)的視頻，并以每秒2千字節(jié)的控制輸出，視頻頻率為36赫茲，控制頻率為18赫茲。

自動(dòng)駕駛的教訓(xùn)與機(jī)器人“自我對(duì)弈”

約翰: 關(guān)于我們獲得這些機(jī)器人技術(shù)，你可以有一個(gè)直覺(jué)，那就是從引人注目的演示到真正能夠在現(xiàn)實(shí)世界中使用，還需要相當(dāng)幾年的時(shí)間。所以，10年前，你看到了非常引人注目的自動(dòng)駕駛演示，但直到現(xiàn)在，我們才看到Robotaxi和Waymo以及所有這些服務(wù)開(kāi)始規(guī)?；l(fā)展。這難道不應(yīng)該讓人對(duì)例如家用機(jī)器人感到悲觀嗎？因?yàn)槲覀兩踔吝€沒(méi)有看到，比如非常先進(jìn)的手的引人注目的演示。

馬斯克: 我們從事人形機(jī)器人的工作已經(jīng)有一段時(shí)間了。所以我想差不多有五年或六年的時(shí)間了。我們?yōu)槠?chē)所做的很多事情都可以應(yīng)用于機(jī)器人。因此，我們將在機(jī)器人和汽車(chē)中使用相同的特斯拉人工智能芯片。我們將使用相同的基本原理。這基本上是同一種人工智能。一個(gè)機(jī)器人的自由度比一輛汽車(chē)要多得多。

但實(shí)際上，如果你只是把它看作是引導(dǎo)流，人工智能基本上就是兩個(gè)引導(dǎo)流的壓縮和相關(guān)性。因此，對(duì)于視頻，你必須進(jìn)行大量的壓縮。而且你必須把壓縮做得恰到好處。你必須壓縮那些無(wú)關(guān)緊要的東西，比如忽略它們。比如你不在乎路邊樹(shù)上的葉子的細(xì)節(jié)。但你非常關(guān)心路標(biāo)、交通信號(hào)燈和行人，甚至你是否知道另一輛車(chē)?yán)锏娜耸欠裨诳茨?，因?yàn)槠渲幸恍┘?xì)節(jié)非常重要。

所以如果本質(zhì)上，它必須將汽車(chē)每秒那一點(diǎn)五吉字節(jié)最終轉(zhuǎn)換為每秒兩千字節(jié)的控制輸出，因此有許多壓縮階段，你必須讓所有這些階段都正確，然后將它們與交叉控制輸出相關(guān)聯(lián)。機(jī)器人本質(zhì)上必須做同樣的事情。然后你思考人類(lèi)，這就是人類(lèi)發(fā)生的情況。我們實(shí)際上是光子輸入，控制輸出。所以，你生命中絕大部分時(shí)間都是視覺(jué)輸入，光子進(jìn)入，然后運(yùn)動(dòng)控制輸出。

Dwarkesh: 天真地看，在人形機(jī)器人和汽車(chē)之間，汽車(chē)的基本執(zhí)行器就像如何轉(zhuǎn)向、如何加速等等。在機(jī)器人中，尤其是有靈活手臂的機(jī)器人，有幾十個(gè)甚至更多的自由度。而且，尤其是特斯拉，你有這樣的優(yōu)勢(shì)，就是通過(guò)汽車(chē)的實(shí)際運(yùn)行，收集了數(shù)百萬(wàn)小時(shí)的人類(lèi)演示數(shù)據(jù)，而你不能通過(guò)部署那些行不通的優(yōu)化器來(lái)等效地獲取數(shù)據(jù)。因此，在自由度增加和數(shù)據(jù)稀疏得多的情況下。這是一個(gè)很好的觀點(diǎn)。你將如何利用特斯拉的這種智能引擎來(lái)訓(xùn)練優(yōu)化器心智？

馬斯克: 現(xiàn)在，你實(shí)際上正在強(qiáng)調(diào)汽車(chē)之間一個(gè)重要的限制和區(qū)別。我們很快就會(huì)有大約1000萬(wàn)輛汽車(chē)在路上行駛。所以很難復(fù)制那種大規(guī)模的訓(xùn)練飛輪。

對(duì)于機(jī)器人來(lái)說(shuō)，我們需要做的是制造大量的機(jī)器人。這些機(jī)器人將被放置在一個(gè)類(lèi)似于“樂(lè)觀者學(xué)院”的環(huán)境中，以便它們能夠在現(xiàn)實(shí)世界中進(jìn)行自我對(duì)弈。所以我們實(shí)際上正在將其抽出。所以我們至少有10,000個(gè)“樂(lè)觀者”機(jī)器人，也許有20,000或30,000個(gè)在進(jìn)行自我對(duì)弈并測(cè)試不同的任務(wù)。

然后特斯拉有一個(gè)相當(dāng)好的現(xiàn)實(shí)生成器，就像我們?yōu)槠?chē)制造的物理精度現(xiàn)實(shí)生成器一樣，我們將為機(jī)器人做同樣的事情，而且實(shí)際上已經(jīng)為機(jī)器人做到了。所以，有幾萬(wàn)個(gè)仿人機(jī)器人正在執(zhí)行不同的任務(wù)，然后你你可以在模擬世界中擁有數(shù)百萬(wàn)個(gè)模擬機(jī)器人，而你利用現(xiàn)實(shí)世界中那幾萬(wàn)個(gè)機(jī)器人來(lái)彌合模擬與現(xiàn)實(shí)之間的差距，彌合模擬到現(xiàn)實(shí)的差距。

組織協(xié)同：xAI 與 Optimus 的結(jié)合

Dwarkesh: 考慮到你強(qiáng)調(diào)需要這個(gè)世界模型，并可能希望使用非常智能的智能作為控制平面，你如何看待可解釋人工智能（XAI）與“樂(lè)觀者”（Optimus）之間的協(xié)同作用？所以也許“巨型世界模型”（負(fù)責(zé)較慢的規(guī)劃，然后像運(yùn)動(dòng)策略是更底層的部分。這些事物之間的協(xié)同作用會(huì)是怎樣的？

馬斯克: 所以你會(huì)使用，“巨型世界模型”將協(xié)調(diào)“樂(lè)觀者”機(jī)器人的行為。所以假設(shè)你想建一個(gè)工廠。那么“樂(lè)觀者”，然后“巨型世界模型”可以組織“樂(lè)觀者”機(jī)器人，給它們分配任務(wù)，以建造你想要的任何產(chǎn)品的工廠。

約翰: 你難道不需要合并X-AI和特斯拉嗎？因?yàn)檫@些事情最終都是這樣的。

馬斯克: 我們之前談?wù)撍泄臼聞?wù)時(shí)說(shuō)了些什么？

復(fù)數(shù)名詞與生產(chǎn) S 曲線

Dwarkesh: 埃隆，我們又多喝了一杯健力士。在你說(shuō)“我們想制造10萬(wàn)個(gè)‘樂(lè)觀者’”之前，你還在等什么？它是像……

馬斯克</...