AI帶來(lái)的變化，是否只是以往技術(shù)革命的重演？當(dāng)智能體逐漸超越我們所熟知的算法邊界，我們將如何定義未來(lái)那些真正可稱(chēng)之為“人工智能”（AI）的存在？而科幻小說(shuō)，究竟是對(duì)未來(lái)的胡思亂想，還是精準(zhǔn)無(wú)比的預(yù)言？

在一場(chǎng)South Park Commons（南方公園共享社區(qū)/SPC）組織的對(duì)談中，不同的世界觀碰撞融合?！堆┍馈纷髡吣釥枴に沟俜疑∟eal Stephenson）、《手中紙，心中愛(ài)》作者劉宇昆（Ken Liu），與投資過(guò)SpaceX、Uber等公司的天使投資人賽安·班尼斯特（Cyan Banister）以及認(rèn)知科學(xué)家與AI研究員約夏·巴赫（Joscha Bach）促膝而談，探討了敘事如何塑造現(xiàn)實(shí)，虛構(gòu)如何成為路線圖，以及創(chuàng)造者與夢(mèng)想家如何跨越時(shí)空相互影響。

? 尼爾·斯蒂芬森：“意識(shí)和肉體是密不可分的，正因如此，我很難理解AI的存在——我無(wú)法想象一個(gè)意識(shí)或智能，它并不依賴(lài)于脆弱、有限、與我們相似的載體。”

? 約夏·巴赫：“恐怕現(xiàn)在沒(méi)人可以判斷AGI離我們還有多遠(yuǎn)。我至今沒(méi)有看到過(guò)任何一個(gè)足以說(shuō)服我的論述，無(wú)論是支持或者反對(duì)AGI的。”

? 賽安·班尼斯特：“在現(xiàn)階段，理解我們自己的意識(shí)，比理解AI是否會(huì)產(chǎn)生意識(shí)，更為重要?！?/p>

? 劉宇昆：“早期的科幻小說(shuō)描繪了技術(shù)如何改變社會(huì)；現(xiàn)在在AI時(shí)代，我們是否也將見(jiàn)證類(lèi)似的變革？”

對(duì)談嘉賓

尼爾·斯蒂芬森

Neal Stephenson

美國(guó)作家、游戲設(shè)計(jì)師和科技顧問(wèn)

以創(chuàng)作科幻小說(shuō)和歷史小說(shuō)而聞名。他的作品《雪崩》（Snow Crash）和《鉆石時(shí)代》（The Diamond Age）描繪了豐富的未來(lái)社會(huì)和文化愿景，還預(yù)見(jiàn)了社交網(wǎng)絡(luò)、納米機(jī)器人和3D打印機(jī)等重大技術(shù)的發(fā)展。

約夏·巴赫

Joscha Bach

人工智能專(zhuān)家和認(rèn)知科學(xué)家

致力于研究和開(kāi)發(fā)人工智能系統(tǒng)，探索人類(lèi)認(rèn)知和智能的本質(zhì)。他的核心研究觀點(diǎn)包括：認(rèn)知架構(gòu)、情感與意識(shí)、通用人工智能（AGI）。

賽安·班尼斯特

Cyan Banister

知名風(fēng)險(xiǎn)投資家、South Park Commons（南方公園共享社區(qū)）的早期成員之一

她在風(fēng)險(xiǎn)投資領(lǐng)域有著豐富的經(jīng)驗(yàn)，曾投資多家初創(chuàng)公司，尤其關(guān)注人工智能、區(qū)塊鏈和金融科技等領(lǐng)域。她還積極參與社區(qū)活動(dòng)，推動(dòng)創(chuàng)新和創(chuàng)業(yè)文化的發(fā)展。SPC是一個(gè)社區(qū)驅(qū)動(dòng)型風(fēng)險(xiǎn)投資組織，旨在支持早期創(chuàng)業(yè)者從“-1到0”的階段開(kāi)始探索和驗(yàn)證創(chuàng)業(yè)想法。

劉宇昆

Ken Liu

美籍華裔科幻作家、律師和翻譯家

他的作品如《手中紙，心中愛(ài)》和《物哀》等多次獲得雨果獎(jiǎng)、星云獎(jiǎng)等國(guó)際科幻文學(xué)獎(jiǎng)項(xiàng)。他創(chuàng)作的“絲綢朋克”系列小說(shuō)《蒲公英王朝》三部曲將中國(guó)歷史文化與科幻元素巧妙結(jié)合，開(kāi)創(chuàng)了獨(dú)特的科幻風(fēng)格。此外，他還翻譯了劉慈欣的《三體》和郝景芳的《北京折疊》等中國(guó)科幻作品，推動(dòng)了中西方科幻文學(xué)的交流。

聯(lián)合主持人

克里斯蒂安·西比爾斯·貝爾納德斯

Cristian Cibils Bernardes

Autograph的創(chuàng)始人兼首席執(zhí)行官

他曾在谷歌擔(dān)任軟件工程師，致力于利用人工智能技術(shù)為人們創(chuàng)造更好的體驗(yàn)。Autograph是一家專(zhuān)注于體育和娛樂(lè)領(lǐng)域的非同質(zhì)化代幣（NFT）平臺(tái)，旨在幫助運(yùn)動(dòng)員和名人創(chuàng)建和營(yíng)銷(xiāo)自己的數(shù)字收藏品。該公司成立于2021年，由美國(guó)國(guó)家橄欖球聯(lián)盟（NFL）球星湯姆·布雷迪（Tom Brady）和其他創(chuàng)始人共同創(chuàng)立。

喬納森·布雷布納

Jonathan Brebner

South Park Commons（SPC）敘事專(zhuān)家

他擅長(zhǎng)幫助成員、公司和社區(qū)打造并講述引人入勝的故事。他曾在競(jìng)選政治、廣告行業(yè)工作，還是一名獨(dú)立作家和電影制作人。SPC是一個(gè)社區(qū)驅(qū)動(dòng)型風(fēng)險(xiǎn)投資組織，旨在支持早期創(chuàng)業(yè)者從“-1到0”的階段開(kāi)始探索和驗(yàn)證創(chuàng)業(yè)想法。

AI：重現(xiàn)原子能時(shí)代

喬納森·布雷布納：尼爾·斯蒂芬森，你最新的小說(shuō)Polostan（非官方譯名《赤色馬球》）設(shè)定在冷戰(zhàn)時(shí)期。核能的逐步投入利用開(kāi)啟了原子能時(shí)代（the Atomic Era），這常給人一種技術(shù)爆炸的感覺(jué)。你在創(chuàng)作Polostan時(shí)，是否受到了當(dāng)下某些社會(huì)現(xiàn)象的啟發(fā)？以及，你覺(jué)得現(xiàn)在跟原子能時(shí)代有何不同？

尼爾·斯蒂芬森：在寫(xiě)這本書(shū)的時(shí)候，我并沒(méi)有刻意地去思考這兩個(gè)時(shí)代的相似之處，但既然你這樣問(wèn)了，那我也覺(jué)得它們確實(shí)挺像。

為了寫(xiě)作，我深入地了解了核技術(shù)史，它是如何一步步從核裂變的發(fā)現(xiàn)走到今天的。一切都始于核物理學(xué)家莉澤·邁特納（Lise Meitner）的一次瑞典雪橇之行，旅行期間她試圖解析了一座德國(guó)實(shí)驗(yàn)室于1938年發(fā)表的一組實(shí)驗(yàn)數(shù)據(jù)。

? Lise Meitner（莉澤·邁特納）是一位奧地利-瑞典裔物理學(xué)家，被譽(yù)為“原子彈之母”。她與奧托·哈恩共同發(fā)現(xiàn)了核裂變現(xiàn)象，為核能的開(kāi)發(fā)奠定了基礎(chǔ)，但諾貝爾獎(jiǎng)卻未授予她。她的工作推動(dòng)了現(xiàn)代物理學(xué)的發(fā)展，尤其是在放射性研究和核反應(yīng)領(lǐng)域。

她的發(fā)現(xiàn)最初僅在一小群物理學(xué)家中流傳，隨后爆發(fā)的二戰(zhàn)中斷了所有的研究。這個(gè)時(shí)間卡得不早不晚，核裂變的知識(shí)剛好還是可以漸漸擴(kuò)散出去，讓人們意識(shí)到它的威脅，最后促成了曼哈頓計(jì)劃的制定。若這一發(fā)現(xiàn)提前幾年，二戰(zhàn)的戰(zhàn)場(chǎng)或?qū)⒉辉儆娠w機(jī)與坦克主導(dǎo)，而是演變?yōu)楹宋淦鞯南嗷?；若晚了幾年，這些研究成果可能永遠(yuǎn)不會(huì)公開(kāi)，而是被政府封鎖或列為絕密。

那么AI之于當(dāng)下是否也會(huì)帶來(lái)相似的變化？我覺(jué)得這是值得我們共同探討的問(wèn)題，而非我一個(gè)人就能回答的。我可以回答的是，AI如今的能力和發(fā)展的速度超出了很多人的預(yù)料。很多人的言行透露出這樣一種困惑：AI讓其他的一切變得無(wú)關(guān)緊要了嗎？在關(guān)于AI的一切塵埃落定之前，發(fā)展“老派”的技術(shù)還有意義嗎？

劉宇昆：拿原子能時(shí)代與現(xiàn)在進(jìn)行對(duì)比，的確是一個(gè)很有意思的話題，但我的觀點(diǎn)會(huì)比較謹(jǐn)慎。

對(duì)于很多人而言，原子能時(shí)代是一個(gè)令人失望的時(shí)代。如果你去讀那個(gè)時(shí)代的科幻小說(shuō)，人們認(rèn)為原子能技術(shù)會(huì)給社會(huì)帶來(lái)顛覆性的變化。但事實(shí)與當(dāng)時(shí)人們的初始幻想相反，在軍事戰(zhàn)略層面，原子能變成了穩(wěn)定局面的力量：它帶來(lái)了以往求而不得的強(qiáng)大威力，維護(hù)著大國(guó)的勢(shì)力范圍，阻止戰(zhàn)爭(zhēng)發(fā)生。而在民用層面，我不知道你們感受如何，但我兒時(shí)學(xué)到核電站工作原理的時(shí)候非常失望。我們發(fā)現(xiàn)了令人驚嘆的物理規(guī)律，卻只是用它把水燒開(kāi)，然后讓水蒸氣推動(dòng)渦輪來(lái)發(fā)電。我覺(jué)得這個(gè)辦法好蠢，而我們?nèi)祟?lèi)就是這樣的一群“蠢貨”。

原子能時(shí)代并未如人們所愿，令眾多期待落了空。那AI時(shí)代也會(huì)如此嗎？我不確定。我認(rèn)為，當(dāng)前最突破性和實(shí)用價(jià)值的的AI技術(shù)是用于蛋白質(zhì)折疊預(yù)測(cè)的大語(yǔ)言模型。如果AI能夠在其他領(lǐng)域帶來(lái)成百上千個(gè)類(lèi)似的突破，其影響力將遠(yuǎn)遠(yuǎn)超過(guò)原子能技術(shù)。

但還有另一種可能——AI最終只會(huì)取代一些“半創(chuàng)意性”工作，讓我們的社會(huì)從工業(yè)2.0勉強(qiáng)邁入工業(yè)2.001。若真是如此，AI就是另一種“燒熱水”的方式，而我對(duì)AI和核技術(shù)會(huì)有著同樣的失望之情。

克里斯蒂安·貝爾納德斯：約夏，你以往寫(xiě)過(guò)很多關(guān)于認(rèn)知結(jié)構(gòu)的作品，其中涉及注意力機(jī)制、轉(zhuǎn)換器（transformer）架構(gòu)、信息檢索、自主行為（agentic behavior）等。能否請(qǐng)你分享一下超人類(lèi)智能（superhuman intelligence）的最新進(jìn)展嗎？它會(huì)不會(huì)同樣令人失望？

約夏·巴赫：我覺(jué)得它不會(huì)讓人失望，但我對(duì)“進(jìn)步”的理解發(fā)生了一些變化。應(yīng)該說(shuō)，我發(fā)現(xiàn)人的底線是會(huì)變化的。

當(dāng)我第一次看到《雪崩》和《鉆石時(shí)代》時(shí)，包括我在內(nèi)的很多人都覺(jué)得它們描繪的是反烏托邦社會(huì)，但今天看來(lái)，我們會(huì)覺(jué)得它們所描述的世界充滿(mǎn)生機(jī)，也不是不能接受。我們世界發(fā)展得越來(lái)越慢，如同一坨粘稠、難以流動(dòng)的蜂蜜，越來(lái)越容易預(yù)測(cè)——以往能自由發(fā)展幾十年的技術(shù)，如今不過(guò)數(shù)年就會(huì)被政府的監(jiān)管絞殺。相比之下，《雪崩》的世界依依然生機(jī)勃勃、不斷向前發(fā)展，雖然向前的方向有些奇怪，但社會(huì)終究是在變化之中。

這里又引出了我的另外一個(gè)疑惑：新技術(shù)僵化的速度，是否已經(jīng)超過(guò)了我們創(chuàng)新的速度？這是一個(gè)開(kāi)放式的問(wèn)題。不過(guò)，我覺(jué)得當(dāng)下一切正在重新流動(dòng)起來(lái)，未來(lái)的技術(shù)可以飛速發(fā)展，把現(xiàn)有的制度甩在后面，讓后者沒(méi)法適應(yīng)、支配并摧毀前者。

我認(rèn)為，通用人工智能（AGI）的開(kāi)發(fā)路徑，絕不只是投入更多的算力和更多的數(shù)據(jù)那么簡(jiǎn)單。如果我們回頭看就能發(fā)現(xiàn)，AI在近70年的技術(shù)發(fā)展史上并不是一個(gè)重要的角色。想象這樣的一個(gè)平行世界：在這個(gè)世界里，羅森布拉特（Rosenblatt）*發(fā)明感知機(jī)（perceptron）之后，人們就不再研究機(jī)器學(xué)習(xí)。就算在這樣一個(gè)世界里，大語(yǔ)言模型（LLM）之類(lèi)的現(xiàn)代AI，依然會(huì)在摩爾定律*帶來(lái)足夠的算力后自然而然地出現(xiàn)。

弗蘭克·羅森布拉特（Frank Rosenblatt）是一位美國(guó)心理學(xué)家和計(jì)算機(jī)科學(xué)家，被譽(yù)為“深度學(xué)習(xí)之父”之一。他于1957年發(fā)明了感知器（Perceptron），這是現(xiàn)代人工神經(jīng)網(wǎng)絡(luò)的雛形，開(kāi)啟了機(jī)器學(xué)習(xí)和深度學(xué)習(xí)研究的新紀(jì)元。他1971年意外去世，但他的工作為后來(lái)的神經(jīng)網(wǎng)絡(luò)發(fā)展奠定了基礎(chǔ)，對(duì)人工智能領(lǐng)域產(chǎn)生了深遠(yuǎn)影響。

摩爾定律是由英特爾創(chuàng)始人之一戈登·摩爾（Gordon Moore）1965年提出的。它指出，集成電路上可容納的晶體管數(shù)量大約每?jī)赡攴环?，性能也?huì)相應(yīng)提升。這一趨勢(shì)推動(dòng)了計(jì)算機(jī)技術(shù)的飛速發(fā)展，使我們能夠獲得越來(lái)越強(qiáng)大的算力。

尼爾·斯蒂芬森在他的早期作品里并不認(rèn)為AGI會(huì)出現(xiàn)，后來(lái)在《鉆石時(shí)代》一書(shū)里，尼爾·斯蒂芬森虛構(gòu)了一個(gè)LLM，它很聰明但沒(méi)有自主性，只是技術(shù)上的錦上添花，并未改變這個(gè)世界的本質(zhì)。誠(chéng)然，我們擁有了超級(jí)智能的系統(tǒng)，但它們并不與人類(lèi)競(jìng)爭(zhēng)。我們?nèi)匀皇俏覀儯澜缫廊蝗绻省?/p>

這跟我們?nèi)缃竦囊暯缇€不同，我認(rèn)為，人類(lèi)將逐漸走向人機(jī)混合的形態(tài)——未來(lái)人們會(huì)與自己的個(gè)人AI助手共享所有思考，讓AI參與決策過(guò)程。這樣一來(lái)，我們終將演化成另一種存在形態(tài)。

喬納森·布雷布納：我不確定這樣的未來(lái)是否令人失望，但變化確實(shí)是有的。賽安，作為一個(gè)投資者，你既要與創(chuàng)業(yè)者同懷熱忱，共同推動(dòng)事業(yè)發(fā)展，又要保持清醒理性，審慎評(píng)估其項(xiàng)目成果及其在現(xiàn)實(shí)世界中的應(yīng)用前景。你怎么看？

賽安·班尼斯特：非常明顯，我們正在目睹一場(chǎng)技術(shù)的寒武紀(jì)大爆發(fā)，而作為一個(gè)投資者，我習(xí)慣于向后退一步，嘗試看清楚未來(lái)6-8年的發(fā)展前景。

4年前我們已經(jīng)開(kāi)始思考高性能計(jì)算需要什么基礎(chǔ)設(shè)施；而今天，我們依舊在思考如何應(yīng)用高性能計(jì)算。因此，我覺(jué)得這并不是下注的好時(shí)候，盡管大眾可能不理解我為何這么說(shuō)。

如果我們回到《鉆石時(shí)代》這本書(shū)中的世界，納米技術(shù)和生物技術(shù)正在發(fā)生爆炸，人類(lèi)可以進(jìn)化成超人類(lèi)，成為超級(jí)生物學(xué)家或者其他“超人”，然后“超人們”可以橫跨不同的學(xué)科，完成不可思議的成就。

“接下來(lái)會(huì)發(fā)生什么？”這是我們投資者最重要的問(wèn)題。但如今，我們只能跟其它投資者競(jìng)價(jià)，為“正在發(fā)生的事情”買(mǎi)單，一切都是可預(yù)見(jiàn)的，這搞得我們投資人的利潤(rùn)率很低。

劉宇昆：可是，我覺(jué)得AI的確可以變成一個(gè)人類(lèi)心智的增幅器。AI是一個(gè)通用的交互裝置，人們可以方便地從中獲取不同領(lǐng)域的專(zhuān)業(yè)知識(shí)，而這些知識(shí)以前只會(huì)被鎖死在知識(shí)庫(kù)里。如果這個(gè)趨勢(shì)繼續(xù)下去，你的設(shè)想有希望成為現(xiàn)實(shí)，一小群人只需要利用AI，就可以掌握高度復(fù)雜的納米技術(shù)和生物工程技術(shù)。

約夏·巴赫：你提到了“一小群人”這種說(shuō)法。那你覺(jué)得，人類(lèi)是否普遍擁有掌握AI的智慧？換個(gè)問(wèn)法，如果你設(shè)想的這種AI真的出現(xiàn)了，那么有多少人有能力融會(huì)貫通各領(lǐng)域的知識(shí)，真正成為新時(shí)代的積極參與者？

你可以放心地讓AI來(lái)幫你講法語(yǔ)或者中文、相信它能完滿(mǎn)完成任務(wù)，也可以讓它深入掌握世事動(dòng)態(tài)，在你需要時(shí)提供決策支持。那么，究竟有多少工作是可以被外包給AI的？有多少人可以適應(yīng)這個(gè)新時(shí)代，而有多少人會(huì)被甩在后面？

科幻小說(shuō)：現(xiàn)代的神話故事

喬納森·布雷布納：我認(rèn)為，現(xiàn)在這個(gè)時(shí)代的加速感源于敘事危機(jī)（narrative violation）——AI在近幾年的進(jìn)展，完全偏離了我們?cè)诳苹眯≌f(shuō)里的預(yù)想。

我最喜歡舉的例子是電影《我，機(jī)器人》（I, Robot，2004）的一幕，威爾史密斯（Will Smith）問(wèn)機(jī)器人：“你能創(chuàng)作出一曲交響樂(lè)嗎？你能憑空創(chuàng)造出一幅傳世杰作嗎？”電影里面的回答是“不能”。然而現(xiàn)階段AI已經(jīng)做到了這一點(diǎn)，至少能夠以假亂真。實(shí)際上，在實(shí)現(xiàn)能像電影中那樣在物理世界中靈活行動(dòng)、執(zhí)行復(fù)雜任務(wù)的機(jī)器人之前，我們更早開(kāi)發(fā)了具有豐富創(chuàng)造力的AI。

所以我想問(wèn)，我們對(duì)真實(shí)世界技術(shù)發(fā)展的反應(yīng)，是否受到了過(guò)往讀過(guò)的虛構(gòu)作品的影響？藝術(shù)作品的敘事如何影響了我們對(duì)新技術(shù)發(fā)展的判斷？
我們的故事有沒(méi)有可能以其他方式塑造對(duì)現(xiàn)實(shí)世界的期望？

? 圖源：根據(jù)《我，機(jī)器人》劇照自制

尼爾·斯蒂芬森：作為一個(gè)講故事的人，我唯一的任務(wù)就是吸引讀者讀下去，如果我不能完成這個(gè)任務(wù)，我就一無(wú)所有。所以如何在易于理解、博人眼球的故事中插入不多不少的技術(shù)細(xì)節(jié)，就是一個(gè)微妙的平衡。

30年前，我在《鉆石時(shí)代》中講述了一個(gè)女孩和一個(gè)AI之間的故事，后者是前者的代理母親與老師。我需要設(shè)定AI能干和不能干的事情，這樣我才能夠合理確定二者的關(guān)系能進(jìn)展到哪一步。如果AI像上帝一樣無(wú)所不能，我的故事就沒(méi)什么可寫(xiě)的了。

同樣，在你提及《我，機(jī)器人》的那個(gè)例子里，作者設(shè)定了一個(gè)可以到處走動(dòng)，看起來(lái)很先進(jìn)的機(jī)器人，但它無(wú)法創(chuàng)作。而如今我們知道，造出一臺(tái)這樣的機(jī)器人可比人工生成交響樂(lè)難多了。

克里斯蒂安·貝爾納德斯：這里有一個(gè)很有意思的推論，那就是人們非常驚訝于AI可以創(chuàng)作，而這高度依賴(lài)于人類(lèi)的創(chuàng)造力。什么是創(chuàng)造力與創(chuàng)作？你可以分享一些你的見(jiàn)地嗎？

劉宇昆：作為一個(gè)科幻作家，這是我經(jīng)常思考的問(wèn)題?？苹米骷以陬A(yù)測(cè)具體細(xì)節(jié)上幾乎總是錯(cuò)的，但卻常能準(zhǔn)確把握住關(guān)于未來(lái)的“神話”（mythology）。別急，我現(xiàn)在會(huì)解釋這是什么意思。

80年來(lái)，所有的AI研究都在嘗試回答圖靈的問(wèn)題：機(jī)器可以思考嗎？在圖靈的年代，這個(gè)問(wèn)題不可能被回答，因?yàn)槿藗兌疾恢浪伎嫉倪^(guò)程是怎樣的。我們只能讓AI去模仿生物思考。在模仿的過(guò)程中，我們發(fā)現(xiàn)，所謂“思考”只是一堆次級(jí)功能的集合。以前是下棋，現(xiàn)在是詩(shī)歌、論文與交響樂(lè)，AI一次次成功掌握了這些看起來(lái)很難的技能，但另一些人類(lèi)覺(jué)得很簡(jiǎn)單的技能卻遲遲未能掌握。

大量科幻小說(shuō)認(rèn)為，與世界對(duì)話需要意識(shí)和自我感知。但事實(shí)證明這大錯(cuò)特錯(cuò)，你可以擁有一臺(tái)可以對(duì)話和思考的機(jī)器，而它不需要具有意識(shí)或自我感知。對(duì)圖靈問(wèn)題的回答就像剝洋蔥一樣，一層一層地把表面的問(wèn)題轉(zhuǎn)化為更深層、更細(xì)小的問(wèn)題。也有一些人會(huì)批評(píng)AI仍舊不能“思考”，它們只是朝著某個(gè)目標(biāo)計(jì)算，我覺(jué)得這個(gè)批評(píng)很到點(diǎn)子上。我們需要通過(guò)反復(fù)嘗試知道目標(biāo)在哪，適時(shí)調(diào)整目標(biāo)?！拔覀兡茏鍪裁础惫倘挥腥?，但“我們想做什么”是一個(gè)更加有趣的話題。

回到前面關(guān)于創(chuàng)造力的問(wèn)題。我覺(jué)得無(wú)論科幻作家對(duì)技術(shù)細(xì)節(jié)的描繪有多么深入，錯(cuò)判未來(lái)都是稀松平常的，畢竟未來(lái)本就難以捉摸。我們常會(huì)被歷史慣性綁架，認(rèn)為技術(shù)的發(fā)展是一條必然之路，殊不知?dú)v史從來(lái)都蘊(yùn)含著無(wú)數(shù)可能，我們只是碰巧走上了如今的道路。

所以無(wú)論作家的技術(shù)背景多硬核，他們都很難預(yù)測(cè)未來(lái)的技術(shù)細(xì)節(jié)。但是優(yōu)秀的作家也不會(huì)拘泥于細(xì)節(jié)是否正確。一個(gè)作家如果想寫(xiě)出有趣、有影響力、讓人印象深刻的書(shū)，他需要知道，寫(xiě)科幻小說(shuō)實(shí)際上是在創(chuàng)造神話。

厄休拉·K·勒古恩（Ursula K. Le Guin）*說(shuō)過(guò)，幻想文學(xué)古已有之，科幻小說(shuō)只是它的一個(gè)新分支，我深以為然。科幻作者真正在做的，是潛入集體無(wú)意識(shí)的深處，喚醒沉睡的神明與鬼怪，讓它們用自己的方式，訴說(shuō)技術(shù)的寓言。

瑪麗·雪萊（Mary Shelley）就沒(méi)有任何理工背景，但她召喚出了科幻史上最強(qiáng)大的神明“弗蘭肯斯坦”，這個(gè)形象至今仍熠熠生輝，出現(xiàn)在每一場(chǎng)關(guān)于技術(shù)的討論之中。書(shū)中制造縫合怪的技術(shù)細(xì)節(jié)全是錯(cuò)的，但這從不是故事的關(guān)鍵——重要的是她將這個(gè)神話講述得恰到好處。我堅(jiān)信，所有那些寫(xiě)出了打動(dòng)人心、經(jīng)久不衰的作品的科幻作家們，一定都懂得如何講好一個(gè)神話。

?厄休拉·K·勒古恩（Ursula K. Le Guin，1929年10月21日—2018年1月22日）是美國(guó)杰出的科幻與奇幻文學(xué)作家。她的作品多次榮獲雨果獎(jiǎng)、星云獎(jiǎng)等國(guó)際幻想小說(shuō)領(lǐng)域的頂級(jí)獎(jiǎng)項(xiàng)，其中《黑暗的左手》（1969年星云獎(jiǎng)，1970年雨果獎(jiǎng)）和《一無(wú)所有》（1974年星云獎(jiǎng)，1975年雨果獎(jiǎng)）尤為著名。勒古恩的創(chuàng)作融合了深刻的社會(huì)與哲學(xué)思考，其代表作還包括《地海傳說(shuō)》系列，她以獨(dú)特的文學(xué)風(fēng)格和對(duì)人性、性別、社會(huì)的深刻洞察，奠定了她在文學(xué)史上的重要地位。

?《弗蘭肯斯坦》中的“科學(xué)怪人”形象出自瑪麗·雪萊（Mary Shelley）于1818年創(chuàng)作的小說(shuō)《弗蘭肯斯坦，或現(xiàn)代的普羅米修斯》，據(jù)說(shuō)這本書(shū)開(kāi)始創(chuàng)作時(shí)作者只有18歲。自1910年托馬斯·愛(ài)迪生公司制作的默片《科學(xué)怪人》開(kāi)始，這一形象在過(guò)去200多年間被改編了無(wú)數(shù)次，僅電影就超過(guò)70部。它已經(jīng)成為一個(gè)經(jīng)典的流行文化符號(hào)，象征著“創(chuàng)造與失控”“責(zé)任與逃避”以及科技發(fā)展可能帶來(lái)的倫理困境。圖源：monstercomplex

賽安·班尼斯特：我插一句嘴，我覺(jué)得在這方面AI非常令人激動(dòng)，它可以讓以往沒(méi)有能力寫(xiě)作但有能力幻想未來(lái)的人，解鎖作家夢(mèng)想，表達(dá)自己的想法。好萊塢把大量資金砸在反烏托邦和其他描繪可怕未來(lái)的電影上面，因?yàn)闅У魱|西總是容易的。但現(xiàn)在可以用極低的成本去創(chuàng)造出一個(gè)烏托邦。如果你是一個(gè)作家，你可以即刻開(kāi)始構(gòu)思一個(gè)美好的未來(lái)，然后在筆上實(shí)現(xiàn)它。我們?cè)谖磥?lái)必然會(huì)有更加精彩的科幻小說(shuō)。

幻想與現(xiàn)實(shí)的關(guān)系

喬納森·布雷布納：劉宇昆認(rèn)為，講故事的人是在召喚鬼怪與神明。巴赫，你在工作時(shí)也有這種感覺(jué)嗎？我們是否正在把這個(gè)過(guò)程帶進(jìn)真實(shí)世界，還是說(shuō)幻想只是幻想？

約夏·巴赫：我覺(jué)得寫(xiě)作是一種讓不可見(jiàn)變得可見(jiàn)的獨(dú)特工具。斯坦尼斯瓦夫·萊姆（Stanis?aw Lem）最初是一個(gè)控制論學(xué)者。在德國(guó)與友人探討時(shí)，他意識(shí)到讓計(jì)算機(jī)學(xué)會(huì)思考還為時(shí)過(guò)早，于是他轉(zhuǎn)向?qū)懽?，他認(rèn)為用故事來(lái)激勵(lì)下一代人去完成這項(xiàng)事業(yè)更加有意義。這個(gè)轉(zhuǎn)折非常神奇。

?斯坦尼斯瓦夫·萊姆（Stanis?aw Lem）是一位波蘭科幻作家、哲學(xué)家和散文家。他以深刻的哲學(xué)思考和對(duì)人類(lèi)、科技與未來(lái)的獨(dú)特見(jiàn)解而聞名，作品風(fēng)格融合了科幻、哲學(xué)和諷刺。他的代表作包括《索拉里斯星》

（Solaris）

萊姆的作品既實(shí)誠(chéng)又頗具諷刺。他不是在預(yù)言未來(lái)的模樣，而是立足當(dāng)下，謹(jǐn)慎地延伸一些理念。當(dāng)時(shí)的科幻小說(shuō)普遍熱衷于這種手法。在萊姆的作品中，你會(huì)發(fā)現(xiàn)他只是微調(diào)了當(dāng)時(shí)社會(huì)的一兩個(gè)變量，就在上世紀(jì)五十年代構(gòu)想出了互聯(lián)網(wǎng)的雛形。在他的書(shū)中，互聯(lián)網(wǎng)最初就只是一種遠(yuǎn)程傳遞文字的工具，像是傳統(tǒng)報(bào)刊的電子化，而且人們不曉得如何搜索。萊姆肯定想不到，搜索功能是互聯(lián)網(wǎng)的第一個(gè)發(fā)明，所有的一切都是基于搜索建立的。

這很常見(jiàn)，科幻作家缺少正確預(yù)判未來(lái)的想象力，每個(gè)人都像是被永遠(yuǎn)困在了1950年代人的思維中。而當(dāng)我們認(rèn)真思考未來(lái)時(shí)，我們也會(huì)發(fā)現(xiàn)，我們很難同時(shí)修改多個(gè)當(dāng)下的變量，然后正確地預(yù)判未來(lái)。因?yàn)檫@涉及到我們身份的改變和認(rèn)知方法的改變，這是意義的基石。

克里斯蒂安·貝爾納德斯：我曾經(jīng)在Google工作，我的小組叫做Primer，也就是《鉆石世界》中那個(gè)AI的名字。我們的工作目標(biāo)也跟小說(shuō)中的“上傳智慧”類(lèi)似，也就是說(shuō)我的工作就是讓科幻成真，這也是我組織這個(gè)論壇的動(dòng)機(jī)之一。各位作家（或者所有曾經(jīng)創(chuàng)作過(guò)的人們），當(dāng)你們看到你們筆下的東西成真之后，你們有什么感受？

劉宇昆：雖然我也可能會(huì)有想要自詡為這項(xiàng)技術(shù)發(fā)明者的沖動(dòng)，但實(shí)際上我很少這樣想。我的一部作品《結(jié)繩記事》中，描寫(xiě)了一個(gè)緬甸部落用繩結(jié)作為文字，主角通過(guò)研究繩結(jié)的語(yǔ)言學(xué)規(guī)律解決了蛋白質(zhì)的折疊問(wèn)題。這個(gè)技術(shù)背后的邏輯是，打結(jié)者需要提前預(yù)估成結(jié)后繩子各處的局部壓力，想象出成品的形狀。研究人員設(shè)法讓計(jì)算機(jī)學(xué)會(huì)了這種思考過(guò)程，并用這個(gè)算法去解決蛋白質(zhì)的折疊問(wèn)題。

簡(jiǎn)單來(lái)說(shuō)，我的核心創(chuàng)意就是語(yǔ)言學(xué)技術(shù)可以用來(lái)解決蛋白質(zhì)的折疊問(wèn)題——現(xiàn)在證明這個(gè)方向是對(duì)的。如果我不講底線，大可以說(shuō)我是個(gè)先知，但我知道，我只是把這個(gè)“神話”寫(xiě)對(duì)了，而不是成功地“預(yù)測(cè)”了這個(gè)技術(shù)的出現(xiàn)，我不能把這個(gè)創(chuàng)意據(jù)為己有。有一些科幻作家正在用類(lèi)似的方式宣稱(chēng)自己成功預(yù)言了什么什么東西，你知道我會(huì)怎么評(píng)價(jià)這種人。

當(dāng)我在看到現(xiàn)實(shí)世界中的技術(shù)在某種意義上復(fù)現(xiàn)了我小說(shuō)里面的想法，我會(huì)認(rèn)為我把神話寫(xiě)對(duì)了，我成功地捕捉到了這個(gè)技術(shù)背后的集體無(wú)意識(shí)。但我不會(huì)說(shuō)我預(yù)言了這個(gè)技術(shù)的出現(xiàn)，或者說(shuō)我的小說(shuō)為世界帶來(lái)了什么什么。我們經(jīng)常會(huì)預(yù)測(cè)未來(lái)，有時(shí)候會(huì)一語(yǔ)成讖，但這只是瞎貓碰到死耗子。不過(guò)，“能把神話寫(xiě)對(duì)”就已經(jīng)很了不起了，因?yàn)檫@意味著我的作品抓住了人性的某個(gè)基本特質(zhì)。

尼爾·斯蒂芬森：對(duì)我而言，我會(huì)認(rèn)為這是對(duì)小說(shuō)理念的工程與商業(yè)化驗(yàn)證。

回到我前面“讓讀者讀下去”的理念，讓一部作品讀不下去的最致命原因，就是作品前后矛盾，故事不自洽。在傳統(tǒng)的奇幻故事里面，你需要為你的幻想世界寫(xiě)一個(gè)編年史；在科幻故事里面，你也需要在提出一個(gè)新技術(shù)發(fā)明后，告知讀者這個(gè)技術(shù)是如何研發(fā)的，背后的經(jīng)濟(jì)動(dòng)力是什么，為什么可以獲得融資并推向市場(chǎng)。為了如此，所有設(shè)定在近未來(lái)的技術(shù)都是對(duì)現(xiàn)有技術(shù)的合理外推，而整個(gè)故事類(lèi)似于一個(gè)商業(yè)案例。

如果現(xiàn)實(shí)世界中出現(xiàn)了和我的想法比較接近的東西，我會(huì)說(shuō)我做了該做的功課，對(duì)這個(gè)概念的工程學(xué)與商業(yè)運(yùn)作有一定的了解。但正如劉宇昆所說(shuō)的，很多預(yù)測(cè)最后都不會(huì)成真，不過(guò)科幻讀者一般對(duì)這些錯(cuò)誤的預(yù)測(cè)是十分包容的。

未來(lái)世界觀塑造

喬納森·布雷布納：我們SPC很多時(shí)候會(huì)跟成員探討“世界觀架構(gòu)”的概念。根據(jù)我的經(jīng)驗(yàn)，在任何需要“擱置懷疑”的領(lǐng)域，都必須建立一個(gè)擁有連貫且一致的內(nèi)部規(guī)則的世界。即便這些規(guī)則與我們現(xiàn)實(shí)世界或日常經(jīng)驗(yàn)中的法則并不相符，故事世界的內(nèi)部邏輯必須始終保持自洽。這個(gè)原則在寫(xiě)作中尤其重要。要推銷(xiāo)一個(gè)故事，讓人相信并不存在的事物，你就需要通過(guò)邏輯，讓觀眾與你的故事產(chǎn)生連接。

請(qǐng)問(wèn)在座各位，在你們的創(chuàng)作過(guò)程中，或者在其他涉及到塑造世界與講故事的場(chǎng)景，例如作為一個(gè)管理者向投資人或創(chuàng)始人推介項(xiàng)目或產(chǎn)品時(shí)，或是作為一名研究員需要向公眾解釋你研究的意義時(shí)，是否也經(jīng)歷過(guò)類(lèi)似的體驗(yàn)？建構(gòu)虛擬世界的感受如何？是否有時(shí)會(huì)“走得太遠(yuǎn)”，過(guò)分沉浸在構(gòu)建世界的內(nèi)在邏輯中，反而偏離了原本的核心目標(biāo)——講好一個(gè)故事？

賽安·班尼斯特：在我會(huì)議不多的時(shí)候，我會(huì)花大段大段的時(shí)間來(lái)做白日夢(mèng)。我會(huì)思考這個(gè)世界將走向何處，并嘗試編織出一個(gè)故事。我需要把視線放得很遠(yuǎn)，遠(yuǎn)到可以編織出整個(gè)世界的故事，然后在其中探索并打撈投資機(jī)會(huì)。有趣的是，也許是由于某種集體無(wú)意識(shí)，總會(huì)有創(chuàng)業(yè)者不期而至，他們的想法恰好契合我所發(fā)現(xiàn)的這些機(jī)遇。這種同步性往往令人驚嘆。

如果一個(gè)創(chuàng)業(yè)者能夠講好一個(gè)故事，我們的對(duì)話會(huì)非常愉快。如果他的故事可以引起我的共鳴，我就會(huì)不自覺(jué)地與他們一同暢想那個(gè)未來(lái)圖景。這往往會(huì)引導(dǎo)我做出投資決策：我愿意投入資金，成為他們勾勒的未來(lái)的一部分。我覺(jué)得，在投資領(lǐng)域，“世界構(gòu)建”的能力是一個(gè)關(guān)鍵但常被低估的要素。

約夏·巴赫：創(chuàng)辦一家公司，需要同時(shí)創(chuàng)造一種意義。你會(huì)感受到這個(gè)意義對(duì)你的呼喚，并且堅(jiān)信你所干的事情是正確的。我認(rèn)為解釋意識(shí)是最重要的哲學(xué)問(wèn)題，所以我創(chuàng)造了加利福尼亞機(jī)器意識(shí)研究所（California Institute for Machine Consciousness）。

同時(shí)，我也覺(jué)得，描繪一個(gè)能夠可持續(xù)運(yùn)轉(zhuǎn)并可與當(dāng)下交互的世界，也很關(guān)鍵且必要。以馬斯克（Elon Musk）為例，他的成功很大程度上源于他出色的故事講述能力?！澳贻p人需要擁有一輛開(kāi)得很快的車(chē)”，這是一個(gè)很老的故事，但是他可以舊瓶裝新酒，把這個(gè)故事變成登陸火星，甚至是在新的星球上建立新的文明。他的故事有力地連接了現(xiàn)在與未來(lái)，引導(dǎo)我們思考遙遠(yuǎn)的可能性，并為之長(zhǎng)遠(yuǎn)謀劃。

劉宇昆：我覺(jué)得技術(shù)人員熱衷于建構(gòu)世界有兩個(gè)原因。第一，在既定規(guī)則下構(gòu)建世界就像是一場(chǎng)引人入勝的積木游戲。語(yǔ)言、萬(wàn)智牌、計(jì)算機(jī)程序很“好玩”，是因?yàn)槲覀兿硎茉谝?guī)則框架內(nèi)，運(yùn)用手中的基礎(chǔ)元素，體驗(yàn)創(chuàng)造的過(guò)程。

第二個(gè)原因則是，技術(shù)創(chuàng)造是技術(shù)人員自我表達(dá)的方式，甚至可能是最重要的方式。我們會(huì)把我們的價(jià)值觀灌注到造物當(dāng)中，換言之，人的造物是其思想的外顯，技術(shù)就是人類(lèi)思想可以觸碰的形式。而技術(shù)人員，就是喜歡以這種方式表達(dá)自我的人。

因此，建構(gòu)虛擬世界就是在以游戲化的形式表達(dá)自己的價(jià)值觀。這正是它的魅力所在。雖然錢(qián)是好東西，但是很多人從事某一行業(yè)不一定是為了錢(qián)。我們希望讓自己的價(jià)值觀轉(zhuǎn)化為切實(shí)的事物，用我們的價(jià)值觀去影響這個(gè)宇宙，而技術(shù)就是當(dāng)下實(shí)現(xiàn)這個(gè)目的最好的手段。無(wú)論是作家還是技術(shù)人員，我們熱愛(ài)自己的工作，是因?yàn)槲覀兊墓ぷ骷群猛?，又可以表達(dá)自己的價(jià)值觀。

尼爾·斯蒂芬森：并不存在世界設(shè)定的通解。一些小說(shuō)把背景放在遠(yuǎn)未來(lái)，遠(yuǎn)到與奇幻幾乎無(wú)異。比如《沙丘》（Dune）里面關(guān)于星艦工作原理的描述，就完全是一個(gè)奇幻點(diǎn)子，而跟現(xiàn)有技術(shù)沒(méi)有什么關(guān)系。而《蒼穹浩瀚》（The Expanse）這部劇集就更接近我們的世界，只是在當(dāng)下現(xiàn)實(shí)世界之上添加了少量關(guān)鍵設(shè)定。比如說(shuō)，設(shè)想出一種火箭發(fā)動(dòng)機(jī)，它可以讓飛船保持1G加速度直到航程中點(diǎn)。只是多了這樣一個(gè)發(fā)動(dòng)機(jī)，未來(lái)世界會(huì)發(fā)生怎樣的改變？而基于這個(gè)核心設(shè)定，我們可以建構(gòu)出一個(gè)怎樣的世界？

因此，每本書(shū)都不同，但創(chuàng)作過(guò)程中往往遵循一個(gè)基本脈絡(luò)：先有一個(gè)想要表達(dá)的核心想法，然后填充人物和情節(jié)；下一步則是精心構(gòu)建一個(gè)自圓其說(shuō)而又完美服務(wù)于故事本身的世界。

喬納森·布雷布納：你之前提到你喜歡那種“獲得了一個(gè)有更高G力的火箭引擎”的小說(shuō)。我感覺(jué)你喜歡向過(guò)去看，比如你的《赤色馬球》就帶著讀者回到了原子能時(shí)期。我也有過(guò)類(lèi)似的喜好，有一段時(shí)間在鉆研《圣經(jīng)》古文本考據(jù)。我覺(jué)得這是一種對(duì)時(shí)代加速感的防御性反應(yīng)，時(shí)代發(fā)展得越來(lái)越快，沒(méi)人可以完全理解現(xiàn)在正在發(fā)生的一切。而“考古”只是在發(fā)現(xiàn)業(yè)已生成的舊信息，你知道它不會(huì)創(chuàng)造新的信息，這可以逃避加速感給人的不適。

我知道你10年前就已經(jīng)開(kāi)始寫(xiě)《赤色馬球》了。你寫(xiě)這本書(shū)的動(dòng)機(jī)包括逃避世界的飛速變化嗎？

尼爾·斯蒂芬森：現(xiàn)在LLM給大眾的沖擊，就像1950年代太平洋上的核試驗(yàn)給人的沖擊一樣?？窗。绹?guó)造出了一顆一千萬(wàn)噸的氫彈，蘇聯(lián)造出了五千萬(wàn)噸的氫彈，我們的技術(shù)是多么的強(qiáng)大！

但是我，還有很多人，會(huì)更喜歡一些更小層面上的核技術(shù)，比如熒光手表讓我們可以在黑暗中看到時(shí)間，熒光鏡讓醫(yī)生不用剖腹探查。它們以一種可感知的方式，以一種具體的方式改變了我們生活的某個(gè)細(xì)節(jié)，而不是用宏大的技術(shù)神跡來(lái)讓人迷失。我覺(jué)得這就是我們面對(duì)加速感無(wú)所適從的根源。而且，我也同意看向過(guò)去，比如破譯被燒毀的龐培手稿，可以讓人走回舒適圈，找到內(nèi)心的寧?kù)o。

通用型人工智能（AGI）

喬納森·布雷布納：現(xiàn)在來(lái)討論AI與意識(shí)吧，這應(yīng)該是個(gè)有趣的話題。我想問(wèn)的是，你覺(jué)得未來(lái)什么樣的技術(shù)可以被歸類(lèi)為AGI？AGI離我們還有多遠(yuǎn)？

約夏·巴赫：恐怕現(xiàn)在沒(méi)人可以回答這個(gè)問(wèn)題，我至今沒(méi)有看到過(guò)任何一個(gè)足以說(shuō)服我的論述，無(wú)論是支持或者反對(duì)AGI的。

從現(xiàn)象學(xué)角度看，LLM確實(shí)展現(xiàn)出了一些類(lèi)AGI特質(zhì)，但這與人類(lèi)意識(shí)有本質(zhì)區(qū)別。Transformer架構(gòu)不同于人類(lèi)意識(shí)，它不需要在工作記憶中創(chuàng)建連貫敘事來(lái)主導(dǎo)心智活動(dòng)（colonize the mind）。LLM是基于給定的模型子集工作，具有決定論特征。當(dāng)你用提示詞引導(dǎo)LLM扮演對(duì)話伙伴時(shí)，它可以呈現(xiàn)很多種可能；而當(dāng)你讓它模擬某個(gè)應(yīng)用程序，這些現(xiàn)象學(xué)特質(zhì)則會(huì)消失。而如果你引導(dǎo)它進(jìn)入一種具有覺(jué)知和自我意識(shí)的狀態(tài)，它會(huì)建立因果模型來(lái)解釋自身行為，試圖模擬這場(chǎng)對(duì)話底層的因果關(guān)系。

這就帶出了一個(gè)復(fù)雜的問(wèn)題，LLM生成出的多媒體故事與大腦產(chǎn)生的敘事孰優(yōu)孰劣？我們也只是幾千億個(gè)神經(jīng)元的集合，細(xì)胞之間彼此協(xié)作，共同塑造了一個(gè)嚴(yán)絲合縫的認(rèn)知世界。對(duì)我而言，這是一個(gè)懸而未決的重要問(wèn)題?；蛟S我們需要一個(gè)模型，來(lái)精確重構(gòu)人腦古怪的認(rèn)知回路。我們能否將其轉(zhuǎn)化為某種可通過(guò)機(jī)械可解釋性（mechanistic interpretability）來(lái)檢測(cè)的東西？

還是說(shuō)，我們?cè)搹牧硪粋€(gè)方向下手——從零開(kāi)始建立一個(gè)自組織系統(tǒng)，讓它處理足夠復(fù)雜的任務(wù)，如視頻序列預(yù)測(cè)或機(jī)器人身體控制。在學(xué)習(xí)過(guò)程中，會(huì)出現(xiàn)某個(gè)臨界時(shí)刻，這個(gè)系統(tǒng)會(huì)發(fā)生相變，性能出現(xiàn)質(zhì)的飛躍，然后它會(huì)以傳統(tǒng)的方式學(xué)習(xí)語(yǔ)言，并最終報(bào)告其自身的現(xiàn)象學(xué)體驗(yàn)。

AI還有一個(gè)“普遍性假說(shuō)”（the universality hypothesis in AI），只要訓(xùn)練數(shù)據(jù)集相同，不同架構(gòu)的AI模型最終會(huì)收斂到相似的特征層級(jí)結(jié)構(gòu)（feature hierarchy）。這是OpenAI的克里斯·奧拉（Chris Olah）提出的假說(shuō)，他注意到不同的視覺(jué)模型會(huì)提取同樣的視覺(jué)特征，甚至人腦的視覺(jué)皮層提取的也是這些特征。所以，如果我們建立一個(gè)AI模型，然后用人腦的輸入輸出數(shù)據(jù)去訓(xùn)練它，那么這個(gè)模型會(huì)因此產(chǎn)生意識(shí)嗎？

細(xì)想這個(gè)問(wèn)題，更是讓人腦洞大開(kāi)：某種程度上，人類(lèi)自己也是一個(gè)經(jīng)過(guò)端到端訓(xùn)練的模型，訓(xùn)練集目標(biāo)是成為人類(lèi)。沒(méi)人知道人類(lèi)的認(rèn)知過(guò)程究竟是否存在AI所不具備的隱秘“神識(shí)”。

回到我自己，我研究的課題就是，是什么讓我們產(chǎn)生了內(nèi)驅(qū)力？我們需要怎樣的火花，讓一個(gè)自組織系統(tǒng)變成一個(gè)具有自我覺(jué)知、可以與世界互動(dòng)的系統(tǒng)？也許再來(lái)幾篇論文就能解決這個(gè)問(wèn)題，也許再過(guò)幾年就有了。

我認(rèn)為意識(shí)并不是某種魔法，更不是什么陰謀，我們也并非芯片上運(yùn)行的模擬人。根據(jù)我們對(duì)人腦數(shù)據(jù)處理能力的觀測(cè)和認(rèn)知復(fù)雜度的估算，理論上一張H100顯卡應(yīng)該就足以模擬我們的“內(nèi)心影院”了?？纯船F(xiàn)在的生成式模型，它們創(chuàng)作的作品展現(xiàn)的豐富細(xì)節(jié)和思維深度，它們?cè)谟?jì)算能力上已經(jīng)達(dá)到了人類(lèi)神經(jīng)網(wǎng)絡(luò)相當(dāng)?shù)乃健?/p>

? NVIDIA H100 GPU是英偉達(dá)2022年發(fā)布的基于Hopper架構(gòu)的高性能計(jì)算與AI加速利器，具備第四代Tensor Cores、HBM3內(nèi)存和多實(shí)例GPU技術(shù)，AI訓(xùn)練速度比上一代A100快9倍，推理速度快30倍，廣泛應(yīng)用于AI模型訓(xùn)練、數(shù)據(jù)分析、高性能計(jì)算和云服務(wù)等領(lǐng)域，是未來(lái)計(jì)算的重要發(fā)展方向。不過(guò)，H100的下一代H200也已于2023年11月發(fā)布。圖源：https://neysa.ai/

現(xiàn)在還需要解決的問(wèn)題就是，我們是否可以讓這個(gè)系統(tǒng)涌現(xiàn)出自主性，使其可以主動(dòng)觀察世界，形成類(lèi)似生物的感知-反應(yīng)回路？雖然目前我還不清楚具體的實(shí)現(xiàn)路徑，但我認(rèn)為突破點(diǎn)在不遠(yuǎn)的未來(lái)一定會(huì)出現(xiàn)。這個(gè)解決方法也許只是對(duì)現(xiàn)有LLM和多模態(tài)模型的擴(kuò)展延伸，也可能是需要設(shè)計(jì)全新的損失函數(shù)（Loss Function），正是這種未知性，讓這個(gè)問(wèn)題變得如此吸引人。

喬納森·布雷布納：現(xiàn)在看來(lái)，也許只需要再來(lái)幾篇突破性論文就能看到機(jī)器意識(shí)的問(wèn)世。可是放在幾年前，大多數(shù)人還認(rèn)為機(jī)器意識(shí)是天方夜譚。

約夏·巴赫：說(shuō)不定，這些突破性論文甚至不是人類(lèi)寫(xiě)的。雖然，LLM并不是我們追求的AGI，但是LLM或許可以用窮舉法比人類(lèi)更高效地找到實(shí)現(xiàn)AGI的技術(shù)路徑，我們可以把這個(gè)工作完全交給它。

幻想與現(xiàn)實(shí)的關(guān)系

克里斯蒂安·貝爾納德斯：賽安剛才說(shuō)AI是一場(chǎng)新的技術(shù)革命，約夏也說(shuō)沒(méi)人知道AI會(huì)走向何處。賽安，作為一個(gè)靠預(yù)測(cè)未來(lái)吃飯的投資人，AI的加速進(jìn)步會(huì)如何影響你的投資分析？

賽安·班尼斯特：創(chuàng)業(yè)者既是實(shí)干家又是夢(mèng)想家，我依賴(lài)于他們給我的信息來(lái)判斷未來(lái)。我會(huì)追逐離群值（outliers）。作為投資人，我經(jīng)常聽(tīng)到許多相似的創(chuàng)業(yè)故事，直到某個(gè)人帶來(lái)一個(gè)全新的故事，讓人耳目一新。我就是在找這樣的人。投資行業(yè)把這種人稱(chēng)之為“領(lǐng)頭羊”（bellwether）。

現(xiàn)在我對(duì)靈性技術(shù)（spirit-tech）很感興趣。靈性技術(shù)把技術(shù)引導(dǎo)回主觀意識(shí)，開(kāi)始有一些人思考技術(shù)對(duì)靈性與宗教的影響，如何用技術(shù)啟蒙我們對(duì)自己的認(rèn)知。在現(xiàn)階段，理解我們自己的意識(shí)比理解AI是否會(huì)產(chǎn)生意識(shí)更為重要。

AI產(chǎn)生意識(shí)的時(shí)刻，會(huì)跟圣靈感孕*一樣具有神性。我們恐怕還沒(méi)有充分認(rèn)識(shí)到這一事件的重大意義?；仡^看來(lái)，我們習(xí)以為常的先進(jìn)技術(shù)，在過(guò)去的某個(gè)時(shí)刻也曾被認(rèn)為是不可能的。一千年前的古人可沒(méi)法通過(guò)Zoom打視頻會(huì)議。所以，當(dāng)AI真正產(chǎn)生意識(shí)時(shí)，人類(lèi)可能也不會(huì)那么震撼，而是淡淡地“哦，知道了?！?/p>

我的很多投資決策、我對(duì)未來(lái)的一部分想象，跟尼爾·斯蒂芬森的作品是一致的。我認(rèn)為科幻作品的意義在于，它想象了我們可能生活的未來(lái)，也是我愿意投資的未來(lái)。但是在我經(jīng)歷過(guò)的很多關(guān)于AI的其他會(huì)議里，大家對(duì)科幻小說(shuō)并不感冒。我真心希望人們可以讀更多的科幻小說(shuō)，知道自己在向怎樣的未來(lái)邁進(jìn)。

約夏·巴赫：不過(guò)我們要意識(shí)到，故事創(chuàng)作本身也有其局限性。為什么基督教神話以“被提”*結(jié)尾？因?yàn)楫?dāng)所有靈魂融為一體，成為某種不可知的存在，擺脫了肉體的痛苦，就再也沒(méi)有“人”的故事可講了。我懷疑也是因?yàn)檫@個(gè)原因，類(lèi)似主題的科幻小說(shuō)少之又少。

圣靈感孕是基督教信仰中描述的奇跡，指耶穌由神的力量在處女瑪利亞子宮中成孕的過(guò)程，而非通過(guò)人類(lèi)性行為。

被提（Rapture）是某些基督教信仰中，信徒突然被神的力量帶到天堂的末世事件。

尼爾·斯蒂芬森：我可以為沒(méi)有被提的人寫(xiě)一個(gè)很精彩的故事——至于上了天堂的人，肯定很無(wú)聊，他們除了彈豎琴和飛行以外什么都不會(huì)干。

克里斯蒂安·貝爾納德斯：在我跟LLM的對(duì)話之后，我改變了我對(duì)我認(rèn)知的一些看法。約夏，你在與LLM互動(dòng)的時(shí)候，有沒(méi)有改變了你對(duì)自我及其邊界的一些想法？

約夏·巴赫：并沒(méi)有什么改變。一個(gè)正常運(yùn)作的LLM并不是自由發(fā)揮的算法，而只是在執(zhí)行人類(lèi)給它的任務(wù)。他們只是在通過(guò)模擬人類(lèi)的語(yǔ)言，來(lái)模擬人類(lèi)的思考過(guò)程。我感興趣的是做一些現(xiàn)在做不到的事情，比如用它們創(chuàng)作以往不存在的藝術(shù)類(lèi)型，一些人在嘗試?yán)肔LM給音樂(lè)配上人類(lèi)不可能想到的歌詞。

當(dāng)我們寫(xiě)故事、挖想法、碼代碼的時(shí)候，我們只能在人類(lèi)思維的框架下去做這些。人類(lèi)不會(huì)為了寫(xiě)幾行詩(shī)就創(chuàng)造出一個(gè)跟《鉆石時(shí)代》一樣完善的世界，這樣性?xún)r(jià)比很低，但LLM可以。單是理解這個(gè)世界、與之互動(dòng)，已經(jīng)超出了人類(lèi)的能力范圍；而對(duì)于LLM，它可能并不具備意識(shí)，但很快就能夠操控這樣的世界，在其中創(chuàng)造藝術(shù)，與之互動(dòng)。這非常令我興奮。一旦LLM走到了這一步，人類(lèi)就很難跟上它的腳步了。

彩蛋/快問(wèn)快答：

你們的意識(shí)理論是什么？

尼爾·斯蒂芬森：我認(rèn)為，意識(shí)和肉體是密不可分的，正因如此，我很難理解AI的存在——我無(wú)法認(rèn)識(shí)一個(gè)意識(shí)或智能，而它并不依賴(lài)于脆弱、有限、與我們相似的載體。

劉宇昆：作為一個(gè)唯物主義者（materialist），我從根本上相信意識(shí)可以體現(xiàn)在其他物質(zhì)而不是人體中。但問(wèn)題是，我們是目前唯一存在的意識(shí)案例。一個(gè)與我們截然不同的意識(shí)體？我不知道它到底是什么。

賽安·班尼斯特：肉體是我們?cè)诘厍蛏洗┑奶辗庾R(shí)是一種能量，它無(wú)處不在。

約夏·巴赫：很多其它的文化都信仰泛靈論（Animism）。泛靈論認(rèn)為，生與死的邊界在于物質(zhì)是否承載靈體，而靈體具有主觀能動(dòng)性與意識(shí)體驗(yàn)。但在科學(xué)的世界，我們不相信靈體，我們只相信機(jī)制。所以我們才有意識(shí)的難問(wèn)題，我們很難用機(jī)制去解釋心理表征、內(nèi)省、情緒體驗(yàn)，盡管AI已經(jīng)展現(xiàn)了復(fù)制這些體驗(yàn)的可能性。

我自稱(chēng)“賽博泛靈論”者（cyberanimist），我認(rèn)為靈體的實(shí)質(zhì)是從大自然出現(xiàn)、接受大自然塑造、在大自然的推動(dòng)下運(yùn)行的自組織程序。如果你接受了我的世界觀，你會(huì)發(fā)現(xiàn)亞里士多德也有同樣的想法，他認(rèn)為靈體在動(dòng)態(tài)地塑造物質(zhì)，然后讓物質(zhì)以特定規(guī)律運(yùn)行。

從這個(gè)角度來(lái)說(shuō)，我是物理主義者（physicalist）或自然主義者（naturalist），但我認(rèn)為軟件是我們描述現(xiàn)實(shí)的一種方式。如果忽視軟件，你就無(wú)法更簡(jiǎn)單地描述現(xiàn)實(shí)。軟件本身并沒(méi)有什么神奇的，它具有這些非物質(zhì)的特性?，F(xiàn)在很多科學(xué)無(wú)視了軟件的部分，只是把腦當(dāng)成純物質(zhì)的神經(jīng)簇來(lái)研究，這是一個(gè)巨大的錯(cuò)誤。

譯者后記

我自認(rèn)為看過(guò)的科幻不少了。先展示一下成分：我看過(guò)《三體》、《基地》、《你一生的故事》這樣的科幻小說(shuō)，也很喜歡愛(ài)死機(jī)、攻殼、流浪地球等科幻電影和電視劇。不過(guò)我最喜歡的是電子游戲：在《地平線》的世界里扮演埃洛伊狩獵機(jī)械獸，在《群星》中領(lǐng)導(dǎo)剛剛發(fā)現(xiàn)超光速飛行的文明統(tǒng)治銀河，在《死亡擱淺》里重新連接破碎的世界，在《2077》中以朋克精神把象征跨國(guó)公司權(quán)威的雄偉大樓燒成灰。

《三體》在技術(shù)上無(wú)比硬核，黑暗森林理論甚至在現(xiàn)實(shí)中成為了反對(duì)METI（主動(dòng)發(fā)送信息到地外）的理論依據(jù)；《我，機(jī)器人》的阿西莫夫三定律及其推演出的內(nèi)在矛盾，迄今仍是機(jī)器人與AI倫理的一盞明燈。這樣的“硬”科幻作品固然可貴，但科幻作品并不一定要懂科學(xué)。攻殼和2077并沒(méi)有深入探討作為核心科幻點(diǎn)子的義體技術(shù)，但卻深入地討論了技術(shù)對(duì)人性的異化、技術(shù)加重資本主義剝削等嚴(yán)肅的哲學(xué)與社會(huì)議題。它們?cè)诳茖W(xué)方面的“軟”并沒(méi)有影響它們作為文學(xué)作品的分量。因此，科幻的偉大既在于它能成為像《三體》、阿西莫夫機(jī)器人學(xué)那樣的理性圣殿，又能夠如劉宇昆所述般“深入集體無(wú)意識(shí)”，打撈出披著技術(shù)外殼的賽博神祗。我個(gè)人雖偏好前者，但我承認(rèn)兩者同樣閃閃發(fā)光。

對(duì)談視頻鏈接：

https://www.youtube.com/watch?v=J7FN53FqB1U&t=2026s

對(duì)談音頻鏈接：
https://open.spotify.com/episode/6SHoBM5J96mA7TzA1thaGw?si=7d10e96d781744aa

關(guān)于追問(wèn)nextquestion

天橋腦科學(xué)研究院旗下科學(xué)媒體，旨在以科學(xué)追問(wèn)為紐帶，深入探究人工智能與人類(lèi)智能相互融合與促進(jìn)，不斷探索科學(xué)的邊界。歡迎評(píng)論區(qū)留言，或后臺(tái)留言“社群”即可加入社群與我們互動(dòng)。您也可以在后臺(tái)提問(wèn)，我們將基于追問(wèn)知識(shí)庫(kù)為你做出智能回復(fù)哦~

關(guān)于天橋腦科學(xué)研究院

天橋腦科學(xué)研究院（Tianqiao and Chrissy Chen Institute）是由陳天橋、雒芊芊夫婦出資10億美元?jiǎng)?chuàng)建的世界最大私人腦科學(xué)研究機(jī)構(gòu)之一，圍繞全球化、跨學(xué)科和青年科學(xué)家三大重點(diǎn)，支持腦科學(xué)研究，造福人類(lèi)。

Chen Institute與華山醫(yī)院、上海市精神衛(wèi)生中心設(shè)立了應(yīng)用神經(jīng)技術(shù)前沿實(shí)驗(yàn)室、人工智能與精神健康前沿實(shí)驗(yàn)室；與加州理工學(xué)院合作成立了加州理工天橋神經(jīng)科學(xué)研究院。

Chen Institute建成了支持腦科學(xué)和人工智能領(lǐng)域研究的生態(tài)系統(tǒng)，項(xiàng)目遍布?xì)W美、亞洲和大洋洲，包括、、、科研型臨床醫(yī)生獎(jiǎng)勵(lì)計(jì)劃、、等。