2023年春天，一位七十五歲的老人跪在枕頭上吃完最后一頓在谷歌的午餐——因為背傷，他已經(jīng)這樣跪著進食了十七年——然后遞交了辭職信。

他就是杰弗里·辛頓（Geoffrey Hinton）。AI的教父。

他離開谷歌，不是為了退休，而是為了說一句話：我們正在制造某種比我們更聰明的東西，而我們對它沒有任何控制。

媒體把他的警告歸類為"科學家的憂慮"，然后繼續(xù)報道下一個AI產(chǎn)品發(fā)布。但這個故事里有一條更深的線索，幾乎沒有人注意到——

辛頓是喬治·布爾的曾曾孫。

布爾是誰？

他是十九世紀的英國數(shù)學家，一個鞋匠的兒子，他在穿越田野的途中聽到了上帝的聲音，隨后寫下了《思維規(guī)律研究》，發(fā)明了那套把"真與假"壓縮進數(shù)字電路的二進制邏輯。他相信自己找到了人類心智的底層代碼，相信通過數(shù)學可以窺見神性的心靈。他死于肺炎，1864年，妄想中看見"整個宇宙像一片黑色海洋"。

一百六十年后，他的曾曾孫用這套邏輯建造了神經(jīng)網(wǎng)絡，訓練出了可以寫作、推理、生成圖像的AI系統(tǒng)，然后宣告：人類可能只是智能進化鏈上的一個過渡階段。

這不是科技史的趣味花絮。這是人類造神沖動的遺傳。當所有人都在教你怎么更好地使用AI時，有沒有人認真問過一個更古老的問題：人類為什么總想造神？

今天重溫下之前分享過的一篇重磅文章，來自智利作家本哈明·拉巴圖特（Benjamín Labatut），他是《當我們不再理解世界》的作者，那本書曾讓無數(shù)讀者意識到：科學史里最深刻的東西，從來不是方程式，而是站在方程式背后那些快要被答案吞噬的人。

這篇文章叫《邏輯之神》（The God of Logic），是他對AI時代最長的一次凝視。

他從弗蘭克·赫伯特的《沙丘》開始，從那場虛構的"布特勒圣戰(zhàn)"——那場人類反抗思考機器的史詩戰(zhàn)爭——切入現(xiàn)實。他追溯布爾代數(shù)如何變成電路邏輯，如何在1943年被麥卡洛克和皮茨鑄造成第一個人工神經(jīng)元的數(shù)學模型，如何在幾十年的冷落之后，被辛頓頑固地復活，最終長成今天讓他本人夜不能寐的龐然大物。

他問了一個讓我讀完久久不能回神的問題：我們追求AI，究竟是在追求什么？

效率？財富？治愈癌癥？

還是那個比任何現(xiàn)實目標都古老的東西：成為神明。逃脫死亡。

他寫到吠陀火祭壇——那些按照精確數(shù)學比例用磚塊砌成的巨鳥形狀的祭壇，眾神用來升天獲得不朽的結構。他寫到每塊磚都是一個思想，思想堆疊成心智，心智可以"像展開翅膀的鳥兒一樣飛翔"。

然后他說：今天在數(shù)據(jù)中心里建造神經(jīng)網(wǎng)絡的工程師，和那些瘋狂砌磚的古代祭司，沒有本質區(qū)別。

拉巴圖特不是在寫AI恐慌。恐慌文章到處都是，他不需要再加一篇。

他在做一件更難的事：他在追問這股沖動的基因序列。從布爾到香農(nóng)到麥卡洛克和皮茨到辛頓，這條血脈里究竟遺傳了什么？

他提到一件少有人知的故事——

皮茨，那個和麥卡洛克一起發(fā)明了人工神經(jīng)元的天才博學者，最終陷入酗酒，經(jīng)歷震顫譫妄和癲癇發(fā)作，在臨死前燒掉了自己關于三維神經(jīng)網(wǎng)絡的全部研究手稿。

他一生相信人類所有的思維，所有的愛與痛苦，都不過是大腦里神經(jīng)元發(fā)射電脈沖的純粹機制。

他把自己的靈魂變成了方程。然后活不下去了。

這是一個警告，還是一個預言？

拉巴圖特最后回到了《沙丘》。赫伯特寫下圣戰(zhàn)的教訓，將其鑄造成一句戒律，成為那個虛構未來的宗教文本的核心——

"你不可制造一個類似人類思維的機器。"

這不是盧德主義。這是一種更古老的智慧，關于我們與自己造物之間的權力結構。

我們已經(jīng)越過那條線了。

問題是：接下來呢？

這篇文章沒有給出答案。它給你的是一面鏡子，照出我們這個物種在造神這件事上的執(zhí)念、狂喜和恐懼，從吠陀祭壇到布爾代數(shù)，從第一個人工神經(jīng)元到ChatGPT，一脈相承，從未中斷。

值得你花一個小時，慢慢讀完。

原文標題：The Gods of Logic

作者：Benjamín Labatut

布特勒圣戰(zhàn)中究竟有多少人喪生，我們永遠不得而知。是數(shù)百萬？數(shù)十億？還是數(shù)萬億？那是一場瘋狂的憤怒，一場席卷一切的大起義。它如野火蔓延，吞噬沿途的一切，是一場持續(xù)近百年的混亂。這場戰(zhàn)爭吞噬了幾代人，其死亡人數(shù)之高，給人類靈魂留下了永久的傷痕。

但我們永遠不會知道那些在戰(zhàn)爭中戰(zhàn)斗和犧牲的人的名字，也無從得知它造成的巨大苦難和破壞，因為布特勒圣戰(zhàn)雖然可憎而具毀滅性，卻從未真實發(fā)生過。

這場圣戰(zhàn)是弗蘭克·赫伯特為其科幻傳奇《沙丘》虛構的事件。它是人類對有意識技術的最后一戰(zhàn)，是一場推翻機器邏輯之神、根除幾乎完全奴役我們的有意識計算機和機器人的十字軍東征。

赫伯特將其描述為"全人類的丘腦停頓"，一個暴力肆虐到徹底改變社會未來發(fā)展方向的時代。但我們對這場斗爭中實際發(fā)生的事情知之甚少，因為在原版《沙丘》系列中，赫伯特只給了我們最模糊的輪廓——一些暗示、低語和耳語，它們帶有預言般的幽靈重量。

圣戰(zhàn)通過禁止人工智能或任何模擬人類思維的機器，重塑了文明，遏制了技術的最糟糕過度發(fā)展。然而，它發(fā)生在小說中所描繪事件的許多世紀之前，以至于到了小說發(fā)生的時候，它已經(jīng)淡化為傳說，并結晶為外傳。

這場災難中艱難獲得的教訓被保存在民間智慧和諺語中："人類不可被取代。""人們曾把思考交給機器，希望這能讓他們獲得自由。但這只是讓其他擁有機器的人奴役他們。""我們不信任可能由富有想象力的技術產(chǎn)生的未知事物。""我們必須禁止會思考的機器。"

圣戰(zhàn)最持久的遺產(chǎn)是人類與技術關系的深刻改變。因為那場偉大狩獵的目標不僅僅是機械智能，還有已經(jīng)占據(jù)我們物種的機器般的態(tài)度。赫伯特寫道："人類曾經(jīng)讓那些機器篡奪我們的美感，篡奪我們做出生活判斷所必需的自我。"

人類必須制定自己的準則。這不是機器能做到的。推理取決于編程，而不是硬件，而我們是終極程序！

布特勒圣戰(zhàn)消除了一個拐杖——我們交給技術的那部分自我——并迫使人類的思維發(fā)展到超越機械推理的限度，這樣我們就不再依賴計算機為我們思考。

赫伯特對人類與機器邏輯之神之間毀滅性戰(zhàn)爭的遙遠幻想，在他60年代開始寫作時似乎有些不合時宜。那時，計算機按現(xiàn)代標準來看還很原始，是巨大的主機裝置，每秒只能處理數(shù)十萬個周期（而不是現(xiàn)在的數(shù)十億），內(nèi)存很小，通過穿孔卡操作，彼此之間也沒有連接。

從那以后我們一直輕易地無視赫伯特的警告，但現(xiàn)在布特勒圣戰(zhàn)突然重新困擾著我們。人工智能末日是一種新的恐懼，讓許多人夜不能寐。這種恐怖源于巨大的進步，似乎暗示如果我們不非常小心，我們可能會親手帶來一個人類無處容身的未來。這種奇怪的噩夢之所以成為可信的危險，只是因為我們的許多夢想正威脅著成真。

這是一個漫長過程的疊加，可以追溯到文明本身的起源，那時世界充滿魔法和恐懼，唯一能確保我們生存的方法就是召喚神靈的力量。

成神一直困擾著人類的靈魂。自古以來，我們就渴望成為神明，超越自然對我們設置的限制。為了達到這個目的，我們建造祭壇，舉行儀式，祈求智慧、祝福和超越我們能力的手段。

雖然我們傾向于認為只有在現(xiàn)代世界中，力量和知識才帶來巨大風險，但原始知識也是危險的，因為在古代，我們對世界和自身的部分理解并非來自我們自身，而是來自他者。來自神明，來自靈魂，來自在沉默中咆哮的聲音。

在印度人揭示的吠陀奧秘的核心，是一個火祭壇：一個由磚塊按精確的數(shù)學比例鋪設而成的祭祀構造，形成一只巨大猛禽的形狀——也許是鷹或鷲。

根據(jù)羅伯托·卡拉索的說法，這是一切起源的原始神祇——生物之主般阇僧提的禮物。當他的孩子們，眾神，抱怨他們無法逃脫死亡時，他給了他們精確的指示，如何建造一個能讓他們升天并獲得不朽的祭壇："取三百六十塊邊石和一萬零八百塊磚，與一年中的小時數(shù)相同，"他說。"每塊磚都應該有一個名字。把它們放在五層。再加磚塊到總共一萬一千五百五十六塊。"

眾神建造了祭壇，逃離了死神本身。然而，死神阻止了人類做同樣的事。我們不被允許讓肉體成為不朽；我們只能渴望永恒的作品。吠陀人民繼續(xù)豎立火祭壇數(shù)千年：隨著時間推移，據(jù)卡拉索說，他們意識到每塊磚都是一個思想，思想堆疊在一起創(chuàng)造了一堵墻——心智，注意力的力量——而那個心智，當?shù)玫竭m當發(fā)展時，可以像展開翅膀的鳥兒一樣飛翔，征服天空。

從遠處看，對那些不知道正在制造什么的人來說，這些男男女女肯定看起來像是瘋了的磚匠。而同樣狂熱的愚蠢，似乎也占據(jù)了那些在最近幾十年里獻出心智來建造一個新的數(shù)學結構的人，這個結構是我們思維某些方面的無靈魂復制品，我們選擇將其命名為"人工智能"，一個如此強大的工具，如果我們相信它最狂熱的追隨者的話，將幫助我們到達天堂并成為不朽。

人工智能是原始而抽象的力量，缺乏身體、意識或欲望，因此，有人可能會說，它無法產(chǎn)生吠陀經(jīng)稱之為tapas的原始熱量——心靈的熱情，一切存在從中涌現(xiàn)的熱忱——這種熱量仍然在我們每個人心中微弱地燃燒。

如果我們相信來自硅谷最樂觀的聲音，人工智能可能是我們用來創(chuàng)造無限財富、治愈一切疾病、修復地球并走向不朽的工具，而悲觀者則警告說它可能是我們的末日。我們是否已經(jīng)到了加入永恒眾神的時候？還是我們的數(shù)字后代會篡奪火祭壇并將其用于自己的目的，就像我們自己偷走了那本應屬于神明的知識一樣？現(xiàn)在下定論還為時尚早。但我們可以確定一件事，因為我們一次又一次地從我們的神話的懲罰故事中學到：召喚神明或靠近他們從來都不安全。

19世紀中葉，數(shù)學家喬治·布爾聽到了上帝的聲音。當他穿過英國家附近的一片田野時，他經(jīng)歷了一次神秘體驗，并開始相信他將揭示人類思維的底層規(guī)則。

布爾是一個貧窮鞋匠的兒子，天才兒童，自學了微積分，在唐卡斯特當教師，直到他的一篇論文為他贏得了皇家學會的金獎章，并獲得了成為愛爾蘭科克皇后學院第一位數(shù)學教授的職位。在大學的庇護下，相對擺脫了長期困擾他的經(jīng)濟困難，他第一次可以幾乎完全投入自己的激情，他很快就做到了一件獨特的事：他將數(shù)學和邏輯結合在一個將改變世界的系統(tǒng)中。

在布爾之前，邏輯和數(shù)學這兩門學科已經(jīng)分開發(fā)展了一千多年。他的新邏輯只有兩個值——真和假——用它不僅可以做數(shù)學，還可以分析哲學陳述和命題以確定其真實性或虛假性。對于他這個虔誠的宗教人士來說，布爾將他的新型邏輯用于精神必需品的東西：證明上帝不能做惡。

在一個他標題為"惡的起源"的手寫筆記中，布爾用他的邏輯原理分析了四個基本前提：

1. 如果上帝是全能的，一切事物必須按照他的意愿發(fā)生，反之亦然。

2. 如果上帝是完全善良的，并且如果一切事物都按照他的意愿發(fā)生，絕對的惡就不存在。

3. 如果上帝是全能的，并且如果仁慈是他行為的唯一原則，要么痛苦不存在，要么它存在僅僅作為善的工具。

4. 痛苦確實存在。

他通過用符號替換這些陳述，并通過數(shù)學運算以不同方式組合它們，對這些陳述進行邏輯分析，直到他得出一個根據(jù)他的系統(tǒng)絕對為真的結果：絕對的邪惡不存在，痛苦是善的工具。

布爾是一個被他那個時代精神所塑造的人，這種精神與我們的非常不同：他相信人類的心智是理性的，并且按照塑造更大宇宙的相同規(guī)律運作；通過艱苦地揭示這些規(guī)律，我們不僅可以理解世界并揭示產(chǎn)生和引導我們自己思想的隱藏機制，我們實際上可以窺視神性的心靈。

在處理惡的問題后，布爾繼續(xù)發(fā)展他的想法，試圖創(chuàng)造一種運算法來將所有邏輯三段論、推理和推論簡化為數(shù)學符號的操作，并為概率理論奠定精確的基礎。這導致了他最偉大的著作：《思維規(guī)律研究》，這本書闡述了他的新符號邏輯的規(guī)則，并在開篇章節(jié)中概述了他的宏偉意圖，即用數(shù)學捕捉那個在我們思維曲折路徑中低語的幽靈的語言：

本論文的設計是研究心智進行推理時所進行的那些操作的基本規(guī)律；用微積分的符號語言表達它們，并在此基礎上建立邏輯科學并構建其方法。

布爾確信我們的思維在基本上是按邏輯運作的，但他去世時還沒有達到創(chuàng)造一個理解思維的系統(tǒng)的目標；在出版他的杰作十年后，他步行兩英里半從家到大學，被雨淋濕了，穿著濕衣服講了一整天課，后來發(fā)展成致命的肺炎。他因發(fā)燒而陷入譫妄，告訴他的妻子瑪麗·埃弗雷斯特，他可以看到整個宇宙像一片巨大的黑色海洋展現(xiàn)在他面前，除了一支銀號和唱著"主啊，你的話永遠定于天"的合唱，什么也看不見，什么也聽不見。

他于1864年12月8日去世，不久之前瑪麗（根據(jù)一個可能是虛構的故事）曾用濕毛毯裹住他——遵循同種療法的奇怪邏輯，即治療必須模仿原因——無意中加速了她的摯愛的離世。

布爾的工作在他有生之年無關緊要，在他死后80多年被忽視，直到有一天，麻省理工學院的一個年輕研究生偶然發(fā)現(xiàn)了《思維規(guī)律》，沉浸在布爾的奇怪代數(shù)邏輯中，創(chuàng)造了一個從那時起影響了我們生活的方方面面的實際應用。

他的名字是克勞德·香農(nóng)， 一個數(shù)學家和電氣工程師，當時正在研究他那個時代最先進的思維機器（范內(nèi)瓦·布什的微分分析器，一個和整個房間一樣大的早期計算機），當他意識到布爾的兩值邏輯是設計電子電路的完美系統(tǒng)。電開關使用二進制值（0表示關閉，1表示打開），它們可以由英國數(shù)學家創(chuàng)造的邏輯運算控制。僅僅通過利用一個簡單的二元性：真或假，開或關，1或0，就可以進行令人難以置信的復雜計算。這種二元性是信息時代的基石。

布爾看似無用且高度抽象的想法在數(shù)字電路中轟然復活，徹底改變了我們的技術景觀；從吸塵器到洲際彈道導彈，絕大多數(shù)使用電力的技術都依賴于它們。但它們最重要的應用是它們構成了現(xiàn)代計算機"思考"方式的基礎。

這些計算機用布爾語"說話"，并用它來計算；它們執(zhí)行的每一個任務都歸結為一系列是-否問題，這些問題使用布爾邏輯處理。它們所有的軟件，每一行代碼，都依賴于它。布爾的奇怪邏輯是驅動現(xiàn)代世界的無形煉金術，也是新火祭壇磚塊的泥土，因為它是今天最先進的AI系統(tǒng)的基本單位的基礎：人工神經(jīng)元。

1943年，沃倫·斯特吉斯·麥卡洛克和沃爾特·皮茨發(fā)表了第一個神經(jīng)元的數(shù)學模型。它極其簡化和抽象，沒有真實生物學的復雜過程，但從這種簡單性中產(chǎn)生了巨大的力量。

麥卡洛克是一位神經(jīng)生理學家，也是控制論的創(chuàng)始人之一，皮茨是一位才華橫溢的年輕博學者，在邏輯方面出類拔萃，他們建立在這樣一個事實之上：本質上，神經(jīng)元的行為是二元的：當受到刺激時，它要么發(fā)射電脈沖，要么不發(fā)射?；谶@個前提，他們具有里程碑意義的論文《神經(jīng)活動中內(nèi)在思想的邏輯演算》使用布爾手術刀剖開了神經(jīng)元機制的內(nèi)部運作。

根據(jù)他們的方案，每個人工神經(jīng)元從鄰近神經(jīng)元接收多個電信號，就像生物神經(jīng)元一樣；如果這些信號加起來超過某個閾值，神經(jīng)元就會發(fā)射，否則就保持不活躍。創(chuàng)造了這個數(shù)學構造后，他們更進一步，展示了由于神經(jīng)元的輸入和輸出都是布爾式的，通過將這些二元單位串聯(lián)成鏈和環(huán)，由它們組成的網(wǎng)絡可以計算和實現(xiàn)布爾邏輯的每一種可能操作。

從這個模型中產(chǎn)生了對大腦和思維的新理解：從他們的角度來看，大腦可以被理解為一個計算裝置，一臺使用神經(jīng)元執(zhí)行邏輯的機器。因此，人類的心理活動無非是由遵循數(shù)學規(guī)則的神經(jīng)元處理的二進制信息。

在皮茨和麥卡洛克之前，就連圖靈也沒有想到用計算的概念來建立一個思維理論。 但雖然他們的模型證明了人工神經(jīng)元能夠模擬復雜的認知過程，但事實證明它太過有限，無法捕捉真實生物大腦的全部復雜性。然而，這仍然是一個巨大的洞察，因為它提出了第一個現(xiàn)代的計算思維理論，并為神經(jīng)科學中的一個重大問題提供了答案——即大腦如何變得聰明。

麥卡洛克和皮茨在神經(jīng)網(wǎng)絡方面的工作開啟了神經(jīng)科學的計算方法，導致約翰·馮·諾依曼創(chuàng)造了現(xiàn)代計算機的邏輯設計。它開辟了一個新的視野，讓我們了解我們的大腦可能如何運作，并似乎展示了神經(jīng)元如何處理和傳輸信息。

由于其深遠的影響，他們證明神經(jīng)網(wǎng)絡可以進行邏輯運算可能是人類思想歷史上最重要的想法之一，但隨著時間的推移，他們高度理想化的神經(jīng)元要么被試圖理解大腦的科學家們無視或忽視，并被不同的方案取代。

麥卡洛克花了多年時間試圖開發(fā)一個完整的機械思維模型，并繼續(xù)尋找神經(jīng)系統(tǒng)的邏輯，直到1969年去世，而皮茨——他一生都致力于確信人類思維的神秘運作，我們的許多心理成就和缺點，都源于大腦中神經(jīng)元發(fā)射電脈沖的純粹機制——陷入抑郁和酗酒，經(jīng)歷了震顫譫妄、癲癇發(fā)作和昏迷，最后因食管靜脈曲張出血（一種與肝硬化相關的疾?。┧涝隈R薩諸塞州劍橋的一個寄宿房里，此前他曾放火燒毀了自己關于三維神經(jīng)網(wǎng)絡模型的工作。

然而，他們的人工神經(jīng)元在他們之后存活了下來，并在那篇具有里程碑意義的論文發(fā)表大約四十年后，激發(fā)了一種計算機學習方法，這種方法被喬治·布爾的曾曾孫杰弗里·辛頓在當時主流觀念反對下頑強而熱情地倡導。

辛頓被廣泛認為是AI的教父。他可能是過去幾十年對這個領域影響最大的一個個體。在80年代，他倡導一種基于深度神經(jīng)網(wǎng)絡的方法，這是大腦的數(shù)學抽象，其中神經(jīng)元用代碼表示；僅僅通過改變這些神經(jīng)元之間連接的強度——改變用來表示它們的數(shù)字——網(wǎng)絡就可以自己學習。

在他之前，主導范式非常不同：大多數(shù)研究人員相信，要讓機器思考，它們必須模仿人類推理的方式，通過遵循邏輯規(guī)則操縱符號（例如單詞或數(shù)字），這就是布爾自己相信的。但他的后代不同意："烏鴉可以解決謎題，"他去年在接受《麻省理工科技評論》采訪時說，"它們沒有語言......它們是通過改變大腦中神經(jīng)元之間連接的強度來做到這一點的。所以，通過改變?nèi)斯ど窠?jīng)網(wǎng)絡中連接的強度，一定可以學習復雜的東西。"

很長一段時間，辛頓的神經(jīng)網(wǎng)絡無法"活"起來。簡單地說，沒有足夠的計算能力或訓練數(shù)據(jù)讓它們表現(xiàn)出智能。但后來情況急劇改變。從2010年開始，他看到他的想法以他從未想象過的方式蓬勃發(fā)展，神經(jīng)網(wǎng)絡成為國際研究的主要焦點。

"我們不再是瘋狂的邊緣分子，"他說。"我們現(xiàn)在是瘋狂的核心。"在接下來的幾年里，開發(fā)出了令人驚嘆的系統(tǒng)：AlphaGo擊敗了圍棋世界冠軍李世石；AlphaFold預測了幾乎每一個已知蛋白質結構的形狀；像DALL-E 2這樣的程序給了我們從純噪聲中創(chuàng)造出的逼真圖像。然后是ChatGPT，一個能做許多辛頓認為還需要幾十年才能實現(xiàn)的事情的人工智能，這讓他感到了對上帝的恐懼。

2023年春天，辛頓辭去了谷歌副總裁的職位，以警告世界他的"孩子"的危險正如他在麻省理工學院年度會議上解釋的那樣，他感覺AI發(fā)展得太快了：

"人類只是智能進化中的一個過渡階段，這是完全可以想象的。你不能直接進化出數(shù)字智能。它需要太多能量和太多精心制作。你需要生物智能進化，以便它可以創(chuàng)造數(shù)字智能，但數(shù)字智能然后可以以相當緩慢的方式吸收人們曾經(jīng)寫過的一切，這就是ChatGPT正在做的，但然后它可以獲得來自世界的直接經(jīng)驗訪問并運行得更快。它可能會讓我們存在一段時間以保持發(fā)電站運轉。但在那之后，也許不會。"

辛頓已經(jīng)變了。他從一種新理性形式的傳教士變聲成為一個末日先知。他說，改變他想法的是意識到我們實際上并沒有復制我們的智能，而是創(chuàng)造了一個更高級的智能。

或者也許是別的原因？是否他潛意識中的某個部分在暗示，是他而非他的曾曾祖父被上帝選中來發(fā)現(xiàn)思維的機制？辛頓不相信上帝，他肯定會否認他祖先的主張，即痛苦是上帝意志的工具。這一點尤其明顯，因為由于背傷導致的劇烈疼痛，他不得不像一個在祭壇前祈禱的僧侶一樣跪在枕頭上吃每一頓飯。十七年多來，他無法坐下，直到2022年他才終于能夠坐著吃飯。

辛頓堅持認為思考機器的危險是真實的。這不僅包括短期影響，如工作替代、虛假信息或自主致命武器，還有一些人認為是幻想的存在風險：我們在世界上的地位可能被人工智能取代。他恐懼的部分原因是他相信人工智能實際上可以達成一種不朽，就像吠陀神那樣。

"好消息是，"他說，"我們找到了如何建造永恒的東西。當一個硬件死亡時，它們不會死亡。如果你把權重存儲在某種介質中，并且你可以找到另一個能運行相同指令的硬件，那么你就可以讓它重新活過來。所以，我們有了不朽。但這不是為我們準備的。"

辛頓似乎害怕當火祭壇的余燼在祭祀結束時熄滅，我們召喚出的生物的刺骨寒意開始滲入我們的骨頭時，我們可能會看到什么。我們真的正走向過時嗎？人類會滅亡嗎，不是因為我們對周圍一切的對待方式，也不是因為重力扔向我們的某個巨大無思想的巖石，而是因為我們自身非理性地需要知道所有可知的事情的結果？

所謂的人工智能末日與核戰(zhàn)爭的蘑菇云恐怖不同，也不像日益普遍的野火、干旱和洪水的破壞，因為它源于我們自古以來一直認為是積極的、構成人性核心的東西：理性、智能、邏輯和解決問題、謎題和邪惡的能力，這些邪惡甚至染指了最幸運的人的存在，帶來日常苦難。

但在我們攀爬向神化的過程中，在膽敢追隨吠陀神逃脫死亡的腳步時，我們可能會照亮那些應該保持在黑暗中的事物。因為即使人工智能永遠不會達到那些預示一個沒有人類的世界、算法沒有我們就嗡嗡運轉的宏大而可怕的噩夢愿景，我們?nèi)匀槐仨殤獙@項技術對人類社會、文化和經(jīng)濟的諸多影響。

同時，更大的超級智能AI的幽靈籠罩著我們。雖然它不太可能甚至可能不可能（有人說只不過是一個童話故事，一個旨在通過將一系列強大系統(tǒng)呈現(xiàn)為不是我們技術發(fā)展的下一步而是終結世界的死神來吸引更多金錢和投資的恐怖故事），但它不能輕易被驅散，因為它觸及我們造神裝置的纖維，我們存在中那個原始和恐懼的部分，因為它讓我們想起了一個時代，我們在洞穴里瑟瑟發(fā)抖并擠在一起，而在外面的黑暗中，那些能在夜間視物的眼睛，過去的許多野獸和怪物嗅探著我們氣味的痕跡。

隨著每個新的AI模型變得更強大，警告的聲音形成一個合唱，甚至連我們中最樂觀的人也開始懼怕這項新技術，越來越難以冷靜思考或用邏輯推理。幸運的是，我們有許多其他不受理性支配的才能。我們總是可以起身，從我們?nèi)绱舜颐ν渡淼奶摽罩型撕笠徊剑瑑A聽那些從我們想象力中升起的奇怪聲音，那個永遠是理性必要避難所和對應物的野性領域。

面對狂野的猜測，面對沒有人，無論多么聰明或見多識廣，真正能夠管理或理解的危險，并被無限潛力的承諾所挑釁，我們可能不得不不僅用科學、政治和理性來探測未來，而且用我們在黑暗中視物的魔眼：虛構。因為我們可以在作家過去想象的世界中找到我們尚未遇到的門的鑰匙。

當我們在茫然中摸索前進，被AI的能力震驚和困惑時，我們不妨思考沙漠星球，在那里赫伯特的《沙丘》小說的主人公們在一種名為香料的藥物的陶醉中尋求窺視未來時間的流沙，以找到黃金之路，一種讓人類從暴政中掙脫并避免滅絕或停滯的方式，通過變得更加多樣化、有韌性和自由，進化超越純粹的邏輯推理并發(fā)展我們的思維和能力，達到我們的思想和行為是不可預測且不受統(tǒng)計約束的程度。赫伯特的書以其過去和現(xiàn)在的奇怪混合提醒我們，有許多方式我們可以繼續(xù)前進同時保留我們的人性。

AI已經(jīng)在這里，但我們選擇如何使用它和我們同意對其發(fā)展施加的限制仍有待決定。無論AI公司投資多少數(shù)十億美元，這些公司承諾消除工作、解決氣候變化、治愈癌癥，并帶來前所未有的奇跡，我們永遠不能完全將自己交給這些數(shù)學生物，這些沒有靈魂或同情心的存在，因為它們既不活著也沒有意識——至少現(xiàn)在還沒有，當然不像我們——所以它們不分享我們思維的矛盾本質。

在未來幾年，隨著武裝了AI的人們繼續(xù)使世界變得更快、更奇怪和更混亂，我們應該盡一切努力防止這些系統(tǒng)給能夠構建它們的少數(shù)人更多權力。但我們也應該考慮赫伯特的警告，他選擇將其作為未來人類關鍵宗教文本核心的中心誡命，一條旨在防止我們成為我們理性產(chǎn)物的奴隸，防止我們向邏輯之神及其許多可怕的后代鞠躬的規(guī)則：

你不可制造一個類似人類思維的機器?！径?/strong>

歡迎加入經(jīng)叔的知識星球。在這里，我們拒絕無用的焦慮，只談底層的邏輯與實戰(zhàn)的干貨。我會結合最新的AI前沿動態(tài)、深度的商業(yè)創(chuàng)新分析（如一人企業(yè)的構建）和獨特的文化思潮（如麥克盧漢的媒介洞察），幫助大家把握時間窗口。

歡迎訂閱不懂經(jīng)知識星球，星球即將漲價。

我是不懂經(jīng)的經(jīng)叔，國內(nèi)最早翻譯介紹了納瓦爾的《如何不靠運氣獲得財務自由》，以及影響了納瓦爾、中本聰、馬斯克等大佬的《主權個人》。

不懂經(jīng)知識星球，眾多百萬粉絲大V、千萬及億萬富翁訂閱。專注分享一人企業(yè)、一人創(chuàng)投主題，關鍵詞：AI、IP、創(chuàng)投、科技及商業(yè)前沿的高杠桿內(nèi)容。

愈懂愈自由