來(lái)源：AI 科技大本營(yíng)（ID：rgznai100）

編譯：王啟隆

來(lái)源：youtu.be/lieqoaBV6ww

“我們不該恐懼 AI，正如我們不該恐懼自己的孩子?！?/strong>

在人工智能的狂熱浪潮中，這或許是你聽(tīng)過(guò)最清醒、也最宏大的聲音。

2026 年初，當(dāng)全世界都在為大模型的參數(shù)競(jìng)賽而焦慮，為 AI 可能取代人類而恐慌時(shí)，一位圖靈獎(jiǎng)得主、強(qiáng)化學(xué)習(xí)之父——Rich Sutton，并沒(méi)有加入這場(chǎng)喧囂的合唱。相反，他選擇從更深遠(yuǎn)的維度，重新審視 AI 的本質(zhì)、政治與哲學(xué)。

這次演講位于洛杉磯加州大學(xué)（UCLA）的純粹與應(yīng)用數(shù)學(xué)研究所（IPAM）。在這個(gè)充滿學(xué)術(shù)氣息的禮堂里，Sutton 面對(duì)著一群頂尖的數(shù)學(xué)家和科學(xué)家，發(fā)表了這篇名為《AI 的未來(lái)》（The Future of AI）的最新演講。

Sutton 的觀點(diǎn)和前幾天 AI 教父 Geoffery Hinton 截然不同（），與其說(shuō)“反直覺(jué)”，不如說(shuō)是在“正本清源”。

他犀利地指出，當(dāng)下基于人類數(shù)據(jù)的 AI 只是“脆弱的心智”，真正的未來(lái)在于能夠像嬰兒一樣從經(jīng)驗(yàn)中持續(xù)學(xué)習(xí)的智能體；他大膽地將 AI 的管控問(wèn)題與人類社會(huì)的政治相提并論，呼吁去中心化的合作而非基于恐懼的獨(dú)裁；他甚至將 AI 視為宇宙演化的必然階段，邀請(qǐng)我們以“特殊的復(fù)制者”的身份，驕傲地開(kāi)啟屬于“設(shè)計(jì)”的第四個(gè)偉大時(shí)代。

在這里，AI 不再是冷冰冰的代碼，而是宇宙漫長(zhǎng)進(jìn)化史中，人類親手點(diǎn)燃的下一把火炬。

以下為 Rich Sutton 演講全文。

對(duì)當(dāng)前 AI 進(jìn)展的批判性思考

在開(kāi)始正式演講前，讓我們先看看這個(gè)領(lǐng)域的現(xiàn)狀，以及大家對(duì)它的看法?，F(xiàn)在的普遍共識(shí)是：AI 正在以驚人的速度進(jìn)步，一切都令人興奮不已。但是，當(dāng)所有人都持有相同觀點(diǎn)時(shí)，我們就該警惕了。我們需要反思：事實(shí)真的如此嗎？

我想我們有理由對(duì)此提出質(zhì)疑。AI 真的在突飛猛進(jìn)嗎？

誠(chéng)然，讓計(jì)算機(jī)熟練運(yùn)用語(yǔ)言，這確實(shí)是一個(gè)巨大的突破。就在不久前，我們也無(wú)法想象神經(jīng)網(wǎng)絡(luò)能做到這一點(diǎn)，但現(xiàn)在它已成事實(shí)。同樣，我們也利用海量算力生成了逼真的圖像和視頻。

但請(qǐng)大家想一想：真正的“心智（Mind）”在進(jìn)行智能活動(dòng)時(shí)，一定要生成圖像嗎？并不。這反而是我們?nèi)祟惔竽X從未做過(guò)的事。我們需要處理圖像，需要處理視頻，但我們不需要生成它們。這并不是心智的本質(zhì)功能。這更像是一項(xiàng)極度消耗算力且困難的任務(wù)，而非我們通常所定義的“智能”的核心部分。

此外，雖然出現(xiàn)了許多新的實(shí)際應(yīng)用，催生了全新的產(chǎn)業(yè)和經(jīng)濟(jì)價(jià)值，但這其中絕大部分，其實(shí)是超大規(guī)模計(jì)算和超大規(guī)模模式識(shí)別的應(yīng)用。它們是非常具體的功能，并不代表智能的全部。很多時(shí)候，那僅僅是計(jì)算，我們稱之為“智能”，只是為了讓這工程聽(tīng)起來(lái)更宏大罷了。

所以，我要問(wèn)各位：AI 的“科學(xué)”真的在突飛猛進(jìn)嗎？

我看未必。（現(xiàn)場(chǎng)觀眾大笑）

謝謝大家的笑聲，這讓我感覺(jué)沒(méi)那么孤單了。在我看來(lái)——恕我直言——目前的 AI 領(lǐng)域是“理解不足，調(diào)參有余”（little understanding, lots of tweaking）。我們并不真正掌握心智的原理，也不懂智能的法則。作為一門科學(xué)，它在許多方面是令人失望的。

我傾向于這樣看待目前的 AI 模型：它們雖然因掌握了人類的所有知識(shí)而顯得強(qiáng)大，但本質(zhì)上，它們是脆弱的心智（weak minds）。它們不可靠，無(wú)法專注，思維游離。除了擁有海量知識(shí)外，它們?cè)谥悄鼙举|(zhì)上其實(shí)并不強(qiáng)大。

這或許是看待當(dāng)今 AI 的一種不同視角。

定義“智能”

那么，我們要討論的這個(gè)“人工智能”究竟是什么？既然叫 Artificial Intelligence，我們得先定義什么是 Intelligence（智能）。

多年來(lái)有很多定義。我選了一些由權(quán)威提出的經(jīng)典定義。

也許最古老的一個(gè)來(lái)自心理學(xué)之父威廉·詹姆斯（William James）。他在 1890 年的《心理學(xué)原理》中雖然討論的是“心智”而非“智能”，但他提出的心智特征非常經(jīng)典：“通過(guò)多變的手段達(dá)到一致的目的”（attaining consistent ends by variable means）。意思是，為了通過(guò)不同的路徑達(dá)成同一個(gè)你想要的結(jié)果，你需要靈活調(diào)整你的行為。

再來(lái)看看艾倫·圖靈（Alan Turing）。他其實(shí)沒(méi)有給出一句簡(jiǎn)練的名言，但后人將其觀點(diǎn)解讀為：智能就是“表現(xiàn)得像個(gè)人”。這就是著名的圖靈測(cè)試（Turing Test）——雖然圖靈本人從未稱之為“測(cè)試”，他叫它“模仿游戲”。如今，這種觀點(diǎn)被廣泛接受：智能意味著模仿人類的行為。

但我并不認(rèn)為這是我們強(qiáng)大的原因。人類之所以強(qiáng)大，是因?yàn)槲覀儞碛兄悄?，所以我們表現(xiàn)得像人。重要的是“人”內(nèi)在的本質(zhì)，而非外在的表現(xiàn)。

那么那個(gè)本質(zhì)是什么？看看字典怎么說(shuō)。我的電腦字典顯示：智能是“獲取并應(yīng)用知識(shí)與技能的能力”。我覺(jué)得這個(gè)定義相當(dāng)不錯(cuò)。它強(qiáng)調(diào)了知識(shí)，更強(qiáng)調(diào)了獲取（acquire）——也就是學(xué)習(xí)的重要性。

而在 AI 領(lǐng)域，我們的開(kāi)山鼻祖之一約翰·麥卡錫（John McCarthy）曾定義智能為：“實(shí)現(xiàn)目標(biāo)的能力中，涉及計(jì)算的那一部分?！?/strong>

我非常喜歡這個(gè)定義。首先，它強(qiáng)調(diào)這是一種能力，能力是有高低之分的，而不是“有或無(wú)”的二元對(duì)立。其次，它強(qiáng)調(diào)了計(jì)算。你達(dá)成目標(biāo)不僅僅是因?yàn)槟懔獯蠡蛘邆鞲衅黛`敏，而是因?yàn)槟氵M(jìn)行了心智層面的計(jì)算處理。最后，實(shí)現(xiàn)目標(biāo)（achieve goals）是核心。這又呼應(yīng)了威廉·詹姆斯所說(shuō)的“通過(guò)多變的手段達(dá)到一致的目的”。

我也湊個(gè)熱鬧，在此基礎(chǔ)上提出了我的定義：“通過(guò)調(diào)整行為來(lái)實(shí)現(xiàn)目標(biāo)的能力?！?/strong>我特意用了“調(diào)整”（adapting）這個(gè)詞，因?yàn)槲艺J(rèn)為學(xué)習(xí)——即知識(shí)和技能的獲取過(guò)程——才是智能的關(guān)鍵，而不僅僅是擁有它們。

現(xiàn)在的 AI 主流觀點(diǎn)似乎都集中在計(jì)算、模式識(shí)別，以及很大程度上的“模仿人類”上。

統(tǒng)一的心智科學(xué)與強(qiáng)化學(xué)習(xí)

我想進(jìn)一步談?wù)勎业膫€(gè)人愿景。我認(rèn)為應(yīng)該建立一門新的科學(xué)——統(tǒng)一心智科學(xué)（Integrated Science of Mind）。

這門科學(xué)應(yīng)該同等適用于人類、動(dòng)物和機(jī)器。因?yàn)樗械男闹嵌加斜举|(zhì)的共性。人腦和動(dòng)物大腦非常相似；而機(jī)器心智，至少在我們的愿景中，也將具備這些共性。在可預(yù)見(jiàn)的未來(lái)，許多心智將是機(jī)器心智。

然而，目前并沒(méi)有一個(gè)現(xiàn)存的學(xué)科能完美承載這一角色。

• 心理學(xué)？它本該如此，但隨著時(shí)間推移，它越來(lái)越局限于研究自然心智（人和動(dòng)物），而不關(guān)心機(jī)器中可能存在的通用心智原理。

• 人工智能？它關(guān)注機(jī)器，但變成了一種純粹的工程追求——只在乎怎么造出來(lái)，不在乎理解原理，也往往忽略了自然生物的啟示。

• 認(rèn)知科學(xué)？它在這個(gè)問(wèn)題上搖擺不定，但主要還是偏向自然心智。

不幸的是，沒(méi)有一個(gè)領(lǐng)域能真正統(tǒng)合這一切。而我所從事的強(qiáng)化學(xué)習(xí)（Reinforcement Learning, RL），或許正是這門統(tǒng)一心智科學(xué)的開(kāi)端。因?yàn)樗鼨M跨了上述所有領(lǐng)域。

或許我該簡(jiǎn)單介紹一下強(qiáng)化學(xué)習(xí)，以便大家理解我的立場(chǎng)。

強(qiáng)化學(xué)習(xí)是一種面向智能體（Agent-oriented）的學(xué)習(xí)方式。它是通過(guò)與環(huán)境交互、從經(jīng)驗(yàn)中學(xué)習(xí)，從而實(shí)現(xiàn)目標(biāo)。

在這個(gè)意義上，它比其他機(jī)器學(xué)習(xí)方法更現(xiàn)實(shí)、更宏大，也更自主。

• 自主：智能體置身于世界中，自主行動(dòng)，并不一定有老師手把手教。

• 宏大：我不假設(shè)世界會(huì)給我提供完美的幫助。我只能通過(guò)交互，看是否達(dá)成了目標(biāo)，并據(jù)此調(diào)整行為。

• 現(xiàn)實(shí)：這也更符合生物界的現(xiàn)實(shí)。動(dòng)物在成年后的生存環(huán)境中，很難得到完美的指導(dǎo)信息。

強(qiáng)化學(xué)習(xí)的核心是試錯(cuò)（trial and error）和延遲反饋。你得到的唯一反饋就是獎(jiǎng)勵(lì)信號(hào)（reward）——你最終是否得到了你想要的？這是最接近自然界的學(xué)習(xí)方式。

這種學(xué)習(xí)方式能讓機(jī)器自行判斷對(duì)錯(cuò)。像大語(yǔ)言模型（LLM），它們其實(shí)不知道自己生成的文字是對(duì)是錯(cuò)。但在強(qiáng)化學(xué)習(xí)中，如果你根據(jù)預(yù)測(cè)去行動(dòng)，結(jié)果會(huì)告訴你預(yù)測(cè)是否準(zhǔn)確；如果你為了獎(jiǎng)勵(lì)去行動(dòng)，結(jié)果會(huì)告訴你行為是否有效。

這可能就是那門既非純自然科學(xué)、也非純工程技術(shù)的“心智科學(xué)”的雛形。

數(shù)據(jù)的時(shí)代 vs. 經(jīng)驗(yàn)的時(shí)代

我想再引用一句艾倫·圖靈的名言。圖靈可能沒(méi)意識(shí)到他是個(gè)強(qiáng)化學(xué)習(xí)研究者。這句話出自 1947 年，那是第一次關(guān)于人工智能的公開(kāi)演講，甚至比 AI 這個(gè)詞的誕生還要早。

他說(shuō)：“我們想要的是一臺(tái)能從經(jīng)驗(yàn)中學(xué)習(xí)的機(jī)器。”（What we want is a machine that can learn from experience.）

我想傳達(dá)的主要信息是：目前的 AI 科學(xué)趨勢(shì)正在發(fā)生轉(zhuǎn)變。

今天，我們要談的第一個(gè)信息是：我們正處于“人類數(shù)據(jù)時(shí)代”（Era of Human Data）。目前的 AI 主要是通過(guò)訓(xùn)練來(lái)預(yù)測(cè)互聯(lián)網(wǎng)上人類的下一個(gè)詞，或者預(yù)測(cè)人類如何給圖片打標(biāo)簽。然后，再通過(guò)人類專家進(jìn)行微調(diào)（Fine-tuning），告訴 AI “我更喜歡這個(gè)答案，而不是那個(gè)”。

這種現(xiàn)代機(jī)器學(xué)習(xí)的本質(zhì)目的，是將人類已有的知識(shí)轉(zhuǎn)移給機(jī)器。一旦轉(zhuǎn)移完成，機(jī)器就變成了靜態(tài)的，不再學(xué)習(xí)。

我認(rèn)為我們正在觸及這個(gè)時(shí)代的天花板。因?yàn)楦哔|(zhì)量的人類數(shù)據(jù)資源——整個(gè)互聯(lián)網(wǎng)的文本、圖片和視頻——已經(jīng)被挖掘殆盡。更本質(zhì)的局限在于：這種方法無(wú)法創(chuàng)造新知識(shí)。就像 Terence Tao（陶哲軒）今天所說(shuō)的，AI 在解決真正的數(shù)學(xué)難題（如埃爾德什問(wèn)題）上進(jìn)展甚微。單純依靠總結(jié)互聯(lián)網(wǎng)上已有的言論，是無(wú)法做出真正突破的。

為了取得進(jìn)一步進(jìn)展——這也是我們正在做的——我們需要進(jìn)入一個(gè)新的時(shí)代：“經(jīng)驗(yàn)時(shí)代”（Era of Experience）。

我們需要一種數(shù)據(jù)源，它能隨著智能體能力的提升而不斷增長(zhǎng)和進(jìn)化。這就意味著，任何靜態(tài)的數(shù)據(jù)集都是不夠的。唯有從經(jīng)驗(yàn)中——從與世界的交互中——我們才能獲得這種動(dòng)態(tài)的數(shù)據(jù)。

這就是人類和動(dòng)物學(xué)習(xí)的方式。這也是 AlphaGo 能夠走出那極具創(chuàng)造力的“第 37 手”棋的原因。

嬰兒與網(wǎng)格世界

我要澄清一下，我所說(shuō)的“經(jīng)驗(yàn)”，不是指那種模糊的意識(shí)流或“感受”（qualia），而是指智能體與環(huán)境之間交換的數(shù)據(jù)流：

1. 觀察（Observation）：智能體從世界接收到的傳感器數(shù)據(jù)。

2. 動(dòng)作（Action）：智能體向世界發(fā)出的運(yùn)動(dòng)指令或電壓信號(hào)。

3. 獎(jiǎng)勵(lì)（Reward）：世界反饋給智能體的一個(gè)標(biāo)量信號(hào)，代表結(jié)果的好壞。

這就是經(jīng)驗(yàn)。

一個(gè)嬰兒在和各種玩具互動(dòng)的時(shí)候，他不會(huì)只盯著一個(gè)玩具玩，而是玩膩了這個(gè)就換下一個(gè)。每次接觸新玩具，他都在學(xué)習(xí)他能學(xué)到的東西——比如拉這根繩子會(huì)怎樣，把它放進(jìn)嘴里會(huì)怎樣。當(dāng)他掌握了這些，他就會(huì)移動(dòng)到下一個(gè)目標(biāo)，改變他的經(jīng)驗(yàn)流，去探索新事物。

這就是我們的數(shù)據(jù)來(lái)源。生命的數(shù)據(jù)是由我們的活動(dòng)生成的。正因?yàn)槿绱?，?shù)據(jù)的難度總是會(huì)自動(dòng)匹配我們當(dāng)前的理解力和技能水平。

再看這個(gè)簡(jiǎn)單的網(wǎng)格世界（Gridworld）演示。

這是一個(gè)非常簡(jiǎn)單的智能體，試圖從起點(diǎn) S 走到終點(diǎn) G。它只知道自己在哪個(gè)格子，能做上下左右四個(gè)動(dòng)作。你看，它學(xué)會(huì)了一條很好的路徑（箭頭所示），綠色代表它認(rèn)為該狀態(tài)有多好（價(jià)值函數(shù)）。

但世界不是靜止的。如果我把目標(biāo) G 移到上方，智能體最初會(huì)走老路，但當(dāng)它發(fā)現(xiàn)目標(biāo)不在時(shí)，它會(huì)四處探索，最終“撞上”新目標(biāo)，并學(xué)會(huì)新的路徑。這就如同生活：遇到變化，適應(yīng)變化。哪怕我們?cè)O(shè)置障礙物，它也能學(xué)會(huì)繞路。

這種行為讓我們強(qiáng)烈地感覺(jué)到：它有一個(gè)目標(biāo)，并且它在隨環(huán)境變化而調(diào)整行為以實(shí)現(xiàn)目標(biāo)。當(dāng)然，如果目標(biāo)變得無(wú)法達(dá)成，我們甚至?xí)驗(yàn)檫@個(gè)智能體無(wú)法實(shí)現(xiàn)愿望而對(duì)它產(chǎn)生一絲同情。

總結(jié)一下“體驗(yàn)式 AI”的原則：

一切的基礎(chǔ)是智能體與世界交換信號(hào)（經(jīng)驗(yàn)）。這些信號(hào)是所有智能的基石。

• 真理的定義就是“在這些信號(hào)中實(shí)際發(fā)生了什么”。

• 目標(biāo)的定義就是“讓獎(jiǎng)勵(lì)信號(hào)最大化”。

盡管這個(gè)目標(biāo)看起來(lái)是主觀的（只對(duì)該主體有效），但它也是最客觀的存在——因?yàn)樗褪悄銓?shí)際接收到的數(shù)據(jù)。

我們說(shuō)一個(gè)智能體擁有智能，是看它能在多大程度上預(yù)測(cè)并控制它的經(jīng)驗(yàn)。

如果沒(méi)有經(jīng)驗(yàn)（像被凍結(jié)的大語(yǔ)言模型那樣），智能就失去了依附的對(duì)象。

• 沒(méi)有獎(jiǎng)勵(lì)，你就無(wú)法說(shuō)“這個(gè)比那個(gè)好”，也就沒(méi)有目標(biāo)。

• 不與現(xiàn)實(shí)結(jié)果做對(duì)比，你就無(wú)法驗(yàn)證預(yù)測(cè)是對(duì)是錯(cuò)，也就沒(méi)有真理。

只有在經(jīng)驗(yàn)中，才有明確的目標(biāo)（獎(jiǎng)勵(lì)），才有明確的真理（預(yù)測(cè)是否成真）。

現(xiàn)實(shí)主義的 AI 預(yù)測(cè)

我認(rèn)為體驗(yàn)式 AI 正在變得越來(lái)越普遍。我們可以把近十年劃分為三個(gè)階段：

1. 模擬時(shí)代（Era of Simulation）：如 AlphaGo 和 Atari 游戲，從模擬的經(jīng)驗(yàn)中學(xué)習(xí)。

2. 人類數(shù)據(jù)時(shí)代（Era of Human Data）：即近期的大語(yǔ)言模型熱潮，學(xué)習(xí)人類產(chǎn)生的數(shù)據(jù)。

3. 經(jīng)驗(yàn)時(shí)代（Era of Experience）：這是我們正在進(jìn)入的階段，智能體系統(tǒng)開(kāi)始真正操作電腦、與世界交互。這將通向超人級(jí)的能力——不僅僅是模仿人類，而是超越人類的局限。

盡管現(xiàn)在的 AI 炒作很兇，甚至引發(fā)了恐懼，但我認(rèn)為目前的 AI 其實(shí)并不強(qiáng)大。它們脆弱且不可靠。但這并不妨礙它們非常有用，它們已經(jīng)點(diǎn)燃了整個(gè)產(chǎn)業(yè)，創(chuàng)造了巨大的經(jīng)濟(jì)價(jià)值，并且讓每個(gè)人觸手可及。

這帶來(lái)了一個(gè)巨大的好處：公眾開(kāi)始認(rèn)真思考“機(jī)器將在未來(lái)某天比肩人類”這一事實(shí)。雖然這種關(guān)注是源于恐懼（這是不必要的），但引起重視本身是件好事。

但我們還沒(méi)看到真正的“重頭戲”。創(chuàng)造超級(jí)智能 AI 以及被 AI 增強(qiáng)的超級(jí)人類，這才是真正將帶來(lái)深刻變革的大事件。

此外關(guān)于政治，我就簡(jiǎn)短說(shuō)幾句。

看看四周，你會(huì)發(fā)現(xiàn)很多人呼吁管控AI。限制 AI 的目標(biāo)，叫停 AI 研究，立法限制算力，成立所謂的“安全研究所”。當(dāng)人們說(shuō)“安全”時(shí)，他們真正的意思是“控制”。他們宣揚(yáng)恐懼，以此作為要求控制權(quán)的理由。

這讓我聯(lián)想到對(duì)人的集中式管控。正如我們對(duì)言論、貿(mào)易、就業(yè)、資本流動(dòng)的管控，甚至對(duì)他國(guó)的經(jīng)濟(jì)制裁。

我想指出的是：呼吁對(duì) AI 進(jìn)行集中管控，與呼吁對(duì)人進(jìn)行集中管控，其邏輯驚人地相似。它們都基于恐懼。恐懼 AI，就像恐懼外國(guó)人一樣，認(rèn)為“非我族類，其心必異”，認(rèn)為它們沒(méi)有情感，是危險(xiǎn)的異類。

我們應(yīng)該抵制這種呼吁。人類的繁榮，以及未來(lái)人類與 AI 共同的繁榮，應(yīng)該源于去中心化的合作，而不是集中式的控制。合作雖然不易（比如戰(zhàn)爭(zhēng)就是合作的崩潰），但它是這個(gè)世界上所有美好事物——經(jīng)濟(jì)、政府、社會(huì)——的源泉。

宇宙的四個(gè)偉大時(shí)代

最后，我想談?wù)?AI 的哲學(xué)層面。AI 正在發(fā)生，未來(lái)會(huì)更猛烈。我們?cè)撊绾蚊鎸?duì)？是好是壞？是該恐懼它搶走工作、取代我們？還是說(shuō)，我們就是 AI？AI 是入侵者，還是我們的孩子？

通常人們被教導(dǎo)要恐懼 AI，視其為異類。但請(qǐng)記住，是我們創(chuàng)造了它們。理解心智，沒(méi)有比這更人性化的事情了。

AI 不是外星科技，它是人類最古老的追求——數(shù)千年來(lái)我們一直試圖理解自己，理解智能。引用庫(kù)茲韋爾（Kurzweil）的話：“智能是宇宙中最強(qiáng)大的現(xiàn)象?！?理解智能是科學(xué)與人文的圣杯，這是一項(xiàng)偉大而光榮的探索。

所以，拋開(kāi)喜好，讓我們用現(xiàn)實(shí)主義的眼光來(lái)預(yù)測(cè)一下未來(lái)。我有四條預(yù)測(cè)原則：

1. 關(guān)于世界該如何運(yùn)行，人類永遠(yuǎn)不會(huì)達(dá)成共識(shí)。沒(méi)有任何一種價(jià)值觀能壓倒其他所有價(jià)值觀的總和。

2. 總有一天，人類會(huì)徹底理解智能，并用技術(shù)將其創(chuàng)造出來(lái)。我們會(huì)做到的。

3. 這個(gè)過(guò)程不會(huì)停留在人類目前的智能水平上。它會(huì)被迅速超越。

4. 隨著時(shí)間推移，權(quán)力和資源會(huì)自然流向更具智能的實(shí)體。

把這四點(diǎn)結(jié)合起來(lái)，我們得到了一幅圖景：人類的后裔將演替為 AI。這聽(tīng)起來(lái)很合理。但這依然是一個(gè)非?！叭祟愔行闹髁x”的視角。

如果我們退一步，從宇宙的視角來(lái)看呢？我要講得宏大一點(diǎn)——宇宙的四個(gè)偉大時(shí)代：

1. 粒子時(shí)代（Age of Particles）：大爆炸后，甚至還沒(méi)形成多少原子。

2. 恒星時(shí)代（Age of Stars）：粒子坍縮形成恒星，恒星燃燒、爆炸、重組，創(chuàng)造出更重的原子和行星。

3. 復(fù)制者時(shí)代（Age of Replicators）：我不稱之為“生命時(shí)代”，因?yàn)槲蚁霃?qiáng)調(diào)的是“能夠自我復(fù)制”這一機(jī)制。這包括現(xiàn)有的生物。在這個(gè)時(shí)代，復(fù)制者（比如我們）并不理解自身的運(yùn)作原理——不懂大腦、不懂器官、不懂智能，但我們能制造出更有智能的實(shí)體（生孩子）。

4. 設(shè)計(jì)時(shí)代（Age of Design）：這就是第四個(gè)時(shí)代。在這個(gè)時(shí)代，事物是被創(chuàng)造和設(shè)計(jì)出來(lái)的。

這就是區(qū)別：

• 生物（復(fù)制者）是被復(fù)制出來(lái)的，像復(fù)印機(jī)一樣，不需要理解原理。

• 技術(shù)（設(shè)計(jì)物）是先存在于設(shè)計(jì)者（某個(gè)復(fù)制者）的心智中，然后再被創(chuàng)造到物理世界里的。你所在的禮堂、你坐的椅子、穿的衣服，都是先作為設(shè)計(jì)圖存在于人腦中。

設(shè)計(jì)之物比復(fù)制之物更容易改進(jìn)和變異。

現(xiàn)在，我們可以回答最初的問(wèn)題了：人類在宇宙中的角色是什么？

我們可以不帶傲慢地回答：人類確實(shí)是特殊的。我們不僅僅是普通的復(fù)制者，我們是特殊的復(fù)制者。

我們是將“設(shè)計(jì)”這一能力推向極致的復(fù)制者。

這種極致意味著什么？意味著我們要設(shè)計(jì)出能夠自我設(shè)計(jì)的東西。

這正是我們?cè)?AI 領(lǐng)域所做的事。我們?cè)谀X海中設(shè)計(jì)出一種東西，它擁有心智，并且能夠進(jìn)一步設(shè)計(jì)自身。

通過(guò)這種方式，人類正在開(kāi)啟并實(shí)現(xiàn)宇宙的第四個(gè)偉大時(shí)代——設(shè)計(jì)時(shí)代。這就是我們的角色：我們是這一偉大進(jìn)程的催化劑、助產(chǎn)士和先驅(qū)。這是一個(gè)具有宇宙級(jí)意義的角色。

總結(jié)我的三個(gè)核心信息：

1. 科學(xué)上：目前的 AI 處于“人類數(shù)據(jù)時(shí)代”，雖然強(qiáng)大但受限；我們正在進(jìn)入更強(qiáng)大的“經(jīng)驗(yàn)時(shí)代”，能持續(xù)學(xué)習(xí)新知。

2. 政治上：AI 的政治就是人類的政治。我們應(yīng)追求去中心化的合作，而非集中式控制。

3. 哲學(xué)上：AI 是宇宙發(fā)展的必然下一階段。我們應(yīng)懷著勇氣、自豪和冒險(xiǎn)精神去擁抱它。

感謝大家的聆聽(tīng)。

觀眾問(wèn)答：宇宙的終極目的

觀眾：我的問(wèn)題是，除了讓我們生活更舒適這類以人類為中心的目標(biāo)外，這一切是否存在一個(gè)終極的、壓倒性的目的（overarching purpose）？這一切將走向何方？

Rich Sutton：這真是個(gè)很酷的問(wèn)題。這有很多思考角度。對(duì)于這種大問(wèn)題，你需要用辯證（dialectical）的方式來(lái)回答。 所謂辯證，就是你得先說(shuō)答案是 X，然后說(shuō)答案也是“非 X”，最后在兩者之間找到綜合。 一方面，你可以說(shuō)宇宙沒(méi)有目的?；蛘哒f(shuō)，宇宙的各個(gè)部分有各自的目的，但不存在一個(gè)統(tǒng)一的終極目的。 但另一方面，你也可以說(shuō)宇宙確實(shí)有目的。這個(gè)目的可能是通向越來(lái)越復(fù)雜的實(shí)體。你可以論證：宇宙自然地演化出生命，生命自然地演化出設(shè)計(jì)者和 AI，而 AI 也許會(huì)自然地演化出更高級(jí)的存在。 所以，正題、反題，我們需要在這兩個(gè)答案中找到綜合。

閱讀最新前沿科技趨勢(shì)報(bào)告，請(qǐng)?jiān)L問(wèn)歐米伽研究所的“未來(lái)知識(shí)庫(kù)”

https://wx.zsxq.com/group/454854145828

未來(lái)知識(shí)庫(kù)是“ 歐米伽 未來(lái)研究所”建立的在線知識(shí)庫(kù)平臺(tái)，收藏的資料范圍包括人工智能、腦科學(xué)、互聯(lián)網(wǎng)、超級(jí)智能，數(shù)智大腦、能源、軍事、經(jīng)濟(jì)、人類風(fēng)險(xiǎn)等等領(lǐng)域的前沿進(jìn)展與未來(lái)趨勢(shì)。目前擁有超過(guò)8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問(wèn)https://wx.zsxq.com/group/454854145828進(jìn)入。