近期中國工程院院士、阿里云創(chuàng)始人王堅與美國國家科學(xué)院、國家工程院、國家藝術(shù)與科學(xué)學(xué)院、物理學(xué)會四院院士特倫斯·謝諾夫斯基展開了一場精彩對話。兩位專家深入探討了人工智能的發(fā)展現(xiàn)狀、大語言模型的應(yīng)用與影響，以及如何將人工智能技術(shù)應(yīng)用于科學(xué)研究和教育領(lǐng)域，為大家呈現(xiàn)了人工智能的前沿觀點與未來發(fā)展方向。

人工智能已經(jīng)成為當(dāng)今最熱門的話題之一，然而很多人仍然覺得它遙不可及，事實上它早已悄然融入我們的生活，默默為我們的衣食住行提供助力。這種既遠又近的感覺，恰恰是人工智能最特別的地方。

中央電視臺·央視頻特別節(jié)目《AI1001課》與中信出版集團共同邀約到國內(nèi)外兩位人工智能領(lǐng)域的知名專家學(xué)者：阿里云創(chuàng)始人王堅教授和《大語言模型》作者特倫斯·謝諾夫斯基教授，與我們共同走進人工智能的世界，看看它如何影響當(dāng)下塑造未來。

01

大語言模型、三體與平權(quán)

主持人：談到人工智能，其實很多人最開始認識到它，應(yīng)該是從一些科幻電影或者一些科幻小說當(dāng)中。想問問王博士有沒有讓您記憶深刻的科幻電影或者科幻小說。

王堅：可能大家比較熟悉的就是《黑客帝國》。如果你記不得它是人工智能，但這個電影里邊肯定有個畫面大家不會忘掉，就是一串像代碼一樣的字符往下掉。這是那個時代最科幻的，甚至把那個時代的顏色也體現(xiàn)出來了——綠綠的，白白的，那樣就是未來。所有跟綠色有關(guān)都有自帶一種科技感和未來感。

最近幾年大家覺得比較科幻的就是《三體》，它反映了人們對一些今天還未知的、不存在的東西的追求。但實際上今天人工智能已經(jīng)開始深入到我們的生活，它不再是一個未來式的東西。尤其是今年年初DeepSeek給我們帶來巨大的驚喜。這半年以來有非常非常多的人工智能應(yīng)用上線。

除此之外，很多人都知道芯片是人工智能最基本的東西，如果我們沒有芯片，可能人工智能就沒法運作?？墒呛苌偃酥懒硗庖痪湓挘涸谌缃瘢绻麤]有人工智能，芯片也造不出來。

所以如今芯片的復(fù)雜度已經(jīng)到了沒有人工智能做不了芯片。

如果去看谷歌這些企業(yè)就發(fā)現(xiàn)，他們花了很多精力在講人工智能怎么幫助我們設(shè)計下一代芯片。所以其實人類發(fā)展到今天，我們碰到的事情復(fù)雜度已經(jīng)非常非常大了，如果沒有一些更加先進的工具來幫助我們，事實上我們很難做一些事情。

另外比如去年的這個巴黎奧運會，我當(dāng)時跟奧委會開會聊奧林匹克的人工智能的議程的時候，我跟他們說過這樣一句話：其實觀眾是沒有真正看到奧運會精彩的鏡頭的，觀眾只看到了導(dǎo)演認為的精彩的鏡頭，其實大部分的鏡頭可能從來沒人看過。所以去年奧運會大家看到了很多因為有了人工智能才見到的精彩鏡頭。所以人工智能其實比我們想象的有更多應(yīng)用場景。

主持人：可能在過去很多科學(xué)的術(shù)語跟老百姓其實沒有太多的關(guān)系，但現(xiàn)在人工智能時代來臨之后，跟人工智能有關(guān)的一些術(shù)語好像我們必須也要知道一下。在過去的一年的時間里面，媒體上不斷地出現(xiàn)各種各樣跟人工智能相關(guān)的詞語，比如像云計算、深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)、大語言模型。您能不能快速地幫我們掃掃盲。

王堅：第一個最關(guān)鍵的問題就是計算和智能的關(guān)系，人工智能是離不開計算的。云計算是今天為人工智能提供計算的最好的方式。聯(lián)合國去年寫過報告，認為云計算現(xiàn)在不能夠讓所有人平權(quán)地去訪問，依舊是我們打造一個更具包容性的人工智能生態(tài)最大的障礙。

所以我想直接一點，如果沒有今天的云計算，可能就不會有今天的人工智能，盡管是兩個不同的技術(shù)，但是它們之間真是唇齒相依的關(guān)系。

第二件事情，我想先說大語言模型。大語言模型是普通老百姓真正認識到人工智能就在身邊，是觸手可及的一個非常重要的機會。因為大語言模型你每天都可以用?？梢岳斫獬山裉斓娜斯ぶ悄芫褪且源笳Z言模型為代表。

人工智能有很長的過去，只有很短的歷史，大語言模型就是今天的人工智能。大語言模型也讓今天的人工智能跟以前的人工智能劃了一條分水嶺，是徹底不一樣了。

當(dāng)然中間有兩個非常重要的過渡。在技術(shù)發(fā)展的歷史上，那大語言模型依賴于神經(jīng)網(wǎng)絡(luò)的架構(gòu)。通俗來講，就是受大腦啟發(fā)出來的東西那就是神經(jīng)網(wǎng)絡(luò)本身的東西。中間又有一個很重要的問題是怎么能夠把數(shù)據(jù)很好地應(yīng)用，那深度學(xué)習(xí)就出來了。

所以從這個角度，深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)是建立在云計算的基礎(chǔ)上，為大語言模型做最重要的一個技術(shù)的儲備。在過去用神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)其實醞釀了不同的技術(shù)的，但是很多沒有走到我們今天的大語言模型。所以這也是為什么大語言模型是有它獨立存在的條件。

如果再總結(jié)一下，云計算是所有東西的基礎(chǔ)，像基礎(chǔ)設(shè)施一樣的存在，神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)是一個非常重要的基礎(chǔ)的方法，這個方法可能可以促成很多不同的新的東西誕生，但是其中最重要一個東西的誕生就是我們今天說的人工智能，叫大語言模型。但是大語言模型又不是人工智能的全部的表現(xiàn)形式。

如果用汽車做個類比，大語言模型就是人工智能的引擎，至于你是造個跑車還是轎車，那大家都有各自的方法。

人工智能在今年破圈，或者是說在最近幾年里面集中式的爆發(fā)，最重要是它真的做到了足夠好，它真的實現(xiàn)了通過了圖靈測試。

所以我覺得這是所有的技術(shù)的一個最基本的要求，就是你能不能好到一定程度真的能幫助人，而不是只是好到能夠跟人炫耀一下我有這個技術(shù)。

這背后的事實上有個很重要的契機是互聯(lián)網(wǎng)的發(fā)展，大語言模型是把整個互聯(lián)網(wǎng)裝到了一個模型里面。過去我們做搜索也是在互聯(lián)網(wǎng)上找東西，在過去幾十年互聯(lián)網(wǎng)積累的上面所有的東西被大語言模型裝到了一個口袋里，使得我們今天有機會真的能夠看到一個像人類智能一樣?xùn)|西的出現(xiàn)。所以我想這可能是它發(fā)展背后的一個非常非常重要的原因。

主持人：王博士，您現(xiàn)在所在的之江實驗室發(fā)射了顆智能衛(wèi)星，在太空中進行一個組網(wǎng)要把算力布置在太空當(dāng)中，這個項目還有一個非常動聽的名字叫三體計算星座。讓人不禁聯(lián)想到劉慈欣的科幻小說。

當(dāng)我們還在關(guān)注人工智能如何改善我們陸地生活的時候，你們怎么想到把人工智能送上天？那么這件事情的意義是什么？

王堅：這其實是個很大的話題，一是與我們對人工智能的認知有關(guān)系，我自己覺得人類對太空的探索一定是我們很大一個窗口，像之江實驗室是做前沿研究的實驗室，在今天對地面很多場景的應(yīng)用，人工智能已經(jīng)到了一個相當(dāng)完善的境界了，我是非常有信心的，但是我們要問一個問題是下面的探索在哪里？那我覺得太空就是一個非常好的地方。

我想說一個最簡單的數(shù)據(jù)，盡管我們了解地球好像很多了，但事實上我們對地球是沒那么了解。來舉個最簡單例子，事實上我們今天有那么多遙感衛(wèi)星在太空，大概只有不到百分之二十的數(shù)據(jù)被傳回到地面，非常地限制我們對地球本身的了解。

大家都知道，你不從外太空了解地球那就是盲人摸象。當(dāng)你發(fā)現(xiàn)只有不到20%的數(shù)據(jù)能傳回來，那就說明什么，說明天上沒有足夠的算力。

過去大家為什么覺得這件事情還沒那么迫切，因為過去算力到了天上也沒有更好的手段能真的了解地球做個模型出來。那人工智能恰巧在這個時候也相對成熟了，所以我想把算力搞到天上，把模型搞到天上，就變成了一個非常直接的命題。

在國際上也有一個非常好的想法，把它叫做地球智能。我們對地球的了解也到了另外一個水平上，不再只是我們拍幾張地球照片。今天如果不把在太空的衛(wèi)星互通互聯(lián)起來，是沒有辦法形成我們要的算力規(guī)模的。

所以中間有一個必要的過程就是太空中衛(wèi)星的互通互聯(lián)，但這個也是今天面臨的非常窘迫的現(xiàn)狀——現(xiàn)在天上有那么多衛(wèi)星，但衛(wèi)星之間是沒有關(guān)系的，它只能單一跟地面進行通訊，甚至這些衛(wèi)星到了地面也互相沒有關(guān)系，這樣的話就受到了大大限制。

所以三體計算星座就是把算力送到太空，能夠做到讓衛(wèi)星互通互聯(lián)，最后把人工智能帶到太空，使得我們對地球的了解有一個全面支持可持續(xù)的發(fā)展。但是再往前走一步，其實地球上的所有表象也不是地球自己決定的，事實上是由太陽決定，所以自然而然就會想到怎么了解太陽。那今天有科學(xué)家就在設(shè)想我們應(yīng)該發(fā)射太陽人造衛(wèi)星，是圍繞著太陽轉(zhuǎn)的。

可以放太陽人造衛(wèi)星的地方，大概是距離太陽有一億五千萬公里，離地球也有一億五千萬公里。如果要傳回數(shù)據(jù)來，技術(shù)上基本是不可行的。所以這個時候就需要完整的部署一個太空計算的系統(tǒng)。當(dāng)然是人最后要走出地球到火星上去的，那就更加需要這個系統(tǒng)。

所以我想這樣其實是讓我們對技術(shù)的未來會更有信心，當(dāng)然倒過來講這樣的技術(shù)嘗試對推動我們本身的發(fā)展有非常大的作用。

主持人：那有多少衛(wèi)星才算是可以把這個系統(tǒng)串起來呢？

王堅：作為一個實驗室最基本的大概需要一千顆衛(wèi)星，唯一的辦法就是大家一起做，所以要創(chuàng)造一個新的機制才能做這樣的創(chuàng)新，那么這個機制就反映在我們這個星座的名字上，叫三體。那么三體從科學(xué)的含義當(dāng)然是來自牛頓的一個表達。在在宇宙在太空里面。只有兩個物體它們之間關(guān)系是有確定的解的，但有第三個物體的時候這個事就變得無限復(fù)雜。我們想做的是在這樣一個環(huán)境下，我們真的能不能跟成百上千的企業(yè)合作去完成這樣一件事情，所以我們就把它叫做三體。

所以這個計劃看上去最后還是要所有人的力量加起來。我們在國際上講的這句話的時候還是很打動別人的——我們想最后三體計算星座可以把每一顆衛(wèi)星，分享給世界上的每一個人。

在這個軌道中的衛(wèi)星，也許它并不是專門做這件事情的，但我們打上去的那幾顆星是專門做這件事情，需要要借助更多的衛(wèi)星來組成這個網(wǎng)絡(luò)。而且衛(wèi)星恨不得你就是一個國家才有一顆，或者大公司有一顆，但我們所以我們希望以后每一個個體都可以在這樣的一個計劃里，這樣整個社會的創(chuàng)造力是會被大大地激發(fā)出來。

所以今天我們談到人工智能的時候我們經(jīng)常跟另外一個詞叫“平權(quán)”放在一起。其實它是一個分享的過程如果我們不是站在自己的角度而是站在社會創(chuàng)造力的角度，我們在這個地球上的每一個人的創(chuàng)造力才能被充分地發(fā)揮出來，所以我想“三體”這個命名也有這個含義。

02

如何防止人工智能毀滅人類？“母愛”

主持人：接下來我們進一步深度學(xué)習(xí)就要請出我們的另一位嘉賓。讓我們歡迎美國國家科學(xué)院、國家工程院、國家醫(yī)學(xué)院以及藝術(shù)與科學(xué)學(xué)院的四院院士，索爾克研究所弗朗西斯·克里克講席教授、計算神經(jīng)生物學(xué)實驗室主任特倫斯·謝諾夫斯基教授。

兩位身上有很多共通的地方，第一個兩位都是跨學(xué)科的破界的專家：王教授是心理學(xué)的教授，特倫斯一位是腦神經(jīng)科學(xué)的教授，但是他們都不約而同的在人工智能的領(lǐng)域?qū)崿F(xiàn)了重大的突破，而且他們都是大型的科研實驗室的負責(zé)人。在努力創(chuàng)新的路上他們也都曾經(jīng)在質(zhì)疑聲中咬牙堅持，最終用他們的實力贏得認可。接下來我們與兩位一起聊一聊這些同頻共振背后的這些故事。

謝諾夫斯基教授，您的專業(yè)背景是神經(jīng)科學(xué)，那么您如何看待腦科學(xué)與人工智能的融合？我們對大腦的認知比如對情緒和意識這類概念的理解，又能如何幫助我們推動人工智能的發(fā)展。

謝諾夫斯基：我們希望理解人類智能，而情緒顯然在其中發(fā)揮著作用，但并非所有人類情緒都是積極的，比如憤怒或者嫉妒。要知道我們未必希望在人工智能身上復(fù)制人類所有的特質(zhì)，無論是好的還是壞的。杰弗里?辛頓是我多年的好友兼合作伙伴，他最近提出了一個問題是我們該如何防止人工智能毀滅人類，他建議我們可以將“母愛”這一情感融入人工智能。核心思路是嬰兒出生后母親會將注意力集中在嬰兒身上，而這種情感源于激素調(diào)節(jié)與情緒作用。他認為這種情感是非常值得融入人工智能的積極情緒。總體而言“人工智能”這一概念的誕生很大程度上正是受到了人類大腦結(jié)構(gòu)的啟發(fā)。

主持人：王博士的背景是心理學(xué)，那這心理學(xué)跟人工智能它又是怎么結(jié)合到一塊的？

王堅：其實心理學(xué)跟大腦也有很多關(guān)系，包括大家熟悉的一些基本概念，比如說像工作記憶，其實都是跟心理學(xué)有關(guān)系。所以我經(jīng)常講心理學(xué)應(yīng)該是人工智能的物理學(xué)，關(guān)于人工智能一些最基本的東西我覺得其實都是從心理學(xué)過來。

在達特茅斯開會的學(xué)者里邊有好幾位是心理學(xué)家，所以從第一天他們之間的關(guān)系就變得密不可分。實際上是不同學(xué)科的科學(xué)家共同創(chuàng)造出一個新的一個學(xué)科。事實上我一致認為很難講人工智能是不是一個學(xué)科，而更像是不同的科學(xué)家都在創(chuàng)造的新領(lǐng)域。謝諾夫斯基這樣的教授來，其實也反映了這樣一點。

03

算法、算力與數(shù)據(jù)

主持人：我們一談到人工智能就會談到“三駕馬車”：算法、算力還有數(shù)據(jù)。所以我們今天先從這個算法來聊一聊。謝諾夫斯基教授作為神經(jīng)網(wǎng)絡(luò)領(lǐng)域的先驅(qū)，您認為Transformer架構(gòu)為何能相較傳統(tǒng)方法具備如此顯著的優(yōu)勢呢？

謝諾夫斯基：首先Transformer是深度學(xué)習(xí)的一種變體，它屬于前饋神經(jīng)網(wǎng)絡(luò)。它的目標非常簡單，就是通過海量文本數(shù)據(jù)訓(xùn)練實現(xiàn)一個核心功能預(yù)測句子中的下一個詞。

沒錯，就是預(yù)測“下一個詞”。這種訓(xùn)練方式被稱為自監(jiān)督學(xué)習(xí)?，F(xiàn)在這個架構(gòu)還額外增加了一個模塊。生物進化中也常出現(xiàn)這種情況，以某種動物的基礎(chǔ)大腦為核心，在此之上新增功能模塊，而非完全拋棄原有結(jié)構(gòu)從零開始。

Transformer新增的這個模塊就是自注意力機制，它是前饋鏈路中的重要組成部分，作用是在句子的不同詞語之間建立關(guān)聯(lián)，包括詞語間的聯(lián)系、詞語本身的含義等。我認為這正是Transformer架構(gòu)中真正關(guān)鍵的創(chuàng)新之處。

主持人：除了算法然后就是算力，為什么算力對人工智能這么重要？今天我們看到每個國家都要發(fā)展人工智能，而且他們只要說到提到人工智能就必提算力。為什么它這么重要的一件事？

王堅：它其實跟人工智能發(fā)展有關(guān)系。從今天我們有的以神經(jīng)元受啟發(fā)的這個方法來講，其實剛才謝諾夫斯基介紹的點非常有意思。那個時候我讀研究生二年級，其實我們用了一個教科書，我想謝諾夫斯基教授應(yīng)該比較熟悉，我們叫PDP（并行分布式處理），講并行計算。那里邊講的都是神經(jīng)網(wǎng)絡(luò)的東西，那個時候我們怎么在算節(jié)點上的權(quán)重，我們就是在用筆算。那個時候輸出節(jié)點只有三個，中間的隱藏層只有兩個節(jié)點，所以你基本上靠一支筆都可以算，規(guī)模很小。而且那時候也有程序，在DOS（磁盤操作系統(tǒng)）下面的程序。所以我想那個時候最重要的一件事情就是規(guī)模不夠大。

這個規(guī)模什么時候可以大到一定程度，就是辛頓跟他的幾個學(xué)生做AlexNet的時候。所以他們發(fā)表了那篇著名的文章，第一次把數(shù)據(jù)、算法跟算力放在一起了。但在那個時候的規(guī)模也還沒有那么大，只是辛頓的學(xué)生亞歷克斯在他自己的寢室里，在自己的電腦上插了兩塊GPU卡（顯卡）。但對那時的做研究的來講已經(jīng)是一個很大的算力。

就像謝諾夫斯基講到，當(dāng)Transformer有了自注意力的機制的時候，這個模型對算力的需是大大地增加，所以我想這中間就是很明顯的證明了為什么算力那么重要。因為數(shù)據(jù)足夠大了模型足夠復(fù)雜了，模型對算力的需求就大大地增加了，我們又找到了GPU（顯卡）這么一條路，所以就造成了我們今天事實上對算力的需求是成百萬倍的增加。

主持人：有了算法有了算力，還有一個最重要的資產(chǎn)就是數(shù)據(jù)。在今天我們談到數(shù)據(jù)的時候，幾乎已經(jīng)把它上升到經(jīng)濟學(xué)的生產(chǎn)資料范疇里了。其實王堅教授做的很多的事情，包括像城市大腦，它背后就必須要海量數(shù)據(jù)來支持。能不能給我們講講這個數(shù)據(jù)是怎么幫我們解決一些原來解決不了的問題？

王堅：其實數(shù)據(jù)就是一定是規(guī)模達到一定程度的時候，會發(fā)生質(zhì)的變化。我覺得互聯(lián)網(wǎng)是一個最典型的案例了。今天有大語言模型的存在，就是因為互聯(lián)網(wǎng)上的文本的數(shù)據(jù)其實是足夠大的。

第二點是今天大語言模型只談到了文本的數(shù)據(jù)或者互聯(lián)網(wǎng)上文本的數(shù)據(jù)，這為什么我們叫它是語言模型。那事實上在過去的幾百年，科學(xué)研究也積累了很多數(shù)據(jù)。但很多數(shù)據(jù)不是文本。這部分事實上還像寶藏一樣沒有被觸及。

所以可以想象今天人工智能涉及到的數(shù)據(jù)，也只是我們這個地球擁有數(shù)據(jù)的很少的一部分。這既說明了在模型這個角度還有很多的可能性，也說明它可能未來對算力的要求會更高。

04

對AI禮貌有用嗎？

大語言模型是否存在幻覺？

主持人：今天也想為大家介紹兩本謝諾夫斯基先生的書：《深度學(xué)習(xí)》和《大語言模型》。我聽到一個很有意思的故事，您當(dāng)年寫《深度學(xué)習(xí)》的時候花了大約2年時間才完成，但您最新一本關(guān)于《大語言模型》的書只用了1年就寫完了。所以想請教您具體是如何利用人工智能提升寫作效率的呢？

謝諾夫斯基：首先我將ChatGPT用作實例，換句話說我實際用它做實驗進行測試。并且在書中每一項測試都配有專屬的標注框，這樣讀者就能清楚區(qū)分哪些內(nèi)容是ChatGPT的輸出。哪些是我本人的表述。

除此之外我還做了一件比較特別的事，目前我還沒在其他地方看到有人這么做：在每章的結(jié)尾我會把整章內(nèi)容發(fā)給ChatGPT，然后要求它為普通讀者總結(jié)本章內(nèi)容，結(jié)果非常出色。

說實話它總結(jié)得比我自己寫得還要好，而且這本書的審稿人也反饋對他們而言這些總結(jié)比章節(jié)原文更容易理解。

主持人：我想有不少人正在使用ChatGPT或其他類似的應(yīng)用，您有沒有什么關(guān)于提示詞的使用技巧可以和大家分享一下呢？

謝諾夫斯基：當(dāng)你與ChatGPT或者DeepSeek或其他任何大型語言模型交互時，必須明確告訴它要扮演什么角色，因為這些模型已經(jīng)吸收了各類作者、各行業(yè)從業(yè)者，比如醫(yī)學(xué)、法律領(lǐng)域的角色特質(zhì)。理論上你可以向它提出任何領(lǐng)域的問題，所以你得明確指令，比如你現(xiàn)在是全球頂尖的癌癥醫(yī)學(xué)專家，請針對這個醫(yī)學(xué)問題給出解答。你需要清晰地說明自己的問題以及對回答的預(yù)期，越明確越好。

其次有一點讓我特別意外，這是我從一篇文章里看到的，你會驚喜地發(fā)現(xiàn)如果你很禮貌，你得到的回復(fù)質(zhì)量會高很多。這就像與人交流一樣，如果你的態(tài)度生硬，在模型這個角度還有很多的可能性，得到的回應(yīng)也會很敷衍。

但如果你能積極反饋表達認可，那對方給出的回應(yīng)質(zhì)量也會顯著提升。

主持人：我很好奇您剛才提到的對人工智能保持禮貌這個技巧，因為有人會提出不同觀點。有部分人覺得這樣做會占用過多的tokens（詞元）反而可能影響回答質(zhì)量。您覺得這里的權(quán)衡點在哪里？

謝諾夫斯基：我認為用占用過多tokens來解釋這個問題是不準確的。其實當(dāng)你對人工智能表現(xiàn)禮貌時，本質(zhì)上是激活了它更多的功能模塊，就像人類大腦一樣不同區(qū)域負責(zé)不同功能，而社交互動是人類大腦的重要功能之一，我們的前額葉皮層就負責(zé)處理人際交互相關(guān)的活動。

有意思的是研究發(fā)現(xiàn)大語言模型也存在類似人類前額葉皮層的功能模塊，所以如果你希望像與人交流一樣與人工智能互動，就需要用對待人的方式去對待它。

主持人：教授我還有一個關(guān)于大語言模型的問題。我知道大語言模型存在幻覺的情況，但您之前提出過一個觀點，認為這種幻覺也可以被看作是一種創(chuàng)造力的體現(xiàn)，您能具體談?wù)勥@一點嗎？

謝諾夫斯基：首先我認為從某種意義上來說幻覺這個詞用得并不恰當(dāng)，它會給人錯誤的印象。并不是說大語言模型像服用了致幻藥物一樣產(chǎn)生了意識混亂，完全不是這樣的。所謂的“幻覺輸出”實際上邏輯性非常強，表述也很精準，同時還具備很強的創(chuàng)造性。

就像我之前說的你可以讓它寫一首詩，這首詩里會包含新穎的元素。順便提一句現(xiàn)在很多作家也在借助它來輔助創(chuàng)作，如果它沒有創(chuàng)造性，作家們就不會對它感興趣了。

王堅：我和謝諾夫斯基的想法很接近。今天幾乎所有在批評語言模型那些詞，以前都是用在人的身上，這說明人也是有這些弱點，但人的弱點不是人不該有的東西，而只是他弱點。所以我一直覺得其實這個事情不值得大驚小怪。

另外如果這樣的一個特性在人工智能上表現(xiàn)出來，事實上給了我們更多的機會去研究它。如果在人的身上可能還不太好研究，但是因為在這個人工智能上，我們有更多機會去了解它。盡管我不能完全贊同這個“幻覺”就是創(chuàng)造力，因為在心理學(xué)里面這是兩個不同的事情。但是不管怎么樣我覺得這是一個非常有意思的現(xiàn)象，我覺得至少是不值得擔(dān)心的一個現(xiàn)象。

關(guān)于數(shù)據(jù)這件事情，我覺得非常有意思。謝諾夫斯基教授也在說數(shù)據(jù)質(zhì)量的問題，可是我們還是要承認數(shù)據(jù)本身無所謂質(zhì)量的好壞，可是數(shù)據(jù)最后的質(zhì)量是人決定的，也是人決定了用什么樣的數(shù)據(jù)去確認模型。

主持人：您認為大語言模型的未來發(fā)展方向是怎樣的呢

謝諾夫斯基：首先我覺得大語言模型在數(shù)據(jù)量和模型規(guī)模方面似乎正逐漸接近一個瓶頸。目前還不清楚單純增大模型規(guī)模是否能讓性能持續(xù)提升，或許讓模型的覆蓋范圍更全面會更好。不過我們發(fā)現(xiàn)關(guān)鍵不在于數(shù)據(jù)量本身，而在于數(shù)據(jù)的質(zhì)量。也就是說現(xiàn)在如果直接從網(wǎng)絡(luò)上抓取數(shù)據(jù)會得到各種各樣無關(guān)的內(nèi)容，這些內(nèi)容可能沒什么幫助，甚至與人類價值觀相悖，但如果對數(shù)據(jù)進行篩選，讓數(shù)據(jù)更有針對性且更純凈，當(dāng)然這需要投入大量精力，不過現(xiàn)在已有多家公司證明這樣做不僅能讓模型輸出更好的結(jié)果，還能縮小模型規(guī)模。所以這才是我們需要努力的方向。

我們需要獲取更高質(zhì)量的數(shù)據(jù)，而且不僅需要覆蓋全球的全面數(shù)據(jù)，還需要針對特定領(lǐng)域的專屬數(shù)據(jù)，比如醫(yī)學(xué)、法律等領(lǐng)域。就像人類有各領(lǐng)域的專家一樣，未來我們也會有各領(lǐng)域的人工智能專家。

05

AI時代孩子應(yīng)該學(xué)什么？

主持人：如果放在一個更長遠的一個未來，當(dāng)人工智能進一步的發(fā)展進入到我們生活的方方面面，我們的孩子以后怎么辦？我們的孩子還需要學(xué)習(xí)具體的知識嗎？未來我們應(yīng)該怎么去培養(yǎng)我們的孩子，在人工智能無處不在的時代里他們應(yīng)該具備什能力。

王堅：我覺得這個可能是一個今天沒辦法有準確答案的問題。首先孩子比我們學(xué)得快，孩子對這個問題怎么想可能是超出我們想象，甚至超過創(chuàng)造技術(shù)的這些人的想象。所以我覺得這個可能很難有一個很好的答案。

但我們還是可以回到一個最基本的面上去討論。圖靈曾經(jīng)說過一句話，他就說人的大腦，加上一張紙、一支筆和一個橡皮擦，再加上一定的規(guī)則，就是一臺通用機器。所以大家可以設(shè)想一下，其實我們的大腦如果沒有一張紙、一支筆的話，其實我們的創(chuàng)造力是釋放不出來的。今天我們有了人工智能，有了像大語言模型這樣的東西，是另外意義上的一張紙一支筆，把我們?nèi)说膭?chuàng)造力給釋放出來。我們真正怎么把小孩的創(chuàng)造力給釋放出來，可能就會變成一個非常重要的問題。

有了紙和筆以后，可能有的小孩字還是寫歪的，有的字還是寫潦草。有人能寫出一篇很好的詩，可能有的人解一個很好的算術(shù)題。我想可能人工智能幫助我們也是從這個角度幫助，它不會讓人變得更加一樣，而會讓創(chuàng)造力變得更加不一樣，創(chuàng)造出不同的價值。

謝諾夫斯基：我想接著聊聊“多樣性”這個概念。如果你觀察整個生物學(xué)領(lǐng)域，就會發(fā)現(xiàn)沒有兩個人是完全相同的，你身體里也沒有兩個完全相同的細胞。生物學(xué)本質(zhì)上是一門研究多樣性的科學(xué)，而孩子們也具有很強的多樣性。任何一個有兩個孩子的家長都會意識到這一點。

每個學(xué)生使用人工智能的方式都會有所不同，我們不能用統(tǒng)一的模式去要求他們，必須給孩子足夠的空間。他們天生好奇，會主動接觸各種事物，像玩玩具一樣探索，還擁有豐富的想象力，我認為人工智能本質(zhì)上會為他們提供新的工具、新的與世界互動的方式，幫助他們產(chǎn)生更好的想法。

我舉個例子，現(xiàn)在有一些國際象棋程序水平已經(jīng)能達到人類頂尖棋手的級別，甚至能和國際象棋世界冠軍抗衡。在我這一代最偉大的國際象棋冠軍是一位成長于小鎮(zhèn)的挪威人叫馬格努斯?卡爾森。過去國際象棋大師通常在大城市的象棋俱樂部里對弈，那他是如何成為世界冠軍的呢？他的方法是和國際象棋程序?qū)摹＿@確實這讓國際象棋變得“大眾化”了。也就是說你不必身處紐約、莫斯科或北京這樣的大城市，也能通過與程序?qū)奶嵘逅嚒?/p>

現(xiàn)在這種情況也會發(fā)生在孩子們身上，他們會和人工智能互動探索，無論他們身處世界的哪個角落，不管是在這里還是在非洲。

王堅：謝諾夫斯基講的是國際象棋其實很有意思的。其實中國下圍棋的人很多了，對很多小孩他一生是沒有機會跟九段的棋手下棋的，但是有了圍棋的這個程序以后，他就會有機會跟一個九段的棋手下棋。

2017年5月在中國烏鎮(zhèn)柯潔對戰(zhàn)AlphaGo

所以這個其實幫助了人類很多東西，它的意義不是它比人下得好下得壞，而是它給所有的人創(chuàng)造出很多不同的機會，會讓更多的小孩飛速進步。

06

從大語言模型到大型科學(xué)模型

主持人：那我們現(xiàn)在再回歸到那個您兩位科學(xué)家的身份以及你們現(xiàn)在正在帶領(lǐng)的這個大型實驗室的科研工作。比如說像在之江實驗室，我們現(xiàn)在在做哪些跟人工智能相關(guān)的一些比較有意思前沿的研究呢？

王堅：我們看大語言模型其實要分成兩部分，一個就是我們今天看到的大語言模型，另外一個是要它下面的作為支持大語言模型架構(gòu)。這個架構(gòu)今天可能大家比較熟悉的就是Transformer，但是不管怎么樣它是個大語言模型，它的呈現(xiàn)效果就是用大量的文本。

那么之江實驗室希望專注在怎么讓人工智能技術(shù)能幫助科學(xué)發(fā)現(xiàn)，所以我們在做一個非常重要的事情，我把它叫做大型科學(xué)模型。

其中一個很重要的差別就是你能不能夠用除了文本以外的科學(xué)數(shù)據(jù)，比如說光學(xué)觀察、地學(xué)的數(shù)據(jù)，這些數(shù)據(jù)都不是傳統(tǒng)意義上的文本。

我跟天文學(xué)家跟地學(xué)家討論的時候，他們告訴我如果要讀懂一篇天文學(xué)或者地學(xué)論文，你讀不懂圖的話，是讀不懂這篇論文的。所以就說明我們在除了文本以外，還有非常多東西要做。

所以如何把科學(xué)數(shù)據(jù)能夠放入我們今天大語言模型的框架下，這是一個非常大的挑戰(zhàn)。

這個挑戰(zhàn)如果從數(shù)據(jù)角度解讀，就是怎么為科學(xué)數(shù)據(jù)做分詞（tokenization）。這就是之江實驗室目前非常關(guān)注的在大科學(xué)基礎(chǔ)模型上真正幫助科學(xué)發(fā)現(xiàn)。

謝諾夫斯基：科學(xué)界正在經(jīng)歷一場變革，正如大家已經(jīng)知道的，2024年的諾貝爾化學(xué)獎授予了利用人工智能解決某一難題的研究。這個難題是生物學(xué)家曾認為永遠無法攻克的，那就是蛋白質(zhì)折疊問題。

在你身體的每個細胞里都存在數(shù)千種不同的蛋白質(zhì)，蛋白質(zhì)的功能由其折疊形成的三維結(jié)構(gòu)決定，而通過第一性原理來計算這種三維結(jié)構(gòu)在計算層面上曾是不可行的。但可以通過利用已有的晶體結(jié)構(gòu)數(shù)據(jù)訓(xùn)練一個網(wǎng)絡(luò)，去預(yù)測新的蛋白質(zhì)結(jié)構(gòu)。

現(xiàn)在我們知道了每個物種中蛋白質(zhì)的功能，還能直觀看到它們的三維結(jié)構(gòu)。例如現(xiàn)在設(shè)計藥物不僅速度更快。準確性也更高，這都要歸功于人工智能。未來幾十年里這將對醫(yī)學(xué)產(chǎn)生巨大影響，而這只是科學(xué)界眾多案例中的一個。

人工智能正在切實改變?nèi)祟惱矛F(xiàn)有理論解決實際問題的方式，這些問題的解決將在我們生活的方方面面提供幫助。

王堅：這個例子恰恰就是我講的大科學(xué)模型的最基本的出發(fā)點，撇開對生物科學(xué)的貢獻，這里面還有一個非常非常重要的貢獻，就是怎么把蛋白質(zhì)的數(shù)據(jù)能夠很好地放到一個模型里面去，這是傳統(tǒng)的文本模型很難完成的事情。

所以我想是不是能夠有一個更加通用的，可以把科學(xué)的數(shù)據(jù)跟現(xiàn)在人工智能模型結(jié)合的方法。

這是一個非常大的挑戰(zhàn)，而且它一旦跑通之后潛力是巨量的。

我跟幾個天文學(xué)家合作，他們說過一句很有意思的話。因為我們經(jīng)常講“一張圖勝過千言萬語”他們后面加了一句話“一段光譜對勝過千萬張圖”。所以這光譜就是科學(xué)數(shù)據(jù)。

07

堅守科研初心，相信自己的直覺

主持人：我們還有一樣?xùn)|西要您看，這張照片大概是在三四十年前拍攝的吧？照片里還有杰弗里?辛頓。您還記得當(dāng)時和辛頓教授在討論什么內(nèi)容嗎？

謝諾夫斯基與辛頓

謝諾夫斯基：是的，這是我在哈佛醫(yī)學(xué)院做博士后的時候，在我公寓門口拍的。具體到那個瞬間的對話我已經(jīng)記不太清了，但我們當(dāng)時正在一起研究一個叫“約束滿足”的課題。比如在視覺研究中圖像不同部分的拼接方式是存在約束條件的，就像人臉的輪廓，這在研究中被稱為“圖像分割”。

我們當(dāng)時正嘗試通過手動設(shè)計小型神經(jīng)網(wǎng)絡(luò)來解決這類問題，那就是我們研究的起點，也是思考視覺問題的核心開端—思考視覺系統(tǒng)是如何工作的。

我們對視覺系統(tǒng)的工作原理其實毫無頭緒，因為這一切都是在潛意識層面發(fā)生的，所以這就需要一種全新的研究方法，而這也為現(xiàn)代人工智能的發(fā)展奠定了基礎(chǔ)，讓我們開始從大腦內(nèi)部尋找靈感。

主持人：您和辛頓教授在神經(jīng)網(wǎng)絡(luò)領(lǐng)域的合作經(jīng)歷過一段被質(zhì)疑的時期，您個人是如何度過那個階段的呢？

謝諾夫斯基：其實從某種意義上來說我們當(dāng)時是在開辟一個新的研究方向，這也印證了年輕研究者的價值。當(dāng)時人工智能領(lǐng)域的主流觀點是采用邏輯符號和規(guī)則，但我們提出不應(yīng)該這樣，我們必須參考人類大腦的組織方式。大腦具有高度并行的結(jié)構(gòu)，神經(jīng)元之間存在大量連接，而其核心關(guān)鍵就在于“學(xué)習(xí)”機制。當(dāng)時我們吸引了很多年輕研究者加入，所以我們是一股從基層崛起的力量。

我打個比方，我們就像恐龍腳下那些不起眼的小型哺乳動物。王堅教授提到過在加州大學(xué)圣地亞哥分校開展的并行分布式處理研究，順便說一句，辛頓當(dāng)時就在那里做博士后，我是在他組織的一個小型研討會上認識他的。

所以科學(xué)的進步往往就是這樣從一小群有著不同想法的研究者開始，朝著獨特的方向探索。

王堅：其實就在幾周前我還在中國見到了辛頓，我和他聊起了那段時期的研究，他對當(dāng)時的情況還有書中提到的那段歲月依然記得非常清楚，那段時光真的太難忘了，感謝您寫的《深度學(xué)習(xí)》這本書，它是我早期學(xué)術(shù)生涯的重要啟蒙。

其實我一直認為，堅持你相信的就是要專注，相信你堅持的就是要有耐心。而這個耐心如果回到人工智能的話，就像謝諾夫斯基講的。我經(jīng)常跟別人開玩笑說你要做一件事情，如果你自己沒想好你能不能堅持至少干十年的話，那我的建議就是你不要干這些。那特別是對創(chuàng)新可能是一個更加基本的道理了。

幾個星期以前碰見辛頓我就跟他講起發(fā)生的事情，他說的第一句話就是：你看，當(dāng)年談的這些事情今天都發(fā)生了，可是這已經(jīng)是過去了。所以我就覺得十年都是一個很短的數(shù)字，所以才會有這個堅持你相信的，相信你堅持的。

主持人：那么謝諾夫斯基教授，您作為腦科學(xué)家能否教教我們該如何訓(xùn)練自己的大腦，從而更好地理解或?qū)嵺`深度學(xué)習(xí)呢？

謝諾夫斯基教授：我認為教育領(lǐng)域?qū)⒊蔀槿斯ぶ悄茏钪匾膽?yīng)用方向。我們知道幫助孩子學(xué)習(xí)的最佳方式是與優(yōu)秀的教育者進行一對一互動，這類教育者既專業(yè)又了解孩子的特點。但目前的課堂上往往有幾十個能力各異的孩子，是很難針對每個孩子提供個性化指導(dǎo)。不過如果我們?yōu)槊總€孩子配備人工智能輔導(dǎo)老師，就能極大地助力他們的學(xué)習(xí)，而且這種模式未來會在全球范圍內(nèi)普及，所以我認為這就是教育的未來方向。

為此我也盡了自己的努力，我在Coursera平臺上開設(shè)了一門名為《學(xué)會如何學(xué)習(xí)》的在線課程，全球已有200多個國家的600萬人參與了這門課程，學(xué)員年齡從10歲到90歲不等。這門課程的設(shè)計基于我們對人類大腦的認知以及提升學(xué)習(xí)能力的方法，而且這是一門免費的在線課程。我的合作伙伴芭芭拉?奧克利是世界級的教育專家，而我則在幕后負責(zé)解釋她給出的學(xué)習(xí)建議背后涉及的大腦運作機制，也就是大腦如何處理這些學(xué)習(xí)方法，并利用我們對大腦的認知幫助人們成為更優(yōu)秀的學(xué)習(xí)者。

主持人：我最后還有一個問題要給到兩位，關(guān)于給我們的年輕人的一些建議，如何在這個人工智能時代能夠保持不可替代的競爭力和創(chuàng)造力，我們的年輕人需要擁有那些思維或者能力？

王堅：我覺得用深度學(xué)習(xí)的一句話，我覺得我們還是需要深度的思考，今天我們所有的面臨的技術(shù)好像讓我們就不需要思考了，但事實上深度思考還是非常重要的。

我記得互聯(lián)網(wǎng)剛出來的時候《大西洋月刊》曾經(jīng)寫過一篇文章，說互聯(lián)網(wǎng)的出現(xiàn)會不會讓人變得更加淺??？事實上我今天不好說有沒有這個答案，但是我想這樣的問題會一直伴隨著我們技術(shù)的發(fā)展，所以我想我們還是應(yīng)該更加深入地思考問題。更加有批判性。批判性思維是最重要。

謝諾夫斯基：我的建議是相信自己的直覺，當(dāng)專家告訴你某件事不可能時，不要輕易相信。因為在20世紀80年代我們就處于這樣的境地，當(dāng)時也有人說我們正在嘗試的事情是不可能實現(xiàn)的。我想王博士也提到過，那就是堅持不懈。像ChatGPT這樣看似一夜成功的成果，背后其實是四十年的不懈努力，所以堅持是成功的關(guān)鍵。

主持人：在我們節(jié)目快要結(jié)束的時候，教授您能為觀眾推薦幾本關(guān)于人工智能的好書嗎？

謝諾夫斯基：其實我非常推薦我自己寫的書，現(xiàn)在市面上的人工智能相關(guān)書籍非常多，有很多實用類書籍教大家怎么使用ChatGPT，這類書現(xiàn)在很受歡迎。但如果是剛?cè)腴T的學(xué)生或者想了解現(xiàn)代人工智能起源歷史的人，我認為更重要的書籍是我寫的《深度學(xué)習(xí)》。這本書出版于2018年，雖然聽起來已經(jīng)過去很久了，但實際上現(xiàn)在仍在重印。

另外還有一本我強烈推薦的書。大型語言模型其實只是模擬大腦頂部大腦皮層的模型，而大腦還有數(shù)百個其他功能區(qū)域，如果你們對大腦其他部分的工作原理感興趣，我強烈推薦我和帕特?邱吉爾合著的《計算大腦》。這本書出版于1982年，它原本是為普通讀者寫的，向大家解釋大腦的工作方式，也面向工程師群體，同時還介紹了當(dāng)時新興的學(xué)習(xí)算法。我們將這些算法引入了神經(jīng)科學(xué)領(lǐng)域，所以這本書會是一個很好的起點。

王堅：我建議大家趁這個時候去讀一些最基礎(chǔ)的心理學(xué)的大學(xué)教科書。因為有些最基本的道理其實在教科書里面都說的很清晰，這樣少了我們很多無謂的一些爭論。

>End

本文轉(zhuǎn)載自“中信出版社”，原標題《王堅對話AI奠基人謝諾夫斯基：如何防止人工智能毀滅人類？也許是“母愛”》。

為分享前沿資訊及有價值的觀點，太空與網(wǎng)絡(luò)微信公眾號轉(zhuǎn)載此文，并經(jīng)過編輯。

未按照規(guī)范轉(zhuǎn)載及引用者，我們保留追究相應(yīng)責(zé)任的權(quán)利

部分圖片難以找到原始出處，故文中未加以標注，如若侵犯了您的權(quán)益，請第一時間聯(lián)系我們。

HISTORY/往期推薦

充滿激情的新時代，

充滿挑戰(zhàn)的新疆域，

與踔厲奮發(fā)的引領(lǐng)者，

卓爾不群的企業(yè)家，

一起開拓，

一起體驗，

一起感悟，

共同打造更真品質(zhì)，

共同實現(xiàn)更高價值，

共同見證商業(yè)航天更大的跨越！

——《太空與網(wǎng)絡(luò)》，觀察，記錄，傳播，引領(lǐng)。

·《衛(wèi)星與網(wǎng)絡(luò)》創(chuàng)始人：劉雨菲

·《衛(wèi)星與網(wǎng)絡(luò)》副社長：王俊峰

·微信公眾號（ID：satnetdy）團隊

編輯：艷玲、哈玫，周泳、邱莉、黃榕、娜娜

主筆記者：李剛、魏興、張雪松、霍劍、樂瑜、稻子、趙棟

策劃部：楊艷、若?、李真子

視覺總監(jiān)：董濘

專業(yè)攝影：馮小京、宋偉

設(shè)計部：顧錳、潘希峎、楊小明

行政部：姜河、林紫

業(yè)務(wù)部：王錦熙、瑾怡

原創(chuàng)文章轉(zhuǎn)載授權(quán)、轉(zhuǎn)載文章侵權(quán)、投稿等事宜，請加微信：15910858067

商務(wù)合作；展覽展廳設(shè)計、企業(yè)VI/CI及室內(nèi)設(shè)計、企業(yè)文化建設(shè)及品牌推廣；企業(yè)口碑傳播及整體營銷傳播等，請加微信：13811260603

雜志訂閱，請加微信：wangxiaoyu9960

·衛(wèi)星與網(wǎng)絡(luò)各分部：

成都分部負責(zé)人：沈淮

長沙分部負責(zé)人：賓鴻浦

西安分部負責(zé)人：郭朝暉

青島分部負責(zé)人：江偉

·衛(wèi)星與網(wǎng)絡(luò)總部負責(zé)人：農(nóng)燕

·會議活動部負責(zé)人：喬顥益、許克新、董今福

· 投融資及戰(zhàn)略層面合作：劉雨菲

·本平臺簽約設(shè)計公司：一畫開天（北京）文化創(chuàng)意設(shè)計有限公司

· 航天加（深圳）股權(quán)投資基金管理負責(zé)人：楊艷