文：Web3天空之城·城主

在這場最新的斯坦福課堂訪談里，谷歌前CEO 埃里克·施密特（Eric Schmidt）深入探討了人工智能的發(fā)展方向、全球科技競爭的未來，以及這些技術(shù)如何在短期內(nèi)對社會、經(jīng)濟和國家安全產(chǎn)生深遠影響。施密特回顧了他在科技行業(yè)的多年經(jīng)歷，分享了對未來幾年人工智能技術(shù)突破的預(yù)見，并討論了這些突破如何塑造企業(yè)、國家間的競爭格局，尤其是在美國與中國的較量中。

施密特特別強調(diào)了技術(shù)進步背后的復(fù)雜因素，如計算能力的提升、新算法的開發(fā)以及市場對智能系統(tǒng)的無限追求。他還討論了人工智能對勞動力市場、數(shù)據(jù)隱私、反壟斷以及國家安全的潛在影響，并提出了如何在這種快速變化的環(huán)境中保持競爭優(yōu)勢的建議。

城主特別指出的是，作為長期為米國國防部服務(wù)的施密特，他的言論立場是需要鑒別的，相信讀者一定能自行理解。

人工智能的短期突破與深遠影響：

施密特預(yù)測，未來一到兩年內(nèi)，人工智能將迎來重要突破，尤其是在上下文窗口擴展、AI代理和文本到操作這三個領(lǐng)域的結(jié)合。這些技術(shù)進步將使人工智能系統(tǒng)能夠更有效地處理復(fù)雜任務(wù)，超越當前的局限性。這種進步將不僅僅局限于技術(shù)領(lǐng)域，而是會深刻影響社會各個層面，包括教育、醫(yī)療、政府和商業(yè)。他強調(diào)，這些技術(shù)的發(fā)展可能帶來的變革性影響，甚至可能比社交媒體的崛起對社會的影響更為深遠。

全球科技競爭中的中美博弈：

施密特詳細分析了美國和中國在人工智能領(lǐng)域的激烈競爭。他指出，美國目前在技術(shù)、人才和資源方面領(lǐng)先，但要維持這一優(yōu)勢，需要持續(xù)的高額投資和國際合作，特別是與加拿大等盟友的合作，以確保能源和資源的可持續(xù)供應(yīng)。他強調(diào)，AI的未來不僅僅是技術(shù)競賽，還是一場國家之間的戰(zhàn)略博弈，涉及到國家安全、經(jīng)濟競爭力以及全球領(lǐng)導(dǎo)地位。施密特警告，美國需要加大投入，以應(yīng)對中國在AI領(lǐng)域的迅速崛起，并保持在這一領(lǐng)域的全球主導(dǎo)地位。

科技巨頭的壟斷與創(chuàng)新挑戰(zhàn)：

在討論當前科技巨頭的主導(dǎo)地位時，施密特指出，NVIDIA等公司在AI領(lǐng)域的壟斷地位得益于其強大的技術(shù)能力和資本優(yōu)勢。他提到，雖然市場上存在競爭者，但挑戰(zhàn)這些科技巨頭的地位需要巨額投資和技術(shù)創(chuàng)新。他還對這些巨頭如何在未來繼續(xù)推動技術(shù)創(chuàng)新表示擔憂，認為資本密集型的AI開發(fā)可能會導(dǎo)致軟件開發(fā)模式的根本變化，從開源轉(zhuǎn)向閉源，從而進一步鞏固巨頭的壟斷地位。

人工智能對社會和勞動力市場的沖擊：

施密特探討了人工智能對社會、經(jīng)濟和勞動力市場的潛在影響。他認為，雖然AI技術(shù)可能會取代某些重復(fù)性工作，但它也會增強高技能工作的重要性，推動人們在復(fù)雜任務(wù)中的生產(chǎn)力提升。他還對人工智能可能帶來的社會不平等表示擔憂，指出富裕國家將從AI中獲得更多利益，而貧窮國家可能會被甩在后面。此外，施密特呼吁加強對AI的監(jiān)管，以應(yīng)對數(shù)據(jù)隱私、知識產(chǎn)權(quán)和錯誤信息傳播等問題。

對抗性人工智能與安全挑戰(zhàn)：

施密特特別提到對抗性人工智能的潛在威脅，預(yù)測未來可能會有專門設(shè)計的AI系統(tǒng)用于攻擊和破壞其他AI系統(tǒng)。這種發(fā)展將為安全性和倫理帶來新的挑戰(zhàn)。施密特建議，科技界和政府需要合作，研究如何防范這些風(fēng)險，并制定相應(yīng)的法規(guī)和技術(shù)標準，以確保人工智能的安全和可信度。他還提到，這一領(lǐng)域的研究將成為未來科技發(fā)展的一個重要方向，并可能在大學(xué)和研究機構(gòu)中得到更多關(guān)注。

B站傳送：https://b23.tv/VilTkTd

=Web3天空之城全文整理版=

主持教授：

今天的嘉賓無需多做介紹。我第一次見到Eric是在大約25年前，當時他以Novell首席執(zhí)行官的身份來到斯坦福商學(xué)院。從那時起，他在谷歌擔任重要職務(wù)，從2001年開始，并在2017年加入Schmidt Futures。此外，他還參與了許多其他項目，大家可以查閱相關(guān)資料。所以Eric，如果可以的話，我就從那開始吧。

首先，你認為人工智能在短期內(nèi)的發(fā)展方向是什么？我想你將其定義為未來一到兩年。

施密特：

事情變化得太快了，我覺得每六個月我都需要就即將發(fā)生的事情發(fā)表一次新的演講。這里有一群計算機科學(xué)專業(yè)的學(xué)生，有誰能給班上的其他人解釋一下“一百萬個token上下文窗口”是什么嗎？請說出你的名字，并告訴我們它的作用。

學(xué)生：基本上，它允許你用一百萬個標記或一百萬個單詞進行提示。

施密特：

所以你可以問一個百萬字的問題。Anthropic是20萬token，要到一百萬，等等。你可以想象OpenAI有一個類似的目標。

這里有人能給出AI代理的技術(shù)定義嗎？再說一次，計算機科學(xué)。

學(xué)生：AI代理可能是以某種方式行動的東西。它可能是在網(wǎng)絡(luò)上調(diào)用東西，代表你查找信息。它可能是沿著這個思路的許多不同的東西。在一個過程中有各種各樣的事情。

施密特：所以代理是執(zhí)行某種任務(wù)的東西。另一個定義是它是一個LLM、狀態(tài)和記憶。再來，計算機科學(xué)家，你們中有人能定義“文本到動作”嗎？

學(xué)生：不是將文本轉(zhuǎn)換成更多文本，而是讓AI根據(jù)此觸發(fā)操作。

施密特：

另一個定義是Python語言。我從未希望看到一種編程語言存活下來。AI中的一切都是用Python完成的。剛剛出現(xiàn)了一種名為Mojo的新語言，看起來他們終于解決了AI編程問題，但我們會看看它是否真的能在Python的主導(dǎo)地位下存活下來。

還有一個技術(shù)問題。為什么NVIDIA價值2萬億美元，而其他公司卻在苦苦掙扎？

學(xué)生：技術(shù)答案是，大多數(shù)代碼都需要使用目前只有NVIDIA GPU支持的CUDA優(yōu)化來運行，因此其他公司可以做任何他們想做的事情，但除非他們有10年的軟件經(jīng)驗，否則你不會擁有機器學(xué)習(xí)優(yōu)化。

施密特：

我喜歡將 CUDA 視為 GPU 的 C 編程語言，這個想法讓我感到滿意。CUDA 成立于2008年。盡管我一直認為它是一種糟糕的語言，但它卻占據(jù)了主導(dǎo)地位。還有一個值得注意的見解：有一組開源庫針對 CUDA 進行了高度優(yōu)化，而其他任何庫都沒有做到這一點。所有構(gòu)建這些技術(shù)堆棧的人在討論中完全忽略了這一點。這些庫在技術(shù)上被稱為 VLLM，還有許多類似的庫也針對 CUDA 進行了高度優(yōu)化，這使得競爭對手很難復(fù)制。

那么，這一切意味著什么呢？明年，你將看到非常大的上下文窗口、代理和文本到操作的應(yīng)用。當這些技術(shù)大規(guī)模交付時，它們將對世界產(chǎn)生巨大的影響，遠超社交媒體帶來的影響。原因如下：在上下文窗口中，你可以將其用作短期記憶，我對上下文窗口的長度感到震驚。技術(shù)上的原因與服務(wù)和計算的難度有關(guān)。短期記憶的有趣之處在于，當你輸入信息并詢問問題時，比如閱讀20本書并將書的文本作為查詢，然后詢問它們的內(nèi)容，它會忘記中間部分，這與人類大腦的工作方式相似。

關(guān)于代理，現(xiàn)在有些人正在構(gòu)建 LLM 代理，他們通過閱讀和理解化學(xué)等領(lǐng)域的知識，然后進行測試，并將其重新添加到他們的理解中。這非常強大。第三個方面是文本到行動。我給你舉個例子：假設(shè)政府正在試圖禁止 TikTok。如果 TikTok 被禁止，我建議你對你的 LLM 說以下的話：為我復(fù)制 TikTok，將我的偏好放入其中，在接下來的30秒內(nèi)制作這個程序并發(fā)布它，然后在一小時內(nèi)，如果它沒有流行起來，就做一些類似的事情。這就是命令。你可以看到這有多強大。

如果你可以從任意語言轉(zhuǎn)換為任意數(shù)字命令，這在本質(zhì)上就是這個場景中的 Python。想象一下，地球上的每個人都有自己的程序員，他們實際上做他們想做的事情，而不是那些不按要求工作的程序員。這里的程序員知道我在說什么。想象一個不傲慢的程序員實際上做了你想做的事，而你不必付出高昂的代價。而這些程序員的供應(yīng)是無限的。

教授：這一切將在未來一兩年內(nèi)發(fā)生？

施密特：

很快。以上三件事，我確信將在下一波浪潮中同時發(fā)生。所以你問還會發(fā)生什么。每六個月我都會波動一次，所以我們處于奇偶振蕩狀態(tài)。目前，前沿模型（現(xiàn)在只有三個）與其他模型之間的差距似乎越來越大。六個月前，我確信這種差距正在縮小，因此我在一些小公司上投入了大量資金。然而，現(xiàn)在我對此不太確定了。

我正在與一些大公司進行對話，他們告訴我，他們需要100億、200億、500億甚至1000億美元的資金。星際之門項目需要1000億美元，非常困難。我的好朋友Sam Altman認為，這可能需要大約3000億美元，甚至更多。我向他指出，我已經(jīng)計算了所需的能量。

為了全面公開，我在周五前往白宮，告訴他們我們需要與加拿大成為最好的朋友。因為加拿大人民真的很好，他們幫助發(fā)明了人工智能，并且擁有大量的水力發(fā)電資源。因為我們作為一個國家沒有足夠的力量來完成這一目標。另一種選擇是讓阿拉伯國家資助這個項目。我個人很喜歡阿拉伯人，我在那里花了很多時間，但他們可能不會遵守我們的國家安全規(guī)則。而加拿大和美國是我們都同意的三巨頭之一。

因此，在這些價值1000億到3000億美元的數(shù)據(jù)中心中，電力開始成為稀缺資源。

順便說一句，如果遵循這種推理，你可能會問我為什么要討論CUDA和NVIDIA？如果3000億美元全部流向NVIDIA，你就知道在股市上該怎么做了。不過，這不是股票推薦，我不是許可方。

教授：

部分原因是我們將需要更多的芯片，但英特爾從美國政府獲得了很多資金。AMD正在嘗試在韓國建立晶圓廠。

施密特：

如果你的任何計算設(shè)備中有英特爾芯片，請舉手。壟斷就到此為止。

教授：

但這就是重點。他們曾經(jīng)確實壟斷過，現(xiàn)在NVIDIA已經(jīng)壟斷了。那么這些是進入壁壘嗎？

說到CUDA，還有其他選擇嗎？前幾天我和Percy Lange聊過。他正在TPU和NVIDIA芯片之間切換，這取決于他能接觸到什么。這是因為他別無選擇。

施密特：

如果他有無限的資金，今天他會選擇NVIDIA的B200架構(gòu)，因為它更快。我不是在暗示——有競爭是件好事。

我和AMD的Lisa Su談過很久。他們已經(jīng)構(gòu)建了一個可以將CUDA架構(gòu)轉(zhuǎn)換為他們自己架構(gòu)的東西，稱為Rokam。它還沒有完全發(fā)揮作用，但他們正在努力。

教授：

你在谷歌工作了很長時間，他們發(fā)明了Transformer架構(gòu)。感謝那邊的杰出人士，比如Peter、Jeff Dean以及所有人。目前，OpenAI似乎已經(jīng)失去了主動權(quán)。在我看到的最新排行榜中，Anthropic的Claude位居榜首。我曾詢問過Sundar，但他并沒有給我一個非常明確的答案。也許你對那里的情況有更尖銳或客觀的解釋。

施密特：

我已經(jīng)不再是谷歌的員工了。谷歌在工作與生活的平衡上更注重讓員工早點回家和在家工作，而不是一味追求勝利。相比之下，初創(chuàng)公司之所以成功，是因為員工拼命工作。雖然這樣說可能有些直白，但事實是，如果你們從大學(xué)出來創(chuàng)辦公司，并想與其他初創(chuàng)公司競爭，就不能讓員工每周只來一天。

教授：在谷歌的早期，微軟也是如此。

施密特：

現(xiàn)在看來，在我們的行業(yè)中，長期以來，公司總是通過真正有創(chuàng)意的方式贏得勝利，并主宰某個領(lǐng)域，而不是進行下一次轉(zhuǎn)型。這是有據(jù)可查的。我認為創(chuàng)始人是特別的，他們需要掌控一切，盡管與他們共事可能很困難，因為他們對員工施加很大壓力。盡管我們不喜歡埃隆的個人行為，但看看他從員工那里得到了什么。我曾與他共進晚餐，他當時在飛行。我在蒙大拿州，而他那天晚上10點要乘飛機去參加午夜與x.ai的會議。想一想。

不同地方有不同的文化。臺積電給我留下了深刻印象。他們有一條規(guī)定，剛畢業(yè)的博士生，即優(yōu)秀的物理學(xué)家，要在工廠的地下室工作。你能想象讓美國的物理學(xué)博士這樣做嗎？不太可能。這是不同的職業(yè)道德。

我對工作的嚴格要求是因為這些系統(tǒng)具有網(wǎng)絡(luò)效應(yīng)，所以時間非常重要。而在大多數(shù)企業(yè)中，時間并不那么重要，你有很多時間?？煽诳蓸泛桶偈驴蓸啡詫⒋嬖?，它們之間的競爭將繼續(xù)進行，一切都是冷冰冰的。當我與電信公司打交道時，典型的交易需要18個月才能簽署。沒有理由花18個月來做任何事情，應(yīng)該盡快完成。我們正處于增長和收益最大化的時期，但這也需要瘋狂的想法。

例如，當微軟與OpenAI達成交易時，我認為那是我聽過的最愚蠢的想法。將你的人工智能領(lǐng)導(dǎo)層外包給OpenAI和Sam及其團隊？這太瘋狂了。在微軟或其他任何地方，沒有人會這樣做。然而今天，他們正在成為最有價值的公司，當然在蘋果身上針鋒相對。蘋果沒有好的人工智能解決方案，但看起來他們讓它奏效了。

學(xué)生：

在國家安全或地緣政治利益方面，人工智能將如何發(fā)揮作用，尤其是在與中國的競爭中？

施密特：

作為一個人工智能委員會的主席，我對此進行了深入研究。我們撰寫了一份大約752頁的報告，總結(jié)如下：我們目前處于領(lǐng)先地位，并需要保持這種優(yōu)勢，這需要大量資金支持。我們的主要客戶是參議院和眾議院，這也促成了CHIPS法案和其他類似政策的出臺。

如果前沿模型和一些開源模型繼續(xù)發(fā)展，可能只有少數(shù)公司能夠參與這個領(lǐng)域的競爭。哪些國家具備這樣的能力？這些國家需要資金充足、人才濟濟、教育體系強大，并且有獲勝的意愿。美國和中國是其中的兩個主要國家。至于其他國家是否能參與其中，我不確定。但可以肯定的是，在未來，美國和中國在知識霸權(quán)上的競爭將是一場重大斗爭。

美國政府基本上禁止了NVIDIA芯片出口到中國，盡管他們不愿公開承認這一點。我們在亞DUV芯片方面擁有大約10年的技術(shù)優(yōu)勢，即亞5納米芯片。這一優(yōu)勢讓我們領(lǐng)先中國幾年，這讓中國非常不滿。這一政策是由特朗普政府制定，并得到了拜登政府的支持。

教授：國會是否聽取你們的建議并進行大規(guī)模投資，顯然CHIPS法案是一個例子。

施密特：

此外，我們還需要建立一個龐大的人工智能系統(tǒng)。我領(lǐng)導(dǎo)著一個非正式、臨時、非法律的團體，成員包括一些常見的業(yè)內(nèi)人士。去年，這些成員提出了成為拜登政府人工智能法案的理由，這是歷史上最長的總統(tǒng)指令。

我們曾經(jīng)討論過一個核心問題：如何檢測一個已經(jīng)學(xué)會了但你不知道該問什么的系統(tǒng)里的危險？換句話說，系統(tǒng)可能學(xué)到了一些不好的東西，但你不知道該如何詢問它。比如，它可能學(xué)會了如何以某種新的方式混合化學(xué)物質(zhì)，但你不知道如何問它。為了解決這個問題，我們在給政府的備忘錄中建議設(shè)定一個閾值，我們稱之為10的26次方，這是一種技術(shù)計算量度。超過這個閾值，企業(yè)必須向政府報告他們的活動。歐盟為了確保它們的不同，將10的25次方設(shè)為10。但這些數(shù)值已經(jīng)足夠接近了。我認為所有這些區(qū)別都會消失，因為現(xiàn)有的技術(shù)將會被淘汰。技術(shù)術(shù)語稱為聯(lián)合訓(xùn)練，基本上是指可以將各個部分合并在一起。因此，我們可能無法保護人們免受這些新事物的傷害。

教授：

有傳言稱，OpenAI必須這樣訓(xùn)練，部分原因是功耗問題。沒有一個地方是他們這樣做的。

讓我們談?wù)務(wù)诎l(fā)生的一場真正的戰(zhàn)爭。我知道您積極參與烏克蘭戰(zhàn)爭，特別是關(guān)于“白鸛”計劃，以及您用價值500美元的無人機摧毀價值500萬美元的坦克的目標。這如何改變戰(zhàn)爭？

施密特：

我為國防部長工作了七年，試圖改變我們管理軍隊的方式。我不是特別喜歡軍隊，但它非常昂貴，我想看看我是否能有所幫助。我認為，我基本上失敗了。他們給了我一枚獎?wù)?，所以他們可能把獎?wù)骂C發(fā)給失敗者或其他什么人。但我的自我批評是，什么都沒有真正改變，美國的制度不會導(dǎo)致真正的創(chuàng)新。

所以我決定和您的朋友塞巴斯蒂安·特倫（他曾是這里的教員）以及一大群斯坦福人一起創(chuàng)辦一家公司。這個想法基本上是做兩件事：在這些本質(zhì)上是機器人戰(zhàn)爭的戰(zhàn)爭中，以復(fù)雜而強大的方式使用人工智能；第二件事是降低機器人的成本?，F(xiàn)在你可能會想，為什么像我這樣的善良自由主義者會這樣做？答案是，軍隊的整個理論就是坦克、大炮和迫擊炮，而我們可以消滅它們。我們可以讓入侵一個國家（至少是陸路入侵）的懲罰基本上不可能實現(xiàn)。它應(yīng)該消除那種陸戰(zhàn)。

教授：

這是一個非常有趣的問題。它是否讓防守比進攻更具優(yōu)勢？你能區(qū)分嗎？

施密特：

因為我去年一直在做這件事，我學(xué)到了很多關(guān)于戰(zhàn)爭的知識，我真的不想知道。關(guān)于戰(zhàn)爭，你需要知道的一件事是，進攻總是有優(yōu)勢，因為你總能壓倒防御系統(tǒng)。因此，從國防戰(zhàn)略的角度來看，你最好擁有一個非常強大的進攻，以便在需要時使用。我和其他人正在構(gòu)建的系統(tǒng)將做到這一點。由于系統(tǒng)的運作方式，我現(xiàn)在是一名持牌軍火商。所以我是一名計算機科學(xué)家、商人、軍火商。我很遺憾地說。這是個進步嗎？我不知道。我不建議你在職業(yè)生涯中從事這個。我會堅持從事人工智能。由于法律的運作方式，我們私下進行這項工作，在政府的支持下，這一切都是合法的。它直接進入烏克蘭，然后他們開始打仗。不談所有細節(jié)，情況相當糟糕。我認為，在五月或六月，如果俄羅斯人按照預(yù)期進行建設(shè)，烏克蘭將在失去整個國家的過程中失去一大塊領(lǐng)土。情況相當糟糕。如果你認識Marjorie Taylor Greene，我建議你將她從你的聯(lián)系人列表中刪除。因為她就是那個阻止了數(shù)十億美元資金用于拯救一個重要民主國家的人。

教授：

接下來，我想討論一個有點哲學(xué)性的問題。去年，你和亨利·基辛格以及丹·赫滕洛赫共同撰寫了一篇關(guān)于知識本質(zhì)及其發(fā)展方式的文章。前幾天晚上，我也討論過這個問題。在歷史的大部分時間里，人類對宇宙的理解是神秘的，直到科學(xué)革命和啟蒙運動的到來。在你的文章中，你提到現(xiàn)在的模型變得如此復(fù)雜和難以理解，以至于我們真的不知道它們內(nèi)部發(fā)生了什么。我引用理查德·費曼的話：“我不能創(chuàng)造的東西，我就不理解。”前幾天我看到了這句話。但現(xiàn)在人們正在創(chuàng)造他們可以創(chuàng)造的東西，卻并不真正了解其內(nèi)部運作。知識的本質(zhì)是否在某種程度上發(fā)生了變化？我們是否必須開始只接受這些模型的表面，而它們無法向我們解釋？

施密特：

我想舉一個青少年的例子。如果你有一個青少年，你知道他們是人類，但你無法完全弄清楚他們在想什么。然而，我們在社會上設(shè)法適應(yīng)了青少年的存在，他們最終會擺脫這種狀態(tài)。這是一個嚴肅的問題。因此，我們可能會擁有無法完全描述的知識系統(tǒng)，但我們了解它們的界限和能做什么的極限，這可能是我們能得到的最好的結(jié)果。你認為我們會了解這些限制嗎？如果我們能做到這一點，那就很好。

我的小組每周開會的共識是，最終會出現(xiàn)所謂的對抗性人工智能，實際上會有公司雇傭你并付錢來破壞你的人工智能系統(tǒng)。就像紅隊一樣。與今天的人類紅隊不同，你將擁有整個公司和整個人工智能系統(tǒng)行業(yè)，他們的工作是破壞現(xiàn)有的人工智能系統(tǒng)并找到它們的漏洞，尤其是那些我們無法弄清楚的知識。這對我來說很有意義。對于斯坦福大學(xué)來說，這也是一個很棒的項目。如果你有一個研究生，他必須弄清楚如何攻擊這些大型模型之一并了解它的作用，那么這將是構(gòu)建下一代的重要技能。因此，將兩者結(jié)合起來是有意義的。

教授：

現(xiàn)在，讓我們回答一些學(xué)生的問題。后面有一位同學(xué)，請說出你的名字。

學(xué)生：

你之前提到過，這與現(xiàn)在的評論有關(guān)，讓人工智能真正做你想做的事。你剛才提到了對抗性人工智能，我想知道你能否更詳細地闡述這一點?？雌饋?，除了計算能力顯然會增加，你可以得到更高性能的模型，但讓它們做你想做的事情的問題，似乎部分沒有得到解答。

施密特：

好吧，你必須假設(shè)當前的幻覺問題會減少，隨著技術(shù)的進步等等。我并不是說它會消失。然后你還必須假設(shè)存在功效測試，所以必須有一種方法來知道這件事是否成功。在我提到的TikTok競爭對手的例子中，我并不是建議非法竊取他人的音樂。如果你是硅谷的企業(yè)家，你會怎么做呢？希望你們都是硅谷的企業(yè)家。如果你的產(chǎn)品成功了，你會雇傭一大群律師來處理后續(xù)問題。但如果沒有人使用你的產(chǎn)品，那么即使你竊取了所有內(nèi)容也無關(guān)緊要。當然，不要引用我的話。

硅谷通常會進行這些測試并處理后續(xù)問題。這是常見的做法。我認為，你會看到越來越多的性能系統(tǒng)，甚至更好的測試，最終是對抗性測試，這將把它控制在一個框架內(nèi)。這個專業(yè)術(shù)語叫做思路鏈推理。人們相信在未來幾年內(nèi)，你將能夠生成一千步的思路鏈推理，就像制作食譜一樣。你可以運行它，實際測試它是否產(chǎn)生了正確的結(jié)果，這就是系統(tǒng)的工作方式。

學(xué)生：

總的來說，你對人工智能進步的潛力非常樂觀。我很好奇，是什么推動了這一進步？是更多的計算能力嗎？是更多的數(shù)據(jù)嗎？是根本性的還是實際的轉(zhuǎn)變？

施密特：

答案是以上所有。投入的資金數(shù)額令人難以置信。我基本上投資了一切，因為我不知道誰會贏，而我跟隨的資金數(shù)額如此之大。部分原因是早期的錢已經(jīng)賺了，而那些不太了解的人必須擁有人工智能組件?，F(xiàn)在一切都是人工智能投資，他們無法分辨出差異。

我將人工智能定義為學(xué)習(xí)系統(tǒng)，即真正學(xué)習(xí)的系統(tǒng)。我認為這是其中之一。第二點是，現(xiàn)在出現(xiàn)了一些非常復(fù)雜的新算法，它們有點像后Transformer。我有一個朋友，也是我長期的合作伙伴，發(fā)明了一種新的非Transformer架構(gòu)。我在巴黎資助的一個小組聲稱也做了同樣的事情。那里有大量的發(fā)明，斯坦福大學(xué)也有很多研究。最后一點是，市場相信智能的發(fā)明有無限的回報。假設(shè)你向一家公司投入了500億美元的資金，你必須從智能中賺到很多錢才能償還這筆錢。我們可能會經(jīng)歷一些巨大的投資泡沫，然后它會自行解決。過去一直如此，現(xiàn)在也可能如此。

教授：你之前提到，領(lǐng)導(dǎo)者正在拉開與其他人的距離。

施密特：

現(xiàn)在，法國有一家叫Mistral的公司，他們做得非常好。我顯然是一名投資者。他們已經(jīng)制作了第二個版本，他們的第三種模式很可能是封閉的，因為它太昂貴了。他們需要收入，不能免費提供他們的模式。我們行業(yè)中關(guān)于開源與閉源的爭論非常激烈。我的整個職業(yè)生涯都建立在人們愿意以開源方式分享軟件的基礎(chǔ)上。我的一切工作都是基于開源的。谷歌的大部分基礎(chǔ)也是建立在開源之上。我所從事的工作主要集中在技術(shù)領(lǐng)域。然而，巨大的資本成本可能會從根本上改變軟件的構(gòu)建方式。

我對軟件程序員的看法是，他們的生產(chǎn)力至少會翻倍。目前有三四家軟件公司正在嘗試實現(xiàn)這一目標，我在這段時間里投資了所有這些公司。他們都在努力提高軟件程序員的生產(chǎn)力。我最近遇到了一家非常有趣的公司，名為 Augment。我常常想到一個程序員，他們說這不是我們的目標。我們的目標是那些擁有數(shù)百萬行代碼的100人軟件編程團隊，沒有人知道發(fā)生了什么。這是人工智能的一個非常好的應(yīng)用。他們會賺錢嗎？我希望如此，但這里有很多問題。

學(xué)生：

一開始，你提到上下文窗口擴展、代理和文本到操作的組合將產(chǎn)生難以想象的影響。首先，為什么這種組合很重要？其次，我知道你不是預(yù)言家，無法預(yù)知未來，但你為什么認為它超出了我們的想象呢？

施密特：

我認為主要是因為上下文窗口可以讓你解決新近性問題。目前的模型需要大約18個月的時間來訓(xùn)練，包括六個月的準備、六個月的訓(xùn)練和六個月的微調(diào)，因此它們總是過時的。而通過上下文窗口，你可以輸入最新發(fā)生的事情，并在上下文中詢問有關(guān)哈馬斯-以色列戰(zhàn)爭的問題，這非常強大，使其變得像谷歌一樣最新。

在代理的情況下，我可以舉個例子。我成立了一個基金會，為一個非營利組織提供資金。我不太懂化學(xué)，但有一個名為 ChatCrow 的工具，這是一個基于大型語言模型的系統(tǒng)，可以學(xué)習(xí)化學(xué)。他們運行這個系統(tǒng)來生成有關(guān)蛋白質(zhì)的化學(xué)假設(shè)，然后實驗室連夜進行測試，系統(tǒng)就會學(xué)習(xí)。這對化學(xué)、材料科學(xué)等領(lǐng)域是一個巨大的促進劑。這是一個代理模型。

我認為，只要有很多廉價的程序員，就可以理解文本到動作的概念。我認為我們不明白當每個人都有自己的程序員時會發(fā)生什么。這也是你的專業(yè)領(lǐng)域。我不是在談?wù)摵唵蔚娜蝿?wù)，比如打開和關(guān)閉燈。我想象另一個例子，假設(shè)你不喜歡谷歌，你可以說，為我建立一個谷歌的競爭對手。是的，你個人可以這樣做。為我建立一個谷歌的競爭對手，搜索網(wǎng)絡(luò)，構(gòu)建用戶界面，制作一個好的副本，并以有趣的方式添加生成式人工智能。在30秒內(nèi)完成，看看它是否有效。很多人認為，包括谷歌在內(nèi)的現(xiàn)任者很容易受到這種攻擊。

教授：

現(xiàn)在，我們來看看。Slido 發(fā)送了許多問題，其中一些已經(jīng)被上傳。去年我們曾討論過如何阻止人工智能影響輿論和傳播錯誤信息，尤其是在即將到來的選舉期間。

施密特：

我們需要考慮短期和長期的解決方案。在即將到來的全球選舉中，大多數(shù)錯誤信息將出現(xiàn)在社交媒體上，而社交媒體公司目前的組織能力不足以有效監(jiān)管這些信息。例如，TikTok被指控偏愛某種虛假信息，盡管我沒有證據(jù)。我認為我們面臨一團糟的局面。

國家需要學(xué)習(xí)批判性思維，這對美國來說可能是一個艱巨的挑戰(zhàn)。有人告訴你某事并不意味著它是真的。

教授：

我們是否會走得太遠，以至于一些真實的事情也無人再相信？有些人稱之為認識論危機?，F(xiàn)在，埃隆·馬斯克說他從未做過某些事情，但如何證明呢？

施密特：

我們可以用唐納德·特朗普的例子來說明。我認為我們的社會存在信任問題，民主可能會因此失敗。對民主的最大威脅是錯誤信息，因為我們在這方面變得非常擅長。

當我管理YouTube時，我們遇到的最大問題是人們上傳虛假視頻，導(dǎo)致人員死亡。我們有一個不死亡政策，試圖解決這個問題令人震驚且可怕。這是在生成式人工智能出現(xiàn)之前。

教授：

我沒有好的答案，但有一個技術(shù)問題似乎可以緩解這種情況，那就是公鑰認證。當喬·拜登講話時，為什么不使用類似SSL的數(shù)字簽名？名人、公眾人物或其他人是否可以擁有公鑰？

施密特：

這是一種公鑰形式，提供某種確定性，就像我將信用卡發(fā)送到亞馬遜時，我知道這是亞馬遜。

我曾與Jonathan Haidt合作發(fā)表了一篇論文，但沒有產(chǎn)生影響。他是一個非常好的溝通者，而我可能不是。我的結(jié)論是，系統(tǒng)并沒有按照我們所說的那樣組織。首席執(zhí)行官通常在最大化收入，為此他們要最大化參與度，而最大化參與度的方式是最大化憤怒。算法選擇憤怒，因為這會產(chǎn)生更多收入，因此人們傾向于支持極端的東西。這在各個方面都是一個問題，必須得到解決。

在民主國家，我對TikTok的解決方案是基于我們之前私下討論過的內(nèi)容。當我還是個孩子的時候，有一種叫做平等時間規(guī)則的東西。TikTok 實際上并不是一個社交媒體平臺，而更像是一種電視形式。美國的每個 TikTok 用戶每天平均使用該應(yīng)用90分鐘，并制作200個視頻，這個使用量非常大。雖然政府沒有實施平等時間規(guī)則，但這可能是一個值得考慮的方向，需要某種形式的平衡。

學(xué)生：

首先是關(guān)于勞動力市場的經(jīng)濟影響。這個影響比最初預(yù)期的要慢，尤其是在勞動力市場方面。還有關(guān)于客服人員的問題。你認為學(xué)術(shù)界是否應(yīng)該獲得人工智能補貼，或者應(yīng)該與大公司合作？

施密特：

我一直在努力推動大學(xué)建立數(shù)據(jù)中心。如果我是計算機科學(xué)系的教員，我會因為無法與研究生一起開發(fā)算法進行博士研究而感到沮喪，因為我被迫與公司合作。而這些公司在這方面并不夠慷慨。很多教職員工花費大量時間等待谷歌云的積分，這種情況很糟糕。我們希望美國的大學(xué)能夠在這方面取得成功，因此我認為讓他們獲得這些學(xué)分是正確的做法。

關(guān)于勞動力市場的影響，我會聽取真正專家的意見。作為一名業(yè)余經(jīng)濟學(xué)家，我相信大學(xué)教育和高技能任務(wù)會有好的前景，因為人們會使用這些系統(tǒng)。我認為這些系統(tǒng)與以往的技術(shù)浪潮沒有本質(zhì)區(qū)別。危險的工作和不需要人類判斷的工作將被取代。

學(xué)生：

關(guān)于從文本到行動的轉(zhuǎn)變及其對計算機科學(xué)教育的影響？我認為計算機科學(xué)教育應(yīng)該適應(yīng)時代變化。

施密特：

我假設(shè)本科生中的計算機科學(xué)家總是會有一個程序員伙伴。當你學(xué)習(xí)第一個for循環(huán)時，會有一個工具成為你的天然伙伴。教授會講解概念，而你會通過這種方式參與其中。

學(xué)生：關(guān)于非Transformer架構(gòu)的討論，我認為狀態(tài)模型是一個被討論的方向，但現(xiàn)在更多關(guān)注的是上下文。

施密特：

我對數(shù)學(xué)的理解不夠深入，但我很高興這為數(shù)學(xué)家創(chuàng)造了就業(yè)機會，因為這里的數(shù)學(xué)非常復(fù)雜?；旧?，這些是進行梯度下降和矩陣乘法的不同方法，目標是更快更好。正如你所知，Transformers是一種同時進行乘法的系統(tǒng)方法。這是我的想法。它與此類似，但數(shù)學(xué)不同。讓我們看看。

學(xué)生：

你在關(guān)于國家安全的論文中提到，今天中國、美國和其他國家的情況。從下一個集群往下的十個國家，要么是美國盟友，要么有可能成為美國盟友。我很好奇你對這十個國家的看法。他們有點像中間人，不是正式的盟友。他們有多大可能加入保護我們安全的工作？是什么阻止了他們加入呢？

施密特：

最有趣的國家是印度，因為頂尖的人工智能人才都來自印度，來到了美國。我們應(yīng)該讓印度保留一些頂尖人才，不是全部，但有一部分。而且他們沒有我們這里豐富的訓(xùn)練設(shè)施和項目。在我看來，印度在這方面是一個搖擺不定的國家。日本和韓國顯然是我們的陣營。臺灣軟件很糟糕，所以這行不通。硬件很棒。而在世界其他地方，沒有很多其他好的選擇。歐洲因為布魯塞爾而搞砸了，這不是什么新鮮事。我花了10年時間與他們抗爭。我非常努力地讓他們修改歐盟法案。他們?nèi)匀挥懈鞣N限制，使我們在歐洲進行研究非常困難。我的法國朋友把所有時間都花在了與布魯塞爾的斗爭上。作為我的私人朋友，馬克龍正在為此努力奮斗。所以我認為法國有機會。我認為德國不會來，其他國家也不夠強大。

學(xué)生：

我知道您是一名受過訓(xùn)練的工程師，我認為您被稱為編譯器。鑒于您設(shè)想的這些模型所具有的功能，我們還應(yīng)該花時間學(xué)習(xí)編碼嗎？

施密特：

是的，因為歸根結(jié)底，這是老生常談的問題，如果你會說英語，為什么還要學(xué)習(xí)英語？你會學(xué)得更好。你確實需要了解這些系統(tǒng)是如何工作的，我對此深有體會。

學(xué)生：

我很好奇您是否探索過分布式設(shè)置。我之所以問這個問題，是因為，當然，制作一個大型集群很困難，但 MacBook 功能強大。世界各地有很多小型機器。那么，您認為在家折疊或類似的想法是否適用于訓(xùn)練這些系統(tǒng)？

施密特：

是的，我們已經(jīng)非常認真地研究過這個問題。因此，算法的工作方式是您有一個非常大的矩陣，并且您基本上有一個乘法函數(shù)。所以可以把它想象成來回反復(fù)。而這些系統(tǒng)完全受到內(nèi)存到 CPU 或 GPU 的速度的限制。事實上，下一代 NVIDIA 芯片已將所有這些功能整合到一個芯片中。芯片現(xiàn)在太大了，以至于它們都粘在一起了。事實上，封裝非常敏感，封裝和芯片本身都是在潔凈室中組裝的。所以答案看起來超級計算機和光速，尤其是內(nèi)存互連，真的占了上風(fēng)。我認為目前分割大型語言模型（LLM）暫時不太可能。

教授：

Jeff Dean 去年在一次演講中提到，可以將模型分為不同的部分，分別訓(xùn)練后再聯(lián)合起來。

施密特：

但要實現(xiàn)這一點，需要擁有上千萬個這樣的模型，提問的速度也會變得非常慢。他提到需要8臺、10臺或12臺超級計算機來實現(xiàn)這一目標，但這并不在他的級別上。

學(xué)生：

關(guān)于數(shù)據(jù)隱私的問題，我了解到紐約時報曾起訴OpenAI使用他們的作品進行訓(xùn)練。

施密特：

我認為未來可能會有很多類似的訴訟，最終會達成某種協(xié)議，比如規(guī)定使用某些作品需要支付一定比例的收入，就像音樂行業(yè)的ASCAP和EMI那樣。這種模式雖然看起來有些過時，但我認為最終會這樣運作。

學(xué)生：

在AI領(lǐng)域，似乎有一些公司在主導(dǎo)市場，并且與反壟斷法規(guī)關(guān)注的大公司有重疊。

施密特：

我曾在職業(yè)生涯中參與過微軟的拆分案，但最終沒有成功；我也為谷歌不被拆分而努力過，但同樣沒有成功。因此，我認為趨勢是不被拆分。只要這些公司不成為像約翰·洛克菲勒那樣的壟斷者，政府就不太可能采取行動。

這些大公司之所以占據(jù)主導(dǎo)地位，是因為只有他們有資本建立數(shù)據(jù)中心。我有朋友里德和穆斯塔法，他們做出了將業(yè)務(wù)拆分給微軟的決定，因為他們無法籌集到數(shù)百億美元的資金。至于具體的數(shù)字，可能需要讓里德來告訴你。

學(xué)生：

最后，我想知道這些發(fā)展對那些不參與前沿模型開發(fā)和計算的國家會有什么影響。

施密特：

富裕國家會變得更富，而貧窮國家只能盡力而為。這實際上是一場富國的游戲，需要巨大的資本、技術(shù)人才和強大的政府支持。在全球范圍內(nèi)，許多國家面臨著各種各樣的問題，尤其是在資源匱乏的情況下。他們需要找到合作伙伴，與他人合作以解決這些問題。

教授：

我記得我們上次見面時，你正在AGI House參加黑客馬拉松。我知道你花了很多時間幫助年輕人創(chuàng)造財富，并對此充滿熱情。對于那些正在為課程寫商業(yè)計劃或在職業(yè)生涯中撰寫政策提案或研究提案的人，你有什么建議嗎？

施密特：

我在商學(xué)院教授相關(guān)課程，你應(yīng)該來聽聽。我對你們展示新想法的速度感到震驚。

在我參加的一次黑客馬拉松中，獲勝團隊的任務(wù)是讓無人機在兩座塔樓之間飛行。他們在一個虛擬的無人機空間中，使用Python生成代碼，并在模擬器中成功完成了任務(wù)。優(yōu)秀的專業(yè)程序員可能需要一兩個星期才能做到這一點。我認為快速制作原型的能力非常重要，因為創(chuàng)業(yè)者面臨的部分問題是速度。如果你不能在一天內(nèi)用這些工具制作出原型，你就需要重新考慮，因為這正是你的競爭對手在做的事情。

因此，我最大的建議是，當你開始考慮創(chuàng)辦公司時，寫一份商業(yè)計劃是可以的。事實上，你可以讓電腦為你寫，只要它是合法的。盡快使用這些工具制作你的想法的原型非常重要，因為在其他公司、大學(xué)或你未曾去過的地方，可能有人在做同樣的事情。

教授：非常感謝。

未經(jīng)許可不得轉(zhuǎn)載，務(wù)必保留原文出處鏈接

（關(guān)注本賬號，第一時間獲取最新世界頂級科技認知）