1. 以AI治理AI
針對合規(guī)難題，皮普爾·辛哈 提出了技術(shù)解法：

• ? 神經(jīng)驅(qū)動(dòng)規(guī)則： 不要試圖用僵硬的文檔去約束AI。企業(yè)應(yīng)訓(xùn)練一個(gè) 判斷模型 ，將業(yè)務(wù)規(guī)則內(nèi)化為模型的判斷力，用一個(gè)模型去審計(jì)另一個(gè)模型的輸出。

2. 遞歸自我改進(jìn)
理查德·索克 描繪了終極愿景：

• ? 自動(dòng)化研究員： 過去需要數(shù)百人調(diào)整的知識系統(tǒng)，現(xiàn)在是神經(jīng)網(wǎng)絡(luò)。未來，構(gòu)建模型的過程本身也將自動(dòng)化。

• ? 長效代理： 張予彤 補(bǔ)充道，AI將具備像人類一樣的“長代理期”。管理者周一布置任務(wù)，AI獨(dú)立工作一周，周五交付。

對于擁有龐大資產(chǎn)的老牌企業(yè)而言，擁抱人工智能的最大阻礙并非技術(shù)實(shí)力，而是對安全和合規(guī)的深層恐懼。皮普爾·辛哈觀察到，許多企業(yè)在試點(diǎn)階段非常順利，但一旦進(jìn)入生產(chǎn)環(huán)節(jié)，首席風(fēng)險(xiǎn)官和首席安全官就會(huì)因?yàn)閾?dān)心“幻覺”和安全漏洞而叫停。

為了解決這一痛點(diǎn)，技術(shù)專家們提出了一套“以技術(shù)治理技術(shù)”的方案。皮普爾建議，企業(yè)不應(yīng)依賴固定的規(guī)則集，而應(yīng)訓(xùn)練專門的判斷模型。“你可以用一個(gè)大語言模型來判斷另一個(gè)大語言模型的工作表現(xiàn)，讓神經(jīng)驅(qū)動(dòng)規(guī)則，從而在不犧牲靈活性的前提下提高合規(guī)信心?！?/strong>

圓桌嘉賓的預(yù)測指向了AI發(fā)展的奇點(diǎn)——遞歸式自我改進(jìn)（RSI）。

• ? 當(dāng)“大模型監(jiān)控大模型”解決了信任問題，且“AI構(gòu)建AI”解決了能力迭代問題時(shí)，企業(yè)的迭代速度將不再受限于人類的學(xué)習(xí)曲線。2026年的企業(yè)競爭，本質(zhì)上是 誰能更快建立起這套自我進(jìn)化系統(tǒng) 的競爭。

在對話的尾聲，專家們做出了前瞻。其中最具震撼力的觀點(diǎn)是：人工智能將從“人類手動(dòng)構(gòu)建”轉(zhuǎn)向“自我遞歸改進(jìn)”。理查德·索克回顧了歷史，指出曾經(jīng)需要八百人手動(dòng)構(gòu)建的系統(tǒng)，現(xiàn)在已被單一的神經(jīng)網(wǎng)絡(luò)取代。

“目前構(gòu)建模型的系統(tǒng)依然是手動(dòng)完成的，需要專家耗費(fèi)數(shù)月去調(diào)試直覺。但這部分工作本身也將實(shí)現(xiàn)自動(dòng)化，產(chǎn)生遞歸式的自我改進(jìn)。” 這意味著，未來的模型將不再依賴于人類工程師的緩慢迭代，而是通過持續(xù)學(xué)習(xí)和環(huán)境交互，實(shí)現(xiàn)核心知識的自主更新。

從長效智能體的普及到強(qiáng)化學(xué)習(xí)在企業(yè)流程中的深度融合，這場對話描繪了一個(gè)即將到來的未來：在這個(gè)未來里，人工智能不再是一個(gè)選項(xiàng)，而是一切業(yè)務(wù)的操作系統(tǒng)。 對于所有企業(yè)而言，轉(zhuǎn)型的窗口期正在迅速關(guān)閉，唯有那些敢于從第一性原理出發(fā)、重塑信任機(jī)制并擁抱“智能體編排”的組織，才能在人工智能吞噬軟件的浪潮中幸存。

AI發(fā)展的下一個(gè)躍遷點(diǎn)將是決定企業(yè)生死的關(guān)鍵。

• ? “長效代理期”（Long Agency）： 張予彤分享了工作流時(shí)間維度的質(zhì)變。目前的Agent只能執(zhí)行幾秒鐘的任務(wù)，但未來將是： “周一設(shè)定目標(biāo)，團(tuán)隊(duì)和智能體自主工作，周五驗(yàn)收結(jié)果?！?/strong> 這種長達(dá)一周的獨(dú)立執(zhí)行能力，將徹底改變企業(yè)的運(yùn)轉(zhuǎn)節(jié)奏。

• ? 理查德·索克的“遞歸自我改進(jìn)”： 歷史上需要800人團(tuán)隊(duì)維護(hù)的系統(tǒng)（如IBM Watson），現(xiàn)在已被神經(jīng)網(wǎng)絡(luò)取代。未來， 構(gòu)建AI的過程本身也將自動(dòng)化 。

• • ? 核心觀點(diǎn)： “目前構(gòu)建模型的系統(tǒng)依然是手動(dòng)完成的，但這部分工作將實(shí)現(xiàn)自動(dòng)化?！?/strong> 這意味著AI將能夠自我迭代，創(chuàng)造出比人類工程師設(shè)計(jì)得更優(yōu)秀的版本。

這場圓桌會(huì)議劃定了一條清晰的分野：

• ? 老牌企業(yè) 正在努力建立 AI審計(jì)AI 的機(jī)制，試圖在合規(guī)的籠子里養(yǎng)大AI這只猛獸，以避免被淘汰。

• ? AI原生企業(yè) 則在追求極致的 人機(jī)比 和 長效代理 ，利用無限智能的杠桿，在軟件無形化的浪潮中重塑商業(yè)世界。

結(jié)合嘉賓們的發(fā)言, 以下行動(dòng)路線呼之欲出：

1. 1. 重構(gòu)指標(biāo)： 停止關(guān)注AI工具的使用率，開始關(guān)注 端到端流程的自動(dòng)化率 和 人機(jī)配比（HAR） 。

2. 2. 重塑員工： 將員工從“操作員”培訓(xùn)為 智能體審計(jì)員 。

3. 3. 技術(shù)治理： 建立 模型監(jiān)督模型 的合規(guī)閉環(huán)，而非依賴人工審核。

4. 4. 思維轉(zhuǎn)換： 采納 無限智能 假設(shè)，重新設(shè)計(jì)那些因?yàn)椤叭颂F”而從未存在過的業(yè)務(wù)模式。

正如拉維·馬特雷所言，那些敢于在沒有既有軟件概念下重新想象業(yè)務(wù)的公司，將是這場范式轉(zhuǎn)移的最終贏家。

附:天空之城全文整理 什么是真正的“人工智能優(yōu)先”企業(yè)？

主持人: 大家好，無論是來到達(dá)沃斯的現(xiàn)場嘉賓，還是在線上加入我們的朋友們。我是阿克西斯（Axios）的首席技術(shù)記者伊娜弗里德（Inafried），今天我們來談?wù)撘粋€(gè)我們這些天都在討論的話題，那就是人工智能（AI）。尤其是在達(dá)沃斯，關(guān)于企業(yè)如何最好地利用人工智能、企業(yè)在哪里遇到瓶頸，一直是舞臺上以及穿梭巴士上大家交談的焦點(diǎn)。

我們都在努力弄清楚這一點(diǎn)，所以我非常高興能和一群非常尊貴的專家一起討論。在本次會(huì)議中，我們將深入探討另一種緊張關(guān)系，即大型企業(yè)、力求適應(yīng)人工智能的現(xiàn)有企業(yè)，與應(yīng)運(yùn)而生、從一開始就以人工智能為先導(dǎo)的新公司之間的區(qū)別。那么，老牌企業(yè)能否轉(zhuǎn)變?yōu)槿斯ぶ悄軆?yōu)先型企業(yè)呢？

因此，我很高興能與這個(gè)精彩的專家小組會(huì)面。我先拋出一些數(shù)據(jù)：2024年，私營部門在人工智能方面的投資超過了2500億美元。我們?nèi)匀恍枰@些人一直在開出更多的支票、兌現(xiàn)更多的支票——但只有百分之一的大型企業(yè)認(rèn)為自己在人工智能方面真正成熟了。為了讓大家達(dá)成共識，我將拋出一個(gè)別人給我的定義：如果一個(gè)企業(yè)超過一半的勞動(dòng)力任務(wù)實(shí)現(xiàn)了至少20%的性能提升，我們就可以認(rèn)為該企業(yè)是人工智能優(yōu)先型企業(yè)。

我認(rèn)為在我們的討論中，我們可能需要使用一些不同的指標(biāo)，但我先提出這個(gè)定義。我想指出，世界經(jīng)濟(jì)論壇的人工智能全球聯(lián)盟與科爾尼公司（A.T. Kearney）啟動(dòng)了一個(gè)新的工作流程，專門研究這一問題，涵蓋了50多家創(chuàng)新領(lǐng)導(dǎo)者。我確信你們可以在網(wǎng)上找到更多關(guān)于這方面的信息。

所以我我要介紹一下小組成員，但這不一定就是他們的座位順序。 我們有Moonshot AI的總裁張予彤。我們有Reflection AI的聯(lián)合創(chuàng)始人兼總裁雅尼斯·安特諾格魯（Ioannis Antonoglou）。拉維·馬特雷（Ravi Mhatre），他是光速創(chuàng)投（Lightspeed Venture Partners）的創(chuàng)始人和合伙人，皮普爾·辛哈（Bipul Sinha）是紅帽（Rubrik）的聯(lián)合創(chuàng)始人和首席執(zhí)行官，以及理查德·索克（Richard Socher），優(yōu)網(wǎng)（You.com）的聯(lián)合創(chuàng)始人和首席執(zhí)行官。所以我們有一個(gè)很棒的團(tuán)隊(duì)，我再次感謝我們擁有如此多不同的觀點(diǎn)。

我想問在座的各位，我提出了一個(gè)關(guān)于什么是“人工智能優(yōu)先”型公司的定義，但你們都在現(xiàn)實(shí)世界中看到了這一點(diǎn)。你們能否談?wù)勀切┠銈冋J(rèn)為屬于“人工智能優(yōu)先”但并非在ChatGPT出現(xiàn)之后誕生的公司？有哪些公司，因?yàn)樗鼈儗?shí)現(xiàn)轉(zhuǎn)型的方式，仍然符合“人工智能優(yōu)先”的定義？

皮普爾·辛哈: 我可以先說。在我們看來，如果你說你是一家人工智能公司，你必須真正明確，你是否擁有完全由人工智能完成的端到端業(yè)務(wù)工作流程，而不是僅僅進(jìn)行信息搜索或使用ChatGPT界面？

因此，我們在細(xì)則中正在做的是逐條業(yè)務(wù)線進(jìn)行，要求每個(gè)人確定三到五個(gè)通過人工或SaaS應(yīng)用與人工相結(jié)合的方式完成的工作流程，并詢問我們是否可以定義端到端的AI驅(qū)動(dòng)成果。所以我的定義是，如果你在所有業(yè)務(wù)線中都實(shí)現(xiàn)了三到五個(gè)由人工智能驅(qū)動(dòng)的工作流程，那么你就是一個(gè)名副其實(shí)的AI驅(qū)動(dòng)型公司。

主持人: 還有其他人想提出一個(gè)不同的定義或觀點(diǎn)嗎？理查德？

理查德·索克: 我認(rèn)為你必須考慮兩方面。技術(shù)方面，你有多少智能體等等，但也要考慮人的方面。你的員工中有多少人真正獲得了認(rèn)證并了解相關(guān)知識？

比如我們在U.com發(fā)現(xiàn)的一件事是，當(dāng)我們只是說，給你，用它來創(chuàng)建你自己的智能體時(shí)，你可以委托你所有的工作。人們會(huì)說，但我真的不知道如何委托工作。大多數(shù)獨(dú)立貢獻(xiàn)者都不是管理者。然后采用率會(huì)非常低，直到我們說，好了，我們有一個(gè)培訓(xùn)計(jì)劃和一個(gè)認(rèn)證計(jì)劃，然后當(dāng)人們真的必須去做的時(shí)候，你才會(huì)看到這些老牌組織真的開始采納并擁抱它，因?yàn)槲覀冎械拿總€(gè)人都將不得不成為管理者，無論他們是管理人員還是管理他們的人工智能代理，但這種管理和授權(quán)的心態(tài)對大多數(shù)人來說并不是自然而然形成的。

想象力與組織束縛

主持人: 還有拉維，你看到了大量的公司。你是否看到任何不是在過去一兩年內(nèi)成立的公司，你會(huì)說它們真正抓住了人工智能，以至于你可以稱它們?yōu)槿斯ぶ悄軆?yōu)先的公司？

拉維·馬特雷: 我會(huì)說，有趣的是，世界經(jīng)濟(jì)論壇的定義是對整個(gè)組織能力集中的某種百分比改進(jìn)的平均效應(yīng)，我認(rèn)為現(xiàn)實(shí)情況是，這可能沒有釋放人工智能的全部潛力。

而且我認(rèn)為，我們再次在原生于人工智能的公司中看到了這一點(diǎn)，比如我們密切合作的Anthropic公司，如果你看看他們利用人工智能做一些變革性事情的能力，我認(rèn)為那些奉行“人工智能優(yōu)先”的公司的想象力思維是，他們從“如果我們能獲得無限的智能，我們會(huì)構(gòu)建什么”開始思考，而且他們顯然沒有受到組織結(jié)構(gòu)和現(xiàn)有工作流程的束縛。

我會(huì)說，對于那些必須努力真正實(shí)現(xiàn)“人工智能優(yōu)先”的傳統(tǒng)公司來說，挑戰(zhàn)在于他們大多關(guān)注的是“我們?nèi)绾卫矛F(xiàn)有的技術(shù)做什么？”而且他們也在平衡一個(gè)事實(shí)，那就是他們的組織有其自身的工作方式。我認(rèn)為真正能取得突破的只是少數(shù)幾家。

今天，我們并沒有完全不受限制地獲取智能，但人工智能仍在不斷改進(jìn)。有些人確實(shí)期望人工智能的能力將繼續(xù)呈指數(shù)級改進(jìn)。因此，傳統(tǒng)公司也需要以同樣的方式思考，更具變革性。如果我能無限地獲取智能，我會(huì)如何以一種我今天沒有既有概念的方式來經(jīng)營我的業(yè)務(wù)呢？

訣竅在于，如果你應(yīng)用了那個(gè)框架，它的表面區(qū)域會(huì)非常不均勻。在編碼方面，你真的，使用僅在八個(gè)月前推出的四元代碼（quad code），它已經(jīng)是年收入15億美元的產(chǎn)品，而且擁有近1500萬開發(fā)人員。但你會(huì)遇到一些問題，在這些問題中，人工智能確實(shí)可以完成絕大部分工作，并準(zhǔn)備好交付生產(chǎn)級別的代碼，這在24個(gè)月前是聞所未聞的。

所以你可能會(huì)在那里取得真正的成功，但你可能不會(huì)讓人工智能去做你業(yè)務(wù)中其他高度管制的方面的工作，比如嘗試創(chuàng)建財(cái)務(wù)報(bào)表。但關(guān)鍵是，那些真正培養(yǎng)出這種思維模式的公司——我認(rèn)為這來自于那些有遠(yuǎn)見的管理層、首席執(zhí)行官或創(chuàng)始人驅(qū)動(dòng)業(yè)務(wù)的公司——對一個(gè)組織來說，進(jìn)行這種改變是非常困難的，你會(huì)得到參差不齊的結(jié)果。但我認(rèn)為現(xiàn)在正在進(jìn)行這種思維轉(zhuǎn)變的公司，將是在人工智能原生世界中真正有機(jī)會(huì)生存和發(fā)展的公司。

中國視角與高運(yùn)營杠桿

主持人: 聽起來不錯(cuò)。而且予彤，要求你代表一個(gè)國家，特別是像中國這樣一個(gè)大國，這是非常不公平的。但請幫助我們理解，在中國，這些自人工智能模型問世以來誕生的初創(chuàng)公司，與一些老牌公司、一些科技巨頭之間，相互作用是如何發(fā)展的。你看到了什么？

張予彤: 我認(rèn)為對于組織而言，一種方法就像拉維所說的那樣，是自上而下的，管理層需要具備人工智能原生思維。但我們看到的另一個(gè)有趣的視角是“攜帶你自己的AI去工作”。

所以我們實(shí)際上有一個(gè)面向消費(fèi)者的應(yīng)用程序，在全球擁有數(shù)以千萬計(jì)的用戶。我們實(shí)際上觀察到，我們對用戶進(jìn)行了研究和訪談。很多人在工作中使用人工智能，并且他們愿意自掏腰包付費(fèi)。所以我想意味著人工智能可以真正提高我們今天所做的許多工作的生產(chǎn)力。我認(rèn)為那將非常有趣。

但從組織層面來看，我認(rèn)為有幾件事情可能很有趣。我想其中之一是人與智能體（Agent）的比例。現(xiàn)在的公司，所有的初創(chuàng)公司都非常非常小。我們有大約300人，但我們正在構(gòu)建模型，構(gòu)建應(yīng)用程序。我們看到有些公司，如果他們純粹只是構(gòu)建人工智能應(yīng)用程序，他們的人員不到10個(gè)，但他們在運(yùn)營層面有數(shù)百個(gè)智能體（agents）幫助他們處理很多事情。所以我認(rèn)為現(xiàn)在人工智能為所有公司提供了非常高的運(yùn)營杠桿。

競爭的新維度：從資產(chǎn)到合規(guī)

主持人: 我的確認(rèn)為，這是我在達(dá)沃斯開始聽到并將貫穿全年的討論之一，那就是競爭不再是你和你的現(xiàn)有競爭對手——如果你是一個(gè)現(xiàn)有的初創(chuàng)公司或現(xiàn)有公司——而是你對抗一個(gè)從零開始、沒有任何工作流程、沒有任何遺留流程的公司，后者會(huì)說“我能做到這一點(diǎn)”。

當(dāng)然，既得利益者（現(xiàn)有公司）也不是帶著毫無資產(chǎn)的狀態(tài)來應(yīng)對的，我不認(rèn)為是這樣，但是……你能談?wù)剢?？無論誰想先說都可以，但我很好奇……顯然，任何超過一個(gè)人的公司都有人與人之間的工作流程。你如何將此轉(zhuǎn)化為一種資產(chǎn)？你如何在組織內(nèi)部使用人工智能，同時(shí)仍然認(rèn)識到必須由人類來吸收這種變化？我很好奇，是否有人能舉出自己公司的例子，說明你們是如何利用人工智能的，同時(shí)認(rèn)識到這一事實(shí)的。我不認(rèn)為這里任何一家公司的智能體數(shù)量多于員工，或者至少不是員工數(shù)量少于智能體。

皮普爾·辛哈: 類似人工智能采用的難點(diǎn)在于，我們聽說了“將你自己的AI帶到工作場所”的做法，但尤其是在美國公司，合規(guī)性和治理實(shí)際上限制了你可以向你想帶到工作中的AI輸入多少數(shù)據(jù)。因此，我們所做的就是創(chuàng)建了一個(gè)合規(guī)性基礎(chǔ)設(shè)施，說明這是一組允許引入的數(shù)據(jù)集和一組經(jīng)過認(rèn)證的模型進(jìn)行交互。

然后在此基礎(chǔ)上，我們實(shí)際上正在應(yīng)用于編碼、法律、營銷、客戶支持。因此，每個(gè)職能都在該類別內(nèi)運(yùn)行。我們在客戶群中看到的總體最大困難是，他們進(jìn)行了大量的試點(diǎn)項(xiàng)目并且喜歡這些試點(diǎn)項(xiàng)目的結(jié)果，但要從試點(diǎn)轉(zhuǎn)向生產(chǎn)，他們最大的擔(dān)憂是合規(guī)風(fēng)險(xiǎn)。然后首席風(fēng)險(xiǎn)官、首席安全官會(huì)介入并詢問：我如何確保這些代理在它們的護(hù)欄之內(nèi)？它們是否在產(chǎn)生幻覺？它們是否被國家行為者威脅所侵入？

主持人: 而且我認(rèn)為，這正是那些可能因遺留系統(tǒng)而步伐放緩但已經(jīng)了解這些情況的老牌公司，與那些通過快速編碼做出了驚人演示 but 突然想進(jìn)入一個(gè)必須滿足合規(guī)性的行業(yè)的單人初創(chuàng)公司之間產(chǎn)生張力的地方。那么反面就是，對于那些由人工智能原生驅(qū)動(dòng)的公司來說，它們可能只有八個(gè)人，但卻有800個(gè)代理，卻必須遵守一套規(guī)則和法律，這些公司面臨著哪些挑戰(zhàn)。

理查德·索克: 我們的代理數(shù)量絕對比你公司（you.com）內(nèi)部的人還要多。我認(rèn)為，對于那些希望擁抱人工智能的公司來說，最大的挑戰(zhàn)之一是他們通常還沒有形成基準(zhǔn)測試或評估集的思維定勢。我認(rèn)為這是一個(gè)巨大的鴻溝。

如果你的公司能夠確定什么是輸入，以及你將什么歸類為正確的輸出，并創(chuàng)建了一個(gè)集合，而不僅僅是，“我試過了，我試了這三件事它奏效了，或者我試了這四件事它沒奏效，所以我不想要用那個(gè)工具”。你必須把它變成一個(gè)有原則的、更具科學(xué)性的流程。如果你有那個(gè)基準(zhǔn)測試，我們喜歡與那些公司合作，因?yàn)槟菚r(shí)我們就能贏，因?yàn)槲覀儞碛凶詈玫哪Ｐ?、答案、?zhǔn)確性，還有引用等等。但是，那里絕大多數(shù)的公司還沒有考慮過如何對他們的人工智能模型和代理進(jìn)行基準(zhǔn)測試和創(chuàng)建科學(xué)的評估方法。

重塑工作流：第一性原理與信任

主持人: 珍妮絲，就你而言，你顯然是一家人工智能原生公司，因?yàn)槟闶菫榱诉@項(xiàng)使命而誕生、為這項(xiàng)使命而存在的，但同時(shí)也存在了足夠長的時(shí)間，我猜想也有一些人在其中參與其中。談?wù)勀绾慰创约汗疽约澳目蛻羧?，即這將是擁有大量員工的傳統(tǒng)公司與那些白手起家的初創(chuàng)公司相結(jié)合的局面。

雅尼斯·安特諾格魯: 也許我先從頭開始說起，回到我們之前關(guān)于在我看來什么是“人工智能優(yōu)先”的對話。而“人工智能優(yōu)先”的理念就是審視你現(xiàn)有的工作流程以及你已經(jīng)完成的事情，然后從第一性原理出發(fā)重新思考它們，要知道人工智能是存在的，并且會(huì)變得越來越好。

當(dāng)然，新的工作流程中會(huì)有“人在回路中”（human in the loop），不會(huì)僅僅是人工智能。你需要非常謹(jǐn)慎地設(shè)計(jì)和構(gòu)建系統(tǒng)，這樣你就能最大限度地利用你的員工，并確保人力勞動(dòng)實(shí)際上被用在了必要和最高效的地方。所以，至少在接下來的幾年內(nèi)，在可預(yù)見的未來，我沒有看到人類完全退出這個(gè)領(lǐng)域的世界。我認(rèn)為這將是人類和人工智能緊密合作的結(jié)合，以提高生產(chǎn)力并確保一切就位。

所以，不，現(xiàn)在從傳統(tǒng)行業(yè)的角度來看，我認(rèn)為他們對他們需要解決的問題以及他們需要解決的挑戰(zhàn)，尤其是在合規(guī)性、客戶和行業(yè)方面，擁有大量的專業(yè)知識，但他們并不完全理解人工智能。這就是為什么與擁有深度人工智能理解以及人工智能能力的像人工智能公司這樣的其他公司合作非常重要。以便能夠產(chǎn)生這種協(xié)同效應(yīng)，也就是將行業(yè)經(jīng)驗(yàn)和人工智能經(jīng)驗(yàn)結(jié)合起來，共同合作，以重新思考和重新設(shè)計(jì)工作流程，使其適應(yīng)人工智能時(shí)代。

主持人: 拉維（Ravi），你顯然在投資公司。我很好奇，從一個(gè)初創(chuàng)公司首席執(zhí)行官那里，你會(huì)如何看待他們對人工智能的依賴程度與對人員的依賴程度之間的比例？你希望聽到什么？

拉維·馬特雷: 如果我能回到一件事，我真的很想知道雅努斯（Janus）的看法，但人們提到了這一點(diǎn)，那就是今天，大型企業(yè)的商業(yè)領(lǐng)袖，他們并不是人工智能優(yōu)先的公司。他們確實(shí)如此，即使他們試圖想象獲取無限智能可以為他們的業(yè)務(wù)帶來怎樣的變革，但這種對信任和安全的需要，已經(jīng)演變成一種合規(guī)性思維模式，這實(shí)際上減緩了人工智能在他們業(yè)務(wù)中的采用和使用。

我們需要的實(shí)際上，我相信，是一套技術(shù)和一個(gè)允許人工智能安全可信的思維模式。因?yàn)樾湃危绻斯ぶ悄苤星度肓嘶谛湃蔚募夹g(shù)，那么我認(rèn)為這些更傳統(tǒng)的企業(yè)和商業(yè)領(lǐng)袖就可以采取積極參與的態(tài)度，他們會(huì)說，當(dāng)我的規(guī)模擴(kuò)大時(shí)，我知道安全性會(huì)內(nèi)在其中。因此，我就可以快速行動(dòng)，而不是考慮當(dāng)我引入這項(xiàng)新技術(shù)時(shí)，我該如何放慢速度或我為什么應(yīng)該更保守？

我只是好奇，我認(rèn)為，你暗示了目前是評估以及傳統(tǒng)企業(yè)的商業(yè)領(lǐng)袖，他們在公司內(nèi)部沒有能力或?qū)I(yè)知識來制定復(fù)雜的評估。因此，我們認(rèn)為，至少在以民主為基礎(chǔ)的人工智能社會(huì)中，采用的關(guān)鍵加速器之一，必須是將基于信任的技術(shù)在模型內(nèi)部或與模型并行的位置進(jìn)行產(chǎn)品化。我只是，約尼斯實(shí)際上正在構(gòu)建前沿級別的開源推理模型。這些公司總部位于美國，但您如何看待基于信任的技術(shù)，當(dāng)這些系統(tǒng)擴(kuò)散到世界和商業(yè)中時(shí)，這將允許它們以一種良性的方式被使用？

雅尼斯·安特諾格魯: 這確實(shí)是一個(gè)很好的問題，因?yàn)槲艺J(rèn)為這是人工智能采用中的一個(gè)主要障礙，比如，你如何建立信任，以及你如何確保你所認(rèn)為的人工智能正在做的事情，就是它實(shí)際正在做的事情。實(shí)際上，這歸結(jié)為擁有更好的技術(shù)。

就像2022年ChatGPT剛出現(xiàn)時(shí)，我認(rèn)為當(dāng)時(shí)所有的錯(cuò)誤信息泛濫，每個(gè)人都對他們在ChatGPT上看到的任何內(nèi)容持非常懷疑的態(tài)度，他們會(huì)去核實(shí)一下，而且在大多數(shù)情況下，它實(shí)際上是錯(cuò)誤的。但是，現(xiàn)在，在大多數(shù)情況下，當(dāng)你只是在ChatGPT上閱讀一些內(nèi)容時(shí)，你會(huì)相信它。你會(huì)覺得，它可能是對的，因?yàn)槟銓?shí)際上已經(jīng)核實(shí)了好幾次了。

隨著時(shí)間的推移，它實(shí)際上贏得了你的信任。你一次又一次地看到了它的正確性。隨著時(shí)間的推移，你實(shí)際上與人工智能建立起了這種信任。我認(rèn)為人工智能不是一個(gè)短期內(nèi)就能解決的問題，而是我們在不久的將來會(huì)在不同方面吸引大量關(guān)注的東西。然后我們會(huì)像這樣，開始與像人工智能系統(tǒng)這樣的事物發(fā)展信任關(guān)系。我們就會(huì)像這樣，開始信任它們。或者即使在計(jì)算機(jī)剛出現(xiàn)的時(shí)候，人們也不信任它們，但現(xiàn)在每個(gè)人都相信計(jì)算機(jī)就像會(huì)做你告訴它們要做的事情一樣。

技術(shù)基礎(chǔ)設(shè)施與可追溯性

主持人: 所以我只是想問你，在中國，情況是否有所不同？或者對于企業(yè)使用人工智能而言，這是一種相當(dāng)相似的信任觀念和對信任的需求嗎？

張予彤: 我認(rèn)為信任實(shí)際上可以通過技術(shù)來促成，而信任也是用戶的感知。當(dāng)我們第一次推出這個(gè)應(yīng)用程序時(shí)，我們連接了搜索工具，而且，我們展示了所有的引文、所有的參考資料，就是人工智能從網(wǎng)絡(luò)、從文件獲取信息的具體句子。這種互動(dòng)層面實(shí)際上有助于人們對技術(shù)產(chǎn)生更多的信任感。

而且，我認(rèn)為，某種程度上的可追溯性是另一個(gè)因素。以前人工智能就像一個(gè)黑匣子，它們給你一個(gè)復(fù)雜計(jì)算得出的數(shù)字，你不知道這個(gè)數(shù)字是從哪里來的。但現(xiàn)在通過所有的推理步驟，我們可以看到人工智能如何使用工具、收集信息，最終綜合出答案的整個(gè)軌跡。

所以我覺得這絕對非常重要。人工智能不能只是提供直接的答案，它必須把所有的思考過程、所有的工具、所有的數(shù)據(jù)來源都拆解開來。所以我想在那方面需要構(gòu)建大量的基礎(chǔ)設(shè)施，讓人們覺得，好的，他們可以信任這項(xiàng)技術(shù)，不僅是執(zhí)行，還包括很多關(guān)于如何運(yùn)營業(yè)務(wù)的決策。或者，他們真的可以讓大型語言模型（LRM）來決定很多事情。如果人們能夠定義“好”的標(biāo)準(zhǔn)是什么，匯集所有專家的意見，作為評估標(biāo)準(zhǔn)，然后我們就可以真正構(gòu)建一個(gè)由大型語言模型（LOM）驅(qū)動(dòng)的可擴(kuò)展決策系統(tǒng)。

主持人: 人們，我很好奇，像你，以及其他人可能對此有何想法，在其他人發(fā)言后請隨時(shí)加入，但是，你正在建立一家企業(yè)，以幫助其他公司，為這個(gè)人工智能世界進(jìn)行構(gòu)建。我今天很好奇，而且我預(yù)想這會(huì)發(fā)生變化，你們在多大程度上考慮幫助大型成熟企業(yè)，以及你們有多少想法轉(zhuǎn)向，我如何確保我能成為那一代幾家初創(chuàng)公司的好伙伴？今天的精力集中在哪里，你對后者考慮了多少？

皮普爾·辛哈: 對于更大的公司而言，我們正在討論的問題是信任，這也是我們關(guān)注的重點(diǎn)。我們正在幫助他們采用一種生成式工作流程。我們理解的是，許多這些組織都有文檔，其中說明了哪些是允許做的，哪些是不允許做的。但他們很難將這些轉(zhuǎn)化為一套能讓您的智能體和模型執(zhí)行的規(guī)則，因?yàn)樗鼈兪歉怕氏到y(tǒng)，而這些規(guī)則是固定的。

因此，我們正在與客戶合作的是，我們能否采用這套規(guī)則，訓(xùn)練一個(gè)模型，使其成為您智能體工作的判斷模型？這樣您就可以用另一個(gè)基于您自己規(guī)則集的LLM來判斷一個(gè)LLM，這與您剛才描述的類似。因此，您不必創(chuàng)建規(guī)則。讓神經(jīng)驅(qū)動(dòng)規(guī)則。這樣LLM就可以判斷LLM，然后您對這些結(jié)果的準(zhǔn)確性更有信心。

所以，這些是我們的客戶希望發(fā)展的方向。他們不想從事將他們的業(yè)務(wù)規(guī)則轉(zhuǎn)化為阻止代理的業(yè)務(wù)。他們希望賦能代理，但他們希望以一種讓他們擁有更高信心的方式來賦能代理。在幻覺率、第三方網(wǎng)絡(luò)攻擊和攻擊面方面更大。所以這些就是我們正在解決的問題。

人工智能吞噬軟件：未來的無形化趨勢

主持人: 所以聽起來你仍然將你的業(yè)務(wù)視為幫助大公司采用人工智能。我很好奇，也許理查德，你對這需要如何隨著時(shí)間的推移而轉(zhuǎn)變，以便初創(chuàng)公司也在思考，我如何幫助這些新一代公司？因?yàn)槲也孪?，?dāng)我們一兩年后坐在這里時(shí)，這個(gè)小組中的某個(gè)人將運(yùn)營一家估值達(dá)到十億美元或更高的公司，盡管如今這似乎不算什么。那是一家種子前初創(chuàng)公司。但是，只有少數(shù)幾個(gè)人擁有的、具有相當(dāng)可觀估值的公司，他們將是你們的一些客戶。理查德，你對此有何看法？

理查德·索克: 總的來說，當(dāng)然，每個(gè)人都喜歡規(guī)模，大客戶可以帶來規(guī)模，但大客戶的采購流程也長得多，而對于一家小型初創(chuàng)公司來說，處理這些事情很困難。所以這是一種權(quán)衡。你擁有的初創(chuàng)公司越小，你的發(fā)展速度就越快。然后你可以希望其中一些初創(chuàng)公司能夠真正實(shí)現(xiàn)規(guī)模化并持續(xù)增長。

然后說到信任，這對我們來說確實(shí)非常重要。事實(shí)上，在 2022 年，我們申請了專利，并交付了搜索引擎與大型語言模型（LM）的首次連接，這樣你實(shí)際上就有了引用。我認(rèn)為引用現(xiàn)在顯然已經(jīng)無處不在了，它們是隨著時(shí)間的推移建立信任的一種方式。這又回到了授權(quán)能力，做好授權(quán)的一部分是知道何時(shí)信任，何時(shí)需要“信任但要驗(yàn)證”，然后隨著時(shí)間的推移來建立這種能力。

主持人: 但總的來說，我的直覺是，20 年后最大的公司將是那些現(xiàn)在起步并且是人工智能原生的公司。Yutong，你一開始提到，你們的一些客戶實(shí)際上是個(gè)人，他們引入你的聊天機(jī)器人來幫助他們更好地完成工作，無論他們的雇主是否是人工智能優(yōu)先型。你如何看待當(dāng)今聊天機(jī)器人的客戶是誰，以及未來客戶的構(gòu)成？

張予彤: 是的。所以我認(rèn)為一個(gè)非常重要的變化是，我沒有看到軟件會(huì)消失，但我認(rèn)為軟件將變得無形。所以我想現(xiàn)在的情況是，如果我們想創(chuàng)建一個(gè)Word文檔，或者我們需要記住所有用于Excel的公式，或者，創(chuàng)建一個(gè)非常漂亮、易于展示的PowerPoint幻燈片，人們直接使用圖形用戶界面（GUI），點(diǎn)擊數(shù)百個(gè)按鈕，記住所有的公式。

但我認(rèn)為在未來，人類肯定將只使用自然語言，通過智能代理來獲取所有工具和所有軟件的所有能力。我認(rèn)為人工智能可以幫助我們使用、訪問所有軟件。我認(rèn)為這就是它將如何改變許多公司的工作方式。人們可以利用人工智能作為一種超能力來幫助他們的工作。

主持人: 有人本周說，我很抱歉，我在盜用別人的智慧，但最近有一個(gè)著名的說法，即軟件正在吞噬世界，而人工智能正在吞噬軟件。這是你的看法嗎？

張予彤: 我只是認(rèn)為這更像是用戶界面和用戶體驗(yàn)的轉(zhuǎn)變，因?yàn)槲覀円蕾囉诖罅康狞c(diǎn)擊和按鍵對于先前的交互，但我認(rèn)為未來的交互將更加自然，只要人們能夠描述他們的意圖，他們就知道如何使用人工智能，然后人工智能可以幫助他們獲取現(xiàn)有軟件提供的所有功能，如果沒有現(xiàn)有的軟件，人工智能可以利用其編碼能力來編寫個(gè)性化的工具或軟件來幫助交付最終結(jié)果。我認(rèn)為這絕對是不同之處所在。

拉維·馬特雷: 我百分之百同意你的看法，湯。這部分與一個(gè)事實(shí)相關(guān)，即人們沒有意識到人工智能或智能能力的提升確實(shí)是呈指數(shù)級曲線的。在去年，平均而言，推理的每令牌成本平均下降了100倍。在許多用例中，下降了1000倍。因此，當(dāng)這種情況發(fā)生時(shí)，僅僅是智能就能夠基本上使軟件變得可消耗。

即它可以像在四海岸案例中那樣，以魯棒性的方式進(jìn)行“氛圍編碼”（vibe-coded），并且它大部分時(shí)間都是生產(chǎn)就緒的。僅僅是，有人可以想象任何你想通過軟件自動(dòng)化的任務(wù)，并利用智能來實(shí)現(xiàn)它。如果我們正處于這樣一個(gè)指數(shù)曲線上，即智能在給定成本和參數(shù)下可以展現(xiàn)出多大的能力，我認(rèn)為你將看到軟件變得無形，而智能將成為人們表達(dá)他們希望后臺自動(dòng)化完成任務(wù)的新型“語言”，它將是一種持續(xù)的流動(dòng)。

主持人: 如果我們把這作為假設(shè)，有人想挑戰(zhàn)我們正朝著這個(gè)方向發(fā)展的假設(shè)嗎？

理查德·索克: 我的直覺是，將會(huì)有一些軟件，你真的希望它做得非常好，而且它是一個(gè)非常常見的用例，比如Instagram或類似的東西，你可以自己搭建一個(gè)Instagram，但你沒有其背后的網(wǎng)絡(luò)支持，你沒有用戶貢獻(xiàn)他們的內(nèi)容和相關(guān)東西。但我同意，比如，尤其是在企業(yè)環(huán)境中，如果你巧妙地做到這一點(diǎn)，并且擁有所有復(fù)雜的權(quán)限設(shè)置和報(bào)告等等，如果你能實(shí)現(xiàn)自動(dòng)化，然后在其上進(jìn)行創(chuàng)新，那將會(huì)非常強(qiáng)大。

拉維·馬特雷: 我認(rèn)為這將擴(kuò)展應(yīng)用場景，擴(kuò)展到那些原本軟件不會(huì)被構(gòu)建、并且存在更多手動(dòng)流程和工作流的地方。那很可能會(huì)消失。而且，再說一次，由于這種變化的速度是……我認(rèn)為智能能力的指數(shù)級提升，將令人們感到驚訝。但我同意你的看法，在用戶數(shù)量非常多、因此設(shè)計(jì)的美觀度和完成度以及某些魯棒性方面需要仔細(xì)考量的應(yīng)用場景中，這在更長一段時(shí)間內(nèi)，或許最終在極限情況下，也可以被自動(dòng)化。這將是利用人工智能來增強(qiáng)工作流程的工程人員，但也需要進(jìn)行一些設(shè)計(jì)工作。

智能體編排與遞歸自我改進(jìn)

主持人: 如果我們把這視為我們前進(jìn)的方向，那么從實(shí)現(xiàn)方式上我們遺漏了什么？例如，我認(rèn)為我們低估了人工智能的一點(diǎn)是，人類適應(yīng)它的速度會(huì)有多快。如果我們假設(shè)起點(diǎn)是我們將處于一個(gè)企業(yè)將創(chuàng)建這些只需完成必要工作而無需創(chuàng)建另一款軟件的層級的世界，我們可能遺漏了什么？在我們?nèi)偾斑M(jìn)之前，我們還必須關(guān)注什么？我們要做什么，還有哪些工作需要完成？

皮普爾·辛哈: 在我看來，智能體編排是一個(gè)將非常重要的領(lǐng)域。因?yàn)槿绻阆胂胛覀冊谶^去15到20年里為實(shí)現(xiàn)數(shù)字化轉(zhuǎn)型而構(gòu)建的所有企業(yè)自動(dòng)化軟件，這個(gè)新的智能體編排層將利用這些軟件。只是人類將不會(huì)參與這個(gè)過程。隨著時(shí)間的推移，它會(huì)越來越深入，使工作流引擎徹底變得毫無用處。

所以最終你將擁有數(shù)據(jù)結(jié)構(gòu)，然后你將擁有智能體編排。因此，尚未被充分理解或尚未受到關(guān)注的是這個(gè)智能體編排層，它接收你的輸入，即你想要完成什么，然后如何創(chuàng)建和編排這些智能體？在我看來，如果你快進(jìn)10年、15年，你將擁有數(shù)據(jù)、一個(gè)智能體編排器，它可以為你創(chuàng)建你需要的任何類型的工作流，無論你是想接受客戶的業(yè)務(wù)訂單，還是想為你的客戶或潛在客戶運(yùn)行營銷活動(dòng)，或者你想支持你的客戶。它將為你動(dòng)態(tài)生成該工作流，運(yùn)行該工作流，創(chuàng)建結(jié)果，給你最終結(jié)果，并告訴你發(fā)生了什么。但這一個(gè)過程是一個(gè)編排過程。

理查德·索克: 我會(huì)說可能有兩件事。一是，現(xiàn)在，人工智能正在越來越多地從最初為人類構(gòu)建的基礎(chǔ)設(shè)施中轉(zhuǎn)移出來，而現(xiàn)在人工智能開始越來越多地使用它。我們已經(jīng)看到了這一點(diǎn)，比如圖形處理器（GPU），最初是供人們玩游戲使用的，而我們正在訓(xùn)練它們?，F(xiàn)在我們正在構(gòu)建專為人工智能設(shè)計(jì)的全新硬件。我們認(rèn)為這是您向上堆棧移動(dòng)的過程。就像以前許多人工智能模型使用谷歌作為其搜索引擎或搜索結(jié)果頁面（SERP）API等一樣?，F(xiàn)在它們實(shí)際上正在轉(zhuǎn)型，我們正在構(gòu)建一個(gè)實(shí)際的搜索引擎，專門用于大型語言模型（LM），供它們進(jìn)行搜索并總結(jié)所有內(nèi)容。

我認(rèn)為我們大大忽略和沒有考慮的另一件事是下一層次可能是什么。我從歷史上可以想象的方式是，想象一下IBM的“沃森”團(tuán)隊(duì)剛剛贏得《危險(xiǎn)邊緣》（Jeopardy）時(shí)的情景。每個(gè)人都在互相擊掌慶祝，你會(huì)說，辛苦了負(fù)責(zé)地理問題的團(tuán)隊(duì)，辛苦了負(fù)責(zé)音樂問題和名人問題等的團(tuán)隊(duì)。但順便說一句，你們800人將成為一個(gè)單一的神經(jīng)網(wǎng)絡(luò)，因?yàn)槲覀儸F(xiàn)在可以學(xué)習(xí)所有這些知識，并用一個(gè)學(xué)習(xí)到的系統(tǒng)取代一個(gè)手動(dòng)系統(tǒng)。

目前，構(gòu)建模型的系統(tǒng)實(shí)際上是手動(dòng)完成的。那些非常聰明的人，有時(shí)你需要花5000萬美元請他們，他們正在手動(dòng)構(gòu)建關(guān)于如何在新模型創(chuàng)建時(shí)奏效的直覺，然后合并一個(gè)新模型需要數(shù)月時(shí)間，接著你就得到了GPD 5.3或類似的東西。這部分本身也可以實(shí)現(xiàn)自動(dòng)化，那將是一種遞歸的自我改進(jìn)。這些模型會(huì)自行變得更好。

主持人: 完全正確。珍妮絲，你認(rèn)為哪些事情因?yàn)槲覀兡壳安皇茿I原生而尚不是問題，但當(dāng)我們成為AI原生時(shí)，會(huì)成為問題或挑戰(zhàn)？

雅尼斯·安特諾格魯: 實(shí)際上，我只是想回到智能體注冊（agent-registration）這個(gè)問題上。我認(rèn)為這不只是一個(gè)智能體注冊的問題，而更多是多智能體（multi-agent）的問題。當(dāng)你有一個(gè)系統(tǒng)，其中既有人類也有許多智能體彼此互動(dòng)時(shí)，以及這些系統(tǒng)的動(dòng)態(tài)特性是什么。這不是一個(gè)被充分理解的系統(tǒng)。我們對此幾乎沒有任何科學(xué)依據(jù)。我們不知道如何優(yōu)化這些模型，使其在多智能體系統(tǒng)中運(yùn)行得更好。這方面有一些初步的研究，但還不夠成熟。我認(rèn)為，隨著像代理（agent）和擁有許多代理相互作用的系統(tǒng)的激增，這將成為一個(gè)更緊迫的問題。

明年的常識：長效代理與強(qiáng)化學(xué)習(xí)

主持人: 那么最后一個(gè)問題，對你們每個(gè)人來說，有什么是今天聽起來有點(diǎn)激進(jìn)，但你們認(rèn)為到今年年底就會(huì)顯而易見的？到明年達(dá)沃斯會(huì)議時(shí)，這聽起來像是今天很棒的預(yù)測，但你認(rèn)為到我們明年再次會(huì)面時(shí)，它將成為常識性的智慧。

張予彤: 人工智能將創(chuàng)造出最好的人工智能，而不是人類。我認(rèn)為這是一個(gè)非常長的代理期。我認(rèn)為在擁有一個(gè)可用、可擴(kuò)展的人工智能系統(tǒng)之前，人工智能需要擁有像人類一樣非常長的代理期。比如，我正和我的團(tuán)隊(duì)一起工作。我們每周都有一次會(huì)議，我們設(shè)定目標(biāo)，討論大概的任務(wù)，然后他們就自己獨(dú)立去自主工作，然后我們可以下周再見面看看結(jié)果。所以我認(rèn)為非常長的代理期可能會(huì)實(shí)現(xiàn)。

拉維·馬特雷: 還有其他想法嗎？我想我們將首先看到的是關(guān)于，智能能力的前沿，即某種更持續(xù)學(xué)習(xí)的能力。它可能不完美，但模型能夠根據(jù)它們與環(huán)境的交互方式進(jìn)行調(diào)整，然后對其核心知識進(jìn)行某種更新。

皮普爾·辛哈: 對于企業(yè)而言，強(qiáng)化學(xué)習(xí)目前沒有被正確理解。許多企業(yè)的挑戰(zhàn)在于沒有通用的員工。每個(gè)人都為企業(yè)執(zhí)行特定的任務(wù)，這就是為該企業(yè)定義的業(yè)務(wù)流程。尚未被充分理解的是，強(qiáng)化學(xué)習(xí)將如何獲取企業(yè)的特定工作流程并進(jìn)行強(qiáng)化學(xué)習(xí)，以使通用模型適用于企業(yè)，而我們將在明年看到這是重大進(jìn)展。今天有點(diǎn)理論化，但這將加速人工智能在企業(yè)中的采用。

雅尼斯·安特諾格魯: 我想我同意你的觀點(diǎn)，真正的長效代理（或長期能動(dòng)性）將成為常態(tài)。

主持人: 我希望明年我們有機(jī)會(huì)討論所有這些內(nèi)容。我相信那將是變革巨大的一年。非常感謝亞尼斯、比波爾、理查德、予彤和拉維，進(jìn)行了一次精彩的討論。