隨著大模型技術(shù)的持續(xù)演進(jìn)，人工智能的發(fā)展正在經(jīng)歷一次深刻的范式遷移。具體表現(xiàn)在，AI不再滿足于執(zhí)行簡(jiǎn)單的生成任務(wù)，而是開(kāi)始邁向具備推理和自主決策能力的智能體（Agentic AI）時(shí)代。而智能體作為下一代AI應(yīng)用的核心形態(tài)，預(yù)示著人工智能將從“快思考”的實(shí)驗(yàn)性工具，轉(zhuǎn)變?yōu)樯疃惹度肷虡I(yè)流程、具備可衡量?jī)r(jià)值的核心生產(chǎn)力。正如日前舉行的2025人工智能計(jì)算大會(huì)（AICC2025）所揭示的主題，產(chǎn)業(yè)界已將焦點(diǎn)投向如何筑牢“人工智能+”高質(zhì)量發(fā)展底座。

智能體大勢(shì)所趨，商業(yè)化落地面臨速度、成本等瓶頸

智能體AI的興起并非偶然，而是AI發(fā)展邏輯的必然延伸。傳統(tǒng)AI多局限于被動(dòng)響應(yīng)，如聊天機(jī)器人或圖像識(shí)別，而智能體則具備自主規(guī)劃、工具調(diào)用和多步推理能力，能夠在復(fù)雜環(huán)境中執(zhí)行任務(wù)，其獨(dú)特價(jià)值在于“機(jī)-機(jī)交互”，即不同智能體之間的高頻協(xié)作。而這得益于大模型的Scaling Law從預(yù)訓(xùn)練向推理階段的遷移，模型參數(shù)量已達(dá)萬(wàn)億級(jí)，支持“慢思考”式的鏈?zhǔn)酵评恚–hain-of-Thought），從而可以處理更貼近人類決策的場(chǎng)景。

根據(jù)麥肯錫《Empowering advanced industries with agentic AI》的分析，2025年，智能體將驅(qū)動(dòng)企業(yè)決策自動(dòng)化，預(yù)計(jì)到2030年，其在全球AI市場(chǎng)占比將超30%。而在中國(guó)，這一趨勢(shì)尤為明顯，特別是以DeepSeek為代表的開(kāi)源模型極大的降低了創(chuàng)新門檻，加速智能體產(chǎn)業(yè)化的到來(lái)。

然而，趨勢(shì)背后是現(xiàn)實(shí)挑戰(zhàn)。智能體并非實(shí)驗(yàn)室里的演示性產(chǎn)品，而是需要真正嵌入業(yè)務(wù)流程的核心生產(chǎn)力。Gartner預(yù)測(cè)，到2027年底，超過(guò)40%的智能體項(xiàng)目將被迫終止，主要原因是成本失控、價(jià)值不明和風(fēng)險(xiǎn)難控等。

例如在金融風(fēng)控領(lǐng)域，銀行部署的智能體可實(shí)時(shí)檢測(cè)交易異常，若響應(yīng)時(shí)間能控制在幾十毫秒內(nèi)，就可能在資金被轉(zhuǎn)移前鎖定風(fēng)險(xiǎn)賬戶；在醫(yī)療場(chǎng)景中，多個(gè)智能體協(xié)作完成病歷解析、影像識(shí)別與診斷推薦，效率提升意味著患者可在就診當(dāng)場(chǎng)得到智能輔助診斷；在電力系統(tǒng)中，調(diào)度智能體必須在毫秒級(jí)完成負(fù)荷預(yù)測(cè)與電網(wǎng)切換，否則可能影響電力安全。這些場(chǎng)景無(wú)一例外要求極低延遲和高可靠性。

由此可見(jiàn)，智能體若真正進(jìn)入上述類似的關(guān)鍵行業(yè)，能力、速度和成本將是目前最大的瓶頸。

以能力為例，在后訓(xùn)練階段更多的算力投入，能顯著提升模型的推理能力，而以推理能力為代表的復(fù)雜思維的涌現(xiàn)，是構(gòu)建智能體應(yīng)用的基礎(chǔ)。

至于速度，則是智能體實(shí)現(xiàn)商業(yè)價(jià)值的首要制約因素。不同于“人-機(jī)交互”的低頻對(duì)話，智能體時(shí)代的核心是“智能體-智能體”的高頻協(xié)作，毫秒級(jí)響應(yīng)已成為剛需。

但事實(shí)是，全球典型的大模型API服務(wù)商的每Token生成速度，基本維持在10-20毫秒，而國(guó)內(nèi)廠商的生成速度普遍高于30毫秒。不僅如此，延遲累加效應(yīng)更甚，尤其在多智能體網(wǎng)絡(luò)中，每個(gè)環(huán)節(jié)的毫秒級(jí)延遲將指數(shù)級(jí)放大整體響應(yīng)時(shí)間，進(jìn)而摧壞用戶的體驗(yàn)和商業(yè)競(jìng)爭(zhēng)力。

最后是成本，尤其是單Token成本，是影響智能體能否實(shí)現(xiàn)規(guī)?；涞氐淖铌P(guān)鍵經(jīng)濟(jì)因素。

眾所周知，隨著智能體在企業(yè)級(jí)應(yīng)用中的深度普及，Token消耗量已出現(xiàn)爆炸式增長(zhǎng)，平均每月Token消耗相比一年前增加約50倍，達(dá)到千萬(wàn)到億級(jí)規(guī)模；單個(gè)智能體每月的Token成本動(dòng)輒上千美元，而未來(lái)五年Token消耗量或呈現(xiàn)指數(shù)級(jí)增長(zhǎng)，若推理成本不下降，智能體規(guī)?；渴饘㈦y以維系。

正如浪潮信息首席AI戰(zhàn)略官劉軍所強(qiáng)調(diào)：“到了智能體時(shí)代，每個(gè)智能體不像人一樣接收速度有限，延遲問(wèn)題會(huì)變得越來(lái)越突出，所以智能體商業(yè)化就是‘快殺慢’，如果延遲不夠低，商業(yè)應(yīng)用和競(jìng)爭(zhēng)幾乎無(wú)從談起；反之，速度越快，商業(yè)場(chǎng)景就越豐富”。

技術(shù)創(chuàng)新破局 從模型轉(zhuǎn)至AI計(jì)算架構(gòu)系統(tǒng)性優(yōu)化

正是基于上述挑戰(zhàn)，產(chǎn)業(yè)界的破局之道正在從模型層優(yōu)化轉(zhuǎn)向AI計(jì)算架構(gòu)的系統(tǒng)性創(chuàng)新。

從全球看，科技巨頭們都在沿著相似的路徑探索。例如，英偉達(dá)通過(guò)其Blackwell架構(gòu)和第五代NVLink技術(shù)，持續(xù)優(yōu)化多GPU間的通信效率，旨在降低大模型推理的延遲；而谷歌、AWS等云服務(wù)商則通過(guò)自研的TPU、Inferentia等專用AI芯片，從硬件層面為推理任務(wù)提供更高性價(jià)比的算力解決方案。這些均證明，通用算力的“蠻力”時(shí)代正在過(guò)去，精細(xì)化、專用化的架構(gòu)設(shè)計(jì)成為破局關(guān)鍵。

具體到國(guó)內(nèi)，以浪潮信息為代表的廠商則走在了前列。例如其發(fā)布的元腦SD200超節(jié)點(diǎn)AI服務(wù)器（以下簡(jiǎn)稱元腦SD200）率先將國(guó)內(nèi)大模型的Token生成速度壓縮到8.9毫秒，進(jìn)入“10毫秒時(shí)代”。而這一成績(jī)得益于其多主機(jī)低延遲內(nèi)存語(yǔ)義通信架構(gòu)與極簡(jiǎn)協(xié)議棧的設(shè)計(jì)。簡(jiǎn)而言之，它通過(guò)64路本土AI芯片的高速互連，配合僅三層的協(xié)議棧，避免冗余拷貝，將基礎(chǔ)通信延遲降到百納秒級(jí)。

對(duì)此，劉軍形象地將其比作高速公路：“智能體之間的交互往往是小數(shù)據(jù)包，關(guān)鍵不在高速路有多寬，而在上高速和下高速是否順暢，浪潮信息的做法就是讓數(shù)據(jù)直通上下高速，把延遲壓到極致?！本唧w到元腦SD200，則是通過(guò)對(duì)通信架構(gòu)的創(chuàng)新，打破了硬件堆砌帶來(lái)的性能上限，從系統(tǒng)層面為智能體的高頻、高并發(fā)交互提供了“高速公路”。

相關(guān)實(shí)測(cè)顯示，該架構(gòu)在DeepSeek R1 671B模型下，可實(shí)現(xiàn)16.3倍超線性擴(kuò)展率，支持單機(jī)4萬(wàn)億參數(shù)模型或多智能體協(xié)作，適用于具身智能的實(shí)時(shí)任務(wù)。

在《班門弄斧》看來(lái)，這一速度突破的意義在于，讓許多原本智能體不可行的場(chǎng)景成為可能。比如在證券市場(chǎng)，智能體可在毫秒內(nèi)完成多維度數(shù)據(jù)分析并觸發(fā)風(fēng)控指令；在制造流水線上，智能體能實(shí)時(shí)監(jiān)測(cè)傳感器數(shù)據(jù)并反饋給機(jī)器人，毫秒級(jí)響應(yīng)可避免工序誤差帶來(lái)的巨大損失。而AICC 2025上不少專家也都提到，低延遲不僅是用戶體驗(yàn)問(wèn)題，更是產(chǎn)業(yè)落地的底層要求。

如果說(shuō)元腦SD200突破了速度瓶頸，那么浪潮信息的另一款元腦HC1000超擴(kuò)展AI服務(wù)器（以下簡(jiǎn)稱元腦HC1000）則直指成本難題，且實(shí)現(xiàn)了每百萬(wàn)Token成本首次擊破1元人民幣。

究其原因，關(guān)鍵在于其采用了全對(duì)稱DirectCom架構(gòu)，通過(guò)極簡(jiǎn)化和拆解式設(shè)計(jì)，讓計(jì)算與通信充分解耦，并實(shí)現(xiàn)了大規(guī)模無(wú)損擴(kuò)展。具體來(lái)說(shuō)，它通過(guò)16卡模組的創(chuàng)新，將單卡成本壓縮60%以上，并在算網(wǎng)協(xié)同下，讓單卡利用率最高提升5.7倍。

對(duì)此，劉軍進(jìn)一步解釋了技術(shù)聚焦的關(guān)鍵點(diǎn)，例如聚焦解碼端效率，即成本測(cè)算重點(diǎn)關(guān)注解碼階段，因?yàn)榇蠹叶贾澜獯a會(huì)比預(yù)填充階段實(shí)際上要貴很多，而元腦HC1000的架構(gòu)正是針對(duì)這一高負(fù)載特性進(jìn)行優(yōu)化，確保在關(guān)鍵的Token生成環(huán)節(jié)達(dá)到最高效率，而這對(duì)于內(nèi)容生成、在線教育等高并發(fā)消費(fèi)場(chǎng)景意義重大。

從《班門弄斧》的角度，上述浪潮信息兩款產(chǎn)品背后的技術(shù)路徑，無(wú)疑展現(xiàn)了行業(yè)在技術(shù)層面應(yīng)對(duì)智能體挑戰(zhàn)的思路，即通過(guò)專用化、系統(tǒng)化的計(jì)算架構(gòu)創(chuàng)新，實(shí)現(xiàn)速度與成本的同步優(yōu)化，將智能體的商業(yè)價(jià)值從理論推向?qū)嶋H可盈利的規(guī)?；渴穑纱?，AI的未來(lái)也不會(huì)是一刀切的通用算力架構(gòu)，而是因行業(yè)而異的精細(xì)化、場(chǎng)景化設(shè)計(jì)。

需要說(shuō)明的是，上述這種思路，與AICC 2025上提出的“應(yīng)用牽引”理念可謂不謀而合，得到了業(yè)內(nèi)的廣泛認(rèn)可。

惟AI計(jì)算架構(gòu)創(chuàng)新共識(shí)，方能加速智能體商業(yè)化

展望未來(lái)，智能體商業(yè)化落地的突破口在于AI計(jì)算架構(gòu)的創(chuàng)新共識(shí)，并對(duì)AI計(jì)算基礎(chǔ)設(shè)施提出了前所未有的要求。

當(dāng)前，GPGPU主導(dǎo)的通用架構(gòu)面臨多重挑戰(zhàn)，具體表現(xiàn)在系統(tǒng)擴(kuò)展逼近工程極限（百萬(wàn)億參數(shù)需求指數(shù)增長(zhǎng)）、電力基礎(chǔ)設(shè)施壓力（GW級(jí)智算中心耗電堪比小國(guó)）、投入產(chǎn)出失衡（商業(yè)兌現(xiàn)不如預(yù)期）。正如IBM在最新報(bào)告《AIAgents in 2025: Expectations vs. Reality》所言，2025年智能體雖然是主導(dǎo)敘事，但要真正實(shí)現(xiàn)價(jià)值，必須依賴架構(gòu)層面的革新。

為此，劉軍在采訪中坦言：“依賴當(dāng)前的通用架構(gòu)，根本跟不上Token需求的海量增長(zhǎng)，未來(lái)一定會(huì)走向?qū)Ｓ没退惴ㄓ布??！?/p>

這種趨勢(shì)在AICC 2025的多個(gè)議題上均得到了呼應(yīng)。例如清微智能聯(lián)合多方成立“可重構(gòu)算力軟硬件協(xié)同創(chuàng)新中心”，探索更契合推理需求的專用架構(gòu)；智源研究院推動(dòng)的FlagOS，則試圖打破芯片和算力的碎片化壁壘，為產(chǎn)業(yè)提供統(tǒng)一的軟件底座。

而具體到專用化和算法硬件化，業(yè)內(nèi)知道，GPU最初為圖形渲染設(shè)計(jì)，如今被“挪用”到AI計(jì)算，已經(jīng)暴露出能效與成本上的局限，通用矩陣計(jì)算芯片同樣如此。而隨著智能體推理進(jìn)入高頻交互，算力需求的集中化和爆炸式增長(zhǎng)，產(chǎn)業(yè)必須從通用轉(zhuǎn)向?qū)Ｓ谩＿@意味著，未來(lái)的AI芯片和系統(tǒng)架構(gòu)將針對(duì)大模型推理的核心算子進(jìn)行硬件化和電路級(jí)優(yōu)化，就像分子動(dòng)力學(xué)領(lǐng)域的專用芯片Anton那樣，實(shí)現(xiàn)數(shù)量級(jí)的性能提升。

不過(guò)需要注意的是，向?qū)Ｓ没軜?gòu)的轉(zhuǎn)型也伴隨著新的挑戰(zhàn)。例如業(yè)界需要警惕過(guò)度“碎片化”帶來(lái)的生態(tài)壁壘，避免不同技術(shù)路線之間難以兼容，增加開(kāi)發(fā)和遷移成本。此外，如何在專用硬件的高效率與通用GPU（如英偉達(dá)CUDA）的廣泛生態(tài)和靈活性之間取得平衡，將是未來(lái)所有廠商需要共同面對(duì)的課題。

與此同時(shí)，生態(tài)協(xié)同不可或缺，最典型的例子就是上述浪潮信息的路徑和產(chǎn)品，其速度和成本的突破并非單一廠商獨(dú)立完成，而是產(chǎn)業(yè)鏈上下游共同創(chuàng)新的結(jié)果?！拔覀兡茏龅?.9毫秒的速度，是芯片伙伴、軟件伙伴和研究機(jī)構(gòu)等共同努力的成果?！眲④娫诓稍L中強(qiáng)調(diào)。所以，智能體的未來(lái)，決定于產(chǎn)業(yè)鏈上下游是否能形成更緊密的合作。

更關(guān)鍵的是，產(chǎn)業(yè)必須從“規(guī)模導(dǎo)向”轉(zhuǎn)向“效率導(dǎo)向”。Scaling Law曾推動(dòng)模型能力快速進(jìn)化，但當(dāng)參數(shù)量膨脹至萬(wàn)億級(jí)，算力、電力與成本矛盾已不可回避。所以未來(lái)的核心不是一味追求算力規(guī)模，而是如何在同樣的能耗與算力條件下輸出更多Token，以支撐更復(fù)雜、更實(shí)時(shí)的智能體應(yīng)用。

寫在最后：未來(lái)已來(lái)，智能體是人工智能發(fā)展的必然趨勢(shì)，它將重塑商業(yè)流程和生產(chǎn)模式，但產(chǎn)業(yè)化落地仍然面臨能力、速度和成本等的挑戰(zhàn)也是不爭(zhēng)的事實(shí)。

可喜的是，AICC 2025展示了產(chǎn)業(yè)鏈上下游在政策、技術(shù)、生態(tài)上的共同努力。從《北京方案》到FlagOS，從算力補(bǔ)貼政策到可重構(gòu)創(chuàng)新中心，業(yè)界正在為智能體的落地提供保障。而浪潮信息的元腦SD200與HC1000，以8.9毫秒的生成速度和低于1元的每百萬(wàn)Token成本更是給出了可供借鑒的技術(shù)路徑，證明了AI計(jì)算架構(gòu)必須因場(chǎng)景而異，走向?qū)Ｓ没?、協(xié)同化與效率導(dǎo)向，才能讓智能體真正融入金融、醫(yī)療、能源、教育、制造等千行百業(yè)，成為推動(dòng)新質(zhì)生產(chǎn)力的核心引擎。