12月20日，在2023百度云智大會(huì)·智算大會(huì)上，百度一口氣發(fā)布了AI異構(gòu)計(jì)算平臺(tái)“百舸3.0”、智算網(wǎng)絡(luò)平臺(tái)、自研云原生數(shù)據(jù)庫(kù)GaiaDB 4.0等新產(chǎn)品。

其中，百舸3.0針對(duì)AI原生應(yīng)用以及大模型的訓(xùn)練、推理等環(huán)節(jié)進(jìn)行了全面的專(zhuān)項(xiàng)優(yōu)化升級(jí)。支持萬(wàn)卡級(jí)別超大規(guī)模AI集群計(jì)算；相比自建智算基礎(chǔ)設(shè)施可以實(shí)現(xiàn)模型訓(xùn)、推吞吐分別最高提升30%和60%；在資源利用方面，能夠?qū)崿F(xiàn)98%的超高集群有效訓(xùn)練時(shí)間占比，95%的網(wǎng)絡(luò)帶寬有效利用率，充分釋放集群有效算力。

智算網(wǎng)絡(luò)平臺(tái)針對(duì)AI原生時(shí)代智能算力的供給平衡問(wèn)題，支持將百度及第三方建設(shè)的智算中心、超算中心、邊緣節(jié)點(diǎn)等智算節(jié)點(diǎn)進(jìn)行全域接入，將分散和異構(gòu)的算力資源連接起來(lái)，形成統(tǒng)一的算力網(wǎng)絡(luò)資源池，再通過(guò)百度自主研發(fā)的先進(jìn)算力調(diào)度算法，智能分析各類(lèi)算力資源的狀態(tài)、性能和利用率等指標(biāo)進(jìn)行統(tǒng)一調(diào)度，能夠有效提升智算產(chǎn)業(yè)資源利用率。

云原生數(shù)據(jù)庫(kù)GaiaDB 4.0增強(qiáng)了并行查詢(xún)能力，突破單機(jī)計(jì)算瓶頸，實(shí)現(xiàn)跨機(jī)多核并行查詢(xún)，在混合負(fù)載和實(shí)時(shí)分析業(yè)務(wù)場(chǎng)景中性能提升超過(guò)10倍。

百度集團(tuán)副總裁侯震宇強(qiáng)調(diào)，AI原生時(shí)代，面向大模型的基礎(chǔ)設(shè)施體系需要全面重構(gòu)，為構(gòu)建繁榮的AI原生生態(tài)筑牢底座。

侯震宇表示：“大模型重構(gòu)云計(jì)算主要體現(xiàn)在三個(gè)層面：AI原生云將改變?cè)朴?jì)算的格局，MaaS ( Model as a Service ，模型即服務(wù)）會(huì)成為新的基礎(chǔ)服務(wù)，AI原生應(yīng)用催生新的研發(fā)范式?！?/p>

1、在算力層，計(jì)算更智能

在底層的云基礎(chǔ)設(shè)施層，以往從互聯(lián)網(wǎng)應(yīng)用到移動(dòng)互聯(lián)網(wǎng)應(yīng)用，底層都基于CPU計(jì)算芯片，而AI應(yīng)用對(duì)GPU或異構(gòu)計(jì)算的需求大幅增加，云市場(chǎng)的底層算力開(kāi)始遷移到以GPU為主。

2023年第三季度，英偉達(dá)的營(yíng)收已經(jīng)超過(guò)英特爾，英偉達(dá)最新市值也超過(guò)英特爾1萬(wàn)億美元，未來(lái)GPU的增長(zhǎng)將遠(yuǎn)大于CPU。在這一趨勢(shì)下，我們需要對(duì)面向大模型的云計(jì)算基礎(chǔ)設(shè)施體系進(jìn)行全面重構(gòu)，以支撐AI原生應(yīng)用系統(tǒng)落地。

具體來(lái)說(shuō)，云計(jì)算的全面重構(gòu)會(huì)表現(xiàn)在三大領(lǐng)域，即：面向模型的智算基礎(chǔ)設(shè)施、面向數(shù)據(jù)的數(shù)據(jù)基礎(chǔ)設(shè)施、面向應(yīng)用的云基礎(chǔ)設(shè)施全面升級(jí)，讓計(jì)算更智能。

2、在模型層，大模型正在成為通用的服務(wù)能力，即MaaS

MaaS將大幅降低Al落地的門(mén)檻、實(shí)現(xiàn)真正的Al普惠，其依賴(lài)的新型IT基礎(chǔ)設(shè)施也將進(jìn)一步在底層顛覆現(xiàn)有的云計(jì)算市場(chǎng)格局。

從百度智能云的實(shí)踐來(lái)看，自8月31日文心一言全面開(kāi)放后至今的4個(gè)月，百度智能云千帆大模型平臺(tái)（百度智能云推出的MaaS平臺(tái)）上，API日調(diào)用量增長(zhǎng)10倍，客戶(hù)主要來(lái)自互聯(lián)網(wǎng)、教育、電商、營(yíng)銷(xiāo)、手機(jī)、汽車(chē)等各行業(yè)。可以明顯看到，最近半年，已經(jīng)有很多企業(yè)真正把大模型用起來(lái)了。

3、在應(yīng)用層，應(yīng)用開(kāi)發(fā)的范式已經(jīng)被徹底顛覆

大模型理解、生成、邏輯、記憶的獨(dú)特能力會(huì)催生A原生應(yīng)用研發(fā)新范式，整個(gè)應(yīng)用技術(shù)棧、數(shù)據(jù)流和業(yè)務(wù)流都將被改變。

原先基于CPU的應(yīng)用開(kāi)發(fā)主要是業(yè)務(wù)邏輯驅(qū)動(dòng)，傳統(tǒng)的AI研發(fā)需要針對(duì)每一個(gè)獨(dú)立場(chǎng)景獲取數(shù)據(jù)，再分別從頭訓(xùn)練模型。而現(xiàn)在AI原生應(yīng)用主要基于大模型能力，以數(shù)據(jù)驅(qū)動(dòng)開(kāi)發(fā)。企業(yè)可直接在基礎(chǔ)大模型之上，利用場(chǎng)景數(shù)據(jù)微調(diào)出專(zhuān)屬大模型，再用模型能力設(shè)計(jì)AI原生應(yīng)用，無(wú)需從頭訓(xùn)練大模型。隨著企業(yè)業(yè)務(wù)擴(kuò)大，逐漸積累出更多有競(jìng)爭(zhēng)力的場(chǎng)景數(shù)據(jù)，進(jìn)而反哺模型和應(yīng)用效果提升，從而形成數(shù)據(jù)飛輪。

具體來(lái)說(shuō)，大模型驅(qū)動(dòng)的AI原生應(yīng)用研發(fā)新范式展現(xiàn)出幾個(gè)新變化：

首先是“新場(chǎng)景”。生成式大語(yǔ)言模型，在理解、生成、推理、記憶等多維度展現(xiàn)出超預(yù)期的能力，帶來(lái)了智能涌現(xiàn)，由此催生了很多新的可落地的業(yè)務(wù)場(chǎng)景應(yīng)用，如個(gè)人助理、智能文案創(chuàng)作、GBI（智能商業(yè)分析）、編碼助手等。

第二是“新架構(gòu)”。大模型具體在這些新場(chǎng)景落地的過(guò)程中，也產(chǎn)生了很多新的系統(tǒng)架構(gòu)，如檢索增強(qiáng)生成RAG，智能體Agent 等。

第三是“新開(kāi)發(fā)生態(tài)”。以大模型為核心，開(kāi)發(fā)者工具層也出現(xiàn)了一些新工具，包括編排工具LangChain、AI應(yīng)用開(kāi)發(fā)工具PromptFlow、數(shù)據(jù)框架Llamalndex等。
侯震宇表示，總體來(lái)說(shuō)，構(gòu)建繁榮的A原生應(yīng)用生態(tài)，需要大模型、智能算力、
AI原生應(yīng)用研發(fā)新范式三要素相輔相成。大模型是AI原生應(yīng)用的“大腦”，智能計(jì)算則為AI原生應(yīng)用運(yùn)行提供堅(jiān)實(shí)支撐，新研發(fā)范式助力開(kāi)發(fā)者高效基于大模型能力開(kāi)發(fā)應(yīng)用。數(shù)據(jù)飛輪是成功的AI原生應(yīng)用的充分必要條件，讓大模型能力高速迭代，產(chǎn)品體驗(yàn)持續(xù)進(jìn)步。

“我相信，真正非常閃耀的AI原生應(yīng)用會(huì)在2024年誕生?！焙钫鹩钫f(shuō)。