国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

區(qū)域級(jí)訓(xùn)推一體無損網(wǎng)絡(luò)的設(shè)計(jì)與研究

0
分享至

通信世界網(wǎng)消息(CWW)AI大模型及人工智能產(chǎn)業(yè)的快速發(fā)展,催生了大量算力缺口,我國新增算力基礎(chǔ)設(shè)施中智能算力占比已過半。智能算力需求結(jié)構(gòu)也從以往少數(shù)千億、萬億參數(shù)模型集中消耗的一次性大規(guī)模訓(xùn)練算力,轉(zhuǎn)變?yōu)榍邪贅I(yè)驅(qū)動(dòng)的“持續(xù)性推理主導(dǎo)、周期性訓(xùn)練為輔”的雙軌算力需求新格局。面對(duì)算力需求的新格局,浙江電信主動(dòng)推進(jìn)算力布局優(yōu)化與算網(wǎng)融合實(shí)踐,將省級(jí)范圍內(nèi)的算力節(jié)點(diǎn)布局逐步收斂至“4+11+X”,層次化滿足各類用算需要:即在省內(nèi)部署個(gè)位數(shù)超大型訓(xùn)推一體算力樞紐,在各地市部署以推理為主的區(qū)域級(jí)公有算力資源池,在近用戶側(cè)按需部署邊緣算力節(jié)點(diǎn)。同時(shí),持續(xù)完善無損算力網(wǎng)絡(luò)基礎(chǔ)設(shè)施,形成以算力節(jié)點(diǎn)為中心向外延伸500千米的算力輻射圈,滿足省內(nèi)任意地點(diǎn)彈性用算、鄰間調(diào)算、數(shù)據(jù)安全保障以及算力互聯(lián)并網(wǎng)的需求,為接入長三角算力聯(lián)合體筑牢基礎(chǔ)。

需求分析

大模型興起

大語言模型(LLM)日益增加的訓(xùn)練和推理任務(wù),推動(dòng)算力需求急劇增長。同時(shí),DeepSeek通過關(guān)鍵架構(gòu)創(chuàng)新與工程優(yōu)化,以極低的訓(xùn)練成本打造出具備頂尖能力的模型。相關(guān)報(bào)告顯示,2025年上半年中國企業(yè)級(jí)市場(chǎng)日均調(diào)用量達(dá)10.2萬億Tokens,人工智能正于推理端開啟規(guī)模化價(jià)值創(chuàng)造。

尖端AI訓(xùn)練芯片被禁運(yùn),單中心算力資源受限

全球半導(dǎo)體產(chǎn)業(yè)的競爭與地緣政治因素疊加,導(dǎo)致我國在獲取尖端AI訓(xùn)練芯片方面面臨嚴(yán)峻挑戰(zhàn)。單一實(shí)體所能獲取和部署的算力規(guī)模存在上限,“單點(diǎn)超大規(guī)模智算中心”的建設(shè)模式遭遇瓶頸。在此背景下,整合區(qū)域內(nèi)分散、多廠商、異構(gòu)的算力資源,構(gòu)建協(xié)同調(diào)度的“算力艦隊(duì)”,成為突破單點(diǎn)算力“天花板”、應(yīng)對(duì)模型規(guī)模持續(xù)增長的必然選擇。

算力供給與電力消耗正相關(guān),省域范圍內(nèi)算力呈分散分布狀態(tài)

智算中心的運(yùn)行伴隨著巨大的電力消耗,其選址與當(dāng)?shù)啬茉垂┙o能力、PUE(電能使用效率)指標(biāo)緊密相關(guān),算力基礎(chǔ)設(shè)施自然向能源富集、氣候適宜的地區(qū)部署。這使得省級(jí)行政區(qū)域內(nèi)的算力資源呈現(xiàn)“核心—區(qū)域—邊緣”的多層次、分散化格局。

用算企業(yè)對(duì)輕資產(chǎn)運(yùn)營的期望與對(duì)數(shù)據(jù)安全的擔(dān)憂

對(duì)于廣大傳統(tǒng)行業(yè)企業(yè)而言,自建并維護(hù)大規(guī)模的智算集群意味著沉重的資本開支和運(yùn)維負(fù)擔(dān)。它們更傾向于采用“算力即服務(wù)”的模式,按需獲取、按使用付費(fèi),實(shí)現(xiàn)輕資產(chǎn)運(yùn)營。然而,將核心業(yè)務(wù)的訓(xùn)練與推理數(shù)據(jù)上傳至第三方算力中心,也引發(fā)了企業(yè)對(duì)于數(shù)據(jù)隱私和商業(yè)機(jī)密泄露的深切擔(dān)憂。

技術(shù)選擇

為應(yīng)對(duì)上述挑戰(zhàn),浙江電信、溫州數(shù)據(jù)集團(tuán)與華為攜手打造了邊云協(xié)同分布式安全訓(xùn)推解決方案。該方案構(gòu)建廣域超長距RoCE(即基于融合以太網(wǎng)的遠(yuǎn)程直接內(nèi)存訪問)無損傳輸能力與訓(xùn)推模型切割部署能力,將企業(yè)側(cè)輕量級(jí)算力與智算中心算力池,通過基于新型架構(gòu)的AI WAN高算效廣域網(wǎng)實(shí)現(xiàn)超長距協(xié)同整合,滿足“數(shù)據(jù)不出域”“算力彈性擴(kuò)展”等關(guān)鍵需求。實(shí)施“以網(wǎng)強(qiáng)算”策略,對(duì)精準(zhǔn)響應(yīng)市場(chǎng)核心訴求、推動(dòng)產(chǎn)業(yè)智能化升級(jí)具有重要意義。

廣域超長距RoCE無損傳輸能力

為達(dá)成算力之間的高速互聯(lián),業(yè)界采用了RoCE和IB(無限帶寬)兩種通信協(xié)議方案。其中IB協(xié)議私有化屬性較強(qiáng),且整體成本過高;而RoCE協(xié)議擴(kuò)展性更好,有利于標(biāo)準(zhǔn)化發(fā)展。因此,邊云協(xié)同分布式安全訓(xùn)推解決方案的網(wǎng)絡(luò)通信協(xié)議選擇基于RoCE協(xié)議進(jìn)一步升級(jí)。

傳統(tǒng)的RoCE協(xié)議在面對(duì)廣域網(wǎng)復(fù)雜的組網(wǎng)環(huán)境、超長的轉(zhuǎn)發(fā)距離時(shí),易出現(xiàn)負(fù)載不均與擁塞問題,造成吞吐性能瓶頸。另一方面,RoCE協(xié)議對(duì)丟包極為敏感,僅千分之一的丟包率就可能導(dǎo)致傳輸性能下降50%。為解決以上問題,浙江電信與華為聯(lián)合創(chuàng)新了廣域超長距RoCE無損傳輸?shù)膬纱箨P(guān)鍵技術(shù)。

一是租戶級(jí)精準(zhǔn)流控機(jī)制。在AI WAN的“IPv6+”底座之上,新型AI路由器以租戶為單位對(duì)數(shù)據(jù)包進(jìn)行智能緩存。若緩存達(dá)到預(yù)設(shè)閾值,系統(tǒng)將按租戶粒度向上游設(shè)備發(fā)送反壓信號(hào),逐級(jí)傳遞直至流量源頭,從而確保不同租戶間的網(wǎng)絡(luò)擁塞互不干擾,實(shí)現(xiàn)超百千米級(jí)RoCE“零丟包”傳輸。此項(xiàng)技術(shù)解決了傳統(tǒng)網(wǎng)絡(luò)因輕微丟包導(dǎo)致吞吐量驟降的問題,使超長距離AI訓(xùn)練、推理效率提升至95%以上,并實(shí)現(xiàn)租戶級(jí)擁塞隔離,有效規(guī)避了傳統(tǒng)PFC(功率因數(shù)校正)技術(shù)在廣域場(chǎng)景下易引發(fā)的頭部阻塞及擁塞擴(kuò)散等缺陷,為超長距的邊云算力協(xié)同奠定可靠基礎(chǔ)。

二是流級(jí)動(dòng)態(tài)負(fù)載均衡技術(shù)。針對(duì)智算業(yè)務(wù)大象流帶來的挑戰(zhàn),基于AI路由器的微秒級(jí)大象流識(shí)別技術(shù),可實(shí)現(xiàn)捕捉全網(wǎng)大象流99%準(zhǔn)確率并上報(bào)至管控平臺(tái)。結(jié)合流級(jí)自適應(yīng)調(diào)度算法,根據(jù)實(shí)時(shí)網(wǎng)絡(luò)狀態(tài)為不同流量動(dòng)態(tài)分配傳輸路徑,從而實(shí)現(xiàn)廣域網(wǎng)絡(luò)的全局負(fù)載均衡,整體吞吐率超過95%。該機(jī)制克服了傳統(tǒng)ECMP(等價(jià)路由)算法因無法識(shí)別流速大小而導(dǎo)致的鏈路負(fù)載不均、吞吐率低下等問題。

訓(xùn)推模型切割部署能力

為解決企業(yè)用戶使用云上算力時(shí)對(duì)“數(shù)據(jù)不出域”的安全需求,在本次訓(xùn)推一體創(chuàng)新合作中,浙江電信聯(lián)合華為推出訓(xùn)推模型切割部署架構(gòu)。在AI訓(xùn)推業(yè)務(wù)中,將模型首尾層部署于本地,中間層部署于云端。通過企業(yè)側(cè)部署的少量算力,完成模型訓(xùn)推中的首尾層計(jì)算,保障輸入和輸出的原始數(shù)據(jù)100%不出域;通過AI WAN跨越數(shù)百千米,將高維向量數(shù)據(jù)傳輸至智算中心,實(shí)現(xiàn)數(shù)據(jù)可用不可見,且中間層數(shù)據(jù)不可被還原。云上算力則完成中間層計(jì)算,滿足大計(jì)算量的資源需求。該架構(gòu)既滿足“數(shù)據(jù)不出園區(qū)”的安全要求,又支持算力在數(shù)百千米超遠(yuǎn)距離上的靈活擴(kuò)展,與基準(zhǔn)數(shù)據(jù)相比,整體計(jì)算效率達(dá)95%以上。反觀傳統(tǒng)加密傳輸方案,僅能保障數(shù)據(jù)在轉(zhuǎn)發(fā)過程中的安全,無法覆蓋云上計(jì)算環(huán)節(jié)的數(shù)據(jù)安全,也無法保障模型本身的安全。

方案設(shè)計(jì)

浙江電信通過打造區(qū)域級(jí)訓(xùn)推一體無損網(wǎng)絡(luò),構(gòu)建起一張覆蓋區(qū)域、具備智算中心級(jí)性能的廣域網(wǎng)絡(luò),將分散的算力節(jié)點(diǎn)整合成虛擬且統(tǒng)一的“超級(jí)計(jì)算機(jī)”;同時(shí)依托創(chuàng)新的分布式人工智能技術(shù),保障業(yè)務(wù)邏輯可靠與數(shù)據(jù)安全。如圖1所示,該網(wǎng)絡(luò)與浙江電信“4+11+X”算力布局精準(zhǔn)匹配,形成“中心訓(xùn)練樞紐—地市推理資源池—邊緣算力節(jié)點(diǎn)”的三級(jí)云邊協(xié)同體系。

中心訓(xùn)練樞紐(4個(gè)):在嘉善、杭州、金華、寧波布局省級(jí)區(qū)域節(jié)點(diǎn),承擔(dān)大規(guī)模、周期性的模型訓(xùn)練與微調(diào)任務(wù)。這類節(jié)點(diǎn)具備區(qū)域內(nèi)最高算力密度,是全省算力網(wǎng)絡(luò)的核心基石。

地市推理資源池(11個(gè)):在11個(gè)地市設(shè)置匯聚節(jié)點(diǎn),主要承載高并發(fā)、低時(shí)延的在線推理服務(wù),滿足地市級(jí)實(shí)時(shí)業(yè)務(wù)需求。

邊緣算力節(jié)點(diǎn)(X個(gè)):部署于靠近數(shù)據(jù)源頭(如工廠、醫(yī)院)的位置,處理對(duì)時(shí)延極度敏感或數(shù)據(jù)隱私要求極高的推理任務(wù)。


圖1 浙江電信區(qū)域級(jí)訓(xùn)推一體無損網(wǎng)絡(luò)架構(gòu)

區(qū)域級(jí)無損網(wǎng)絡(luò)如同“中樞神經(jīng)系統(tǒng)”,將各層級(jí)的算力節(jié)點(diǎn)高速互聯(lián),實(shí)現(xiàn)算力的統(tǒng)一納管、彈性伸縮和跨DC(數(shù)據(jù)通道)調(diào)度。當(dāng)企業(yè)需要使用算力資源時(shí),可依托訓(xùn)推模型切割部署的云邊協(xié)同分布式訓(xùn)推方案,在保證企業(yè)數(shù)據(jù)安全前提下,按需取用智算中心的算力(如圖2所示)。


圖2 云邊協(xié)同分布式訓(xùn)推方案

該方案通過云邊協(xié)同的分布式訓(xùn)推架構(gòu)與分割學(xué)習(xí)技術(shù),保障企業(yè)“數(shù)據(jù)不出域”;同時(shí)依托廣域網(wǎng)環(huán)境下的租戶級(jí)精準(zhǔn)流控機(jī)制與流級(jí)動(dòng)態(tài)負(fù)載均衡技術(shù),實(shí)現(xiàn)跨數(shù)據(jù)中心的高吞吐、低損耗算力協(xié)同,為區(qū)域內(nèi)算力資源的互聯(lián)互通與高效調(diào)度提供了可行路徑。

結(jié)語

區(qū)域級(jí)訓(xùn)推一體無損網(wǎng)絡(luò)是應(yīng)對(duì)當(dāng)前大模型算力需求激增、企業(yè)數(shù)據(jù)安全與輕資產(chǎn)運(yùn)營訴求日益迫切等挑戰(zhàn)的一次創(chuàng)新嘗試。該方案通過技術(shù)創(chuàng)新,實(shí)現(xiàn)了三大價(jià)值。

算力普惠化:它將區(qū)域內(nèi)分散、異構(gòu)的算力資源整合成一個(gè)統(tǒng)一、彈性的算力服務(wù)池,使得中小企業(yè)也能像用水、用電一樣,便捷、按需、低成本地獲取頂尖的AI算力,極大地降低了智能化轉(zhuǎn)型的門檻。

數(shù)據(jù)安全化:通過分割學(xué)習(xí)等隱私計(jì)算技術(shù)的應(yīng)用,在提供強(qiáng)大算力支持的同時(shí),嚴(yán)守“數(shù)據(jù)不出域”的底線,徹底解除企業(yè)上云用算的后顧之憂,為金融、醫(yī)療、政務(wù)等敏感領(lǐng)域的AI應(yīng)用掃清了障礙。

產(chǎn)業(yè)智能化:一張高性能的算力網(wǎng)絡(luò),是支撐“人工智能+”戰(zhàn)略落地的關(guān)鍵基礎(chǔ)設(shè)施。它使得AI能力可以像血液一樣,在區(qū)域經(jīng)濟(jì)的“毛細(xì)血管”(邊緣節(jié)點(diǎn))中順暢流動(dòng),從而賦能千行百業(yè),加速全社會(huì)從“互聯(lián)網(wǎng)+”向“AI+”演進(jìn)。

展望未來,隨著算網(wǎng)融合技術(shù)的持續(xù)深化,區(qū)域級(jí)訓(xùn)推一體無損網(wǎng)絡(luò)將成為構(gòu)建國家一體化算力體系的重要基石,為我國在新一輪全球科技競爭中贏得優(yōu)勢(shì)提供堅(jiān)實(shí)的底座支撐。

*本篇刊載于《通信世界》2025年12月10日*

第23期 總981期

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
不干涉他國內(nèi)政

不干涉他國內(nèi)政

周邊問題研究所
2025-12-18 21:22:36
趙薇低調(diào)回安徽老家,戴口罩帽子墨鏡全副武裝,打扮土氣像村里人

趙薇低調(diào)回安徽老家,戴口罩帽子墨鏡全副武裝,打扮土氣像村里人

瘋說時(shí)尚
2025-12-18 15:10:17
蒯曼更換混雙搭檔,林詩棟面臨單打和混雙挑戰(zhàn),男隊(duì)競爭格局改變

蒯曼更換混雙搭檔,林詩棟面臨單打和混雙挑戰(zhàn),男隊(duì)競爭格局改變

子水體娛
2025-12-19 13:28:23
1982年,胡啟立說他不打牌不下棋不打球,萬里:你這樣幾年就累垮

1982年,胡啟立說他不打牌不下棋不打球,萬里:你這樣幾年就累垮

帝哥說史
2025-12-18 06:30:02
美國對(duì)臺(tái)軍售捅馬蜂窩,中國反手大舉賣武器,反美國家搶瘋了。

美國對(duì)臺(tái)軍售捅馬蜂窩,中國反手大舉賣武器,反美國家搶瘋了。

百態(tài)人間
2025-11-21 17:02:27
三上悠亞、水卜櫻、淺野心、小澤菜穗、川越仁子 日美女明星動(dòng)態(tài)

三上悠亞、水卜櫻、淺野心、小澤菜穗、川越仁子 日美女明星動(dòng)態(tài)

鹿鹿156
2025-12-19 10:36:13
湖人三軍用命末節(jié)逆轉(zhuǎn),東契奇詹姆斯?jié)M分,兩輪換及時(shí)爆發(fā)

湖人三軍用命末節(jié)逆轉(zhuǎn),東契奇詹姆斯?jié)M分,兩輪換及時(shí)爆發(fā)

謝說籃球
2025-12-19 15:05:19
驚訝!金價(jià)確是一夜變天,12月19日?qǐng)?bào)價(jià),黃金市場(chǎng)將迎來更強(qiáng)大

驚訝!金價(jià)確是一夜變天,12月19日?qǐng)?bào)價(jià),黃金市場(chǎng)將迎來更強(qiáng)大

王二哥老搞笑
2025-12-19 04:33:56
一夜之間有關(guān)大師的文章正在被全網(wǎng)刪除,答案或許就在這里!

一夜之間有關(guān)大師的文章正在被全網(wǎng)刪除,答案或許就在這里!

清哲木觀察
2025-12-17 10:59:57
房產(chǎn)證上的人去世了,繼承別再花大幾千的公證費(fèi),80塊錢就能搞定

房產(chǎn)證上的人去世了,繼承別再花大幾千的公證費(fèi),80塊錢就能搞定

室內(nèi)設(shè)計(jì)師有料兒
2025-12-07 16:05:28
保持代謝旺盛的 5 個(gè)小技巧,讓你想胖都難!

保持代謝旺盛的 5 個(gè)小技巧,讓你想胖都難!

蝌蚪五線譜
2025-12-17 17:22:53
ESPN:詹姆斯、東契奇、里夫斯同時(shí)上場(chǎng)時(shí),防守效率聯(lián)盟墊底

ESPN:詹姆斯、東契奇、里夫斯同時(shí)上場(chǎng)時(shí),防守效率聯(lián)盟墊底

陳腕特色體育解說
2025-12-19 14:35:08
這5種香煙已被列入“黑名單”,吸煙的人請(qǐng)注意,最好別抽!

這5種香煙已被列入“黑名單”,吸煙的人請(qǐng)注意,最好別抽!

閱微札記
2025-12-17 15:00:47
第一個(gè)力挺中國的戰(zhàn)友出現(xiàn)!只要日本敢出兵,立馬使出一大絕招

第一個(gè)力挺中國的戰(zhàn)友出現(xiàn)!只要日本敢出兵,立馬使出一大絕招

凡知
2025-11-19 21:28:17
張本智和飄了!剛拿了冠軍,就喊話王楚欽:世界第一,并不遙遠(yuǎn)

張本智和飄了!剛拿了冠軍,就喊話王楚欽:世界第一,并不遙遠(yuǎn)

十點(diǎn)街球體育
2025-12-17 12:34:51
1940年,陳賡把戰(zhàn)壕挖到2米深,劉伯承拍桌大怒:你在自掘墳?zāi)!陳賡:這是給鬼子修的墳!

1940年,陳賡把戰(zhàn)壕挖到2米深,劉伯承拍桌大怒:你在自掘墳?zāi)!陳賡:這是給鬼子修的墳!

史海孤雁
2025-12-17 16:50:15
嬸嬸發(fā)來房產(chǎn)證照片:你給你爸爸買的養(yǎng)老小院我過戶給你堂哥了

嬸嬸發(fā)來房產(chǎn)證照片:你給你爸爸買的養(yǎng)老小院我過戶給你堂哥了

小秋情感說
2025-12-19 14:15:57
三石弟弟做大保。√姨颖弧叭W(wǎng)封殺”!

三石弟弟做大保!桃太子被“全網(wǎng)封殺”!

八卦瘋叔
2025-12-19 13:19:37
球迷在評(píng)論區(qū)問戴琳賬還完了嗎?戴琳回復(fù):你老婆給我還完了

球迷在評(píng)論區(qū)問戴琳賬還完了嗎?戴琳回復(fù):你老婆給我還完了

懂球帝
2025-12-17 12:50:29
沒買電動(dòng)車的可以笑了!2026年更換電動(dòng)車,將會(huì)在這3個(gè)方面受益

沒買電動(dòng)車的可以笑了!2026年更換電動(dòng)車,將會(huì)在這3個(gè)方面受益

電動(dòng)車的那些事兒
2025-12-19 08:23:13
2025-12-19 15:27:00
通信世界 incentive-icons
通信世界
多維度 全媒體 整合傳播
12080文章數(shù) 30428關(guān)注度
往期回顧 全部

科技要聞

2025新一代人工智能創(chuàng)業(yè)大賽總決賽收官

頭條要聞

中戲院長郝戎被查 劉燁、章子怡、靳東等為其學(xué)生

頭條要聞

中戲院長郝戎被查 劉燁、章子怡、靳東等為其學(xué)生

體育要聞

沒有塔圖姆,還有塔禿姆

娛樂要聞

曲協(xié)表態(tài)僅6天,郭德綱擔(dān)心的事還是發(fā)生

財(cái)經(jīng)要聞

非法集資911億!"金融大鱷"終審被判無期

汽車要聞

最便宜GLS 2026款奔馳GLS經(jīng)典版售96.8萬

態(tài)度原創(chuàng)

手機(jī)
本地
數(shù)碼
教育
公開課

手機(jī)要聞

顏值實(shí)力雙在線 vivo S50 Pro mini小屏實(shí)力派

本地新聞

云游安徽|訪黃山云海古村,讀一城山水風(fēng)骨

數(shù)碼要聞

三星Galaxy Book6 Pro筆記本電腦照片曝光

教育要聞

忘記密碼看這里!2025冬季學(xué)考(合格考)準(zhǔn)考證今起打!打印直達(dá)入口→

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進(jìn)入關(guān)懷版