国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

區(qū)域級(jí)訓(xùn)推一體無損網(wǎng)絡(luò)的設(shè)計(jì)與研究

0
分享至

通信世界網(wǎng)消息(CWW)AI大模型及人工智能產(chǎn)業(yè)的快速發(fā)展,催生了大量算力缺口,我國新增算力基礎(chǔ)設(shè)施中智能算力占比已過半。智能算力需求結(jié)構(gòu)也從以往少數(shù)千億、萬億參數(shù)模型集中消耗的一次性大規(guī)模訓(xùn)練算力,轉(zhuǎn)變?yōu)榍邪贅I(yè)驅(qū)動(dòng)的“持續(xù)性推理主導(dǎo)、周期性訓(xùn)練為輔”的雙軌算力需求新格局。面對(duì)算力需求的新格局,浙江電信主動(dòng)推進(jìn)算力布局優(yōu)化與算網(wǎng)融合實(shí)踐,將省級(jí)范圍內(nèi)的算力節(jié)點(diǎn)布局逐步收斂至“4+11+X”,層次化滿足各類用算需要:即在省內(nèi)部署個(gè)位數(shù)超大型訓(xùn)推一體算力樞紐,在各地市部署以推理為主的區(qū)域級(jí)公有算力資源池,在近用戶側(cè)按需部署邊緣算力節(jié)點(diǎn)。同時(shí),持續(xù)完善無損算力網(wǎng)絡(luò)基礎(chǔ)設(shè)施,形成以算力節(jié)點(diǎn)為中心向外延伸500千米的算力輻射圈,滿足省內(nèi)任意地點(diǎn)彈性用算、鄰間調(diào)算、數(shù)據(jù)安全保障以及算力互聯(lián)并網(wǎng)的需求,為接入長三角算力聯(lián)合體筑牢基礎(chǔ)。

需求分析

大模型興起

大語言模型(LLM)日益增加的訓(xùn)練和推理任務(wù),推動(dòng)算力需求急劇增長。同時(shí),DeepSeek通過關(guān)鍵架構(gòu)創(chuàng)新與工程優(yōu)化,以極低的訓(xùn)練成本打造出具備頂尖能力的模型。相關(guān)報(bào)告顯示,2025年上半年中國企業(yè)級(jí)市場(chǎng)日均調(diào)用量達(dá)10.2萬億Tokens,人工智能正于推理端開啟規(guī)?;瘍r(jià)值創(chuàng)造。

尖端AI訓(xùn)練芯片被禁運(yùn),單中心算力資源受限

全球半導(dǎo)體產(chǎn)業(yè)的競(jìng)爭(zhēng)與地緣政治因素疊加,導(dǎo)致我國在獲取尖端AI訓(xùn)練芯片方面面臨嚴(yán)峻挑戰(zhàn)。單一實(shí)體所能獲取和部署的算力規(guī)模存在上限,“單點(diǎn)超大規(guī)模智算中心”的建設(shè)模式遭遇瓶頸。在此背景下,整合區(qū)域內(nèi)分散、多廠商、異構(gòu)的算力資源,構(gòu)建協(xié)同調(diào)度的“算力艦隊(duì)”,成為突破單點(diǎn)算力“天花板”、應(yīng)對(duì)模型規(guī)模持續(xù)增長的必然選擇。

算力供給與電力消耗正相關(guān),省域范圍內(nèi)算力呈分散分布狀態(tài)

智算中心的運(yùn)行伴隨著巨大的電力消耗,其選址與當(dāng)?shù)啬茉垂┙o能力、PUE(電能使用效率)指標(biāo)緊密相關(guān),算力基礎(chǔ)設(shè)施自然向能源富集、氣候適宜的地區(qū)部署。這使得省級(jí)行政區(qū)域內(nèi)的算力資源呈現(xiàn)“核心—區(qū)域—邊緣”的多層次、分散化格局。

用算企業(yè)對(duì)輕資產(chǎn)運(yùn)營的期望與對(duì)數(shù)據(jù)安全的擔(dān)憂

對(duì)于廣大傳統(tǒng)行業(yè)企業(yè)而言,自建并維護(hù)大規(guī)模的智算集群意味著沉重的資本開支和運(yùn)維負(fù)擔(dān)。它們更傾向于采用“算力即服務(wù)”的模式,按需獲取、按使用付費(fèi),實(shí)現(xiàn)輕資產(chǎn)運(yùn)營。然而,將核心業(yè)務(wù)的訓(xùn)練與推理數(shù)據(jù)上傳至第三方算力中心,也引發(fā)了企業(yè)對(duì)于數(shù)據(jù)隱私和商業(yè)機(jī)密泄露的深切擔(dān)憂。

技術(shù)選擇

為應(yīng)對(duì)上述挑戰(zhàn),浙江電信、溫州數(shù)據(jù)集團(tuán)與華為攜手打造了邊云協(xié)同分布式安全訓(xùn)推解決方案。該方案構(gòu)建廣域超長距RoCE(即基于融合以太網(wǎng)的遠(yuǎn)程直接內(nèi)存訪問)無損傳輸能力與訓(xùn)推模型切割部署能力,將企業(yè)側(cè)輕量級(jí)算力與智算中心算力池,通過基于新型架構(gòu)的AI WAN高算效廣域網(wǎng)實(shí)現(xiàn)超長距協(xié)同整合,滿足“數(shù)據(jù)不出域”“算力彈性擴(kuò)展”等關(guān)鍵需求。實(shí)施“以網(wǎng)強(qiáng)算”策略,對(duì)精準(zhǔn)響應(yīng)市場(chǎng)核心訴求、推動(dòng)產(chǎn)業(yè)智能化升級(jí)具有重要意義。

廣域超長距RoCE無損傳輸能力

為達(dá)成算力之間的高速互聯(lián),業(yè)界采用了RoCE和IB(無限帶寬)兩種通信協(xié)議方案。其中IB協(xié)議私有化屬性較強(qiáng),且整體成本過高;而RoCE協(xié)議擴(kuò)展性更好,有利于標(biāo)準(zhǔn)化發(fā)展。因此,邊云協(xié)同分布式安全訓(xùn)推解決方案的網(wǎng)絡(luò)通信協(xié)議選擇基于RoCE協(xié)議進(jìn)一步升級(jí)。

傳統(tǒng)的RoCE協(xié)議在面對(duì)廣域網(wǎng)復(fù)雜的組網(wǎng)環(huán)境、超長的轉(zhuǎn)發(fā)距離時(shí),易出現(xiàn)負(fù)載不均與擁塞問題,造成吞吐性能瓶頸。另一方面,RoCE協(xié)議對(duì)丟包極為敏感,僅千分之一的丟包率就可能導(dǎo)致傳輸性能下降50%。為解決以上問題,浙江電信與華為聯(lián)合創(chuàng)新了廣域超長距RoCE無損傳輸?shù)膬纱箨P(guān)鍵技術(shù)。

一是租戶級(jí)精準(zhǔn)流控機(jī)制。在AI WAN的“IPv6+”底座之上,新型AI路由器以租戶為單位對(duì)數(shù)據(jù)包進(jìn)行智能緩存。若緩存達(dá)到預(yù)設(shè)閾值,系統(tǒng)將按租戶粒度向上游設(shè)備發(fā)送反壓信號(hào),逐級(jí)傳遞直至流量源頭,從而確保不同租戶間的網(wǎng)絡(luò)擁塞互不干擾,實(shí)現(xiàn)超百千米級(jí)RoCE“零丟包”傳輸。此項(xiàng)技術(shù)解決了傳統(tǒng)網(wǎng)絡(luò)因輕微丟包導(dǎo)致吞吐量驟降的問題,使超長距離AI訓(xùn)練、推理效率提升至95%以上,并實(shí)現(xiàn)租戶級(jí)擁塞隔離,有效規(guī)避了傳統(tǒng)PFC(功率因數(shù)校正)技術(shù)在廣域場(chǎng)景下易引發(fā)的頭部阻塞及擁塞擴(kuò)散等缺陷,為超長距的邊云算力協(xié)同奠定可靠基礎(chǔ)。

二是流級(jí)動(dòng)態(tài)負(fù)載均衡技術(shù)。針對(duì)智算業(yè)務(wù)大象流帶來的挑戰(zhàn),基于AI路由器的微秒級(jí)大象流識(shí)別技術(shù),可實(shí)現(xiàn)捕捉全網(wǎng)大象流99%準(zhǔn)確率并上報(bào)至管控平臺(tái)。結(jié)合流級(jí)自適應(yīng)調(diào)度算法,根據(jù)實(shí)時(shí)網(wǎng)絡(luò)狀態(tài)為不同流量動(dòng)態(tài)分配傳輸路徑,從而實(shí)現(xiàn)廣域網(wǎng)絡(luò)的全局負(fù)載均衡,整體吞吐率超過95%。該機(jī)制克服了傳統(tǒng)ECMP(等價(jià)路由)算法因無法識(shí)別流速大小而導(dǎo)致的鏈路負(fù)載不均、吞吐率低下等問題。

訓(xùn)推模型切割部署能力

為解決企業(yè)用戶使用云上算力時(shí)對(duì)“數(shù)據(jù)不出域”的安全需求,在本次訓(xùn)推一體創(chuàng)新合作中,浙江電信聯(lián)合華為推出訓(xùn)推模型切割部署架構(gòu)。在AI訓(xùn)推業(yè)務(wù)中,將模型首尾層部署于本地,中間層部署于云端。通過企業(yè)側(cè)部署的少量算力,完成模型訓(xùn)推中的首尾層計(jì)算,保障輸入和輸出的原始數(shù)據(jù)100%不出域;通過AI WAN跨越數(shù)百千米,將高維向量數(shù)據(jù)傳輸至智算中心,實(shí)現(xiàn)數(shù)據(jù)可用不可見,且中間層數(shù)據(jù)不可被還原。云上算力則完成中間層計(jì)算,滿足大計(jì)算量的資源需求。該架構(gòu)既滿足“數(shù)據(jù)不出園區(qū)”的安全要求,又支持算力在數(shù)百千米超遠(yuǎn)距離上的靈活擴(kuò)展,與基準(zhǔn)數(shù)據(jù)相比,整體計(jì)算效率達(dá)95%以上。反觀傳統(tǒng)加密傳輸方案,僅能保障數(shù)據(jù)在轉(zhuǎn)發(fā)過程中的安全,無法覆蓋云上計(jì)算環(huán)節(jié)的數(shù)據(jù)安全,也無法保障模型本身的安全。

方案設(shè)計(jì)

浙江電信通過打造區(qū)域級(jí)訓(xùn)推一體無損網(wǎng)絡(luò),構(gòu)建起一張覆蓋區(qū)域、具備智算中心級(jí)性能的廣域網(wǎng)絡(luò),將分散的算力節(jié)點(diǎn)整合成虛擬且統(tǒng)一的“超級(jí)計(jì)算機(jī)”;同時(shí)依托創(chuàng)新的分布式人工智能技術(shù),保障業(yè)務(wù)邏輯可靠與數(shù)據(jù)安全。如圖1所示,該網(wǎng)絡(luò)與浙江電信“4+11+X”算力布局精準(zhǔn)匹配,形成“中心訓(xùn)練樞紐—地市推理資源池—邊緣算力節(jié)點(diǎn)”的三級(jí)云邊協(xié)同體系。

中心訓(xùn)練樞紐(4個(gè)):在嘉善、杭州、金華、寧波布局省級(jí)區(qū)域節(jié)點(diǎn),承擔(dān)大規(guī)模、周期性的模型訓(xùn)練與微調(diào)任務(wù)。這類節(jié)點(diǎn)具備區(qū)域內(nèi)最高算力密度,是全省算力網(wǎng)絡(luò)的核心基石。

地市推理資源池(11個(gè)):在11個(gè)地市設(shè)置匯聚節(jié)點(diǎn),主要承載高并發(fā)、低時(shí)延的在線推理服務(wù),滿足地市級(jí)實(shí)時(shí)業(yè)務(wù)需求。

邊緣算力節(jié)點(diǎn)(X個(gè)):部署于靠近數(shù)據(jù)源頭(如工廠、醫(yī)院)的位置,處理對(duì)時(shí)延極度敏感或數(shù)據(jù)隱私要求極高的推理任務(wù)。


圖1 浙江電信區(qū)域級(jí)訓(xùn)推一體無損網(wǎng)絡(luò)架構(gòu)

區(qū)域級(jí)無損網(wǎng)絡(luò)如同“中樞神經(jīng)系統(tǒng)”,將各層級(jí)的算力節(jié)點(diǎn)高速互聯(lián),實(shí)現(xiàn)算力的統(tǒng)一納管、彈性伸縮和跨DC(數(shù)據(jù)通道)調(diào)度。當(dāng)企業(yè)需要使用算力資源時(shí),可依托訓(xùn)推模型切割部署的云邊協(xié)同分布式訓(xùn)推方案,在保證企業(yè)數(shù)據(jù)安全前提下,按需取用智算中心的算力(如圖2所示)。


圖2 云邊協(xié)同分布式訓(xùn)推方案

該方案通過云邊協(xié)同的分布式訓(xùn)推架構(gòu)與分割學(xué)習(xí)技術(shù),保障企業(yè)“數(shù)據(jù)不出域”;同時(shí)依托廣域網(wǎng)環(huán)境下的租戶級(jí)精準(zhǔn)流控機(jī)制與流級(jí)動(dòng)態(tài)負(fù)載均衡技術(shù),實(shí)現(xiàn)跨數(shù)據(jù)中心的高吞吐、低損耗算力協(xié)同,為區(qū)域內(nèi)算力資源的互聯(lián)互通與高效調(diào)度提供了可行路徑。

結(jié)語

區(qū)域級(jí)訓(xùn)推一體無損網(wǎng)絡(luò)是應(yīng)對(duì)當(dāng)前大模型算力需求激增、企業(yè)數(shù)據(jù)安全與輕資產(chǎn)運(yùn)營訴求日益迫切等挑戰(zhàn)的一次創(chuàng)新嘗試。該方案通過技術(shù)創(chuàng)新,實(shí)現(xiàn)了三大價(jià)值。

算力普惠化:它將區(qū)域內(nèi)分散、異構(gòu)的算力資源整合成一個(gè)統(tǒng)一、彈性的算力服務(wù)池,使得中小企業(yè)也能像用水、用電一樣,便捷、按需、低成本地獲取頂尖的AI算力,極大地降低了智能化轉(zhuǎn)型的門檻。

數(shù)據(jù)安全化:通過分割學(xué)習(xí)等隱私計(jì)算技術(shù)的應(yīng)用,在提供強(qiáng)大算力支持的同時(shí),嚴(yán)守“數(shù)據(jù)不出域”的底線,徹底解除企業(yè)上云用算的后顧之憂,為金融、醫(yī)療、政務(wù)等敏感領(lǐng)域的AI應(yīng)用掃清了障礙。

產(chǎn)業(yè)智能化:一張高性能的算力網(wǎng)絡(luò),是支撐“人工智能+”戰(zhàn)略落地的關(guān)鍵基礎(chǔ)設(shè)施。它使得AI能力可以像血液一樣,在區(qū)域經(jīng)濟(jì)的“毛細(xì)血管”(邊緣節(jié)點(diǎn))中順暢流動(dòng),從而賦能千行百業(yè),加速全社會(huì)從“互聯(lián)網(wǎng)+”向“AI+”演進(jìn)。

展望未來,隨著算網(wǎng)融合技術(shù)的持續(xù)深化,區(qū)域級(jí)訓(xùn)推一體無損網(wǎng)絡(luò)將成為構(gòu)建國家一體化算力體系的重要基石,為我國在新一輪全球科技競(jìng)爭(zhēng)中贏得優(yōu)勢(shì)提供堅(jiān)實(shí)的底座支撐。

*本篇刊載于《通信世界》2025年12月10日*

第23期 總981期

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
哈國對(duì)“軍民兩用”貨物強(qiáng)硬封鎖,采購群炸鍋!

哈國對(duì)“軍民兩用”貨物強(qiáng)硬封鎖,采購群炸鍋!

世界探索者探索
2026-01-06 21:44:00
深度揭秘?|?昆明市委原書記張?zhí)镄篮退氖送緩澋馈獜摹疤镄阑ā钡健皵嘌率浇导?jí)”的36年

深度揭秘?|?昆明市委原書記張?zhí)镄篮退氖送緩澋馈獜摹疤镄阑ā钡健皵嘌率浇导?jí)”的36年

一分為三看人生
2026-01-07 00:10:54
她是國家一級(jí)演員,享正軍級(jí)待遇,離異后至今單身,67歲依然美麗

她是國家一級(jí)演員,享正軍級(jí)待遇,離異后至今單身,67歲依然美麗

老謝談史
2025-12-16 14:59:41
內(nèi)地女子在香港一餐廳因瑣事持菜刀恐嚇店家還襲警!已被拘捕

內(nèi)地女子在香港一餐廳因瑣事持菜刀恐嚇店家還襲警!已被拘捕

南方都市報(bào)
2026-01-06 21:57:26
閆學(xué)晶遭遇現(xiàn)世報(bào)!代言品牌疑解約,評(píng)論區(qū)淪陷,春晚節(jié)目或不保

閆學(xué)晶遭遇現(xiàn)世報(bào)!代言品牌疑解約,評(píng)論區(qū)淪陷,春晚節(jié)目或不保

銀河史記
2026-01-06 16:09:28
山東10名市管干部擬任新職

山東10名市管干部擬任新職

濱州日?qǐng)?bào)
2026-01-07 09:19:36
王石田樸珺婚變風(fēng)波升級(jí)!女方整容前舊照被扒,曾為王石跪式服務(wù)

王石田樸珺婚變風(fēng)波升級(jí)!女方整容前舊照被扒,曾為王石跪式服務(wù)

古希臘掌管松餅的神
2026-01-04 19:44:02
大媽在深圳當(dāng)保姆10年,被冤枉偷手鐲,回家打開行李箱后愣住了

大媽在深圳當(dāng)保姆10年,被冤枉偷手鐲,回家打開行李箱后愣住了

青青會(huì)講故事
2025-10-17 17:06:25
一個(gè)人最聰明的活法:三拒絕?。ū乜矗?>
    </a>
        <h3>
      <a href=詩詞中國
2025-12-27 21:10:47
鄭州“狗熊嶺雪鄉(xiāng)”開業(yè)3天狂攬700多條差評(píng):“棉花假雪、稀泥地、人多物價(jià)高”,景區(qū)暫停營業(yè);文旅局介入

鄭州“狗熊嶺雪鄉(xiāng)”開業(yè)3天狂攬700多條差評(píng):“棉花假雪、稀泥地、人多物價(jià)高”,景區(qū)暫停營業(yè);文旅局介入

大風(fēng)新聞
2026-01-06 18:53:06
平民教練執(zhí)掌切爾西,能否逃過波特的命運(yùn)?

平民教練執(zhí)掌切爾西,能否逃過波特的命運(yùn)?

足球周刊
2026-01-07 11:08:15
韓國大膽提議:建設(shè)首爾至北京高鐵,但有一個(gè)條件,中方須先答應(yīng)

韓國大膽提議:建設(shè)首爾至北京高鐵,但有一個(gè)條件,中方須先答應(yīng)

科學(xué)發(fā)掘
2026-01-06 10:23:28
賴昌星發(fā)妻曾明娜現(xiàn)狀:逃亡10年后回國,守著3000平老宅安靜養(yǎng)老

賴昌星發(fā)妻曾明娜現(xiàn)狀:逃亡10年后回國,守著3000平老宅安靜養(yǎng)老

古書記史
2025-12-12 11:21:38
國有大行省分行副行長投湖自盡

國有大行省分行副行長投湖自盡

李丹Fintalk
2026-01-07 10:28:30
“馬茅”新品正式發(fā)布!

“馬茅”新品正式發(fā)布!

每日經(jīng)濟(jì)新聞
2026-01-05 19:16:12
你絕對(duì)想不到!這件小禮物竟是兩克純金挖耳勺!

你絕對(duì)想不到!這件小禮物竟是兩克純金挖耳勺!

特約前排觀眾
2026-01-07 00:05:09
志愿軍最神奇的一支部隊(duì):軍長是大校,師長是少將,戰(zhàn)士晉升中將

志愿軍最神奇的一支部隊(duì):軍長是大校,師長是少將,戰(zhàn)士晉升中將

柳絮憶史
2026-01-07 09:43:30
2026年春節(jié),要暖到離譜!大年初一撞上七九,老輩人:60年頭回見

2026年春節(jié),要暖到離譜!大年初一撞上七九,老輩人:60年頭回見

米果說識(shí)
2026-01-06 21:35:09
官方:成都蓉城簽下北京國安前鋒王子銘

官方:成都蓉城簽下北京國安前鋒王子銘

懂球帝
2026-01-06 17:21:08
剛抓完馬杜羅,特朗普又對(duì)印度撂下狠話,不到48小時(shí),莫迪要急了

剛抓完馬杜羅,特朗普又對(duì)印度撂下狠話,不到48小時(shí),莫迪要急了

烈史
2026-01-07 10:16:12
2026-01-07 11:35:00
通信世界 incentive-icons
通信世界
多維度 全媒體 整合傳播
12133文章數(shù) 30430關(guān)注度
往期回顧 全部

科技要聞

馬斯克殺瘋了!xAI官宣200億美元融資

頭條要聞

李文榮被公訴:泄露尚未公開企業(yè)重組信息 搞權(quán)色交易

頭條要聞

李文榮被公訴:泄露尚未公開企業(yè)重組信息 搞權(quán)色交易

體育要聞

全明星次輪票數(shù):東契奇票王 詹皇超KD升西部第8

娛樂要聞

2026年央視春晚彩排:沈騰確定回歸

財(cái)經(jīng)要聞

茅臺(tái)為何要和分銷商徹底說拜拜?

汽車要聞

摩登出街潮品 實(shí)拍奇瑞QQ冰淇淋女王版

態(tài)度原創(chuàng)

游戲
房產(chǎn)
時(shí)尚
本地
健康

小團(tuán)體鬧麻了!《黎明行者》稱本作吸血鬼會(huì)組團(tuán)爭(zhēng)斗

房產(chǎn)要聞

海珠雙冠王!中交天翠以強(qiáng)兌現(xiàn)力+生活溫度,筑就長期主義產(chǎn)品

冬天穿衣既要有溫度又要有風(fēng)度!看看這些穿搭,優(yōu)雅又顯瘦

本地新聞

云游內(nèi)蒙|初見呼和浩特,古今交融的北疆都會(huì)

這些新療法,讓化療不再那么痛苦

無障礙瀏覽 進(jìn)入關(guān)懷版