国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

昇思MindSpore實現(xiàn)超節(jié)點的「類單機開發(fā)體驗」的三項關(guān)鍵能力

0
分享至

當(dāng)大模型進入十萬億參數(shù)、長序列、稀疏化和非規(guī)則結(jié)構(gòu)并行發(fā)展的階段,AI算力基礎(chǔ)設(shè)施正在發(fā)生一次根本性變化:從傳統(tǒng)服務(wù)器集群,演進為以高速互聯(lián)為核心的超節(jié)點架構(gòu)

2025年12月25日,昇思人工智能框架峰會在杭州召開。大會以“昇思MindSpore為超節(jié)點而生的AI框架”為主題,來自產(chǎn)業(yè)界、學(xué)術(shù)界和開源社區(qū)的多位嘉賓,從不同角度給出了一個共同判斷:AI基礎(chǔ)設(shè)施已經(jīng)進入超節(jié)點時代,而AI框架正站在范式切換的臨界點上。

超節(jié)點不再只是多臺服務(wù)器的簡單堆疊,而是通過高速互聯(lián),在邏輯層面“像一臺機器一樣學(xué)習(xí)、思考和推理”,具備資源池化、對等架構(gòu)與網(wǎng)絡(luò)拓撲分層多樣的特征。

昇思MindSpore開源社區(qū)技術(shù)委員會主席金雪鋒在演講中指出,大模型的演進正在同時帶來三重挑戰(zhàn):

  • 一是模型規(guī)模持續(xù)增長,片上內(nèi)存壓力急劇上升;

  • 二是模型結(jié)構(gòu)從單一語言模型走向全模態(tài),子模型組合更加復(fù)雜、不規(guī)則;

  • 三是訓(xùn)推范式趨于異構(gòu),訓(xùn)練、推理與Agent運行需要協(xié)同編排。

金雪鋒說,正是這些變化,推動AI基礎(chǔ)設(shè)施從“服務(wù)器集群時代”邁入“超節(jié)點時代”,AI框架將迎來新的架構(gòu)范式。

昇思MindSpore給出的答案是,把超節(jié)點當(dāng)作一臺“超級計算機”,在框架層面統(tǒng)一編程和調(diào)度,而不是讓開發(fā)者直接面對復(fù)雜的集群拓撲和并行細節(jié)。

這一判斷,也成為昇思MindSpore提出“為超節(jié)點而生”的核心邏輯起點。

HyperParallel架構(gòu):把復(fù)雜并行留給框架

“很多人聽過超節(jié)點,但并不真正理解超節(jié)點?!?/p>

在峰會之后的媒體溝通會上,現(xiàn)任昇思MindSpore開源社區(qū)理事長王紫東強調(diào)這一點。

在他的解釋中,超節(jié)點并不是簡單地把更多NPU卡堆在一起,而是通過超高帶寬互聯(lián),讓大量計算單元在邏輯層面形成一個高度耦合的整體??ㄅc卡之間不再是“慢速通信的鄰居”,而是隨時可調(diào)度的數(shù)據(jù)通路。

這一變化,直接服務(wù)于一個現(xiàn)實需求:模型太大了,大到必須極致并行。

當(dāng)模型被切分到數(shù)百、數(shù)千張卡上時,真正的瓶頸已經(jīng)不再是算力本身,而是:

?數(shù)據(jù)什么時候該在哪一張卡上

?狀態(tài)何時遷移

?通信與計算如何重疊

?并行策略如何隨模型結(jié)構(gòu)變化而調(diào)整

“硬件的性能上限提高了,但如果軟件跟不上,性能是用不出來的。”王紫東直言,超節(jié)點越強,對AI框架的要求反而越高。

昇思MindSpore提出了一個清晰而激進的定位——
把復(fù)雜留給自己,把簡單留給開發(fā)者。

在傳統(tǒng)集群時代,開發(fā)者往往需要手動理解并行策略、通信模式和硬件拓撲,而在超節(jié)點時代,這種模式已經(jīng)不可持續(xù)。集群拓撲越來越復(fù)雜,節(jié)點規(guī)模越來越大,如果復(fù)雜性繼續(xù)外溢到開發(fā)層,開發(fā)效率和穩(wěn)定性將迅速崩塌。

MindSpore的選擇,是讓AI框架本身承擔(dān)更多系統(tǒng)級責(zé)任,其目標,是讓開發(fā)者在超節(jié)點復(fù)雜算力環(huán)境中仍能保持“類單機”的開發(fā)體驗,而HyperParallel架構(gòu)正是實現(xiàn)這一目標的關(guān)鍵。

金雪鋒在峰會上系統(tǒng)拆解了HyperParallel的三項關(guān)鍵能力。

首先是 HyperOffload。

隨著模型規(guī)模持續(xù)擴大,片上內(nèi)存容量成為制約訓(xùn)練和推理的重要瓶頸。HyperOffload通過實現(xiàn)計算與狀態(tài)分離,利用超節(jié)點的池化存儲能力,將模型狀態(tài)卸載到遠端內(nèi)存中,從而釋放片上資源。在實際應(yīng)用中,MindSpore給出的數(shù)據(jù)是:訓(xùn)練性能提升20%以上,推理支持的序列長度提升70%以上,這不是簡單的“搬數(shù)據(jù)”,而是對計算時序的精確調(diào)度。

其次是 HyperMPMD。

SPMD曾經(jīng)是AI并行的黃金標準,但在多模態(tài)、強化學(xué)習(xí)、Agent 等場景下,它開始顯得僵硬。HyperMPMD推動并行從 “所有節(jié)點做同一件事”,走向 “不同節(jié)點做不同任務(wù)”,這種 MPMD 模式,充分利用了超節(jié)點對等互聯(lián)的優(yōu)勢,讓通算并發(fā)成為常態(tài),在相關(guān)場景中,算力利用率可提升 15% 以上。

第三是 HyperShard。

在傳統(tǒng)命令式并行編程中,算法、并行策略與集群架構(gòu)高度耦合,新模型一旦出現(xiàn),往往需要對并行方案進行大規(guī)模重構(gòu)。HyperShard引入聲明式并行編程方式,將算法與并行策略解耦,同時屏蔽底層超節(jié)點網(wǎng)絡(luò)拓撲的復(fù)雜性。金雪鋒表示,在這一模式下,新算法的并行化改造時間可以壓縮到1天以內(nèi),并行策略調(diào)優(yōu)從“天級”縮短至“小時級”。

從HyperOffload到HyperMPMD,再到HyperShard,昇思MindSpore的目標并非單點性能提升,而是讓超節(jié)點的復(fù)雜性由框架消化,而不是由開發(fā)者承擔(dān)。

五年開源積累:超節(jié)點能力為何離不開社區(qū)

MindSpore為什么“突然變好用了”?

現(xiàn)任昇思MindSpore開源社區(qū)理事長王紫東并沒有從性能參數(shù)或功能列表切入,而是給出了一個并不“市場化”的判斷標準——社區(qū)Issue的自閉環(huán)率。

在他看來,一個健康的AI框架社區(qū),并不是依賴官方不斷“救火”,而是開發(fā)者之間能夠圍繞問題展開討論,自主定位原因、提交修復(fù),并通過PR形成持續(xù)正反饋。“問題能不能在社區(qū)內(nèi)部被解決,往往比解決得有多快更重要?!蓖踝蠔|說。

也正是在這一意義上,他將MindSpore五年來最重要的成果,歸結(jié)為兩個字:社區(qū)。

華為于2020年3月28日正式開源昇思MindSpore。五年來,這一社區(qū)逐步形成規(guī)模效應(yīng):覆蓋全球156個國家和地區(qū),累計下載量超過1300萬次,代碼合入量超過12萬次,核心貢獻開發(fā)者超過5.2萬人,并聯(lián)合2000多家社區(qū)伙伴,孵化出3100多個行業(yè)應(yīng)用。

這些數(shù)字本身并不新鮮,但它們背后所指向的,是一條已經(jīng)被反復(fù)驗證的路徑——自主AI框架并非封閉體系,而可以通過開放協(xié)作,形成持續(xù)演進的技術(shù)能力。

時任昇思MindSpore開源社區(qū)理事長丁誠在峰會上表示,昇思始終堅持開放治理,踐行“共建、共治、共享”的社區(qū)理念。一方面持續(xù)推進框架技術(shù)演進,另一方面也通過課程、競賽和工程實踐,支持AI人才從入門到深度參與開源生態(tài),逐步成長為產(chǎn)業(yè)中的中堅力量。

當(dāng)這種社區(qū)能力與超節(jié)點架構(gòu)結(jié)合時,其價值開始在真實工程場景中顯現(xiàn)。

中國工程院院士、中國商飛首席科學(xué)家吳光輝在演講中介紹,中國商飛上海飛機設(shè)計研究院基于昇思MindSpore框架,推出了民機超臨界翼型氣動設(shè)計智能體“御風(fēng)·智翼”,構(gòu)建了基于工程經(jīng)驗的超臨界翼型智能一站式解決方案。

吳光輝指出,大飛機是“工業(yè)皇冠上的明珠”,而飛機氣動設(shè)計直接決定民用飛機的關(guān)鍵性能,通過將AI框架與工程經(jīng)驗深度結(jié)合,相關(guān)設(shè)計研發(fā)正在向更加智能化、一體化的方向演進。這一實踐,也成為昇思MindSpore在復(fù)雜工程領(lǐng)域落地的一個縮影。

從服務(wù)器集群到超節(jié)點,從單一模型訓(xùn)練到多任務(wù)并行運行,AI 算力形態(tài)正在發(fā)生根本性變化。在這條變化曲線上,AI框架的角色也隨之轉(zhuǎn)變——它不再只是“讓模型跑起來”的工具,而正在演變?yōu)檫B接算力、模型與應(yīng)用的組織者。

昇思MindSpore給出的選擇,是將超節(jié)點帶來的復(fù)雜性盡可能收斂到框架內(nèi)部,讓開發(fā)者不必直接面對集群拓撲與并行細節(jié),也不必在模型結(jié)構(gòu)變化時反復(fù)推倒重來。

這種選擇并不輕松。它意味著更重的系統(tǒng)工程投入、更長周期的技術(shù)積累,也意味著必須依托一個真實活躍的開源社區(qū),在實踐中不斷校正方向。

但在超節(jié)點逐漸成為主流算力形態(tài)、Agent 與多任務(wù)運行走向常態(tài)的背景下,AI 框架是否具備“消化復(fù)雜性”的能力,正在成為新的分水嶺。

或許正是在這個意義上,昇思 MindSpore 圍繞超節(jié)點與開源展開的探索,并不是一次孤立的技術(shù)發(fā)布,而是一種關(guān)于AI框架如何參與下一輪算力演進的現(xiàn)實回答。

雷峰網(wǎng)(雷峰網(wǎng))

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
國產(chǎn)香煙加了助燃劑?測試發(fā)現(xiàn)只能燒4分鐘,而日本煙能燒7分鐘

國產(chǎn)香煙加了助燃劑?測試發(fā)現(xiàn)只能燒4分鐘,而日本煙能燒7分鐘

回旋鏢
2026-01-01 21:00:24
深圳要率先取消中考?

深圳要率先取消中考?

Dr小魚
2026-01-07 10:11:23
6年了,郭麒麟的反擊幾乎斷送了朱亞文的演藝生涯

6年了,郭麒麟的反擊幾乎斷送了朱亞文的演藝生涯

小熊侃史
2025-12-25 11:24:12
TOP14位身高170以上的女神,有顏有燈有演技

TOP14位身高170以上的女神,有顏有燈有演技

素然追光
2026-01-02 02:45:02
36年前陳寶國主演的盜墓恐怖片!尺度大到少兒不宜

36年前陳寶國主演的盜墓恐怖片!尺度大到少兒不宜

釋凡電影
2025-08-14 09:33:19
省委書記不打招呼、直奔現(xiàn)場

省委書記不打招呼、直奔現(xiàn)場

新京報政事兒
2026-01-06 22:37:08
開門紅!烏軍單日收復(fù)28平方公里,美軍抓走馬杜羅驚悸歐洲多國

開門紅!烏軍單日收復(fù)28平方公里,美軍抓走馬杜羅驚悸歐洲多國

史政先鋒
2026-01-06 21:08:51
再摳門,也不要在網(wǎng)上買這6樣?xùn)|西,會致癌,看完真會后怕的!

再摳門,也不要在網(wǎng)上買這6樣?xùn)|西,會致癌,看完真會后怕的!

古事尋蹤記
2026-01-07 07:18:22
委代總統(tǒng)投降,美國政府已接盤,王毅通知各國,中方甩出一紙憲章

委代總統(tǒng)投降,美國政府已接盤,王毅通知各國,中方甩出一紙憲章

丁羂解說
2026-01-06 12:43:01
“遙遙領(lǐng)先”最多挺3個月?馬斯克確認,滿血FSD入華障礙已掃除

“遙遙領(lǐng)先”最多挺3個月?馬斯克確認,滿血FSD入華障礙已掃除

小李車評李建紅
2026-01-06 07:30:03
強大德軍成片凍死在莫斯科時,為何不燒樹木取暖?蘇聯(lián)人做法很絕

強大德軍成片凍死在莫斯科時,為何不燒樹木取暖?蘇聯(lián)人做法很絕

云霄紀史觀
2026-01-06 01:56:08
英法德意等歐洲七國領(lǐng)導(dǎo)人發(fā)布聯(lián)合聲明:格陵蘭島屬于其人民

英法德意等歐洲七國領(lǐng)導(dǎo)人發(fā)布聯(lián)合聲明:格陵蘭島屬于其人民

環(huán)球網(wǎng)資訊
2026-01-06 21:26:12
今年1-3月,鴻運當(dāng)頭!3大生肖橫財入宅,事業(yè)順遂福星高照

今年1-3月,鴻運當(dāng)頭!3大生肖橫財入宅,事業(yè)順遂福星高照

毅談生肖
2026-01-07 12:13:54
好諷刺!司曉迪發(fā)照片爆料鹿晗!關(guān)曉彤發(fā)的帖文錘了就是鹿晗家

好諷刺!司曉迪發(fā)照片爆料鹿晗!關(guān)曉彤發(fā)的帖文錘了就是鹿晗家

小邵說劇
2026-01-06 14:02:49
涉馬杜羅指控出現(xiàn)反轉(zhuǎn):美司法部不再將“太陽集團”視為真實販毒組織

涉馬杜羅指控出現(xiàn)反轉(zhuǎn):美司法部不再將“太陽集團”視為真實販毒組織

紅星新聞
2026-01-06 17:28:19
河南多地夜空驚現(xiàn)“神秘光點”,成串排列、快速移動,天文專家回應(yīng)

河南多地夜空驚現(xiàn)“神秘光點”,成串排列、快速移動,天文專家回應(yīng)

魯中晨報
2026-01-07 11:41:10
52歲復(fù)出屠榜?這位阿姨才是真正的業(yè)界鋼鐵俠!

52歲復(fù)出屠榜?這位阿姨才是真正的業(yè)界鋼鐵俠!

素然追光
2026-01-06 05:50:03
笑笑無緣國少,王楠發(fā)聲,官宣決定,拒絕走后門進隊,郭斌表態(tài)

笑笑無緣國少,王楠發(fā)聲,官宣決定,拒絕走后門進隊,郭斌表態(tài)

樂聊球
2026-01-06 12:14:06
政協(xié)上海市委員會界別和地區(qū)工作委員會原專職副主任吉玉萍被雙開

政協(xié)上海市委員會界別和地區(qū)工作委員會原專職副主任吉玉萍被雙開

界面新聞
2026-01-06 17:07:36
老人離世切記:別先聯(lián)系殯儀館,第一步錯了,子女白忙活還多花

老人離世切記:別先聯(lián)系殯儀館,第一步錯了,子女白忙活還多花

好笑娛樂君每一天
2026-01-05 12:15:02
2026-01-07 13:52:49
雷峰網(wǎng) incentive-icons
雷峰網(wǎng)
關(guān)注智能與未來!
68280文章數(shù) 656049關(guān)注度
往期回顧 全部

科技要聞

豪擲世界第一"球" 楊元慶亮出聯(lián)想AI護城河

頭條要聞

外媒披露美國在委內(nèi)瑞拉下個目標:系馬杜羅關(guān)鍵盟友

頭條要聞

外媒披露美國在委內(nèi)瑞拉下個目標:系馬杜羅關(guān)鍵盟友

體育要聞

全明星次輪票數(shù):東契奇票王 詹皇超KD升西部第8

娛樂要聞

2026年央視春晚彩排:沈騰確定回歸

財經(jīng)要聞

50萬億存款"洪流"將至 四大去向引關(guān)注

汽車要聞

蔚來2025百萬臺收官 一場遲到的自我修復(fù)

態(tài)度原創(chuàng)

數(shù)碼
教育
手機
時尚
軍事航空

數(shù)碼要聞

“最強驍龍筆記本”:華碩推出Zenbook A16

教育要聞

三年級培優(yōu)題:求A、B、C分別是多少

手機要聞

因內(nèi)存價格飆升,iPhone 18大容量版售價或?qū)⑸蠞q

冬天穿衣既要有溫度又要有風(fēng)度!看看這些穿搭,優(yōu)雅又顯瘦

軍事要聞

特朗普政府正在討論獲取格陵蘭島的方案 包括軍事選項

無障礙瀏覽 進入關(guān)懷版