整理｜冬梅

2026 年開年第一天，DeepSeek 又“整活兒了”！

DeepSeek發(fā)布了一篇重要學(xué)術(shù)論文，提出了一種名為mHC（Manifold-Constrained Hyper-Connections，流形約束超連接）的新型網(wǎng)絡(luò)架構(gòu)。該研究旨在解決現(xiàn)有超連接（HC）架構(gòu)在大規(guī)模模型訓(xùn)練中存在的數(shù)值不穩(wěn)定和信號爆炸等瓶頸，同時保留其性能提升優(yōu)勢，成為新一代基礎(chǔ)模型設(shè)計的潛在方向。

論文題為 “mHC: Manifold-Constrained Hyper-Connections”，已于 2025 年底發(fā)布在 arXiv、Huggingface 平臺，并迅速引起業(yè)界關(guān)注。論文由 Zhenda Xie、Yixuan Wei 和 Huanqi Cao 等人擔(dān)任第一作者，DeepSeek 創(chuàng)始人兼 CEO梁文鋒也列于作者名單中。

論文地址：https://arxiv.org/pdf/2512.24880

1架構(gòu)創(chuàng)新解決了什么問題

這篇論文中提到，傳統(tǒng) Transformer 網(wǎng)絡(luò)中的殘差連接結(jié)構(gòu)（即 x + F(x)）因能維持恒等映射而保證信號穩(wěn)定傳遞，是深度學(xué)習(xí)模型得以順利訓(xùn)練的核心機(jī)制之一。然而，近年來提出的Hyper-Connections（超連接）雖然拓寬了殘差流通道并增強(qiáng)了表達(dá)能力，但其無約束的連接矩陣破壞了恒等映射特性，在大規(guī)模訓(xùn)練中經(jīng)常導(dǎo)致信號爆炸或梯度異常，影響訓(xùn)練穩(wěn)定性和可擴(kuò)展性。

DeepSeek 提出的mHC通過引入一種幾何約束的思路，將傳統(tǒng) HC 的殘差映射空間投影到特定的流形上，將連接矩陣限制在雙隨機(jī)矩陣（Birkhoff 多胞形）流形內(nèi)。這一投影不僅恢復(fù)了恒等映射性質(zhì)，還在數(shù)學(xué)上保證了信號范數(shù)的穩(wěn)定性，有效避免了信號放大和梯度爆炸等數(shù)值問題。

核心技術(shù)實現(xiàn)上，研究團(tuán)隊采用了Sinkhorn-Knopp 算法進(jìn)行投影約束，并結(jié)合內(nèi)核融合、重計算和通信重疊等基礎(chǔ)設(shè)施層面的優(yōu)化手段，控制系統(tǒng)開銷，從工程角度確保訓(xùn)練效率不會顯著下降。

這款新架構(gòu)“解決了什么問題”？在弄清楚這件事之前，首先是要搞清楚問題從哪里來：為什么傳統(tǒng) Hyper-Connections 會失控？

傳統(tǒng) Transformer 殘差連接之所以能夠支撐極深網(wǎng)絡(luò)，其關(guān)鍵并不只是“有殘差”，而在于殘差結(jié)構(gòu)中天然存在一個權(quán)重為 1 的恒等映射通路，這使得無論子模塊在訓(xùn)練早期表現(xiàn)如何，主信號都可以穩(wěn)定向前傳播，信號范數(shù)不會隨著層數(shù)增加而系統(tǒng)性放大或衰減。

超連接（Hyper-Connections）在此基礎(chǔ)上進(jìn)一步放寬結(jié)構(gòu)假設(shè)，將單一殘差流擴(kuò)展為多條并行殘差流，并通過一個可學(xué)習(xí)的連接矩陣在不同流之間進(jìn)行線性組合，從表達(dá)能力角度看更具潛力，但問題也正是出在這里：當(dāng)連接矩陣完全自由學(xué)習(xí)時，它不再保證包含恒等映射成分，其譜性質(zhì)也無法受到約束，在大規(guī)模訓(xùn)練中極易導(dǎo)致信號放大、梯度爆炸或數(shù)值不穩(wěn)定，這也是超連接在小模型中有效、但在十億甚至百億參數(shù)規(guī)模上頻繁失效的根本原因。

mHC 的核心思路并不是否定多流殘差，而是通過引入幾何約束，重新為這種復(fù)雜連接結(jié)構(gòu)建立穩(wěn)定性邊界。DeepSeek 將跨流連接矩陣的可行空間限制在雙隨機(jī)矩陣所構(gòu)成的流形上，即要求矩陣的每一行和每一列元素之和都為 1，且所有元素非負(fù)。

這一約束對應(yīng)于數(shù)學(xué)上的 Birkhoff 多胞形，其關(guān)鍵性質(zhì)在于：單位矩陣本身就是雙隨機(jī)矩陣，因此傳統(tǒng)殘差結(jié)構(gòu)仍然是該空間中的一個特例；同時，雙隨機(jī)矩陣的最大特征值為 1，意味著其不會系統(tǒng)性放大信號范數(shù)，本質(zhì)上只能在不同殘差流之間重新分配權(quán)重，而不能憑空放大或削弱整體能量。通過這種方式，多流超連接在保留表達(dá)靈活性的同時，重新獲得了與經(jīng)典殘差連接相近的穩(wěn)定性基礎(chǔ)。

在實現(xiàn)層面，mHC 并未直接在受約束空間內(nèi)進(jìn)行復(fù)雜優(yōu)化，而是采用了工程上成熟且可微的 Sinkhorn-Knopp 算法，對無約束的連接矩陣進(jìn)行投影。

訓(xùn)練過程中，模型首先學(xué)習(xí)一個普通實值矩陣，然后在每次前向傳播前，通過有限步 Sinkhorn 歸一化，將其投影為近似雙隨機(jī)矩陣，從而保證連接始終位于安全的流形之內(nèi)。由于 Sinkhorn-Knopp 算法本身計算結(jié)構(gòu)簡單、數(shù)值穩(wěn)定，并且可以與主干計算進(jìn)行融合和重疊，其引入的額外開銷在整體訓(xùn)練中是可控的。

論文披露的實驗結(jié)果顯示，在 3B、9B 乃至 27B 參數(shù)規(guī)模下，mHC 不僅避免了傳統(tǒng)超連接中常見的訓(xùn)練不收斂問題，還在多個任務(wù)上維持甚至提升了性能表現(xiàn)，表明這種“硬約束式”的幾何投影在大模型場景中具有現(xiàn)實可行性。

從更宏觀的角度看，mHC 的意義并不在于提出一種立刻取代 Transformer 的新范式，而在于為復(fù)雜殘差拓?fù)涞倪M(jìn)一步探索提供了一種可擴(kuò)展的理論與工程框架。

它表明，在大規(guī)模模型訓(xùn)練中，單純依賴正則項或經(jīng)驗性初始化往往不足以抵御數(shù)值不穩(wěn)定，而將模型結(jié)構(gòu)顯式限制在具備良好譜性質(zhì)的幾何空間內(nèi)，反而能夠系統(tǒng)性地解決穩(wěn)定性問題。這一思路為未來更復(fù)雜的多流、多路徑網(wǎng)絡(luò)設(shè)計打開了空間，也為如何在“更強(qiáng)表達(dá)能力”與“可控可訓(xùn)性”之間取得平衡，提供了一種具有啟發(fā)意義的解法。

2 網(wǎng)友怎么看？

論文發(fā)布后，在人工智能研究者與產(chǎn)業(yè)從業(yè)者中引發(fā)了廣泛討論。

多位業(yè)內(nèi)人士在社交平臺和技術(shù)社區(qū)中對 DeepSeek 提出的 mHC 架構(gòu)進(jìn)行了分析與解讀，討論重點集中在其對傳統(tǒng) Transformer 殘差連接方式的改動，以及該方法在大模型擴(kuò)展性和訓(xùn)練成本控制方面的潛在意義。也有觀點指出，DeepSeek 近年來持續(xù)通過公開論文釋放技術(shù)信號，其研究方向往往與后續(xù)模型迭代節(jié)奏密切相關(guān)。

在領(lǐng)英平臺，有用戶認(rèn)為，這件事說明了一個趨勢，中國 AI 公司之間越來越愿意把研究成果公開出來，這反映出中國人工智能公司之間日益開放、協(xié)作的文化。他感慨道：

中國人工智能初創(chuàng)公司 DeepSeek 在創(chuàng)始人梁文鋒參與撰寫的一份新論文中迎來了 2026 年。這篇論文建議重新思考用于訓(xùn)練基礎(chǔ)人工智能模型的基本架構(gòu)。這種名為 mHC 的方法，是這家杭州公司推動其模型更具成本效益的部分努力。DeepSeek 試圖以此跟上資金更充裕、算力獲取途徑更深的其他競爭對手的步伐。

這也反映出中國人工智能公司之間日益開放、協(xié)作的文化，這些公司公開發(fā)表的研究成果所占比例越來越高。對于行業(yè)觀察人士來說，DeepSeek 的論文往往為其下一個重要模型發(fā)布所采用的工程選擇，提供了重要的早期信號。

在 2026 年 1 月 1 日（周四）發(fā)布的一篇論文中，DeepSeek 的 19 名研究人員組成的團(tuán)隊表示，他們在擁有 30 億、90 億和 270 億參數(shù)的模型上測試了“流形約束超連接”方法，發(fā)現(xiàn)其擴(kuò)展性良好，且沒有增加顯著的計算負(fù)擔(dān)。

在 Reddit 平臺，新年第一天就看到這類研究成果發(fā)布，令人印象深刻。

Reddit 用戶名為 SlowFail2433 的用戶是一位長期從事深度學(xué)習(xí)研究的評論者，他指出，在深層神經(jīng)網(wǎng)絡(luò)中，如果缺乏恒等殘差連接，梯度往往會出現(xiàn)不穩(wěn)定甚至“崩潰”的問題，這一現(xiàn)象不僅存在于大語言模型中，在卷積神經(jīng)網(wǎng)絡(luò)，尤其是 ResNet 架構(gòu)中同樣普遍。因此，如果 DeepSeek 提出的“流形約束超連接”方法能夠在保持穩(wěn)定性的同時實現(xiàn)良好擴(kuò)展，其意義不容小覷。

不過他也強(qiáng)調(diào)，該論文在數(shù)學(xué)推導(dǎo)和底層實現(xiàn)上都具有較高復(fù)雜度。他表示：

為了保證效率，研究團(tuán)隊在 CUDA 內(nèi)核層面進(jìn)行了算子融合，并對訓(xùn)練流水線進(jìn)行了專門優(yōu)化，這類工作對工程能力提出了較高要求。有評論者直言，僅完全理解論文內(nèi)容就可能需要數(shù)周時間，不過在進(jìn)一步研讀后發(fā)現(xiàn)，其核心主要圍繞投影矩陣與流形約束展開，并非不可實現(xiàn)。

技術(shù)人的年度儀式感！ 年度盤點與趨勢洞察 啟動！

《2025 年度盤點與趨勢洞察》由 InfoQ 技術(shù)編輯組策劃。覆蓋大模型、Agent、具身智能、AI Native 開發(fā)范式、AI 工具鏈與開發(fā)、AI+ 傳統(tǒng)行業(yè)等方向，通過長期跟蹤、與業(yè)內(nèi)專家深度訪談等方式，對重點領(lǐng)域進(jìn)行關(guān)鍵技術(shù)進(jìn)展、核心事件和產(chǎn)業(yè)趨勢的洞察盤點。

力求以體系化視角幫助讀者理解年度技術(shù)演化的底層邏輯、創(chuàng)新方向與落地價值，并為新一年決策提供參考。內(nèi)容將在 InfoQ 媒體矩陣陸續(xù)放出，歡迎大家持續(xù)關(guān)注。