編者按：

寧暢的“全局智算”戰(zhàn)略，以其前瞻的洞察力與強大的執(zhí)行力，為企業(yè)鋪就了一條直達(dá)人工智能核心價值的高速通道，顯著提升數(shù)據(jù)利用效率，精準(zhǔn)驅(qū)動業(yè)務(wù)創(chuàng)新，有力支撐戰(zhàn)略決策，確保企業(yè)在數(shù)字化轉(zhuǎn)型和打造新質(zhì)生產(chǎn)力的浪潮中穩(wěn)立潮頭，實現(xiàn)智慧化運營的全方位升級與可持續(xù)競爭優(yōu)勢的確立。

大模型落地千行百業(yè)的蓬勃發(fā)展，不僅是技術(shù)進(jìn)步的象征，更代表著數(shù)字化時代產(chǎn)業(yè)變革的新高度與新視野。

大模型的廣泛應(yīng)用，不僅提升了各行業(yè)的決策精度和運營效率，更在催生新業(yè)態(tài)、新模式，引領(lǐng)著新一輪的產(chǎn)業(yè)革命。

但是，正如硬幣有兩面，大模型落地各行業(yè)同時面臨著新的挑戰(zhàn)。

在算力、算效、精度、能耗之外，挑戰(zhàn)還有許多……但是，“木桶”缺不了任何“短板”。

寧暢全局智算能力圖

為大模型落地指明方向

“在大模型的閃耀在聚光燈下，百花齊放的背后，是不同的發(fā)展階段的客戶涌現(xiàn)出來的對于AI支撐能力體系愈發(fā)復(fù)雜的需求?！睂帟晨偛们貢詫幈硎?。

寧暢總裁秦曉寧

在大模型的發(fā)展之路上，如何建立起一套全面的AI的支撐能力體系？這是當(dāng)下急需要解決的問題。

寧暢的答案是：“全局智算”。

“全局智算”戰(zhàn)略可以看作是寧暢用系統(tǒng)性對抗不確定性的邏輯能力圖譜，一共分了六個層面。

寧暢全局智算能力圖，呈現(xiàn)了一個自下而上、層層遞進(jìn)的AI系統(tǒng)架構(gòu)。這一架構(gòu)全面覆蓋了從應(yīng)用實現(xiàn)到硬件支撐的所有關(guān)鍵環(huán)節(jié)，體現(xiàn)了各層次之間的緊密協(xié)作與相互依賴，共同構(gòu)筑了一個高效、穩(wěn)定和易于擴展的AI生態(tài)。

首先，作為整個架構(gòu)基石的AI硬件資源層，提供了堅實的硬件支撐。算力服務(wù)器、高速存儲、先進(jìn)的并行文件系統(tǒng)，以及Infiniband、ROCE等高性能網(wǎng)絡(luò)技術(shù)的融入，不僅確保了數(shù)據(jù)的高速處理和傳輸，也為AI系統(tǒng)的性能發(fā)揮設(shè)定了高標(biāo)準(zhǔn)的上限。

AI集群設(shè)計層著眼于AI集群的精細(xì)構(gòu)造。這包括了微架構(gòu)級的深入解析、AI集群網(wǎng)絡(luò)及存儲架構(gòu)的優(yōu)化設(shè)計，以及針對AI模型特性的細(xì)致分析等。這些設(shè)計上的考量，確保AI集群能夠在高效運行的同時，也具備良好的可擴展性。

進(jìn)入到AI算子優(yōu)化層，專注于系統(tǒng)工程層面的優(yōu)化。涵蓋了資產(chǎn)及集群方案的設(shè)計管理、監(jiān)控體系的建立，以及基于模型性能的精細(xì)化優(yōu)化等。這些工作為AI系統(tǒng)的穩(wěn)定性和可靠性提供了有力的保障。

AI中臺層則為上層應(yīng)用提供了強大的平臺和運營管理支持。NVAIE AI平臺與Nettrix Al Operation & Management服務(wù)便是其中的佼佼者。這些服務(wù)不僅優(yōu)化了基礎(chǔ)算子的深度，還為AI基礎(chǔ)運行時提供了堅實的支撐，有效地充當(dāng)了AI應(yīng)用與底層硬件之間的橋梁。

接下來的AI業(yè)務(wù)層，聚焦于AI系統(tǒng)性能的調(diào)優(yōu)及模型的研發(fā)。Nettrix通過與業(yè)內(nèi)領(lǐng)先公司的緊密合作，實施了包括全面性能分析、大規(guī)模模型并行優(yōu)化在內(nèi)的多項措施。這些舉措的核心目的在于，通過不斷精進(jìn)的算法和模型，提升AI系統(tǒng)的整體運行效能。

最后，AI場景層代表了人工智能技術(shù)的多元應(yīng)用領(lǐng)域。這些領(lǐng)域包括數(shù)字金融、智能駕駛、智能制造、智慧科研、生物醫(yī)療、智慧通信及智慧政務(wù)等。每一個場景都根據(jù)自身的業(yè)務(wù)特性和需求，對AI算力提出了不同的性能、響應(yīng)時間和數(shù)據(jù)處理要求。

總結(jié)來說，寧暢全局智算能力圖揭示了一個層次清晰、結(jié)構(gòu)嚴(yán)謹(jǐn)?shù)腁I系統(tǒng)架構(gòu)。每一層次都承載著特定的功能和任務(wù)，相互之間的協(xié)同作用，使得整個系統(tǒng)能夠在不同應(yīng)用場景中靈活應(yīng)對，同時保持著卓越的性能和穩(wěn)固的可靠性。

這是業(yè)內(nèi)首次有算力廠商發(fā)布全局智能算力布局圖。

在復(fù)雜的需求面前，寧暢將以全面AI支撐能力覆蓋大模型發(fā)展的全生命周期的需求，從而可以解決客戶復(fù)雜系統(tǒng)性的大模型落地問題。不僅深刻展現(xiàn)了寧暢對智算行業(yè)發(fā)展的全面理解，更為產(chǎn)業(yè)的持續(xù)創(chuàng)新和進(jìn)步指明了方向，注入了新的動力，加速了業(yè)務(wù)創(chuàng)新。

“六全”算力棧打樣

業(yè)務(wù)創(chuàng)新可觸摸

如果用最簡練最直接的詞匯來總結(jié)這張智能算力布局圖，那就是，全體系、全液冷、全服務(wù)、全場景、全行業(yè)、全階段。

通過了軟硬件兼?zhèn)涞娜w系以及業(yè)界領(lǐng)先的液冷全產(chǎn)品家族，可以提供從咨詢、測試、運維、售后的全服務(wù)場景，滿足客戶從大模型的開發(fā)、適配、部署、全場景的全行業(yè)的需求，并且根據(jù)客戶發(fā)展不同階段，提供寧暢定制化服務(wù)，在“全局智算”的階段，寧暢會提供專業(yè)的極具性價比定制化智算部署的方案。

這里以車企自動化駕駛案例可以參考。

首先，寧暢在構(gòu)建算力系統(tǒng)時，實施了千節(jié)點互聯(lián)的解決方案，并配備了液冷整機柜產(chǎn)品。這種設(shè)計極大地方便了系統(tǒng)的運維和部署工作，因為其支持電液盲插功能。

在軟件層面，考慮到自動駕駛對實時性和低延遲的極高要求，寧暢的AI軟件棧為自動駕駛特有算法和模型提供了優(yōu)化后的深度學(xué)習(xí)框架和加速庫，這些優(yōu)化措施涵蓋了為自動駕駛場景定制的預(yù)訓(xùn)練模型、模型壓縮技術(shù)、加速技術(shù)，以及對車輛專用硬件平臺進(jìn)行深度優(yōu)化的學(xué)習(xí)庫。

為了保障自動駕駛系統(tǒng)的安全性，汽車制造商需要進(jìn)行大量的模擬測試。寧暢的AI軟件棧中包含了功能強大的模擬和測試工具，這些工具能夠支持虛擬環(huán)境的創(chuàng)建、場景再現(xiàn)，以及測試用例的自動生成和執(zhí)行。

此外，針對自動駕駛企業(yè)需要處理和標(biāo)注海量數(shù)據(jù)的問題，寧暢提供了數(shù)據(jù)預(yù)處理和自動標(biāo)注等支持，從而有效提高了數(shù)據(jù)利用效率，并加速了模型訓(xùn)練過程。

在這個案例中，當(dāng)復(fù)雜的客戶的需求不斷涌現(xiàn)，涉及到了算法、算力、數(shù)據(jù)三個維度，算效、精度和服務(wù)等俱多方面。寧暢希望在“全局智算”戰(zhàn)略指引下提供具備六個“全”特點的能力矩陣，向上去解決極致算效、精度增強、高效穩(wěn)定三個復(fù)雜的客戶問題，向下去賦能客戶的千行百業(yè)，讓大模型真的落地成為各行各業(yè)的新質(zhì)生產(chǎn)力。

作為“全局戰(zhàn)略”落地的重要組成部分，國內(nèi)首個AI算力棧——寧暢NEX AI Lab（Nettrix AI Open Lab）已在桐鄉(xiāng)市成功落地并開放預(yù)約試用，用以展現(xiàn)應(yīng)用場景優(yōu)化、行業(yè)智算定制解決方案，通過免費提供軟、硬件服務(wù)，帶來大模型、數(shù)據(jù)科學(xué)、推薦系統(tǒng)等解決方案工作流的先進(jìn)體驗。

具體來說，寧暢的AI算力棧集成了其在AI計算領(lǐng)域的軟硬件能力，包括計算、存儲、網(wǎng)絡(luò)、建設(shè)、管理、應(yīng)用及液冷等全方位需求。這樣的設(shè)計使得AI算力棧能夠為大模型的開發(fā)、適配、部署等全場景需求提供有力支持，并幫助用戶極速推進(jìn)AI應(yīng)用開發(fā)及管理。

算力棧其實是為用戶提供業(yè)務(wù)創(chuàng)新的實驗場。它就像一個強大的“智能廚房”，為用戶提供了豐富的“食材”和“廚具”。用戶可以根據(jù)自己的需求和創(chuàng)意，在這個實驗場中烹飪出各種美味的“創(chuàng)新大餐”。真正做到可定制、可量化、可觸摸、可觀測。

結(jié) 語

寧暢提出的“全局智算”戰(zhàn)略：

以全棧協(xié)同強調(diào)軟硬件全體系的深度融合，顯著提升了AI系統(tǒng)的整體效能與響應(yīng)速度。

以全液冷賦能持續(xù)深化液冷技術(shù)的應(yīng)用，全為大規(guī)模AI訓(xùn)練與推理作業(yè)提供了堅實的支撐。

以全場景覆蓋瞄準(zhǔn)全行業(yè)用戶的全場景需求提供定制化的解決方案，助力各領(lǐng)域企業(yè)跨越AI技術(shù)門檻，快速實現(xiàn)業(yè)務(wù)智能化升級。

以全流程服務(wù)從咨詢規(guī)劃到運維管理的全流程服務(wù)體系確保AI項目的成功落地與持續(xù)優(yōu)化。

寧暢的“全局智算”戰(zhàn)略憑借全局視野與創(chuàng)新領(lǐng)導(dǎo)力，成功塑造了一個立體、完整且具有高度前瞻性的AI計算解決方案框架，為行業(yè)樹立了智能計算的新標(biāo)桿，為大模型落地千行百業(yè)指了條明路。