Nemotron 3 系列包括基于混合潛在專家混合（MoE）架構(gòu)的 Nano、Super 和 Ultra 型號(hào)的大語言模型。

NVIDIA 周一宣布了 NVIDIA Nemotron 3 系列開放模型、數(shù)據(jù)集和庫，旨在支持各行業(yè)透明高效多智能體 AI 系統(tǒng)的開發(fā)。

NVIDIA Nemotron 3 系列真面目

Nemotron 3系列包括基于混合潛在專家混合（MoE）架構(gòu)構(gòu)建的Nano、Super和Ultra模型，NVIDIA稱其旨在降低推理成本、限制上下文漂移并改善多個(gè)AI代理之間的協(xié)調(diào)。

NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛一貫表示，開放創(chuàng)新是人工智能進(jìn)步的基石?！巴ㄟ^Nemotron，我們將先進(jìn)的人工智能轉(zhuǎn)變?yōu)橐粋€(gè)開放平臺(tái)，為開發(fā)者提供大規(guī)模構(gòu)建代理系統(tǒng)所需的透明度和效率?！?/p>

3款大模型中，Nemotron 3 Nano 現(xiàn)已上市。它是一個(gè)擁有300億參數(shù)的模型，每個(gè)任務(wù)激活多達(dá)30億個(gè)參數(shù)，并針對(duì)低成本推理用例進(jìn)行了優(yōu)化，如軟件調(diào)試、匯總和人工智能助手。NVIDIA表示，該模型的令牌吞吐量是Nemotron 2 Nano的4倍，且推理令牌生成減少了多達(dá)60%。

Nemotron 3 Nano可在Hugging Face上使用，也可以通過Baseten、DeepInfra、Fireworks、FriendliAI、OpenRouter和Together AI等推理服務(wù)商訪問。該模型也作為 NVIDIA NIM 微服務(wù)提供，部署于 NVIDIA 加速基礎(chǔ)設(shè)施上。

Nemotron 3 Nano 也將在未來幾個(gè)月通過亞馬遜 Bedrock 在 AWS 上發(fā)布，并在多個(gè)云平臺(tái)上支持。

Nemotron 3 Super是一個(gè)約 1000 億參數(shù)的模型，設(shè)計(jì)用于需要低延遲的多智能體應(yīng)用，而 Nemotron 3 Ultra 則擁有約 5000 億參數(shù)，旨在深度推理和長(zhǎng)期規(guī)劃任務(wù)。

Super和Ultra都使用NVIDIA的4位NVFP4訓(xùn)練格式，在Blackwell GPU上降低內(nèi)存需求。這些型號(hào)預(yù)計(jì)將在2026年上半年上市。

除了這些模型，NVIDIA還發(fā)布了三萬億個(gè)預(yù)訓(xùn)練、訓(xùn)練后和強(qiáng)化學(xué)習(xí)數(shù)據(jù)集，其中包括用于評(píng)估多智能體系統(tǒng)的智能安全數(shù)據(jù)集。公司還開源了NeMo Gym、NeMo RL和NeMo Evaluator，以支持智能人工智能的培訓(xùn)、定制和評(píng)估。

NVIDIA推出Nemotron 3的三大期望

大家好奇的是英偉達(dá)作為GPU供應(yīng)商，為什么要推出LLM?

首先，英偉達(dá)希望接推出多個(gè)模型，協(xié)同工作，以處理復(fù)雜的工作流程，引領(lǐng)AI發(fā)展方向。

此次發(fā)布正值企業(yè)從單一AI聊天機(jī)器人向協(xié)作智能體系統(tǒng)邁進(jìn)之際，多個(gè)模型協(xié)同工作，處理復(fù)雜的工作流程。

據(jù)英偉達(dá)介紹，Nemotron 3允許開發(fā)者在同一工作流程中將任務(wù)路由到前沿專有模型和開放Nemotron模型之間，以平衡推理能力和成本效益。

其次，通過開放LLM，然不同的國(guó)家發(fā)展主權(quán)大模型。

NVIDIA表示，Nemotron 3系列還與其主權(quán)人工智能戰(zhàn)略相契合，允許政府和企業(yè)部署針對(duì)本地?cái)?shù)據(jù)、法規(guī)和政策需求的模型。公司表示，歐洲和韓國(guó)的組織正在采用開放模式。

第三，希望開源大模型帶動(dòng)企業(yè)AI的應(yīng)用。

包括埃森哲、德勤、安永、甲骨文云基礎(chǔ)設(shè)施、Palantir、Perplexity、ServiceNow、西門子、Synopsys和Zoom在內(nèi)的多家企業(yè)客戶和合作伙伴，正在將Nemotron模型整合進(jìn)涵蓋制造、網(wǎng)絡(luò)安全、軟件開發(fā)和通信的AI工作流程中。

Perplexity首席執(zhí)行官Aravind Srinivas表示，公司正在其代理路由系統(tǒng)中使用Nemotron以優(yōu)化性能。他說：“我們可以將工作負(fù)載引導(dǎo)到像Nemotron 3 Ultra這樣微調(diào)的開放模型上，或者在任務(wù)需要時(shí)使用專有模型?！?/p>

算力銷售、技術(shù)生態(tài)、市場(chǎng)競(jìng)爭(zhēng)力助力英偉達(dá)成功

另外，英偉達(dá)推出Nemotron 3系列開源大模型后，其相關(guān)應(yīng)用從算力銷售、技術(shù)生態(tài)、市場(chǎng)競(jìng)爭(zhēng)力等多個(gè)維度為自身發(fā)展提供強(qiáng)勁推力。

拉動(dòng)核心算力硬件銷量。Nemotron 3不同版本適配從輕量化到高精度的多樣任務(wù)，而這類開源大模型的訓(xùn)練、微調(diào)與推理，都高度依賴英偉達(dá)GPU等算力硬件。比如企業(yè)用Ultra版本開發(fā)自動(dòng)駕駛相關(guān)多智能體系統(tǒng)，初創(chuàng)公司基于Nano版本搭建醫(yī)療篩查原型，均需匹配對(duì)應(yīng)的英偉達(dá)算力設(shè)備。目前已有安永、西門子等12家領(lǐng)軍企業(yè)啟動(dòng)該模型集成，海量開發(fā)者和企業(yè)的應(yīng)用需求，將直接帶動(dòng)英偉達(dá)GPU及相關(guān)計(jì)算硬件的持續(xù)熱銷，鞏固其算力硬件市場(chǎng)的主導(dǎo)地位。

完善AI技術(shù)生態(tài)并反哺技術(shù)迭代。開源模式吸引了全球開發(fā)者和企業(yè)參與到Nemotron 3的優(yōu)化中。開發(fā)者在醫(yī)療、制造、網(wǎng)絡(luò)安全等不同場(chǎng)景應(yīng)用模型時(shí)，會(huì)反饋大量實(shí)際問題與優(yōu)化建議，這些來自真實(shí)場(chǎng)景的需求能幫助英偉達(dá)針對(duì)性完善模型的混合潛在專家架構(gòu)等核心技術(shù)，還能積累多領(lǐng)域的應(yīng)用數(shù)據(jù)。同時(shí)，該模型開源降低了AI開發(fā)門檻，讓更多主體加入其技術(shù)生態(tài)，進(jìn)一步擴(kuò)大英偉達(dá)在AI領(lǐng)域的技術(shù)影響力，強(qiáng)化其生態(tài)壁壘。

強(qiáng)化行業(yè)話語權(quán)并開拓新場(chǎng)景。Nemotron 3開源后成為多智能體AI系統(tǒng)開發(fā)的標(biāo)桿方案，其在多智能體協(xié)作中的通信協(xié)議優(yōu)化、上下文管理等技術(shù)設(shè)計(jì)，有望成為行業(yè)參考標(biāo)準(zhǔn)。而且模型在制造業(yè)質(zhì)量檢測(cè)、醫(yī)療診斷、審計(jì)自動(dòng)化等場(chǎng)景的落地應(yīng)用，幫助英偉達(dá)將技術(shù)影響力滲透到更多垂直行業(yè)。這既開拓了算力和模型服務(wù)的新市場(chǎng)，也讓英偉達(dá)在AI行業(yè)標(biāo)準(zhǔn)制定中擁有更多話語權(quán)，拉開與行業(yè)競(jìng)爭(zhēng)者的差距。

提振市場(chǎng)信心并提升品牌價(jià)值。開源大模型的動(dòng)作獲得了市場(chǎng)的積極反饋，模型發(fā)布后英偉達(dá)美股盤前漲幅就擴(kuò)大至1.5%，體現(xiàn)出投資者對(duì)其戰(zhàn)略的認(rèn)可。同時(shí)，Nemotron 3助力初創(chuàng)公司降低70%開發(fā)成本，幫助企業(yè)大幅提升工作效率，這類應(yīng)用成果會(huì)強(qiáng)化英偉達(dá)在AI領(lǐng)域的技術(shù)領(lǐng)先形象，提升品牌美譽(yù)度，進(jìn)而吸引更多合作伙伴與投資，形成良性發(fā)展循環(huán)。