北京
AIPress.com.cn報道
2月28日消息，據(jù)《華爾街日報》披露，OpenAI將導(dǎo)入英偉達最新基于Groq技術(shù)的AI推理芯片。
英偉達計劃在下個月于圣何塞舉辦的 GTC 開發(fā)者大會上，發(fā)布一款全新的處理器。這款產(chǎn)品的核心使命非常明確：全力加速 AI 推理過程。
據(jù)悉，新產(chǎn)品將集成 Groq 設(shè)計的芯片技術(shù)。這一舉措旨在幫助 OpenAI 等頭部客戶構(gòu)建運行速度更快、能效比更高的 AI 系統(tǒng)，以應(yīng)對日益龐大的模型推理需求。
有消息稱，英偉達已與 Groq 簽署了一項價值約 200 億美元的技術(shù)授權(quán)協(xié)議。
AI 推理是指模型在訓(xùn)練完成后實際運行和響應(yīng)用戶請求的過程。隨著大模型應(yīng)用場景不斷擴大，推理環(huán)節(jié)的算力需求也在快速增長。過去幾年，英偉達憑借 GPU 在模型訓(xùn)練領(lǐng)域占據(jù)主導(dǎo)地位，如今將推理單獨拎出來作為產(chǎn)品方向，顯示出行業(yè)重心正在發(fā)生變化。
Groq 此前以自研的 LPU 推理芯片受到關(guān)注，主打低延遲、高吞吐的推理性能。此次與英偉達合作，意味著其技術(shù)路線獲得了行業(yè)巨頭的認(rèn)可，同時也為英偉達在推理領(lǐng)域補充了新的能力。
目前，雙方尚未就此事公開回應(yīng)。更多細(xì)節(jié)預(yù)計將在 GTC 大會期間披露。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
老馬拉車莫少裝
