公眾號記得加星標(biāo)??，第一時間看推送不會錯過。

在人工智能技術(shù)高速發(fā)展的今天

大語言模型的算力需求

與能源消耗之間

正形成日益尖銳的矛盾

模型越大、分辨率越高

生成內(nèi)容越豐富

對算力與能耗的需求就越驚人

如何破題？

一群中國上海交通大學(xué)科研團(tuán)隊

把目光投向了“光”

↓ ↓ ↓

日前，上海交通大學(xué)傳來好消息，交大集成電路學(xué)院陳一彤課題組在新一代算力芯片方向取得重大突破，首次實現(xiàn)了支持大規(guī)模語義視覺生成模型的全光計算芯片LightGen。

相關(guān)研究以《大規(guī)模智能語義視覺生成全光芯片》（All-optical synthesis chip for large-scale intelligent semantic vision generation）發(fā)表于國際頂級學(xué)術(shù)期刊《科學(xué)》（Science）上。

當(dāng)前，光電芯片仍主要擅長加速判別類的任務(wù)，距離支撐前沿大規(guī)模生成模型還有不小距離。因此，“如何讓下一代算力光芯片能夠運行復(fù)雜生成模型”，成為全球智能計算領(lǐng)域公認(rèn)的難題。

所謂“光計算”，可以通俗理解為：不是讓電子在晶體管中運行，而是讓光在芯片中傳播，用光場的變化完成計算。由于光天然具備高速和并行的優(yōu)勢，長期被視為突破算力與能耗瓶頸的重要方向。

不過，要把光計算真正用到生成式AI上，并非這么簡單——生成模型往往規(guī)模更大，還需要在不同維度之間不斷變換；而如果芯片規(guī)模較小，則不得不頻繁在光與電之間級聯(lián)或復(fù)用，速度優(yōu)勢就會被延遲與能耗迅速抵消。因此，全光計算，就顯得更為重要，同時也更為困難。

LightGen芯片之所以能夠?qū)崿F(xiàn)驚人的性能飛躍，在于它在單枚芯片上同時突破了三項領(lǐng)域公認(rèn)的關(guān)鍵瓶頸——單片上百萬級光學(xué)神經(jīng)元集成、全光維度轉(zhuǎn)換，不依賴真值的光學(xué)生成模型訓(xùn)練算法。

這三項中的任意一項單獨突破都足以構(gòu)成重要進(jìn)展，而LightGen同時做到，使得面向大規(guī)模生成任務(wù)的全光端到端實現(xiàn)成為可能。

更重要的是，LightGen芯片展現(xiàn)的并不是“電輔助光”的生成，而是讓全光芯片完整實現(xiàn)“輸入—理解—語義操控—生成”的閉環(huán)：輸入圖像進(jìn)入芯片后，系統(tǒng)能夠提取與表征語義信息，并在語義操控下生成全新的媒體數(shù)據(jù)，實現(xiàn)讓光“理解”和“認(rèn)知”語義。

在性能評估上，LightGen芯片采用了極嚴(yán)格的算力評價標(biāo)準(zhǔn)：在與電芯片上運行的多個前沿電子神經(jīng)網(wǎng)絡(luò)相仿生成質(zhì)量的前提下，直接對端到端耗時與耗能進(jìn)行測量。

實測表明，即便采用較滯后性能的輸入設(shè)備，LightGen芯片仍可取得相比頂尖數(shù)字芯片2個數(shù)量級的算力和能效提升。

而如果采用前沿設(shè)備使得信號輸入頻率不作為瓶頸的情況下，LightGen芯片理論可實現(xiàn)算力提升7個數(shù)量級、能效提升8個數(shù)量級的性能躍升。

這項重要成果同步被Science官方選為高光論文重點報道。

文中提到，生成式AI正加速融入生產(chǎn)生活，要讓“下一代算力芯片”在現(xiàn)代人工智能社會中真正實用，勢在必行的是研發(fā)能夠直接執(zhí)行真實世界所需前沿任務(wù)的芯片——尤其是大規(guī)模生成模型這類端到端時延與能耗極高的任務(wù)。

面向這一目標(biāo)，LightGen為新一代算力芯片真正助力前沿人工智能開辟了新路徑，也為探索更高速、更高能效的生成式智能計算提供了新的研究方向。

（來源：本文轉(zhuǎn)載自「科創(chuàng)上海」公眾號）

*免責(zé)聲明：本文由作者原創(chuàng)。文章內(nèi)容系作者個人觀點，半導(dǎo)體行業(yè)觀察轉(zhuǎn)載僅為了傳達(dá)一種不同的觀點，不代表半導(dǎo)體行業(yè)觀察對該觀點贊同或支持，如果有任何異議，歡迎聯(lián)系半導(dǎo)體行業(yè)觀察。

今天是《半導(dǎo)體行業(yè)觀察》為您分享的第4263期內(nèi)容，歡迎關(guān)注。

加星標(biāo)??第一時間看推送，小號防走丟

求推薦