公眾號(hào)記得加星標(biāo)??，第一時(shí)間看推送不會(huì)錯(cuò)過(guò)。

人工智能加速硬件的成本日益高昂，下一代芯片需要更高的功耗和大量的基礎(chǔ)設(shè)施投資。對(duì)于許多初創(chuàng)公司和小型企業(yè)而言，大規(guī)模部署人工智能的成本和復(fù)雜性在軟件開(kāi)發(fā)開(kāi)始之前就已構(gòu)成障礙。

像 FuriosaAI 這樣的新興硅芯片廠商正試圖重新思考這一格局，專(zhuān)注于效率、性能以及替代 GPU 主導(dǎo)市場(chǎng)的方案。

FuriosaAI 是一家總部位于韓國(guó)的公司，致力于開(kāi)發(fā)高性能人工智能推理芯片，旨在降低功耗和數(shù)據(jù)中心壓力。其最新處理器 RNGD 基于公司自主研發(fā)的張量收縮處理器架構(gòu)，旨在無(wú)需依賴(lài)傳統(tǒng) GPU 框架即可運(yùn)行高要求的人工智能模型。

FuriosaAI 的首席執(zhí)行官兼聯(lián)合創(chuàng)始人 June Paik 在 2017 年創(chuàng)立該公司之前，曾在AMD和三星擔(dān)任硬件和軟件工程師。我們與他探討了人工智能芯片初創(chuàng)公司面臨的挑戰(zhàn)、數(shù)據(jù)中心的未來(lái)，以及 FuriosaAI 計(jì)劃如何在受能源限制、基礎(chǔ)設(shè)施成本和英偉達(dá)長(zhǎng)期主導(dǎo)地位影響的行業(yè)中競(jìng)爭(zhēng)。

問(wèn)：從歷史上看，日本和歐洲涌現(xiàn)出了一些偉大的公司（ST Electronics、NEC 等），為什么中國(guó)和美國(guó)以外的 AI 芯片廠商如此之少？

答：首先，我想對(duì)你的前提提出一些質(zhì)疑：在人工智能領(lǐng)域，幾乎沒(méi)有哪家硬件初創(chuàng)公司能夠撼動(dòng)英偉達(dá)的統(tǒng)治地位。即使在 AlexNet 問(wèn)世十五年后，我們?nèi)匀惶幱谶@個(gè)行業(yè)的早期階段。而且，一些人工智能硬件創(chuàng)新者，例如 Hailo 和 Axelera，實(shí)際上并非來(lái)自美國(guó)或中國(guó)。

但由于結(jié)構(gòu)性原因，這份名單很短。

與加密貨幣挖礦（算法固定，簡(jiǎn)單的ASIC礦機(jī)就能很好地工作）不同，人工智能正在快速發(fā)展和演變。

為不斷變化的市場(chǎng)需求打造芯片需要硬件和編譯器方面的專(zhuān)業(yè)知識(shí)，而這些知識(shí)往往集中在半導(dǎo)體產(chǎn)業(yè)底蘊(yùn)深厚的地區(qū)。此外，世界上只有少數(shù)幾個(gè)地方與晶圓廠和芯片制造合作伙伴建立了深厚的合作關(guān)系。

這就是為什么總部設(shè)在韓國(guó)實(shí)際上對(duì)Furiosa來(lái)說(shuō)是一個(gè)競(jìng)爭(zhēng)優(yōu)勢(shì)。

我們能夠接觸到韓國(guó)大學(xué)世界一流工程項(xiàng)目和韓國(guó)科技巨頭的優(yōu)秀人才。我們還與韓國(guó)（例如，SK海力士為我們的第二代芯片推理芯片RNGD提供HBM3）以及亞洲其他地區(qū)（例如，我們的代工廠合作伙伴臺(tái)積電）的領(lǐng)先企業(yè)建立了合作關(guān)系。

與硅谷的距離也迫使我們采取非常自律的方式。Furiosa 最初僅靠 100 萬(wàn)美元的種子輪融資起步，我們?cè)谛酒桓吨盎藬?shù)年時(shí)間完善我們的理念。

我們完全致力于基于張量收縮的方法，并且能夠忽略硅谷的傳統(tǒng)觀念和炒作。

但硬件必須在全球市場(chǎng)競(jìng)爭(zhēng)；我們不能僅僅成為區(qū)域供應(yīng)商。現(xiàn)在，隨著RNGD產(chǎn)品批量出貨，我們正在與世界各地的企業(yè)客戶合作。

問(wèn)：硬件只是成功的一部分，英偉達(dá)花了數(shù)年時(shí)間才打造出如今聲名遠(yuǎn)揚(yáng)的軟件護(hù)城河（CUDA）。Furiosa 正在采取哪些措施來(lái)對(duì)抗其強(qiáng)大的對(duì)手？

答：試圖復(fù)制英偉達(dá)龐大的 CUDA 庫(kù)是一個(gè)戰(zhàn)略死胡同。

我們采取了更大膽的做法，從第一性原理出發(fā)，專(zhuān)門(mén)為人工智能共同設(shè)計(jì)硬件和軟件，這樣我們就無(wú)需重新創(chuàng)建 CUDA。

我們的芯片采用 Furiosa 專(zhuān)有的張量收縮處理器 (TCP) 架構(gòu)，該架構(gòu)能夠原生執(zhí)行深度學(xué)習(xí)的多維數(shù)學(xué)運(yùn)算，而不是將其強(qiáng)行放入 GPU 使用的傳統(tǒng)結(jié)構(gòu)中。

這使得我們的編譯器能夠在無(wú)需數(shù)千個(gè)手工調(diào)優(yōu)內(nèi)核的情況下優(yōu)化模型。

RNGD目前已投入量產(chǎn)，充分展現(xiàn)了我們方法的優(yōu)勢(shì)。它能為世界上最苛刻的模型提供高性能推理，而功耗僅為180瓦（相比之下，GPU需要600瓦甚至更高）。

LG AI Research等全球合作伙伴已在生產(chǎn)中驗(yàn)證了這一突破性的效率。

我們還打破了 CUDA 的鎖定，構(gòu)建了能夠與 PyTorch 和 vLLM 等標(biāo)準(zhǔn)工具無(wú)縫集成的軟件棧，以便開(kāi)發(fā)人員無(wú)需改變工作流程即可獲得這種性能。

問(wèn)：大型超大規(guī)模數(shù)據(jù)中心運(yùn)營(yíng)商（如谷歌、微軟和亞馬遜）正逐步構(gòu)建自己的AI芯片解決方案，以減少對(duì)第三方供應(yīng)商的依賴(lài)。那么，F(xiàn)uriosa（以及其他類(lèi)似公司）在這一趨勢(shì)中扮演著怎樣的角色呢？

答：當(dāng)前的GPU架構(gòu)給整個(gè)行業(yè)（包括超大規(guī)模數(shù)據(jù)中心）帶來(lái)了嚴(yán)峻的能源挑戰(zhàn)和基礎(chǔ)設(shè)施瓶頸。我們展望未來(lái)，異構(gòu)計(jì)算將成為主流，不同的架構(gòu)可以協(xié)同工作，以最高效的方式滿足不同的需求（例如訓(xùn)練與推理）。

因?yàn)槲覀儍?yōu)先考慮總擁有成本、能源效率和靈活性，所以我們的技術(shù)將在解決所有人面臨的這個(gè)問(wèn)題上發(fā)揮核心作用。

我們目前重點(diǎn)關(guān)注四個(gè)特定領(lǐng)域，這些領(lǐng)域正最強(qiáng)烈地感受到電力和基礎(chǔ)設(shè)施方面的難題：

• 各國(guó)和受監(jiān)管行業(yè)需要在本地而非公共云上處理敏感數(shù)據(jù)。RNGD 使他們能夠在現(xiàn)有電力資源范圍內(nèi)部署高性能推理，從而確保數(shù)據(jù)主權(quán)，而無(wú)需大規(guī)模的新基礎(chǔ)設(shè)施項(xiàng)目。

• 對(duì)于企業(yè)客戶而言，總體擁有成本 (TCO) 和靈活性至關(guān)重要。RNGD 可安裝在標(biāo)準(zhǔn)的 15kW 風(fēng)冷機(jī)架中，避免了傳統(tǒng) GPU 所需的高昂液冷改造費(fèi)用，使其成為擴(kuò)展速度最快、成本效益最高的方式。

• 區(qū)域性和專(zhuān)業(yè)性云服務(wù)商需要在利潤(rùn)率方面與三大巨頭競(jìng)爭(zhēng)。RNGD 的高計(jì)算密度使云服務(wù)提供商 (CSP) 能夠在保持低運(yùn)營(yíng)成本 (OpEx) 的同時(shí)，最大限度地提高每個(gè)機(jī)架的收入。

• 其他行業(yè)，例如電信運(yùn)營(yíng)商，也在網(wǎng)絡(luò)邊緣的電力受限數(shù)據(jù)中心環(huán)境中工作。RNGD 的節(jié)能特性也能滿足他們的需求。

我們正在開(kāi)發(fā)的下一代芯片將直接面向超大規(guī)模數(shù)據(jù)中心以及這些關(guān)鍵行業(yè)。

問(wèn)：您認(rèn)為數(shù)據(jù)中心的未來(lái)發(fā)展趨勢(shì)是什么？（假設(shè)您在 2036 年參觀一個(gè)數(shù)據(jù)中心，您會(huì)看到什么？）

答：10 年后，“數(shù)據(jù)中心”的含義將發(fā)生很多變化，就像“計(jì)算機(jī)”一詞現(xiàn)在已經(jīng)可以指代從智能手表到高性能服務(wù)器的一切事物一樣。

有些數(shù)據(jù)中心會(huì)像你想象的那樣，是那種充滿未來(lái)感的設(shè)施：規(guī)模龐大，而且（很可能）采用聚變能源或繞地球運(yùn)行。但另一些數(shù)據(jù)中心則會(huì)很小巧，但效率極高。

例如，您當(dāng)?shù)氐尼t(yī)院將擁有一個(gè)本地人工智能數(shù)據(jù)中心，用于運(yùn)行醫(yī)生和護(hù)士的智能助手，從而保持低延遲，并確保數(shù)據(jù)本地化和安全。

電信運(yùn)營(yíng)商將擁有許多高性能的“邊緣”人工智能數(shù)據(jù)中心，這些數(shù)據(jù)中心針對(duì)極低延遲進(jìn)行了優(yōu)化。

我確信的一點(diǎn)是，2036年的人工智能數(shù)據(jù)中心不會(huì)再充斥著GPU，而是會(huì)配備各種滿足不同需求的專(zhuān)用人工智能芯片。

部分原因是GPU的能效較低。但從根本上講，人們普遍認(rèn)為GPU架構(gòu)并不適合人工智能。

GPU 制造商一直致力于通過(guò)創(chuàng)新來(lái)彌合這一差距，例如在芯片中添加張量核心，但最終從 GPU 轉(zhuǎn)向 AI 優(yōu)先架構(gòu)的好處將太大，不容忽視。

問(wèn)：在不透露太多產(chǎn)品路線圖細(xì)節(jié)的情況下，F(xiàn)uriosa 的芯片是否會(huì)遵循人工智能產(chǎn)品的傳統(tǒng)發(fā)展路徑？

答：我們現(xiàn)在以及未來(lái)的產(chǎn)品都專(zhuān)注于提供企業(yè)客戶最需要的產(chǎn)品：高性能數(shù)據(jù)中心推理，同時(shí)還要節(jié)能、經(jīng)濟(jì)高效，并且易于部署，無(wú)需進(jìn)行大規(guī)模的基礎(chǔ)設(shè)施升級(jí)。

這意味著要優(yōu)先考慮每瓦token數(shù)和每機(jī)架token數(shù)等指標(biāo)，以提高計(jì)算密度。

我們還將積極利用行業(yè)新進(jìn)展，例如更小的制程節(jié)點(diǎn)和新的內(nèi)存技術(shù)。

我們的第一代芯片采用14納米制程。我們的RNGD芯片采用HBM3顯存和5納米制程，我們將繼續(xù)推進(jìn)技術(shù)進(jìn)步。但正是我們的架構(gòu)創(chuàng)新，使我們能夠?qū)崿F(xiàn)比采用相同制程的GPU更優(yōu)異、更節(jié)能的性能。

關(guān)于我們的產(chǎn)品路線圖，還有一點(diǎn)需要說(shuō)明，那就是軟件和硬件同等重要。Furiosa 的軟件工程師數(shù)量多于硬件工程師，因?yàn)槲覀儽仨毘掷m(xù)快速有效地支持新的模型和部署工具。

我們?cè)?2025 年發(fā)布了三個(gè)主要的 SDK 更新，并將在 2026 年及以后保持這一速度。

https://www.techradar.com/pro/the-ai-data-centers-of-2036-wont-be-filled-with-gpus-furiosaais-ceo-on-the-future-of-silicon

（來(lái)源：編譯自techradar）

*免責(zé)聲明：本文由作者原創(chuàng)。文章內(nèi)容系作者個(gè)人觀點(diǎn)，半導(dǎo)體行業(yè)觀察轉(zhuǎn)載僅為了傳達(dá)一種不同的觀點(diǎn)，不代表半導(dǎo)體行業(yè)觀察對(duì)該觀點(diǎn)贊同或支持，如果有任何異議，歡迎聯(lián)系半導(dǎo)體行業(yè)觀察。

今天是《半導(dǎo)體行業(yè)觀察》為您分享的第4326期內(nèi)容，歡迎關(guān)注。

加星標(biāo)??第一時(shí)間看推送

求推薦