與傳統(tǒng)的RDIMM相比，SOCAMM2帶寬提升逾兩倍，功耗降低75%以上。

今日，SK海力士宣布，公司正式量產基于第六代10納米級（1c）LPDDR5X低功耗DRAM的192GB（千兆字節(jié)）容量SOCAMM2產品。

SOCAMM2是一款將主要適用于智能手機等移動端設備的低功耗內存，針對服務器環(huán)境進行優(yōu)化的內存模塊，主要面向下一代AI服務器等應用場景。SK海力士表示：“公司采用1c工藝的SOCAMM2，是專為高性能AI運算優(yōu)化的解決方案。與傳統(tǒng)的RDIMM相比，其帶寬提升逾兩倍，功耗降低75%以上。”

該公司特別強調，該SOCAMM2產品是面向英偉達的Vera Rubin平臺設計的。此外，該產品可從根本上緩解數(shù)千億參數(shù)級AI大模型在訓練與推理過程中所面臨的存儲瓶頸問題，SK海力士期待其助力能夠大幅提升整體系統(tǒng)的處理速度。

該公司還表示：“隨著AI發(fā)展從訓練轉向推理階段，支持大型語言模型低功耗運行的SOCAMM2作為下一代存儲器解決方案，正備受矚目。為滿足全球云服務供應商（Cloud Service Provider）客戶需求，公司提前搭建起穩(wěn)定的量產體系?！?/p>

SK海力士AI Infra擔當金柱善社長（CMO，Chief Marketing Officer）表示：“通過192GB容量SOCAMM2的產品供應，公司建立了面向AI的存儲器性能新基準。公司將與全球AI客戶緊密合作，成為‘客戶最信賴的面向AI的存儲器解決方案企業(yè)’?！?/p>

AI技術的發(fā)展正引領著計算領域的范式變革，而內存技術則成為這一變革的關鍵所在。HBM與LPDDR內存解決方案，對于釋放GPU的計算潛能起到了至關重要的作用。然而，隨著內存需求的不斷增長，如何在有限的設備體積和成本內容納更高容量的內存，已成為一個挑戰(zhàn)。

同時，服務器的內存消耗占據(jù)了相當大的功耗比例。在配備每插槽TB級DDR5內存的服務器中，DRAM的功耗甚至超過了CPU。為了應對這一挑戰(zhàn)，英偉達設計了基于LPDDR5X內存的Grace CPU，其功耗低于DDR5，同時通過借鑒AMD和英特爾數(shù)據(jù)中心級處理器的寬內存總線設計，實現(xiàn)了高內存帶寬。但迄今為止，LPDDR DRAM主要采用板載（On-Board）方式，直接焊接在設備主板上，而非模塊化設計。

而板載方式的缺點在于一是成本高昂，更換時必須整塊主板一起更換。二是缺乏靈活性，不支持升級，更換難度大。然而，對于基于GB200 Grace Blackwell的系統(tǒng)，英偉達不得不采用焊接式的LPDDR5X內存封裝，因為缺乏能夠滿足其容量需求的標準LPDDR5X內存模塊。

因此，SOCAMM橫空出世。SOCAMM的出現(xiàn)，不僅僅是一項技術的創(chuàng)新，更是一場深刻的行業(yè)革命。它以一種全新的模塊化設計，徹底改變了傳統(tǒng)內存的使用方式。

在性能方面，SOCAMM的表現(xiàn)尤為突出，得益于其底層創(chuàng)新設計，包括128-bit總線和近CPU布局，這些設計優(yōu)化了信號完整性，減少了信號傳輸延遲，從而顯著提升了整體性能。SOCAMM數(shù)據(jù)傳輸速率可達8533Mbps，相比DDR5 RDIMM的6400Mbps，性能提升了約33%，可以滿足AI訓練和高性能計算中對數(shù)據(jù)吞吐量的極高要求。在能效方面，SOCAMM同樣表現(xiàn)出色。其采用1.05V的低電壓供電，功耗僅為DDR5 RDIMM的1/3。結合液冷技術，SOCAMM能夠在高密度部署的場景下有效降低功耗，這對于數(shù)據(jù)中心的運營成本控制和可持續(xù)發(fā)展具有重要意義。這些創(chuàng)新設計使得SOCAMM在性能、能效和空間利用方面都達到了新的高度，為高性能計算和存儲領域帶來了全新的解決方案。

據(jù)EBN稱，SOCAMM被視為下一代HBM，在小型PC和筆記本電腦中具有優(yōu)于傳統(tǒng)DRAM的性能和能效，這可能是關鍵所在。預計SOCAMM的出現(xiàn)將在整個半導體行業(yè)產生連鎖反應，影響到三星電子、SK海力士等內存廠商，以及Simmtech和TLB等基板公司。

目前，SOCAMM內存技術適用于需要高性能內存支持的場景，如AI計算、高性能計算、數(shù)據(jù)中心等。由于其可拆卸升級的特點，SOCAMM內存技術還適用于需要頻繁更新硬件設備的領域，如游戲、圖形設計、虛擬現(xiàn)實等。隨著AI、大數(shù)據(jù)、云計算等技術的快速發(fā)展，對高性能內存的需求日益增加。SOCAMM以其卓越的性能和能效比，正好滿足了這些領域對內存的高要求。

*聲明：本文系原作者創(chuàng)作。文章內容系其個人觀點，我方轉載僅為分享與討論，不代表我方贊成或認同，如有異議，請聯(lián)系后臺。