助力AI與高性能計算！美光宣布出貨256GB SOCAMM2低功耗內(nèi)存

2026年3月3日，美光宣布，該公司已正式向客戶出貨業(yè)界最高容量的256GB SOCAMM2低功耗內(nèi)存，這款產(chǎn)品采用業(yè)界首款單片32Gb LPDDR5X芯片打造。

隨著AI訓練、推理、Agentic AI（智能體AI）以及通用計算的深度融合，市場對內(nèi)存的需求正變得日益嚴苛，且這一需求正深刻重塑數(shù)據(jù)中心的系統(tǒng)架構(gòu)。現(xiàn)代AI工作負載需高效處理海量模型參數(shù)、超長上下文窗口以及持久化鍵值（KV）緩存，同時核心計算在數(shù)據(jù)密度、并發(fā)度及內(nèi)存占用等維度也在持續(xù)突破。在這些場景下，內(nèi)存的容量、帶寬效率、延遲表現(xiàn)及功耗水平，已成為決定系統(tǒng)性能、可擴展性與總體擁有成本（TCO）的核心制約因素。

LPDRAM（低功耗DRAM）憑借其在容量、功耗、延遲及帶寬效率上的獨特優(yōu)勢，正快速成為AI服務(wù)器與高性能計算（HPC）服務(wù)器的關(guān)鍵內(nèi)存解決方案，尤其適配功耗與熱管理要求日益嚴苛的數(shù)據(jù)中心環(huán)境。目前，美光正與NVIDIA展開緊密合作，攜手設(shè)計能夠滿足先進AI基礎(chǔ)設(shè)施需求的下一代內(nèi)存解決方案。

在此行業(yè)背景下，美光256GB SOCAMM2內(nèi)存憑借技術(shù)創(chuàng)新，展現(xiàn)出以下四大核心優(yōu)勢：

在容量方面，該產(chǎn)品相較前代最高容量192GB SOCAMM2提升約三分之一，單顆8通道CPU可借助其實現(xiàn)2TB LPDRAM容量，進而支持更長的上下文窗口與更復雜的AI推理任務(wù)。

在功耗和體積方面，與等效RDIMM內(nèi)存相比，SOCAMM2的功耗僅為前者的三分之一，占用空間也同步縮小至三分之一，進而顯著提升服務(wù)器機架密度，有效降低數(shù)據(jù)中心總體擁有成本。

在性能方面，在統(tǒng)一內(nèi)存架構(gòu)中，當用于KV緩存卸載時，該內(nèi)存可將長上下文、實時大語言模型（LLM）推理的首token生成時間縮短超過2.3倍。在獨立CPU應(yīng)用場景中，LPDRAM的每瓦性能較主流內(nèi)存模塊提升超過3倍3，尤其適用于高性能計算類工作負載。

在可擴展性方面，SOCAMM2采用模塊化設(shè)計架構(gòu)，不僅便于日常維護，還支持液冷服務(wù)器設(shè)計，同時為未來AI與核心計算內(nèi)存需求的持續(xù)增長預留了充足的擴展空間。

美光云內(nèi)存業(yè)務(wù)部高級副總裁兼總經(jīng)理Raj Narasimhan表示：

“美光的256GB SOCAMM2模塊，為AI和高性能計算領(lǐng)域提供了業(yè)界最具功耗效率的CPU直連內(nèi)存方案。本次產(chǎn)品發(fā)布充分展現(xiàn)了我們在內(nèi)存技術(shù)與封裝領(lǐng)域的領(lǐng)先優(yōu)勢，成功打造出業(yè)界最高容量、最低功耗、最小體積的模塊化內(nèi)存產(chǎn)品。憑借在數(shù)據(jù)中心低功耗內(nèi)存領(lǐng)域的持續(xù)創(chuàng)新與技術(shù)積累，我們率先實現(xiàn)了32Gb單片LPDRAM芯片的量產(chǎn)，助力行業(yè)加速向更高效率、更大容量的系統(tǒng)架構(gòu)轉(zhuǎn)型。”

綜上所述，美光256GB SOCAMM2低功耗內(nèi)存的正式出貨，不僅是其在內(nèi)存技術(shù)與封裝領(lǐng)域領(lǐng)先實力的有力佐證，更精準契合了AI與高性能計算領(lǐng)域?qū)?nèi)存容量、功耗、性能及可擴展性的嚴苛需求。

通過容量提升、功耗優(yōu)化、體積縮減及性能升級，有效突破了數(shù)據(jù)中心系統(tǒng)架構(gòu)的核心制約，降低了總體擁有成本，同時依托與英偉達的深度合作及模塊化設(shè)計，為未來AI與核心計算的持續(xù)升級預留了充足空間，推動行業(yè)向更高效、更具擴展性的內(nèi)存架構(gòu)轉(zhuǎn)型，為AI技術(shù)的規(guī)模化應(yīng)用與高性能計算的突破發(fā)展注入新動力。（完）