超節(jié)點(diǎn)戰(zhàn)事升級(jí)：英偉達(dá)、華為等集體押注，國(guó)產(chǎn)互聯(lián)芯粒如何破局？

AI算力競(jìng)賽進(jìn)入“超節(jié)點(diǎn)時(shí)代”。

英偉達(dá)發(fā)布新一代Blackwell Ultra集群，華為推出384卡液冷超節(jié)點(diǎn)，沐曦、摩爾線(xiàn)程等國(guó)內(nèi)玩家紛紛亮劍——一場(chǎng)圍繞“高帶寬、高密度、高能效”的超級(jí)計(jì)算架構(gòu)之戰(zhàn)，正悄然改寫(xiě)智算中心的游戲規(guī)則。

然而，在硬件堆砌的背后，一個(gè)更深層的挑戰(zhàn)浮出水面：如何讓成千上萬(wàn)張GPU“像一顆芯片一樣工作”？

互聯(lián)，成為超節(jié)點(diǎn)效能的關(guān)鍵瓶頸。

在此背景下，國(guó)內(nèi)首家推出超節(jié)點(diǎn)通用互聯(lián)芯粒的奇異摩爾，正試圖用一顆“小芯片”撬動(dòng)千億級(jí)算力基建的互聯(lián)生態(tài)。

芯師爺獨(dú)家對(duì)話(huà)奇異摩爾聯(lián)合創(chuàng)始人、產(chǎn)品及解決方案副總裁祝俊東，深入解讀超節(jié)點(diǎn)的技術(shù)本質(zhì)、行業(yè)痛點(diǎn)，以及國(guó)產(chǎn)互聯(lián)芯粒的破局之路。

奇異摩爾聯(lián)合創(chuàng)始人

產(chǎn)品及解決方案副總裁祝俊東

Q1

目前，超節(jié)點(diǎn)的概念非常火熱，包括英偉達(dá)、華為、中科曙光、摩爾線(xiàn)程、沐曦在內(nèi)的多家頭部企業(yè)均推出相應(yīng)方案。請(qǐng)問(wèn)什么是超節(jié)點(diǎn)？您如何看待超節(jié)點(diǎn)的發(fā)展趨勢(shì)？

?？|：

近期，超節(jié)點(diǎn)概念火熱，相關(guān)會(huì)議增多，ODCC 舉辦了第一屆超節(jié)點(diǎn)大會(huì)，顯示出行業(yè)對(duì)超節(jié)點(diǎn)的關(guān)注度不斷提高。超節(jié)點(diǎn)其實(shí)沒(méi)有一個(gè)很明確的標(biāo)準(zhǔn)定義，更多是一個(gè)行業(yè)概念。這個(gè)概念最早是谷歌在大約五六年前提出的，他們稱(chēng)之為“高帶寬域”（High Bandwidth Domain，HBD）。

簡(jiǎn)單來(lái)說(shuō)，超節(jié)點(diǎn)是指在智算集群中，將一定數(shù)量的計(jì)算單元（比如GPU或其他xPU）通過(guò)極高帶寬的網(wǎng)絡(luò)互聯(lián)在一起，形成一個(gè)內(nèi)部通信效率遠(yuǎn)高于外部互聯(lián)的算力單元。例如，一個(gè)由100張GPU組成的超節(jié)點(diǎn)，其內(nèi)部互聯(lián)帶寬遠(yuǎn)高于這100張GPU與集群中其他GPU之間的連接帶寬。在這樣一個(gè)超節(jié)點(diǎn)內(nèi)部，因?yàn)榛ヂ?lián)帶寬足夠高，這些GPU可以像一顆大的xPU一樣協(xié)同工作。

從形態(tài)上看，超節(jié)點(diǎn)通常表現(xiàn)為物理規(guī)模更大的機(jī)柜。例如華為推出的384卡超節(jié)點(diǎn)，就是一整排機(jī)柜；中科曙光、阿里等也有類(lèi)似方案。這意味著服務(wù)器從容納幾個(gè)、十幾個(gè)計(jì)算單元，發(fā)展到可容納幾十甚至近百個(gè)計(jì)算單元，并且這些大服務(wù)器之間通過(guò)高帶寬緊密互聯(lián)。

所以，超節(jié)點(diǎn)可以理解為：將若干張GPU以極高帶寬互聯(lián)在一起，位置靠近，并能像一顆統(tǒng)一的計(jì)算單元那樣工作的技術(shù)架構(gòu)。

Q2

現(xiàn)階段，超節(jié)點(diǎn)建設(shè)還存在哪些挑戰(zhàn)？

?？|：

超節(jié)點(diǎn)雖然從效能來(lái)看是一個(gè)非常好的解決方案，但也面臨多方面的挑戰(zhàn)：

首先是供電與散熱。超節(jié)點(diǎn)功耗非常高，傳統(tǒng)數(shù)據(jù)中心一個(gè)機(jī)柜約30kW，而超節(jié)點(diǎn)機(jī)柜可能達(dá)到60、70甚至100kW。這對(duì)數(shù)據(jù)中心的電力基礎(chǔ)設(shè)施和散熱系統(tǒng)都提出了更高要求，因此很多超節(jié)點(diǎn)方案-已經(jīng)采用液冷散熱。

其次是連接密度與距離問(wèn)題。超節(jié)點(diǎn)內(nèi)部需要實(shí)現(xiàn)高速互聯(lián)，連接方式無(wú)論是通過(guò)背板還是線(xiàn)纜，密度都是一個(gè)挑戰(zhàn)?，F(xiàn)在行業(yè)內(nèi)在推動(dòng)例如正交背板這類(lèi)高密度連接方案。另外，隨著超節(jié)點(diǎn)規(guī)模擴(kuò)大，例如達(dá)到512卡甚至1000卡，節(jié)點(diǎn)內(nèi)距離變遠(yuǎn)，傳統(tǒng)電纜無(wú)法滿(mǎn)足需求，必須引入光互聯(lián)。比如華為的384卡超節(jié)點(diǎn)，就已在節(jié)點(diǎn)內(nèi)部使用光連接。

第三是協(xié)議與標(biāo)準(zhǔn)缺失。超節(jié)點(diǎn)內(nèi)部互聯(lián)需要統(tǒng)一的協(xié)議支持，但目前這一領(lǐng)域還缺乏像以太網(wǎng)或傳統(tǒng)移動(dòng)通信類(lèi)似成熟的標(biāo)準(zhǔn)。這導(dǎo)致不同廠(chǎng)商之間的設(shè)備難以互聯(lián)互通，也影響了交換機(jī)和計(jì)算節(jié)點(diǎn)之間的對(duì)接方式。最近一兩年，行業(yè)里無(wú)論是國(guó)際還是國(guó)內(nèi)，都出現(xiàn)了不少超節(jié)點(diǎn)相關(guān)的規(guī)范和標(biāo)準(zhǔn)倡議，比如SUE、OISA、ETH-X、UALink等，這些開(kāi)放協(xié)議生態(tài)本身是一個(gè)積極的發(fā)展方向。

Q3

在目前的超節(jié)點(diǎn)互聯(lián)方案中，有芯粒（Chiplet）和IP兩種類(lèi)型。相較而言，兩種技術(shù)路徑在效率、性能、成本等方面各有什么優(yōu)勢(shì)？

祝俊東：

IP是一種比較傳統(tǒng)的實(shí)現(xiàn)方式，相當(dāng)于購(gòu)買(mǎi)一個(gè)功能模塊集成到芯片中。它的優(yōu)勢(shì)是大家比較熟悉，集成起來(lái)相對(duì)容易。但不足之處是采購(gòu)成本高，且與計(jì)算芯片綁定緊密，一旦互聯(lián)協(xié)議或標(biāo)準(zhǔn)發(fā)生變化，就需要重新設(shè)計(jì)芯片，迭代缺乏靈活性。

芯粒方案則是將互聯(lián)功能獨(dú)立做成一個(gè)單獨(dú)的芯片模塊，與計(jì)算芯粒通過(guò)先進(jìn)的異構(gòu)集成方式集成在一起。它的優(yōu)勢(shì)主要體現(xiàn)在三方面：

一是提升計(jì)算性能。芯粒可以將更多芯片面積留給計(jì)算單元，從而提高算力。

二是迭代靈活。計(jì)算芯粒和互聯(lián)芯?？梢元?dú)立升級(jí)。這樣即使未來(lái)超節(jié)點(diǎn)標(biāo)準(zhǔn)發(fā)生變化，也只需更新互聯(lián)芯粒，而不必改動(dòng)計(jì)算芯粒，大大降低了迭代成本和周期。

三是降低研發(fā)門(mén)檻。采用芯粒方案，客戶(hù)在設(shè)計(jì)中不需要從頭開(kāi)發(fā)互聯(lián)部分，可以直接使用成熟的互聯(lián)芯粒，從而縮短設(shè)計(jì)周期，降低前期投入。

Q4

奇異摩爾推出了Kiwi G2G IOD超節(jié)點(diǎn)互聯(lián)芯粒，也是業(yè)內(nèi)首個(gè)針對(duì)這一行業(yè)痛點(diǎn)的系統(tǒng)性解決方案。該方案有哪些獨(dú)到優(yōu)勢(shì)？奇異摩爾在AI網(wǎng)絡(luò)互聯(lián)方面還有哪些獨(dú)到技術(shù)？

?？|：

Kiwi G2G IOD是業(yè)界首個(gè)通用的超節(jié)點(diǎn)互聯(lián)芯粒。此前的互聯(lián)芯粒多是廠(chǎng)商自研自用，而我們提供的是開(kāi)放、通用的解決方案。

奇異摩爾的優(yōu)勢(shì)主要有以下幾點(diǎn)：

支持多協(xié)議且可編程。我們基于自研的HPDE高性能可編程架構(gòu)，可以在同一顆芯粒上支持不同的互聯(lián)標(biāo)準(zhǔn)，并能通過(guò)更新來(lái)適應(yīng)未來(lái)標(biāo)準(zhǔn)的演進(jìn)，解決了標(biāo)準(zhǔn)快速迭代帶來(lái)的兼容性問(wèn)題。

標(biāo)準(zhǔn)化接口與軟件支持。我們采用UCIe標(biāo)準(zhǔn)接口，并提供完整的軟件接口，客戶(hù)可以快速將芯粒集成到其產(chǎn)品中，降低集成難度。

此外，奇異摩爾是一家擁有橫跨AI基礎(chǔ)設(shè)施互聯(lián)全棧服務(wù)能力的硬科技企業(yè)。在Scale up超節(jié)點(diǎn)xPU間互聯(lián)，憑借我們?cè)谛玖ｎI(lǐng)域的豐富經(jīng)驗(yàn)，還能提供給客戶(hù)基于芯粒的參考設(shè)計(jì)、驗(yàn)證與設(shè)計(jì)支持，幫助客戶(hù)降低研發(fā)門(mén)檻，加速產(chǎn)品落地。

在Scale Out網(wǎng)間互聯(lián)領(lǐng)域，我們面向運(yùn)營(yíng)商、云廠(chǎng)商、智算集群提供專(zhuān)為AI網(wǎng)絡(luò)定制的AI NIC，又名Kiwi SNIC 超級(jí)網(wǎng)卡，它具備高性能RDMA能力，可有效應(yīng)對(duì)AI網(wǎng)絡(luò)中的擁塞、丟包等各種互聯(lián)挑戰(zhàn)。

Q5

AI時(shí)代，算法廠(chǎng)商、硬件廠(chǎng)商和云廠(chǎng)商之間的傳統(tǒng)分工邊界正在模糊，行業(yè)上下游跨界協(xié)同的案例越來(lái)越多。您如何看待這一行業(yè)趨勢(shì)？奇異摩爾是否有相應(yīng)的案例可以分享？

?？|：

AI時(shí)代與云計(jì)算時(shí)代的一個(gè)很大不同，在于迭代速度極快，對(duì)軟硬件協(xié)同的要求非常高。傳統(tǒng)IDC那種清晰的分工模式正在被打破，算法、硬件、基礎(chǔ)設(shè)施必須更緊密地協(xié)作。

奇異摩爾作為硬件底層廠(chǎng)商，也積極與模型廠(chǎng)商、云廠(chǎng)商、 Infra廠(chǎng)商乃至交換機(jī)廠(chǎng)商開(kāi)展交流和合作。例如，我們與多家模型廠(chǎng)商和云廠(chǎng)商共同探討模型發(fā)展趨勢(shì)對(duì)硬件和互聯(lián)的具體需求，比如Scale Up與Scale Out在不同場(chǎng)景下的優(yōu)化方向等。

我們還會(huì)定期組織閉門(mén)技術(shù)沙龍，邀請(qǐng)產(chǎn)業(yè)鏈上下游伙伴一起研討技術(shù)趨勢(shì)與協(xié)同需求。這種跨層對(duì)話(huà)對(duì)推動(dòng)整個(gè)AI基礎(chǔ)設(shè)施的迭代演進(jìn)非常重要。

Q6

DeepSeek通過(guò)頂尖的全棧工程優(yōu)化，證明大模型推理可以做到既強(qiáng)大又經(jīng)濟(jì)，也間接帶動(dòng)了AI推理市場(chǎng)的爆發(fā)。在您看來(lái)，相較于訓(xùn)練，大模型推理對(duì)于芯片和網(wǎng)絡(luò)互聯(lián)的需求有什么變化，技術(shù)趨勢(shì)又將如何發(fā)展？

?？|：

DeepSeek的實(shí)踐表明，推理也可以通過(guò)大規(guī)模集群實(shí)現(xiàn)高性?xún)r(jià)比，這對(duì)整個(gè)AI推理市場(chǎng)的推動(dòng)非常明顯。

推理與訓(xùn)練在需求上有幾個(gè)明顯區(qū)別：

第一是對(duì)帶寬要求更高。推理超節(jié)點(diǎn)需要TB級(jí)的互聯(lián)帶寬，遠(yuǎn)高于傳統(tǒng)PCIe的幾十GB水平。

第二是協(xié)議復(fù)雜度增加。隨著超節(jié)點(diǎn)規(guī)模擴(kuò)大，互聯(lián)協(xié)議從點(diǎn)對(duì)點(diǎn)協(xié)議變?yōu)橄鄬?duì)復(fù)雜的網(wǎng)絡(luò)協(xié)議，對(duì)網(wǎng)絡(luò)協(xié)議的處理和調(diào)度能力提出了更高要求。

第三是延遲敏感。大部分推理場(chǎng)景下，用戶(hù)對(duì)模型響應(yīng)的第一個(gè)Token時(shí)間非常敏感，因此互聯(lián)延遲成為關(guān)鍵指標(biāo)。

第四是存儲(chǔ)與數(shù)據(jù)調(diào)度更復(fù)雜。超節(jié)點(diǎn)之間需要高效共享KV Cache等數(shù)據(jù)，對(duì)統(tǒng)一存儲(chǔ)架構(gòu)和跨節(jié)點(diǎn)數(shù)據(jù)調(diào)度提出了新要求。

同時(shí)，互聯(lián)方式正在發(fā)生轉(zhuǎn)變，光互聯(lián)正成為未來(lái)超節(jié)點(diǎn)的關(guān)鍵趨勢(shì)。隨著節(jié)點(diǎn)規(guī)模擴(kuò)大，電互聯(lián)的距離限制凸顯，光互聯(lián)和新型網(wǎng)絡(luò)架構(gòu)將成為必然選擇。

未來(lái)，推理集群的規(guī)模還可能進(jìn)一步擴(kuò)大，對(duì)互聯(lián)協(xié)議、網(wǎng)絡(luò)調(diào)度以及軟硬件協(xié)同都將提出更高要求。

從谷歌提出“高帶寬域”，到今天國(guó)產(chǎn)超節(jié)點(diǎn)方案百花齊放；從訓(xùn)練主導(dǎo)到推理爆發(fā)，從電互聯(lián)到光互聯(lián)......超節(jié)點(diǎn)不僅是硬件的升級(jí)，更是整個(gè)AI基礎(chǔ)設(shè)施在架構(gòu)、協(xié)議、生態(tài)上的系統(tǒng)性演進(jìn)。

正如祝俊東所言，“超節(jié)點(diǎn)正在重新定義算力的組織方式”。在這場(chǎng)由效能驅(qū)動(dòng)的競(jìng)賽中，國(guó)產(chǎn)芯片企業(yè)能否在互聯(lián)層實(shí)現(xiàn)關(guān)鍵技術(shù)突破，將直接影響中國(guó)智算集群的競(jìng)爭(zhēng)力與自主可控程度。

奇異摩爾推出的Kiwi G2G IOD互聯(lián)芯粒，正是這一進(jìn)程中的一次重要嘗試。它不僅是技術(shù)產(chǎn)品，更是一種生態(tài)倡議——推動(dòng)開(kāi)放、通用、可迭代的互聯(lián)標(biāo)準(zhǔn)，助力國(guó)產(chǎn)AI算力走出“堆卡易，聯(lián)卡難”的困境。

未來(lái)已來(lái)，在這場(chǎng)沒(méi)有終點(diǎn)的算力長(zhǎng)征中，互聯(lián)，或許正是下一個(gè)決勝之地。

本文內(nèi)容資料源自公告及媒體公開(kāi)報(bào)道，不構(gòu)成任何投資建議，如有任何問(wèn)題，敬請(qǐng)讀者與我們聯(lián)系info@gsi24.com。