華為云超節(jié)點(diǎn)創(chuàng)新算力基礎(chǔ)設(shè)施，推動(dòng)千行萬(wàn)業(yè)AI應(yīng)用開(kāi)發(fā)落地

5月16日，“逐光向新·智領(lǐng)未來(lái)”華為云AI峰會(huì)于北京成功舉辦。大會(huì)期間，華為云面向客戶(hù)伙伴詳細(xì)介紹了CloudMartix 384超節(jié)點(diǎn)的創(chuàng)新技術(shù)優(yōu)勢(shì)，并與在場(chǎng)嘉賓共同探討如何加速AI應(yīng)用落地，為加速行業(yè)智能化發(fā)展提供了切實(shí)可行的技術(shù)路徑和實(shí)踐指南。

華為北京總經(jīng)理 張東亞

伴隨著DeepSeek的橫空出世，AI浪潮席卷全國(guó)，千行萬(wàn)業(yè)正在加速智能化躍遷。華為北京總經(jīng)理張東亞在活動(dòng)致辭中表示，面向政府、教育、金融、零售、互聯(lián)網(wǎng)、交通、制造等行業(yè)，昇騰AI云服務(wù)已經(jīng)成為超過(guò)600家創(chuàng)新先鋒企業(yè)的數(shù)字化轉(zhuǎn)型伙伴。

CloudMatrix 384 超節(jié)點(diǎn)定義下一代AI基礎(chǔ)設(shè)施

隨著大模型訓(xùn)練和推理對(duì)算力需求的爆炸式增長(zhǎng)，傳統(tǒng)計(jì)算架構(gòu)已難以支撐AI技術(shù)的代際躍遷，超節(jié)點(diǎn)架構(gòu)的誕生不僅是技術(shù)的突破，更是以工程化創(chuàng)新開(kāi)辟AI產(chǎn)業(yè)的新路徑。

華為云副總裁 黃瑾

華為云創(chuàng)新性地推出采用全對(duì)等互聯(lián)架構(gòu)的CloudMatrix 384超節(jié)點(diǎn)。這項(xiàng)技術(shù)創(chuàng)新跳出單點(diǎn)技術(shù)限制，走向系統(tǒng)性、工程性的創(chuàng)新算力架構(gòu)，直面通信效率瓶頸、內(nèi)存墻制約、可靠性短板三大技術(shù)挑戰(zhàn)。通過(guò)新型高速互聯(lián)總線(xiàn)實(shí)現(xiàn)384 張卡互聯(lián)成為一個(gè)超級(jí)云服務(wù)器，最高提供300Pflops的算力規(guī)模，比業(yè)界同類(lèi)產(chǎn)品領(lǐng)先67%。華為云副總裁黃瑾表示，華為云CloudMatrix 384超節(jié)點(diǎn)具備MoE親和、以網(wǎng)強(qiáng)算、以存強(qiáng)算、長(zhǎng)穩(wěn)可靠、朝推夜訓(xùn)、即開(kāi)即用六大領(lǐng)先技術(shù)優(yōu)勢(shì)，以系統(tǒng)架構(gòu)創(chuàng)新重新定義新一代AI基礎(chǔ)設(shè)施。

華為云數(shù)據(jù)中心全球DC運(yùn)維首席專(zhuān)家 謝峰

穩(wěn)定的AI算力供給，離不開(kāi)可靠的數(shù)據(jù)中心載體。大會(huì)期間，華為云數(shù)據(jù)中心全球DC運(yùn)維首席專(zhuān)家謝峰分享了華為云CloudMatrix 384超節(jié)點(diǎn)機(jī)房質(zhì)量挑戰(zhàn)與思路。他表示，通算平穩(wěn)發(fā)展，AI智算快速發(fā)展，數(shù)據(jù)中心在空間、供電、散熱和運(yùn)維等方面面臨著更多挑戰(zhàn)。其一，AI集群超大規(guī)模組網(wǎng)帶來(lái)的光鏈路可靠性挑戰(zhàn)；其二，AI集群功率快速增長(zhǎng)和毫秒級(jí)功率波動(dòng)，帶來(lái)供電的可靠性挑戰(zhàn)；其三，AI集群超高密度散熱帶來(lái)的水質(zhì)安全和水力平衡挑戰(zhàn)。華為云數(shù)據(jù)中心通過(guò)產(chǎn)品化實(shí)現(xiàn)快速交付、低成本、低PUE，并開(kāi)展鋰電預(yù)測(cè)、液冷預(yù)測(cè)等智能化實(shí)踐，構(gòu)筑起綠色低碳、穩(wěn)定可靠、安全可信的云數(shù)據(jù)中心。

AI創(chuàng)新應(yīng)用實(shí)踐落地，加速行業(yè)智能化發(fā)展

面向AI時(shí)代，華為云CloudMatrix 384超節(jié)點(diǎn)的架構(gòu)創(chuàng)新更好地滿(mǎn)足了企業(yè)的智能化需求,已成為各領(lǐng)域企業(yè)加速AI應(yīng)用落地的共同選擇。

硅基流動(dòng)聯(lián)合創(chuàng)始人&首席產(chǎn)品官 胡健

硅基流動(dòng)基于CloudMatrix 384超節(jié)點(diǎn)昇騰云服務(wù)，率先實(shí)現(xiàn)了DeepSeek-R1推理服務(wù)的持續(xù)升級(jí)。硅基流動(dòng)聯(lián)合創(chuàng)始人&首席產(chǎn)品官胡健表示，硅基流動(dòng)與華為云聯(lián)合攻關(guān)實(shí)現(xiàn)了技術(shù)突破。通過(guò)采用大規(guī)模專(zhuān)家并行方案進(jìn)行DeepSeek-R1部署，以多專(zhuān)家負(fù)載均衡和極致通信優(yōu)化，實(shí)現(xiàn)高吞吐、高性能。在保證單用戶(hù)20TPS水平前提下，單卡Decode吞吐突破1920 Tokens/s，為客戶(hù)提供長(zhǎng)期穩(wěn)定服務(wù)。

中國(guó)科學(xué)院自動(dòng)化研究所研究員 李林靜

當(dāng)前AI技術(shù)已在多個(gè)學(xué)科領(lǐng)域?qū)崿F(xiàn)應(yīng)用，助力科學(xué)發(fā)現(xiàn)突破。中國(guó)科學(xué)院自動(dòng)化研究所研究員李林靜表示，AI賦能科研，成為全球科技發(fā)展的制高點(diǎn)，且亟需從作坊模式轉(zhuǎn)向平臺(tái)化建設(shè)，而平臺(tái)化建設(shè)的核心是構(gòu)建面向科學(xué)研究的基座大模型。基于CloudMatrix 384超節(jié)點(diǎn)的大模型后訓(xùn)練，支撐不同訓(xùn)練范式時(shí)穩(wěn)定和擴(kuò)展性強(qiáng)，為AI模型的迭代升級(jí)提供了可靠的算力保障，能有效支持基座模型持續(xù)優(yōu)化。

大家保險(xiǎn)信息科技部總經(jīng)理 郝曉波

在AI浪潮中，保險(xiǎn)行業(yè)也在經(jīng)歷從人治向數(shù)據(jù)化治理的轉(zhuǎn)型。大家保險(xiǎn)信息科技部總經(jīng)理郝曉波表示，AI化轉(zhuǎn)型其實(shí)是數(shù)字化轉(zhuǎn)型的延伸，敏捷化的AI戰(zhàn)略可能是傳統(tǒng)行業(yè)的最佳實(shí)踐策略。大家保險(xiǎn)依托華為云算力、AI平臺(tái)等，建設(shè)企業(yè)AI中臺(tái)、業(yè)務(wù)應(yīng)用，覆蓋智能營(yíng)銷(xiāo)、風(fēng)控投資等核心場(chǎng)景，推動(dòng)了保險(xiǎn)業(yè)務(wù)的持續(xù)增長(zhǎng)，共同構(gòu)筑起AI時(shí)代的保險(xiǎn)生態(tài)。

德勤中國(guó)合伙人 劉曉羽

AI正帶來(lái)巨大的產(chǎn)值，并重塑各行業(yè)的生產(chǎn)方式。德勤中國(guó)合伙人劉曉羽表示，德勤基于華為昇騰云+DeepSeek進(jìn)行AI場(chǎng)景化咨詢(xún)與實(shí)施，通過(guò)專(zhuān)業(yè)調(diào)優(yōu)，幫助客戶(hù)一站式構(gòu)建AI Native應(yīng)用，從而實(shí)現(xiàn)企業(yè)的降本增效和高質(zhì)量發(fā)展。

AI技術(shù)的飛速演進(jìn)正深刻重塑著產(chǎn)業(yè)格局。華為云以超節(jié)點(diǎn)架構(gòu)筑起智能時(shí)代的算力基石，堅(jiān)持做好行業(yè)數(shù)字化的“云底座”和“使能器”，以自主創(chuàng)新的技術(shù)筑牢AI算力底座，攜手更多客戶(hù)伙伴加速AI應(yīng)用落地，共建AI創(chuàng)新生態(tài)。