HPE攜手英偉達(dá)將分布式AI工廠轉(zhuǎn)型為智能AI網(wǎng)格

隨著人工智能從以訓(xùn)練為中心向推理轉(zhuǎn)變，HPE宣布推出一系列由英偉達(dá)圖形處理單元驅(qū)動(dòng)的計(jì)算和網(wǎng)絡(luò)產(chǎn)品。該公司表示，這些產(chǎn)品將重新定義AI服務(wù)的交付方式，將智能能力部署到數(shù)據(jù)和用戶所在的位置，并使網(wǎng)絡(luò)成為支持實(shí)時(shí)體驗(yàn)的可靠基礎(chǔ)。

HPE AI網(wǎng)格

產(chǎn)品系列中的一大亮點(diǎn)是HPE AI網(wǎng)格，旨在將分布式AI工廠轉(zhuǎn)型為由英偉達(dá)驅(qū)動(dòng)的智能AI基礎(chǔ)設(shè)施。據(jù)稱，這些產(chǎn)品為依賴低延遲、實(shí)時(shí)連接的AI服務(wù)和應(yīng)用場(chǎng)景提供了"關(guān)鍵"應(yīng)用，包括零售個(gè)性化、制造業(yè)等行業(yè)的預(yù)測(cè)性維護(hù)、醫(yī)療保健的本地化邊緣推理以及運(yùn)營(yíng)商級(jí)AI服務(wù)。

HPE認(rèn)為，AI原生應(yīng)用需要可預(yù)測(cè)、低延遲的分布式基礎(chǔ)設(shè)施。HPE AI網(wǎng)格服務(wù)是英偉達(dá)AI計(jì)算HPE產(chǎn)品組合的一部分，聲稱能夠?yàn)閷?shí)時(shí)AI服務(wù)提供可預(yù)測(cè)的"超低"延遲性能，具備零接觸配置和自動(dòng)化安全功能以及集成編排。

這套端到端系統(tǒng)基于英偉達(dá)參考架構(gòu)構(gòu)建，旨在安全連接分布在區(qū)域和遠(yuǎn)端站點(diǎn)的AI工廠和分布式推理集群。它可以促進(jìn)數(shù)千個(gè)分布式推理站點(diǎn)的部署和運(yùn)營(yíng)，將AI安裝轉(zhuǎn)變?yōu)閱我坏闹悄芟到y(tǒng)。

從預(yù)期應(yīng)用場(chǎng)景來看，HPE設(shè)想的實(shí)施范圍涵蓋從零售個(gè)性化和預(yù)測(cè)性維護(hù)到邊緣醫(yī)療保健和運(yùn)營(yíng)商級(jí)AI服務(wù)，這些都需要可預(yù)測(cè)的超低延遲連接。AI網(wǎng)格還旨在讓運(yùn)營(yíng)商能夠?qū)F(xiàn)有具備電力和連接條件的站點(diǎn)轉(zhuǎn)換為就緒的AI網(wǎng)格，實(shí)現(xiàn)大規(guī)模分布式推理和新服務(wù)。

除了與AI網(wǎng)格參考架構(gòu)保持一致，為服務(wù)提供商提供統(tǒng)一的硬件和軟件堆棧外，HPE AI網(wǎng)格還通過提供全棧AI服務(wù)器和AI網(wǎng)絡(luò)的能力而脫穎而出。

技術(shù)特性

HPE AI網(wǎng)格包含HPE Juniper的多云路由和相干光學(xué)技術(shù)，可提供可預(yù)測(cè)的長(zhǎng)距離和城域連接；云原生和多租戶安全；防火墻；廣域網(wǎng)自動(dòng)化；以及用于實(shí)現(xiàn)零接觸部署和生命周期運(yùn)營(yíng)的編排功能。它還包含配備英偉達(dá)加速計(jì)算的ProLiant Compute邊緣和機(jī)架服務(wù)器，包括英偉達(dá)RTX PRO 6000 Blackwell GPU，以及英偉達(dá)BlueField DPU、Spectrum-X以太網(wǎng)交換機(jī)、Connect-X SuperNIC和用于快速AI推理的AI藍(lán)圖。

CityFibre首席技術(shù)信息官Neil McRae表示："我們的客戶越來越期望獲得毫秒級(jí)響應(yīng)、低延遲連接和全面安全性來支持他們的應(yīng)用和服務(wù)。我們正在探索基于英偉達(dá)參考架構(gòu)的HPE AI網(wǎng)格如何支持分布式AI推理，并將智能能力更貼近用戶和數(shù)據(jù)。通過利用我們的光纖網(wǎng)絡(luò)資產(chǎn)，我們看到了將高性能連接與智能服務(wù)相結(jié)合為客戶提供服務(wù)的潛力。"

英偉達(dá)電信全球副總裁Chris Penrose表示："AI網(wǎng)格統(tǒng)一了地理上分布的AI集群，將AI工作負(fù)載放置在運(yùn)行效果最佳的位置，在AI工廠、區(qū)域站點(diǎn)和邊緣之間平衡性能、成本和延遲。我們與HPE合作，通過結(jié)合英偉達(dá)的加速計(jì)算和網(wǎng)絡(luò)技術(shù)以及HPE的電信級(jí)多云路由和邊緣基礎(chǔ)設(shè)施，將這一愿景變?yōu)楝F(xiàn)實(shí)，創(chuàng)造了用于分布式推理的單一智能架構(gòu)。"

作為推進(jìn)AI網(wǎng)格戰(zhàn)略的一部分，運(yùn)營(yíng)商康卡斯特已經(jīng)在其分布式網(wǎng)絡(luò)上開始AI現(xiàn)場(chǎng)試驗(yàn)，用于實(shí)時(shí)邊緣AI推理，為下一波AI應(yīng)用解鎖更快速、響應(yīng)更靈敏的體驗(yàn)。初始試驗(yàn)涉及多個(gè)應(yīng)用場(chǎng)景，包括利用在英偉達(dá)GPU上運(yùn)行Personal AI小型語言模型的HPE ProLiant服務(wù)器，Personal AI是HPE Unleash AI合作伙伴計(jì)劃的一部分。

Q&A

Q1：HPE AI網(wǎng)格是什么？有什么特點(diǎn)？

A：HPE AI網(wǎng)格是一種智能AI基礎(chǔ)設(shè)施，旨在將分布式AI工廠轉(zhuǎn)型為由英偉達(dá)驅(qū)動(dòng)的統(tǒng)一系統(tǒng)。它的主要特點(diǎn)是提供可預(yù)測(cè)的超低延遲性能，支持零接觸配置和自動(dòng)化安全，并能將數(shù)千個(gè)分布式推理站點(diǎn)轉(zhuǎn)變?yōu)閱我坏闹悄芟到y(tǒng)。

Q2：HPE AI網(wǎng)格主要應(yīng)用在哪些場(chǎng)景？

A：HPE AI網(wǎng)格主要應(yīng)用于需要低延遲、實(shí)時(shí)連接的場(chǎng)景，包括零售個(gè)性化、制造業(yè)預(yù)測(cè)性維護(hù)、醫(yī)療保健的本地化邊緣推理以及運(yùn)營(yíng)商級(jí)AI服務(wù)。這些應(yīng)用都需要可預(yù)測(cè)的超低延遲連接來保證實(shí)時(shí)體驗(yàn)。

Q3：HPE AI網(wǎng)格包含哪些技術(shù)組件？

A：HPE AI網(wǎng)格包含HPE Juniper的多云路由和相干光學(xué)技術(shù)、云原生多租戶安全、防火墻、廣域網(wǎng)自動(dòng)化和編排功能。硬件方面包括配備英偉達(dá)RTX PRO 6000 Blackwell GPU的ProLiant服務(wù)器，以及英偉達(dá)BlueField DPU、Spectrum-X以太網(wǎng)交換機(jī)和Connect-X SuperNIC等組件。