今天,Arm 發(fā)布了 Arm AGI CPU ,這是一款基于Arm Neoverse平臺(tái)打造的全新量產(chǎn)型芯片,旨在為下一代 AI 基礎(chǔ)設(shè)施提供動(dòng)力。
在 Arm超過(guò) 35 年的歷史中,這是 Arm首次推出自主研發(fā)的芯片產(chǎn)品——將 Arm Neoverse 平臺(tái)擴(kuò)展到 IP 和 Arm 計(jì)算子系統(tǒng) (CSS) 之外,為客戶提供更豐富的 Arm 計(jì)算部署選擇,從構(gòu)建定制芯片到集成平臺(tái)級(jí)解決方案,再到部署 Arm 自主設(shè)計(jì)的處理器。這既反映了 AI 基礎(chǔ)設(shè)施的快速發(fā)展,也體現(xiàn)了生態(tài)系統(tǒng)對(duì)能夠快速大規(guī)模部署、即用型 Arm 平臺(tái)的日益增長(zhǎng)的需求。
人工智能系統(tǒng)正日益在全球范圍內(nèi)持續(xù)運(yùn)行。歷史上,人類(lèi)是計(jì)算的瓶頸——人與系統(tǒng)交互的速度決定了工作在系統(tǒng)中的流轉(zhuǎn)速度。在智能體人工智能時(shí)代,這種限制不復(fù)存在,因?yàn)檐浖悄荏w可以協(xié)調(diào)任務(wù)、與多個(gè)模型交互并實(shí)時(shí)做出決策。
隨著人工智能系統(tǒng)持續(xù)運(yùn)行,工作負(fù)載日益復(fù)雜,CPU 已成為現(xiàn)代基礎(chǔ)設(shè)施的驅(qū)動(dòng)核心——負(fù)責(zé)確保分布式人工智能系統(tǒng)高效、大規(guī)模地運(yùn)行。在現(xiàn)代人工智能數(shù)據(jù)中心,CPU 管理著數(shù)千個(gè)分布式任務(wù)——協(xié)調(diào)加速器、管理內(nèi)存和存儲(chǔ)、調(diào)度工作負(fù)載以及在系統(tǒng)間傳輸數(shù)據(jù)——而現(xiàn)在,隨著智能體人工智能的出現(xiàn),它還要協(xié)調(diào)大量智能體之間的任務(wù)分發(fā)。
這種轉(zhuǎn)變對(duì) CPU 提出了新的要求,這就需要處理器進(jìn)行革新。
Arm Neoverse 已成為當(dāng)今眾多領(lǐng)先的超大規(guī)模和 AI 平臺(tái)的基礎(chǔ)架構(gòu),包括AWS Graviton、Google Axion、Microsoft Azure Cobalt和NVIDIA Vera。隨著 AI 基礎(chǔ)設(shè)施在全球范圍內(nèi)擴(kuò)展,整個(gè)生態(tài)系統(tǒng)的合作伙伴都希望 Arm 能做得更多。Arm AGI CPU 的誕生正是為了應(yīng)對(duì)這一轉(zhuǎn)變。
智能體人工智能工作負(fù)載需要大規(guī)模、持續(xù)穩(wěn)定的性能。Arm AGI CPU旨在并行處理數(shù)千個(gè)核心,在持續(xù)高負(fù)載下實(shí)現(xiàn)卓越的單任務(wù)性能,同時(shí)滿足現(xiàn)代數(shù)據(jù)中心的功耗和散熱要求。
Arm AGI CPU 的每個(gè)元素——從運(yùn)行頻率到內(nèi)存和 I/O 架構(gòu)——都經(jīng)過(guò)精心設(shè)計(jì),旨在支持在密集機(jī)架部署中大規(guī)模并行、高性能的代理工作負(fù)載。
![]()
Arm 的參考服務(wù)器配置采用 1OU 雙節(jié)點(diǎn)設(shè)計(jì),每個(gè)刀片服務(wù)器包含兩顆芯片,分別配備專(zhuān)用內(nèi)存和 I/O,共計(jì) 272 個(gè)核心。這些刀片服務(wù)器旨在完全填充一個(gè)標(biāo)準(zhǔn)的 36kW 風(fēng)冷機(jī)架——30 個(gè)刀片服務(wù)器總共可提供 8160 個(gè)核心。此外,Arm 還與 Supermicro 合作開(kāi)發(fā)了一種 200kW 液冷設(shè)計(jì),可容納 336 個(gè) Arm AGI CPU,提供超過(guò) 45000 個(gè)核心。
在這種配置下,Arm AGI CPU 每個(gè)機(jī)架的性能比最新的 x86 系統(tǒng)高出 2 倍以上*,這是通過(guò) Arm 架構(gòu)的基本優(yōu)勢(shì)以及系統(tǒng)資源與計(jì)算的精心匹配實(shí)現(xiàn)的:
Arm AGI CPU 的領(lǐng)先內(nèi)存帶寬意味著每個(gè)機(jī)架可以執(zhí)行更多高效的線程;x86 CPU 在持續(xù)負(fù)載下,隨著核心之間的競(jìng)爭(zhēng),性能會(huì)下降。
高性能、高效率的單線程Arm Neoverse V3 CPU內(nèi)核性能優(yōu)于傳統(tǒng)架構(gòu);每個(gè) Arm 線程都能完成更多工作。
更多的可用螺紋和更多的單螺紋工作量,使得每個(gè)機(jī)架的性能大幅提升。
Arm AGI CPU 已展現(xiàn)出強(qiáng)勁的商業(yè)勢(shì)頭,其合作伙伴正處于擴(kuò)展智能體 AI 基礎(chǔ)設(shè)施的前沿。計(jì)劃部署涵蓋加速器管理、智能體編排以及智能體任務(wù)橫向擴(kuò)展所需的服務(wù)、應(yīng)用程序和工具的密集化,同時(shí)還將增強(qiáng)網(wǎng)絡(luò)和數(shù)據(jù)平面計(jì)算能力,以支持 AI 數(shù)據(jù)中心。
Meta 是我們的首席合作伙伴和客戶,雙方共同開(kāi)發(fā) Arm AGI CPU,旨在優(yōu)化其 Meta 系列應(yīng)用的千兆瓦級(jí)基礎(chǔ)設(shè)施,并與 Meta 自有的定制 MTIA 加速器協(xié)同工作。其他首發(fā)合作伙伴包括 Cerebras、Cloudflare、F5、OpenAI、Positron、Rebellions、SAP 和 SK Telecom,他們都與 Arm 合作部署 Arm AGI CPU,以加速云端、網(wǎng)絡(luò)和企業(yè)環(huán)境中的 AI 驅(qū)動(dòng)服務(wù)。目前,ASRockRack、Lenovo 和 Supermicro 均已開(kāi)始接受商用系統(tǒng)的訂單。
為了進(jìn)一步加速Arm架構(gòu)的普及,Arm推出了Arm AGI CPU 1OU雙節(jié)點(diǎn)參考服務(wù)器,這是一款符合開(kāi)放計(jì)算項(xiàng)目(OCP)DC-MHS標(biāo)準(zhǔn)外形尺寸的服務(wù)器。Arm計(jì)劃貢獻(xiàn)這款參考服務(wù)器的設(shè)計(jì)和配套固件,以及其他貢獻(xiàn),包括系統(tǒng)架構(gòu)規(guī)范、調(diào)試框架以及適用于所有基于Arm架構(gòu)系統(tǒng)的診斷和驗(yàn)證工具。
Arm AGI CPU 的發(fā)布標(biāo)志著 Arm 數(shù)據(jù)中心發(fā)展歷程的新篇章,也鞏固了其在計(jì)算創(chuàng)新領(lǐng)域的持續(xù)領(lǐng)先地位。隨著人工智能重塑行業(yè)格局,Arm 將繼續(xù)致力于推動(dòng)整個(gè)生態(tài)系統(tǒng)的發(fā)展,滿足從超大規(guī)模云服務(wù)提供商到人工智能初創(chuàng)公司等各類(lèi)客戶的需求。
Arm AGI CPU 是 Arm 全新數(shù)據(jù)中心芯片產(chǎn)品線的首款產(chǎn)品,現(xiàn)已開(kāi)放訂購(gòu)。后續(xù)產(chǎn)品也將持續(xù)研發(fā),力求在性能、擴(kuò)展性和效率方面達(dá)到一流水平。與此同時(shí),Arm Neoverse CSS產(chǎn)品路線圖也在同步推進(jìn),確保所有 Arm 數(shù)據(jù)中心客戶在平臺(tái)架構(gòu)和軟件兼容性方面能夠攜手并進(jìn)。
邁入新的篇章,我們的使命始終不變:提供賦能各行業(yè)創(chuàng)新的計(jì)算基礎(chǔ)。整個(gè)生態(tài)系統(tǒng)也全力支持我們:超過(guò) 50 家來(lái)自超大規(guī)模、云計(jì)算、芯片、內(nèi)存、網(wǎng)絡(luò)、軟件、系統(tǒng)設(shè)計(jì)和制造等領(lǐng)域的領(lǐng)先企業(yè)正在助力 Arm 計(jì)算平臺(tái)向芯片領(lǐng)域拓展。借助 Arm AGI CPU,我們不僅在定義 AI 原生數(shù)據(jù)中心的架構(gòu),更在構(gòu)建它。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.