![]()
為什么要依賴數據中心,當你可以在桌面上運行通常在云端才有的成熟AI模型時?這正是戴爾為其新PC產品提出的論點,其中一款配備了數據中心級GPU,能夠運行萬億參數的AI模型。
戴爾Pro Max GB300桌面產品配備了英偉達Grace Blackwell Ultra GB300超級芯片,這是同樣用于數據中心運行最苛刻AI模型的處理器。
"想象一下一家小公司...將萬億參數的Kimi K2.5模型加載到GB300上,"戴爾產品負責人Charlie Walker在簡報會上表示。
Pro Max GB300桌面產品的推出,正值更多AI技術被設計為在PC上運行,企業也在尋求降低云計算成本之際。例如,OpenClaw是一種AI技術,可以運行智能體來自動化PC上的工作,同時協調這些任務與基于云的大語言模型。
英偉達本質上是將GB300超級芯片從數據中心中抽出,并將其裝入桌面設備。由于AI計算依賴于Token,企業可以節省資金,因為在桌面上生成Token的成本比在云端顯著更低。
"你可以將Token生成視為為公司創造收入——將其從云端拉出來,放在桌邊,"Walker說道。
不過,令人印象深刻的AI性能也有其不利之處:Pro Max GB300是一個1600瓦的龐然大物,這意味著電費將會更高。戴爾沒有透露這款桌面產品的價格,但它會很昂貴——CDW已為MSI GB300工作站標價97,000美元。
英偉達正在領導桌面AI PC的開發,其GPU通過PC制造商銷售。Pro Max GB300配備了DGX B300,具有252GB HBM3e內存。英偉達還有一款名為DGX Spark的AI桌面,價格為4,699美元,配備功能稍弱的GPU。
這些高端PC"讓開發者能夠將某些東西放在桌子上或桌子下,對數據安全、訪問和控制完全有信心,"英偉達企業平臺副總裁Chris Marriott在新聞電話會議中表示。
Marriott說,桌面是實驗的絕佳場所,因為開發者可以在桌面上微調模型,然后再部署到云端。
Marriott表示,開發AI模型并不像發出提示并獲得回應那么簡單。一些AI任務會持續運行數周甚至數月,特別是像OpenClaw這樣的智能體之間相互對話以及企業運行代碼時。
更長的任務會生成更多Token,讓桌面能夠提供一個沙盒環境來測試智能體,然后再將生產模型部署到云端。智能體工作流程也可以與云端模型進行測試。
"當你運行智能體時——特別是部署生產智能體——你總是希望運行你能負擔得起的最高級別智能,因為你要給它們分配長期運行的任務,"Marriott說道。
戴爾沒有宣布Pro Max GB300的發貨日期,但表示一些設備已經交付給客戶。這一宣布的時機配合了英偉達在加利福尼亞州圣何塞舉行的GTC開發者大會,該大會將持續到周四。
盡管桌面AI一直是可能的,特別是通過游戲GPU,但GB300超級芯片是專為AI而非游戲明確設計的。早期圍繞AI PC的炒作主要集中在筆記本電腦上,這些產品正在幫助改善PC功能。
J. Gold Associates首席分析師Jack Gold表示,隨著AI處理擴展到數據中心之外的更多計算設備,戴爾新桌面產品的重要性日益顯現。盡管這種快速發展的技術是通過服務器上的大語言模型突破的,但AI正越來越多地通過推理和小語言模型向邊緣遷移。
即便如此,云計算仍將是企業AI應用的主流。模型通過混合云服務器有效提供服務,為擴展AI基礎設施提供更多計算能力。
Q&A
Q1:戴爾Pro Max GB300桌面產品有什么特別之處?
A:戴爾Pro Max GB300桌面產品配備了英偉達Grace Blackwell Ultra GB300超級芯片,這是同樣用于數據中心的處理器,能夠運行萬億參數的AI模型,讓企業在桌面端就能運行通常需要云端才能處理的復雜AI任務。
Q2:使用桌面AI相比云端AI有什么成本優勢?
A:由于AI計算依賴于Token,在桌面上生成Token的成本比在云端顯著更低。企業可以將Token生成從云端轉移到桌面端,從而節省大量云計算費用,特別是對于需要長期運行的AI任務。
Q3:Pro Max GB300的缺點和價格如何?
A:主要缺點是功耗高達1600瓦,會導致電費增加。價格方面戴爾未公布具體數字,但會很昂貴,類似的MSI GB300工作站標價達到97,000美元。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.