因為我在計算機博士做研究的需要,AI模型訓練就一直離不開我的工作內容,同時AI產品精力的工作上也離不開GPU硬件的組裝與AI模型部署,所以如何去構建高性能GPU算力計算底座,也是一直關注的領域。
相比有錢的大廠,一般的科研團隊或者中小企業,是沒有那么多費用去購買A100\H100的,國產的GPU就更買不起了。
綜上,對于AI產品研發不超過10個人的團隊如何構建AI模型所需要的運行算力,主流的做法是通過4090 或者3090TI系列進行組裝矩陣,將機箱承載的8張卡放在一個機箱里,通過PCIE或者自帶的nvlink,是現在主流的GPU服務器搭建方式,當然 現在還有魔改的4090顯卡,顯存改為48GB,但是穩定性與售后難以有保證,除非真的緊急需求,一般不會有人這么干。
如下圖是分別2個類型的組合,可以看到機箱、電源擴展的非常夸張
1.4090 8卡組合
![]()
2.3090 8卡組合
![]()
大廠的AI產品經理,不會接觸GPU硬件
當然我知道這類知識,是很多軟件功能或系統的產品經理不會去涉及的,因為首先在公司里面這個就屬于硬件組或者運維部門來負責,而產品經理只管提需求。但如果懂這方面的產品經理,在需求的設計就會更合理,比如有的產品經理就希望公司可以部署多個模型,并且可以做到模型切換但是這種方式就需要顯存的急劇擴張,在產品還沒有賺錢,就消耗了過高的成本。
英偉達的DGX背后的GB10芯片:聯想、技嘉、Dell都有
在2025年開年,英偉達黃仁勛發布了DGX station,這個機器背后承載著GPU、CPU、內存組合的一套解決方案,其默認顯存與內容有128GB,和內存統一調度使用,讓每個人都可以成為AI模型的使用者。
其和蘋果類似的技術方案與外觀,允許將顯存極大化使用,還內置了CUDA環境生態,可以直接部署模型,在發布會當天稱之為AI模型的PC。
而機器的售價只有3萬左右人民幣,并且支持兩臺project digital,也就是組成了256GB的顯存與內存使用.
![]()
相比Mac miniM4,擴展到64GB就需要接近3萬的價格,而這臺DGX就在AI模型應用上就非常香了。幾乎每個AI產品經理個人都可以購買,不僅是一個主機,還是一個非常合適的私有化模型訓練工具。
比直接購買顯卡更便宜幾倍
相比直接購買4090系列顯卡,或者5090,DGX除了自帶的一體機,不需要再單獨買硬盤等、擴展接口,電源,而5090的價格光顯卡就要2萬多了,還不說機箱的其他配置。
這款個人主機要是再有筆記本,那么基本現在市面上的游戲規則就全變了,當然現在英偉達還沒有對應的操作系統,所以擴展到筆記本的可能性為0。
主機上,用這個一體機,除了運行模型,再加上運行其他虛擬機是否可以運行游戲,這也有點期待了,但目前官方給的默認操作系統是ubantu。
現在在ubantu上也有微信和QQ了,但是要想日常辦公還需要裝上office幾件套,有線上文檔等工具,幾乎也可以完成辦公,不過就是需要費時間去研究這些軟件的安裝了。
可是一張5090的顯卡的費用就可以買一臺遠超游戲性能主機,很多玩家應該也愿意。
對比Mac M3 ultra,也更性價比
在DGX出現之前,很多產品經理和開發者會購買Mac studio Ultra M3 512GB 統一內存,蘋果這款機器幾乎是唯一滿血運行DEEPSEEK 量化版本的R1或V3。
但高昂的價格,就讓很多小企業或者個人研究者勸退了。整體購買要接近花費10萬塊錢左右,現在DGX兩臺的價格就是在6萬多,可以達到256的顯存,如果再來兩臺就可以達到512,和蘋果差不多的價格,但是可以得到AI模型訓練環境最好的GPU模型算力。
畢竟其天生的CUDA環境,更加適合模型微調與二次開發。
最后總結下其和Macmini M4 pro的對比區別
![]()
囤二手 ,價格一定會漲價
最后我做個預測,這個價格會和英偉達的顯卡一樣漲價,隨著GB10支持聯想、Dell代工,相信就可以有很多事業單位、體制內也會采購該一體機了,成為國內算力的香餑餑,價格會漲價。
英偉達提供的是OEM方案,讓國內代工廠也可以完成組裝并售賣,現在聯想與技嘉、Dell等品牌已經在預售了,預計11月份就可以發貨。
這種一體機,幾乎可以解決非常多的AI模型開發者的需求。
價格在3萬到3萬5左右,并且隨著AI模型的需求,算力永遠是不夠的,尤其是那些預算有限的開發者、高校研究者,我相信這個價格一定會被炒作起來的。
除了開發之外,還有非常多的算力租賃需求,這個價格都會比國產的其他芯片價格更便宜,同時性能更好。本來現在A100等芯片已經被封鎖了,所以選擇DGX,也是一個明智之舉,畢竟馬斯克都在用。
![]()
今天的分享就在這里。
“關注我,一個產品經理的創業故事”
最近我的原創
每日案例拆解庫,AI等產品打卡群
我創建的產品設計打卡社群,加入后365天,每天體驗一款APP。提升產品設計能力,同時有1300份體驗報告幫助你找到競品。
在這里你可以隨時查詢到你想找的各類競品行業APP,無須自己親自下載就可以馬上得到APP的一手產品優化、交互設計、功能描述信息。
從優化&建議、商業模式、運營、功能描述、交互設計、產品定位至少6個維度,體驗一款應用。
平均1天1塊錢,掃碼購買即可加入
連續體驗48款應用,通過后原路退回
![]()
報名后添加星球助理
PMTalk123
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.