隨著大模型技術規模化落地,AI應用的實時性正成為企業競爭力的核心。然而,在算力持續升級的同時,模型從存儲層加載至計算單元的環節卻日漸成為制約系統效率與彈性的關鍵瓶頸。緩慢或波動的加載過程,不僅會導致昂貴算力資源的閑置,更直接影響業務響應質量。由此可見,構建高效、穩定的數據供給通道,已成為AI基礎設施演進的關鍵方向。
為驗證企業級SSD在真實AI場景中的表現,憶聯選擇Ollama這一廣泛應用的開源大模型部署平臺進行深度測試。Ollama不僅能夠模擬典型的企業級AI工作負載,如多模型快速加載、高頻迭代等,其標準化的調用接口還可精準反映底層存儲性能對模型準備時間的實際影響,為存儲能力評估提供了一個客觀且可復現的測試環境。在本次測試中,憶聯UH812a憑借領先性能大幅降低數據加載耗時,這不僅驗證了其作為AI數據底座的強大承載力,更彰顯了憶聯在高端企業級存儲領域的技術實力。
測試軟硬件環境
![]()
測試組網規劃
![]()
圖1:測試組網規劃圖
測試步驟
步驟1:將待測SSD格式化為ext4文件系統,并掛載至指定目錄。
步驟2:將準備好的離線大模型數據復制到SSD掛載的目錄。
步驟3:清空內存,啟動Ollama服務,執行模型加載命令,將目標從SSD加載至顯存,并記錄加載耗時。該步驟重復執行3次,取算術平均值作為最終測試結果。
測試結果
DeepSeek-R1系列模型加載性能測試DeepSeek-R1作為業界主流的高性能開源模型,其參數規模從1.5B至671B不等,覆蓋了從輕量級到千億級的不同應用場景。該類模型的加載過程具有典型的隨機讀取特征,對存儲設備抓取分散權重文件的IOPS性能提出了極高要求。本次測試覆蓋了7B(小規模)、70B(中等規模)及671B(大規模)三個版本。
結果表明,憶聯UH812a在Ollama平臺上的模型加載表現全面優于競品:
Ollama加載DeepSeek-R1:671B模型:基于UH812a的平均耗時較競品A降低48%;
Ollama加載DeepSeek-R1:70B模型:基于UH812a的平均耗時較競品A降低36%;
Ollama加載DeepSeek-R1:7B模型:基于UH812a的平均耗時較競品A降低21%。
![]()
圖2:Ollama加載DeepSeek-R1模型平均耗時(s)對比
DeepSeek-R1系列模型測試證明,憶聯UH812a憑借卓越的隨機讀取性能,從容應對復雜推理模型的極端I/O挑戰,它將高負載場景下的存儲壓力,轉化為算力資源的充分釋放與即時可用,為企業筑牢AI數據底座。
Qwen3系列模型加載性能測試Qwen3作為阿里通義千問開源模型,其參數規格覆蓋0.6B至235B。當加載32B、235B等較大規模模型時,海量大文件權重的高效調取對存儲設備的順序讀取帶寬提出了嚴苛要求。本次測試覆蓋了8B及235B兩個典型版本。
結果顯示,憶聯 UH812a在Ollama平臺上的加載表現全面優于競品A:
Ollama加載Qwen3:235B模型:基于UH812a的平均耗時較競品A降低40%;
Ollama加載Qwen3:8B模型:基于UH812a的平均加載耗時較競品A降低20%。
![]()
圖3:Ollama加載Qwen3模型平均耗時(s)對比
Qwen3系列模型載入測試表明,憶聯UH812a憑借卓越的順序讀寫性能,從容應對大容量、高帶寬工作負載,為企業級大規模AI應用提供穩定、敏捷的存儲層支撐。
Llama3.1-405B超大規模模型加載性能測試Llama3.1是Meta推出的旗艦級開源大模型,其405B超大規模版本對存儲系統的容量支撐與高速讀取能力提出了極致要求。本次在Ollama平臺上聚焦該模型進行實測。
結果顯示,使用UH812a的Ollama加載Llama3.1:405B模型的平均耗時較競品低47%,展現出處理超大規模文件高效調取的卓越能力。這一領先優勢源于UH812a的技術底座:PCIe 5.0接口帶來的超高帶寬,結合自主研發主控的高效調度算法,充分釋放了Ollama框架在模型加載階段的I/O潛力。
![]()
圖4:Ollama加載Llama3.1模型平均耗時(s)對比
基于Ollama的深度測試表明,憶聯UH812a能夠充分滿足從輕量級驗證到大規模生產部署的全場景AI負載。作為突破模型加載I/O瓶頸、加速智能算力釋放的關鍵一環,UH812a彰顯了其在企業AI基礎設施中的核心價值與領先地位。
面對AI模型參數規模的指數級增長與應用場景向實時化、邊緣化的持續演進,憶聯將以更優存力、更高標準,攜手產業伙伴共同應對超大規模訓練、實時推理與聯邦學習等前沿挑戰,為人工智能的下一階段突破筑牢數據基石,讓存力成為驅動智能未來的算力動脈。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.