技嘉AI TOP ATOM體驗：Blackwell+趨境智問，AI的未來就擺在你的桌面

近些年，AI風口的大勢已成，且有著下沉本地的明顯趨勢，本地化、私有化的AI應用業已呈現出需求日益增長的明顯勢頭。在這個風口浪尖上，技嘉科技推出了一款名為AI TOP ATOM的迷你桌面AI PC，且將其定位為“個人AI超級電腦”。將原本屬于數據中心級別的算力，濃縮進一個適合辦公桌面的緊湊機身中的它，有著怎樣的神奇魔法？讓我們一起來看看。

當技嘉AI TOP ATOM到達MC評測室時，它著實給了我們幾分熟悉的陌生人的感覺，因為它在外觀上和技嘉之前曾推出過的NUC產品頗有幾分神似——小巧精致的機身設計，卻蘊含著強大的性能潛力，讓人忍不住想要一探究竟。作為一款面向開發者、科研人員及數據科學家的專業設備，技嘉AI TOP ATOM 的外觀設計語言摒棄了傳統游戲PC常見的夸張RGB燈效和激進線條，轉而采用了一種更為沉穩、專業的極簡工業風格。作為NVIDIA DGX SPARK的二次開發定制優化產品，這款桌面迷你AI PC，究竟能帶來怎樣的驚喜體驗呢？

01

極簡主義的工業美學

在技嘉的官網上，官方明確將其描述為具備“小巧緊湊”的機身形態。這款150mm×150 mm×50.5mm大小的機器僅略大于傳統NUC產品，遠小于傳統的Mini ITX主機或小型化工作站。

這種設計讓AI TOP ATOM能完美融入辦公桌環境，不占用過多空間，方便用戶在有限的辦公區域內進行本地AI開發、原型設計及模型微調。而且整體造型趨向方正、規整，強調功能性與空間利用率的極致結合。

雖然是同源，但和NVIDIA DGX SPARK張揚的“土豪金”配色不同，技嘉AI TOP ATOM呈現出的是一種低調內斂的風格。它采用了銀灰色的高強度金屬外殼，能夠確保結構的堅固性及對內部精密元件的保護。在表面采用啞光細磨砂工藝，能極大減少指紋殘留并提升專業質感，同時還能輔助散熱。

技嘉AI TOP ATOM的兩個散熱出口放在正前和接口一側的尾部，采用了橫柵格的通風設計，內側輔以裝飾條作為強化筋以保證柵格的穩固性。這種隱蔽式的進出風口設計，在保證散熱的同時維持了AI TOP ATOM外觀的整體性，且能較為有效地降低運行噪聲，以適應安靜的AI應用或設計創作環境。

▲機身整體采用銀灰色調，十分低調。

▲GIGABYTE的Logo擋在正面的右下方，同樣非常內斂，產品的整體一致性很優秀。出風口采用了柵格設計且設計了強化筋條。

▲技嘉AI TOP ATOM的背部接口按鍵布局。包括3個USB 3.2 Type-C、1個Type-C的240W電源接口、1個HDMI 2.1a視頻輸出接口、1個10Gbps RJ-45有線網絡接口、1個NVIDIA ConnectX-7接口(和DGX SPARK一樣，這個接口用于兩臺AI TOP ATOM互聯實現算力、顯存和帶寬的翻倍增加)以及電源按鍵。

▲NVIDIA ConnectX-7智能網卡。用戶可以通過該網卡輕松連接兩套技嘉AI TOP ATOM系統，將顯存和算力池化，從而支持高達4000億以上參數的超大模型運行。這種“樂高式”的拼接擴展設計，讓用戶可以根據項目需求靈活升級，無需一次性投入昂貴的單一大型服務器。

▲右側是肯辛頓微鎖孔，用于產品的物理防盜。

▲左側沒有任何多余設計

▲底部設計了兩個橡膠墊腳橫條用于墊高產品輔助散熱，同時底部的一側采用了內凹槽的挖空設計，也能在一定程度上加強AI TOP ATOM的散熱性能。

▲電源適配器240W最大輸出，采用了Type-C接口。

02

NVIDIA DGX SPARK同款，128GB統一內存+NVIDIA Grace GB10芯片當家

在低調外觀設計的背后，技嘉AI TOP ATOM的核心競爭力在于其內部架構的革新。它將服務器級的硬件規格塞入了桌面級的外殼中，這本身就是其最大的設計亮點。

在硬件層面，技嘉AI TOP ATOM內部最重要的元件是CPU+GPU一體封裝設計的NVIDIA GB10 Grace Blackwell芯片，NVIDIA將其稱為“Super Chip”。

NVIDIA GB10是一次基于先進封裝技術的深度集成，遠非CPU+GPU簡單拼接那么簡單。

首先，GB10采用了目前業界最先進的臺積電3納米制程工藝，不僅大幅提升了晶體管密度，更關鍵的是在高性能輸出下實現了卓越的能效比，使得GB10芯片的TDP被控制在140W左右，完美適配桌面級散熱系統。其次，NVIDIA對GB10芯片采用了2.5D CoWoS封裝，將ARM架構的Grace CPU die和Blackwell GPU die封裝在同一個基板上。這種物理上的極度接近，為兩者之間的高速互連奠定了物理基礎。

GPU部分是GB10芯片的靈魂，它繼承了NVIDIA新一代Blackwell架構的全部精髓，但針對桌面AI應用場景進行了優化。這顆GPU內置6144個CUDA核心，與消費級顯卡市場的GeForce RTX 5070一致。雖然在CUDA數量上相比B200這種NVIDIA旗艦數據中心顯卡相去甚遠，但在140W功耗限制下，GB10這一規模已屬驚人。GB10集成了新一代Blackwell架構的Tensor Core，支持FP4、FP8等低精度計算格式。特別是FP4精度下的算力爆發，使其在推理場景下能釋放出高達1000 AI TOPS的性能，支持運行高達2000億參數的模型。這種性能密度在傳統桌面PC中幾乎不可見，通常只有機架式服務器才能提供。

GB10芯片內部并未板載大容量顯存，而是通過統一內存架構訪問系統內存。技嘉AI TOP ATOM機器中搭配了128GB MPDDR5X統一架構內存 (Unified Memory Architecture)，GB10內部的ARM CPU和Blackwell GPU共享這塊高速內存池，消除了數據在兩者之間拷貝的瓶頸，極大地提升了大模型訓練和推理的效率，這也是針對AI工作負載進行的針對性硬件設計。同時，128GB統一內存的設計不僅能夠輕松支撐千億模型的NVFP4量化運行，還能滿足“主模型+Embedding+Rerank”多模型并行運行的需求，為多任務處理預留了充足的內存空間。

技嘉AI TOP ATOM主機的CPU與GPU之間通過NVLink-C2C (Chip-to-Chip)技術連接，雙向帶寬是傳統PCIe 5.0雙向帶寬的5倍左右。這種設計下，CPU和GPU可以像訪問本地緩存一樣訪問彼此的內存空間，真正實現了統一內存架構。對于大模型推理而言，這意味著128GB內存可以被CPU和GPU無縫共享，徹底打破了“顯存墻”的限制，讓桌面PC也能流暢運行2000億參數的大模型。這也是GB10和RTX 5070在CUDA核心數一致的前提下，AI算力卻遠超后者的核心原因之一。

GB10集成的CPU源自NVIDIA與聯發科基于Arm v9.2架構定制，其擁有20個高性能Arm v9.2核心(10個Cortex-X925+10個Cortex-A725)，在CPU內部形成兩個核心集群，每個CPU集群共享16MB L3緩存，總計32MB L3緩存。我們的基準測試數據顯示，其單核頻率可飆升至接近4.0GHz的程度，多核性能在Geekbench中也能達到10000分以上的成績。這意味著在處理數據預處理、邏輯控制等非GPU任務時，GB10也擁有不遜色于中高端桌面x86處理器的實力，同時功耗表現更低，更適配緊湊型機身的散熱需求。

技嘉 AI TOP ATOM產品資料

產品名稱：GIGABYTE AI TOP ATOM

處理器：10個Cortex-X925+10個Cortex-A725

芯片組：NVIDIA GB10 Grace Blackwell Superchip

GPU：NVIDIA Blackwell GPU，6144個CUDA核心

AI性能：1 PetaFLOP算力(1000 TFLOPS(AI TOPS)，NVFP4精度)

內存：128GB LPDDR5x統一系統內存

內存位寬：256-bit

內存帶寬：273GB/s

存儲：最高支持Gen5 14000 MB/s SSD 4TB

接口：1×USB 3.2 Gen 2 Type-C (供電輸入)、3×USB 3.2 Gen 2 Type-C、1×NVIDIA ConnectX-7、1×RJ-45接口(萬兆以太網)、1×HDMI 2.1a、1×Kensington Nano安全鎖孔

無線網絡：Wi-Fi 7, Bluetooth 5.4

電源適配器：240W AC-DC適配器(USB Type-C輸出)

操作系統：可選NVIDIA DGX OS、Ubuntu Linux

重量：約1.2 kg (2.64 lbs)

尺寸：高50.5mm×寬150mm×長150 mm

參考價格：N/A

03

實機體驗，它就是完美的私人AI助理

本次我們拿到的技嘉AI TOP ATOM盒子內置了趨境科技與技嘉聯合打造的趨境智問本地AI應用集成系統，用戶拿到手中即可使用，無需經歷復雜的AI應用環境配置與部署。這款產品內置了智譜GLM-4.5-Air 106B大模型，并搭載了趨境自研的“以存換算”推理引擎，主打“開機即用”與“單卡運行千億模型”。我們在收到設備后，對其進行了為期一周的應用體驗。必須說明的是，和完全能夠量化每一個數據對比的游戲PC、商用PC評測不同的是，基于技嘉AI TOP ATOM這個AI超算盒子，我們更多是對其進行實際應用上的體驗，希望能清晰地告訴消費者——它是什么，以及它能為你做什么。

我們測試的這臺樣機算是AI TOP ATOM的高配版本，內置了128GB DDR5內存、4TB NVMe SSD以及NVIDIA Grace Blackwell B10芯片。而在軟件部分，操作系統應該是基于UBUNTU底層改進的趨境自研AIOS系統(請核實一下)，支持全圖形化操作，上手不是特別困難。當然如果你對Linux系統完全陌生，可能還是需要一點時間去學習適應。

技嘉AI TOP ATOM機器內置了兩個最核心的AI應用管理及本地部署的應用集群，分別是面向管理、監控層面的趨境AMaaS管理平臺以及面向實際應用的趨境智問應用平臺。而要達到“開箱即用，AI生活工作無障礙”的口號，技嘉AI TOP ATOM中集成的這兩個系統平臺當記首功。

04

趨境AMaaS管理平臺

前文說過，技嘉AI TOP ATOM中已經集成了與趨境科技合作的本地部署AI應用平臺，其中的趨境AMaaS(AI Model as a Service)就是它的后臺中樞。而對于用戶或者管理員來說，這更是一個圖形化、零代碼的運維神器。

基于圖形化UBUNTU系統的基本操作，限于篇幅我們在此就不贅述了，不熟悉的用戶可以自行學習，難度并不大。

▲開機之后，在瀏覽器界面輸入“http://本機IP:10001”，即可打開趨境AMaaS登錄界面，輸入賬號、密碼即可登錄管理后臺(本次測試機的賬號密碼是隨樣機附帶設置好的，正式量產品應該會在產品手冊中設置默認賬號與密碼)。

▲登錄AMaaS后臺，就能看到數據概覽儀表盤直觀展示了GPU/CPU負載、顯存占用、Tokens消耗量等關鍵指標，這里可以清晰地看到每個模型實例的資源分配情況。我們通過體驗測試發現，動態圖表刷新流暢，能夠幫助消費者快速識別資源瓶頸。通過“使用量排行榜”，我們可以輕松識別出哪些用戶或應用在大量消耗算力，從而優化資源配額。

▲平臺內置了多款主流模型，無需手動下載配置，真正實現了“開機即用”。比如在最核心的LLM大語言模型方面，平臺已經集成了GLM 4.5-Air NVFP4 106B大模型。在模型管理界面中可以看到，平臺的模型核心是LLM大語言模型和VLM視覺－語言模型，此外還包括向量轉化Embedding、重新排序Rerank、識別分析Paraser以及音頻處理Audion等模型架構。

▲除了系統默認已經安裝好的模型之外，玩家也可以自行下載喜歡或常用的模型進行安裝。在“私有模型”界面下點擊右側的“+”即可導入下載的私有模型。注意，下載的模型需要放在“mnt/data/models”文件夾下才能被系統識別導入。注意在導入模型時需要根據模型類型正確設置各項參數(需要一定的AI模型相關知識)。

我們在體驗測試中，以私有模型的方式下載了一個Qwen 2.5 7B模型，在導入之后可以在基于LLM模型的AI應用中取代默認的GLM 4.5 Air NVFP4 106B大模型。注意，要讓導入的新模型生效，需要在配置界面中對其各項參數進行設置，并經過檢測之后才能正常運行。

同時，在本次體驗測試過程中，我們在技嘉AI TOP ATOM機器上同時啟動了GLM-4.5-Air NVFP4對話、Embedding向量化和Rerank重排序三個實例。系統自動分配資源，互不干擾。這意味著單臺設備即可構建完整的檢索增強生成鏈路，無需多臺服務器拼湊。

▲在“實驗場景”選項下，則可以針對運行的模型進行簡單測試體驗，包括Tokens輸出性能，響應時間，多模型輸出速度對比等。

05

快速上手的小白式AI應用體驗：趨境智問系統平臺

如果說AMaaS是給管理員看的，那么“智問”就是給最終用戶使用的。它不僅僅是一個聊天窗口，而且更是一個完整的AI工作臺。

要登錄技嘉AI TOP ATOM本機已經部署好的趨境智問系統，同樣需要在瀏覽器中輸入“本機IP:10002”以登錄平臺。在趨境智問系統平臺下集成了幾乎所有你能想得到的，跟辦公、生活以及學習相關的各類應用，極大地節省了用戶花時間去做本地部署的時間，對新手用戶而言特別方便。

首先是基于LLM語言大模型的AI搜索和對話大模型，這兩個應用體現的是知識搜索與智能文本生成應答。

技嘉AI TOP ATOM的AI對話界面，界面簡潔直觀，輸入框設計合理，支持語音輸入和文字輸入。回答速度快，準確度高，尤其在專業領域表現出色。系統會根據上下文理解多輪對話，提供連貫的回答。因此它非常適合日常知識查詢、學習輔導、專業咨詢等場景。

測試發現趨境智問的對話響應迅速，回答質量高，支持多輪對話，能夠很好地理解上下文且覆蓋領域廣泛，準確度非常高。不過它對于非常專業的冷門領域知識了解不夠全面，有時回答過于保守，缺乏跳脫性的創新性見解。

AI應用分支下是一系列非常好用的AI辦公智能助手功能，包括了智能朋友圈生成、智能小紅書內容生成、智能月報、周報甚至是年度總結的生成，在這里你還可以進行文章校對糾錯、潤色以及調整語氣等操作，同時還能設置各種提醒，整理會議紀要，甚至還可以讓AI幫你寫故事、演講稿、發言稿等等。可以說，這是一個集中了智能問答、推薦、辦公、創作以及日常事務管理的完美萬能助手，而且上手使用也非常簡單，純圖形化的操作界面給人感覺也很親切，幾乎不存在任何應用上的難度。

知識庫的作用是將各類知識分門別類供用戶檢索。知識庫板塊資源豐富，分類科學，檢索高效。知識圖譜和專家問答功能亮點突出，為用戶提供了權威、系統的知識服務。實時更新機制保證了信息的時效性，知識社區則增強了用戶參與度。從體驗試用的情況來看，趨境智問平臺在新興領域覆蓋和跨學科整合方面還有提升空間，部分功能的深度和廣度有待加強。

AI閱讀板塊是趨境智問AI系統為優化閱讀體驗設計的功能模塊，借助人工智能提升閱讀效率與理解深度。體驗發現，趨境智問的AI閱讀模塊支持多種文檔格式，有智能摘要、重點提取、翻譯輔助等功能，助用戶高效獲信息。這一板塊功能全，智能摘要和重點標注出色，提升閱讀效率；多語言翻譯質量高，能夠以閱讀理解輔助增強閱讀深度。從我們實際感受而言，用戶體驗好，界面設計合理、操作流暢。只是在復雜文檔處理和個性化閱讀輔助上有提升空間，部分功能深度和廣度有待加強。

長文寫作也算是一個“樂子”意味比較重的模塊。不得不承認，趨境智問在工作流的完整性上做得相當出色。對于需要快速產出標準化長文的用戶，它幾乎是一個“無腦友好型”工具。智能大綱與內容生成效率高、質量穩定，風格調整和潤色功能顯著提升文本質量。它的強項在于結構化思維，不會讓你面對空白文檔發呆，而是直接給出一份邏輯自洽的目錄。雖然略顯模板化，但對于克服大多數用戶都存在的“啟動困難癥”極其有效，幫你完成寫作之路上從0到1的突破。

不過實際體驗中也發現它的弱項同樣比較突出，它像是一個訓練有素的初級文案，卻尚未具備專家級洞察。在專業知識方面泛而不精，缺乏“驚喜感”。對于追求深度內容和獨特視角的創作者來說，它提供的更多是素材堆砌，而非思想火花。因此，它能很好地解決“從無到有”的過程，目前無法達到完全的“從有到精”的程度，這還需要人為的后期干預修正。

整個體驗試用中，會議助手功能給我們的印象是比較深刻的。會議助手板塊功能全面，覆蓋會議管理各環節。會議生成和實時記錄功能出色，有效提升會議效率；摘要提取和行動項追蹤功能實用性強，有力支持會議成果落實。整體用戶體驗良好，界面設計合理，操作流暢。

硬件配置和軟件環境是基礎，實際性能才是檢驗產品的核心標準。為了全面、客觀地評估技嘉AI TOP ATOM，我們在體驗測試過程中也對它的AI應用，尤其是基于LLM大模型下的應用狀況進行了一些簡單測試，在這里列出供用戶參考。測試模型選擇的是機器系統自帶的GLM-4.5-air 106B NVFP4。

▲模型：Qwen 2.5-7B，輸出1024Tokens。

▲GLM 4.5-Air 106B NVFP4，輸出1024Tokens。

首先看在單發狀態下針對不同長度提示詞時技嘉AI TOP ATOM機器的文本輸出速度情況。我們都知道，提示詞越長，對總Tokens的消耗越高，輸出性能表現也會隨之降低。從測試情況來看，在Qwen-2.5 7B模型下，不同長度提示詞下的文本生成輸出速度(TPS)平均不到13Tokens/s，中規中矩。但在GLM 4.5-Air 106B NVFP4模型下，技嘉AI TOP ATOM在100字的提示詞下平均文本輸出速度為22.58Tokens/s，提示詞為300字時平均文本輸出速度為21.11Tokens/s，而當提示詞為500字時，平均文本輸出速度降低到了20.61Tokens/s。面對106B大模型，它的性能表現是比較優秀的，Blackwell架構中的Tensor Core針對NVFP4精度格式的加速顯然在其中是功不可沒。

在并行處理方面，技嘉AI TOP ATOM還是具備了比較不錯的性能表現，在不高于4并發處理線程時，平均推理速度基本能保持在10 Tokens/s以上，不過當并發處理超過4時，性能下降還是比較明顯的。但考慮技嘉AI TOP ATOM的迷你桌面級體積與功耗，這一表現已經讓我們認為算是一份比較完美的答卷了，甚至你還可以將AI TOP ATOM作為一個簡單的AI云服務器供數人共享使用。而且，有多線程并行處理需求的用戶，還完全可以NVIDIA ConnectX-7接口組建AI TOP ATOM集群，以滿足多任務并行處理的需求。

再來談談運行過程中的顯存占用情況。從實際體驗來看，當使用GLM-4.5-air 106B FP8原始模型時，運行時會出現爆顯存的情況，顯存需求遠超128GB。不過當改為GLM-4.5-air 106B NVFP4模型時，整體運行過程顯存占用約為68GB~69GB，大致相當于統一內存的一半，106B的大模型能夠順利啟動運行沒有障礙。

最后說一下，基于NVIDIA DGX SPARK的技嘉AI TOP ATOM迷你AI盒子也是完全可以自我部署熱門AI應用的，比如Stable Diffusion WEBUI、ComfyUI等都可以自己部署，讓自己的私人數據更加私密。當然，這一部分的應用與測試限于篇幅和時間，今天就不展開了，后續有時間我們會做一些相對詳細的文章供大家參考。

▲自主部署ComfyUI

▲自我部署Stable Diffusion

06

開箱即用，你的最佳AI助理

從數日全場景的實際體驗來看，技嘉AI TOP ATOM真正實現了桌面級AI超算的平民化落地，將原本需要專業技術團隊耗時部署且僅能在數據中心實現的千億參數大模型推理能力，濃縮進150mm×150mm×50.5mm的迷你機身中，更憑借圖形化操作界面實現了4～5分鐘快速啟動模型上手，讓私有化AI服務器的搭建徹底告別技術門檻。NVIDIA Grace Blackwell GB10芯片為核心，搭配128GB統一內存架構，在NVFP4精度下釋放出1000 AI TOPS的強悍算力，不僅能流暢運行GLM-4.5-Air 106B這類千億級大模型，還能支持2路、4路甚至8路(低Tokens輸入)并發推理，即便在500字長提示詞下，仍能保持穩定的文本生成速度，兼顧了算力表現與實際使用需求。

而與趨境科技的深度合作，更是讓這款硬件擁有了完整的軟件生態閉環：趨境AMaaS管理平臺實現了模型、算力、用戶的可視化零代碼運維，讓新手用戶也能輕易上手。而趨境智問應用平臺則覆蓋了AI對話、辦公創作、文檔閱讀、會議助手等日常工作生活的全場景需求，真正做到硬件算力+軟件應用的一體化融合且全圖形化界面的使用也非常簡單。更重要的是，全本地化的部署模式，讓數據在物理層面與云端隔離，從根源上解決了企業與個人對數據隱私、信息安全的顧慮，同時相比傳統云服務器與大型AI工作站，大幅降低了AI應用的落地成本。

對于AI開發者、科研人員、小型工作室乃至有私有化AI需求的個人而言，技嘉AI TOP ATOM早已超越了一臺桌面AI PC的定位，它是一套低成本、高效率、安全可控的全棧式私有AI基礎設施解決方案。它讓原本高高在上的AI超算走出數據中心，走進普通辦公室、研發小組，讓每個人都能擁有專屬的私人AI助理，也讓中小企業無需投入高昂成本，就能快速搭建起自己的AI應用體系。在AI本地化、私有化的發展浪潮中，技嘉AI TOP ATOM無疑為行業樹立了桌面級AI硬件的新標桿，也為AI技術的全民化普及，提供了極具參考價值的落地路徑。哪怕你是徹頭徹尾的新手小白，也能在AI TOP ATOM上愜意地暢游AI世界，或許這就是這款產品在消費級市場上的最大意義與立足之本。當AI應用、開發不再是純專業人士的專屬，那么可以想象到的是——AI落地的未來必然就是一片坦途。

友情提示

MCer請注意，由于微信公眾號調整了推薦機制，如果你發現最近很難刷到Microcomputer（微型計算機）公眾賬號推送的文章，但是又不想錯過微機的精彩評測內容，可以動動小手指把Microcomputer設置成星標公眾賬號哦！