公開的秘密：NVIDIA Nemotron 模型、數(shù)據(jù)集和技術(shù)如何推動 AI 發(fā)展

Nemotron 開源技術(shù)能夠幫助開發(fā)者與企業(yè)構(gòu)建強大的通用和專用智能系統(tǒng)。

開放技術(shù)可供開發(fā)者與企業(yè)自由使用、修改和創(chuàng)新，貫穿了從互聯(lián)網(wǎng)誕生到云計算早期的每次重大技術(shù)變革。AI 也不該例外。

因此，NVIDIA Nemotron 多模態(tài) AI 模型、數(shù)據(jù)集和技術(shù)已向公眾全面開放。Nemotron 可用于本地個人電腦到企業(yè)級系統(tǒng)上的研究與商業(yè)用途，提供了一個開放的 AI 應(yīng)用構(gòu)建基礎(chǔ)平臺。開發(fā)者可通過 GitHub、Hugging Face 和 OpenRouter 使用。

通過 Nemotron，開發(fā)者、初創(chuàng)公司及各種規(guī)模的企業(yè)都能使用基于透明開源訓(xùn)練數(shù)據(jù)訓(xùn)練而成的模型。此外，Nemotron 還提供加速工具，覆蓋從定制到部署的全開發(fā)流程。

由于該技術(shù)的公開透明性，使用者能夠理解模型的運作機制并信任其輸出結(jié)果。

憑借其在通用智能與代理式 AI 推理方面的能力，以及對特定 AI 用例的適應(yīng)性，Nemotron 如今已被制造、醫(yī)療、教育及零售等行業(yè)的 AI 創(chuàng)新者與領(lǐng)導(dǎo)者廣泛使用。

什么是 NVIDIA Nemotron？

NVIDIA Nemotron 是一套專為提高 AI 開發(fā)全流程效率而打造的開源 AI 技術(shù)集合，包含：

• 多模態(tài)模型：以開放檢查點形式交付的先進 AI 模型，在研究生級別科學(xué)推理、高等數(shù)學(xué)、編碼、指令執(zhí)行、工具調(diào)用、視覺推理方面表現(xiàn)出色。

• 預(yù)訓(xùn)練、后訓(xùn)練及多模態(tài)數(shù)據(jù)集：精心篩選的文本、圖像和視頻數(shù)據(jù)集合，可用于訓(xùn)練 AI 模型掌握語言、數(shù)學(xué)和問題解決等技能。

• 數(shù)值精度算法和方案：先進的精度技術(shù)，能在保障答案準確性的同時，大幅提升 AI 運行速度并降低成本。

• 用于高效擴展 GPU 集群上訓(xùn)練規(guī)模的系統(tǒng)軟件：這是一系列經(jīng)過優(yōu)化的軟件與框架，可在 NVIDIA GPU 上實現(xiàn)大規(guī)模訓(xùn)練與推理加速，適配超大模型的需求。

• 后訓(xùn)練方法與軟件：提高 AI 智能水平、安全性和特定任務(wù)處理能力的微調(diào)步驟。

NVIDIA 致力于為開發(fā)者、行業(yè)領(lǐng)導(dǎo)者和公共及私營領(lǐng)域的 AI 基礎(chǔ)設(shè)施構(gòu)建者提供開放、透明且自適應(yīng)的 AI 平臺，而 Nemotron 正是該戰(zhàn)略的重要組成部分。

通用智能與專用智能有何區(qū)別？

NVIDIA 開發(fā) Nemotron 是為了提升通用智能的能力（包括 AI 推理能力），同時加速專業(yè)化進程，進而幫助全球企業(yè)使用 AI 解決行業(yè)難題。

通用智能是指基于海量公開數(shù)據(jù)集訓(xùn)練而成、可執(zhí)行廣泛任務(wù)的模型，是解決各類問題和執(zhí)行各類推理任務(wù)必不可少的引擎。專用智能學(xué)習(xí)某一行業(yè)或組織機構(gòu)特有的語言、流程及優(yōu)先事項，使 AI 模型能夠適應(yīng)特定的現(xiàn)實應(yīng)用。

要實現(xiàn) AI 在各行業(yè)的規(guī)模化應(yīng)用，兩者缺一不可。

因此，Nemotron 提供了針對多種計算平臺優(yōu)化的預(yù)訓(xùn)練基礎(chǔ)模型，以及 NVIDIA NeMo 和 NVIDIA Dynamo 等工具，以將通用 AI 模型轉(zhuǎn)化為定制化的專用智能模型。

開發(fā)者與企業(yè)如何使用 Nemotron？

NVIDIA 開發(fā) Nemotron 的目標是加快全球開發(fā)者的工作進程，并且為未來 AI 系統(tǒng)設(shè)計指明方向。

無論是研究機構(gòu)還是初創(chuàng)公司和跨國企業(yè)，開發(fā)者都需要靈活、可信的 AI。Nemotron 提供了構(gòu)建、定制和集成 AI 的工具，適用于幾乎所有領(lǐng)域。

• CrowdStrike 正將面向安全團隊的 Charlotte AI AgentWorks 無代碼平臺與 Nemotron 集成，幫助推動代理式生態(tài)系統(tǒng)的發(fā)展并保護其安全。此次合作重新定義了安全運營模式，使分析師能夠大規(guī)模開發(fā)部署專用 AI 智能體，依托 Nemotron 模型打造可信賴的企業(yè)級安全防護體系。

• DataRobot 將 Nemotron 作為在其與 NVIDIA 合作開發(fā)的 Agent Workforce Platform 上大規(guī)模訓(xùn)練、定制和管理 AI 智能體的開放基礎(chǔ)平臺。該解決方案可在本地、混合及多云環(huán)境中建立、運營和管理一支功能齊全的 AI 智能體團隊。

• ServiceNow 今年早些時候與 NVIDIA 合作推出了 Apriel Nemotron 15B 模型。該模型使用兩家公司的數(shù)據(jù)進行后訓(xùn)練，專門用于執(zhí)行實時工作流，并且能以更小規(guī)模提供先進的推理，使其更快、更高效并且兼具經(jīng)濟效益。

• 倫敦大學(xué)學(xué)院主導(dǎo)的主權(quán) AI 項目 UK-LLM 使用 Nemotron 開源技術(shù)和數(shù)據(jù)集開發(fā)了英語與威爾士語 AI 推理模型。

NVIDIA 還將從開發(fā) Nemotron 獲得的洞察，應(yīng)用于下一代系統(tǒng)設(shè)計，例如 Grace Blackwell、Vera Rubin 和 Feynman 等。AI 模型領(lǐng)域的最新創(chuàng)新成果例如精度縮減、稀疏運算、新型注意力機制、優(yōu)化算法等正在重塑 GPU 架構(gòu)。

例如，使用 Nemotron 開發(fā)的新數(shù)據(jù)格式 NVFP4 在大語言模型 (LLM) 訓(xùn)練中每個參數(shù)僅用 4 位存儲。這項突破性進展大大降低了能耗，正在影響著未來 NVIDIA 系統(tǒng)架構(gòu)的設(shè)計方向。

NVIDIA 還借助整個 AI 社區(qū)開發(fā)的開放技術(shù)優(yōu)化 Nemotron。

• 阿里巴巴 Qwen 開源模型提供的數(shù)據(jù)增強方案優(yōu)化了 Nemotron 的預(yù)訓(xùn)練與后訓(xùn)練數(shù)據(jù)集。其最新 Qwen3-Next 架構(gòu)突破了長上下文 AI 的技術(shù)邊界。該模型融合了 NVIDIA 研究中心與麻省理工學(xué)院共同開發(fā)的門控增量網(wǎng)絡(luò) (Gated Delta Networks)。

• 作為 AI 推理領(lǐng)域的先驅(qū)，DeepSeek R1 推動了 Nemotron 數(shù)學(xué)、代碼與推理開源數(shù)據(jù)集的開發(fā)，這些數(shù)據(jù)集可用于訓(xùn)練模型掌握思考能力。

• OpenAI 的 gpt-oss 開源權(quán)重模型具有出色的推理、數(shù)學(xué)和工具調(diào)用能力，憑借其可調(diào)節(jié)的推理設(shè)置，可用于強化 Nemotron 后訓(xùn)練數(shù)據(jù)集。

• Llama-Nemotron 開放模型系列以 Meta 的 Llama 開放模型集合為基礎(chǔ)，并借助 Nemotron 數(shù)據(jù)集和方法獲得了先進的推理能力。

您可在 Hugging Face 上使用 NVIDIA Nemotron 模型與數(shù)據(jù)，來訓(xùn)練和定制您自己的 AI 模型與智能體，或在 OpenRouter 上免費試用模型。使用 NVIDIA RTX PC 的開發(fā)者可通過 llama.cpp 框架獲取 Nemotron。

Hugging Face：

https://huggingface.co/nvidia/collections

OpenRouter：

https://openrouter.ai/nvidia

llama.cpp：

https://github.com/ggml-org/llama.cpp