對話戴國浩：用Token重新理解AI的成本與價值

近期，DeepTech 密集報道了一系列 AI 在具體場景中落地的新突破。在曼哈頓，一位耶魯畢業(yè)的律師借助 Claude，僅用兩小時便完成了傳統(tǒng)中型律所團隊通宵才能交付的并購提案；一位從未寫過代碼的管道工程師利用 AI 工具分析診斷數(shù)據(jù)，在幾分鐘內(nèi)鎖定了復雜管道網(wǎng)絡(luò)的故障源，而過去這通常需要高級工程師上門勘測數(shù)日；與此同時，開源 AI 智能體項目 OpenClaw 繼續(xù)以“人類歷史上增長最快的開源項目”之勢席卷全球，幫助不同行業(yè)的從業(yè)者實現(xiàn)了更復雜的 Agent 功能。

這些故事的共同點顯而易見：AI 正在抹平團隊與個體之間的產(chǎn)能鴻溝，“一人公司”（One Person Company）不再是愿景，而是觸手可及的現(xiàn)實。

然而，幾乎每一條案例的評論區(qū)，都出現(xiàn)了同一種聲音：“他們做到這些究竟燒掉了多少 token？”

是的，效率的躍升并非毫無代價。作為大語言模型處理信息的最小單位，AI 在具體場景中施展拳腳，離不開海量 token 的消耗。陶哲軒在用 AI 輔助破解數(shù)學難題時，首次嘗試便因消耗過量 Token 導致本地算力崩潰；據(jù)報道，OpenAI 工程師團隊一周處理的 token 量高達 2,100 億，相當于復寫 33 遍維基百科；而一些 OpenClaw 的重度用戶曬出的算力賬單更是驚人，月支出從數(shù)千美元到數(shù)萬美元不等。

與此同時，企業(yè)界也開始重新審視 token 的稀缺性與戰(zhàn)略價值。黃仁勛在近期 GTC 大會上提出了“token 經(jīng)濟學”的概念，他認為數(shù)據(jù)中心正在演變?yōu)樯a(chǎn) token 的“AI 工廠”，token 需要根據(jù)相應的標準進行分層定價供給。同時，token 將成為繼工資、獎金、期權(quán)之后的“第四種薪酬”。在硅谷，工程師的身價評估體系也正在被呼吁重構(gòu)，其中一項重要標準就是看他能高效調(diào)用多少 token。

token，這個曾經(jīng)位于技術(shù)文檔底部的計量單位，正在躍升為 AI 時代的新貨幣。它既是生產(chǎn)力的燃料，也是稀缺資源的象征；它既是個體實現(xiàn)能力躍遷的杠桿，也可能成為新的數(shù)字鴻溝。

為了更深入地解讀 token 在 AI 時代的全新意義，我們邀請了上海交通大學副教授、無問芯穹聯(lián)合創(chuàng)始人戴國浩進行了一次深度對話。他長期致力于稀疏計算與軟硬件協(xié)同設(shè)計方向，研究內(nèi)容包括結(jié)構(gòu)化稀疏方法、動態(tài)編譯策略與細粒度并行架構(gòu)，從而在有限硬件條件下提升算力表現(xiàn)。戴國浩也是 2024 年《麻省理工科技評論》“35 歲以下科技創(chuàng)新 35 人”中國入選者。

我們圍繞 token 從技術(shù)參數(shù)向經(jīng)濟變量轉(zhuǎn)化的內(nèi)在邏輯、底層算力效率的優(yōu)化路徑，也對在個人層面如何更高效地使用 token 展開了討論。

以下是對話內(nèi)容：

DeepTech：token 作為一個概念，過去幾年主要出現(xiàn)在技術(shù)討論中，例如推理成本、模型定價。但最近它開始出現(xiàn)在薪酬談判和企業(yè)預算里。在你看來，token 從一個技術(shù)參數(shù)變成一個經(jīng)濟變量，這個轉(zhuǎn)變的背后發(fā)生了什么？

戴國浩：我認為最根本的原因在于模型的智能化水平已經(jīng)達到了“可用”的階段。

如果以 2022 年底 ChatGPT 的發(fā)布為起點，到現(xiàn)在大約三年多時間。當時的模型更多還是一個對話系統(tǒng)，雖然具備一定的智能，可以進行自然語言交互，但很難真正嵌入到生產(chǎn)流程中，也無法直接轉(zhuǎn)化為生產(chǎn)力。

而現(xiàn)在，一個關(guān)鍵變化在于模型已經(jīng)具備完成實際任務的能力。也就是說，當用戶獲得一定的 token 配額后，不再只是與模型進行對話，而是可以通過模型完成具體工作。這種能力的轉(zhuǎn)變，使得 token 不再只是一個技術(shù)層面的計量單位，而是成為可以直接對應生產(chǎn)結(jié)果的資源。

因此，token 從技術(shù)參數(shù)演變?yōu)榻?jīng)濟變量，本質(zhì)上是由模型能力和整體智能水平的提升所驅(qū)動的。

DeepTech：從理論上看，模型能力的提升通常會帶來單位 token 成本的下降。但在現(xiàn)實中，我們看到不少云廠商選擇上調(diào)價格。同時，隨著像 OpenClaw 這類智能體應用的興起，越來越多用戶開始感受到高額 token 消耗所帶來的成本壓力。

你如何看待這種看似矛盾的現(xiàn)象？其背后是供需關(guān)系的變化，還是推理成本結(jié)構(gòu)發(fā)生了改變，或是其他因素在起作用？

戴國浩：我剛才提到模型能力的提升，這實際上意味著“單個 token 的能力”在增強。

如果從經(jīng)濟角度來理解，可以將其放入一個更完整的價值轉(zhuǎn)化鏈條中來看。之所以很多人將 AI 視為“第四次工業(yè)革命”，本質(zhì)上是因為每一次工業(yè)革命，都是通過某種關(guān)鍵技術(shù)，創(chuàng)造出新的生產(chǎn)力形式。而所有生產(chǎn)力的核心，都是將輸入價值轉(zhuǎn)化為輸出價值。

在傳統(tǒng)工業(yè)體系中，例如蒸汽機或發(fā)電機，提供的是動力或電力，用于將原始物料加工為具有經(jīng)濟價值的產(chǎn)品。而在這一輪 AI 變革中，模型能力的提升，使其本身也成為一種新的價值轉(zhuǎn)換機制。

如果將這一過程拆解，可以得到一個相對清晰的鏈條：

輸入價值→①→電能→②→token→③→生產(chǎn)力→④→輸出價值

其中①是供電體系，②是芯片和系統(tǒng)，③是模型和算法，④是社會評價體系

輸入價值首先是轉(zhuǎn)化為電能，然后電能通過芯片與計算系統(tǒng)轉(zhuǎn)化為算力，算力進一步轉(zhuǎn)化為 token，最后 token 再通過模型轉(zhuǎn)化為生產(chǎn)力；最終，這些生產(chǎn)力通過社會評價體系（例如代碼、文本內(nèi)容等）被賦予具體的經(jīng)濟價值。

在這個鏈條中，token 是一個關(guān)鍵中間環(huán)節(jié)。隨著模型能力的提升，“token 到生產(chǎn)力”的轉(zhuǎn)化效率顯著提高。換句話說，每一個 token 所能承載和釋放的價值變得更高。

這也解釋了為什么 token 會具備經(jīng)濟屬性。可以類比為企業(yè)為員工配備工具：之所以配備計算機，是因為它能夠提升生產(chǎn)力，而不是提供一個沒有實際用途的工具。同理，當 token 能夠直接驅(qū)動生產(chǎn)時，它自然會被納入經(jīng)濟體系。

另一方面，“成本下降”更多發(fā)生在“電能到 token”的階段，也就是算力效率的提升，例如硬件優(yōu)化或系統(tǒng)效率提升。而“token 到生產(chǎn)力”的價值轉(zhuǎn)化，則屬于鏈條中的另一環(huán)節(jié)。

在模型尚不可用的階段，由于后端價值有限，企業(yè)往往需要通過低價甚至補貼來推動使用，包括大規(guī)模鋪量或持續(xù)優(yōu)化成本結(jié)構(gòu)。但當模型能力提升、后端價值顯著提高后，整個邏輯會從“推廣驅(qū)動”轉(zhuǎn)向“市場化驅(qū)動”。

在這種情況下，企業(yè)需要重新平衡成本與收益，即使技術(shù)仍在持續(xù)優(yōu)化、推理效率不斷提升，價格上調(diào)也是市場化過程中的自然結(jié)果。因此，這種“成本下降但價格上升”的現(xiàn)象并不矛盾。本質(zhì)上，一方面是底層技術(shù)效率在提升，另一方面是過去推廣階段所存在的成本缺口逐步被填補，最終形成一個可持續(xù)的商業(yè)閉環(huán)。

DeepTech：你的研究方向之一是稀疏注意力（sparse attention）等機制，這類方法會直接影響 token 的計算成本。如果沿著這一思路繼續(xù)推演，未來模型是否有可能具備“自適應計算能力”，即自動判斷哪些 token 需要精細計算，哪些可以簡化甚至跳過？這種機制在多大程度上會影響推理成本？

戴國浩：從具體技術(shù)來看，這種趨勢已經(jīng)在發(fā)生，而且不僅限于稀疏注意力。

例如，稀疏專家（Mixture-of-Experts）、層級稀疏（layer skipping）、以及模型結(jié)構(gòu)層面的多級配置（如投機解碼、大小模型協(xié)同），本質(zhì)上都可以歸為“稀疏化”或“結(jié)構(gòu)化”的探索。像 DeepSeek 等團隊，已經(jīng)在稀疏注意力等方向上進行了實踐；同時，大規(guī)模模型（百億甚至千億參數(shù)級別）中，稀疏專家結(jié)構(gòu)也已較為常見。此外，一些系統(tǒng)開始引入小模型與大模型協(xié)同，通過推測解碼（speculative decoding）提升整體吞吐效率。

這些方法的共同點在于：通過結(jié)構(gòu)設(shè)計，而非單純增加參數(shù)規(guī)模，來提升計算效率與性能表現(xiàn)。

從更宏觀的角度看，智能系統(tǒng)的發(fā)展，本質(zhì)上是在不斷逼近“最優(yōu)結(jié)構(gòu)”。在早期，由于對模型結(jié)構(gòu)理解有限，采用稠密矩陣（dense architecture）是一種更直接、通用的表達方式，通過擴大數(shù)據(jù)和參數(shù)規(guī)模來獲得性能提升。但隨著理解的加深，結(jié)構(gòu)性特征會逐漸顯現(xiàn)。例如殘差連接（residual connection）、卷積結(jié)構(gòu)（convolution）等，都是在這一過程中被發(fā)現(xiàn)并固化下來的有效結(jié)構(gòu)。

理論上，任何結(jié)構(gòu)都可以用更大的稠密矩陣來近似表達，但在實際中，這樣的模型往往難以收斂，同時計算效率極低，因此并不可行。

回到 token 這一中間環(huán)節(jié)，未來一個重要方向是對 token 進行更細粒度的計算分配。例如，在推理過程中，不同 token 的復雜度是不同的：一些 token 可能只需要較淺層的計算即可得到結(jié)果，但另一些則需要更深層、更復雜的計算路徑。

因此，可以針對每個 token 動態(tài)分配計算資源，對其計算深度和計算量進行定制化設(shè)計。相比于“所有 token 都經(jīng)過同樣深度模型”的方式，這種方法能夠在保證效果的同時顯著降低整體計算開銷。這也是為什么 token 在當前階段不僅是計量單位，更是計算調(diào)度與資源分配的核心對象，它也將逐漸成為一種關(guān)鍵的生產(chǎn)要素。

DeepTech：如果進一步拆解 token 的成本結(jié)構(gòu)，除了模型本身，還包括 KV Cache 的顯存占用、帶寬，以及芯片架構(gòu)等因素。在這些層面中，你認為當前優(yōu)化空間最大的是哪一部分？

戴國浩：可以用一個相對簡化的模型來描述推理開銷：

那就是時間 ≈ 計算量 ÷（算力 × 利用率）

或者從存儲角度來看：

時間 ≈ 數(shù)據(jù)量 ÷（帶寬 × 利用率）

在這個框架下，不同變量對應不同層面的參與者：

首先，計算量主要由模型設(shè)計決定，例如參數(shù)規(guī)模（3B、30B、300B 等）；其次，算力取決于芯片能力，例如算力規(guī)模（TFLOPS 級別差異）；最后，利用率則與軟硬件協(xié)同優(yōu)化密切相關(guān)。

此外，像 KV Cache 的顯存占用、注意力計算開銷等問題，本質(zhì)上更多影響的是系統(tǒng)的帶寬利用率與整體資源利用效率。芯片本身的能力則與其架構(gòu)設(shè)計和制造工藝有關(guān)。

在這一建模框架下，可以看到不同優(yōu)化方向的邊界：

首先，單純降低模型計算量的空間其實有限，因為模型發(fā)展的首要目標仍然是提升智能水平，這是一個基本前提。因此，在模型設(shè)計層面，壓縮計算量并不是主要矛盾。相比之下，利用率的優(yōu)化空間非常大。無論是算力利用率、帶寬利用率，還是緩存命中率，都存在顯著提升空間。

其次，芯片架構(gòu)本身的設(shè)計也是一個重要方向。例如 英偉達黃仁勛 所提出的“AI Factory”理念，本質(zhì)上是將芯片、系統(tǒng)軟件以及電力供給等多個層面打通，進行整體協(xié)同優(yōu)化。總體來看，未來推理成本下降，更依賴于：一個是各層級資源利用率的提升，另一個是芯片架構(gòu)與系統(tǒng)設(shè)計的持續(xù)演進。

而這些優(yōu)化的最終目標，都是為了支撐更大規(guī)模、更高智能水平的模型發(fā)展。

DeepTech：那么從當前階段來看，性能優(yōu)化的主要瓶頸更偏向算法側(cè)，還是硬件側(cè)？

戴國浩：我認為主要瓶頸仍然在硬件，以及硬件與算法的協(xié)同設(shè)計（co-design）。

算法的發(fā)展方向始終是探索更高水平的智能，這是不會改變的。但算法的迭代效率，很大程度上受限于硬件條件。例如，一個模型版本的迭代周期是一個月還是三個月，本質(zhì)上取決于算力資源與系統(tǒng)效率。

因此，問題不僅在于是否存在更優(yōu)的算法，還在于這些算法能否在現(xiàn)有硬件體系下高效實現(xiàn)。目前也有越來越多的團隊在嘗試算法與硬件的協(xié)同優(yōu)化，但這一過程的效率，仍然受到硬件設(shè)計能力以及對硬件理解深度的制約。從這個角度來看，未來的關(guān)鍵競爭點，將越來越集中在軟硬件一體化的協(xié)同設(shè)計能力上。

DeepTech：前段時間，黃仁勛在 GTC 大會上提出了一個頗具沖擊力的觀點：未來員工的 token 消耗量應當與薪酬成正比，可以將 token 使用量視為生產(chǎn)效率的一種指標。與此同時，硅谷也出現(xiàn)了一種被稱為“tokenmaxxing”的現(xiàn)象：一些從業(yè)者會刻意提高 token 使用量，用不完甚至會產(chǎn)生焦慮。你如何看待這一觀點？無論是企業(yè)還是個人，應該建立怎樣的“token 觀”？

戴國浩：我傾向于從辯證的角度來看。

首先，我可以理解他為什么會提出這樣的觀點。結(jié)合他所強調(diào)的 AI Factory，本質(zhì)上是在將算力體系轉(zhuǎn)化為“token 的生產(chǎn)系統(tǒng)”。在早期，當 AI 尚未形成完整的正向經(jīng)濟循環(huán)時，GPU 只是數(shù)據(jù)中心或算力基礎(chǔ)設(shè)施中的一個組件，是供應鏈的一環(huán)。

但當 AI Factory 的概念成立之后，這套系統(tǒng)更像是一個“token 生產(chǎn)工廠”。如果進一步類比，可以將其視為一種“價值生成裝置”。在一種極端設(shè)想下，如果 token 的消耗可以直接映射為經(jīng)濟回報，那么這套系統(tǒng)就具備類似“價值生成器”的屬性。

另一方面，我認為這一觀點也具備一定合理性。因為從工具屬性來看，可以類比為早期的軟件工程實踐。例如在十年前，程序員的產(chǎn)出有時會通過代碼量進行粗略衡量。代碼量在某種程度上反映了工具使用的強度和產(chǎn)出規(guī)模。

在今天，token 消耗可以被理解為一種新的“工作投入度量”。你使用了多少 token，某種程度上意味著你調(diào)用了多少模型能力，完成了多少任務。因此，它與產(chǎn)出之間確實存在一定相關(guān)性。

但問題在于，這種關(guān)系并不是線性的，也不是穩(wěn)定的。如果回到我們前面討論的價值轉(zhuǎn)化鏈條，token 只是其中的一個中間環(huán)節(jié)。“token 到生產(chǎn)力”的轉(zhuǎn)化效率，取決于多個因素：例如使用的模型能力，模型之間的協(xié)同方式，token 的質(zhì)量（例如 prompt 質(zhì)量），或者是具體任務類型。

因此，我認同 token 消耗量與價值之間“存在相關(guān)性”，但更關(guān)鍵的是：如何使用 token。換句話說，高質(zhì)量地使用 token（例如選擇合適模型、設(shè)計有效結(jié)構(gòu)），比單純增加 token 消耗更重要。這可能才是未來個體需要重點關(guān)注的能力。

DeepTech：那是否有可能存在一個更合理的指標，而不是簡單用 token 消耗量來衡量生產(chǎn)效率？

戴國浩：如果在理想情況下，“token 到生產(chǎn)力”的轉(zhuǎn)化關(guān)系是標準化的，例如一個 token 可以穩(wěn)定對應某種經(jīng)濟價值，那么確實可以直接用 token 消耗來衡量產(chǎn)出。

但現(xiàn)實中，這一環(huán)節(jié)并不穩(wěn)定，尤其是在當前階段。

對于一些高度標準化、確定性較強的行業(yè)（例如部分法律、會計等場景），隨著工具成熟，未來可能逐步接近這種“線性映射”。在這種情況下，將 token 使用量與產(chǎn)出掛鉤，是可以成立的。但對于更具創(chuàng)造性的工作，這種關(guān)系往往是非線性的。例如，有的人可能只使用較少的 token，就能產(chǎn)生更高價值的結(jié)果；而另一些人即使消耗更多 token，產(chǎn)出價值卻未必更高。

在這種情況下，更合理的評價方式，應該是將token 使用量”與“最終產(chǎn)出價值”進行聯(lián)合評估。從資源配置角度看，我們更應該鼓勵的是：用更少的 token 產(chǎn)生更高的價值。這也可以理解為一種更正確的 token 觀。

DeepTech：在最近的趨勢中，我們發(fā)現(xiàn)了許多使用者尤其關(guān)注一個問題：在實際使用大模型時，如何更高效、更具性價比地使用 token？你作為專業(yè)的從業(yè)人員，在日常使用中，有沒有一些經(jīng)過驗證的方法或經(jīng)驗，比如在 prompt 設(shè)計、任務拆解、模型選擇等方面？

戴國浩：這三個方面，其實都非常關(guān)鍵。

可以用一個類比來理解：在傳統(tǒng)的軟件團隊中，通常會有架構(gòu)師和程序員的分工。程序員負責具體實現(xiàn)，而架構(gòu)師負責整體設(shè)計，包括任務拆解、模塊劃分以及協(xié)作方式。

從當前大模型的能力來看，它已經(jīng)可以高效完成很多“程序員層面”的執(zhí)行工作，這一點并不困難。真正的挑戰(zhàn)在于更上層的結(jié)構(gòu)設(shè)計。具體來說，可以對應三個關(guān)鍵環(huán)節(jié)：

第一是任務拆解。需要將一個復雜問題分解為多個子任務，并明確各自的邊界與目標。第二是 prompt 設(shè)計。本質(zhì)上是對任務目標的精確表達，相當于對執(zhí)行單元的“指令定義”。第三是模型選擇與調(diào)度。即讓“合適的模型做合適的事情”，例如簡單任務可以交給輕量模型處理，復雜任務再調(diào)用更強的模型。這三個環(huán)節(jié)，實際上構(gòu)成了一個完整的“結(jié)構(gòu)設(shè)計過程”。

此外，還有一個容易被忽視的點：人類輸入的 token 往往更高效。在一些推理型模型中（例如帶有長鏈路思考過程的模型），模型在內(nèi)部會生成大量中間推理步驟，這些過程本身會消耗大量 token。而人類可以在前置階段，通過更清晰的任務定義，減少模型不必要的探索路徑，從而降低整體開銷。

結(jié)合這些經(jīng)驗，我個人的使用方式是：先盡可能在前期將 prompt 定義得清晰、具體；然后，對任務進行結(jié)構(gòu)化拆解；最后，在不同復雜度任務之間，靈活選擇模型（包括開源模型與高性能閉源模型的組合使用）。

從長期來看，這也意味著一個能力轉(zhuǎn)變。以程序員為例，需要逐漸從單純的“編碼者（coder）”，轉(zhuǎn)向“系統(tǒng)架構(gòu)設(shè)計者（architect）”。只有在更高層面進行結(jié)構(gòu)設(shè)計，才能真正提升整體效率。

DeepTech：黃仁勛在會上還提出了 token 的分層定價策略，沿著"模型智能程度 × 生成速度 × 上下文長度"三個維度來定價，形成從免費層到高速層 $150/百萬 token 的供給體系。在這方面，一些國內(nèi)公司已經(jīng)相繼響應。你認為這一框架對產(chǎn)業(yè)格局會產(chǎn)生怎樣的深層影響？它是否會加速大模型市場的兩極分化？

戴國浩：剛才你提到的幾個關(guān)鍵變量，包括模型智能水平、生成速度和上下文長度，其實可以歸為兩類，并分別對應我們之前討論的價值轉(zhuǎn)化鏈條中的不同環(huán)節(jié)。

其中，生成速度和上下文長度，主要影響“算力到 token”的轉(zhuǎn)化效率。這一部分與計算能力和存儲能力密切相關(guān)：上下文長度更多涉及存儲與帶寬，生成速度主要與計算能力相關(guān)，同時也受到訪存效率的影響。

模型的智能水平，則對應“token 到生產(chǎn)力”的轉(zhuǎn)化效率。

從這個角度看，這三個變量實際上構(gòu)成了整個價值鏈條中的關(guān)鍵維度。因此，將 token 按不同能力層級進行劃分，本身是有內(nèi)在合理性的。

進一步來說，不同行業(yè)、不同任務，對 token 的“價值密度”要求是不同的。高質(zhì)量 token（例如由更強模型生成）在某些場景中能夠產(chǎn)生更高價值，因此在定價上進行分層，是符合基本經(jīng)濟邏輯的。

至于具體的定價策略，我并不是這方面的專家，但從一般規(guī)律來看，一個比較普遍的現(xiàn)象是：價值越高的產(chǎn)品，其“性價比”往往反而越低。

這一點在很多行業(yè)中都存在。例如汽車、手機等領(lǐng)域，高端產(chǎn)品通常在絕對性能上更強，但單位性能的價格也更高。這樣的結(jié)構(gòu)并不會導致行業(yè)失衡，反而使不同需求的用戶，都可以在同一價值鏈中找到適合自己的選擇。

如果將 AI 視為一種逐漸成熟的“商品”，那么類似的分層定價體系，大概率也會自然出現(xiàn)。

DeepTech：但 token 作為一種相對新的“商品”，用戶在理解和接受它的過程中，可能還需要時間。它不像傳統(tǒng)行業(yè)那樣已經(jīng)形成穩(wěn)定認知。

戴國浩：是的，一方面是認知上的適應過程，另一方面，技術(shù)本身仍處在快速發(fā)展階段。

AI 在未來會在更多行業(yè)中釋放價值，但目前仍處于一個早期拐點階段。已經(jīng)開始在部分場景中形成明確價值，但整體滲透率還不高。如果回看三年前，以對話系統(tǒng)為主的模型確實很難直接產(chǎn)生經(jīng)濟價值，而現(xiàn)在情況已經(jīng)發(fā)生了明顯變化。

DeepTech：當前的云計算基礎(chǔ)設(shè)施，本質(zhì)上是為人類工程師設(shè)計的，而不是為 agent（智能體）設(shè)計的。在這種情況下，這套架構(gòu)是否在一定程度上限制了 token 效率的進一步釋放？如果以“token factory”為目標推進，你認為從硬件、軟件到調(diào)度和服務，各個層面需要進行怎樣的重構(gòu)？這種變化會有多激進？

戴國浩：這個問題也可以從生產(chǎn)體系演進的角度來理解。

如果把 token factory 類比為一種新的“工廠”，那么它和傳統(tǒng)的電廠或水廠類似，本質(zhì)上是在生產(chǎn)基礎(chǔ)資源。回看工業(yè)發(fā)展歷程，每一次工業(yè)革命都會引入新的基礎(chǔ)生產(chǎn)要素，從蒸汽到電力，再到信息計算能力，而每一次這種變化，都會帶來整個系統(tǒng)結(jié)構(gòu)的重構(gòu)。

從這個意義上看，以 token 為代表的大模型體系，正在成為一種新的基礎(chǔ)生產(chǎn)要素。雖然它目前仍建立在既有的電力和信息系統(tǒng)之上，但隨著其重要性不斷提升，底層架構(gòu)發(fā)生系統(tǒng)性變化是一個必然趨勢。

外界對 token 有不同的類比，比如把它看作比特，或者類比為電力，這些說法各有其合理性。但更關(guān)鍵的一點在于，當 token 成為核心生產(chǎn)單元之后，整個系統(tǒng)的各個層級都會圍繞它進行重新組織。最先發(fā)生變化的，往往是接口層——如果 token 成為統(tǒng)一的計量單位，那么系統(tǒng)之間的交互、任務的度量、甚至算力與電力的轉(zhuǎn)換關(guān)系，都可能逐漸以 token 為核心來表達。

當然，這一判斷隱含了一個前提，即當前以 Transformer 為基礎(chǔ)、以 token 為核心處理單元的范式在一段時間內(nèi)是穩(wěn)定的。從目前來看，這一方向具有較高確定性，但仍然存在技術(shù)演進的不確定性。

在這個前提下，各個層面的變化其實已經(jīng)在發(fā)生。以芯片為例，像 NVIDIA 的 GPU 架構(gòu)，雖然仍然是通用計算架構(gòu)，但在數(shù)據(jù)中心場景中，已經(jīng)引入了大量針對 Transformer 的專用計算單元。本質(zhì)上，這些優(yōu)化都是在圍繞 token 的處理效率展開。整個過程是漸進式的：從最早的通用計算，到針對矩陣運算的加速，再到專門為 Transformer 結(jié)構(gòu)優(yōu)化，逐步向 token 對齊。類似的趨勢，也會在軟件、調(diào)度乃至服務層逐步體現(xiàn)出來。

DeepTech：如果整個體系都逐步對齊到 token，本質(zhì)上意味著默認的計算范式仍然是以 Transformer 為基礎(chǔ)。但我們也看到一些新的架構(gòu)在出現(xiàn)，比如 Mamba，或者擴散模型在語言建模中的嘗試。你覺得如果這些技術(shù)發(fā)展到某個階段，token 是否可能被替代，或者演化成新的計算單元？

戴國浩：這個問題可以分兩個層面來看。

在中短期內(nèi)，一種范式是否會被替代，關(guān)鍵不在于它“是否更好”，而在于它是否能在整體效率上實現(xiàn)數(shù)量級的提升。因為現(xiàn)有體系不僅僅是技術(shù)本身，還包括完整的工業(yè)基礎(chǔ)、軟件生態(tài)以及價值評估體系，這些都是高度固化的，切換成本非常高。往往需要展現(xiàn)出一個數(shù)量級的提升的潛力，才有可能推動技術(shù)的汰換迭代。

目前確實出現(xiàn)了一些新的架構(gòu)，比如 Mamba，以及基于擴散過程的語言模型。這些方法在某些特定任務上可能表現(xiàn)更優(yōu)，但從整體來看，一方面還缺乏大規(guī)模工程驗證，另一方面也很難在短時間內(nèi)嵌入現(xiàn)有體系。更重要的是，它們在實際落地時，仍然需要與現(xiàn)有接口對齊，最終輸出依然是 token 序列。因此，從現(xiàn)實路徑來看，這些技術(shù)更像是在現(xiàn)有范式內(nèi)部進行優(yōu)化，而不是直接替代。

如果把視角拉得更長遠，確實存在一種可能性，即未來出現(xiàn)完全不同的計算范式，例如連續(xù)計算甚至量子計算。這類體系一旦成立，可能會從根本上改變當前以離散 token 為基礎(chǔ)的計算方式。但同樣，它必須在關(guān)鍵效率指標上顯著優(yōu)于現(xiàn)有體系，才有可能推動整個產(chǎn)業(yè)遷移。

在當前階段，我更傾向于認為，這樣的范式轉(zhuǎn)變還需要較長時間。更現(xiàn)實的問題仍然是，在以 token 為核心的既有體系中，如何持續(xù)提升轉(zhuǎn)化效率，以及如何完善整個基礎(chǔ)設(shè)施和應用生態(tài)。這可能才是當下更關(guān)鍵的方向。

運營/排版：何晨龍