![]()
在英偉達GTC大會的主題演講中,CEO黃仁勛表示,AI Token正在成為一種新的貨幣形式,將在人才招聘、預算制定和生產力提升方面發揮重要作用。大會于周四在加利福尼亞州圣何塞舉行。
黃仁勛指出,AI Token也將越來越多地影響公司的發展進程和盈利能力。"Token是新的商品",他說道,隨后補充:"計算過去是基于檢索的,現在是生成式的。"
Token是現代AI計算的核心,就像比特曾經是基于CPU的傳統計算的單位一樣。AI正被集成到大多數新的軟件產品中。
"這個概念......將結構化數據與生成式AI融合,將在一個又一個行業中重復出現",黃仁勛說道。
Token也正在成為AI實施推動公司收入增長的基本組成部分。"如果他們能獲得更多容量,就能生成更多Token,收入就會增加",黃仁勛表示。
云服務提供商提供基于AI Token收費的定價方案,特別是對于基于文本的模型。基于視頻的模型通常不是基于Token定價,而是按任務或基于GPU使用時間定價。
黃仁勛表示,他可以設想Token將作為開發人員的福利提供,開發人員需要這些單位來提高生產力。"我完全可以想象,在未來,我們公司的每一位工程師都需要年度Token預算",黃仁勛說道。
工程師的基礎工資將是每年幾十萬美元,"我將在此基礎上再給他們大約一半的Token,這樣他們的生產力可以提升10倍",黃仁勛表示。
工作中包含多少Token已經成為硅谷的招聘工具。"原因很明確——因為每個有Token訪問權限的工程師都會更有生產力",黃仁勛說道。
對Token的需求前所未有,這使價格保持在高位。但隨著新技術的推廣,成本應該開始趨于穩定或下降。
在GTC大會上,黃仁勛推出了一系列新技術,包括名為Rubin的新GPU和名為Vera的CPU。英偉達將它們與Groq的新推理芯片融合在一起。
"我們將把Token生成率從2200萬提高到7億——增長350倍",黃仁勛說道。
這些芯片適用于英偉達所稱的AI工廠,生成Token來幫助公司實施AI計劃。"AI工廠的收入等于每瓦Token數。在功耗限制下,每個未使用的瓦特都是收入損失",黃仁勛表示。
到目前為止,在GTC大會上,英偉達的大部分Token信息都圍繞推理而非訓練展開,但推理不會涉及"巨額"的Token成本,J. Gold Associates首席分析師Jack Gold表示。
英偉達聲稱Vera Rubin將在系統價格上升的同時降低計算成本,但這一說法并不像表面上看起來那么簡單,Gold說道。
英偉達在訓練方面已經確立了地位,這為推理作為芯片制造商的關鍵增長領域留下了空間。在推理中生成Token的成本預計會更低。
"推理對成本敏感,就像云托管一樣",Gold說道。"即使系統昂貴,我們可以讓你生成更多Token——從而獲得更多收入......這對他們未來發展來說是一個關鍵信息。"
除了數據中心,英偉達也在將Token生成帶到本地部署。這一舉措與AI PC的發布相吻合,比如戴爾的Pro Max GB300,它使用英偉達的數據中心GPU,使其成為迄今為止最強大的AI PC。
"客戶現在真正意識到了云中Token的成本。他們現在正在尋找更具成本效益的選擇來投資基礎設施,包括本地部署",戴爾產品負責人Charlie Walker在簡報中說道。
黃仁勛在演講中還重點介紹了OpenClaw——構建AI智能體的開放框架,并推出了基于該技術的英偉達企業級平臺NemoClaw。
OpenClaw幫助AI智能體交互和協調任務,這可以實現長期運行的工作流程。這可以生成大量Token。
"OpenClaw事件的重要性不容低估。這與HTML一樣重要。這與Linux一樣重要。我們現在有了一個世界級的開放智能體框架,我們所有人都可以用它來構建我們的OpenClaw策略",黃仁勛說道。
Q&A
Q1:什么是AI Token經濟學?它如何影響企業發展?
A:AI Token經濟學是指將Token作為一種新的貨幣形式,在人才招聘、預算制定和生產力提升方面發揮作用。Token正在成為推動公司收入增長的基本組成部分,擁有更多Token容量的企業能夠生成更多收入。
Q2:為什么Token會成為招聘工具?
A:在硅谷,工作中包含的Token數量已經成為招聘工具,因為每個有Token訪問權限的工程師都會更有生產力。黃仁勛預測未來每位工程師都需要年度Token預算,Token可以讓他們的生產力提升10倍。
Q3:英偉達如何降低Token生成成本?
A:英偉達推出了名為Rubin的新GPU和名為Vera的CPU,并與Groq的推理芯片融合,將Token生成率從2200萬提高到7億,增長350倍。同時推出AI工廠概念,通過提高每瓦Token數來優化收入效率。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.