公眾號記得加星標??,第一時間看推送不會錯過。
![]()
英偉達是人類文明史上最重要、最具影響力的公司之一,也是人工智能革命的引擎。英偉達的成功很大程度上歸功于黃仁勛作為領導者、工程師和創新者所展現出的強大意志力和諸多卓越的決策。
近日,Lex Fridman再度采訪了黃仁勛,談到了很多方面。
以下為采訪原文速記,僅供參考
極致的協同設計和機架級工程
F(Lex Fridman):我認為可以公平地說,NVIDIA 長期以來的成功之道在于打造盡可能最好的 GPU,現在依然如此,但你們已經將目標擴展到 GPU、CPU、內存、網絡、存儲、電源散熱、軟件、機架本身、你們發布的 pod,甚至數據中心的極致協同設計。那么,我們來談談極致協同設計。對于一個包含如此多復雜組件和設計變量的系統來說,協同設計中最難的部分是什么?
Jensen Huang:是的,謝謝你的提問。首先,之所以需要極致的協同設計,是因為問題已經無法用一臺計算機或單個GPU來加速解決。你試圖解決的問題是,你希望速度比增加的計算機數量更快。假設你增加了1萬臺計算機,但你希望速度提升一百萬倍。那么,突然之間,你必須對算法進行拆分、重構,對管道、數據和模型進行分片。現在,當你以這種方式分散問題時——不僅僅是擴展問題規模,而是分散問題本身——所有因素都會相互干擾。
這就是阿姆達爾定律的問題:某項任務的加速程度取決于它在整個工作負載中所占的比例。例如,如果計算任務占整個問題的 50%,即使我將計算速度無限提升一百萬倍,也只能使整個工作負載的加速程度翻倍。現在,你不僅需要分布式計算,還需要對流水線進行分片(shard )。此外,你還需要解決網絡問題,因為所有這些計算機都是連接在一起的。因此,在我們這種規模的分布式計算中,CPU 是個問題,GPU 是個問題,網絡是個問題,交換機也是個問題。將工作負載分配到所有這些計算機上也是個問題。
這的確是一個極其復雜的計算機科學問題。因此,我們必須調動所有技術手段。否則,我們只能線性擴展,或者根據摩爾定律的能力進行擴展,而摩爾定律的擴展速度已經大幅放緩,因為丹納德定律的擴展速度已經下降。
Jensen 如何運營英偉達
F:我相信這里面肯定有權衡取舍。而且這里面涉及的學科完全不同。我相信你們每個領域都有專家,比如高帶寬內存、網絡和NVLink、網卡、光模塊和銅纜、電源傳輸、散熱等等。我的意思是,每個領域都有世界級的專家。你們怎么才能把他們聚在一起,共同探討解決方案呢?
Jensen Huang:是的,這就是我員工人數眾多的原因。
你能給我講講專才和通才的工作流程嗎?比如,當你知道需要把哪些東西放進貨架上時,該如何組裝貨架?整個設計過程是怎樣的?
是的。第一個問題是:什么是極致協同設計?我們正在對整個軟件棧進行優化,從架構到芯片,再到系統、系統軟件、算法和應用程序。這是其中一層。你我剛才談到的第二點,則超越了CPU、GPU、網絡芯片、縱向擴展交換機和橫向擴展交換機。當然,你還得考慮電源、散熱等等,因為所有這些計算機都非常耗電。它們雖然工作量很大,而且能效很高,但總體而言仍然消耗大量電力。所以,這是第一點。第一個問題是,它到底是什么?
二個問題是,為什么?我們剛才也討論過原因,你知道,你想分散工作負載,這樣才能獲得比單純增加計算機數量更大的收益。然后,第三個問題是,如何做到?
這就是這家公司的奇跡所在。你知道,設計電腦時,你必須要有操作系統。設計公司時,首先應該思考的是公司想要生產什么。我見過很多公司的組織結構圖,它們看起來都一樣。漢堡包式的組織結構圖、軟性組織結構圖、汽車公司式的組織結構圖,都千篇一律。這讓我很費解。你知道,公司的目標在于成為生產產品的機器、機制和系統。而這個產品就是我們想要創造的產品。公司的架構也應該反映其所處的環境。
它幾乎直接告訴你應該如何管理這個組織。我的直接下屬有60人。你知道,我不可能和他們一對一談話,因為這根本不可能。如果你想把工作做好,就不能讓60個人同時工作。
F:所以你還有 60 份報告。你還有跨部門的。
Jensen Huang:是的,更多。
F:不僅如此。而且大多數明星至少都與工程學有一定聯系。
Jensen Huang:幾乎所有人。有內存專家,有CPU專家,有光驅專家。所有——
F:那真是難以置信。
Jensen Huang:是的,GPU以及架構、算法、設計——
F:所以,你們要時刻關注整個技術棧,并且需要就整個技術棧的設計進行深入的討論?
Jensen Huang:而且,任何對話都不是一個人的。這就是為什么我不做一對一會議。我們會提出問題,然后大家一起解決。你知道,因為我們采用的是極致的協同設計。實際上,公司一直都在采用極致的協同設計。
F:所以,即使你談論的是某個特定組件,比如散熱、網絡,所有人都會聽嗎?
Jensen Huang:對,沒錯
F:他們可以提出這樣的意見:“嗯,這種電力分配方式行不通。這種方式不行——”
Jensen Huang:當然可以
F:“……這對內存不起作用。這對這個不起作用。”
Jensen Huang:沒錯。誰想置身事外,就置身事外吧。你明白我的意思嗎?原因在于,工作人員知道什么時候該注意。有些事他們本來可以參與,但他們沒有,他們本可以指出來,你知道嗎?所以,他們就說:“嘿,來吧,咱們進去看看。”
F:正如您所說,NVIDIA 是一家不斷適應環境的公司。那么,您認為環境是從什么時候開始發生變化,NVIDIA 又是如何悄然做出調整的呢?……從早期 GPU 用于游戲,到早期深度學習革命,再到如今我們開始將其視為人工智能工廠?NVIDIA 的業務是什么?它生產人工智能;讓我們建造一座生產人工智能的工廠。
Jensen Huang:我可以系統地分析這個問題。我們最初是一家加速器公司。但加速器的問題在于其應用領域過于狹窄。它的優勢在于針對特定任務進行了高度優化。你知道,任何專業公司都具備這種優勢。高度專業化的問題在于,當然,你的市場覆蓋范圍會更窄,但這本身并沒有什么問題。問題在于,市場規模也決定了你的研發能力。而你的研發能力最終決定了你在計算機領域可能產生的影響力。因此,當我們最初作為一家非常專業的加速器起步時,我們始終清楚這將是我們的第一步。
我們必須找到一條通往加速計算的道路。但問題在于,一旦成為一家計算公司,業務范圍就會過于寬泛,從而削弱我們的專業優勢。我把兩個實際上存在根本矛盾的詞放在一起。我們越是成為一家優秀的計算公司,我們在專業領域的專長就越弱。我們越是專注于特定領域,我們進行整體計算的能力就越弱。因此,我特意把這兩個詞放在一起,公司必須找到一條真正狹窄的道路,一步一步地拓展我們的計算能力,但又不能放棄我們最重要的專業領域。好的,所以,我們在加速計算之外邁出的第一步是發明了一種可編程像素著色器。
所以,這是我們邁向可編程性的第一步,也是我們進入計算領域的第一步。我們做的第二件事是創建了著色器,并加入了FP32。這一步,即符合IEEE標準的FP32,是計算領域邁出的一大步。正因如此,所有從事流處理器和其他類型數據流處理器開發的人員都發現了我們。他們說:“嘿,突然之間,我們或許可以使用這款計算能力極其強大的GPU了,而且它現在符合IEEE標準。”
我可以把我之前在CPU上編寫的軟件,嘗試用GPU來運行。這促使我們開發了基于FP32的C語言,我們稱之為Cg。Cg最終引領我們走向了CUDA。CUDA,一步一步地……嗯,把CUDA集成到GeForce顯卡上,這是一個非常非常艱難的戰略決策,因為它讓公司損失了巨額利潤,而我們當時根本負擔不起。但我們還是這么做了,因為我們想成為一家計算機公司。一家計算機公司必須擁有自己的計算架構。而計算架構必須與我們生產的所有芯片兼容。
F:你能詳細解釋一下這個決定嗎?所以,在GeForce顯卡上加入CUDA,是你們負擔不起的?你能解釋一下這個決定嗎?為什么當初你們會如此大膽地選擇這樣做?你能解釋一下這個決定嗎?
Jensen Huang:是的,太好了。那……我認為那是第一個最接近生死存亡的戰略決策。
對于那些不了解情況的人來說,劇透一下,這最終成為了公司有史以來最英明的決定之一。CUDA 最終成為了人工智能基礎設施領域計算能力的強大基石。所以,所以……我只是想交代一下背景。事實證明,這是一個明智的決定。
是的,事實證明這是個明智的決定。我想……事情是這樣的。我們發明了 CUDA,它擴展了我們加速器能夠加速的應用范圍。問題是,我們如何吸引開發者使用 CUDA?因為計算平臺的核心在于開發者。開發者選擇某個計算平臺,并非僅僅因為它能實現一些有趣的功能,而是因為其龐大的用戶群。因為開發者和其他人一樣,都希望開發出能夠觸達大量用戶的軟件。所以,用戶群實際上是架構中最重要的一部分。架構本身可能會招致大量的批評。
例如,沒有任何一種架構比 x86 架構招致了更多批評……你知道,它被認為是一種不夠優雅的架構,但它卻是當今的標志性架構。這說明,事實上,許多由世界上最杰出的計算機科學家精心設計的 RISC 架構,盡管架構精美,卻大多以失敗告終。所以我舉了兩個例子,一個優雅,另一個則幾乎稱不上美觀,但 x86 架構卻存活了下來,原因在于——
F:安裝基礎至關重要
Jensen Huang:安裝基礎決定了架構。不是……其他一切都是次要的,明白嗎?當時確實存在其他架構。CUDA 出現了,OpenCL 也出現了。你知道,還有其他幾種競爭架構。但我們做出的明智決定是:“嘿,歸根結底,關鍵在于安裝基礎,以及我們如何才能以最佳方式將新的計算架構推向市場。” 到那時,GeForce 已經取得了成功。
我們當時每年已經賣出數百萬塊GeForce GPU,于是我們說:“我們應該把CUDA集成到GeForce顯卡里,裝進每一臺PC,不管用戶用不用,都把它作為拓展用戶群的起點。”與此同時,我們開始吸引開發者,我們走進大學,寫書,開課,把CUDA推廣到各個角落。最終人們會發現……當時,PC是主要的計算工具。還沒有云計算,我們可以把超級計算機送到每個學校的研究人員、科學家、每個工程學院的學生手中,最終奇跡就會發生。
問題在于,CUDA大幅增加了我們GPU的成本,而GPU是消費級產品,成本增加之大,幾乎吞噬了公司所有的毛利潤。當時,公司的市值大概是……呃,大概80億美元吧?或者60億、70億美元左右。CUDA發布后,我意識到它會增加很多成本,但我們仍然堅信它的價值。結果,我們的市值跌到了15億美元左右。我們一度陷入低谷,然后慢慢地艱難復蘇,但我們始終堅持在GeForce平臺上使用CUDA。我常說,NVIDIA是GeForce一手打造的,因為正是GeForce將CUDA帶給了所有人。
研究人員、科學家們在GeForce顯卡上發現了CUDA,因為他們都是游戲玩家。而且他們中的許多人自己組裝電腦。在大學實驗室里,他們中的許多人用電腦組件搭建集群。所以,你知道,這就是我們起步的經過。
F:然后,它成為了深度學習革命的平臺和基礎。
Jensen Huang:那也是一個非常棒的見解,是的。
F:你還記得那個決定命運的時刻嗎……那些會議是什么樣的?那些討論是什么樣的?作為一個公司,我們要做決定,要冒一切風險?
Jensen Huang:我必須向董事會明確說明我們的目標,管理團隊也知道我們的毛利率會大幅下降。你可以想象一下,如果GeForce承擔了CUDA的重擔,玩家們既不會欣賞它,也不會為此買單,那會是怎樣一番景象。你知道,他們只會支付固定的價格,成本多少對他們來說無關緊要。所以……你知道,我們的成本增加了50%,這消耗了……而我們原本的毛利率只有35%,所以……這是一個非常艱難的決定。但你可以想象,未來這項技術可能會應用到工作站和超級計算機領域,在這些領域,或許我們能獲得更高的利潤。
所以你可以通過理性分析來證明自己能夠負擔得起,但這仍然需要……需要十年時間。
F:但是,這更像是與董事會溝通并說服他們,而你從心理層面來說……隨著英偉達不斷進行大膽的押注,預測未來,并且在某種程度上,尤其是在現在,定義了未來。所以我幾乎是在尋求關于你們公司如何做出這些決策、如何實現飛躍的智慧……
Jensen Huang:首先,我的很多想法都源于好奇心。在某個時刻,我會形成一套邏輯體系,讓我確信某個結果一定會發生,這件事一定會發生。所以我會在心里相信它,你知道,當我心里相信的時候,事情就是這樣。你想象出一個未來,而這個未來如此令人信服,它就一定會發生。當然,這中間會經歷很多苦難,但你必須相信你所相信的。
F:所以,你,你,你構想未來——……然后你基本上是從某種工程角度將其變為現實?
Jensen Huang:是的。你會思考如何實現目標。你會思考它存在的意義。你知道,我會思考……我們這里所有人都會思考這個問題。管理團隊也會思考這個問題。所有和我在一起的人……我們花了很多時間思考這個問題。接下來要說的可能是一種技能,你知道,在領導層中,領導者常常保持沉默,或者他們了解了一些事情,然后就發布一些宣言,新的一年開始了,不知怎么的,到了年底,明年,我們就會有一個全新的計劃。大規模裁員,大規模組織變革,新的使命宣言……全新的標志,你知道,諸如此類。
我從來不那樣做事。當我了解到某件事,并且它開始影響我的思考方式時,我會非常清楚地告訴身邊的每個人,這件事很有意思,它會產生影響,它會帶來一些改變。我會一步一步地思考問題。很多時候,我已經有了自己的想法,但我會抓住每一個機會——外部信息、新的見解、新的發現、新的工程突破、新的里程碑——我會利用這些機會來影響其他人的信念體系。我每天都在這樣做。我與董事會這樣做,與管理團隊這樣做,與員工這樣做。
我正在努力塑造他們的信念體系,這樣,當我宣布“嘿,我們收購Mellanox吧”的時候,每個人都會毫不猶豫地認為我們絕對應該這么做。就像我宣布“嘿,伙計們,我們全力投入深度學習吧”那天一樣,讓我來解釋一下原因。我已經在公司內部各個部門鋪墊了一番。每個部門、每個人,很多人可能都聽到了全部內容。當然,公司里的大多數人都聽到了部分內容。所以,當我正式宣布的時候,大家基本上都認同了其中的大部分內容。
在很多方面,我喜歡宣布這些事情,我猜員工們會說:“老黃,你怎么才宣布?” 事實上,我一直在塑造他們的信念體系,也就是他們的領導力。有時候,這看起來像是在幕后領導,但實際上,我一直在潛移默化地影響他們,直到我宣布那天,他們百分之百地認同。但這正是你想要的。你想讓每個人都參與進來。否則,如果我們宣布要全面投入深度學習,大家都會問:“你在說什么?” 你知道,如果你宣布要全力投入,你的管理團隊、董事會、員工、客戶都會問:“這到底是怎么回事?”
你知道,這簡直太瘋狂了。”所以,GTC效應,如果你回顧過去,看看那些主題演講,你會發現我不僅在塑造行業合作伙伴的信念體系,而且還在利用這種信念體系來塑造我自己的員工的信念體系。所以,當我宣布一些事情的時候,比如我們剛剛宣布的Grok,我們已經晚了……我已經談論這些基礎建設兩年半了。你回過頭來看,你會驚呼:“我的天哪,他們已經談論了兩年半了!”所以我一直在一步一步地打基礎,這樣當時機成熟,你宣布的時候,每個人都會問:“你知道嗎,你到底花了多長時間?”
F:但這不僅僅局限于公司內部。你正在塑造整個格局,更廣闊的全球創新格局。就像,當你把這些想法付諸實踐時,你實際上是在將現實變為現實。
Jensen Huang:我們不造電腦。實際上,我們也不建云。我們不……結果發現,我們是一家計算平臺公司。所以沒人能從我們這里買到任何東西。這很奇怪。你知道,我們采用垂直設計、垂直整合的方式來設計和優化,但之后我們會將整個平臺的每一層都開放,以便集成到其他公司的產品、服務、云平臺、超級計算機和OEM電腦中。所以神奇的是,如果我不先說服他們,我就無法開展我的工作。因此,GTC的大部分內容都是在描繪一個未來,等到……我的產品準備就緒時,他們會問:“你們怎么花了這么長時間?”
AI scaling laws
F:是的。你一直以來都相信scaling laws,廣義上的scaling laws。那么你現在還相信scaling laws嗎?
Jensen Huang:當然,而且我們現在有更多的scaling laws了。
F:所以,我認為您已經概述了四個方面:訓練前(Pre-training)、訓練后(post-training)、測試時間(test time)和智能體擴展(agentic scaling)。當您思考未來、長遠未來和近期未來時,您認為最令您擔憂、最讓您夜不能寐、必須克服才能持續擴展的障礙是什么?
Jensen Huang:我們可以回顧一下人們最初認為的阻礙因素。一開始,我們面臨的是……預訓練scaling law。人們當時認為(這種想法不無道理),我們擁有的數據量,尤其是高質量數據量,會限制我們所能達到的智能水平。而這條scaling law確實非常重要。模型越大,相應的數據量就越多,人工智能也就越智能。這就是預訓練。伊利亞·蘇茨克維爾(Ilya Sutskever)曾說過:“我們沒有足夠的數據了”,或者類似的話。“預訓練已經結束了”,或者類似的話。整個行業都恐慌了,認為人工智能的末日到了。當然,這顯然是錯誤的。
我們將持續擴大用于訓練的數據量。其中很多數據可能是合成的,這也讓人們感到困惑,你知道嗎?人們沒有意識到的是,他們似乎忘記了我們用來訓練、互相學習、互相啟發的大部分數據都是合成的。之所以說是合成的,是因為它并非源于自然。它是你創造的,我使用它,我修改它,增強它,我重新生成它,然后其他人使用它。因此,我們現在已經達到了這樣的水平:人工智能能夠獲取真實數據,對其進行增強……改進,并合成生成海量數據。
后訓練的這一部分規模會持續擴大,因此我們能夠使用的由人類生成的數據量會越來越小。用于訓練模型的數據量將繼續擴大,直到我們不再受限于……訓練不再受限于……數據現在受限于計算能力。原因在于,大部分數據都是合成數據。接下來是測試階段,我還記得有人跟我說:“推理?哦,那很簡單。預訓練,那才難。”人們談論的是龐大的系統。推理肯定很簡單。所以推理芯片將會是很小的芯片,而且——
你知道,它們不一樣,它們不像英偉達的芯片。哦,那些芯片會很復雜也很貴,而且,你知道,我們可以制造……而且,在未來,推理將成為最大的市場,它會變得很容易,我們會把它商品化。你知道,每個人都可以制造自己的芯片。而且,這對我來說一直都不合邏輯,因為推理就是思考,而我認為思考很難。思考比閱讀難得多。
你知道,預訓練只是死記硬背和歸納總結,以及尋找關系中的模式。你只是不停地閱讀,而不是思考、推理、解決問題,也不是將未曾探索過的經驗、新的經驗分解成……分解成可解決的部分,然后我們再根據這些部分,通過第一性原理推理,或者通過之前的例子和經驗,或者僅僅是探索和搜索,嘗試不同的方法。整個測試時間尺度推理的過程,實際上都是關于思考的。它關乎推理,關乎計劃,關乎搜索,關乎……
那么,這怎么可能算得上輕量級計算呢?我們的判斷完全正確。你知道,測試階段的擴展計算量非常大。那么問題來了,好了,現在我們已經到了推理階段,也達到了測試階段的擴展,接下來呢?顯然,我們現在創建了一個智能體,這個智能體擁有我們開發的大型語言模型。但在測試階段,這個智能體系統會進行研究,訪問數據庫,使用各種工具,其中最重要的功能之一就是派生出大量的子智能體。這意味著我們現在需要創建龐大的團隊。相比于我自己擴展規模,通過雇傭更多員工來擴展英偉達要容易得多。
因此,下一個擴展定律是智能體scaling laws。它有點像人工智能的倍增。人工智能倍增意味著我們可以隨心所欲地快速生成智能體。所以,你知道,我……你知道,我有四個scaling laws。隨著我們使用智能體系統,它們會產生更多的數據,也會產生大量的經驗。其中一些經驗我們會說:“哇,這真不錯。我們應該記住它。”
最終,這個數據集會一直回到預訓練階段。我們會記住它并進行泛化。然后,我們會對其進行精煉和微調,進入后訓練階段。之后,我們會通過測試進一步增強它,最終,智能系統會將它應用到行業中。如此循環往復,永無止境。歸根結底,智能的發展取決于一個因素,那就是計算能力。
F:但這里有個棘手的問題需要預先考慮和預測,那就是某些組件需要不同的硬件才能真正發揮最佳性能。所以你必須預測人工智能創新將把我們引向何方。例如,混合使用——
Jensen Huang:例如,人工智能模型架構大約每六個月就會出現一次,對吧?系統架構和硬件架構則大約每三年出現一次。所以你需要預測未來兩三年可能發生的事情。有幾種方法可以做到這一點。首先,我們可以進行內部研究,這也是我們開展基礎研究和應用研究的原因之一。
我們自主研發模型,因此我們擁有豐富的實踐經驗。這正是我所說的協同設計的一部分。我們也是全球唯一一家與世界上所有人工智能公司都有合作的人工智能公司。我們會盡最大努力了解人們面臨的挑戰。
F:所以你正在傾聽整個行業,特別是人工智能實驗室的傳言。
Jensen Huang:沒錯。你得傾聽并向所有人學習。而且……最后一點是,架構要靈活,能夠適應變化,順應潮流。CUDA 的優勢之一在于,一方面,它是一個強大的加速器;另一方面,它又非常靈活。因此,在專業化(否則我們就無法加速 CPU)和通用化(以便適應不斷變化的算法)之間取得平衡至關重要。這正是 CUDA 一方面如此強大,另一方面我們又不斷對其進行改進的原因。
我們現在使用的是 CUDA 13.2,因此我們的架構也在快速演進,以跟上現代算法的發展。例如……當混合專家模型出現時,我們用 NVLink 72 取代了 NVLink 8。現在,我們可以將一個包含 4 萬億甚至 10 萬億個參數的模型放在同一個計算域中運行,就像它只在一個 GPU 上運行一樣。我之前說過,大家可能沒注意到,但如果你看看 Grace Blackwell 機架的架構,就會發現它完全專注于一件事:處理 LLM。而僅僅一年之后,你就看到了 Vera Rubin 機架。它配備了存儲加速器,搭載了名為 Vera 的全新強大 CPU,并配備了 Vera Rubin 和 NVLink 72 來運行 LLM。
它還新增了一個名為 Rock 的機架。因此,整個機架系統與之前的完全不同,它包含了所有這些新組件。原因在于,之前的機架系統是為運行 MoE 大型語言模型和推理而設計的,而這個機架系統則是為運行智能體以及智能體與工具的直接交互而設計的。
顯然,這套系統的設計肯定是在 Claude Code、Codex 和 OpenClaw 出現之前完成的。所以本質上,你是在預見未來。而這一切,又源于什么呢?源于那些耳語,源于對所有現狀的理解——
F:這門藝術是關于什么的?
Jensen Huang:不,其實沒那么復雜。你只要好好想想就行了。首先,你只要好好想想就行了。不管怎樣,不管發生什么,為了讓這個大型語言模型成為一個數字員工……我們就用這個比喻吧。假設我們想讓這個語言模型成為一個數字員工。它需要做什么呢?它必須能夠訪問真實數據。那就是我們的文件系統。它必須能夠進行研究。它不可能無所不知。我們也沒有……我不想等到這個人工智能變得無所不知,無所不能,包括過去、現在和未來,才讓它發揮作用。所以,我不如讓它去做研究。這很顯而易見;如果它想幫我,就必須使用我的工具。
你知道,很多人會說:“人工智能會徹底摧毀軟件。我們不再需要軟件了。我們甚至不再需要工具了。”這太荒謬了。我們來做個思想實驗。你可以坐在那里,喝杯威士忌,好好想想這些問題,答案就會變得顯而易見。比如說,如果我在未來十年內創造出我們能想象到的最神奇的智能體,假設它是一個人形機器人。如果這個人形機器人真的被創造出來,它更有可能走進我的房子,使用我現有的工具來完成它需要做的工作嗎?
或者,這只手一會兒變成一把十磅重的錘子,一會兒又變成一把手術刀,為了燒開水,它還能從指尖發射微波?或者,它更有可能直接使用微波爐?第一次用微波爐的時候,它可能不知道怎么用。不過沒關系。它連著互聯網。它會閱讀微波爐的使用手冊,讀完之后,瞬間就成了專家。然后它就能用了。所以我覺得……我剛才描述的,實際上幾乎涵蓋了OpenClaw的所有特性。
你知道,它會使用各種工具,會訪問文件,還能進行研究。它有一個I/O子系統。當你完成對它的推理,以這種方式進行推理之后,你會說:“我的天哪,它對未來計算的影響是極其深遠的。” 原因在于,我認為我們剛剛重新發明了計算機。然后你可能會問:“好吧,我們什么時候推理過這一點?我們什么時候推理過OpenClaw?” 如果你看看我在GTC上使用的OpenClaw示意圖,你會發現它早在兩年前就出現了。確切地說,兩年前的GTC上,我談論的智能體系統與今天的OpenClaw完全吻合。當然,這一切的發生離不開諸多因素的共同作用。
首先,我們需要 Claude 和 GPT 以及所有這些模型達到一定的水平。所以,它們的創新、突破和持續進步至關重要。當然,之后還需要有人創建一個足夠強大、足夠完善的開源項目,供我們所有人使用。我認為 OpenClaw 之于智能體系統,正如 ChatGPT 之于生成系統。我認為這意義非凡。
F:是的,這確實是一個非常特殊的時刻。我不太確定為什么它吸引了全世界如此多的關注,但它確實做到了,甚至超過了Claude Code和Codex等等。
Jensen Huang:因為消費者能夠夠得著。
F:擁有如此強大的技術,確實存在著非常嚴重且復雜的安全問題:如何交出你的數據,讓他們能夠做有用的事情?但這同時也伴隨著一些可怕的后果。而我們,作為一個文明,作為個體,作為一個文明整體,都在努力尋找合適的平衡點。
Jensen Huang:是的,我們立即著手處理,并派了一批安全專家過來。我們開發了一個叫做 OpenShell 的東西,它已經集成到 OpenClaw 中了。
我們賦予您三項權限中的兩項。代理系統可以訪問敏感信息、執行代碼并進行外部通信。如果我們在任何時候只賦予您這三項權限中的兩項,而不是全部三項,就能確保安全。在這兩項權限的基礎上,我們還根據企業授予您的權限提供訪問控制。然后,我們將其連接到所有企業都已擁有的策略引擎。因此,我們將盡最大努力幫助 OpenClaw 成為一個更強大的工具。
AI scaling laws的最大障礙
F:您剛才精彩地解釋了我們過去是如何克服那些我們原本以為會成為阻礙的難題的。但現在展望未來,既然智能體將無處不在,您認為未來可能出現的阻礙是什么?顯然,我們需要計算能力。那么,這種擴展的障礙又是什么呢?
Jensen Huang:功耗固然重要,但并非唯一需要考慮的問題。正因如此,我們才如此大力推進極限協同設計,力求每年將每瓦每秒的token產量提升幾個數量級。過去十年,摩爾定律本應使計算能力提升約100倍,而我們卻實現了百萬倍的飛躍。我們將繼續通過極限協同設計來實現這一目標。能源效率,也就是每瓦性能,直接影響著公司和工廠的收益。我們將竭盡全力,不斷降低token成本。
你知道,我們的電腦價格在上漲,但我們的token生成效率提升速度遠超電腦價格,因此token成本正在下降。它每年都在下降一個數量級。
所以,功率是個很有意思的問題。要解決功率瓶頸,就要想辦法提高每瓦每秒產生的token數量,從而不斷提升效率。當然,問題在于如何獲得更多功率。我們應該獲得更多的電能。
供應鏈
F:這確實是個很復雜的問題。您之前談到過小型模塊化核電站。關于能源,有很多不同的想法。這些問題是不是讓您夜不能寐?比如人工智能供應鏈中的瓶頸,像ASML的EUV光刻機、臺積電的先進封裝技術(如CoWoS)以及SK海力士的高帶寬內存?
Jensen Huang:我們一直在努力,也一直在為此奮斗。歷史上沒有任何一家公司能像我們這樣,在保持增長的同時還能加速增長。這簡直令人難以置信。人們甚至很難理解這一點。在整個人工智能計算領域,我們的市場份額正在不斷擴大。因此,供應鏈,包括上游和下游,對我們至關重要。我花了很多時間向所有與我合作的CEO們解釋:哪些因素將推動增長持續甚至加速?這也是為什么我右邊的所有人幾乎都是整個IT行業上游和下游基礎設施行業的CEO的原因之一。
他們全都來了……有好幾百位CEO。我想,從來沒有哪個主題演講能吸引這么多CEO參加。一方面,我要向他們介紹我們目前的業務狀況,以及近期內的增長動力和正在發生的事情。我還要闡述我們下一步的發展方向,以便他們能夠利用所有這些信息和動態因素來指導他們的投資決策。我向他們介紹情況的方式,就像我向自己的員工介紹情況一樣。
存儲
Jensen Huang:當然,之后我還會親自去拜訪他們,確保他們明白:“嘿,聽著,我想讓你們知道,這個季度、明年、后年,這些事情將會發生。” 如果你看看DRAM行業的CEO們——當時全球排名第一的DRAM是數據中心CPU使用的DDR內存。大約三年前,我成功說服了幾位CEO,盡管當時HBM內存的使用率很低,幾乎只在超級計算機上使用,但它未來將成為數據中心的主流內存。起初這聽起來很荒謬,但幾位CEO相信了我,并決定投資研發HBM內存。
還有一種存儲器用在數據中心里相當奇怪:就是我們手機里用的那種低功耗存儲器。我們希望他們能把這種存儲器改造一下,用在數據中心的超級計算機上。他們問:“手機存儲器用在超級計算機上?” 我向他們解釋了原因。你看這兩種存儲器,LPDDR5 和 HBM4。它們的容量簡直驚人。這三種存儲器都創下了歷史紀錄,而且它們所在的公司都有 45 年的歷史了。所以,你知道,我的工作之一就是傳播知識、塑造理念、啟發靈感。
F:所以你不僅是在描繪未來,或許還能激勵英偉達和公司里的其他工程師,你更是在描繪未來的供應鏈。所以你正在和臺積電、阿斯麥等公司進行對話。
Jensen Huang:上游,下游。
F:是啊,整個過程都是如此。我的意思是,這太……整個半導體行業涉及太多極其復雜的工程技術,供應鏈的復雜性、零部件的數量之多,都讓人感到害怕,但它最終還是運轉了。
Jensen Huang:沒錯,關鍵在于深厚的科學技術、精湛的工程技術、卓越的制造工藝,以及大量的機器人制造環節。但我們仍然有數百家供應商為我們那擁有130萬個組件的機架提供技術支持。每個機架包含130萬個組件。Vera Rubin機架共有200家供應商。
F:所以,有趣的是,你并沒有把這件事列為讓你夜不能寐的障礙之一。
Jensen Huang:……是啊,你看?我可以睡覺了,因為我已經把它完成了。我說,“好了,”你知道,我可以睡覺了,然后我想,“嗯,我們來想想,什么對我們來說最重要?”因為我們得好好想想。因為我們把系統架構從你還記得的最初的DGX-1改成了NVLink-72機架式計算……這……這意味著什么?這對軟件意味著什么?對工程意味著什么?對我們的設計和測試方式意味著什么?對供應鏈又意味著什么?嗯,其中一點就是,我們把數據中心的超級計算機集成轉移到了供應鏈中的超級計算機制造環節。
如果你要這么做,你也必須意識到你將要搬遷……假設你要建造的數據中心總占地面積為50吉瓦,并且所有超級計算機都要同時運行,而制造這50吉瓦的超級計算機需要一周時間,那么在供應鏈中,這些超級計算機每周都需要1吉瓦的電力。因此,我們需要供應鏈增加電力供應,以便在發貨前完成超級計算機的制造和測試。
嗯,NVLink-72 實際上是在供應鏈中組裝超級計算機,每個機架一次就要運送兩三噸。以前它們是分部件運輸的,我們在數據中心內部組裝。但現在這不可能了,因為 NVLink-72 的密度太高了。這就是一個例子。我得飛到供應鏈里,去見我的合作伙伴,跟他們說:“嘿,”我說,“猜猜怎么著?我要這么做……我們以前就是這么組裝 DGX 的。現在我們要用這種方式組裝。這樣會好得多,因為我們需要它們來進行推理。” 推理市場正在崛起。推理的轉折點即將到來。這將是一個巨大的市場。
所以我首先向他們解釋事情的來龍去脈,以及事情發生的原因,然后要求他們每人進行數十億美元的資本投資。因為他們信任我,我也非常尊重他們,所以我給了他們充分的機會提問,花時間向他們解釋,并進行邏輯推理。我會畫圖,并從基本原理出發進行論證。等我解釋完之后,他們就明白該怎么做了。
F:所以很多時候都關乎人際關系以及構建對未來的共同愿景。但您是否擔心某些瓶頸?我的意思是,供應鏈中最大的瓶頸是什么?您是否擔心ASML的EUV光刻工具?您是否擔心臺積電的CoWoS封裝技術,以及它能否快速擴展產能?正如您所說,你們不僅增長迅猛,而且還在加速增長。因此,感覺供應鏈上的每個人——這些當然都是瓶頸——都必須擴大產能。您是否正在與他們溝通,探討如何更快地擴大產能?
Jensen Huang:一直如此。
F:你擔心嗎?
Jensen Huang:不,因為我告訴了他們我的需求。他們理解了我的需求。他們告訴我他們打算怎么做,我相信他們要做的。
電力
F:有意思。聽到這個消息真好。那么,我們不妨再花點時間談談電力問題。您對解決能源問題有什么期望?
Jensen Huang:Lex,我想和你談談一個方面,也想傳達一個信息:我們的電網設計時預留了應對最壞情況的余量。但實際上,99% 的時間里,我們遠未達到最壞情況,因為最壞情況通常只出現在冬季的幾天、夏季的幾天以及極端天氣條件下。大多數時候,我們的用電量遠低于最壞情況,大概只有峰值的 60% 左右。
因此,99% 的時間里,我們的電網都有過剩電力,這些電力都閑置著。但它們必須閑置,因為以防萬一,一旦需要,醫院、基礎設施、機場等等都需要電力供應。所以我的問題是,我們是否可以幫助他們理解并制定合同協議,設計計算機架構系統和數據中心,以便在社會基礎設施需要最大電力供應時,減少數據中心的用電量。
但這種情況非常罕見。在那段時間里,我們要么會啟用備用發電機來應對那一小部分負載,要么會讓計算機將工作負載轉移到其他地方,或者降低計算機的運行速度。你知道,我們可以降低性能,減少能耗,并接受稍長的延遲響應,比如當有人請求答案時。所以我認為,這種使用計算機、構建數據中心的方式,而不是期望100%的正常運行時間——以及那些非常嚴格的合同,給電網帶來了很大的壓力,因為他們必須提高負荷能力。我只是想利用他們的剩余電力。這些電力就閑置在那里。
F:是的,這一點討論得不夠多。那么,究竟是什么阻礙了這一進程?是監管?還是官僚作風?
Jensen Huang:我認為這是一個三方問題。首先是最終客戶。最終客戶對數據中心的要求是絕對不能出現故障,明白嗎?也就是說,最終客戶期望的是完美。為了實現這種完美,你需要備用發電機和電網供應商的配合。所以,每個人都必須保證六個九的可用性。首先,我認為現在我們應該讓每個人都明白,當客戶提出這些要求時,數據中心運營團隊中負責處理這些事情的人可能與CEO脫節。我敢肯定CEO并不了解這一點。我要和所有CEO談談。
CEO們可能根本沒關注正在簽署的合同,所以當然,每個人都想簽最好的合同。然后他們去找云服務提供商,找那兩個負責合同談判的人員……我仿佛都能看到他們談判多年合同的場景了。雙方都想要最好的合同。結果,云服務提供商又得去找公用事業公司,而公用事業公司期望的是九個九,甚至六個九。所以我認為,首先要確保所有客戶,包括CEO和用戶,都清楚他們想要的是什么。其次,我們必須建設能夠優雅降級的數據中心。
所以,如果電力公司、公用事業公司或電網告訴我們:“聽著,我們得把你們的負載降到80%左右”,我們會說:“這完全沒問題。” 我們只需要轉移工作負載。我們會確保數據不會丟失,但可以降低計算速率,減少能源消耗。服務質量會略有下降。對于關鍵工作負載,我會立即將其轉移到其他地方,這樣就不會出現問題。這樣,你知道,哪個數據中心還能保持100%的正常運行時間,等等……
F:在數據中心實現智能、動態的電力分配,這究竟是一個多難的工程問題?
Jensen Huang:只要你能明確具體要求,就能設計出來。說得真好。只要它符合基本的物理定律,我想就沒問題了。
F:你剛才提到的第三件事是什么?
Jensen Huang:所以第二點是數據中心。第三點是我們需要電力公司也意識到這是一個機會——……他們不應該說,“你看,我需要五年時間才能提升電網容量”,而是應該說,如果你愿意接受這種級別的電力保障,我下個月就能以這個價格為你提供電力。如果電力公司也能提供更多分段式的電力輸送承諾,那么我認為大家都會找到解決辦法。是的,但目前電網的浪費實在太多了。我們應該著手解決這個問題。
Elon和Colossus
F:您曾高度贊揚埃隆·馬斯克和xAI在孟菲斯建造Colossus超級計算機的成就,他們僅用了四個月就完成了這項壯舉,速度之快堪稱創紀錄。如今,Colossus已擁有20萬個GPU,并且還在快速增長。您能否談談他的方法,以便讓更多人理解,特別是那些促成這一成就的數據中心建設者?例如,他對工程設計、整個建設管理等方面的理念?
Jensen Huang:首先,埃隆涉獵廣泛,涉獵極深。同時,他也是一位非常優秀的系統思考者。因此,他能夠從多個學科的角度進行思考,并且他顯然會不斷挑戰現狀,質疑一切。他會首先問自己:第一,這件事有必要嗎?第二,這件事必須以這種方式完成嗎?第三,這件事必須花費這么長時間嗎?他有能力質疑一切,直到所有環節都精簡到必要的最低限度,再也沒有任何多余的東西。然而,產品所需的必要功能卻依然保留。所以,他可以說是極簡主義者,而且他是在系統層面做到這一點的。我認為……我也很喜歡他能夠親自參與其中。他出現在行動的關鍵時刻。
你知道,他會直接去那里。如果出了問題,他會直接去那里,然后說:“把問題告訴我。” 你知道,當你把所有這些結合起來做的時候,你就能克服很多以前那種“我們一直都是這么做的”、“我在等他們”之類的借口。你知道,我的意思是,每個人都有很多借口。所以,最后一點是,當你以如此緊迫的態度親自行動時,會帶動其他人也以緊迫的態度行動,你知道嗎?每個供應商都有很多客戶在忙。每個供應商都有很多項目在進行,而他會確保自己成為所有其他項目最重要的合作伙伴。所以他通過實際行動來做到這一點。
F:是啊,我參加過很多這樣的會議。看著挺有意思的,因為很少有人會問這樣的問題:“好吧,這件事能不能做得更快?怎么做?為什么非得花這么長時間?”
Jensen的工程和領導力方法
F: NVIDIA Extreme Systems 的協同設計方法與埃隆·馬斯克的系統工程方法之間是否存在相似之處?
Jensen Huang:首先,協同設計本質上是一個系統工程問題。因此,我們開展工作正是基于這一基本原則。其次,我們秉持著一種理念,或者說是一種思維方式、一種心境,或者說是一種方法論,這種方法論是我30年前提出的,它被稱為“光速”。光速不僅僅指速度,它是我用來指代物理學極限的簡寫。因此,我們所做的每一件事都會與光速進行比較:內存速度、數學運算速度、功耗、成本、時間、精力、人員數量、生產周期等等。
當你考慮延遲與吞吐量、成本與吞吐量、成本與容量時,所有這些因素都需要與光速進行比較,才能分別滿足各種不同的約束條件。而當你綜合考慮所有這些因素時,你會發現必須做出妥協,因為實現極低延遲的系統與實現極高吞吐量的低成本系統,其架構本質上是不同的。但你想知道實現高吞吐量的系統的光速是多少,實現低延遲的系統的光速又是多少?然后,當你考慮整個系統時,你就可以進行權衡取舍。因此,我要求每個人都思考最基本的原則和限制——
在做任何事情之前,我們都要先確定所有事物的物理極限。然后我們用這些極限來測試一切。所以這是一種很好的思維方式。我不喜歡其他方法,比如持續改進。持續改進的問題在于……首先,你應該從第一性原理出發,以光速思維來設計事物。只受限于物理極限和物理學極限。之后,當然你會隨著時間的推移而改進它。但我不喜歡遇到問題時,有人說:“嘿,你知道,今天做這件事需要74天——”“……現在。我們可以在72天內幫你完成。”你知道,我寧愿把一切都從零開始——
然后說:“首先,請解釋一下為什么一開始是74天。我們不妨想想,現在能做到什么程度。如果我從零開始完全重建,需要多長時間?” 通常你會感到驚訝,可能只需要六天。當然,剩下的六天,也就是74天,可能有很多合理的理由,比如妥協、成本削減等等。但至少你知道這些原因是什么。既然你知道六天就能完成,那么從74天到六天的討論就會出奇地有效。
F:在您所處理的如此極其復雜的系統中,有時追求簡潔是否是一種有效的啟發式方法?我的意思是,如果我能……我的意思是,您發布的 Vera Rubin 處理器簡直令人難以置信。它包含七種芯片類型,五種專用機架類型,40 個機架,1.2 千萬億個晶體管,近 2 萬個 NVIDIA 芯片,超過 1100 個 Rubin GPU,60 exaflops 的運算能力,以及每秒 10 PB 的擴展帶寬。這僅僅是其中之一……
Jensen Huang:那只是一個Pod
F:我的意思是,在……所以你有……而且即使是 NVL72 機架本身,也有 130 萬個組件、1300 個芯片、4000 個模塊,全部塞進一個 19 英寸寬的機架中。
Jensen Huang:這么說吧,我們可能每周要生產大約 200 個這樣的Pod。
F:組件種類繁多,我想簡潔性是不可能實現的,但這是否是你在設計產品時會追求的一個指標呢?
Jensen Huang:你知道,我最常說的一句話是,我們需要事物既要足夠復雜,又要盡可能簡單。所以問題是,所有這些復雜性都是必要的嗎?我們應該檢驗這一點。我們必須質疑這一點。之后,除此之外的一切,你知道,都是多余的。
F:但這仍然令人難以置信。整個半導體行業,尤其是英偉達,正在做的事情堪稱歷史上最偉大的工程之一。所以這些系統真的是名副其實的工程奇跡。
Jensen Huang:它是世界上迄今為止制造出的最復雜的計算機。
F:是啊,工程團隊嘛……我不知道,這不是比賽,但我也說不準。如果這是工程團隊的奧運會,臺積電的工程技術確實非常出色。就像我說的,ASML在各個方面都很厲害,但英偉達肯定會給他們帶來不小的挑戰。這些團隊都非常非常優秀。
Jensen Huang:這里匯聚了各個體育項目的金牌得主。
有關中國的一些討論
F:您最近去了中國。所以,我想問問您,中國在科技領域取得了巨大的成功。您如何看待中國在過去十年中打造了如此多世界一流的公司、世界一流的工程團隊,以及如此龐大的科技生態系統,并由此孕育出如此多令人驚嘆的產品?
Jensen Huang:原因有很多……好吧,首先,我們先來看一些事實。全球約有50%的人工智能研究人員是中國人,而且他們大多仍然在中國。我們這里也有很多,但中國仍然有很多杰出的研究人員。他們的科技產業恰逢其時。在移動云計算時代,他們貢獻的方式是軟件開發,因此,中國擁有非常優秀的科學和數學人才,培養出了許多受過良好教育的孩子。他們的科技產業正是在軟件時代誕生的。他們對現代軟件非常熟悉。中國并非一個單一的經濟體。它由許多省市組成,各省市的市長之間相互競爭。
這就是為什么會有這么多電動汽車公司,這么多人工智能公司,以及你能想到的所有公司都在開發人工智能技術的原因。因此,他們內部競爭異常激烈。最終,剩下的就是一家卓越的公司。他們還有一種獨特的企業文化,那就是家庭第一,朋友第二,公司第三。所以,他們之間會進行大量的交流……他們基本上一直都是開源的。
所以他們為開源項目貢獻更多是理所當然的,因為他們可能會想:“我們到底在保護什么?”你知道,我的工程師們,他們的兄弟在那家公司,他們的朋友在那家公司,他們都是校友。你知道,校友情誼就是這么回事。一個校友,就是一輩子的兄弟。所以他們能夠非常迅速地分享知識。因此,把技術藏起來毫無意義。不如把它開源。這樣一來,開源社區就能放大并加速創新進程。所以,由于開源、朋友間的友誼以及激烈的競爭,我們才能看到如此迅速、令人難以置信的優秀人才和快速的創新。
在公司內部,涌現出了許多令人驚嘆的成果。這個國家是當今世界上創新速度最快的國家,它擁有我剛才提到的所有要素,這些要素對孩子們的成長至關重要:他們接受良好的教育,他們的父母希望他們在學校取得好成績,他們的文化也秉持著這樣的理念。這些都是他們國家的獨特之處,而他們恰好趕上了科技呈指數級增長的時代。
F:而且從文化角度來看,當工程師也很酷。它與你提到的所有方面都有關聯……
Jensen Huang:是的,這是一個建設性國家。我們國家的領導人很了不起,但他們大多是律師。他們的國家領導人——正因為他們努力保障我們的安全,維護法治——他們的國家是從貧困中建立起來的。所以他們的大多數領導人都是杰出的工程師,一些最聰明的頭腦。
F:感謝您發布開源的 Nemotron 3 Super,您也可以在 Perplexity 中使用它來查找信息。這是一個擁有 1200 億參數的開放權重 MoE 模型。您對開源有何愿景?您提到了中國,以及 DeepSeek 和 MiniMax 等公司,它們都在積極推動開源 AI 的發展,而 NVIDIA 在接近最先進的開源 LLM 方面也處于領先地位。您對開源的未來有何展望?
Jensen Huang:如果所有東西都是專有的,研究就很難開展,創新也難以進行。因此……開源對于許多行業加入人工智能革命至關重要。英偉達擁有規模,我們也有動力——不僅僅是技能、規模和動力——去構建并持續構建這些人工智能模型,直到我們有生之年。因此,我們應該這樣做。我們可以開放,我們可以激活每個行業、每個研究人員、每個國家,讓他們都能加入人工智能革命。第三個原因也由此而來,那就是認識到人工智能不僅僅是語言。這些人工智能很可能會使用基于其他信息模式訓練的工具、模型和子智能體。
首先,如果我們想成為一家偉大的人工智能計算公司,我們就必須了解人工智能模型是如何演變的。
我非常喜歡Nemotron 3的一點是,它不僅僅是一個純粹的Transformer模型,而是Transformer和SSM的結合。我們很早就開始開發條件生成對抗網絡(Conditional GANs),也就是漸進式生成對抗網絡(Progressive GANs),它逐步推動了擴散型生成對抗網絡(Driving GANs)的發展。因此,我們在模型架構和不同領域開展基礎研究,使我們能夠更清晰地了解哪些計算系統能夠更好地支持未來的模型。這也是我們高度協同設計策略的一部分。其次,我認為我們理所當然地認識到,一方面,我們希望打造世界一流的模型產品,并且這些模型應該是專有的。另一方面,我們也希望人工智能能夠普及到各個行業、各個國家、每個研究人員、每個學生。
如果所有東西都是專有的,研究就很難開展,創新也難以進行。因此……開源對于許多行業加入人工智能革命至關重要。英偉達擁有規模,我們也有動力——不僅僅是技能、規模和動力——去構建并持續構建這些人工智能模型,直到我們有生之年。因此,我們應該這樣做。我們可以開放,我們可以激活每個行業、每個研究人員、每個國家,讓他們都能加入人工智能革命。第三個原因也由此而來,那就是認識到人工智能不僅僅是語言。這些人工智能很可能會使用基于其他信息模式訓練的工具、模型和子智能體。
也許是生物學、化學,或者物理定律,又或者流體力學和熱力學,這些并非都能用語言結構表達。因此,必須有人確保天氣預報、生物學、人工智能、生物學人工智能、物理人工智能等等這些領域能夠得以保留,并被推向極限,開拓前沿。我們不造車,但我們希望確保每家汽車公司都能獲得優秀的模型。我們不研發藥物,但我希望確保禮來公司擁有世界上最好的生物學人工智能系統,以便他們能夠利用這些系統進行藥物研發。這三個根本原因在于:首先,我們認識到人工智能不僅僅是語言,它的范疇非常廣泛;其次,我們希望讓每個人都參與到人工智能的世界中來;最后,我們希望人工智能能夠協同設計。
臺積電和臺灣
F:這真是太不可思議了。您來自臺灣,而且與臺積電關系密切。所以我必須問問您,臺積電在工程團隊和他們所做的卓越工程方面也堪稱傳奇公司。您對臺積電的企業文化和發展理念有何理解,才能解釋他們如何在半導體領域取得如此舉世無雙的成功?
Jensen Huang:首先,人們對臺積電最大的誤解就是認為他們的技術就是他們的一切。好像他們只有一款非常出色的晶體管,一旦有人拿出另一款晶體管,一切就都結束了。其實,真正讓臺積電與眾不同的是他們的技術,當然,我指的不僅僅是晶體管,還有金屬化系統、封裝、3D封裝、硅光子學等等,他們擁有的所有技術。正是這些技術造就了臺積電的獨特之處。他們的技術成就了臺積電的獨特地位。
但他們能夠統籌協調全球數百家公司不斷變化的需求,這些公司不斷擴張、轉型、擴張、收縮、拓展、拓展、拓展客戶、晶圓生產啟動、晶圓生產停止、緊急晶圓生產啟動等等,所有這些世界格局瞬息萬變的復雜動態,他們卻依然能夠高效運營工廠,保持高產量、高良率、極低的成本和卓越的客戶服務。他們認真履行自己的承諾。
他們知道晶圓是幫助你公司運營的,所以當晶圓按時交付時,晶圓就會如期交付,這樣你才能正常運營公司。因此,他們的系統,他們的制造系統,可以說是非常神奇的。其次是他們的企業文化。這種文化一方面注重技術,不斷推進技術發展;另一方面又以客戶服務為導向。很多公司非常注重客戶服務,但他們的技術水平并不高,也并非處于技術前沿。
很多公司都是科技公司,處于技術前沿,但它們的客戶服務卻不盡如人意。所以,關鍵在于它們能否在這兩者之間取得平衡,并在兩方面都達到世界一流水平。第三點,也是我最看重的一點,是它們所創造的信任——這種無形的東西。我相信它們能把我的公司放在首位。這至關重要。
F:當他們信任你時,我的意思是,你們之間建立了一種非常緊密的關系,這種信任是基于多年的表現而建立的,但其中也涉及到人際關系。
Jensen Huang:三十年來,我們通過他們完成了數以百億計的業務,我都記不清了,而且我們還沒有簽合同。這真是太棒了。
F:太棒了。好吧,有個故事……據說2013年,臺積電的創始人張忠謀曾邀請你擔任臺積電的首席執行官,而你說你當時已經有工作了。這個故事是真的嗎?
Jensen Huang:故事屬實。我沒有,也從未拒絕過。但我深感榮幸,當然,我當時就知道,現在也依然知道,臺積電是歷史上最具影響力的公司之一。Morris是我一生中最受尊敬的高管之一,也是我的商業和私人朋友。他向我發出邀請,我感到無比榮幸和謙卑。但我目前的工作非常重要,我已經在腦海中構想了英偉達的未來,以及我們能夠產生的影響。這是一項非常重要的工作。實現這一切是我的責任,是我唯一的責任。所以我拒絕了,并非因為這份邀請不夠誘人。它的確非常誘人,但我實在無法接受。
F:我認為英偉達,以及臺積電,都是人類文明史上最偉大的兩家公司。運營其中任何一家,我確信都是極其復雜且需要付出巨大努力的……你必須全身心投入。不僅是CEO,公司上下,每個層級的每個人都必須如此。每個人都必須真正地全身心投入。
Jensen Huang:是的,毫無疑問。
英偉達的護城河
F:英偉達現在是全球市值最高的公司。我不得不問,正如科技界人士所說,英偉達最大的護城河是什么?就是那種能讓你免受競爭沖擊的優勢。
Jensen Huang:作為一家公司,我們最重要的資產是我們計算平臺的安裝基礎。如今,我們最看重的是CUDA的安裝基礎。當然,20年前,CUDA的安裝基礎幾乎為零。但究竟是什么造就了現在的局面呢?即便有人開發出GUDA或TUDA,也絲毫不會改變現狀。原因在于,CUDA的成功從來不僅僅取決于技術本身。當然,這項技術本身非常出色,極具遠見。但真正重要的是公司對它的投入、堅持和不斷拓展。CUDA的成功并非僅僅歸功于三個人,而是43000名員工的共同努力。
數百萬開發者相信我們,相信我們會繼續開發 CUDA 1、2、3、13,因此他們決定將自己的軟件移植到 CUDA 之上,構建龐大的軟件庫。所以,龐大的用戶群是我們最重要的優勢。這個龐大的用戶群,再加上我們如此高效的執行速度,在如此巨大的規模下,歷史上沒有任何一家公司構建過如此復雜的系統。而且,每年只開發一次是不可能的。這種速度加上龐大的用戶群,在開發者看來,如果支持 CUDA,明天就能提升十倍。我只需要平均等待六個月。
不僅如此,如果我用 CUDA 開發,就能觸及數億用戶和計算機。我的應用遍布所有云平臺、所有計算機公司、所有行業、所有國家。所以,如果我創建一個開源軟件包,并首先將其發布到 CUDA 平臺,就能同時獲得這兩個優勢。不僅如此,我百分之百相信 NVIDIA 會一直維護 CUDA,不斷改進和優化庫,直到它停止發展。這一點毋庸置疑,尤其是最后一點——信任。綜合所有這些因素,如果我是今天的開發者,我會首先選擇 CUDA。我會優先考慮 CUDA。這就是為什么我認為最終 CUDA 才是我們的首要目標,甚至是我們的首要目標——
我們的第二個優勢是我們的生態系統。我們不僅垂直整合了這個極其復雜的系統,還將其水平整合到每一家公司的計算機中。我們與谷歌云、亞馬遜云、Azure 都有合作。你知道,我們現在正在瘋狂地擴展 AWS 的規模。我們還與 CoreWeave 和 Nscale 等新興公司合作。我們在禮來公司的超級計算機中也有應用。我們在企業級計算機中也有應用。我們在無線基站的邊緣計算領域也有應用。你知道,我的意思是,這簡直太瘋狂了。一個架構就能應用于所有這些不同的系統。我們在汽車中應用,我們在機器人中應用,我們在衛星中應用,我們在太空中應用。因此,擁有這樣一個架構,并且生態系統如此廣泛,它幾乎涵蓋了世界上的每一個行業。
F:那么,隨著人工智能工廠的崛起,CUDA 的用戶基礎未來將如何發展?你認為……NVIDIA 的未來發展方向是否有可能完全圍繞人工智能工廠展開
Jensen Huang:以前對我們來說,計算單元是GPU。后來變成了計算機,再后來變成了集群。現在它已經是一個完整的AI工廠了。以前,當我看到一臺計算機,看到NVIDIA的產品時,我會想象芯片的形態。然后,當我發布新產品、新一代產品時,比如“女士們先生們,我們今天發布Ampere架構”,我會拿起芯片。那就是我當時的思維模型……也就是我所構建的產品的模型。現在,我不會……拿起芯片的舉動現在看來仍然有點可愛。
但它很可愛。這跟我設想的完全不一樣。我設想的是一個巨型千兆瓦級裝置,它連接著多個發電廠和電網。它有極其龐大的冷卻系統和網絡,你知道的。一萬人在里面安裝,數百名網絡工程師在里面,還有數千名工程師在后面負責啟動它。你知道,啟動一個這樣的工廠,不是某個人說“啟動了”就能完成的。它需要成千上萬的人才能啟動。
所以從心理上來說,你實際上是……當你思考單個計算單元時,你晚上睡覺時想的其實是一堆機架,也就是一個個模塊,而不是單個芯片。
整個基礎設施。我希望我的下一次點擊,是在思考如何制造行星級規模的計算機的時候。那將是我的下一次點擊。
太空人工智能數據中心
F:那么,你如何看待埃隆談到的太空角度,即利用太空計算來解決一些問題……這可以更容易地解決能源規模化方面的一些能源問題。
Jensen Huang:是的,散熱問題確實不容易解決。
F:散熱。嗯,這其中涉及很多復雜的工程問題。所以……你知道,英偉達也已經宣布過,你們肯定已經在考慮這個問題了。
Jensen Huang:是的,我們已經做到了。NVIDIA 的 GPU 是首批進入太空的 GPU。我之前都沒意識到這一點,這太有趣了……我本來可能會宣布的。我們已經進入太空了。你知道,就像我們 GPU 上裝了一套小小的宇航服。但我們確實已經進入太空了。那里是進行大量成像工作的理想場所。
你知道,因為那些衛星配備了非常高分辨率的成像系統,它們正在持續不斷地掃描地球。你需要的是厘米級分辨率的全球連續成像,這樣你就能實時掌握所有事物的遙測數據。你不想把這些數據傳回地球,因為那可是PB級的數據。你必須在邊緣進行人工智能處理,丟棄所有不需要的、以前見過的、沒有變化的數據,只保留你需要的。所以人工智能必須在邊緣進行。顯然,如果我們把人工智能放在極地,就能獲得全天候的太陽能。但是,你知道,那里沒有傳導,也沒有對流。
所以,你知道,你基本上就只是輻射而已。但是,你知道,太空浩瀚無垠。我想,我們大概只能在那里放置巨大的散熱器了。
F:你覺得這個想法有多瘋狂?比如,它還需要五年、十年還是二十年才能實現?所以我們討論的是人工智能規模化發展的障礙。
Jensen Huang:你知道,我這個人比較務實。我總是先尋找下一個機會。與此同時,我也在開拓太空領域。所以我派工程師去解決相關問題。我們正在……我們正在深入了解這方面。我們該如何應對輻射?如何應對性能下降?如何進行持續的缺陷測試和驗證?還有,我們該如何實現冗余?如何實現優雅降級等等?所以我們可以……軟件方面呢?你如何看待太空環境下的軟件、冗余和性能問題?
讓電腦永遠不會出故障,只會變慢,你知道的。而且……所以我們可以先進行大量的工程探索。但與此同時,我最喜歡的答案是消除浪費。你知道,我們有很多閑置的電力,我想盡快把它們消耗掉。
英偉達的市值會達到10萬億美元嗎?
Jensen Huang:我認為英偉達的增長極有可能,在我看來,甚至是不可避免的。讓我解釋一下原因。我們是歷史上最大的計算機公司。單憑這一點就足以引出一個問題:為什么?當然,原因有兩個。首先,是兩個基礎性的技術原因。第一個原因是,計算機已經從基于檢索的文件檢索系統發展成為……幾乎所有東西都是文件……我們預先編寫內容,預先錄制內容。你知道,我們畫一些東西,把它放到網上,然后保存到一個文件中。我們使用推薦系統,或者某種智能過濾器,來確定應該為你檢索什么。所以,我們曾經是一個預先錄制、人工預先錄制、然后檢索文件的系統。這基本上就是計算機的本質。
如今,人工智能計算機已經具備上下文感知能力,這意味著它必須實時處理和生成詞元。因此,我們從基于檢索的計算系統轉向了基于生成的計算系統。在這個新世界里,我們需要比舊世界多得多的處理能力。舊世界需要大量的存儲空間,而新世界需要大量的計算能力。這就是第一部分。我們從根本上改變了計算以及計算的方式。唯一可能導致它倒退的因素是……
也就是說,這種計算方式——這種能夠生成與上下文相關、感知情境、并在生成信息之前就基于新洞察的信息的計算方式——這種計算密集型的計算方式,只有在無效的情況下才會被放棄。所以,如果……在過去10到15年從事深度學習研究的過程中,如果我曾經得出過這樣的結論:“你知道嗎?這行不通。我覺得這是條死路。”或者,“它無法擴展,它解決不了這種模態的問題,它無法用于這種應用。”那么,當然,我對它的看法會截然不同。但我認為,過去五年比之前的十年給了我更大的信心。
第二個想法是計算機,因為它最初是一個存儲系統,很大程度上是一個倉庫。而我們現在建造的是工廠。倉庫賺不了多少錢,工廠的收益卻與公司的收入直接相關。所以,計算機帶來了兩方面的變化。它不僅改變了工作方式,也改變了其在世界上的用途。它不再僅僅是一臺計算機,而是一座工廠。作為一座工廠,它被用來創造收入。我們現在看到的不僅是這座工廠在生產人們想要消費的產品和商品,而且這些商品對眾多不同的受眾群體來說都極具吸引力和價值,以至于代幣也開始像iPhone一樣進行細分。有免費代幣,有高級代幣,還有一些介于兩者之間的代幣。
所以,事實證明,智能是一種可擴展的產品。市面上存在著一些智能水平極高的產品,比如代幣,它們可以用于一些特定用途,人們愿意為此付費。要知道,有人愿意為每百萬個代幣支付 1000 美元的想法指日可待。這不是會不會發生的問題,而是何時發生的問題。因此,我們現在看到,這家工廠生產的商品實際上是有價值的,而且能夠產生收入和利潤。現在的問題是,世界需要多少這樣的工廠?世界需要多少代幣?社會愿意為這些代幣支付多少錢?如果生產力大幅提高,世界經濟將會發生什么變化?將會發生什么……
我們是否會發現新藥、新產品、新服務?綜合考慮這些因素,我絕對相信世界GDP將會加速增長。我也絕對相信,用于計算的GDP占比將比過去增長100倍——嗯——因為計算不再僅僅是存儲,而是產品創造。所以,從這個角度來看,再回到NVIDIA的定位,NVIDIA的業務是什么,以及我們將如何從這種新的經濟模式和產業中受益,我認為我們將發展壯大得多。
對我來說,剩下的問題是:英偉達是否有可能在不久的將來成為一家年收入3萬億美元的公司?答案當然是肯定的。原因在于它不受任何物理限制。我沒看到任何跡象表明3萬億美元的營收是不可能的。事實上,英偉達的供應鏈——由200家公司共同承擔——承擔著巨大的壓力。我們依靠這個生態系統的合作來實現規模擴張,問題是:我們是否有足夠的精力做到這一點?答案是肯定的,我們肯定有足夠的精力做到這一點。所以,綜合所有這些因素,3萬億美元只是一個數字而已。
我至今仍記得,英偉達第一次市值突破十億美元的時候,一位CEO跟我說過:“你知道嗎,詹森,理論上來說,一家沒有晶圓廠的半導體公司不可能市值超過十億美元。” 我就不贅述原因了,但顯然這不合邏輯,而且有很多證據表明我們做到了。后來有人跟我說:“你知道嗎,詹森,你永遠不可能超過250億美元,因為其他公司占了上風。” 有人跟我說:“你永遠不可能,你知道,因為……” 這些都不是基于原則的理性思考。其實,最簡單的思考方式是:我們究竟在生產什么?我們能創造多大的機會?
現在,NVIDIA 并不追求市場份額。我剛才提到的幾乎所有事情都不存在。這才是難點所在。你知道,如果 NVIDIA 是一家市值 100 億美元的公司,試圖搶占 NVIDIA 的市場份額,那么股東們很容易理解,哦,是的,如果他們能搶占 10% 的市場份額,他們的規模就能擴大這么多。但人們很難想象我們能發展到多大規模,因為我根本無法從任何競爭對手那里搶占市場份額。你明白嗎?所以我認為,對未來的想象是世界面臨的挑戰之一。但我還有很多時間,我會繼續思考,繼續討論,每一次 GTC 大會都會讓這些設想變得越來越真實。
你知道,然后越來越多的人會談論這件事,總有一天,我們會實現的。但我百分之百肯定我們會實現的。
F:是的,這種觀點本質上就是代幣工廠,也就是每秒每瓦產生一個代幣,每個代幣都有價值。它就像一個實實在在的東西,能帶來價值,而且能為不同的人帶來不同類型的價值,價值的多少也不同。這就是實際的產品——它其實可以被粗略地理解為代幣。所以你就有了一堆代幣工廠。然后,從基本原理上很容易想象,考慮到人工智能能夠解決的所有潛在問題,未來你需要數量呈指數級增長的代幣工廠。
Jensen Huang:是的。真正有趣的是,也是我如此興奮的原因,代幣的iPhone來了。
F:你管它叫什么?等等,你是說OpenClaw的iPhone嗎?
Jensen Huang:是的
F:那很有意思。
Jensen Huang:沒錯,OpenClaw 無疑是代幣界的 iPhone。
壓力下的領導力
F:多么令人振奮的未來!我讀到您將自己的成功很大程度上歸功于您比任何人都更努力、更能承受苦難。那么,這其中必然包含很多方面。比如,應對失敗、我們之前討論過的成本和工程問題;人際關系問題、不確定性、責任、疲憊、尷尬、您提到的公司瀕臨倒閉的時刻,以及巨大的壓力。作為一家舉國上下都圍繞其制定戰略、規劃財政分配、構建人工智能基礎設施的公司的首席執行官,您是如何應對如此巨大的壓力的?鑒于如此多的國家和人民都依賴著您,是什么賦予了您力量?
Jensen Huang:我深知英偉達的成功對美國至關重要。它為美國創造了巨額稅收,并確立了美國的科技領先地位。科技領先地位對國家安全至關重要。這里所說的國家安全并非指某一方面,而是所有方面。國家越繁榮,我們就能更好地制定國內政策,提升社會福利。由于我們在美國推動了大規模的再工業化,我們創造了大量的就業機會。我們正在幫助眾多工廠——包括芯片、計算機,當然還有人工智能工廠——將生產方式重新帶回美國。我完全明白這一點……
而我則受益匪淺,這真是一份厚禮,因為我接觸到了主流投資者、教師、警察,他們不知何故投資了英偉達,或者因為他們看了吉姆·克萊默的節目,買了一些股票,現在都成了百萬富翁。
我完全了解這種情況。我知道英偉達在我們背后以及下游擁有一個龐大的生態系統合作伙伴網絡,而這個網絡的核心地位至關重要。因此,我處理這種情況的方式正是我剛才所做的。我會思考……我們正在做什么?它造成了什么后果?它對其他人有什么影響?是積極的,還是會帶來巨大的負擔,例如對供應鏈的影響?因此,問題是,你打算怎么做?幾乎在我感受到的所有事情中,我都會進行分析,思考:“好吧,情況是什么?發生了什么變化?有什么困難?我打算怎么做?”然后我……
我把問題分解開來,把情況分解成我可以處理的小事。之后我唯一能做的就是:“你做了嗎?是你自己做的,還是找別人做的?如果你自己沒做,你覺得你應該做,但你沒做,也沒找別人做,那就別再抱怨了。”……你懂的?就這樣,就這樣——
所以我對自己要求很高。而且,我還會把事情分解開來,這樣就不會驚慌失措。我可以安心入睡,因為我已經列出了需要做的事情清單,并且確保所有可能危及公司、危及合作伙伴、危及整個行業的事情,我都告訴了相關人員。所有我認為可能危及任何人的事情,我都告訴了相關人員。而且我告訴了那些能夠解決問題的人。所以,我已經把事情說出來了,或者正在采取行動。那么,萊克斯,在那之后,你還能做些什么呢?
F:鑒于在創建 NVIDIA 的過程中所經歷的種種瘋狂而艱辛的痛苦,你是否在心理上經歷過低谷?
Jensen Huang:哦,當然,一直都是。
F:你是不是把問題分解成一個個小部分?看看你能做些什么?
Jensen Huang:萊克斯,其中一部分在于遺忘。你知道,人工智能學習最重要的特性之一就是系統性遺忘。你需要知道什么時候該忘記一些事情。你不可能記住所有東西,也不可能記住所有東西,而且你也不想背負所有東西。我經常做的一件事就是快速分解問題,思考問題,然后分擔它的負擔。我說“告訴所有人”,本質上就是在分擔這個負擔。
越快越好。不管我擔心什么,都告訴別人。別憋在心里。你知道,別嚇到他們。把問題分解成更小的部分,讓人們參與進來,激勵他們采取行動。但其中一部分就是放下。你知道,很多時候你得對自己嚴格一點。你知道,振作起來,別再哭了。我們繼續前進。你知道嗎?然后你就起床了。另一部分是你會被下一個閃光點、下一個未來、下一個機會、下一個“好了,這都過去了。接下來是什么?”所吸引。我覺得很多時候都是這樣,你知道,你看看那些偉大的運動員就知道了。他們只關心下一個分數。上一個分數已經過去了。尷尬,你知道的……挫折。
你知道,因為我的工作很多時候都是公開進行的,所以你知道,我說的很多話當時聽起來很合理或者很有趣,主要是因為當時我覺得好笑。然后,你知道,當你反思之后,就沒那么好笑了,但是……繼續朝著這個目標努力。我的意思是,你確實說過,你曾說過一句很出名的話,如果你知道創建英偉達會有多難——結果比你預想的難一百萬倍——你就不會去做了。
沒錯。順便說一句,我剛才想解釋的就是,擁有孩童般的思維是一種不可思議的超能力。你知道嗎?我經常這樣想,幾乎每次看到什么東西,我的第一反應都是:“這能有多難?”你知道嗎?然后你就進入這種狀態,心想這能有多難?而且從來沒有人做到過。它看起來無比龐大。它要花費數千億美元。它需要,你知道,所有這些……然后你就會想,“是啊,但這能有多難?”你知道嗎?這能有多難?
所以,你得讓自己進入那種狀態。你不想過度模擬所有的事情,包括所有的挫折、考驗、磨難和失望。你不想提前模擬所有這些。你不想知道這些。你想帶著完美的心態去體驗一段新的經歷,相信它會很棒,會非常有趣。然后,當你身處其中時,你需要有毅力,你需要有勇氣,這樣當挫折真正發生時——那些挫折會讓你措手不及,那些失望會讓你措手不及,那些尷尬會讓你措手不及,那些屈辱會讓你措手不及——你才能應對自如。
你不能就此放棄……現在你只需要開啟另一部分,那就是忘掉它。繼續前進,不斷向前。只要我對未來以及未來為何會實現的假設和輸入沒有發生實質性的改變,那么我就應該預期結果也不會改變。因此,我對未來的模擬結果仍然會發生。如果它仍然會發生,我仍然會去追求它。
我相信會成功的,你知道,這其中融合了兩到三種人類特質:以全新的心態投入新事物的能力,忘記挫折的能力,以及相信自己并堅持信念的能力。但你也要不斷地重新評估。
我認為這三、四、五件事的結合對韌性至關重要。你知道,我很幸運,無論人生經歷如何造就了現在的我,我都具備了這四、五件事。你知道,我總是充滿好奇心,總是不斷學習。我總是向所有人學習,你知道嗎?我總是問我的……而且因為我對所有事情都保持謙遜,我總是想,“哇,他們做得真好。他們做得太棒了。”你知道,我會思考他們是怎么想的。他們是怎么……所以我在模仿每個人。在很多方面,你知道,我幾乎在模仿我觀察的每個人,對吧?你會對他們所做的一切感同身受,并尊重他們,你會不斷地學習。
F:你現在是世界上最富有的人之一,也是世界上最成功的人之一。保持謙遜是否更難了?你是否覺得金錢、權力和名望讓你更難承認自己的錯誤?讓你難以傾聽與你意見相左的人的觀點并從中學習?諸如此類的事情。
Jensen Huang:出乎意料的是,答案是否定的。而且我其實會選擇相反的做法。因為我的很多工作都是公開進行的,所以一旦我犯了錯,幾乎所有人都能看到。
當我犯錯的時候——當我錯了,或者事情沒有按預期發展,或者你知道,我的意思是,我私下里說的大部分話我都相當肯定。原因在于,這些話會影響到其他人,所以我對此非常關注,也非常謹慎。至于我在會議中思考的事情,你知道,很多事情都可能朝著不同的方向發展。所以,但這從不會阻止我繼續思考。我的管理和領導方式,就是不斷地在眾人面前進行思考。即使是在和你說話的時候,你也能看出我是在思考問題。我希望確保你理解我的意思,不是因為我告訴你。
因為我對自己即將要說的話非常謙虛。我會先向你展示我得出結論的步驟。然后,你可以自己決定是否相信我最后說的。所以我在會議上每天都這樣做。對于我的所有員工,我都會不斷地闡述我的想法:“讓我來告訴你我是怎么看待這件事的。”然后我會進行推理。這讓每個人都有機會插話,說:“我不同意這部分。” 推理并讓大家參與討論的好處在于,他們不必反對你的結論。他們可以反對你的推理步驟。他們可以引導我得出不同的結論,然后我們就可以繼續前進。所以,我們就像是一個集體探索路徑的方法。這真的很棒。
電子游戲
F:我很高興你保持了丹尼餐廳的那種精神,還有你的工作。我的意思是,那真是太棒了。你從丹尼餐廳開始的整個職業生涯都非常精彩。我想問問你關于電子游戲的事。我是個游戲迷。所以我要感謝NVIDIA多年來提供的令人驚嘆的圖形效果
Jensen Huang:順便說一句,GeForce 至今仍然是我們最重要的營銷策略。沒錯。人們在青少年時期就開始了解 NVIDIA。然后他們上了大學,知道 NVIDIA 是誰,一開始只是玩《使命召喚》和《堡壘之夜》之類的游戲。后來他們開始使用 CUDA,再后來他們開始使用 NVIDIA 的產品,比如 Blender、Dassault 和 Autodesk 的產品。
F:是的。我是說,我跟一個朋友提過我在跟你聊天。他說:“哦,他們生產的顯卡是游戲顯卡中的佼佼者。”
Jensen Huang:對,沒錯。
F:你知道,這其中還有很多原因,但沒錯,人們真的很喜歡它。它確實給很多人帶來了快樂。硬件確實讓這些世界栩栩如生。DLSS 5 曾引發一些爭議。你能跟我說說這場風波的緣由嗎?我猜想,玩家們擔心它會讓游戲看起來像人工智能制作的粗糙作品。你對這場風波有什么看法?
Jensen Huang:是的。我覺得他們的觀點很有道理,我能理解他們的想法,因為我自己也不喜歡AI生成的粗糙作品。你知道,所有AI生成的內容看起來都越來越相似,而且都很漂亮,所以我很能理解他們的想法。但DLSS 5的目標并非如此。我之前展示過幾個例子。DLSS 5是基于3D的,由3D數據引導的。它是基于真實結構數據引導的。因此,幾何形狀是由藝術家決定的。我們完全忠實地保留了每一幀的幾何形狀。它受到紋理和藝術家技法的影響。所以每一幀,它都在增強畫面,但不會改變任何東西。
現在的問題在于增強效果。DLSS 5 還允許你訓練自己的模型來判斷,甚至將來還可以進行自定義。比如,你可以說“我想要卡通著色器效果,我想要它看起來像這樣”,你可以舉個例子。它就會按照那個風格生成圖像,完全符合藝術家的藝術理念、風格和意圖。所有這些都是為了方便藝術家創作,讓他們能夠創作出更精美、但又符合自己風格的作品。我認為他們誤以為游戲會以現在的樣子發布,然后再進行后期處理。但這并非 DLSS 的設計初衷。
DLSS與藝術家融為一體,所以它的目的是為藝術家提供人工智能工具,也就是生成式人工智能工具。當然,他們也可以選擇不使用它,你知道嗎?
F:我認為人們對人臉非常敏感。而我們現在正生活在這樣一個我認為很美好的時代,那就是人們對人工智能的瑕疵非常敏感。它就像一面鏡子,幫助我們意識到我們追求的其實是瑕疵。我們追求的有時并非完美的畫面。它幫助我們理解,在我們創造的世界中,真正吸引我們的是什么。這很美好。只要這些工具能夠幫助我們創造這些世界——
Jensen Huang:是的,沒錯。
又一個工具,他們居然想讓生成模型生成與照片級真實感截然相反的效果。是啊,它也能做到。所以它只不過是又一個工具而已。我想玩家們可能也會喜歡這一點:過去幾年里,我們向游戲開發者引入了皮膚著色器。很多游戲都使用了包含次表面散射的皮膚著色器,讓皮膚看起來更像真人皮膚。所以,游戲行業,也就是游戲開發者,一直在尋找越來越多的工具來表達他們的藝術。而這只不過是又一個工具而已,至于他們用哪個,就由他們自己決定了。
AGI 時間線,編程的未來
F:精美的畫面可以增強沉浸感,讓人感覺仿佛置身于另一個世界。啊,你說的很對,通用人工智能(AGI)的時間線問題取決于你對AGI的定義。那么,我想問問你關于AGI可能的時間線。
Jensen Huang:我認為我們已經實現了通用人工智能(AGI)。
舉個例子……Claude完全有可能開發出一個網絡服務,或者某個有趣的小應用,突然之間,你知道,幾十億人以50美分的價格使用它,然后不久之后又倒閉了。在互聯網時代,我們見過很多這類公司,而它們大多數網站的復雜程度并不比Open-Claude今天能生成的網站高多少。
順便說一句,這事兒現在正在發生,對吧?你知道,你去中國的時候會看到,你會看到很多人教他們技能,讓他們的畢業生出去找工作,賺錢。我其實并不……如果出現某種社交現象,或者有人創造了一個超級可愛的數字網紅,或者開發出某種社交應用,比如那種可以喂養電子寵物之類的,然后突然爆紅,我一點也不會感到驚訝。很多人用了幾個月之后,它就慢慢銷聲匿跡了。但是,10萬個這樣的“代理人”最終創建英偉達的概率是零。
然后,還有一點我必須強調,那就是要意識到大家都很擔心自己的工作。我想提醒大家,工作的目的、工作內容以及完成工作所使用的工具是相關的,但并不完全相同。我已經從事這份工作33年了。我是全球在職時間最長的科技公司CEO,34年。在過去的34年里,我使用的工具一直在不斷變化,有時甚至在短短兩三年內就會發生翻天覆地的變化。我最想讓大家聽到的一點是,計算機科學家和人工智能研究人員預測第一個會消失的職業是放射科醫生。
因為計算機視覺將會達到超人類的水平,而它也確實做到了。計算機視覺……在2019年、2020年,或許稍晚一些,2020年,就已經達到了超人類的水平?
明白了嗎?計算機視覺超越人類能力已經很久了。因此,有人預測放射科醫生會消失,因為研究放射影像已成為過去式,人工智能會取代他們。事實證明,他們的預測完全正確。計算機視覺已經完全超越了人類能力。如今,所有放射學平臺和軟件包都由人工智能驅動,然而放射科醫生的數量卻在增長。那么問題來了,為什么?現在,全球放射科醫生短缺。首先,之前的危言聳聽的警告矯枉過正,嚇跑了很多人,讓他們不敢從事這個對社會至關重要的職業。這確實造成了傷害。那么,為什么這種警告是錯誤的呢?原因在于,放射科醫生的職責是診斷疾病,幫助患者和醫生診斷疾病。
因為我們現在能夠更快地分析掃描結果,所以你可以分析更多掃描結果,做出更準確的診斷,更快地處理住院病人,接診更多病人。醫院的收入也更高了。住院病人更多了,就需要更多放射科醫生。我的意思是,最令人驚訝的是,這一切的發生似乎是理所當然的。NVIDIA 的軟件工程師數量將會增長,而不是減少。原因在于,軟件工程師的職責和編寫代碼的任務是相關的,但并不相同。我希望我的軟件工程師解決問題。我并不在意他們寫了多少行代碼,你知道嗎?但他們的工作,他們的工作目標并沒有改變。
解決問題、團隊合作、診斷問題、評估結果、尋找新的待解決問題、創新、融會貫通。你知道,這些都不會消失。
F:你認為有可能嗎……就拿編程來說吧。你認為世界上程序員的數量會不會增加而不是減少?
Jensen Huang:是的。原因如下。編碼的定義是什么?我認為……就目前而言,編碼的定義很簡單,就是描述、規范,如果你想更具體一些,甚至可以給它一個你想要編寫的軟件架構。所以問題是,有多少人能做到這一點?描述一個讓計算機執行的規范……告訴計算機要構建什么。有多少人?我認為我們已經從3000萬增長到了可能10億。因此,未來每個木匠都會是程序員,只不過擁有人工智能的木匠同時也是架構師。他們能夠為客戶創造的價值大大提升了。他們的技藝得到了極大的提升。
我認為每個會計師同時也是你的財務分析師和財務顧問。所以,所有這些職業的地位都得到了提升……如果我是個木匠,看到人工智能,我肯定會欣喜若狂。你知道,如果我是個水管工,我能為客戶提供的服務也會讓我欣喜若狂。
F:我認為,目前從事編程和軟件工程的人們,正處于理解如何運用自然語言與智能體進行直觀交流,從而設計出最佳軟件的最前沿。
Jensen Huang:沒錯,正是如此。
F:所以隨著時間的推移,它們會趨于一致,但我認為學習編程仍然很有價值,比如學習編程語言是什么。傳統的編程方式,編程語言的良好實踐是什么,編程的設計原則是什么——
Jensen Huang:這是正確的
F:大型軟件系統常用的編程語言?
Jensen Huang:萊克斯,原因就在于此,正如你剛才對觀眾所說,我認為規范的目標,或者說規范的藝術性,取決于你試圖解決的問題。當我思考如何為公司制定戰略、構建企業方向以及我們應該做的事情時,我會將其描述得足夠具體,以便人們能夠理解方向并付諸行動。它足夠具體,可以讓他們采取行動,但我又會刻意地保留一些細節,這樣才能讓43000名優秀的員工創造出比我想象中還要好的東西。
所以,當我與工程師合作,與其他人合作時,我會思考:我試圖解決什么問題?我的合作伙伴是誰?規范的級別和架構定義的級別都與此相關。因此,每個人都必須學習如何在編碼的光譜中定位自己。編寫規范本身就是一種編碼。你可能會選擇非常具體的規范,因為你想要一個非常明確的結果。你也可能決定在這個領域進行更多探索,因此你可能會選擇不太具體的規范,以便與人工智能反復溝通,甚至突破你自身的創造力邊界。這種在光譜中定位的藝術性,正是編碼的未來。
F:但拋開編程不談,我覺得很多人,尤其是白領,都理所當然地擔心自己的工作,焦慮不安。自動化和新技術到來時,總會伴隨著動蕩,我們誰也不知道該如何應對。首先,我認為我們都應該心懷同情,體會那些失去工作的個人和家庭所承受的痛苦。我認為,每當出現像人工智能這樣具有變革性的技術時,都會伴隨著巨大的痛苦,而我不知道該如何應對這種痛苦。
希望隨著工具的不斷發展,它能為這些人創造更多從事同類工作的機會,提高他們的工作效率,也讓他們的工作更有趣,就像編程領域一樣。說實話,我編程真的太有趣了,簡直前所未有。所以,希望它能簡化他們的工作,自動化那些枯燥乏味的部分,把創造性的部分留給人類。但即便如此,過程中仍然會有很多痛苦和磨難。
Jensen Huang:所以我之前的第一個建議是……這也是我現在應對焦慮的方法。事實上,我們剛才也討論過。對于巨大的未來焦慮、巨大的壓力焦慮、巨大的不確定性焦慮,我首先會把它們分解開來,然后告訴自己:“好吧,有些事情你可以做點什么,有些事情你無能為力。但對于那些你可以做點什么的事情,讓我們好好思考,然后去做。”
如果今天我們要招聘一位應屆大學畢業生,而我面臨兩個選擇:一個對人工智能一無所知,另一個是人工智能專家,我會選擇后者。如果我需要一位會計、一位市場營銷人員、一位供應鏈專家、一位客戶服務專家、一位銷售人員、一位業務拓展人員或一位律師,我也會選擇后者。因此,我建議每位大學生、每位教師都應該鼓勵學生去學習和使用人工智能。每位大學生都應該畢業后成為人工智能專家。而且,無論你是木匠還是電工,都應該去學習和使用人工智能。去看看它能如何改變你目前的工作,提升你的職業技能。
如果我是個農民,我肯定會用人工智能。如果我是個藥劑師,我也會用人工智能。我想看看它能如何提升我的工作,讓我成為革新這個行業的創新者。所以,這會是我做的第一件事。然后我還會幫助他們……這項技術確實會顛覆甚至取代很多工作。因為它會實現自動化,如果你的工作就是完成任務——那么你很可能會受到沖擊。如果你的工作目標包括你完成某些特定任務——那么學習如何使用人工智能來自動化這些任務就至關重要。當然,還有介于兩者之間的廣闊領域。
AI會有意識嗎?
F:你認為人性中、人類意識中是否存在一些本質上無法用計算來解釋的東西?或許有些東西是芯片無論多么強大都永遠無法復制的?
Jensen Huang:我不知道芯片會不會感到緊張。當然,你知道,引發焦慮、緊張或其他情緒的條件是什么。我相信人工智能能夠識別并理解這些情緒。我不認為我的芯片會感受到這些。因此,焦慮、緊張、興奮等等這些情緒是如何體現在人類表現中的。例如,極其出色的人類表現、運動表現,以及平均水平或低于平均水平的表現。在完全相同的條件下,不同的人會表現出不同的結果,展現出不同的表現,這就是人類表現的整個光譜。
我不認為我們正在構建的任何東西會表明,兩臺不同的計算機在完全相同的環境下會表現出不同的性能。當然,它們會產生統計上不同的結果,但這并不是因為感覺不同。
所以,真正重要的是要弄清楚什么是智力。你知道,我們經常使用的這個詞,它并不是一個神秘的詞。智力是有含義的,你知道嗎?
這是一個系統……你知道,它包含了感知、理解、推理和計劃能力。你知道,這個循環,這個循環,從根本上來說,就是智能的本質。智能并不是一個詞就能完全等同于人性。我認為區分這兩者非常重要。我們有兩個詞來描述它們。我不會……我不會對智能抱有過高的幻想,也不會過度浪漫化它。智能是……人們以前也聽我說過,我其實認為智能是一種商品。我身邊都是聰明人。而且在他們所處的各個領域,都有比我更聰明的人。
然而,我在這個圈子里也扮演著一個角色。這其實挺有意思的。他們比我更有學識,上的學校也比我好,在各自的領域都比我更精通。他們每個人都比我強。我有六十個這樣的人。在我眼里,他們個個都是超人。而我,卻不知怎的,坐在中間,統籌著這六十個人。所以你得問問自己……一個洗碗工究竟有什么魔力,能讓他在一群超人中間占據一席之地?這說得通嗎?
所以,這就是我的觀點。我的觀點是,智力是一種功能性的東西。而人性并非以功能性來定義的。它是一個遠比智力寬泛得多的概念。我們的人生經歷、我們對痛苦的承受能力、我們的決心,這些都與智力是不同的概念。因此,如果我只能給聽眾一個明確的答案,那就是:智力這個詞,隨著時間的推移,我們把它提升到了一個非常高的概念。
所有這些品質。同情心、慷慨,你剛才說的所有這些,我相信都是超人的力量。而現在,智慧卻要被商品化了。因為我們之前討論過,最重要的就是你的教育。但是,即使他們說最重要的就是你的教育,當你上學的時候,你獲得的也不僅僅是知識。
所以,很遺憾,我們的社會把一切都簡化成了一個詞,而生活遠不止一個詞。我只想說,我的經歷表明,即使我的智力水平比周圍的人低,也改變不了我最成功的事實。所以,我想說的是——我希望能夠激勵大家——不要讓智力的民主化、智力的商品化讓你感到焦慮。你應該從中汲取力量。
有關死亡的看法
F:NVIDIA 的成功以及我之前提到的數百萬人的生活都與你息息相關。但正如我們所說,你只是一個普通人,和我們所有人一樣,終有一死。你會思考死亡嗎?你會害怕死亡嗎?
Jensen Huang:我真的不想死。我的生活很美好,家庭美滿,工作也非常重要。這并非“一生一次”的經歷,并非暗示很多人都經歷過,而是指我正在經歷的人類歷史上獨一無二的事件。英偉達是歷史上最具影響力的科技公司之一,我們正在從事非常重要的工作,我對此非常重視。當然,也有一些實際問題需要考慮,比如我們應該如何進行繼任計劃?我曾公開表示我不相信繼任計劃。
原因并非因為我永生不死。而是因為,如果你擔心繼任計劃,如果你為此焦慮不已,那么你應該怎么做呢?那就把所有問題都歸結到最根本的層面。如果你關心公司的未來,關心你之后的未來,那么你今天最重要的事情就是盡可能頻繁、持續地傳承知識、信息、洞察力、技能和經驗。這就是為什么我總是當著團隊的面講解所有事情。每一次會議都是一次講解會議。我在公司內外的每一分每一秒,都是為了盡快地將知識傳遞給他人。
我學到的東西,放在桌上的時間從來不會超過一瞬間。我會把這些信息、這些知識——天哪,這太酷了!——傳遞出去。我還沒完全掌握,就已經把它推薦給別人了。“快去學這個!這太酷了!你肯定也想學!” 所以我不斷地傳遞知識,賦能他人,提升周圍每個人的能力,這樣我追求的、我所期盼的,就是我能死在工作崗位上,你知道嗎?最好是瞬間就死在工作崗位上,你知道嗎?這樣就不會有長時間的痛苦,你知道嗎?嗯——
F:嗯,從粉絲的角度來看,鑒于你對人類文明的巨大積極影響,我當然希望你繼續前進。而且,看著英偉達的所作所為也很有趣,你知道的。他們的創新速度令人驚嘆。我本人也是工程學的忠實擁躉。英偉達一直在進行著許多令人難以置信的工程項目。看著他們不斷取得成就,真是令人興奮。這不僅是對人類的贊頌,也是對偉大創造者的贊頌,更是對偉大工程的贊頌。所以,它代表著一些特別的東西。因此,我希望你和英偉達繼續前進。是什么讓你對我們正在做的事情、對人類、對人類的未來充滿希望?當你展望未來,當你思考未來10年、20年、50年、100年后的事情時,是什么讓你充滿希望?
Jensen Huang:我一直對人性的善良、慷慨、同情和能力充滿信心。我對此一直無比確信,有時甚至過于自信。我有時會被人利用,但這從不會讓我改變主意。我始終堅信,人們都渴望行善,都渴望幫助他人。而事實證明,我的想法是正確的,不斷地被證明是正確的,而且往往超出我的預期。因此,我對人性的能力充滿信心。我認為,真正讓我充滿希望的是,我看到了現在的可能性,并且基于我們正在做的事情,我推斷出未來很可能發生的事情。
而且,我們想解決的事情太多了。我們想解決的問題太多了。我們想創造的東西太多了。我們想做的好事太多了,而且現在都觸手可及,在我有生之年就能實現。你不可能不為此感到浪漫吧?你明白我的意思嗎?
你怎么可能不為此感到浪漫呢?疾病的終結是可以預見的,污染大幅減少也是可以預見的,光速旅行終將成為現實。而且,你知道,不是長途旅行,而是短途旅行。人們問我怎么做。嗯,首先,很快,我就要把一個人形機器人送上宇宙飛船,就是我設計的那個,我們會盡快把它送出去,它會在飛行過程中不斷改進和增強。
然后,時機一到,我的所有意識都已經——你知道,我生命中的大部分都已上傳到互聯網。把我所有的收件箱、我做過的一切、我說過的一切都上傳到互聯網上。你知道,它們都被收集起來,變成了我的人工智能。而我,只是,當時機到來時,我們會以光速發送它們,讓我的機器人追上我。
*免責聲明:本文由作者原創。文章內容系作者個人觀點,半導體行業觀察轉載僅為了傳達一種不同的觀點,不代表半導體行業觀察對該觀點贊同或支持,如果有任何異議,歡迎聯系半導體行業觀察。
今天是《半導體行業觀察》為您分享的第4355內容,歡迎關注。
加星標??第一時間看推送
![]()
![]()
求推薦
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.