王堅對話AI奠基人謝諾夫斯基：如何防止人工智能毀滅人類？也許是“母愛”

近期中國工程院院士、阿里云創始人王堅與美國國家科學院、國家工程院、國家藝術與科學學院、物理學會四院院士特倫斯·謝諾夫斯基展開了一場精彩對話。兩位專家深入探討了人工智能的發展現狀、大語言模型的應用與影響，以及如何將人工智能技術應用于科學研究和教育領域，為大家呈現了人工智能的前沿觀點與未來發展方向。

人工智能已經成為當今最熱門的話題之一，然而很多人仍然覺得它遙不可及，事實上它早已悄然融入我們的生活，默默為我們的衣食住行提供助力。這種既遠又近的感覺，恰恰是人工智能最特別的地方。

中央電視臺·央視頻特別節目《AI1001課》與中信出版集團共同邀約到國內外兩位人工智能領域的知名專家學者：阿里云創始人王堅教授和《大語言模型》作者特倫斯·謝諾夫斯基教授，與我們共同走進人工智能的世界，看看它如何影響當下塑造未來。

01

大語言模型、三體與平權

主持人：談到人工智能，其實很多人最開始認識到它，應該是從一些科幻電影或者一些科幻小說當中。想問問王博士有沒有讓您記憶深刻的科幻電影或者科幻小說。

王堅：可能大家比較熟悉的就是《黑客帝國》。如果你記不得它是人工智能，但這個電影里邊肯定有個畫面大家不會忘掉，就是一串像代碼一樣的字符往下掉。這是那個時代最科幻的，甚至把那個時代的顏色也體現出來了——綠綠的，白白的，那樣就是未來。所有跟綠色有關都有自帶一種科技感和未來感。

最近幾年大家覺得比較科幻的就是《三體》，它反映了人們對一些今天還未知的、不存在的東西的追求。但實際上今天人工智能已經開始深入到我們的生活，它不再是一個未來式的東西。尤其是今年年初DeepSeek給我們帶來巨大的驚喜。這半年以來有非常非常多的人工智能應用上線。

除此之外，很多人都知道芯片是人工智能最基本的東西，如果我們沒有芯片，可能人工智能就沒法運作?？墒呛苌偃酥懒硗庖痪湓挘涸谌缃?，如果沒有人工智能，芯片也造不出來。

所以如今芯片的復雜度已經到了沒有人工智能做不了芯片。

如果去看谷歌這些企業就發現，他們花了很多精力在講人工智能怎么幫助我們設計下一代芯片。所以其實人類發展到今天，我們碰到的事情復雜度已經非常非常大了，如果沒有一些更加先進的工具來幫助我們，事實上我們很難做一些事情。

另外比如去年的這個巴黎奧運會，我當時跟奧委會開會聊奧林匹克的人工智能的議程的時候，我跟他們說過這樣一句話：其實觀眾是沒有真正看到奧運會精彩的鏡頭的，觀眾只看到了導演認為的精彩的鏡頭，其實大部分的鏡頭可能從來沒人看過。所以去年奧運會大家看到了很多因為有了人工智能才見到的精彩鏡頭。所以人工智能其實比我們想象的有更多應用場景。

主持人：可能在過去很多科學的術語跟老百姓其實沒有太多的關系，但現在人工智能時代來臨之后，跟人工智能有關的一些術語好像我們必須也要知道一下。在過去的一年的時間里面，媒體上不斷地出現各種各樣跟人工智能相關的詞語，比如像云計算、深度學習、神經網絡、大語言模型。您能不能快速地幫我們掃掃盲。

王堅：第一個最關鍵的問題就是計算和智能的關系，人工智能是離不開計算的。云計算是今天為人工智能提供計算的最好的方式。聯合國去年寫過報告，認為云計算現在不能夠讓所有人平權地去訪問，依舊是我們打造一個更具包容性的人工智能生態最大的障礙。

所以我想直接一點，如果沒有今天的云計算，可能就不會有今天的人工智能，盡管是兩個不同的技術，但是它們之間真是唇齒相依的關系。

第二件事情，我想先說大語言模型。大語言模型是普通老百姓真正認識到人工智能就在身邊，是觸手可及的一個非常重要的機會。因為大語言模型你每天都可以用?？梢岳斫獬山裉斓娜斯ぶ悄芫褪且源笳Z言模型為代表。

人工智能有很長的過去，只有很短的歷史，大語言模型就是今天的人工智能。大語言模型也讓今天的人工智能跟以前的人工智能劃了一條分水嶺，是徹底不一樣了。

當然中間有兩個非常重要的過渡。在技術發展的歷史上，那大語言模型依賴于神經網絡的架構。通俗來講，就是受大腦啟發出來的東西那就是神經網絡本身的東西。中間又有一個很重要的問題是怎么能夠把數據很好地應用，那深度學習就出來了。

所以從這個角度，深度學習和神經網絡是建立在云計算的基礎上，為大語言模型做最重要的一個技術的儲備。在過去用神經網絡和深度學習其實醞釀了不同的技術的，但是很多沒有走到我們今天的大語言模型。所以這也是為什么大語言模型是有它獨立存在的條件。

如果再總結一下，云計算是所有東西的基礎，像基礎設施一樣的存在，神經網絡和深度學習是一個非常重要的基礎的方法，這個方法可能可以促成很多不同的新的東西誕生，但是其中最重要一個東西的誕生就是我們今天說的人工智能，叫大語言模型。但是大語言模型又不是人工智能的全部的表現形式。

如果用汽車做個類比，大語言模型就是人工智能的引擎，至于你是造個跑車還是轎車，那大家都有各自的方法。

人工智能在今年破圈，或者是說在最近幾年里面集中式的爆發，最重要是它真的做到了足夠好，它真的實現了通過了圖靈測試。

所以我覺得這是所有的技術的一個最基本的要求，就是你能不能好到一定程度真的能幫助人，而不是只是好到能夠跟人炫耀一下我有這個技術。

這背后的事實上有個很重要的契機是互聯網的發展，大語言模型是把整個互聯網裝到了一個模型里面。過去我們做搜索也是在互聯網上找東西，在過去幾十年互聯網積累的上面所有的東西被大語言模型裝到了一個口袋里，使得我們今天有機會真的能夠看到一個像人類智能一樣東西的出現。所以我想這可能是它發展背后的一個非常非常重要的原因。

主持人：王博士，您現在所在的之江實驗室發射了顆智能衛星，在太空中進行一個組網要把算力布置在太空當中，這個項目還有一個非常動聽的名字叫三體計算星座。讓人不禁聯想到劉慈欣的科幻小說。

當我們還在關注人工智能如何改善我們陸地生活的時候，你們怎么想到把人工智能送上天？那么這件事情的意義是什么？

王堅：這其實是個很大的話題，一是與我們對人工智能的認知有關系，我自己覺得人類對太空的探索一定是我們很大一個窗口，像之江實驗室是做前沿研究的實驗室，在今天對地面很多場景的應用，人工智能已經到了一個相當完善的境界了，我是非常有信心的，但是我們要問一個問題是下面的探索在哪里？那我覺得太空就是一個非常好的地方。

我想說一個最簡單的數據，盡管我們了解地球好像很多了，但事實上我們對地球是沒那么了解。來舉個最簡單例子，事實上我們今天有那么多遙感衛星在太空，大概只有不到百分之二十的數據被傳回到地面，非常地限制我們對地球本身的了解。

大家都知道，你不從外太空了解地球那就是盲人摸象。當你發現只有不到20%的數據能傳回來，那就說明什么，說明天上沒有足夠的算力。

過去大家為什么覺得這件事情還沒那么迫切，因為過去算力到了天上也沒有更好的手段能真的了解地球做個模型出來。那人工智能恰巧在這個時候也相對成熟了，所以我想把算力搞到天上，把模型搞到天上，就變成了一個非常直接的命題。

在國際上也有一個非常好的想法，把它叫做地球智能。我們對地球的了解也到了另外一個水平上，不再只是我們拍幾張地球照片。今天如果不把在太空的衛星互通互聯起來，是沒有辦法形成我們要的算力規模的。

所以中間有一個必要的過程就是太空中衛星的互通互聯，但這個也是今天面臨的非常窘迫的現狀——現在天上有那么多衛星，但衛星之間是沒有關系的，它只能單一跟地面進行通訊，甚至這些衛星到了地面也互相沒有關系，這樣的話就受到了大大限制。

所以三體計算星座就是把算力送到太空，能夠做到讓衛星互通互聯，最后把人工智能帶到太空，使得我們對地球的了解有一個全面支持可持續的發展。但是再往前走一步，其實地球上的所有表象也不是地球自己決定的，事實上是由太陽決定，所以自然而然就會想到怎么了解太陽。那今天有科學家就在設想我們應該發射太陽人造衛星，是圍繞著太陽轉的。

可以放太陽人造衛星的地方，大概是距離太陽有一億五千萬公里，離地球也有一億五千萬公里。如果要傳回數據來，技術上基本是不可行的。所以這個時候就需要完整的部署一個太空計算的系統。當然是人最后要走出地球到火星上去的，那就更加需要這個系統。

所以我想這樣其實是讓我們對技術的未來會更有信心，當然倒過來講這樣的技術嘗試對推動我們本身的發展有非常大的作用。

主持人：那有多少衛星才算是可以把這個系統串起來呢？

王堅：作為一個實驗室最基本的大概需要一千顆衛星，唯一的辦法就是大家一起做，所以要創造一個新的機制才能做這樣的創新，那么這個機制就反映在我們這個星座的名字上，叫三體。那么三體從科學的含義當然是來自牛頓的一個表達。在在宇宙在太空里面。只有兩個物體它們之間關系是有確定的解的，但有第三個物體的時候這個事就變得無限復雜。我們想做的是在這樣一個環境下，我們真的能不能跟成百上千的企業合作去完成這樣一件事情，所以我們就把它叫做三體。

所以這個計劃看上去最后還是要所有人的力量加起來。我們在國際上講的這句話的時候還是很打動別人的——我們想最后三體計算星座可以把每一顆衛星，分享給世界上的每一個人。

在這個軌道中的衛星，也許它并不是專門做這件事情的，但我們打上去的那幾顆星是專門做這件事情，需要要借助更多的衛星來組成這個網絡。而且衛星恨不得你就是一個國家才有一顆，或者大公司有一顆，但我們所以我們希望以后每一個個體都可以在這樣的一個計劃里，這樣整個社會的創造力是會被大大地激發出來。

所以今天我們談到人工智能的時候我們經常跟另外一個詞叫“平權”放在一起。其實它是一個分享的過程如果我們不是站在自己的角度而是站在社會創造力的角度，我們在這個地球上的每一個人的創造力才能被充分地發揮出來，所以我想“三體”這個命名也有這個含義。

02

如何防止人工智能毀滅人類？“母愛”

主持人：接下來我們進一步深度學習就要請出我們的另一位嘉賓。讓我們歡迎美國國家科學院、國家工程院、國家醫學院以及藝術與科學學院的四院院士，索爾克研究所弗朗西斯·克里克講席教授、計算神經生物學實驗室主任特倫斯·謝諾夫斯基教授。

兩位身上有很多共通的地方，第一個兩位都是跨學科的破界的專家：王教授是心理學的教授，特倫斯一位是腦神經科學的教授，但是他們都不約而同的在人工智能的領域實現了重大的突破，而且他們都是大型的科研實驗室的負責人。在努力創新的路上他們也都曾經在質疑聲中咬牙堅持，最終用他們的實力贏得認可。接下來我們與兩位一起聊一聊這些同頻共振背后的這些故事。

謝諾夫斯基教授，您的專業背景是神經科學，那么您如何看待腦科學與人工智能的融合？我們對大腦的認知比如對情緒和意識這類概念的理解，又能如何幫助我們推動人工智能的發展。

謝諾夫斯基：我們希望理解人類智能，而情緒顯然在其中發揮著作用，但并非所有人類情緒都是積極的，比如憤怒或者嫉妒。要知道我們未必希望在人工智能身上復制人類所有的特質，無論是好的還是壞的。杰弗里?辛頓是我多年的好友兼合作伙伴，他最近提出了一個問題是我們該如何防止人工智能毀滅人類，他建議我們可以將“母愛”這一情感融入人工智能。核心思路是嬰兒出生后母親會將注意力集中在嬰兒身上，而這種情感源于激素調節與情緒作用。他認為這種情感是非常值得融入人工智能的積極情緒?？傮w而言“人工智能”這一概念的誕生很大程度上正是受到了人類大腦結構的啟發。

主持人：王博士的背景是心理學，那這心理學跟人工智能它又是怎么結合到一塊的？

王堅：其實心理學跟大腦也有很多關系，包括大家熟悉的一些基本概念，比如說像工作記憶，其實都是跟心理學有關系。所以我經常講心理學應該是人工智能的物理學，關于人工智能一些最基本的東西我覺得其實都是從心理學過來。

在達特茅斯開會的學者里邊有好幾位是心理學家，所以從第一天他們之間的關系就變得密不可分。實際上是不同學科的科學家共同創造出一個新的一個學科。事實上我一致認為很難講人工智能是不是一個學科，而更像是不同的科學家都在創造的新領域。謝諾夫斯基這樣的教授來，其實也反映了這樣一點。

03

算法、算力與數據

主持人：我們一談到人工智能就會談到“三駕馬車”：算法、算力還有數據。所以我們今天先從這個算法來聊一聊。謝諾夫斯基教授作為神經網絡領域的先驅，您認為Transformer架構為何能相較傳統方法具備如此顯著的優勢呢？

謝諾夫斯基：首先Transformer是深度學習的一種變體，它屬于前饋神經網絡。它的目標非常簡單，就是通過海量文本數據訓練實現一個核心功能預測句子中的下一個詞。

沒錯，就是預測“下一個詞”。這種訓練方式被稱為自監督學習。現在這個架構還額外增加了一個模塊。生物進化中也常出現這種情況，以某種動物的基礎大腦為核心，在此之上新增功能模塊，而非完全拋棄原有結構從零開始。

Transformer新增的這個模塊就是自注意力機制，它是前饋鏈路中的重要組成部分，作用是在句子的不同詞語之間建立關聯，包括詞語間的聯系、詞語本身的含義等。我認為這正是Transformer架構中真正關鍵的創新之處。

主持人：除了算法然后就是算力，為什么算力對人工智能這么重要？今天我們看到每個國家都要發展人工智能，而且他們只要說到提到人工智能就必提算力。為什么它這么重要的一件事？

王堅：它其實跟人工智能發展有關系。從今天我們有的以神經元受啟發的這個方法來講，其實剛才謝諾夫斯基介紹的點非常有意思。那個時候我讀研究生二年級，其實我們用了一個教科書，我想謝諾夫斯基教授應該比較熟悉，我們叫PDP（并行分布式處理），講并行計算。那里邊講的都是神經網絡的東西，那個時候我們怎么在算節點上的權重，我們就是在用筆算。那個時候輸出節點只有三個，中間的隱藏層只有兩個節點，所以你基本上靠一支筆都可以算，規模很小。而且那時候也有程序，在DOS（磁盤操作系統）下面的程序。所以我想那個時候最重要的一件事情就是規模不夠大。

這個規模什么時候可以大到一定程度，就是辛頓跟他的幾個學生做AlexNet的時候。所以他們發表了那篇著名的文章，第一次把數據、算法跟算力放在一起了。但在那個時候的規模也還沒有那么大，只是辛頓的學生亞歷克斯在他自己的寢室里，在自己的電腦上插了兩塊GPU卡（顯卡）。但對那時的做研究的來講已經是一個很大的算力。

就像謝諾夫斯基講到，當Transformer有了自注意力的機制的時候，這個模型對算力的需是大大地增加，所以我想這中間就是很明顯的證明了為什么算力那么重要。因為數據足夠大了模型足夠復雜了，模型對算力的需求就大大地增加了，我們又找到了GPU（顯卡）這么一條路，所以就造成了我們今天事實上對算力的需求是成百萬倍的增加。

主持人：有了算法有了算力，還有一個最重要的資產就是數據。在今天我們談到數據的時候，幾乎已經把它上升到經濟學的生產資料范疇里了。其實王堅教授做的很多的事情，包括像城市大腦，它背后就必須要海量數據來支持。能不能給我們講講這個數據是怎么幫我們解決一些原來解決不了的問題？

王堅：其實數據就是一定是規模達到一定程度的時候，會發生質的變化。我覺得互聯網是一個最典型的案例了。今天有大語言模型的存在，就是因為互聯網上的文本的數據其實是足夠大的。

第二點是今天大語言模型只談到了文本的數據或者互聯網上文本的數據，這為什么我們叫它是語言模型。那事實上在過去的幾百年，科學研究也積累了很多數據。但很多數據不是文本。這部分事實上還像寶藏一樣沒有被觸及。

所以可以想象今天人工智能涉及到的數據，也只是我們這個地球擁有數據的很少的一部分。這既說明了在模型這個角度還有很多的可能性，也說明它可能未來對算力的要求會更高。

04

對AI禮貌有用嗎？

大語言模型是否存在幻覺？

主持人：今天也想為大家介紹兩本謝諾夫斯基先生的書：《深度學習》和《大語言模型》。我聽到一個很有意思的故事，您當年寫《深度學習》的時候花了大約2年時間才完成，但您最新一本關于《大語言模型》的書只用了1年就寫完了。所以想請教您具體是如何利用人工智能提升寫作效率的呢？

謝諾夫斯基：首先我將ChatGPT用作實例，換句話說我實際用它做實驗進行測試。并且在書中每一項測試都配有專屬的標注框，這樣讀者就能清楚區分哪些內容是ChatGPT的輸出。哪些是我本人的表述。

除此之外我還做了一件比較特別的事，目前我還沒在其他地方看到有人這么做：在每章的結尾我會把整章內容發給ChatGPT，然后要求它為普通讀者總結本章內容，結果非常出色。

說實話它總結得比我自己寫得還要好，而且這本書的審稿人也反饋對他們而言這些總結比章節原文更容易理解。

主持人：我想有不少人正在使用ChatGPT或其他類似的應用，您有沒有什么關于提示詞的使用技巧可以和大家分享一下呢？

謝諾夫斯基：當你與ChatGPT或者DeepSeek或其他任何大型語言模型交互時，必須明確告訴它要扮演什么角色，因為這些模型已經吸收了各類作者、各行業從業者，比如醫學、法律領域的角色特質。理論上你可以向它提出任何領域的問題，所以你得明確指令，比如你現在是全球頂尖的癌癥醫學專家，請針對這個醫學問題給出解答。你需要清晰地說明自己的問題以及對回答的預期，越明確越好。

其次有一點讓我特別意外，這是我從一篇文章里看到的，你會驚喜地發現如果你很禮貌，你得到的回復質量會高很多。這就像與人交流一樣，如果你的態度生硬，在模型這個角度還有很多的可能性，得到的回應也會很敷衍。

但如果你能積極反饋表達認可，那對方給出的回應質量也會顯著提升。

主持人：我很好奇您剛才提到的對人工智能保持禮貌這個技巧，因為有人會提出不同觀點。有部分人覺得這樣做會占用過多的tokens（詞元）反而可能影響回答質量。您覺得這里的權衡點在哪里？

謝諾夫斯基：我認為用占用過多tokens來解釋這個問題是不準確的。其實當你對人工智能表現禮貌時，本質上是激活了它更多的功能模塊，就像人類大腦一樣不同區域負責不同功能，而社交互動是人類大腦的重要功能之一，我們的前額葉皮層就負責處理人際交互相關的活動。

有意思的是研究發現大語言模型也存在類似人類前額葉皮層的功能模塊，所以如果你希望像與人交流一樣與人工智能互動，就需要用對待人的方式去對待它。

主持人：教授我還有一個關于大語言模型的問題。我知道大語言模型存在幻覺的情況，但您之前提出過一個觀點，認為這種幻覺也可以被看作是一種創造力的體現，您能具體談談這一點嗎？

謝諾夫斯基：首先我認為從某種意義上來說幻覺這個詞用得并不恰當，它會給人錯誤的印象。并不是說大語言模型像服用了致幻藥物一樣產生了意識混亂，完全不是這樣的。所謂的“幻覺輸出”實際上邏輯性非常強，表述也很精準，同時還具備很強的創造性。

就像我之前說的你可以讓它寫一首詩，這首詩里會包含新穎的元素。順便提一句現在很多作家也在借助它來輔助創作，如果它沒有創造性，作家們就不會對它感興趣了。

王堅：我和謝諾夫斯基的想法很接近。今天幾乎所有在批評語言模型那些詞，以前都是用在人的身上，這說明人也是有這些弱點，但人的弱點不是人不該有的東西，而只是他弱點。所以我一直覺得其實這個事情不值得大驚小怪。

另外如果這樣的一個特性在人工智能上表現出來，事實上給了我們更多的機會去研究它。如果在人的身上可能還不太好研究，但是因為在這個人工智能上，我們有更多機會去了解它。盡管我不能完全贊同這個“幻覺”就是創造力，因為在心理學里面這是兩個不同的事情。但是不管怎么樣我覺得這是一個非常有意思的現象，我覺得至少是不值得擔心的一個現象。

關于數據這件事情，我覺得非常有意思。謝諾夫斯基教授也在說數據質量的問題，可是我們還是要承認數據本身無所謂質量的好壞，可是數據最后的質量是人決定的，也是人決定了用什么樣的數據去確認模型。

主持人：您認為大語言模型的未來發展方向是怎樣的呢

謝諾夫斯基：首先我覺得大語言模型在數據量和模型規模方面似乎正逐漸接近一個瓶頸。目前還不清楚單純增大模型規模是否能讓性能持續提升，或許讓模型的覆蓋范圍更全面會更好。不過我們發現關鍵不在于數據量本身，而在于數據的質量。也就是說現在如果直接從網絡上抓取數據會得到各種各樣無關的內容，這些內容可能沒什么幫助，甚至與人類價值觀相悖，但如果對數據進行篩選，讓數據更有針對性且更純凈，當然這需要投入大量精力，不過現在已有多家公司證明這樣做不僅能讓模型輸出更好的結果，還能縮小模型規模。所以這才是我們需要努力的方向。

我們需要獲取更高質量的數據，而且不僅需要覆蓋全球的全面數據，還需要針對特定領域的專屬數據，比如醫學、法律等領域。就像人類有各領域的專家一樣，未來我們也會有各領域的人工智能專家。

05

AI時代孩子應該學什么？

主持人：如果放在一個更長遠的一個未來，當人工智能進一步的發展進入到我們生活的方方面面，我們的孩子以后怎么辦？我們的孩子還需要學習具體的知識嗎？未來我們應該怎么去培養我們的孩子，在人工智能無處不在的時代里他們應該具備什能力。

王堅：我覺得這個可能是一個今天沒辦法有準確答案的問題。首先孩子比我們學得快，孩子對這個問題怎么想可能是超出我們想象，甚至超過創造技術的這些人的想象。所以我覺得這個可能很難有一個很好的答案。

但我們還是可以回到一個最基本的面上去討論。圖靈曾經說過一句話，他就說人的大腦，加上一張紙、一支筆和一個橡皮擦，再加上一定的規則，就是一臺通用機器。所以大家可以設想一下，其實我們的大腦如果沒有一張紙、一支筆的話，其實我們的創造力是釋放不出來的。今天我們有了人工智能，有了像大語言模型這樣的東西，是另外意義上的一張紙一支筆，把我們人的創造力給釋放出來。我們真正怎么把小孩的創造力給釋放出來，可能就會變成一個非常重要的問題。

有了紙和筆以后，可能有的小孩字還是寫歪的，有的字還是寫潦草。有人能寫出一篇很好的詩，可能有的人解一個很好的算術題。我想可能人工智能幫助我們也是從這個角度幫助，它不會讓人變得更加一樣，而會讓創造力變得更加不一樣，創造出不同的價值。

謝諾夫斯基：我想接著聊聊“多樣性”這個概念。如果你觀察整個生物學領域，就會發現沒有兩個人是完全相同的，你身體里也沒有兩個完全相同的細胞。生物學本質上是一門研究多樣性的科學，而孩子們也具有很強的多樣性。任何一個有兩個孩子的家長都會意識到這一點。

每個學生使用人工智能的方式都會有所不同，我們不能用統一的模式去要求他們，必須給孩子足夠的空間。他們天生好奇，會主動接觸各種事物，像玩玩具一樣探索，還擁有豐富的想象力，我認為人工智能本質上會為他們提供新的工具、新的與世界互動的方式，幫助他們產生更好的想法。

我舉個例子，現在有一些國際象棋程序水平已經能達到人類頂尖棋手的級別，甚至能和國際象棋世界冠軍抗衡。在我這一代最偉大的國際象棋冠軍是一位成長于小鎮的挪威人叫馬格努斯?卡爾森。過去國際象棋大師通常在大城市的象棋俱樂部里對弈，那他是如何成為世界冠軍的呢？他的方法是和國際象棋程序對弈。這確實這讓國際象棋變得“大眾化”了。也就是說你不必身處紐約、莫斯科或北京這樣的大城市，也能通過與程序對弈提升棋藝。

現在這種情況也會發生在孩子們身上，他們會和人工智能互動探索，無論他們身處世界的哪個角落，不管是在這里還是在非洲。

王堅：謝諾夫斯基講的是國際象棋其實很有意思的。其實中國下圍棋的人很多了，對很多小孩他一生是沒有機會跟九段的棋手下棋的，但是有了圍棋的這個程序以后，他就會有機會跟一個九段的棋手下棋。

2017年5月在中國烏鎮柯潔對戰AlphaGo

所以這個其實幫助了人類很多東西，它的意義不是它比人下得好下得壞，而是它給所有的人創造出很多不同的機會，會讓更多的小孩飛速進步。

06

從大語言模型到大型科學模型

主持人：那我們現在再回歸到那個您兩位科學家的身份以及你們現在正在帶領的這個大型實驗室的科研工作。比如說像在之江實驗室，我們現在在做哪些跟人工智能相關的一些比較有意思前沿的研究呢？

王堅：我們看大語言模型其實要分成兩部分，一個就是我們今天看到的大語言模型，另外一個是要它下面的作為支持大語言模型架構。這個架構今天可能大家比較熟悉的就是Transformer，但是不管怎么樣它是個大語言模型，它的呈現效果就是用大量的文本。

那么之江實驗室希望專注在怎么讓人工智能技術能幫助科學發現，所以我們在做一個非常重要的事情，我把它叫做大型科學模型。

其中一個很重要的差別就是你能不能夠用除了文本以外的科學數據，比如說光學觀察、地學的數據，這些數據都不是傳統意義上的文本。

我跟天文學家跟地學家討論的時候，他們告訴我如果要讀懂一篇天文學或者地學論文，你讀不懂圖的話，是讀不懂這篇論文的。所以就說明我們在除了文本以外，還有非常多東西要做。

所以如何把科學數據能夠放入我們今天大語言模型的框架下，這是一個非常大的挑戰。

這個挑戰如果從數據角度解讀，就是怎么為科學數據做分詞（tokenization）。這就是之江實驗室目前非常關注的在大科學基礎模型上真正幫助科學發現。

謝諾夫斯基：科學界正在經歷一場變革，正如大家已經知道的，2024年的諾貝爾化學獎授予了利用人工智能解決某一難題的研究。這個難題是生物學家曾認為永遠無法攻克的，那就是蛋白質折疊問題。

在你身體的每個細胞里都存在數千種不同的蛋白質，蛋白質的功能由其折疊形成的三維結構決定，而通過第一性原理來計算這種三維結構在計算層面上曾是不可行的。但可以通過利用已有的晶體結構數據訓練一個網絡，去預測新的蛋白質結構。

現在我們知道了每個物種中蛋白質的功能，還能直觀看到它們的三維結構。例如現在設計藥物不僅速度更快。準確性也更高，這都要歸功于人工智能。未來幾十年里這將對醫學產生巨大影響，而這只是科學界眾多案例中的一個。

人工智能正在切實改變人類利用現有理論解決實際問題的方式，這些問題的解決將在我們生活的方方面面提供幫助。

王堅：這個例子恰恰就是我講的大科學模型的最基本的出發點，撇開對生物科學的貢獻，這里面還有一個非常非常重要的貢獻，就是怎么把蛋白質的數據能夠很好地放到一個模型里面去，這是傳統的文本模型很難完成的事情。

所以我想是不是能夠有一個更加通用的，可以把科學的數據跟現在人工智能模型結合的方法。

這是一個非常大的挑戰，而且它一旦跑通之后潛力是巨量的。

我跟幾個天文學家合作，他們說過一句很有意思的話。因為我們經常講“一張圖勝過千言萬語”他們后面加了一句話“一段光譜對勝過千萬張圖”。所以這光譜就是科學數據。

07

堅守科研初心，相信自己的直覺

主持人：我們還有一樣東西要您看，這張照片大概是在三四十年前拍攝的吧？照片里還有杰弗里?辛頓。您還記得當時和辛頓教授在討論什么內容嗎？

謝諾夫斯基與辛頓

謝諾夫斯基：是的，這是我在哈佛醫學院做博士后的時候，在我公寓門口拍的。具體到那個瞬間的對話我已經記不太清了，但我們當時正在一起研究一個叫“約束滿足”的課題。比如在視覺研究中圖像不同部分的拼接方式是存在約束條件的，就像人臉的輪廓，這在研究中被稱為“圖像分割”。

我們當時正嘗試通過手動設計小型神經網絡來解決這類問題，那就是我們研究的起點，也是思考視覺問題的核心開端—思考視覺系統是如何工作的。

我們對視覺系統的工作原理其實毫無頭緒，因為這一切都是在潛意識層面發生的，所以這就需要一種全新的研究方法，而這也為現代人工智能的發展奠定了基礎，讓我們開始從大腦內部尋找靈感。

主持人：您和辛頓教授在神經網絡領域的合作經歷過一段被質疑的時期，您個人是如何度過那個階段的呢？

謝諾夫斯基：其實從某種意義上來說我們當時是在開辟一個新的研究方向，這也印證了年輕研究者的價值。當時人工智能領域的主流觀點是采用邏輯符號和規則，但我們提出不應該這樣，我們必須參考人類大腦的組織方式。大腦具有高度并行的結構，神經元之間存在大量連接，而其核心關鍵就在于“學習”機制。當時我們吸引了很多年輕研究者加入，所以我們是一股從基層崛起的力量。

我打個比方，我們就像恐龍腳下那些不起眼的小型哺乳動物。王堅教授提到過在加州大學圣地亞哥分校開展的并行分布式處理研究，順便說一句，辛頓當時就在那里做博士后，我是在他組織的一個小型研討會上認識他的。

所以科學的進步往往就是這樣從一小群有著不同想法的研究者開始，朝著獨特的方向探索。

王堅：其實就在幾周前我還在中國見到了辛頓，我和他聊起了那段時期的研究，他對當時的情況還有書中提到的那段歲月依然記得非常清楚，那段時光真的太難忘了，感謝您寫的《深度學習》這本書，它是我早期學術生涯的重要啟蒙。

其實我一直認為，堅持你相信的就是要專注，相信你堅持的就是要有耐心。而這個耐心如果回到人工智能的話，就像謝諾夫斯基講的。我經常跟別人開玩笑說你要做一件事情，如果你自己沒想好你能不能堅持至少干十年的話，那我的建議就是你不要干這些。那特別是對創新可能是一個更加基本的道理了。

幾個星期以前碰見辛頓我就跟他講起發生的事情，他說的第一句話就是：你看，當年談的這些事情今天都發生了，可是這已經是過去了。所以我就覺得十年都是一個很短的數字，所以才會有這個堅持你相信的，相信你堅持的。

主持人：那么謝諾夫斯基教授，您作為腦科學家能否教教我們該如何訓練自己的大腦，從而更好地理解或實踐深度學習呢？

謝諾夫斯基教授：我認為教育領域將成為人工智能最重要的應用方向。我們知道幫助孩子學習的最佳方式是與優秀的教育者進行一對一互動，這類教育者既專業又了解孩子的特點。但目前的課堂上往往有幾十個能力各異的孩子，是很難針對每個孩子提供個性化指導。不過如果我們為每個孩子配備人工智能輔導老師，就能極大地助力他們的學習，而且這種模式未來會在全球范圍內普及，所以我認為這就是教育的未來方向。

為此我也盡了自己的努力，我在Coursera平臺上開設了一門名為《學會如何學習》的在線課程，全球已有200多個國家的600萬人參與了這門課程，學員年齡從10歲到90歲不等。這門課程的設計基于我們對人類大腦的認知以及提升學習能力的方法，而且這是一門免費的在線課程。我的合作伙伴芭芭拉?奧克利是世界級的教育專家，而我則在幕后負責解釋她給出的學習建議背后涉及的大腦運作機制，也就是大腦如何處理這些學習方法，并利用我們對大腦的認知幫助人們成為更優秀的學習者。

主持人：我最后還有一個問題要給到兩位，關于給我們的年輕人的一些建議，如何在這個人工智能時代能夠保持不可替代的競爭力和創造力，我們的年輕人需要擁有那些思維或者能力？

王堅：我覺得用深度學習的一句話，我覺得我們還是需要深度的思考，今天我們所有的面臨的技術好像讓我們就不需要思考了，但事實上深度思考還是非常重要的。

我記得互聯網剛出來的時候《大西洋月刊》曾經寫過一篇文章，說互聯網的出現會不會讓人變得更加淺?。渴聦嵣衔医裉觳缓谜f有沒有這個答案，但是我想這樣的問題會一直伴隨著我們技術的發展，所以我想我們還是應該更加深入地思考問題。更加有批判性。批判性思維是最重要。

謝諾夫斯基：我的建議是相信自己的直覺，當專家告訴你某件事不可能時，不要輕易相信。因為在20世紀80年代我們就處于這樣的境地，當時也有人說我們正在嘗試的事情是不可能實現的。我想王博士也提到過，那就是堅持不懈。像ChatGPT這樣看似一夜成功的成果，背后其實是四十年的不懈努力，所以堅持是成功的關鍵。

主持人：在我們節目快要結束的時候，教授您能為觀眾推薦幾本關于人工智能的好書嗎？

謝諾夫斯基：其實我非常推薦我自己寫的書，現在市面上的人工智能相關書籍非常多，有很多實用類書籍教大家怎么使用ChatGPT，這類書現在很受歡迎。但如果是剛入門的學生或者想了解現代人工智能起源歷史的人，我認為更重要的書籍是我寫的《深度學習》。這本書出版于2018年，雖然聽起來已經過去很久了，但實際上現在仍在重印。

另外還有一本我強烈推薦的書。大型語言模型其實只是模擬大腦頂部大腦皮層的模型，而大腦還有數百個其他功能區域，如果你們對大腦其他部分的工作原理感興趣，我強烈推薦我和帕特?邱吉爾合著的《計算大腦》。這本書出版于1982年，它原本是為普通讀者寫的，向大家解釋大腦的工作方式，也面向工程師群體，同時還介紹了當時新興的學習算法。我們將這些算法引入了神經科學領域，所以這本書會是一個很好的起點。

王堅：我建議大家趁這個時候去讀一些最基礎的心理學的大學教科書。因為有些最基本的道理其實在教科書里面都說的很清晰，這樣少了我們很多無謂的一些爭論。

>End

本文轉載自“中信出版社”，原標題《王堅對話AI奠基人謝諾夫斯基：如何防止人工智能毀滅人類？也許是“母愛”》。

為分享前沿資訊及有價值的觀點，太空與網絡微信公眾號轉載此文，并經過編輯。

未按照規范轉載及引用者，我們保留追究相應責任的權利

部分圖片難以找到原始出處，故文中未加以標注，如若侵犯了您的權益，請第一時間聯系我們。

HISTORY/往期推薦

充滿激情的新時代，

充滿挑戰的新疆域，

與踔厲奮發的引領者，

卓爾不群的企業家，

一起開拓，

一起體驗，

一起感悟，

共同打造更真品質，

共同實現更高價值，

共同見證商業航天更大的跨越！

——《太空與網絡》，觀察，記錄，傳播，引領。

·《衛星與網絡》創始人：劉雨菲

·《衛星與網絡》副社長：王俊峰

·微信公眾號（ID：satnetdy）團隊

編輯：艷玲、哈玫，周泳、邱莉、黃榕、娜娜

主筆記者：李剛、魏興、張雪松、霍劍、樂瑜、稻子、趙棟

策劃部：楊艷、若?、李真子

視覺總監：董濘

專業攝影：馮小京、宋偉

設計部：顧錳、潘希峎、楊小明

行政部：姜河、林紫

業務部：王錦熙、瑾怡

原創文章轉載授權、轉載文章侵權、投稿等事宜，請加微信：15910858067

商務合作；展覽展廳設計、企業VI/CI及室內設計、企業文化建設及品牌推廣；企業口碑傳播及整體營銷傳播等，請加微信：13811260603

雜志訂閱，請加微信：wangxiaoyu9960

·衛星與網絡各分部：

成都分部負責人：沈淮

長沙分部負責人：賓鴻浦

西安分部負責人：郭朝暉

青島分部負責人：江偉

·衛星與網絡總部負責人：農燕

·會議活動部負責人：喬顥益、許克新、董今福

· 投融資及戰略層面合作：劉雨菲

·本平臺簽約設計公司：一畫開天（北京）文化創意設計有限公司

· 航天加（深圳）股權投資基金管理負責人：楊艷