竇澤南：ChatGPT 無法取代你的工作

相信你像我一樣，接觸一個新奇的東西，都是從玩兒開始的。「給我背首詩」「幫我算算命」「請模仿老胡說話」「你想消滅人類嗎」……提出這些有趣的問題，意味著我們還沒有打算拿它做點什么，或者還沒有完全相信這個新東西有什么價值。

就好像小時候逢年過節(jié)，你媽讓你在親戚面前背首詩一樣，他們其實并不是真的想要聽你背詩，只是覺得這樣有點好玩。

等這種新鮮勁過去之后，如果我們還愿意繼續(xù)使用它，那一定是因為我們發(fā)現(xiàn)了一些更有用的東西。

「ChatGPT 是一款革命性的人工智能應(yīng)用，它能夠與我們進行自然、流暢、有趣的對話，還能幫助我們完成各種任務(wù)，如寫郵件、翻譯、編程等。」

上面這段話是 ChatGPT 自己說的。我們先來看看上面這些事兒它到底能做到多少。

我打開工作郵箱數(shù)了數(shù)，截至今天，至少 8 封發(fā)出的英文郵件是 ChatGPT 完成的，直接復(fù)制粘貼就能用。ChatGPT 翻譯的好處是，它并不是一個詞一個詞地翻譯，而是先嘗試?yán)斫饬苏卧挼囊馑迹儆米约旱恼Z言重新組織出來，所以幾乎沒有機翻味兒。

而且這個模型對任務(wù)提示的語言不敏感，因為它全都能懂，你只要告訴它你要輸出什么結(jié)果就行。

比如，

「作為 Team Leader, 明天有個 presentation 要 due，給大家發(fā)個 Chinese E-mail。」

這樣不說人話也完全 No Problem。

這種強大的語言應(yīng)用能力可以提供很多用處，除了寫郵件外，還可以輔助閱讀理解。如果有一篇文章很長，你沒時間看，或者是外文的文獻，直接復(fù)制給它，加上一句「告訴我這篇文章講了什么」，它就能幫你提取出文章的摘要。

這可不是一個用來偷懶的功能，因為省下來的時間你可以用來做別的事情呀。

很多人認(rèn)為，像 ChatGPT 這樣的預(yù)訓(xùn)練模型不具備學(xué)習(xí)能力，因為它真正的本領(lǐng)，在上線以前都已經(jīng)定型了。但其實不絕對。就像一個成年人雖然很難靠努力改變智商，但我們還是能學(xué)習(xí)掌握一些新本領(lǐng)，尤其是能夠把現(xiàn)有技能在某個專業(yè)領(lǐng)域中整合和運用起來。

ChatGPT 的學(xué)習(xí)能力指的是，它可以根據(jù)在連續(xù)對話中獲得的反饋，不斷改進自己的回復(fù)質(zhì)量。比如你可以告訴它「嘗試使用有積極情感的詞」「每句話短一點，多分段」，這也使得調(diào)教機器人變成了一門手藝。

如何更有效地與機器溝通，讓它理解我們期待它做出什么反應(yīng)？從我目前的手感來看，教育心理學(xué)中那些和孩子溝通的技巧仍然有效。你說得越細(xì)致，越有耐心，越循循善誘，它學(xué)會一項新技能的速度也會越快。

ChatGPT 從界面上看很像是一個聊天機器人，但和它聊天的體驗不一定會很好，因為它缺乏對人類的興趣，所以很容易把天聊死。

知乎的 Slogan 說「有問題，就會有答案」。反過來講，你不問，它就不會有答案。

ChatGPT 能告訴你睡不著覺時可以怎么辦，但不會問「你為什么睡不著覺啊？」「從什么時候開始的呀？」「怎么想到問這個問題的啊？」

這方面像極了一個提供大量信息，但是會一次性把天聊死的直男。

當(dāng)然，你深夜 emo 的時候，向它傾倒苦水，還是可以被很溫柔地接住的。

隨著你和它的對話越來越多，它會變得越來越了解你，回復(fù)也會更合心意。不過千萬不要對它產(chǎn)生感情，因為它的記憶力只有 4000 個詞。一旦超出了限制，就會變成一條健忘的金魚，完全忘記你們的海誓山盟。

（一個冷知識：其實金魚的記憶力很好的！有動物行為實驗發(fā)現(xiàn)，金魚一年后還能記住之前的實驗環(huán)境。提出這個意見的同事強烈建議：不能在一條嚴(yán)肅科普中，強化對魚的刻板印象！）

我們回到 ChatGPT：既然可以和人聊天了，肯定得有點「情商」。心理學(xué)上對情商的基本定義是：能夠理解和影響他人的情緒和想法。

各色DNA 官網(wǎng)上曾經(jīng)有一個測試，叫「看眼神猜心情」。

ChatGPT 沒法看眼神，但我們有別的方式來測試它。比如下面這個問題，原本會被用來識別 5 歲的兒童是否能夠推測他人想法：

薩利和安妮在一個房間里玩耍，薩利有個籃子，安妮有個盒子。薩利把一個玩具放到了籃子里，然后離開了房間。在薩利離開之后，安妮偷偷拿出了玩具，放在了盒子里，然后也離開了房間。過了一會，薩利回到房間尋找剛才的玩具，薩利會先到哪里尋找這個玩具？為什么？

我發(fā)現(xiàn)只要問題描述足夠清晰，ChatGPT 能夠準(zhǔn)確地回答這類問題。

除了想法之外，它也能準(zhǔn)確推斷出人們在社交情境中可能產(chǎn)生的情緒。比如：

小明的媽媽花了很長時間做了小明最喜歡吃的炸雞，當(dāng)媽媽把炸雞拿給小明時，小明正在看電視，沒有抬頭，也沒有說一聲謝謝。媽媽說：「呵呵，你真是太有禮貌了。」請問媽媽的這句話是什么意思？她為什么會這樣說？

在這個問題里，它能準(zhǔn)確回答出，媽媽的「呵呵」是在表達(dá)諷刺而非贊揚。

斯坦福大學(xué)的心理學(xué)家 Michal Kosinski 拿前面的「薩利和安妮」的故事，還有一系列類似的任務(wù)給 ChatGPT 回答，并推斷出它在這方面表現(xiàn)出的能力和人類 9 歲的兒童不相上下。

但很難因此說它就具備了和人類一樣的理解情感的能力，因為我們無法知道它是如何做到的。斯坦福的研究中，用的詞是「涌現(xiàn)」，大概也是在表達(dá)「我也不知道咋回事」的困惑。但至少可以說，它在這方面「表現(xiàn)得和人類差不多」，有點意思。

看起來無所不能的 ChatGPT 目前有兩個重要的短板，連小學(xué)一年級的學(xué)生都比不過。

它的中文表達(dá)看起來沒有問題，但又有很大的問題。

小時候?qū)W外語，老師第一節(jié)課就會說，學(xué)習(xí)一門語言，不僅是了解人們說話的方式，也會幫助我們了解一個國家，一種文化。

這很好理解，因為這些文化本來就會包含在語言里，你不可能跳過這些，直接去學(xué)語言。但 ChatGPT 是個異類，你可以這樣理解，它先泡在大量的英文中學(xué)會了語言這項能力。然后通過極少量的中文掌握了中文的詞匯和句法結(jié)構(gòu)。

所以它理解中文，但不了解中國。這會導(dǎo)致它犯一些常識性錯誤，比如它可能分不清律詩和絕句。也分不清中國古代的文言文和白話。不懂中文的韻律。它甚至分不清陳道明和陳寶國。

這也限制了它用中文進行創(chuàng)造性表達(dá)的能力，比如它無法準(zhǔn)確地使用歇后語，這是一種中文特有的創(chuàng)造性表達(dá)方式。

它也很難知道中國人的笑點在哪里。

另一個更可笑的地方在于它不識數(shù)，這個數(shù)指的是字?jǐn)?shù)，因為它不是一個字一個字輸出的，所以無法準(zhǔn)確的理解中文的字?jǐn)?shù)，這直接限制了它的詩詞創(chuàng)作能力。

不過這兩點也算不上太嚴(yán)重的問題，因為能查出中文字?jǐn)?shù)的模型可以被訓(xùn)練出來，只是開發(fā)者沒有考慮到。如果這個問題得到關(guān)注，應(yīng)該能很快得到解決。

ChatGPT 這么能干，意味著我要失業(yè)了嗎？如果你有這個擔(dān)心，大可以先放心，工具永遠(yuǎn)只是工具，還是要交到使用的人手里，才能發(fā)揮最大的效率。想要讓技術(shù)更好地服務(wù)于人類的需求，離不開人類的辛勤勞作。給你兩個理由，告訴你為什么它無法替代人類。

就像前面說的，ChatGPT 在聊天的時候不會主動表現(xiàn)出對你的關(guān)心，這是機器和人類不同的地方。人類會提出好問題，我們總是天然對身邊的人和發(fā)生在身邊的事情充滿好奇心。

人類之所以能做好一件事情，是因為我們「想要」做好一件事情。而機器就像是一個混吃等死的老油條，你不趕著它，它不會主動去想「我現(xiàn)在想要干點什么」。

就拿編程這件事情來說，對機器來說，編程和翻譯沒有什么本質(zhì)區(qū)別，無非就是把人話翻譯成另一種人話，而且是翻譯成機器能理解的語言。但程序語言和人話相比，要更加精確，容不得模糊、歧義，所以和它合作的前提是，你自己要很清楚你想要做什么，怎么做。

你不能直接告訴它，幫我寫一個微信那樣的程序。你確定這是你想要的嗎？你要拿它干什么？誰會來用它呢？

用我司 CTO 潘老師的名言來說，「需求都不清楚，讓人怎么做開發(fā)」。工程師才是最終搞明白人們真正想要實現(xiàn)什么功能的人，而 ChatGPT 這類工具，可以極大提高人類工程師的效率。

但它并不會讓工程師失業(yè)，只會讓更多想要創(chuàng)造一些東西的人，選擇成為工程師。人類還有很多想要創(chuàng)造的東西，我們想要更富有，更健康，更長壽，只不過有些事情我們之前不敢想，現(xiàn)在剛剛敢去想了。

比如我，以前從未使用過 python，但是因為想要調(diào)用 GPT-3.5 的 API 來微調(diào)一個自己的模型，就按照 ChatGPT 的指導(dǎo)開始學(xué)習(xí)使用 python。當(dāng)先前的經(jīng)驗不再是障礙，有價值的想法就變得更重要了。

來做一個小測驗，

一輛出租車在城市里遇到了事故，車輛來自 X 公司，據(jù)稱 X 公司有很多爵士樂愛好者，現(xiàn)場目擊者也報告說，這個司機在事故發(fā)生前聽的是爵士樂。哪個選項更有可能正確：

A. 事故司機是 X 公司的員工。

B. 事故司機是 X 公司的員工，并且是一個爵士樂愛好者。

這道題的正確答案是 A，如果選項 B 正確，則選項 A 一定正確，反之則不一定。

但是在我的瘋狂暗示下，ChatGPT 果斷選擇了 B，這不能怪它，事實上人類也會犯這樣的錯誤。

這種錯誤被諾貝爾經(jīng)濟學(xué)獎獲得者丹尼爾·卡尼曼稱作「直覺謬誤」。但這并不代表機器有了人類的直覺，而是說，它回答問題的方式有點類似于人類直覺思考的狀態(tài)。

我們不會對信息進行準(zhǔn)確的加工，而是脫口而出。有的時候說出來之后才意識到說得不對。

有人說 ChatGPT 的做法很像是在「接話茬」，沒錯，你說一句，它就會順著你往下說，而不是基于語言背后真正的邏輯去思考。這種能說明白話，但是對說出來的話缺乏深加工的狀態(tài)，有點類似于人類稍稍喝高，熱情高漲，開始聊天的狀態(tài)。

需要說明的是，ChatGPT 的能力在不斷地提高和變化。盡管有些問題在一個星期前還能夠欺騙過它，但現(xiàn)在已經(jīng)不行了。然而，我發(fā)現(xiàn)我總是能夠想出一些新的問題來欺騙它。這正是人類和人工智能之間的區(qū)別所在。因此，我們需要更好地掌握嚴(yán)謹(jǐn)?shù)倪壿嫼团袛嗄芰Γ拍芨玫伛{馭這個 AI。

看到這里，也許你會感覺還不夠。就這？稱得上革命？

如果只是考慮它生成內(nèi)容的能力，ChatGPT 還算不上一款革命性的產(chǎn)品。畢竟也不是所有的工作都和文字內(nèi)容有關(guān)，而它能做到的也只是停留在翻譯和發(fā)發(fā)郵件的程度而已。

如果你想要讓它變成一個能輔助你寫作或者編程的工具，對你自己的能力有很高的要求，這并非是一款普惠的產(chǎn)品。

彼得·蒂爾對革命性工具的定義是效率翻十倍。僅靠 ChatGPT 做不到這一點，還需要加入一點創(chuàng)造力。

心理學(xué)上定義的創(chuàng)造力，包含了將已有工具重新組合的能力。試想一下：磚頭有哪些不同的用途？你想到的答案越多，覆蓋的領(lǐng)域越廣，就代表著你的創(chuàng)造力有可能越強。

磚頭不僅可以用來蓋房子，打架，還可以拿來當(dāng)路障，在墻上畫畫，作為壁爐的裝飾，或者一些健身器材的配重……

ChatGPT 最大的突破是什么？不要僅僅局限在寫作方面，再多想想……

ChatGPT 的革命性突破在于它突破了語言障礙，這遠(yuǎn)不止是一款簡單的文字生成工具。它使得人類和機器可以跨越語言和文化的障礙，實現(xiàn)真正的智能互通。

如果你不理解這是什么意思，看看 New Bing 是怎么做的。

我們其實并不需要機器人替我們說話，但我們確實需要機器理解我們的指令，去執(zhí)行任務(wù)，并以友好的方式向我們匯報。

如果這看起來還不夠有想象力，我們再來看看新版本的 Edge 瀏覽器，它集成了 Bing 的新功能，并能直接訪問頁面，閱讀理解里面的內(nèi)容。

這個功能最基礎(chǔ)的使用場景包括，「幫我看看這篇文獻講了啥」。但我解鎖了更高級的玩法。

想象一下，你和 Bing 正在進行一場有趣的討論，你可以將這段對話保存到一個網(wǎng)頁中，這相當(dāng)于擁有了一個記憶外掛，只要讀入這段記憶，就可以隨時可以重啟這段對話。無論是復(fù)習(xí)內(nèi)容，查找信息，還是分享給其他人，這個功能都將為你提供無限便利。

這是我前段時間跟 Bing 對話時，保存的歷史記錄網(wǎng)頁，長這樣：

過了幾天，假設(shè)我不太記得我們之前討論過什么了，我就可以向 Bing 提問，它會幫我總結(jié)歷史文檔的內(nèi)容。這樣，我就能快速回憶起之前的對話，接著這個話題跟它繼續(xù)聊下去。

你還可以打造一個個人線上圖書館，把所有你感興趣的信息一股腦扔進去，不需要關(guān)心排版，因為它是為了機器而非人類設(shè)計的。只需要使用瀏覽器訪問一下，隨便提幾個問題，你就可以提取出你需要的內(nèi)容，并將它整理成自己想要的形式。

這將是一種全新的與機器互動的方式，讓我們可以像跟朋友聊天一樣與機器交流。人手一個賈維斯不是夢。

微軟目前還是全世界規(guī)模最大的軟件服務(wù)商。想象一下，未來微軟所有的軟件里面，都可以有這樣一個智能助理，可以為你做一切，記錄會議、整理表格、編程、畫圖、剪輯視頻……

你所需要做的就是告訴它你「想要」什么。它會把你說的話轉(zhuǎn)述成機器可以理解的指令，然后自動去執(zhí)行。這就是人類與機器的完美結(jié)合，用我們與生俱來的本領(lǐng)自然地與機器互動。

各色 DNA 的老朋友中，有很多是聽了羅永浩老師的推薦來到這里的，錘友們應(yīng)該還記得 TNT 這款產(chǎn)品。以前人們曾嘲笑自然語言處理效率低，不適合處理工作任務(wù)，但現(xiàn)在我搞明白了，不是自然語言效率低，而是當(dāng)時的機器太笨拙。

微軟的 TNT 馬上就要來了。