從笛卡爾的角度看GPT的極限

最近ChatGPT越來越火，很多人都擔心說ChatGPT會不會把人給替代了。實際上在我看來，ChatGPT根本不會替代人，而是會替代很多工作。替代人和替代工作，是完全不同的兩回事。替代人是說人本身就沒用了，而替代工作是說某些工作不需要人了。一旦替代工作，意味著對人的需求就變了。

下面來說說我為什么會有這樣兩個判斷。

01
ChatGPT跟人比，差在哪兒？

ChatGPT跟提問人之間這種往復交談的過程，看上去似乎真的就是一個有思維的人，但嚴格說來，ChatGPT并不是對它所說的那些東西有了理解。它仍然是一種概率算法，只不過是它的算法、參數等等極為強大，其呈現結果看上去讓你感覺像是在跟人聊天。雖然現在時不時地也會看到它說的有些話是莫名其妙的，但隨著訓練越來越多，這種莫名其妙的事情就會越來越少了。

它都這么強大了，為什么我仍然說它沒有對它所說的話的理解呢？一說到理解，其實首先得追問一個事兒，就是到底是誰在理解？如果沒有一個主體去理解的話，那理解這事兒根本就不存在。

咱們可以用一個例子來解釋一下。

很多人都聽說過笛卡爾的一句名言，“我思故我在”（I think, therefore I am），但是可能很多人沒有注意到，他這句名言里面的兩個“我”實際上是不同位階上的。

笛卡爾之所以說這句話，在于他看到，有很多哲學家在嘗試對于世界到底什么樣、宇宙到底什么樣給出一種整體性的解釋，但是這些解釋很多是彼此矛盾的，不可能都對。笛卡爾說那算了，任何一種解釋，只要里面有一點可質疑的，我就把它暫時懸置起來，先擱一邊，然后繼續去尋找下一種解釋，在下一種里面又有一點可質疑的，就再次把它給懸置起來，那么這么往前去質疑，到最后，笛卡爾發現有一個正在質疑的“我”的存在是不容置疑的。

那問題來了，是誰發現了有一個正在質疑的我的存在？實際上是一個更底層的我觀察到了一個次底層的我正在進行觀察和質疑。更底層的那個我如果開始被觀察，一定是有一個更更底層的我在對它進行觀察，之前的那個“更底層的我”又變成了一個次底層的我，你會發現永遠得有一個最底層的去觀察而不被觀察的我去質疑、去理解，那個是自我的基礎。

可是因為它是去觀察而不被觀察的，就意味著你不知道該用什么樣的算法來模擬它，原因在于，你要用任何算法去模擬一個“自我”，首先那個自我得被觀察，可是是誰在觀察？是一個不被觀察的自我在觀察。也就是說，你想要去模擬的那個對象是一個永遠無法被觀察到的對象，只要你一去觀察它，它就不再是你想要模擬的那個對象了。

所以在這種情況下，要把最底層的主體給模擬出來，你根本都不知道這個算法該怎么寫，哪怕是比GPT再高級一層的AI也還是做不到。你要去模擬的那個最底層的自我，它作為一切理解、一切精神動力的出發點，是無法被觀察的。所以GPT實際上是無法出現自我意識的，沒有自我意識，也就替代不了人。

自我意識帶來了你所有的精神動力，帶來了你所有的行為動力，相當程度上，自我意識是一種非理性的能力，是一種非理性的沖動，它確立了一個根本的目標。而理性在這兒是干嘛用的？理性是用來給這個目標尋找到一個最有效率的方案的。

“非理性來確定目標”，仔細追溯一下會發現，這并不像初聽上去那么離奇。比如說我為了考100分要好好學習，在這里，好好學習不是一個根本目標，甚至考100分也不是根本目標，考100分是為了達到別的目的。根本目標是來自于一種意義感的驅使，而意義感這東西很神奇，它根本不是用理性能解釋的，但凡能用理性解釋的東西，實際上它的意義感都是很容易枯竭掉的。

真正最底層的意義感來自于非理性，而非理性的意義感的來源，就是那個最底層的“去觀察而不被觀察”的自我。GPT是無法擁有這樣一個自我的，它也就無法去設定目標，從而它所有強大的這種推理能力、計算能力，都是用來為擁有意義感的人所設定的目標服務的。

02
GPT時代，真正重要的能力是什么？

過去，達到這個目標所需要做的很多工作都是由人來做的，今天你都可以甩給GPT了，于是很多工作會被替代，但是人本身無法被替代。

實際上工業革命以來，很多工作都已經被替代了，有了機器，很多體力活就用不著人來干了。那么在今天，有了GPT，很多腦力活也不用人來干了，因為有很多腦力活，它實際上是偽裝成腦力活的體力活，不過是一些機械的重復性勞動，都可以甩給GPT了。

于是大量工作就有可能消失了，準確來說，是這些工作崗位消失了，但這不意味著一般意義上的普遍失業，僅僅是原來干那些活的人暫時失業了。歷史上，每當出現一個新技術的時候，很多人都會驚呼可能會讓很多人失業，但是每一次這種技術迭代出現，都一定會創造出更多的人們此前從來沒有想到過的新崗位出來。所以在這個意義上并不要太擔心，需要追問的是，這些新崗位需要的能力特征是什么？

GPT本身具有那么強大的推理和計算能力，然后又有那么龐大的數據庫供它搜索，意味著它在回答問題這個層面非常厲害，人現在肯定是比不過它了。但這是回答問題的層面，關鍵是誰來問問題呢？

問問題的人還得是這個“我”，只有這個自我才知道去問什么問題。但并不是你有了自我，就能問出好問題，有可能你問出的是很糟糕的問題。在未來真正重要的能力，是怎么才能問出好問題，從而把GPT的能力給真正釋放出來。

好問題的提出首先取決于你對社會、對世界有足夠深刻、敏銳的觀察和感受，而你又如何能夠獲得這樣的觀察力和感受力呢？前提是你得擁有一個足夠健全的人格，否則你眼中的世界會是非常狹隘的，也就不可能問出一個好問題。如果你變成這樣一個人，你肯定會被GPT所替代，但這是“你”被替代，而不是“人”被替代。

GPT的出現會改變很多領域，尤其是它會改變教育領域。這意味著對于未來的世界、未來的社會，現行的教育機制也必須得有深刻的改革。

當下甭管是教學方案設計還是考核機制，其中很多都有那種偽裝成腦力活的體力活，那些東西你即便把它全都練熟了，也仍然跟培養完整人格，從而獲得對于社會、對于世界比較深刻比較完好的感受力沒有多大關系。

我曾很多次聊到過，任何單一學科都是一種工具性的存在（）。如果一個人完全沉浸在單一學科里面，視野會變得狹隘，因為學科的邊界決定了你的視野，此時你完整的人格有可能受損。

在GPT出現之前，你對于世界的感知力以及人格的完整性就算還不那么到位，也未必是一個太大的問題，但是隨著GPT出現，尤其是GPT不斷地迭代，在社會當中的應用越來越廣泛，那樣一種學科教育所培養出來的人實際上是會被GPT所淘汰的。

未來我們需要一種全新的教育，它會是對于古典教育的某種回歸，它會有一個通識教育的外觀特征，但是這必須得是一種能夠適應GPT時代的通識教育。

《樞紐：3000年的中國》全新增訂

親筆簽名版限時5.4折優惠 點擊下圖前往購買