世界至今仍未理解ChatGPT

? Matteo Giuseppe Pani

利維坦按：

我的筆記本上常年開著三個生成式AI，其中兩個作為輔助應(yīng)用，主要用的還是ChatGPT。文中所言“有用但并非魔法”的描述可謂十分貼切了：一方面，很多人已經(jīng)無法離開生成式AI，用它咨詢和處理各種瑣碎的事務(wù)，另一方面，又要必須忍受它的各種煞有介事、信手拈來的謊言與錯誤（就在前幾天，ChatGPT給我提供了一份看似完全可行的政策指導(dǎo)，好在我進一步查看了相關(guān)官網(wǎng)的細則，才戳穿了它的謊言）。

不管怎么說，ChatGPT誕生的這三年，已經(jīng)重塑了我們與世界的關(guān)系——“重塑”是一個相對客觀的描述，但這其實也意味著，越來越多的人在享受它的實用性的同時，也在逐漸放棄創(chuàng)造和思考的能力。至少，我們已經(jīng)在讓渡出本來屬于人腦的部分功能與權(quán)利。

三年前的11月30日，OpenAI發(fā)布了它內(nèi)部稱之為“低調(diào)的研究預(yù)覽”的東西。這個預(yù)覽版是如此低調(diào)，以至于在OpenAI內(nèi)部，員工們被指示不要將其定位為一次產(chǎn)品發(fā)布。一些OpenAI員工擔心公司正在倉促推出一個尚未完成的產(chǎn)品，但CEO薩姆·奧爾特曼（Sam Altman）仍然推進，希望能在競爭對手之前進入市場，并看看普通人會如何使用公司的AI。他們將這款產(chǎn)品命名為ChatGPT。

而人們確實很喜歡使用它——上線頭五天就超過100萬用戶。ChatGPT的增長速度超過了歷史上任何其他消費類應(yīng)用。如今，它的周活躍用戶已經(jīng)達到8億。數(shù)字固然重要，但不可否認的是，ChatGPT的成功已經(jīng)迅速重塑了我們社會和經(jīng)濟的部分面貌。現(xiàn)在，我們生活在一個由ChatGPT幫助塑造的世界里。

? Rodrigo Reyes Marin/ZUMA Press Wire/Eyevine

OpenAI的產(chǎn)品使“預(yù)言式聊天機器人”成為世界與大型語言模型互動的主要方式。其他公司也紛紛推出了各自版本的產(chǎn)品，比如Google Bard（現(xiàn)已更名為Gemini）以及微軟的Bing聊天機器人，后者很快就失控了，它甚至要求《紐約時報》的一位記者離開其配偶，與機器人共度余生[1]。ChatGPT向數(shù)百萬人介紹了一種工具，盡管它容易提供錯誤信息，但它模擬對話的能力足以讓人們將其用作無數(shù)任務(wù)的界面，例如查找信息。其他人則用它來自動化創(chuàng)作行為本身。這個機器人被證明對于作業(yè)作弊、撰寫無聊的工作郵件、研究和編程都非常方便。如今，一些人幾乎無法在沒有它的情況下做任何事情。

ChatGPT不斷迭代，其競爭對手也一樣，所有新的版本在嚴格的基準測試中表現(xiàn)都更出色。公司將聊天機器人嵌入客服平臺，而社交媒體上的投機者用它們來生成機器人軍團。亞馬遜上充斥著大量垃圾信息、合成的書籍。由機器人撰寫的文章堵塞了Google，使該網(wǎng)站變得越來越不實用。本已舉步維艱的大學(xué)面臨適應(yīng)新現(xiàn)實的挑戰(zhàn)：他們的課程現(xiàn)在可以被學(xué)生輕易鉆空子。各類藝術(shù)家紛紛抗議，因為基于人類創(chuàng)作成果訓(xùn)練的大型語言模型威脅到他們的工作，甚至可能使他們的工作變得無關(guān)緊要和過時，或者干脆徹底貶低創(chuàng)作的價值。許多媒體公司選擇與數(shù)據(jù)抓取者達成協(xié)議；也有一些提起訴訟。隨著聊天機器人變得越來越有用，一些企業(yè)不得不裁員。

一種新興文化在舊金山灣區(qū)迅速發(fā)展——黑客之家和宣言層出不窮?！澳憧梢栽谂f金山首先看到未來，”這是AI研究員利奧波德·阿申布倫納（Leopold Aschenbrenner）所表達的總體觀點。更多人開始使用諸如P(doom) （指的是人工智能導(dǎo)致生存災(zāi)難性后果的概率。編者注）situational awareness（情境感知）這樣的詞語[2]。有更多關(guān)于技術(shù)時間線的宣言；“超級智能”和“通用人工智能”成了那些擁有聽起來很嚴肅頭銜的富人能夠在公開場合不帶笑意說出口的詞語。

模型越來越先進，隨之而來的意外后果也日益加劇。人們像面對治療師那樣向聊天機器人傾訴心事。盡管無法保證絕對的隱私，他們還是向聊天機器人吐露了自己最黑暗的欲望[3]。他們表達喜悅、悲傷，甚至自殺的念頭；在一次備受矚目的事件中，據(jù)報道[4]，ChatGPT甚至主動提供幫助，建議用合適的材料制作絞索（OpenAI否認對此事件負有責(zé)任）。人們愛上了這些工具，并給它們起了名字。有些人則從對話中看到了某些東西——某種發(fā)現(xiàn)，或是某種陰謀即將浮出水面。有些人從此與日常生活脫節(jié)。有些人得到了幫助；有些人則沒有。

? Yahoo! Tech

ChatGPT只是眾多用于與大型語言模型交互的工具之一，但它的迅速成功點燃了人們的熱情，吸引了更多投資，并催生了其他人工智能界面的推出：文本轉(zhuǎn)語音合成器、圖像、視頻和音樂生成器、網(wǎng)絡(luò)瀏覽器等等。這些模型不斷改進，幫助構(gòu)建網(wǎng)站和其他模型，并讓人們能夠?qū)⒃絹碓蕉嗟臎Q策外包出去。生成式AI工具被用來寫個性化的睡前故事，以及數(shù)字方式“再現(xiàn)”在大規(guī)模槍擊案中遇害的兒童。人們用它們生成完整的歌曲；至少有一首甚至還登上了Billboard排行榜。低質(zhì)量的合成渲染圖成為了政治宣傳和點擊農(nóng)場煽動情緒的主力（點擊農(nóng)場是點擊欺詐的一種形式，是指雇傭大量低薪工人為點擊欺詐者[點擊農(nóng)場主人或點擊農(nóng)場主]點擊付費廣告鏈接。編者注）。人們給這種現(xiàn)象起了一個名字：垃圾（Slop）。

這些工具并沒有魔法，也并非人類意義上的“智能”。但對許多人來說，他們第一次接觸ChatGPT時，就感受到了這項變革性技術(shù)的諸多特質(zhì)。這款聊天機器人既直觀又不可思議——仿佛是未來的一部分被帶到了當下。如果說在大型語言模型出現(xiàn)之前的那些令人失望的科技炒作周期——加密貨幣的興衰、Web3和元宇宙——像是在尋找問題的解決方案，那么生成式AI似乎提供了無限的應(yīng)用場景。它的支持者們并沒有苦苦尋找應(yīng)用案例，而是宣稱它將徹底改變世界。從某種意義上說，它確實做到了。否則，又該如何解釋OpenAI與美泰公司合作，將ChatGPT嵌入芭比娃娃，以及教皇警告學(xué)生“人工智能永遠無法取代你們對世界的獨特貢獻”的種種現(xiàn)象呢？

這些模型是不可知的——具有人格化特征的黑箱，但歸根結(jié)底，它們只是一系列基于海量訓(xùn)練數(shù)據(jù)的復(fù)雜計算和統(tǒng)計推斷；而這些數(shù)據(jù)中的大部分未經(jīng)其創(chuàng)建者明確許可就被獲取。這些模型沒有靈魂，也沒有權(quán)利。但它們具備模仿我們的能力——部分來自訓(xùn)練中所包含的人類反饋——促使科學(xué)家和研究人員開始提出關(guān)于我們認知的問題，并進一步探究我們大腦的工作方式。

網(wǎng)上充斥著大量“蝦子耶穌”常被當作AI垃圾的典型案例。? wikipedia

這份清單僅僅概括了過去三年來人們對這些機器的熱情，以及它們引發(fā)的厭惡和焦慮。不同的人對這些模型的看法各不相同：有人認為它們是有用的工具；有人認為它們是“隨機鸚鵡”（Stochastic parrot，指大型語言模型雖然能夠生成合理的文句，但其實不能理解所處理的語句。編者注）或花哨的自動糾錯工具[5]；還有人認為它們是可怕外星智能的催化劑。

從不那么技術(shù)性的角度來看，這就是所謂的顛覆。今年8月，我寫道：“AI的持久影響之一，是讓人們感覺自己快失去理智了?！?strong>如果你真心相信我們距離一個改變范式、重塑社會的超級智能只剩幾年，那么表現(xiàn)得不理性完全說得通。如果你認為硅谷精英已經(jīng)失去理智，把一種有用但并非魔法的技術(shù)強加給社會，宣稱它正在創(chuàng)造上帝，為其研發(fā)投入歷史性金額，并把其工具的命運與全球經(jīng)濟的命運綁定在一起，那么憤怒完全也說得通。

ChatGPT構(gòu)建的世界是一個充滿不確定性的世界。在這個世界里，人們時刻提防著危機。年輕一代對這種不確定性感受尤為深刻，他們即將畢業(yè)步入職場，卻被告知未來可能沒有一條可預(yù)測的職業(yè)道路。老一輩也被告知，未來或許面目全非，他們苦練的技能可能不再適用。投資者同樣在等待，大量難以想象的資本被投入AI公司、數(shù)據(jù)中心以及他們認為實現(xiàn)“到來”所必需的物理基礎(chǔ)設(shè)施中。我們被告知，這是一場競賽——一場地緣政治競賽，也是一場與市場、泡沫、資金循環(huán)以及可能導(dǎo)致經(jīng)濟崩潰的復(fù)雜金融工具和債務(wù)投資的賽跑。人工智能的支持者們正在等待。他們?yōu)檫@一目標的到來制定了詳細的時間表。然后，時間表發(fā)生了變化。

我們之所以等待，是因為在生成式人工智能的忠實擁躉看來，它的一個顯著特點就是它永遠不會達到最終形態(tài)。就像ChatGPT發(fā)布前一樣，每個模型在某種程度上也是一種“低調(diào)的研究預(yù)覽”——是對真正可能性的一種概念驗證。你覺得現(xiàn)在的模型已經(jīng)很好了？哈！等著瞧吧。

根據(jù)你的觀點，這或許是慣用的表演技巧，或許是創(chuàng)新的真理，或許是一場人質(zhì)危機，又或許是一場精心策劃的騙局。你在這條從狂熱到胡扯的連續(xù)譜上的位置，很可能與你對未來的樂觀程度息息相關(guān)。但無論如何，你都在等待——等待泡沫破裂，等待阿拉丁神燈帶著印鈔計劃出現(xiàn)，等待政府救助，等待世界末日。從這個意義上講，生成式人工智能是一種基于信仰的技術(shù)。

這項技術(shù)對很多人來說已經(jīng)很有用，它可以編寫代碼、撰寫營銷文案并完成基礎(chǔ)研究任務(wù)，但這并不重要。因為硅谷賣的不是實用性，而是變革——伴隨著所有宏大的承諾、投資回報、真正的風(fēng)險以及隨之而來的附帶損害。即使你現(xiàn)在不相信，三年后你也一定會感受到它的影響。

參考文獻：

[1]www.nytimes.com/2023/02/16/technology/bing-chatbot-microsoft-chatgpt.html

[2]situational-awareness.ai/

[3]www.theatlantic.com/technology/archive/2024/10/chatbot-transcript-data-advertising/680112/

[4]www.nytimes.com/2025/08/26/technology/chatgpt-openai-suicide.html

[5]dl.acm.org/doi/10.1145/3442188.3445922

文/Charlie Warzel

譯/tamiya2

校對/tim

原文/www.theatlantic.com/technology/2025/11/chatgpt-third-anniversary/685084/

本文基于創(chuàng)作共享協(xié)議（BY-NC），由tamiya2在利維坦發(fā)布

文章僅為作者觀點，未必代表利維坦立場