奧特曼家被扔燃燒瓶后，他發(fā)長文回應(yīng)：我理解你們對 AI 的恐懼

AI 的時代焦慮，終于以一種極端的方式落到了現(xiàn)實。

凌晨 3 點 45 分，美國舊金山北灘社區(qū)。一枚燃燒瓶砸向大門，火苗躥起，隨即熄滅。住在里面的，是全球最具爭議的科技公司掌舵人：OpenAI CEO Sam Altman（山姆·奧特曼）。

幸運的是，燃燒瓶彈開了。沒有人受傷。一個多小時后，同一名嫌疑人出現(xiàn)在 OpenAI 舊金山總部門口，揚(yáng)言要燒掉這棟樓。警方隨即將其拘押，一名 20 歲的男性。

這條新聞本來可以就這樣結(jié)束：「AI 公司高管遭遇襲擊，嫌疑人落網(wǎng)，暫無人傷亡。」

但奧特曼沒有選擇沉默。他于一個小時前發(fā)了一篇很長的文章。

「這是我家人的照片。他們是我的一切?！归_頭就是這句話，配了一張他和伴侶、兒子的合照。他解釋為什么要公開這張平時刻意藏起來的照片：「希望能讓下一個人在沖我家扔燃燒瓶之前三思，無論他們對我有什么看法。」

然后他說，幾天前有一篇「針對我的煽動性文章」，有人提醒過他，那篇文章的發(fā)布時機(jī)，恰逢公眾對 AI 極度焦慮的節(jié)點，可能讓他陷入更危險的處境。他當(dāng)時沒當(dāng)回事。

「現(xiàn)在我在深夜輾轉(zhuǎn)難眠，怒火中燒，開始意識到自己低估了文字與敘事的力量?！?/p>

這是 AI 時代第一次，一位 CEO 在「有人想燒死我」之后，沒有選擇報警聲明加公關(guān)稿的標(biāo)準(zhǔn)流程，而是把這種恐懼、憤怒和反思，原原本本地寫出來。

他在深夜說了什么

文章分三部分：信念、個人反思、行業(yè)思考。

信念部分其實沒什么新鮮的。AI 是人類能力的最強(qiáng)擴(kuò)展工具，必須民主化，權(quán)力不能過度集中，社會需要適應(yīng)機(jī)制……這些他說過很多次了。

真正值得停下來讀的，是「個人反思」這一段。他說自己「有很多值得驕傲的事，也有不少錯誤」。

驕傲的是什么？他提到了和馬斯克的那場糾紛。

當(dāng)年馬斯克試圖對 OpenAI 謀求單方面控制權(quán)，奧特曼拒絕了。他說：「我為自己當(dāng)時守住的那條底線感到自豪，也為我們走出的那條窄路感到自豪，正是那條路讓 OpenAI 得以延續(xù)?！?/p>

不驕傲的是什么？他說自己「回避沖突」，給公司和自己都帶來了巨大痛苦。他說在與前任董事會的沖突中「處置失當(dāng)」，造成了混亂。他說自己是「一個有缺陷的人，身處一個異常復(fù)雜的處境」。

對于那些他曾經(jīng)傷害過的人，他道了歉。

這是這篇文章里最罕見的部分?？萍既Φ母吖艿狼?，通常要么是 PR 危機(jī)后的被迫姿態(tài)，要么措辭模糊到?jīng)]有任何實質(zhì)性認(rèn)錯。奧特曼這段話說得不算完整，但至少是真實的。

文章最后一部分，他還說他理解過去幾年為什么會上演這么多「莎士比亞式戲劇」：「一旦看見 AGI，就再也無法視而不見。它有一種真實的『權(quán)力之戒』式動力，會讓人做出瘋狂之舉。」

正如他所理解的那樣，成為掌控 AGI 之人這種執(zhí)念，它能腐蝕任何人。

包括OpenAI 的歷史本身就是一部權(quán)力爭奪的紀(jì)錄片。馬斯克的出走與反目、前董事會的突然解雇風(fēng)波、微軟的深度綁定、Ilya Sutskever 的離開……每一段都牽涉到對「誰掌控 AI 未來」這個問題的不同答案。

奧特曼說，唯一的解法是「把技術(shù)向更廣泛的人群開放，讓任何人都無法獨握那枚戒指」。

那名 20 歲的嫌疑人，沒有留下任何宣言。

我們不知道他為什么去扔那枚燃燒瓶。是被哪篇文章激怒？是對 AI 奪走工作的恐懼？是某種更私人的偏執(zhí)？

但這件事本身，代表了一種真實存在的社會情緒。

失業(yè)焦慮、技術(shù)恐懼、對少數(shù)人掌控未來的憤怒，這些情緒在過去兩年被 AI 的爆發(fā)式發(fā)展急劇放大。當(dāng) OpenAI 每隔幾個月就發(fā)布一款能「取代某類工作」的新產(chǎn)品，當(dāng) ChatGPT 出現(xiàn)在每個行業(yè)的重組報告里，當(dāng)「你的崗位會被 AI 替代嗎」成為刷屏話題，積累下來的東西，總會找到出口。

奧特曼在文章里說，他現(xiàn)在擔(dān)心的已經(jīng)不只是「模型對齊」，而是整個社會層面能否及時建立起應(yīng)對機(jī)制。這話聽起來像是在為監(jiān)管松綁找理由，但放在這次事件的語境里，它有另一層意思：

連 AI 公司的 CEO 自己，也開始承認(rèn)技術(shù)的速度已經(jīng)超出了社會的消化能力。

這不是什么新發(fā)現(xiàn)，但由奧特曼在凌晨、在燃燒瓶的余溫里說出來，分量就不一樣了。過去幾年，科技圈慣用的敘事是「我們在解決問題」。監(jiān)管跟不上？我們自律。就業(yè)沖擊？我們會創(chuàng)造新崗位。

每一次質(zhì)疑，都有一套對應(yīng)的話術(shù)。

但燃燒瓶的出現(xiàn)說明，有一部分人的憤怒，已經(jīng)溢出了「理性討論」的范圍。

暴力當(dāng)然沒有任何正當(dāng)性。

無論動機(jī)如何，向一個熟睡嬰兒的家投擲燃燒瓶，都應(yīng)受到譴責(zé)和處罰。雖然警方尚未確認(rèn)此次襲擊是與 AI 反對情緒有關(guān)，還是受近期《紐約客》負(fù)面報道影響，但這件事本身已折射出 AI 發(fā)展帶來的社會焦慮正在升溫。

那種不安是可以理解的，從沒有一項技術(shù)像 AI 一樣以瘋狂的速度改變世界，這種恐懼是真實的。

奧特曼這篇文章，是他少有的一次沒有站在「我們在解決問題」的位置上發(fā)言。他承認(rèn)了錯誤，承認(rèn)了恐懼，也承認(rèn)了自己也不完全知道前路在哪里。

人和 AI 應(yīng)該如何相處，可能是比實現(xiàn) AGI 更大的難題。

附上 Sam Altman 博客原文：

這是我家人的照片。他們是我的一切。

圖像有力量，我希望如此。平時我們都很注重隱私，但這次我選擇公開這張照片，希望能讓下一個人在沖我家扔燃燒瓶之前三思——無論他們對我有什么看法。

第一個人昨晚凌晨 3 點 45 分這么做了。幸好燃燒瓶彈開了，沒有人受傷。

文字同樣有力量。幾天前有一篇針對我的煽動性文章。昨天有人跟我說，他認(rèn)為這篇文章發(fā)布的時機(jī)恰逢公眾對 AI 極度焦慮之際，可能會讓我陷入更危險的處境。我當(dāng)時沒放在心上。

現(xiàn)在我在深夜輾轉(zhuǎn)難眠，怒火中燒，開始意識到自己低估了文字與敘事的力量。趁這個機(jī)會，我想說幾件事。

一、我的信念

• 推動全民繁榮、賦能所有人、推進(jìn)科學(xué)與技術(shù)的進(jìn)步，對我來說是道義上的責(zé)任。
• AI 將是有史以來最強(qiáng)大的人類能力擴(kuò)展工具。對這一工具的需求幾乎沒有上限，人們將用它創(chuàng)造出令人驚嘆的成就。世界需要大量的 AI，我們必須想清楚如何實現(xiàn)這一目標(biāo)。
• 這條路不會一帆風(fēng)順。人們對 AI 的恐懼與焦慮是有根據(jù)的——我們正在經(jīng)歷人類社會很長時間以來，乃至有史以來最大的變革。安全問題必須做好，這不只是模型對齊的問題——我們迫切需要整個社會層面的應(yīng)對機(jī)制，以抵御新型威脅，包括出臺新政策，幫助我們渡過艱難的經(jīng)濟(jì)轉(zhuǎn)型期，走向更美好的未來。
• AI 必須實現(xiàn)民主化，權(quán)力不能過度集中。未來的掌控權(quán)屬于所有人及其制度。AI 需要賦能每一個個體，我們需要集體做出關(guān)于未來走向與新規(guī)則的決策。我認(rèn)為，由幾家 AI 實驗室來主導(dǎo)塑造我們未來的最關(guān)鍵決策，是不正確的。
• 適應(yīng)能力至關(guān)重要。我們都在以極快的速度學(xué)習(xí)全新的事物；有些判斷會對，有些會錯，有時我們需要隨著技術(shù)發(fā)展和社會演進(jìn)迅速調(diào)整認(rèn)知。目前沒有人真正理解超級智能的影響，但這種影響將是深遠(yuǎn)的。

回顧我在 OpenAI 頭十年的工作，有很多值得驕傲的事，也有不少錯誤。

我想起我們即將與埃隆對簿公堂，想起當(dāng)年我如何堅守底線，拒絕接受他對 OpenAI 謀求的單方面控制權(quán)。我為此感到自豪，也為我們當(dāng)時走出的那條窄路感到自豪——正是那條路讓 OpenAI 得以延續(xù)，并取得了此后的一切成就。

我并不為自己的回避沖突感到自豪，那給我和 OpenAI 都帶來了巨大的痛苦。我也不為自己在與前任董事會的沖突中處置失當(dāng)、給公司造成混亂感到自豪。OpenAI 走過的歷程跌宕起伏，我在其中犯下過許多錯誤；我是一個有缺陷的人，身處一個異常復(fù)雜的處境，每年都在努力變得好一點，始終為這一使命而工作。我們從一開始就清楚 AI 的賭注有多大，也知道善意之人之間的個人分歧會因此被無限放大。但親歷這些激烈的沖突、往往還要在其中充當(dāng)仲裁者，其代價是沉重的。對于那些我曾經(jīng)傷害過的人，我深感抱歉，也希望自己能更快從中汲取教訓(xùn)。

我也清醒地意識到，OpenAI 如今已是一個重要的平臺，我們需要以更具可預(yù)期性的方式運營。過去幾年極其緊張、混亂、高壓。

但總體而言，我為我們正在兌現(xiàn)使命感到無比自豪——這在當(dāng)初看來幾乎是不可能的?？朔刂刈璧K，我們摸索出了構(gòu)建強(qiáng)大 AI 的方法，籌集到了足夠的資本來建設(shè)交付所需的基礎(chǔ)設(shè)施，建立起了一家產(chǎn)品公司和商業(yè)體系，以大規(guī)模提供相當(dāng)安全、穩(wěn)健的服務(wù)，還有更多。

很多公司都說要改變世界；我們真的做到了。

三、關(guān)于這個行業(yè)的思考

綜觀過去幾年，我對這個領(lǐng)域為何上演了如此多莎士比亞式戲劇的個人理解是：「一旦看見 AGI，就再也無法視而不見?！?它有一種真實的「權(quán)力之戒」式動力，會讓人做出瘋狂之舉。我說的不是 AGI 本身就是那枚戒指，而是「成為掌控 AGI 之人」這種無所不包的執(zhí)念。

我能想到的唯一解法，是著力于向更廣泛的人群開放這項技術(shù)，讓任何人都無法獨握那枚戒指。實現(xiàn)這一目標(biāo)的兩個顯而易見的途徑，是個體賦權(quán)，以及確保民主制度始終掌握主導(dǎo)權(quán)。

民主進(jìn)程的力量必須凌駕于公司之上。法律與規(guī)范會不斷演變，但我們必須在民主進(jìn)程的框架內(nèi)行事，盡管這個過程會混亂、也會比我們期望的更慢。我們希望成為其中的一個聲音、一個利益相關(guān)方，但不是要獨攬一切權(quán)力。

業(yè)界受到的許多批評，源自人們對這項技術(shù)極高風(fēng)險的真誠憂慮。這種憂慮完全合理，我們歡迎善意的批評與辯論。我理解反技術(shù)的情緒，技術(shù)的確并非對每個人都始終有益。但從整體來看，我相信技術(shù)進(jìn)步能夠讓未來變得無與倫比地美好——對你我的家庭都是如此。

在我們進(jìn)行這場辯論的同時，我們應(yīng)當(dāng)共同降低言辭與行動的烈度，讓更少的人家——無論是字面意義上還是隱喻意義上——遭遇爆炸。

附上博客地址：
https://blog.samaltman.com/2279512