奧特曼被丟燃燒彈，反AI走向暴力

來源：南風窗

作者 | 施晶晶

編輯 | 向現

48小時內，奧特曼的家2次凌晨遇襲。一次被丟燃燒彈，一次是驚聞門外槍響，所幸無人傷亡，犯罪嫌疑人也迅速被捕。

事件本身不大，但提供了一個關注“AI技術掌權者”和“AI反對者”博弈的絕佳窗口。在這里，我們聚焦第一起丟彈事件，因為圍繞它的信息披露和利益相關方的回應更全面。

暴力在這里是最不重要的事，因為暴力的不正當，是無需重申的共識。而丟彈事件暴露出來的另一個問題更值得拆解。

2024年1月16日，在美國舊金山拍攝的薩姆·奧爾特曼 / 圖源：新華社

事件發生后，在暴力反AI者、倡導非暴力的反AI組織、AI掌權者三方的宣言表態當中，我們可以看見他們對敘事的爭奪——即如何基于已經發生的暴力事實，解釋AI和它引發的沖突。

這些敘事或說法，構成我們理解AI的多元面向，卻也暴露出我們對AI進行約束，哪怕是具體如何監管的討論，在實質層面上的懸浮與滯后。

“如果你活了下來，我會認為是上天讓你去贖罪”

往奧特曼家丟燃燒彈的人叫莫雷諾·加馬，只有20歲。

4月10日凌晨，往奧特曼的家丟完燃燒彈，他就離開了現場。但一小時后，他出現在Open AI的總部，掄起一把藍色椅子，往玻璃大門上砸。

至少從監控上看，玻璃門沒有碎，在他拎著一桶煤油靠近大門，準備下一步行動時，安保走了出來。

莫雷諾·加馬很快被捕。據法院公開文件，警方繳獲了一份反AI文件，莫雷諾·加馬處在其中表達了對AI以及“多家AI公司高管”的反對觀點，并聲稱要殺死奧特曼（在原文件中稱“受害者-1”）。他還進一步列出了AI公司顯要的董事會成員、CEO以及投資者的名單和地址，顯然目標不止一人。

莫雷諾·加馬被捕

在這份文件里，他還專門以“關于我們即將滅絕的一些額外言論”為題，討論AI對人類構成的風險。還對奧特曼放言：如果你活了下來，我會認為是上天讓你去贖罪。

此外，在一個以莫雷諾·加馬為網址名的網頁上，有一篇長文，當中寫到：即使在人類歷史上，每當一個更先進的文明與一個不太先進的文明接觸時，后者往往都會遭遇征服和種族滅絕。那么，我們究竟為什么要明知故犯呢？……許多人對普通人的生命價值漠不關心……那么下一個問題就是：我們是否應該袖手旁觀，任由事態發展？——之后，他提到了殺戮。

事后，反AI組織Pause AI迅速發聲明做切割。

聲明提供了一些信息，包括莫雷諾·加馬只是在2年間往他們的公共服務器發了34條消息，其中一條信息被標記為含義模糊，審核員發出了警告，重申Pause AI組織的抗議、請愿、政策倡導和公眾教育，是合法、非暴力的，暴力恰恰是他們走向組織所極力避免的。

反AI組織Pause AI迅速發出聲明

“倡導對強大技術進行安全監管和民主監督，是公共生活中合法且必要的組成部分。試圖將和平倡導與個別個人的行為聯系起來，從而抹黑這種做法，是對公共討論以及世界亟需就人工智能展開的嚴肅對話的損害。”聲明中說。

但更矚目的是，這一有驚無險的突襲，讓另一事主奧特曼罕見地不再低調。

奧特曼，“雙重受害人”？

事發第二天，奧特曼在博客上發長文回應，并附上一張家人的照片，包括幼兒的正臉。“我分享這張照片，是希望它能阻止下一個朝我家扔燃燒彈的人，不管他們對我有什么樣的看法。”

奧特曼在博客上發回應長文

他還提及一篇報道，并認為那是一篇“煽動性文章”。

那是發表在紐約客的一篇長文《奧特曼可能掌控我們的未來——但他值得信任嗎？》，作者之一Ronan Farrow得過普利策獎，報道采訪了一百多名親歷奧特曼商業運作的人，寫了外界對這位OpenAI掌門人持續存在的質疑，奧特曼被評價得最多的是“撒謊”和“權力欲”。

報道中有句總結：即便與奧特曼關系密切的人，也很難分清他的“人類希望”止于何處，個人野心始于何處。他最大的優勢始終是，能說服不同群體相信，他想要的與他們需要的是同一件事。

“昨天有人跟我說，他們覺得這篇文章發表在大家對人工智能極度焦慮的時期，會讓我處境更加危險。我對此不以為意。”但事后，奧特曼認為這篇文章煽動了仇恨情緒，對此不滿：“現在我半夜醒來，怒火中燒，心想我真是低估了語言和敘事的力量。”

他把“暴力”重新歸因：把個人的極端攻擊，解讀為敘事的后果，而他是雙重受害者。

接著，他一如既往強調AI技術的正當性，稱“為所有人創造繁榮，賦予所有人力量，是我義不容辭的道德責任”“人工智能將成為人類能力和潛能拓展史上最強大的工具，人們對它的需求幾乎是無限的”……

OpenAI / 圖源：新華社

后續原文很長，大意是：AI真的很好，我做的事是為大家好。我知道“事情并非一帆風順”，我也同意“人工智能必須民主化，權力不能過于集中，共同決定我們的未來走向”，而且“我們沒想掌握全部權力”，為此，我能想到的“唯一解法是讓這項技術廣泛普及”；最后我們要“學習適應”，破除敵友對立，“努力減少家庭內部的沖突”。

一枚燃燒彈，炸出了三方聲明，四方立場，但又不止于此。

敘事的沖突

莫雷諾·加馬、Pause AI、奧特曼的聲明，在各自邏輯里都是自洽的，但彼此卻是沖突的。他們在爭奪解釋權：誰是受害者，誰是威脅，誰有資格決定AI的未來。

誰是受害者？莫雷諾·加馬認為，面對AI，人類是受害者，奧特曼是罪人，他是被迫走極端；而當他發起暴力，試圖鏟除奧特曼，奧特曼可以認為自己才是受害者，而讓反對者失去道義上的正當性。

這里有必要先了解那些反AI的人和組織，反的究竟是什么？

莫雷諾·加馬的反對基于“AI滅絕人類”的陰謀論，但除他之外，還有不少抗議AI話題的組織和社會運動。他們并非鐵板一塊，除了非暴力的立場一致外，彼此的反對和主張有明顯區別和具體關注的議題。

反AI組織Pause AI的游行示威活動

事件中的Pause AI是代表之一。它并非反對AI技術本身，也不認為目前乃至未來大多數的AI模型構成生存威脅，他們針對的是：暫停開發前沿模型，即“通用人工智能AGI”，直到建立嚴格的安全監管和公眾監督。

Stop AI態度強硬：永久強制禁止AGI，禁止AI驅動的自主武器、大規模監視、AI訓練盜竊知識產權，反對徹底摧毀人類勞動、思想、技能的“人類替代”，以及將人類與機器融合、實現永生的“超人類主義”。

QuitGPT靶子更具體，抵制的就只是chatGPT。起因是2月27日，OpenAI同意與五角大樓交易，提供技術和無限制訪問權限，而這很可能被用于制造武器和進行大規模監控，而其競爭對手Anthropic拒絕了同一交易。

文藝界發起“Stealing Isn’t Innovation”運動，抗議AI公司大規模竊取知識產權訓練AI模型；CREDO23反對使用任何生成式AI，以維護電影制作的藝術本質和觀眾信任。

“Stealing Isn’t Innovation”運動

Human First關心的是決策參與，反對少數未經選舉的科技精英的規則壟斷，認為普通民眾理應參與這項技術的發展決策——盡管奧特曼的解釋是另一套邏輯：他聲稱避免壟斷的辦法，就是普及AI，他在為“去中心化”、鼓勵民眾參與作另一種努力。

還有一些反對運動針對的是數據中心，反映了許多普通居民的立場。典型標語是：要水喝，不要AI；保護農田，不要數據中心。因為數據中心對水資源消耗巨大，AI搶電致居民電價上漲。

反AI已經不是單一議題，它囊括了就業民生、知識產權、生命倫理和民主監督等諸多非情緒化的現實議題。

但無奈的是，這些非暴力的聲音，并沒有得到奧特曼乃至AI公司的正面回應，反倒是丟出那一枚燃燒彈，相信“AI滅絕人類”陰謀論的莫雷諾·加馬，勾出了奧特曼的長篇大論。

監管的空白，暴力混入

他們的討論非常熱鬧：要安全、要民主、要監管、要防止權力集中，無論是奧特曼，還是像 PauseAI 這樣的組織，甚至《紐約客》，其實沒有原則上的分歧——至少言辭上沒有。

但這些共識幾乎停留在價值宣言，都回避了“具體怎么做”和宣言與現實的割裂。

奧特曼沒有就如何“為所有人創造繁榮，賦予所有人力量”給出“普及”之外的避險方案，他也沒有放棄AGI——因為他說：“一旦你看到了通用人工智能（AGI），就無法視而不見。”

Anthropic拒絕為五角大樓的機密系統提供技術，失去了政府訂單，但幾個小時后，Open AI取代了Anthropic，成為座上賓……奧特曼說權力不能過于集中，但OpenAI的市場地位仍在擴張。

Anthropic

PauseAI等組織，除了舉標語抗議、做公眾倡導，也沒有更進一步的行動，真正參與到決策當中。于是，盡管有輿論壓力，但數據中心還在建，AI模型訓練依然無視版權問題，水費電價還是貴，不使用AI制作電影，也停留在個人藝術選擇。

當所有人都宣稱站在“安全監管”和“民主監督”這一邊，卻沒有人提供制度出口，共識就悄悄變成了一種免責工具——讓每一方都能聲稱自己立場正確，同時繼續做原來在做的事，無需更進一步。

商業領袖和社會公眾揚旗隔空喊話之間，制度性的監管缺席了。

幾乎沒人會說監管不重要，但監管者本身陷入一種結構性矛盾：政府本該當裁判，但現在他們也是受益者。

法國巴黎大皇宮拍攝的人工智能行動峰會現場 / 圖源：新華社

另一個略顯尷尬又很現實的問題是：被認為風險極高的“通用人工智能AGI”究竟是什么，它的風險如何界定，要管的是什么？禁止開發它的依據是什么？這些問題會讓討論在“我們還沒到那一步”的反駁中被稀釋。

于是一切照舊。依然是少數公司在訓練模型，大量模型尚未開源，巨頭也沒有放緩競賽，監管的主體也對更先進的AI滿懷期待，從中制造一個AI狂飆突進的窗口期。

而制度監管持續滯后，填補真空的會是市場廝殺、巨頭自律，或者莫雷諾·加馬丟出的那枚燃燒彈。