當(dāng)AI學(xué)會扣動扳機，這個世界準(zhǔn)備好了嗎？

街道上的粉筆涂鴉終會被雨水和腳步抹去，社交媒體上抵制OpenAI的聲浪也很快會被新的熱點取代。只是誰也不知道，當(dāng)AI學(xué)會扣動扳機，這個世界最終會被帶往何方。

撰文丨周隆斌

美伊沖突不斷升級，中東地區(qū)再次成為全球矚目的焦點。美國總統(tǒng)特朗普誓言在伊朗問題上將“不惜代價”，不料后院突然起火。

就在美國對伊朗發(fā)動襲擊的前一天，美國國防部與知名AI初創(chuàng)公司Anthropic的合作正式破裂。隨后，特朗普將Anthropic列為“國家安全供應(yīng)鏈風(fēng)險”，全面封殺其在聯(lián)邦政府及軍方的應(yīng)用。

Anthropic的Claude大模型是此前唯一能在五角大樓機密云環(huán)境中運行的AI系統(tǒng)，曾被用于支持美國在委內(nèi)瑞拉的行動。這次雙方撕破臉皮，是因為美國軍方提出，涉密環(huán)境下，AI模型應(yīng)當(dāng)可用于“所有合法用途”，不得受“政策約束”而限制其在軍事領(lǐng)域的應(yīng)用空間。

然而，Anthropic始終堅持兩條紅線：不得用于“對美國人進(jìn)行大規(guī)模監(jiān)控”，不得用于“完全自主武器”。

由此，Anthropic成為第一家被列入“國家安全供應(yīng)鏈風(fēng)險”管制的美國公司。美國政府正在向硅谷科技公司釋放明確信號，與政府合作只能無條件服從，否則就要面臨被行政手段打壓的重大風(fēng)險。

01

特朗普政府對于AI行業(yè)的監(jiān)管要求，正在由此前拜登政府的“安全第一”全面轉(zhuǎn)向“主導(dǎo)地位第一”。

2025年1月23日，特朗普就曾簽署《消除美國AI領(lǐng)導(dǎo)力障礙》行政令，核心恰恰在于放松監(jiān)管，促進(jìn)AI創(chuàng)新。行政令由美國總統(tǒng)單方面簽署，本身不是法律，卻也能夠通過指導(dǎo)聯(lián)邦機構(gòu)產(chǎn)生廣泛的實際影響，所有聯(lián)邦機構(gòu)都必須審查并廢除與此新政策不符的規(guī)定。

事實上，在現(xiàn)代戰(zhàn)爭中，AI技術(shù)加持下的殺傷性武器已得到使用。

2月28日，美以襲擊伊朗的“史詩怒火行動”中，首次在實戰(zhàn)中使用了自殺式無人機LUCAS。這種無人機具備AI自主飛行控制、GPS信號失效時自行導(dǎo)航，以及蜂群協(xié)同能力。相比于造價昂貴的戰(zhàn)斧導(dǎo)彈，LUCAS單價在1萬美元至5.5萬美元之間，不到戰(zhàn)斧導(dǎo)彈的五十分之一。

現(xiàn)階段LUCAS在執(zhí)行目標(biāo)打擊時，會將AI篩選后的高價值目標(biāo)畫面實時傳輸?shù)胶蠓降目刂平K端，最終由人類決定是否進(jìn)行攻擊。在AI輔助進(jìn)行目標(biāo)識別后，操作員的識別效率得到了極大地提升。

機器永不疲勞，在面對大量數(shù)據(jù)處理時，決策響應(yīng)速度遠(yuǎn)超人類生理極限。僅從執(zhí)行效率的角度來看，完全由AI操控的無人機無疑是更高效的選擇。

只是，現(xiàn)階段AI技術(shù)存在許多明顯漏洞，一旦完全由AI自主控制的武器系統(tǒng)出現(xiàn)判斷失誤，對錯誤的目標(biāo)進(jìn)行打擊，后果不堪設(shè)想。

Anthropic作為全球頭部AI企業(yè)，對AI技術(shù)的局限性比美國軍方應(yīng)有更深刻的認(rèn)識。因此，哪怕與五角大樓翻臉，Anthropic也要堅持為AI在軍事領(lǐng)域的應(yīng)用劃定紅線。

02

Anthropic固然是全球AI行業(yè)內(nèi)的領(lǐng)軍人物，可對于美國軍方來說也不過是優(yōu)選項，并非必選項。美國其他AI企業(yè)在面對美國軍方壓力時，立場則顯得更為靈活。

五角大樓本次計劃分別和Anthropic以及馬斯克旗下的xAI展開合作，在前者還在因為AI的適用范圍與美國軍方爭的面紅耳赤時，后者已經(jīng)全盤接受了五角大樓的協(xié)議，讓Grok按“所有合法用途”進(jìn)入涉密體系。

xAI旗下的Grok大模型自誕生之初就走上了一條飽受爭議的差異化競爭路線，在技術(shù)層面致力于精簡傳統(tǒng)的安全護(hù)欄，讓模型更加敢于回答用戶的敏感話題。各家AI大模型時至今日還都對色情內(nèi)容嚴(yán)加限制，xAI卻早就大膽上線伴侶模式，以虛擬女友的數(shù)字人身份與用戶暢聊擦邊內(nèi)容。

在第三方機構(gòu)SaferAI的評級中，xAI在5分制的綜合安全評估中僅獲得0.8分，安全風(fēng)險評級被劃為“非常弱”等級。

xAI本身的安全限制相對寬松，近期又被整合進(jìn)SpaceX準(zhǔn)備上市。在這個關(guān)鍵節(jié)點，選擇對五角大樓高度配合完全符合商業(yè)邏輯。

在全球AI大模型性能的排行榜上，Grok處于偏后的位置。而常年霸榜的AI領(lǐng)先企業(yè)OpenAI，對于如何與美國軍方合作，此刻正在百般糾結(jié)當(dāng)中。

五角大樓與Anthropic的談判破裂后，OpenAI的CEO山姆·奧爾特曼很快在社交媒體上表示，已經(jīng)與美國國防部達(dá)成協(xié)議，將替補Anthropic的位置。OpenAI宣稱，該協(xié)議擁有“迄今任何機密AI部署協(xié)議中最嚴(yán)格的護(hù)欄，包括優(yōu)于Anthropic的條款”。

在OpenAI披露的與美國軍方簽訂的合同中，OpenAI也和Anthropic類似，為AI的使用劃定了紅線，卻如美軍所愿保留了“在符合適用法律”下使用AI的權(quán)利。奧爾特曼隨后對OpenAI的員工表示，公司無權(quán)決定美國國防部如何使用其 AI軟件。

事實上，即便OpenAI與Anthropic站在同一陣營，也無力阻止另一家與美國軍方交往甚密的AI巨頭——Palantir為五角大樓提供AI技術(shù)支持。

成立于2003年的Palantir，原本就是一家服務(wù)于美國政府和國防部門的數(shù)據(jù)分析平臺，早期還獲得了美國中央情報局（CIA）旗下的風(fēng)投機構(gòu)注資。這樣一家公司，毫無疑問會堅定地與美國軍方意愿同向而行。

Palantir的CEO亞歷克斯·卡普對AI操控的武器持開放態(tài)度，他曾公開表示：“對AI進(jìn)一步發(fā)展的擔(dān)憂并非毫無道理。我們正在開發(fā)的軟件可以用于部署致命武器。武器系統(tǒng)與日益自主的AI軟件的整合必然會帶來風(fēng)險，但停止開發(fā)這些技術(shù)的建議是錯誤的?！?/p>

03

OpenAI與五角大樓合作后，ChatGPT美國移動端卸載量較前一天增加295%，一星評分暴增775%。美國社交媒體中掀起了退訂ChatGPT轉(zhuǎn)而購買Claude會員的浪潮。

人們在Anthropic舊金山辦公樓街道上，用粉筆涂鴉畫滿愛心，有人直接寫下“感謝不造天網(wǎng)”的標(biāo)語。

迫于輿論壓力，奧爾特曼不得不在內(nèi)部會議上承認(rèn)，與五角大樓倉促簽約顯得有些機會主義且草率。同時，他也表示：“這是一個復(fù)雜但正確的決定。”

Anthropic拒絕與五角大樓合作，損失的并非僅僅是這2億美元的國防合同，還可能就此被排除在所有政府采購合同之外。在商業(yè)前景與道德抉擇面前，Anthropic與OpenAI就此分道揚鑣。

OpenAI早年曾將“安全”列為公司核心價值之一，現(xiàn)在這個詞早已從使命聲明中被悄然抹去，“始終以人類利益為出發(fā)點行事”的口號顯得無比諷刺。

AI技術(shù)代表著先進(jìn)生產(chǎn)力的發(fā)展方向，人類文明正在由信息時代邁向AI時代。歷史車輪滾滾向前，只是人類自己也看不清前路在哪里。就連掌握著AI核心技術(shù)的硅谷科技公司們，也無力完全把控技術(shù)的應(yīng)用方向。

物理學(xué)家尼爾斯·玻爾在曾對原子彈之父奧本海默說：“你賦予了人類自我毀滅的力量，而這個世界卻毫無準(zhǔn)備。”

內(nèi)燃機被發(fā)明的那一天，坦克的誕生就只是時間問題。無人機LUCAS劃過天空，AI軍事化的進(jìn)程已經(jīng)勢不可當(dāng)。

街道上的粉筆涂鴉終會被雨水和腳步抹去，社交媒體上抵制OpenAI的聲浪也很快會被新的熱點取代。只是誰也不知道，當(dāng)AI學(xué)會扣動扳機，這個世界最終會被帶往何方。

*本文為冰川思想庫原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載，否則追究相關(guān)法律責(zé)任