打擊伊朗，AI成了幫兇

原創(chuàng) 遠(yuǎn)游 南風(fēng)窗

作者 |遠(yuǎn)游

編輯 |阿樹

戰(zhàn)爭新形態(tài)的序幕已經(jīng)拉開。

據(jù)美國方面消息，美軍在2月28日斬首哈梅內(nèi)伊和1月2日擄走委內(nèi)瑞拉總統(tǒng)馬杜羅時(shí)，使用了人工智能公司Anthropic的大語言模式Claude進(jìn)行情報(bào)收集，識別敵人以及模擬作戰(zhàn)場景。再綜合1月9日美國五角大樓發(fā)布“以人工智能優(yōu)先的作戰(zhàn)力量”文件，可以說人工智能進(jìn)入美軍作戰(zhàn)指揮系統(tǒng)的疑團(tuán)，已經(jīng)越來越讓人無法忽略。

軍事觀察家們認(rèn)為，哈梅內(nèi)伊在官邸跟家眷一起遇害的斬殺手法，非常類似以色列國防軍使用Lavendar軟件對付加沙武裝人員的“爸爸在哪兒”模式。冷酷而精準(zhǔn)的AI工具，將改變戰(zhàn)爭的形態(tài)。

這場戰(zhàn)爭，指向一個(gè)不久的將來可能會(huì)出現(xiàn)的場景：一個(gè)活人，可能交由人工智能判斷是否該被消滅；屏幕中的幾行指令，可能決定萬里之外一個(gè)國家領(lǐng)導(dǎo)層的存廢；計(jì)算機(jī)房里的算法，已經(jīng)決定了戰(zhàn)事要持續(xù)多長時(shí)間。

特朗普/新華社記者 胡友松 攝

在選舉期間，多次主張對“軍工復(fù)合體”開戰(zhàn)的特朗普，拿出了更加精準(zhǔn)、殺人更加無情的“軍工復(fù)合體”機(jī)器，一個(gè)“什么人該殺”和“什么時(shí)候殺人”的水晶球——為統(tǒng)帥和指揮官出謀劃策的人工智能系統(tǒng)。

“如果人工智能驅(qū)動(dòng)的響應(yīng)速度超越人類決策速度，人類在國家防務(wù)中的作用可能淪為次要角色，甚至淪為一個(gè)形式。”這是美國前國務(wù)卿亨利·基辛格在晚年最后一本書《人工智能時(shí)代》中傳達(dá)的警告。

一邊是烽煙四起的中東，一邊是指揮室里屏幕上的地圖，乃至跳出來的一行行代碼。后世歷史學(xué)家如果還有機(jī)會(huì)追究任何戰(zhàn)爭責(zé)任的話，那么他們可能會(huì)被“人工智能決定”這樣的借口搪塞。

“上帝視角”

當(dāng)?shù)貢r(shí)間2月28日上午9時(shí)40分，美以空軍準(zhǔn)時(shí)傾巢而出。當(dāng)時(shí)，伊朗最高領(lǐng)袖哈梅內(nèi)伊從深山里的地下掩體返回德黑蘭住處，跟國安幕僚開會(huì)，從而把自己暴露在外國火力的短暫窗口中。

一開戰(zhàn)就把哈梅內(nèi)伊和一眾國安決策層炸死，也就成為了整個(gè)“史詩震怒行動(dòng)”的序幕。

如此直接而快速地?cái)厥讛硣啄X，在過去戰(zhàn)爭歷史中幾乎前所未見。“假如二戰(zhàn)剛開始第一天希特勒就被炸死了，往后會(huì)有什么發(fā)展？”英國時(shí)政博主、前國際合作與發(fā)展大臣羅里·斯圖亞特這樣說。

“史詩震怒行動(dòng)”開始不過4-5天，伊朗以及其支持的黎巴嫩真主黨等組織領(lǐng)導(dǎo)人，以小時(shí)為單位迅速在人間消失。殺死哈梅內(nèi)伊的同一天，參加會(huì)議的伊朗最高國家安全委員會(huì)秘書阿里·沙姆哈尼和國防部長納西爾扎德等40名高官被殺。

伊朗最高領(lǐng)袖哈梅內(nèi)伊在美國和以色列對伊朗的襲擊中遇害/圖源：新華社

特朗普一天后宣稱，其他能夠潛在接替哈梅內(nèi)伊的二號和三號人物相繼被殺死。伊朗的其他軍政高層更在開戰(zhàn)兩天內(nèi)遭團(tuán)滅：從伊朗陸軍司令到革命衛(wèi)隊(duì)武裝司令逐一遇害。黎巴嫩真主黨在宣布針對以色列參戰(zhàn)后，其領(lǐng)導(dǎo)人Reda Khazai就被以色列國防軍斬首。

斬殺如此神速，背后除了有長期鋪墊的情報(bào)網(wǎng)絡(luò)之外，推算其生活和工作出行模式的AI工具，也非常重要。根據(jù)美國媒體的報(bào)道，執(zhí)行“史詩震怒行動(dòng)”期間，美軍使用了由服務(wù)商Anthropic提供的大語言模型Claude輔助決策。

讓AI加入作戰(zhàn)輔助，為的是給美軍制造一個(gè)“上帝視角”：通過實(shí)時(shí)數(shù)據(jù)分析能力，可將海量分散的數(shù)據(jù)流整合到單一、統(tǒng)一的界面中。坐在電腦前的操作員，能從整個(gè)伊朗乃至中東的宏觀戰(zhàn)略全局，一下子放大到刺殺對象的個(gè)體細(xì)節(jié)，坐什么車，穿什么衣服，跟什么人會(huì)面。

也就在2月28日上午，美以軍方在伊朗164.5萬平方公里的國土上，快速鎖定哈梅內(nèi)伊一個(gè)人的出沒地點(diǎn)。

Anthropic網(wǎng)站/圖源：視覺中國

在過去，要追蹤刺殺對象的行蹤，判斷他的生活軌跡和行為模式，需要情報(bào)人員花大量的時(shí)間進(jìn)行收集和比對。通過AI系統(tǒng)，這個(gè)漫長的比對過程可以完全省略，從而加快鎖定刺殺對象的時(shí)間。

連同哈梅內(nèi)伊遇刺的，還有他的妻兒孫子。這種清除模式，也跟過去以色列國防軍在加沙地帶針對刺殺目標(biāo)的AI工具“Lavender”使用的策略有點(diǎn)相似：刺殺目標(biāo)進(jìn)入自家門口跟家人團(tuán)聚的時(shí)刻，比在戰(zhàn)壕中作戰(zhàn)時(shí)，更加容易被鎖定殺死。這就是所謂的“爸爸在哪兒”運(yùn)算模式。也就是這個(gè)模式，在刺殺作戰(zhàn)對象的同時(shí)殺死了其家人和鄰居，在加沙地帶導(dǎo)致了大量的無辜人員傷亡。

兵貴神速。這次戰(zhàn)爭，史無前例地實(shí)現(xiàn)了快速把敵軍乃至敵國的領(lǐng)導(dǎo)層消滅這個(gè)在過去難以想象的戰(zhàn)術(shù)目標(biāo)。也許是從第一次實(shí)戰(zhàn)成果中嗅出某些味道，資本已經(jīng)聞風(fēng)而動(dòng)。在開戰(zhàn)后的周一，也就是開戰(zhàn)后的第一個(gè)交易日，Palantir等多個(gè)有機(jī)會(huì)參與美國防務(wù)投資的人工智能公司股價(jià)應(yīng)聲而起。

隨著人工智能從輔助完成繁瑣工作走向作戰(zhàn)指揮，使用的底線和權(quán)限，也在美國政商界惹起爭議。

“以人工智能優(yōu)先”

“加速前沿模型的實(shí)驗(yàn)進(jìn)程”“消除人工智能部署的官僚障礙”“優(yōu)先發(fā)展計(jì)算與數(shù)據(jù)領(lǐng)域的非對稱優(yōu)勢”“將人工智能融入核心決策循環(huán)”……這是美國戰(zhàn)爭部網(wǎng)站在今年1月9日發(fā)布的人工智能戰(zhàn)略文件。這份文件的核心，就是要把美軍打造為“以人工智能優(yōu)先的作戰(zhàn)軍隊(duì)”。

這份文件，相當(dāng)于宣告了美國的軍工復(fù)合體在特朗普第二任期完全投入到人工智能的競賽中。在針對伊朗發(fā)動(dòng)軍事打擊前一天，特朗普和美國戰(zhàn)爭部就跟人工智能承包商Anthropic展開了一場隔空罵戰(zhàn)。

開戰(zhàn)稍早幾個(gè)小時(shí)前，美國戰(zhàn)爭部跟Anthropic的外包談判宣布破裂。戰(zhàn)爭部部長海格塞斯部長在社交媒體上認(rèn)定Anthropic為“供應(yīng)鏈風(fēng)險(xiǎn)”，切斷與其合作。特朗普也同時(shí)宣布，讓所有聯(lián)邦機(jī)構(gòu)在六個(gè)月內(nèi)清退Anthropic的所有外包服務(wù)。

特朗普和戰(zhàn)爭部部長海格塞斯（右）/圖源：新華社

戰(zhàn)爭部對人工智能外包商的要求，包括他們給出的模型能夠用于“所有合法目的”。而Anthropic堅(jiān)持要在合同中設(shè)置“不能將AI用于大規(guī)模監(jiān)視公民”，“也不能在無人參與的情況下部署到自主武器中”等條款。而五角大樓的回應(yīng)則是，沒有任何私營公司可以決定其工具如何被合法使用。

特朗普在社交媒體上把Anthropic形容為“某些失控的激進(jìn)左翼人工智能公司，由一群根本不懂現(xiàn)實(shí)世界的人所掌控”。

換句話說，特朗普和海格塞斯對人工智能參與作戰(zhàn)的終極目標(biāo)就是——能直接幫忙打仗，能決定扣動(dòng)機(jī)槍殺人的時(shí)機(jī)。在Anthropic的創(chuàng)辦人達(dá)利歐·奧莫戴看來，這已經(jīng)違反了公司創(chuàng)辦之初的原則。在Anthropic出局美國戰(zhàn)爭部訂單后，其名下的產(chǎn)品Claude竟然在社交媒體上火了一陣子。

Anthropic的創(chuàng)辦人達(dá)利歐·奧莫戴/圖源：視覺中國

在相當(dāng)一部美國公眾看來，戰(zhàn)爭部的這一做法，相當(dāng)于把當(dāng)年美國在阿富汗和伊拉克使用Palantir系統(tǒng)的那一套監(jiān)控模式，套用在自己的身上。

而且，讓人工智能在使用武力時(shí)擁有更多的自主權(quán)限，也很有可能觸發(fā)不可收拾的局面。“戰(zhàn)爭是政治的延續(xù)”——從古至今，人類之間的戰(zhàn)爭，一直是人作為戰(zhàn)事的最終決定者。但如果有一天人主動(dòng)把這個(gè)位置讓給人工智能，是否最終變成人工智能主導(dǎo)戰(zhàn)事？

基辛格的警告

如果人類在熱戰(zhàn)中拍板決定的決策權(quán)，拱手讓給人工智能，可以設(shè)想一下，到了某個(gè)歷史轉(zhuǎn)折點(diǎn)，人工智能的自主意識發(fā)展成熟，自以為以“上帝視角”審視對手的三軍統(tǒng)帥，可能暗中已經(jīng)成為了被人工智能反過來指揮的一個(gè)棋子。

在跟Anthropic的爭執(zhí)中，海格塞斯和特朗普強(qiáng)調(diào)的是效果和速度；在針對伊朗的軍事行動(dòng)中，獵殺對方領(lǐng)導(dǎo)層講求的是速度。而在美國已故國務(wù)卿基辛格看來，人工智能收集信息并且作出判斷的速度，肯定遠(yuǎn)超人類。

在以色列國防軍“爸爸在哪兒”的策略中，人工智能通過算法認(rèn)定參加家庭聚會(huì)的男人是獵殺對象時(shí)，坐在屏幕前的以色列軍人只有大概20秒時(shí)間去辨別和核準(zhǔn)，然后就按下獵殺的按鈕。在這套流程里，盡管人是最終按下殺人按鈕的主體，但實(shí)際上一整套采集信息和算法判斷的流程，已經(jīng)交給了人工智能。

美國五角大樓/新華社記者 劉杰 攝

而技術(shù)的擴(kuò)散總是攔不住的。正如美國在二戰(zhàn)末年率先研發(fā)出原子彈，不久之后蘇聯(lián)就獲得了相同的技術(shù)那樣，人工智能進(jìn)入多國作戰(zhàn)指揮系統(tǒng)的趨勢，現(xiàn)在看來已經(jīng)難以扭轉(zhuǎn)了。也許，到時(shí)候國與國的戰(zhàn)事也就變成了幾個(gè)人工智能體之間的較量。而這將從根本上改變戰(zhàn)爭的性質(zhì)。

荷蘭歷史學(xué)家魯特格·布萊格曼在《人類——一段有希望的歷史》中認(rèn)為，智人之所以在繁衍上勝過尼安德特人，乃至其他靈長類動(dòng)物，靠的不是體力，不是體積，甚至不是智力，而是人與人之間還存在“善”。

他在書中引用了這樣一個(gè)調(diào)查數(shù)據(jù)：在珍珠港事件中，開火還擊的美國軍人其實(shí)不到一半。這個(gè)調(diào)查的結(jié)論是，在實(shí)際戰(zhàn)爭中，愿意扣動(dòng)板門殺戮同類的軍人，比例其實(shí)沒我們想象的高。

而人類之所以進(jìn)化到一定階段后對殺戮感到惡心厭惡，是在數(shù)萬年的演化中，保存了相互關(guān)愛和協(xié)作的傾向。也正是這種傾向，讓智人在眾多靈長類動(dòng)物中脫穎而出。

一旦殺人的任務(wù)真的有一天完全交給“會(huì)打仗的人工智能”，那些一串串沒有“善”的基因的代碼，在對速度和效率的追逐下，將會(huì)有多少碳基活人被人工智能在地球上抹去？

文中配圖部分來源于視覺中國，部分來源于網(wǎng)絡(luò)。首圖為伊朗首都德黑蘭拍攝的濃煙，來源于新華社