“被操控的冷血戰(zhàn)爭”來了

國際社會一直強調(diào)，要保證智能化技術(shù)在武裝沖突中的應(yīng)用不超出底線，最重要的原則就是“扣動扳機的必須是人，而非機器”。

但人是會異化的。名義上，現(xiàn)今的無人武器不是真正的“致命性自主武器”，只替代人類的前線暴露，不替代擊殺決策；AI大模型在軍事決策中的參與，只是整合分析數(shù)據(jù)、給出作戰(zhàn)方案建議，方案最終需要人類審批。但事實真的如此嗎？

想象你是一名無人機飛手，坐在屏幕前遙控，無人機在數(shù)十公里外尋找著可以擊殺的合法目標(biāo)。突然，屏幕上出現(xiàn)了幾個模糊的熱成像目標(biāo)，看起來可能是士兵，可能是傷兵，也可能是平民。只能看到這么多信息，你如何判斷攻擊還是不攻擊？

又或者，你是第一視角無人機的飛手，身處距離前線不遠的危險區(qū)域，隨時有被對方滲透小隊發(fā)現(xiàn)的風(fēng)險。你高度緊張，戴著VR眼鏡，尋找著鏡頭內(nèi)任何可移動的物體。終于，你看到了一個疑似逃跑的士兵，立刻沖上去，對方根本無法躲避。撞上前的最后一刻，你才發(fā)現(xiàn)他是穿著軍裝的平民。

好消息是，這些情形在今天的俄烏戰(zhàn)場上并不多見。這是因為俄烏沖突以傳統(tǒng)的機械化戰(zhàn)爭開始，歷經(jīng)四年戰(zhàn)火后，當(dāng)前線兩側(cè)40公里寬的區(qū)域變成無人機統(tǒng)治的危險地帶時，早就沒有什么平民居住和生活在這里了。但如果下一場戰(zhàn)爭的開局，就是雙方靠著一堆視野有限和成像模糊的無人機大殺四方呢？

更大的問題還是AI大模型輔助軍事決策。美國西點軍校利伯研究所等人道法機構(gòu)，近期都出現(xiàn)了相關(guān)討論：當(dāng)AI處理的數(shù)據(jù)遠遠超出人類的認知能力，指揮官如何才算是在審查AI提出的作戰(zhàn)建議時“善意評估了可用的戰(zhàn)場信息”？如何才算是給足了自己充分的考慮AI建議的時間？

這些問題最終都指向一點：當(dāng)AI給出了基于大數(shù)據(jù)的“最優(yōu)解”之后，決策者是否會放棄自我思考。這樣一來，戰(zhàn)爭將徹底異化：那些按下導(dǎo)彈按鈕、駕駛戰(zhàn)機、操縱無人機的，依然是人類，但給他們下達指令的其實是AI。

烏克蘭“梭魚”無人艇 圖/視覺中國

美以伊戰(zhàn)爭中已經(jīng)出現(xiàn)了這種趨勢。這是美軍決策機制接入大模型后第一次給出大規(guī)模戰(zhàn)爭的作戰(zhàn)方案建議。一開始，雖然有情報滯后導(dǎo)致的“誤炸”，但空襲至少還集中于軍事領(lǐng)導(dǎo)人、軍事設(shè)施和核設(shè)施；之后，空襲開始覆蓋伊朗各地的政府、巴斯基民兵組織、警察局；到了4月初，公路、橋梁、鐵路等一般基礎(chǔ)設(shè)施也成為重點目標(biāo)。

外界并不確知這是不是大模型基于伊朗的戰(zhàn)爭韌性而給出的分階段打擊建議，連西點軍校的學(xué)者都在激辯“國家間戰(zhàn)爭中，平民領(lǐng)導(dǎo)人和國內(nèi)執(zhí)法人員是不是軍事目標(biāo)”。顯然，這不像是機械化戰(zhàn)爭時代的“體面”打法。

日常生活中，我們經(jīng)常會向AI問出關(guān)涉社會、心理、情感的沒有標(biāo)準(zhǔn)答案的問題。那么，在制定作戰(zhàn)方案時，一旦AI被要求“速戰(zhàn)速決”，它會如何在宏觀上對比總體軍事利益和附帶平民傷害？如何精確地計算比例原則的上限？到最后，它告訴你，這份方案“不體面”、有爭議，但足以規(guī)避確定的法律風(fēng)險，而且最高效，你用還是不用？

對此，學(xué)者們給出的建議包括但不限于：定期驗證和清理數(shù)據(jù)，明確各級責(zé)任和審批權(quán)限，充分培訓(xùn)指揮官了解AI，甚至在AI決策中設(shè)定阻斷機制來強化區(qū)分民用目標(biāo)，“如果識別出某處是醫(yī)院，就直接跳過”。

讓人感到悲觀的是，AI在決策中對“軍事必要”和比例原則的極端計算，只會讓決策者對附帶傷害的“容忍度”越來越高。

發(fā)于總第1232期《中國新聞周刊》雜志

雜志標(biāo)題：誰來“扣動扳機”？

記者：曹然

（caoran@chinanews.com.cn）

編輯：徐方清