人工智能在軍事領域中的認知、自主性和道德責任

2025年10月，美國國防大學國家戰(zhàn)略研究所顛覆性技術與未來戰(zhàn)爭中心的伊莉絲·安內特（Elise Annett）與詹姆斯·焦爾達諾（James Giordano）在《Open Journal of Philosophy》期刊發(fā)表《人工認知的邏輯與邊界：軍事應用的范例》（The Logos and Limits of Artificial Cognition: The Exemplar of Military Use）學術文章。文章立足人工智能系統(tǒng)加速發(fā)展與部署的現(xiàn)實背景，圍繞計算、認知與意識的邊界問題在哲學層面展開深度探析。文章強調，缺乏可驗證的自我反思意識，人工智能便無法滿足真正能動性的存在與倫理條件，其角色應始終局限于人類監(jiān)督與問責框架下的工具屬性，從而為軍事人工智能的發(fā)展與應用劃定了核心邊界。

一、認知的哲學本質與判定標準

（一）笛卡爾“我思故我在”的核心啟示

人工智能的快速發(fā)展引發(fā)了對“機器是否能夠思考”這一根本問題的重新審視。笛卡爾提出的“我思故我在”（cogito, ergo sum）不僅是存在論主張，更確立了自我反思在思維本質中的核心地位——思考的精髓在于對“自身正在思考”的自我認知，即“思維實體”（res cogitans）所具備的自反性確認。這一框架為區(qū)分真正認知與單純計算輸出提供了關鍵標尺：人工智能系統(tǒng)雖然能執(zhí)行邏輯運算、模式識別、語言生成、自適應調整等看似具有認知屬性的任務，但這些過程是否為系統(tǒng)自身所感知，仍是未解之謎。雖然人工智能的計算過程在速度與效率上能對標甚至超越人類認知的某些方面，但卻缺乏存在性的內在維度，即無法形成“我正在思考”的主觀體驗，因此尚未滿足笛卡爾哲學框架下對認知的核心判據(jù)。

（二）認知的核心構成要素

神經科學家安東尼奧·達馬西奧（Antonio Damasio）的研究進一步明確了認知的功能閾值：認知不僅是系統(tǒng)執(zhí)行任務或模擬思維的外在表現(xiàn)，更關鍵在于系統(tǒng)能否對自身運作產生主觀體驗。

文章將真正的認知界定為三大核心要素的集合。一是遞歸自我意識，能夠持續(xù)反思自身的思維過程與狀態(tài)，形成“思考者認知自身在思考”的閉環(huán)；二是指涉主觀性，具備區(qū)分自身內部狀態(tài)與外部世界的能力，能夠將決策與行動置于包含自身在內的框架中進行定位；三是倫理意向性，能夠理解行為的后果與意義，在決策中融入價值判斷與責任考量。

這些要素共同構成了“心智”（mind）的本質，使其區(qū)別于單純由數(shù)據(jù)輸入、算法運算與行為輸出構成的機械系統(tǒng)。正如“擁有大腦，卻成為心智”（has a brain, but is a mind）的論斷所揭示，心智是神經系統(tǒng)在具身化與環(huán)境嵌入過程中，通過感覺、認知與體驗的復雜互動形成的有機整體，而非部件的簡單疊加。當前人工智能雖然在功能上不斷精進，甚至出現(xiàn)能夠追蹤不確定性、實時調整行為的自建模系統(tǒng)，但仍缺乏對自身運作的現(xiàn)象學覺知，尚未跨越從“計算”到“認知”的本質鴻溝。

二、認知與道德能動性的關聯(lián)

道德判斷與倫理推理根植于認知的復雜性，其核心并非孤立的邏輯運算，而是在記憶、不確定性、可能性與意義協(xié)商的動態(tài)關系中形成的關聯(lián)過程。哲學家丹尼爾·丹尼特（Daniel Dennett）提出的“有能力而無理解力”（competence without comprehension）精準概括了當前人工智能的局限：人工智能能夠高效執(zhí)行復雜任務（具備能力），但無法真正理解自身行為的本質、歸屬及后果（缺乏理解力），因此難以形成真正的道德認知與倫理決策能力。

道德能動性有兩大前提：一是能夠反思行為后果，不僅關注外部影響，更能關聯(lián)自身的存續(xù)與發(fā)展進行考量；二是能夠在具體情境中為自身決策承擔責任，將行為置于價值框架中進行權衡。這要求主體必須具備指涉主觀性與倫理意向性，能夠在人際網(wǎng)絡、分享理解與責任關系中開展倫理審議（ethical deliberation）。

將道德判斷委托給人工智能并非中性行為，而是賦予其道德責任的過程。在治理、戰(zhàn)爭、醫(yī)療等具有重大道德權重的領域，人工智能的介入可能導致有意識的集體審議過程被無自覺的機械決策取代，進而侵蝕倫理決策的本質根基。文章強調，關鍵問題并非人工智能能否變得與人類相似，而在于人類是否會將認知過程及相應的后果責任拱手讓渡給人工智能，這一趨勢可能會導致倫理框架崩塌。

三、軍事人工智能應用的核心倫理挑戰(zhàn)

軍事領域對迭代自主性人工智能系統(tǒng)的探索與整合，已遠超單純的技術革新范疇，而是對倫理、責任與能動性的根本性重構。人工智能系統(tǒng)在速度與精度上的優(yōu)化特性，使其在涉及武力使用與致命行動的決策任務中呈現(xiàn)出顯著吸引力，但同時也催生了深刻的認知與倫理問題，核心聚焦于 “責任鴻溝”（responsibility gap）——隨著自主系統(tǒng)具備自我導向行動能力，意圖、行動與后果的歸屬從傳統(tǒng)指揮鏈中脫離，導致道德與法律責任的歸屬變得模糊、分散甚至無法追溯。

（一）行動與責任的分離

人類決策的核心特征在于對行動后果的預判與責任承擔，決策者作為道德主體，其行為始終受反思、覺知與倫理責任的引導。而自主軍事人工智能系統(tǒng)的決策僅基于算法優(yōu)化效率的目標，缺乏對行為倫理權重的內在認知，無法承擔道德責任。在人工智能武器系統(tǒng)的指揮與控制中，人類干預的程度與時效性存在差異，當系統(tǒng)被授權執(zhí)行致命行動時，可能出現(xiàn)“行動由機器發(fā)起、責任卻無人承擔”的倫理真空，這一狀態(tài)嚴重背離了戰(zhàn)爭行為的責任倫理根基，降低了軍事問責制的核心價值。

（二）認知參與與倫理后果的脫節(jié)

人類與世界的認知互動具有反思性、適應性與模糊性容忍度，決策過程始終伴隨著對不確定性的權衡、對復雜情境的適配以及對后果的審慎考量，這種認識論層面的深度參與是承擔倫理責任的前提。而人工智能的認知模式本質上是技術性的，為了最小化不確定性、優(yōu)化預設目標，其運作僅遵循預設規(guī)則，缺乏對戰(zhàn)爭情境中倫理維度的敏感性——如對比例原則的靈活應用、非戰(zhàn)斗人員保護的細微考量、意外后果的道德權衡等。人工智能雖然能提升軍事行動的戰(zhàn)術效率，卻可能因認識論層面的局限導致倫理后果被忽視，進而破壞戰(zhàn)爭行為正當性的核心基礎。

（三）沖突升級的潛在風險

自主軍事人工智能系統(tǒng)的部署可能降低沖突發(fā)起的門檻，使軍事行動脫離約束。不同國家或組織的人工智能系統(tǒng)可能基于不同的倫理預設與規(guī)則體系開發(fā)，缺乏規(guī)范性標準的統(tǒng)一性與教義的一致性，這一現(xiàn)狀可能加劇倫理觀念相悖的人工智能系統(tǒng)間的對抗風險，進而引發(fā)沖突升級，最終導致難以預估的人類代價。

四、軍事人工智能的合理定位與治理方向

文章明確主張，在人工智能能夠實質性參與定義道德決策的遞歸、分析情境敏感情況的過程之前，其在軍事領域的角色應被嚴格限定為“人類監(jiān)督與控制下的工具”，而非獨立的決策者或行動者。軍事決策本質上是倫理行為，深深植根于歷史先例、文化傳統(tǒng)與價值判斷，必須基于對后果的充分考量而非脫離情境的機械執(zhí)行。

有效的軍事人工智能治理需要跨學科的協(xié)同推進，整合倫理學家、軍事戰(zhàn)略家、技術專家與哲學家的智慧，抵制單純追求速度與效率的技術誘惑，重申道德判斷的核心地位。具體路徑包括三方面：一是開展實證研究，探究社會、指揮官與作戰(zhàn)人員對軍事人工智能決策的解讀與響應機制；二是保持政策與準則的靈活性，構建能夠適應技術發(fā)展的動態(tài)倫理框架，充分考量道德決策中的不確定性因素；三是強化人類在決策鏈中的核心作用，明確人類監(jiān)督與問責的具體邊界與實施機制，避免責任模糊化。

當前美國國防部與北約已出臺相關政策文件，為軍事人工智能的發(fā)展奠定了初步基礎，但仍需進一步細化倫理規(guī)范與責任劃分，確保技術進步不以犧牲道德責任與倫理操守為代價。

五、結語

人工智能技術雖然展現(xiàn)出強大的功能潛力，卻始終籠罩在“偽理解”的陰影之下——它能夠模擬人類判斷卻無法真正擁有，能夠計算卻缺乏良知，能夠執(zhí)行卻毫無共情，其能動性本質上是一種幻覺。這一特征在軍事領域尤為危險，因為戰(zhàn)爭中的武力使用、致命行動、正義準則與記憶傳承等核心要素，遠超算法所能涵蓋的范疇，需要人類的道德反思與價值判斷作為根本支撐

免責聲明：本文轉自啟元洞見。文章內容系原作者個人觀點，本公眾號編譯/轉載僅為分享、傳達不同觀點，如有任何異議，歡迎聯(lián)系我們！

研究所簡介

國際技術經濟研究所（IITE）成立于1985年11月，是隸屬于國務院發(fā)展研究中心的非營利性研究機構，主要職能是研究我國經濟、科技社會發(fā)展中的重大政策性、戰(zhàn)略性、前瞻性問題，跟蹤和分析世界科技、經濟發(fā)展態(tài)勢，為中央和有關部委提供決策咨詢服務。“全球技術地圖”為國際技術經濟研究所官方微信賬號，致力于向公眾傳遞前沿技術資訊和科技創(chuàng)新洞見。

地址：北京市海淀區(qū)小南莊20號樓A座

電話：010-82635522

微信：iite_er