不戰(zhàn)而屈人之兵？人工智能“精準洗腦”的真相：比起真槍實彈可怕

當你在靠近某家商店時，手機上突然彈出的一張優(yōu)惠券或許會讓你感到貼心與便利。這些能夠精準捕捉你的地理位置并誘導消費的人工智能系統(tǒng)，其背后的邏輯遠不止于商業(yè)促銷。

它們同樣能夠被用于推斷你內(nèi)心的恐懼、你的信任偏好，以及你更容易被哪種敘事所打動。驅(qū)動精準營銷的人工智能算法，正日益展現(xiàn)出其左右人類行為的驚人能量。

這種技術(shù)能力的飛躍引發(fā)了人們的深切擔憂：各國政府可能會如何利用這些工具，來重塑公民對戰(zhàn)爭與沖突的看法。在信息迷霧中，冷靜審視權(quán)力機構(gòu)如何利用這些系統(tǒng)，或許能幫助個人與國家在充滿不確定性的未來中找準航向。

作為一名安全研究員，我致力于探索并刻畫技術(shù)對個人和社會構(gòu)成的風險。人工智能介入后的影響力運作，不僅引發(fā)了關于人類行使自由意志能力的討論，更在深層意義上動搖了社會辨別“正義戰(zhàn)爭”與“非正義戰(zhàn)爭”的邏輯根基。

人工智能與基于位置的服務深度融合，正在推開營銷領域的新大門。所謂的基于位置的服務，是利用室內(nèi)傳感器、手機信號塔和衛(wèi)星提供的地理數(shù)據(jù)，在特定區(qū)域內(nèi)精準投放商品信息或服務，這種能力在技術(shù)上被稱為“地理圍欄”。

當營銷公司將海量的個人行為數(shù)據(jù)——包括人們通過移動應用程序主動分享或在無意中泄露的信息——整合在一起時，他們就能根據(jù)潛在客戶的喜好、行為和言論進行精準的受眾分層。通過對用戶數(shù)據(jù)的深度挖掘，營銷系統(tǒng)能夠構(gòu)建出極具辨識度的個體畫像。

一旦這套系統(tǒng)掌握了用戶的實時位置，并對其喜好做出了準確推斷，它就能設計出極具針對性的優(yōu)惠券或廣告。這種策略不僅能影響個人的決策，甚至能左右整個群體的行為傾向。人工智能與地理圍欄、受眾分層的結(jié)合，使得超大規(guī)模的個性化營銷達到了前所未有的深度。

這種技術(shù)的演進與戰(zhàn)爭又有什么關系？事實上，利用心理博弈來贏得戰(zhàn)斗或消弭戰(zhàn)爭，其歷史與武裝沖突本身一樣悠久。公元前496年去世的古代軍事家、哲學家孫子曾在其著作中寫道：“是故百戰(zhàn)百勝，非善之善者也；不戰(zhàn)而屈人之兵，善之善者也。”

從孫子的時代至今，高明的軍事戰(zhàn)略家們始終致力于通過“反射控制”來降低戰(zhàn)斗風險。所謂反射控制，即引導對手心甘情愿地做出最符合戰(zhàn)略家利益的行動，從而達到控制局勢的目的。

在數(shù)字化生存的今天，戰(zhàn)略家們越來越傾向于依賴社交媒體付費廣告、意見領袖、人工智能生成的虛假內(nèi)容，甚至虛假的社交賬號，來誘導公眾輿論向預設的目標傾斜。

這種足以攪動社會認知的權(quán)力及其引發(fā)的爭議，已滲透進近年來的國家大選、國內(nèi)動蕩以及關于結(jié)束烏克蘭沖突的談判中。

國家情報總監(jiān)辦公室外國惡性影響中心的前主任杰西卡·布蘭特曾深入探討過人工智能在外國影響力行動中的角色。與美蘇冷戰(zhàn)時期的宣傳手段不同，現(xiàn)代的影響力博弈不再依賴于向大眾廣播單一的信息。

現(xiàn)在的戰(zhàn)略家會同時測試并部署成千上萬種敘事版本，近乎實時地監(jiān)控不同群體的反應，并根據(jù)反饋不斷精煉策略。這些敘事的操縱者并不需要說服所有人，他們只需要在關鍵時刻精準“推動”足夠數(shù)量的人，就足以改變選舉結(jié)果、施壓國內(nèi)政策，甚至引發(fā)族群沖突。

隨著在線影響力運作變得愈發(fā)自動化和個性化，人們越來越難以界定“勸說”的終點與“脅迫”的起點。

如果一個國家的公民可以在沒有受到顯性武力威脅的情況下，被引導至特定的信仰或行為模式，那么民主社會將面臨一個全新的課題：如何區(qū)分傳統(tǒng)意義上的公共溝通與隱蔽的心理操縱，尤其是在沖突動蕩時期。

近期的研究表明，美國民眾對地方新聞來源的信任度普遍高于全國性媒體，盡管這種信任感在所有年齡段中都呈下降趨勢。具有諷刺意味的是，這種信任赤字正被一些無良媒體以各種方式利用，例如生成所謂的“粉紅泥”新聞。

這類新聞由人工智能生成，偽裝成真實的地方新聞機構(gòu)發(fā)布。雖然故事中的技術(shù)細節(jié)可能準確，但其呈現(xiàn)方式卻包裹著隱蔽的政治偏好。人工智能驅(qū)動的宣傳機器直接挑戰(zhàn)了人們評價國家行為的能力，使人們難以清醒判斷自己的國家是否真的在為正義而戰(zhàn)。

傳統(tǒng)的正義戰(zhàn)爭理論假設公民能夠在知情的前提下，對是否發(fā)起戰(zhàn)爭行使同意權(quán)。合法的政治權(quán)威需要一個信息通達的公眾，由他們來決定暴力的使用是否必要且合乎比例。當隱蔽的影響力行動在神不知鬼不覺中左右了人們的觀點，這些系統(tǒng)就威脅到了戰(zhàn)爭正義性的道德前提。

公民現(xiàn)在必須回答一個緊迫的問題：我們究竟希望自己的信息環(huán)境如何演化？是默認欺騙已無處不在，從而接受政府對信息的管控，甚至讓政府利用人工智能敘事作為武器去“搶占真相”？

還是公眾應當接受人工智能干擾帶來的風險，將其視為開放、多元社會中不可避免的代價，并堅信真相應當在透明的辯論中產(chǎn)生，而非受控于強力的監(jiān)管？

那些決定哪張優(yōu)惠券推送到你手機上的系統(tǒng)，正開始塑造危機時刻觸達你、你的社區(qū)乃至整個國家的宏大敘事。意識到這種隱秘的聯(lián)系，是我們決定在算法及其背后的操縱者面前保留多少自主權(quán)的第一步。