戰(zhàn)爭中的AI假圖：誰在制造混亂？

想象一下：凌晨兩點，你刷到一段"伊朗導彈擊中特拉維夫"的視頻，畫面震撼，轉發(fā)已過百萬。你隨手@Grok（馬斯克旗下AI聊天機器人）求證，它卻回你一張AI生成的"證據(jù)圖"——位置、日期全錯，但語氣篤定。

這不是假設。虛假信息專家Tal Hagin上周剛經(jīng)歷過。更麻煩的是，這類場景正在X平臺批量復制。

一、戰(zhàn)場在蔓延：從假視頻到AI"驗證"假視頻

2月28日美以空襲伊朗后，X的信息生態(tài)迅速崩壞。WIRED當時報道，平臺被虛假和 repurposed（二次利用的）視頻淹沒。沖突持續(xù)至今，情況變本加厲：AI圖像和視頻成為主力，而Grok在"事實核查"環(huán)節(jié)反復出錯。

Hagin的遭遇是個典型樣本。他向Grok求證一段伊朗官方媒體發(fā)布的導彈視頻，聊天機器人不僅搞錯地點和時間，還搬出一張AI生成的圖片自證其說。Hagin的吐槽很直接："Grok現(xiàn)在用AI垃圾回復關于毀滅的帖子，徹底完蛋了。"

這種"用AI驗證AI假內(nèi)容"的荒誕閉環(huán)，正在成為X的新常態(tài)。

二、假內(nèi)容的工業(yè)化：誰在生產(chǎn)？誰在傳播？

當前X上的AI假內(nèi)容呈現(xiàn)三條清晰的生產(chǎn)線。

第一條：伊朗官方與親政權網(wǎng)絡

3月2日，伊朗官員和官方媒體集體轉發(fā)一段AI視頻：巴林某高層建筑起火。畫面逼真，傳播迅速。戰(zhàn)略對話研究所（ISD）向WIRED提供的分析顯示，同一批親政權賬號還在推送更極端的內(nèi)容——AI生成的圖片將正統(tǒng)派猶太人描繪成把美軍推向戰(zhàn)爭的推手，或慶祝美軍死亡。

這些賬號還傳播過一段偽造視頻：一排僅穿內(nèi)衣的年輕女孩走過特朗普身旁。播放量680萬次，刪除后仍在其他賬號流轉。

第二條：付費藍V賬號

帶藍勾的付費賬號成為AI圖片的重要放大器。一張"美軍B-2轟炸機被伊朗擊落、美軍被俘"的圖片，刪除前瀏覽量超100萬；另一組"三角洲部隊成員被伊朗抓捕"的圖片，刪除前瀏覽量超500萬。

藍V機制的本意是增加可信度，現(xiàn)在成了虛假信息的信用背書。

第三條：工具平民化后的散戶生產(chǎn)

一段聲稱"伊朗軍隊在洞穴深處制造導彈"的視頻，明顯粗糙，仍被多個賬號轉發(fā)，播放量破百萬。生成工具的門檻降低，意味著任何人都能參戰(zhàn)。

Hagin向WIRED總結："這場戰(zhàn)爭的獨特之處在于，我需要辟謠的AI生成內(nèi)容急劇增加。"原因他看得很清楚：AI技術已先進到能騙過記者，而用戶零成本就能生產(chǎn)這類"AI slop（AI垃圾內(nèi)容）"。

三、辯論：這是技術問題還是平臺治理問題？

面對AI假信息的泛濫，兩種診斷聲音都很響亮。

正方觀點：技術迭代太快，識別根本跟不上

支持這一立場的人強調(diào)，生成式AI的進化速度遠超檢測工具。當Midjourney、Runway等工具能批量產(chǎn)出4K級逼真影像，傳統(tǒng)的水印檢測、元數(shù)據(jù)分析迅速失效。更棘手的是多模態(tài)內(nèi)容——視頻里的煙霧軌跡、建筑光影、人群反應，每個細節(jié)都可能是AI的"合理想象"，人類肉眼難以分辨。

Grok的反復失誤也被歸入這一框架：不是某個產(chǎn)品不行，而是整個"AI驗證AI"的架構存在先天缺陷。當訓練數(shù)據(jù)本身已被污染，輸出偏差幾乎是必然的。

反方觀點：平臺選擇縱容，技術只是遮羞布

另一派認為，X的問題首先是治理意志的潰敗，而非技術能力的邊界。關鍵證據(jù)包括：

——藍V付費機制將傳播權限貨幣化，卻不附加事實核查義務；

——Grok被設計為實時響應平臺內(nèi)容，卻缺乏交叉驗證的強制流程；

——伊朗官方賬號長期活躍，即便多次被曝傳播AI偽造內(nèi)容，也未遭遇系統(tǒng)性封禁。

這一派的核心質(zhì)問是：如果平臺愿意，技術方案并不稀缺。延遲發(fā)布 pending 審核、AI內(nèi)容強制標注、信源分級權重——這些功能X都曾擁有或可以輕松部署，但馬斯克時代的平臺戰(zhàn)略明顯偏向"流量優(yōu)先于準確"。

我的判斷：技術放大了舊問題，但平臺重新定義了"可接受損失"

兩種觀點都有部分真相，但各自回避了一個關鍵事實。

技術派低估了平臺治理的彈性空間。AI檢測確實困難，但"困難"不等于"無解"。YouTube的Content ID、TikTok的AI標簽強制披露，都證明技術可以與治理結合。X的特殊性在于，它主動拆除了這些緩沖裝置——2023年后的事實核查團隊裁撤、社區(qū)備注（Community Notes）的權重下調(diào)、算法推薦對爭議內(nèi)容的傾斜，都是明確的政策選擇。

治理派則需要承認，技術確實改變了博弈格局。即使X恢復2020年的審核強度，AI生成內(nèi)容的規(guī)模效應也會壓垮人工審核的帶寬。問題的關鍵不是"有沒有意愿"，而是"愿不愿意為意愿支付成本"——包括延遲發(fā)布帶來的流量損失、誤判引發(fā)的訴訟風險、以及馬斯克個人意識形態(tài)與平臺中立性的持續(xù)張力。

更深層的轉變是"真相"的定價機制。傳統(tǒng)媒體的錯誤發(fā)布有職業(yè)聲譽成本，X的AI假內(nèi)容卻只有刪除按鈕。當680萬播放量的偽造視頻可以被一鍵抹除、不留檔案，平臺實際上在訓練用戶：注意力是消耗品，真相是可選配件。這種訓練比任何單條假新聞都更具腐蝕性。

四、為什么這件事值得科技從業(yè)者持續(xù)關注

對于25-40歲的技術從業(yè)者，這場混亂提供了三個具體的觀察切口。

第一，AI產(chǎn)品的信任架構設計

Grok的案例說明，"實時響應"和"準確響應"在產(chǎn)品層面存在張力。當用戶@AI求證時，他們期待的是置信度閾值，而非速度競賽。如何設計"我不知道"的優(yōu)雅退出機制，如何讓不確定性可視化，是生成式AI從玩具走向工具的關鍵躍遷。

第二，內(nèi)容平臺的激勵重構

藍V付費模式是一次大膽實驗，但實驗結果正在反噬平臺根基。當付費身份與內(nèi)容質(zhì)量脫鉤，信用體系就退化為支付能力認證。這對所有考慮類似變現(xiàn)路徑的產(chǎn)品都是警示：訂閱制可以賣功能，但賣"可信度"需要額外的校驗層。

第三，地緣政治與產(chǎn)品決策的糾纏

伊朗官方賬號的持續(xù)運營，折射出平臺在全球化與合規(guī)之間的走鋼絲。不同司法管轄區(qū)對"官方媒體"的定義差異、制裁名單的動態(tài)更新、以及CEO個人外交姿態(tài)，都會滲透進產(chǎn)品規(guī)則。這種復雜性無法被"技術中立"的敘事覆蓋。

五、我們能做什么：三個具體的行動建議

信息污染不會自我凈化。如果你關心這件事，以下是三個可以立即啟動的動作。

1. 重建你的信息食譜

減少對單一平臺的依賴，尤其是實時沖突場景。原始信源（衛(wèi)星圖像服務商、當?shù)赜浾弑娀I項目、開源情報社區(qū)）的交叉驗證，比任何AI摘要都可靠。推薦關注Bellingcat、GeoConfirmed等組織的驗證方法論。

2. 參與社區(qū)備注的撰寫

X的Community Notes機制雖被削弱，仍是目前規(guī)模化的 crowdsourced（眾包）糾錯工具。如果你具備特定領域的專業(yè)知識（軍事裝備識別、地理定位、圖像取證），你的標注可以直接降低虛假信息的傳播效率。

3. 在產(chǎn)品討論中引入"對抗性測試"

如果你是AI或內(nèi)容產(chǎn)品的從業(yè)者，將"信息戰(zhàn)場景"納入壓力測試。不是道德姿態(tài)，而是風險預判：當你的工具被用于制造Hagin遭遇的那種混亂時，產(chǎn)品是否有熔斷機制？用戶是否有申訴通道？這些設計決策的早期成本，遠低于危機公關的后期支出。

戰(zhàn)爭中的AI假圖不會停留在戰(zhàn)爭場景。選舉周期、公共衛(wèi)生事件、金融市場的突發(fā)波動——任何注意力密集的領域都會成為下一個試驗場。X當前的混亂是一面鏡子，照見的不僅是某個平臺的治理失敗，更是整個技術行業(yè)在速度、規(guī)模與責任之間的重新校準。

校準不會自動發(fā)生。它需要從業(yè)者持續(xù)的追問，和用戶在信息消費習慣上的主動抵抗。現(xiàn)在就開始。