當AI生成視頻被清晰標注“人工智能制作”時,觀眾是否還會將其信以為真?答案令人憂心忡忡——在一場針對烏克蘭的定向信息行動中,即便帶有明確的免責聲明,AI假視頻仍被大量用戶當作真實內容共情、傳播,甚至成為親俄反烏敘事的“擴音器”。這一現象不僅彰顯了生成式AI在信息戰中的驚人威力,更無情撕開了平臺內容治理與用戶媒介素養的雙重短板。
近期,有研究團隊對一個疑似關聯俄羅斯信息行動的YouTube頻道@ЗСУ2026展開深度剖析。該頻道刻意模仿烏克蘭軍事象征,自2025年12月30日創建以來,短短不到三周便收獲4.6萬訂閱者,81條AI生成視頻累計獲得超2600萬次觀看,成為俄烏信息戰中AI合成內容的典型樣本。
![]()
該頻道所有視頻均為AI生成,制作模型的水印被刻意模糊或去除,僅一條視頻留有SORA標志,頻道簡介中也明確標注“視頻為AI制作、內容僅作娛樂、角色均為虛構”。然而,就是這樣一個“明牌”的假視頻頻道,卻讓大量用戶陷入認知誤區,以真實的情感與行動,為虛假內容的傳播推波助瀾。
研究團隊收集并分析了該頻道自創建至2026年1月19日的18522條評論,這些評論來自約12000名獨立用戶,數據背后的真相遠比想象中更為嚴峻。其中,40%的評論對視頻中塑造的烏克蘭士兵角色表達支持、感激與同情,祝福、祈禱、感謝服役的話語俯拾皆是;7%的評論為純粹的表情符號,成為非語言層面的情感認同表達。
與之形成鮮明對比的是,僅有13%的評論明確指出視頻是AI生成的虛假內容。更關鍵的是,這些揭穿真相的“糾正性評論”,幾乎被算法與流量徹底淹沒:近五分之一的糾正評論隱藏在討論帖回復之中,未展開討論的用戶根本無從察覺;在獲得超100個點贊的128條熱門評論里,僅有1條對內容真實性提出質疑,而52條高贊評論均為針對烏克蘭議員的激烈言辭,恰好契合了俄羅斯信息行動的核心敘事導向。
更值得關注的是,糾正評論的出現頻率,還與視頻的敘事傾向高度相關。在50條無明顯親俄敘事的“中立”假視頻下方,幾乎看不到任何糾正評論,這類展現烏克蘭士兵戰壕日常的視頻,反而收獲了大量用戶的支持留言;而在涉及俄羅斯戰俘、議員“支持烏克蘭”的6條假視頻中,提及AI生成的評論占比高達34%,用戶對這種“反常”的樂觀敘事更易保持警惕;在宣傳俄羅斯腐敗、動員虛假信息的25條視頻中,此類糾正評論僅占17%。
這場由假視頻引發的互動中,不同性別的用戶表現也呈現出顯著差異。研究團隊通過用戶名推斷評論者性別后發現,61%的可識別評論來自女性,21%來自男性,18%的評論者性別無法判斷。女性用戶更傾向于發布正面評論,對視頻中的士兵角色表達同理心與支持;男性用戶則對“中立”視頻的積極反應相對較低,更關注涉俄或親俄敘事的相關內容;而明確指出視頻為AI生成的評論,男女發布比例大致相近。
除了真實用戶的無意識參與,該頻道的快速走紅,還暗藏著明顯的人工放大痕跡,本質上是一場有組織、有協同的信息操縱行動。
數據顯示,該頻道5%的評論來自過去100天內創建的607個新賬號,僅2026年1月就新增202個。這些新賬號正是激進親俄言論的主要來源,不僅喊出“讓議員上前線”等極端口號,甚至發布“少說多槍”等暴力呼吁。與此同時,頻道內有215名評論者在不同視頻下發布5條以上評論,其中僅有12人提及視頻為AI生成。
更令人懷疑的是,不同用戶在不同時間、不同視頻下,會重復發布帶有特殊標點的相同評論,甚至有2017年注冊的老賬號也參與其中,這背后大概率是自動化或半自動化賬號的協同操作。不過即便如此,研究團隊判斷,機器人或協同操作行為的評論占比不超過10%,也就是說,推動這些假視頻廣泛傳播的核心力量,仍是不知情的普通真實用戶。
生成式AI的飛速發展,已將信息戰帶入“低成本、高迷惑、廣傳播”的新階段,而這場AI假視頻引發的傳播實驗,也為所有平臺與用戶敲響了警鐘。
YouTube首席執行官早已將治理“AI不良內容”列為2026年公司的優先事項,但現實情況是,即便平臺設置了AI標簽、頻道標注了免責聲明,這些“透明度提醒”仍常常被用戶忽視——大多數用戶通過算法推薦的視頻流瀏覽內容,根本不會留意簡介中的免責聲明,平臺的標簽預警幾乎形同虛設。
更值得警惕的是,實驗研究已證實,即便觀眾被明確告知視頻為深度偽造內容,仍會依賴視頻呈現的信息做出判斷。這意味著,單純的標簽標注、內容聲明等“被動治理”手段,早已無法應對AI合成內容的傳播攻勢,標簽優化與政策完善固然必不可少,但顯然遠遠不夠。
![]()
從俄烏信息戰中的這一典型案例,我們不難發現,AI合成媒體正逐漸成為信息操縱的新型利器:它能夠精準契合特定群體的情感訴求,以逼真的畫面與敘事引發情感共鳴,即便帶有“虛假標識”,也能輕易突破用戶的認知防線;而算法的推薦邏輯、平臺治理的滯后性,進一步放大了虛假內容的傳播效應,讓真實用戶淪為信息操縱的“無意識推手”。
對于平臺而言,亟需跳出“僅靠標注”的傳統治理思維,建立AI合成內容的全鏈路檢測機制,從內容生成、上傳、推薦到傳播的各個環節,實現多維度識別與限流;同時優化算法邏輯,讓糾正性信息獲得更合理的曝光機會,打破虛假內容的傳播閉環。
而對于每一位普通用戶而言,這更是一場媒介素養的嚴峻考驗。在AI能夠以假亂真的時代,“眼見為實”早已成為過去時,面對網絡上的各類內容,尤其是帶有強烈情緒導向的視頻,多一份警惕、多一次求證,關注內容來源、查閱詳細聲明,才是抵御虛假信息的第一道,也是最為重要的一道防線。
畢竟,AI可以生成虛假的畫面,卻不應裹挾用戶的真實情感成為信息戰的“武器”;技術的進步值得期待,但更不能讓技術的漏洞,淪為虛假信息滋生的溫床。信息戰的新戰場已然開啟,平臺的治理升級、用戶的素養提升,已然刻不容緩。
合作電話:18610811242
合作微信:aqniu001
聯系郵箱:bd@aqniu.com
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.