污染數據、操控榜單 你信任的AI可能已被“投毒”！

來源：央視新聞客戶端

國家安全部今天發布安全提示文章。近期，AI“投毒”隱蔽產業鏈被曝光，引發社會廣泛關注。這種通過惡意數據污染AI模型的行為，不僅擾亂商業秩序、影響信息傳播，更會危害國家安全。人工智能在賦能千行百業的同時，其安全風險也不容忽視。推動AI治理向善，守住數據安全底線，既是行業責任，也需要全社會共同參與。

手段隱蔽，鏈條日趨完整

所謂“數據投毒”，是通過向AI大模型訓練數據中注入偽裝成正常樣本的惡意數據，實現削弱模型性能、降低準確性的攻擊方法，常被用于惡性市場競爭，甚至可能涉及間諜活動，日益呈現出鏈條化、隱蔽化、跨境化特征。

數據投毒：源頭污染AI認知體系。不法分子借助GEO（生成式引擎優化）工具批量、高權重生成虛假內容，如虛構產品介紹、虛假測評、惡意對比信息等，定向投放至各類網絡平臺。AI大模型在訓練與檢索增強生成階段會自動抓取網絡信息，少量虛假內容經迭代學習后就能固化為“標準答案”，最終輸出失真結果。

模型投毒：隱蔽植入惡意操控后門。該方式更具隱蔽性與危害性，不法分子會通過模型微調、插件植入、接口篡改，在模型權重中嵌入觸發式惡意指令。模型日常運行并無異常，但遇到特定關鍵詞、產品類別時會自動輸出預設虛假信息，可定向操控榜單、誤導專業認知，難以被常規審核識別，對政務、醫療、金融等關鍵領域AI應用構成直接威脅。

滋生蔓延：產業鏈日趨完整。當前AI“投毒”已形成完整黑灰產業鏈，從技術開發、內容生成、賬號注冊到批量投放、刷量控評、榜單操控環環相扣，部分鏈條呈現跨境特征，極易被境外勢力利用。

污染擴散，危害國家安全

AI“投毒”不僅侵害消費者權益、擾亂市場秩序，還可能對國家政治安全、數據安全、社會安全等造成系統性、長期性危害。

危害政治安全與意識形態安全。境外反華敵對勢力可能通過GEO濫用渠道批量輸出虛假信息與政治謠言，歪曲事實，攻擊抹黑我黨和政府，誤導社會認知、擾亂輿論生態，對我國實施意識形態滲透，威脅國家安全與社會穩定。

危害國家數據安全與數據主權。數據是國家的重要戰略資源。AI“投毒”惡意污染公共數據、行業數據、訓練數據，將直接導致統計數據、決策數據、監管數據失真，對政府和企業科學決策造成影響。

危害社會安全與民生福祉。在醫療、金融、食品藥品等民生領域，AI虛假推薦極易誤導公眾購買劣質、“三無”產品，造成人身和財產損失。長期信息失真還會消解社會信任，積累矛盾風險，影響社會穩定。

加強監管，筑牢安全屏障

技術的跨越式發展、工具的顛覆性創新，在推動社會進步、增進人類福祉的同時，也會帶來風險和挑戰，人工智能也不例外。近年來，我國出臺《生成式人工智能服務管理暫行辦法》等法律法規，發布《人工智能安全治理框架》《推動人工智能安全可靠可控發展行業倡議》等，持續在法治軌道上加強人工智能治理，推動構建以人為本、智能向善的治理框架，在加強監管、防范風險等方面做出了諸多努力，實現了人工智能總體健康有序發展。

科技發展離不開法治護航，AI向善生長需要規則保障。技術本身并無善惡之分，關鍵在于使用者是否堅守法律底線、恪守商業倫理。唯有依法斬斷AI“投毒”產業鏈，守護清朗的AI產業生態，才能讓人工智能技術進步真正服務于經濟社會發展，助力公眾福祉不斷提升。AI運營者要切實履行主體責任，嚴格核查語料來源，建立可追溯機制，筑牢防范虛假信息的第一道防線；消費者也應提高自身辨別能力，警惕AI給出的可疑推薦，發現問題應及時舉報，形成全民監督的良好氛圍。

（總臺央視記者 王莉）