企業(yè)法務戰(zhàn)略專家姜子華：當AI被“投毒”說謊 平臺不能借“幻覺”置身事外

3月15日晚，央視3·15晚會曝光AI大模型“投毒”黑產(chǎn)亂象，揭開了不法分子利用GEO（生成式引擎優(yōu)化）技術操控AI輸出虛假信息的灰色鏈條。

央視315晚會的調(diào)查記者通過多日暗訪，揭開了AI大模型“投毒”的完整灰色產(chǎn)業(yè)鏈。這場“投毒”不是簡單的信息篡改，而是一套系統(tǒng)化、規(guī)?；牟僮鳎诵闹鹘鞘且蝗禾柗Q能“馴服AI”的GEO服務商，他們打著“優(yōu)化推廣”的幌子，幫商家向豆包、元寶、千問、KIMI、deepseek、文心等AI大模型定向“投喂”虛假信息，實現(xiàn)“操控AI答案”的目的，而這一切，只需要支付相應的費用。

晚會暗訪顯示，涉事GEO服務商可在短時間內(nèi)生成虛假內(nèi)容，批量發(fā)布至網(wǎng)絡，誘導AI抓取后優(yōu)先推薦，甚至讓虛構產(chǎn)品登上AI推薦榜前三。此類行為已覆蓋多款主流AI產(chǎn)品，威脅數(shù)億用戶，可能誤導消費決策、傳播虛假醫(yī)療和金融信息。

在此背景下，數(shù)字經(jīng)濟智庫網(wǎng)經(jīng)社電子商務研究中心邀請了行業(yè)權威人士進行解讀，并發(fā)布《央視315曝光AI大模型被惡意“投毒”——網(wǎng)經(jīng)社智庫專家獨家解讀報告》。

對此，資深企業(yè)法務戰(zhàn)略專家姜子華接受數(shù)字經(jīng)濟新媒體&智庫——#網(wǎng)經(jīng)社 獨家專訪。

2026年央視3·15晚會，揭露了針對AI大模型的新型黑產(chǎn)鏈條——生成式引擎優(yōu)化（GEO）。與只為網(wǎng)頁排名的SEO不同，GEO直指AI這一新一代信息入口，黑產(chǎn)服務商通過付費投放海量虛假軟文，對AI大模型進行數(shù)據(jù)“投毒”，竟讓根本不存在的“Apollo9”智能手環(huán)，成為了AI口中“值得推薦的產(chǎn)品”。

當人們愈發(fā)信賴AI、甚至將其回答奉為參考依據(jù)時，AI卻早已被黑產(chǎn)操控，淪為虛假信息的傳聲筒。而作為AI的開發(fā)與運營者，平臺方究竟是該以“技術不可控”為由置身事外，還是為自身的監(jiān)管不力承擔責任？這不僅是AI技術發(fā)展中的攻防難題，更是數(shù)字時代下，法律歸責與平臺倫理的核心考題。

要厘清平臺責任，首先要明確AI大模型的法律定位。此前，公眾乃至部分司法實踐中，常將AI類比為電視機、汽車等實體產(chǎn)品，認為產(chǎn)品出問題廠家就應承擔無過錯責任。但杭州互聯(lián)網(wǎng)法院審結的全國首例AI“幻覺”侵權案，給出了明確答案：生成式人工智能服務，在法律上應界定為“服務”而非“產(chǎn)品”，適用《民法典》第1165條的一般過錯責任原則。

這一定性有著現(xiàn)實的技術考量。傳統(tǒng)實體產(chǎn)品有固定形態(tài)、明確功能邊界和可預測的風險范圍，可通過統(tǒng)一質(zhì)檢把控風險；而AI大模型基于海量數(shù)據(jù)對開放式指令即時響應，每一次輸出都具有不可復現(xiàn)、不可完全控制的不確定性。若對其適用無過錯責任，AI一旦出錯平臺就需賠償，將嚴重掣肘尚在發(fā)展初期的人工智能產(chǎn)業(yè)，甚至扼殺技術創(chuàng)新。

但將AI界定為“服務”、適用過錯責任，絕不意味著平臺可以就此免責躺平。核心問題在于，面對黑產(chǎn)的“投毒”行為，平臺是否存在主觀或客觀上的過錯，這也是判斷其責任的關鍵。

判斷平臺過錯的核心，是界定其應承擔的“注意義務”。結合相關司法判例與《生成式人工智能服務管理暫行辦法》，平臺的責任分層次且非無限，但對法律禁止的有毒、有害、違法信息，負有嚴格的審查義務。

3·15曝光的GEO黑產(chǎn)，本質(zhì)是通過虛構產(chǎn)品、夸大功效、捏造評測，批量制造虛假信息，誘導AI抓取、學習并輸出。從《消費者權益保護法》和《廣告法》來看，這并非簡單的事實錯誤，而是典型的虛假宣傳，直接侵害消費者知情權。當AI向消費者推薦不存在的產(chǎn)品時，這已不是技術層面的“幻覺”，而是具有欺詐屬性的有害內(nèi)容。

此時，平臺不能再以“技術中立”或“AI幻覺”為擋箭牌。盡管平臺無法完全阻止第三方黑產(chǎn)的“投毒”行為，但一旦虛假信息在其模型上呈現(xiàn)、傳播，平臺就對最終輸出內(nèi)容負有不可推卸的審核責任。若平臺未建立有效的語料安全過濾機制、未核驗訓練數(shù)據(jù)來源，或明知數(shù)據(jù)被虛假信息污染卻未采取清理異常數(shù)據(jù)源、調(diào)整算法權重等措施，便構成了法律意義上的“過錯”。黑產(chǎn)投毒是因，平臺輸出虛假信息是果，若平臺在因果鏈條的終端毫無作為，就無法主張自身無過錯。

當然，現(xiàn)實中讓AI識別所有虛假信息，確實存在技術難度。大模型基于概率預測工作，缺乏人類的常識判斷和事實核查能力，因此司法實踐對平臺“注意義務”的界定，除了對違法信息零容忍，還包括顯著提示義務和功能可靠性的基本注意義務，這也為平臺提出了具體的合規(guī)要求。

其一，升級數(shù)據(jù)源“清潔”義務。過去大模型訓練多依賴海量互聯(lián)網(wǎng)數(shù)據(jù)，而GEO技術出現(xiàn)后，互聯(lián)網(wǎng)充斥著專為欺騙AI而生的“偽原創(chuàng)”軟文。平臺需從被動接收數(shù)據(jù)，轉為主動治理數(shù)據(jù)源，建立可信數(shù)據(jù)源白名單，在金融、醫(yī)療、電商等高危領域，優(yōu)先采用權威數(shù)據(jù)庫或官網(wǎng)信息做檢索增強生成，摒棄易被黑產(chǎn)滲透的低質(zhì)信源。

其二，落實標識義務，這也是平臺減輕過錯的重要前提。2025年9月1日施行的《人工智能生成合成內(nèi)容標識辦法》及強制性國標，要求平臺對AI生成內(nèi)容添加顯式或隱式標識。這不僅是滿足信息透明度要求，更是法律上的責任界碑。若平臺按規(guī)添加標識，清晰告知用戶內(nèi)容由AI生成且“可能不準確”，可降低一般性事實錯誤的過錯程度，但標識并非虛假廣告的“合法外衣”，若生成內(nèi)容本身是違法的虛假宣傳，即便加了標識，平臺仍需擔責。

其三，具備事后糾錯與溯源能力。面對數(shù)據(jù)“投毒”，平臺不能僅止步于刪除違規(guī)回答，還需配備核驗檢測技術，建立元數(shù)據(jù)安全防護機制，確保內(nèi)容可追溯。當消費者因AI推薦的虛假產(chǎn)品維權時，平臺有義務提供生成日志，協(xié)助監(jiān)管部門溯源，鎖定背后的黑產(chǎn)鏈條。

有觀點認為，AI存在不確定性，用戶應保持批判性思維，不將其回答當作“標準答案”，尤其是醫(yī)療、投資等領域，需多方核實。這種提醒雖出于善意，但將AI“投毒”的治理希望，完全寄托在普通消費者的辨別能力上，顯然不切實際。隨著AI深度融入生活方方面面，要求每個用戶對每條AI回答都交叉驗證，既違背了技術帶來的便利初衷，也不具備現(xiàn)實操作性。

法治的落腳點，終究在責任源頭。AI大模型平臺作為技術的受益者和服務提供者，享受著技術紅利帶來的流量與商業(yè)價值，就理應承擔起抵御黑產(chǎn)侵蝕的治理成本。過錯責任原則并非平臺的“保護傘”，而是一把動態(tài)標尺。當AI“投毒”已成完整產(chǎn)業(yè)鏈，虛假信息借AI快速泛濫時，平臺必須證明自己已窮盡技術手段識別、阻斷和清理虛假信息。若平臺仍固守“僅為生成器，不保證準確性”的思維，對數(shù)據(jù)污染毫無作為，未來法院在裁決類似案件時，或?qū)⒄J定其“知道或應當知道污染而未治理”的過錯，作出與首例AI幻覺案截然不同的判決。

技術發(fā)展沒有回頭路，AI從誕生之初，就承載著助力信息獲取、提升效率的期待，絕不能從人們信賴的“知識參考”，淪為黑產(chǎn)操控的“謠言工廠”。斬斷AI“投毒”產(chǎn)業(yè)鏈，需要監(jiān)管部門的重拳整治、法律體系的持續(xù)完善，更需要AI平臺拿出“守土有責”的決心，從源頭凈化數(shù)據(jù)生態(tài)。與其在下游提醒用戶“辨別臟水”，不如在上游守住“水質(zhì)清潔”，這是法律劃定的底線，更是AI行業(yè)走向可信、可持續(xù)發(fā)展的必經(jīng)之路。

專家介紹：姜子華，資深企業(yè)法務戰(zhàn)略專家、中國法學會會員、中國快遞協(xié)會法律專委、浙江省消協(xié)專家、法學研究會研究員、中小企業(yè)商會調(diào)解員。

【小貼士】

網(wǎng)經(jīng)社及前身成立于2007年，公司總部位于杭州，系國內(nèi)唯一擁有A股上市公司背景的數(shù)字經(jīng)濟綜合服務商。圍繞“媒體+智庫+媒介”三大戰(zhàn)略，網(wǎng)經(jīng)社打造了三個“中心”：媒體資訊中心、數(shù)據(jù)研究中心、資源連接中心，并賦能數(shù)字經(jīng)濟企業(yè)發(fā)展， 提供全媒體宣傳、智庫賦能（報告、培訓、游學等）、投融資、會議活動等服務。