馬愷濃律師：AI“投毒”防范有路徑 商家 服務商及平臺責任明晰

3月15日晚，央視3·15晚會曝光AI大模型“投毒”黑產亂象，揭開了不法分子利用GEO（生成式引擎優化）技術操控AI輸出虛假信息的灰色鏈條。

央視315晚會的調查記者通過多日暗訪，揭開了AI大模型“投毒”的完整灰色產業鏈。這場“投毒”不是簡單的信息篡改，而是一套系統化、規模化的操作，核心主角是一群號稱能“馴服AI”的GEO服務商，他們打著“優化推廣”的幌子，幫商家向豆包、元寶、千問、KIMI、deepseek、文心等AI大模型定向“投喂”虛假信息，實現“操控AI答案”的目的，而這一切，只需要支付相應的費用。

晚會暗訪顯示，涉事GEO服務商可在短時間內生成虛假內容，批量發布至網絡，誘導AI抓取后優先推薦，甚至讓虛構產品登上AI推薦榜前三。此類行為已覆蓋多款主流AI產品，威脅數億用戶，可能誤導消費決策、傳播虛假醫療和金融信息。

在此背景下，數字經濟智庫網經社電子商務研究中心邀請了行業權威人士進行解讀，并發布《央視315曝光AI大模型被惡意“投毒”——網經社智庫專家獨家解讀報告》。

對此，浙江省律師協會競爭法專業委員會委員、網經社電子商務研究中心特約研究員馬愷濃接受數字經濟新媒體&智庫——#網經社 獨家專訪。

之所以能如此快速、高效就完成了幾個大模型的“優化”，是因為AI自動生成的批量化、傳播分發的急速化廣泛化，以及被大模型獲取的速度化便捷化。在這種情況下，如果AI獲取到的大量數據都是虛假的偽造的，那么得出的結論必然也是假的，是不可信的。

如何防范、杜絕這種AI“投毒”方式的？可通過清理數據庫，依法對人工智能生成合成的內容進行標識，以避免被大模型獲取，或者大模型在獲取后可通過標識予以剔除，使得AI實際分析使用到的數據均為有效數據，讓數據庫重新變得清朗干凈。

商家使用該服務的本質是虛假宣傳，可能引發的問題包括但不限于對被宣傳產品或服務產生引人誤解的虛假宣傳、對商業對手方的商譽詆毀等，GEO服務商作為該類服務提供者，應承擔幫助侵權的法律責任。根據《中華人民共和國民法典》第一千一百六十九條，幫助他人實施侵權行為的，應當與行為人承擔連帶責任。

平臺方面，如果人工智能生成合成內容（指利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息）未按規定添加標識，AI大模型平臺無法通過技術手段對其進行識別，而被AI大模型獲取分析應用，進而輸出虛假信息，則大模型平臺不承擔責任，因其無法得知該內容為人工智能生成合成內容，所以不應承擔過錯責任。

如果人工智能生成合成內容已依法進行標識或生成內容平臺已進行相關“AI自動生成標識”，但AI大模型仍抓取進行分析輸出，則AI大模型平臺具有明顯審核過錯，應承擔過錯責任。

專家介紹：馬愷濃律師，浙江省律師協會競爭法專業委員會委員、杭州市律師協會文化產業專業委員會委員，同時擔任浙江省吉林商會法律咨詢委員會委員和法律顧問團成員。中國政法大學本科法學畢業，吉林大學碩士，民商事審判法官出身，主要執業領域涵蓋民商事訴訟、公司法律事務、互聯網與電子商務法、娛樂法、知識產權法、婚姻家事與勞動爭議等，其業務范圍亦涉及刑事行政相關領域。

【小貼士】

網經社及前身成立于2007年，公司總部位于杭州，系國內唯一擁有A股上市公司背景的數字經濟綜合服務商。圍繞“媒體+智庫+媒介”三大戰略，網經社打造了三個“中心”：媒體資訊中心、數據研究中心、資源連接中心，并賦能數字經濟企業發展， 提供全媒體宣傳、智庫賦能（報告、培訓、游學等）、投融資、會議活動等服務。