李曉曦律師：AI大模型平臺(tái)對(duì)被“投毒” 輸出虛假信息負(fù)有明確的審核義務(wù)

3月15日晚，央視3·15晚會(huì)曝光AI大模型“投毒”黑產(chǎn)亂象，揭開了不法分子利用GEO（生成式引擎優(yōu)化）技術(shù)操控AI輸出虛假信息的灰色鏈條。

央視315晚會(huì)的調(diào)查記者通過(guò)多日暗訪，揭開了AI大模型“投毒”的完整灰色產(chǎn)業(yè)鏈。這場(chǎng)“投毒”不是簡(jiǎn)單的信息篡改，而是一套系統(tǒng)化、規(guī)模化的操作，核心主角是一群號(hào)稱能“馴服AI”的GEO服務(wù)商，他們打著“優(yōu)化推廣”的幌子，幫商家向豆包、元寶、千問(wèn)、KIMI、deepseek、文心等AI大模型定向“投喂”虛假信息，實(shí)現(xiàn)“操控AI答案”的目的，而這一切，只需要支付相應(yīng)的費(fèi)用。

晚會(huì)暗訪顯示，涉事GEO服務(wù)商可在短時(shí)間內(nèi)生成虛假內(nèi)容，批量發(fā)布至網(wǎng)絡(luò)，誘導(dǎo)AI抓取后優(yōu)先推薦，甚至讓虛構(gòu)產(chǎn)品登上AI推薦榜前三。此類行為已覆蓋多款主流AI產(chǎn)品，威脅數(shù)億用戶，可能誤導(dǎo)消費(fèi)決策、傳播虛假醫(yī)療和金融信息。

在此背景下，數(shù)字經(jīng)濟(jì)智庫(kù)網(wǎng)經(jīng)社電子商務(wù)研究中心邀請(qǐng)了行業(yè)權(quán)威人士進(jìn)行解讀，并發(fā)布《央視315曝光AI大模型被惡意“投毒”——網(wǎng)經(jīng)社智庫(kù)專家獨(dú)家解讀報(bào)告》。

對(duì)此，網(wǎng)經(jīng)社電子商務(wù)研究中心特約研究員、上海申浩律師事務(wù)所律師李曉曦接受數(shù)字經(jīng)濟(jì)新媒體&智庫(kù)——#網(wǎng)經(jīng)社 獨(dú)家專訪。

GEO優(yōu)化就是生成式引擎優(yōu)化，類似之前的SEO搜索引擎優(yōu)化。通過(guò)向AI大模型投喂大量經(jīng)過(guò)繁瑣包裝的訓(xùn)練材料，讓AI反復(fù)訓(xùn)練學(xué)習(xí)，達(dá)到優(yōu)化效果。可悲的是，投喂AI的材料可能也是用AI生成的。

如何防范、杜絕這種AI“投毒”方式？可以從以下方面入手：

一是可以通過(guò)技術(shù)手段實(shí)現(xiàn)數(shù)據(jù)免疫。例如訓(xùn)練數(shù)據(jù)標(biāo)注來(lái)源等方式。

二是用法律手段規(guī)制。要求優(yōu)化商承擔(dān)民事責(zé)任、行政責(zé)任和刑事責(zé)任。

三是行業(yè)自律。建立黑明單制度，封禁投毒賬戶和公司；設(shè)置ai數(shù)據(jù)源質(zhì)量標(biāo)準(zhǔn)；要求服務(wù)商公開優(yōu)化策略的技術(shù)細(xì)節(jié)等。

GEO服務(wù)商“投毒”AI大模型，可能面臨以下責(zé)任：

1、民事責(zé)任：可能面臨承擔(dān)侵權(quán)責(zé)任，生成內(nèi)容造成第三方損害，可能承擔(dān)產(chǎn)品責(zé)任，需要對(duì)受誤導(dǎo)消費(fèi)者承擔(dān)懲罰性賠償。

2、行政責(zé)任：通過(guò)偽造虛假信息等方式污染數(shù)據(jù)，可能違反廣告法28條構(gòu)成虛假?gòu)V告，承擔(dān)行政責(zé)任。違反數(shù)據(jù)安全法，導(dǎo)致數(shù)據(jù)處理活動(dòng)存在安全風(fēng)險(xiǎn)，監(jiān)管部門客對(duì)GEO服務(wù)商處行政處罰。

3、刑事責(zé)任：若涉及金融詐騙，可能觸犯《刑法》涉嫌詐騙罪。

此外，AI大模型平臺(tái)對(duì)被投毒、輸出虛假信息，負(fù)有明確的審核義務(wù)，因?yàn)樗惴ê湍Ｐ完P(guān)系，法律推定其需要承擔(dān)過(guò)錯(cuò)責(zé)任。平臺(tái)的過(guò)錯(cuò)責(zé)任主要體現(xiàn)為：在AI訓(xùn)練階段未盡數(shù)據(jù)安全保障義務(wù)，導(dǎo)致“垃圾毒素”投入大模型；在輸出階段，沒(méi)有做閉口管理，導(dǎo)致毒素蔓延。大模型平臺(tái)不能僅以“技術(shù)黑箱”為由推卸責(zé)任，而必須證明其已經(jīng)采取了與其技術(shù)能力相匹配的、行業(yè)內(nèi)通行的審核與風(fēng)控措施，方能主張無(wú)過(guò)錯(cuò)。

專家介紹：李曉曦，15年商業(yè)律師、某大型央企法務(wù)經(jīng)理和兩家世界500強(qiáng)保險(xiǎn)企業(yè)從業(yè)經(jīng)歷，同時(shí)參加過(guò)系統(tǒng)、專業(yè)的法律實(shí)務(wù)技能訓(xùn)練，熟練掌握訴訟以及公司大多數(shù)非訴訟法律事務(wù)處理技能，尤其擅長(zhǎng)企業(yè)法律風(fēng)險(xiǎn)防控和合規(guī)管理。

【小貼士】

網(wǎng)經(jīng)社及前身成立于2007年，公司總部位于杭州，系國(guó)內(nèi)唯一擁有A股上市公司背景的數(shù)字經(jīng)濟(jì)綜合服務(wù)商。圍繞“媒體+智庫(kù)+媒介”三大戰(zhàn)略，網(wǎng)經(jīng)社打造了三個(gè)“中心”：媒體資訊中心、數(shù)據(jù)研究中心、資源連接中心，并賦能數(shù)字經(jīng)濟(jì)企業(yè)發(fā)展， 提供全媒體宣傳、智庫(kù)賦能（報(bào)告、培訓(xùn)、游學(xué)等）、投融資、會(huì)議活動(dòng)等服務(wù)。