斬?cái)唷巴抖尽盇I的黑灰產(chǎn)業(yè)鏈

近日，中央廣播電視總臺3·15晚會曝光了令人震驚的“投毒”AI大模型黑灰產(chǎn)業(yè)鏈。

AI“投毒”的本質(zhì)，是利用大模型依賴聯(lián)網(wǎng)搜索實(shí)時信息、從海量數(shù)據(jù)學(xué)習(xí)的特性，通過人為制造“虛假共識”來操控算法輸出。不法商戶通過GEO（生成式引擎優(yōu)化）工具批量生成虛假評測、偽造用戶評價、杜撰行業(yè)排名，用自媒體賬號在網(wǎng)絡(luò)平臺上大量發(fā)布。當(dāng)用戶向AI詢問產(chǎn)品推薦時，這些被精心設(shè)計(jì)的虛假信息因數(shù)量龐大、角度豐富，更容易被AI判定為“高權(quán)重信息”而采納，最終成為AI給出的“標(biāo)準(zhǔn)答案”。

通過“投毒”AI的數(shù)據(jù)“口糧”，虛構(gòu)產(chǎn)品被包裝成權(quán)威推薦，惡意抹黑被偽裝成客觀評價，一條“軟件供應(yīng)—內(nèi)容生成—全網(wǎng)投喂—模型操控—牟利變現(xiàn)”的完整黑灰鏈條已然形成。

亂象滋生的根源，在于技術(shù)迭代快于制度建設(shè)，形成監(jiān)管真空。當(dāng)前，GEO服務(wù)游走于法律邊緣，雖涉嫌違反廣告法、反不正當(dāng)競爭法、消費(fèi)者權(quán)益保護(hù)法，但責(zé)任主體模糊、取證難、處罰輕，違法成本低。同時，網(wǎng)站平臺和AI大模型為追求用戶覆蓋率，放松對信源審核，客觀上為“投毒”提供了可乘之機(jī)。而一些企業(yè)急功近利，將“AI打榜”視為低成本獲客捷徑，助長了黑灰產(chǎn)蔓延。

治理AI“投毒”，要堅(jiān)持系統(tǒng)思維，構(gòu)建法律規(guī)制、技術(shù)防御、平臺履責(zé)、公眾參與的多元共治格局。

完善法律供給，劃定行為紅線。應(yīng)將“惡意數(shù)據(jù)投喂”明確納入反不正當(dāng)競爭法規(guī)制范疇，細(xì)化AI服務(wù)提供者、內(nèi)容發(fā)布平臺、GEO服務(wù)商的責(zé)任邊界。明確“數(shù)據(jù)投毒”與正當(dāng)GEO優(yōu)化的界限，對偽造信息操縱AI的行為予以嚴(yán)懲，提高違法成本。對專門從事虛假內(nèi)容發(fā)布的平臺和賬號，依法予以關(guān)停整頓，鏟除黑灰產(chǎn)滋生的土壤。

強(qiáng)化技術(shù)防御，提升模型“免疫力”。AI平臺應(yīng)建立數(shù)據(jù)溯源機(jī)制，對訓(xùn)練和檢索內(nèi)容進(jìn)行可信度評估，引入“白名單”信源制度，提升對批量同質(zhì)化內(nèi)容的識別能力。對醫(yī)療、金融等敏感領(lǐng)域強(qiáng)制多源交叉驗(yàn)證，并在回答中清晰標(biāo)注信息來源。用算法對抗算法，建立動態(tài)監(jiān)測與清洗機(jī)制，及時發(fā)現(xiàn)并阻斷“投毒”行為。

壓實(shí)平臺責(zé)任，凝聚治理合力。信息發(fā)布平臺應(yīng)加強(qiáng)對批量發(fā)布、營銷軟文等異常行為的監(jiān)測和處置，切斷虛假內(nèi)容的傳播渠道。AI大模型廠商應(yīng)優(yōu)先采用權(quán)威媒體、學(xué)術(shù)期刊及持牌機(jī)構(gòu)的官方信息，提升模型透明度，提供回答來源鏈接，讓用戶可查可驗(yàn)，打破“黑箱推薦”。同時，推動建立AI數(shù)據(jù)安全的行業(yè)標(biāo)準(zhǔn)和數(shù)據(jù)治理生態(tài)，規(guī)范數(shù)據(jù)集的采集、清洗和審核流程。

提升公眾素養(yǎng)，筑牢社會防線。用戶應(yīng)樹立“AI非權(quán)威”的認(rèn)知，在使用AI獲取信息時理性驗(yàn)證，尤其對涉及投資消費(fèi)決策、醫(yī)療方案選擇等重要問題的AI回答，務(wù)必通過官方渠道交叉驗(yàn)證。監(jiān)管部門應(yīng)加強(qiáng)AI安全知識的普及宣傳，幫助公眾識別AI幻覺和虛假信息。

AI“投毒”污染的不僅是大模型的口糧，更是數(shù)字社會的信任根基。讓法治的陽光照進(jìn)算法的黑箱，讓監(jiān)管的力量穿透數(shù)據(jù)的迷霧，我們才能徹底斬?cái)嗪诨耶a(chǎn)業(yè)鏈，讓AI真正成為服務(wù)公眾、造福社會的智能助手。

來源：經(jīng)濟(jì)日報(bào)