【科創(chuàng)之聲】斬?cái)唷巴抖尽盇I的黑灰產(chǎn)業(yè)鏈

近日，中央廣播電視總臺(tái)3·15晚會(huì)曝光了令人震驚的“投毒”AI大模型黑灰產(chǎn)業(yè)鏈。

AI“投毒”的本質(zhì)，是利用大模型依賴聯(lián)網(wǎng)搜索實(shí)時(shí)信息、從海量數(shù)據(jù)學(xué)習(xí)的特性，通過(guò)人為制造“虛假共識(shí)”來(lái)操控算法輸出。不法商戶通過(guò)GEO（生成式引擎優(yōu)化）工具批量生成虛假評(píng)測(cè)、偽造用戶評(píng)價(jià)、杜撰行業(yè)排名，用自媒體賬號(hào)在網(wǎng)絡(luò)平臺(tái)上大量發(fā)布。當(dāng)用戶向AI詢問產(chǎn)品推薦時(shí)，這些被精心設(shè)計(jì)的虛假信息因數(shù)量龐大、角度豐富，更容易被AI判定為“高權(quán)重信息”而采納，最終成為AI給出的“標(biāo)準(zhǔn)答案”。

通過(guò)“投毒”AI的數(shù)據(jù)“口糧”，虛構(gòu)產(chǎn)品被包裝成權(quán)威推薦，惡意抹黑被偽裝成客觀評(píng)價(jià)，一條“軟件供應(yīng)—內(nèi)容生成—全網(wǎng)投喂—模型操控—牟利變現(xiàn)”的完整黑灰鏈條已然形成。

亂象滋生的根源，在于技術(shù)迭代快于制度建設(shè)，形成監(jiān)管真空。當(dāng)前，GEO服務(wù)游走于法律邊緣，雖涉嫌違反廣告法、反不正當(dāng)競(jìng)爭(zhēng)法、消費(fèi)者權(quán)益保護(hù)法，但責(zé)任主體模糊、取證難、處罰輕，違法成本低。同時(shí)，網(wǎng)站平臺(tái)和AI大模型為追求用戶覆蓋率，放松對(duì)信源審核，客觀上為“投毒”提供了可乘之機(jī)。而一些企業(yè)急功近利，將“AI打榜”視為低成本獲客捷徑，助長(zhǎng)了黑灰產(chǎn)蔓延。

治理AI“投毒”，要堅(jiān)持系統(tǒng)思維，構(gòu)建法律規(guī)制、技術(shù)防御、平臺(tái)履責(zé)、公眾參與的多元共治格局。

完善法律供給，劃定行為紅線。應(yīng)將“惡意數(shù)據(jù)投喂”明確納入反不正當(dāng)競(jìng)爭(zhēng)法規(guī)制范疇，細(xì)化AI服務(wù)提供者、內(nèi)容發(fā)布平臺(tái)、GEO服務(wù)商的責(zé)任邊界。明確“數(shù)據(jù)投毒”與正當(dāng)GEO優(yōu)化的界限，對(duì)偽造信息操縱AI的行為予以嚴(yán)懲，提高違法成本。對(duì)專門從事虛假內(nèi)容發(fā)布的平臺(tái)和賬號(hào)，依法予以關(guān)停整頓，鏟除黑灰產(chǎn)滋生的土壤。

強(qiáng)化技術(shù)防御，提升模型“免疫力”。AI平臺(tái)應(yīng)建立數(shù)據(jù)溯源機(jī)制，對(duì)訓(xùn)練和檢索內(nèi)容進(jìn)行可信度評(píng)估，引入“白名單”信源制度，提升對(duì)批量同質(zhì)化內(nèi)容的識(shí)別能力。對(duì)醫(yī)療、金融等敏感領(lǐng)域強(qiáng)制多源交叉驗(yàn)證，并在回答中清晰標(biāo)注信息來(lái)源。用算法對(duì)抗算法，建立動(dòng)態(tài)監(jiān)測(cè)與清洗機(jī)制，及時(shí)發(fā)現(xiàn)并阻斷“投毒”行為。

壓實(shí)平臺(tái)責(zé)任，凝聚治理合力。信息發(fā)布平臺(tái)應(yīng)加強(qiáng)對(duì)批量發(fā)布、營(yíng)銷軟文等異常行為的監(jiān)測(cè)和處置，切斷虛假內(nèi)容的傳播渠道。AI大模型廠商應(yīng)優(yōu)先采用權(quán)威媒體、學(xué)術(shù)期刊及持牌機(jī)構(gòu)的官方信息，提升模型透明度，提供回答來(lái)源鏈接，讓用戶可查可驗(yàn)，打破“黑箱推薦”。同時(shí)，推動(dòng)建立AI數(shù)據(jù)安全的行業(yè)標(biāo)準(zhǔn)和數(shù)據(jù)治理生態(tài)，規(guī)范數(shù)據(jù)集的采集、清洗和審核流程。

提升公眾素養(yǎng)，筑牢社會(huì)防線。用戶應(yīng)樹立“AI非權(quán)威”的認(rèn)知，在使用AI獲取信息時(shí)理性驗(yàn)證，尤其對(duì)涉及投資消費(fèi)決策、醫(yī)療方案選擇等重要問題的AI回答，務(wù)必通過(guò)官方渠道交叉驗(yàn)證。監(jiān)管部門應(yīng)加強(qiáng)AI安全知識(shí)的普及宣傳，幫助公眾識(shí)別AI幻覺和虛假信息。

AI“投毒”污染的不僅是大模型的口糧，更是數(shù)字社會(huì)的信任根基。讓法治的陽(yáng)光照進(jìn)算法的黑箱，讓監(jiān)管的力量穿透數(shù)據(jù)的迷霧，我們才能徹底斬?cái)嗪诨耶a(chǎn)業(yè)鏈，讓AI真正成為服務(wù)公眾、造福社會(huì)的智能助手。（本文來(lái)源：經(jīng)濟(jì)日?qǐng)?bào) 作者：佘惠敏）