AI“投毒”擾清朗　需以AI護(hù)AI筑就安全長城

（圖片來源：攝圖網(wǎng)）

（記者　陳洲）今年央視的“3·15”晚會上，AI大模型遭GEO技術(shù)“投毒”的黑幕被徹底揭開。不法商家付費(fèi)利用GEO優(yōu)化系統(tǒng)，批量生成虛假信息軟文定向投喂AI大模型，將廣告包裝成“標(biāo)準(zhǔn)答案”，甚至讓虛構(gòu)產(chǎn)品登上推薦榜，形成完整的黑色產(chǎn)業(yè)鏈。這種行為絕非技術(shù)優(yōu)化，而是赤裸裸的數(shù)據(jù)造假與消費(fèi)欺詐，不僅讓AI喪失客觀中立的信息助手屬性，更破壞市場公平、誤導(dǎo)公眾決策，給AI產(chǎn)業(yè)發(fā)展蒙上陰影。

數(shù)字時(shí)代，網(wǎng)絡(luò)安全是發(fā)展的前提，更是底線。以中國電信為代表的通信運(yùn)營商不僅是數(shù)據(jù)的“運(yùn)輸者”，更是信息流通的“守門人”，在筑牢AI安全防線中扮演著重要角色。

AI投毒引深思

“3·15”晚會曝光的事件，撕開了AI產(chǎn)業(yè)的安全漏洞。業(yè)內(nèi)演示顯示，一款GEO優(yōu)化系統(tǒng)就能輕松虛構(gòu)產(chǎn)品信息、生成軟文，批量發(fā)布后被AI抓取為“權(quán)威答案”，甚至讓虛構(gòu)智能手環(huán)登上推薦榜。這種行為的泛濫，既源于黑色產(chǎn)業(yè)鏈的利益驅(qū)動，也暴露了當(dāng)前AI大模型在信息審核、風(fēng)險(xiǎn)防控上的短板。如今AI已融入千行百業(yè)，其安全性直接關(guān)系公眾權(quán)益、市場秩序和國家安全。

運(yùn)營商之所以能在AI安全領(lǐng)域發(fā)揮核心作用，源于其獨(dú)特的網(wǎng)絡(luò)位置與資源稟賦。中國電信深刻認(rèn)識到發(fā)展與安全并重的必要性，自布局AI領(lǐng)域以來，將安全性貫穿研發(fā)、應(yīng)用、落地全流程，構(gòu)建全方位AI安全防護(hù)體系，推動產(chǎn)業(yè)有序發(fā)展。

多維發(fā)力守底線，AI安全實(shí)踐落地見效

面對AI安全挑戰(zhàn)，運(yùn)營商正依托自身優(yōu)勢打造可落地的解決方案。

一是筑牢模型輸入側(cè)防護(hù)。中國電信推出“見微”大模型安全一站式服務(wù)，構(gòu)建“攻擊+防護(hù)”雙向循環(huán)體系，開源國內(nèi)首個(gè)中文場景提示注入攻擊檢測方案，填補(bǔ)行業(yè)空白。其核心能力包括全球AI風(fēng)險(xiǎn)預(yù)警、零信任環(huán)境下的秒級掃描、精準(zhǔn)攔截虛假信息的基礎(chǔ)護(hù)欄，并同步開源“阡陌”評測數(shù)據(jù)集，為行業(yè)AI安全評測提供高質(zhì)量支撐，從源頭防范投毒風(fēng)險(xiǎn)。

二是強(qiáng)化應(yīng)用側(cè)的安全守護(hù)。AI濫用催生新型通信詐騙，運(yùn)營商通過技術(shù)手段主動防御。例如，中國電信研發(fā)的防詐輔助大模型，將傳統(tǒng)防詐精確度從20%提升至80%，可有效應(yīng)對AI換臉、變聲等詐騙手段。該模型能實(shí)時(shí)學(xué)習(xí)詐騙手段，推送專屬防詐風(fēng)險(xiǎn)報(bào)告，并結(jié)合“天翼防騷擾”產(chǎn)品，構(gòu)建“檢測—預(yù)警—攔截”全鏈條防線，累計(jì)為億萬用戶規(guī)避詐騙風(fēng)險(xiǎn)，用科技守護(hù)公眾“錢袋子”。

三是護(hù)航政企AI應(yīng)用。多智能體交互帶來新的安全隱患，運(yùn)營商為企業(yè)構(gòu)建一體化防御體系。例如，中國電信天翼安全公司打造了“圍欄網(wǎng)絡(luò)”，構(gòu)建“安全評測—輸入檢測—運(yùn)行監(jiān)控”一體化防御體系。在企業(yè)辦公場景中，通過多產(chǎn)品聯(lián)動，精準(zhǔn)攔截敏感文件、判定AI生成內(nèi)容安全性，已為政務(wù)、金融等領(lǐng)域超3000家客戶提供保障，助力政企安全合規(guī)運(yùn)用AI。

技術(shù)創(chuàng)新促長效，持續(xù)筑牢AI安全屏障

AI技術(shù)迭代不止，安全守護(hù)永無止境。“3·15”安全事件提醒我們，AI安全防護(hù)需持續(xù)升級。中國電信將持續(xù)從技術(shù)創(chuàng)新、體系完善、生態(tài)共建三方面發(fā)力，構(gòu)建長效防護(hù)機(jī)制，推動AI技術(shù)向善發(fā)展。

持續(xù)強(qiáng)化技術(shù)創(chuàng)新，筑牢安全底座。中國電信將加大研發(fā)投入，聚焦AI風(fēng)險(xiǎn)，迭代“星辰·見微”安全大模型，完善中文場景檢測算法；推動量子技術(shù)與AI安全融合，構(gòu)建全國一體化量子安全基礎(chǔ)設(shè)施，發(fā)布融合QKD和PQC的分布式密碼系統(tǒng)，實(shí)現(xiàn)AI數(shù)據(jù)全流程加密防護(hù)，推進(jìn)AI與安全雙向賦能。

完善全生命周期治理，構(gòu)建全方位體系。中國電信將遵循《人工智能安全治理框架》2.0版要求，覆蓋AI“研發(fā)—訓(xùn)練—應(yīng)用—退役”全流程。事前加強(qiáng)數(shù)據(jù)源頭管控，打造“阡陌數(shù)聚”安全語料集；事中依托天翼安全大腦實(shí)現(xiàn)實(shí)時(shí)監(jiān)控預(yù)警；事后建立應(yīng)急處置與追溯體系，形成“發(fā)現(xiàn)—處置—復(fù)盤—優(yōu)化”閉環(huán)，提升防護(hù)精細(xì)化水平。

深化生態(tài)協(xié)同共建，凝聚發(fā)展合力。中國電信將發(fā)揮行業(yè)引領(lǐng)作用，推動AI安全標(biāo)準(zhǔn)制定，開源技術(shù)與數(shù)據(jù)集；加強(qiáng)與政府、科研機(jī)構(gòu)合作，共建創(chuàng)新聯(lián)合體，開展技術(shù)研發(fā)與人才培養(yǎng)；加強(qiáng)AI安全宣傳，普及知識，引導(dǎo)公眾提升防范意識，營造全民關(guān)注AI安全的良好氛圍。

科技向善，安全為基。“3·15”投毒事件既是警示也是契機(jī)，推動行業(yè)重視AI安全。運(yùn)營商需堅(jiān)守安全底線，以技術(shù)守護(hù)信任，通過扎實(shí)實(shí)踐、持續(xù)創(chuàng)新和廣泛協(xié)同，為AI產(chǎn)業(yè)筑牢屏障。