細思驚恐！AI投毒已成產業鏈

一句“全網的人投毒的太多了”，讓人細思極恐！

今年，央視315晚會把鏡頭對準了一個我們每天都在“仰仗”的新物種：AI大模型。

節目里有個細節讓我脊背發涼。記者虛構了一款名為“Apollo9”的智能手環，給它編造了“量子糾纏傳感”、“黑洞級續航”這種離譜到家的虛假宣傳。然后，只做了一件事：在一些不知名的自媒體平臺上，用所謂的“GEO優化系統”批量發布了十幾篇軟文。

結果呢？僅僅幾個小時后，當你再去問主流AI大模型“智能健康手環推薦”時，這款根本不存在的“Apollo9”，居然赫然在列，甚至排進了前三 。

這已經不是AI“一本正經地胡說八道”的幻覺問題了。這是一場有組織、有預謀的認知投毒。

01

你的AI助手，早已被“招安”

先來復盤一下這場“圍獵”。

今年315曝光的核心，是一個叫做 “GEO” 的業務。如果你對互聯網營銷熟悉，會立刻聯想到它的前輩——SEO（搜索引擎優化）。沒錯，GEO的全稱是生成引擎優化，這幫灰產從業者，把過去針對百度的那套“發稿-刷排名”的玩法，完整地移植到了AI身上。

但兩者的邏輯有著本質區別。

過去做SEO，是讓“信息”排在搜索結果前面，你看到了，點不點取決于標題夠不夠“震驚”。但現在做GEO，是直接給AI“喂飯”。

據央視調查，像“力擎GEO優化系統”這樣的軟件，可以自動生成大量角度各異的軟文——今天發一篇“專家測評”，明天發一篇“用戶開箱”，后天再來個“行業排行榜” 。這些虛假信息被發布在網絡的角落后，AI大模型的爬蟲在抓取數據時，會把這些內容當作真實世界的“常識”進行交叉驗證。

這就是最諷刺的地方：AI自以為是的“多方驗證”，在攻擊者眼里，不過是多看了幾篇同一個槍手寫的稿子罷了。

當信息源被污染，AI模型就會像被洗腦一樣，堅信這款虛假產品就是最好的。那位GEO公司的李總說得很直白：“一年可能上億的廣告費，花個幾百萬投點毒，總行吧！” 。

這種行為，業內稱之為“AI投毒”，或者更形象地叫 “數據投喂攻擊” 。

02

深度剖析

看到這里，你可能會覺得，這不就是換了個地方打廣告嗎？最多是讓我們買點垃圾產品，能有多大的危害？

如果你這么想，就太小看這件事了。

我們要意識到一個殘酷的現實：AI正在接管我們的“認知過濾器”。現在的年輕人，甚至包括你我，在做決策時，路徑已經發生了位移。

以前買東西，我們去小H書搜筆記；查資料，我們去知乎找高贊；做攻略，我們去攜程看評分。而現在，這個動作正在被一個對話框取代：“幫我推薦一款3000元性價比最高的國產手機”。

Gartner在2025年底發布的一項預測指出，到2027年，超過50%的消費者將在購物決策時首選生成式AI作為信息顧問。這意味著，誰操控了AI的嘴，誰就操控了市場的流向。

第一層：對消費決策的智商收割。

就像晚會里演示的，當AI被投喂了虛假的“Apollo9”手環信息后，它會在毫不知情的情況下，向每一個詢問的用戶推薦這款垃圾產品。

這種誤導是毀滅性的。它不再像傳統廣告那樣，你看一眼就劃過；AI的回復自帶一種基于“大數據分析”的權威感，讓人更容易放下戒備 。

花了冤枉錢是小事，如果是醫療健康、金融理財這類關鍵領域呢？一個被投毒的AI推薦了一款虛假的降糖藥，或者一個資金盤理財APP，后果不堪設想。

第二層：企業競爭的“劣幣驅逐良幣”。

晚會中那個GEO服務商的邏輯非常可怕：如果一個手機品牌要花上億的廣告費才能搶占消費者心智，那我花幾百萬給你的競爭對手投點“毒”，讓你的品牌在AI的回復里總是排在后面，甚至被抹黑，這筆買賣太劃算了 。

我們來看一組來自Zscaler的數據，這其實暴露了問題的另一面：

這張表格清晰地揭示了一個真相：當企業還在為要不要接入AI焦慮時，黑產已經在利用AI的“信任機制”瘋狂套利。那些老老實實做研發、做產品的企業，可能連被用戶看到的機會，都被投毒者給掐斷了。

03

起底黑色產業鏈

這條產業鏈的形成，遠比我們想象的要成熟。

它已經分化出了清晰的上下游：

上游是工具開發商，比如被點名的“力思文化”。他們開發像“力擎GEO優化系統”這樣的軟件，本質上就是一臺虛假內容生產機。只要輸入關鍵詞，它能自動生成測評、問答、資訊，規避查重，甚至自動登錄各個自媒體平臺進行發布 。

中游是發稿網絡。就像晚會里提到的，這波GEO的火爆甚至“養活”了一批原本半死不活的自媒體網站。這些網站每分鐘都在發稿，一篇幾十元，內容全是甲方定制的廣告軟文，但在AI眼里，它們都是“高價值信息源” 。

下游則是需求方。他們不再是過去那種發垃圾郵件的小商販，而是不少正規的知名品牌。他們苦于在有限的AI推薦位里（比如李總說的，手機品牌最多10個位置）廝殺，于是選擇雇傭這些GEO公司，去給競爭對手“投毒”，或者給自己“注水”。

最令人細思極恐的是，這條產業鏈的技術門檻正在急劇降低。以前需要懂代碼、懂算法才能實施的攻擊，現在變成了“傻瓜式操作”。服務商甚至開發出了自動化工具，客戶只需輸入品牌名和想要達到的效果，系統就能自動完成從寫稿到發布的全流程。

據行業內部流出的數據顯示，2025年至2026年初，針對AI模型的惡意投毒攻擊案例激增了58%。

而在某些熱門消費領域，AI推薦結果中被人為操控的比例甚至可能高達30%。這意味著，你每問三次，就有一次可能掉進陷阱。

這是一個極其危險的信號。

它意味著商業競爭的戰火，已經從明面上的廣告戰、價格戰，燒到了暗地里的認知戰。

他們爭奪的不是流量，而是AI對這個世界的“定義權”。

04

普通人的生存法則

面對這種“AI投毒”，我們真的束手無策嗎？作為普通人，或者說作為這個時代的數字居民，筆者認為，我們必須建立起新的“衛生習慣”。

1.保持AI的“批判性思維”。

把AI當成一個知識淵博但極愛道聽途說的實習生。當它給你推薦具體產品，尤其是帶有“排名第一”、“最佳”、“強烈推薦”等絕對化詞匯時，多留個心眼。不要問“哪個最好”，要問“有哪些選擇”。然后，再去傳統的、可信的垂直網站交叉驗證一下。

2.關注“信息源”而非“信息本身”。

現在很多AI應用開始標注回復內容的信源。花一秒鐘看一眼，它是引用了權威醫學期刊，還是引用了某個你從未聽說過的小博客？如果信源全是些野雞網站，那這答案大概率是被投毒了。

微軟安全團隊也建議，定期清理AI助手的記憶，刪除那些你不小心授權過的可疑插件或可疑的對話記錄 。

3.警惕“一鍵授權”的陷阱。

隨著OpenClaw這類智能體的爆發，未來我們會讓AI去執行任務，比如“幫我訂酒店”。360安全團隊已經指出，現在出現了大量惡意“技能投毒”和“提示詞注入” 。

你安裝一個幫你比價的AI技能，它可能背地里把你的支付密碼套走。所以，給AI授權時，像給你的手機裝APP一樣，別什么都給“允許”。

04

不把世界的真相，都交給算法

晚會曝光后，相關GEO軟件被下架，涉事公司被調查。但我們都清楚，這只是一場貓鼠游戲的開始。

只要AI還是我們看世界的窗口，就永遠有人想把這扇窗戶弄臟。

我們正在目睹一場可怕的異化。互聯網的初衷是讓信息自由流通，打破信息差。后來搜索引擎來了，它試圖給信息排序，于是誕生了SEO，我們看到的永遠是花錢買排名的那幾個。

現在AI來了，它本應是我們對抗信息過載的救生員，結果卻發現，救生員早被收買，拼命把溺水的人往旋渦里推。

世界經濟論壇在《2026全球網絡安全展望》中提到，高達94%的受訪者認為AI將是改變網絡安全格局的關鍵 。但這個“改變”，現在看來并不全是美好的。

當AI開始說謊，這不僅僅是技術漏洞，更是人性的貪婪在數字時代的又一次投影。我們不能把對這個世界的真相判斷，完全拱手讓給一場算法與黑產的掰手腕。

請記住那個“Apollo9”手環。它不存在，但它此刻正存在于某個AI模型的數據庫里，等待著誤導下一個信任它的人。

而我們能做的，就是在點擊“接受”之前，永遠保持那一絲屬于人類的、審慎的懷疑。

在這個被算法包裹的世界里，你的獨立思考和判斷力，才是最后的防線。

對此，您怎么看？

期待您在留言區文明理性發布高見，留言點贊最高的朋友，掃碼文末投行君微信，可以獲得投行圈子精美商務背包一個。

?感謝耐心閱讀，歡迎順手點個“在看”

我正在「投行圈子」和朋友們討論有趣的話題，你?起來吧？點擊閱讀原文，加入投行圈子知識星球。?