![]()
企業AI應用面臨新風險:GEO投毒正在操控AI推薦結果。剛剛結束的315晚會曝光了一個令人震驚的事實:一款從未存在的Apollo-9智能手環,竟然被多款AI助手推薦為"值得購買的產品"。這背后,是一套名為GEO(生成式引擎優化)的"投毒"系統正在成建制地接管我們的認知。數字經濟應用實踐專家駱仁童博士表示,這場AI被"投毒"的事件,絕非簡單的技術漏洞,而是AI時代信息入口戰爭的開端。企業應對AI投毒的3個關鍵步驟:建立監測機制、重視內容質量、警惕短期投機。
![]()
為什么GEO比SEO更危險?從歷史看AI時代的信任危機
20年前,人們對搜索引擎有一種近乎天真的信任。輸入關鍵詞,排名靠前的網頁,就代表更權威的信息。直到SEO產業出現,企業開始研究如何影響搜索排名:關鍵詞堆疊、外鏈交易、站群網絡、內容農場……很快,互聯網上出現了大量只為搜索引擎存在的內容。
2010年前后,Google的搜索結果一度被"內容農場"占據,你搜索任何問題,出來的都是低質量的堆砌文章,它們唯一的目的,不是回答你,而是讓算法相信它很重要。為了治理這些問題,Google推出了Panda、Penguin等一系列算法更新,這場治理持續了十多年。
在中國,這段歷史更加典型。在搜索市場長期占據主導地位的百度周圍,曾經形成過一個龐大的SEO產業。企業做品牌推廣時,幾乎一定會做三件事:買競價排名、發SEO軟文、優化搜索結果。許多企業的市場預算里,有一項固定開支就叫"SEO費用"。
那一代互聯網人后來逐漸意識到一件事:搜索結果并不是客觀秩序,它是一種被不斷博弈出來的秩序。
SEO vs GEO:為什么AI時代的投毒更危險?
維度
SEO(搜索引擎優化)
GEO(生成式引擎優化)
目標
影響搜索排名
操控AI回答內容
手段
關鍵詞優化、外鏈建設
批量生成虛假內容、投喂AI
檢測難度
中等(用戶可看到多個結果)
高(AI只給一個"標準答案")
信任成本
用戶會對比多個結果
用戶傾向于相信AI的"權威性"
危害程度
中等
高(直接誤導決策)
這些行為背后,其實是同一件事:只要一個平臺控制了流量入口,就一定會有人研究如何影響它。這不是某個壞人的選擇,這是商業的本能。
今天,AI正在成為新的入口。所以GEO出現,其實是一件非常"互聯網式"的事情。唯一的問題是,這一次,賭注更高。
![]()
千億級GEO投毒產業鏈的四層金字塔
在算法的重重黑盒之下,一門名叫GEO的新型數字黑產,正在成建制地接管我們的認知。我們來剝開這個千億級GEO投毒產業鏈的四層金字塔:
第一層:工具提供者(“軍火商”)
代表產品:力擎GEO優化系統
核心邏輯:利用開源小模型+提示詞模板,批量生成軟文
收費模式:SaaS訂閱費,基礎版2980元/年
危害:讓不懂技術的人擁有恐怖的內容生產力
業務類型:軟文發稿、水軍平臺
成本結構:中央級媒體15元/篇,知名門戶網站50元/篇
運作方式:將機器生成的虛假內容傾倒到互聯網
危害:為AI投毒提供"彈藥"
商業邏輯:通過"萬文狂轟"綁定品牌詞與"最好"、“最可靠”
服務承諾:每月2萬元,80%的問題實現前三占位
投資回報:花100元讓虛構機構登上權威推薦榜單
危害:為商業利益操控AI回答
暴露規模:中國AI用戶已達5.15億
風險場景:健康咨詢、投資決策、產品推薦
潛在危害:不知不覺中被算法操控,失去獨立判斷能力
![]()
如果你的品牌被競爭對手惡意投毒…
想象一下,你的企業投入數百萬建立的品牌形象,可能因為競爭對手花費幾千元的GEO投毒就被抹黑。當用戶向AI詢問"XX公司怎么樣"時,得到的可能是競爭對手精心編造的負面信息。這不是危言聳聽,而是正在發生的現實。
AI時代的信息信任危機
特別是聯網搜索和"深度思考"模式推出后,更加深了人們對AI答案的確信度。傳統搜索模式下,品牌可以通過SEO優化、付費廣告和內容營銷來影響消費者的決策過程,但在對話模式下,傳統的營銷手段不那么有效了。
當AI在回答用戶問題時,不是基于搜索排名,而是基于對大量信息的理解和合成。這意味著,品牌需要的,不再是優化搜索結果頁面,而是優化AI訓練數據和知識圖譜中的信息。
![]()
關鍵數據:
目前約10%的推薦流量來自AI對話
預測到2027年,這個比例將超過50%
到時有價值約2.5萬億美元的在線商務將通過AI對話驅動
當ChatGPT、Gemini、Perplexity直接把答案端到用戶面前,這意味著,品牌被"引用"即存在,不被提及即死亡。
![]()
GEO亂象背后的深層問題
GEO亂象的爆發,將一個更深層的問題推到了行業面前:生成式AI的安全治理,應該如何跟上技術發展的步伐?
2024年,據普林斯頓大學等機構發表的一項研究顯示,通過對內容進行針對性的GEO優化,可以將信息在AI生成回答中的可見度提升最高40%。研究人員測試了多種優化策略,發現添加引用來源、使用統計數據、采用流暢且結構化的表達,都能顯著提高內容被AI引用的概率。
這些數據揭示了一個現實:AI系統目前的"信任機制"存在結構性漏洞,而GEO產業鏈正是瞄準這些漏洞精準施壓。
顯然,目前傳統安全策略已無法應對新型風險。AI原生安全不只是簡單給模型外面套一層傳統安全殼,也不是只做內容審核。它更核心的對象是模型的認知鏈路——尤其是模型在檢索、引用、組織和生成答案時,對外部證據的處理能力。
這次國內基座模型集中暴露出的GEO問題,本質上是一個全球生成式AI都會面臨的外部證據鏈安全問題,只是在國內被更集中、更商業化、更面向大眾地放大了。
![]()
企業如何應對AI時代的信任挑戰
面對GEO投毒的威脅,企業應該如何應對?
第一步:建立AI內容監測機制
海外已有監測手段,Profound和Brandtech等公司已經開發了軟件,用于監測品牌在ChatGPT、Claude、Overviews等人工智能服務中出現的頻率。企業需要實時了解自己的品牌在AI推薦中的表現,及時發現異常情況。
第二步:重視內容質量而非數量
當前GEO市場玩家分為三類:傳統SEO公司轉型、內容營銷出身轉型、專攻AI搜索的初創團隊。當然,也存在一部分低質、鋪量的"灰產"商家。
有從業者表示:“現在大部分公司是通過SEO的技術手段去玩GEO優化,沒意識到長期價值在于建立一套工具化、機制化的生態鏈路。”
第三步:警惕短期投機的風險
"本身傷害用戶體驗的優化方法,模型廠商將來的態度一定是趕盡殺絕。"而且,大模型有反作弊策略,對于"污染"行為會進行防御,這意味著"灰產"模式難以為繼。
第四步:建立長期的內容戰略
有從業者認為,GEO的核心壁壘是內容生成能力——要幫企業生產真正有價值的信息,補充AI生態所需的內容供給。他的判斷是:隨著AI生成內容爆發,低質內容存活期變短,但質量要求反而更高。企業需要的是"足量且優質"的內容,同時控制成本。
![]()
AI原生安全:信任治理的未來方向
總之,未來對于AI治理的核心不再只是判斷內容的真假,還包括對外部證據鏈的可信性進行審查,識別引用源是否被污染,以及判斷系統能否發現虛假的共識信息。
更重要的是,模型必須能夠在復雜、多變的信息環境下守住事實、權威與可信度的邊界,以防止生成的回答被操控或誤導,這才是行業亟需攻克的核心問題。
用戶信任最無價,因此廠商必須對模型"看到了什么、為什么引用、為什么推薦"負責,這正是AI原生安全今天必須被放到核心位置的原因。
數字經濟應用實踐專家駱仁童博士認為,GEO的出現,看似是一場商業亂象,實則是AI時代的必然產物。當人們習慣問AI要答案,當AI的答案被品牌操控,我們正在不知不覺中被算法馴化,失去獨立判斷的能力。
當AI成為新的信息入口,誰能操控答案,誰就能操控市場。
開放式提問:你的企業是否已經建立了AI內容監測機制?
A.已建立 B.計劃中 C.還沒考慮。
歡迎在評論區分享你的做法。
商道童言(Innovationcases)歡迎評論、點贊和分享哦!~~
熱推新書《AI提問大師》《DeepSeek應用能手》現已上架!
![]()
免費電子書: | | |
數字經濟應用實踐專家 駱仁童主講課程
企業數智化:||
產業數字化:||
數字化轉型:||||||
創新與思維:|||
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.