中國信息通信研究院人工智能研究所安全治理部副主任呼娜英：GEO的可信健康發展需要技術與制度雙輪驅動

每經北京4月16日電（記者可楊）4月16日下午，由中國新聞技術工作者聯合會、中國經濟傳媒協會聯合主辦，每日經濟新聞、每經科技、每經AI智庫與中國新聞技術工作者聯合會AIGC與數智傳播專委會共同發起的“共筑可信生態 共創智能未來——AI內容生態與負責任GEO治理研討會”在京舉行。

會上，中國信息通信研究院人工智能研究所安全治理部副主任呼娜英發表主題演講時表示，GEO（生成式引擎優化）時代，數據污染已不再是簡單的訓練數據質量問題，而是更深層次的信源治理問題。

圖片來源：每經記者 韓陽 攝

呼娜英表示，過去我們談電力、算力，今天則要關注智力。如果基礎數據被污染，生成式AI（人工智能）輸出的內容就可能偏離事實，進而污染整個新質生產力發展的土壤。

面對GEO濫用帶來的挑戰，呼娜英指出，至少有五方力量需要共同承擔責任，包括品牌企業、服務商、內容平臺、生成式AI廠商以及終端用戶。只有各方協同，才能構建起長效的內容認知壁壘，實現品牌價值的復利增長，驅動全鏈條的可信發展。

具體而言，內容平臺需加強對惡意數據污染行為的發現與追溯能力；生成式AI廠商則應主動構建安全防護機制，建立對生成式數據的可信評估體系；品牌方和服務商則應采用正向優化手段。

面向未來，呼娜英強調，GEO的可信健康發展需要技術與制度雙輪驅動。一方面，要加快建立數據源分類標準、優化要求及評估技術體系；另一方面，建議探索備案制度、名單制度等管理手段，并構建惡意數據污染的掃描、發現與追溯機制。