一年處置260萬條AI謠言，頭條下重手了

在剛剛舉行的今日頭條平臺治理開放日上，披露了這樣一組數(shù)據(jù)：2025年全年，平臺累計處置低質(zhì)AI內(nèi)容超過260萬條。

“AI創(chuàng)作的門檻大幅降低，既讓更多用戶擁有內(nèi)容表達的機會，也帶來了低質(zhì)AI內(nèi)容類型持續(xù)翻新、識別難度進一步加大的問題。”今日頭條內(nèi)容生態(tài)治理負責人鄭子龍這樣說道。

據(jù)了解，目前治理主要通過內(nèi)容識別與賬號治理兩條路徑進行，包括通過監(jiān)測聚類分析識別AI生成內(nèi)容特征，并對持續(xù)發(fā)布相關內(nèi)容的賬號采取限流或禁言等措施。

鄭子龍?zhí)岬剑珹I顯著降低了內(nèi)容生成成本，使部分謠言更容易被批量生產(chǎn)和傳播。平臺數(shù)據(jù)顯示，2025年共清理虛假內(nèi)容700余萬條，并對3.3萬個違規(guī)賬號實施禁言或封禁。

從安全治理角度看，AI帶來的變化同樣體現(xiàn)在詐騙等風險場景中。今日頭條安全運營負責人閆夢茹表示：“詐騙手段已經(jīng)從傳統(tǒng)套路演變成由AI偽造、AI生成誘導性發(fā)文去引流的新型騙局，隱蔽性更強，迷惑性也更大。”

“我們要學會AI治理AI，因為不可能只靠傳統(tǒng)手段去攔截這些快速變化的AI形式。”在問答環(huán)節(jié)，閆夢茹這樣說道。

中國社會科學院大學互聯(lián)網(wǎng)法治研究中心主任劉曉春在現(xiàn)場表示，AI生成內(nèi)容并不只是簡單的質(zhì)量問題，其中可能包含虛假信息、侵權(quán)、低俗或誤導性內(nèi)容等多種風險。她指出，大量低質(zhì)AI內(nèi)容如果持續(xù)傳播，“可能擠壓優(yōu)質(zhì)內(nèi)容的空間，也會提高用戶獲取有效信息的成本”。

中國政法大學網(wǎng)絡法學研究所所長李懷勝則從治理結(jié)構(gòu)角度分析，網(wǎng)絡詐騙和虛假信息的傳播已經(jīng)形成完整鏈條，需要法律、平臺與社會多方協(xié)同治理。他認為，平臺在其中承擔的是“第一道防線”的角色。

同時，更重要的是公眾應該提高防范意識。在網(wǎng)絡詐騙治理中，公眾既是保護的客體，更應是參與的主體。報告中有兩組數(shù)據(jù)值得深思：一是平臺對高危私信進行了300余萬條風險提醒，二是部分用戶對反詐提示存在抵觸情緒。這兩組數(shù)據(jù)表明，沒有公眾的主動參與，再嚴密的技術防線、再完善的法律制度都可能被突破。

隨著AI生成能力不斷提升，內(nèi)容生產(chǎn)和傳播方式正在發(fā)生變化。對平臺而言，如何在鼓勵創(chuàng)作的同時識別和處理低質(zhì)或誤導信息，正在成為新的治理課題。

會上還發(fā)布了《今日頭條2025年度平臺治理白皮書》。

數(shù)據(jù)顯示，2025年全年，今日頭條共向用戶推送300余萬條涉詐風險提醒、處置網(wǎng)暴相關違規(guī)評論3.6億條，為70萬賬號啟用了一鍵防網(wǎng)暴功能。（撰文/ 李炤鋒）
#今日頭條 #AI生成內(nèi)容監(jiān)管