在剛剛舉行的今日頭條平臺治理開放日上,披露了這樣一組數(shù)據(jù):2025年全年,平臺累計處置低質(zhì)AI內(nèi)容超過260萬條。
“AI創(chuàng)作的門檻大幅降低,既讓更多用戶擁有內(nèi)容表達的機會,也帶來了低質(zhì)AI內(nèi)容類型持續(xù)翻新、識別難度進一步加大的問題。”今日頭條內(nèi)容生態(tài)治理負責人鄭子龍這樣說道。
據(jù)了解,目前治理主要通過內(nèi)容識別與賬號治理兩條路徑進行,包括通過監(jiān)測聚類分析識別AI生成內(nèi)容特征,并對持續(xù)發(fā)布相關內(nèi)容的賬號采取限流或禁言等措施。
鄭子龍?zhí)岬剑珹I顯著降低了內(nèi)容生成成本,使部分謠言更容易被批量生產(chǎn)和傳播。平臺數(shù)據(jù)顯示,2025年共清理虛假內(nèi)容700余萬條,并對3.3萬個違規(guī)賬號實施禁言或封禁。
從安全治理角度看,AI帶來的變化同樣體現(xiàn)在詐騙等風險場景中。今日頭條安全運營負責人閆夢茹表示:“詐騙手段已經(jīng)從傳統(tǒng)套路演變成由AI偽造、AI生成誘導性發(fā)文去引流的新型騙局,隱蔽性更強,迷惑性也更大。”
“我們要學會AI治理AI,因為不可能只靠傳統(tǒng)手段去攔截這些快速變化的AI形式。”在問答環(huán)節(jié),閆夢茹這樣說道。
中國社會科學院大學互聯(lián)網(wǎng)法治研究中心主任劉曉春在現(xiàn)場表示,AI生成內(nèi)容并不只是簡單的質(zhì)量問題,其中可能包含虛假信息、侵權(quán)、低俗或誤導性內(nèi)容等多種風險。她指出,大量低質(zhì)AI內(nèi)容如果持續(xù)傳播,“可能擠壓優(yōu)質(zhì)內(nèi)容的空間,也會提高用戶獲取有效信息的成本”。
中國政法大學網(wǎng)絡法學研究所所長李懷勝則從治理結(jié)構(gòu)角度分析,網(wǎng)絡詐騙和虛假信息的傳播已經(jīng)形成完整鏈條,需要法律、平臺與社會多方協(xié)同治理。他認為,平臺在其中承擔的是“第一道防線”的角色。
同時,更重要的是公眾應該提高防范意識。在網(wǎng)絡詐騙治理中,公眾既是保護的客體,更應是參與的主體。報告中有兩組數(shù)據(jù)值得深思:一是平臺對高危私信進行了300余萬條風險提醒,二是部分用戶對反詐提示存在抵觸情緒。這兩組數(shù)據(jù)表明,沒有公眾的主動參與,再嚴密的技術防線、再完善的法律制度都可能被突破。
隨著AI生成能力不斷提升,內(nèi)容生產(chǎn)和傳播方式正在發(fā)生變化。對平臺而言,如何在鼓勵創(chuàng)作的同時識別和處理低質(zhì)或誤導信息,正在成為新的治理課題。
會上還發(fā)布了《今日頭條2025年度平臺治理白皮書》。
數(shù)據(jù)顯示,2025年全年,今日頭條共向用戶推送300余萬條涉詐風險提醒、處置網(wǎng)暴相關違規(guī)評論3.6億條,為70萬賬號啟用了一鍵防網(wǎng)暴功能。(撰文/ 李炤鋒)
#今日頭條 #AI生成內(nèi)容監(jiān)管
![]()
![]()
![]()
![]()
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.