來源:公安部網安局
近日,浙江金華婺城網警雷霆出擊,成功偵破一起利用AI工具制作并傳播淫穢內容的案件,抓獲犯罪嫌疑人8名。目前,屬地公安機關依法對8名犯罪嫌疑人采取刑事強制措施,案件正在進一步偵辦中。
神秘群組暗藏淫穢定制黑產
某資深國漫愛好者在上網時,發現某互聯網群組內的部分賬號打著“私人定制”和“眾籌更新”的旗號招攬生意,其發布的所謂熱門國漫角色“美圖”,內容不堪入目。意識到這種行為嚴重褻瀆國漫形象,更已觸碰法律紅線,該愛好者向警方報了案。
新型技術成犯罪工具
接警后,婺城警方迅速成立專案組展開偵查,很快鎖定了犯罪嫌疑人陳某,并組織警力展開抓捕。
在對其住所進行搜查時,民警在其電腦和硬盤中查獲大量專門用于生成淫穢內容的AI模型文件、訓練數據,以及已經制作完成的成品圖片和視頻,在民警出示的一系列證據面前,他如實交代了犯罪事實。
8人團伙全員落網
據陳某供述,為牟取非法利益,以“角色投票、私人定制、眾籌更新、終身會員”等噱頭,接收客戶指定的國漫角色,按照對方要求利用AI技術生成淫穢內容,從中賺取非法利益。隨著調查的深入,警方順藤摸瓜,將該團伙其余7名犯罪嫌疑人一網打盡。
網警提示
“新興技術的使用切勿用錯地方。”辦案民警指出,犯罪嫌疑人利用AI技術打破虛擬與現實的邊界,將深受大眾喜愛的國漫角色惡俗化,嚴重污染了網絡環境,挑戰了社會公序良俗。
1. 平臺要履行主體責任,嚴審內容,健全機制,杜絕“流量至上”,落實管理責任。
2. 技術與從業者應明確AI等技術應用邊界,嚴禁用于違法用途非法牟利及傳播違法犯罪信息。
3. 網民需提升法治與網絡素養,抵制違法內容,違法必追責,共建清朗網絡空間。
素材 |浙江金華網警
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.