河南
近期，多條AI生成的視頻在網絡傳播，其中包括“南岸立交垮塌”“涪陵灌溪溝農貿市場對面房屋倒塌”等虛假內容，一度引發部分市民恐慌。這些視頻究竟是如何炮制的？真相到底是什么？跟著央視新聞頻道《法治在線》一探究竟↓↓↓
編造“南岸立交垮塌”謠言
網民被行政拘留
3月9日上午10點半，一段在短視頻平臺發布的視頻信息引起了重慶市南岸區委網信辦工作人員的注意。
視頻是一段立交橋倒塌的畫面，這段視頻上線約12個小時，點贊量5700余個，轉發1100余次，留言1100余條。由于立交橋指示牌寫著“南岸”兩字，讓大量網友將這段視頻事發地與重慶南岸區聯系到一起。
重慶市南岸區委網信辦網絡綜合治理與執法監督科副科長余宛蔓：
經我們核實，南岸區并沒有命名為“南岸立交”的立交橋，所以，我們初步認定，這個視頻是不實的。
隨著深入調查，最終確定該視頻是AI生成的虛假消息。
重慶市南岸區網絡安全綜合治理中心主任簡偉晉：
經過調查，該視頻的發布者是通過AI生成的內容，而且賬號上有很多AI生成視頻，涉及打架斗毆、安全事故等信息，視頻發布者對自己造謠和傳謠的事實供認不諱。
這個案例有一個值得注意的地方，發布者在發布這段視頻時打上了作者聲明“內容由AI生成”，卻依然被警方依法作出行政拘留6日的處罰。既然作者注明了這段視頻是由AI生成的，是否可以理解為這段視頻并非真實存在呢？為何還要對他進行行政處罰呢？
重慶市互聯網違法和不良信息舉報中心處置科科長譚婧伶：
首先，根據《中華人民共和國治安管理處罰法》的相關規定，網民不得故意散布謠言，謊報險情，擾亂公共秩序。
其次，標注AI生成不等于免責，這只是內容標識的合規要求，絕不是造謠傳謠的免責條款。
《生成式人工智能服務管理暫行辦法》明確規定，使用AI也不能生成傳播虛假有害信息，不能以此來抵消編造謠言的法律責任。
標注AI生成絕不能成為擋箭牌，編造虛假信息最終都會面臨處罰。
編造“農貿市場對面房子倒塌”謠言
網民被批評教育
重慶涪陵區網民蔣某在短視頻平臺發布了一段視頻，標題為“涪陵灌溪溝農貿市場對面房子倒塌”。
重慶市涪陵區互聯網信息辦公室副主任唐超：
我們發現這條信息以后，立即通過電話與區應急局聯系，確認這件事情是否屬實，得到的反饋是涪陵區灌溪溝農貿市場周邊沒有發生房屋倒塌的事件，我們判斷這條信息屬于謠言信息。
經調查，網民蔣某利用AI工具生成房屋倒塌視頻，在網上發布了不實信息。考慮到他主動刪除了視頻和在線時間短，且未造成重大網絡影響，警方對蔣某進行了批評教育。
《生成式人工智能服務管理暫行辦法》規定，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，不得生成虛假、有害信息等法律、行政法規禁止的內容。
來源：“重慶辟謠”微信公眾號、央視新聞
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
