近日,字節(jié)跳動上線Seedance 2.0視頻生成模型,進行內(nèi)測,引發(fā)行業(yè)熱議。
該模型支持文字、圖片、視頻、音頻等各類素材輸入生成視頻,在自運鏡和分運鏡、全方位多模態(tài)思考、音畫同步生成、多鏡頭敘事能力等幾個關(guān)鍵能力上實現(xiàn)突破。
先看看效果:
![]()
有網(wǎng)友認為,看了Seedance 2.0的生成視頻效果后,很快普通人就分不清AI生成視頻了。
![]()
有網(wǎng)友直言,眼已瞎,AI視頻已進入分辨不出的時代。
《黑神話悟空》制作人馮驥也發(fā)文對Seedance 2.0大加贊賞:“昨天試了試剛上線即夢的Seedance 2.0。它在使用手冊標(biāo)題的最后,寫著Kill the game!(殺死比賽)。這個評價,相當(dāng)客觀。AIGC的童年時代,結(jié)束了。”
他用領(lǐng)先、全能、低門檻、產(chǎn)能爆炸、視頻全民化等詞描述自己的使用感受。
![]()
他同時也表達了對假視頻泛濫與信任危機的擔(dān)憂。因為逼真的假視頻將變得毫無門檻,而現(xiàn)有的知識產(chǎn)權(quán)與審查體系會面臨空前沖擊。
他鄭重建議:請大家盡快提醒父母與不熟悉AI的親友,未來一切缺乏官方權(quán)威渠道背書的視頻內(nèi)容(尤其是包含個人形象與聲音的)都可能是偽造的。請務(wù)必通過多渠道交叉確認,避免上當(dāng)。
除了對假視頻的擔(dān)心,隱私問題也浮出水面。
![]()
知名科技博主Tim(本名潘天鴻)在評測過程中發(fā)現(xiàn),僅提供了自己的照片、未提供聲音或視頻等素材的前提下,Seedance2.0能夠生成帶有Tim個人音色的聲音。
![]()
更讓Tim感到驚訝的是,他只上傳了辦公樓的一面,但視頻卻能生成與現(xiàn)實幾乎一樣的樓的另一面。
“這不恐怖嗎?它知道我背后的東西是什么。”
Tim認為,Seedance 2.0大量訓(xùn)練了他公司的視頻,而他沒有被聯(lián)系過授權(quán)。
Tim又用何同學(xué)的照片生成視頻,但這次的聲音不是何同學(xué),還是Tim的聲音。
Tim認為如果一個人的數(shù)據(jù)全部進入了AI數(shù)據(jù)集,它能夠100%的模擬出這個人任何的形態(tài)和聲音,“這樣的內(nèi)容,你的家人能分得出真假嗎?”
隨著真假視頻、隱私問題的討論,即夢方面今天緊急暫停了真人素材作為主體參考。
![]()
即夢的運營人員表示:“即夢創(chuàng)作者們大家好,Seedance 2.0在內(nèi)測期間收獲了遠超預(yù)期的關(guān)注,感謝大家的使用與反饋。為了保障創(chuàng)作環(huán)境的健康可持續(xù),我們正在針對反饋進行緊急優(yōu)化,目前暫不支持輸入真人素材作為主體參考。我們深知創(chuàng)意的邊界是尊重。產(chǎn)品調(diào)整期間給各位帶來的不便,敬請諒解,期待以更完善的面貌與大家正式見面。”
什么叫真人素材參考?看即夢App這張使用圖就明白了。
![]()
就是在即夢生成視頻操作中,你可以上傳一張真人照片作為生成時的參考,其實就是真人作為視頻里的主體。
而現(xiàn)在即夢不讓上傳真人照片用來生成視頻了。
這次事件暴露出AI視頻幾大問題:
真假難辨導(dǎo)致的信任危機。普通人肉眼無法區(qū)分AI生成與實拍,造謠、詐騙、仿冒親友、偽造輿論視頻的成本趨近于零,現(xiàn)有法律、審核、溯源體系可能跟不上。
視覺證據(jù)不再天然可信,人類進入 “后真相視頻時代”。
隱私與數(shù)據(jù)授權(quán),成為灰色地帶。Tim的實測暴露了最尖銳的問題,用戶未授權(quán)、未知情,數(shù)據(jù)卻已被學(xué)習(xí)。
這觸及了全球AIGC最敏感的紅線,模型到底用了誰的數(shù)據(jù)?有沒有授權(quán)?
技術(shù)的權(quán)衡發(fā)展問題。好在這次僅是內(nèi)測,范圍較小,通過內(nèi)測反映出問題,可控可治。但也不能一刀切,技術(shù)領(lǐng)先不易,應(yīng)該保護,也應(yīng)該在安全的渠道內(nèi)發(fā)展。
不是關(guān)閉功能,是先把 “最危險口子” 堵上,先把最容易用于偽造、詐騙、侵權(quán)的功能關(guān)掉,保留技術(shù)探索空間。
AI時代的全民信息素養(yǎng)問題。馮驥的預(yù)警非常重要,必須盡快普及AI知識,提升公眾對虛假信息的辨別能力,建立“多渠道交叉驗證”等新的安全習(xí)慣。
Seedance 2.0內(nèi)測爆火與緊急暫停真人功能,是AIGC從炫技階段正式進入安全與合規(guī)并重階段的標(biāo)志性事件。
最后我想到的是,那些每天出鏡的視頻博主們,是不是最容易被Deepfake(深度偽造)?有沒有打一激靈?
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.