離譜！央視曝光多款A(yù)I應(yīng)用涉黃漏洞，一句話就能繞過審核？

這幾天AI圈子里又出事了！

4月14日消息，央視點(diǎn)名多款A(yù)I應(yīng)用存在涉黃生成漏洞，其中哩布哩布AI的漏洞被重點(diǎn)提出。

圖源：微博

到底咋回事？

4月12日，在被央視點(diǎn)名批評哩布哩布AI存在安全漏洞后，哩布哩布火速發(fā)布了一份《關(guān)于加強(qiáng)內(nèi)容安全管理的說明》，態(tài)度倒是挺端正，直接就是認(rèn)錯、道歉、整改三連。

4月14日中午，哩布哩布AI官方發(fā)公告稱，在復(fù)雜的提示詞組合后，確實(shí)存在違規(guī)內(nèi)容生成的問題，并發(fā)布道歉通告。通篇看完總結(jié)起來就是：我們錯了，我們已經(jīng)改了，大家別罵了。

圖源：哩布哩布AI公眾號

在小雷看來，其實(shí)不僅是哩布哩布，現(xiàn)在可能所有的生成式AI都有這個風(fēng)險(xiǎn)，這條安全漏洞背后已經(jīng)形成了一條灰色產(chǎn)業(yè)鏈。

有人專門研究怎么繞過審核，然后把“越獄提示詞”打包成教程甚至直接賣錢，再配合AI批量生成擦邊內(nèi)容，引流到色情網(wǎng)站或付費(fèi)群。

哩布哩布這次被曝光的漏洞，很可能就是被這些人盯上了。

風(fēng)險(xiǎn)遠(yuǎn)不止涉黃這么簡單，還有其他隱患要解決。

圖源：AI生成

首先第一個就是未成年的風(fēng)險(xiǎn)。

你想啊，現(xiàn)在AI平臺那么多，用戶群體里就有大量的未成年，如果平臺沒監(jiān)管好，孩子輸入幾個關(guān)鍵詞就可以生成涉黃的內(nèi)容，那后果可太嚴(yán)重了。家長舉報(bào)，監(jiān)管部門介入，平臺扛不住的。

然后是侵犯名譽(yù)權(quán)和肖像權(quán)。有人用它惡意生成別人的不雅照片或丑化形象，到處傳播，被侵害的人根本沒法維權(quán)，因?yàn)樯烧哂玫氖翘摂M賬號。如果審核不力，等于給AI造黃謠提供了機(jī)會。

最近半年已經(jīng)有多起利用AI生成虛假淫穢圖片的案件，源頭就是像哩布哩布這些內(nèi)容安全有漏洞的平臺。

其實(shí)漏洞本質(zhì)上是平臺的失職，但是平臺的功能沒有錯，只是被不安好心的人鉆了空子。

平臺本身也有競爭壓力，功能要完善，如果沒有用戶，自然也就賺不到錢，就會關(guān)掉AI。將來真正想用AI生成自己喜歡的東西的人，就無辜躺槍了。

好在央視及時(shí)發(fā)現(xiàn)問題，哩布哩布還算火速回應(yīng)，認(rèn)錯、修復(fù)、復(fù)盤、接受監(jiān)督，態(tài)度那就一個誠懇。

圖源：微博

在小雷嗶嗶（id：xiaoleibbb ）看來，哩布哩布這次翻車，給整個AI應(yīng)用行業(yè)提了個醒。

平臺的內(nèi)容安全是底線。AI平臺是這樣，其他的內(nèi)容平臺也是這樣。

央視點(diǎn)名AI漏洞只是開始，后續(xù)監(jiān)管肯定會有動作。

還有網(wǎng)友看到這則新聞后吐槽說：要是別的AI也有這個風(fēng)險(xiǎn)，我就不讓我家小孩繼續(xù)用AI了。

說到最后，這次哩布哩布AI因涉黃生成漏洞被央視點(diǎn)名這事，剛好把這些漏洞，灰產(chǎn)暴露在我們面前。

平臺不能總等著媒體曝光了再重視，平時(shí)就該做好日常的審查工作。

各位對AI生成內(nèi)容涉黃這個情況有什么看法呢，歡迎評論區(qū)留言討論。