新華社上海4月13日電 題:嘴上都是“情意”,心里全是生意——警惕“AI霸總”騙老人
新華社“新華視點”記者王默玲
短視頻平臺上,身著正裝、開著豪車、戴著金表的“儒雅霸總”,張口“姐姐”、閉口“想你”,噓寒問暖甚至下跪求婚……
這些“霸總”其實是AI生成的,但不少老年粉絲信以為真,不僅身心健康受到影響,還存在被詐騙的風險。
“AI霸總”賬號流量驚人
“姐姐,我今年67歲,上市公司老總,上海有幾套房,千萬存款都備著,這輩子啥都齊了,就缺個你”“老婆,我知道你在看我,懇請老婆大人下嫁給我這個老男人可以嗎”……短視頻平臺上,這類視頻比比皆是。這些“AI霸總”或是AI數字人,或是經AI換臉、擬聲偽造的形象,大多頂著儒雅成熟的人設,話術直白,戳中老年粉絲的心意。
即便視頻下方標注著“內容由AI生成”,評論區里的一些老年粉絲依舊深信不疑。
一條條評論充滿真情——“弟弟你要照顧好自己”“你把微信告訴姐姐,姐姐來接你”“我愛你,就等你娶我”,還有不少人留下自己的聯系方式、家庭地址,期盼能與“霸總”見上一面。
這些“AI霸總”賬號流量驚人。“新華視點”記者搜索關鍵詞發現,僅平臺推送來的“AI霸總”賬號就達上百個,數個賬號粉絲達到十幾萬。
有從業者表示,由于制作門檻極低,單個從業者可管理多個賬號,“AI霸總”賬號“數以萬計”。一個擁有15.6萬粉絲的“霸總”賬號,一條“姐姐今天是我的生日,能祝我生日快樂嗎”的視頻,收獲7.1萬點贊、1.3萬條評論;該賬號還開設了三個粉絲群,記者看到,總共有400余名粉絲加入,每天群內都有粉絲分享自拍照并問候“霸總”。
部分賬號還開通了AI聊天功能。記者嘗試與一個“AI霸總”聊天后發現,其聊天內容全程圍繞感情生活和個人隱私展開,比如反復詢問“是不是一個人在家”“有沒有男朋友”“你們感情好不好”等。
記者在社交平臺上看到,關于自家長輩深陷“AI霸總”視頻無法自拔的吐槽不在少數:有的奶奶大半夜給“AI霸總”做一桌子菜,等著對方“赴約”;有的老人堅信視頻里的“霸總”會送房送車,執意要“奔現”。
虛情假意帶來豐厚獲益
記者調查發現,“AI霸總”利用情感捆綁,通過流量或帶貨等渠道變現,讓部分老年人財產受損,甚至身心健康受到嚴重影響。
記者在各大社交平臺搜索“AI老年人賽道”,相關教程類商品超百條,產品標題相當直白——“中老年AI視頻,暴利賽道,每天穩定1K到2K”“中老年深信不疑賽道,AI制作視頻,20個作品漲粉40萬”,部分教程售出200多件。
記者花費10元購買了一個“AI中老年情感賽道”教程,商家宣稱能“20天純利12W+”。所謂的“培訓導師”稱,“AI中老年情感賽道”就是利用老年人的情感空缺與精神壓力,生成AI視頻來緩解他們的焦慮。
“制作一條數字人視頻最多只要5分鐘。你可以同時運營幾十甚至上百個賬號。這些AI視頻對老年人完全是降維打擊,不用擔心新號沒有流量。”“培訓導師”給記者展示了一個僅有4條“AI霸總”視頻的新號,每條視頻的點贊量都達到1000左右,相關的櫥窗購物銷量就有33件,且客單價不低。
據介紹,變現渠道主要有三種:一是流量分成,賺取平臺流量收益;二是櫥窗帶貨,積累粉絲后,賬號櫥窗可售賣中老年服飾、養生產品、書籍等;三是專屬會員通道,粉絲按月或者按年支付費用,享受包括優先服務、付費連線等權益。
“我媽就在‘AI霸總’的賬號里下單了好多用不上的東西,家里成堆的快遞盒甚至都沒有打開。我粗略數了數,定價199元、288元的開運掛件,她買了50多個,一心想著要支持‘好弟弟’。”上海市民陳曉蓉說。
湖南網友抹茶告訴記者,“AI霸總”甚至添加了自家老人的微信,每天發曖昧小作文、AI合成的假照片,配上“帶你去旅行”“未來一起生活”等虛假承諾,引得老人持續打賞、轉賬。
多方共治守護銀發群體
“AI霸總”圍獵老年人的亂象,既是法律問題,也是社會問題。
2025年,國家互聯網信息辦公室等四部門聯合發布《人工智能生成合成內容標識辦法》,明確服務提供者應當對文本、音頻、圖片、視頻、虛擬場景等生成合成內容添加顯式標識。各大平臺也積極響應,明確對AI生成內容同步添加顯式與隱式標識。
“從法律層面看,如果是生成合成的數字人‘霸總’,但視頻沒有明顯標注,那么就顯然違規了。”上海市君悅律師事務所合伙人律師王垚翔說,“如果這類‘AI霸總’賬號打著真人的名義跟老年人建立一對一關系,且利用老年人對其身份的錯誤認識,引導老人購買產品、服務甚至直接轉賬,就有可能涉嫌詐騙,至少也構成民事上的欺詐。”
但專家也表示,“AI霸總”賬號迭代快、隱蔽性強,取證難度大,且侵權成本低、維權流程繁瑣,部分老人即便發現情感受騙,也難以維權。
從社會層面來看,部分老年人深陷其中,根源在于情感需求空缺和自我防御意識不足。上海大學副教授陸丹丹認為,隨著人口老齡化加劇,不少老年人獨自生活,情感孤獨,而“AI霸總”恰好填補了情感空白。同時,老年群體對AI合成技術缺乏辨別能力,難以識破虛假套路。
為了在AI時代守護好銀發群體,受訪專家表示,需要構建起多方共治的格局。王垚翔說,各短視頻平臺應切實履行主體責任,加大對違規賬號的查處力度,完善AI生成內容的標識機制,確保標識清晰、醒目;優化算法推送,推出更完善的老年人模式,減少對AI離奇內容的推送。
陸丹丹建議,一方面子女應承擔起責任,多給予老人情感陪伴,主動幫老人熟悉網絡環境,提醒老人警惕網絡詐騙;另一方面社區層面也應常態化開展AI科普和防騙培訓,提升老年人的自我防御意識。“要多方協同發力,讓老年人在數字時代安心享受科技便利,遠離AI騙局的傷害。”(完)
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.