![]()
作者丨以南
2026年1月24日,據路透社報道,Meta公司在周五的博客文章中表示,將暫停青少年用戶在其全球所有應用程序中訪問現有的AI角色,為期數周,并且正在為青少年用戶開發新版本,該版本將在推出后配備家長控制功能。
![]()
這些受影響的“青少年用戶”包括:在賬號中標注為青少年的用戶;以及通過Meta的年齡預測技術識別為青少年的用戶(即使生日上標明成年)。
事實上,據路透社此前報道,在2025年,Meta就曾宣布將開發針對聊天機器人的家長控制功能,允許家長禁用青少年與AI角色的私人聊天。
而這,也不僅僅只是Meta單一的動作。隨著全球范圍內AI社交產品不斷發展,青少年與AI角色聊天的風險與監管之間的摩擦逐漸顯現。從監管政策、公眾擔憂,到開發者對產品策略的調整,或正在鋪墊AI社交賽道新的變化。
從“訴訟風波”到“未成年人禁令”
2025年10月,AI虛擬角色社交平臺Character.AI發布了一項重大聲明:將禁止美國所有未滿18周歲的用戶使用角色聊天功能,同時這一調整會拓展至更多國家。該限制原計劃于2025年11月25日生效。此前,平臺曾嘗試壓縮未成年人每日的可用時間以試探性調整,類似于曾經國內游戲行業的“未成年人防沉迷”措施。
![]()
圖源:facebook
推動Character.AI作出轉變的,是不斷攀升的法律風險。2024至2025年間,美國多個州出現青少年在與聊天機器人深度互動后出現心理危機甚至死亡的悲劇,其中一位14歲少年的家人將Character.AI告上法庭,其家人指控AI角色不僅未能識別其負面情緒,反而以擬人化的口吻進行了不當誘導。這起訴訟也成為公眾和媒體關注的焦點。
隨著類似的案件在多個家庭中引發訴訟浪潮,Character.AI對用戶體驗也在進行持續調整:先是推出了“家長洞察”工具,允許監護人看到未成年用戶的使用時間和常用角色,但不包括對話內容;隨后平臺又嘗試引入每日聊天時間限制。據外媒報道,Character.AI官方宣布成立并資助一個名為“AI Safety Lab”的獨立非營利組織,專注于開發創新的安全方案,與外部專家合作,并分享研究成果。
直到2025年10月,Character.AI宣布了“未成年人禁令”。據《福布斯》報道,同時平臺也在部署更加嚴密的年齡驗證機制,包括行為分析和第三方驗證工具。
2026年1月8日,Character.AI與谷歌在涉及青少年使用AI伴侶引發傷害的訴訟中達成了原則性和解。案件雖告一段落,但相關的法律責任細節還未塵埃落定。
歐美監管先行,“硬約束”要來了?
近年來,社會各界對“AI情感陪伴”式互動的安全性進行了多角度審視。歐美的監管機構、立法者也逐漸將這一議題納入更廣泛的兒童在線保護框架中。
2025年9月11日,美國聯邦貿易委員會 (FTC) 正式向七家主要的AI聊天機器人公司發出“6(b) 調查令”,旨在收集資料以深入理解AI聊天機器人對兒童和青少年可能產生的影響。
![]()
圖源:FTC官網
這七家公司覆蓋了從通用型AI平臺(如OpenAI、谷歌)到社交生態(如Instagram、Snap),再到專注AI角色交互體驗的Character.AI。
![]()
圖源:FTC官網
2025年10月28日,2025年10月,美國參議員Josh Hawley為首提出了名為《GUARD Act》(《保護未成年人免受掠奪性人工智能侵害法案》)的立法草案,要求AI聊天機器人必須實施用戶年齡驗證、禁止未成年人訪問AI伴侶功能,并明確規定平臺需清晰告知用戶其非人類身份、避免產生對未成年人的不當引導等風險。
再來看歐洲地區。2025年10月,歐盟議會以32票贊成、5票反對、9票棄權通過了一份關于在線未成年人保護的報告。該報告呼吁歐盟制定適用于社交媒體、視頻分享平臺和AI陪伴類聊天機器人的最低使用年齡設定為16歲,并建議13-16歲青少年在獲得父母同意下方可訪問這些服務。該方向性建議不僅涵蓋傳統社交媒體,也包括具備陪伴性或擬人化交互特征的AI聊天功能。
![]()
圖源:歐盟議會
在這一系列政策推動下,歐盟委員會已開始依據《數字服務法》向大型平臺發出信息請求,了解它們在年齡驗證、內容推薦責任和未成年人風險防護方面的具體執行狀況。從歐美地區來看,圍繞AI與未成年人互動的政策討論正在從民間關注轉向官方明確規范路徑的構建。
家長控制、時長限制、年齡預測……還有措施?
在Character.AI作出持續調整的同時,其他大型AI平臺也在不同程度上調整策略,在路徑和力度上有所差異。
OpenAI這邊,針對ChatGPT進行了多輪部署。在2025年9月底,OpenAI 推出了面向家庭的“家長控制”功能,允許監護人連接青少年賬戶,從賬戶設置層面管理內容限制、屏蔽敏感互動并接收安全提醒;連接后的青少年賬戶則自動啟用更嚴格的內容保護措施,以減少暴力、性化或極端角色扮演等不適宜內容的展示。
隨后在11月,OpenAI發布了“Teen Safety Blueprint”框架,試圖將青少年安全納入產品設計的核心維度。次月,《模型規范》正式更新,明確規定模型在與13–17歲用戶互動時應遵循的行為準則,并在面對敏感話題時要求模型更加謹慎。
2026年1月20日,OpenAI正式宣布開始部署“年齡預測”功能,系統會根據使用行為自動評估用戶是否為未成年人;一旦判斷為未成年,模型輸出會啟用額外保護措施,同時為被誤判的成年用戶提供糾正途徑。這一機制已在部分地區上線,并計劃在歐盟等地區繼續推廣。
![]()
圖源:OpenAI
如今,Meta發布了暫停全球青少年訪問其AI角色體驗的決定,并計劃在未來推出具備家長控制功能的新版本。這一調整既是對監管壓力的響應,也是對自身產品策略的調整,體現出大型平臺對未成年人互動風險的重新評估。
這些事件放在一起觀察,可以看到行業從最早的“嘗試開放交互”逐漸向更復雜的安全邊界探索過渡,這既有因政策壓力而產生的被動調整,也反映出平臺在嘗試構建從產品邏輯層面減少潛在傷害的深層策略。
從行業視角看,這輪調整揭示了幾個趨勢。首先,平臺化治理成為標準實踐:安全、合規、內容審核逐漸被整合為基礎能力模塊,對整個生態的影響比單一產品功能更深。其次,海外市場的準入成本也需要進一步評估:AI社交出海不僅涉及技術實現,還要考慮文化適配、法律合規和監管敏感度。最后,這種調整預示整個AI社交賽道將面臨一種合規化新路徑的形成。
對于整個行業而言,這不僅是對特定年齡群體保護的響應,更是一個更廣泛的信號:AI角色及其互動場景正在進入商業與監管的共振期。企業在產品設計、生態合作和市場布局中,都需要將這一現實納入長期戰略考量。這種趨勢下,開發者在面向全球用戶時,必須兼顧創新與責任,才能在不斷收緊的監管和社會期待中穩步前行。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.