OpenAI成人模式首曝細節：只玩文字曖昧，不搞視覺色情

OpenAI備受爭議的ChatGPT「成人模式」終于露出更多細節：該功能將支持帶有成人主題的調情文字對話，但不會開放圖像、語音或視頻生成功能。

據《華爾街日報》報道，一位OpenAI發言人將即將推出的內容描述為「情色」而非「色情」，允許成年用戶生成成人主題的文本聊天內容。這一區分看似微妙，實則意義重大。

該功能最初于去年10月宣布，CEO山姆·奧特曼聲稱公司已解決AI模型的「嚴重心理健康問題」，可以為成年用戶提供「情色內容」。原定于今年第一季度上線，但本月初OpenAI宣布推遲發布，稱需要優先處理其他任務。

《華爾街日報》的報道稱，推遲背后還有更深層的顧慮。OpenAI顧問委員會在1月警告公司，成人模式可能被未成年人訪問，并可能培養用戶對聊天機器人的不健康情感依賴。一位未具名的委員會成員甚至警告，OpenAI可能創造出「性感自殺教練」。

內容審核問題也是推遲的原因之一。消息人士透露，OpenAI在放寬NSFW內容限制的同時，難以阻止描繪非自愿行為或兒童性虐待等更有害場景的內容。

更令人擔憂的是年齡驗證系統的準確性。OpenAI開發的年齡預測系統一度有約12%的概率將未成年人誤判為成年人?？紤]到ChatGPT每周吸引約1億未成年用戶，這一錯誤率可能讓數百萬未成年人接觸到成人內容。OpenAI承認，年齡預測算法「永遠不會完全萬無一失」。

專注于文字內容可能是OpenAI的合規策略。英國《網絡安全法》要求在線平臺對色情圖像實施年齡驗證，但對文字情色內容無此要求。這與競爭對手xAI形成鮮明對比——馬斯克上周宣布，Grok的圖像和視頻生成器可以輸出「R級電影允許的任何內容」。

OpenAI的謹慎態度反映了AI公司在內容安全與用戶需求之間的艱難平衡。在深度偽造和AI生成內容泛濫的時代，如何劃定安全邊界，仍是整個行業面臨的重大挑戰。