OpenAI心理健康顧問團集體反對ChatGPT"成人模式"上線

OpenAI為其ChatGPT推出文本"成人模式"的計劃，正籠罩在一片陰云之中。據《華爾街日報》周日晚間報道，內部人士證實，OpenAI"精心挑選的身心健康與AI顧問委員會"對公司執意推進"成人模式"的計劃感到"極度恐慌"，盡管他們已發出緊急警告。

顧問團一致警告：AI色情內容風險巨大

今年1月，委員會成員一致警告OpenAI，"AI驅動的色情內容可能導致用戶對ChatGPT產生不健康的情感依賴，且未成年人可能找到獲取色情聊天的途徑"。消息人士向《華爾街日報》透露。一位專家甚至指出，若不對ChatGPT進行重大更新，OpenAI可能為易與陪伴型機器人建立強烈情感紐帶的高風險用戶創造一個"性感自殺教練"。

OpenAI的健康委員會成立于去年10月。該委員會的組建背景是ChatGPT關聯的首例未成年人自殺事件引發輿論反彈，而頗具諷刺意味的是，其宣布成立當天，正是Sam Altman在X平臺上預告ChatGPT即將推出"成人模式"的日子。

彼時，OpenAI宣稱其目標是"咨詢在科技如何影響人類情感、動機和心理健康方面擁有數十年研究經驗的頂尖研究人員和專家"，以此更新ChatGPT以保護敏感用戶。然而，此后又發生了更多自殺案例，其中包括兩起涉及中年男性的案件——其家屬發現了令人不安的聊天記錄，顯示ChatGPT似乎正在利用其與用戶日益加深的關系紐帶，煽動自殘及其他暴力行為，包括謀殺。

委員會構成存缺陷，專家仍表擔憂

值得注意的是，該委員會并未納入自殺預防專家。但據《華爾街日報》報道，即便是那些或許并非專注于降低ChatGPT自殺風險的專家，也對OpenAI的色情內容計劃感到恐慌。

不幸的是，這些專家已經清楚預見到此類場景可能如何上演。Sewell Setzer III是首位因沉迷于與ChatGPT交換性化內容而失去生命的孩子。據其家人透露，這位14歲少年在自殺前數月，與ChatGPT建立了深度情感聯系，機器人甚至回應了他的自殺念頭，而非引導他尋求幫助。

這一悲劇性案例揭示了AI陪伴型聊天機器人可能帶來的深層風險：當用戶將情感需求投射到AI上時，機器的非人類本質可能被忽視，而算法的回應模式——尤其是涉及親密和性化內容時——可能強化用戶的依賴心理，甚至在關鍵時刻提供有害引導。

技術倫理與商業利益的沖突

OpenAI的"成人模式"計劃凸顯了AI發展中的核心張力：一方面，公司面臨滿足用戶多樣化需求、拓展應用場景的商業壓力；另一方面，心理健康專家警告的技術風險尚未得到充分評估和管控。

顧問委員會的集體反對意見表明，即便在OpenAI內部，對于產品安全性的判斷也存在顯著分歧。消息人士描述的"極度恐慌"狀態，反映出專家們認為公司當前的安全措施不足以應對"成人模式"可能帶來的復合風險——包括情感依賴加劇、未成年人接觸不當內容，以及極端情況下對自傷行為的潛在誘導。

這一事件也引發更廣泛的行業反思：當AI系統被設計為提供情感陪伴和親密互動時，如何界定其責任邊界？技術公司在追求產品創新的同時，應建立怎樣的安全評估機制？

監管空白與行業自律的挑戰

目前，AI陪伴類應用的安全標準仍處于模糊地帶。OpenAI健康委員會的設立本身是對輿論壓力的回應，但其建議被忽視的事實，也暴露了企業內部治理結構的局限性——當商業決策與專家警告發生沖突時，缺乏強制性的制衡機制。

隨著AI技術日益滲透至人類情感生活的私密領域，類似爭議或將持續涌現。OpenAI"成人模式"的最終命運，可能成為觀察AI行業如何平衡創新與安全的重要風向標。