OpenAI 計劃于今年年初推出一項新功能,允許用戶在 ChatGPT 中創建 AI 情色內容。
據知情人士透露,這項計劃中的功能將允許成人用戶進行包括性話題在內的成人主題對話,但卻遭到了該公司研究人員的批評。
這些研究人員曾研究過一些人如何對聊天機器人產生不健康的依戀。
他們提出,性內容可能會加劇一些人對他們視為伴侶的 AI 角色的感情。
OpenAI 首席執行官 Sam Altman 為擴大其平臺上允許的內容范圍的舉措辯護,稱這是 “像對待成年人一樣對待成年用戶”的努力的一部分。
公司內部爭議的結果,是 OpenAI 副總裁瑞安·拜爾邁斯特(Ryan Beiermeister)剛剛被強制離職(解雇)。
![]()
知情人士透露,她是 OpenAI 內部幾名對成人模式推出表示擔憂的員工之一。
在被解雇之前,拜爾邁斯特曾告訴同事,她反對成人模式,并擔心這會對用戶造成有害影響。
她還告訴同事,她認為 OpenAI 阻止兒童剝削內容的機制不夠有效,而且該公司無法充分地將成人內容與青少年隔離開來。
就在不久前,馬斯克旗下的 xAI 也公布了研究發現,在其 Grok 聊天機器人中對性內容提供更寬松的限制時 ,就會有助于提高用戶參與度 。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.