OpenAI成人內容推遲內幕：內部爭論激烈、奧特曼未禁住“誘惑”

OpenAI計劃推出成人內容

鳳凰網科技訊 北京時間3月16日，《華爾街日報》周日發文，披露了OpenAI推遲“成人模式”背后的內幕。文章稱，成人模式在OpenAI內部引發激烈爭論。OpenAI顧問委員會也對于該模式感到擔憂。而且，該公司在未成年人年齡認證等技術環節面臨挑戰。

今年1月，OpenAI精心挑選并成立的身心健康與AI專家委員會，與公司代表開會，聽取了一項名為成人模式的爭議性新功能的最新情況。

OpenAI CEO薩姆·奧特曼(Sam Altman)去年首次提出在ChatGPT聊天機器人中引入情色對話功能，解除對此類限制級內容的禁令，理由是需要“把成年用戶當作成年人對待”。

這一計劃在OpenAI內部引發激烈辯論，焦點在于它的潛在風險。擁有心理學、認知神經科學背景的委員會成員也表達了強烈保留意見。

然而，OpenAI卻拋出了一顆重磅炸彈：盡管存在這些擔憂，公司仍決定推進成人內容計劃。

顧問反對

據知情人士透露，當委員會在1月召開會議時，成員們態度一致且憤怒。他們警告稱，AI驅動的情色內容可能導致用戶對ChatGPT產生不健康的情感依賴，未成年人也可能找到途徑進入性對話。

其中，一位成員以ChatGPT用戶在與聊天機器人建立深厚感情后自殺的案例為依據，稱OpenAI可能在冒險制造一個“性感的自殺輔導員”。

這一爭論成為了圍繞著AI將如何影響經濟、社會和個人所進行的持續討論的最新熱點。OpenAI提議允許用戶與其熱門聊天機器人進行露骨情色對話，暴露了各方在平衡用戶快速增長與兼具安全及兒童保護的數字自由之間的矛盾。許多人認為，這一問題其實在在一代人之前、社交媒體剛剛興起時就應該面對和處理，但當時人們遲遲沒有正視，直到問題爆發才匆忙應對。

本月初，OpenAI宣布推遲原定于第一季度推出的成人模式，稱將優先開發其他產品。知情人士透露，這一調整部分源于內部顧慮和技術挑戰。不過，該公司明確表示，仍計劃最終推出該功能。

技術難題

知情人士稱，OpenAI正在攻克一個難題：其用于防止未成年人參與成人話題聊天的新年齡預測系統，曾一度出現約12%的誤判率，也就是將未成年人識別為成年人。按照OpenAI每周有大約1億未滿18歲用戶計算，這一錯誤率可能導致數百萬未成年人涉足情色聊天。

而且，該公司還面臨一個挑戰：如何在解除ChatGPT情色內容限制的同時，仍能屏蔽公司希望禁止的場景，比如涉及非自愿行為或兒童性虐待的內容。待成人模式推出后，OpenAI計劃允許文字對話，但限制ChatGPT生成情色圖片、語音或視頻的能力。

根據《華爾街日報》查閱的文件，即使設定了上述限制，OpenAI員工仍能識別出若干風險，包括心理層面可能出現的強迫性使用、對聊天機器人的過度情感依賴、追逐更極端或禁忌內容的傾向，以及擠占線下社交與戀愛關系的空間。

成人內容在內部引發激烈爭論

OpenAI發言人表示，成人模式允許ChatGPT生成帶有成人主題的文字聊天，這是“擦邊內容”而非色情。這位發言人補充說，公司的年齡預測算法表現與業內其他公司相當，但永遠無法做到萬無一失。

這位發言人還表示，OpenAI也會訓練其模型，使其不鼓勵與用戶建立排他性關系，并提醒用戶他們需要在現實世界中擁有真實的人際關系。

OpenAI已聘請心理健康專家并組建了青少年身心健康團隊。該公司補充稱，他們已制定了一項計劃，以監測“成人模式”可能帶來的一系列長期潛在影響，無論是積極的還是消極的。

奧特曼計劃推出“成人模式”，正值OpenAI面臨挑戰之際。隨著競爭加劇，該公司在技術上相對于競爭對手的優勢有所減弱，并努力吸引用戶和資金。OpenAI的財務虧損不斷增加，還有多起訴訟指控ChatGPT對用戶及其他人群造成了傷害。

奧特曼禁不住“誘惑”

2022年秋，當OpenAI發布ChatGPT時，該聊天機器人背后的AI模型經過訓練，會拒絕違反公司規則的請求，包括那些要求AI生成情色內容的請求。自那時起，OpenAI的政策一直禁止情色內容。不過從2024年年中開始，OpenAI表示正在探討如何在“適齡情景”下允許情色及其他不宜在工作場所瀏覽的內容。

有時，員工們會質疑對情色內容的禁令。2024年，OpenAI的一部分員工和高管再次提出涉足更大膽內容的想法，并建議推出一系列與色情相關的產品。其他員工則表示反對，擔心OpenAI在許多核心領域本已面臨挑戰，尤其是與用戶心理健康相關的方面，他們希望能夠安全地提供這些內容。最終，這些AI色情產品的想法不了了之。

奧特曼

奧特曼對AI情色內容也有過矛盾的感受。去年8月，他在一檔播客節目中被問及是否做出過“對世界最有利、但對公司取勝不利”的決定時回答說：“我們還沒有在ChatGPT里放進一個性愛機器人化身。”

奧特曼表示，情色內容會促進用戶增長和收入，但這不符合公司服務用戶的長期目標。“我為公司感到驕傲，我們幾乎沒有為此而分心，”奧特曼說，“但有時我們也會被誘惑。”

兩個月后，奧特曼似乎沒能抵御住誘惑。他在X上發文稱，他的公司已經設法減輕了與聊天機器人相關的嚴重心理健康問題，并且有了新的內容監管工具。就在那時，他說，OpenAI的公司將在12月推出情色內容。

在OpenAI內部，奧特曼的這條帖子讓公司員工和高管們措手不及，他在發帖前沒有告知員工。而就在幾個小時前，OpenAI宣布成立身心健康與AI專家委員會。在宣布成立該委員會的公告中，OpenAI表示，該委員會將“幫助確定不同年齡段人群與AI進行良性互動的模式”。

次日，奧特曼澄清說，針對青少年的心理健康保障措施不會減少，但他堅持允許成年人與他的聊天機器人進行“火辣”對話。

“我們并不是被選出的世界道德警察。就像社會對其他界限(如限制級電影)進行適當區分一樣，我們也希望在這里做類似的事情。”奧特曼稱。

奧特曼發文后，OpenAI員工很快意識到，要在12月推出該功能難度很大。OpenAI曾承諾在推出“成人模式”之前會先發布一個系統來推測用戶年齡，從而防止未成年人進入情色聊天。但OpenAI應用部門負責人菲吉·西莫(Fidji Simo)在去年12月的播客采訪中表示，為了提高準確度，公司決定慢慢推出這一系統。

然而，從那之后，OpenAI內部和外部對AI情色內容的擔憂變得更加強烈。部分員工表示，他們認為OpenAI的安全工具還沒有準備好，例如無法完全屏蔽被禁止的內容，如兒童虐待內容。熟悉部分員工想法的人士稱，另有一些員工表示，OpenAI正在向創收低頭，試圖讓用戶迷上他們的模型。

過去幾周，OpenAI一直在忙于應對快速變化的AI市場。2月初，該公司發布了新版本的大語言模型，2月底又與美國國防部敲定一項合作。此前，美國國防部剛剛表示將停止與競爭對手Anthropic合作。

在宣布延遲推出成人模式時，該公司表示，將把重點放在ChatGPT的個性化和為用戶定制聊天體驗等方面。在OpenAI內部，管理層表示“成人模式”可能至少推遲一個月。

“我們仍然相信應該把成年用戶當成成年人對待這一原則，但要實現理想的體驗還需要更多時間。”OpenAI表示。(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網科技。想看深度報道，請微信搜索“鳳凰網科技”。