斯坦福起底美國(guó)AI用戶隱私政策:你的對(duì)話會(huì)被開發(fā)者完整閱讀/永久保存

日前，斯坦福大學(xué) HAI 研究團(tuán)隊(duì)在分析了美國(guó)最大的 6 家AI 公司隱私政策后，發(fā)布了一篇論文《用戶隱私與大語言模型：前沿開發(fā)者隱私政策分析》。

這 6 家公司是亞馬遜、谷歌、Meta、Anthropic、 微軟和 OpenAI。

研究對(duì)象為 28 份隱私文件，不僅包括主要的隱私政策，還包括所有鏈接的子政策、常見問題解答和可通過聊天界面訪問的指導(dǎo)頁面等。

他們根據(jù)美國(guó)最全面的隱私法《加州消費(fèi)者隱私法案》，對(duì)這些文件進(jìn)行了評(píng)估。

結(jié)果比你想象的還要糟糕。

首先，幾乎所有公司都會(huì)收集你的聊天數(shù)據(jù)，并默認(rèn)將其用于模型訓(xùn)練。

有些公司甚至?xí)o限期地保留你的對(duì)話記錄，沒有過期時(shí)間，也沒有自動(dòng)刪除功能。你的數(shù)據(jù)就那樣永遠(yuǎn)留在那里，為未來版本的模型提供數(shù)據(jù)。

甚至，有些公司會(huì)讓員工在培訓(xùn)過程中閱讀你的聊天記錄——不是匿名摘要，而是你真實(shí)的對(duì)話內(nèi)容。

但接下來，才是真正危險(xiǎn)的地方。

對(duì)于像谷歌、Meta、微軟和亞馬遜這樣同時(shí)運(yùn)營(yíng)搜索引擎、社交媒體平臺(tái)、電子商務(wù)網(wǎng)站和云服務(wù)的公司來說，你們的 AI 對(duì)話并不會(huì)局限于聊天機(jī)器人內(nèi)部。

這些信息會(huì)與這些公司已經(jīng)掌握的關(guān)于你的所有其他信息，合并在一起。

你的搜索歷史記錄、你的購(gòu)買數(shù)據(jù)、你的社交媒體活動(dòng)，還有，你上傳的文件……

研究人員描述了一個(gè)值得深思的真實(shí)場(chǎng)景：你向 AI 聊天機(jī)器人詢問有益心臟健康的晚餐食譜，模型推斷你可能患有心血管疾病。

這一分類信息會(huì)傳遞到公司更廣泛的生態(tài)系統(tǒng)中。于是，你開始看到各種藥物廣告。

這些信息最終還會(huì)進(jìn)入保險(xiǎn)數(shù)據(jù)庫(kù)。隨著時(shí)間的推移，其影響會(huì)不斷累積。

比如，當(dāng)你分享一個(gè)關(guān)于晚餐的問題，系統(tǒng)據(jù)此建立一個(gè)健康檔案。

當(dāng)你查看兒童數(shù)據(jù)時(shí)，情況會(huì)變得更糟。

這 6 家公司中有 4 家，似乎在其模型訓(xùn)練中使用了兒童聊天數(shù)據(jù)。

比如，谷歌宣布將在獲得用戶明確同意的情況下，使用青少年數(shù)據(jù)進(jìn)行模型訓(xùn)練。

Anthropic 聲稱，不收集兒童數(shù)據(jù)，但也不驗(yàn)證用戶年齡。

微軟表示會(huì)收集 18 歲以下用戶的數(shù)據(jù)，但聲稱不會(huì)將其用于模型訓(xùn)練。

兒童不具備法律上的同意能力，而大多數(shù)父母對(duì)此毫不知情。

退出機(jī)制是另一個(gè)錯(cuò)綜復(fù)雜的問題。

有些公司提供退出選項(xiàng)，有些則不提供。

提供退出選項(xiàng)的公司，往往把選項(xiàng)藏在設(shè)置頁面的深處，大多數(shù)用戶根本找不到。

隱私政策本身也充斥著晦澀難懂的法律術(shù)語，就連專門研究這類文件的研究人員都覺得難以理解。

而這正是沒人關(guān)注的結(jié)構(gòu)性問題。

美國(guó)目前尚無全面的聯(lián)邦隱私法來規(guī)范人工智能公司如何處理聊天數(shù)據(jù)，而各州法律的碎片化導(dǎo)致存在巨大漏洞。

研究人員特別呼吁采取三項(xiàng)措施：強(qiáng)制性聯(lián)邦監(jiān)管、模型訓(xùn)練采用用戶主動(dòng)選擇加入（而非選擇退出）的方式，以及在聊天輸入進(jìn)入訓(xùn)練流程之前自動(dòng)過濾個(gè)人信息。

但這些目前都不存在。

令人不安的事實(shí)是，每次你在 ChatGPT、Gemini、Claude、Meta AI、Copilot 或 Alexa 中輸入內(nèi)容時(shí)，你都在為訓(xùn)練數(shù)據(jù)集做出貢獻(xiàn)。

你不是用戶，你就是燃料本身，而這些 AI公司還在竭盡所能地讓你欲罷不能。

論文鏈接

https://arxiv.org/html/2509.05382v1?webview_progress_bar=1&push_animated=1&show_loading=0&theme=light