政府購公民數據，美國法律跟不上AI發展

近日美國國防部與 AI 公司 Anthropic 之間持續公開的對峙，引出了一個深層而至今懸而未決的問題：法律是否真的允許美國政府對本國公民實施大規模監控？

答案出人意料地并不明朗。愛德華·斯諾登（Edward Snowden）揭露美國國家安全局大規模采集美國人手機通話元數據一事已過去十余年，美國社會至今仍在努力彌合普通民眾的認知與法律實際允許范圍之間的落差。

Anthropic 與政府對峙的導火索，是五角大樓希望使用 Anthropic 的 AI Claude 對美國公民的大宗商業數據進行分析。Anthropic 要求其 AI 不得被用于國內大規模監控（也不得用于“自主武器”，即無需人類監督便可擊殺目標的機器）。談判破裂一周后，五角大樓將 Anthropic 列為供應鏈風險，這一標簽通常專門用于對國家安全構成威脅的外國企業。

ChatGPT 背后的競爭對手 OpenAI 簽署了一項協議，允許五角大樓將其 AI 用于“一切合法目的”。批評者認為，這一措辭為國內監控留下了口子。此后一個周末，大批用戶卸載了 ChatGPT。抗議者在 OpenAI 舊金山總部周圍的地面上用粉筆寫下留言：“你們的紅線在哪里？”

OpenAI 隨即于周一宣布修訂協議，明確其 AI 不得用于國內監控，并補充表示，其服務不會向美國國家安全局等情報機構開放。

首席執行官奧特曼暗示，現行法律已禁止國防部（又稱“戰爭部”）對美國公民實施國內監控，OpenAI 的合同只需援引相關法律即可。“戰爭部認同這些原則，并將其體現在法律和政策中，我們也將其寫入了協議，”他在 X 上寫道。Anthropic 首席執行官達里奧·阿莫迪（Dario Amodei）則持相反立場。“在某種程度上，此類監控目前之所以合法，僅僅是因為法律尚未趕上 AI 能力的快速增長，”他在一份政策聲明中寫道。

那么，誰說得對？法律是否允許五角大樓借助 AI 監控美國人？

被 AI 擴展的監控能力

答案取決于我們如何界定“監控”。“很多普通人認為屬于搜查或監控的行為……在法律上實際上并不構成搜查或監控，”明尼蘇達大學法學院法學教授艾倫·羅曾什泰因（Alan Rozenshtein）說。這意味著例如社交媒體帖子、監控攝像頭畫面和選民登記記錄等的公開信息，均屬于合法獲取范圍。對外國公民實施監控時附帶收集到的美國人信息，同樣如此。

尤為值得關注的是，政府可以向企業購買商業數據，其中可能包含手機定位和網頁瀏覽記錄等敏感個人信息。近年來，從移民和海關執法局、美國國稅局到聯邦調查局和國家安全局，越來越多的政府機構開始大量接入這一數據市場，而驅動這一市場的，正是以用戶數據為廣告變現基礎的互聯網經濟。這些數據集使政府得以獲取在正常情況下須憑搜查令或傳票才能調取的敏感個人數據。

這是因為，直到近幾十年，人們才開始產生海量數據，由此催生出全新的監控可能。第四修正案保護公民免受不合理搜查和扣押，其誕生之時，采集信息意味著闖入他人住所。

此后制定的法律，如 1978 年的《外國情報監視法》和 1986 年的《電子通信隱私法》，出臺時的監控手段不過是電話竊聽和電子郵件攔截。規范監控的主體法律，大多在互聯網興起之前便已寫入法典。當時人們不會留下大量網絡數據痕跡，政府也不具備分析這些數據的復雜工具。

如今，這兩點都已改變，而 AI 則使監控所能實現的邊界急劇擴展。“AI 能做到的，是將大量單獨來看并不敏感、因而單獨來看也不受監管的信息匯聚在一起，從而賦予政府此前所不具備的強大能力，”羅曾什泰因說。

AI 可以將零散的個人信息聚合起來，識別規律、推斷關聯、大規模構建人物詳細檔案。只要政府合法采集了這些信息，便可以任意使用，包括將其輸入 AI 系統。“法律尚未跟上技術現實，”羅曾什泰因說。

盡管監控可能引發嚴重的隱私擔憂，五角大樓在采集和分析涉及美國人的數據方面可能存在正當的國家安全利益。“要采集美國人的信息，必須限定在非常具體的任務范圍內，”前五角大樓軍事情報官員洛倫·沃斯（Loren Voss）說。

例如，反間諜任務可能需要掌握某位為外國工作或密謀參與國際恐怖活動的美國人的相關信息。但定向情報有時也會向更廣泛的數據采集延伸。“這類采集確實會讓人不安，”沃斯說。

合法使用的邊界

OpenAI 已修訂合同，規定其 AI 系統“不得被故意用于對美國公民和國民的國內監控”，并與相關法律保持一致。修訂條款進一步明確，這一禁止涵蓋“對美國公民或國民的蓄意追蹤、監視或監控，包括通過采購或使用商業獲取的個人或可識別信息”。

新增措辭未必能有效壓制合同中允許五角大樓將 AI 系統用于“一切合法目的”的條款，而合法目的可能包括采集和分析敏感個人信息。“OpenAI 在合同中可以隨便說什么……但五角大樓會將這項技術用于它認為合法的一切用途，”喬治華盛頓大學法學院法學教授杰西卡·蒂利普曼（Jessica Tillipman）說。這可能涵蓋國內監控。“大多數時候，企業沒有能力阻止五角大樓做任何事，”她說。

這一措辭也對“無意為之”的監控，以及對居住在美國境內的外國公民或無證件移民的監控，留下了未解答的問題。“如果各方對法律的理解存在分歧，或者法律本身發生變化，又該怎么辦？”蒂利普曼說。

除合同條款之外，OpenAI 表示將部署技術保障措施來執行其反監控紅線，包括一套負責監測和攔截禁止用途的“安全棧”，同時派駐自己的員工與五角大樓協同工作、全程介入。但目前尚不清楚安全棧如何限制五角大樓對 AI 的使用，也不清楚 OpenAI 員工對其 AI 系統使用情況的可見程度。更重要的是，合同是否賦予 OpenAI 阻止政府合法使用該技術的權力，目前仍不明朗。

不過，缺乏這一權力未必是壞事。賦予 AI 公司在政府行動進行中關閉其技術的權力，同樣存在風險。“你不會希望美國軍方在合法執行國家安全任務時，被一家私營企業切斷技術，”沃斯說。但她同時表示，這并不意味著國會不應劃定明確的法律紅線。

這些問題沒有簡單答案，涉及隱私與國家安全之間極為艱難的權衡取舍。也正因如此，或許應由公眾來作出決定，而非在行政當局與少數 AI 公司之間的密室談判中悄然敲定。就目前而言，軍用 AI 的監管依靠的是合同，而非立法。

部分國會議員已開始介入。俄勒岡州參議員羅恩·懷登（Ron Wyden）將于周一尋求兩黨支持，推動一項針對大規模監控問題的立法。他長期倡導限制政府購買商業數據的法案，其中包括首次提出于 2021 年、至今仍未通過的《第四修正案不容出售法案》。“基于這些數據為美國人構建 AI 檔案，是一種令人不寒而栗的大規模監控擴張，不應被允許，”他在近期的一份聲明中說。