特朗普當局被起訴！事關 AI 安全和 AI 應如何用于軍事

據美聯社報道，美國知名人工智能（AI）公司Anthropic提起訴訟，阻止特朗普當局實施一項非法的“報復行動”，而這一“報復行動”的原因是該公司拒絕允許其技術被無限制用于軍事用途。

本周一，Anthropic向聯邦法院提起訴訟，要求撤銷五角大樓上周將這家人工智能公司列為“供應鏈風險”的決定（Anthropic asked federal courts on Monday to reverse the Pentagon’s decision last week to designate the artificial intelligence company a “ supply chain risk.”）。

該公司還尋求廢除唐納德·特朗普總統下達的、要求聯邦雇員停止使用其AI聊天機器人Claude的行政命令。

這一法律挑戰加劇了一場異常公開的爭議，爭議焦點是 AI 如何用于戰爭和大規模監控（The legal challenge intensifies an unusually public dispute over how AI can be used in warfare and mass surveillance）。

這場爭議也波及了Anthropic的科技行業競爭對手，尤其是ChatGPT開發商OpenAI。就在美國當局因Anthropic的立場對其實施處罰數小時后，OpenAI 就與五角大樓達成了合作協議。

周一，Anthropic分別提起兩起訴訟，一起在加州聯邦法院，另一起在華盛頓特區聯邦上訴法院，分別對當局針對這家總部位于舊金山的公司所采取行動的不同方面提出質疑（each challenging different aspects of the government’s actions against the San Francisco-based company）。

Anthropic在訴訟中表示：“這些舉措史無前例且不合法。憲法不允許當局動用其龐大權力，因一家公司受保護的言論而對其進行懲罰。”

“沒有任何聯邦法規授權采取此類行動。Anthropic將司法途徑作為最后手段，以維護自身權利并制止行政部門的非法報復行動（Anthropic turns to the judiciary as a last resort to vindicate its rights and halt the Executive’s unlawful campaign of retaliation）。”

Anthropic 曾表示，其堅持尋求限制自身技術被用于對美國民眾的大規模監控及全自動武器領域（Anthropic said it sought to restrict its technology from being used for mass surveillance of Americans and fully autonomous weapons）。

而美國國防部長皮特·赫格塞思及其他高級官員公開堅稱，該公司必須接受Claude的“所有合法”用途，并威脅若Anthropic不遵守將予以處罰，同時在社交媒體上譴責該公司及其首席執行官達里奧·阿莫迪。

美國當局將該公司列為“供應鏈風險實體”，切斷了與Anthropic的國防業務合作，這一權限原本旨在防范外國對手危害國家安全系統。

這是目前已知的美國聯邦當局首次對一家美國自己的公司使用該認定（It was the first time the federal government is known to have used the designation against a U.S. company）。

據Anthropic訴訟文件顯示，赫格塞思在3月4日致Anthropic的信中稱，此舉“對保護國家安全至關重要（necessary to protect national security）”。

特朗普還表示，將下令聯邦機構停止使用Claude，不過他給了五角大樓六個月時間，逐步停用這款已深度嵌入機密軍事系統的產品，其中包括用于伊朗戰爭的相關系統。

在相關部門官員下令員工停用Claude后，Anthropic的訴訟還將美國財政部、國務院等其他聯邦機構列為被告（ including the departments of Treasury and State, after agency officials ordered employees to stop using Claude）。

紐約法學院教授邁克爾·帕斯特表示，Anthropic在該案中提出了多項有力的第一修正案與正當程序主張，而此案“已升級到令人難以理解的程度”。

帕斯特曾擔任紐約市總法律顧問，參與起草該市的技術合同（a professor at New York Law School who previously worked as a New York City general counsel helping to craft its technology contracts）。

帕斯特稱：“我從未見過這樣的案子。我們從未想過，在談判陷入僵局時，會以近乎摧毀公司的方式進行威脅（It would never have struck our minds that, when we were having difficulty in a negotiation, we would threaten the company essentially with destruction）。”

盡管Anthropic正對抗五角大樓的舉措，但該公司仍試圖向企業及其他政府機構說明，特朗普當局的“供應鏈風險”認定范圍有限，僅影響軍事承包商在為國防部工作時使用Claude的情形。

厘清這一區別對非上市的Anthropic至關重要，因其今年預計140億美元收入中，大部分來自使用Claude進行計算機編程及其他任務的企業與美國當局機構。

近期一份投資公告顯示，該公司估值達3800億美元，其中逾500家客戶每年為Claude向Anthropic支付至少100萬美元。

Anthropic周一在聲明中表示：“尋求司法審查不會改變我們利用 AI 維護國家安全的長期承諾，但這是保護公司、客戶及合作伙伴的必要舉措（but this is a necessary step to protect our business, our customers, and our partners）。”

訴訟文件稱，自2021年由阿莫迪和其他六名OpenAI前員工創立Anthropic以來，人工智能安全和"為人類帶來積極成果"一直是該公司的核心使命。

公司在訴訟中稱，其使用政策始終禁止“無人類監督的致命自主戰爭及對美國民眾的大規模監控（lethal autonomous warfare without human oversight and surveillance of Americans en masse）”。

Anthropic表示，從未在這些應用場景中測試過Claude，也不確信其產品若用于支持致命自主戰爭，能否“可靠、安全地運行”。

與此同時，該公司允許軍方以平民無法使用的方式應用Claude，包括軍事行動及分析“合法收集的外國情報信息”。

直到近期，Anthropic仍是科技同行中唯一獲準向機密軍事系統提供AI模型的企業（Until recently, Anthropic was the only of its tech industry peers approved to supply its AI model to classified military systems）。

這場爭議已促使五角大樓尋求將Claude的相關工作轉移至谷歌Gemini、OpenAI的ChatGPT及馬斯克的Grok。

Anthropic在訴訟中稱，特朗普當局的舉措損害了其聲譽，危及了該公司與其他企業價值“數億美元”的合同，并試圖“摧毀這家全球增長最快的私營企業之一所創造的經濟價值”。

相反，這場抗爭提升了Anthropic在部分客戶與科技從業者中的聲譽，他們支持該公司拒絕向特朗普當局壓力妥協的立場（Conversely, the fight has boosted Anthropic’s reputation among some customers and tech workers who sided with the company’s refusal to budge to pressure from the Trump administration）。

阿莫迪的道德立場更顯突出，因其勁敵OpenAI首席執行官薩姆·奧爾特曼急于用ChatGPT取代五角大樓的Claude，奧爾特曼事后承認此舉倉促且帶有投機性（Altman later admitted was rushed and seemed opportunistic）。

近期，因為Anyhropic 在堅守AI安全底線上的做法和態度，Claude的用戶下載量激增，人氣首次超越知名度更高的ChatGPT與Gemini。

企業如何設定安全準則，也持續影響著 AI行業的人才留存競爭。OpenAI機器人部門主管凱特琳·卡利諾夫斯基正是因為自己公司與五角大樓的合作協議而辭職。

卡利諾夫斯基于周末在社交媒體上寫道：“這并非一個輕松的決定。AI 在國家安全中扮演著重要角色。但未經司法監督的美國民眾監控、未經人類授權的致命自主武器，這些紅線本應得到更審慎的考量。”