OpenAI 宣布與五角大樓合作，并表示：武力使用必須由人工操作

據(jù)《TechCrunch》報(bào)道， OpenAI 首席執(zhí)行官薩姆·奧爾特曼周五晚間宣布，公司已達(dá)成協(xié)議，允許美國(guó)國(guó)防部在其涉密網(wǎng)絡(luò)中使用 OpenAI 的人工智能（AI）模型。

此前，美國(guó)國(guó)防部（特朗普當(dāng)政時(shí)期也被稱作“戰(zhàn)爭(zhēng)部”）曾與 OpenAI （代表產(chǎn)品 ChatGPT）的競(jìng)爭(zhēng)對(duì)手Anthropic（代表產(chǎn)品Claude）發(fā)生公開對(duì)峙。

五角大樓方面施壓包括Anthropic在內(nèi)的人工智能企業(yè)，要求允許其模型用于“所有合法用途”，而Anthropic則堅(jiān)持為大規(guī)模國(guó)內(nèi)監(jiān)控和全自動(dòng)武器設(shè)置紅線，拒絕為這上述用途提供服務(wù)。

Anthropic首席執(zhí)行官達(dá)里奧·阿莫迪在周四發(fā)布的一份長(zhǎng)篇聲明中表示，公司“從未對(duì)特定軍事行動(dòng)提出異議，也未曾試圖以臨時(shí)方式限制我們技術(shù)的使用”。

但他認(rèn)為，“在少數(shù)特定情形下，我們認(rèn)為人工智能會(huì)損害而非捍衛(wèi)民主價(jià)值觀（but he argued that in a narrow set of cases, we believe AI can undermine, rather than defend, democratic values）?！?/p>

本周，超過(guò)60名OpenAI員工與300名谷歌員工聯(lián)名發(fā)表公開信，呼吁各自雇主支持 Anthropic 的立場(chǎng)（More than 60 OpenAI employees and 300 Google employees signed an open letter this week asking their employers to support Anthropic’s position）。

Anthropic與五角大樓未能達(dá)成協(xié)議后，美國(guó)總統(tǒng)唐納德·特朗普在社交媒體發(fā)文，痛批Anthropic內(nèi)部的“左翼瘋子”，同時(shí)下令聯(lián)邦機(jī)構(gòu)在六個(gè)月過(guò)渡期后停止使用該公司產(chǎn)品 。

在另一條帖子中，美國(guó)國(guó)防部長(zhǎng)皮特·赫格塞斯聲稱，Anthropic正試圖“攫取對(duì)美軍作戰(zhàn)決策的否決權(quán)”（Anthropic was trying to “seize veto power over the operational decisions of the United States military）。

赫格塞斯還宣布將Anthropic列為供應(yīng)鏈風(fēng)險(xiǎn)：“即刻生效，所有與美軍有業(yè)務(wù)往來(lái)的承包商、供應(yīng)商及合作伙伴，均不得與Anthropic公司開展任何商業(yè)活動(dòng)”。

周五，Anthropic 表示，其“尚未收到戰(zhàn)爭(zhēng)部或白宮就談判進(jìn)展發(fā)出的直接通知”，但堅(jiān)稱將“在法庭上對(duì)任何供應(yīng)鏈風(fēng)險(xiǎn)認(rèn)定提出質(zhì)疑（challenge any supply chain risk designation in court）”。

令人意外的是，Open AI的CEO 奧爾特曼在X平臺(tái)發(fā)文稱，OpenAI 與美國(guó)當(dāng)局新簽訂的國(guó)防合同中已包含相關(guān)保護(hù)條款，正是這些條款成為Anthropic事件的導(dǎo)火索。

奧爾特曼表示：“我們最重要的兩項(xiàng)安全原則是：禁止用于國(guó)內(nèi)大規(guī)模監(jiān)控，以及武力使用必須由人負(fù)責(zé)，包括自主武器系統(tǒng)在內(nèi)。

戰(zhàn)爭(zhēng)部認(rèn)同這些原則，并將其體現(xiàn)在法律與政策中，我們也已將這些內(nèi)容寫入?yún)f(xié)議（The DoW agrees with these principles, reflects them in law and policy, and we put them into our agreement）?！?/p>

奧爾特曼稱，OpenAI“將構(gòu)建技術(shù)保障措施，確保我們的模型按預(yù)期運(yùn)行，這也是戰(zhàn)爭(zhēng)部所希望的”，并且公司會(huì)派駐工程師與五角大樓合作，“協(xié)助調(diào)試模型并確保其安全”。

他補(bǔ)充道：“我們正請(qǐng)求戰(zhàn)爭(zhēng)部向所有 AI 公司提供相同的合作條款，在我們看來(lái)，這是所有企業(yè)都應(yīng)愿意接受的。我們強(qiáng)烈希望事態(tài)能夠降溫，從法律與行政手段轉(zhuǎn)向理性協(xié)商。”

據(jù)《財(cái)富》記者莎倫·戈德曼報(bào)道，奧爾特曼在OpenAI全體員工大會(huì)上透露，政府允許公司自建安全棧（技術(shù)+政策+人工多層管控）以防范 AI 濫用；

并明確表示：若模型拒絕執(zhí)行某項(xiàng)任務(wù)，當(dāng)局不會(huì)強(qiáng)迫OpenAI修改模型去執(zhí)行（if the model refuses to do a task, then the government would not force OpenAI to make it do that task）。

奧爾特曼發(fā)文后不久，美以兩國(guó)開始空襲伊朗，特朗普公開呼吁推翻伊朗政府（the U.S. and Israeli governments have begun bombing Iran, with Trump calling for the overthrow of the Iranian government）。