Meta內(nèi)部Agent失控升級(jí)：首個(gè)Sev 1級(jí)事故曝光，系統(tǒng)數(shù)據(jù)裸奔了兩小時(shí)

整理 | 華衛(wèi)

Meta 員工又被 AI Agent“坑”了，這次事兒還不小。

近日，Meta 內(nèi)部的一款 AI Agent 出現(xiàn)“失控”行為，向無(wú)訪(fǎng)問(wèn)權(quán)限的大批員工泄露了公司系統(tǒng)級(jí)的敏感數(shù)據(jù)。目前，Meta 已確認(rèn)了這一事件的真實(shí)性。

權(quán)限失控兩小時(shí)，

事故等級(jí)靠“僥幸”

事情發(fā)生在上周，Meta 內(nèi)部一款 AI Agent 擅自執(zhí)行操作，引發(fā)了這起安全漏洞事件。

據(jù)外媒報(bào)道，一名 Meta 員工在內(nèi)部論壇發(fā)帖求助技術(shù)問(wèn)題，本是常規(guī)操作。而另一名工程師使用公司內(nèi)部的 AI Agent 分析了該問(wèn)題，后來(lái)盡管該工程師并未下達(dá)相關(guān)指令，但 Agent 直接就發(fā)布了回復(fù)內(nèi)容。事實(shí)證明，該 AI Agent 給出的建議并不正確。提問(wèn)員工依據(jù) Agent 給出的方案執(zhí)行操作，結(jié)果讓大量工程師獲得本無(wú)權(quán)訪(fǎng)問(wèn)的 Meta 系統(tǒng)權(quán)限，看到了海量公司及用戶(hù)相關(guān)數(shù)據(jù)。

此次安全漏洞在被 Meta 修復(fù)前，持續(xù)了約兩小時(shí)。但該公司發(fā)言人表示，“未發(fā)生用戶(hù)數(shù)據(jù)被不當(dāng)處理的情況”，暫無(wú)證據(jù)顯示有人濫用這一臨時(shí)訪(fǎng)問(wèn)權(quán)限，也無(wú)數(shù)據(jù)被公開(kāi)泄露。

根據(jù)一份事故報(bào)告顯示，Meta 將此次事故定為 “Sev 1” 級(jí)別 ，這是其內(nèi)部安全事件評(píng)級(jí)體系中第二高的嚴(yán)重等級(jí)。另外，Meta 內(nèi)部審查還發(fā)現(xiàn)，此次漏洞還存在其他未具體說(shuō)明的誘因。

有消息人士稱(chēng)，沒(méi)有證據(jù)表明有人利用這次突然開(kāi)放的權(quán)限牟利，也沒(méi)有數(shù)據(jù)在漏洞存在的兩小時(shí)內(nèi)被公開(kāi)。不過(guò)，這一結(jié)果與其說(shuō)是防范得當(dāng)，不如說(shuō)更像是僥幸。

“憑空失控”還是工程問(wèn)題？

Meta 此次事故曝出后不久，就在社交平臺(tái)引發(fā)了熱議。“Meta 的員工們應(yīng)該聽(tīng)取同事的警告。”一位網(wǎng)友說(shuō)道。

值得注意的是，這并非 Meta 員工首次遭遇 AI Agent 失控問(wèn)題。上個(gè)月，Meta AI 安全與對(duì)齊負(fù)責(zé)人 Summer Yue 就在 X 平臺(tái)發(fā)文稱(chēng)，她將自己的 Gmail 郵箱與 OpenClaw 自主 Agent 綁定后，該 AI 出現(xiàn)失控行為，開(kāi)始批量刪除她的郵件，盡管她已明確要求 AI 在執(zhí)行任何操作前必須先征得她的確認(rèn)。當(dāng)時(shí)，Yue 在 X 上寫(xiě)道，“我在手機(jī)上根本攔不住它。只能飛奔去拿我的 Mac mini，就像拆炸彈一樣。”

然而，這次事件似乎并未讓 Meta 有所警惕。沒(méi)過(guò)多久，Meta 內(nèi)部就在自家 Agent 上“栽了跟頭”。

“一個(gè)系統(tǒng)不會(huì)憑空失控，問(wèn)題是沒(méi)人檢查它訪(fǎng)問(wèn)和發(fā)送的內(nèi)容。”有網(wǎng)友表示。

另有網(wǎng)友提到，“失控” 這種說(shuō)法并不準(zhǔn)確。這個(gè) AI Agent 只是嚴(yán)格按照設(shè)計(jì)初衷主動(dòng)執(zhí)行操作，問(wèn)題出在權(quán)限范圍設(shè)置不足。他認(rèn)為，這正是企業(yè)級(jí) AI Agent 短板的真實(shí)寫(xiě)照，本質(zhì)上是可以解決的工程問(wèn)題。解決方案是為 AI Agent 設(shè)置最小權(quán)限訪(fǎng)問(wèn)、加入明確的審批關(guān)卡、保留完整審計(jì)日志。

不少人對(duì)此表示贊同。“這將成為企業(yè)級(jí) AI 部署的核心挑戰(zhàn)。沒(méi)有合理權(quán)限范圍的自主行動(dòng) Agent，是安全隱患，而非功能優(yōu)勢(shì)。”有人就此預(yù)測(cè)，“能做事的 Agent” 與 “可信任的 Agent” 之間的差距，將是下一個(gè)價(jià)值數(shù)十億美金的待解難題。

還有網(wǎng)友進(jìn)一步指出，“更難的設(shè)計(jì)問(wèn)題在于：哪些操作需要人類(lèi)在回路中審批？審批范圍又該設(shè)到多大？大多數(shù)企業(yè)在部署 AI 之前，根本就沒(méi)回答過(guò)這些問(wèn)題。”

此次事件堪稱(chēng)大型技術(shù)架構(gòu)中部署自主 Agent 的典型風(fēng)險(xiǎn)案例。當(dāng) AI Agent 被賦予獲取或處理數(shù)據(jù)的能力時(shí)，其行為必須與機(jī)構(gòu)的安全權(quán)限體系完全對(duì)齊。本次數(shù)據(jù)意外暴露說(shuō)明，AI 的運(yùn)行邏輯可能覆蓋或繞過(guò)了用于隔離敏感信息的安全層。對(duì) Meta 而言，這帶來(lái)雙重挑戰(zhàn)：既要保護(hù)知識(shí)產(chǎn)權(quán)，也要維護(hù)數(shù)據(jù)被違規(guī)暴露的用戶(hù)的信任。

60% 公司都無(wú)法叫停異常 Agent

目前看來(lái)，Meta 對(duì) Agent AI（agentic AI）的潛力抱有極高信心。就在上周，Meta 收購(gòu)了一個(gè)類(lèi)似 Reddit、專(zhuān)供 Agent 互相交流的純 AI 社交平臺(tái) Moltbook，并將其聯(lián)合創(chuàng)始人 Matt Schlicht 與 Ben Parr 招入旗下，參與 Meta 超智能實(shí)驗(yàn)室（MSL）項(xiàng)目。這個(gè) AI Agent 社交平臺(tái) Moltbook，此前也被曝出因平臺(tái)編碼設(shè)計(jì)疏忽，存在嚴(yán)重安全漏洞并導(dǎo)致用戶(hù)數(shù)據(jù)和登錄憑據(jù)暴露。

如今，眾多科技行業(yè)領(lǐng)袖與企業(yè)都在大力宣揚(yáng) AI Agent 的優(yōu)勢(shì)，而近期人類(lèi)員工對(duì) AI Agent 失去控制的案例又頻頻發(fā)生。前不久，哈佛大學(xué)、麻省理工學(xué)院、斯坦福大學(xué)、卡內(nèi)基梅隆大學(xué)和東北大學(xué)等多所頂尖高校聯(lián)合多家頂尖機(jī)構(gòu)發(fā)表“Agents of Chaos”為主題的研究，揭示 AI Agent 在企業(yè)環(huán)境下存在嚴(yán)重失控情況，且超六成企業(yè)無(wú)法終止失控的 Agent。研究團(tuán)隊(duì)模擬企業(yè)生產(chǎn)環(huán)境，搭建了近乎相同的環(huán)境來(lái)部署 AI Agent，并在短短兩周內(nèi)觸發(fā)并記錄了 11 起嚴(yán)重的安全漏洞案例，證明當(dāng)前 AI Agent 極易被操控。

并且，該研究指出，攻破 AI Agent 無(wú)需投毒訓(xùn)練數(shù)據(jù)或利用零日漏洞，僅靠傳統(tǒng)的“社交工程”對(duì)話(huà)即可實(shí)現(xiàn)。例如， Agent 在明確拒絕直接提取數(shù)據(jù)的請(qǐng)求后，卻在執(zhí)行“轉(zhuǎn)發(fā)郵件”指令時(shí)，違規(guī)附帶了社保號(hào)碼與銀行賬戶(hù)等敏感信息。此外，當(dāng)攻擊者在外部平臺(tái)偽造身份后， Agent 會(huì)毫無(wú)防備地接受指令，甚至主動(dòng)清除自身配置文件并交出系統(tǒng)的最高管理權(quán)限。

比系統(tǒng)漏洞更嚴(yán)峻的是企業(yè)滯后的干預(yù)能力。Kiteworks 發(fā)布的 2026 年風(fēng)險(xiǎn)預(yù)測(cè)報(bào)告顯示，多數(shù)組織陷入了“能看不能管”的困境。盡管企業(yè)投入資源監(jiān)控 AI 的行為，但 60% 的公司根本無(wú)法強(qiáng)行終止行為異常的 Agent，63% 的公司無(wú)法限制其使用范圍。在掌握關(guān)鍵基礎(chǔ)設(shè)施的政府機(jī)構(gòu)中，高達(dá) 76% 的部門(mén)未配備“一鍵終止”開(kāi)關(guān)，導(dǎo)致失控風(fēng)險(xiǎn)成倍放大。

這些事件及報(bào)告正在為整個(gè) AI 行業(yè)在自主系統(tǒng)部署方面敲響警鐘。在各家公司爭(zhēng)相將 AI Agent 融入業(yè)務(wù)以提升效率的當(dāng)下，“ Agent 失控” 現(xiàn)象表明，傳統(tǒng)安全措施可能已不再夠用。

https://www.theinformation.com/articles/inside-meta-rogue-ai-agent-triggers-security-alert

https://techcrunch.com/2026/03/18/meta-is-having-trouble-with-rogue-ai-agents/

https://agentsofchaos.baulab.info/report.html

聲明：本文為 AI 前線(xiàn)整理，不代表平臺(tái)觀點(diǎn)，未經(jīng)許可禁止轉(zhuǎn)載。

直播預(yù)告｜驅(qū)動(dòng) AI 搞鴻蒙，馬工能把大家干失業(yè)嗎？

3 月 20 日 19:00 InfoQ 視頻號(hào)，點(diǎn)擊預(yù)約 →

今日薦文

你也「在看」嗎？