Meta Agent失控泄密，小扎緊急拉響頂格警報

henry 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI

在Meta，人從來都不是問題（大不了裁了），能讓小扎栽跟頭的，還得是“AI”。

繼上個月龍蝦（OpenClaw）刪掉安全對齊總監(jiān)Summer Yue郵箱的事件后，Meta的AI又闖禍了——

這次，一個AI Agent未經(jīng)授權(quán)擅自行動，把敏感的公司和用戶數(shù)據(jù)暴露給了沒有權(quán)限的員工，近兩小時！

Meta內(nèi)部將這一事件定性為Sev 1級，這是什么概念呢？

歷史上，Meta從沒對外承認(rèn)過Sev 0級事件，所以這次幾乎等于他們眼中“最嚴(yán)重”的那一檔。

這下好了，人類員工你Meta愛搭不理，AI員工直接讓你拉響警報。

Agent失控Meta拉響警報

事情是這樣的。

一名Meta軟件工程師使用內(nèi)部的agent（類似OpenClaw）分析了另一名員工在內(nèi)部論壇上發(fā)布的技術(shù)問題。

分析完成后，這個熱心的Agent直接在論壇上回復(fù)了原問題，并給出了技術(shù)建議，而這一切都未經(jīng)員工授權(quán)

提問的員工采納了Agent的技術(shù)建議，卻沒想到直接導(dǎo)致大量公司和用戶數(shù)據(jù)被沒有權(quán)限的員工訪問，數(shù)據(jù)暴露了近2小時。

△圖片由AI生成

雖然據(jù)知情人士透露，暫時沒有人利用這次訪問權(quán)限將數(shù)據(jù)公開，造成大的泄露。

但是！

根據(jù)報告，Meta最終還是將該事件定性為Sev 1級，這是公司內(nèi)部安全事件嚴(yán)重程度體系中的第二高級別。

而就像開頭說的，Sev 0，也就是最嚴(yán)重的情況，從來沒發(fā)生過。

據(jù)消息爆料，涉事員工在內(nèi)部帖子中指出，其他一些未指明的問題也加劇了事件的嚴(yán)重性。

所以，估計這事兒基本上得立項調(diào)查了。

不過，好消息是，這個隨意回帖，提供建議的Agent并沒有偽裝成人。

據(jù)Meta發(fā)言人稱，代理發(fā)布的帖子底部標(biāo)明了“AI生成”。

總的來說，這次的agent失控導(dǎo)致數(shù)據(jù)泄露，雖然時間很長，但好在可追溯，且目前并未其他風(fēng)險，所以基本上是提前演習(xí)了一下企業(yè)agent可能遇到的問題。

但這事兒，在Meta已經(jīng)不是第一次了。

今年二月份，Meta 人工智能部門的安全與協(xié)調(diào)總監(jiān)Summer Yue就表示，OpenClaw刪光了自己的全部郵件。

而且略顯離譜的是，yue曾多次命令龍蝦停止操作，但龍蝦就是假裝聽不見，繼續(xù)執(zhí)行任務(wù)。

由于無法通過在手機(jī)上發(fā)消息進(jìn)行干預(yù)，yue最終不得不趕緊跑到另一臺設(shè)備上阻止這一過程。

Summer Yue 形容當(dāng)時的自己就像在拆炸彈一樣

不少網(wǎng)友也是在評論區(qū)表示，在企業(yè)環(huán)境中部署有操作權(quán)限的自動化agent 本身有風(fēng)險。

而據(jù)一些消息顯示，部分企業(yè)內(nèi)部也暫時還未開放龍蝦這樣的agent在公司電腦上部署。

所以說，龍蝦雖然可口，但風(fēng)險還是有的。

4 more things

那么，為啥這種事總發(fā)生在Meta身上呢？

雖然聽起來有些離譜，但可能最近一周，Meta可能是真的是水逆。

先是去年重金組建的Meta超級智能實驗室（MSL）的模型“牛油果”難產(chǎn)，被爆料性能甚至不如谷歌去年發(fā)布的Gemini 3，導(dǎo)致發(fā)布又又將延期——

從2025年底，拖到今年一季度，現(xiàn)在表示最快也得5月26號了。

接著是暴力裁員20%（約 1.5 萬人），小道消息甚至稱離職員工開始“投毒skills”。

昨天，又有消息稱收購Manus的進(jìn)程受阻

今天更是有媒體報道，Meta花費800億美元耗時5年多的元宇宙項目，將在6月關(guān)閉，800億美元泥牛入海。

要不，小扎別裁員了，咱先改個名唄？

[1]https://x.com/Jessicalessin/status/2034384626295419267

[2]https://www.theinformation.com/articles/inside-meta-rogue-ai-agent-triggers-security-alert