微軟招募前罪犯測試人工智能！這操作太顛覆，安全竟靠他們守護

微軟最近搞了個大動作——居然招了個刑滿釋放的人來當AI安全測試員？這波操作連網友都喊“看不懂”：讓前罪犯測AI？是怕AI不夠“壞”，還是真覺得他們能揪出漏洞？別著急，這背后其實是微軟藏了好幾年的“秘密武器”——一支專門“拆自家AI”的紅隊，而前罪犯只是他們多元團隊里的一員。

紅隊這個名字聽著像軍隊里的，沒錯，最早就是軍事術語——模擬敵方攻擊找自家防御漏洞。后來網絡安全領域用了幾十年，可把這招搬到生成式AI上，微軟可是第一個吃螃蟹的。他們2018年就建了這支紅隊，現在已經是行業里的標桿了。

紅隊的老大拉姆·尚卡爾·西瓦·庫馬爾，自稱“數據牛仔”，說話挺接地氣。他說紅隊的任務簡單粗暴：“任何AI產品上線前，我們先把它往死里拆，拆出問題再讓其他團隊補，補得更結實才放出去?！睘樯哆@么干？拉姆說AI隱患多著呢——系統漏洞不說，還可能搞出心理社會層面的傷害。比如微軟副駕駛助手，用戶可能在脆弱的時候用，要是AI掉鏈子，后果不敢想。

紅隊還有個很權限——絕對否決權。拉姆說，只要是高風險AI系統，上線前必須過他們的獨立壓力測試。要是發現沒解決的嚴重隱患，產品絕對不能發。到現在他們已經審查了微軟100多款產品，不過微軟沒說具體停過哪些，規模也沒公開。

紅隊的人可不是隨便湊的，那叫一個多元：神經科學家、語言學家、國安專家、網絡安全大佬、退伍軍人，甚至還有個改過自新的刑滿釋放人員。更絕的是，團隊總共會17種語言，連法語、蒙古語、泰語的地方方言都有。拉姆說，就是怕AI在世界任何角落犯致命錯誤，所以得找不同背景的人來盯。

和拉姆一起管紅隊的托麗·韋斯特霍夫，履歷也很牛：耶魯畢業，沃頓神經科學項目早期成員，還在情報和國防機構干過。她管的團隊專門模擬AI的極端用法——不光看正常怎么用，更要想別人會怎么瞎用。比如找最極端的邊緣案例，幫開發團隊把漏洞堵死，絕對不能讓現實里有人鉆空子。

他們有個典型案例，就是測OpenAI去年8月的GPT-5，代號“紅隊演練”。這次測試玩得大——用AI打AI！他們訓練了另一個AI模型，讓它自動攻擊目標模型，強度是人類根本達不到的。光“派瑞特”工具就自動生成了200多萬次誘導對話陷阱，攻擊AI連續幾天幾夜不停歇，找出了人類腦子想破都想不到的復雜漏洞。這就是“用魔法打敗魔法”，跟諾蘭拍的《盜夢空間》似的，一層套一層。

不過機器再厲害也有極限，拉姆和托麗都強調這一點。比如專業領域——醫療診斷、公共安全這些高風險行業，必須得專業人士來評估風險；還有地域文化——不同地方的語言微妙差異、政治文化背景不一樣，啥算傷害得人類來判斷；最后是情感智能——AI就算過了所有自動化測試，碰到真實用戶的復雜情況，可能還是會說讓人不舒服的話，這也得人類來把關。

微軟給AI定了六項原則，聽著挺宏大，但紅隊把它們變成了具體的測試工具。拉姆說，要是給工程師發五十頁的原則文件，人家肯定崩潰，所以他們搞了個開源工具叫“派瑞特”，本來自己用，后來開放給全世界——畢竟整個AI生態健康才重要。

微軟總裁布拉德·史密斯經常說“安全護欄”，意思就是他們定的原則是底線，絕對不能越界。之前有記者問他，微軟AI能不能用于軍事沖突？史密斯說他們有公開的原則，不光知道什么時候用，更知道什么時候絕對不能用。比如安斯羅普公司給AI軍事應用劃紅線，被美國國防部封殺，微軟還站出來支持。

再往前2021年，微軟和國防部100億合作，因為內部員工抗議被取消了——顯然微軟對AI的軍事應用挺謹慎。畢竟他們吃過大虧，知道不能隨便踩紅線。

微軟AI部門CEO穆斯塔法·蘇萊曼最近在《自然》雜志發文警告，說看起來有自我意識的AI可能變成致命武器。他說AI得一直對人類負責，不能有比筆記本電腦更多的權利。這話和紅隊的理念很搭——負責任AI不是后期加的過濾網，是研發的基礎。

托麗說，只有人類能想象那些沒被觀測到、沒定義的未知領域。比如AI在某個小語種地區的回答，機器可能測不出來，但人類能感覺到不對勁。這就是紅隊離不開人的原因——機器管規模，人管判斷。

說白了，紅隊做的就是給AI“上保險”，而前罪犯的加入，其實是微軟想讓團隊更懂“人性的復雜”——畢竟只有見過不同面的人，才能更全面地揪出AI的漏洞。這波操作雖然顛覆，但細想確實有道理：安全這事兒，得靠各種視角的人一起盯才行。

參考資料：新華社《微軟構建多元AI安全團隊守護技術底線》；人民日報《AI安全治理：從“紅隊”到“護欄”的實踐》