品玩3月20日訊,螞蟻數(shù)科官方消息,為應(yīng)對以O(shè)penClaw為代表的自主執(zhí)行型AI在廣泛應(yīng)用中帶來的權(quán)限越界、記憶污染、惡意誘導(dǎo)與算力濫用等安全風(fēng)險,螞蟻數(shù)科近日正式發(fā)布了“蟻天鑒2.0 - 龍蝦衛(wèi)士”AI安全防護體系。該體系旨在為部署AI智能體的企業(yè)提供全生命周期、多層次的安全保障,推動從被動防御向主動應(yīng)對的轉(zhuǎn)變。
“龍蝦衛(wèi)士”的核心安全能力由“Claw安全套件1.0”承載,其聚焦于三大方向:一是“對抗思想變異”,精準(zhǔn)識別并攔截違規(guī)信息與惡意誘導(dǎo),防止AI模型被“黑化”;二是“凈化skills倉庫”,基于CALIR五維模型框架對Skills插件進行合規(guī)掃描與行為審計,阻斷權(quán)限越界與敏感泄露風(fēng)險;三是“風(fēng)險輿情播報”,通過生成實時應(yīng)急報告并主動推送,幫助企業(yè)即時感知安全態(tài)勢。
為助力更多企業(yè)低成本完成安全基線建設(shè),螞蟻數(shù)科同步啟動了“龍蝦AI安全守護計劃”。該計劃將面向首批100家合作企業(yè),提供為期3個月、總計20萬次的免費安全防護調(diào)用服務(wù)。螞蟻數(shù)科表示,其基于真實場景攻防的技術(shù)研發(fā)已達到SOTA水平,并具備0-Day風(fēng)險泛化修復(fù)能力,未來將持續(xù)投入AI安全領(lǐng)域,確保企業(yè)在享受AI紅利時擁有可控、可追溯的安全保障。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.