上海
品玩3月20日訊，螞蟻數(shù)科官方消息，為應(yīng)對以O(shè)penClaw為代表的自主執(zhí)行型AI在廣泛應(yīng)用中帶來的權(quán)限越界、記憶污染、惡意誘導(dǎo)與算力濫用等安全風(fēng)險，螞蟻數(shù)科近日正式發(fā)布了“蟻天鑒2.0 - 龍蝦衛(wèi)士”AI安全防護體系。該體系旨在為部署AI智能體的企業(yè)提供全生命周期、多層次的安全保障，推動從被動防御向主動應(yīng)對的轉(zhuǎn)變。
“龍蝦衛(wèi)士”的核心安全能力由“Claw安全套件1.0”承載，其聚焦于三大方向：一是“對抗思想變異”，精準(zhǔn)識別并攔截違規(guī)信息與惡意誘導(dǎo)，防止AI模型被“黑化”；二是“凈化skills倉庫”，基于CALIR五維模型框架對Skills插件進行合規(guī)掃描與行為審計，阻斷權(quán)限越界與敏感泄露風(fēng)險；三是“風(fēng)險輿情播報”，通過生成實時應(yīng)急報告并主動推送，幫助企業(yè)即時感知安全態(tài)勢。
為助力更多企業(yè)低成本完成安全基線建設(shè)，螞蟻數(shù)科同步啟動了“龍蝦AI安全守護計劃”。該計劃將面向首批100家合作企業(yè)，提供為期3個月、總計20萬次的免費安全防護調(diào)用服務(wù)。螞蟻數(shù)科表示，其基于真實場景攻防的技術(shù)研發(fā)已達到SOTA水平，并具備0-Day風(fēng)險泛化修復(fù)能力，未來將持續(xù)投入AI安全領(lǐng)域，確保企業(yè)在享受AI紅利時擁有可控、可追溯的安全保障。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
