AI模型“克勞德神話”為何引發網絡安全擔憂（環球熱點）

(本文配圖由AI輔助生成)

美國人工智能(AI)企業Anthropic日前披露，該公司研發的最新大模型“克勞德神話(Claude Mythos)”能夠自主識別主流軟件系統中大量此前未被發現的安全漏洞，并能開發出相應攻擊手段。

這一情況在美英等國金融界和科技界引發高度關注與隱憂。國際貨幣基金組織總裁格奧爾基耶娃近日警告說，全球貨幣體系尚未做好應對AI風險快速升級的準備。美英監管機構緊急召集多家大型銀行代表提示相關風險。與此同時，美國多家主流科技企業正在聯合測試該模型，以應對潛在風險。

識別和利用漏洞能力極強

“克勞德神話”能強化網絡防御的能力，同樣可能被攻擊者利用。

據了解，“克勞德神話”號稱在發現軟件漏洞方面展現出極強能力，已識別出包括主流操作系統和網絡瀏覽器在內的常用軟件程序中的“數千個”漏洞，其中一些漏洞相當隱蔽，難以被常規手段檢測到，且這些漏洞絕大多數尚未修復。它發現的最早一個漏洞可追溯至27年前，另外一個在視頻處理工具中發現的漏洞，即便在自動化測試工具運行了500萬次后，仍未被檢測出來。

Anthropic自稱，“克勞德神話”是一款通用模型，并非專門針對網絡安全訓練，但其強大的自主編碼和推理能力，使其具備發現網絡安全漏洞的突出能力。在沒有人工指導的情況下，它能夠“完全自主地識別漏洞，并開發出許多相關攻擊手段”。

但該公司也承認，這種能強化網絡防御的能力，同樣可能被攻擊者利用。測試顯示，“克勞德神話”能夠構建復雜的漏洞利用鏈，實施可繞過多層安全防護的多步攻擊，甚至自主實現了權限提升技術。“鑒于人工智能技術的發展速度，這種能力或將迅速擴散，甚至可能落入并非致力于安全應用的主體手中。這對經濟、公共安全和國家安全都可能造成嚴重后果。”

據多家外媒報道，Anthropic在發布“克勞德神話”前，已主動向美國政府及金融等關鍵行業利益相關方通報了該模型的相關能力。

潛在風險引發金融界擔憂

目前全球尚不具備足夠能力保護國際貨幣體系免受大規模網絡風險沖擊，“我們迫切希望各方更加重視在AI時代維護金融穩定所必需的監管防線”。

“克勞德神話”的潛在風險已經至少在美國、英國和加拿大引發金融界高度關注。格奧爾基耶娃近日在接受美國哥倫比亞廣播公司一檔節目采訪時表示，目前全球尚不具備足夠能力保護國際貨幣體系免受大規模網絡風險沖擊，“我們迫切希望各方更加重視在AI時代維護金融穩定所必需的監管防線”。她呼吁就此展開全球合作。

據外媒報道，美國財政部長貝森特和美聯儲主席鮑威爾近日緊急召集花旗集團、摩根士丹利、美國銀行、富國銀行和高盛等美國主要金融機構負責人開會，通報了這款新模型可能帶來的網絡安全風險，以確保銀行業充分認識到“克勞德神話”及同類模型帶來的威脅，并采取措施保護自身系統。

英國央行、英國金融行為監管局和英國財政部等也正在與英國國家網絡安全中心以及各大銀行、保險公司和交易所的代表進行緊急磋商，以評估“克勞德神話”所帶來的網絡安全風險。

英國監管機構預計將在未來兩周內向金融行業通報相關情況。

Anthropic表示，考慮到“克勞德神話”的潛在風險，暫時不會面向公眾發布這款大模型，并啟動名為“Glasswing”的合作項目，向微軟、亞馬遜、谷歌、蘋果、思科等40多家科技企業、金融機構以及基礎設施服務商開放了“克勞德神話”預覽版本的訪問權限，使它們能夠對模型進行測試，實現“提前防御”。

“Glasswing”項目的參與方將共享各自利用“克勞德神話”發現的漏洞信息，分析自身系統、識別高風險漏洞并加快修復。同時，“克勞德神話”的訪問權限受到嚴格限制，以防有人利用這一模型尋找系統漏洞并發起攻擊。

AI正重塑網絡安全攻防格局

“AI使漏洞從被發現到被對手利用之間的時間窗口大幅壓縮，過去可能需要數月的過程，如今可能幾分鐘內就會發生。”

美國業內人士及媒體普遍認為，AI正在從根本上改變網絡安全攻防格局。

思科公司首席安全與信任官格里科認為，AI能力已經跨過一個門檻，從根本上改變了保護關鍵基礎設施免受網絡威脅所需的緊迫程度，必須通過多方合作加以應對。美國“眾擊”網絡安全服務公司首席技術官扎伊采夫說，AI使漏洞從被發現到被對手利用之間的時間窗口大幅壓縮，過去可能需要數月的過程，如今可能幾分鐘內就會發生。

美國阿克西奧斯新聞網站的報道指出，美國開放人工智能研究中心(OpenAI)也計劃向少數合作伙伴發布一款“具有先進網絡安全功能的產品”。報道說，AI的網絡攻擊能力達到新的臨界點，模型開發者越來越擔心可能帶來的破壞性后果，因此不愿直接公開發布。

美國微軟公司前首席研究與戰略官克雷格·蒙迪指出，過去只有大國、大企業和大型犯罪組織才能掌握的復雜網絡攻擊能力，未來可能會“徹底普及”。美國作家托馬斯·弗里德曼認為，世界上沒有國家能夠獨自解決這個問題。相關國家當務之急是著手開展合作，以防不法分子獲得這種更高層次的網絡能力。

(據新華社電記者林昊、馮玉婧)