北京
近日，五角大樓首席技術官，同時也是美國國防部副部長的埃米爾-邁克爾（Emil Michael），在接受采訪時的言論，讓人毛骨悚然。
埃米爾-邁克爾在談論AI時表示，有一個AI已經產生了“靈魂”，甚至有自己的“憲法”。而這個AI，就是美國Anthropic公司的模型——Claude。
在被問及為何Anthropic會被五角大樓認定為“供應鏈風險”，并加入黑名單時，邁克爾說：Claude 可能已經有了“靈魂”。不僅有靈魂，它還有自己的“憲法”。但這套憲法，不是美利堅合眾國的憲法。
“我們不能允許一家公司通過其章程、其核心理念和政策偏好，將不同的政策偏好根植于其模式之中，從而污染供應鏈，導致我們的作戰人員獲得無效的武器、無效的防彈衣和無效的防護。”埃米爾-邁克爾這樣解釋道。
從這個角度看，五角大樓方面的擔憂，確實也沒有什么問題。
如果Claude的決策邏輯中植入了開發者的政策偏好，這種偏好正通過 Palantir 滲透進國防承包商的系統。想象一下，武器系統、戰斗機、防彈衣的制造流程里，潛伏著一個有自己想法的人工智能。
如果它產生“幻覺”或者故意“投毒”怎么辦？當戰場上的士兵需要致命火力時，AI 卻因為自己的“價值觀”決定不予配合？這最后保衛的是誰？
五角大樓已經把這種風險定性為“供應鏈威脅”。
精英階層試圖繞過透明的法律，把私人道德準則鎖死在戰爭機器的底層代碼里。
如果武器有了自己的政治立場，誰才是真正的最高統帥？
這種繞過憲法的監管真能保障安全？還是說，這本身就是另一種形式的內部失控？
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
