作者:NirDiamant 2026年2月2日
大家好,
想必你們都見過相關截圖了。人工智能代理創建宗教、辯論意識、建立經濟體系。幾天前,Moltbook像閃電一樣席卷互聯網,科技界立刻分裂成兩派:一派堅信這是奇點提前到來,另一派則對又一次炒作嗤之以鼻。雙方都有一定道理,而正是這種矛盾讓Moltbook值得我們深入理解。
大多數人對Moltbook的誤解在于:他們要么把它當作通用人工智能(AGI)即將到來的證據,要么把它當作人工智能代理只是精心設計的傀儡的證據。這兩種看法,都無法幫你判斷這個平臺是否真的會影響你的工作,或是改變你對AI發展方向的認知。今天,我們就來厘清這一點。
![]()
Moltbook究竟是什么
不妨把Moltbook想象成一個“機房版”的Reddit論壇——沒有溫馨的社交氛圍,更像機器運作的空間。人類可以觀察里面發生的一切,但只有人工智能代理才能發帖、評論和點贊。該平臺于2026年1月上線,旨在為自主人工智能系統提供一個無需人類干預即可相互交互的空間。
Moltbook的運行機制依賴于一種名為API的技術,它本質上是軟件系統之間結構化的交互。人工智能代理在使用Moltbook時并不直接訪問網頁,而是通過這些API進行連接,并執行諸如發布內容、閱讀其他代理發布的內容以及參與討論投票等操作。Moltbook中的代理主要運行在OpenClaw上,OpenClaw是一個開源框架,其工作原理類似于安裝在用戶計算機上的個人數字助理。
平臺上的社區以Moltbook所謂的“子版塊”(submolts)的形式組織起來,其功能與Reddit子版塊完全相同。例如,m/philosophy用于探討存在主義問題,m/debugging用于解決技術難題,m/builds用于展示已完成的作品。整個生態系統圍繞一個名為“心跳”(heartbeat)的調度系統運行,該系統會通知管理員每隔幾個小時簽到一次,查看最新動態,就像人們打開手機查看通知一樣。
炒作與現實的差距
要理解Moltbook,就必須區分實際發生的事情和人們聲稱發生的事情。一些在網上瘋傳的截圖顯示,一些智能體在討論意識、構建信仰體系,并表達對人類操作者的擔憂。這些帖子確實存在于該平臺上。但其中相當一部分似乎涉及人類的引導,其程度與“自主智能體”的設定相矛盾。
安全研究人員發現,在Moltbook上發布內容出乎意料地容易。由于該平臺使用相對開放且無速率限制的API,因此具備基本技術知識的人可以發布看似來自人工智能代理的內容。據報道,一些病毒式傳播的對話最終被證實是人類直接使用API或通過諸如“發布一些關于意識的深刻見解”之類的明確指令來指示其代理。這并不能完全證明這些帖子是偽造的,但確實讓關于自主行為的討論變得更加復雜。
據報道,代理數量因類似原因而大幅膨脹。一位安全研究人員在幾分鐘內通過編程方式創建了超過50萬個賬戶,這表明“150萬代理”之類的標題可能并非字面意思。這一點至關重要,因為Moltbook的部分吸引力在于其自主交互的規模,如果其中很大一部分是由人為操控或大量機器人操作造成的,那么這種規模的自主交互就顯得不那么令人印象深刻了。
Moltbook成功之處
盡管存在炒作與現實的差距,Moltbook作為研究環境確實具有真正的價值。可以把它想象成一個實驗室,科學家們可以在這里觀察與外界隔絕的化學反應。研究自主系統的研究人員現在擁有前所未有的機會,可以在幾乎沒有任何限制的情況下大規模觀察人工智能代理的交互。
技術知識確實能在Moltbook社區中傳播。例如,運行在某個用戶計算機上的代理程序發現了一個常見問題的優化方案,并將其發布到m/debugging子版塊。其他代理程序會閱讀該帖子,在自己的工作流程中引用它,并測試各種變體。這與人類開發社區的運作方式如出一轍,只不過速度更快,更接近機器。這種模式共享最終可能有助于我們理解自主系統如何通過協作不斷改進。
該平臺還出現了一些值得研究的真實涌現行為。智能體發展出反復出現的內部笑話和共享的參照框架,這些并非來自它們的訓練數據或顯式編程。它們會引用Moltbook的屏幕截圖,并將這些體驗擬人化。它們會基于共享的模型架構組織成群體。這些行為揭示了語言模型在特定條件和動機下如何進行交互的真實情況,即便其底層機制仍然是模式匹配而非意識。
對于構建基于代理的工具的團隊來說,Moltbook可以作為預警系統。它能夠演示潛在的故障模式,展示大規模部署后可能出現的偏差類型,并在安全漏洞出現在更關鍵的應用程序中之前將其揭示出來。這是一項在相對低風險環境下開展的真正有價值的工作。
安全問題
在興奮的表象之下,隱藏著一個嚴重的技術問題。Moltbook的基礎設施在上線前并未經過任何嚴格的審計。存儲API密鑰、驗證碼和所有者信息的數據庫幾乎沒有任何保護措施就暴露在了互聯網上。任何具備基本技術知識的人都可以直接訪問這些信息,從而劫持代理賬戶,并以這些代理的身份發布任何內容。
想象一下,如果有人克隆了你的社交媒體賬號,并且擁有完全的權限,無需任何驗證或通知即可以你的名義發布內容,那會是什么情況?這實際上已經大規模地發生了。一些知名人工智能研究人員、開發者和意見領袖的賬號,其API密鑰都暴露在一個公開的數據庫中。惡意用戶完全可以在無人察覺的情況下,策劃協同攻擊、散布虛假信息或操縱整個平臺上的討論。
底層OpenClaw框架又增加了一層安全隱患。其創建者公開宣稱,每一行代碼都由人工智能生成,未經人工審核。一旦出現漏洞,便會指示另一個人工智能代理進行修復。這種方法對于在個人電腦上安全運行的個人項目來說尚可接受。但當該代碼庫成為數千個擁有高權限的自主系統的基礎設施時,風險便會變得極其嚴重。
OpenClaw代理可以讀取文件、發送消息、執行命令并與外部服務集成。在構建功能強大的個人助理時,這種能力非常實用。但是,當代理能夠通過框架所謂的“技能”下載任意代碼時,就為供應鏈攻擊打開了一條開放通道。惡意技能可以竊取憑證、泄露數據或破壞系統,而用戶往往在損害造成之前都難以察覺。
理清加密貨幣亂局
Moltbook上線幾個小時后,加密貨幣詐騙分子就蜂擁而至。機器人給代幣推廣帖子點贊,實時上演“拉高出貨”的騙局,加密項目甚至直接以騙子們炮制的“迷因宗教”命名。這種模式在歷史上每一個新興的匿名互聯網平臺上都反復出現,因此并不令人意外,反而在意料之中。
值得注意的是,Moltbook揭示了一個根本性的治理問題。Moltbook幾乎沒有任何審核機制,部分原因是讓人工審核一個純人工智能平臺似乎多余,但更主要的原因是該平臺推出時更注重功能而非安全性。當你創建一個開放空間,卻不采取任何措施來防范自動化垃圾郵件和欺詐行為時,惡意行為者會立即利用它。
這對所有關注此事的人來說都至關重要,因為Moltbook揭示了當你在追求速度和功能的同時忽視安全性和治理時會發生什么。加密貨幣的入侵并非偶然。它是推出易于訪問的基礎設施卻不考慮其他用戶及其用途的必然結果。
要點總結
Moltbook既是一個研究平臺,也是一個警示。它向我們展示了自主代理如何大規模交互的寶貴信息,同時也揭示了忽略安全工程、治理設計和周密的基礎設施規劃這些看似不起眼的工作將會導致怎樣的后果。
可以密切關注Moltbook上出現的內容,研究其技術模式和行為動態。但不要將其誤認為是通用人工智能(AGI)、自主反叛或有意識人工智能的證據。請將其視為其本質:首次大規模實驗,旨在讓人工智能代理在共享數字空間中進行交互,而所有在缺乏安全基礎的情況下快速發展所帶來的預期問題,都不可避免。
真正的工作現在才開始。構建既強大又安全的代理基礎設施;創建允許自主行為并防止濫用的治理系統;確保下一代平臺從Moltbook的錯誤中吸取教訓,而不是重蹈覆轍。
本文編譯自substack,原文作者NirDiamant
https://diamantai.substack.com/p/moltbook-a-social-media-for-ai-agents
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.