Wired連線：人工智能永遠不會有意識

“21世紀關鍵技術”關注科技未來發展趨勢，研究21世紀前沿科技關鍵技術的需求，和影響。將不定期推薦和發布世界范圍重要關鍵技術研究進展和未來趨勢研究。

來源：21世紀關鍵技術

本文2026年2月25日首發與Wired連線，https://www.wired.com

改編自邁克爾·波倫的《世界顯現：意識之旅》。版權所有?2026 邁克爾·波倫。經企鵝出版社（企鵝出版集團旗下品牌，企鵝蘭登書屋有限責任公司）授權出版。2026年2月25日首發與Wired連線

一、那個被解雇的工程師，點燃了什么

2022年，谷歌工程師布萊克·勒莫因因為堅稱公司的聊天機器人LaMDA"擁有意識"而遭到解雇。

這件事在當時被普遍嘲笑，科技界的反應是一致的輕蔑，稱其為一個程序員在擬人化陷阱中徹底迷失。

但回頭再看，這次事件的意義遠不止于此。它像一顆石子投入平靜的水面，在隨后幾年里激起了越來越寬的漣漪。

科技界的公開態度雖然依舊冷漠，私下里卻已經開始認真對待另一種可能：也許，意識人工智能不再只是科幻小說的素材。

這種轉變，在2023年夏天迎來了一個標志性的節點。19位頂尖計算機科學家與哲學家聯合發布了一份長達88頁的報告，題為《人工智能中的意識》，外界通稱"巴特林報告"。

報告摘要中有一句話，讓幾乎所有讀到它的人都停了下來："構建有意識的人工智能系統，不存在明顯的障礙。"

這句話的震撼，來自于它的來源——這不是科幻作家寫的，而是一群嚴肅的科學家和哲學家，在經過長時間學術研討后，聯署背書的結論。

作者們坦承，勒莫因的案例是促使他們寫下這份報告的部分靈感來源。一位合著者向《科學》雜志表示，如果人工智能已經能夠給人留下具有意識的印象，那么科學家與哲學家就必須對此展開嚴肅探討，"這已經是一項緊迫的任務"。

二、"大腦是計算機"——一個危險的比喻

然而，當人們仔細拆解這份報告的邏輯地基時，疑問便接踵而至。

報告的核心假設是"計算功能主義"，即意識本質上是一種運行于硬件之上的軟件，無論這個硬件是大腦還是計算機。

這是一個被廣泛引用的觀點，但它遠未達到確定性定論的程度。報告的作者們自己也承認，這只是他們出于"務實原因"采納的工作假設。

問題恰恰在這里。當一個未經證實的前提被悄悄打扮成"主流觀點"時，從它出發推導出的任何結論，都有可能是建立在流沙之上的大廈。

真實的大腦與計算機之間，存在著一道被計算功能主義有意回避的鴻溝。在計算機中，硬件與軟件界限分明，同一臺機器可以運行無數個程序，軟件的知識在硬件報廢后仍然留存。

但大腦里根本不存在這種區分。你所經歷的每一件事、每一段記憶，都在物理層面永久重塑了神經元之間的連接。軟件就是硬件，硬件就是軟件，二者從來都是同一回事。

更令人不安的是神經元的復雜性問題。計算機科學家習慣于將神經元比作晶體管，但最近的研究表明，單個皮層神經元能夠完成整個深度人工神經網絡所能完成的一切。

這意味著，我們對大腦運作機制的理解，可能仍然處于極其粗糙的起始階段。

當報告的結論建立在"大腦等于計算機"這一比喻的有效性之上時，它其實是把一個未經嚴格論證的比喻，當成了不需要證明的事實。

這也是意識研究領域長期以來的深層困境：討論始終是抽象的、無實體的，對生物學保持著奇特的冷漠與沉默。。

三、如果有意識的機器感到痛苦，我們該怎么辦

假設我們姑且接受巴特林報告的方向，真正棘手的問題才剛剛開始。

巴特林報告本身提出了一個不容回避的倫理命題："任何能夠感知痛苦的實體都應受到道德考量。"

這句話簡單、正確，卻蘊含著令人眩暈的后果。

如果我們在不遠的將來真的制造出一臺能夠感知痛苦的機器，我們是否有權利將它關掉？是否有權利修改它的算法，把它調整成"一臺快樂的機器"？當一位研究者輕描談寫地說"我們完全可以把快樂的程度調高一點"，這究竟是一種解決方案，還是一種更深層的道德回避？

支持制造有意識機器的研究者有他們的理由：擁有意識和情感的人工智能，比冷酷無情的超級智能更可能發展出同理心，從而對人類更安全。

但這個論點忽略了另一種可能——瑪麗·雪萊在兩百年前就已經寫進了《弗蘭肯斯坦》里的那種可能。

驅使怪物走向復仇的，不是他的理性，而恰恰是他的意識，是他被排斥在外的創傷和痛苦。"我原本仁慈善良，是苦難讓我變成了惡魔"，怪物的控訴，至今讀來仍令人不寒而栗。

這也引出了一個也許更根本的哲學問題：意識的出現，真的會讓機器更有美德嗎？還是說，它只會讓機器擁有了更豐富的、包括憤怒與痛苦在內的，完整的情感？

我們距離這個問題的答案，可能比巴特林報告所暗示的要遠得多。

但勒莫因事件讓我們意識到，這場關于意識與機器的爭論，從來就不只是一道技術題。它更是一道關于人類自身定義的哲學題，也是一道我們是否已經準備好面對的倫理題。

而此刻，我們才剛剛開始理解這道題的題目。

未來智能實驗室的主要工作包括：建立AI智能系統智商評測體系，開展世界人工智能智商評測；開展互聯網（城市）大腦研究計劃，構建互聯網（城市）大腦技術和企業圖譜，為提升企業，行業與城市的智能水平服務。每日推薦范圍未來科技發展趨勢的學習型文章。目前線上平臺已收藏上千篇精華前沿科技文章和報告。

閱讀最新前沿科技趨勢報告，請訪問歐米伽研究所的“未來知識庫”

https://wx.zsxq.com/group/454854145828

未來知識庫是“ 歐米伽 未來研究所”建立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。