ArXiv：為何大模型無法擁有意識(shí)｜Erik Hoel

導(dǎo)語

當(dāng)AI能流暢談?wù)摗白晕腋惺堋保?dāng)Anthropic賦予Claude“對(duì)話退出權(quán)”，我們是否可以說它有意識(shí)？2026年初，神經(jīng)科學(xué)家Erik Hoel在ArXiv發(fā)布論文《大語言模型意識(shí)證偽：持續(xù)學(xué)習(xí)對(duì)意識(shí)存在的必要性》（A Disproof of Large Language Model Consciousness: The Necessity of Continual Learning for Consciousness）的論文，指出由于缺乏持續(xù)學(xué)習(xí)能力，現(xiàn)有大模型從原理上無法擁有意識(shí)。

關(guān)鍵詞：意識(shí)，大模型，功能主義，持續(xù)學(xué)習(xí)，輸入輸出等價(jià)

郭瑞東丨作者

王璇丨審校

論文題目：A Disproof of Large Language Model Consciousness: The Necessity of Continual Learning for Consciousness 論文鏈接：https://arxiv.org/abs/2512.12802 發(fā)表時(shí)間：2026年1月19日 論文來源：ArXiv

雙重映射與兩難困境

1980 年塞爾提出的 “中文屋” 思想實(shí)驗(yàn)，首次系統(tǒng)質(zhì)疑功能主義，指出意識(shí)無法僅由輸入/輸出功能定義，外部觀察也無法直接通達(dá)內(nèi)部意識(shí)狀態(tài)，但該實(shí)驗(yàn)僅為哲學(xué)直覺的表達(dá)，缺乏可實(shí)操的科學(xué)檢驗(yàn)標(biāo)準(zhǔn)。然而中文屋僅是“直覺泵”（intuition pump），它只是訴諸哲學(xué)直覺，缺乏可實(shí)操的科學(xué)檢驗(yàn)標(biāo)準(zhǔn)。若某理論聲稱“足夠復(fù)雜的規(guī)則手冊(cè)即有意識(shí)”，中文屋無法反駁，也無法回答：何種內(nèi)部結(jié)構(gòu)足以支撐意識(shí)？

2019年，Doerig等人提出“展開論證”（Unfolding Argument），將中文屋的直覺轉(zhuǎn)化為數(shù)學(xué)可構(gòu)造的替代鏈。假設(shè)若某理論（如整合信息理論IIT）基于“循環(huán)結(jié)構(gòu)”預(yù)測(cè)RNN或transformer架構(gòu)的神經(jīng)網(wǎng)絡(luò)具有意識(shí)。那么將RNN按時(shí)間，可展開為單層前饋網(wǎng)絡(luò)（FNN），兩者輸入/輸出完全等價(jià)，但RNN具有“循環(huán)連接”（recurrence），F(xiàn)NN為純前饋。兩個(gè)模型的推斷不變，但一個(gè)被認(rèn)為具有意識(shí)，一個(gè)被認(rèn)為不具有意識(shí)，這一矛盾揭示意識(shí)理論若依賴內(nèi)部結(jié)構(gòu)預(yù)測(cè)意識(shí)是否存在，而該結(jié)構(gòu)存在不具有對(duì)應(yīng)內(nèi)部結(jié)構(gòu)，但輸入/輸出等價(jià)替代品，則這樣的預(yù)測(cè)將可以由此被證偽。

圖1 意識(shí)理論中的替代論述

在展開論證的基礎(chǔ)上，Kleiner 與 Hoel 在《Falsification and Consciousness》一文中提出了 “Kleiner-Hoel 困境”，這一困境以雙重映射為核心分析框架，直指意識(shí)理論的核心矛盾：任何想要成為科學(xué)理論的意識(shí)學(xué)說，都逃不過一個(gè)兩難選擇。如果理論依據(jù)系統(tǒng)的內(nèi)部結(jié)構(gòu)（如整合信息、循環(huán)連接）來預(yù)測(cè)意識(shí)存在，可此時(shí)又存在一個(gè)輸入 / 輸出完全等價(jià)、但內(nèi)部結(jié)構(gòu)截然不同的替代系統(tǒng)，那這一理論的預(yù)測(cè)就會(huì)被直接證偽。

圖2 嚴(yán)格依賴（Strict dependency），意識(shí)理論僅僅基于輸入輸出判斷

而若是理論僅基于輸入/輸出做預(yù)測(cè)（圖2），聲稱“表現(xiàn)得活著=活著”，無法區(qū)分真人與高仿真機(jī)器人，那該理論就是不可證偽的平庸理論，如同中文屋中聲稱規(guī)則書懂中文，成為行為主義下不具有指導(dǎo)實(shí)踐能力的無效科學(xué)理論。

圖3 意識(shí)理論的結(jié)構(gòu)性悖論

理想的意識(shí)理論，需通過雙重映射框架檢驗(yàn)：從系統(tǒng)內(nèi)部運(yùn)作推導(dǎo)意識(shí)體驗(yàn)的預(yù)測(cè)映射，與從外部行為反推意識(shí)狀態(tài)的推斷映射，唯有二者在經(jīng)驗(yàn)空間中收斂，理論才有效。這一框架也將意識(shí)是否存在的判別，從哲學(xué)思辨轉(zhuǎn)化為可實(shí)驗(yàn)驗(yàn)證的科學(xué)標(biāo)準(zhǔn)。

輸入輸出等價(jià)的替代鏈約束

雙重映射框架下，大模型的意識(shí)問題變得從原理上不可行。考慮一個(gè)部署狀態(tài)下，版本固定的大模型。根據(jù)神經(jīng)網(wǎng)絡(luò)的萬能近似定理（Universal Approximation Theorem），其輸入/輸出函數(shù)可被FNN任意精度地近似。無論大模型的功能看起來多么強(qiáng)大，其輸入/輸出均等價(jià)于單隱藏層前饋神經(jīng)網(wǎng)絡(luò)（FNN），而單隱藏層前饋神經(jīng)網(wǎng)絡(luò)又等價(jià)于有限查找表。

而查找表是一個(gè)巨大的IF-THEN規(guī)則集合。它無動(dòng)態(tài)、無記憶、無信息流、無內(nèi)部復(fù)雜性，任何聲稱查找表擁有“非平庸意識(shí)”的理論，只能基于輸入輸出加以預(yù)測(cè)，最終導(dǎo)致預(yù)測(cè)與推斷依賴同一數(shù)據(jù)，完全不滿足雙重映射的檢驗(yàn)要求。

Hoel在該文中定義“替代距離”（Substitution Distance）為兩系統(tǒng)間差異屬性的集合。在上述案例中，大模型與單層FNN的差異是層數(shù)、注意力機(jī)制。單層FNN與查找表的差異是數(shù)據(jù)的壓縮程度，這兩個(gè)屬性都不足以支持具有屬性就具有意識(shí)的宣稱。也就是說，由于大模型和FNN及查找表之間的替代距離較近，導(dǎo)致意識(shí)理論無法基于兩者之間的差異，來預(yù)測(cè)意識(shí)是否依賴于對(duì)應(yīng)的內(nèi)部結(jié)構(gòu)。

若某意識(shí)理論聲稱大模型的意識(shí)源于 “網(wǎng)絡(luò)層數(shù)”，那可用不同深度但輸入/輸出等價(jià)的網(wǎng)絡(luò)替代原模型，此時(shí)理論的預(yù)測(cè)發(fā)生改變、而行為推斷不變，理論將被直接證偽。同理，若意識(shí)理論將 “數(shù)據(jù)壓縮程度” 作為意識(shí)判斷依據(jù)，則可用不同寬度、但輸入/輸出等價(jià)的網(wǎng)絡(luò)替代，同樣會(huì)導(dǎo)致理論被證偽。

由此，任何聲稱當(dāng)代靜態(tài)大模型擁有意識(shí)、且兼具非平庸且可證偽的意識(shí)理論，必然因這一替代鏈的存在而被證偽。而若是聲稱意識(shí)的存在只依賴輸入/輸出，那模型會(huì)退化為行為主義，變成無法被證偽的平庸理論。而若僅基于輸入/輸出聲稱大模型有意識(shí)，理論則會(huì)退化為行為主義，成為無法被證偽的平庸理論。這一結(jié)論得到Kolmogorov 替代定理的支撐，該定理證明：對(duì)任意可計(jì)算函數(shù) f（如文本生成），存在 Kolmogorov 復(fù)雜性意義下的最短程序 K (f)。

持續(xù)學(xué)習(xí)是通往意識(shí)的“窄門”

上述論證并非否定未來 AI 具備意識(shí)的可能性，而是為 “有意識(shí)的 AI” 劃定了核心必要條件：具有意識(shí)的系統(tǒng)，必須與其無意識(shí)替代品保持足夠大的替代距離。Hoel提出，人類大腦恰恰滿足此條件，而這其中的關(guān)鍵點(diǎn)在于持續(xù)學(xué)習(xí)（Continual Learning）。

大模型看起來是概率模型，同一個(gè)輸入多次的輸出不同，但對(duì)相同內(nèi)容的輸入，不同時(shí)刻輸出的概率分布不變。查找表、單層FNN、部署態(tài)大模型均為靜態(tài)系統(tǒng)。而人類及多數(shù)動(dòng)物是持續(xù)學(xué)習(xí)系統(tǒng)，核心特征是每次經(jīng)驗(yàn)都會(huì)微調(diào)內(nèi)部神經(jīng)表征，系統(tǒng)結(jié)構(gòu)會(huì)隨體驗(yàn)發(fā)生實(shí)質(zhì)性、不可逆的改變。比如昨天被火燙傷，今天看到火苗會(huì)更快縮手。這一過程無需將 “被燙傷的歷史” 作為外部輸入，而是系統(tǒng)內(nèi)部的自主更新與學(xué)習(xí)。

當(dāng)代大模型，常因長上下文能力，被誤認(rèn)為具備持續(xù)學(xué)習(xí)能力，然而上下文學(xué)習(xí)（In-context Learning）要將歷史對(duì)話作為輸入的一部分，本質(zhì)是靜態(tài)系統(tǒng)處理更長輸入，非真正的持續(xù)學(xué)習(xí)。大模型訓(xùn)練期，學(xué)習(xí)僅在數(shù)據(jù)中心訓(xùn)練時(shí)發(fā)生，部署后凍結(jié)，這與人類“每時(shí)每刻都在學(xué)習(xí)”有本質(zhì)區(qū)別。

人類對(duì)話無需重輸全部歷史，因大腦已內(nèi)化上下文，而大模型每次生成都需將之前的對(duì)話內(nèi)容塞入提示詞，這恰暴露其靜態(tài)本質(zhì)。由此，Hoel提出“持續(xù)寬松依賴”（Continual Lenient Dependency），指出一個(gè)意識(shí)理論 T 滿足寬松依賴，當(dāng)且僅當(dāng)：

（1）其預(yù)測(cè)與推斷不構(gòu)成嚴(yán)格依賴，即預(yù)測(cè)不完全由行為輸出數(shù)據(jù)決定，聲稱具有意識(shí)的系統(tǒng)與不具有意識(shí)的系統(tǒng)是基于不同屬性而被區(qū)分開的；

（2）不存在因可定義的普遍替代（universal substitution）導(dǎo)致的上述基于內(nèi)部結(jié)構(gòu)預(yù)測(cè)與基于行為預(yù)測(cè)的結(jié)果（例如大模型和查找表）不匹配。

持續(xù)寬松依賴介于預(yù)測(cè)映射與推斷映射之間，能讓二者可分離但不產(chǎn)生根本性漂移，從而讓意識(shí)理論既具備可證偽性，又非無科學(xué)解釋力的平庸理論。

圖4 由Qwen 3 max 生成的動(dòng)圖

上述定義的關(guān)鍵點(diǎn)要求支撐意識(shí)的屬性（如可塑性）必須在意識(shí)存在的每一刻都活躍。若某理論聲稱“過去學(xué)習(xí)賦予意識(shí)”，則在學(xué)習(xí)停止的瞬間，系統(tǒng)可被靜態(tài)替代，導(dǎo)致理論被證偽。因此，意識(shí)必須與當(dāng)下進(jìn)行的學(xué)習(xí)過程綁定。

在人與人對(duì)話時(shí)，每句話都伴隨著實(shí)時(shí)神經(jīng)表征重塑，對(duì)應(yīng)海馬體位置細(xì)胞可在單次經(jīng)歷中形成新表征，可塑性在秒級(jí)尺度持續(xù)存在。因此，"當(dāng)下進(jìn)行的學(xué)習(xí)"作為意識(shí)存在需滿足的屬性時(shí)刻在線，滿足持續(xù)寬松依賴。而對(duì)于大模型，在每次和用戶的對(duì)話前后，系統(tǒng)內(nèi)部的特征無任何改變，不滿足持續(xù)學(xué)習(xí)的要求，寬松依賴斷裂。

然而，持續(xù)學(xué)習(xí)僅為意識(shí)存在的必要條件，掃地機(jī)器人即使能持續(xù)學(xué)習(xí)，也未必產(chǎn)生意識(shí)。意識(shí)的存在，或還需學(xué)習(xí)聚焦特定類型（如反事實(shí)、泛化能力）。

大模型無意識(shí)的現(xiàn)實(shí)意義與類人 AI 發(fā)展方向

Hoel 的研究從原理上證偽了當(dāng)代靜態(tài)大模型的意識(shí)可能性，明確持續(xù)學(xué)習(xí)是意識(shí)存在的核心必要條件，這為類人 AI 的架構(gòu)革新與意識(shí)科學(xué)的動(dòng)態(tài)化研究劃定了理論邊界。未來，真正的類人AI需搭建持續(xù)學(xué)習(xí)架構(gòu)，實(shí)現(xiàn)內(nèi)部表征的實(shí)時(shí)、不可逆、泛化性改變。該研究也推動(dòng)意識(shí)科學(xué)從靜態(tài)分析轉(zhuǎn)向動(dòng)態(tài)學(xué)習(xí)過程研究，為構(gòu)建科學(xué)的意識(shí)理論劃定框架。

因果涌現(xiàn)讀書會(huì)

跨尺度、跨層次的涌現(xiàn)是復(fù)雜系統(tǒng)研究的關(guān)鍵問題，生命起源和意識(shí)起源這兩座仰之彌高的大山是其代表。而因果涌現(xiàn)理論、機(jī)器學(xué)習(xí)重整化技術(shù)、自指動(dòng)力學(xué)等近年來新興的理論與工具，有望破解復(fù)雜系統(tǒng)的涌現(xiàn)規(guī)律。由北京師范大學(xué)教授、集智俱樂部創(chuàng)始人張江等發(fā)起的，組織對(duì)本話題感興趣的朋友，深入研讀相關(guān)文獻(xiàn)，激發(fā)科研靈感。讀書會(huì)社群持續(xù)開放招募。

本季讀書會(huì)詳情與報(bào)名方式請(qǐng)參考：

1.

2.

3.

4.

5.

4.

5.

6.

7.