神經形態智能Neuromorphic Intelligence

Neuromorphic Intelligence神經形態智能

https://www.arxiv.org/pdf/2509.11940

摘要：

神經形態計算旨在在人工系統中復制人腦卓越的效率、靈活性和適應性。與依賴大量計算和能源資源的傳統數字方法不同，神經形態系統利用受大腦啟發的計算原理，實現高出數個數量級的能效。通過借鑒人工智能、神經科學、物理學、化學和材料科學的洞見，神經形態計算有望帶來可持續、透明且廣泛可及的智能系統。然而，一個核心挑戰在于，如何找到一個統一的理論框架，以彌合這些多樣化學科之間的鴻溝。我們認為，動力系統理論提供了這樣的基礎。該理論根植于微分學，為在自然和人工基質中建模推理、學習與控制提供了原則性的語言。在此框架內，噪聲可被作為學習資源加以利用，而微分遺傳編程則能夠發現實現自適應行為的動力系統。采用這一視角，將推動涌現式神經形態智能的發展——智能行為源于物理基質的動力學，從而促進人工智能科學與可持續性的雙重進步。

關鍵詞：神經形態計算，人工智能，隨機擾動，微分遺傳編程

1 引言

人工智能（AI），被定義為創造智能機器的科學與工程[1]，在過去十年中經歷了前所未有的進步。這一顯著進展主要源于深度學習革命[2]。也就是說，利用反向傳播算法[3]大規模訓練深度神經網絡（DNNs），并結合海量數據與計算資源，已將AI從實驗室推向主流社會。這一轉變體現在多個學科領域的重要科學突破[4–6]，以及應對多樣化社會挑戰的應用涌現[7–9]。最引人注目的是，具備前所未有推理能力的生成式AI模型的發展[10–12]。受神經縮放定律驅動，這些突破促使一些人認為，實現人類水平的人工通用智能僅需更多數據、內存和計算資源，以大規模端到端訓練模型即可[13, 14]。

盡管深度學習在推動科學突破、解決工業與社會挑戰方面具有顯著進展與潛力，但當前AI方法也伴隨著重大弊端。大規模訓練和使用DNNs消耗大量自然資源，產生巨大的碳足跡，對環境造成負面影響[15, 16]。按當前指數級增長趨勢，到2050年計算成本預計將達到全球總能源產量的水平，而AI是其主要貢獻者之一[17, 18]。“規模即一切”的AI路徑顯然在一個資源受限的世界中不可持續[19]。這種資源密集型方法還意味著，它主要僅限于大型科技公司使用，而這些公司的政策可能帶來不利的社會與地緣政治后果[24, 25]。另一個挑戰是，隨著深度學習模型日益復雜和不透明，理解其運作機制變得愈發困難[26]。最后，當前對規模和應用驅動型進步的強調，使得原本激發AI作為一門科學學科建立的根本問題——即“心智如何從物質中涌現？”——被邊緣化[27–30]。事實上，盡管AI取得了顯著進展，人腦在現實世界環境中的推理能力和適應性仍遠超當前AI系統[31]。

這些考量引發了一個問題：是否存在一種更可持續、更契合理解智能本質這一目標的替代性AI路徑？神經形態計算——模仿人腦神經信息處理機制——提供了一條前進之路[32, 33]。據估計，人腦以僅約20瓦的功耗（相當于一個燈泡）實現約1 exaFLOPS（每秒10^18次浮點運算）的計算能力[29, 34]。神經形態計算，或稱類腦計算，旨在通過模仿人腦的結構與功能，并在物理器件中復制這些特性，開發出如人腦般靈活高效的系統[32, 35–37]。因此，在人工系統中模擬自然計算，有望顯著降低能耗與環境影響，因為神經形態系統設計上即追求高能效[38]。此外，它可能為自然智能與人工智能之間架起橋梁。

盡管神經形態計算作為傳統深度學習方法的誘人替代方案極具前景，我們尚未充分實現其潛力[18, 39]。神經形態系統的開發與部署需要自然科學、材料科學、人工智能和系統工程等多個學科的協同努力[17, 40]。自然科學提供了對自然機制的洞見，涵蓋物理學[41, 42]、化學[43]、生物學[44]、神經科學[29, 45–47]和認知科學[48]。材料科學對于設計和制造模擬生物信息處理的專用硬件至關重要，以確保能效與高性能[38]。人工智能，特別是機器學習，提供了可充分利用神經形態硬件獨特能力的算法與模型[49, 50]。最后，系統工程將這些組件整合為可擴展的架構，在實際應用中高效管理信息流[51, 52]。

為充分實現神經形態計算的潛力，必須建立一個綜合性項目，促進這些多樣化學科之間的協作。實現這種跨學科整合的關鍵在于采納一個統一的理論框架，將這些學科聯結起來。動力系統理論（DST）是此類框架的自然候選者[53]。動力系統理論采用微分學——該方法在其他科學分支中已被證明極為成功[54–56]——來建模（自然與人工）智能的底層機制。因此，它將AI視為根植于自然科學的學科。這種動力系統方法開發智能系統可追溯至AI早期，其根源在于控制論運動[57]。早在1947年，控制論學者羅斯·阿什比（Ross Ashby）就以動力系統描述復雜系統的自組織，指出系統會自動演化至吸引子狀態，該狀態位于周圍狀態的吸引域中[58]。動力系統方法曾多次被倡導用于AI[59–65]，但鑒于基于馮·諾依曼范式的數字計算占據主導地位，AI社區并未廣泛采納該方法指導智能系統的開發。相比之下，在神經形態計算領域，動力系統理論是首選語言，因其目標是在（噪聲化、模擬化的）物理硬件中模擬自然智能[32, 50]。

通過擁抱動力系統理論，我們可以在受自然科學啟發的算法與模型、與神經形態基質上的實現之間架起橋梁，從而實現更貼近自然智能的AI系統。采用這一共同語言，也便于與多個已將DST作為理論基礎的其他科學學科進行富有成效的交流[66–73]。如后文所示，動力系統可以被設置為僅通過遵循系統運動方程即可實現推理、學習與控制。通過將這些方程直接映射到物理基質上，我們消除了軟件與硬件之間的界限，推動神經形態系統的發展。最后，我主張智能神經形態系統可通過進化算法自動發現，這類算法能夠搜索（受約束的）動力系統空間。這為實現（自下而上、涌現式的）神經形態智能提供了一種真正的端到端方法。

2 神經形態智能的動力系統方法

神經形態計算旨在通過擁抱人腦的模擬或混合信號（模擬-數字）特性，并在物理器件中復制這些特性，從而開發出如人腦般靈活高效的系統[32, 35, 37]。但問題依然存在：我們應如何構建神經形態系統，使其能夠復制支撐自然智能的原理與機制？我們將從動力系統的視角來探討這一問題。為引入神經形態智能的動力系統方法，我們發現采用馬爾（Marr）提出的觀點將十分便利：復雜的信息處理系統應從三個不同分析層次加以考察[30, 74, 75]，即計算層次、算法層次和實現層次。圖1a從神經形態計算的視角描繪了這三個分析層次。

2.1 計算層次

在計算層次的分析中，目標是理解自然智能體所解決的計算問題，并設計能夠解決相同問題的人工智能體。我們可以將這一問題抽象地表述為：智能體具備調整自身行為以最優實現其目標的能力[30]。也就是說，智能體 a 是一個（理性、智能的）實體，它在某個環境 e 中以看似目的論（目標導向）的方式行動[76]。

為了形式化這種目標導向性，我們假設存在某個目標函數 J，智能體致力于對其進行優化[77, 78]。為具體起見，我們假設在環境 e 中運行的智能體 a 的目標函數采取期望折扣回報（累積獎勵）的形式，表示為：

2.2 算法層面

算法層面的分析詢問智能系統如何表現，即，是什么機制使代理能夠實現其計算層面的目標？動態系統方法假設代理和環境都是隨時間展開的結構化物理過程，受外部影響。

2.3 實現層面

實現層面的分析探討的是智能系統如何在物理上得以實現。神經形態計算范式假設，實現智能算法的物理基底與算法本身之間并無區別。從這個意義上講，神經形態系統可被視為一種專用設備，其唯一目的就是根據輸入產生適當的輸出。這種直接利用物理基底進行計算的概念，也被稱為“物理內計算”或“材料內計算”[41, 50, 79, 80]。換句話說，基底本身就是計算單元。此外，與傳統馮·諾依曼架構（將處理單元與存儲單元分離，導致因馮·諾依曼瓶頸而效率低下[29]）不同，神經形態架構將處理與存儲單元集成在一起，實現了“內存內計算”，從而消除了存儲與計算之間的界限。

在動力系統方法下，我們通過假設神經形態代理的狀態方程 fz 實現了相應物理系統的運動方程，從而達成算法與其物理實現之間的等價性。給定聯合初始狀態 x0，物理系統被假定在與環境交互過程中，根據驅動路徑 v 的引導，逐步向更理想的狀態演化。這種映射可通過多種物理基底多重實現，包括從數字和模擬硅基技術[42, 81]，到新興材料如憶阻器[82]、相變存儲器[83]、自旋電子器件[84–86]、光子系統[87]、電化學系統[43, 88]以及生物基底[44, 46]。就效率而言，這些非常規計算范式相比傳統數字硬件，在能效上可提升數個數量級，甚至可達到蘭道爾極限[89]或超越該極限[90, 91]。

盡管神經形態算法最終應在神經形態基底上運行，傳統硬件仍發揮著重要作用，因為它可作為測試平臺，通過數值積分底層微分方程來模擬神經形態代理。其中，現場可編程門陣列（FPGA）尤其值得關注，因為這種可重構數字硬件兼具高保真度與靈活性，為神經形態系統的高吞吐量仿真鋪平了道路[92, 93]。

3 工作示例：控制一個隨機粒子

為使神經形態代理所面對的計算問題更加具體化，我們以隨機粒子的位置控制作為最小工作示例。該問題可用耦合的隨機微分方程來表示。

隨機二階積分器

4 經驗依賴型學習

核心問題仍然是：代理如何調整其行為，以最大化期望回報？一種方法是通過從經驗中學習，即根據接收到的觀測數據調整其動力學，從而趨向更理想的狀態。

4.1 自動微分

在動態控制場景中訓練深度學習模型的傳統方法，是通過時間反向傳播（BPTT）[97] 對模型參數 θ 執行策略梯度上升。對于參數化動力系統而言，BPTT 相當于對由狀態方程和數值求解器所定義的展開計算圖進行反向模式自動微分 [95, 98]。這涉及迭代地執行前向傳遞以模擬耦合系統，再執行反向傳遞以傳輸梯度信息用于信用分配。

然而，反向傳播算法存在若干問題 [99]。首先，它不夠簡潔，因為需要額外機制來實現反向傳遞。其次，它交替進行前向與反向傳遞，意味著必須在推理與學習之間不斷切換，這被稱為“更新鎖定”。第三，反向傳遞要求突觸前權重能夠訪問突觸后權重，導致算法不具備局部性，這被稱為“權重傳輸問題”。第四，它要求精確梯度的傳輸，而這在受內在噪聲影響的物理系統中通常是不可能實現的。最后，也是最重要的一點，BPTT 無法以物理上現實的方式實現，因為它逆時間箭頭而行，阻礙了在線學習。

一種替代方法是實時遞歸學習（RTRL），它等價于執行前向模式自動微分 [100]。雖然這種方法解決了反向傳遞相關的問題，但其效率低于 BPTT，并且仍依賴于精確梯度的存儲與傳輸。

4.2 學習即適應

與傳統方法不同，動力系統方法假設學習純粹通過模擬代理的運動方程產生，且僅使用在空間和時間上局部的操作。也就是說，我們關注的是在線、原位學習，而非傳統人工智能系統中通過反向傳播算法實現的離線、外置式學習 [3]。這種終身、持續的學習 [101] 可通過將學習機制嵌入系統動力學來實現。為此，我們將代理狀態劃分為 z = (α, φ)，其中變量 α 的動力學如前所述用于實現推理，而變量 φ 的動力學則用于實現學習。也就是說，推理是指將觀測轉化為行動的推理過程，而學習則是指基于經驗驅動的適應，對推理過程本身進行的調整。代理的動力學由以下方程描述：

4.3 基于噪聲的學習

一種可能更具吸引力的在線學習方法是隨機擾動方法；這些方法屬于無導數零階優化方法，通過在不同點評估目標函數來近似梯度以尋找最優解 [103]。這些方法利用影響系統動態的過程噪聲，作為推動參數值向更優方向發展的手段，通過梯度的隨機近似實現信用分配 [104–107]。隨機擾動方法將噪聲視為一種特性而非缺陷，這也使它們非常適合在（含噪聲、模擬）神經形態系統中實現 [108]。這一原則也與關于噪聲在生物系統中功能作用的觀點高度一致 [109–112]。

5 差分遺傳編程

動態系統方法在智能體開發中的應用關注于建立實現學習、推理和控制的運動方程。前一節已展示，我們可以以一種方式建立神經形態系統的運動方程，使得系統能夠自我組織并趨向于越來越優的狀態。在此，我們假設適應過程發生在個體發生的時間尺度上，即在智能體生命周期內進行。然而，仍然存在的問題是：那些用于實現學習、推理和控制的方程本身是否是最優的？在本節中，我們將探討如何通過自然選擇的過程，在種系發生的時間尺度上進化神經形態智能體。從這一進化視角來看，目標是使智能體種群經歷演化：

進化神經形態系統構成了發展神經形態智能的一種真正自底向上的方法。進化適應可以帶來那些無法通過依賴經驗的學習所獲得的優化變化。這尤其適用于狀態方程的不可微符號結構，以及那些在空間和時間上無法局部感知其最優性的變化。例如，這包括進化連接智能體與其環境之間的感知和運動組件的結構，進化可以在局部估計并作為真實（但可能未知）目標函數 J的代理的目標函數，或進化系統中較慢的部分以誘導更有效的學習。

為了模擬進化適應，我們可以采用遺傳編程（GP）[115, 116]。遺傳編程是一種用于學習計算機程序的進化算法。GP 維護一個個體群體，每個個體都包含一個以計算圖形式表示的計算機程序。該圖由預定義的函數節點和葉節點構成。函數節點涵蓋數學函數（一元和二元函數），而葉節點則描述變量和常量（零元函數）。GP 通過交叉和變異操作，試圖演化出適應度逐漸提高的種群。

6 討論

在本文中，我們展示了如何將神經形態智能體（被解釋為一組微分方程，并可在硬件中實現）通過兩種方式有效學習：一是在個體發生的時間尺度上，通過依賴經驗的學習過程；二是在種系發生的時間尺度上，通過差分遺傳編程將方程作為符號表達式進行演化。也就是說，我們認為，動態系統是開發更高效、更有效人工智能系統所需的全部 [119–121]。這里的一個關鍵假設是，智能適應行為必須是一種涌現現象，它僅源于遵循描述神經形態智能體的物理運動方程。接下來，我們將更詳細地討論這一方法，并指出未來研究的方向。

我們特別考慮了 Ornstein-Uhlenbeck 適應（OUA）作為一種由模擬系統固有噪聲驅動的學習機制。這很好地補充了近期的研究工作，該研究表明神經形態納米線網絡的自組織行為可被表示為一個 Ornstein-Uhlenbeck 過程 [122]。盡管 OUA 為基于噪聲的學習提供了原理性證明，但仍存在若干局限性和未解問題。OUA 假設獎勵預測誤差 δ（即當前獎勵與平均獎勵之差）是信用分配的合適信號。雖然這在如隨機雙積分器等低維線性系統中被證明有效，但在處理大規模非線性控制問題時，可能需要替代的基于噪聲的學習公式。此外需注意，OUA——可視為權重擾動的一種連續時間局部形式 [105, 123, 124]——只是為物理學習機器發展所提出的一種機制。例如，平衡傳播（equilibrium propagation）是另一種方法，它通過比較系統在自由相與弱夾持相下的穩態，并將此差值作為學習信號 [125, 126]。

在指定神經形態智能體的推理機制時，我們特別采用了形式如 (7) 的連續時間循環神經網絡。其他定義液態時間常數模型 [127] 或耦合振蕩器模型 [128] 的方程系統，可能在參數效率和物理可實現性方面更為合適。此外，我們僅考慮了由連續值狀態變量描述的模擬系統。在實踐中，我們可能希望擁抱混合模擬-數字系統，這些系統像我們自身的大腦一樣，通過脈沖進行通信 [69, 129]。由于其事件驅動的特性，此類系統在能耗上可能更高效。

關于物理可實現性，我們假設定義智能體的方程系統可被映射到特定的神經形態硬件上。這是否可行，取決于是否存在一對一映射。朝此方向邁出的一步是證明：由隨機磁性隧道結產生的物理（電報）噪聲可用于驅動學習 [108]。還需注意，即使存在這種映射，由于數值積分精度有限，仿真結果可能無法直接遷移到物理系統。在此，質量矩陣 M(x) 起著重要作用，因為它強制滿足代數約束（如基爾霍夫定律），確保動力學保持在約束流形上 [130]。此外，未建模的電路特性（如寄生電流）也可能導致（SPICE）仿真與實際神經形態電路物理實現之間的偏差。

為演化神經形態智能，我們引入了差分遺傳編程的概念。其核心思想是利用進化計算領域發展的原理來演化神經形態電路 [131]。借助我們的工作示例，我們已證明確實可以演化出神經形態智能體的狀態方程，使其學會補償隨機擾動。此外，將狀態方程表示為符號表達式有助于解釋智能體如何達成目標，從而促進構建更透明、可解釋的人工智能系統。然而需注意，迄今為止，演化能有效解決大規模問題的計算圖仍異常困難。例如，遺傳編程已知存在“代碼膨脹”問題，即計算圖無控制地增長，但適應度卻未相應提高 [132–134]。如果這些問題能夠克服，遺傳編程可能成為人工智能的終極方法，因為它允許真正端到端地學習智能系統。也可能實現對學習機制本身的演化：也就是說，通過將神經形態智能體置于不可預測的環境中，可能涌現出在智能體生命周期內適應環境、足以與反向傳播競爭的學習機制 [135]。這也被稱為元學習或“學會學習”[136–138]。我們設想，那些將噪聲視為學習機制的零階梯度方法，可能在此過程中至關重要。最后，涌現的適應機制不僅可能涉及依賴經驗的變化，還可能包括在智能體生命周期內展開的發育變化 [139]，以及改變智能體與其環境耦合關系的形態變化 [140]。

讓我們回到“神經形態智能”的概念。本文主張，該概念可方便地用 Marr 的分析層次加以形式化，將智能——即智能體適應變化環境的能力——與定義為微分方程系統的算法相聯系，而這些算法又可映射到物理基底。這為神經形態學界提供了一條路線圖，使我們能夠彌合體現神經形態價值鏈不同層級（從理論到應用）的多個學科。我們將追求哪些應用，關鍵取決于我們自身——特別是，如果我們希望生活在一個基于人類價值（而非僅僅是買賣）的社會中 [141, 142]。

原文鏈接：https://www.arxiv.org/pdf/2509.11940