跨越“內存墻”：AI硬件如何重塑科技世界？

人工智能（AI）已經融入我們的日常生活：AI給我們推薦音樂、翻譯語言，甚至輔導作業。然而科學家希望AI 承擔更有難度的任務，比如引導自動駕駛汽車，協助醫生分析醫學影像，在危險環境中操控救援無人機。問題在于，現有的計算機并不是為持續學習和快速決策而設計的。它們會遇到“內存墻”問題，也就是計算機在搬運數據而非處理數據上浪費時間和能量，導致速度下降。

為了突破這一瓶頸，研究人員把目光投向人腦尋找靈感。人腦中的神經元既能處理信息，又能在網絡中彼此連接、不斷學習，還會通過短促的電脈沖傳遞信號以節省能量。新一代計算機芯片正通過模仿這些機制，讓AI更快、更高效。這些進展有望大幅降低計算機的能耗，為更快速、更環保的技術鋪平道路。

AI 需要更快速、更聰明的計算機

短短幾十年前，人工智能（AI）只存在于科幻電影里——駕駛宇宙飛船，或者操控一臺忠誠的機器人伙伴。而現在，我們可能都沒有意識到，我們每天都在和 AI 打交道。比如YouTube 和Spotify會根據你之前的選擇，推薦你可能感興趣的視頻和歌曲；谷歌翻譯用它翻譯各種語言；而像 ChatGPT 這樣的智能平臺，更是可以回答問題、創作圖像、寫故事，甚至幫忙做作業。

AI工具展現出的種種令人驚嘆的能力，都需要強大的計算能力作為支撐。研究人員正在努力開發AI的更多功能，比如讓自動駕駛汽車穿過繁忙的街道、輔助醫生用醫學影像精準診斷疾病，或在自然災害后操控救援無人機。這類場景要求 AI 系統在瞬間完成“感知—規劃—行動”，根本沒有時間等待電腦慢慢反應。然而，現在的許多計算機主要是為日常工作設計的：比如運行各種應用、看視頻、寫文檔、上網瀏覽、做表格等，不用達到AI 所需的那種極高算力。AI需要一邊高速、持續地處理海量數據，一邊進行學習和實時決策。AI 在高風險場景中所需的高能耗，與當前計算機能耗有限的供需錯位，正是當今科學家和工程師面臨的重大挑戰之一 [1]。

為什么現在的計算機對 AI 來說“太慢了”？

要理解這個問題，不妨先來看看計算機的基本結構。每一臺計算機都有兩個核心部分：硬件和軟件。硬件是實體物理部件，比如芯片、電路和導線；軟件則是一套指令系統，無論是運行游戲、編輯照片，還是發送一條短信，都是軟件在告訴硬件什么時候做什么事。提到 AI，人們總是聚焦在軟件上——比如語言翻譯、圖像識別等程序。但軟件受限于硬件，因為真正決定計算能力上限的，是計算機內部的物理芯片和電路本身。

為什么硬件會抑制速度呢？典型的計算機硬件有兩個核心部件：一個負責存儲信息，稱為內存；另一個負責執行計算指令，稱為處理器。每當處理器需要某條信息時，都必須先從內存中取出來，才能進行處理（見圖1-A）。你可以把這個過程想象成這樣：你在數學教室做作業，計算器就在你桌子上，但計算所需的數據卻放在走廊另一頭的圖書館里。每次要用數字，你都得停下手頭的工作，跑到圖書館把數據拿回來。來回奔波中速度被拖慢，還消耗了大量能量（見圖1-B）。

▲圖 1 - (A) 計算機硬件主要由兩個核心部分組成：負責存儲信息的內存和負責執行計算任務的處理器。傳統計算機中，每當處理器執行指令時，都必須先從內存中調取所需數據。這種頻繁的數據往返被稱為“內存墻問題”，它會嚴重拖延傳統計算機使用AI系統時的速度。（B）可以這樣理解“內存墻”：好比你在課桌前做數學作業，但每當需要一個數據時，都必須跑到走廊另一頭的圖書館去取。不僅效率低下，還消耗大量體力。

大多日常計算機執行一次任務只需要處理少量數據，而人工智能對硬件提出了更高的要求。AI系統包含數百萬甚至數十億條信息，這些信息必須被反復檢查，以識別模式或做出決策。數據在內存與處理器之間不斷往返，導致計算機內部大大減速。研究人員將這種現象稱為“內存墻問題”（memory wall problem）[2]。即使處理器已經準備好開始運算，它的大部分時間卻花在等待數據上，導致能源浪費，性能下降——這兩點都是AI無法承受的，AI需要在現實世界中迅速反應。另一個重要因素是每條信息在存儲時所占用的內存大小。計算機通常為每一條信息分配等量的數字存儲空間，就像不管物品大小，都給每個人發一個同樣大的箱子。這浪費了內存資源，也拖延了AI的運行速度。

向大腦學習

在計算能力和內存管理方面，人腦的效率遠遠超過我們當下制造的任何計算機。為了克服“內存墻問題”，科學家們正在從人腦中汲取靈感。被稱為神經元（neurons）的腦細胞在處理外界和身體信號方面尤為重要——例如視覺、聽覺、觸覺、運動，甚至記憶。神經元之所以不同于傳統處理器，主要體現在三個重要特征上。

首先，神經元既能存儲信息，也能處理信息。每個神經元都會從其他神經元接收微小的電信號或化學信號。它會把所有輸入的信號進行累加，判斷信號是否足夠強以繼續傳遞，如果夠強，就會向其他神經元發送自己的信號。神經元還通過增強或減弱與其他神經元之間的連接來儲存信息，這些連接被稱為突觸（synapses）。這意味著，一個神經元既可以處理信號，又可以存儲記憶，而無需像傳統計算機硬件那樣不斷地來回移動數據。這種高效的數據展示和處理方式節省了內存，也加快了信息傳輸速度。

其次，神經元形成的靈活網絡既能變化又能學習（見圖2-A）。大腦的強大之處在于數十億個神經元協同工作。單個神經元做不了太多任務，但龐大的神經網絡卻可以識別朋友的面孔、理解語言，或者規劃一個動作。隨著神經元之間的連接不斷增強或減弱，這些網絡也在持續變化，這正是大腦從經驗中學習的方式。相比之下，傳統計算機電路無法自行改變其連接方式。

第三，神經元只在需要時才發送信號。神經元不像當今的計算機芯片那樣持續不斷地傳輸信息，而只在有重要信息需要傳遞時，進行短暫的電活動陣發，稱之為“脈沖”（spikes）——就像一個簡短的提示音在說“注意！”。這種“走走停停”的通信方式在保證大腦能夠迅速對外界做出反應的同時，節省了大量能量。當計算機科學家嘗試在機器中復制這種機制時，他們將這一理念稱為“基于脈沖的計算”。

▲圖2-（A）大腦中的神經元被組織成網絡，這些網絡可以根據彼此之間連接的強度，同時存儲和處理信息。神經元之間的連接在數量和強度上都可以發生變化，這正是大腦從經驗中學習的方式。神經元還會在必要時才發送“脈沖”信號進行通信，從而節省能量。（B）為了克服“存儲墻”問題，使AI系統運行得更快、更高效，工程師們正在嘗試設計更快速的計算機硬件，稱為類腦芯片。這些芯片由相互連接的單元組成，結合了存儲與處理功能，具有類似大腦的靈活連接方式，并采用基于脈沖的計算方式。

綜合來看，這三個特性使大腦既強大又高效節能。工程師希望通過借鑒其中的一些策略，能夠設計出執行AI任務時速度更快、能耗更低的計算機硬件。同時，計算機科學家和軟件工程師也需要開發新的軟件，以配合新的硬件解決方案，充分發揮其潛力。

腦啟發計算：打造更智能的硬件

邁向腦啟發計算的一步是“存內計算”（compute-in-memory，CiM）。CiM 是一種新興技術，其靈感來源于大腦神經元的第一個關鍵特征：在同一物理硬件中結合存儲與處理功能 [3, 4]。不同于目前芯片將存儲與計算分開的設計，基于 CiM 的芯片被設計為可以在存儲器內部——也就是數據存放的位置——直接執行加法或乘法等簡單計算，十分類似神經元既保存信息又處理信號的方式。在之前關于數學作業的比喻中，CiM 就像是把計算器搬進圖書館，這樣你就可以在查閱資料的同時完成計算，而不必不停地來回奔跑。通過減少額外的數據傳輸，CiM 芯片有望讓AI系統運行得更快、更高效。

類腦芯片（neuromorphic chips）在此基礎上更進一步 [5]。“Neuromorphic”一詞的意思是“形似大腦”，這類芯片由大量微小單元構成，這些單元就像大腦中神經元和突觸的簡化版本（圖2-B）。每個單元都可以發送和接收信號，調節與其他單元之間連接的強度，并且只在有新信息到達時才通過短暫的活動陣發（脈沖）進行通信——類似于腦細胞的工作方式。將成千上萬甚至數百萬個這樣的單元連接起來，就可以形成一個能夠從模式中學習并適應新情況的網絡。研究人員還在開發脈沖神經網絡（spiking neural networks，SNNs），這是一類專門與上述硬件相匹配而構建的AI程序（軟件）[6, 7]。與使用持續信號處理信息的傳統計算方式不同，SNNs 被設計為以“脈沖”的形式工作。對硬件和軟件進行同步優化，能夠實時解決問題，例如在圖像、語音或動作發生的同時進行識別——而所消耗的能量遠低于當今的芯片。

這些受大腦啟發的芯片還采用了一種叫做“量化（quantization）”的技術。量化通過將數據存儲為更簡單、更小的單元，使計算機在不丟細節的情況下運行得更快。量化能夠降低內存需求，并在僅損失少量精確度的前提下加快處理速度。綜合來看，存內計算、類腦設計以及量化技術共同推動更智能硬件的誕生，使其運行更快、更高效——和人類大腦非常相似。

存內計算（CiM）和類腦芯片目前都仍處于研究階段。CiM 可能更接近實際應用，而類腦芯片則代表著一個更長期的目標——未來有望實現類似大腦的計算方式。但它們都表明，通過借鑒生物學原理，我們有望設計出能支持更強大AI的計算機。訓練目前最先進的AI系統所消耗的電力，相當于數百個家庭一整年的用電量，而這還不包括全球各地數據中心已經消耗的大量能源。減少能源需求將使AI更加實用，同時降低它對全球氣候的負面影響。研究人員將這些進展視為邁向“融合平臺”（converged platform）的階梯。融合平臺是一種被設計為既能運行當今數據饑渴型AI系統，又能支持未來類腦AI程序的單一類型計算機硬件。

更智能的硬件：未來的實際應用

想象一架救援無人機在地震后飛入一棟坍塌的建筑物——每一秒都至關重要。無人機上搭載的AI系統可能經過訓練，能夠飛入危險或狹小的空間，為救援人員繪制安全路線，甚至通過掃描熱量或聲音來定位被困的幸存者 [8]。為了完成這些任務，AI必須處理來自攝像頭和傳感器的信息，判斷前進方向，并在沒有延遲的情況下持續飛行（圖3）。如果其計算機因為“存儲墻”造成的數據擁堵而耗時過多，無人機可能會撞上廢墟、忽視幸存者的跡象，或在分秒必爭的時刻無法為救援人員提供指引。

▲圖3 一架由人工智能驅動的救援無人機必須以極快的速度處理來自傳感器的信息，這樣才能在分秒必爭的情況下，在危險環境（如坍塌的建筑物）中精確移動。

像存內計算（CiM）和類腦芯片這樣的新型硬件理念，再結合脈沖神經網絡等類腦軟件，讓完成這類生死攸關的任務成為可能，且不僅適用無人機，也適用于其他許多場景。手機和筆記本電腦可以運行高級AI應用，卻不耗電、不發燙；自動駕駛汽車能夠對道路上的危險作出即時反應；醫療設備可以實時處理來自人體的信號，幫助醫生迅速發現問題。而為全球大量計算任務提供支持的大型數據中心，也能以更低的能耗運行。盡管這些設計主要是為支持AI而開發的，但它們也會讓許多日常計算任務更快、更高效。

未來之路

隨著AI在我們的世界中變得越來越重要，計算機必須能夠準確、快速地處理信息，同時避免浪費能源。當今的硬件受限于“存儲墻”問題——數據在存儲器與處理器之間來回傳輸，占用了過多時間。為了解決這一問題，研究人員正在重新思考計算機的構建方式。存內計算芯片將數據存儲在計算位置，而類腦系統則借鑒了大腦神經元網絡的工作原理。這兩種方法旨在減少能量浪費，并使AI能夠在更高要求的新環境中運行。

這些技術目前大多仍處于研究階段。科學家和工程師仍面臨許多挑戰，如確保穩定產出，做到足夠小巧便宜，才能應用于日常設備，還要證明它們能夠應對現代計算的巨大需求。不過，硬件和軟件領域都在不斷進展中。如果研究人員能夠成功，那么限制當今計算機性能的“存儲墻”會成為歷史。這就意味著在應急響應、醫療以及日常技術等領域中，AI將更加快速、高效的同時降低計算的能源負擔，在AI日益融入世界的同時，幫助保護地球不斷變化的氣候。

參考資料

[1] Horowitz, M. 2014. “1.1 Computing’s energy problem (and what we can do about it)”, in IEEE International Solid-State Circuits Conference Digest of Technical Papers (ISSCC), (San Francisco, CA: IEEE).

[2] Wulf, W. A., and McKee, S. A. 1995. Hitting the memory wall: implications of the obvious. ACM SIGARCH Comput Archit News. 23:10–20. doi: 10.1145/216585.21658

[3] Chang, M., Lele, A. S., Spetalnick, S. D., Crafton, B., Konno, S., and Wan, Z. 2023. “A 73.53 TOPS/W 14.74 TOPS heterogeneous RRAM in-memory and SRAM near-memory SoC for hybrid frame and event-based target tracking”, in IEEE International Solid-State Circuits Conference (ISSCC), (San Francisco, CA: IEEE), 426–8.

[4] Agrawal, A., Ali, M., Koo, M., Rathi, N., Jaiswal, A., and Roy, K. 2021. IMPULSE: a 65-nm digital compute-in-memory macro with fused weights and membrane potential for spike-based sequential learning tasks. IEEE Solid State Circuits Lett. 4:137–40. doi: 10.1109/LSSC.2021.3092727

[5] Davies, M., Srinivasa, N., Lin, T.-H., Chinya, G., Cao, Y., Choday, S. H., et al. 2018. Loihi: a neuromorphic manycore processor with on-chip learning. IEEE Micro 38:82–99. doi: 10.1109/MM.2018.112130359

[6] Roy, K., Jaiswal, A., and Panda, P. 2019. Towards spike-based machine intelligence with neuromorphic computing. Nature 575:607–17. doi: 10.1038/s41586-019-1677-2

[7] Kosta, A. K., and Roy, K. 2023. “Adaptive-spikenet: event-based optical flow estimation using spiking neural networks with learnable neuronal dynamics”, in IEEE International Conference on Robotics and Automation (ICRA), (London, United Kingdom: IEEE).

[8] Wan, Z., Qian, J., Du, Y., Jabbour, J., Du, Y., Zhao, Y., et al. 2025. Generative AI in Embodied Systems: System-Level Analysis of Performance, Efficiency and Scalability. 26–37. doi: 10.1109/ISPASS64960.2025.00013

作者

Kaushik Roy

Kaushik Roy 是美國印第安納州普渡大學（Purdue University）愛德華·G·蒂德曼 (Edward G. Tiedemann, Jr.) 杰出教授，取得了伊利諾伊大學厄巴納-香檳分校（University of Illinois at Urbana-Champaign）的博士學位。他的研究包括 AI 算法、AI 硬件、神經形態計算、神經仿生器件，以及系統與技術的協同設計。Roy 博士曾獲得美國國家科學基金會職業獎、IBM 教師合作獎、AT&T-朗訊（ATT/Lucent）基金會獎、SRC（半導體研究協會）技術卓越獎、發明家獎、普渡大學工程學院研究卓越獎、杰出導師獎、洪堡研究獎、IEEE 電路與系統學會查爾斯·德蘇爾（Charles Desoer）獎、IEEE TCVLSI 杰出研究獎、印度理工學院克勒格布爾分校（Indian Institute of Technology Kharagpur）杰出校友獎、富布賴特-尼赫魯杰出主席（Fulbright-Nehru Distinguished Chair）、美國國防部萬尼瓦爾·布什學者（DoD Vannevar Bush Faculty）、SRC亞里士多德獎（SRC Aristotle Award）、普渡大學阿登·L·貝門特獎（Arden L. Bement Jr. Award）、2022 年 SRC 創新獎，以及奧胡斯大學榮譽博士學位。工作之余，他喜歡讀書、喝咖啡、打羽毛球和探索美食。kaushik@purdue.edu

Adarsh Kumar Kosta

Adarsh Kosta 目前是普渡大學（Purdue University）埃爾莫爾電氣與計算機工程學院（Elmore School of Electrical and Computer Engineering）的博士生。他的研究興趣包括腦啟發高效計算、基于事件視覺、生成式 AI，以及涉及硬件-軟件協同設計的自主智能機器人系統的深度學習。他獲得了印度理工學院克勒格布爾分校（IIT Kharagpur）電子與電氣通信工程的雙學士/碩士學位。Adarsh 的職業經歷包括在三星 AI 中心紐約實習、在英屬哥倫比亞大學 CARIS 實驗室的 MITACS 暑期實習，以及在 IBM 印度的 Extreme Blue 實習。他還是印度國家科學人才促進計劃 Kishore Vaigyanik Protsahan Yojana (KVPY) 學者。學術追求之外，他熱愛大自然愛，喜歡在旅行中拍攝精彩的野生動物和風景。他還定期練習瑜伽以舒緩壓力和加強正念。

Arijit Raychowdhury

Arijit Raychowdhury 是佐治亞理工學院電氣與計算機工程學院（Georgia Institute of Technology）的教授及史蒂夫·W·查德威克學院的（Steve W. Chaddick School）主席。他的研究興趣包括通用計算和特定領域加速器的節能硬件設計。在進入學術界之前，他曾在英特爾公司和德州儀器公司擔任研究員。工作之外，他喜歡閱讀和攝影。

小審讀員

Aria（阿莉亞），13歲

阿莉亞喜歡和她的兩只豚鼠玩，也喜歡在后院喂鳥和松鼠。她給每只松鼠取了獨特的名字，給它們喂許多花生。他對科學充滿好奇，對自然、動物和宇宙有很多疑問。她空閑時喜歡唱歌和畫畫。

Hrdaya（赫德亞），12歲

我特別喜歡讀書，熱衷于給讀過的書寫書評。英語和科學是我最喜歡的科目。在不讀書的時候，我喜歡下棋。我也很好奇周圍的一切，還很喜歡動物，喜歡和我的寵物鳥玩，給它們喂食。

文章來源

Frontiers for Young Minds官網：

https://kids.frontiersin.org/articles/10.3389/frym.2025.1736588?utm_source=wechat&utm_medium=social

Frontiers for Young Minds 期刊已經發表了近 2000 篇文章，作者來自 50 余家全球頂級機構，其中包括 33 名諾貝爾獎獲得者。文章經由來自全球各地的 1 萬余名 8-15 歲的少年審稿人審閱批準后出版。這些經青少年審閱并發布的文章，收獲了來自 230 個國家/地區超過 6000 萬次瀏覽。

編譯：程歡