城市街道上,一輛自動駕駛汽車正在行駛中。突然,一個孩子追著皮球沖向馬路。
車載系統的多個傳感器立即捕捉到這一情況——攝像頭、激光雷達和毫米波雷達同時工作,專用的神經網絡處理器和GPU開始高速運算,整個系統在峰值狀態下消耗數百瓦的電能,通過并行計算在約100毫秒內完成從感知到決策的過程。
而同樣的情況,人類司機只需一瞬間就能踩下剎車,處理這種復雜場景,大腦僅消耗約20瓦的能量——相當于一個小燈泡。更令人驚嘆的是,大腦通過分布式并行計算,同時還能處理呼吸、心跳等數不清的其他任務。大腦可以在極低能耗下進行并行計算,能夠從有限經驗中快速學習,并且可以自適應地處理各種未知情況。
正是這種巨大的效率差距,推動著科學家們開創了一個全新的研究領域——NeuroAI(神經啟發的人工智能)。這個新興領域正試圖打破傳統AI的局限,通過模仿大腦的工作方式來創造更智能、更高效的AI系統。比如,借鑒大腦處理視覺信息的方式,來改進計算機視覺;參考神經元之間的連接模式,來優化深度學習網絡;甚至學習大腦的注意力機制,來降低AI系統的能耗。
本文將帶您深入了解NeuroAI,回顧其定義、發展歷程、研究現狀和未來趨勢。結合近期美國國立衛生研究院(NIH)舉辦的NeuroAI學術研討會上分享的最新研究進展,探索 NeuroAI 如何模擬大腦的學習機制、信息處理方式和能量利用效率,以及如何解決當前AI面臨的瓶頸問題。
何為NeuroAI?
NeuroAI體現了人工智能與神經科學的雙向融合:一方面,它將人工神經網絡作為研究大腦的新工具,通過構建可驗證的計算模型來檢驗我們對神經系統的理解;另一方面,它借鑒大腦的工作原理來改進人工智能系統,將生物智能的優勢轉化為技術創新。
多年以來,AI研究的基本目標,始終是構建能夠完成一切人類擅長任務的人造系統。為此,研究者持續將目光投向神經科學的研究從中獲得靈感。神經科學激發人工智能的進步,而人工智能為神經科學模型提供測試平臺——這形成了一個正反饋循環,加速了這兩個領域的發展。
AI與神經科學之間的關系,實際上是互利共生而非寄生關系。AI為神經科學帶來的收益與神經科學為AI帶來的益處旗鼓相當。例如,人工神經網絡是許多對視覺皮層的最先進神經科學模型的核心。這些模型在解決復雜感知任務上的成功,促成了大腦可能如何執行類似計算的新假設。人工“深度”強化學習,一種結合深度神經網絡與試錯學習的神經啟發算法,同樣是一個令人信服的人工智能和神經科學相互提升的案例。它不僅推動了AI的突破性成就(包括在圍棋游戲中實現超人類表現的AlphaGO),而且還激發了人們對大腦獎勵系統產生更深入的理解。
NeuroAI的發展史
計算機科學與神經科學的交織可以追溯到現代計算機的誕生之初。1945年,計算機之父約翰·馮·諾伊曼在其具有里程碑意義的EDVAC架構論文中,專門用一章討論了該系統與大腦的相似性,且文中唯一的引用就是一項大腦研究成果(Warren McCulloch & Walter Pitts,1943)。這篇論文被廣泛認為是第一篇關于神經網絡的文章,為之后數十年的神經科學與計算機科學相互啟發奠定了基礎。
?圖1. 馮諾依曼論文中對計算機中邏輯計算單元的描述,其中借鑒了興奮性及抑制性神經元,來源:von Neumann, J. (1993). First draft of a report on the EDVAC. IEEE Annals of the History of Computing, 15(4), 27-75.
神經網絡的概念在1958年迎來重大突破。Frank Rosenblatt發表了題為“感知機,一種大腦中信息存儲和組織的概率模型“的論文,首次提出“神經網絡應該通過數據學習而非固定編程”的革命性觀點。這一成果在《紐約時報》以“電子‘大腦’的自我學習”為題得到報道,掀起了早期人工智能研究的熱潮。盡管1969年Marvin Minsky和Seymour Papert指出了單層感知器的局限性,引發了第一次“神經網絡寒冬”,但“突觸是神經網絡中的可塑元素或自由參數”這一核心理念始終延續至今。
?圖2. 感知機,描述了包含興奮性與抑制性兩類不同的神經元 來源:Rosenblatt, F. (1958). The perceptron: A probabilistic model for information storage and organization in the brain. Psychological Review, 65(6), 386-408.
在人工智能的近期發展中,還有眾多來自受神經科學啟示而來的案例。NeuroAI最具代表性的應用是圖像識別領域大獲成功的“卷積神經網絡”,其靈感源自David Hubel和Torsten Wiesel四十年前對大腦視覺皮層的建模研究。另一個典型案例是“Dropout技術”,即在訓練過程中隨機關閉人工網絡中的單個神經元以防止過擬合。它通過模擬大腦神經元隨機錯誤放電,幫助人工神經網絡獲得更強的魯棒性和泛化能力。
大腦給NeuroAI的三條啟示
過去十年,AI在多個領域取得了顯著進步,可以撰寫文章、考取律師資格、證明數學定理、復雜編程以及語音識別。然而,在真實物理世界中的導航、跨時間尺度的做規劃和推理感知等諸多方面,AI的表現充其量只算得上平庸。
正如理查德·費曼所言:“大自然的想象力遠超人類。”大腦作為目前唯一能夠完美執行這些復雜任務的計算模型,經過5億年的進化打磨,使得動物能夠輕松完成諸如捕獵等當前AI仍然難以勝任的復雜任務。
這正是NeuroAI希望借鑒的方向,通過研究大腦的工作機制來突破當前AI系統的瓶頸。在具體實現上,主要表現在以下幾個方面:
(1)基因組瓶頸
不同于AI需要海量數據從0開始訓練,生物智能通過“基因組瓶頸”(genomic bottleneck)有效繼承進化解決方案,使得動物能夠基于本能執行復雜任務——“生物智能源自于基因組瓶頸”。基因組在這個過程中扮演著關鍵角色:它提供了構建神經系統的基本藍圖,指定了神經元之間的連接模式和強度,為生物體的終身學習奠定了基礎。
?圖3. 使用先天加后天學習策略的物種,如果其表現優于單純依賴先天本能的物種,則會具有進化優勢. 來源:Zador, A. M. (2019). A critique of pure learning and what artificial neural networks can learn from animal brains. Nature Communications, 10, Article 3770.
值得注意的是,基因組并不直接編碼具體行為或表征,也不直接編碼優化原則。它主要編碼連接規則和模式,這些規則和模式需要通過后天學習才能產生實際行為和表征。進化的對象是這些連接規則,這啟示我們在設計AI系統時應該更多地關注網絡的連接拓撲和整體架構。
這一發現對AI系統的設計具有重要啟示。我們可以模仿生物解決方案的連接模式,比如利用視覺皮層和聽覺皮層相似的連接方式來設計跨模態的AI系統。通過“基因組瓶頸”壓縮權重矩陣,我們可以提取神經網絡中最關鍵的連接特征充當“信息瓶頸”,以實現更高效的學習方式,減少對訓練數據的依賴。
?圖4. 基于基因組瓶頸原則設計的人工神經網絡在強化學習任務中的架構及表現. 圖源:Shuvaev, S., Lachi, D., Koulakov, A., & Zador, A. (2024). Encoding innate ability through a genomic bottleneck. Proceedings of the National Academy of Sciences, 121(38), Article e2409160121.
(2)人腦的節能思路
人工神經網絡在能耗方面與生物大腦存在巨大差距。目前,ChatGPT等模型進行實時對話所需的能量,至少是人類大腦消耗能量的100倍。而將GPU陣列的能量消耗與全腦的能量消耗進行比較,本就顯著低估了大腦的能量優勢,實際上維持對話只占用大腦能量消耗的一小部分。
大腦的極高能耗率,可能得益于兩個關鍵因素——神經元“稀疏”的運行方式以及大腦對噪聲的高容忍度。
首先,神經元消耗的大部分能量用于產生動作電位,能量消耗大致與神經脈沖的出現頻率成正比。在大腦皮層中,神經元以稀疏方式運行,平均每秒僅產生約0.1個脈沖。相比之下,當前的人工網絡則是在高能耗、高脈沖率狀態下運行。雖然目前人工網絡的能效已有所提升,但我們距離掌握大腦那種基于稀疏脈沖的節能計算模式還很遙遠。
其次,大腦可以容忍噪聲的存在。在突觸傳遞過程中,即使高達90%的脈沖未能觸發神經遞質的釋放,大腦仍能正常工作。這與現代計算機形成鮮明對比。計算機的數字計算依賴于精確的0和1,即使單個比特的錯誤也可能導致災難性的失敗,因此需要消耗大量能量來確保信號的準確性。如果能開發出在噪聲環境中運行的類腦算法,可能會帶來顯著的能源節約。
(3)生物系統平衡多個目標
生物系統與人工智能在目標管理方面也存在顯著差異。目前的人工智能系統往往只追求單一目標,而生物體需要在當下和長期尺度上平衡多個目標,包括繁衍、生存、捕食、求偶等多個方面(即所謂的4F)。我們對動物如何在多個目標之間取得平衡的機制仍知之甚少,這主要是因為我們尚未完全理解大腦的計算機制。隨著我們努力開發能處理多目標的AI系統,神經科學的研究成果可為AI提供指導,而AI模型又可以作為驗證大腦多目標管理理論的測試平臺。這正體現了神經科學與人工智能研究的良性互動,加速兩個領域的發展。
NeuroAI研究前沿進展
神經科學與人工智能的交叉融合正在不斷深入,研究人員從生物智能系統中汲取靈感,探索著從微觀分子到宏觀系統的多個層面。以下梳理了2024年11月NIH主辦的專題研討會上分享的一系列NeuroAI創新成果,有益于加深我們對智能本質的理解。
1、星形膠質細胞的生物計算
活體神經網絡具有快速環境適應性和從有限數據中學習的能力。其中,星形膠質細胞作為模擬信息的載體,在神經網絡的信息緩慢整合處理中發揮著關鍵作用。這一發現為理解生物神經網絡的獨特性能提供了新視角,對神經科學和人工智能領域都具有重要啟示。
2、閉合神經科學與虛擬神經科學之間的循環
神經技術的重大進展,使得研究人員能夠在自然條件下對神經元活動進行前所未有的覆蓋率和生物物理細節精度地記錄。通過開發數字孿生和基礎模型,研究人員可以進行虛擬實驗和假設生成,模擬神經活動,并以超越傳統實驗方法限制的方式探索大腦功能。這種向虛擬神經科學的轉變,對于加速神經科學進步至關重要,也為開發靈活、安全和人性化的AI系統提供洞見。
3、具有樹突的高級神經AI系統
樹突作為神經元的接收端,在生物智能中扮演著關鍵角色。將樹突特征整合到AI系統中不僅能提高能源效率,還能增強系統的抗噪聲能力,解決災難性遺忘等問題。然而,樹突的核心功能特征及其在AI中的應用方式仍不明確,這限制了類腦AI系統的發展。解決這一問題需要通過跨學科研究,深入探索不同物種神經元樹突的解剖學和生物物理特性。通過計算模型的輔助和新數學工具的開發,研究者可以更好地理解樹突功能,從而推動樹突AI系統的發展,并加深對生物設計原則及其進化意義的認識。
4、NeuroAI的未來,從昆蟲和數學中汲取靈感
當前AI系統雖然強大,但需要依靠龐大的網絡、海量的數據集和巨大的能耗來支撐。與自然智能相比,它們缺少了關鍵的生物機制,如神經調節、神經抑制、生理節律和樹突計算等。如何將這些機制應用于AI以提升其效能,成為一個重要課題。近期完成的果蠅連接組研究提供了新的研究方向——從簡單但高效的生物大腦中汲取靈感。然而,這一過程面臨著重大的數學挑戰,特別是在處理神經網絡這類高維非線性動態系統時。
5、從神經流形中學習:從生物效率到工程智能
近期實驗神經科學和機器學習領域的研究突破,揭示了生物系統和AI在多個尺度上處理信息的顯著相似性。這為未來十年神經科學與AI的深度融合提供了機遇。該研究提出,神經網絡表征和計算的幾何原理,可能徹底改變我們設計AI系統的方式,同時加深我們對生物智能的理解。要實現這一目標,需要突破以下關鍵領域:1)開發新技術捕捉行為過程中神經流形在動態和不同時間尺度上變化;2)構建連接單神經元與群體計算的理論框架,以揭示高效信息處理的原則;3)解釋神經流形及其變換的魯棒性的跨模態表征理論及其支持性機制;4)借鑒生物神經系統的高效機制,開發分析大規模神經數據的計算工具。通過統計物理、機器學習和幾何學的跨學科研究,我們有望開發出更接近生物智能特性的AI系統,使其具備更好的效率、魯棒性和適應能力。
6、向昆蟲級智能機器人邁進
隨著控制理論和AI的現代進步,現代機器人能夠執行從爬梯子到折疊衣物等幾乎所有人能執行的任務。展望未來,如何設計能自主決策并執行多樣任務的系統?如何僅使用機載計算機來完成這項工作,而不依賴云服務?果蠅為我們提供了一個理想的研究模板。我們已經掌握了果蠅大腦和腹神經索的完整神經連接組,這些微小的生物能夠根據內外部狀態自主切換多種行為。然而,要將這一模式應用于機器人系統,需要獲取更高分辨率的連接組學數據,并擴展到更多個體樣本;研究螳螂等具有更復雜行為的昆蟲連接組,理解神經結構與智能的關系;深入研究樹突和軸突結構,超越簡單的點對點連接模型;研發可模擬百萬級神經元且易于獲取的類神經形態硬件。
7、混合信號神經形態系統用于下一代腦機接口
傳統AI算法和技術,雖然在大規模數字數據集分析方面有效,但應用于閉環系統中實時處理感官數據時卻存在限制,尤其是在人腦-類腦AI的雙向接口以及需與神經系統實時交互的神經技術領域。這些限制主要體現在系統要求和能耗兩個方面。在系統層面,需要低延遲的本地處理以確保數據隱私安全;在能耗方面,由于可穿戴和植入式設備需持續運行,功耗必須嚴格控制在亞毫瓦級別。為解決這些挑戰,研究方向正轉向自下而上的物理方法,如模擬神經形態電路和混合信號處理系統。這類神經形態系統通過被動亞閾值模擬電路和數據驅動的編碼方法,可在微瓦特級功耗下實現癲癇檢測等復雜生物醫學信號分類任務。
后記
隨著NeuroAI領域的不斷發展,我們正站在一個獨特的歷史節點上:神經科學與人工智能的深度融合不僅幫助我們更好地理解人類智能的本質,也為下一代AI系統的設計提供了全新思路。從基因組瓶頸到樹突計算,從能量效率到多目標平衡,生物智能系統展示的種種特性正在改變我們對智能的認知。未來,隨著腦科學研究的深入和AI技術的進步,NeuroAI或將帶來一場計算范式的革命,幫助我們構建更接近生物智能的人工系統。這不僅關乎技術創新,更關乎我們對智能本質的深層思考——在這個過程中,我們不僅在創造新的技術,也在重新認識我們自己。
1. https://www.thetransmitter.org/neuroai/what-the-brain-can-teach-artificial-neural-networks/
2. https://www.thetransmitter.org/neuroai/neuroai-a-field-born-from-the-symbiosis-between-neuroscience-ai/
3. https://n4solutionsllc.com/brain-program-book/
關于追問nextquestion
天橋腦科學研究院旗下科學媒體,旨在以科學追問為紐帶,深入探究人工智能與人類智能相互融合與促進,不斷探索科學的邊界。如果您有進一步想要討論的內容,歡迎評論區留言,或添加小助手微信questionlab,加入社群與我們互動。
關于天橋腦科學研究院
天橋腦科學研究院(Tianqiao and Chrissy Chen Institute)是由陳天橋、雒芊芊夫婦出資10億美元創建的世界最大私人腦科學研究機構之一,圍繞全球化、跨學科和青年科學家三大重點,支持腦科學研究,造福人類。
Chen Institute與華山醫院、上海市精神衛生中心設立了應用神經技術前沿實驗室、人工智能與精神健康前沿實驗室;與加州理工學院合作成立了加州理工天橋神經科學研究院。
Chen Institute建成了支持腦科學和人工智能領域研究的生態系統,項目遍布歐美、亞洲和大洋洲,包括、、、科研型臨床醫生獎勵計劃、、中文媒體追問等。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.