來源:中國科學院理論物理研究所
撰文:黃振業(中國科學院理論物理研究所2022級博士研究生)
預測編碼理論認為:大腦不是被動地接收感官輸入,而是主動地預測即將到來的感官信息,并利用這些預測來指導知覺和行為。那么應該如何為其進行建模呢?
導語
我們的神經系統時刻接收著大量感官信息,但它并非只是一個被動的接收器。相反,它更像一個“預言家”,不斷預測外界環境發生的事情!這就是神經科學中的一個重要理論——預測編碼(Predictive Coding)。預測編碼最初源于信號處理技術,后被引入神經科學,揭示了大腦感知世界的機制。其核心觀點是:神經系統在感知環境信號時會主動預測,而非被動接收。以下兩個例子能幫助我們感受到這種預測機制的存在。
(1)不存在的正方形
圖1:Kanizsa正方形錯覺[1]。
上圖中似乎存在一個白色正方形?但實際上只有四個帶有缺口的圓盤。然而,基于以往看到正方形輪廓的經驗,我們的大腦主動預測并補全了這個形狀。
(2)在前方還是在后方?
圖2:Flash-lag錯覺[2]。
在上圖中,綠色點似乎出現在紅色點運動軌跡后方(左方)。實際上,綠色點實際出現的位置比紅色點位置超前,但被感知為滯后。這是因為我們的大腦對紅點的位置進行了預測,提前感知到紅色點的位置,而對閃爍的綠色點的響應較慢,從而產生錯覺。
視網膜的預測編碼
預測編碼被引入神經科學時,首先用于視網膜編碼的建模。
如下圖所示,自然圖像中相近像素的關聯度很高,這意味著相鄰像素通常非常相似。一個像素的亮度很大程度上可以被周圍像素預測。
圖3: 自然圖片以及水平方向上不同像素距離的關聯函數。
如果視網膜把所有像素信號全都傳給大腦,消耗巨大且效率太低。預測編碼提供了一個解決方案:只編碼“意外”,即預測誤差。考慮某一個像素點的值為 ,其周圍 個像素點的值 , , ..., ,可對 進行預測,
預測誤差為,
最小化預測誤差,可以得到最優的 。上面的尖括號表示對所有數據進行平均。視網膜上的預測編碼模型解釋了實驗觀察到神經元響應的弱相關性現象,以及中心-周圍感受野現象。
中心周圍感受野指的是,刺激神經元感受野中心光感受器會使得神經元響應增強,而刺激周圍的光感受器反而會使得神經元的響應減弱的現象。通過最優化預測誤差得到的 反映了該性質。
圖4: 選自[5]。(a)On-center中心周圍感受野示意圖,刺激感受野中心神經元響應加強,刺激周圍神經元響應減弱。(b)水平方向的權重 ,反映了中心-周圍感受野的性質。
上述例子為空間上的預測,實際上在時間上也可以進行類似的預測編碼,在此不去贅述。
層級預測編碼
大腦的信息處理存在層級結構,高層級神經元對低層級神經元具有反饋調節作用。預測編碼理論因此擴展至層級結構。高層級神經元對低層級神經元進行預測,并調節其響應。其處理信息的框架如圖所示。
圖5: 層級預測編碼示意圖。
用向量 表示第 層神經元的活動,則該層神經元對 層的神經元活動會進行預測,其形式可以寫成,
其中, 為第 層神經元的預測, 為預測誤差, 為一個函數, 為預測矩陣。總的預測誤差為,
在這樣一個層級網絡中,神經元的動力學以及神經元的學習法則可以從最小化預測誤差得到,
為什么高層級的神經元能夠對低層級的神經元活動進行預測呢?高層級神經元相比于低層級神經元能夠接收到更多信息,利用得到的信息可以對低層級神經元的活動進行預測。層級預測編碼成功地解釋了神經系統中存在的非經典感受野現象。
圖6:非經典感受野示意圖[6]。
如上圖為情景效應,中間區域為神經元感受野。當感受野外圍的刺激模式與中心區域一致時(上圖),神經元的響應會被預測到,神經元響應減弱(下圖);當感受野外部的輸入與感受野內部的刺激模式不同時,神經元響應則更強。
方興未艾的預測編碼理論
隨著研究的推進,預測編碼被應用到更真實的脈沖神經網絡;其理論框架也被推廣到自由能原理;在功能解釋上,預測編碼成為理解感知、注意力和空間認知等高級認知功能的機制之一;在編碼性質上,預測編碼系統展現出豐富的相變現象。預測編碼為理解大腦智能提供了新的視角,這一充滿活力的理論將繼續引領我們深入探索大腦這一“預測機器”的奧秘。
本文經授權轉載自微信公眾號“中國科學院理論物理研究所”,原題目為《Doctor Curious 65:預測編碼:神經系統的主動感知》。
閱讀最新前沿科技趨勢報告,請訪問歐米伽研究所的“未來知識庫”
https://wx.zsxq.com/group/454854145828
未來知識庫是“ 歐米伽 未來研究所”建立的在線知識庫平臺,收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能,數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。
截止到3月31日 ”未來知識庫”精選的百部前沿科技趨勢報告
(加入未來知識庫,全部資料免費閱讀和下載)
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.