99国产精品欲av蜜臀,可以直接免费观看的AV网站,gogogo高清免费完整版,啊灬啊灬啊灬免费毛片

網易首頁 > 網易號 > 正文 申請入駐

【Nature】無監督學習!HHMI PachitariuStringer鐘林團隊最新文章揭示生物神經網絡中的無監督預訓練

0
分享至


腦聲小店基于深度科研洞察,專注為動物實驗提供"簡器械·精實驗"解決方案。我們突破高精設備局限,開發手工定制化儀器及配件,通過科研巧思將基礎工具轉化為創新實驗方案。產品涵蓋行為學裝置、操作輔助工具等,使實驗室在保持操作簡效的同時,實現精細化數據采集,助力科研人員以創造性思維發掘簡易儀器的潛在科研價值。

劉明哲_大仲馬

在我們的感覺皮層中,許多神經元在學習過程中會不斷調整自己的反應,以更精準、更高效的方式來編碼任務所需的刺激,此過程可能是感知學習的基礎。

值得注意的是,神經可塑性還有一種不太常見的解釋,即無監督學習。這種觀點在多種理論框架中被提出,借以描述大腦如何在沒有任務標簽或反饋的情況下,從感覺經驗中學習。然而,支持這一理論的實驗證據目前僅限于一些間接觀察,有待深入挖掘。


圖片來源:GeeksforGeeks

在靈長類動物的研究中,科學家發現:當它們反復接觸某些時間相關的刺激時,腦中某些神經活動會發生改變,即使是在無任何獎勵的情況下。這種現象表明,神經元的反應并不完全依賴于外部激勵。

此外,發育關鍵期的神經可塑性有時也依賴于感覺刺激。舉個例子,在小鼠的視覺皮層中,對學習到的刺激序列的預期反應被認為是無監督學習產生的預測編碼的一種證據。


圖片來源:Aris Fiser等,Nat Neurosci. (2016)

另外,海馬體的神經可塑性有時被視為一種感覺壓縮,這同樣屬于無監督學習的范疇,盡管它通常與空間信息的處理有關,而非單純的感覺表征。值得注意的是,許多種突觸可塑性并不需要監督的介入,但科學家并不清楚這種可塑性是否在有行為活動的動物體內發生,以及它對神經表征和行為的具體影響。

因此,有關無監督學習對感覺神經表征的影響有多廣泛,仍需進一步探索。


圖片來源:Daniel E. Feldman, Neuron (2012)

2025年6月18日,《Nature》雜志在線刊登了HHMI Janelia Research Campus Pachitariu/Stringer研究組的最新重要工作(博士后鐘林為第一作者、共同通訊作者)。本篇文章中,作者同時記錄了來自V1和HVA高達90000個神經元,發現任務小鼠的神經活動變化與其行為學習相關,但這些神經活動變化在無獎勵暴露的小鼠中基本上得到了重復,表明這些變化實際上是由無監督學習所致;僅有的例外是前部視覺區域,此區域編碼了可能用于監督學習的獨特任務信號。

在接下來的內容里,咱們將看到作者描述一系列分別在學習前和學習后進行的實驗,旨在探討監督學習和無監督學習在多種視覺計算中的作用。


前年9月,筆者建立一個神經環路領域愛好者討論組,我在群內分享最前沿的文章,介紹作者科研背景、研究興趣以及文章技術亮點。有興趣的小伙伴可以掃碼添加筆者微信以進入討論組,目前討論組正在如火如荼地進行(已達2000人)^_^


01

監督與無監督可塑性

與過去研究相似,作者設計了一項視覺辨別任務,讓頭部固定小鼠在線性虛擬現實走廊中奔跑(圖1a)。小鼠需要在兩種走廊中區分視覺紋理圖案,走廊以偽隨機的順序重復出現。每個走廊的視覺圖案均從大幅自然紋理照片中截獲,為簡單起見,作者將刺激稱為“葉子”和“圓圈”。不同類別視覺刺激在空間頻率上進行匹配,以鼓勵小鼠在辨別過程中使用更高階的視覺特征。在每個走廊的隨機位置呈現一種聲音提示,只在獎勵任務中給予水(圖1a)。

經過約兩周訓練后,小鼠在獎勵走廊中表現出選擇性舔舐,以期待獲得獎勵圖1b-d)。訓練后,作者引入無獎勵測試刺激——“葉子”和“圓圈2”,這些是相同照片的不同截圖。再然后,他們繼續訓練無獎勵的“葉子2”,直到小鼠停止對該刺激舔舐,此時他們引入另一種測試刺激(“葉子3”)以及“葉子1”的空間隨機版本(圖1b)。

無監督組的小鼠也在相似的時間內通過相同的走廊,但沒有獲得水獎勵,也不受水的限制。為了確保所有小鼠具有可比較的視覺刺激,當小鼠的奔跑速度超過一定閾值時,作者會固定虛擬現實的速度,而在其他情況下保持虛擬現實靜止。學習前后,整體奔跑速度相似,任務組和無監督組之間的速度也相似(補充材料圖2)。他們僅分析奔跑的時間點,如此可以去除小鼠得到水獎勵的時間段。

在學習前后,作者使用雙光子顯微鏡同時記錄來自多個視覺區域的大規模神經群體(圖1e)。我們他們采用Suite2p獲取了每次記錄中20547到89577個神經元的活動軌跡。

對于每個神經元,他們使用不同走廊每次試驗的反應分布計算選擇性指數d′,并在小鼠奔跑時進行位置和時間點的匯總(圖1f)。d′相對較高的神經元(d′≥0.3或d′≤?0.3)在“葉子1”或“圓圈1”走廊的某些位置表現出強烈反應(圖1g,h)。為查看這些選擇性神經元的位置,我們生成了它們在組織中的二維直方圖(圖1i;補充材料圖1b,c)。他們發現,在學習后,許多選擇性神經元出現在內側視覺區域,包括PM、AM和MMA區域,以及后腦皮層的外側部分(圖1j)。

以上結果表明,視覺皮層中神經可塑性的分布大多數不依賴于任務反饋或監督,這些區域中的大多數可塑性與刺激直接相關,而不受其他因素的影響。

不過,作者觀察到的神經可塑性可能由空間學習和導航信號所致,這些信號已被發現能夠調節視覺皮層中的放電率;上述神經可塑性還可能由小鼠對自然圖像的適應所致。那么,以上現象表征空間可塑性還是視覺可塑性呢?


圖1 視覺皮層在監督與無監督學習后的可塑性

02

可塑性是視覺表征,而非空間表征

為區分空間可塑性和視覺可塑性假設,作者引入兩種無獎勵刺激,葉子2和圓圈2,它們與葉子1和圓圈1具有相似的視覺特征,但在不同的空間中排列(圖2a)。他們發現小鼠僅對葉子2進行舔舐,而不對圓圈2進行舔舐,可能因為它們與訓練刺激在視覺上相似(圖2b,c)。

空間可塑性假設表明,神經元會以與同一類別的學習和新示例相似的順序放電。作者根據葉子1走廊中神經元的放電序列進行排序,此排序并未在內側區域導致葉子2走廊中的相似序列(圖2d)。

視覺可塑性假設表明,視覺特征的統計是無論特征在走廊中的哪個位置都可以學習的。為驗證此假設,作者設計了一種分析方法——利用每個熟悉走廊中最具選擇性的神經元來創建編碼方向軸(圖2g,h)。神經數據在編碼方向上的投影在熟悉刺激的測試試驗中得到了很好的分離,并且在新的葉子2和圓圈2刺激的測試中亦是如此(圖2i;補充材料圖3c–e)。

為更好地量化以上分離,作者定義了一個相似性指數,該指數根據在編碼軸上的投影計算得出。相似性指數在所有視覺區域中明顯區分了不同視覺類別的走廊,無論是在任務組還是在無監督組小鼠中(圖2j)。因此,神經活動的編碼方向與小鼠的行為策略相匹配(圖2c,i),表明目標腦區使用視覺而非空間編碼。


圖2 視覺可塑性與空間可塑性的比較

03

新穎性和正交化

盡管對熟悉刺激有反應的神經元也對新刺激起反應,但它們并非對新刺激反應最強的神經元。在葉子2和圓圈1之間選擇神經元時,作者發現V1和側視覺區域中有大量對葉子2選擇性起反應的神經元(圖3a)。在經過額外一周的葉子2刺激訓練后,選擇性對葉子2反應的神經元數量顯著減少,這是一種適應性(圖3a,b)。相比之下,選擇性對葉子1起反應的神經元在額外學習后幾乎沒有變化(補充材料圖5b)。因此,V1和HVA似乎對刺激的新穎性作出了反應,起反應的神經元在實驗組和無監督組小鼠腦中分布相似。

實驗組小鼠最終停止了對葉子2的舔舐(圖3c),從而顯示出對葉子1(有獎勵)和葉子2(無獎勵)之間的強烈區分。作者假設這種行為可能伴隨著神經區分的變化,類似于小鼠學會區分葉子1和圓圈1后的變化(圖1j)。為驗證此假設,他們根據葉子1和葉子2之間的d′值選擇神經元,并比較naive小鼠以及實驗組和無監督組中具選擇性神經元的比例。在中部HVA中,實驗組和無監督組的選擇性顯著增加,但接觸虛擬現實條紋的小鼠無此變化(圖3d,e)。

在naive小鼠中,葉子1和葉子2的神經表征相似(圖2j)。由此,作者假設對葉子1和葉子2刺激的細微行為區分需要對它們的神經表征進行正交化。他們通過比較葉子2在葉子1-圓圈1編碼方向上的投影來測試這一點(圖3f,g)。與naive小鼠相比,這種投影在經過監督和無監督訓練后于所有視覺區域均有減少,在中部HVA中尤為明顯(圖3h)。與naive小鼠相比,在虛擬現實條紋上訓練的對照組無明顯變化。

綜上所述,神經活動描述了新刺激(葉子2)在適應性過程中的復雜動態,無論是在監督條件下還是無監督條件下。


圖3 對新穎和適應性刺激的反應及神經正交化

04

HVA中的獎勵預測

在發現監督和無監督條件之間存在多種相似性后,作者接下來探究通過更有針對性的分析能否找出差異。由于他們一開始不知道該尋找什么,便使用了Rastermap——一種用于大規模神經反應的可視化方法。Rastermap在光柵圖的y軸上重新排列神經元,使得相鄰的神經元具有相似的活動模式。

通過任務事件的相關分析,Rastermap揭示了與視覺刺激相關的單次試驗神經活動序列,以及可能與任務事件相關的其他信號(圖4a)。他們通過Rastermap發現的信號之一對應于一個神經元簇,該簇在葉子1走廊中選擇性激活,而在圓圈1中則沒有,并在得到獎勵時被關閉(圖4a,b)。這些神經元分布在HVA區域(圖4c),其活動在獲得獎勵時被強烈抑制(圖4d),類似于獎勵預測信號。

在通過Rastermap找到假定的任務相關神經群體后,作者量化了小鼠單神經元水平上的任務分析。為此,他們開發了一個指數d’late vs early,該指數比較了早期獲得獎勵 vs 晚期獲得獎勵的神經活動(圖4e)。這個指數捕捉了預期神經活動的差異,后者在晚期獲得獎勵實驗中的延遲更長。對于早晚期獎勵有選擇性的神經元(d’late vs early ≥ 0.3)主要分布在訓練后任務小鼠的前部區域(圖4f,g;補充材料8a)。在前部HVA中,一些具有較高d’late vs early的單個神經元在單次實驗水平上可穩定編碼獎勵預測信號,其反應對葉子2進行了泛化,類似于選擇性神經元的群體平均(圖4h)。其中的一種可能性是,獎勵預測信號直接反映了舔舐行為,因為它僅存在于任務小鼠中。

但是,作者認為情況并非如此,因為:(1)獎勵預測信號在提示后被強烈抑制,而舔舐行為卻大幅增加(圖4i;補充材料圖8d–f);(2)獎勵預測信號在第一次舔舐前的幾秒鐘已經開始上升(圖4j),提示對獎勵的期望。尤其在葉子2(無獎勵)實驗中,神經預測信號的強度高于在未舔舐的實驗中(圖4k)。此類差異僅存在于前部HVA中(圖4l;補充材料圖4d)。

獎勵預測信號在訓練過程中繼續跟隨行為本身的動態變化。在葉子2訓練后,獎勵預測信號在葉子2中被抑制,并在新的葉子3中也不復存在(圖4m)。最此外,獎勵預測信號出現在交換的葉子1中,再次表明該信號與對獎勵的期望相關(圖4n)。


圖4 僅在監督訓練中出現的獎勵預測信號

05

無監督預訓練加速后續任務學習

最后,作者探究了無監督訓練后神經可塑性的潛在功能。他們假設這種可塑性可能使動物能夠更快地學習后續任務,類似于無監督預訓練幫助人工神經網絡更快地學習監督任務。

由此,他們進行了一項行為研究:第一組小鼠(“無預訓練”)與上述任務小鼠進行類似的訓練;第二組小鼠(“無監督預訓練”)則首先經歷了10天的虛擬現實跑步,無獎勵(圖5a和擴展數據圖1a);第三組小鼠,類似于第二組,但虛擬現實中使用的預訓練刺激是格柵而不是自然紋理。他們通過將獎勵分發限制在獎勵走廊的后半部分(“獎勵區”)并移除聲音提示來簡化獎勵學習(圖5b)。

他們發現,經過無監督預訓練的自然紋理小鼠學習任務的速度顯著加快(圖5c,d)。相比之下,未經預訓練或在格柵走廊上進行預訓練的小鼠在主動訓練的第一天并沒有學會區分兩個走廊(圖5c,d)。經過5天,所有三組小鼠達到了較高的區分表現,但無監督預訓練組的學習速度更快(圖5e,f)。預訓練小鼠的區分能力提高并非由于任務學習期間行為的差異,因為所有三組小鼠在兩個走廊中舔舐的位置相似,并進行了相似數量的實驗(圖5g,h)。


圖5 無監督預訓練加速后續任務學習

本文的局限性

筆者知道很多朋友最喜歡這個環節,但本篇文章確實不是筆者擅長的領域,在這里很難講述到關鍵的局限性,深表歉意。

摘自原文:在任務中,小鼠必須學習獲得水,并了解水、刺激、走廊位置和聲音提示之間的關系。在獎勵走廊中,小鼠需要停下來喝水后再開始奔跑。以上,作者并未將這些時間點納入分析。

總結

神經網絡學習可以通過監督或無監督算法來實現,二者的區別在于是否有指導信息。在感覺皮層中,感知學習驅動神經可塑性,但此過程的原因是監督學習還是無監督學習,尚未可知。本篇文章中,作者同時記錄了來自V1和HVA高達90000個神經元,發現任務小鼠的神經活動變化與其行為學習相關,但這些神經活動變化在無獎勵暴露的小鼠中基本上得到了重復,表明這些變化實際上是由無監督學習所致。神經可塑性在內側HVA中最高,并遵循視覺而非空間學習規則。

此外,作者還發現無監督學習可以加速后續任務學習,為學習記憶領域提供了新視野,意義重大!

參考文獻

Zhong, L., Baptista, S., Gattoni, R. et al. Unsupervised pretraining in biological neural networks. Nature (2025). https://doi.org/10.1038/s41586-025-09180-y

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
完全取消養老金掛鉤調整,北京方案做到了!細節曝光,贊揚聲一片

完全取消養老金掛鉤調整,北京方案做到了!細節曝光,贊揚聲一片

社保精算師
2025-07-24 20:17:17
狂砸近4億歐曼城25年已花3.947億歐簽11將,各位置均更新換代

狂砸近4億歐曼城25年已花3.947億歐簽11將,各位置均更新換代

直播吧
2025-07-25 18:33:43
美國萬萬沒想到,中國芯片再度迎來突破,竟靠國產設備彎道超車

美國萬萬沒想到,中國芯片再度迎來突破,竟靠國產設備彎道超車

策略述
2025-07-25 22:03:11
太平天國最高降將韋俊:為何清廷沒有殺他?他降清后結局怎樣?

太平天國最高降將韋俊:為何清廷沒有殺他?他降清后結局怎樣?

大千世界觀
2025-07-25 17:18:33
前港姐冠軍罕見提圈中舊愛!自曝求婚內幕,稱未來不會結婚

前港姐冠軍罕見提圈中舊愛!自曝求婚內幕,稱未來不會結婚

黔鄉小姊妹
2025-07-25 12:32:16
大帝的知音,竟然是他

大帝的知音,竟然是他

虛聲
2025-07-18 20:44:31
事實證明,無妻無子、身價過億、做了51年老好人的何炅,才最涼薄

事實證明,無妻無子、身價過億、做了51年老好人的何炅,才最涼薄

坊聞本尊
2025-06-14 13:14:54
向美國捐8億被罵叛徒!無錫唐氏21代掌門:我的錢只認文明歸屬

向美國捐8億被罵叛徒!無錫唐氏21代掌門:我的錢只認文明歸屬

李砍柴
2025-07-18 23:42:24
連收3個壞消息,特朗普政府上下憂心忡忡:跟中國徹底斗不下去了

連收3個壞消息,特朗普政府上下憂心忡忡:跟中國徹底斗不下去了

標體
2025-07-26 06:27:23
下周一復牌!知名A股,實控人將變更

下周一復牌!知名A股,實控人將變更

中國基金報
2025-07-26 00:15:45
連東風-41都只能“排隊”?今年九三閱兵,要給全世界看看實力!

連東風-41都只能“排隊”?今年九三閱兵,要給全世界看看實力!

微光物語
2025-07-21 11:35:11
亞伯拉罕:礦工球員像晉級一樣慶祝,下周會讓他們好看

亞伯拉罕:礦工球員像晉級一樣慶祝,下周會讓他們好看

雷速體育
2025-07-25 10:52:47
管理就5大核心:盯人、盯事、盯局、盯方向、盯成效

管理就5大核心:盯人、盯事、盯局、盯方向、盯成效

第一管理
2025-07-21 00:52:33
李嘉明美嬌妻深夜出走,老夫少妻婚姻危機爆發內幕曝光

李嘉明美嬌妻深夜出走,老夫少妻婚姻危機爆發內幕曝光

竹影掃階塵
2025-07-24 15:17:32
馮德萊恩與特朗普通話 討論歐美關稅談判等議題

馮德萊恩與特朗普通話 討論歐美關稅談判等議題

新京報
2025-07-26 07:25:08
吳千語曬出自我最新寫真照——有一種氣質叫我的獨一無二

吳千語曬出自我最新寫真照——有一種氣質叫我的獨一無二

動物奇奇怪怪
2025-07-26 02:16:06
40度天女孩被困豪車內,環衛工砸爛車窗救人,車主:這車送你了

40度天女孩被困豪車內,環衛工砸爛車窗救人,車主:這車送你了

凱裕說故事
2025-07-24 17:02:55
2年2820萬?小火車托馬斯,到底值多大合同?

2年2820萬?小火車托馬斯,到底值多大合同?

籃球實錄
2025-07-26 02:03:39
連娶3位徒弟,將奧運冠軍變主婦,毀掉隊員前途的他能有多離譜?

連娶3位徒弟,將奧運冠軍變主婦,毀掉隊員前途的他能有多離譜?

春秋論娛
2025-07-25 18:05:50
不可思議,63歲比利時名帥被解雇,已報名競聘國足主帥

不可思議,63歲比利時名帥被解雇,已報名競聘國足主帥

寒律
2025-07-26 00:45:51
2025-07-26 08:19:00
腦聲常談 incentive-icons
腦聲常談
專注動物神經科學與行為學實驗
1108文章數 55關注度
往期回顧 全部

科技要聞

36款熱門車高危智駕場景測試,“團滅”!

頭條要聞

英國首相:承認巴勒斯坦國是加沙停火步驟之一

頭條要聞

英國首相:承認巴勒斯坦國是加沙停火步驟之一

體育要聞

3年過去了,她還是歐洲杯上最酷的姐

娛樂要聞

汪蘇瀧不忍了 !張碧晨痛失《年輪》演唱權

財經要聞

劉煜輝:當下重要不是找確定性而是轉折點

汽車要聞

李斌一口氣講了近3個小時樂道L90 原因是為啥?

態度原創

教育
時尚
健康
旅游
公開課

教育要聞

674分學霸被福耀科技大學錄取,網友稱“腦子進水”,家長不在意

今年夏天一定要有這件衣服,好看又復古!

呼吸科專家破解呼吸道九大謠言!

旅游要聞

熱聞|清明假期將至,熱門目的地有哪些?

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版 主站蜘蛛池模板: 鲁山县| 朔州市| 上杭县| 锡林郭勒盟| 临泉县| 阿拉尔市| 通山县| 河西区| 德安县| 澄城县| 冷水江市| 永定县| 仙桃市| 名山县| 安宁市| 连南| 顺义区| 屯留县| 容城县| 廊坊市| 满洲里市| 怀化市| 吴川市| 汤阴县| 长沙市| 正安县| 兴义市| 保山市| 驻马店市| 揭阳市| 鹤山市| 大安市| 获嘉县| 固安县| 孝感市| 黄山市| 花莲县| 小金县| 丹阳市| 平安县| 安丘市|