人工神經網絡ANN和脈沖神經網絡SNN在基于腦電EEG的認知識別研究中,均表現出獨特的信息編碼處理優勢,但也存在各自的優化瓶頸問題。借鑒生物界DNA雙螺旋進化機制,杭州電子科技大學腦機協同智能團隊提出了一種類DNA雙螺旋混合共生框架DNA-HS,以ANN和由該ANN生成的SNN構成DNA-HS共生框架中的雙鏈,基于參數遺傳,實現DNA-HS框架中的雙鏈性能動態交互優化,顯著提升了EEG認知識別的性能和適應性。該研究成果“A General DNA-like Hybrid Symbiosis Framework: An EEG Cognitive Recognition Method”已被《IEEE Journal of Biomedical and Health Informatics》期刊錄用。杭州電子科技大學計算機學院曾虹教授與浙江農林大學數學與計算機科學學院趙月博士為共同第一作者,杭州電子科技大學孔萬增教授和戴國駿教授為共同通訊作者,論文作者還包括羅馬大學Fabio Babiloni教授和浙江中醫藥大學陶明教授。
論文鏈接:https://ieeexplore.ieee.org/abstract/document/10632585
1研究背景
隨著人工智能技術的不斷發展,大量第二代人工神經網絡(ANN)和第三代脈沖神經網絡(SNN)被用于各種基于腦電(EEG)信號的認知識別任務中。ANN中的神經元使用速率編碼方案將信息編碼成標量,并使用連續函數作為神經元激活函數,以實現對實值輸入和輸出的處理。然而,ANN 的神經元只在空間域傳播信息,這使得 ANN 更傾向于處理和理解空間信息,在處理具有復雜時間序列或時空相關的任務時存在不足。SNN作為第三代脈沖神經網絡,使用時序編碼方案將信息編碼成離散的脈沖序列,并利用微分方程計算模式來訓練、計算和處理時序信息,更接近生物神經元機制。具體來說,除了空間域的信息傳播外,脈沖神經元的當前狀態還受到時域歷史信息的密切影響,這使得SNN在時序或時空數據分析方面更具優勢。
圖1. DNA-HS結構示意圖
共生的概念源于自然界中不同生物之間通過交換信息、材料或物質實現共同進化的過程。遺傳學認為,脫氧核糖核酸(DNA)是生物遺傳信息的主要載體。受此啟發,作者通過模擬DNA的雙螺旋結構和堿基互補配對原則,構建了一種新型的通用類DNA混合共生框架(如圖1所示)。在該框架中,基于ANN和SNN的混合網絡分別作為DNA-HS的兩條鏈,承載著不同的表征信息。此外,提出的參數遺傳算法(PGA)能夠實現混合網絡間的相互學習和進化,顯著增強了網絡參數的優化能力。實驗結果表明,DNA-HS框架能夠充分利用混合網絡間的互補優勢,大幅提升了混合網絡的整體性能。這種模擬DNA雙螺旋結構的統一混合網絡框架,有望為基于EEG的認知識別任務開辟新的研究路徑,開創一種全新的研究范式。
2研究概述
DNA-HS包含兩個階段:ANN和SNN獨立進行的預訓練階段,以及ANN和SNN共同執行的共優化訓練階段。首先,進行預訓練,即相同輸入樣本下ANN和SNN的單獨訓練,學習得到預訓練后的ANN和SNN作為共生交互的兩類基準網絡。然后,基準網絡以雙向互利交互的方式執行共優化訓練。為了減小輔助中間模塊帶來的結構復雜度,作者通過匹配層結構來獲取特定的網絡參數,以直接進行混合網絡間信息的雙向交互,。
圖2. 基于ANN和SNN的類DNA混合共生框架DNA-HS
結構上,DNA-HS主要包括4個模塊(如圖2所示):4D表征、ANN、SNN以及PGA。ANN可以為任意的網絡結構(即任意層數和結構),在ANN的基礎上引入脈沖神經元生成SNN。
圖3. PGA算法在每次遺傳迭代過程中的動態交互流程
PGA:提出的PGA算法為混合網絡提供了一種直接進行信息交互的途徑,通過網絡參數的雙向互利交互以充分發揮ANN和SNN各自優勢,增強模型的EEG認知識別能力。圖3顯示了PGA在每次遺傳迭代過程中信息的動態雙向交互流程。首先,通過對父代模型進行互利導向突變和共生導向交叉操作,生成ANN和SNN的后代群體。然后,對ANN和SNN后代群體模型的Fitness值進行評估和排序,選出Fitness值最高的k個ANN和SNN(即Top-k ANN和SNN模型)。最后,從Top-k中隨機選出一個ANN和SNN作為下一次遺傳迭代的父代模型,繼續進行動態交互。這一操作確保了不同特征表示和學習經驗的整合,旨在增強混合模型的共生優化能力。
3實驗分析
實驗數據
為驗證提出DNA-HS框架在不同認知識別任務下的性能,此研究采用三個EEG數據集。
(1)SEED(公開):一種基于情緒狀態的認知識別任務,即情緒識別。SEED數據集是由上海交通大學 BCMI 實驗室提供的公開數據集。
(2)FAAD(自行采集):一種疲勞狀態相關的認知識別任務,即疲勞檢測。FAAD數據集是研究團隊與羅馬大學聯合采集的EEG數據集。
(3)ADMH(自行采集):一種認知障礙相關的認知識別任務,即認知障礙評估。ADMH數據集包含三種認知功能狀態:阿爾茲海默癥(Alzheimer Dementia,AD),輕度認知障礙(Mild Cognitive Impairment,MCI)以及健康對照組(Health Control,HC),由三種情緒狀態(積極、中性和消極)誘發。該數據集是研究團隊與浙江中醫藥大學聯合采集的EEG數據集。
結果分析
為了驗證DNA-HS的有效性和泛化能力,作者在不同結構的混合網絡上進行了基于留一法LOSO交叉驗證策略的EEG跨被試分析實驗,同時在多個EEG數據集上的進行了性能評估,如表1所示。
表1. DNA-HS框架在不同ANN和SNN基準網絡上的性能表現(%)。
在SEED數據集上,基于DNA-HS的ResNet18在共優化訓練后實現了最高的性能,其中ANN和SNN的性能分別為68.25%、67.15%,在Pre-training的基礎上性能提升分別為4.59%、4.23%。ANN和SNN綜合提升幅度最大的為VGG5,分別提升了6.09%、4.27%。在FAAD數據集上,Co-training同樣在ResNet18上達到了最高的準確率,ANN和SNN分別為94.91%、96.91%,和Pre-training相比提升的幅度也是最大,對應為3.71%、4.90%。在ADMH數據集上,基于ResNet18的ANN和SNN實現最高準確率為66.33%、64.96%,在AlexNet上的性能提升最大,分別為12.16%、11.47%。總結來說,基于DNA-HS框架構建的七種混合共生網絡,在SEED、FAAD和ADMH數據集上均有不同程度的性能提升,平均提升5.08%。
圖4. 基于PGA的ANN和SNN遺傳迭代過程中的性能表現
圖4展示了ANN和SNN混合網絡遺傳迭代過程中的共生優化結果,即每次遺傳迭代產生的Top-k網絡對應Fitness值的變化。以方框圖的形式標明了ANN和SNN遺傳迭代過程中的Top-5 Fitness值,并以折線圖的形式展示了PGA的收斂過程。隨著遺傳代數的增加,ANN和SNN對應的Fitness值均呈上升趨勢,這意味著在DNA-HS框架中,ANN和SNN在遺傳代數中不斷優化,PGA在迭代早期趨于收斂,在后期保持穩定。
4結論
我們發現,DNA-HS框架能夠充分發揮ANN和SNN的優勢,通過基于PGA的雙向互利交互實現不同網絡間的共生優化,并能適應各種認知識別任務。共優化訓練過程中,網絡參考另一個網絡的學習經驗以補充自身沒有涉及到的知識,從而讓該網絡跳出局部優化區間,通過學習更廣泛的知識來提升自身的魯棒性,最終以雙向互利交互的模式進一步實現混合網絡間的共生優化。網絡共生概念的提出有利于促進人類認知和人工智能的協同發展。
5作者介紹
曾虹,研究領域:人工智能、腦機交互、認知計算。杭州電子科技大學腦機協同智能技術國際聯合研究中心(科技部)和浙江省腦機協同智能重點實驗室成員。
趙月,研究領域:人工智能、認知計算、腦機交互。浙江農林大學數學與計算機科學學院計算機科學與技術學科專任教師。
孔萬增,研究領域:人工智能與模式識別,嵌入式可穿戴計算,腦機交互與認知計算。浙江省腦機協同智能重點實驗室主任,腦機協同智能技術(科技部)國際聯合研究中心常務副主任。
戴國駿,研究領域:人工智能,認知計算。腦機協同智能技術(科技部)國際聯合研究中心(科技部)主任。
僅用于學術分享,若侵權請留言,即時刪侵!
歡迎加入腦機接口社區交流群,
探討腦機接口領域話題,實時跟蹤腦機接口前沿。
加微信群:
添加微信:RoseBCI【備注:姓名+行業/專業】。
歡迎來稿
1.歡迎來稿。投稿咨詢,請聯系微信:RoseBCI
點擊投稿:
2.加入社區成為兼職創作者,請聯系微信:RoseBCI
一鍵三連「分享」、「點贊」和「在看」
不錯過每一條腦機前沿進展
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.