關注我們鉆石開放獲取 免收版面費

作 者

朱一新、毛惠五、祝影、王祥靜、傅傳玉、柯碩、萬昌錦、萬青

機 構

南京大學

Citation

Zhu Y X, Mao H W, Zhu Y, Wang X J, Fu C Y, Ke S, Wan C J, Wan Q. 2023. CMOS-compatible neuromorphic devices for neuromorphic perception and computing: a review. Int. J. Extrem. Manuf.5042010.

免費獲取全文

https://doi.org/10.1088/2631-7990/acef79

撰稿 | 文章作者

神經形態計算是一種受大腦啟發的計算范式，旨在通過模擬生物神經系統的信息處理機制來構建高效、低功耗、自適應的計算系統。神經形態計算的核心是通過模擬生物神經系統的信息處理模式，構建相應的計算理論、器件結構、芯片架構以及應用模型和算法。目前，基于多種物理機制已經提出了各種類型的神經形態器件，這些器件展示了一系列神經形態功能，如動態濾波、多態存儲和尖峰時序依賴性可塑性等。為了適應后摩爾時代的發展要求，神經形態器件的制造應盡可能與現有主流CMOS集成電路技術兼容，這將有助于開發更先進、更智能的人工智能系統。近期，南京大學萬青與萬昌錦團隊在SCI期刊《極端制造》（International Journal of Extreme Manufacturing, IJEM）上發表《CMOS-compatible neuromorphic devices for neuromorphic perception and computing: a review》的綜述。該綜述關注了與CMOS制造技術兼容的神經形態器件及其應用的最新進展，討論了多種器件在突觸和神經元功能上的模擬以及在神經形態感知和計算方面的應用，并展望了開發CMOS兼容的神經形態器件和系統所面臨的機遇與挑戰。

關鍵詞

神經形態計算、神經形態器件、CMOS 兼容、阻變開關器件、晶體管

亮 點

• 綜述了與CMOS制造工藝兼容的神經形態器件；

• 討論了各種器件在神經元功能、感知和計算方面的應用；

• 總結了這些器件的優缺點；

• 討論了需要面對的各種機遇和挑戰。

圖1CMOS工藝兼容的神經形態器件的應用場景。

近年來，集成電路行業面臨巨大挑戰。隨著大數據、人工智能和5G等領域的迅速崛起，對大規模數據處理的需求不斷增長。傳統計算技術面臨數據傳輸時間和能源浪費，以及摩爾定律逼近極限的問題。隨著集成電路技術正進入后摩爾時代，解決這些挑戰刻不容緩。目前，各種技術路徑正在被提出以延續其發展，如將多種功能集成到單一芯片中的片上系統技術，顯著改進經濟效益的chiplet技術，第三代半導體器件，光子芯片和非馮·諾伊曼計算范式。神經形態計算被認為是一種前景廣闊的非馮計算范式，其核心思想是模仿生物神經系統的信息處理方式。為了推動神經形態計算的發展，研究人員已經開發出各種新型器件，包括可編程電阻切換器件和神經形態晶體管。這些器件成功地模擬了神經元和突觸的行為，并已在人工神經網絡的硬件加速器以及生物感知功能方面取得了廣泛應用。為適應后摩爾時代的發展需求。神經形態器件的制造應盡量與現有主流CMOS集成電路技術保持兼容。這將有助于保留神經形態計算的關鍵特性，同時促進更高級別和智能的人工智能系統的發展。在本文中，朱一新博士等人對CMOS技術兼容的神經形態器件的最新進展進行了綜述。

作者綜述了與CMOS制造技術兼容的神經形態器件及其應用的最新進展，如圖1所示。作者介紹了使用不同類型的器件來模擬各種形式的生物突觸可塑性以及神經元生物學功能。隨后討論了這些器件在人工感知和神經形態計算的應用。最后，對所討論的主題進行了總結和展望。

圖2基于可編程阻變開關器件的可塑性模擬。(a) 生物突觸和電路模型示意圖。(b) 納米尺度交叉陣列的掃描電子顯微鏡照片。(c) 脈沖頻率依賴可塑性學習規則。(d) 脈沖時間依賴可塑性學習規則。(e) 雙向可調的導電特性。(f) 模擬類腦系統的器件架構。(g) n-Si/HfO2/WO3/Ag 結構的示意圖。(h) 雙向可調的導電特性。(i) Ag/原子厚度的 SiOx/p++-Si器件的示意圖。

圖3基于神經形態晶體管的可塑性模擬。(a) 器件結構示意圖。(b) 器件的傳輸特性。(c) 電導增強和減弱特性。(d) 器件結構示意圖。(e) 典型的EPSC響應。(f) 鐵電場效應晶體管的示意圖。(g) 鐵電NAND的光學圖像。(h) 3D鐵電NAND的示意圖。(i) 電導增強和減弱特性。

生物體的各種生命功能由復雜的突觸和神經元網絡控制。生物突觸是一種接觸結構，其中一個神經元的沖動可以被轉移到另一個神經元。突觸是信息傳遞的重要組成部分，生物突觸的信號整合功能可以通過改變神經元之間的連接強度（即突觸權重）來調節，這一過程被稱為突觸可塑性。短期可塑性（STP）和長期可塑性（LTP）是突觸可塑性的兩種不同形式。目前，CMOS工藝兼容的各種神經形態器件已經廣泛地模擬了各種突觸的可塑性，如圖2和圖3所示。

圖4基于阻變器件的人工神經元模擬。(a) 基于Nb2O5的TS器件的H-H模型電路圖。(b) 器件的電流-電壓曲線。(c) H-H模型的全有或全無響應。(d) 人工神經的積分-放電電路示意圖。(e) 電容和電阻對LIF行為的影響。(f) 集成憶阻神經網絡的光學顯微圖。(g) 憶阻系統的示意圖。

圖5基于神經形態晶體管的人工神經元模擬。(a) 反鐵電材料的典型雙回滯特性。(b) 反鐵電晶體管的典型傳輸曲線。(c) 生物神經元的IF特性。(d) 反鐵電晶體管神經元的連續放電。(e) 器件結構示意圖。(f) 隨時間變化的疇壁位置、有效赫茲和電流序列。(g) 模擬LIF過程的動態疇壁運動。(h) 疇壁LIFT特性。(i) 人工樹突的非線性電流響應。(j) 關和開狀態下的電流響應。(k) 等效電路。(l) 人工樹突的光學圖像。

神經元是生物信息處理的基本單位，由細胞體、軸突和樹突三個主要組成部分構成。神經元將外部刺激編碼為脈沖信號，并沿著樹突傳播到細胞體，并與其他神經元的輸入進行整合。如果脈沖電位超過一定閾值，細胞體會產生一個沖動電位并通過軸突發送。人工神經元的目標是模擬生物神經元的整合和沖動功能。然而，傳統的CMOS器件缺乏神經元的動態特性，需要包含數十個晶體管的復雜電路來模擬。目前已經開發了各種神經元模型來描述人工神經元如何在電路中模擬動作電位的產生，如生物物理模型和現象學模型。生物物理模型使用可變電阻器來模擬離子通道的變化和神經元膜的電生理狀態，例如Hodgkin-Huxley（H-H）模型。現象學模型使用簡單的數學抽象來模擬生物神經元的輸入-輸出行為，如Leaky integrity and Fire（LIF）模型。圖4和圖5分別介紹了基于兩端憶阻器件和三端晶體管器件對人工神經元的模擬。

圖6人工感知系統。(a)器件的透射電子顯微鏡圖像。(b) 對痛覺和過敏的演示。(c) 觸覺感知的示意圖。(d) MFSN的示意電路圖。(e)器件的結構示意圖。(f) 雙眼定位系統的示意圖。(g) 聲音定位系統的示意圖。

圖6介紹了基于CMOS兼容的神經形態器件的人工感知系統。人類的感知系統是一種高效的并行計算系統，能夠同時接收和處理來自多個源的數據，并具有低功耗、高兼容性和高可塑性等優勢。人工感知系統是一個新興領域，匯集了多個工程和科學學科的專業知識。神經形態感知系統與傳統計算系統的區別在于，它們使用混合的模擬/數字組件，而不是布爾邏輯和時鐘操作。傳統感知系統采用各種器件來感知、轉換和傳輸來自外部環境的信號。然而，隨著生成數據量的指數級增長，這些系統越來越面臨高功耗等問題的挑戰。為了解決這些問題，研究人員正在開發基于新興突觸器件的人工感知系統，這些系統能夠執行并行分布式計算，減少數據冗余和傳輸。這可以節省能源和帶寬，降低功耗和延遲，提高與生物系統的兼容性和適應性。此外，人工感知系統還可以融合和處理多模信息，這對于改善環境感知和理解、提高安全性和效率至關重要。此外，將人工感知系統與CMOS技術集成還可以帶來額外的優勢，如降低成本、增加密度和提高可靠性。

圖7神經形態計算芯片。(a) 晶體管陣列的光學圖像。(b) 電導增強和減弱特性。(c) 憶阻器交叉陣列。(d) 系統架構示意圖。(e) 集成PCB子系統的照片。(f) 電導狀態和分布。(g) 基于憶阻器的五層CNN系統。(h) NeuRRAM芯片的可重構架構。(i) 存內計算的結構圖。(j) 三維電路的示意圖。

圖8神經形態計算芯片。(a) 三維垂直RRAM。(b) 三維電阻式內存結構的存儲模式。(c)與CMOS工藝兼容的晶體管的結構示意圖。(d) ECRAM單元陣列的光學圖像。(e) 混合2D/CMOS的憶阻芯片。(f) 使用CMOS/h-BN基礎的1T1M單元實現SNN。

神經形態計算涉及使用模擬、數字或混合電路和軟件算法來模擬生物神經網絡。這種方法旨在模仿人腦的結構和功能，以實現更高效和有效的計算。作為人工智能領域的核心技術，神經網絡在圖像識別和自然語言處理等領域得到了廣泛的應用。一些流行且有效的神經網絡架構包括卷積神經網絡（CNNs）、深度神經網絡（DNNs）和脈沖神經網絡（SNNs）。這些架構在結構和算法上有所不同，各自在特定應用場景中具有優勢和局限性。例如，CNNs主要用于圖像識別和處理任務，它們采用具有多層卷積濾波器的分層結構從輸入數據中提取特征。SNNs更接近于人腦神經元的運作方式，它們使用脈沖在神經元之間傳輸信息，并可以通過突觸強度的變化來學習。這些架構各有優點和局限性，是一個需要克服許多挑戰的活躍研究領域。圖7和圖8分別介紹了神經形態器件在神經形態計算方面的研究和應用。

這些與CMOS制造工藝兼容的器件具有巨大的發展潛力，未來有望對類腦芯片的設計和開發產生重大影響和創新。這些神經形態器件或系統會在機器人技術、物聯網、生物醫學、安全和教育等各個領域表現出潛在的應用前景。例如，在機器人技術中，它們可以實現更自然的人機交互、更靈活的動作控制以及更智能的環境感知和決策。在物聯網中，它們可以實現更高效的數據處理和傳輸、更節能的設備管理，以及更安全的信息加密和認證。在生物醫學領域，它們可以實現更準確的生理信號檢測和分析、更便捷的健康監測和診斷。毫無疑問，與此相關的科學和工程挑戰是巨大的。從生物學的角度來看，我們對大腦神經網絡的當前理解仍然很基礎。發展神經形態器件仍需要在多個自然科學領域取得突破，包括神經科學、數學模擬以及化學和物理學。要實現這些突破，需要深度整合包括材料科學、化學工程、醫學、計算機科學和工程學等在內的多個學科。從工程學的角度來看，挑戰主要存在于器件層面。目前，器件特性在時間尺度、動態特性以及技術成熟度方面表現出顯著的差異，這增加了器件的選擇、優化和迭代的難度。選擇適當的器件用于神經形態計算取決于應用場景和PPA指標之間的權衡。目前，基于軟件模擬的神經形態計算也是一種低成本的解決方案，因為它不需要硬件設計、制造和測試，可能在某些情況下更合適。當然，軟件模擬也有缺點。軟件模擬的速度嚴重依賴于計算機的處理能力和資源，難以實現大規模的并行計算，限制了整個系統的性能。盡管基于硬件的模擬存在開發和部署成本高以及靈活性有限等缺點，但這些電路和架構經過高度優化，能夠實現高度并行化和高效的計算。硬件系統所表現出的低功耗對于移動設備、嵌入式系統或能源受限環境中的應用特別有益。此外，基于硬件的實現可以提供實時響應和處理能力，這在這方面超越了軟件模擬。因此，在選擇具體方案時，有必要全面考慮應用要求、資源限制和實施成本。盡管在科學和工程方面存在重大挑戰，但基于CMOS技術的神經形態器件和系統的發展仍然是推動人工智能和腦科學進展的有望方向。與CMOS技術兼容的神經形態器件的發展將為神經形態計算的推進提供諸多優勢。必須充分評估這些器件的實際性能、穩定性和可靠性，以及它們與其他計算技術的集成，選擇最合適的技術路徑。

萬青 教授

南京大學

萬青，甬江實驗室異構集成研究中心主任，南京大學教授。本科畢業于浙江大學材料系，2004年在中科院上海微系統所獲得微電子專業博士學位。博士畢業后先后在劍橋大學，密西根大學，斯坦福大學從事博士后和訪問教授科研工作。回國后先后在湖南大學，中科院寧波材料所，南京大學工作，目前主要在甬江實驗室開展科研工作。萬青教授從事氧化物半導體材料與器件研究20多年，發表包括70多篇APL和50多篇IEEE EDL在內的300余篇SCI論文，他引2萬多次。先后榮獲教育部自然科學一等獎（2009年），浙江省科技一等獎（2013年），國家高層次人才（2014年，2018年）等獎勵和資助。取得的三個代表性科研工作如下：

1）鉭酸鋰/鈮酸鋰單晶薄膜離子剝離（Smart cut）制備技術的奠基人之一。2001年與和法國SOI TECH公司幾乎同時報道了通過氫離子注入工藝來實現鉭酸鋰/鈮酸鋰單晶薄膜的剝離和轉移。如今該技術剝離的鈮酸鋰/鉭酸鋰單晶薄膜已經成功產業化，并在新型5G/6G濾波器、高速光電調制器和光子集成芯片領域獲得了重大產業應用。

2）2005年，以唯一通訊作者身份發表APL論文，報道了SnO2納米線的鋰離子存儲特性。有關論文比美國科學院院士，斯坦福大學崔屹教授的納米線鋰電池論文發表早了近2年。

3）2009年，在日本學者細野秀雄IGZO薄膜晶體管的基礎上，創造性地引入固態電解質作為柵介質，發明了IGZO雙電層晶體管，并在此基礎上，開創了該類多端口器件神經形態器件及其動力學類腦感知/計算領域的研究。

萬昌錦 副教授

南京大學

萬昌錦，南京大學電子科學與工程學院副教授、博士生導師，國家海外高層次青年人才（2020）。先后獲得包括中科院院長獎、中科院優秀畢業生、中科院優秀博士論文等榮譽，以及Springer Nature 出版社頒發的Springer Theses Prize（該獎項每年在全球范圍內僅遴選100 篇左右）。并出版英文專著（ISBN 978-981-13-3313-2）一部，自2019年出版以來迄今下載超2200次。多年來專注于神經形態器件及其類腦芯片這一交叉前沿研究領域，在該領域的理論研究和應用創新方面取得了一系列成果。迄今在相關領域發表SCI論文70多篇(其中超12篇單篇引用>100)，總引用次數超6200次，H-index 為40。擔任《International Journal of Extreme Manufacturing》(IF=14.7)、《Frontiers of Optoelectronics》(IF=5.4)等雜志青年編委，是《ACS NANO》《Adv. Funct. Mater.》《IEEE Elctron Dev.Lett.》《Appl. Phys. Lett.》《Mater. Horiz.》《Small》等雜志審稿人。主持和參與國家自然科學基金面上項目、科技部重點研發、科技部重點研發青年科學家、后摩爾時代重大計劃培育項目等。

石墨烯人工突觸制造實現光電類腦計算應用

Advances in memristor based artificial neuron fabrication-materials, models, and applications

doi: https://doi.org/10.1088/2631-7990/acfcf1

關于期刊

International Journal of Extreme Manufacturing(中文《極端制造》），簡稱IJEM，致力于發表極端制造領域相關的高質量最新研究成果。自2019年創刊至今，期刊陸續被SCIE、EI、Scopus等20余個國際數據庫收錄。2023年JCR最新影響因子14.7，位列工程/制造學科領域第一。中科院分區工程技術1區，TOP期刊。

?? 期刊宗旨和欄目（點擊閱讀詳情）

期刊網址：

https://iopscience.iop.org/journal/2631-7990

期刊投稿：

https://mc04.manuscriptcentral.com/ijem-caep

作者福利

? 鉆石開放獲取，免收作者版面費

? 提供綠色通道快速評審原創突破性成果

? 接收后24h內在線

? 免費全球化宣傳推廣

? 免費高質量圖片編輯與規范化文獻校對

專題征稿

Call for Papers

專題文章

集 錦

文章目錄

2023-02

2023-01

2022-04

2022-03

2022-02

2022-01

更多往期 點此獲取

微信號｜IJEM-Editor

掃碼加小編微信

邀您進極端制造群

撰稿: 作者 編輯：范珂艷 審核：關利超

本文旨在傳遞、分享最新科研信息。如涉及作品版權問題，請及時聯系我們，我們會及時處理以保障您的權益。感謝一直關注和支持本公眾號的朋友們！