中國類腦計算技術(shù)行業(yè)現(xiàn)狀及發(fā)展前景分析

• 2021年11月25日 HaoChenChong來源：互聯(lián)網(wǎng) 925 58
• 繁體

類腦計算是指利用數(shù)字電路、模擬電路、數(shù)?；旌想娐坊蛐缕骷矸抡嫔锷窠?jīng)元以及神經(jīng)元間的突觸連接，進而利用超大規(guī)模集成電路(Very Large Scale Integrated，VLSI)系統(tǒng)來模仿神經(jīng)系統(tǒng)中的神經(jīng)生物學結(jié)構(gòu)。

中國類腦計算技術(shù)行業(yè)現(xiàn)狀及發(fā)展前景分析

類腦計算是指利用數(shù)字電路、模擬電路、數(shù)模混合電路或新器件來仿真生物神經(jīng)元以及神經(jīng)元間的突觸連接，進而利用超大規(guī)模集成電路(Very Large Scale Integrated，VLSI)系統(tǒng)來模仿神經(jīng)系統(tǒng)中的神經(jīng)生物學結(jié)構(gòu)。和現(xiàn)有馮諾伊曼體系結(jié)構(gòu) 計算與存儲分離的特點相對，類腦計算中的神經(jīng)元結(jié)構(gòu)既有計算能力，也有存儲能力。類腦計算的這種特點從根本上消除了馮諾伊曼體系結(jié)構(gòu)的“存儲墻”問題。通過對類腦計算進行研究，能夠更好地理解腦計算模型，為實現(xiàn)類腦智能提供路徑。

SNN也被稱為第三代神經(jīng)網(wǎng)絡(luò)，是人工智能領(lǐng)域機器學習算法的一種，是計算機科學與生物神經(jīng)科學交叉而成的新興學科。相比于傳統(tǒng)的ANN，如各種深度學習網(wǎng)絡(luò)，SNN實現(xiàn)了更高級的生物神經(jīng)元模擬水平，更容易模擬人腦低功耗高性能的處理方式，是信息技術(shù)向智能化發(fā)展的重點研究方向。與ANN相比，SNN有諸多優(yōu)良特性，在實現(xiàn)低功耗、高性能的智能系統(tǒng)上潛力巨大。類腦計算研究涉及的領(lǐng)域范圍廣泛，包括材料科學、神經(jīng)科學、電氣工程、計算機工程和計算機科學等。材料科學家研究、制造和表征可用于類腦器件的新材料，重點是展示與生物神經(jīng)系統(tǒng)相似特性的材料。神經(jīng)科學家提供可能在類腦計算意義上有用的新知識，并利用類腦計算系統(tǒng)來模擬和研究生物神經(jīng)系統(tǒng)。電子和計算機工程師利用模擬電路、數(shù)字電路、數(shù)模混合電路和器件來構(gòu)造系統(tǒng)，模擬神經(jīng)系統(tǒng)的運行過程，開發(fā)由生物啟發(fā)的類腦計算系統(tǒng)。類腦計算系統(tǒng)的研究涉及到類腦處理器微體系結(jié)構(gòu)技術(shù)、體系結(jié)構(gòu)技術(shù)、類腦處理器配套的軟件工具鏈和基于脈沖神經(jīng)網(wǎng)絡(luò)的算法等研究領(lǐng)域。在現(xiàn)階段的社會發(fā)展過程中計算機科學技術(shù)在社會中的應(yīng)用具有極大的社會現(xiàn)實含義，不僅其在加速社會經(jīng)濟的道路上起到了積極的作用。計算機技術(shù)在發(fā)展的同時帶動經(jīng)濟社會的進步。由于傳統(tǒng)的計算機科學沒有相關(guān)的技術(shù)信息支撐，當代的發(fā)展方向是積極向前的、相互融合的。不過由于當代社會信息的共享性還有待于提高到新的階段，-些方面的信息受到一定的局限和壟斷性。伴隨著越來越普遍的計算機科學在全世界范圍內(nèi)的迅猛發(fā)展，信息將可以被方便快捷的進行傳播，有理由相信計算機技術(shù)將會帶動社會經(jīng)濟更好發(fā)展，其對經(jīng)濟的發(fā)展將起到積極有效的作用。

根據(jù)中研普華研究報告《2021-2025年國內(nèi)外類腦計算技術(shù)發(fā)展研究及趨勢預(yù)測報告》統(tǒng)計分析顯示：

一、神經(jīng)形態(tài)運算平臺

類腦運算平臺或者類腦芯片， 是受到生物學腦工作機制啟發(fā)開發(fā)的專用于為SNN提供計算的硬件系統(tǒng)。制作類腦芯片最具有挑戰(zhàn)性的是如何把不計其數(shù)spiking 神經(jīng)元和突觸放進一個小小的芯片里并同時讓他們的鏈接結(jié)構(gòu)是可調(diào)整的。

最初，類腦芯片僅由科研學術(shù)機構(gòu)進行探索。 由于研究人員已經(jīng)展示出這些出色的類似于大腦的計算模型的巨大潛力，因此許多大公司已開始參與類腦芯片的開發(fā)。

IBM在2014年開發(fā)了TrueNorth芯片，它是美國國防高級研究計劃局SyNAPSE開發(fā)計劃的一部分。 單個TruNorth芯片包含4096個計算核心，可以實現(xiàn)神經(jīng)突觸和神經(jīng)元排列的動態(tài)映射。 每個內(nèi)核最多可將1024個軸突電路用于輸入連接，從而實現(xiàn)256個IF神經(jīng)元，這些神經(jīng)元組織為靜態(tài)隨機存取存儲器。 IBM TrueNorth系統(tǒng)的一個吸引人的功能是，單個芯片由54億個晶體管組成，僅消耗70mW的功率密度，僅占傳統(tǒng)計算單元的1/10000。

SpiNNaker NM平臺是由曼徹斯特大學的研究人員開發(fā)的，曼徹斯特大學的研究人員是由歐盟資助的“人腦計劃” (Eupropean HBP)的一部分。 SpiNNaker為SNN的硬件實現(xiàn)提供ASIC解決方案。它利用多個ARM內(nèi)核和FPGA來配置硬件和PyNN軟件API，以實現(xiàn)平臺的可擴展性。 ARM處理器使該平臺能夠以僅1毫秒的仿真時間步長，以生物逼真的連通性配置數(shù)十億個脈沖神經(jīng)元。此外，第二代平臺SpiNNaker2仍在開發(fā)中，它可以使用1000萬個處理器來模擬更大，更復(fù)雜的SNN。除SpiNNaker之外，BrainScaleS 也是HBP項目的另一個類腦計算平臺。 BrainScaleS是使用晶圓級集成技術(shù)開發(fā)的混合信號神經(jīng)形態(tài)芯片，該芯片允許利用4000萬個突觸和多達18萬個神經(jīng)元。正在設(shè)計下一代BarianScaleS，并將其命名為BrianScaleS-2，它能夠使用更復(fù)雜的神經(jīng)元模型，同時支持非線性突觸和定制結(jié)構(gòu)的神經(jīng)元。

SpiNNaker 平臺提供SNN的云仿真和計算平臺， 這就意味著如果你想試試自己的SNN在硬件上效果如何的話。你可以去SpiNNaker 云平臺上 上傳自己的代碼，結(jié)果會由云平臺返回， 前提是你的SNN需要是用PyNN構(gòu)建的。

斯坦福大學在類腦領(lǐng)域貢獻了兩個類腦硬件，分別是Neurogrid和Braindrop。 Neurogrid 中的神經(jīng)核由256x256制成的CMOS陣列構(gòu)成，該陣列可實現(xiàn)SNN的混合模數(shù)實現(xiàn)。 Neurogrid能夠以數(shù)百萬個神經(jīng)元和數(shù)十億個突觸的能力提供生物學上合理的計算。 像Neurogrid一樣的Braindrop是一個混合信號NM處理器，但抽象程度很高。 Braindrop采用28納米FDSOI工藝進行設(shè)計，并將4096個尖峰神經(jīng)元集成在單個芯片上，該芯片的神經(jīng)元容量有限，無法大規(guī)模實施SNN。

英特爾Loihi 類腦芯片是英特爾最近宣布的數(shù)字神經(jīng)計算平臺。 Loihi最吸引人的特點是芯片在線學習的潛力。 Loihi擁有一個特殊的可編程微代碼引擎，可以即時進行SNN培訓(xùn)。 Loihi具有3個獨特的Lakemont NM核心，專門設(shè)計用于協(xié)助高級學習規(guī)則。 一個Loihi芯片中總共有128個NM內(nèi)核，能夠?qū)崿F(xiàn)130K LIF神經(jīng)元和130M突觸。 Loihi系統(tǒng)的最大大小可支持多達16個芯片的4096個片上內(nèi)核。

Brainchip公司開發(fā)了名為Akida神經(jīng)形態(tài)計算平臺，該平臺可以使用一個NSoC有效地實現(xiàn)120萬個神經(jīng)元和100億個突觸。 該平臺具有多個板載處理器，包括基于事件的處理，數(shù)字處理，存儲器，輸入/輸出接口和多芯片擴展的功能。

圖表：各類芯片匯總

資料來源：中研普華產(chǎn)業(yè)研究院整理

除了這些類腦芯片外，仍有許多新興的類腦芯片在SNN計算中顯示出巨大的潛力。 例如浙江大學的達爾文芯片，其目標是嵌入式低功耗應(yīng)用。 蘇黎世大學研究人員開發(fā)的DYNAP-SEL結(jié)合了異步數(shù)字邏輯和模擬電路，以實現(xiàn)模擬SNN實現(xiàn)。 清華大學的研究人員成功設(shè)計了混合型天機芯片 ，該混合型既可以實現(xiàn)常規(guī)神經(jīng)網(wǎng)絡(luò)又可以實現(xiàn)SNN。

二、神經(jīng)形態(tài)傳感器

動態(tài)視覺傳感器(Dynamic Vison Sensor)

傳統(tǒng)的視覺傳感器的經(jīng)典例子是數(shù)碼相機，它以預(yù)定的幀頻重復(fù)刷新其整個像素值陣列。但是，使用數(shù)碼相機具有動態(tài)運動識別的三個缺點。首先，數(shù)碼相機通常以預(yù)定義的幀采樣速率(通常范圍為每秒25-50幀)運行，這限制了觀察到的活動的時間分辨率。其次，連續(xù)的幀和每個幀中的冗余像素浪費了大量的存儲資源和計算。第三，傳統(tǒng)圖像傳感器的動態(tài)范圍受到其曝光時間和集成能力的限制。大多數(shù)相機會遭受飽和線性響應(yīng)，動態(tài)范圍限制在60-70dB，其中自然場景的光線可以達到動態(tài)范圍的約140dB。動態(tài)視覺傳感器(DVS)提供了解決這些問題的方法。使用AER數(shù)據(jù)形式(Address evnet representation)的DVS是基于人類視覺系統(tǒng)的事件驅(qū)動技術(shù)?；谑录膫鞲衅髟趧討B(tài)場景識別任務(wù)中的優(yōu)勢在于，當場景發(fā)生很大變化時，它可以提供非常高的時間分辨率，這只能通過高速數(shù)碼相機來匹配，而這通常需要大功率和大量電量，和計算資源。

動態(tài)音頻傳感器(Dynamic Audio Sensor)

就像DVS模仿人類視覺系統(tǒng)一樣，動態(tài)音頻傳感器的工作機制也受到人類聽覺系統(tǒng)中的感覺器官的啟發(fā)。 DAS是異步事件驅(qū)動的人工耳蝸，可接收立體聲音頻輸入。 DAS使用麥克風前置放大器和64個雙耳聲道，為神經(jīng)形態(tài)音頻感應(yīng)設(shè)定了基準。 DAS集成了本地數(shù)模轉(zhuǎn)換器(DAC)，以允許修改每個通道中的質(zhì)量因數(shù)。 通過級聯(lián)的二階模擬部分來模擬耳蝸的功能，這些模擬部分包括半波整流器，頻率調(diào)制器，數(shù)模轉(zhuǎn)換器，服務(wù)器放大器和緩沖器。

下圖中演示了雙耳DAS語音輸出的示例。 圖展示了DAS對語音信號的響應(yīng)，其中綠色和紅色分別對應(yīng)于左采樣通道和右采樣通道，每個點都是一個采集事件。 DAS的線性調(diào)頻響應(yīng)如圖所示，輸入信號的動態(tài)頻率變化范圍為30Hz至10kHz。

三、SNN仿真軟件

盡管SNN具有許多優(yōu)勢，但是在模擬尖峰神經(jīng)元方面的計算問題還是比較大的。 在某些情況下，像IZ神經(jīng)元模型一樣，需要對生物物理峰值神經(jīng)元進行詳細的差分表示。 另一方面，在實際應(yīng)用方面，不需要現(xiàn)實地重建生物突波產(chǎn)生機理的簡化神經(jīng)元模型(比如IF神經(jīng)元模型)。 SNN的仿真策略可以分為兩個系列：同步或異步。 同步算法會在每個時間步更新所有神經(jīng)元，這比異步或“事件驅(qū)動”算法會導(dǎo)致更高的計算資源。 異步方法僅在神經(jīng)元接收或發(fā)出脈沖時更新神經(jīng)元狀態(tài)，就像DVS傳感器的工作范式一樣。

圖表：SNN仿真軟件匯總

資料來源：中研普華產(chǎn)業(yè)研究院整理

與ANN中的統(tǒng)一神經(jīng)網(wǎng)絡(luò)框架(例如Tensorflow 和Pytorch)不同，SNN模型和SNN的訓(xùn)練方法沒有得到廣泛一致的統(tǒng)一化。 模擬SNN的方法仍然是多種多樣且客觀的。 現(xiàn)階段，設(shè)計SNN的過程不僅考慮了網(wǎng)絡(luò)本身的可行性，而且還可以擴展到諸如生物學上的合理性，計算成本和學習機制之類的功能。 為了全面回顧SNN的軟件實現(xiàn)。

類腦運算雖然仍處于科研階段， 但各界大牛的應(yīng)用示例層出不窮。 SNN的優(yōu)勢在個人看法而言， 體現(xiàn)在 如果一個系統(tǒng)同時具有傳感器，芯片，和強大的SNN算法，它的功耗和運行速度是傳統(tǒng)ANN,DNN所不能匹敵的。 但就現(xiàn)有的學習算法而言， SNN在和DNN對比上對各類任務(wù)的表現(xiàn)(比如識別準確率)還差強人意。

Diehl 在2015年paper “Unsupervised learning of digit recognition using spike-timing-dependent plasticity” 中實現(xiàn)了STDP和側(cè)面抑制結(jié)合的WTA學習方法， SNN通過非監(jiān)督式的學習方法可以在MNIST手寫數(shù)字識別的數(shù)據(jù)庫上達到95% 的準確率。

2017年的CVPR上， TrueNorth團隊在TrueNorth芯片上實現(xiàn)了實時的動態(tài)手勢識別。雖然此方法是基于傳統(tǒng)深度學習的模型，但整個系統(tǒng)的功耗大概只有200mW和105ms的延遲(1秒10幀)。

清華大學天機芯片團隊，2019年Nature上發(fā)表了使用混合神經(jīng)網(wǎng)絡(luò)驅(qū)動自動駕駛自行車的例子。這里包涵了傳統(tǒng)ANN和SNN的信號處理融合。

想要了解更多國內(nèi)外類腦計算技術(shù)行業(yè)具體詳情分析，可以點擊查看中研普華研究報告《2021-2025年國內(nèi)外類腦計算技術(shù)發(fā)展研究及趨勢預(yù)測報告》

• 相關(guān)深度報告REPORTS

  

  2021-2025年國內(nèi)外類腦計算技術(shù)發(fā)展研究及趨勢預(yù)測報告

  類腦計算是指利用數(shù)字電路、模擬電路、數(shù)?；旌想娐坊蛐缕骷矸抡嫔锷窠?jīng)元以及神經(jīng)元間的突觸連接，進而利用超大規(guī)模集成電路（Very Large Scale Integrated，VLSI）系統(tǒng)來模仿神經(jīng)系統(tǒng)中...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡