類腦計算是指利用數(shù)字電路、模擬電路、數(shù)?;旌想娐坊蛐缕骷矸抡嫔锷窠浽约吧窠浽g的突觸連接,進而利用超大規(guī)模集成電路系統(tǒng)來模仿神經系統(tǒng)中的神經生物學結構。
2022年國內外類腦計算技術行業(yè)趨勢及發(fā)展前景分析
類腦計算是指利用數(shù)字電路、模擬電路、數(shù)?;旌想娐坊蛐缕骷矸抡嫔锷窠浽约吧窠浽g的突觸連接,進而利用超大規(guī)模集成電路系統(tǒng)來模仿神經系統(tǒng)中的神經生物學結構。和現(xiàn)有馮諾伊曼體系結構 計算與存儲分離的特點相對,類腦計算中的神經元結構既有計算能力,也有存儲能力。類腦計算的這種特點從根本上消除了馮諾伊曼體系結構的“存儲墻”問題。通過對類腦計算進行研究,能夠更好地理解腦計算模型,為實現(xiàn)類腦智能提供路徑。
SNN也被稱為第三代神經網絡,是人工智能領域機器學習算法的一種,是計算機科學與生物神經科學交叉而成的新興學科。相比于傳統(tǒng)的ANN,如各種深度學習網絡,SNN實現(xiàn)了更高級的生物神經元模擬水平,更容易模擬人腦低功耗高性能的處理方式,是信息技術向智能化發(fā)展的重點研究方向。與ANN相比,SNN有諸多優(yōu)良特性,在實現(xiàn)低功耗、高性能的智能系統(tǒng)上潛力巨大。
類腦計算研究涉及的領域范圍廣泛,包括材料科學、神經科學、電氣工程、計算機工程和計算機科學等。材料科學家研究、制造和表征可用于類腦器件的新材料,重點是展示與生物神經系統(tǒng)相似特性的材料。神經科學家提供可能在類腦計算意義上有用的新知識,并利用類腦計算系統(tǒng)來模擬和研究生物神經系統(tǒng)。電子和計算機工程師利用模擬電路、數(shù)字電路、數(shù)?;旌想娐泛推骷順嬙煜到y(tǒng),模擬神經系統(tǒng)的運行過程,開發(fā)由生物啟發(fā)的類腦計算系統(tǒng)。類腦計算系統(tǒng)的研究涉及到類腦處理器微體系結構技術、體系結構技術、類腦處理器配套的軟件工具鏈和基于脈沖神經網絡的算法等研究領域。
在現(xiàn)階段的社會發(fā)展過程中計算機科學技術在社會中的應用具有極大的社會現(xiàn)實含義,不僅其在加速社會經濟的道路上起到了積極的作用。計算機技術在發(fā)展的同時帶動經濟社會的進步。由于傳統(tǒng)的計算機科學沒有相關的技術信息支撐,當代的發(fā)展方向是積極向前的、相互融合的。不過由于當代社會信息的共享性還有待于提高到新的階段,-些方面的信息受到一定的局限和壟斷性。伴隨著越來越普遍的計算機科學在全世界范圍內的迅猛發(fā)展,信息將可以被方便快捷的進行傳播,有理由相信計算機技術將會帶動社會經濟更好發(fā)展,其對經濟的發(fā)展將起到積極有效的作用。
據中研產業(yè)研究院公布《2021-2025年國內外類腦計算技術發(fā)展研究及趨勢預測報告》顯示
類腦運算平臺或者類腦芯片, 是受到生物學腦工作機制啟發(fā)開發(fā)的專用于為SNN提供計算的硬件系統(tǒng)。制作類腦芯片最具有挑戰(zhàn)性的是如何把不計其數(shù)spiking 神經元和突觸放進一個小小的芯片里并同時讓他們的鏈接結構是可調整的。
最初,類腦芯片僅由科研學術機構進行探索。 由于研究人員已經展示出這些出色的類似于大腦的計算模型的巨大潛力,因此許多大公司已開始參與類腦芯片的開發(fā)。
IBM在2014年開發(fā)了TrueNorth芯片,它是美國國防高級研究計劃局SyNAPSE開發(fā)計劃的一部分。單個TruNorth芯片包含4096個計算核心,可以實現(xiàn)神經突觸和神經元排列的動態(tài)映射。每個內核最多可將1024個軸突電路用于輸入連接,從而實現(xiàn)256個IF神經元,這些神經元組織為靜態(tài)隨機存取存儲器。 IBM TrueNorth系統(tǒng)的一個吸引人的功能是,單個芯片由54億個晶體管組成,僅消耗70mW的功率密度,僅占傳統(tǒng)計算單元的1/10000。
SpiNNaker NM平臺是由曼徹斯特大學的研究人員開發(fā)的,曼徹斯特大學的研究人員是由歐盟資助的“人腦計劃” (Eupropean HBP)的一部分。 SpiNNaker為SNN的硬件實現(xiàn)提供ASIC解決方案。它利用多個ARM內核和FPGA來配置硬件和PyNN軟件API,以實現(xiàn)平臺的可擴展性。 ARM處理器使該平臺能夠以僅1毫秒的仿真時間步長,以生物逼真的連通性配置數(shù)十億個脈沖神經元。此外,第二代平臺SpiNNaker2仍在開發(fā)中,它可以使用1000萬個處理器來模擬更大,更復雜的SNN。除SpiNNaker之外,BrainScaleS 也是HBP項目的另一個類腦計算平臺。 BrainScaleS是使用晶圓級集成技術開發(fā)的混合信號神經形態(tài)芯片,該芯片允許利用4000萬個突觸和多達18萬個神經元。正在設計下一代BarianScaleS,并將其命名為BrianScaleS-2,它能夠使用更復雜的神經元模型,同時支持非線性突觸和定制結構的神經元。
SpiNNaker 平臺提供SNN的云仿真和計算平臺, 這就意味著如果你想試試自己的SNN在硬件上效果如何的話。你可以去SpiNNaker 云平臺上 上傳自己的代碼,結果會由云平臺返回, 前提是你的SNN需要是用PyNN構建的。
斯坦福大學在類腦領域貢獻了兩個類腦硬件,分別是Neurogrid和Braindrop。 Neurogrid 中的神經核由256x256制成的CMOS陣列構成,該陣列可實現(xiàn)SNN的混合模數(shù)實現(xiàn)。 Neurogrid能夠以數(shù)百萬個神經元和數(shù)十億個突觸的能力提供生物學上合理的計算。像Neurogrid一樣的Braindrop是一個混合信號NM處理器,但抽象程度很高。 Braindrop采用28納米FDSOI工藝進行設計,并將4096個尖峰神經元集成在單個芯片上,該芯片的神經元容量有限,無法大規(guī)模實施SNN。
英特爾Loihi 類腦芯片是英特爾最近宣布的數(shù)字神經計算平臺。 Loihi最吸引人的特點是芯片在線學習的潛力。 Loihi擁有一個特殊的可編程微代碼引擎,可以即時進行SNN培訓。 Loihi具有3個獨特的Lakemont NM核心,專門設計用于協(xié)助高級學習規(guī)則。 一個Loihi芯片中總共有128個NM內核,能夠實現(xiàn)130K LIF神經元和130M突觸。 Loihi系統(tǒng)的最大大小可支持多達16個芯片的4096個片上內核。
Brainchip公司開發(fā)了名為Akida神經形態(tài)計算平臺,該平臺可以使用一個NSoC有效地實現(xiàn)120萬個神經元和100億個突觸。 該平臺具有多個板載處理器,包括基于事件的處理,數(shù)字處理,存儲器,輸入/輸出接口和多芯片擴展的功能。
圖表:各類芯片匯總
資料來源:中研普華產業(yè)研究院整理
除了這些類腦芯片外,仍有許多新興的類腦芯片在SNN計算中顯示出巨大的潛力。例如浙江大學的達爾文芯片,其目標是嵌入式低功耗應用。 蘇黎世大學研究人員開發(fā)的DYNAP-SEL結合了異步數(shù)字邏輯和模擬電路,以實現(xiàn)模擬SNN實現(xiàn)。 清華大學的研究人員成功設計了混合型天機芯片 ,該混合型既可以實現(xiàn)常規(guī)神經網絡又可以實現(xiàn)SNN。
動態(tài)視覺傳感器(Dynamic Vison Sensor)
傳統(tǒng)的視覺傳感器的經典例子是數(shù)碼相機,它以預定的幀頻重復刷新其整個像素值陣列。但是,使用數(shù)碼相機具有動態(tài)運動識別的三個缺點。首先,數(shù)碼相機通常以預定義的幀采樣速率(通常范圍為每秒25-50幀)運行,這限制了觀察到的活動的時間分辨率。其次,連續(xù)的幀和每個幀中的冗余像素浪費了大量的存儲資源和計算。第三,傳統(tǒng)圖像傳感器的動態(tài)范圍受到其曝光時間和集成能力的限制。大多數(shù)相機會遭受飽和線性響應,動態(tài)范圍限制在60-70dB,其中自然場景的光線可以達到動態(tài)范圍的約140dB。動態(tài)視覺傳感器(DVS)提供了解決這些問題的方法。使用AER數(shù)據形式(Address evnet representation)的DVS是基于人類視覺系統(tǒng)的事件驅動技術?;谑录膫鞲衅髟趧討B(tài)場景識別任務中的優(yōu)勢在于,當場景發(fā)生很大變化時,它可以提供非常高的時間分辨率,這只能通過高速數(shù)碼相機來匹配,而這通常需要大功率和大量電量,和計算資源。
動態(tài)音頻傳感器(Dynamic Audio Sensor)
就像DVS模仿人類視覺系統(tǒng)一樣,動態(tài)音頻傳感器的工作機制也受到人類聽覺系統(tǒng)中的感覺器官的啟發(fā)。 DAS是異步事件驅動的人工耳蝸,可接收立體聲音頻輸入。 DAS使用麥克風前置放大器和64個雙耳聲道,為神經形態(tài)音頻感應設定了基準。 DAS集成了本地數(shù)模轉換器(DAC),以允許修改每個通道中的質量因數(shù)。 通過級聯(lián)的二階模擬部分來模擬耳蝸的功能,這些模擬部分包括半波整流器,頻率調制器,數(shù)模轉換器,服務器放大器和緩沖器。
下圖中演示了雙耳DAS語音輸出的示例。 圖展示了DAS對語音信號的響應,其中綠色和紅色分別對應于左采樣通道和右采樣通道,每個點都是一個采集事件。 DAS的線性調頻響應如圖所示,輸入信號的動態(tài)頻率變化范圍為30Hz至10kHz。
盡管SNN具有許多優(yōu)勢,但是在模擬尖峰神經元方面的計算問題還是比較大的。在某些情況下,像IZ神經元模型一樣,需要對生物物理峰值神經元進行詳細的差分表示。 另一方面,在實際應用方面,不需要現(xiàn)實地重建生物突波產生機理的簡化神經元模型(比如IF神經元模型)。 SNN的仿真策略可以分為兩個系列:同步或異步。 同步算法會在每個時間步更新所有神經元,這比異步或“事件驅動”算法會導致更高的計算資源。 異步方法僅在神經元接收或發(fā)出脈沖時更新神經元狀態(tài),就像DVS傳感器的工作范式一樣。
圖表:SNN仿真軟件匯總
資料來源:中研普華產業(yè)研究院整理
與ANN中的統(tǒng)一神經網絡框架(例如Tensorflow 和Pytorch)不同,SNN模型和SNN的訓練方法沒有得到廣泛一致的統(tǒng)一化。 模擬SNN的方法仍然是多種多樣且客觀的。 現(xiàn)階段,設計SNN的過程不僅考慮了網絡本身的可行性,而且還可以擴展到諸如生物學上的合理性,計算成本和學習機制之類的功能。為了全面回顧SNN的軟件實現(xiàn)。
類腦運算雖然仍處于科研階段, 但各界大牛的應用示例層出不窮。 SNN的優(yōu)勢在個人看法而言,體現(xiàn)在 如果一個系統(tǒng)同時具有傳感器,芯片,和強大的SNN算法,它的功耗和運行速度是傳統(tǒng)ANN,DNN所不能匹敵的。 但就現(xiàn)有的學習算法而言, SNN在和DNN對比上對各類任務的表現(xiàn)(比如識別準確率)還差強人意。
未來行業(yè)市場投資前景如何?想要了解更多行業(yè)詳情分析,可以點擊查看中研普華研究報告《2021-2025年國內外類腦計算技術發(fā)展研究及趨勢預測報告》。報告對行業(yè)相關各種因素進行具體調查、研究、分析,洞察行業(yè)今后的發(fā)展方向、行業(yè)競爭格局的演變趨勢以及技術標準、市場規(guī)模、潛在問題與行業(yè)發(fā)展的癥結所在,評估行業(yè)投資價值、效果效益程度,提出建設性意見建議,為行業(yè)投資決策者和企業(yè)經營者提供參考依據。
更多報告推薦
關注公眾號
免費獲取更多報告節(jié)選
免費咨詢行業(yè)專家
2021-2025年國內外類腦計算技術發(fā)展研究及趨勢預測報告
類腦計算是指利用數(shù)字電路、模擬電路、數(shù)?;旌想娐坊蛐缕骷矸抡嫔锷窠浽约吧窠浽g的突觸連接,進而利用超大規(guī)模集成電路(Very Large Scale Integrated,VLSI)系統(tǒng)來模仿神經系統(tǒng)中...
查看詳情
軍工鋼高強鋼具有硬性高、耐磨性好、強度高等特性,也用于制造性能要求高的模具、軋輥、高溫軸承和高溫彈簧等。軍工鋼...
智慧商圈行業(yè)前景及現(xiàn)狀如何?未來智慧商圈行業(yè)市場投資風險如何?智慧商圈建設的時機已經成熟,以深圳、上海、重慶為首...
磷化工產業(yè)鏈的未來發(fā)展方向磷酸鐵鋰將引領磷化工產業(yè)鏈的新方向,當前多家磷化工企業(yè)已開始布局磷酸鐵鋰。如新洋豐宣...
石蛙標準名棘胸蛙,又名石蛤、石雞、山雞等,是兩棲綱無尾目蛙科的一種動物。石蛙因為肉味鮮美,生長速度快而且個大,...
集成地板是由一定數(shù)量相同的樹種、相同截面尺寸的長短不一木料,沿著縱向指接長料,通過加工成地板,實木復合地板:是...
城市燃氣行業(yè)發(fā)展前景及投資潛力如何?隨著中國城市化水平的不斷加快,城市燃氣應用的范圍不斷擴展,經過不斷的發(fā)展已2...