新興的機器學習算法再現(xiàn)奇跡? 深度學習未來發(fā)展及趨勢分析

• 2021年11月9日 ZouJunRong來源：騰訊網(wǎng) 中研網(wǎng) 928 58
• 繁體

深度學習本質(zhì)上是一種新興的機器學習算法，其基本模型框架是基于ANN的，如含有多隱層的感知器。其可以通過對數(shù)據(jù)的底層特征進行學習從而得到更加抽象的隱藏特征，從而特到數(shù)據(jù)的分布式規(guī)律，進而預測或分類數(shù)據(jù)。

新興的機器學習算法再現(xiàn)奇跡?

深度學習本質(zhì)上是一種新興的機器學習算法，其基本模型框架是基于ANN的，如含有多隱層的感知器。其可以通過對數(shù)據(jù)的底層特征進行學習從而得到更加抽象的隱藏特征，從而特到數(shù)據(jù)的分布式規(guī)律，進而預測或分類數(shù)據(jù)。深度學習是一種學習數(shù)據(jù)表征的算法，它可以從無規(guī)律、抽象的觀測值即輸入值中學習到數(shù)據(jù)的隱藏特征，比如CNN算法通過輸入的圖片像素點RGB值可以學習到圖片的內(nèi)部特征，例如圖片中的實體、數(shù)字等。深度學習的好處是其用高效的特征提取算法替代了原始的手工獲取特征的手段。

深度學習未來發(fā)展及趨勢分析

深度學習概念由Hinton于2006年在《Science》上發(fā)表的論文《DeepLearning》提出。提到：1、在ANN中，感知器的隱層數(shù)量越多，對于數(shù)據(jù)隱藏特征的學習能力就越強，而且學習到的特征會更好的幫助理解數(shù)據(jù)，從而能夠更好的對數(shù)據(jù)進行可視化或分類;

由于ANN層數(shù)越多，參數(shù)就會以幾何倍數(shù)的增加，因此ANN的層數(shù)會加大對整個網(wǎng)絡的訓練效率，由此Hinton提出了基于無監(jiān)督學習的“逐層初始化”來有效克服該難題。在深度學習領域中，最先出現(xiàn)的算法是Hinton提出的限制玻爾茲曼機(RBM)以及基于此提出的深度置信網(wǎng)絡(DBN)，這兩種算法為解決復雜的優(yōu)化難題提供了思路，為解決多層復雜網(wǎng)絡帶來了希望。之后提出的自動編碼器算法也風靡一時。

此外Hinton的得意弟子Lecun等人提出的卷積神經(jīng)網(wǎng)絡(CNN)真正將深度學習研究領上了高潮，其本質(zhì)上是用來解決圖片或視頻中的實體識別等難題的，它利用圖片2維或3維空間特性有效的減少了網(wǎng)絡的訓練參數(shù)。

國外的深度學習研究在整體上呈現(xiàn)出三個基本趨勢：一是關注真實課堂條件下深度學習與學生素養(yǎng)發(fā)展的實證研究;二是從個別具體操作策略的探討轉向為一般化操作模式的建構;三是從單純關注深度學習的技術性支持轉向為情境性的環(huán)境支持系統(tǒng)設計。深度學習研究又呈現(xiàn)出兩個較為明顯的特點。

據(jù)中研普華產(chǎn)業(yè)研究院的報告《2021-2025年中國深度學習發(fā)展及趨勢專項研究報告》分析

深度學習應用覆蓋更廣泛，市場增速加快

深度學習除了在已經(jīng)廣泛應用的領域不斷深化完善，也在持續(xù)拓展新的應用領域，推動各個行業(yè)的智能化。2017-2018年期間，得益于硬件和算法的進步，深度學習的強大能力逐漸顯現(xiàn)。這種進步體現(xiàn)在連續(xù)學習過程中使用模式識別的算法，使它們能夠自主訓練執(zhí)行任務，而不需要顯式編程代碼。

圖表：全球深度學習軟件喜營收(按區(qū)域) : 2017-2025

數(shù)據(jù)來源：Tractica

一些較成功的深度學習應用集中在圖像識別、文本分析、產(chǎn)品推薦、欺詐預防和內(nèi)容管理等領域的增量和實際改進上。深度學習可能會帶來未來更強大、更具顛覆性的應用發(fā)展，如無人駕駛汽車、個性化教育和預防性醫(yī)療保健。Tractica 預測，隨著應用的不斷拓展，全球深度學習軟件市場將從2017 年的30 億美元增長到2025 年的672 億美元。深度學習的市場機會跨越了廣泛的行業(yè)和地理區(qū)域，尤其是在具有海量數(shù)據(jù)需求和實體的特定領域市場，以及那些使用視覺和語言處理技術的機器感知應用不斷增長的市場，這種機會具有特別大的顛覆性。

深度學習技術研究持續(xù)深入

深度學習除了在應用領域的快速擴張，一些基礎技術研究依然保持著很高的熱度。主要可以分成以下幾個方向：深度學習的基礎理論研究;深度學習和其他方法的結合擴展;深度學習一些優(yōu)勢的深耕和發(fā)揚光大;深度學習現(xiàn)階段一些局限性的解決。當然這幾個方面也是相互影響，相互交織的。

深度學習的理論性研究側重給出對深度學習有效性更好的解釋，對深度學習的泛化能力更好的證明，以及如何更快收斂更好地學習等。

在和其他方法結合方面，一方面最成功的當屬深度強化學習，從靜態(tài)監(jiān)督學習擴展到動態(tài)交互時序學習，這在AlphaGo 上已經(jīng)得到了驗證。但是對于深度強化學習是否就是最接近人工智能的解決方案還是存疑的。另一方面是在一些非游戲類的實際應用中，深度強化學習發(fā)揮好的效果往往需要針對性的設計和實驗。除此之外，也有很多關于神經(jīng)和符號相結合的探索、數(shù)學模型和認知心理學方法相結合的探索。

在深度學習的優(yōu)勢深耕方面，預訓練模型與遷移學習比較有代表性。深度學習下的特征表示學習特性，可以構造出可擴展、可遷移的強大的預訓練模型。例如，自然語言處理領域最近出現(xiàn)的Bert 模型就是一個代表，通過大規(guī)模無標注語料訓練出的基礎表示模型，可以大大降低具體任務下對標注數(shù)據(jù)的依賴量并顯著提升效果。

在解決深度學習現(xiàn)階段的一些局限性方面則有更多的探索。這包括針對深度學習下網(wǎng)絡設計需要較大成本問題而出現(xiàn)的自動化深度學習技術，可以自動進行網(wǎng)絡結構設計和超參數(shù)尋優(yōu)，使深度學習更加自動化。針對深度學習在監(jiān)督學習任務上表現(xiàn)更優(yōu)異的問題，更多考慮半監(jiān)督、無監(jiān)督任務下的深度學習，包括近期持續(xù)火爆的對抗學習網(wǎng)絡，將生成模型和判別模型一起學習，大大提升了深度學習的生成效果。針對傳統(tǒng)深度神經(jīng)網(wǎng)絡更多適用于無結構數(shù)據(jù)的問題提出圖神經(jīng)網(wǎng)絡，使得深度學習可以作用于圖結構上，非常適用于知識圖譜等場景，為深度學習的推理能力、可解釋性提升提供了新思路。

邊緣計算將給深度學習和芯片帶來更多市場

人工智能的計算大多在基于云端的數(shù)據(jù)中心完成，而這些計算的主要內(nèi)容是對深度學習模型的訓練，這需要大量的計算能力。在過去的6年中，計算需求方面經(jīng)歷30萬倍的增長，GPU提供了強大的算力支持。隨著人工智能應用多樣性的增長，越來越多的深度學習計算將在邊緣設備中進行，而不是在一個集中的、基于云的環(huán)境中進行。到2025年，全球人工智能邊緣設備的出貨量將從2018 年的1.614億臺增加到26億臺。依據(jù)設備類別，主要的AI 邊緣設備為：手機、智能音箱、個人電腦設備、頭戴式顯示器、汽車、無人機、消費者和企業(yè)級機器人、監(jiān)控攝像頭等。

圖表：全球邊緣計算設備出貨量(按設備種類): 2017-2025年

數(shù)據(jù)來源：Tractica

在評估云與邊緣計算時，需要考慮隱私、安全、成本、延遲和帶寬等。根據(jù)人工智能應用程序和設備類別，可用于執(zhí)行人工智能邊緣計算的芯片包括中央處理器(Central Processing Unit，CPU)、圖形處理器(Graphics Processing Unit，GPU)、專用集成電路(Application Specific Integrated Circuit，ASIC)、現(xiàn)場可編程門陣列(Field-Programmable Gate Array，F(xiàn)PGA)、系統(tǒng)芯片(System on Chip，SoC)等。

深度學習芯片迎來高速發(fā)展的階段

GPU和CPU 在市場上處于領先地位，但FPGA、ASIC、SoC 加速器和其他新興芯片組的影響正在不斷擴大。雖然解決深度學習訓練和推斷工作量的芯片組市場仍然是一個新興市場，但形勢正在迅速變化——在過去的一年中，超過60 家各種規(guī)模的公司宣布了某種深度學習芯片組或知識產(chǎn)權(IP)設計，之后將開始市場驗證。2019 年和2020 年是深度學習芯片組數(shù)量增長的關鍵時期。

圖表：全球深度學習芯片收入(按類型):2016-2025年

數(shù)據(jù)來源：Tractica

到2025 年，深度學習芯片組的市場將從2017年的16 億美元增加到663 億美元。系統(tǒng)芯片(SoC)加速器(如移動設備中的加速器)將在預測期結束時在絕對數(shù)量上領先市場，隨后是專用集成電路(ASIC)和圖形處理單元(GPU)。就收入而言，到2025 年，ASIC 市場將是最大的，其次是GPU 和中央處理器(CPU)。在邊緣計算市場，即在設備上進行人工智能計算的市場，預計將占總市場機會的四分之三以上，其余在云或者數(shù)據(jù)中心。手機將是邊緣計算市場的主要驅動力，其他突出的邊緣類別包括汽車、智能相機、機器人和無人機等。

未來行業(yè)市場投資前景如何?想要了解更多行業(yè)詳情分析，可以點擊查看中研普華研究報告《2021-2025年中國深度學習發(fā)展及趨勢專項研究報告》。

更多報告推薦

2021-2026年中國電子學習系統(tǒng)行業(yè)市場前瞻與未來投資戰(zhàn)略分析報告

• 相關深度報告REPORTS

  

  2021-2025年中國深度學習發(fā)展及趨勢專項研究報告

  深度學習本質(zhì)上是一種新興的機器學習算法，其基本模型框架是基于ANN的，如含有多隱層的感知器。其可以通過對數(shù)據(jù)的底層特征進行學習從而得到更加抽象的隱藏特征，從而特到數(shù)據(jù)的分布式規(guī)律，進C...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡