2023年人工智能之自然語言處理行業(yè)發(fā)展趨勢分析

• 王毅博 2023年10月17日 來源：中研網(wǎng) 1482 98
• 繁體

定義：自然語言處理(NaturalLanguageProcessing,NLP)是計算機科學領域與人工智能領域中的一個重要方向。它研究能實現(xiàn)人與計算機之間用自然語言進行有效通信的各種理論和方法。自然語言處理是一門融語言學、計算機科學、數(shù)學于一體的科學。因此，這一領域的研究將涉及自然語言，即人們日常使用的語言，所以它與語言學的研究有著密切的聯(lián)系，但又有重要的區(qū)別。自然語言處理并不是一般地研究自然語言，而在于研制能有效地實現(xiàn)自然語言通信的計算機系統(tǒng)，特別是其中的軟件系統(tǒng)。因而它是計算機科學的一部分[1]。

自然語言處理主要應用于機器翻譯、輿情監(jiān)測、自動摘要、觀點提取、文本分類、問題回答、文本語義對比、語音識別、中文OCR等方面。

概念和技術

信息抽取（IE）

信息抽取是將嵌入在文本中的非結構化信息提取并轉換為結構化數(shù)據(jù)的過程，從自然語言構成的語料中提取出命名實體之間的關系，是一種基于命名實體識別更深層次的研究。信息抽取的主要過程有三步：首先對非結構化的數(shù)據(jù)進行自動化處理，其次是針對性的抽取文本信息，最后對抽取的信息進行結構化表示。信息抽取最基本的工作是命名實體識別，而核心在于對實體關系的抽取。

自動文摘

自動文摘是利用計算機按照某一規(guī)則自動地對文本信息進行提取、集合成簡短摘要的一種信息壓縮技術，旨在實現(xiàn)兩個目標：首先使語言的簡短，其次要保留重要信息。

語音識別技術

語音識別技術就是讓機器通過識別和理解過程把語音信號轉變?yōu)橄鄳奈谋净蛎畹募夹g，也就是讓機器聽懂人類的語音，其目標是將人類語音中的詞匯內容轉化為計算機可讀的數(shù)據(jù)。要做到這些，首先必須將連續(xù)的講話分解為詞、音素等單位，還需要建立一套理解語義的規(guī)則。語音識別技術從流程上講有前端降噪、語音切割分幀、特征提取、狀態(tài)匹配幾個部分。而其框架可分成聲學模型、語言模型和解碼三個部分。

Transformer模型

Transformer模型在2017年，由Google團隊中首次提出。Transformer是一種基于注意力機制來加速深度學習算法的模型，模型由一組編碼器和一組解碼器組成，編碼器負責處理任意長度的輸入并生成其表達，解碼器負責把新表達轉換為目的詞。Transformer模型利用注意力機制獲取所有其他單詞之間的關系，生成每個單詞的新表示。Transformer的優(yōu)點是注意力機制能夠在不考慮單詞位置的情況下，直接捕捉句子中所有單詞之間的關系。模型拋棄之前傳統(tǒng)的encoder-decoder模型必須結合RNN或者CNN(ConvolutionalNeuralNetworks,CNN)的固有模式，使用全Attention的結構代替了LSTM，減少計算量和提高并行效率的同時不損害最終的實驗結果。但是此模型也存在缺陷。首先此模型計算量太大，其次還存在位置信息利用不明顯的問題，無法捕獲長距離的信息。

基于傳統(tǒng)機器學習的自然語言處理技術

自然語言處理可將處理任務進行分類，形成多個子任務，傳統(tǒng)的機械學習方法可利用SVM（支持向量機模型）、

Markov（馬爾科夫模型）、CRF（條件隨機場模型）等方法對自然語言中多個子任務進行處理，進一步提高處理結果的精度。但是，從實際應用效果上來看，仍存在著以下不足：(1)傳統(tǒng)機器學習訓練模型的性能過于依賴訓練集的質量，需要人工標注訓練集，降低了訓練效率。(2)傳統(tǒng)機器學習模型中的訓練集在不同領域應用會出現(xiàn)差異較大的應用效果，削弱了訓練的適用性，暴露出學習方法單一的弊端。若想讓訓練數(shù)據(jù)集適用于多個不同領域，則要耗費大量人力資源進行人工標注。(3)在處理更高階、更抽象的自然語言時，機器學習無法人工標注出來這些自然語言特征，使得傳統(tǒng)機器學習只能學習預先制定的規(guī)則，而不能學規(guī)則之外的復雜語言特征。

基于深度學習的自然語言處理技術

深度學習是機器學習的一大分支，在自然語言處理中需應用深度學習模型，如卷積神經(jīng)網(wǎng)絡、循環(huán)神經(jīng)網(wǎng)絡等，通過對生成的詞向量進行學習，以完成自然語言分類、理解的過程。與傳統(tǒng)的機器學習相比，基于深度學習的自然語言處理技術具備以下優(yōu)勢：(1)深度學習能夠以詞或句子的向量化為前提，不斷學習語言特征，掌握更高層次、更加抽象的語言特征，滿足大量特征工程的自然語言處理要求。(2)深度學習無需專家人工定義訓練集，可通過神經(jīng)網(wǎng)絡自動學習高層次特征。

圖表：2019-2023年全球自然語言處理市場規(guī)模（單位：億美元）

數(shù)據(jù)來源：中研普華整理

NLP市場規(guī)模預計將從2019年的102億美元增長到2023年的244億美元。隨著智能設備數(shù)量增長以及行業(yè)智能化業(yè)務處理水平要求的提高，自然語言處理市場有望得到進一步拓展。2019-2023年，全球自然語言處理規(guī)模復合年均增長率達到24.3%。

專利庫競品公司：智慧芽

智慧芽(PatSnap)成立于2007年10月，是一家科技創(chuàng)新情報SaaS服務商，聚焦科技創(chuàng)新情報和知識產(chǎn)權信息化服務兩大板塊。通過機器學習、計算機視覺、自然語言處理（NLP）等人工智能技術，為科技公司、高校和科研機構、金融機構等提供大數(shù)據(jù)情報服務。公司創(chuàng)始人張濟徽，本科畢業(yè)于新加坡國立大學生物工程專業(yè)，2007年創(chuàng)辦智慧芽PatSnap。旗下產(chǎn)品包括PatSnap全球專利數(shù)據(jù)庫、Innosnap知識產(chǎn)權管理系統(tǒng)、Insights英策專利分析系統(tǒng)、Discovery創(chuàng)新情報系統(tǒng)、LifeScience系列數(shù)據(jù)庫等。

2021年3月17日，智慧芽(PatSnap)宣布完成3億美元的E輪融資，本輪融資由騰訊和軟銀愿景基金二期領投，CPE跟投，紅杉中國、順為資本和祥峰投資等老股東繼續(xù)加持。指數(shù)資本擔任獨家財務顧問。從規(guī)模來看，該筆融資是2020年以來SaaS行業(yè)最大一筆融資，伴隨此輪融資智慧芽估值也超過10億美元。

智慧芽的自然語言處理技術

通過大數(shù)據(jù)處理和文本聚類，從專利中挖掘關鍵技術信息：不需要人工大量投入閱讀和標引精力；對專利的引用量、PatSnap同族數(shù)、侵權訴訟量、申請人、專利價值等多個維度做聚類分析，找重點專利。

通過語義理解、向量相似度比對，降低尋找目標專利的難度：系統(tǒng)結合輸入內容，挖掘文本的語義信息，在數(shù)據(jù)庫做相似性匹配；語義相似度算法模型主要包括關鍵詞及其擴展模型、語義向量模型和語義圖譜向量模型，同時結合實踐經(jīng)驗形成的規(guī)則。

智能的自動處理機制：利用OCR技術自動識別官文，根據(jù)文檔規(guī)則觸發(fā)內部和官方期限，減少用戶重復作業(yè)。支持CPC一鍵轉檔、遞交以及CPC來文的自動獲取，并且定期對自有公開專利的著錄項目、法律狀態(tài)、權利要求、說明書、附圖信息，利用智慧芽專利數(shù)據(jù)資源自動更新，減少手動狀態(tài)維護。

欲了解更多自然語言處理市場行業(yè)的未來發(fā)展前景，可以點擊查看中研普華產(chǎn)業(yè)院研究報告《自然語言處理市場行業(yè)深度研究報告》?！?/a>

關注公眾號

免費獲取更多報告節(jié)選

免費咨詢行業(yè)專家

• 相關深度報告REPORTS

  

  2023-2028年停車場管理系統(tǒng)行業(yè)深度分析及投資戰(zhàn)略研究咨詢報告

  中研普華通過對停車場管理系統(tǒng)行業(yè)長期跟蹤監(jiān)測，分析停車場管理系統(tǒng)行業(yè)需求、供給、經(jīng)營特性、獲取能力、產(chǎn)業(yè)鏈和價值鏈等多方面的內容，整合行業(yè)、市場、企業(yè)、用戶等多層面數(shù)據(jù)和信息資源，...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡