華為開發(fā)者大會2023(Cloud)7月7日在中國東莞正式揭開帷幕,并同時在全球10余個國家、中國30多個城市設(shè)有分會場,邀請全球開發(fā)者共聚一堂,就AI浪潮之下的產(chǎn)業(yè)新機(jī)會和技術(shù)新實(shí)踐開展交流分享。
華為開發(fā)者大會2023(Cloud)7月7日在中國東莞正式揭開帷幕,并同時在全球10余個國家、中國30多個城市設(shè)有分會場,邀請全球開發(fā)者共聚一堂,就AI浪潮之下的產(chǎn)業(yè)新機(jī)會和技術(shù)新實(shí)踐開展交流分享。
在7日下午舉行的大會主題演講中,華為常務(wù)董事、華為云CEO張平安重磅發(fā)布盤古大模型3.0和昇騰AI云服務(wù)。
其中,盤古大模型3.0圍繞“行業(yè)重塑”“技術(shù)扎根”“開放同飛”三大創(chuàng)新方向,持續(xù)打造核心競爭力,為行業(yè)客戶、伙伴及開發(fā)者提供更好的服務(wù)。
昇騰AI云服務(wù)單集群提供2000P Flops算力,千卡訓(xùn)練30天長穩(wěn)率達(dá)到90%,為業(yè)界提供穩(wěn)定可靠的AI算力,讓大模型觸手可及。
張平安表示:“盤古大模型要讓每個行業(yè)、每個企業(yè)、每個人都擁有自己的專家助手,讓工作更高效更輕松。
我們始終堅持AI for Industries的戰(zhàn)略,在深耕行業(yè)的道路上不斷前行。我堅信大模型將重塑千行百業(yè),而每一個開發(fā)者,都將是改變世界的英雄。”
華為云盤古大模型從一開始就聚焦為行業(yè)服務(wù),本次大會發(fā)布的盤古大模型3.0也是一個面向行業(yè)的大模型系列,包括“5+N+X”三層架構(gòu):L0層包括自然語言、視覺、多模態(tài)、預(yù)測、科學(xué)計算五個基礎(chǔ)大模型,提供滿足行業(yè)場景中的多種技能需求。
盤古3.0為客戶提供100億參數(shù)、380億參數(shù)、710億參數(shù)和1000億參數(shù)的系列化基礎(chǔ)大模型,匹配客戶不同場景、不同時延、不同響應(yīng)速度的行業(yè)多樣化需求。
同時提供全新能力集,包括NLP大模型的知識問答、文案生成、代碼生成,以及多模態(tài)大模型的圖像生成、圖像理解等能力,這些技能都可以供客戶和伙伴企業(yè)直接調(diào)用。
無論多大參數(shù)規(guī)模的大模型,盤古提供一致的能力集。L1層是N個行業(yè)大模型,華為云既可以提供使用行業(yè)公開數(shù)據(jù)訓(xùn)練的行業(yè)通用大模型,包括政務(wù),金融,制造,礦山,氣象等大模型;也可以基于行業(yè)客戶的自有數(shù)據(jù),在盤古大模型的L0和L1層上,為客戶訓(xùn)練自己的專有大模型。
L2層為客戶提供了更多細(xì)化場景的模型,更加專注于政務(wù)熱線、網(wǎng)點(diǎn)助手、先導(dǎo)藥物篩選、傳送帶異物檢測、臺風(fēng)路徑預(yù)測等具體行業(yè)應(yīng)用或特定業(yè)務(wù)場景,為客戶提供“開箱即用”的模型服務(wù)。盤古大模型采用完全的分層解耦設(shè)計,可以快速適配、快速滿足行業(yè)的多變需求。
客戶既可以為自己的大模型加載獨(dú)立的數(shù)據(jù)集,也可以單獨(dú)升級基礎(chǔ)模型,也可以單獨(dú)升級能力集。
在L0和L1大模型的基礎(chǔ)上,華為云還為客戶提供了大模型行業(yè)開發(fā)套件,通過對客戶自有數(shù)據(jù)的二次訓(xùn)練,客戶就可以擁有自己的專屬行業(yè)大模型。
同時,根據(jù)客戶不同的數(shù)據(jù)安全與合規(guī)訴求,盤古大模型還提供了公用云、大模型云專區(qū)、混合云多樣化的部署形態(tài)。
“盤古為行業(yè)而生,就要為行業(yè)著想,更好地服務(wù)千行百業(yè)的客戶”,張平安表示。如今,盤古大模型已在金融、金融、制造、醫(yī)藥研發(fā)、煤礦、鐵路等諸多行業(yè)發(fā)揮著巨大價值。
在政務(wù)領(lǐng)域,華為云攜手深圳市福田區(qū)政務(wù)服務(wù)數(shù)據(jù)管理局,上線了基于盤古政務(wù)大模型的福田政務(wù)智慧助手小福,能夠精準(zhǔn)理解民眾咨詢意圖,改變傳統(tǒng)的一網(wǎng)通辦模式,把老百姓的話語轉(zhuǎn)化為政府辦事的語言,讓城市更有愛。
盤古政務(wù)大模型對超過20萬條政務(wù)數(shù)據(jù)進(jìn)行精調(diào),包括12345熱線、政策文件、政務(wù)百科等,掌握了豐富的法律法規(guī)、辦事流程等行業(yè)知識。
基于盤古政務(wù)大模型的小福,在一網(wǎng)通辦業(yè)務(wù)中體現(xiàn)出行業(yè)性、專業(yè)性、領(lǐng)先性和惠民性。
在煤礦領(lǐng)域,盤古礦山大模型已經(jīng)在全國8個礦井規(guī)模使用,一個大模型可以覆蓋煤礦的采、掘、機(jī)、運(yùn)、通、洗選等業(yè)務(wù)流程下的1000多個細(xì)分場景,讓更多的煤礦工人能夠在地面上作業(yè),不僅能讓煤礦工人的工作環(huán)境更加舒適,而且可以極大地減少安全事故。
在鐵路領(lǐng)域,盤古鐵路大模型能精準(zhǔn)識別現(xiàn)網(wǎng)運(yùn)行的67種貨車、430多種故障,無故障圖片篩除率高達(dá)95%,成為貨運(yùn)列檢員身邊有力的數(shù)字助手,將列檢員從每日數(shù)百萬張的“圖海”檢測中解放出來。
在氣象領(lǐng)域,盤古氣象大模型是精度超過傳統(tǒng)數(shù)值預(yù)報方法的AI預(yù)測模型,同時預(yù)測速度也有大幅提升。原來預(yù)測一個臺風(fēng)未來10天的路徑,需要在3000臺服務(wù)器的高性能計算機(jī)集群上花費(fèi)5小時進(jìn)行仿真。
現(xiàn)在基于預(yù)訓(xùn)練的盤古氣象大模型,通過AI推理的方式,研究者只需單臺服務(wù)器上單卡配置,10秒內(nèi)就可以獲得更精確的預(yù)測結(jié)果。
大模型的創(chuàng)新不僅僅是模型自身的創(chuàng)新,更依賴于AI的各項根技術(shù)創(chuàng)新。
華為在最底層構(gòu)建了以鯤鵬和昇騰為基礎(chǔ)的AI算力云平臺,以及異構(gòu)計算架構(gòu)CANN、全場景AI框架昇思MindSpore,AI開發(fā)生產(chǎn)線ModelArts等,為大模型開發(fā)和運(yùn)行提供分布式并行加速,算子和編譯優(yōu)化、集群級通信優(yōu)化等關(guān)鍵能力。基于華為的AI根技術(shù),大模型訓(xùn)練效能可以調(diào)優(yōu)到業(yè)界主流GPU的1.1倍。
算力是訓(xùn)練大模型的基礎(chǔ)。在本次大會上,張平安宣布單集群2000P Flops算力的昇騰AI云服務(wù)在華為云的烏蘭察布和貴安AI算力中心同時上線。
昇騰AI云服務(wù)除了支持華為全場景AI框架昇思MindSpore外,還支持Pytorch、Tensorflow等主流AI框架。同時,這些框架中90%的算子,都可以通過華為端到端的遷移工具平滑遷移到昇騰平臺。
例如,美圖僅用30天就將70個模型遷移到了昇騰,同時華為云和美圖團(tuán)隊一起進(jìn)行了30多個算子的優(yōu)化以及流程的并行加速,AI性能較原有方案提升了30%。
此外,在大模型訓(xùn)練過程中經(jīng)常會遇到GPU故障,研發(fā)人員不得不經(jīng)常重啟訓(xùn)練,時間長,代價大。
昇騰AI云服務(wù)可以提供更長穩(wěn)的AI算力服務(wù),千卡訓(xùn)練30天長穩(wěn)率達(dá)到90%,斷點(diǎn)恢復(fù)時長不超過10分鐘。“
為了幫助全球客戶、伙伴、開發(fā)者訓(xùn)練和使用大模型,我們致力于為全球客戶打造世界AI另一極,為所有AI開發(fā)者提供新的選擇”,張平安表示。
深度融合,盤古大模型重構(gòu)產(chǎn)品創(chuàng)新
除了在千行百業(yè)的落地實(shí)踐,華為云盤古大模型也深度融入了華為云的產(chǎn)品服務(wù),重構(gòu)產(chǎn)品創(chuàng)新。
例如,在資料服務(wù)中,通過盤古大模型的文案生成和代碼生成技術(shù),能夠提升資料撰寫和前端代碼編寫效率,將新產(chǎn)品上市、賦能周期大為縮短。
在云客服,通過嵌入行業(yè)知識庫和意圖挖掘能力的對話問答,實(shí)現(xiàn)全流程AI優(yōu)先作答,提升客服工作效率30%。
在BI,通過NL2SQL和AutoGraph智能路由,實(shí)現(xiàn)SQL到可視化圖表的自動推薦,通過多輪自然語言交互,讓人人都能便捷地從數(shù)據(jù)中洞察業(yè)務(wù)細(xì)節(jié)。
在云搜索,通過多模態(tài)Embedding和NL2API技術(shù),實(shí)現(xiàn)視頻、文本、圖譜等廣泛場景搜索,借助強(qiáng)大的語義理解和泛化能力,讓搜索準(zhǔn)確率提高15%。
同時,華為云將CodeArts研發(fā)工具與盤古大模型相結(jié)合,正式發(fā)布了面向開發(fā)者的智能編程助手CodeArts Snap。
該工具訓(xùn)練了760億行精選代碼、1300萬篇技術(shù)文檔,具備智能生成、智能問答、智能協(xié)同三大核心功能,可以實(shí)現(xiàn)一句對話讓代碼生成、一次點(diǎn)擊即可自動注釋和生成測試用例,一條指令即可智能部署,讓每個軟件開發(fā)者都有自己的編程助手。
華為云致力于構(gòu)建以開發(fā)者為核心的、開放共贏的全球生態(tài)體系。目前,華為云全球開發(fā)者數(shù)量已超過460萬,云商店上架的商品已達(dá)10000多個。
華為云提供了易用可靠的大模型工具套件、匯聚海量多行業(yè)場景API的開天aPaaS,以及包含豐富優(yōu)質(zhì)課程和技術(shù)認(rèn)證的大模型專屬社區(qū),希望與開發(fā)者及伙伴一起,共同探索盤古大模型與行業(yè)結(jié)合的創(chuàng)新路徑。
2023AI服務(wù)器行業(yè)發(fā)展趨勢及市場現(xiàn)狀分析
AI服務(wù)器行業(yè)發(fā)展趨勢及市場現(xiàn)狀如何?隨著國家加速新型基礎(chǔ)設(shè)施建設(shè),AI將會加速與交通、能源、制造等行業(yè)融合,進(jìn)而撬動經(jīng)濟(jì)增長。
在此過程中,AI服務(wù)器的規(guī)?;季帜軌?yàn)槿斯ぶ悄軕?yīng)用落地提供核心的算力保障,對于未來國家計算力指數(shù)的提高具有極大的推動作用。
據(jù)中研普華產(chǎn)業(yè)研究院出版的《2023-2028年中國AI服務(wù)器行業(yè)發(fā)展分析與投資前景預(yù)測報告》統(tǒng)計分析顯示:
AI服務(wù)器是一種能夠提供人工智能(AI)的數(shù)據(jù)服務(wù)器。它既可以用來支持本地應(yīng)用程序和網(wǎng)頁,也可以為云和本地服務(wù)器提供復(fù)雜的AI模型和服務(wù)。
AI服務(wù)器有助于為各種實(shí)時AI應(yīng)用提供實(shí)時計算服務(wù)。AI服務(wù)器按應(yīng)用場景可分為訓(xùn)練和推理兩種,其中訓(xùn)練對芯片算力要求更高,推理對算力的要求偏低。
AI服務(wù)器按應(yīng)用場景可分為訓(xùn)練和推理,訓(xùn)練對芯片算力的要求更高,根據(jù)IDC,隨著大模型的應(yīng)用,2025年推理算力需求占比有望提升至60.8%;
AI服務(wù)器按芯片類型可分為CPU+GPU、CPU+FPGA、CPU+ASIC等組合形式,CPU+GPU是目前國內(nèi)的主要選擇(占比91.9%);
AI服務(wù)器的成本主要來自CPU、GPU等芯片,占比25%-70%不等,對于訓(xùn)練型服務(wù)器其80%以上的成本來源于CPU和GPU。
1)硬件架構(gòu):AI 服務(wù)器是采用異構(gòu)形式的服務(wù)器,根據(jù)應(yīng)用的范圍采用不同的組合方式,如 CPU+GPU、CPU+TPU、 CPU+其他的加速卡等。與普通的服務(wù)器的差別主要在大數(shù)據(jù)及云計算、人工智能等方面需要更大的內(nèi)外存。
2)卡的數(shù)量:普通的 GPU 服務(wù)器一般是單卡或者雙卡,AI 服務(wù)器需要承擔(dān)大量的計算,一般配置四塊 GPU 卡以上,甚至 要搭建 AI 服務(wù)器集群。?
3)獨(dú)特設(shè)計:AI 服務(wù)器由于有了多個 GPU 卡,需要針對性的對于系統(tǒng)結(jié)構(gòu)、散熱、拓?fù)涞茸鰧iT的設(shè)計,才能滿足 AI 服 務(wù)器長期穩(wěn)定運(yùn)行的要求。
AI服務(wù)器行業(yè)產(chǎn)業(yè)鏈上游主要包括芯片、PCB、連接器、線纜、電源和各類接口等。中游主要包括服務(wù)器品牌上和OEM/ODM廠商,未來OEM/ODM或?qū)⒅鸩较騄DM模式轉(zhuǎn)變。下游主要是采購服務(wù)器的各類客戶群體。
此處列舉的服務(wù)器下游終端客戶群體主要是B端和G端客戶,主要包括互聯(lián)網(wǎng)廠商、云服務(wù)商、運(yùn)營商、政府機(jī)構(gòu)、金融機(jī)構(gòu)等。
AI服務(wù)器采用CPU+加速芯片的架構(gòu)形式,在進(jìn)行模型的訓(xùn)練和推斷時會更具有效率優(yōu)勢。與國外AI芯片廠商的壟斷局面不同,中國AI服務(wù)器水平位于世界前列。
據(jù)統(tǒng)計,2022年我國AI服務(wù)器市場(按銷售額),浪潮以46.6%份額占據(jù)首位,新華三、寧暢分別以11%和9%占據(jù)第二、第三名。
中國在AI服務(wù)器水平位于世界前列。AI服務(wù)器采用CPU+加速芯片的架構(gòu)形式,在進(jìn)行模型的訓(xùn)練和推斷時會更具有效率優(yōu) 勢。與國外AI芯片廠商的壟斷局面不同,中國AI服務(wù)器水平位于世界前列。
隨著國內(nèi)數(shù)字基礎(chǔ)建設(shè)數(shù)據(jù)負(fù)載量的需求量不斷上升,我國AI服務(wù)器市場保持較快增速。
根據(jù)IDC數(shù)據(jù),2022年大陸AI服 務(wù)器出貨量達(dá)28.4萬臺,預(yù)計到2027年達(dá)到65萬臺,CAGR為17.9%,按金額計算,2022年大陸AI服務(wù)器銷售額為72.55億美 元,預(yù)計到2027年銷售額將達(dá)到163.99億美元, CAGR為17.7%。
AI服務(wù)器作為算力基礎(chǔ)設(shè)備,其需求有望受益于AI時代下對于算力不斷提升的需求而快速增長。
根據(jù)TrendForce,截至2022年為止,預(yù)估搭載GPGPU(General Purpose GPU)的AI服務(wù)器年出貨量占整體服務(wù)器比重近1%,預(yù)估在ChatBot相關(guān)應(yīng)用加持下,有望再度推動AI相關(guān)領(lǐng)域的發(fā)展,預(yù)估出貨量年成長可達(dá)8%;2022~2026年復(fù)合成長率將達(dá)10.8%。
AI服務(wù)器是異構(gòu)服務(wù)器,可以根據(jù)應(yīng)用范圍采用不同的組合方式,如CPU + GPU、CPU + TPU、CPU +其他加速卡等。
IDC預(yù)計,中國AI服務(wù)器2021年的市場規(guī)模為57億美元,同比增長61.6%,到2025年市場規(guī)模將增長到109億美元,CAGR為17.5%。
國內(nèi)AI服務(wù)器競爭廠商包括:浪潮信息、新華三、超聚變、中興通訊等。
IDC數(shù)據(jù)顯示,2021年全球AI服務(wù)器市場規(guī)模156億美元,超過全球AI整體市場增長率22.5%。
未來,隨著算力的持續(xù)增長,自然語言處理和圖像、視頻等AI模型的深入發(fā)展,AI服務(wù)器將被更廣泛使用。預(yù)計2023年全球AI服務(wù)器市場規(guī)模將達(dá)211億美元。
隨著5G部署速度的加快、物聯(lián)網(wǎng)技術(shù)的進(jìn)一步發(fā)展,可以預(yù)見我國數(shù)據(jù)生產(chǎn)速度將獲得更快的提升、數(shù)據(jù)總量將進(jìn)一步提高。
數(shù)據(jù)要素價值創(chuàng)造需要對數(shù)據(jù)進(jìn)行更多維度、更加深度的利用,原來處理數(shù)據(jù)的方式已遠(yuǎn)遠(yuǎn)滿足不了新時期數(shù)據(jù)處理的需求,而人工智能技術(shù)將大大提高數(shù)據(jù)的利用效率。
據(jù)了解,人工智能服務(wù)器通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合可以滿足高吞吐量互聯(lián)的需求,為自然語言處理、計算機(jī)視覺、語音交互等人工智能應(yīng)用場景提供強(qiáng)大的算力支持,已經(jīng)成為人工智能發(fā)展的重要支撐力量。
在數(shù)字經(jīng)濟(jì)和“東數(shù)西算”等政策影響下,中國AI算力市場持續(xù)高速發(fā)展。IDC預(yù)測,2025年中國AI算力市場規(guī)模將達(dá)到701.8億元,占整體服務(wù)器市場近三成。
據(jù)《2021-2022全球計算力指數(shù)評估報告》顯示,中國AI算力發(fā)展領(lǐng)跑全球,AI服務(wù)器支出規(guī)模位列全球第一。
未來行業(yè)市場發(fā)展前景和投資機(jī)會在哪?欲了解更多關(guān)于行業(yè)具體詳情可以點(diǎn)擊查看中研普華產(chǎn)業(yè)研究院的報告《2023-2028年中國AI服務(wù)器行業(yè)發(fā)展分析與投資前景預(yù)測報告》。
由中研普華研究院撰寫,本報告對我國AI服務(wù)器行業(yè)的供需狀況、AI服務(wù)器發(fā)展現(xiàn)狀、AI服務(wù)器子行業(yè)發(fā)展變化等進(jìn)行了分析,重點(diǎn)分析了AI服務(wù)器行業(yè)的發(fā)展現(xiàn)狀、如何面對行業(yè)的發(fā)展挑戰(zhàn)、AI服務(wù)器行業(yè)的發(fā)展建議、AI服務(wù)器行業(yè)競爭力,以及行業(yè)的投資分析和趨勢預(yù)測等等。AI服務(wù)器報告還綜合了行業(yè)的整體發(fā)展動態(tài),對行業(yè)在產(chǎn)品方面提供了參考建議和具體解決辦法。
關(guān)注公眾號
免費(fèi)獲取更多報告節(jié)選
免費(fèi)咨詢行業(yè)專家
2023-2028年中國AI服務(wù)器行業(yè)發(fā)展分析與投資前景預(yù)測報告
AI服務(wù)器是一種能夠提供人工智能(AI)的數(shù)據(jù)服務(wù)器。它既可以用來支持本地應(yīng)用程序和網(wǎng)頁,也可以為云和本地服務(wù)器提供復(fù)雜的AI模型和服務(wù)。AI服務(wù)器有助于為各種實(shí)時AI應(yīng)用提供實(shí)時計算服務(wù)。...
查看詳情
產(chǎn)業(yè)規(guī)劃 特色小鎮(zhèn) 產(chǎn)業(yè)園區(qū)規(guī)劃 產(chǎn)業(yè)地產(chǎn) 可研報告 商業(yè)計劃書 細(xì)分市場研究 IPO上市咨詢
沖飲品是目前市場上新型液體飲料代替食品,大多為固體,方便攜帶,食用的時候,加入水就可以了。市面上最常見的沖飲品...
電子競技(Electronic Sports)就是電子游戲比賽達(dá)到“競技”層面的體育項目。電子競技運(yùn)動就是利用電子設(shè)備作為運(yùn)動...
美國聯(lián)邦儲備委員會負(fù)責(zé)監(jiān)管事務(wù)的副主席邁克爾·巴爾10日就強(qiáng)化銀行業(yè)監(jiān)管提出多項建議,要求銀行,特別是資1...
美國聯(lián)邦儲備委員會負(fù)責(zé)監(jiān)管事務(wù)的副主席邁克爾·巴爾10日就強(qiáng)化銀行業(yè)監(jiān)管提出多項建議,要求銀行,特別是資1...
北京擬放開再生水政府定價 到2035年北京市再生水利用率要達(dá)到70%以上北京市發(fā)改委近日對《北京再生水價格有關(guān)問題的...
特種工程塑料因其優(yōu)良的綜合性能和獨(dú)特用途,被廣泛用于國民經(jīng)濟(jì)各個行業(yè)和高新技術(shù)領(lǐng)域,特別是新材料、新興信息產(chǎn)業(yè)...
中研普華集團(tuán)聯(lián)系方式廣告服務(wù)版權(quán)聲明誠聘英才企業(yè)客戶意見反饋報告索引網(wǎng)站地圖 Copyright ? 1998-2023 ChinaIRN.COM All Rights Reserved. 版權(quán)所有 中國行業(yè)研究網(wǎng)(簡稱“中研網(wǎng)”) 粵ICP備05036522號
微信掃一掃