H100 芯片的價(jià)格高達(dá) 25 萬美元一片(當(dāng)前約 183 萬元人民幣),這使得蘋果在 2023 年的 AI 服務(wù)器采購成本預(yù)計(jì)將達(dá)到 6.2 億美元(當(dāng)前約 45.38 億元人民幣)。然而,明年的采購成本預(yù)計(jì)將進(jìn)一步增長至 47.5 億美元(當(dāng)前約 347.7 億元人民幣)。盡管
蘋果將采購數(shù)千臺AI服務(wù)器
近日,知名蘋果供應(yīng)鏈分析師郭明錤發(fā)布市場研究簡報(bào),預(yù)測蘋果將在 2023 年采購約 2000-3000 臺 AI服務(wù)器,在全球 AI 服務(wù)器出貨量中占比僅為 1.3%。然而,值得注意的是,這一數(shù)字預(yù)計(jì)在 2024 年將大幅增長至 1.8 萬 -2 萬臺,占比將提升至 5%。
蘋果的這一采購計(jì)劃主要是為了滿足其對于 AI 技術(shù)的需求,特別是在訓(xùn)練和推理生成式 AI 方面。根據(jù)郭明錤的預(yù)測,蘋果將主要采用英偉達(dá)的 HGX H100 8-GPU 型號。這款 AI 服務(wù)器以其強(qiáng)大的性能和穩(wěn)定的表現(xiàn),成為了業(yè)界的熱門之選。
H100 芯片的價(jià)格高達(dá) 25 萬美元一片(當(dāng)前約 183 萬元人民幣),這使得蘋果在 2023 年的 AI 服務(wù)器采購成本預(yù)計(jì)將達(dá)到 6.2 億美元(當(dāng)前約 45.38 億元人民幣)。然而,明年的采購成本預(yù)計(jì)將進(jìn)一步增長至 47.5 億美元(當(dāng)前約 347.7 億元人民幣)。盡管價(jià)格高昂,但考慮到蘋果的品牌影響力和技術(shù)需求,這一投入無疑是值得的。
隨著各行各業(yè)對 AI 技術(shù)的應(yīng)用越來越廣泛,對 AI 服務(wù)器的需求也在不斷增長。預(yù)計(jì)未來幾年,全球 AI 服務(wù)器市場將迎來更大規(guī)模的增長,為相關(guān)企業(yè)帶來更多商機(jī)。
受AI(人工智能)大模型發(fā)展熱潮影響,市場算力需求大增,AI服務(wù)器作為算力基礎(chǔ)設(shè)施之一,由于具備圖形渲染和海量數(shù)據(jù)的并行運(yùn)算等優(yōu)勢,能夠快速準(zhǔn)確地處理大量數(shù)據(jù),市場價(jià)值逐漸凸顯,近來市場需求大增,外加AI服務(wù)器核心零部件GPU(圖像處理器、加速芯片)芯片持續(xù)緊缺、GPU價(jià)格不斷上漲等,近期AI服務(wù)器價(jià)格大漲。
有企業(yè)透露,其去年6月購買的AI服務(wù)器不足一年價(jià)格漲了近20倍。同期,GPU價(jià)格也不斷上漲,例如A100GPU市場單價(jià)已達(dá)15萬,兩個月前為10萬元,漲幅50%,而A800價(jià)格漲幅相對更小,目前價(jià)格在9.5萬元左右,上月價(jià)格為8.9萬元左右。
AI服務(wù)器價(jià)格這幾年一直變化較大,主要因其配置在不斷提升,同時(shí)其核心零部件GPU全球主要廠家英偉達(dá)、AMD在GPU方面的產(chǎn)能有限,市場GPU供應(yīng)持續(xù)緊缺,預(yù)計(jì)未來AI服務(wù)器價(jià)格仍將保持上漲趨勢。
值得一提的是,上游高端GPU芯片持續(xù)缺貨等,一定程度上還影響了企業(yè)AI服務(wù)器出貨量,進(jìn)而影響到相關(guān)服務(wù)器上市公司短期業(yè)績。不過,長遠(yuǎn)來看,AI服務(wù)器獲業(yè)界一致看好,相關(guān)上市公司也正加碼布局。
據(jù)了解,ChatGPT火熱后,全球各大科技企業(yè)都在積極擁抱AIGC(生成式AI),紛紛發(fā)力AI大模型。據(jù)不完全統(tǒng)計(jì),自3月16日百度率先公布“文心一言”以來,國內(nèi)已有超過30項(xiàng)大模型產(chǎn)品亮相。
然而,AI大模型的實(shí)現(xiàn),需要海量數(shù)據(jù)和強(qiáng)大算力來支撐訓(xùn)練和推理過程,華為預(yù)估2030年相比2020年,AI爆發(fā)帶來的算力需求將增長500倍。
AI 服務(wù)器用于處理深度學(xué)習(xí)工作負(fù)載的海量數(shù)據(jù),包括需要大內(nèi)存容量、高帶寬和整體系統(tǒng)內(nèi)緩存一致性的訓(xùn)練和推斷。相較于普通服務(wù)器,AI 服務(wù)器新增多張高性能加速器(絕大部分為 GPU),擁有更高的計(jì)算能力、更快的處理速度和更大的存儲空間。
AI 模型從最早 2012 年(AlexNet)問世以來,深度和廣度一直在逐級擴(kuò)升。作為目前最大的語言模型之一,2020 年發(fā)布的 GPT-3 使用了 1750 億個參數(shù),是其前代的 100 多倍,微軟和英偉達(dá)共同開發(fā)的 Megatron-Turing-NLG 模型參數(shù)量則達(dá) 5300 億。
據(jù)中國信通院撰寫的《中國算力發(fā)展指數(shù)白皮書》,過去 10 年用于 AI 訓(xùn)練模型的計(jì)算資源激增,AI 訓(xùn)練的計(jì)算復(fù)雜度每年猛增 10 倍,人工智能計(jì)算已成為主流的計(jì)算形態(tài),全球智能算力規(guī)模(換算為 FP32)將由 2021 年 232EFlops 快速增長至 2030 年的 52.5ZFlops,期間 CAGR 超過 80%。
TrendForce 預(yù)計(jì) 2026 年全球 AI 服務(wù)器出貨量約 20 萬臺。
TrendForce 表示,在 AIGC、自動駕駛、AloT、邊緣計(jì)算等新興應(yīng)用帶動下,諸多大型云廠商加大AI 相關(guān)基礎(chǔ)設(shè)施建設(shè),預(yù)計(jì)搭載 GPGPU(General Purpose GPU)的 AI 服務(wù)器 2022 年出貨量僅占整體服務(wù)器市場的 1%,并有望在 2026 年增長至 20 萬臺,2022-2026 年 CAGR 為 10.8%。
據(jù) TrendForce 統(tǒng)計(jì),2022 年 AI 服務(wù)器采購占比以北美四大云廠商為主,微軟、Google、Meta、AWS 合計(jì)貢獻(xiàn) 66.2%,國內(nèi)則以字節(jié)跳動投入最為積極,占比 6.2%。
不同類型的服務(wù)器成本結(jié)構(gòu)存在差異,芯片成本占比隨服務(wù)器性能提升而升高。
服務(wù)器本質(zhì)是計(jì)算機(jī),核心硬件包括 CPU、以 GPU 為代表的加速卡、內(nèi)存、硬盤、網(wǎng)卡、電源、主板等。其中以 CPU 和 GPU 為代表的算力芯片是服務(wù)器主要成本項(xiàng),占比隨著服務(wù)器性能的提高而逐漸上升。
綜合華經(jīng)情報(bào)網(wǎng)和 ARK數(shù)據(jù),芯片成本在普通服務(wù)器中約占總成本的 32%,而用于機(jī)器學(xué)習(xí)的服務(wù)器因通常搭載多卡高性能 GPU 導(dǎo)致芯片成本占比迅速提升至 83%。
AI 服務(wù)器和普通服務(wù)器之間的區(qū)別在于其硬件配置和使用方式。
AI 服務(wù)器用于處理深度學(xué)習(xí)工作負(fù)載的海量數(shù)據(jù),包括需要大內(nèi)存容量、高帶寬和整體系統(tǒng)內(nèi)緩存一致性的訓(xùn)練和推斷。相較于普通服務(wù)器,AI 服務(wù)器新增多張高性能加速器(絕大部分為 GPU),擁有更高的計(jì)算能力、更快的處理速度和更大的存儲空間,以支持高負(fù)載和復(fù)雜的計(jì)算任務(wù)。
隨著 GPU 向 A100 向 H100 升級迭代,AI 服務(wù)器有望迎來量價(jià)齊升。
根據(jù)英偉達(dá)官網(wǎng),相較于前代 A100,H100 綜合計(jì)算性能提高 6 倍,得益于:1)采用第四代 Tensor Core 和具有 FP8 精度的 Transformer 引擎,持續(xù)優(yōu)化大模型訓(xùn)練和推理表現(xiàn);2)升級第四代 NVLink,提供高達(dá) 900 GB/s 的 GPU 與 GPU之間互連;3)更高的顯存帶寬。
該行認(rèn)為,隨著價(jià)格更高的 H100 在今年陸續(xù)出貨,AI 服務(wù)器市場將在今年迎來持續(xù)量價(jià)齊升。
根據(jù)中研普華研究院《2023-2028年中國IA服務(wù)器行業(yè)發(fā)展分析與投資前景預(yù)測報(bào)告》顯示:
隨著ChatGPT、百度文心一言等一系列大模型密集上線,AI大模型當(dāng)下已經(jīng)遍地開花。谷歌本周四發(fā)布AI語言模型PaLM 2與OpenAI旗下GPT-4等系統(tǒng)展開競爭,國內(nèi)云從科技、引力傳媒等多家A股上市公司亦宣布AI大模型產(chǎn)品最新進(jìn)展。在“AI百模大戰(zhàn)”背后,隨之帶動的算力需求開始呈“爆炸式”增長,一場“算力儲備戰(zhàn)”已暗潮洶涌,全球算力市場持續(xù)火熱。
據(jù)悉,AI由數(shù)據(jù)、算法(即模型)和算力驅(qū)動,其中任意一方的發(fā)展會推動其他方面需求的增長。有分析認(rèn)為,當(dāng)下行業(yè)內(nèi)雖然擁有更多的數(shù)據(jù)以及做了更多的AI模型研究,但算力的擴(kuò)展速度卻沒有跟上。今年4月,OpenAI就因需求量過大而停止了ChatGPT Plus的銷售。對此,東方證券研報(bào)認(rèn)為,主要系計(jì)算資源供不應(yīng)求。
根據(jù)數(shù)據(jù)預(yù)測,AI時(shí)代算力的增長已遠(yuǎn)遠(yuǎn)超過了摩爾定律每18個月翻番的速率,預(yù)計(jì)到2030年全球超算算力將達(dá)到0.2ZFLOPS,平均年增速超過34%。華為更是預(yù)測,未來10年人工智能算力需求將會增長500倍以上。那么,身處“智能革命”起點(diǎn)的當(dāng)下,什么才是AI算力的最優(yōu)解?國內(nèi)“算力軍備競賽”又走到哪一步了?
眾所周知,芯片能力直接影響著高算力訓(xùn)練效果和速度,相較于基于CPU芯片的通用算力,AI所需的智能算力則主要基于GPU、GPGPU及AISC等AI芯片所提供算力,用于人工智能的訓(xùn)練和推理。其中,GPU是一種專門用于處理圖形、視頻、游戲等高性能計(jì)算的硬件設(shè)備,憑借相較于其他硬件在算力方面的較大優(yōu)勢脫穎而出,同時(shí)隨著英偉達(dá)A100、H100等型號產(chǎn)品的發(fā)布,前款產(chǎn)品在AI推理時(shí)吞吐量是CPU的249倍。GPU已成為當(dāng)前AI算力的核心硬件。
中金公司研報(bào)表示,多GPU互聯(lián)能力加強(qiáng)可以提高并行計(jì)算能力,因而算力提升對GPU數(shù)量的要求日益提高。隨著單GPU的計(jì)算能力越來越難以應(yīng)對深度學(xué)習(xí)對算力的需求,英偉達(dá)已經(jīng)開始用多個GPU去解決問題。對此,業(yè)內(nèi)分析認(rèn)為,高端GPU的數(shù)量基本決定了一個廠商能夠練多大的模型,后期將成為業(yè)內(nèi)判斷企業(yè)大模型能力的重要指標(biāo)。
據(jù)TrendForce數(shù)據(jù)顯示,如果以英偉達(dá) A100 顯卡的處理能力計(jì)算,GPT-3.5大模型需要2萬塊GPU來處理訓(xùn)練數(shù)據(jù)。亦有業(yè)內(nèi)公認(rèn)看法,做好AI大模型的算力門檻是1萬枚A100芯片。
目前,全球GPU市場主要由英偉達(dá)、英特爾和AMD三家巨頭壟斷,去年Q4獨(dú)立GPU份額分別為85%、6%、9%。其中,人工智能、云端計(jì)算和獨(dú)立GPU主要為英偉達(dá)主導(dǎo),A100和H100最高浮點(diǎn)算力分別實(shí)現(xiàn)19.5 TFLOPS 和67 TFLOPS。
相較于此,我國國產(chǎn)GPU尚處萌芽期,與國際廠商差距更大。但隨著高端GPU的出口限令,針對中國市場推出的特供版A800也已漲10萬元的高價(jià),國內(nèi)GPU市場需求緊迫。在此情形下國產(chǎn)化迫在眉睫,國產(chǎn)GPU廠商近幾年也不斷涌現(xiàn),目前國內(nèi)自研GPU的領(lǐng)軍企業(yè)主要是寒武紀(jì)、景嘉微、華為昇騰等。其中,景嘉微是國內(nèi)首家成功研制國產(chǎn)GPU芯片并實(shí)現(xiàn)大規(guī)模工程應(yīng)用的企業(yè)。行業(yè)內(nèi)專家稱,主打產(chǎn)品JH920的性能與英偉達(dá)2016年發(fā)布的GTX 1050相仿,在中高端領(lǐng)域及硬核的算力需求仍存在較長的追趕道路。
對于整個算力市場,業(yè)內(nèi)人士認(rèn)為,目前燒GPU是最為現(xiàn)實(shí)的方案,尤其從國內(nèi)GPU廠商的角度來看,國產(chǎn)GPU高端化薄弱,只有使更多低端的GPU去追趕和堆疊,通過優(yōu)化和協(xié)調(diào)來協(xié)同作用,再去組合模擬優(yōu)化的路徑。
《2023-2028年中國IA服務(wù)器行業(yè)發(fā)展分析與投資前景預(yù)測報(bào)告》由中研普華研究院撰寫,本報(bào)告對該行業(yè)的供需狀況、發(fā)展現(xiàn)狀、行業(yè)發(fā)展變化等進(jìn)行了分析,重點(diǎn)分析了行業(yè)的發(fā)展現(xiàn)狀、如何面對行業(yè)的發(fā)展挑戰(zhàn)、行業(yè)的發(fā)展建議、行業(yè)競爭力,以及行業(yè)的投資分析和趨勢預(yù)測等等。報(bào)告還綜合了行業(yè)的整體發(fā)展動態(tài),對行業(yè)在產(chǎn)品方面提供了參考建議和具體解決辦法。
關(guān)注公眾號
免費(fèi)獲取更多報(bào)告節(jié)選
免費(fèi)咨詢行業(yè)專家
2023-2028年中國IA服務(wù)器行業(yè)發(fā)展分析與投資前景預(yù)測報(bào)告
IA服務(wù)器行業(yè)研究報(bào)告主要分析了IA服務(wù)器行業(yè)的市場規(guī)模、IA服務(wù)器市場供需求狀況、IA服務(wù)器市場競爭狀況和IA服務(wù)器主要企業(yè)經(jīng)營情況,同時(shí)對IA服務(wù)器行業(yè)的未來發(fā)展做出科學(xué)的預(yù)測。中研普華憑...
查看詳情
產(chǎn)業(yè)規(guī)劃 特色小鎮(zhèn) 產(chǎn)業(yè)園區(qū)規(guī)劃 產(chǎn)業(yè)地產(chǎn) 可研報(bào)告 商業(yè)計(jì)劃書 細(xì)分市場研究 IPO上市咨詢
隨著社會的發(fā)展,家長對于孩子的學(xué)習(xí)教育越來越重視,早教行業(yè)迅速發(fā)展,成為一個火熱的市場。早教是早期教育的簡稱,...
在需求還沒太大改善,國內(nèi)產(chǎn)量和進(jìn)口到貨增加,后市價(jià)格上漲乏力,短期內(nèi)需要回調(diào)整理蓄勢待發(fā),還有上揚(yáng)的可能,主要...
欲了解更多中國門窗行業(yè)的未來發(fā)展前景,可以點(diǎn)擊查看中研普華產(chǎn)業(yè)院研究報(bào)告《2023-2028年中國門窗行業(yè)市場深度全景J...
《未成年人網(wǎng)絡(luò)保護(hù)條例》公布實(shí)施 營造網(wǎng)絡(luò)安全保險(xiǎn)健康發(fā)展的政策環(huán)境《未成年人網(wǎng)絡(luò)保護(hù)條例》公布實(shí)施,將進(jìn)一步...
農(nóng)產(chǎn)品貿(mào)易市場分析:中美企業(yè)在美國簽訂十余份農(nóng)產(chǎn)品貿(mào)易合同據(jù)中國駐美國大使館網(wǎng)站,10月23日,中國駐美大使謝鋒應(yīng)...
欲了解更多中國電池行業(yè)的未來發(fā)展前景,可以點(diǎn)擊查看中研普華產(chǎn)業(yè)院研究報(bào)告《2023-2028年中國電池行業(yè)市場深度全景5...
中研普華集團(tuán)聯(lián)系方式廣告服務(wù)版權(quán)聲明誠聘英才企業(yè)客戶意見反饋報(bào)告索引網(wǎng)站地圖 Copyright ? 1998-2023 ChinaIRN.COM All Rights Reserved. 版權(quán)所有 中國行業(yè)研究網(wǎng)(簡稱“中研網(wǎng)”) 粵ICP備05036522號
微信掃一掃