GPU Utils 發(fā)布了一份關于英偉達GPU——主要是H100的研究報告，試圖梳理有關GPU供應和需求的相關問題。在這篇主要針對美國市場的報告中，我們看到了目前阻礙大模型和人工智能發(fā)展的關鍵瓶頸GPU短缺是如何形成和發(fā)展的。

總的來說，GPU瓶頸的出現(xiàn)原因是多方面的，環(huán)環(huán)相扣的復雜工藝制造流程，半導體周期，對稀缺資源的搶占與恐慌乃至未曾預料到的人工智能的突然爆發(fā)，都讓GPU算力變得無比緊張。

樂觀地看，2024年這一瓶頸或許會有所緩解。

數(shù)十萬張缺口，一百五十億需求

每個想要在人工智能爆發(fā)中分一杯羹的人都需要GPU。準確地說，是英偉達的A100和H100，它們在訓練和推理大模型中扮演關鍵角色。如果要想要從頭訓練大模型，至少需要上千張A100或H100，而推理和微調(diào)大模型也至少需要儲存100張。

具體到每家的數(shù)量上，報告匯總了一些數(shù)據(jù)：GPT4在1萬到2.5萬塊A100上訓練，Meta有2.1萬塊A100，特斯拉有7000塊，Stability AI有5000塊，谷歌云大概有2.5萬塊H100，微軟Azure 有1萬到4萬塊，甲骨文可能也有同樣多的H100。值得一提的是，Azure的GPU基本都用來供應OpenAI的訓練了。

而根據(jù)馬斯克的說法，GPT5的訓練可能會用到3萬到5萬張H100，因此對未來的估計上，報告指出OpenAI可能需要5萬張H100，Meta至少需要2.5萬張（也有人說實際上需要10萬乃至更多），所有的云服務廠商，微軟、谷歌云和亞馬遜云以及甲骨文各需要3萬張，私有云服務商，比如剛剛融資的CoreWeave等總需求是10萬張，而像Claude的開發(fā)者Anthropic這樣的初創(chuàng)公司也都至少需要1萬張GPU。

另外，一些金融公司比如JP Morgan等也在部署A100或H100，因此總體上看，對H100的需求超過了43萬張。

這還是不算中國市場的情況，由于制裁原因，字節(jié)跳動、百度、騰訊和阿里巴巴只能大量購買A100和H100的替代產(chǎn)品A800與H800，這一部分的需求沒有列入其中，根據(jù)《金融時報》的說法，其總額高達50億美金。

如果將這些數(shù)字相加，這就是目前英偉達面對的，總計規(guī)模高達200億美元的GPU需求。


GPU 短缺阻礙ChatGPT進步速度

據(jù)《財富》雜志報道，OpenAI 公司 CEO 山姆奧特曼在一場非公開會議上透露，GPU 的嚴重短缺阻礙了 ChatGPT 的進步。

報道稱，奧特曼于 5 月會見了多位 App 開發(fā)者和初創(chuàng)公司的管理者。倫敦 AI 初創(chuàng)公司 Humanloop 的 CEO 拉扎哈比卜在一則推文中稱，奧特曼認為 OpenAI 缺少足夠的 GPU，這導致許多優(yōu)化 ChatGPT 的工作被迫推遲。

哈比卜的會議記錄顯示，客戶對 ChatGPT 最大的抱怨是 API 界面的速度和可靠性。奧特曼對此表示理解，并解釋稱主要原因是 GPU 嚴重不足。

會議記錄公開后不久，OpenAI 聯(lián)系了哈比卜，表示該活動不便公開發(fā)布。隨后哈比卜刪除了這則推文。據(jù)介紹，奧特曼抱怨了 GPU 短缺導致算力不足，OpenAI 無法擴大 ChatGPT 的對話框列表。這影響了 ChatGPT 在回答用戶問題時可以處理的信息量，限制了 ChatGPT 的“記憶力”，如過往提問記錄等。此外，ChatGPT 由于算力不足也無法完成更繁瑣的任務，例如寫出復雜的程序代碼等。

算力租賃正在興起

近期各AI廠商紛紛拿出大模型“秀肌肉”之時，多位觀察人士告訴財聯(lián)社記者，大數(shù)據(jù)、人工智能等領域的快速發(fā)展推動算力需求（特別是大模型和行業(yè)應用等方面）迅速增長。據(jù)了解，GPU需求旺盛并已陷入供應短缺。

“不像消費顯卡，很多商家會有庫存，它本來存貨就很少，整個供應鏈上的貨不超過三四千片，GPT熱度起來以后就被互聯(lián)網(wǎng)大廠全部鎖完了，今年3月后市場上基本沒有存貨了，部分大廠開始直接從國外渠道找一些貨回來，現(xiàn)在50%以上的訂單基本都是互聯(lián)網(wǎng)大廠下的。”張亞洲在接受財聯(lián)社記者采訪時表示。

張亞洲告訴記者，包括微軟、英特爾等海外大廠一邊自研、一邊也在對外采購，他們前期訂的一部分（GPU訂單），可能用于大規(guī)模訓練，對于推理還是不夠的?；旧蠌S商低于一個億的訂單，也許渠道商都不愿搭理，發(fā)郵件都不回。”GPU的火爆程度由此可見一斑。

而從價格層面看，多款GPU價格從3、4月至今漲幅接近50%。張亞洲稱，“4月份的時候（訂單）大概還能排到10月份，現(xiàn)在已經(jīng)到明年上半年了?！?/span>

鯨平臺專家、鑒片工場創(chuàng)始人張力卜告訴財聯(lián)社記者，“很多企業(yè)和個人都需要用到高性能的GPU來進行深度學習的訓練和應用，但自己購買服務器建設數(shù)據(jù)中心的成本又很高，所以選擇租賃云算力平臺是比較劃算和靈活的方式?！被谶@一邏輯，租用計算資源的算力租賃模式當前正在興起。


國內(nèi)GPU應用三大市場

GPU應用場景不斷擴大拉動GPU市場空間迅猛增長，根據(jù)VerifiedMarket Research預測，2027年中國GPU市場規(guī)模將會增長至345.57億美元。

GPU市場主要應用場景可概括為：AI&數(shù)據(jù)中心、智能汽車、游戲。

I&數(shù)據(jù)中心：新一輪AI對算力需求遠超以往：ChatGPT類語言大模型底層是2017年出現(xiàn)的Transformer架構，該架構相比傳統(tǒng)的CNN/RNN為基礎的AI模型，參數(shù)量達到數(shù)千億，對算力消耗巨大，對算力硬件有大量需求。隨著對商業(yè)數(shù)據(jù)和大數(shù)據(jù)處理要求算力的不斷提高，GPU的通用計算能力正在越來越廣泛地被應用與數(shù)據(jù)中心和國家超算中心的建設。

智能汽車：智能汽車方興未艾，自動駕駛和智慧座艙是智能汽車發(fā)展的主要方向，均需大量使用GPU。

游戲：游戲業(yè)務是GPU應用的傳統(tǒng)領域，對游戲畫面進行3D渲染，英偉達的游戲業(yè)務穩(wěn)中有進。

1、AI：數(shù)據(jù)中心和終端場景不斷落地對計算芯片提出更多更高需求

依據(jù)部署位置劃分，AI芯片可以細分為終端芯片和云端芯片，云端芯片市場空間越為終端芯片的2-3倍。

云端芯片：云端芯片應用于云端服務器，可以進一步細分為推理芯片和訓練芯片。根據(jù)甲子光年數(shù)據(jù)，2018年中國云端芯片市場約46.1億元，該機構預計2023年增長至384.6億元。

終端芯片：應用于嵌入式、移動終端、智能制造、智能家居等領域的AI芯片，終端芯片需要低功耗和更高的能效比，但是對算力的需求也相對較低，主要應用與AI推理。根據(jù)甲子光年數(shù)據(jù)，2018年中國終端芯片市場約15億元，該機構預計2023年增長至173億元。

AI芯片總市場232億元，其中云端芯片市場空間更大，預計終端芯片將隨著AI在多行業(yè)落地將進一步放量。甲子光年預測，中國AI芯片市場規(guī)模將從2021年232億元增長至2023年的500億元左右，對應中國云端芯片市場的復合增長率為52.8%；終端芯片市場規(guī)模相對較小，但由于人工智能在汽車、安防、智能家居等行業(yè)滲透，屆時市場規(guī)模增長率達到62.2%。


2、汽車智能化浪潮下汽車GPU市場前景廣闊


自動駕駛

汽車智能化浪潮下，自動駕駛和智能座艙是最具有發(fā)展前景的兩個方向，GPU應用于二者的域控制器，智能汽車主流的域控制器采用SoC與MCU結合的方案，SoC（片上系統(tǒng)）由GPU、CPU、AI引擎、DPU等組成。GPU在自動駕駛中的作用表現(xiàn)在圖形處理和并行計算，ADAS平臺可以利用GPU的并行計算能力實時分析來自激光雷達、雷達和紅外攝像頭的傳感器數(shù)據(jù)。

蓋世汽車預計到2025年中國自動駕駛域控制器出貨量達到432萬臺，自動駕駛域控制器與SoC之比在1:1到1:4之間，市場份額較高的SoC通常搭載一片GPU。


智能座艙

GPU虛擬化技術助力智能座艙一芯多屏化發(fā)展，智能座艙芯片主要為SoC（片上系統(tǒng)），SoC由GPU、CPU、AI引擎、DPU等組成。智能座艙向著一芯多屏的形態(tài)發(fā)展，這對芯片并行計算的要求不斷提高，GPU硬件虛擬化技術在智能座艙中有著無可替代的優(yōu)勢。在智能座艙屏幕、儀表盤、車載與各系統(tǒng)中均需要使用GPU。

蓋世汽車預計2025年中國智能座艙域控制器出貨量達到528萬臺，智能座艙一臺域控制器內(nèi)置一個SoC，位于汽車的中央顯示屏內(nèi)，一個SoC通常搭載一片GPU。


3、游戲玩家人數(shù)持續(xù)增長，游戲GPU市場規(guī)模穩(wěn)中有升

游戲市場是傳統(tǒng)意義上GPU最關鍵的市場，隨著千禧一代游戲需求的進一步提升，全球游戲玩家數(shù)量穩(wěn)增，相應地擴展了游戲GPU市場規(guī)模。NewzooExpert預計2020-2025年全球游戲玩家人數(shù)復合年增率為4.2%。

游戲GPU的主要分類：根據(jù)現(xiàn)行市場上的主要產(chǎn)品可劃分為四類：1）游戲機、2）PC端主機游戲、3）控制臺、4）VR&AR。根據(jù)JonPeddie Research統(tǒng)計，2021年Q4全球PCGPU出貨量（包括集成和獨立顯卡）高達11000萬片。受到俄烏沖突、天然氣供應等沖擊性全球事件影響，2022年Q1、Q2，全球PCGPU出貨量略有下降。

由于PC正常運行必須要求硬件上同時具備CPU和GPU，因此每臺PC至少需要一張集成顯卡或獨立顯卡，此外，根據(jù)需求可再增購獨立顯卡。根據(jù)JPR統(tǒng)計，全球GPU與PC配售比在2022Q1達到了129%。