據(jù)韓國媒體BusinessKorea近日報道，在人工智能芯片對于高帶寬內(nèi)存HBM需求的推動下，自2023年以來，第三代的HBM3的報價已經(jīng)上漲超過5倍。這對于英偉達等AI芯片大廠來說，所需的關鍵HBM價格大漲，勢必會影響其AI芯片的成本。

在此背景下，市場傳聞稱，英偉達似乎故意煽動三星電子、SK海力士彼此競爭，以便勢壓低HBM的價格。

4月25日，SK集團董事長崔泰源（Chey Tae-won）匆匆前往硅谷與英偉達CEO黃仁勛（Jensen Huang）會面，似乎跟這些策略有關。

雖然過去一個多月來，英偉達一直在測試三星領先業(yè)界開發(fā)出的12層堆疊的HBM3E，卻遲未下單采購。市場解讀，這是一種策略，目標是激勵三星與SK海力士進行價格競爭。

在最新的一季度財報會議上，三星表示，將繼續(xù)增加HBM供應，以滿足對生成人工智能不斷增長的需求。本月，三星已經(jīng)開始量產(chǎn)8層堆疊的HBM3E ，并計劃在第二季度量產(chǎn)12層堆疊的HBM3E產(chǎn)品。

SK海力士社長郭魯正（Kwak Noh-Jung）也在一季度財報會議上表示，2025年的AI芯片組用的HBM幾乎全數(shù)售罄，2024年的供應也已全部訂光。他說，12層堆疊的HBM3E將在今年5月送樣，預計第三季開始量產(chǎn)。SK海力士正在與一些客戶就HBM的長期合同進行談判。


AI芯片制造成本也在不斷上升

近年來,隨著人工智能技術的快速發(fā)展,對HBM內(nèi)存芯片的需求不斷攀升。HBM作為高性能計算領域不可或缺的關鍵部件,其價格在過去一年內(nèi)已經(jīng)上漲了5倍以上。

這一漲價趨勢的根源,主要在于HBM芯片的供給不足難以滿足日益增長的市場需求。目前,全球HBM芯片市場被三星和SK海力士兩家韓企所壟斷,他們掌握著超過90%的市場份額。

在產(chǎn)能有限的情況下,兩家韓企不得不順應市場行情,不斷提高HBM芯片的售價。這就給下游需求方,尤其是英偉達等關鍵客戶,帶來了極大的成本壓力。

金融服務公司 Raymond James 分析師曾預估過 B200 的成本。

英偉達每制造一顆 H100 的成本約為 3320 美元，售價為 2.5-3 萬美元之間，根據(jù)兩者的性能差異推算 B200 成本將比 H100 高出 50%~60%，大概是 6000 美元。

黃仁勛在發(fā)布會后接受 CNBC 專訪時透露，Blackwell GPU 的售價約為 3 萬~ 4 萬美元，整個新架構的研發(fā)大約花了 100 億美元。

我們必須發(fā)明一些新技術才能使其（新架構）成為可能。

按照以往的節(jié)奏，英偉達大約每兩年就會發(fā)布新一代 AI 芯片，最新的 Blackwell 相較于前幾代產(chǎn)品在算力性能和能耗控制上有了顯著的提升，更直觀的是， 結合了兩顆 GPU 的 Blackwell 比 Hooper 大了將近一倍。

高昂的成本不僅與芯片有關，還與設計數(shù)據(jù)中心和集成到其他公司的數(shù)據(jù)中心緊密相連，因為在黃仁勛看來，英偉達并不制造芯片，而是在建數(shù)據(jù)中心。

根據(jù)英偉達最新的財報顯示，第四財季營收達到創(chuàng)紀錄的 221 億美元，同比增長 265%。四季度凈利潤 123 億美元，同比暴增 765%。這當中最大的營收來源數(shù)據(jù)中心部門，達到創(chuàng)紀錄的 184 億美元，較第三季度增長 27%，較上年同期增長 409%。

研發(fā)成本很高，但以此搏來的正向回報更高。

英偉達目前正在構建的數(shù)據(jù)中心，包含全棧系統(tǒng)和所有軟件，是一套完整的體系，Blackwell 或者說 GPU，只是這當中的一環(huán)。

數(shù)據(jù)中心被分解成多個模塊，用戶能夠根據(jù)自身需求自由選擇相應的軟硬件服務，英偉達會根據(jù)不同的要求對網(wǎng)絡、存儲、控制平臺、安全性、管理進行調(diào)整，并有專門團隊來提供技術支持。

如此的全局視野和定制化服務到底好不好，數(shù)據(jù)可以說明一切：截至 3 月 5 日，英偉達的市值繼超越 Alphabet、亞馬遜等巨頭后，又超過沙特阿美，成為全球第三大公司，僅次于微軟和蘋果兩大科技巨頭，總市值達到 2.4 萬億美元。

目前，全球數(shù)據(jù)中心大約有 2000 億歐元（約合人民幣 7873 億）的市場，英偉達正是這當中的一部分，黃仁勛預測這個市場在未來極有可能增長到 1-2 萬億美元。


英偉達的"價格戰(zhàn)"策略

面對HBM芯片價格的飆升,英偉達顯然很難接受。作為全球最大的GPU芯片供應商,英偉達需要大量使用HBM內(nèi)存來支撐其高性能計算產(chǎn)品。如果HBM芯片價格持續(xù)大漲,必將嚴重影響其產(chǎn)品的成本競爭力。

因此,英偉達開始采取了一些"價格戰(zhàn)"策略。一方面,他們一直在密切關注并測試三星的最新HBM3E芯片;另一方面,又主動去接觸SK海力士的高管,似乎想要通過"挑撥離間"的方式,引發(fā)韓企之間的內(nèi)部競爭。

這種做法,無疑是想要利用三星和SK海力士之間的矛盾,讓他們在價格上展開惡性競爭,從而達到降低HBM芯片采購成本的目的。

降模型成本

2024年非常關鍵的事

今年以來，算力已經(jīng)被公認為是大模型競爭的「軍火庫」。這不僅讓英偉達的市值超過英特爾，也讓其財報中的GPU收入超過了手機芯片之王高通。

但算力的另一面是GPU供應緊張、價格昂貴。成本壓力是會層層傳導的。

比如AWS首席執(zhí)行官Adam Selipsky前不久在談到整個行業(yè)時曾直言：「我接觸過的很多客戶都對運行其中一些模型的成本感到不滿?！?/span>

在這個問題上，中美企業(yè)所面臨的挑戰(zhàn)并無不同。在同《降噪NoNoise》交流時，侯震宇提到他的一個判斷——預計2024年整體算力資源供應的不確定性或者說緊張程度仍然比較大，所以云計算廠商面臨的共性問題是如何更高效地使用算力資源。

其實不僅是算力資源昂貴，目前人力資源、數(shù)據(jù)資源（如數(shù)據(jù)標注），本身成本也很高?！复_保大家用足夠少的錢能訓練出來想要的模型，以及用一個客戶可接受的成本使其真的把AI大模型用起來，這些會是2024年非常關鍵的事?！?/span>

目前，國內(nèi)云計算廠商的思路大多是在保證同等效果前提下，通過推理優(yōu)化、模型訓練工具鏈優(yōu)化等，以縮短算力使用時間。

以百度智能云為例，其主要通過基礎設施層的異構計算平臺「百舸」、大模型平臺層的「千帆」互相打配合，以實現(xiàn)算力性價比。

追求算力性價比的方向無非兩個：一是提高GPU利用率，縮短使用時間。比如在大模型訓練環(huán)節(jié)，百度通過分布式并行訓練策略和微秒級互聯(lián)，讓萬卡規(guī)模集群訓練的加速比達到95%、萬卡集群有效訓練時間占比達到98%。

「百舸」升級到3.0版本后，訓練和推理場景的吞吐量據(jù)稱可提高30%-60%，這些意味著原來要用100天的訓練，現(xiàn)在可能只用70天，節(jié)約時間等于間接省錢。

二是適配成本更低的AI芯片，除英偉達外，千帆平臺還兼容昆侖芯、昇騰、海光DCU、英特爾等國內(nèi)外主流AI芯片。畢竟不是所有訓練都需要動用H800這種頂格待遇。

通過組合選項，理論上客戶可以用最小的切換成本完成算力適配。這種屬于直接省錢。

不過再怎么省錢，前提還是要保證AI模型的效果。若達不到客戶的預期效果，云服務商對算力資源「算計」再多，也是沒有意義的。