撰文 | 田小夢
編輯 | 李信馬
題圖 | IC Photo
得益于AI算力的需求，HBM成為香餑餑。
近日據(jù)韓國 Chosun Biz報道，NVIDIA已經(jīng)向SK海力士、美光，交付了700億至1萬億韓元的預(yù)付款。雖然預(yù)付款未作具體說明，但業(yè)界普遍認(rèn)為是NVIDIA為保證今年要上市的GPU產(chǎn)品相應(yīng)所需HBM3E的物量供應(yīng)。
同樣在需求激增的市場環(huán)境下，存儲三大巨頭也在爭相推進(jìn)HBM生產(chǎn)。近期，三星、SK海力士正計劃將HBM產(chǎn)量提高至2.5倍，美光則將在今年推出8層堆疊的AI專用HBM3E內(nèi)存。對于HBM4，這三家企業(yè)也是當(dāng)仁不讓，相繼確認(rèn)開發(fā)和正式推出的時間。
TrendForce預(yù)估，2024年全球HBM的位元供給有望增長105%；HBM市場規(guī)模也有望于2024年達(dá)89億美元，同比增長127%；預(yù)計至2026年市場規(guī)模將達(dá)127.4億美元，對應(yīng)CAGR約37%。
一、是誰在推動HBM市場？
HBM（High Bandwidth Memory，高頻寬存儲器）是一種基于3D堆棧工藝的高性能DRAM，通俗來講，就是先將很多DDR芯片堆疊在一起后，再與GPU封裝在一塊。正是基于Interposer中介層互聯(lián)實(shí)現(xiàn)了近存計算，以及TSV工藝的堆疊技術(shù)，讓HBM打破了內(nèi)存帶寬及功耗瓶頸，成為AI訓(xùn)練硬件的首選。
其實(shí)HBM應(yīng)用已有幾年的時間，自2014年首款硅通孔HBM產(chǎn)品問世至今，HBM技術(shù)已經(jīng)發(fā)展到第五代，其中HBM3E是HBM3的擴(kuò)展版本，依次類推，HBM4將是第6代產(chǎn)品。從HBM內(nèi)存的演變來看，最新的HBM3帶寬、堆疊高度、容量、I/O速率等較初代均有多倍提升。
圖源：Rambus
這也恰恰是AI算力所需要的。
根據(jù)OpenAI的數(shù)據(jù)，自2012年以來，最大規(guī)模的AI訓(xùn)練所使用的計算量以每年10倍的速度增長。OpenAI的ChatGPT充分體現(xiàn)了AI訓(xùn)練數(shù)據(jù)集的增長。2022年11月發(fā)布的GPT-3，使用1750億個參數(shù)構(gòu)建，去年3月發(fā)布的GPT-4使用超過1.5萬億個參數(shù)。
面對這波AI浪潮， NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛曾表示：“大語言模型初創(chuàng)公司、消費(fèi)互聯(lián)網(wǎng)公司和全球云服務(wù)提供商都已率先行動起來，下一波浪潮蓄勢待發(fā)。”當(dāng)然，算力作為人工智能中關(guān)鍵一環(huán)，人工智能芯片供應(yīng)商扮演著重要角色。
NVIDIA2023年的高端AI陣容使用HBM，包括A100/A800和H100/H800等型號。此外，NVIDIA還再進(jìn)一步完善其產(chǎn)品組合，發(fā)布了配備HBM3E內(nèi)存的H200 GPU以及GH200超級芯片，相關(guān)系統(tǒng)預(yù)計將于今年第二季度上市。據(jù)了解，以GH200超級芯片為例，HBM3E內(nèi)存比當(dāng)前HBM3快50%，可提供總計10TB/s的帶寬，這使得NVIDIA GH200 Grace Hopper平臺能夠運(yùn)行比上一版本大3.5倍的模型，同時憑借快3倍的內(nèi)存帶寬提升性能。
與NVIDIA“神仙打架”的AMD，在去年12月“Advancing AI”活動上，正式發(fā)布了AI旗艦GPU加速器AMD Instinct MI300X，更是宣稱性能比英偉達(dá)的H100高出60%。據(jù)了解，MI300X采用HBM3內(nèi)存，容量最高192GB，比前代MI250X（128 GB）高50%。該內(nèi)存將提供高達(dá)5.3TB/s的帶寬和896 GB/s的Infinity Fabric帶寬。
同樣想分AI一杯羹的，還有英特爾。據(jù)外媒報道，英特爾計劃2024年發(fā)布Gaudi 3，配備最高128GB的HBM3E RAM，大幅提升AI學(xué)習(xí)和訓(xùn)練性能。
誰能成為NVIDIA的替代者，還需要市場的反饋。
毋庸置疑的是，這場AI競爭需要極高的算力需求，但因產(chǎn)能受限，供不應(yīng)求成為現(xiàn)狀，進(jìn)而使HBM價格高增，HBM市場規(guī)模高速增長。
圖源：方正證券
方正證券報告指出，從成本端來看，HBM平均售價至少是DRAM三倍；而此前受ChatGPT的拉動同時受限產(chǎn)能不足，HBM價格一路上漲，與性能最高的DRAM相比，HBM3的價格上漲了五倍。
二、HBM市場三分天下
在NVIDIA、AMD、英特爾三家互搏的同時，存儲廠商也沒有閑著，生產(chǎn)/擴(kuò)產(chǎn)成主旋律。
從2013年宣布成功研發(fā)HBM1，到2019年開發(fā)出世界最快的高帶寬存儲器HBM2E，再到2021年10月開發(fā)出全球首款HBM3 DRAM，再到去年開發(fā)出全球最高規(guī)格HBM3E，SK海力士一直是HBM行業(yè)的領(lǐng)軍企業(yè)。
值得關(guān)注的是，SK海力士2023年第一季度由盈轉(zhuǎn)虧的DRAM僅在兩個季度后扭虧為盈。
SK海力士解釋道：“因高性能半導(dǎo)體存儲器產(chǎn)品為中心的市場需求增加，公司業(yè)績在第一季度低點(diǎn)過后持續(xù)改善，特別是面向AI的代表性存儲器HBM3、高容量DDR5 DRAM和高性能移動DRAM等主力產(chǎn)品的銷售勢頭良好，與上季度相比營業(yè)收入增長24%，營業(yè)損失減少38%?！盨K海力士表示，將以第四代10納米級(1a)和第五代10納米級(1b)DRAM為中心的生產(chǎn)線轉(zhuǎn)換，同時擴(kuò)大對HBM TSV1技術(shù)的投資。
圖源：SK海力士財報
據(jù)悉，SK海力士已決定在2024年預(yù)留約10萬億韓元（約合76億美元）的設(shè)施資本支出聚焦于為高附加值DRAM芯片擴(kuò)建設(shè)施，包括HBM3、DDR5及LPDDR5，以及升級HBM的TSV先進(jìn)封裝技術(shù)兩方面。SK海力士首席執(zhí)行官Jeong-ho Park透露，預(yù)計到2030年公司HBM出貨量將達(dá)到每年1億顆。
此外，SK海力士在公司年度高層改組中，新成立的AI基礎(chǔ)設(shè)施部門將整合分散在公司內(nèi)部的高帶寬內(nèi)存（HBM）能力。該部門還將主導(dǎo)新一代HBM芯片等人工智能技術(shù)的發(fā)展，尋找并開發(fā)新市場。不難看出，SK海力士對HBM的高期望。
以TrendForce報告統(tǒng)計數(shù)據(jù)為參考，2022年SK海力士占據(jù)了HBM全球市場規(guī)模的50%，三星緊隨其后，占比為40%。
二者皆得益于存儲市場回暖的影響，從三星電子去年第三季度財報數(shù)據(jù)來看，出現(xiàn)了復(fù)蘇的跡象。數(shù)據(jù)顯示，三星電子第三季度存儲業(yè)務(wù)環(huán)比增長17%至10.53萬億韓元，存儲業(yè)務(wù)所在的DS部門經(jīng)營虧損3.75萬億韓元，但較上季度經(jīng)營虧損4.36萬億韓元有所減少。
圖源：三星財報
面向未來存儲市場增長的預(yù)期，三星電子收購了三星顯示（Samsung Display）天安廠區(qū)內(nèi)部分建筑及設(shè)備，用于HBM生產(chǎn)。三星電子計劃在天安廠建立一條新封裝線，用于大規(guī)模生產(chǎn)HBM，預(yù)計投資7000億-1萬億韓元。同時，三星正在投入8層、12層HBM3量產(chǎn)，并開始供應(yīng)8層HBM3E樣品。
據(jù)悉，之前英偉達(dá)的HBM一直由SK海力士獨(dú)家供應(yīng)，由于需求極為龐大，三星據(jù)稱也已通過質(zhì)量評估，即將加入供應(yīng)商隊列。也有消息稱，三星電子計劃從今年1月開始向英偉達(dá)供應(yīng)HBM3。
對2023年HBM市場份額，TrendForce預(yù)測，SK海力士和三星的HBM份額占比約為46-49%。這一數(shù)據(jù)也凸顯出，SK海力士和三星的勢均力敵。
如果說三分HBM市場的“天下”，最后一家企業(yè)則是美光(Micron)。美光雖然2022年市場份額僅為10%，但也不甘于落后。美光科技臺中四廠正專攻HBM生產(chǎn)，計劃將于今年量產(chǎn)第五代HBM3E產(chǎn)品。
就供應(yīng)鏈而言，業(yè)界預(yù)測，這三家公司將為英偉達(dá)即將推出的H200和B100所需的HBM3E供應(yīng)展開激烈競爭。
小結(jié)
智能語音、ChatGPT、智能駕駛等智能化應(yīng)用逐漸滲透到我們的生活中，帶來了巨大的存儲芯片需求。去年下半年存儲芯片市場價格的反彈信號，讓行業(yè)人士看到“曙光”。
從存儲產(chǎn)業(yè)鏈看，SK海力士、三星等大廠采用IDM模式，一手包辦了芯片的設(shè)計、制造和封測。而國內(nèi)市場，存儲產(chǎn)業(yè)鏈還是比較邊緣，主要處于HBM上游設(shè)備和材料供應(yīng)環(huán)節(jié)。但國內(nèi)相關(guān)HBM概念股也有所受益。有消息稱，相關(guān)廠商也在積極布局高端存儲產(chǎn)品，以求適應(yīng)市場需求和技術(shù)演進(jìn)。
