HBM，新混战！

對於韓國半導體行業來說，去年有一個好消息和一個壞消息。

壞消息是內存和存儲行業進入到了下行周期之中，庫存飆升，價格狂跌，韓國半導體廠商也因此蒙受了一次巨大的損失，近幾個季度的財報裏出現了虧損。

而好消息呢，就是在下行周期中，由於英偉達的AI加速卡帶動，HBM異軍突起，成爲了唯一能逆市大幅增長的內存產品，而且韓國廠商佔據了90%的份額，一定程度上彌補了傳統內存業務的損失。

爲了支持HBM的發展，韓國政府最近還將HBM確定爲了國家战略技術，將爲HBM供應商如三星電子和SK海力士等提供稅收優惠，該決定屬於韓國稅法修正案執法法令草案的一部分，相比一般研發活動，國家战略技術可享有更高的稅收減免：中小型企業可獲得最高40%至50%減免，而大型企業可獲得30%至40%減免。

2024年的HBM依舊火熱，英偉達的H100與200依舊是市面上最搶手的GPU，其對於HBM的需求自然也是水漲船高，對於三星和SK海力士來說，政策支持加上市場發展，繼續擴產HBM似乎已經是板上釘釘之事了。

擴產，再擴產

首先是HBM的領頭羊——SK海力士。

SK海力士去年第三季度的業績是所有內存廠商裏最亮眼的，而在1月25日，SK海力士也發布了最新的2023年第四季度及2023年全年財報：

第四季營收同比增長47%至11.3055萬億韓元，高於分析師預期的10.4萬億韓元；毛利潤爲2.23億韓元，同比大增9404%，毛利潤率爲20%，爲連續第三個季度回升；營業利潤爲3460億韓元（約合人民幣18.54億元），好於分析師預期的虧損1699.1億韓元，營業利潤率爲3%；淨虧損爲1.3795萬億韓元（約合人民幣73.94億元），優於分析師預期的虧損0.41萬億韓元，但較前一季度虧損大幅縮窄，淨虧損率爲12%。EBITDA（稅息折舊及攤銷前利潤）爲3.58億韓元，同比增長99%。

SK海力士在財報中指出，這一業績的實現主要歸功於SK海力士在第四季度AI存儲芯片HBM3和大容量移動DRAM等旗艦產品的銷售額大幅增長，分別比上年同期增長了4倍和5倍以上，AI服務器和移動應用程序的需求上升，改善了2023年最後一個季度的整體內存市場狀況。

HBM作爲財報裏最亮眼的一筆，SK海力士也在財報中表示，計劃在2024年增加資本支出，並將生產重心放在HBM等高端存儲產品上，HBM的產能對比去年將增加一倍以上，此前海力士曾預計，到2030年其HBM出貨量將達到每年1億顆，並決定在2024年預留約10萬億韓元（約合76億美元）的設施資本支出——相較2023年6萬億-7萬億韓元的預計設施投資，增幅高達43%-67%。

擴產的重點是新建和擴建工廠，去年6月有韓媒報道稱，SK海力士正在准備投資後段工藝設備，將擴建封裝HBM3的利川工廠，預計到今年年末，該廠後段工藝設備規模將增加近一倍。

此外，SK海力士還將在美國印第安納州建造一座最先進的制造工廠，據兩位接受英國《金融時報》採訪的消息人士透露，這家韓國芯片制造商將在這家工廠生產 HBM 堆棧，這些堆棧將用於台積電生產的 Nvidia GPU，SK 集團集團董事長表示，該工廠預計耗資 220 億美元。

對比之下，三星在HBM上就顯得有些被動了，三星電子從去年第四季度开始擴大第四代HBM即HBM3的供應，目前正進入一個過渡期。

1月31日，在第四季度及年度財報電話會議上，三星電子表示預計存儲器業務將在今年第一季度恢復正常，三星電子內存業務部門副總裁 Kim Jae-joon 表示：“我們計劃積極應對與生成式 AI 相關的 HBM 服務器和 SSD 需求，重點關注提高盈利能力，預計內存業務將在今年第一季度恢復盈利。”

內存業務恢復盈利的關鍵在於HBM、服務器內存等高價值產品。值得注意的是，三星去年第四季度HBM銷售額同比增長3.5倍，三星電子計劃集中其整個半導體部門（包括代工廠和系統 LSI 業務部門）的能力，提供定制 HBM 以滿足客戶需求。

三星的代表評論道：“HBM 位銷售額每個季度都在打破記錄。去年第四季度，銷售額環比增長超過40%，同比增長超過3.5倍。特別是在第四季度，我們鎖定了主要 GPU 制造商作爲我們的客戶。” 該代表進一步預測，“我們已經向客戶提供了下一代HBM3E的8層堆疊樣品，並計劃在今年上半年开始量產。到下半年，其佔比預計將達到90%左右。”

負責三星美國半導體業務的執行副總裁 Han Jin-man 則在今年1月表示，公司對包括 HBM 系列在內的大容量存儲芯片寄予厚望，希望它能引領快速增長的人工智能芯片領域，“我們今年的 HBM 芯片產量將是去年的 2.5 倍，”他在CES 2024的媒體見面會上對記者說，“我們今年的 HBM 芯片產量將比去年提高 2.5 倍，明年還將繼續提高 2 倍。”

三星官方還透露，公司計劃在今年第四季度之前，將 HBM 的最高產量提高到每月 15 萬至 17 萬件，以此來爭奪2024年的HBM市場。此前三星電子斥資105億韓元收購了三星顯示位於韓國天安市的工廠和設備，以擴大HBM產能，同時還計劃投資7000億至1萬億韓元新建封裝线。

HBM4爭奪战

除了擴產外，它們也在爲了下一代HBM標准而勾心鬥角。

HBM3e在去年年底就提供了樣品，預計將於今年第一季度完成驗證和量產，而大家更爲關注的顯然是HBM4，其堆棧會從現有的12層增加到16層，可能會採用 2048 位內存堆棧連接接口，但目前HBM4標准沒有最終確定，兩家韓國廠商對此提出了各自不同的路线。

據 Business Korea 報道，SK海力士正准備爲下一代 HBM 技術採用 "2.5D 扇出 "封裝。此舉旨在提高性能，降低封裝成本。這種技術以前未在內存行業使用，但在先進的半導體制造行業很常見，被認爲有可能 "徹底改變半導體和代工行業"，SK 海力士計劃最早於明年公布使用這種封裝方法的研究成果。

具體來說，2.5D 扇出封裝技術是將兩個DRAM水平排列，並將它們組裝成類似於普通芯片的結構，由於芯片下方沒有基板，因此芯片更薄，安裝在 IT 設備中時厚度大大降低，同時，這種技術繞過了硅通孔（TSV）工藝，提供了更多的輸入/輸出（I/O）選擇，降低了成本。

目前的HBM堆棧被放置在GPU旁邊，並與芯片相連，而 SK海力士的新目標是完全消除中間層，將 HBM4 直接放在 Nvidia 和 AMD 等公司的 GPU 上，並首選台積電作爲代工廠。

根計劃，SK 海力士最早於 2026 年量產第六代 HBM（HBM4），此外，海力士還在積極研究 "混合鍵合 "技術，該技術很可能應用於 HBM4 產品。

三星則是反海力士之道而行，研究起了光子技術在 HBM 技術中間層的應用，目的是解決與熱量和晶體管密度相關的挑战。

三星先進封裝團隊首席工程師在 2023 年 10 月舉行的 OCP 全球峰會上分享了他的見解。他表示，目前業界通過兩種主要方法在將光子技術與 HBM 集成方面取得了重大進展，第一種是在底層封裝層與包含 GPU 和 HBM 的頂層封裝層之間放置光子中間件，作爲通信層，但這種方法成本高昂，需要爲邏輯芯片和 HBM 安裝中間層和光子 I/O。

而第二種方法是將 HBM 內存模塊從封裝中分離出來，利用光子技術將其直接連接到處理器。與處理復雜的封裝問題相比，更有效的方法是將 HBM 存儲模塊與芯片本身分離，並使用光子技術將其連接到邏輯集成電路。這種方法不僅簡化了 HBM 和邏輯集成電路的制造和封裝成本，而且無需在電路中進行內部數字到光學轉換，只是需要注意散熱問題。

三星的一位高管博客文章內表示，公司目標是在2025年推出第六代HBM（HBM4），其中包括了針對高溫熱特性優化的非導電粘合膜（NCF）組裝技術和混合鍵合（HCB）技術，以贏得快速增長的人工智能芯片領域迫切激烈战爭的主導權。

可以看到，兩家韓廠在下一代HBM標准上已經展开了一場激烈的爭奪战。

美光，偷襲？

與上述兩家韓廠相比，美光處於一個明顯的弱勢地位，美光預計 2023 年其HBM市場份額約爲 5%，位居第三。

爲了縮小差距，美光對其下一代產品 HBM3E 下了很大的賭注，美光首席執行官 Sanjay Mehrotra 表示：“我們正處於爲 Nvidia 下一代 AI 加速器提供 HBM3E 的驗證的最後階段。”其計劃於 2024 年初开始大批量發貨 HBM3E 內存，同時強調其新產品受到了整個行業的極大興趣，這暗示 NVIDIA 可能不是唯一最終使用美光 HBM3E 的客戶。

具體規格方面，美光的 24 GB HBM3E 模塊基於八個堆疊 24Gbit 內存芯片，採用該公司的 1β (1-beta) 制造工藝制造，其數據速率高達 9.2 GT/秒，每個堆棧的峰值帶寬達到 1.2 TB/s，比現有最快的 HBM3 模塊提高了 44%。

而在未來的布局方面，美光披露了暫名爲HBM next的下一代 HBM 內存，其預計HBM Next 將提供 36 GB 和 64 GB 容量，能提供多種配置，例如 12-Hi 24 Gb 堆棧 (36 GB) 或 16-Hi 32 Gb 堆棧 (64 GB) ，此外每個堆棧的帶寬爲 1.5 TB/s – 2+ TB/s，意味着總數據傳輸速率超過 11.5 GT/s/pin。

與三星和 SK海力士不同，美光並不打算把 HBM 和邏輯芯片整合到一個芯片中，在下一代HBM發展上，韓系和美系內存廠商涇渭分明，美光可能會告訴AMD、英特爾和英偉達，大家可以通過 HBM-GPU 這樣的組合芯片獲得更快的內存訪問速度，但是單獨依賴某一家的芯片就意味着更大風險。

美國媒體表示，隨着機器學習訓練模型的增大和訓練時間的延長，通過加快內存訪問速度和提高每個 GPU 內存容量來縮短運行時間的壓力也將隨之增加，而爲了獲得鎖定的 HBM-GPU 組合芯片設計（盡管具有更好的速度和容量）而放棄標准化 DRAM 的競爭供應優勢，可能不是正確的前進方式。

在HBM 4這一尚未確定的標准上，美光似乎想來一場“偷襲”。