HBM 4爭奪战，即將打響
高帶寬內存（High-bandwidth memory：HBM）已經存在了大約十年，在其不斷發展的過程中，它的速度穩步提高，數據傳輸速率從 1 GT/s（最初的 HBM）开始，達到 9 GT/s 以上（即將推出的 HBM3E）。這使得帶寬在不到 10 年的時間內實現了令人印象深刻的躍升，使 HBM 成爲此後投放市場的全新 HPC 加速器類別的重要基石。
但隨着內存傳輸速率的提高，尤其是在 DRAM 單元的基礎物理原理沒有改變的情況下，這一速度也越來越難以維持。因此，對於 HBM4，該規範背後的主要內存制造商正計劃對高帶寬內存技術進行更實質性的改變，從更寬的 2048 位內存接口开始。
HBM 4，迎來革命性改變
HBM 的當前 1024 位內存接口被設計爲寬但慢的內存技術，具有以相對適中的時鐘速度運行的超寬接口，已成爲該技術的一個決定性特徵。與此同時，爲了不斷提高內存帶寬，其適度的時鐘速度變得越來越不那么適度。到目前爲止，這種方法一直有效，但隨着時鐘速度的提高，高度並行內存面臨着與 GDDR 和其他高度串行內存技術相同的信號完整性和能效問題的風險。
因此，對於下一代技術，組織者正在考慮再次加寬，將 HBM內存接口的寬度進一步擴展至 2048 位。而且，出於多種技術原因，他們打算在不增加 HBM 內存堆棧佔用空間的情況下實現這一目標，從而實質上使下一代 HBM 內存的互連密度加倍。最終結果將是一種具有比當今 HBM 更寬的內存總线的內存技術，爲內存和設備供應商提供了進一步提高帶寬而無需進一步提高時鐘速度的空間。
按照計劃，這將使 HBM4 在多個層面上實現重大技術飛躍。
例如在 DRAM 堆棧方面，2048 位內存接口將需要顯著增加穿過內存堆棧的硅通孔數量。同時，外部芯片接口需要將凸塊間距縮小到遠低於 55 微米，同時顯著增加微凸塊總數（HBM3 目前的（大約）3982 個凸塊數量）。
內存制造商表示，他們還將在一個模塊中堆疊多達 16 個內存芯片，這爲該技術增加了一些額外的復雜性。所謂的 16-Hi 堆疊。（HBM3 技術上也支持16-Hi 堆棧，但到目前爲止還沒有制造商實際使用它）這將使內存供應商能夠顯著增加其 HBM 堆棧的容量，但它在連接更多數量的 DRAM 時帶來了新的復雜性沒有錯誤地死亡，然後保持生成的 HBM 堆棧適當且一致地短。
所有這一切反過來都需要芯片制造商、內存制造商和芯片封裝公司之間更加密切的合作，以使一切順利進行。
台積電設計基礎設施管理主管 Dan Kochpatcharin 在阿姆斯特丹舉行的台積電 OIP 2023 會議上發表講話時表示：“因爲他們沒有將速度加倍，而是使用 HBM4 將[接口]引腳加倍。這就是爲什么我們正在推動確保我們與所有三個合作夥伴合作，[使用我們先進的封裝方法]驗證他們的 HBM4，並確保 RDL 或中介層或兩者之間的任何內容都可以支持 [HBM4] 的布局和速度。因此，我們與三星、SK海力士和美光攜手合作。”
由於系統級封裝 (SiP) 設計變得越來越大，並且先進芯片封裝支持的 HBM 堆棧數量不斷增加（例如 6 倍掩模版尺寸中介層和封裝上具有 12 個 HBM 堆棧的芯片），因此芯片封裝變得越來越復雜。爲了確保一切繼續協同工作，台積電正在推動芯片和內存設計人員採用設計技術協同優化（DTCO）。這也是全球最大的代工廠最近組織 3DFabric 內存聯盟的一個重要原因，該計劃旨在促進 DRAM 制造商和台積電之間的密切合作，以實現下一代解決方案，該解決方案將封裝大量邏輯晶體管和先進存儲。
除此之外，台積電的 3DFabric 內存聯盟目前正在致力於確保 HBM3E/HBM3 Gen2 內存與 CoWoS 封裝配合使用、12-Hi HBM3/HBM3E 封裝與高級封裝、用於 HBM PHY 的 UCIe 以及無緩衝區 HBM（一種技術）兼容。由三星牽頭）。
總體而言，台積電上周的評論讓我們對下一代高帶寬內存有了最好的了解。盡管如此，有關 HBM4 的其他技術細節目前仍然相當缺乏。美光科技今年早些時候表示 ，“HBMNext”內存將於 2026 年左右上市，每個堆棧的容量將在 36 GB 至 64 GB 之間，每個堆棧的峰值帶寬將達到 2 TB/s 或更高。所有這些都表明，即使轉向更寬的內存總线，內存制造商也不會放棄 HBM4 的內存接口時鐘速度。
HBM 4爭奪战，即將打響
正如上文所說，HBM市場主要由三星、SK海力士和美光三家機構把持。按照市場追蹤機構TrendForce的數據顯示，截至2022年，該公司在全球HBM市場中佔領了50%的份額，三星電子緊隨其後，佔40 %，其次是美光科技公司佔10%。
現在，他們也正在HBM 4上火力全开，明爭暗鬥。
近日全球頂級存儲芯片制造商三星電子公司的一位高管在一篇博客文章內表示，公司目標是在2025年推出第六代頂級性能高帶寬內存4（HBM4）DRAM芯片，以贏得快速增長的人工智能芯片領域迫切激烈战爭的主導權。
該高管表示，2016年，三星將業界首款用於高性能計算（HPC）的高帶寬內存（HBM）商業化，並尋求擴大AI內存市場的機會。一年後，即 2017 年，三星推出了 8 層堆疊 HBM2。與當時最快的 GDDR5 內存相比，HBM2 的速度提高了八倍。通過 HBM2，三星成功展示了 3D 堆疊技術的可行性，該技術將繼續成爲新 HPC/AI 領域的重要組成部分。隨後，三星量產了 HBM2E 和 HBM3，並开發了 9.8 Gbps HBM3E，我們很快就會开始向客戶提供樣品，以豐富 HPC/AI 生態系統。
展望未來，HBM4 預計將於 2025 年推出，其技術針對正在开發的高熱性能進行了優化，例如非導電薄膜 (NCF：non-conductive film) 組裝和混合銅接合 (HCB：hybrid copper bonding ）。
值得一提的是，因爲三星於 2023 年初成立了 AVP（高級封裝）業務團隊，以加強先進封裝技術並最大限度地發揮各業務部門之間的協同效應。除了 HBM 之外，三星還將提供先進的定制交鑰匙封裝服務，包括 2.5D 和 3D 先進封裝解決方案，非常適合 HPC 和 AI 時代。
來到SK Hynix 方面，據官方資料介紹，2014年，SK海力士與AMD聯合开發了全球首款硅通孔（TSV, Through Silicon Via）HBM產品。兩家公司還聯合开發了高帶寬三維堆疊存儲器技術和相關產品。SK海力士還是首家开始批量生產HBM2E的存儲器供應商，HBM2E是HBM2的擴展版本。HBM2E开發團隊在規劃階段就立志升級產品規格，這也是SK海力士維持市場領先地位的關鍵。SK海力士在2021年10月开發出全球首款HBM3，持續鞏固其市場領先地位。HBM3的容量是HBM2E的1.5倍，由12個DRAM芯片堆疊成，總封裝高度相同，適用於AI、HPC等容量密集型應用。
在七月的一場投資者分析會上，SK海力士還透露了其下一代產品的具體路线圖。他們將第六代HBM產品HBM4的生產目標定爲2026年。目前，SK海力士已確定明年上半年爲其下一代產品HBM3E的量產時間。
從技術上來說，有關於“Mass Rework Molded Underfill”的解釋，這是SK海力士开發的第一個封裝技術，涉及在芯片上堆疊芯片。SK海力士公开表示，他們將把下一代後處理技術“混合鍵合”應用於HBM4產品。與現有的“非導電膜”工藝相比，它提高了散熱效率並減少了布线長度，從而實現了更高的輸入/輸出密度。這會將當前的最大 12 層增加到 16 層。
美光作爲HBM市場的後起之秀，也在緊追滿趕兩位韓國存儲巨頭。
在今年七月，美光科技公司宣布，已开始提供業界首款 8 高（8-high ） 24GB HBM3 Gen2 內存樣品，其帶寬和引腳數超過 1.2TB/s速度超過 9.2Gb/s，比當前發售的 HBM3 解決方案提高了 50%。美光 HBM3 Gen2 產品的每瓦性能比前幾代產品提高了 2.5 倍。
美光表示，公司的高帶寬內存 (HBM) 解決方案的基礎是美光業界領先的 1β (1-beta) DRAM 工藝節點，該節點允許將 24Gb DRAM 芯片組裝到行業標准封裝尺寸內的 8 高立方體中。此外，美光的 12 高堆棧（容量爲 36GB）將於 2024 年第一季度开始提供樣品。
按照美光所說，與現有的競爭解決方案相比，公司在給定堆棧高度下提供的容量增加了 50%。美光的 HBM3 Gen2 性能功耗比和引腳速度改進對於管理當今人工智能數據中心的極端功耗需求至關重要。功率效率的提高是可能的，因爲美光科技的進步包括硅通孔 (TSV) 比競爭對手的 HBM3 產品增加一倍、通過金屬密度增加五倍來降低熱阻抗以及節能數據路徑設計。
關於未來的布局，美光披露了暫名爲HBMnext的下一代 HBM 內存，這有可能將是其HBM 4。
美光預計M其 HBMNext 將提供 36 GB 和 64 GB 容量，這意味着多種配置，例如 12-Hi 24 Gb 堆棧 (36 GB) 或 16-Hi 32 Gb 堆棧 (64 GB) 。至於性能，美光宣稱每個堆棧的帶寬爲 1.5 TB/s – 2+ TB/s，這意味着數據傳輸速率超過 11.5 GT/s/pin。
寫在最後
根據SK海力士預測，AI芯片的繁榮帶動HBM市場到2027年將出現82%的復合年增長率。分析師也認爲，預計明年HBM市場將比今年增長一倍以上。三星電子DRAM產品與技術執行副總裁Hwang Sang-joon在KIW 2023上表示：“我們客戶當前的(HBM)訂單決定比去年增加了一倍多。”三星芯片負責業務的設備解決方案部門總裁兼負責人 Kyung Kye-hyun 在公司會議上更表示，三星將努力控制一半以上的 HBM 市場。三星內存業務執行副總裁 Jaejune Kim 對分析師表示，該公司將在 2023 年至 2024 年間將其 HBM 產能增加一倍。
在三星的強勢出擊下，對於SK海力士和美光，需要運籌帷幄，才能避免在未來的HBM競爭中掉隊。
標題：HBM 4爭奪战，即將打響
地址：https://www.iknowplus.com/post/41677.html
