跳到主要內容

HBM3 和 HBM3E:High Bandwidth Memory


High Bandwidth Memory (HBM)

High Bandwidth Memory 這項技術在人工智慧 (AI)、高效能運算 (HPC) 到GPU 等應用中起著關鍵作用。HBM 通過垂直堆疊記憶體晶片來實現其高速資料傳輸,與傳統的平面記憶體佈局相比,顯著減少了資料必須傳輸的距離。這種結構不僅提高了頻寬,而且提高了能源效率,並減少了記憶體模組所需的物理空間。




HBM 的演進和世代

HBM 的第一個版本,簡稱為 HBM 或 HBM1,它為 3D 記憶體技術奠定了基礎。它的繼任者是 HBM2 和 HBM2E,每一代在速度、容量和效率方面都有所改進。HBM3 是截至 2024 年的最新一代,其擴展版本 HBM3E 進一步突破了界限,提供了前所未有的性能水平。


HBM3:第三代

HBM3 由 JEDEC 於 2022 年 1 月推出,代表著記憶體技術的重大進步。它可以支援更大的密度、更高的運行速度、更多的 bank 數量以及先進的可靠性、可用性和可維修性 (RAS) 功能。HBM3 裝置可以提供高達 32 Gb 的密度,並支援最多 16 層堆疊,總儲存容量為 64 GB,與 HBM2E 相比,增長了近三倍。HBM3 的最高速度為 6.4 Gbps,幾乎是 HBM2E 3.6 Gbps 最高速度的兩倍。


HBM3E:Extended

HBM3E 是 HBM3 的延伸版本,為了進一步提高資料速率和容量。它的每個引腳運行速度超過 9.2 Gbps,提供超過 1.2 TB/s 的頻寬,功耗比競爭對手低 30%。HBM3E 提供 8 層 24GB 和 12 層 36GB 的配置,為 AI 訓練和推理系統等要求嚴格的應用提供業界領先的性能和效率。


HBM3 和 HBM3E 的供應商

HBM3 和 HBM3E 的主要供應商是 SK 海力士、三星和美光。


SK 海力士 一直處於領先地位,率先宣布大規模生產 HBM3E,目標是 AI 應用。他們的 HBM3E 晶片可以每秒處理高達 1.18 TB 的資料,展示了資料處理速度和散熱性能的顯著改進。


三星 宣布了其 HBM3E 變體 "Shinebolt",提供高達 9.8Gbps 的記憶體速度。三星的 HBM3E 為了在為高端處理器設定新的記憶體頻寬和容量標準。


美光 推出了其 HBM3E,引腳速度超過 9.2Gbps,實現了超過 1.2 TB/s 的業界領先頻寬。美光的 HBM3E 以其能效著稱,功耗比市場上其他競爭對手低 30%。


寫在後面

高頻寬記憶體的演進,從其開始到最新的 HBM3 和 HBM3E 版本,代表了記憶體技術的關鍵進步。這些發展對於支援現代計算應用的不斷增長的需求至關重要,包括 AI、HPC 和先進的圖形處理。SK 海力士、三星和美光的貢獻對於突破記憶體技術的可能性至關重要,提供了不僅更快、更高效,而且更緊湊、更節能的解決方案。隨著對計算性能和效率的需求不斷增長,HBM 及其未來版本的作用無疑將變得更加重要。


參考資料

留言

這個網誌中的熱門文章

Reddit 超強文章:使用 ChatGPT 的 Custom Instruction 提升回答品質

Forefront Chat:自由切換 GPT-3.5 和 GPT-4 聊天,現在免費!

提高投資決策效率:利用 ChatGPT 分析資產負債表

ChatGPT 可以顯示美觀數學公式:Tex All the Tings Chrome Extension

Glarity Chrome 擴充套件:使用 ChatGPT 生成 Youtube/bilibili, Google/Bing, Page Summary, Comment Summary 摘要

ChatGPT 的 GPTs 筆記 (4):GPTs Konwledge 知識庫的限制與風險

當未來和過去交錯:AI 翻譯古老楔形文字 Cuneiform

TRIZGPT:解決問題的小顧問

ChatGPT Sidebar: 全方位 AI 助手 (Chrome Extension)

Grammarly 推出 GrammarlyGo:創新的生成式 AI 寫作助手