HBM

定義

HBM（High Bandwidth Memory，高頻寬記憶體）是用於高效能運算與 AI 加速器的重要記憶體類型，重點在於提供極高頻寬與低延遲，以支援大量矩陣運算、訓練中間資料與即時資料吞吐。2026-05-18-HBM與HBF性能與生產比較 將 HBM 描述為 DRAM-based、透過 TSV 與先進封裝垂直堆疊的高速「熱資料」層。

為什麼重要

• AI 資料中心需求增加時，HBM 可能吸收記憶體供應商的產能與資本支出優先順序。
• 若 HBM 產能排擠傳統 DRAM 或使供應鏈資源集中於 AI 伺服器，下游 PC、筆電、手機與高階消費電子可能面臨成本或供給壓力。
• 2026-05-18-全球記憶體供應危機與Apple-Mac限制 將 HBM 需求視為 Memflation 的重要驅動之一。
• 與 HBF 相比，HBM 的優勢在奈秒級低延遲與頻繁讀寫能力；弱點是容量與每 GB 成本。

性能輪廓（來源主張，待核驗）

• HBM3E 單堆疊頻寬約 1.2TB/s。
• HBM4 可望達 1.5–2.0TB/s 以上。
• HBM4 單堆疊容量約 24–96GB，近期主流約 64GB。
• 延遲為奈秒級，適合訓練、即時運算與熱資料。

運作機制

來源主張的傳導是：AI 資料中心需求爆發 → HBM/DRAM 供應吃緊 → 傳統與高容量終端記憶體配置受限 → 下游硬體公司面臨交付、成本與毛利率壓力。

在 AI記憶體階層化 中，HBM 可能保留訓練與熱資料角色，而 HBF 分擔推論權重與暖資料容量需求。

相關頁面

• Memflation
• HBF
• AI記憶體階層化
• HBM與HBF記憶體階層化
• Apple Inc
• SK hynix
• Samsung Electronics
• Micron Technology
• 記憶體短缺壓縮硬體毛利率風險

來源

• 2026-05-18-全球記憶體供應危機與Apple-Mac限制
• 2026-05-18-HBM與HBF性能與生產比較

生產可擴展性限制

來源補充 HBM 的生產瓶頸：TSV 垂直堆疊、interposer / advanced packaging、良率敏感度與較高 die area per bit 使 HBM 最難在短期快速擴產。若 HBM 產能優先供給 AI 訓練與高階 GPU，常規 DDR5 / LPDDR 可能被 wafer allocation 排擠，進一步強化 Memflation。具體「2026 產能售罄」與「約三倍 DRAM 矽面積」仍需用供應商公告或產業報告核驗。

大廠擴產與先進封裝張力

新增來源強化 HBM 的供給瓶頸：HBM 擴產不只是 DRAM wafer 問題，也依賴 TSV、advanced packaging、測試與高堆疊良率。來源主張 SK hynix、Samsung、Micron 都在擴 HBM / advanced memory capacity，但新 fab 通常要 2–3 年才見效，因此 2026–2027 年短缺仍可能靠長約、產線優化與架構替代方案緩解。

AI 三層蛋糕中的封裝瓶頸

台積電 AI 三層蛋糕來源把 HBM 放在 3D 異質整合層的核心：AI accelerator 性能不只取決於 GPU die，也取決於 HBM 與 compute die 的距離、頻寬、封裝良率與 CoWoS / SoIC capacity。

HBM 堆疊與 CoWoS 互補

新來源新增 HBM堆疊 作為 HBM 內部架構概念，並把 HBM 廠與 CoWoS 分工分清：HBM 堆疊提升記憶體頻寬與容量密度；CoWoS 把 HBM stack 靠近 accelerator。來源中的 HBM 市占率、層數、HBM4/HBM4E 與 hybrid bonding 時程均需核驗。

LLM 推論中的 hot path

新來源補充 HBM 在 LLM 推論中的角色：decode phase 常需高頻寬讀取權重與 KV Cache，HBM 因高頻寬與靠近 accelerator，仍是 hot path 的核心記憶體。