工作中的資料，與留下來的資料
通電時，兩者都可以存放資料。試著斷電，觀察哪些資料還留著。
HBM 也是 DRAM 家族的一員。SSD 則是使用 NAND 等元件組成的儲存裝置。
看圖分清：運算、保存、開機。
HBM 為加速器提供高頻寬工作空間；系統 DRAM 支援主機程式。兩者都需要供電來保留工作資料。
NAND 是儲存元件；SSD 把 NAND、控制器等元件組成裝置。已寫入的資料能在斷電後保留。
NOR 常用來存放開機碼與韌體。它也能在斷電後保存資料，但存取方式與 NAND 不同。
Data Status · 資料狀態與使用限制
投資觀點頁 · 與本站其他產業入門頁性質不同
本頁含個股定位與市場預測，與 產業筆記 其他頁（光通訊、半導體、先進封裝、AI 伺服器）的中性原理介紹不同，請分開看待。
資料截至 2026-04-21，已逾 4 個月未更新。頁面中的數字與時程來自單一來源（HSBC Asia Memory Report），未經第三方交叉驗證，且部分時程已被後續公司指引推翻：
反面情境（本頁未涵蓋）：頁面對南亞科稱「確定性最高的受益者」、對 CUBE 稱「市場從零開始」「目前市場空白」，皆為單邊敘述。會讓這些判斷失效的條件至少包括：Vera Rubin 平台時程遞延或規格縮水、DDR4/DDR5 價格循環反轉、CUBE 客戶認證未過或遭 HBM 低階版本／LPDDR 方案取代、三星或中國廠商（如 CXMT）進入利基市場。投資決策前請自行查證。
名詞說明：G1–G4、G3.5、ICMS（Inference Context Memory Substrate，推論上下文記憶體橋接層）是 HSBC 該份報告的自訂分類法，非產業通用術語，其他報告未必採用。TurboQuant 指報告中討論的 KV cache 壓縮技術，若普及會降低 HBM 用量。CUBE 是華邦電的客製化高頻寬記憶體產品（官方規格：單顆 256Mb–8Gb、頻寬最高 256GB/s、功耗低於 1pJ/bit）。
從晶片、模組到儲存裝置，三張圖解帶你建立記憶體的基本概念。
通電時，兩者都可以存放資料。試著斷電，觀察哪些資料還留著。
HBM 也是 DRAM 家族的一員。SSD 則是使用 NAND 等元件組成的儲存裝置。
多層 DRAM 晶片透過 TSV 垂直互連，以寬介面傳送資料，支援高頻寬需求。
頻寬是「每秒能搬多少資料」，與容量「總共能放多少資料」是兩個不同指標。
尚未開啟的文件可以留在儲存裝置中，關機後仍可保留。
點選圖示跟著資料走。這是簡化路徑，省略 CPU 快取、控制器與作業系統細節；修改內容需寫回儲存裝置才算保存。
概念參考：Micron 記憶體入門 · HBM 技術介紹
切換情境，查看同一套記憶體階層在 AI 推論、設備啟動與共享資料中的不同角色。點選路徑或上方任一層級，可閱讀該段的研究重點。
推論中最常被讀取的 KV cache 優先留在 HBM；容量不足時可溢出到系統 DRAM，再往本地 SSD 尋找可重用的較冷資料。