← 回到產業筆記

記憶體,各有分工。

上半看原理:運算、保存、開機各用哪一種。下半看生意:誰做什麼、數字附來源與日期。

先記住三個用途。

運算時,快速取用HBM・DDR(都是 DRAM)點開看差別

HBM 為加速器提供高頻寬工作空間;DDR 等系統 DRAM 支援主機程式。兩者都屬 DRAM,都需要供電來保留工作資料。

關機後,資料還在NAND → SSD點開看差別

NAND 是儲存元件;SSD 把 NAND、控制器等元件組成裝置。已寫入的資料能在斷電後保留。

開機時,讀取韌體NOR Flash點開看用途

NOR 常用來存放開機碼與韌體。它也能在斷電後保存資料,但存取方式與 NAND 不同。

工作記憶體需供電Flash 可斷電保存

怎麼讀這頁:原理段(到「斷電後誰還在」為止)不含投資數字。HBM 段之後的數字都貼著標籤:第三方研調券商估計公司宣稱媒體報導推論,並附日期;核對日 2026-10-08。修正紀錄在頁尾。

Memory Family / 01

七種記憶體,一張表對照。

名字很多,但只分三家:SRAM、DRAM(DDR、LPDDR、GDDR、HBM 都在這一家)、Flash(NAND、NOR)。最右欄只列本頁有查證來源的台廠角色,細節見誰做什麼矩陣。

類型家族斷電後常見在哪裡主要工作為什麼不能全部用它台股相關
SRAM手邊的小抄SRAM(不屬 DRAM)消失CPU/GPU 晶片內的快取讓處理器快速取得常用資料;不需週期刷新面積與成本高,只能做小容量內建在處理器晶片裡,不是單獨採購的顆粒
DDR電腦的工作桌DRAM消失桌機、筆電、伺服器主記憶體放正在執行的程式與工作資料;需週期刷新斷電即失,長期檔案仍要寫入儲存裝置南亞科 2408、華邦電 2344(利基 DRAM)
LPDDR省電的工作桌DRAM消失手機、輕薄筆電;部分伺服器 CPU(如 NVIDIA Grace)低功耗的工作記憶體介面、封裝與功耗設計不同,不能和 DDR 模組互插本頁未查證台廠角色
GDDR繪圖用的材料區DRAM消失顯示卡與部分加速器供應圖形與平行運算所需的高頻寬不能當一般 DDR 模組;GDDR 世代數字和 DDR 不對應本頁未查證台廠角色
HBM疊高的備料架DRAM(多層堆疊)消失AI 加速器、高效能運算以堆疊與寬介面,供應大量並行資料封裝、成本、散熱都更難;高頻寬不等於每次讀取最快Counterpoint 市占表只列三星、SK 海力士、美光(見 HBM 段)
NAND長期存放的檔案櫃Flash保留SSD、手機儲存、記憶卡、eMMC保存檔案與資料以頁讀寫、以區塊抹除,速度與耐寫次數取代不了 DRAM旺宏 2337、華邦電 2344(SLC 等利基型);群聯 8299(控制晶片/SSD)
NOR設備的開機手冊Flash保留CPU、BMC、車用與工控設備的韌體保存開機碼;可原地執行(XIP)容量小、每 bit 成本高華邦電 2344、旺宏 2337(市占見 NOR 段)

放進生活情境:三條資料路徑並排看。

手機:照片存在哪,App 在哪?

  1. NAND 儲存
  2. LPDDR 工作區
  3. 處理器/SRAM

照片與 App 檔案保存在 NAND;執行 App 時,所需資料進入 LPDDR,處理器透過快取取得常用資料。

容量不夠存照片,和同時開很多 App 不順,是兩種不同的資源問題。

電腦:開文件,再存回去。

  1. SSD(NAND)
  2. DDR 工作區
  3. CPU/SRAM

文件保存在 SSD;開啟後工作資料放進主記憶體。修改結果必須寫回儲存裝置,關機後才會留下。

加大 SSD 不等於加大 RAM,兩者改善的限制不同。

AI:保存模型,載入,再計算。

  1. SSD/共享儲存
  2. 加速器記憶體
  3. GPU 運算

模型檔案保存在儲存系統,需要的模型與工作資料載入加速器記憶體(HBM 或 GDDR,依系統而異)。

放不下是容量問題;搬不夠快是頻寬問題。推論時的分層見 AI 推論分層。

概念路徑,省略控制器、匯流排與作業系統細節。

容量、頻寬、延遲,不是同一件事。

容量=有多少格子

能放多少資料。模型或工作資料放不下時,先問容量。

頻寬=每秒搬多少

單位時間能傳多少資料。運算等著大量資料時,要看頻寬。

延遲=等多久才回應

一次存取的等待時間。高頻寬不代表每一次讀取都最快。

概念參考:Micron 記憶體家族 · Micron 繪圖記憶體 · Micron:NAND 開機與 RAM 載入(核對日 2026-10-08)。

Visual Guide / 02

斷電後,誰的資料還在?

MEMORY FAMILY

工作中的資料,與留下來的資料

DRAM · 工作資料NAND · 保存資料

色塊代表資料;圖形為概念示意

通電時,兩者都可以存放資料。試著斷電,觀察哪些資料還留著。

HBM 也是 DRAM 家族的一員。SSD 則是使用 NAND 等元件組成的儲存裝置。

HBM / 03

HBM:把 DRAM 疊起來,放到 GPU 旁邊。

INSIDE HBM

多層 DRAM 用 TSV 垂直連起來

GPU垂直連線 TSV

層數與比例僅為示意,非特定產品

多層 DRAM 晶片透過 TSV 垂直互連,以寬介面傳送資料,支援高頻寬需求。

這種「堆疊」是把做好的 DRAM 晶粒疊起來封裝;和 NAND 在單一晶片內往上長幾百層,是兩種不同的 3D。和 GPU 怎麼接在一起,見先進封裝。

推論台股沒有出現在 HBM 顆粒市占表裡;台灣跟 HBM 的關係主要在封裝與測試(見先進封裝)。看到「台廠做 HBM」的標題,先確認講的是標準 HBM,還是邊緣 AI 用的客製堆疊 DRAM(例如華邦 CUBE)。

AI Inference Tiers / 04

AI 推論時,KV cache 放在哪一層?

這是 NVIDIA 的分層說法,不是通用標準。KV cache 是模型生成回答時記下的「前文中間結果」,對話越長越大。NVIDIA 在 CES 2026(2026-01-05)發表 Inference Context Memory Storage 平台,2026-03-16 技術文章改稱 CMX,並用 G1–G4 加上新的 G3.5 說明這些資料放哪裡。下表的「層」與延遲描述照 NVIDIA 原文;其他廠商未必這樣分。

全部層級:由上到下越慢、越便宜、容量越大,共享範圍也從單一 GPU 擴大到整個資料中心。

推論:由熱到溫——最常被讀的 KV cache 留在 HBM;放不下時移到系統 DRAM 暫存,再往本地 SSD 找短期內會再用的資料(G1 → G2 → G3)。

長上下文與共享——資料不再最熱、但要重用或跨節點共享時,比較本地 SSD、pod 共享的 G3.5 與長期保存的 G4(G3 → G3.5 → G4)。這不是每次存取都要經過的串聯路徑。

  1. G1GPU HBM
    HBM(堆疊 DRAM),和 GPU 放在同一個封裝內
    單一 GPU;NVIDIA 稱奈秒級
    正在生成時用到的熱 KV cache研究問題:容量壓力出現時,資料往哪一層移?
    SK 海力士、三星、美光(市占見 HBM 段)
  2. G2System DRAM
    主機記憶體(伺服器 DRAM)
    單一節點;比 G1 慢、比 SSD 快
    從 HBM 移出的 KV 暫存與緩衝(staging)研究問題:哪些工作負載願意用延遲換容量?
    三星、SK 海力士、美光、長鑫;台股:南亞科 2408(DRAM 顆粒廠,不代表已供貨特定 AI 平台)
  3. G3本地 NVMe SSD
    伺服器內的企業級 SSD(NAND+控制器)
    綁在單一節點(NVIDIA:較難管理)
    短期內會再用的溫 KV研究問題:哪些資料值得留在本地?
    企業級 SSD:三星、SK 海力士(含 Solidigm)、美光、鎧俠/SanDisk;台股:群聯 8299(控制晶片與企業級 SSD)券商點名
  4. G3.5CMX 上下文儲存層
    乙太網路連接的 flash(NVMe SSD 儲存節點,由 BlueField-4 DPU 管理);不是新型 DRAM
    整個 GPU pod 共享,經 Spectrum-X 乙太網路與 RDMA
    可重用、可跨節點共享的 KV cache研究問題:重用上下文能省下多少重算?
    NVIDIA CES 合作名單 12 家:AIC、Cloudian、DDN、Dell、HPE、Hitachi Vantara、IBM、Nutanix、Pure Storage、Supermicro、VAST Data、WEKA。台股:營邦 3693(即 AIC;已發表搭載 BlueField-4 的 JBOF F2032-G6)公司自述,營收貢獻未證實。SSD:Solidigm 等公司自述。BlueField-4 原廠稱 2026 下半年供貨。
  5. G4共享物件/檔案儲存
    網路儲存系統(HDD、SSD、雲端儲存)
    資料中心層級;NVIDIA 稱毫秒級
    需長期保存的多輪對話狀態、查詢歷史、紀錄;不在即時路徑上研究問題:什麼條件下資料該從本地轉往共享儲存?
    依實際儲存方案而定,本頁不列

分層定義與延遲描述:NVIDIA 技術文章(2026-03-16);合作名單與供貨時程:NVIDIA 新聞稿(2026-01-05);營邦產品:TechNews(2026-01-10);群聯角色:國泰期貨〈8299 群聯〉2026-10-02 p.1。供應商欄是角色整理(券商點名/公司自述),不是市占、也不是推薦;在名單上不代表已取得訂單。NVIDIA 沒有給各層的具體延遲數字,也沒有可跨平台比較的固定頻寬。

Supply Structure / 05

同樣叫記憶體,做的是不同生意。

上面談「資料放在哪一層」。這一段換個角度:顆粒是誰做的、規格怎麼分,以及為什麼同一則「記憶體漲價」的新聞,對不同公司的意義可能剛好相反。

DRAM 與 NAND 是兩條獨立產線,不是誰包在誰裡面。

DRAM · 揮發性

橫向微影,做出電容陣列

靠縮小線寬換密度,節點寫成 1α/1β/1γ。產品名是 DDR4、DDR5、LPDDR5X、HBM。角色是放 CPU/GPU 正在算的資料,斷電就消失。

HBM 的「堆疊」是把做好的 DRAM 晶片用 TSV 疊起來封裝(見 HBM 段),屬封裝層級。

NAND · 非揮發性

同一顆晶片裡,垂直長高

儲存單元在單一晶片內往上堆幾百層,靠層數換每 bit 成本。產品名是 TLC/QLC 顆粒、eSSD 用料。角色是存放算完與待算的資料,斷電還在。

這是元件層級的堆疊,跟 HBM 把多顆晶片疊起來不是同一件事,別把兩者都說成「3D 堆疊」就當成同一種能力。

推論兩者用到的設備類別有重疊(沉積、蝕刻、微影),但製程重點不同:DRAM 重微影(含 EUV),3D NAND 重高深寬比的蝕刻與沉積。產線通常專線生產,轉產要重新配置設備與製程,所以「DRAM 廠跨做 NAND」不是加一條線就好。一台電腦寫「16GB 記憶體 + 1TB SSD」,是分別買了 DRAM 與 NAND 兩種晶片;三星兩種都做,也是分開的產線。

NAND 有兩個規格軸,要分開問。

軸一 · 一格塞幾個 bit

SLC 1/MLC 2/TLC 3/QLC 4

塞越多,每 GB 越便宜,但寫入越慢、可抹寫次數越少、資料保存年限越短。SLC 貴但耐操、可靠度高;QLC 便宜大碗,適合不常改寫的冷資料。

軸二 · 堆幾層

300–400 層,或低層數/平面

高層數拚每 bit 成本,做 TB 級 SSD;低層數、小容量(Gb 級)製程成熟、良率穩,適合長生命週期供貨。蓋高層數廠的資本支出,是新進者最大的門檻。

層數不等於密度:比之前先對齊「每格幾 bit」。

廠商・世代層數每格面密度狀態(日期)
SK 海力士 第 9 代321 層TLC(3 bit)約 20 Gb/mm²量產中;下一代 375 層目標 2026 年底量產(原 400 層級下修)媒體報導
三星 V10(BV-NAND)400+ 層TLC(3 bit)約 28 Gb/mm²2026-08 FMS 發表;量產目標 2026 下半年,至 2026-10-08 未見量產確認
鎧俠/SanDisk BiCS10332 層TLC 送樣;QLC(4 bit)展示QLC 約 37 Gb/mm² 以上TLC 2026-07-03 送樣給企業客戶;QLC 2026-08-04 FMS 展示
怎麼讀:鎧俠的 37 Gb/mm² 是 QLC(每格 4 bit),三星的 28 是 TLC(每格 3 bit)。單是每格 bit 數就差 33%,所以「鎧俠層數較少、密度反而高約 38%」的報導標題,大半來自 QLC 對 TLC,不是層數效率。同為 TLC 比,三星 400+ 層(28)高於 SK 海力士 321 層(20)。本頁計算層數是手段,每 bit 成本才是目的;但比較時一定要同一種 bit 數。

同樣叫 NAND,利基型與大宗商品是兩門生意。

維度利基型大宗商品
規格SLC/MLC、低層數、小容量TLC/QLC、幾百層、大容量
用在哪工控、車用、網通、IoT,多半焊死在板上SSD、手機、資料中心
客戶要什麼長期供貨保證、耐高溫、可靠度每 GB 最便宜
賣法長約與短約、現貨並存;MS 認為舊記憶體多數沒有固定價格長約,漲價期反而保有價格彈性券商觀點合約價+現貨,但三大廠也開始簽多年長約:美光已簽 26 份策略客戶協議(SCA),客戶財務承諾 320 億美元,涵蓋 2030 年前逾 35% 營收公司宣稱
2026 價格實況大廠退出時同樣暴漲:1Q26 PC DDR4 合約價季漲 120–125%券商彙整同一季 PC DDR5 季漲 110–115%;兩邊都是強循環,差在驅動力券商彙整

賣法:Morgan Stanley〈Old Memory: No LTAs Is Not Necessarily Bad〉2026-08-16 p.1;美光 FY26 第四季新聞稿(SEC 8-K),富邦投顧〈記憶體產業〉2026-10-01 p.1 同數字。價格:Morgan Stanley〈Memory Innovation〉2026-09-01 p.3 Exhibit 1(DDR4 是利基品的代表,DDR5 是大宗)。利基型賣的是供貨承諾與可靠度:車用與工控換料要重新認證,所以廠商比的是可靠度、資料保存年限、車規認證與長生命週期供貨,不比層數。認證要多久依客戶與料號差異很大業界常見說法,本頁未附源。

誰做什麼:公司 × 產品線矩陣。

← 左右滑動看全部產品線(第一欄固定)

公司HBMDRAM3D NAND(大宗)SLC/MLC NAND(利基)NORNAND 控制 ICSSD/模組晶圓位置備註與來源
大型顆粒原廠(IDM)
三星(韓)●●●··●●自有DRAM+NAND 兩種都做,分開產線
SK 海力士(韓)●●●··●●自有企業級 SSD 含子公司 Solidigm
美光(MU)●●●·●●●自有2025 NOR 市占 9%(富邦 2026-09-17 p.1 轉引 Omdia)
鎧俠、SanDisk··●··●●共用合資廠BiCS 世代同步,不是兩個獨立產能來源
長鑫 CXMT(中)○●○····自有大宗 DDR5/LPDDR5X 為主,目標占產出近 75%;12-Hi HBM3 目標 2026 年底量產;2026-07-16 上海科創板掛牌;北京新廠規劃 NAND 研發線媒體報導
長江存儲 YMTC(中)·○●····自有大宗 NAND 供給的主要變數;2026-04 送出 LPDDR 樣品,公司預期 2026 年底取得客戶回饋媒體報導
利基型與台廠顆粒廠
南亞科 2408·●·····自有只做 DRAM 的自有品牌 IDM
華邦電 2344·●·●●··自有2Q26 營收:客製化記憶體(DRAM)53%、Flash(NOR+SLC NAND)33%國泰 2026-09-18 p.1 轉述公司;24nm 與 32nm SLC NAND 約占 Flash 營收 41%(國泰 2026-09-08 p.2)。2025 NOR 市占第一(23%)。CUBE 是邊緣 AI 客製 DRAM,與 NVIDIA G3.5 無關
旺宏 2337···●●··自有另有 ROM 與 eMMC 產品;2025 NOR 市占 17%(富邦 2026-09-17 p.1 轉引 Omdia)。ROM 排名、產線轉換彈性等說法只見於券商摘要,本頁不列
兆易創新(603986.SH)·●·●●··無(委外代工)另有 MCU;與台廠利基型正面重疊。2025 NOR 市占 17%(同上來源)。代工夥伴本頁未查證
控制 IC 與模組(向原廠買顆粒)
群聯 8299·····●●無從 NAND 控制晶片延伸到企業級 SSD 與 AI 儲存方案(國泰期貨 2026-10-02 p.1);要自購 NAND、持有存貨,所以 NAND 漲跌直接影響毛利
慧榮(SIMO,美股)·····●·無以控制 IC 為主
威剛 3260、創見 2451、宇瞻 8271······●無模組廠,向上游買顆粒;位在採購端,不在顆粒供給端

● 有此產品線 ○ 開發中/送樣/規劃 · 無。角色依公司官網、研報與報導整理(公司自述/券商點名),不是市占、也不是推薦;有產品線不代表已取得特定平台訂單。長鑫來源:Digital Citizen(2026-07)、TrendForce(2026-09-18);長江存儲:EE Times。

台灣不是沒有 NAND 原廠——旺宏與華邦都有自有 NAND 晶圓。台灣缺的是「3D NAND 高層數大宗商品產能」,這兩件事常被混為一談。華邦的 SLC NAND 已從 46nm 走到 32nm(2018-11-13 宣布、首顆送樣)與 24nm,但刻意不追消費級的 1x nm;原廠說法是較大的儲存格保有較多電子,資料保存較穩,車用才敢用(華邦技術文章)公司宣稱。

兩個正在成形的層級。

HBF · High Bandwidth Flash

用 NAND 去分擔 HBM 的一部分工作

不是「把 NAND 裝進 DRAM」,而是把 NAND 垂直堆疊、擺到加速器旁邊,用便宜的大容量接住 HBM 裝不下的推論資料。

2026-08 FMS 展會上,SanDisk 與 SK 海力士發布 OCP HBF 規格 v0.7.0:8-Hi/16-Hi NAND 堆疊、每顆最高 512GB,三個頻寬等級 0.384/1.536/3.072 TB/s,走 UCIe chiplet 介面。

反面:量產時程未公布。SanDisk 自稱 2026 下半年送出首批樣品、2027 年初推出搭載 HBF 的推論裝置樣品公司宣稱,至 2026-10-08 未見送樣確認。每格 bit 數也沒公開。HBF 定位是讀多寫少,適用範圍比 HBM 窄得多,不能當成 HBM 的替代品來估市場。

CXL · Compute Express Link

HBM 之外的新層級,定位是補充

以相對低的成本擴充容量,不必多加 GPU/CPU,把 HBM 留給最吃速度的運算。三星目標 2026 年底量產 CXL 3.1 的 CMM-D(第三季送樣);SK 海力士二代 256GB CMM-DDR5 只到展示(2026-06 HPE Discover),未公布量產時程。

反面:三星時程有報導指可能遞延到 2027,原因是 Intel/AMD 伺服器平台進度;CXL 接 DDR 的頻寬與延遲弱於本地 DDR5,適用邊界受限;亦有報導指 NVIDIA 生態的態度是落地阻力媒體報導。廠商宣稱的推論效率改善(三星:約 92% DRAM 級效能;SK 海力士:吞吐最多 +35.7%)是各自的內部測試公司宣稱,無第三方驗證。

由這個結構推出的判讀紀律。

推論以下四條是本頁的推論,不是事實,也不構成投資建議。

這些規則什麼時候會失效:(a) 三大原廠大幅回補標準品產能,利基與大宗的供需分岔消失;(b) 長鑫/長江存儲的利基品良率突破並大量外銷,長約鎖價的保護被打穿;(c) 高層數 NAND 成本降到能直接吃下部分利基應用,兩個規格軸的分界線位移。三者任一發生,規則 01 與 02 的推論就要重寫。

來源與修正紀錄

核對日 2026-10-08。技術定義(DRAM/NAND 差異、SLC–QLC、利基與大宗的商業模式)屬產業常識,未逐項附源;數字與時程都貼在數字旁。券商數字已回原始 PDF 核對頁碼(放在 vault 的 200_Reference/台股研究報告/)。

原理與分層

市占、價格與廠商

修正紀錄