NVIDIA 拒絕 4TB 巨無霸記憶體 HBF？ — 大叔美股筆記重點整理

HBF vs HBM：技術現實與 NVIDIA 的策略選擇

—HBF 把 NAND 用 TSV 3D 堆疊封裝在運算晶片旁，單堆疊容量 512GB 上看 4TB，是 HBM 的 10–16 倍，成本只有 DRAM 的 1/5
—HBF 寫入壽命約 10 萬次是物理硬傷，不能用於模型訓練，只能跑讀取為主的推理
—HBM 同質堆疊良率已爬坡完成是 NVIDIA 印鈔機，HBF 異質堆疊（NAND + SRAM + 邏輯）初期良率慘
—NVIDIA 認為現階段容量瓶頸用高速企業級 SSD + 軟體優化已能應付，不需貿然改 GPU 封裝設計

$NVDA 中期

拒絕 HBF 不是落後而是基於良率風險與商業現實，HBM 架構仍是地表最賺錢印鈔機，仍守著極致算力 + 極致頻寬服務訓練客戶。護城河目前還是很深沒有變但只盯 GPU 會錯過整個 AI 架構正在變複雜變分散

記憶體 ↑看多長期

AI 瓶頸從算力走到頻寬再走回到記憶體，HBF 不是顛覆 HBM 而是分流——訓練端守 HBM、推理端切 HBF；SK 海力士 H³ 混搭架構顯示記憶體巨頭兩邊押寶都贏。接下來真正要看的不是晶片本身而是異質封裝與新記憶體架構供應鏈

—Google 每天要處理全球數十億次 AI 推理與搜尋，每台伺服器都插滿 HBM 會拖垮資本支出
—TPU 高度定製化讓 Google 可以從軟體架構改寫，把靜態權重和 KV Cache 放 HBF（只讀不寫）、動態資料放 HBM
—HAVEN 架構研究顯示 HBF 取代部分 HBM 可把向量資料庫整個塞進晶片封裝，對 ANN 搜尋效能毀滅性提升，這正是 Google 搜尋與 AI 的核心

$GOOG ↑看多長期

賣的不是晶片是雲端服務與 AI 應用，HBF 解的是推理成本生死戰；TPU 定製化讓 Google 能配合異質記憶體架構，向量資料庫塞進晶片封裝對搜尋與 AI 核心是結構級提升。Google 走的不是顛覆 NVIDIA 的路而是另闢一條推理戰場的捷徑

AI應用 ↑看多長期

Agentic AI 時代模型越來越大 GPU 無法把整個模型塞進 HBM，必須透過 PCIe 跟外部 DDR 或 SSD 拿資料延遲致命；HBF 把海量資料直接綁在 GPU 旁邊解的就是這個瓶頸。推理成本下降是 AI 應用真正能規模化的前提

$SNDK ↑看多長期

一直在大力推動 HBF 技術標準，若 Google 驗證成功將是傳統 NAND 廠切入頂級 AI 算力核心的歷史性機遇；不只是 NAND 報價週期受惠者，而是 AI 算力基礎設施先進封裝核心供應商。HBF 革命的真正主角，估值面臨結構性重塑

$MU ↑看多中期

HBM 產能還在追趕 $SNDK 與 SK 海力士，但 NAND 技術同樣頂尖；若市場焦點從純 HBM 轉到 HBM + 大容量快閃記憶體，會獲得喘息與反攻空間。美光是焦點分流下被低估的兩邊押寶受益者

$WDC ↑看多中期

現在是純粹 HDD 公司，多模態 AI 生成海量檔案、企業需要無期限儲存原始訓練數據時這些低頻讀寫資料不會塞進昂貴 HBF 而是倒進低成本 HDD 陣列。WDC 賺的是 AI 帶動全球資料量暴增的擴容財，走高性價比儲存底層邏輯

$AVGO ↑看多中期

Google TPU 最核心的共同開發夥伴，若 Google 大量部署結合 HBF 的下一代 TPU 來打推理戰，網通與 ASIC 雙霸天會吃肉喝湯第一線。ASIC + 網通雙引擎讓 Broadcom 在 AI 推理端有結構性卡位

$MRVL ↑看多中期

除了光互聯與矽光子（CPO），客製化運算晶片實力同樣強勁；記憶體架構越複雜越需要高速 DSP 與介面晶片來傳輸資料。異質記憶體架構普及會直接拉動 Marvell 介面晶片需求

$BESIY ↑看多長期

荷蘭混合鍵合設備全球霸主，台積電等大廠先進封裝產線高度依賴；異質整合越普及設備就賣得越好。Hybrid Bonding 是先進封裝下一階段的核心瓶頸，Besi 卡位獨佔

先進製程 ↑看多長期

無論 HBM 還是 HBF 都需要極複雜的 TSV 與混合鍵合，封裝越複雜堆疊越高對先進封裝設備與耗材需求就越龐大；$AMAT、$LRCX、$KLAC、$FORM、$ONTO 等設備巨頭與 $BESIY 同步受惠。先進封裝才是無論記憶體路線分流如何走都會贏的永恆位置