OpenAI Jalapeño: Better Than Nvidia Blackwell

OpenAI 自研推論晶片 Jalapeño 實測：極速軟硬體協同與能效比超越 $NVDA Blackwell

—OpenAI 與 $AVGO 合作開發首款自研 ASIC 晶片 Jalapeño，僅歷時 16 個月即完成 tape-out 部署。實測顯示在 Single Token Prediction 模式下，其每兆瓦代幣產出顯著超越 $NVDA Blackwell 與 $AMD 最新架構。

$AVGO ↑看多中期

攜手 OpenAI 僅用 16 個月即完成通用推論 ASIC 之設計與 tape-out，展現業界頂尖的客製化晶片執行力。相較 $NVDA 高毛利定價，$AVGO 較低之設計代工毛利幫助客戶顯著降低每代幣 TCO。OpenAI 自研晶片的成功交付證明了 Broadcom 在客製化 ASIC 領域的強大執行力與市佔領先地位

$NVDA 中期

Blackwell 於 InferenceX 測試中在每兆瓦代幣產出（perf/W）被 Jalapeño 超越，主因 Jalapeño 針對單代幣推論做極致軟硬體協同優化。然而 Vera Rubin 已開始向客戶送樣，且 $NVDA 晶片軟體成熟度仍居優勢。Jalapeño 展現出 frontier lab 客製化晶片帶來的能效挑戰，惟短期生產規模仍無法取代 Blackwell 與 Rubin 供應量

$AMD 中期

在 Kimi K2.5 等開源大模型測試中，Jalapeño 在低延遲場景下達到每秒每使用者 700 顆代幣，遙遙領先包括 $AMD 在內的其他競爭晶片。儘管 AMD 在 AgentX 等長文本多輪對話測試中展現實力，但在純單代幣推論吞吐量上遭受客製化 ASIC 的強烈推論能效壓力

AI算力 ↑看多中期

當前資料中心受限於電力配給而非預算或地板面積，使每兆瓦能耗下的代幣產出成為核心競爭指標。電力供應瓶頸驅動全球 AI算力競賽從單純採購通用 GPU 轉向極致優化每兆瓦代幣產出能效

Jalapeño 晶片與系統架構細節：同質架構設計、[[記憶體]]頻寬與機架級 scale-up 拓撲

—Jalapeño 選擇同質資源池架構而不採用 prefill-decode 分離，避免工作負載比例動態變化導致晶片閒置。機架架構包含 Katsu CPU 主機板、Vindaloo ASIC 板與 Chana 交換器板，最高可串聯 2,048 顆 XPU。

$TSM 中期

Jalapeño B0 步進版本採用台積電 N3P 製程打造 13.4 PFLOPs 計算晶粒，並搭配 N3E I/O 晶粒與 2.5D 晶片整合。頂尖 AI ASIC 集中選擇 $TSM 3nm 與先進封裝平台，進一步鞏固其在極速晶片設計與代工製造上的獨霸地位

記憶體 ↑看多中期

Jalapeño 為最早採用 HBM4 的晶片之一，針腳速率達 10Gbps，封裝頻寬高達 15.4TB/s，超越所有 HBM3E 加速器。極致釋放記憶體頻寬成為先進推論晶片突破算力牆的核心策略，加速高端 HBM 規格世代交替

先進封裝 ↑看多中期

Jalapeño 在 2025 年 11 月完成包含 CoWoS 頂層晶片與基板之完整 tape-out，整合 N3P 主晶粒與 N3E I/O 小晶粒。小晶片化與先進封裝已成為頂級推論晶片整合超高頻寬 HBM 與 I/O 的必要技術架構

Gluon 程式語言與 Codex 自動化 kernel 開發：軟體迭代速度對 CUDA 護城河之衝擊

—OpenAI 開發建基於 Triton 的低階語言 Gluon，並利用內部擴展版 Codex 自動手調數千行 kernel。這種自動化開發模式讓團隊能在無人介入下快速編寫 MLA 等複雜算子，大幅縮短晶片帶電與軟體適配週期。

半導體 ↑看多中期

OpenAI 內部展示 AI 輔助晶片設計可減少 8% SIMD 面積與 10% 矩陣引擎面積，並透過 Codex 快速生成核心算子。AI 工具深度介入 IC 設計與軟體 kernel 編譯正徹底重塑半導體開發週期與生態競爭門檻