OpenAI 首颗自研芯片 Jalape o 横空出世,以令人咋舌的速度颠覆了 AI 芯片行业的既有格局——这不仅是一次产品发布,更是一个信号:AI 正在重塑芯片本身的设计方式。
据华尔街见闻文章报道,据彭博 8 月 25 日报道,OpenAI 表示,Jalape o 在单位功耗可处理的 AI 工作量和响应速度两项关键指标上均领先英伟达 GB300。该芯片由 OpenAI 与 Broadcom 合作开发,专为 AI 推理阶段设计,最快将于今年晚些时候投入实际使用。OpenAI 芯片负责人 Richard Ho 表示,Jalape o 在 700 瓦低功耗下即可实现强劲性能,有助于大幅降低数据中心电力成本。


更值得关注的是,这一成绩是在 Jalape o 尚未启用投机解码、未做预填充与解码分离部署等优化手段的情况下取得的,而参与对比的其他芯片均已开启各自最优配置。
难怪就连著名半导体分析师 Dylan Patel 也直言,"被掀翻的不只是 Blackwell,就连英伟达 Rubin 芯片也被超越了"!

实测数据:Jalape o 在多项关键指标上碾压 Blackwell
SemiAnalysis 的测试结果显示,Jalape o 在推理效率上的优势相当显著。
在GPT-OSS 120B 模型上,Jalape o 每秒可输出约 1459 个 Token,而英伟达 GB200 仅为 535 个;端到端延迟方面,Jalape o 完成一个任务仅需 1.65 秒,GB300 则需接近 6 秒,差距达 3.6 倍。在高交互场景下,当 GB300 被推至其最快解码速度(每秒 169 个 Token)时,Jalape o 的吞吐量是其 104.3 倍。

从系统级成本来看,据 SemiAnalysis 将供电、散热、网络全部纳入计算后,Jalape o 每芯片每小时总拥有成本约为 1.56 美元,与 H100 的 1.55 美元几乎持平,而英伟达 Vera Rubin 则高达 3.61 美元。

其一,测试所用模型并非当前最前沿的模型,英伟达和 AMD 已在更大规模模型(如 DeepSeek V4 Pro、Kimi K3)上发布了基于 AgentX 套件的成绩,而 Jalape o 尚未完成 AgentX 测试——该套件更能反映多轮、长上下文等真实生产场景的性能表现。
其二,更公平的比较对象应是同样采用 HBM4 的英伟达 Vera Rubin,而非 Blackwell;Vera Rubin 的每瓦性能较 GB200 NVL72 提升约 5.4 倍,与 Jalape o 相比,两者在每 Token 总拥有成本(TCO)上几乎持平。
其三,Jalape o 目前仍处于工程样片阶段,量产预计要到 2027 年才逐步爬坡。
AI 设计芯片:GPT-Astra 与 Codex 的 " 飞轮效应 "
Jalape o 之所以能以如此惊人的速度完成开发,AI 工具的深度介入是核心原因之一。据 SemiAnalysis 披露,OpenAI 在芯片设计过程中大量使用了内部 AI 模型,其中包括被外界广泛关注的 GPT-Astra。
社交平台 X 用户 Andrew Curran 援引 OpenAI 信息指出,GPT-Astra 深度参与了 Jalape o 的研发全程:
" 团队借助 Codex 与 GPT-Astra,在两个月内将三个原本不在 Jalape o 量产计划内的开源模型调优至高性能状态。"

SemiAnalysis 的数据进一步量化了这一贡献:
AI 辅助设计使 SIMD 单元面积缩减 8%,矩阵引擎面积缩减 10%,同时在时序和功耗表现上均优于初始版本。

SemiAnalysis 对此评价颇为犀利:跑在英伟达 GPU 上的 OpenAI 模型(如 GPT-5.6 Sol),正被用来设计一颗对 CUDA 护城河构成真实威胁的芯片—— " 英伟达自己的 GPU 正在实时催生自己潜在的接班人 "。

外界普遍预设 Jalape o 是一颗专为 OpenAI 自家模型深度定制的芯片,但 SemiAnalysis 的结论恰恰相反:Jalape o 是一颗面向 AI 推理的通用芯片,能够运行各类模型和工作负载,甚至包括用 Codex 移植的《毁灭战士》游戏。
在架构层面,Jalape o 的核心设计哲学是 " 消除固定延迟 "。与 GPU 依赖复杂内存层级不同,Jalape o 将计算核心与 HBM 切片直接绑定,核心间通过专用高带宽集合网络同步,大幅降低了内存访问延迟。
此外,Jalape o 采用乱序执行(OoO)核心搭配 L1 缓存,而非其他加速器普遍使用的软件管理暂存器,这使其在小批量、低延迟场景下能够更接近硬件理论峰值。
在内存带宽方面,Jalape o 采用 HBM4,实现了 15.4TB/s 的单封装内存带宽,每瓦 HBM 带宽达 22,而英伟达 Rubin 为 11.1,GB300 仅为 5.71。

值得一提的是,Jalape o 选择不做预填充与解码分离部署(PDD)。SemiAnalysis 对此给出了详细解释:
在真实生产环境中,输入输出比例、并发量、缓存命中率等参数持续变化,固定分池会导致全局利用率下降;而同构资源池可以灵活响应流量变化,在延迟敏感型请求和高吞吐批处理之间动态调配。
CUDA 护城河:裂缝已现?
SemiAnalysis 在报告中抛出了一个颇具分量的判断:CUDA 的护城河可能已经死了。
其依据在于软件起步速度的对比。英伟达 Rubin 的 CoWoS 流片比 Jalape o 早一个月完成,但迄今为止,外界能看到的 Rubin 公开基准数据仅来自 CoreWeave 的工程样片,英伟达并未像 OpenAI 那样开放第三方进入实验室自由测试。SemiAnalysis 认为,这反映的不是硬件本身的差距,而是软件成熟度的差距。
从零开始构建软件栈,反而让 OpenAI 得以摆脱历史包袱,做出更干净的架构决策。OpenAI 使用自研内核编程语言 Gluon(基于 Triton 构建)以及内部推理引擎 "Teacup",并借助 Codex 快速完成内核调优。SemiAnalysis 观察到,在不到两周的时间内,Jalape o 在特定交互速度下的吞吐量提升超过 2 倍;在 8 天内,团队将张量并行从 TP8 扩展至 TP32,实现了跨机架的全机柜规模部署。
不过,SemiAnalysis 也明确指出,目前的测试仅覆盖 8k1k 这一相对简单的工作负载,尚未完成 AgentX 多轮长上下文测试。在更复杂的智能体工作负载下,路由器、前缀缓存等组件的表现将成为新的考验。
下一步:B0 已入厂,10GW 版图徐徐展开
Jalape o 的故事远未结束。
据 SemiAnalysis 披露,目前公开测试所用的均为 A0 步进样片,而 B0 步进已进入晶圆厂,预计在每瓦性能上较 A0 再提升约 25%—— B0 单颗计算 die 的 MXFP4 算力将达 13.4 PFLOPs,TDP 维持在 700W。
在系统层面,OpenAI 与 Celestica 合作设计了完整的机架方案:每个 ASIC 机柜包含 128 颗 Jalape o 芯片,双机柜系统总功耗约 160kW,与英伟达 GB300 双宽机柜相当。
更大的战略图景是,OpenAI 与 Broadcom 已签署 10GW 定制加速器合作协议,这一量级大致相当于十座核电机组的满发功率。
华尔街见闻文章写道,OpenAI 芯片负责人 Richard Ho 表示,公司已达到能够切实降低基础设施成本的功耗和成本水平," 这只是第一步 "。他同时强调,英伟达仍是重要合作伙伴,OpenAI 对算力的需求极为庞大,短期内不会放弃现有供应商。
分析人士指出,Jalape o 的意义或许不在于它今天能替代多少英伟达芯片,而在于它证明了一件此前被普遍质疑的事:一家 AI 公司,用 AI 工具,在创纪录的时间内,造出了一颗真正具备竞争力的芯片。这个飞轮,已经开始转动。

