关于ZAKER Skills 合作
全天候科技 13小时前

速度更快、功耗更低,OpenAI JALAPENO 芯片强势叫板英伟达 GB300

OpenAI 正加速推进 AI 芯片自研,旗下 Jalapeno 在关键基准测试中跑赢英伟达 GB300,最快将于今年晚些时候投入实际使用。

8 月 25 日,据彭博,OpenAI 表示,Jalapeno 在单位功耗可处理的 AI 工作量和响应速度两项指标上均领先英伟达 GB300。该芯片由 OpenAI 与 Broadcom 合作开发,主要用于支撑 AI 模型推理,有望帮助 OpenAI 降低对外部芯片供应商的依赖。

与传统芯片往往需要在吞吐量和延迟之间取舍不同,Jalapeno 同时具备高吞吐量和低延迟性能。OpenAI 芯片负责人 Richard Ho 表示,该芯片在 700 瓦低功耗下即可实现强劲性能,有助于降低数据中心的电力成本。

不过,OpenAI 并未将 Jalapeno 定位为英伟达芯片的全面替代品。Richard Ho 表示,OpenAI 对算力的需求极为庞大,未来一段时间仍将与多家供应商合作,英伟达也仍是重要合作伙伴。

与此同时,第二代 Jalapeno 已进入较成熟阶段,第三代芯片也已启动概念设计,OpenAI 正试图通过自研芯片进一步压低 AI 基础设施成本。

测试表现:两项指标超越英伟达 GB300

根据 OpenAI 使用公开基准测试系统进行的评测,Jalapeno 在功耗效率和响应延迟两个维度均优于英伟达 GB300,后者是该测试系统中排名最高的产品。

Richard Ho 在采访中表示,Jalapeno 在高吞吐量领域表现突出,意味着能够以更低成本服务更多用户;同时,其低延迟表现同样出色,对于注重响应速度的客户而言,可以显著缩短响应时间。

OpenAI 使用旗下一款小型开源模型,以及来自 DeepSeek 和月之暗面的第三方模型对芯片进行了公开测试。其中,Jalapeno 在月之暗面旗下 Kimi 模型上的优势最为明显,该模型也是测试中规模最大的模型。内部测试显示,该芯片在运行 OpenAI 尚未发布的多款大型高阶模型时同样表现良好。

OpenAI 在博客中指出,这表明该芯片的设计 " 随着工作负载增大和复杂度提升而愈发体现其价值 "。值得注意的是,此次测试并未纳入英伟达最新一代芯片 Vera Rubin,该产品目前刚刚开始出货。

定位推理阶段,不取代现有供应商

Jalapeno 专为 AI 推理阶段设计,即模型完成训练后响应用户指令、执行任务的阶段,并非用于 AI 模型训练,而训练领域正是英伟达技术的核心优势所在。

在推理领域,Jalapeno 的速度优势使 OpenAI 得以实现此前只能依赖特殊内存架构才能达到的性能。OpenAI 目前部分模型使用 Cerebras Systems 的技术,但这类芯片更适合规模较小的模型。

Richard Ho 表示,Jalapeno 能够处理更大规模的模型,从而形成差异化优势。

尽管如此,Richard Ho 明确表示,OpenAI 短期内不会放弃现有供应商。他表示,公司对算力的需求极为庞大,这也是签约众多不同供应商的原因,这种局面还将持续一段时间。

他同时强调,英伟达仍是重要合作伙伴:" 英伟达是非常好的合作伙伴,我们持续需要大量英伟达产品。"

研发提速,第二代已在路上

OpenAI 表示,公司借助自身 AI 模型进一步加速了 Jalapeno 的研发进程。Jalapeno 与 Broadcom 的合作于去年宣布,两家公司曾在今年 6 月强调该芯片创纪录的开发速度。

目前,第二代芯片已经推进至较为成熟的阶段。Richard Ho 表示,预计将在 " 未来几个月 " 完成流片。与此同时,第三代芯片的概念设计工作也已经启动,目标是进一步压低 OpenAI 在全球范围内大规模铺设 AI 基础设施的成本。

Richard Ho 表示,公司已经达到一个能够切实降低基础设施成本的功耗和成本水平," 这只是第一步 "。

全天候科技

全天候科技

提供专业快速完整的科技商业资讯

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容