关于ZAKER Skills 合作
财联社-深度 33分钟前

押注开源推理!英伟达携手 Equinix、Together AI 推出企业 AI 推理方案

财联社 9 月 3 日讯(编辑 李莹)全球 AI 芯片龙头英伟达近日在企业 AI 推理市场再落一子。当地时间周三,其联手全球数据中心与互联服务商 Equinix、开源模型推理平台 Together AI 面向企业用户推出分布式 AI 推理服务。

分布式推理,是指把推理任务拆分,调度分布在不同地域的多台服务器协同完成计算,让推理能力贴近企业本地数据。

该服务定名 "Equinix Inference Exchange",于当地时间周三在 Equinix 首届客户与合作伙伴大会 "Equinix Horizon" 上发布,计划于 2027 年第一季度上市。

Equinix 表示,该服务主要面向三类需求:让推理更贴近用户与数据以降低时延、帮助企业从封闭模型迁移到开源模型以控制成本,以及在受监管行业中把模型运行在指定地区的机房内,满足数据不出境等要求。

三方分工

具体分工上,英伟达在其中承担算力与技术底座角色,输出企业级参考架构(Enterprise Reference Architectures),并提供 AI 基础设施硬件。

NVIDIA Enterprise Reference Architectures 是英伟达一套标准化 AI 基础设施参考方案,为生产级 AI 环境提供覆盖计算、网络、存储与软件的整体设计,目标是最大化 "AI 工厂 " 吞吐量、压低单位 token 成本,使企业不必从零验证硬件选型与组网方案。

报道指出,三方构成互补的三层:Equinix 在底层提供电力、先进制冷与日常运维,并通过其互联平台 Equinix Fabric 连接云、网络与 AI 服务商。

英伟达居中提供算力与参考架构;Together AI 在最上层运行推理平台,支持超过 200 个开源模型,并提供多租户共享部署与单租户独享环境两种形态。

报道指出,承载上述方案的平台规模亦是合作基础—— Equinix 目前在 77 个都市区运营超过 280 个数据中心,拥有逾 230 个云接入点,超过 1.05 万家企业在其中立平台上实现互联。

Equinix 表示,全球前十大 AI 模型提供商中的八家、前十大 AI 云服务商中的九家已将基础设施落地在其数据中心内。

推理成主力

该服务的推出与英伟达近期自身的业务重心迁移相互印证。

据媒体报道,英伟达在提交美国证券交易委员会的 2026 财年年度报告(财年截至 2026 年 1 月 25 日)中明确指出,推理已超越训练成为主导性负载,AI 不再只是被构建,而是被大规模使用。

报告将其归因于智能体的普及——智能体在推理、规划与解决问题的每一步都在生成 token,随着其被部署到更多工作流与行业,算力需求随之放大。

这一判断也体现在产品定位上。据报道,英伟达创始人兼首席执行官黄仁勋在 2026 财年第四季度财报公告中称,智能体 AI 的拐点已经到来,搭载 NVLink 的 Grace Blackwell 是当前推理领域的领先平台,可将单 token 成本降低一个数量级。

第三方研究显示同向趋势。麦肯锡 2026 年 2 月发布的测算显示,全球数据中心需求将从 2025 年的 82.3 吉瓦增至 2030 年的 219 吉瓦;其中 AI 推理负载由 20.9 吉瓦升至 93.3 吉瓦,年复合增速 35%,同期 AI 训练负载由 23.1 吉瓦增至 62.2 吉瓦,增速 22%。

麦肯锡由此判断,到 2030 年推理将占 AI 算力的一半以上、占数据中心总需求的三成至四成。

该机构同时强调,两类负载对基础设施的要求截然不同:训练需要高密度大型园区,配套专门的机电与散热系统;推理则更倾向布局在低时延、网络连接强、能效表现好的城域及近城域站点。

业内指出,这类城域及近城域站点,正是 Equinix 这类互联型数据中心运营商的 " 主场 "。

相关阅读

最新评论

没有更多评论了

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容