
据悉,该论文系统阐述了 CPO 在高性能计算与 AI 领域的开发进程与挑战,并概述了下一代光互连技术的发展轨迹。研究人员为下一代 AI 基础设施设定了明确的技术目标——将光互连扩展到内存接口。
具体而言,论文通过数据重申了关于 AI 集群的经典问题:算力每两年增长约 3 倍,而互联带宽同期仅增长约 1.4 倍,这种差距造成了 " 带宽墙 ",其结果是造成大量算力硬件空转。
研究人员纷纷将 CPO 定位为克服这一问题的核心。弗吉尼亚大学教授 Kyusang Lee 指出:" 用光互连取代存在固有物理限制的铜互连,是实现未来可扩展性的最有希望的途径。"SK 海力士 AI 基础设施团队负责人 Seunghoon Hong 则强调:"CPO 从根本上改变了数据在人工智能系统中传输的方式,消除了计算扩展的最大障碍之一。"
基于上述观念,SK 海力士提出了 " 以光为中心 "(optics-centric)架构,即通过光子中介层直接连接存储器和处理器。
这种架构的意义在于,多个 AI 加速器可共享同一个大容量内存池,无需为每个加速器单独配备独立内存。这一设计不仅能提升内存利用效率,还能让 AI 基础设施在模型规模增长的过程中,具备更灵活的扩展能力。其将最大限度地提高系统数据传输效率,预计将实现每个节点超过 100 Tb/s 的带宽、低于 1 pJ/bit 的能耗以及小于 10 纳秒的芯片间延迟。
SK 海力士方面表示,CPO 是系统级 HBM 创新规模化的关键。随着客户不断构建更大规模的人工智能系统,光互连的重要性只会与日俱增。展望未来,将继续扩大与客户和生态系统合作伙伴的开放式合作,加速人工智能基础设施领域的创新。
Seunghoon Hong 进一步指出,存储公司正在从提供单一组件的角色,演变为通过 CPO 等技术帮助提升客户整个系统竞争力的合作伙伴。展望未来,公司将继续扩大与客户和生态系统合作伙伴的开放式合作,加速人工智能基础设施领域的创新。