关于ZAKER Skills 合作
36氪 1小时前

消息称美光正探索开发近 GPU NAND 闪存以运行更大的 LLM

据报道,美光正探索开发高耐久性 NAND 闪存模块的方案,研究如何将 NAND 闪存更靠近 GPU,以处理那些不需要传统 HBM 或常规 DRAM 模块那样高延迟和高带宽的工作负载。这种架构目前被称为 " 近 GPU NAND"(Near-GPU NAND),旨在兼顾密度和耐久性。该方案允许 GPU 访问密度低于传统 TLC 或 QLC NAND 的 NAND 闪存池,但重点在于提升 I/O 速度、带宽和读取速度。该技术将使 GPU 能够直接访问数百 GB 的潜在存储池,LLM 将不再受限于内存。(新浪财经)

36氪

36氪

让创业更简单

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容