内存离 GPU 最远能放 50 米:Marvell 用光把 32TB 内存池搬进机架,英伟达的护城河被撬了一角

AI 芯片越算越快,喂数据的速度却跟不上——这就是困扰整个行业多年的“内存墙”。Marvell 最近展示的 Photonic Fabric Memory Module(光子结构内存模块),给出了一个很激进的解法:不用铜线,用光把内存和 GPU 连起来,最远距离可达 50 米,实用设计瞄准 25 到 30 米。

以前为什么不行:铜线 1.5 毫米就到头了

传统设计里,最快的内存必须紧贴处理器,因为铜线在 AI 芯片要求的速度下信号衰减很快,业内常说的电气极限只有约 1.5 毫米。内存不够了怎么办?传统办法是再买一块昂贵的 GPU,内存跟着芯片一起买。

Marvell 的方案反过来了:16 个模块组成一个设备,可共享 16TB 到 32TB 的 DDR5,外加约 1TB 的 HBM3e,最多供 16 台主机共享同一个内存池。内存和算力从此可以分开扩——缺内存就加内存,不用为了内存多买处理器。

盯住两个数字,别被概念带偏

一是延迟:厂商给出的光纤互联延迟约在 200 到 300 纳秒量级,仍需在真实系统里验证,不能直接当成“跟本地内存一样快”。二是时间表:这套模块目前处于展示阶段,客户送样目标是 2027 年,离大规模量产还有距离。英伟达也没闲着,它一方面入股 Marvell 约 20 亿美元,一方面自研 BlueField-4 等方案对冲——巨头打架,往往是两边下注。

写在最后

Marvell 这一步的真正含义,是把“内存”从一个配件升级成一种可以独立规划的基础设施。AI 推理越来越吃长上下文和 KV 缓存,谁先把内存池做大、做便宜,谁就能在同样的机房和功耗里多跑几个模型。光子互联是不是最终答案还不好说,但“内存独立扩展”这个方向,已经回不去了。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注