Marvell 发布第二代 Structera X:六通道 CXL 3.2 内存扩展卡,给 AI 推理"外挂"最高 9TB 内存
10 月 12 日,Marvell 在 OCP 全球峰会上发布了第二代 Structera X 内存扩展器——3406(DDR4)和 3506(DDR5),官方称这是业界首个六通道 CXL 3.2 内存扩展卡,面向 AI 推理场景。产品将在 2027 年一季度送样,第一代架构(2404/2504)已经在给超大规模云厂商出货。
先看关键数字
- 六通道内存,比上代多 50%:单控制器支持 6 个 DDR4 或 DDR5 通道,3406 最多 18 个 DDR4 RDIMM 插槽、单卡最高 9TB;3506 最多 12 个 DDR5 RDIMM 插槽、单卡最高 6TB。
- 一个内存池给 4 台主机共享:业界首个四主机 CXL 共享连接,PCIe 6.0 x16 提供最高 256GB/s 主机带宽。
- LZ4 内联压缩,吞吐 250GB/s:比上一代快 5 倍,官方称可带来 2–3 倍的有效内存容量。
- 推理首 token 快 40–50%:同等上下文长度下,LLM 服务的 time-to-first-token(TTFT)最高提升 40–50%;或同等延迟下支持 2 倍更长的上下文窗口。
它到底解决什么问题
一句话:大模型推理越来越「内存受限」。模型越大、上下文越长,推理时要在显存/内存里维持的 KV-cache 就越大,而内存容量直接卡住首 token 延迟、吞吐和加速卡利用率。Marvell 的思路是把内存从加速器「外面」用 CXL 总线扩出来——GPU/加速卡负责算,Structera X 负责存,各干各的。
对跑推荐模型(DLRM)的厂商,官方数据是单控制器每秒查询量(QPS)最高翻倍,嵌入表容量提高 2–3 倍。
工程细节里值得注意的几处
- StructGuard 企业级 RAS:高级纠错机制,应对 DRAM 颗粒故障——这是数据中心级产品,可靠性是硬指标。
- 后量子安全:内置后量子密码学 + Caliptra 2.0 + CXL IDE 链路加密 + AES-256 内存加密,官方称是业界首个在 CXL 内存扩展器上做这一整套的产品。
- 软件栈复用:第二代沿用一代的驱动与生态集成(CPU/内存厂商、OEM/ODM、系统集成商),所以送样节奏可以很快。
行业背景:为什么是现在
OCP 2026 峰会今年的主题是「agentic AI 把数据中心从芯片推进到电网」——整套基础设施(硅片、机架、网络、散热、供电)要协同优化。内存扩展正是这个趋势里的一块拼图:算力堆得越高,内存瓶颈越明显。
Marvell 在 CXL 生态里已经站了很久:今年 4 月 NVIDIA 宣布砸 20 亿美元入股 Marvell、用 NVLink Fusion 打通自定义 AI 芯片生态时,Marvell 的 CXL 产品线就是重要筹码之一。这次发布还有 Meta 硬件工程总监 Yashar Bayani 的公开背书(新闻稿「行业生态支持」部分)。
对普通读者意味着什么
普通用户暂时感受不到——这是给超大规模数据中心的产品,2027 年才送样。但它回答了一个很多从业者关心的问题:AI 推理的成本曲线,不只靠堆更强的 GPU,也能靠「存得下」来降本。如果你关注长上下文、大模型服务价格,CXL 内存扩展这条路值得放进观察清单。
来源说明:本文基于 Marvell 官方新闻稿(2026-10-12,BusinessWire 20261012029557)及 OCP Summit 现场 demo 的多家媒体转述整理。