群联把一颗 NPU 和 64GB 内存塞进 SSD:PyTorch 和 llama.cpp 直接在盘上跑,但没名字、没主控型号、也没送样时间
AI 服务器一天到晚在做一件很笨的事:把数据从硬盘搬到内存,再搬到 CPU 或 GPU,算完,把结果搬回去。数据量越大,搬的时间越长,越贵的加速卡就越容易空转等着喂数据。群联电子(Phison)在 SC26 上提出的方案很直接——别搬了,让硬盘自己算。
11 月 18 日至 19 日,在芝加哥举行的 Supercomputing 2026(SC26)上,这家做 SSD 主控的台厂展示了三套面向 AI 与 HPC 的存储技术。最受关注的一套是"计算型存储"(Computational Storage):在一块企业级 SSD 里加入神经网络处理器(NPU)和 64GB 内存,让 PyTorch、vLLM、OpenVINO、llama.cpp 这些开发者已经在用的框架直接跑在盘上,只把最终结果回传给服务器。
需要先说清楚两件事。第一,群联官网的新闻中心没有为这套东西单独发一份可抓取的新闻稿,本文的事实基于工商时报的现场报道、Tom's Hardware 的独立核实稿、ElectronicsForU 的官方引语稿,以及 TechSpot、TechPowerUp 的后续报道,属于基于多家媒体转述整理。第二,这套设计目前没有产品名、没有主控型号、也没有送样时间,官方自己说展示的许多产品和特性"仍在开发中"。
3分钟看懂:先讲结论
- 它是什么:一块内部集成 NPU 与 64GB 内存的企业级 SSD 设计方案,能在盘上直接跑 PyTorch、vLLM、OpenVINO、llama.cpp。
- 为什么重要:AI 推理的瓶颈常常不是算力,而是数据从存储搬到计算单元的这段路。把计算推到数据旁边,理论上能砍掉大部分搬运。
- 官方给的数字:NPU 36,800 DMIPS,64GB 内存,内存带宽 130GB/s;适用负载的数据传输量可减少 10 到 100 倍。
- 和主机接口的对比:130GB/s 是群联自家下一代 PCIe 6.0 控制芯片对外 28GB/s 的 4 倍以上——也就是说,盘读自己的数据,比把数据送出盘快得多。
- 现在能买吗:不能。没有名字、没有主控型号、没有送样时间,连用什么存储介质都没说。
- 最容易误读的地方:36,800 DMIPS 是几十年前的 CPU 整数基准,不是 AI 算力;整场发布没有给任何 TOPS 数字。
为什么要把算力放进盘里
先把问题讲明白。一个 AI 服务器处理请求时,常见流程是:从 SSD 读出需要的数据集(可能是几 TB 的日志、向量、影像、训练样本),送进主机内存,再由 CPU 或 GPU 计算。这条路上,真正做计算的时间可能只占一小部分,剩下都在搬。
搬运动作有三个代价:占用 PCIe 带宽、占用主机 CPU 和内存、让昂贵的加速卡空转等数据。数据集越大,这三项越明显。群联的思路是把一部分可以在数据原地完成的处理——并行扫描、过滤、初步推理——放到 SSD 内部执行,只把结果送回主机。
官方给出的效果口径是:对适用的工作负载,数据传输量可以减少 10 到 100 倍,同时释放主机 CPU 的算力。这里的"适用"很关键:能被并行扫描、能在盘上就地筛掉大部分数据的任务受益最大;需要把完整数据集反复读进显存的任务,收益会小得多。
这套东西具体长什么样
按工商时报与 ElectronicsForU 记录的官方口径,这套计算型存储架构有三个关键部件:
- 神经网络处理器(NPU):官方标注 36,800 DMIPS。
- 盘载内存:64GB,带宽 130GB/s。
- 软件兼容层:支持 PyTorch、vLLM、OpenVINO、llama.cpp,官方明确说开发者"无须使用特殊程式开发工具"就能基于这套架构开发应用。
第三点是这套方案与过去同类尝试最大的差别。盘内计算不是新概念,但历史上它往往要求客户自己写底层软件、自己做 IP 适配,落地门槛极高。群联这次主打的是"你现有的框架直接能用"。
130GB/s 到底有多快
这个数字值得单独拆一下,因为它是整套方案里最有说服力的部分。
群联同一场发布的 X3(PS5303)企业级 SSD 控制芯片,走 PCIe Gen6 x4、NVMe 2.3 接口,目标是 28GB/s 循序读取、680 万 IOPS 随机性能——这已经是目前商用 SSD 的顶端水平,大致是 PCIe Gen5 产品的两倍。
但盘上那块 64GB 内存的带宽是 130GB/s,是这条主机链路的 4 倍以上。换算过来就是:数据在盘内部流转的速度,远高于数据离开盘的速度。这正是"把计算搬到数据旁边"能成立的前提——如果盘内带宽和出盘带宽差不多,那在盘上算和在主机上算没有本质区别。
TechSpot 把这个对比讲得最直白:这块盘读自己的数据,比把它交给服务器快得多。
同一场还发了另外两项
计算型存储只是三套技术里的一套。另外两套虽然不那么抢眼,但对判断群联的真实进度更有用。
第一套是 PCIe Gen6 控制芯片 X3(PS5303):PCIe Gen6 把每通道速率从 PCIe Gen5 的 32 GT/s 提到 64 GT/s,翻了一倍,代价是信号完整性变难做。群联的应对是从控制芯片一路做到物理层器件——除了 X3 主控,还有 PS7161 Redriver,官方称这是首款进入 PCI-SIG 整合者清单的 PCIe 6.0 Redriver。这条产品线是能查到认证记录、有明确型号和规格的,属于"快要能买"的东西。
第二套是 Mixed Media 混合介质:用一颗控制芯片、16 个通道,把高耐久的 pSLC 和大容量的 QLC 做在同一块盘里,等于把"高速缓存盘 + 大容量存储盘"合并。官方给的可靠性例子很好懂:24 块盘的系统里,坏掉一块只损失约 4% 的缓存容量;传统"专用缓存盘"架构下,坏掉一块可能损失 25%。而且走标准 NVMe 接口,不需要额外的主机端软件。
把三项放在一起看,能看出层次差别:X3 和 Mixed Media 是产品化路径清晰的东西,计算型存储是架构提案。
现在能不能下单:不能
这是本文最重要的一节。
Tom's Hardware 在 11 月 20 日的报道里把这些缺失一条条列了出来:两款新设计都没有产品名,没有具名的主控芯片,没有送样时间;官方也没说这块盘用的是什么类型的存储介质。群联自己的说法是,SC26 上展示的许多产品和特性仍在开发中,等最终定型才会推出。
换句话说,现在能确认的是"群联做出来了这套架构并能演示",不能确认的是"什么时候能买到、卖多少钱、跑得多快"。任何把它写成"已发布产品"的说法都超出了现有证据。
和三星 SmartSSD 有什么不一样
盘内计算这条路,三星走过。2018 年三星推出 SmartSSD,在盘上放了一颗 FPGA;2022 年出了第二代。但 TechRadar 去年报道,这条产品线已经基本从三星的产品序列里消失,部分原因正是生成式 AI 的爆发——市场对"原始存储容量"的需求,远远大于对"盘内计算"的需求。
三星方案另一个被反复提到的障碍是:客户要自己开发软件和 IP,落地成本高。
群联这次的差别就在这一点上。它承诺支持 PyTorch、vLLM、OpenVINO、llama.cpp——开发者手上已有的东西。TechSpot 的判断是,如果那颗 NPU 真的像官方说的那样能干,这个差别可能让盘内计算这一次走得比上次远。但"如果"两个字很重要:目前没有任何第三方测试过这颗 NPU 的实际性能。
数字的边界:36,800 DMIPS 不是 AI 算力
这是最容易被标题带偏的地方。
整场发布里,群联给出的唯一"算力"数字是 36,800 DMIPS。DMIPS 是 Dhrystone MIPS,一个上世纪 80 年代设计的整数运算基准,用来衡量通用 CPU 的整数性能,和今天衡量 AI 加速器的 TOPS、FLOPS 完全不是一回事。
Tom's Hardware 直接点出:这个数字更可能描述的是盘上配套的 CPU 核心,而不是 NPU 的 AI 处理能力;整份发布材料里没有任何 TOPS 数字。
所以正确的读法是:群联证明了"这块盘能跑起 PyTorch 和 llama.cpp",但没有给出"跑得多快"的可比指标。想知道它能不能承担真实推理负载,必须等第三方实测——尤其是出词速度、首字延迟、以及在 130GB/s 带宽下能撑住多大的模型。
时间线
- 2026-11-16 至 11-19:SC26 在芝加哥举行,群联现场展示三套存储技术
- 2026-11-19 10:36(台北):DIGITIMES 发出首篇现场稿
- 2026-11-19 10:49(台北):工商时报发出带 CEO 引语的完整中文报道
- 2026-11-19 08:28 UTC:ElectronicsForU 发出含 Phison US 总裁引语的英文稿
- 2026-11-20:Tom's Hardware 发出独立核实稿,逐条列出缺失项
- 2026-11-21 至 11-22:TechSpot、TechPowerUp、Guru3D、IT之家、cnBeta 跟进
- 产品化时间:官方未公布;两款设计均无名称、无主控型号、无送样时间
对谁有用:适用场景
- 数据密集型推理的运维方:日志分析、向量检索前置过滤、影像初筛这类"先在海量数据里挑出少量有用记录"的任务,最符合"减少 10 到 100 倍搬运"的描述。
- 机架功率和散热已经到顶的数据中心:把一部分计算挪到已有 SSD 槽位,不需要新增加速卡、不需要新增液冷。
- 想减少主机 CPU 占用的存储集群:官方明确把"释放主机 CPU 算力"列为收益之一。
- 正在评估存储架构的硬件团队:这套方案值得作为"计算型存储"路线的一个具体样本纳入比较。
不适用场景
- 需要确定性性能的生产系统:没有产品名、没有送样时间、没有第三方实测,现在无法做容量规划。
- 以显存带宽为瓶颈的大模型推理:盘内 130GB/s 对人类日常用的 SSD 是天文数字,但和 HBM 的每卡数 TB/s 不在一个量级;它解决的是"数据在存储里"的问题,不是"模型权重在显存里"的问题。
- 小规模、单机部署:这套设计的价值随数据规模放大,个人工作站和小团队用不上。
- 指望靠它替代 GPU 的人:官方没有任何这样的表述,36,800 DMIPS 也不支持这种解读。
怎么用:如果你在评估这条路
第一步,先算清自己现在有多少时间花在"搬数据"上。具体做法是抓一段真实的推理或分析任务,量出三段时间:从存储读数据、在主机内存与显存之间搬、真正做计算。如果第一段占比很高,这类方案才有意义;如果瓶颈在第二段或第三段,盘内计算帮不上忙。
第二步,把"适用负载"具体化。群联给的 10 到 100 倍是一个区间,上下限差 10 倍,说明收益高度依赖任务形态。可以先用软件在主机侧模拟"先过滤再传输",看能砍掉多少数据量,这大致就是盘内计算的理论上限。
第三步,等产品信息。目前没有型号、没有送样时间、没有价格,任何采购决策都只能先挂着。合理的动作是把它列进观察清单,同时盯两个信号:官方公布 TOPS 或实测出词速度,以及是否出现具名主控和送样计划。
避坑:几个容易读错的地方
- 别把 36,800 DMIPS 当 AI 算力。它是 CPU 整数基准,不是 TOPS。整份发布没有 TOPS。
- 别把"支持 PyTorch"读成"能跑大模型"。能跑框架和能跑得动某个具体模型是两件事,官方没给模型规模、没给 tok/s。
- 别把 130GB/s 和 HBM 比。130GB/s 是盘载内存带宽,对手是 PCIe 链路的 28GB/s,不是 HBM 的每卡数 TB/s。
- 别把"减少 10 到 100 倍数据传输"读成"快 10 到 100 倍"。省的是搬运量,不是计算时间;如果计算本身是瓶颈,收益会打折。
- 别把这次发布当量产公告。没有产品名、没有主控型号、没有送样时间,官方自己说仍在开发中。
- 别忽略三星的前车之鉴。SmartSSD 技术上行得通,但市场没接住;这次能不能不同,取决于那颗 NPU 的真实能力和开发者的接受度。
成本与时间预估
官方没有公布任何价格,也没有给出送样或量产时间表,任何具体数字都只能推算,不能当事实引用。
可以参照的两条线索:一是同场发布的 X3(PS5303)已经有明确型号与规格,说明群联把 PCIe Gen6 主控排在更前面;二是三星 SmartSSD 从 2018 首代到 2022 二代、再到产品线收缩,走完了大约四到五年,说明这条路的产品化周期不短。
现实的时间预期:先在 2027 年看到具名主控与送样计划,是比较合理的推测;真正进入企业采购清单,通常还要再经过一轮客户验证。这一切都以官方后续公布为准。
参考来源
- 工商时报(2026-11-19):https://www.ctee.com.tw/news/20261119700981-430201
- Tom's Hardware(2026-11-20):https://www.tomshardware.com/pc-components/ssds/phison-details-ssd-with-a-built-in-npu-and-64gb-of-memory-that
- ElectronicsForU(2026-11-19):https://www.electronicsforu.com/news/three-storage-technologies-target-ai-bottlenecks
- TechSpot(2026-11-21):https://www.techspot.com/news/114653-phison-shows-ssd-design-npu-64gb-memory-runs.html
- TechPowerUp(2026-11-22):https://www.techpowerup.com/355089/phison-previews-an-ssd-that-runs-ai-frameworks-on-its-own-npu
- DIGITIMES(2026-11-19):https://www.digitimes.com/news/a20261118PD260/phison-hpc-pcie-performance-data.html