⚙️ 一个机柜塞 256 颗 CPU：英伟达把「Agent 密度」做成了可下单的硬件

11 月 4 日至 5 日，两件事几乎同时发生：Supermicro 宣布它的 NVIDIA Vera CPU 机柜开放询价，单柜 256 颗 CPU、标称能同时跑 2.25 万个 Agent 沙箱；第二天，NVIDIA 官方博客给出一组新对比——在 100 兆瓦数据中心的假设下，Vera 每瓦能养的 Agent 数是最快 x86 的 1.6 倍。这不是又一颗新芯片，而是「Agent 密度」第一次变成可以报价的硬件。

3分钟看懂：AI 工厂为什么突然需要「一堆 CPU」

先说结论：过去两年大家在抢 GPU，现在瓶颈挪到了一块没人愿意看的板子上——CPU。

原因在 Agent 的工作方式。一个 Agent 接到任务后，并不会全程待在 GPU 上。它的循环大致是：让模型想一下（GPU），然后去跑代码、调工具、开一个隔离沙箱、查一次数据库、读一批文件（CPU），再回到 GPU 想下一步。

这个循环里，GPU 那一段被优化得越来越快，CPU 那一段没跟上。当一家公司把 Agent 数量从几十个拉到几千个，GPU 集群还在跑，但 CPU 端开始排队——沙箱开不出来、工具调用要等、编排层卡住，GPU 反而在空转等数据。

所以「Agent 密度」这个词的意思是：一台机器同时能养多少个 Agent 在干活。它不是单核算得多快，而是核数、内存带宽、延迟稳定性三件事一起决定的。

这台机柜里到底装了什么

Supermicro 这台机器的官方参数（基于其新闻稿及 DIGITIMES、The Data Center Engineer 等多家媒体转述整理）是：

这里有个容易被忽略的细节：机柜里不是「一颗强 CPU」，而是 256 颗。按 22,528 核除以 256，每颗 88 核——正好对上 Vera 的规格。也就是说，这个机柜本质上是把「CPU 密集型任务」从 GPU 机柜里彻底拆出来，单独做成一排。

配套的安全架构也值得说一句：NVIDIA OpenShell 跑在 Vera 上做最小权限控制，NVIDIA Sentry 跑在 BlueField-4 DPU 上做带外监控，官方说法是能在毫秒级把越界的 Agent 隔离。这件事占用的是 DPU，不是主机 CPU——对跑几千个 Agent 的团队来说，这个设计比算力数字更实际。

Vera 这颗 CPU 本身

芯片不是新的（5 月 31 日发布，8 月起陆续交付），但规格值得摆出来，因为下面所有数字都要靠它解释：

「单片 die」这个选择值得解释一句。现在主流服务器 CPU 都是把多个小芯片拼起来（chiplet），成本低、良率高，但跨芯片通信会带来延迟抖动。Vera 反其道而行，做成一大片，官方给的理由是「可预测的延迟」——Agent 场景下，最怕的不是平均慢，而是偶尔卡一下。

官方给的三组数字，和它们各自的参照物

NVIDIA 这次的核心不是「快多少倍」，而是三组针对不同约束的数字。必须说清楚：三组的对比对象不同，不能相加，也不构成同一个测试。

• 1.6 倍「每瓦 Agent 数」——对比对象是「最快的 x86 CPU」。这是能耗约束下的容量比。
• 2 倍「Agent 执行速度」——对比对象是「最省电的 x86 CPU」。这是速度比。
• 1.8 倍「沙箱类负载性能」——对比对象是「领先的 x86 CPU」。这是单点负载比。

三组数字都来自 NVIDIA 自己的 100 兆瓦数据中心建模与内部测试，官方在页面上明确写了「基于实测与预测数据，可能变化」，也没有点名任何一款 Intel 或 AMD 的具体型号。这是读这类数据时最该盯住的一点：不说型号，就无法验证。

伙伴侧的数据则由 NVIDIA 转述，本文基于多家媒体转述整理，均为厂商口径：

• Perplexity：Agent 编码任务比传统 CPU 快 1.5 倍，计划在生产系统部署
• DeepInfra：Agent 编排场景最高达最好 x86 的 2.2 倍
• Daytona：1,000 个 Agent 沙箱上线 10.8 秒，x86 对照为 88.4 秒
• ClickHouse：标准二进制、未做 Vera 专属调优，176 核近线性扩展，登顶 ClickBench 硬件榜
• DuckLabs：TPC-H SF1000 中位数约为 Intel Xeon 6 基线的 1.5 倍
• Modal：每核沙箱吞吐最高 2 倍，负载越重差距越大

为什么这件事值得单独说

第一，CPU 第一次按「能养几个 Agent」来卖。 过去服务器 CPU 的报价逻辑是核数、主频、缓存；这台机柜的卖点直接写成「22,500 个并发沙箱」。计量单位变了，采购逻辑也会跟着变——从「买多少核」变成「买多少个能同时干活的 Agent 位」。

第二，电力成了硬约束，效率比峰值重要。 100 兆瓦这个假设不是随便写的。现在大型 AI 数据中心的瓶颈往往不是机房面积，是并网容量。在这个前提下，「每瓦能养几个 Agent」是能直接换算成收入的指标，而单核跑分不是。

第三，液冷和 800VDC 从「选配」变成「默认」。 这台机柜是 100% 液冷，电源侧还给了 800VDC 侧柜 + 电池备份替代 UPS 的方案，官方说法是省空间、提升端到端转换效率、降 CapEx 和 OpEx。这些不是给评测看的，是给机房施工队和电气工程师看的——意味着采购这类机器，机房本身要跟着改造。

怎么用：三类人该关注什么

如果你在智算中心或自建 AI 集群。 关注点不是 1.6 倍，而是「你的 Agent 负载里 CPU 占多少」。如果 Agent 主要在做代码执行、沙箱隔离、工具编排，CPU 端确实会成为瓶颈；如果你的负载还是以批量推理为主，这台机器的收益要打折。另一个必须算的是液冷改造成本——它会把「便宜」这件事吃掉一部分。

如果你在企业里推 Agent 落地。 这台机器给了一个新的容量规划口径：按「同时在线 Agent 数」而不是「并发请求数」估算。这个口径更贴近真实体验，因为 Agent 的响应时间取决于它排队等 CPU 的时间。

如果你只是关心芯片行业。 值得记的是这个动作本身：GPU 厂商开始卖「配套 CPU 的整机柜」，而且卖的是密度不是速度。这说明 AI 基础设施的竞争，已经从「谁的芯片快」走到「谁能把一个机柜的有效产出做高」。

适用场景 & 不适用场景

适合：

• 大量并发 Agent 沙箱（代码执行、工具调用、评测循环）
• 强化学习的并行环境模拟——官方明确把 RL 列为主要场景
• 需要与 GPU 机柜解耦的 CPU 密集型负载：数据库、数据分析、集群调度（Slurm / Kubernetes）、大规模软件构建
• 已经决定上液冷、且在规划 800VDC 供电的新一代机房

不适合：

• 以批量推理为主、Agent 并发不高的场景——用普通 x86 双路服务器更划算
• 机房还是风冷、近期不打算改造的团队——液冷是硬门槛（虽然官方也提供风冷 1U/2U 单机，但不是这个机柜形态）
• 需要「买回来就能跑」的小团队——这台机器是机柜级交付，配套的供电、冷却、运维流程都要跟上
• 想靠它替代 GPU 的人——它不产生 token，只负责让 GPU 别闲着

避坑：五个必须知道的限制

1. 全部是厂商自测，没有独立第三方复测。 NVIDIA 页面上引用的 Phoronix 测试是 2026 年 5 月的事，且是单路 CPU 的通用负载，不是这次这台机柜。1.6 倍、2 倍、1.8 倍都不能当成你的实际收益。
2. 对比对象不点名。 官方只写「最快 x86」「最省电 x86」「领先 x86」，没有具体型号和代次。没有型号，就没有可比性——这是最该追问的一点。
3. 价格、整柜功耗、交付周期都没公布。 现在是「开放询价」，不是「可以下单」。整柜功耗官方没给，只能按 256 颗 × 450W 粗略推算，实际还要加上内存、DPU、风扇/泵和转换损耗。
4. 内存是板载 LPDDR5X，不能像 DIMM 那样加。 SOCAMM 模组可插拔、可现场更换，但容量是出厂配置决定的上限（最高 1.5TB）。习惯「先买小内存、以后加条」的团队要改预算方式。
5. 这不是新芯片。 Vera 5 月 31 日发布、8 月起交付，Anthropic、OpenAI、SpaceXAI、OCI、AWS 等已陆续收到系统。本轮的新东西是「机柜级系统开始报价」和「新的对比数据」，不是「英伟达首发 CPU」。别被时间线带偏。

成本与时间：现在能算的和算不了的

能算的：单颗 Vera 是 450W TDP，256 颗就是 115 千瓦的纯 CPU 热负载，还没算内存、DPU、泵和电源转换损耗。一台这样的机柜，电费和冷却容量要按「百千瓦级」规划，不是按「一台服务器」规划。

算不了的：机柜单价、整柜实际功耗、交货周期。官方只到「开放询价」这一步。

时间线上，如果你在评估：Vera 从发布到交付用了约三个月（5 月底发布，8 月底首批交付 AWS/OCI/三家 AI 实验室），机柜形态从新闻稿到「可报价」用了约一周。这个节奏说明供应链已经跑起来了，不是纸面产品。

行动建议

第一步，先量自己的 CPU 占比。 在你的 Agent 负载里，CPU 时间占端到端延迟多少？超过三成，这台机器的逻辑对你成立；低于一成，先别急。

第二步，算机房账，不是算芯片账。 液冷改造、800VDC 供电、电池备份替代 UPS——这三项决定总拥有成本，往往比机柜本身贵。先问机房能不能接。

第三步，向厂商要三样东西。 一是对比对象的具体型号与代次；二是整柜实测功耗（不是 TDP 相加）；三是与你业务同类的第三方或客户侧数据。三样拿不到，就别把 1.6 倍写进预算模型。

参考来源