⚙️ 5 瓦跑最高 1000 亿参数：DEEPX 二代芯片流片，把计算塞进了内存

11 月 9 日，EE Times 发出一篇署名独家：韩国端侧 AI 芯片公司 DEEPX 的第二代芯片 DX-M2 已经流片（tape-out），并且拿到了三星定制的 LPDDR5X-PIM 内存样片，正在公司内部测性能。这两件事此前都没有公开过——10 月你能查到的还只是"可以预约工程样片"，现在它有了硅片。

3分钟看懂：端侧跑大模型，为什么一直卡在 5 瓦这条线

先说结论：想在机器人、无人机、AI 电脑上跑大模型，真正的天花板不是芯片算得多快，而是电和内存。

大模型生成文字的过程，是一步一步往外吐 token 的。每吐一个 token，芯片都要把模型的一部分权重从内存搬到计算单元，算一下，再搬下一批。模型越大，要搬的东西越多。搬得慢，就在等内存；搬得多，就费电。而功耗一高，散热、电池、体积全都跟着崩。

这就是为什么端侧设备常年只能跑几 B 到十几 B 的小模型，参数一上百 B，基本就得回云端。

存内计算（PIM，processor-in-memory）的思路很直接：既然"搬"是浪费，那就别搬。把矩阵向量乘法（GEMV）这种本质上就是把一行行权重读出来求和的运算，直接放进内存颗粒里算完，只把结果传回芯片。省掉的是整条搬运链路的时间和电。

DEEPX 这次做的，就是把这条路塞进了一颗 5 瓦的端侧芯片里。

这颗芯片到底做了什么

DX-M2 是 DEEPX 的第二代端侧 AI 加速器，第一代 DX-M1 走的是视觉推理（25 TOPS INT8、139 美元、三星 5nm 量产），二代直接跳到跑生成式模型。

按 EE Times 的采访内容（记者 Sally Ward-Foxton 直接采访了创始人兼 CEO Lokwon Kim 和战略营销总监 Tim Park）：

一句话概括：把过去只能在云端跑的量级，压进了 5 瓦的功耗预算里。

6.7 倍是怎么来的，代价又是什么

这是整篇报道里最需要冷静看的一段。

DEEPX 的模拟结果显示：把 GEMV 这类运算从 DX-M2 卸载到三星的 LPDDR5X-PIM 上，在 Llama3.1-8B 上能做到 6.7 倍的 tokens/s。

但 Kim 自己把代价说清楚了：这 6.7 倍不是白来的，整体功耗要涨到 2.7 倍。DEEPX 的判断是，可以在同样的功耗预算内做出 2 倍的性能提升——这才是他们真正打算交付的数字。

还有两个必须点出来的前提：

一是编译器没做完。Kim 的原话是支持这种运行模式需要"大量的手工工作"，目前只有一个跑在 PIM 模拟环境上的原型编译器，硬件模块正在做，物理环境下的验证还没开始。也就是说，6.7 倍这个数字现在既不是实测，也还没有可用的软件去兑现它。

二是内存本身还是样片阶段。三星的 LPDDR5X-PIM 是定制方案，DEEPX 说和三星存储合作了一年半，样片已经到手、在内部测，但离量产供货还有距离。

产品会做成什么样、什么时候能买到

DEEPX 官网已经把三个型号的参数挂出来了（厂商自述，开发中规格可能变）：

时间表方面（基于多家媒体转述整理）：日本分销商 Koshida Tec 在 10 月 2 日就开始接受工程样片预约，说 2027 年上半年供货；The Elec 在 11 月 8 日的报道里写，DX-M2 量产目标是 2027 年下半年。

也就是说，现在下单买不到，最快也要等一年半。

谁会用：机器人、AI 电脑、车上、智能家居

EE Times 里 Tim Park 描述的需求很具体：机器人公司现在大多拿 NVIDIA 的 Thor 做原型，但真到量产就被功耗和散热逼着找替代方案；车企想在车里跑 Agent；AI PC 想在笔记本和工作站上找"甜点"配置。

DEEPX 给的迁移方案是这套里最实用的部分：客户把 API 名从 Isaac 换成 Newton，管线不用重写，就能在自己的硬件上跑同一套流程。Kim 的说法是切换时间不到一秒，续航能到 20 倍。

这话要打折听——20 倍续航是拿自己的低功耗芯片对比 GPU 方案，且是厂商口径，没有第三方复测。但"改个 API 名就能迁"这件事本身，如果成立，确实是机器人团队最在意的成本项。DEEPX 说目前有 17 个兼容库，已经用同一份源码在基于 DX-M1 的机器人上跑通过。

已经落地的部分：现代汽车集团的机器人实验室在用 DX-M1（DAL-e 配送机器人和 MobED 移动平台）；和三星在合作下一代智能家居中枢；正在接入 AWS IoT 生态，用 Greengrass 做远程模型更新。

为什么这条新闻不只是技术问题

看一眼 DEEPX 现在的账，就知道 DX-M2 对它意味着什么。

DX-M1 从 2025 年 8 月起在三星 5nm 量产。截至 2026 年 10 月，公司在 10 个国家拿到 88 笔采购订单，合计约 1330 万美元。听起来是"全球化"，但平均一笔订单 15 万美元——这个量级说明它现在还处在"客户小批量验证"阶段，不是大规模出货。

财务上：2025 年营收 33 亿韩元（约合 240 万美元），营业亏损 201 亿韩元。2026 年营收指引从 1700 万美元上调到 4000 万美元。

所以 DX-M2 的定位很清楚：DX-M1 证明"能卖出去"，DX-M2 要证明"能上量"。而 5 瓦跑 100B 这个卖点，正好是端侧设备唯一愿意为之换芯片的理由。

怎么用：三类人现在能做什么

第一类，做机器人、无人机、智能摄像头的硬件团队。现在就可以去要 DX-M1 的评估套件（REGULUS 那条线是 Mobilint，别搞混，DEEPX 走的是自己的 DX-M1 / DX-M2 线），用你现有的模型跑一遍，先验证精度和功耗，别等 DX-M2。

第二类，做端侧 LLM 应用的软件团队。重点看 DXNN SDK 和它宣称的兼容面（OpenAI 兼容 API、PyTorch、llama.cpp、Ollama、vLLM、ExecuTorch）。如果真能零改动迁过去，那端侧 Agent 的成本模型会变。

第三类，只是想知道趋势的读者。记住一个判断标准：以后看到"端侧跑大模型"的宣传，先问三件事——多少瓦、多少 tokens/s、跑的是哪个模型。缺一个，数字就没意义。

适用场景 & 不适用场景

适合：功耗和散热被卡死的移动设备（机器人、无人机、车载、便携设备）；对数据不出本地有硬要求的场景（医疗、工业质检、安防）；网络不稳或流量成本高的部署环境。

不适合：要跑 200B 以上模型、或者要高并发吞吐的服务器场景；需要成熟工具链、今天就要量产的项目（DX-M2 要等 2027）；对"能不能买到"敏感、不接受样片风险的采购。

避坑：五个必须知道的限制

一，6.7 倍是模拟值，不是实测。物理环境还没跑，编译器还是原型。这个数字现在只能当"方向"看，不能当"规格"用。

二，流片这件事目前是单一来源。只有 EE Times 一家报道，DEEPX 官网的 newsroom 最新一条还停在 2026 年 7 月，没有对应的官方公告。所以这条消息的可信度建立在"EE Times 署名记者直接采访了 CEO"上，不是"官方发布"。

三，"World's First 2nm" 是厂商自称。DEEPX 官网原话是 "World's First 2nm"，但没说是"首颗 2nm AI 芯片"还是"首颗 2nm 端侧芯片"，也没有第三方确认这个时间点。

四，功耗数字的边界要说清。5W 是"仅 SoC"，不包含 DRAM。DX-M2M 那个型号是 5W = SoC 3W + DRAM 2W。做整机功耗预算时不能直接拿 5W 乘。

五，2027 年才量产，价格未公布。任何现在拿它做 BOM 成本测算的行为都是猜。

行动建议

如果你在评估端侧 AI 硬件，这周可以做三件事：把 DX-M1 的规格表和你的模型需求对一遍，看 25 TOPS / 5W 够不够；去 DeepX 官网拿 DX-M2 的产品页存档（规格会变，留个时间戳）；把"5 瓦能不能跑你的模型"这个问题，换成"你的模型在这个功耗下能跑多少 tokens/s"——后者才是能不能用的判据。

参考来源