一台 1.6 升的国产小主机,把 350 亿参数模型关进了办公室
⚙️ 一台 1.6 升的国产小主机,把 350 亿参数模型关进了办公室
11 月 3 日,联想开天发布了一台叫「信创 AI 主机」的小机器:1.6 升的体积,里面塞了兆芯的八核 CPU 和一颗后摩的 NPU,官方说能在这台机器上直接跑 350 亿参数的模型,不用把任何一句话发到云端。这是信创市场里第一台这种形态的产品。
3分钟看懂:这台机器到底是什么
先说清楚它不是什么。它不是服务器,不是加速卡,也不是给游戏玩家准备的显卡盒子。它是一台完整的桌面电脑主机,体积 1.6 升——大概相当于两个饭盒叠起来,重量约 1.5 公斤,可以直接摆在办公桌上。
它也不是「普通电脑加一块显卡」。这台机器的算力核心是一颗专门的 NPU(神经网络处理器),型号是后摩智能的力擎 LQ50,标称 160 TOPS 的 INT8 算力,还可以选配到 320 TOPS。更关键的是,这颗 NPU 自带 24GB 专用内存,带宽 153.6GB/s。
CPU 是兆芯 KX-7000,八核。操作系统预装麒麟,上面跑的是联想自己的天禧 AI Pro 智能体。
「信创」这个词需要解释一下。它是「信息技术应用创新」的缩写,指的是国内推动的一套自主可控软硬件采购体系,主要面向政府、国企、事业单位和它们的供应商。换句话说,这台机器首先是一台「采购目录里的机器」,不是你在电商平台随手能下单的产品。
一句话总结:它把「跑大模型」这件事,从机房搬到了办公桌上,而且用的是全国产的 CPU、NPU 和操作系统。
关键参数一张表
| 项目 | 规格 |
|---|---|
| 处理器 | 兆芯 KX-7000,八核 |
| AI 算力 | 后摩力擎 LQ50,160 TOPS INT8(可选 320 TOPS) |
| NPU 专用内存 | 24GB,带宽 153.6GB/s |
| 可跑模型 | 350 亿参数级(官方验证 Qwen3.6-35B-A3B) |
| 实测生成速度 | 约 28.99 tokens/s(W4A8 量化,24GB NPU 配置) |
| 最大输入长度 | 20 万 token |
| 机身 | 1.6 升,约 1.5 公斤,双 2.5GbE 网口 |
| 系统与软件 | 麒麟 OS + 天禧 AI Pro 智能体 + 后摩大道开发平台 |
| 噪音与温度 | 待机 19.4dB / NPU 满载约 29.5dB;25℃ 满载壳温约 41℃ |
| 价格 | 未公布 |
| 上市时间 | 未公布 |
所有性能数字均为联想与后摩方面自测口径,本文未能取得可直读的联想官方新闻稿页面,以下内容基于多家媒体转述整理。
为什么这件事值得单独说
第一,它绕过了桌面跑大模型最难的那道墙。
在普通电脑上跑大模型,卡点通常不是算力,而是显存。模型权重必须装进能被高速访问的内存里,装不进去就只能靠系统内存慢慢搬,速度立刻掉到每秒几个 token。这台机器的解法是给 NPU 配了 24GB 独立内存——不跟 CPU 抢系统内存,也不依赖显卡。350 亿参数模型用 W4A8 量化压一压,正好塞得进去。
这是「专用硬件解决专用问题」的典型做法:不是把通用 GPU 做大,而是承认「本地推理」有自己的内存需求,然后单独满足它。
第二,它是信创体系里第一台这种形态的产品。
过去信创采购的 AI 能力,基本等于「买服务器 + 连云端」或者「买带 NPU 的笔记本」。前者贵、要机房;后者算力小、跑不动大模型。一台 1.6 升、能上办公桌、能跑 350 亿参数模型的主机,填的是中间那块空白。
第三,它背后的成本逻辑很直白。
官方给的说法是「适合本地运行的任务直接调用自身算力,无需逐次消耗云端 token,数据留在本地」。这句话有两个含义:一是长期使用的边际成本接近于电费;二是数据不出机器。对政企客户来说,第二条往往比第一条更重要。
需要提醒的是,这台机器没有公布价格,所以「省不省钱」目前无法算。任何声称「几个月回本」的说法,都缺少最关键的输入项。
怎么用:三类实际场景
场景一:文档理解与知识库问答。 20 万 token 的输入长度,大约相当于一本三四十万字的书。把内部制度、合同、技术手册丢进去做检索问答,是这台机器最自然的用法。
场景二:常驻型 Agent。 官方把它包装成「7×24 小时持续在岗的数字员工」,能做文件整理、信息汇总、定时任务、跨应用操作。这类任务的特点是频次高、单次价值低,正好适合本地算力——不用为每次调用付云端的钱。
场景三:内网与涉密环境。 数据不能出内网的场景里,云端 API 直接出局。这时候「能跑 350 亿参数」和「完全离线」这两件事的价值,会远大于「跑得多快」。
适用场景
- 政企、国企、事业单位的信创采购项目,需要一台能落地的本地 AI 终端
- 有内网或数据不出域要求,但仍希望用上大模型能力的团队
- 需要长期常驻 Agent 处理文档、汇总、定时任务的办公场景
- 软件开发商(ISV)想在国产软硬件栈上做适配和交付
不适用场景
- 个人消费者:这是信创渠道产品,目前没有面向零售的开售信息
- 需要训练或微调模型的团队:这是一台推理设备,不是训练设备
- 追求极致速度的用户:约 29 tokens/s 是「能流畅读」的水平,不是「飞快」
- 需要跑 100B 以上模型的场景:24GB 专用内存的上限摆在那里
- 需要多卡并行、跑大规模服务的场景:这是单机桌面产品,去机房买服务器
避坑:四个必须知道的限制
坑一:没有价格,也没有上市时间。 所有报道里都没有这两项。看到「售价xxxx元」的自媒体内容,基本可以判定是编的。
坑二:28.99 tokens/s 有前提条件。 这个数字来自 Qwen3.6-35B-A3B 在 W4A8 量化下、使用 24GB NPU 配置的测试。换成别的模型、别的量化精度、别的输入长度,速度都会变。官方也没有公布测试时的输入长度和并发情况。
坑三:TOPS 不等于体验。 160 TOPS 是 INT8 的理论算力,跟「聊起天来有多顺」不是一回事。真正决定体验的是内存带宽(153.6GB/s)、模型能不能装进去、以及软件栈调得好不好。后摩提供「后摩大道」平台做量化、编译、运行时管理和性能分析,说明适配工作是需要做的,不是开箱即通。
坑四:「首款」这个词要打折看。 「首款信创 AI 主机」是厂商自己的定位口径,指的是这个采购体系内的产品形态。市面上能本地跑大模型的设备不少,只是不在同一个渠道、不挂同一个标签。
成本与时间
- 采购成本:未知(未公布价格)
- 使用成本:本地推理,边际成本主要是电费;整机功耗未公布
- 部署时间:需要走信创采购流程,不是下单即到
- 适配时间:跑官方已验证的 Qwen3.5 / Qwen3.6 系列最快;换其他模型需要走量化与编译流程
行动建议
- 如果你是政企 IT 负责人:先把这台机器列进下次采购的技术调研清单,重点问三件事——价格、整机功耗、以及你们自己要用的模型有没有被验证过。
- 如果你是 ISV 或开发者:去了解「后摩大道」平台的量化与编译流程,判断你们的产品迁移过去要多少人天。这比看 TOPS 数字有用得多。
- 如果你是普通用户:先别急。这类产品通常要等信创渠道铺开、或者厂商推出消费级版本,才轮得到个人买。想现在就在本地跑大模型,成熟方案还是带大显存的显卡或统一内存的迷你主机。
- 如果你只是想判断趋势:记住这个组合——国产 CPU + 国产 NPU + 专用大内存 + 桌面形态。这套配方大概率会在接下来一年被更多厂商复制。
参考来源
- IT之家:联想开天推出首款信创 AI 主机:兆芯 KX-7000 处理器 + 后摩智能力擎 LQ50 NPU
https://www.ithome.com/1/021/779.htm- 凤凰网(转 IT之家):联想开天推出首款信创AI主机
https://tech.ifeng.com/c/8xkzWSxDlx7- AI123:联想开天推出首款信创AI主机:1.6L机身提供160 TOPS本地算力
https://cn.ai123.com/news/17125- AI Affairs:Lenovo Kaitian launches desktop for local 35B-model inference
https://www.aiaffairs.com/technology/lenovo-kaitian-zhaoxin-houmo-local-35b-ai-desktop/