蚂蚁开源 IDM:文生图压到 1 步还能写清中文,但权重还没放出来
一句话先说结论:10 月 29 日,蚂蚁集团旗下的 Inclusion AI 联合西湖大学、清华、浙大等机构,放出了名为 IDM(Intrinsic Distribution Matching,内在分布匹配) 的方法论文和推理代码。它干的是一件很具体的事——把文生图模型从几十步压缩到 1 到 2 步,同时不让画面里的中文和英文「糊成一团」。
在作者自己公布的测试里,挂在阿里 Z-Image-Turbo 6B 上的版本,2 步生成时中文长文字得分 94.25%、英文 90.20%,是同一预算下对比方法里最高的。但有两件事必须先说清楚:代码开了,模型权重还没放;这些数字来自论文,不是第三方复现。
3 分钟看懂:它到底是什么
先说它不是什么。IDM 不是一个新模型,也不是一个能直接下载来画图的东西。它是一套训练/蒸馏方法——教一个已经存在的模型「少走几步也能画好」。
具体挂了两个底座:
- Z-Image-Turbo 6B:阿里 6B 级别的快速文生图模型
- Qwen-Image 20B:阿里更大的 20B 图像模型
同一个训练出来的权重,既能 1 步出图,也能 2 步出图,不用分别训两个版本。这是它比较实用的地方。
它解决的老问题:少步模型的字总是糊
少步生成(一步、两步出图)这两年很热,因为快、便宜。但这类模型有个老大难:提示词一长、文字一多,就开始出错——海报上的字缺笔画、菜单上的菜名串行、包装上的英文拼错。
过去的常规解法是「外挂一个裁判」:额外接一个 DINOv2 视觉编码器,或者训练一个判别器,来判断生成图跟真实图差在哪。问题是这样一来,训练链路变长、显存变高、部署也变麻烦。
IDM 的思路是:让生成器自己给自己当裁判。它保留了原本的 internal DMD 校正(负责把画面拉向真实分布),再加一条「特征矩匹配」约束——用生成器自己的 EMA 副本去对齐特征均值和每个维度的标准差。论文的原话是「不需要外部特征编码器」。
消融实验里,用自家 EMA 特征和用 DINOv2 特征的结果几乎持平:OneIG 53.06 对 53.00、GenEval 77.81 对 77.75、长文字 94.25 对 94.13。差距小到可以认为「外挂那一步可以省了」。
成绩单:涨了多少
以下均为论文与官方代码仓公布的数字,测试条件是 2 NFE(两次网络评估),都是百分比、越高越好。
Z-Image-Turbo 6B 底座上的横向对比:
- IDM:OneIG 53.06、GenEval 77.81、DPG-Bench 86.82、LongText-CN 94.25、LongText-EN 90.20
- Z-Image-Turbo++:52.50 / 75.70 / 85.86 / 91.62 / 89.88
- APEX:52.60 / 77.23 / 88.64 / 90.38 / 88.76
- 原始 Z-Image-Turbo:50.94 / 76.53 / 85.78 / 78.48 / 72.89
换成直白说法:中文长文字比 Z-Image-Turbo++ 高 2.63 个百分点,比 APEX 高 3.87 个百分点;英文分别高 0.32 和 1.44 个百分点。
Qwen-Image 20B 底座上,2 NFE 拿到 GenEval 0.91、FID 6.34、DPG-Bench 87.16%,FID 越低越好,6.34 是这套对比里不错的位置。
速度:单卡 A100 上的实测口径
官方给的延迟数字(单张 A100、BF16、batch size 1):
- IDM(Z-Image):1 步 0.25 秒,2 步 0.30 秒
- IDM(Qwen-Image):1 步 0.35 秒,2 步 0.44 秒
吞吐量按 batch size 10 算,Z-Image 版约 5.2~5.4 张/秒,Qwen-Image 版约 3.3~3.4 张/秒。这个量级意味着:在单卡上做批量出图,成本主要压在显存和并发上,而不是「等模型一步步算」。
泼一盆冷水:三个必须知道的限制
第一,多步模型并没有被全面超越。 代码仓自己的表格里,Z-Image-Turbo 用 8 步时 LongText-EN 是 91.74,仍然高于 IDM 2 步的 90.20。也就是说,如果你不赶时间、只追求最高质量,多步依然有优势。IDM 赢的是「同样的步数预算下更好」,不是「彻底取代多步」。
第二,不是所有指标都第一。 DPG-Bench 上 APEX 的 88.64 高于 IDM 的 86.82。作者也在 README 里注明:各参考模型训练设置和数据不同,只能看受控消融那部分。
第三,也是最重要的一条:权重没放。 代码仓描述写得很直白——「Model weights: coming soon」,仓库只提供推理代码,Apache-2.0 许可。你现在能读到方法、能读代码,但还不能下载模型自己跑图。
怎么用:现在能做的三步
虽然权重没到,但今天就能动手的部分不少:
- 看论文:arXiv 2610.39633,重点看第 2~3 节(internal DMD 的推导)和消融表,那才是这套方法真正的差异点。
- clone 代码仓:
github.com/inclusionAI/IDM,按 README 装依赖、跑推理脚本;现在能验证的是代码结构,不是效果。 - 盯权重页:仓库和 HF Papers 页都会在权重放出时更新;如果你用的是 Z-Image-Turbo 或 Qwen-Image,等权重一到就能直接套。
另外一个对个人开发者友好的细节:LoRA r=64 只更新 0.4B 参数,2 NFE 下 GenEval 0.90、FID 6.41,保留了全量模型的大部分能力。这意味着以后在消费级卡上做微调,门槛会比全参训练低得多。
适用场景:谁该关注
- 做本地/私有化生图的团队:少步意味着显存和延迟都能降,尤其适合要批量出海报、菜单、包装稿的场景。
- 中文内容生产:中文长文字渲染一直是国产模型的短板,94.25% 这个数字如果复现成立,价值很直接。
- 要微调自己风格的开发者:LoRA 只动 0.4B 参数,训练成本可控。
- 研究少步蒸馏的人:把「外挂编码器」这一步去掉,是一条能省工程复杂度的路子。
不适用的情况
- 今天就想出图的:权重没放,现在拿不到可跑的模型。
- 要做商用产品的:论文级方法 + 未发布的权重,离产品化还有距离,别把排期压在这上面。
- 追求极致画质的:8 步参考模型在英文长文字上仍然更高,画质评估也不能只看一张表。
- 用非这两个底座的模型:目前只验证了 Z-Image-Turbo 和 Qwen-Image,换底座要重新训。
避坑:三个常见误会
- 把「2 步超过 8 步」当成普遍结论:超过的是「同预算对比方法」,8 步参考在英文长文字上依然领先。
- 把论文数字当成实测:README 明确写了「All values below are reported in the paper」,不是跑仓库测出来的。
- 以为开源代码就等于开源模型:代码 Apache-2.0,权重 coming soon,这是两件事。
成本与时间预估
按官方口径,单张 A100 上 2 步出图 0.3 秒左右。如果你现在用 20~40 步的模型,理论上单图耗时能压到原来的十分之一量级——但注意,这只是采样阶段的账,文本编码、VAE 解码、排队调度这些固定开销不会跟着缩。真实收益要按你整条链路的瓶颈来算。
行动建议:接下来盯这四件事
- 权重是否放出——这是从「能读」到「能用」的唯一开关,第一优先。
- 是否有人复现 94.25——第三方跑出来的数字才算数。
- ComfyUI / diffusers 是否原生支持——决定普通玩家能不能一键用上。
- LoRA 生态是否跟进——0.4B 参数的微调如果跑通,风格模型会很快冒出来。
参考来源
- arXiv:Intrinsic Distribution Matching(2610.39633,2026-10-29)https://arxiv.org/abs/2610.39633
- GitHub:inclusionAI/IDM 官方推理代码仓(Apache-2.0,2026-10-29 创建)https://github.com/inclusionAI/IDM
- 官方项目页:IDM — Intrinsic Distribution Matching https://inclusionai.github.io/IDM/
- AI Weekly:Inclusion AI's IDM Tops 2-NFE Text Rendering Without External Encoder(2026-10-30)https://aiweekly.co/alerts/inclusion-ais-idm-tops-2-nfe-text-rendering-without-external-encoder
(本文以蚂蚁 Inclusion AI 的论文、官方代码仓与项目页为主,结合 AI Weekly 的报道整理;所有分数均为论文自报,测试条件为 2 NFE,尚未有第三方复现。)