0.8B 的翻译模型打赢了比自己大 30 倍的对手:PFN 把 PLaMo 3 Translate 的权重放了出来
3 分钟看懂
先讲结论:日本 AI 公司 Preferred Networks(PFN)在 11 月 5 日把翻译专用大模型 PLaMo 3 Translate 的权重公开了,一共四个尺寸——0.8B、2B、8B、31B。最小的 0.8B 能直接在手机上跑,断网也能翻,官方称它在日英、日到多语两个方向上,打赢了参数量是它 30 倍以上的翻译专用模型。
这不是一个"通用大模型又升级了"的消息。它值钱的地方在于:翻译这件事被单独拿出来做成了一批小模型,而且能离线跑在你自己的设备上。
这是什么
PLaMo 3 Translate 是 PFN 为自家翻译服务 PLaMo 翻译开发的专用模型,现在把底层权重放到了 Hugging Face。它支持 53 种语言,包含英语、日语以及日语与其他语种之间的互译。
和普通聊天模型比,它多了几个翻译场景才需要的开关:
- 上下文:可以把前后文一起喂进去,解决"かみ"到底是头发还是纸这类歧义
- 术语表:专有名词、技术词、产品名可以强制指定译法
- 敬体/常体:输出日语时能指定用敬语还是平实说法
- 长段落:官方说训练时的输入加输出上限是 32,768 token,一次能翻完整节内容
四个尺寸分别对应不同硬件:0.8B 给手机和可穿戴,2B 给笔记本,8B 给单机服务,31B 给企业内网。
为什么重要
第一,翻译终于能不联网了。 合同、研发文档、客服记录这类东西,很多公司根本不允许发到外部云服务。模型跑在本地,原文和译文都不出机器,这是合规上的硬需求,不是体验优化。
第二,小模型这次真的够用。 PFN 官方对比说,0.8B 在日英互译和日到多语上,超过了参数量 30 倍以上的翻译专用模型,点名对比的是 Google 的 TranslateGemma 和腾讯的 Hy-MT2。日本媒体 GIGAZINE 拿到权重后,在 iPhone 17 Pro 上用 PocketPal AI 装了 0.8B 的 Q4_K_M 量化版实测:280 个英文单词的段落,0.515 秒出结果;爱因斯坦《相对论》第一章,0.387 秒,全程飞行模式。
第三,成本差得离谱。 PFN 自己的测算里,31B 的性能超过几乎所有对比的翻译 API 和通用 LLM API,成本大约是它们的 1/30;唯一比它强的 Claude Fable 5.1,成本对比是 1/85。这里还有个容易忽略的点:PFN 用了自研分词器,同样 1000 个日文字符,PLaMo 输出约 447 个 token,Claude Fable 5.1 要 893 个——等于同样的字,账单只有一半。
硬数据
官方技术博客给出的对比,用 Gemini 3.1 Pro 当裁判、每个样本交换顺序判两次:
- 对 DeepL 翻译的胜率:PFTB 英→日 87.00%,日→英 58.00%,SaaS 英→日 73.82%,WMT24++ 英→日 59.17%
- 对 Google 翻译的胜率:86.00% / 71.00% / 91.47% / 70.62%
模型卡上的原始分数(BF16):0.8B 在 PFTB 英日互译 0.5862、WMT24++ COMET-22 0.8724;31B 分别是 0.6244 和 0.8799。也就是说,从 0.8B 到 31B,分数差距不到 0.04——小模型不是残废版,是同一水平线上的廉价版。
怎么用
- 去 Hugging Face 的
pfnet主页,按尺寸选仓库:plamo-3-translate-0.8b/-2b/-8b/-31b - 按你的硬件挑格式:
- 苹果芯片:MLX-4bit,配 mlx-lm
- 普通电脑 / 手机:GGUF(0.8B 的 Q4_K_M 只有 0.57GB),配 llama.cpp、Ollama 或手机上的 PocketPal AI
- 有 NVIDIA 卡:FP8 / W4A16 / NVFP4,配 vLLM
- 调用时把目标语言、文体、上下文、术语表当参数传给
apply_chat_template(),不要塞进 system 消息或正文里
适用场景
- 需要处理敏感文本、又不能上云的法务、研发、医疗、客服团队
- 要在手机、车机、内网服务器上做实时翻译的产品
- 日英、日中方向质量要求高的内容团队
- 想用术语表把品牌名、产品名固定下来的本地化工作流
不适用场景
- 需要覆盖上百种语言、且语种很偏的场景——它主打 53 种
- 需要一边翻译一边做复杂推理、查资料、调工具的任务,这不是翻译专用模型的设计目标
- 想开箱即用的普通用户:PFN 明确说手机上的演示是内部 Demo,没有发布对应的 App,你得自己找客户端
- 一次要翻整本书:单次输入加输出建议不超过 32K token,长文必须切段
避坑
- 许可证不是纯开源。PLaMo Community License 下,个人学习娱乐和非商用(含学术)免费、无需登记;商用要年营收 10 亿日元(约 650 万美元)以下才免费,而且必须提前在 PFN 的表格里登记;超过这条线得单独谈授权。官方发布页当天还发过一次更正,把"低于 10 亿"改成了"10 亿及以下",边界上的公司要留意。
- 别一路量化到底。模型卡显示 0.8B 的 GGUF Q2_K 相比 BF16,日→多语 chrF++ 掉了 2.52 分,英→多语掉 3.29 分;Q4_K_M 基本无损。省内存要选对档。
- 分数是自己测的。PFTB 和 SaaS 两个基准是 PFN 自建,只能说明它在这套题上强;WMT24++ 和 FLORES+ 是公开基准,可以自己复现。
- 31B 不小。BF16 权重 63.51GB,Q4_K_M 也要 19.53GB,别拿笔记本硬扛。
成本与时间
- 权重免费下载,本地推理只花电费和硬件
- 0.8B Q4_K_M 约 0.57GB,手机可装;2B Q4_K_M 约 1.81GB;8B Q4_K_M 约 5.28GB;31B Q4_K_M 约 19.53GB
- 想先试效果:GIGAZINE 那条路径最快——装 PocketPal AI,搜
plamo,下 0.8B 的 Q4_K_M,十分钟内能跑起来 - 自建 API 服务:31B 建议至少单卡 24GB 显存起步,用 vLLM 加载 FP8 或 W4A16
行动建议
第一步,先下 0.8B 的 GGUF 或 MLX 版,用你自己手上最难翻的一段真实材料试一次——尤其是带术语和上下文的段落,这是它相对通用模型最能拉开差距的地方。
第二步,如果你要做产品集成,先把许可证这条线确认清楚:公司年营收是否在 10 亿日元以内、是否需要预先登记。
第三步,把它和现有的通用模型 API 做一次同材料对比,重点看三件事:术语一致性、长段落是否漏译、每千字实际成本。翻译这件事,跑分高不高,往往不如"术语不飘"重要。
参考来源
- PFN 官方发布:https://www.preferred.jp/en/news/pr20261105
- PFN 技术博客(权重与评测细节):https://www.preferred.jp/en/blog/tech/plamo-3-translate-weight-release
- Hugging Face 模型卡:https://huggingface.co/pfnet/plamo-3-translate-0.8b
- GIGAZINE 手机实测:https://gigazine.net/gsc_news/en/20261105-plamo-3-translate-open-weight/
- ITmedia AI+:https://www.itmedia.co.jp/aiplus/article/2611/05/2000002900/2