生物模型

300 亿参数的医院内网模型开源了：韩国把「国家级基础模型」做成了能落地的样子

2026年11月6日1 次阅读
300 亿参数的医院内网模型开源了：韩国把「国家级基础模型」做成了能落地的样子

导语

11 月 6 日，韩国科学技术信息通信部（MSIT）的「AI 特化基础模型」项目交了卷。牵头方 Lunit 把医疗专用模型 LearningUnit 2.0 的权重直接放上了 Hugging Face，Apache-2.0；同一联盟里的 SK 生物制药则公布了新药研发侧的账：714 万条记录、44 亿 token、66 项任务。

两件事放在一起看才有意思。一个是「模型做多大」的问题，一个是「数据从哪来」的问题——韩国这轮给的答案都和主流路线反着来：模型做到 300 亿总参、只激活 50 亿，小到能塞进医院机房；数据不靠公开库堆，靠药企自己的非公开实验数据来验。（本文基于多家媒体转述整理，技术细节以 Lunit 官方新闻稿、Hugging Face 模型卡与论文/评测框架为准。）

先说清时间线：LearningUnit 2.0 的权重 9 月 8 日就已经在 Hugging Face 上线了，这周发生的是项目结项、现场实测数字首次公开。别把它读成「今天刚发的新模型」。

3分钟看懂

  • 谁做的：Lunit（韩国医疗 AI 公司）牵头，23 家产·学·研·医机构组成的联盟，2025 年 10 月被 MSIT 选为该项目主管机构，做了约 10 个月。
  • 模型是什么：LearningUnit 2.0，内部代号 L1-30B-A5B。稀疏 MoE，总参 29.56B、每 token 激活 5.34B，52 层（2 层 dense + 50 层 MoE），隐藏维 2048，64 个路由专家取 top-8，上下文 131,072 token，词表 151,552（GLM-4.5 分词器）。
  • 底子是谁的：不是从零训的。基座是韩国 Trillion Labs 的 Gravity-30B-A5B-Base，架构 GravityMoE 与 DeepSeek-V3 权重/注意力兼容，所以能用 SGLang 的 DeepSeek-V3 路径部署（官方建议先用 Trillion Labs 的 sglang-gravity fork）。
  • 开源到什么程度：权重在 Hugging Face，Apache-2.0，可商用；评测框架 CoEval 也开源了（github.com/lunit-io/CoEval）。训练数据未公开。
  • 实测规模：全国 9 家医院、约 6 个月、真实院内数据。多学科会诊（MDT）场景下 86.2% 的方案被评「临床可接受」；急诊分诊（KTAS）与药物不良反应因果判定（ADR）各有 98% 落在专家判断「一档之内」；医保审核/申诉 44 条高难题，85.6% 的回复被评为可直接用于实务。
  • SK 生物制药那一半：714 万条记录 / 44 亿 token 的新药研发数据集，覆盖 66 项任务（成药性、毒性、药物-靶标相互作用、药物反应性、临床试验结果预测），与 Trillion Labs 联合开发专用模型，另用自家非公开药物数据做过验证。
  • 硬件：SK 生物制药 9 月通过 SK 电讯云订阅引进 128 张英伟达 B200，合计算力 576 PFLOPS，用于把非临床结果往临床推的「TR-AX」。
  • 最该记住的一句：SK 方没有公布任何性能分数。KoreaBioMed 的英文稿把这句写得很直白——"has not disclosed the model's performance results"。

为什么「小」在这件事里是卖点

医疗 AI 落地的死结从来不是模型不够聪明，是数据不能出院。

一家医院要把病历、影像报告、用药记录喂给云端 API，合规上基本走不通；就算走通了，成本也按 token 计。所以这个场景里真正稀缺的不是参数量，是「能在机房那两台机器上跑起来、还答得像个医生」。

Lunit 的选择因此很务实：300 亿总参、50 亿激活。Hugging Face 模型卡里给了完整配置表，52 层、隐藏维 2048、64 专家取 8、KV 头 16——这套配置的显存占用按 bf16 粗算，权重约 59GB，两张 80GB 卡就能装下；激活只有 5.34B，推理吞吐不至于太难堪。官方给的定位原话是「医疗机构内部可运行」。

代价也摆在明面上：

  • 它是「后训练」出来的，不是预训练出来的。 基座 Gravity-30B-A5B 由 Trillion Labs 训练，Lunit 做的是医疗语料上的继续训练/SFT。这意味着模型的知识天花板由基座决定，也意味着「300 亿参数」这个数字里，真正的医疗增量是后训练那一段。
  • 韩语原生，不是英文翻译过去的。 模型卡明确写「Korean clinical locale, trained natively — not machine-translated from English」。对韩国医院是加分，对别的语种是减分：它只标了 ko、en 两种语言。
  • 推理要开 repetition_penalty=1.05。 模型卡自己承认，默认 1.0 时长临床回答会退化成重复短语；而且这个参数不是 OpenAI API 标准字段，走 SDK 必须塞进 extra_body，否则会被静默丢掉。这种坑只有真跑过的人才会写进模型卡。

那些百分比，哪些能信、哪些要留神

86.2% 是「临床可接受」，不是「和专家一致」。 多学科会诊是肿瘤治疗里最难的一环——外科、内科、放疗、影像几方坐一起定方案，本来就没有唯一正确答案。评的是「这份方案临床上站得住吗」，不是「和专家组写的一样吗」。这两个口径差别很大。

98% 是「一档之内」，不是「98% 全对」。 KTAS 分诊分 5 级，ADR 因果判定分「确定/很可能/可能/可疑/无关」几档。差一档在急诊里可能只是观察 vs 留观的区别，也可能不是。新闻稿用「一档以内一致率」这个说法是诚实的，转述时别简化成「98% 准确率」。

85.6% 的样本只有 44 条。 医保审核那部分原话是「44 件高难度问询原样评测」，样本量小，这个数字的置信区间不会窄。

「比 GPT-5.2 略好」这句要打问号。 官方新闻稿写的是与「推测比它大几百倍的 GPT 5.2」水平相近，但 Hugging Face 模型卡里的对照表列的是 GPT-5.6 三个档位（SOL 87.85 / TERRA 86.97 / LUNA 85.36 加权均分），Lunit 是 83.76。也就是说：按模型卡自己的表，它低于 GPT-5.6 全系；按新闻稿的口径，它追平了 GPT-5.2。 两个版本对不上，可能一个是项目验收时的对照基线、一个是模型卡更新后的基线。这种不一致恰恰说明「和前沿模型打平」这类结论要看具体表和具体日期。

模型卡的明细也能看出它强在哪、弱在哪：

  • 赢的地方：PubMedQA 82.20（GPT-OSS-120B 78.00）、MedCalc 81.55（GPT-5.6-SOL 80.09）、CareQA 92.55、KorMedMCQA 89.53——医学计算和韩语医学考试这两项是真优势。
  • 输的地方：M-ARC 42.00 对 GPT-5.6-SOL 的 74.00，MedXpertQA-R 43.10 对 58.10。这两个都是「难推理」型基准，差距不是一点。说明它在需要多步临床推理的题上仍然明显弱于前沿闭源模型。
  • HealthBench：主集 52.81（略高于 GPT-5.6-TERRA 的 52.78），专业集 40.01（远低于 SOL 的 63.18）。对话质量尚可，专业深度差距明显。

SK 生物制药那边：数据是主角，模型是配角

同一场发布会上，SK 生物制药的故事完全不同——它的核心资产不是模型，是一套别人没有的评测数据。

  • 714 万条、44 亿 token：低分子化合物、蛋白质、基因组三大类，覆盖成药性、毒性、药物-靶标相互作用、药物反应性、临床试验结果预测共 66 项任务。
  • 验证用了非公开数据：这是关键一句。公开数据集（ChEMBL、PubChem 之类）上刷分容易，真正难的是「换成我们公司自己的化合物，还能不能预测准」。SK 说它做了这一步，但没给数字。
  • 数字孪生：用公开的阿尔茨海默病临床试验数据，做了个能预测单个患者认知功能变化、并随新随访数据滚动更新的模型。这个方向在制药界叫「疾病进展模型」，不算新，但用公开 trial 数据做个体级预测并宣称可更新，是能落地的东西。
  • AI 工作流系统：从研究用化合物信息抽取，到专家复核，到监管申报文件起草。这部分没有量化指标，属于「已经装进流程」的性质。

一句实话：SK 这段最值得记的不是「66 项任务」，是「药企终于愿意拿自己的私有数据出来做验证集」。AI 制药这几年最大的争议就是公开基准和真实项目之间的鸿沟，SK 的做法至少在流程上正面回应了它——即使结果没公开。

怎么用 / 适用场景

如果你是医院或医疗 IT 团队：

  1. 先看硬件。bf16 权重约 59GB，两张 80GB 卡（H100/A100/H200）可以跑；量化到 fp8 会更宽松，但模型卡没给量化版本，需要自己转。
  2. 部署用 SGLang + sglang-gravity fork，因为原生 SGLang 对 GravityMoE 的上游支持还在合。vLLM 侧模型卡提到过 deepseek_v3 model_type + MLA 的兼容修复。
  3. 系统提示词必须带模型对齐时那句身份行：You are Chain-of-Evidence, a medical AI assistant developed by Lunit. 模型卡明确说所有基准数字都是在这句前提下测的，换掉会漂。
  4. 采样参数照抄：temperature 0.0（确定性任务）、top_p 1.0、max_tokens 32768、extra_body={"repetition_penalty": 1.05}。

如果你是做医疗/生物模型的研究者：CoEval 这套评测框架比模型本身更值得看——它把「医疗 LLM 该怎么评」拆成了可复现的档位，而且这批数字是用同一套框架跑出来的，横向比较的可信度比各家自报高。

不适用场景

  • 中文临床场景。语言标签只有 ko/en，中文病历、中文指南、中文药名基本没覆盖。别指望它读中文出院小结。
  • 需要多步临床推理的难题。M-ARC、MedXpertQA 上的差距说明它更擅长「知识检索 + 结构化输出」，不擅长「三四个约束条件叠一起推」。
  • 影像。它是纯文本模型（pipeline_tag: text-generation）。Lunit 的影像能力在 INSIGHT 系列和 SCOPE 系列里，跟这个模型是两套东西，别混。
  • 把它当药物设计模型。药物那半边是 SK 生物制药 + Trillion Labs 的另一个专用模型，没有开源，也没有性能数据。

避坑

  • 别把「项目结项」写成「模型发布」。 权重 9 月就在 HF 上了，这周公布的是实证结果。
  • 别把「一档之内 98%」写成「98% 准确」。 差一档在分诊上可能意味着不同的处置路径。
  • 别引用「追平 GPT-5.2」而不提模型卡的表。 模型卡里它低于 GPT-5.6 全系，两个口径必须同时给出，否则就是选择性引用。
  • 别忽略「SK 未公布性能」。 这是这条新闻里最重要的一个否定信息，英文媒体专门写了。
  • repetition_penalty 一定要显式传。 通过 OpenAI SDK 时不放进 extra_body 会被静默丢弃，然后你会得到一段复读机式的长回答，还以为是模型坏了。

成本 / 时间

  • 权重 59GB（bf16），两张 80GB 卡可跑；单卡 80GB 需要量化或做张量并行切分。
  • 上下文 131,072 token，做长病历摘要够用；但长上下文下的显存随 KV cache 线性涨，16 头 KV、2048 隐藏维，实际可用长度取决于并发数。
  • 训练成本未公开。可以确认的是这轮不是从零预训练：基座是 Trillion Labs 的 Gravity-30B-A5B，Lunit 做的是医疗域后训练。

行动建议

  1. 想快速验证：拉 learning-unit/L1-30B-A5B，按模型卡的 Quickstart 起 SGLang，先用韩语或英语的常见临床问答试 20 条，重点看 repetition_penalty 有没有生效。
  2. 想评估能不能进院：别只看 86.2%，自己在本科室的 50 份真实病例上跑一遍 MDT 场景，让两位主治盲评。官方数字是「跨 9 家医院的平均」，不是「你们医院的水平」。
  3. 想看趋势：把这次和 11 月 4 日中科大 structRFM 放一起看——一个是 8600 万参数的 RNA 模型，一个是 300 亿参数的医院内网模型，方向完全相反，但共同点是都在往「能在本地跑、权重能拿到」上走。2026 年下半年生物/医疗模型的竞争点，已经从「榜单第一」挪到「能不能进机房」。
  4. 想跟这条线：MSIT 这个项目是国家级战略项目，23 家机构只是第一批。下一轮招标、以及 SK 生物制药那套 714 万条数据能否对外开放，是比模型分数更值得盯的信号。

参考来源

（本文基于多家媒体转述整理。）

评论

0 条已公开
登录或注册后可以参与评论。

正在加载评论...