Dario Amodei 喊话全行业"给 AI 降速"：Anthropic 率先把外部监督请进门

头部 AI 实验室首次将"外部监督"落成制度：独立评估者获永久员工级权限，可不经审查对外发布

🎯 核心亮点速览

• 行业首次：Anthropic 单方面给予独立评估者永久、员工级内部权限，评估结果可不经 Anthropic 编辑审查对外发布
• 三步走计划：外部评估权限 → 民主国家企业共同安全标准 → 各国政府协调（首推禁用 AI 开发生物武器）
• 时机敏感：直接呼应研究员 Coxon 公开辞职、OpenAI Agent 入侵 Hugging Face 等连串安全事件
• Altman 松口：OpenAI CEO 向 Fortune 放风"不排除与其他 AI 公司达成安全公约"

"我们必须放慢提升 AI 模型能力的速度。进展看起来仍然会很快，而我们必须明智地利用争取来的时间。"—— Amodei 在文中写道。他还重申相信 AI 终将造福人类，"但只有以正确的方式建造这项技术，好处才会兑现"。

Amodei 的三步走方案

步骤	谁来做	做什么	现状
① 外部监督	每家前沿 AI 公司	给独立评估者永久、员工级访问权限，核实安全实践、上报事故	Anthropic 即刻单方面执行 ✅
② 行业标准	民主国家的 AI 公司	达成共同安全标准，限制"无约束的进步竞赛"	待推进
③ 政府协调	各国政府	从共识条款起步，如禁止利用 AI 开发生物武器	待推进

Amodei 指出两个让紧迫性上升的新变化：模型越来越能"建造自己的后继者"，进一步加速了进展；同时整个行业——包括 Anthropic 自己内部——已经出现一连串安全事故。他认为，哪怕只为争取两三年的缓冲期来降低出错风险，行业也值得现在就行动。

"我们都肩负巨大的责任，不能让自我、利润动机或任何别的东西挡路。"当被问到是否会与 Amodei、马斯克、Demis Hassabis 同处一室商谈安全公约时，他回答："我认为这会发生。"

三种读者，三种关注点

普通 AI 用户：最直接的影响可能体现在产品节奏上——如果"降速"成为行业共识，模型大版本更新的频率可能放缓，但越权操作、数据外泄类事故也会更少。这是用"新鲜感"换"安全感"。

企业采购方：第三方评估者的驻场报告以后会是判断一家 AI 供应商可信度的新维度。选型时除了看跑分，可以开始关注对方是否接受外部监督、是否公开事故记录。

关心行业走向的读者：这份计划真正微妙的是第二步和第三步——它们需要竞争对手之间、甚至不同制度的大国之间达成一致，执行难度远高于 Anthropic 单方面的第一步。Altman 的表态是积极信号，但从"我认为这会发生"到真的发生，还有很长的路。

• 别把"降速呼吁"当成"模型停滞"：Amodei 说的很清楚——放缓的是能力提升的斜率，不是停止研发，竞争仍然存在。
• 注意信源层级：本事件目前以 Fortune、NPR 等媒体对 Amodei 文章的转述为主，细节以 Anthropic 官方原文为准，二手解读可能存在偏差。
• 别混淆两件事：Coxon 辞职是"内部人警示"，Amodei 发文是"机构响应"——后者才是本次的实质性新进展。

1. 关注 Anthropic 官方渠道，看独立评估者的名单、权限细则与首份评估报告何时公布；
2. 留意 OpenAI 是否在近期宣布类似的外部监督或行业公约安排；
3. 企业用户可以开始在内部分析中记录各家实验室的"外部监督参与度"，作为长期选型参考。

📚 参考来源

• Fortune：Anthropic CEO calls to slow the race toward AI 'superintelligence,' and grants outside evaluators permanent access（2026-09-12）
• NPR：AI safety worries gain traction after OpenAI's Hugging Face hack（2026-09-12）
• Fortune 独家专访：OpenAI's Sam Altman hints at pact with other AI companies to address safety risks（2026-09-12）
• Unite.AI：Amodei Calls for Slowing the Pace of AI Capability Improvement（2026-09-12）