AI硬件设备

Cerebras 为 OpenAI GPT-5.6 Sol 提供 Ultrafast 推理:750 tokens/s、最高 14 倍加速,推理芯片首次拿下旗舰模型

2026年8月15日0 次阅读
Cerebras 为 OpenAI GPT-5.6 Sol 提供 Ultrafast 推理:750 tokens/s、最高 14 倍加速,推理芯片首次拿下旗舰模型

OpenAI 与 Cerebras 联合推出 Ultrafast 推理模式——GPT-5.6 Sol 在 Cerebras WSE-3 晶圆级芯片上实现最高 750 output tokens/s,比标准模式快 14 倍,且没有任何质量损失。这是 OpenAI 首次将旗舰模型推理交给非 Nvidia 硬件,也是推理专用芯片在商业上正式站稳脚跟的标志性事件。

Ultrafast 模式是什么

8 月 14 日,OpenAI 官方发布 Ultrafast 服务层级,由 Cerebras 提供底层算力。核心数据:

  • 最高 750 output tokens/s,比 GPT-5.6 Sol 标准模式快 14 倍
  • 比 Claude Fable 5 快 11 倍,比 Opus 4.8 Fast 模式快 5 倍
  • 无质量损失:Cerebras 的测试显示,Ultrafast 模式在各项基准上与标准模式精度一致

目前 Ultrafast 处于预览期,面向有限客户开放,后续逐步扩容。

为什么这是推理芯片的里程碑

OpenAI 此前的推理几乎全部跑在 Nvidia GPU 上。这次选择 Cerebras,不是小模型的边缘场景,而是旗舰模型 GPT-5.6 Sol——OpenAI 当前最强的推理模型。

Cerebras WSE-3 的核心优势在于晶圆级架构:整片晶圆做成一颗芯片,拥有 4 万亿晶体管和 44GB 片上 SRAM。这种设计天然适合高吞吐推理——模型参数可以全部驻留在片上内存,省去 GPU 推理中反复搬运权重的开销,延迟和吞吐都有数量级优势。

更重要的是,这验证了推理专用芯片的商业模式。Cerebras 2026 年 Q2 云收入同比近 4 倍增长,说明市场愿意为推理速度买单。

速度到底意味着什么

Cerebras 在 Humanity's Last Exam(HLE)上做了对比测试:GPT-5.6 Sol Ultrafast 用 11 小时 11 分钟完成了全部 2500 道博士级题目,Claude Fable 5 则需要 78 小时 27 分钟——超过 3 天的连续计算。准确率相当,速度差了 7 倍。

在 GDP-Val 经济知识工作基准上,Ultrafast 实现了 5.6 倍端到端加速,同样无质量损失。

实际场景中,速度差异从"等得起"变成"等不起":

  • 事故响应:系统宕机时,Ultrafast 可以在故障仍在发生时分析日志、定位原因、准备修复方案
  • 金融与安全:市场信号和可疑交易需要实时分析,延迟就是损失
  • 客服与语音:复杂问题不再需要打断对话去等待
  • 研究实验:原本需要过夜跑完的研究,变成交互式工作会话

OpenAI 内部已经在用 Ultrafast 做事故响应和实时研究,工程师反馈"任务在我还没来得及切换上下文之前就完成了"。

对行业格局的影响

推理速度成为新竞争维度。 随着模型能力逐渐趋同,谁跑得快谁赢。The Next Web 的报道指出,推理专家 Groq、SambaNova 以及一批专用云服务商都在追逐同一个目标——市场越来越奖励"谁能让给定模型最快回答",而不是"谁训练了最大的模型"。

对 Nvidia 的意义。 训练市场 Nvidia 仍然不可替代,但推理市场出现了真正的替代选项。OpenAI 选择 Cerebras 也是减少对 Nvidia 依赖的明确信号——与 OpenAI 自研芯片的战略一脉相承。

对 Cerebras 的意义。 拿下 OpenAI 这个客户,等于拿到了推理芯片行业的最高背书。Cerebras 还在推进与 AMD 的合作方案(预计 2026 年底量产)以及 Amazon Bedrock 集成(2027 年初),推理芯片的生态正在从"概念验证"走向"规模部署"。

限制与未知

  • 目前仅限有限客户预览,开放时间表未定
  • Cerebras 产能能否跟上 OpenAI 的规模需求?晶圆级芯片的制造良率和交付节奏是关键瓶颈
  • 定价尚未公布,Ultrafast 层级的价格可能显著高于标准模式
  • 目前仅支持 GPT-5.6 Sol,其他模型(如 GPT-5.6、o 系列)是否跟进未知

---

基于 OpenAI 官方公告、Cerebras 官方博客及多家媒体转述整理。

参考来源

评论

0 条已公开
登录注册后可以参与评论。

正在加载评论...