返回行业动态
模型与产品

Inception 发布 Mercury 3:扩散模型把百万上下文与千级 TPS 摆到一起

Inception 10 月 19 日发布扩散式大模型 Mercury 3:1,068 tokens/秒、100 万 token 上下文,规模超 Mercury 1 的 40 倍而速度基本保持。标准价每百万输入 0.20 美元、输出 0.70 美元,发布期五折,闭权重只经 API 提供。官方称 12 项基准中 8 项领先 GPT-6 Luna 与 Claude Haiku 5.5,但长上下文检索与长链编码仍落后,成绩均为自测。

来源:Inception 官方新闻稿(Business Wire 分发)原标题:Inception Launches Mercury 3, Setting a New Pareto Frontier in Speed and Intelligence查看原文
左侧灰白噪点流向右收敛为锐利的蓝色方块阵列,表现扩散生成过程

图片来源:北京拓实科技原创(AI 生成封面)

发生了什么

10 月 19 日,Inception 发布 Mercury 3,称其为目前能力最强的扩散式大语言模型。与逐 token 自回归生成不同,扩散模型先给出一版草稿,再在若干轮去噪中并行修正全文,因此吞吐量不会像自回归那样随生成长度线性下降。官方口径是 1,068 tokens/秒、100 万 token 上下文(Mercury 2.5 为 26 万),参数量超过 Mercury 1 的 40 倍而速度保持在同一量级。

定价为标准价每百万输入 0.20 美元、输出 0.70 美元,发布期五折(0.10 与 0.35),缓存命中再降 90%。模型闭权重、只经 API 提供,已上线 Inception API、OpenRouter、Baseten 与 Vercel,并兼容 OpenAI 接口格式,切换成本主要在提示词与参数适配。

自报的对位与短板

  • 在 12 项基准中,Inception 称 Mercury 3 于 8 项领先 GPT-6 Luna 与 Claude Haiku 5.5,包括 IFBench 76.84、GPQA Diamond 89.23、SWE-Bench Atlas 51.08;
  • 落后项集中在长上下文检索与长链编码:DeepSWE v1 为 46.31,低于 Haiku 5.5 的 51.62;MRCR v2 为 75.50,同样低于 78.40;
  • 对标模型的成绩由 Inception 自行测量,公告未披露运行环境与采样设置的细节。

为什么值得关注

过去两年,「扩散能不能随规模变强」一直是架构层面的开放问题。Mercury 系列给出的经验是:从 Mercury 1 到 Mercury 3,模型放大约 40 倍,速度没有塌陷,智能水平出现代际提升。如果这一结论在第三方复现中站得住,就意味着扩散路线不必在「快」与「聪明」之间二选一。

对智能体系统尤其关键:一次任务往往要重复调用模型几十次,单步延迟的复利效应大于单次回答的绝对质量。1,000 tokens/秒与 300 tokens/秒在同一条 50 步工具链上的差距,会直接决定产品是「感觉即时」还是「明显在等」。

现实约束

首版没有开源权重,参数规模、架构细节与实际推理硬件均未披露;1,068 tokens/秒是厂商在自有英伟达服务栈上的测量,早期开发者在真实会话中观察到约 300 至 400 TPS,仍属可用但明显低于标称值。同批发布的 Mercury Voice(面向语音首字延迟)与 Mercury Decide(高并发分类)目前只有方向性描述,缺少可评估的指标。企业若要把扩散模型放进生产,建议先用长上下文检索与长链编码两类任务做对照测试,这恰好是它当前相对薄弱的区间。

另一个待观察点是成本结构。扩散模型的并行去噪在短输出上优势明显,但输出越长,去噪轮次与显存占用的关系会变得复杂;厂商目前只给了单位 token 价格,没有给出不同长度分布下的实际账单。对批量文档处理类负载,这一点比峰值 TPS 更值得先做压测。

编辑说明

本文由北京拓实科技根据公开信息整理,核心事实与数据请以原始来源为准。

Inception Mercury 3:扩散模型做到 1068 tokens/秒|北京拓实科技