Inception Labs 发布扩散式大模型 Mercury 3，每秒生成超千个 token

摘要

Inception Labs 推出迄今最强的扩散式大语言模型 Mercury 3。根据该公司自行公布的基准，它在质量上匹敌或超过 GPT-6 Luna 与 Claude Haiku 5.5，同时在英伟达 GPU 上达到每秒 1,068 个 token 的生成速度。该公司称其规模是 Mercury 1 的 40 倍以上而速度不变，并以此主张扩散模型同样遵循缩放定律。目标场景是网页操作代理、实时搜索、语音辅导等对延迟敏感的代理任务。所有质量成绩均为公司自评。

与我们工作的关联

代理在每个步骤都要等待模型响应，生成速度直接决定任务完成速度。廉价超快模型选择增多后，代理能在同样的时间和预算内尝试更多方案，加快人与 AI 的协作节奏。

本文译自韩文原文。 摘要可能经过翻译和编辑。评论是我们的解读，未来预测代表来源的观点。