Inception Labs、毎秒1,000トークン超の拡散LLM「Mercury 3」を発表

要約

Inception Labsは、拡散ベースの言語モデル「Mercury 3」を発表した。同社の自己ベンチマークでは、GPT-6 LunaやClaude Haiku 5.5と同等以上の品質を保ちながら、NVIDIA GPU上で毎秒1,068トークンの生成速度を実現するとされる。Mercury 1の40倍以上の規模でも速度を維持できたとしており、拡散モデルも自己回帰モデルと同様のスケーリング則に従うという同社の主張だ。主な用途はウェブ操作エージェント、リアルタイム検索、音声チューターなどの遅延に敏感なエージェント業務である。品質数値はすべて同社の自己評価だ。

仕事との関連

エージェントは各ステップでモデルの応答を待つため、生成速度がそのままタスク完了速度になる。安価な超高速モデルの選択肢が増えれば、同じ時間と予算でより多くのアプローチを試せるようになり、人とAIの協働の体感速度が上がる。

韓国語の原文を翻訳した記事です。 要約には翻訳と編集を含みます。コメントは私たちの解釈であり、将来予測は出典の見解です。