LiquidAI 发布端侧智能体推理模型

摘要

LiquidAI 以开放权重发布了 LFM2.5-24B-A2B，这是一款混合专家（MoE）推理模型，总参数 240 亿、每个 token 仅激活 20 亿，面向在设备上快速、私密运行的智能体。该模型会在回答前进行思考、调用工具，并在常用智能体框架中完成多步任务。在公司自测基准上，它在工具使用和指令遵循的多项测试中达到或超过参数规模更大的 Qwen3.6-35B-A3B 等模型，并在发布首日即支持 llama.cpp、MLX、vLLM 等主流推理工具。

与我们工作的关联

无需外部 API 即可在本地运行的推理与工具调用智能体，让数据不能离开设备的环境有了更多私有化选择。基准数字来自公司自测，实际业务验证仍有待进行。

本文译自韩文原文。 摘要可能经过翻译和编辑。评论是我们的解读，未来预测代表来源的观点。