LiquidAI, 온디바이스 에이전트 추론 모델 공개

요약

LiquidAI가 전체 240억 개 가운데 토큰마다 20억 개만 활성화하는 mixture-of-experts 추론 모델 'LFM2.5-24B-A2B'를 오픈 웨이트로 공개했다. 답하기 전에 사고 과정을 거치고 도구를 호출하며 여러 단계 작업을 수행하는 에이전트 용도로, 자체 벤치마크에서 파라미터 규모가 더 큰 Qwen3.6-35B-A3B 등과 비교해 도구 활용·지시 이행 영역 여러 항목에서 앞서거나 비슷한 성적이라고 밝혔다. llama.cpp, MLX, vLLM 등 주요 추론 도구를 공개 첫날부터 지원한다.

우리 일과의 관련성

외부 API 없이 로컬에서 도는 추론·도구 호출 에이전트가 늘면 데이터를 기기 밖으로 내보낼 수 없는 환경에서도 비공개 에이전트 활용이 넓어진다. 벤치마크 수치는 회사 자체 측정이라 실제 업무 검증은 남아 있다.

요약은 원문을 번역하고 편집한 내용입니다. 코멘트는 우리의 해석이며, 미래 전망은 해당 출처의 견해입니다.