InfMem: Learning System-2 Memory Control for Long-Context Agent

InfMem은 'System-2 방식'의 능동적 메모리 제어 메커니즘을 사용하여, 대규모 언어 모델이 최대 100만 토큰에 이르는 문서에 대해 다중 홉 추론을 수행하게 하는 제어 중심 에이전트 프레임워크를 도입한다.

InfMem은 'System-2 방식'의 능동적 메모리 제어 메커니즘을 사용하여, 대규모 언어 모델이 최대 100만 토큰에 이르는 문서에 대해 다중 홉 추론을 수행하게 하는 제어 중심 에이전트 프레임워크를 도입한다. 이 접근법은 초장문 QA 벤치마크에서 정확도를 상당히 향상시키며, 이전 메모리 증강 에이전트 대비 추론 시간을 최대 5.1배 단축한다.

핵심 요약

• 대규모 언어 모델(LLM)은 '중간 소실' 현상과 압축의 '충실도 딜레마'로 인해 초장문 문서에 대한 효과적인 다중 홉 추론에 어려움을 겪는다.
• 기존 메모리 증강 에이전트는 종종 수동적·반응적 메모리 갱신 전략에 의존하여, 복잡한 추론에 필요한 결정적이지만 현저성이 낮은 연결 증거를 잃을 위험이 있다.
• 초장문 문서 처리는 높은 연산 비용과 메모리 오버헤드를 초래하여, 현재 솔루션을 실용적 배포에 비효율적으로 만든다.
• InfMem은 사전 사고, 검색, 기록으로 이어지는 제어 프로토콜을 구현하여, 에이전트가 증거 충분성을 능동적으로 모니터링하고 검색 쿼리를 합성하며 증거 인식 결합 압축을 수행하게 한다.
• 문서 내 표적 검색을 포함하여, 현재 쿼리에 누락된 증거를 가져오기 위해 문서의 어느 부분에든 비단조적으로 접근할 수 있게 한다.
• 이 프레임워크는 충분한 증거가 축적되면 메모리 갱신 루프를 종료하는 적응형 조기 중단 메커니즘을 활용하여 연산 효율을 최적화한다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.