Contextual Agentic Memory is a Memo, Not True Memory

홍콩중문대학교와 저장대학교의 연구자들은 현재의 LLM 에이전트 메모리가 진정한 가중치 기반 학습이 아니라 사례 기반 조회로 기능함을 규명한다.

홍콩중문대학교와 저장대학교의 연구자들은 현재의 LLM 에이전트 메모리가 진정한 가중치 기반 학습이 아니라 사례 기반 조회로 기능함을 규명한다. 이들의 분석은 이러한 조회 기반 시스템이 새로운 조합적 과제에 대해 "일반화 격차"를 보이며 지속적인 보안 침해에 취약함을 입증한다.

핵심 요약

• 현재의 LLM 에이전트 "메모리"는 주로 외부 조회 메커니즘에 의존하는데, 이는 진정한 학습 및 전문성 발달과 잘못 동일시된다.
• 조회 기반 에이전트는 조합적으로 새로운 과제에 효과적으로 일반화하지 못하고, 내재적 지식을 발달시키지 못한 채 정보만 축적한다.
• 기존 에이전트 메모리 구조는 일시적 프롬프트 주입이 영속적으로 저장되고 조회될 수 있어 지속적인 보안 침해에 취약하다.
• 이 논문은 LLM 에이전트의 "메모리"를 재정의하여, 사례 기반 조회(맥락 엔지니어링)와 규칙 기반의 가중치 인코딩 학습(theta-학습)을 구분한다.
• 조회 기반 메모리의 한계를 조합적 과제에 대한 "일반화 격차 정리"로 이론적으로 정식화한다.
• 빠른 일화적 조회와, 증류된 경험을 주기적이고 오프라인으로 모델 가중치에 인코딩하는 "통합 채널"을 결합한 "공존 구조"를 제안한다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.