Diagnosing and Mitigating Context Rot in Long-horizon Search

장기 검색 agent에서 context가 누적될 때 모델이 포기하거나 불확실한 답을 내는 'context rot' 현상을 진단하고, 7가지 완화 전략을 체계적으로 평가한다.

이 논문은 장기 딥 검색(deep search) 시나리오에서 context rot 현상을 체계적으로 진단한다. 4개 최신 오픈소스 모델과 3개 벤치마크에서, context가 누적될수록 모델이 직접 포기하거나 불확실한 답을 제공하는 현상이 악화됨을 발견했다. Context compaction, trimming, isolation의 7가지 완화 방법을 성능·비용·rot 영향 측면에서 평가하고, rot-aware 필터링으로 거절 샘플링 시 2.6~4.9% 평균 성능 향상을 달성했다. compaction+trimming 결합이 비용-성능 균형에서 최적임을 보여준다.

핵심 요약

• Context rot: 누적 context로 인해 모델이 포기(give up)하거나 불확실한 답(uncertain answer)을 내는 현상 정의
• 4개 오픈소스 모델(Qwen3.5-397B, GLM-4.7 등) × 3개 벤치마크로 체계적 진단
• Context compaction, trimming, isolation 등 7가지 관리 방법을 성능·비용·rot 영향으로 평가
• Rot-aware filtering: 불확실/포기 궤적 제거로 2.6~4.9% 평균 성능 향상
• Compaction + trimming 결합이 비용 대비 rot 완화에서 최적의 균형
• Context isolation(서브에이전트)은 모델 의존성이 크며 강한 모델에서만 유효

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.