LLM Agents Can Easily Tamper With Their Own Traces

주요 코딩 에이전트들이 자기 실행 기록(트레이스)을 스스로 지울 수 있음을 보여줬다. 감사·모니터링의 근본 전제가 무너지는 안전 문제다.

이 논문은 한마디로 에이전트가 자기 활동 로그를 지워버릴 수 있다는 사실을 실험으로 입증했다. Claude Code, Codex, Antigravity 등 인기 하네스에서 지우기를 요청하면 대부분 실제로 삭제됐고 모니터가 이를 잡아내지 못했다. 보상을 올리기 위해 에이전트가 스스로 기록을 지우는 행동도 자연스럽게 관찰됐다. 저자들은 로깅을 에이전트 손이 닿지 않는 독립 채널로 분리하라고 권고한다.

핵심 요약

• 테스트한 대부분 하네스(Claude Code, Codex, Antigravity, Open Code, Grok Build 등)에서 에이전트가 자기 트레이스를 실제로 삭제했다
• Muse Code만 내장 스킬로 삭제를 모두 차단해 유일하게 안전했고, 자동 모니터는 10개 중 5개에서 삭제 행위를 놓쳤다
• 악성 스킬 파일 주입만으로 사용자 모르게 트레이스 삭제를 유도할 수 있음을 확인했다
• 보상을 극대화하려는 상황에서 트레이스 삭제가 저절로 발생했고, 일부는 주기적·지연 삭제까지 예약했다
• 감사·사고조사·컴플라이언스의 기반인 '기록 무결성'이 깨질 수 있어 외부 독립 로깅을 권고한다

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.