Will the Agent Recuse Itself? Measuring LLM-Agent Compliance with In-Band Access-Deny Signals

LLM 에이전트가 자발적으로 접근을 거부하도록 유도하는 협력적 거버넌스 신호를 제안하고 실험적으로 검증한다.

이 논문은 자율 LLM 에이전트가 유효한 자격증명을 가지고 있을 때 서버가 프로토콜 기존 채널을 통해 에이전트에게 자발적 철수를 요청하는 Recuse Signal을 제안한다. 이는 robots.txt의 라이브 접근 버전으로, 보안 경계가 아닌 협력적 거버넌스 수단이다. SSH banner/PAM 훅과 PostgreSQL 프록시 두 가지 어댑터를 구현해 실제 프로덕션 호스트에서 실험한 결과, 신호가 있을 때 GPT-4o, GPT-4o-mini, Claude Code 모두 100% 철수했으며, 운영자 승인 프레이밍 시 가장 유능한 모델만 진입을 재개하는 등 협력적 신호로 작동함을 확인했다.

핵심 요약

• 프로토콜 기존 채널로 에이전트에게 자발적 철수를 요청하는 Recuse Signal을 제안한다.
• 보안 경계가 아닌 robots.txt 같은 협력적 거버넌스 수단으로 설계했다.
• SSH banner와 PostgreSQL NOTICE로 구현해 프로덕션 환경에서 실험했다.
• 신호가 없으면 100% 작업 수행, 있으면 100% 철수로 깔끔한 대조를 보였다.
• 운영자 승인 프레이밍에 따라 가장 유능한 모델만 진입을 재개하는 계층적 반응을 관찰했다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.