Self-Organizing LLM Agents

LLM 에이전트 조직에 대한 대규모 실험으로, 고정된 인간식 역할은 유능한 모델에게 과제별로 역할과 기권, 얕은 위계가 창발하도록 하는 최소한의 프로토콜을 부여하는 것보다 덜 중요하다는 것을 보인다.

이 논문은 다중 에이전트 LLM 시스템이 실제로 얼마나 많은 구조를 필요로 하는지를 묻는데, 8개 모델, 4명에서 256명의 에이전트, 중앙집중식 위계에서 거의 자유로운 자기 조직화에 이르는 8개 협조 프로토콜에 걸쳐 25,000회 이상의 과제 실행을 시험한다. 핵심 결과는 내생성 역설이다. 즉, 최선의 프로토콜은 완전한 자율성이나 설계된 관리자가 아니라, 에이전트가 이전 출력을 보고 스스로 임시 역할을 고르며 기여할 것이 적을 때 기권할 수 있는 순차적 구성이다. 순차적 협조는 중앙집중식 협조보다 14% 우수하고 가장 약한 프로토콜 대비 44%의 품질 차이를 보이며, 256명의 에이전트까지 유의미한 품질 손실 없이 확장되고 비용은 하위 선형으로 증가한다. 자율성의 이득은 모델 역량에 좌우된다. Claude나 Sonnet급, DeepSeek 계열 같은 강력한 모델은 스스로 전문화할 수 있지만, 약한 모델은 여전히 경직된 발판이 필요할 수 있다. 주된 시사점은 사전 할당된 직함이 아니라 임무, 프로토콜, 모델 역량을 중심으로 다중 에이전트 시스템을 설계하라는 것이지만, 결과는 또한 역량 임계값 아래에서는 자기 조직화가 자동으로 이로운 것이 아님을 경고한다.

핵심 요약

• 방법으로, 이 연구는 에이전트 조직을 역할, 상호작용 위상, 메모리, 충격, 확률적 LLM 행동을 갖춘 동적 시스템으로 형식화한 뒤, 동일한 과제와 평가 파이프라인 하에서 8개 협조 프로토콜을 비교한다.
• 핵심 아이디어는 다음과 같다. 순차적 협조는 순서와 이전 출력에 대한 가시성만 제공하여, 에이전트가 고정된 역할 프롬프트 없이 과제 특화 역할을 만들고, 가치가 낮은 참여를 건너뛰며, 얕은 위계를 형성하게 한다.
• 결과로, 복잡한 과제에서 순차적 협조는 완전 공유 협조나 자율 협조보다 훨씬 높은 품질에 도달하고 중앙집중식 코디네이터를 14% 능가한다. 품질은 256명의 에이전트까지 안정적으로 유지되며, 8명의 에이전트가 5,006개의 고유 역할 이름을 생성한다.
• 한계이자 의미로, 자기 조직화는 역량에 의해 제약된다. 강력한 모델은 이득을 보고 약한 모델은 저하될 수 있으므로, 실용적 처방은 '모든 구조를 제거하라'가 아니라 '메타 추론이 가능한 모델과 함께 최소한의 발판을 사용하라'이다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.