Agents Are Not Enough

에이전트에는 더 강력한 모델 호출뿐 아니라 더 넓은 운영 생태계가 필요하다.

이 입장 논문은 AI 에이전트에 대한 새로운 열광이 이전 세대 에이전트 시스템의 교훈을 가려서는 안 된다고 주장한다. 생성형 AI는 에이전트에 더 강력한 언어 및 계획 능력을 부여하지만, 자율적인 작업 수행에는 여전히 단일 에이전트가 홀로 작동하는 것 이상이 필요하다. 이 논문은 Agents, Sims, Assistants로 구성된 생태계를 제안한다. Agents는 위임받은 작업을 수행하고, Sims는 사용자의 선호와 행동을 모델링하며, Assistants는 작업 실행을 조율하면서 사용자와 직접 상호작용한다. 핵심 가치는 에이전트 시스템을 위한 더 명확한 운영 아키텍처에 있으며, 특히 개인화, 사용자 의도, 조율, 책임성이 순수한 모델 성능보다 더 중요한 영역에서 의미가 있다.

핵심 요약

• 핵심 논지는 더 강력한 생성 모델만으로는 실제 사용자 워크플로에서 에이전트를 효과적이거나 지속 가능하게 만들기에 충분하지 않다는 것이다.
• 역사적 관점에서 이전 에이전트 시스템은 자율성, 맥락, 신뢰, 조율, 사용자 대표성이 에이전트라는 비유가 시사하는 것보다 더 어려웠기 때문에 실패하거나 정체되었다.
• 구조 측면에서 제안된 생태계는 하나의 모델 구성 요소가 모든 것을 처리하도록 강제하는 대신 실행 Agents, 사용자를 대표하는 Sims, 사용자 대면 Assistants를 분리한다.
• 산업적 의의로 보면 유용한 에이전트 시스템에는 자율적인 행동 루프뿐 아니라 지속적인 사용자 맥락, 워크플로 조율, 인간 대면 제어 인터페이스가 필요하다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.