Multi-User Large Language Model Agents

KAUST, UT Austin, Stanford University, MIT의 연구진은 다중 주체 환경에서 작동하는 다중 사용자 대규모 언어 모델 에이전트에 대한 체계적 조사를 수행했다.

KAUST, UT Austin, Stanford University, MIT의 연구진은 다중 주체 환경에서 작동하는 다중 사용자 대규모 언어 모델 에이전트에 대한 체계적 조사를 수행했다. 이 연구는 최신 프런티어 모델조차도 사용자 간 충돌 해소, 장기적 프라이버시 유지, 다자 과제의 효율적 조율 능력에서 체계적인 한계가 있음을 밝혀냈다.

핵심 요약

• 대규모 언어 모델(LLM)과 그 에이전트는 주로 단일 주체 상호작용 시나리오에 최적화되어 있어, 서로 다른 사용자 정체성, 역할, 그리고 잠재적으로 상충하는 목표를 간과한다.
• 기존 LLM 에이전트 시스템은 사용자 역할을 구분하거나 정보 경계를 강제하거나 여러 사용자의 이익 간 충돌을 효과적으로 해소할 네이티브 프로토콜이 부족하다.
• 현재 모델은 현실적인 팀 워크플로와 조직 도구에 내재된 이질적 효용, 상이한 권한 수준, 정보 비대칭, 프라이버시 제약을 관리하는 데 어려움을 겪는다.
• 저자들은 다중 사용자 LLM 상호작용을, 단일 에이전트가 개별 사용자 효용·권한·접근 제어 정책을 고려하면서 가중치가 부여된 사회적 목표를 최적화하는 다중 주체 의사결정 문제로 정식화했다.
• 명시적 권한과 사적 맥락을 갖는 사용자 페르소나, 그리고 공유 맥락을 관찰하고 개인화된 업데이트를 제공하는 에이전트 메커니즘을 정의하는 통합 상호작용 프로토콜을 수립했다.
• 다중 주체 과제에 대해 최신 LLM을 실증적으로 평가하기 위해 세 가지 스트레스 테스트 시나리오(다중 사용자 지시 수행, 사용자 간 접근 제어, 다중 사용자 회의 조율)로 구성된 스위트를 설계했다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.