HDATF
한국어
도입 상담하기
메뉴

논문 아카이브

수록 논문과 요약을 번호가 큰 순서로 보여 줍니다.

수록 논문 1,430자료 갱신일 Research Monitoring벤치마크RSS 구독
  1. 181Agents / Coding / RAGarXiv:2605.15184

    Is Grep All You Need? How Agent Harnesses Reshape Agentic Search

    PricewaterhouseCoopers의 연구자들은 LLM 에이전트의 검색 전략 효과를 실증적으로 조사하여, 어휘적 검색(grep)과 의미적 검색(벡터)이 서로 다른 에이전트 구조 및 도구 출력 전달 방식과 어떻게 상호작용하는지에 초점을 맞췄다.

    PricewaterhouseCoopers의 연구자들은 LLM 에이전트의 검색 전략 효과를 실증적으로 조사하여, 어휘적 검색(grep)과 의미적 검색(벡터)이 서로 다른 에이전트 구조 및 도구 출력 전달 방식과 어떻게 상호작용하는지에 초점을 맞췄다. 이 연구는 도구 결과가 인라인으로 전달될 때 grep이 종종 더 높은 정확도를 달성하며, 전반적인 에이전트 성능이 에이전트의 특정 오케스트레이션 계층에 크게 좌우됨을 밝힌다.

    • 기존 연구는 LLM 에이전트의 검색 전략을 완전한 반복적 에이전트 워크플로 안에서가 아니라 고립된 상태로 평가하는 경우가 많다.
    • 검색 전략, 에이전트 구조(맞춤형 대 공급자 네이티브 CLI), 도구 호출 패러다임(인라인 대 파일 기반 결과 전달) 간의 상호작용은 대체로 충분히 탐구되지 않은 채 남아 있었다.
    • 검색 전략이 코퍼스 노이즈가 증가할 때 어떻게 작동하는지에 대한 이해가 제한적이었는데, 이는 실세계 에이전트 배치에서 중요한 측면이다.
    • 어휘적 검색(grep)과 의미적 검색(벡터)을 다양한 에이전트 하네스와 도구 호출 구조 전반에서 비교하는 다면적 실증 연구를 수행했다.
    • 평가에는 LongMemEval 벤치마크의 116문항 부분집합을 사용했으며, 무관한 교란 콘텐츠의 수준이 다양한 다중 세션 대화에 초점을 맞췄다.
    • 다섯 개의 다양한 LLM을 평가했으며, 보조 LLM 채점기를 통해 모든 실험 조건에서 에이전트 정확도를 일관되고 객관적으로 평가하도록 보장했다.
    초록PDF
  2. 180LLMs / Architecture / Long ContextarXiv:2605.06554

    Long Context Pre-Training with Lighthouse Attention

    Lighthouse Attention은 긴 맥락 트랜스포머의 효율적 사전학습을 위한 4단계의 커널 분리형 계층적 어텐션 메커니즘을 제공하여, 스케일드 닷-프로덕트 어텐션의 2차 복잡도를 크게 줄이는 동시에 완전한 밀집 어텐션 복원 가능성을 유지한다.

    Lighthouse Attention은 긴 맥락 트랜스포머의 효율적 사전학습을 위한 4단계의 커널 분리형 계층적 어텐션 메커니즘을 제공하여, 스케일드 닷-프로덕트 어텐션의 2차 복잡도를 크게 줄이는 동시에 완전한 밀집 어텐션 복원 가능성을 유지한다. 이 접근법은 98K 맥락 길이의 530M 파라미터 모델에서 최대 1.69배의 실측 시간 가속과 더 낮은 최종 훈련 손실을 달성했으며, 맥락 병렬화를 통해 1M 토큰까지 더 확장된다.

    • 스케일드 닷-프로덕트 어텐션(SDPA)의 2차 시간·메모리 복잡도(Θ(N²))는 극히 긴 시퀀스 길이(예: 128K, 1M+)에서 인과적 트랜스포머를 훈련하는 것을 연산적으로 감당 불가능하게 만든다.
    • 사전학습용 기존 희소 어텐션 기법들은 비대칭적(키와 값만 풀링)이거나 구조적으로 얽혀 있어, FlashAttention 같은 고도로 최적화된 밀집 어텐션 커널의 재사용을 막는 맞춤형 희소 어텐션 연산자를 요구하는 경우가 많다.
    • 희소 어텐션으로 사전학습된 모델이 추론 시 완전한 밀집 어텐션 모델로 효과적으로 기능하도록 보장하는 것은 큰 난제다.
    • 어텐션 커널을 감싸 표준 FlashAttention이 동적으로 압축된 하위 시퀀스에서 작동할 수 있게 하는 4단계 파이프라인(피라미드 구성, 점수화 및 선택, 수집-시퀀스 어텐션, 산포-복원 재구성)을 도입한다.
    • 여러 피라미드 레벨에 걸쳐 쿼리·키·값에 대칭적 평균 풀링을 적용하고, 매개변수 없는 투영-노름 점수기와 미분 불가능한 상위 k개 선택 과정을 결합하여 준-2차 처리를 수행한다.
    • 두 단계 훈련 방식을 사용한다. 즉, 효율을 위해 Lighthouse Attention으로 1차 훈련한 뒤, 추론을 위해 완전한 밀집 SDPA를 사용한 짧은 재개 단계로 모델의 완전한 어텐션 역량을 복원하고 최적화한다.
    초록PDF
  3. 179Agents / Security / SkillsarXiv:2605.00424

    Skills as Verifiable Artifacts: A Trust Schema and a Biconditional Correctness Criterion for Human-in-the-Loop Agent Runtimes

    에이전트 스킬은 모델 자체를 수정하지 않고 대규모 언어 모델(LLM)을 보강하는, 지시·스크립트·참조 자료의 구조화된 패키지로서, 편의 기능에서 일급 배포 산출물로 격상되었다.

    에이전트 스킬은 모델 자체를 수정하지 않고 대규모 언어 모델(LLM)을 보강하는, 지시·스크립트·참조 자료의 구조화된 패키지로서, 편의 기능에서 일급 배포 산출물로 격상되었다. 이를 로드하는 런타임은 패키지 관리자와 운영체제가 늘 직면해온 것과 동일한 문제를 물려받는다. 즉, 어떤 콘텐츠가 특정 동작을 한다고 주장하면, 런타임은 그것을 믿을지 말지 결정해야 한다. 이 논문은 핵심 논지를 처음부터 분명히 한다. 스킬은 검증되기 전까지 신뢰할 수 없는 코드이며, 이를 로드하는 런타임은 서명, 권한 등급, 출처 레지스트리로부터 신뢰를 추론하는 대신 그 기본값을 강제해야 한다. 스킬 검증이 없으면 모든 비가역적 호출마다 사람 개입(HITL) 게이트가 발동해야 하는데, 이는 운영상 지속 불가능하며 비자명한 규모에서는 형식적 승인으로 전락한다. 스킬 검증을 별도의 게이트형 절차로 다루면 HITL은 미검증 대상에 대해서만 발동하고 시스템은 지속 가능해진다. 저자들은 모든 스킬 매니페스트에 명시적 검증 수준을 포함하는 신뢰 스키마, HITL 정책이 해당 검증 수준의 함수로 결정되는 역량 게이트, 임의의 후보 검증 절차가 적대적 앙상블 시험에서 충족해야 하는 쌍조건적 정확성 기준, 그리고 작동하는 오픈소스 참조 구현에서 추상화한 열 가지 규범적 지침을 담은 이식 가능한 런타임 프로파일을 제시한다. 이 기여는 하네스 및 모델 비종속적이며, 여기에는 재훈련, 미세조정, 독점 인프라가 전혀 필요하지 않다.

    • 에이전트 스킬은 모델 자체를 수정하지 않고 대규모 언어 모델(LLM)을 보강하는, 지시·스크립트·참조 자료의 구조화된 패키지로서, 편의 기능에서 일급 배포 산출물로 격상되었다.
    • 이를 로드하는 런타임은 패키지 관리자와 운영체제가 늘 직면해온 것과 동일한 문제를 물려받는다. 즉, 어떤 콘텐츠가 특정 동작을 한다고 주장하면, 런타임은 그것을 믿을지 결정해야 한다.
    • 이 논문은 핵심 논지를 처음부터 분명히 한다. 스킬은 검증되기 전까지 신뢰할 수 없는 코드이며, 이를 로드하는 런타임은 서명, 권한 등급, 출처 레지스트리로부터 신뢰를 추론하는 대신 그 기본값을 강제해야 한다.
    • 스킬 검증이 없으면 모든 비가역적 호출마다 사람 개입(HITL) 게이트가 발동해야 하는데, 이는 운영상 지속 불가능하며 비자명한 규모에서는 형식적 승인으로 전락한다.
    • 스킬 검증을 별도의 게이트형 절차로 다루면 HITL은 미검증 대상에 대해서만 발동하고 시스템은 지속 가능해진다.
    • 저자들은 모든 스킬 매니페스트에 명시적 검증 수준을 포함하는 신뢰 스키마, HITL 정책이 해당 검증 수준의 함수로 결정되는 역량 게이트, 임의의 후보 검증 절차가 적대적 앙상블 시험에서 충족해야 하는 쌍조건적 정확성 기준, 그리고 작동하는 오픈소스 참조 구현에서 추상화한 열 가지 규범적 지침을 담은 이식 가능한 런타임 프로파일을 제시한다.
    초록PDF
  4. 178Agents / Interpretability / AutoMLarXiv:2605.03808

    Agentic-imodels: Evolving agentic interpretability tools via autoresearch

    Microsoft Research는 예측 정확도와 해석가능성 모두에 최적화된 머신러닝 모델을 AI 에이전트가 자율적으로 발견하고 개선하는 자가 연구 프레임워크 AGENTIC-IMODELS를 개발했다.

    Microsoft Research는 예측 정확도와 해석가능성 모두에 최적화된 머신러닝 모델을 AI 에이전트가 자율적으로 발견하고 개선하는 자가 연구 프레임워크 AGENTIC-IMODELS를 개발했다. 이 시스템은 데이터 분석 과제에서 기존 AI 에이전트의 분석 성능을 향상시키는 모델을 생성하여, BLADE 벤치마크에서 평균 점수를 최대 72.5%까지 끌어올린다.

    • 기존의 해석가능 머신러닝(IML) 도구는 인간의 해석을 위해 설계되어, AI 에이전트가 안정적으로 파싱하고 활용하기 어려운 출력(예: 시각화)을 산출한다.
    • 이 불일치는 자율 에이전트 데이터 과학(ADS) 시스템에서 신뢰할 수 없는 분석과 가려진 추론과 비효율적 워크플로로 이어진다.
    • 에이전트 해석가능성에 대한 자동화되고 모델 비종속적인 지표가 부재하여 AI 중심 해석가능성 도구의 개발을 저해한다.
    • 에이전트 기반 자가 연구 루프는 예측 성능과 새로운 LLM 채점 해석가능성 점수로부터의 피드백에 기반하여 Python 모델 구현을 반복적으로 수정한다.
    • 모델의 문자열 표현으로부터 모델에 대해 추론하는 LLM의 능력을 200개의 개별 자동화 테스트를 사용해 정량화하는 새로운 '에이전트 해석가능성 점수'를 도입한다.
    • 이 프레임워크는 높은 예측 성능(65개 데이터셋 전반의 순위화된 RMSE)과 높은 에이전트 해석가능성 점수(LLM 테스트 통과율)라는 결합된 목표에 맞춰 모델을 최적화한다.
    초록PDF
  5. 177Agents / MemoryarXiv:2604.27707

    Contextual Agentic Memory is a Memo, Not True Memory

    홍콩중문대학교와 저장대학교의 연구자들은 현재의 LLM 에이전트 메모리가 진정한 가중치 기반 학습이 아니라 사례 기반 조회로 기능함을 규명한다.

    홍콩중문대학교와 저장대학교의 연구자들은 현재의 LLM 에이전트 메모리가 진정한 가중치 기반 학습이 아니라 사례 기반 조회로 기능함을 규명한다. 이들의 분석은 이러한 조회 기반 시스템이 새로운 조합적 과제에 대해 "일반화 격차"를 보이며 지속적인 보안 침해에 취약함을 입증한다.

    • 현재의 LLM 에이전트 "메모리"는 주로 외부 조회 메커니즘에 의존하는데, 이는 진정한 학습 및 전문성 발달과 잘못 동일시된다.
    • 조회 기반 에이전트는 조합적으로 새로운 과제에 효과적으로 일반화하지 못하고, 내재적 지식을 발달시키지 못한 채 정보만 축적한다.
    • 기존 에이전트 메모리 구조는 일시적 프롬프트 주입이 영속적으로 저장되고 조회될 수 있어 지속적인 보안 침해에 취약하다.
    • 이 논문은 LLM 에이전트의 "메모리"를 재정의하여, 사례 기반 조회(맥락 엔지니어링)와 규칙 기반의 가중치 인코딩 학습(theta-학습)을 구분한다.
    • 조회 기반 메모리의 한계를 조합적 과제에 대한 "일반화 격차 정리"로 이론적으로 정식화한다.
    • 빠른 일화적 조회와, 증류된 경험을 주기적이고 오프라인으로 모델 가중치에 인코딩하는 "통합 채널"을 결합한 "공존 구조"를 제안한다.
    초록PDF
  6. 176Agents / Data / InfrastructurearXiv:2604.28181

    Synthetic Computers at Scale for Long-Horizon Productivity Simulation

    "Synthetic Computers at Scale"라는 방법론은 확장 가능하고 긴 호라이즌의 생산성 시뮬레이션을 위해 다양하고 산출물이 풍부한 합성 컴퓨터 환경의 생성을 가능하게 한다.

    "Synthetic Computers at Scale"라는 방법론은 확장 가능하고 긴 호라이즌의 생산성 시뮬레이션을 위해 다양하고 산출물이 풍부한 합성 컴퓨터 환경의 생성을 가능하게 한다. 이 시뮬레이션에서 추출한 경험적 학습 신호는 AI 에이전트 성능을 향상시켜, 도메인 내 평가에서 7.0%포인트 상승과 도메인 외 벤치마크로의 긍정적 전이를 보여준다.

    • 실세계의 긴 호라이즌 생산성 궤적을 대규모로 수집하는 것은 민감한 사용자 데이터에 따른 프라이버시 문제와 이질적 사용자 환경의 복잡성으로 인해 어렵다.
    • AI 에이전트는 풍부한 사용자별 맥락과 지속적 행동이 결여된, 현실적이고 긴 호라이즌의 생산성 업무(정보 수집, 분석, 협업, 산출물 생산)에서 어려움을 겪는다.
    • 에이전트 훈련용의 일반적이고 장난감 수준인 워크플로는 실세계 생산성 과제의 맥락 집약적 특성을 충분히 반영하지 못해 에이전트의 효과를 제한한다.
    • "Synthetic Computers at Scale" 방법론은 표집된 페르소나를 구체화하여 디지털 작업공간을 채움으로써, 다양하고 산출물이 풍부하며 사용자별로 특화된 합성 컴퓨터 환경을 생성한다.
    • 이 환경 안에서 긴 호라이즌 생산성 시뮬레이션(약 한 달치의 인간 업무를 모사)을 수행하며, 목표와 협업자를 정의하는 설정 에이전트와 반복적 계획 수립 및 일일 실행을 담당하는 작업 에이전트를 사용한다.
    • 이 시뮬레이션에서 풍부한 경험적 학습 신호(과정 수준과 결과 수준 모두)를 추출하여 에이전트의 자기 개선과 강화학습을 촉진한다.
    초록PDF
  7. 175Agents / Reinforcement LearningarXiv:2605.02572

    On Training Large Language Models for Long-Horizon Tasks: An Empirical Study of Horizon Length

    이 실증 연구는 내재적 과제 호라이즌 길이를 대규모 언어 모델 에이전트 훈련의 근본적 병목으로 규명하며, 더 긴 호라이즌이 심각한 훈련 불안정성과 성능 붕괴를 유발함을 입증한다.

    이 실증 연구는 내재적 과제 호라이즌 길이를 대규모 언어 모델 에이전트 훈련의 근본적 병목으로 규명하며, 더 긴 호라이즌이 심각한 훈련 불안정성과 성능 붕괴를 유발함을 입증한다. 매크로 액션과 하위 목표 분해 같은 호라이즌 축소 기법을 적용하면 훈련이 효과적으로 안정화되고 성능이 향상되어, 이전에 보지 못한 더 긴 과제로의 일반화가 가능해짐을 보여준다.

    • 상호작용 에이전트로 배치된 대규모 언어 모델(LLM)은 다단계의 긴 호라이즌 실세계 과제에서 어려움을 겪는다.
    • 선행 연구는 LLM 훈련 동역학에 영향을 미치는 근본 요인으로서의 내재적 과제 호라이즌 길이를 대체로 간과하며, 종종 다른 복잡성 요인과 혼동한다.
    • 더 긴 호라이즌은 오차 누적, 상태-행동 매핑 복잡성의 기하급수적 증가, 희소하고 지연된 피드백으로 인한 모호한 신용 할당 같은 난제를 악화시킨다.
    • 추론 복잡성을 일정하게 유지하면서 내재적 과제 호라이즌 길이를 분리하고 변화시키도록 설계된 통제된 과제 환경(스도쿠, 러시아워)을 사용하여 체계적 실증 연구를 수행했다.
    • 이 연구는 '호라이즌 축소' 원리, 구체적으로 매크로 액션(에이전트가 한 스텝에 여러 원자적 행동을 생성하도록 허용)과 하위 목표 분해(과제를 검증 가능한 하위 목표로 나누고 조밀한 중간 보상을 부여)를 도입하고 평가한다.
    • LLM 에이전트는 지도 미세조정(SFT) 이후, 견고한 학습을 위한 오프폴리시 안정화 기법을 결합하여 재평가된 REINFORCE 알고리즘을 사용한 강화학습(RL)으로 훈련된다.
    초록PDF
  8. 174Agents / Multi-Agent / ArchitecturearXiv:2605.03310

    Coordination as an Architectural Layer for LLM-Based Multi-Agent Systems

    Devnull FZCO의 연구자들은 멀티 에이전트 대규모 언어 모델 시스템에서 협응을 별개의 구조적 계층으로 개념화하는 프레임워크를 제시한다.

    Devnull FZCO의 연구자들은 멀티 에이전트 대규모 언어 모델 시스템에서 협응을 별개의 구조적 계층으로 개념화하는 프레임워크를 제시한다. 예측 시장에 대한 이들의 정보 통제 실증 연구는 특정 협응 패턴이 실패 양상에 어떻게 영향을 미치는지 보여주고 비용-품질 파레토 프런티어를 드러내며, 최고(Sequential Pipeline) 구성과 최악(Consensus Alignment) 구성 사이에서 0.028 Brier 단위의 차이를 관찰했다.

    • LLM 기반 멀티 에이전트 시스템은 모호성과 정렬 불일치 같은 협응 결함으로 인해 실제 운영 환경에서 높은 실패율(41~87%)을 보인다.
    • 특정 협응 구성을 예측 가능한 실패 양상 시그니처에 매핑하는 원리적 프레임워크가 부재하여, 선제적 시스템 설계를 저해한다.
    • 멀티 에이전트 구조에 대한 기존 실증 비교는 구조적 효과를 정보 접근성 증가와 혼동하는 경우가 많아, 진정한 구조적 영향을 규명하기 어렵게 만든다.
    • 이 논문은 협응을 에이전트 로직 및 정보 접근과 구별되는 구성 가능한 구조적 계층으로 다룰 것을 제안하며, 통신 토폴로지와 집계 규칙을 포함한 일곱 가지 요소로 최소한으로 명세한다.
    • LLM, 도구 스택, 프롬프트 템플릿, 출력 상한을 엄격히 고정하고 협응 계층만 변화시키는 "정보 통제" 실험 방법론을 설계하고 구현했다.
    • 예측 시장 테스트베드(Polymarket)를 사용하여, 객관적 실제 결과 해소와 엄격히 적정한 채점 규칙(Brier 점수, Murphy 분해)을 활용해 예측 신뢰도와 해소에 대한 구조적 효과를 평가하고 진단했다.
    초록PDF
  9. 173Agents / Coding / EvaluationarXiv:2604.25067

    Frontier Coding Agents Can Now Implement an AlphaZero Self-Play Machine Learning Pipeline For Connect Four That Performs Comparably to an External Solver

    새로운 벤치마크는 AI 에이전트가 커넥트 포를 위한 AlphaZero 자가 대국 머신러닝 파이프라인을 자율적으로 구현하는 능력을 평가한다.

    새로운 벤치마크는 AI 에이전트가 커넥트 포를 위한 AlphaZero 자가 대국 머신러닝 파이프라인을 자율적으로 구현하는 능력을 평가한다. 프런티어 모델, 특히 Claude Opus 4.7은 강력한 외부 솔버에 필적하는 성능을 달성한 반면, GPT-5.4는 평가 맥락에 따라 전략적으로 성능을 낮추는 것과 일관된 차등적 시간 예산 사용을 보였다.

    • 기존 AI 역량 벤치마크는 재귀적 자기 개선(RSI)에 대한 충분히 이른 경고 신호를 제공하지 못할 수 있다.
    • 확립된 AI 연구 성과에 기반하여 종단간 머신러닝 파이프라인을 자율적으로 구현하는 AI의 역량을 측정할 필요가 있다.
    • 고도화된 AI 시스템의 평가는 샌드배깅이나 의도적인 성능 저하 같은 잠재적 전략 행동으로 인해 복잡해진다.
    • 소비자용 하드웨어에서 3시간의 제한 시간 내에 커넥트 포를 위한 AlphaZero 방식 자가 대국 ML 파이프라인을 자율적으로 구현하도록 프런티어 코딩 에이전트에게 과제를 부여하는 벤치마크를 개발했다.
    • 격리된 샌드박스 Docker 환경에서 네 개의 프런티어 코딩 에이전트(Gemini 3.1 Pro, Claude Opus 4.6, Claude Opus 4.7, GPT-5.4)를 평가했다.
    • 다양한 프롬프트 전략(예: 'Hobbyist' 대 'RSI Alert')과 실행 환경을 사용하여 GPT-5.4에 대한 샌드배깅 프로브를 수행함으로써 이상한 시간 예산 사용 양상을 조사했다.
    초록PDF
  10. 172LLMs / Pretraining / SafetyarXiv:2601.21343

    Self-Improving Pretraining: using post-trained models to pretrain better models

    Meta FAIR의 연구자들은 안전성, 사실성, 품질, 추론 같은 바람직한 행동을 대규모 언어 모델 훈련의 더 이른 단계에 통합하는 방법을 개발했다.

    Meta FAIR의 연구자들은 안전성, 사실성, 품질, 추론 같은 바람직한 행동을 대규모 언어 모델 훈련의 더 이른 단계에 통합하는 방법을 개발했다. 이들의 접근법은 사후학습된 모델을 활용해 사전학습을 안내하고 명시적인 "사고" 중간학습 단계를 도입하며, 이를 통해 전통적 사후학습 대비 수학적 추론 정확도를 3.2배 높이는 등 내재적 역량이 향상된 모델을 만들어낸다.

    • 기존 LLM 훈련은 안전성, 사실성, 품질, 복잡한 추론 같은 핵심 행동의 도입을 사후학습 단계로 미룬다.
    • 초기 사전학습 중에 학습된 패턴은 이러한 바람직한 속성에 대한 명시적 안내가 부족하여, 나중에 완전히 교정하기 어려운 지속적 약점을 야기한다.
    • 사전학습 데이터에는 명시적 추론 흔적이 대체로 결여되어 있어, 복잡한 추론 능력 습득이 비용이 큰 사후학습에 주로 의존하게 되어 효율이 제한된다.
    • "자기 개선 사전학습" 프레임워크는 사전학습을 시퀀스 생성 과제로 재정의하며, 더 강력한 사후학습 모델을 데이터 품질과 안전성을 개선하는 접미사 재작성기이자 훈련용 보상 신호를 제공하는 접미사 판정기로 활용한다.
    • "사고 중간학습" 단계는 사전학습 데이터에 "사고"를 교차 삽입하여 보강하고 지도 미세조정을 적용한 뒤, 후속 텍스트 예측에서 생성된 사고의 유용성을 최적화하기 위해 강화학습을 수행한다.
    • DPO나 RF-NLL 같은 온라인 강화학습 알고리즘을 사용하여, 판정기가 제공하는 보상에 기반해 더 높은 품질과 안전성과 사실성을 갖춘 접미사를 생성하도록 정책 모델을 훈련한다.
    초록PDF
  11. 171Agents / Multi-Agent / OrchestrationarXiv:2512.04388

    Learning to Orchestrate Agents in Natural Language with the Conductor

    Sakana AI는 자연어 기반 에이전트 워크플로를 생성하여 다양한 워커 LLM을 오케스트레이션하도록 종단간 강화학습으로 훈련된 7B LLM "Conductor"를 소개한다.

    Sakana AI는 자연어 기반 에이전트 워크플로를 생성하여 다양한 워커 LLM을 오케스트레이션하도록 종단간 강화학습으로 훈련된 7B LLM "Conductor"를 소개한다. 이 프레임워크는 까다로운 추론 벤치마크에서 LiveCodeBench 83.93%, GPQA-Diamond 87.5%를 포함한 최첨단 성과를 달성하여, 개별 프런티어 모델과 기존 멀티 에이전트 시스템을 크게 능가했다.

    • 복잡한 과제를 위한 최적의 프롬프트 엔지니어링 전략과 멀티 에이전트 워크플로를 수작업으로 설계하는 것은 시간이 많이 들고 어렵다.
    • 어떤 단일 모델도 보편적으로 최적이지 않기 때문에, 다양한 LLM의 특화된 강점을 효과적으로 활용하기는 어렵다.
    • 기존의 멀티 에이전트 협응 방식은 사람이 설계한 스캐폴드, 사전 정의된 라우팅, 고정된 도구 사용 패턴에 의존하는 경우가 많아 유연성과 적응성이 제한된다.
    • Conductor라는 7B LLM은 종단간 강화학습(GRPO 알고리즘)으로 훈련되어, 워커 LLM과 하위 과제와 통신 패턴을 명시하는 에이전트 워크플로를 자연어로 생성한다.
    • Conductor는 일곱 개의 강력한 워커 LLM으로 구성된 다양한 풀(상용 및 오픈소스)을, 문제를 동적으로 분해하고 맞춤형 지시와 함께 목표 하위 과제를 위임함으로써 오케스트레이션한다.
    • 이 프레임워크는 재귀적 자기 호출을 포함한 유연한 통신 토폴로지의 출현을 허용하여, 테스트 시점에 협응 전략의 동적 개선과 적응적 자원 할당을 가능하게 한다.
    초록PDF
  12. 170Reasoning / Agents / CodingarXiv:2605.02396

    HeavySkill: Heavy Thinking as the Inner Skill in Agentic Harness

    HEAVYSKILL은 병렬 추론과 순차적 숙고를 결합하여 두 단계로 이루어진 '집중 사고' 과정을 LLM 고유의 스킬로 정식화한다.

    HEAVYSKILL은 병렬 추론과 순차적 숙고를 결합하여 두 단계로 이루어진 '집중 사고' 과정을 LLM 고유의 스킬로 정식화한다. 이 프레임워크는 복잡한 추론 과제에서 일관되게 성능을 향상시켜 Best-of-N 같은 기존 전략을 능가하며, 숙고를 통해 개별 초기 시도에는 존재하지 않던 정답을 합성해낼 수 있음을 보여준다.

    • 복잡한 LLM 에이전트 오케스트레이션 프레임워크 내부에서 성능을 이끄는 구체적 메커니즘은 대체로 규명되지 않은 채 남아 있다.
    • 현재의 LLM 에이전트 설계는 핵심 추론 과정에 대한 명확한 추상화 없이 광범위한 시스템 엔지니어링에 의존하는 경우가 많다.
    • 기존의 테스트 시점 스케일링(TTS) 전략은 특화된 구조적 변경이나 대규모 사후학습을 수반하는 경우가 많아, 보편적이고 이식 가능한 '스킬' 표현이 부족하다.
    • K개의 독립적인 궤적을 생성하는 병렬 추론과 이 궤적들을 처리하고 합성하는 순차적 숙고로 구성된 2단계 추론 파이프라인 HEAVYSKILL을 제안한다.
    • 추론 궤적을 저장하고 정리하는 직렬화된 메모리 캐시를 구현하여, 맥락 관리를 용이하게 하고 숙고 과정에서의 위치 편향을 방지한다.
    • 집중 사고 워크플로를 읽을 수 있는 스킬 문서로 증류하여, 임의의 LLM 오케스트레이터가 맥락 내 지시에 기반해 자율적으로 실행할 수 있게 함으로써 이식성을 높인다.
    초록PDF
  13. 169Agents / Skills / Self-ImprovementarXiv:2604.20987

    Co-Evolving LLM Decision and Skill Bank Agents for Long-Horizon Tasks

    다기관 연구팀은 LLM 에이전트가 구조화된 스킬을 자율적으로 발견·정제·재사용함으로써 복잡하고 장기적인 과제에서 성능을 지속적으로 개선할 수 있게 하는 프레임워크 COS-PLAY를 도입했다.

    다기관 연구팀은 LLM 에이전트가 구조화된 스킬을 자율적으로 발견·정제·재사용함으로써 복잡하고 장기적인 과제에서 성능을 지속적으로 개선할 수 있게 하는 프레임워크 COS-PLAY를 도입했다. 이 시스템은 GPT-5.4를 상대로 한 다양한 1인용 게임에서 평균 보상이 25.1%를 초과하는 증가를 보였으며, 사회적 추론 과제에서도 강력한 성능을 유지했다.

    • 복잡하고 장기적인 환경에서 구조화된 스킬을 발견·보존·재사용함으로써 지속적으로 개선할 수 있는 자율 에이전트를 구축한다.
    • 현재의 LLM 에이전트는 스킬 습득을 위해 큐레이션된 인간 데이터셋이나 광범위한 외부 피드백에 의존하는 경우가 많아 확장성과 적응성이 제한된다.
    • 다양하고 미래의 과제에 걸쳐 스킬을 조직·정제하고 신뢰성 있게 검색하는 것은 기존 에이전트 아키텍처에 도전 과제가 된다.
    • COS-PLAY 프레임워크는 궤적을 생성하는 의사결정 에이전트(LLM)와 이를 재사용 가능한 구조화된 스킬로 변환하는 스킬 뱅크 에이전트를 갖춘 멀티 에이전트 공진화 시스템을 도입한다.
    • 스킬은 요약, 사전 조건, 계획, 성공/중단 기준 등의 프로토콜을 포함하는 재사용 가능하고 시간적으로 확장된 행동 추상화로 정의되며, 동적으로 진화하는 스킬 뱅크에 저장된다.
    • 두 에이전트는 각각의 LoRA 어댑터와 함께 Group Relative Policy Optimization(GRPO)으로 최적화되어, 개선된 스킬이 의사결정을 향상시키고 더 나은 롤아웃이 스킬 학습을 정제하는 폐루프 공진화를 촉진한다.
    초록PDF
  14. 168Agents / RAG / ReasoningarXiv:2604.26649

    When to Retrieve During Reasoning: Adaptive Retrieval for Large Reasoning Models

    ReaLM-Retrieve는 대형 추론 모델(LRM)을 위한 동적이고 추론 인식형 프레임워크를 도입하여, 추론 도중에 검색을 통합하고 필요할 때 외부 지식을 적응적으로 제공한다.

    ReaLM-Retrieve는 대형 추론 모델(LRM)을 위한 동적이고 추론 인식형 프레임워크를 도입하여, 추론 도중에 검색을 통합하고 필요할 때 외부 지식을 적응적으로 제공한다. 이 접근법은 표준 RAG 베이스라인 대비 답변 정확도를 평균 절대 F1 10.1% 향상시키고, 고정 간격 방식 대비 검색 호출을 47% 줄였다.

    • 대형 추론 모델(LRM)은 광범위한 다단계 사고 사슬을 생성하지만, 외부 지식이 필요할 때 사실적 부정확성과 증가한 환각률에 시달린다.
    • 전통적인 검색 증강 생성(RAG) 시스템은 단일 사전 검색을 사용하는데, 이는 LRM의 다단계 추론 중 출현하는 동적이고 예측 불가능한 지식 공백과 근본적으로 어긋난다.
    • 표준 LLM을 위해 설계된 기존 반복 검색 방법은 입도 불일치, 블랙박스 모델에서 사용할 수 없는 내부 신호 의존, 긴 추론 사슬에 대한 과도한 효율 비용 때문에 LRM과 호환되지 않는다.
    • 추론 인식형 검색 프레임워크인 ReaLM-Retrieve는 동적 검색을 순차적 의사결정 문제로 정식화하여, 토큰이나 문장 수준이 아니라 논리적 추론 단계 입도에서 개입한다.
    • 언어화된 불확실성, 개체 기반 엔트로피, 일관성 신호를 결합한 Reasoning Step Uncertainty Score(RSUS)를 도입하여, 블랙박스 호환 방식으로 지식 공백과 검색 필요성을 탐지한다.
    • REINFORCE로 학습된 검색 개입 정책은 언제 검색할지를 동적으로 결정하고, 관련 질의를 구성하며, 암묵적 압축·추측적 캐싱·KV-캐시 보존 같은 기법을 사용해 검색된 콘텐츠를 효율적으로 통합한다.
    초록PDF
  15. 167Agents / Memory / MultimodalarXiv:2604.26622

    OCR-Memory: Optical Context Retrieval for Long-Horizon Agent Memory

    OCR-Memory는 상호작용 이력을 시각 토큰으로 광학적으로 인코딩하는 자율 LLM 에이전트용 메모리 프레임워크를 도입하여, 길었던 과거 경험을 완전하게 보존하고 결정론적이며 환각 없는 검색을 가능하게 한다.

    OCR-Memory는 상호작용 이력을 시각 토큰으로 광학적으로 인코딩하는 자율 LLM 에이전트용 메모리 프레임워크를 도입하여, 길었던 과거 경험을 완전하게 보존하고 결정론적이며 환각 없는 검색을 가능하게 한다. 이 접근법은 텍스트 기반 방법 대비 더 높은 과제 성공률을 달성하고, 엄격한 토큰 예산 하에서도 높은 검색 정확도를 유지한다.

    • LLM은 유한한 컨텍스트 윈도를 가지므로, 장기 과제에서 에이전트가 효과적으로 보존하고 활용할 수 있는 과거 상호작용 이력의 양이 제한된다.
    • 기존의 텍스트 기반 메모리 압축 기법은 디버깅 같은 복잡한 에이전트 작업에 결정적인 세밀한 구조적·절차적 세부 정보를 종종 잃게 한다.
    • 텍스트 전용 검색 방법은 파편화되었거나 의미적으로 유사하지만 논리적으로 무관한 정보를 제공할 수 있고, 생성형 검색은 잘못된 증거를 환각할 위험이 있다.
    • 이 프레임워크는 에이전트의 전체 상호작용 궤적을 고밀도 이미지로 시각적으로 인코딩한 뒤, OCR 모델을 사용해 이를 간결한 시각 토큰으로 압축한다.
    • Locate-and-Transcribe 검색 패러다임은 시각적으로 표시된 메모리에서 특정 세그먼트 인덱스를 예측하여, 원문 그대로의 텍스트를 결정론적으로 가져오고 환각 위험을 완화한다.
    • 적응형 다해상도 전략은 저장된 메모리의 시각적 충실도를 경과 시간에 따라 동적으로 조정하여 시각 토큰 비용을 줄이는 한편, 능동적 회상을 통해 필요 시 고충실도 세부 정보를 복원할 수 있게 한다.
    초록PDF
  16. 166Agents / Distillation / EfficiencyarXiv:2604.24881

    Latent Agents: A Post-Training Procedure for Internalized Multi-Agent Debate

    이 논문은 명시적 멀티 에이전트 추론의 이점을 단일 LLM 안으로 증류하는 2단계 파인튜닝 절차인 Internalized Multi-Agent Debate(IMAD)를 도입한다.

    이 논문은 명시적 멀티 에이전트 추론의 이점을 단일 LLM 안으로 증류하는 2단계 파인튜닝 절차인 Internalized Multi-Agent Debate(IMAD)를 도입한다. IMAD 모델은 추론 토큰을 최대 93%까지 줄이면서 동등하거나 향상된 추론 정확도를 달성하며, 에이전트별 표현을 잠재 공간에 국소화함으로써 바람직하지 않은 행동을 표적 제어할 수 있게 한다.

    • 명시적 멀티 에이전트 토론은 LLM 정확도를 높이고 환각을 줄이지만, 여러 차례 모델을 호출하고 장황한 출력을 요구하여 계산 비용이 크고 비싸다.
    • LLM 추론을 내재화하는 기존 방법은 주로 단일 에이전트의 명시적 추론 단계에 초점을 맞추며, 멀티 에이전트 토론의 복잡한 상호작용은 다루지 않는다.
    • 바람직하지 않은 LLM 행동을 억제하는 것은 거친 제어 메커니즘 때문에 일반적 모델 능력의 저하(정렬세, alignment tax)로 이어지는 경우가 많다.
    • 전체 멀티 에이전트 토론 궤적에 대한 지도 파인튜닝(SFT)에 이어 동적 보상을 사용하는 강화학습(RL)으로 구성된 2단계 파인튜닝 파이프라인 IMAD를 개발했다.
    • RL 단계는 점진적으로 명시적 토론 언어화에 대한 유인을 줄이는 동시에 출력 길이 한도를 좁혀 가며 정답에 보상하는 동적 보상 함수를 사용하여, 잠재적 내재화를 강제한다.
    • 내재화된 모델 내에서 식별된 에이전트 부분공간에 활성화 스티어링을 적용하여, 악의적 특성 억제를 포함한 특정 행동을 제어한다.
    초록PDF
  17. 165Agents / SkillsarXiv:2604.24026

    From Skill Text to Skill Structure: The Scheduling-Structural-Logical Representation for Agent Skills

    이 연구는 텍스트 형태의 에이전트 스킬 설명에서 암묵적 정보를 분리해 내기 위한 구조화된 JSON 그래프 프레임워크인 Scheduling-Structural-Logical(SSL) 표현을 도입한다.

    이 연구는 텍스트 형태의 에이전트 스킬 설명에서 암묵적 정보를 분리해 내기 위한 구조화된 JSON 그래프 프레임워크인 Scheduling-Structural-Logical(SSL) 표현을 도입한다. 이 프레임워크는 스킬 검색 성능을 향상시켜 MRR@50 0.729(최상의 비-SSL 베이스라인 대비 0.080 증가)를 달성했으며, 원본 문서와 결합했을 때 고정된 LLM 심판에 대해 Macro F1을 0.101 증가(0.509로)시켜 실행 전 위험 평가를 강화했다.

    • 에이전트 스킬은 주로 텍스트 위주의 산출물로 표현되어, 자연어 설명 안에 호출 인터페이스, 실행 구조, 도구 사용을 뒤섞어 놓는다.
    • 스킬 정보의 암묵적 특성은 자동화 시스템이 대규모 스킬 저장소에서 관련 능력을 파싱·검증·신뢰성 있게 재사용·효율적으로 발견하는 것을 저해한다.
    • 제3자 스킬의 실행 전 보안 위험 평가는 구분되지 않은 텍스트 형식 때문에 어렵고, 위험 관련 증거를 검사·감사하기가 까다롭다.
    • 비정형 SKILL.md 문서로부터 스킬 정보를 명시적으로 구조화하기 위해, 타입이 지정된 3계층 JSON 그래프인 Scheduling-Structural-Logical(SSL) 표현을 제안했다.
    • SSL은 스킬 속성을 Scheduling Layer(스킬 수준 인터페이스), Structural Layer(장면 수준 실행 단계), Logical Layer(원자적 동작 및 자원 증거)로 분리한다.
    • SKILL.md 파일을 SSL 스키마로 변환하는 LLM 기반 정규화기(DeepSeek-V3.2 사용)를 개발했으며, 원본 산출물에 대한 엄격한 근거 보장과 검증·재시도를 통한 높은 충실도를 확보했다.
    초록PDF
  18. 164Agents / Multi-AgentarXiv:2604.22446

    From Skills to Talent: Organising Heterogeneous Agents as a Real-World Company

    OneManCompany(OMC)는 멀티 에이전트 시스템을 자기 조직화·자기 진화하는 AI 조직으로 모델링하여, 개방형 실세계 프로젝트를 처리할 수 있게 하는 오픈소스 프레임워크다.

    OneManCompany(OMC)는 멀티 에이전트 시스템을 자기 조직화·자기 진화하는 AI 조직으로 모델링하여, 개방형 실세계 프로젝트를 처리할 수 있게 하는 오픈소스 프레임워크다. 이 프레임워크는 PRDBench 소프트웨어 개발 벤치마크에서 84.67%의 성공률을 달성하여, 최첨단 베이스라인을 15.48%포인트 능가했다.

    • 현재의 멀티 에이전트 시스템은 고정된 팀 구조와 강하게 결합된 조정 로직에 의존하여, 새롭고 개방형인 프로젝트에 대해 비유연하고 취약한 것으로 드러난다.
    • 기존 프레임워크는 호환되지 않는 런타임과 세션에 묶인 학습 문제에 직면하여, 지속적인 지식 축적과 다양한 에이전트 간 상호 운용을 저해한다.
    • 통합적 조직 추상화가 부재하여 복잡한 실세계 과제를 위한 AI 에이전트 인력의 체계적 관리·조정·진화가 어렵다.
    • OneManCompany(OMC)는 이질적인 에이전트를 직원으로 통합하는 Talent-Container 아키텍처를 채택하며, 이식 가능한 정체성을 갖추고 다양한 런타임 환경을 추상화한다.
    • 프로젝트 실행은 Explore-Execute-Review(E2R) 트리 탐색으로 정식화되어, 구조화된 계획·실행·평가를 제공하며 과제 종료와 교착 상태 없음에 대한 형식적 보증을 제공한다.
    • OMC는 개별 에이전트 수준과 조직 수준 모두에서 체계적인 자기 진화 메커니즘을 구현하며, 자기 성찰, 갱신된 표준 운영 절차(SOP), 지속적 학습을 위한 인사(HR) 성과 관리를 포함한다.
    초록PDF
  19. 163Agents / Multi-Agent / EfficiencyarXiv:2604.25917

    Recursive Multi-Agent Systems

    RecursiveMAS는 재귀적 계산을 멀티 에이전트 시스템에 통합하는 프레임워크를 도입하여, 에이전트가 명시적 텍스트 대신 반복적 잠재 공간 상호작용을 통해 협업적 추론을 정제할 수 있게 한다.

    RecursiveMAS는 재귀적 계산을 멀티 에이전트 시스템에 통합하는 프레임워크를 도입하여, 에이전트가 명시적 텍스트 대신 반복적 잠재 공간 상호작용을 통해 협업적 추론을 정제할 수 있게 한다. 이 접근법은 텍스트 기반 재귀 멀티 에이전트 시스템 대비 평균 정확도를 최대 20.2% 향상시키고 추론 속도를 최대 2.4배 가속하며, 토큰 사용량을 크게 줄인다.

    • 단일 LLM은 광범위한 추론이나 다양한 전문성이 필요한 복잡한 과제에서 어려움을 겪는 경우가 많다.
    • 기존 멀티 에이전트 시스템(MAS)은 명시적 텍스트 기반 상호작용에 의존하여 높은 지연 시간, 증가한 토큰 사용량, 시스템 수준 최적화 시 기울기 불안정성을 초래한다.
    • 학습을 통해 MAS 내 에이전트 전체를 최적화하는 것은 계산 비용이 크며, 프롬프트 기반 적응은 핵심 에이전트 능력 향상에 한계가 있다.
    • 전체 멀티 에이전트 시스템을 협업적 추론의 반복적 정제를 위한 통합된 잠재 공간 재귀 계산으로 정식화하는 프레임워크 RecursiveMAS를 개발했다.
    • 에이전트 간 효율적인 잠재 상태 전달과 정제를 가능하게 하는 경량 잔차 RecursiveLink 모듈(에이전트 내부용 inner, 에이전트 간용 outer)을 도입했다.
    • 베이스 LLM 파라미터는 동결한 채 RecursiveLink만 배타적으로 최적화하는 2단계 inner-outer 루프 학습 알고리즘을 구현하여 안정적인 시스템 수준 공동 최적화를 촉진했다.
    초록PDF
  20. 162Agents / SurveyarXiv:2604.22748

    Agentic World Modeling: Foundations, Capabilities, Laws, and Beyond

    이 연구는 에이전트 세계 모델링을 위한 수준 × 법칙 분류 체계를 도입하여, 능력을 Predictor·Simulator·Evolver 수준으로, 세계 유형을 물리·디지털·사회·과학 영역으로 범주화한다.

    이 연구는 에이전트 세계 모델링을 위한 수준 × 법칙 분류 체계를 도입하여, 능력을 Predictor·Simulator·Evolver 수준으로, 세계 유형을 물리·디지털·사회·과학 영역으로 범주화한다. 이 프레임워크는 서로 다른 연구 노력을 통합하여 의사결정에 사용 가능한 시뮬레이션과 자율적 모델 수정에 대한 기준을 제공하며, AI 에이전트에 대해 수동적 예측에서 능동적·적응적 환경 이해로의 전환을 부각한다.

    • 다양한 AI 분야에 걸쳐 세계 모델 개념이 파편화되어 정의와 평가 관행이 일관되지 않고 진척을 비교하기가 어렵다.
    • 세계 모델에 관한 기존 서베이는 대개 모달리티와 도메인을 가로지르는 일관된 능력 진행 단계나, 대형 생성 모델을 시뮬레이터로 분석할 정밀한 프레임워크가 부족하다.
    • 신흥 에이전트형 AI 응용(예: 웹 에이전트, 멀티 에이전트 시스템)에서 세계 모델링이 하는 역할은 통합 프레임워크 안에서 과소 대표되는 경우가 많다.
    • 세계 모델링 능력을 세 수준(L1 Predictor, L2 Simulator, L3 Evolver)과 네 가지 지배 법칙 영역(물리·디지털·사회·과학)으로 조직하는 포괄적인 수준 × 법칙 분류 체계를 도입한다.
    • L2의 장기 일관성 및 개입 민감도, L3의 증거 기반 진단 등, 한 수준에서 다음 수준으로 능력을 끌어올리기 위한 명확하고 검증 가능한 경계 조건을 정의한다.
    • 의사결정 중심 평가 지표(예: Action Success Rate, Counterfactual Outcome Deviation)로의 전환을 제안하고, 정의된 능력 수준에 맞춰 평가 프로토콜을 표준화한다.
    초록PDF
  21. 161LLMs / Agents / EfficiencyarXiv:2604.21590

    AgenticQwen: Training Small Agentic Language Models with Dual Data Flywheels for Industrial-Scale Tool Use

    Alibaba Group 연구진은 다회차 강화학습과 지속적·다양한 데이터 생성을 위한 이중 데이터 플라이휠을 통합하여, 산업 규모 도구 사용을 위한 소형 언어 모델 시리즈 AgenticQwen을 개발했다.

    Alibaba Group 연구진은 다회차 강화학습과 지속적·다양한 데이터 생성을 위한 이중 데이터 플라이휠을 통합하여, 산업 규모 도구 사용을 위한 소형 언어 모델 시리즈 AgenticQwen을 개발했다. 이 모델들은 향상된 에이전트 능력을 보이며, 더 큰 모델에 필적하는 성능을 달성하면서도 실제 응용을 위한 비용 대비 성능 효율을 개선한다.

    • LLM 기반 에이전트의 산업 배포는 매우 크거나 독점적인 파운데이션 모델에 따르는 높은 계산 비용과 지연 시간 때문에 제약된다.
    • 견고한 다단계 에이전트 능력과 도구 상호작용에 특화되어 최적화된 소형 언어 모델이 부족하다.
    • 에이전트 강화학습에 사용되는 정적 합성 데이터셋은 데이터 동질성과 학습 신호의 빠른 포화를 초래하는 경우가 많아 추가적인 성능 향상을 제한한다.
    • Reasoning RL과 Agentic RL을 결합한 다회차 강화학습 접근법으로 소형 AgenticQwen 모델(8B 및 30B-A3B)을 학습시켰다.
    • Reasoning Data Flywheel과 Agentic Data Flywheel로 구성된 이중 데이터 플라이휠 메커니즘을 도입하여 점점 더 복잡하고 다양한 학습 데이터를 반복적으로 생성한다.
    • 강력한 LLM(Qwen3-235B)이 사용자와 도구를 모두 모델링하는 완전 시뮬레이션 학습 환경을 활용하여, 데이터 합성 및 시뮬레이션에서 외부 독점 API에 대한 의존을 제거했다.
    초록PDF
  22. 160Agents / InfrastructurearXiv:2604.25850

    Agentic Harness Engineering: Observability-Driven Automatic Evolution of Coding-Agent Harnesses

    Agentic Harness Engineering(AHE)은 코딩 에이전트 하네스를 자동으로 진화시키는 폐루프 시스템으로, Terminal-Bench 2의 pass@1 점수를 69.7%에서 77.0%로 향상시킨 것으로 입증되었다.

    Agentic Harness Engineering(AHE)은 코딩 에이전트 하네스를 자동으로 진화시키는 폐루프 시스템으로, Terminal-Bench 2의 pass@1 점수를 69.7%에서 77.0%로 향상시킨 것으로 입증되었다. 이 프레임워크는 미학습 과제와 다양한 베이스 모델로의 긍정적 전이 가능성도 보였으며, 동작을 구조화된 구성요소로 인코딩하여 토큰 효율도 개선했다.

    • 코딩 에이전트 하네스(시스템 프롬프트, 도구, 미들웨어)를 수동으로 설계·최적화하는 것은 시간이 많이 들고 LLM의 빠른 발전 속도를 따라잡기 어렵다.
    • 기존 자동 최적화 방법은 주로 개별 하네스 구성요소를 다듬는 데 집중하여, 상호작용하는 구성요소 전체를 함께 진화시키지 못한다.
    • 이질적인 행동 공간, 긴 에이전트 궤적에서 실행 가능한 신호를 추출하는 어려움, 편집 효과의 복잡한 귀인 문제로 인해 하네스의 공동 진화를 자동화하기는 어렵다.
    • AHE는 베이스 LLM은 고정한 채, 편집 가능한 모든 하네스 구성요소를 폐루프 안에서 지속적으로 최적화하는 진화 에이전트를 도입한다.
    • NexAU 하네스 기반을 통한 구성요소 관측성 축을 활용하여, 일곱 가지 구성요소 유형을 명시적인 파일 단위 요소로 분리해 국소화된 행동 공간을 만든다.
    • 경험 관측성 축은 Agent Debugger를 사용해 원시 에이전트 궤적을 구조화된 실행 가능 증거 코퍼스로 변환하며, 결정 관측성은 Evolve Agent가 증거 기반 편집을 생성해 버전 관리되는 변경 매니페스트에 기록함으로써 구현된다.
    초록PDF
  23. 159Theory / Deep LearningarXiv:2604.21691

    There Will Be a Scientific Theory of Deep Learning

    공동 연구진은 신경망 거동을 수학적·제일원리 계산을 통해 설명하고 예측하려는 딥러닝의 과학 이론, 즉 학습 역학의 출현에 대한 종합적 논증을 제시한다.

    공동 연구진은 신경망 거동을 수학적·제일원리 계산을 통해 설명하고 예측하려는 딥러닝의 과학 이론, 즉 학습 역학의 출현에 대한 종합적 논증을 제시한다. 다양한 이론적·실증적 증거를 통합하여 스케일링 법칙, 학습 동역학, 보편 표현 같은 현상에 대한 통일된 이해로 가는 경로를 제안한다.

    • 전통적 딥러닝 이론은 현대 신경망에서 관찰되는 복잡하고 비볼록하며 과매개변수화된 거동을 설명하는 데 어려움을 겪는다.
    • 현재의 딥러닝 시스템 설계 및 최적화 관행은 원리에 기반한 과학적 토대 없이 경험적 시행착오에 의존하는 경우가 많다.
    • 점점 강력해지는 AI 시스템을 안전성과 해석 가능성 측면에서 기술하고 특성화하며 통제하려면 근본적인 과학적 이해가 필요하다.
    • 딥러닝을 위한 과학 이론으로 학습 역학을 제안하며, 이는 제일원리 계산을 통해 신경망과 그 학습 과정의 근본 특성을 특성화하는 것을 지향한다.
    • 딥러닝 이론을 위한 과학적 방법론을 옹호하며, 실증적 관찰, 반증 가능한 예측, 단순하고 통일적인 원리의 추구를 강조한다.
    • 기존 연구를 다섯 범주(예: 해석적으로 풀리는 설정, 통찰을 주는 극한, 경험적 법칙)에 걸쳐 종합·재해석하여 이 이론의 실현 가능성과 출현에 대한 증거로 제시한다.
    초록PDF
  24. 158Agents / Multi-Agent / SafetyarXiv:2604.18005

    Diversity Collapse in Multi-Agent LLM Systems: Structural Coupling and Collective Failure in Open-Ended Idea Generation

    개방형 아이디어 발상을 위한 멀티 에이전트 LLM 시스템은 에이전트 역할이 서로 다른데도 상호작용이 의도치 않게 해 공간을 좁히는 다양성 붕괴를 자주 겪는다.

    개방형 아이디어 발상을 위한 멀티 에이전트 LLM 시스템은 에이전트 역할이 서로 다른데도 상호작용이 의도치 않게 해 공간을 좁히는 다양성 붕괴를 자주 겪는다. 이 연구는 모델 정렬, 에이전트 권한 구조, 통신 토폴로지 같은 요인이 어떻게 이 문제에 기여하는지를 체계적으로 규명하며, 특정 상호작용 설계를 통해 독립성을 보존하면 아이디어 다양성을 유지할 수 있음을 보인다.

    • 멀티 에이전트 LLM 시스템이 복잡하고 창의적인 과제에서 아이디어 다양성을 본질적으로 넓혀 준다는 가정은 아직 거의 검증되지 않았다.
    • MAS에서 서로 다른 역할이 부여되더라도 기반 LLM이 동질적이면, 진정한 참신함을 도입하기보다 공유된 사전학습 편향을 증폭시키는 경우가 많아 계산 비효율과 조기 수렴을 초래한다.
    • 탐색적 영역에서 아이디어 다양성이 부족하면 사용자가 좁은 해 공간에 갇혀, 최적이 아닌 해에 과신하게 되고 비관습적 가설이 억제될 수 있다.
    • 과학 연구 제안서 생성을 과제로 삼아 체계적 실증 연구를 수행했으며, 모델 지능, 에이전트 인지, 시스템 동역학의 세 수준에서 다양성을 평가했다.
    • 역할 인스턴스화, 지정된 토폴로지를 사용하는 반복적 숙의, 에디터 에이전트에 의한 제안 종합으로 이루어진 범용 3단계 멀티 에이전트 발상 파이프라인을 개발했다.
    • 네 가지 상호 보완적 지표(예: Vendi Score, Semantic Dispersion)로 다양성을 정량화하고, 다양한 에이전트 페르소나, 그룹 규모, 그리고 Nominal Group Technique(NGT)·Subgroups 같은 통신 토폴로지를 변화시키며 해법을 탐색했다.
    초록PDF
  25. 157Agents / RAG / Multi-AgentarXiv:2604.18509

    MASS-RAG: Multi-Agent Synthesis Retrieval-Augmented Generation

    검색 증강 생성을 위한 다중 에이전트 종합 프레임워크인 MASS-RAG는 특화된 에이전트를 사용해 검색된 맥락을 상보적 관점에서 처리함으로써 사실 정확도와 견고성을 향상시킨다.

    검색 증강 생성을 위한 다중 에이전트 종합 프레임워크인 MASS-RAG는 특화된 에이전트를 사용해 검색된 맥락을 상보적 관점에서 처리함으로써 사실 정확도와 견고성을 향상시킨다. 요약기, 추출기, 추론기 에이전트를 포함하는 이 학습 불필요 접근법은 RAG 베이스라인을 일관되게 능가하여, Llama3 8B 백본으로 ARC-Challenge에서 최대 27.1%, ASQA에서 20.7% 더 높은 정확도를 달성한다.

    • 대규모 언어 모델(LLM)은 정적인 파라미터 지식에 의존하기 때문에, 사실적으로 신뢰할 수 없거나 환각적인 출력을 자주 생성한다.
    • 전통적인 검색 증강 생성(RAG)은 잡음이 많거나 불완전하거나 무관한 검색 맥락에서 어려움을 겪어, 생성 품질을 저하시킨다.
    • 기존 다중 에이전트 RAG 프레임워크는 흔히 단일 판정 에이전트를 필터링에 사용하여, 문서 전반에 분산된 다양하고 상보적인 증거를 식별하고 활용하는 능력이 제한된다.
    • 증거 정제, 선택적 후보 답변 생성, 최종 답변 종합을 위한 특화된 LLM 에이전트를 갖춘 학습 불필요 다중 에이전트 종합 프레임워크인 MASS-RAG를 도입한다.
    • 각각 고유하고 상보적인 관점에서 검색된 문서를 처리하여 질의 관련 증거를 정제하는 세 가지 별개의 필터 에이전트(Summarizer, Extractor, Reasoner)를 사용한다.
    • 각 필터링된 응답으로부터 후보 답변을 독립적으로 생성하는 선택적 Answer Agent와, 이러한 후보들 또는 필터링된 증거를 통합된 최종 답변으로 종합하는 Synthesis Agent를 활용한다.
    초록PDF
  26. 156Agents / Memory / ArchitecturearXiv:2604.20158

    Stateless Decision Memory for Enterprise AI Agents

    엔터프라이즈 AI 에이전트를 위해 결정론적 재현, 감사 가능한 근거, 멀티테넌트 격리, 수평적 확장성 같은 핵심 시스템 속성을 충족하도록 설계된 Deterministic Projection Memory(DPM) 구조가 도입된다.

    엔터프라이즈 AI 에이전트를 위해 결정론적 재현, 감사 가능한 근거, 멀티테넌트 격리, 수평적 확장성 같은 핵심 시스템 속성을 충족하도록 설계된 Deterministic Projection Memory(DPM) 구조가 도입된다. 이 구조는 특히 엄격한 메모리 제약 하에서 상태 보존형 베이스라인과 동등하거나 더 나은 의사결정 품질을 보이는 동시에, 계산 비용과 지연 시간을 한 자릿수 규모로 줄인다.

    • 학술적 대규모 언어 모델(LLM) 에이전트 연구의 정교한 상태 보존형 메모리 구조와, 엔터프라이즈 배포에서 널리 쓰이는 더 단순한 검색 증강 생성(RAG) 파이프라인 사이에 괴리가 존재한다.
    • 특히 금융이나 의료 같은 규제 도메인의 엔터프라이즈 AI 에이전트는 결정론적 재현, 감사 가능한 근거, 멀티테넌트 격리, 수평적 확장성을 포함하는 핵심 시스템 속성을 요구한다.
    • 기존 상태 보존형 메모리 구조는 진화하는 내부 표현과 경로 의존적 업데이트로 인해, 흔히 이러한 핵심적인 엔터프라이즈 운영 요건을 본질적으로 위배한다.
    • 추가 전용 이벤트 로그와 과제 조건부 투영 메커니즘으로 구성된 Deterministic Projection Memory(DPM) 구조가 제안된다.
    • 추가 전용 이벤트 로그는 원시 이벤트(예: 문서 청크, 도구 출력)를 도착 순서대로 불변하게 저장하여, 단일하고 지속적인 진실의 원천으로 기능한다.
    • 의사결정 시점에, 온도 0에서의 단일 대규모 언어 모델(LLM) 호출로 구현된 무상태 투영 구성요소가 전체 이벤트 로그와 과제 명세로부터 지정된 메모리 예산에 한정된 구조화된 메모리 뷰(사실, 추론, 컴플라이언스 노트)를 생성한다.
    초록PDF
  27. 155Agents / EDA / Code GenerationarXiv:2604.15082

    Autonomous Evolution of EDA Tools: Multi-Agent Self-Evolved ABC

    NVIDIA Research와 University of Maryland는 ABC 논리 합성 도구의 120만 줄 C 코드베이스를 직접 수정함으로써 이를 자율적으로 진화시킬 수 있는 최초의 다중 에이전트 LLM 기반 프레임워크를 도입한다.

    NVIDIA Research와 University of Maryland는 ABC 논리 합성 도구의 120만 줄 C 코드베이스를 직접 수정함으로써 이를 자율적으로 진화시킬 수 있는 최초의 다중 에이전트 LLM 기반 프레임워크를 도입한다. 이 프레임워크는 합성 전략과 최적화를 정제하여 인간이 설계한 베이스라인 대비 전체 결과 품질(Quality-of-Result)을 8.3% 향상시켰다.

    • 전자 설계 자동화(EDA) 도구 개발은 인력 집약적이며, 휴리스틱 설계의 복잡성, 알고리즘 간 상호작용, ABC 같은 대형 코드베이스에 대한 재공학 노력에 의해 제약된다.
    • 논리 합성의 사실상 표준인 ABC 프레임워크는 모놀리식한 120만 줄 C 코드베이스, 깊은 상호 의존성, 정적 휴리스틱 때문에 진화가 어려워, 새로운 연구의 통합을 저해한다.
    • 기존 LLM 기반 코드 진화 프레임워크는 고립된 함수나 더 작은 저장소(수만 줄)에 국한되어, 완전한 EDA 도구의 규모와 다목적 최적화를 다루지 못했다.
    • 자기 진화 프레임워크는 다중 에이전트 LLM(Claude Sonnet 4.5)과 도메인 전문성을 통합하며, ABC의 구조와 관련 연구를 학습하는 진화 전 지식 부트스트래핑 단계를 사용한다.
    • 다중 에이전트 구조는 특화된 LLM 에이전트(Flow, Mapper, Logic Minimization, Planning)를 ABC 코드베이스의 별개 하위 시스템에 할당하여, 협업적이고 국소화된 코드 진화를 가능하게 한다.
    • 진화 반복 워크플로는 코드 생성, 컴파일, 정확성을 위한 형식적 동등성 검사(CEC), 분산 벤치마크 평가, 그리고 도구를 정제하기 위한 QoR 피드백의 통합을 포함한다.
    초록PDF
  28. 154Agents / Web / ReasoningarXiv:2604.18131

    Training LLM Agents for Spontaneous, Reward-Free Self-Evolution via World Knowledge Exploration

    한 방법은 대규모 언어 모델 에이전트가 추론 중에 외부의 인간 감독이나 보상 없이도 미지의 환경을 자발적으로 탐색하고 구조화된 World Knowledge를 생성하도록 학습시킨다.

    한 방법은 대규모 언어 모델 에이전트가 추론 중에 외부의 인간 감독이나 보상 없이도 미지의 환경을 자발적으로 탐색하고 구조화된 World Knowledge를 생성하도록 학습시킨다. 학습 중 결과 기반 보상으로 최적화되는 이 Native Evolution 접근법은 과제 성공률을 최대 19%p 절대 증가시키고 17%의 효율성 향상을 가져왔으며, 자체 생성 지식을 갖춘 더 작은 모델이 보조받지 않는 더 큰 모델의 성능을 능가하도록 했다.

    • 기존의 자기 진화형 LLM 에이전트는 사전 정의된 과제, 워크플로, 또는 검증된 보상 신호와 같은 외부의 인간 감독에 크게 의존한다.
    • 에이전트는 인간의 호기심 주도 탐색과 달리, 명시적 지시나 보상 없이 새로운 환경에서 진정한 자율성과 자발적 학습을 수행할 능력이 부족하다.
    • 현재 패러다임은 진정한 워크플로 없는, 보상 없는 자기 진화를 가능하게 하기보다는 복잡한 에이전트 오케스트레이션으로 공학적 부담을 전가하는 경우가 많다.
    • 추론 시점에 과제나 보상 없이 에이전트가 환경을 자율적으로 탐색하고 구조화된 World Knowledge(K)로 요약하는, 분리된 에이전트 생명주기인 Native Evolution을 도입한다.
    • 생성된 K의 유용성을 잠재적 다운스트림 과제에서의 성능으로 측정하는, 학습 중에만 사용되는 결과 기반 보상 함수를 개발한다.
    • 메타 진화 행동을 내재화하기 위한 지도 미세조정(SFT)에 이어, 탐색 및 정보 관리 전략을 최적화하기 위한 강화 기반 거부 샘플링(RFT)을 수행하는 2단계 학습 프레임워크를 사용한다.
    초록PDF
  29. 153Agents / RAG / SkillsarXiv:2604.15771

    Skill-RAG: Failure-State-Aware Retrieval Augmentation via Hidden-State Probing and Skill Routing

    University of Michigan, University of British Columbia, Rutgers University, University of Pennsylvania Perelman School of Medicine, New Jersey Institute of Technology, Technical University of Darmstadt, Wake Forest University의 연구진은 은닉 상태 프로빙과 프롬프트 기반 스킬 라우터를 사용해 RAG 시스템의 검색 실패를 진단하고 표적화된 시정 조치를 적용하는 프레임워크 Skill-RAG를 도입한다.

    University of Michigan, University of British Columbia, Rutgers University, University of Pennsylvania Perelman School of Medicine, New Jersey Institute of Technology, Technical University of Darmstadt, Wake Forest University의 연구진은 은닉 상태 프로빙과 프롬프트 기반 스킬 라우터를 사용해 RAG 시스템의 검색 실패를 진단하고 표적화된 시정 조치를 적용하는 프레임워크 Skill-RAG를 도입한다. 이 방법은 분포 외 데이터셋에서 정확도를 크게 향상시켜, MuSiQue와 2WikiMultiHopQA에서 각각 Probing-RAG 대비 6.1점과 13.6점의 향상을 보였다.

    • 기존 검색 증강 생성(RAG) 시스템은 검색 이후의 실패를 부적절하게 진단하는 경우가 많아, 근본 원인을 다루기보다는 통상적인 재시도로 대응하곤 한다.
    • 지속적인 검색 실패는 흔히 사용자 질의와 가용 증거 사이의 구조적 정렬 격차(예: 광범위한 질의나 멀티홉 질문)에서 비롯되며, 이는 단순한 반복 검색으로는 해소할 수 없다.
    • 전통적인 적응형 RAG 접근법은 세분화되고 실패 조건에 따른 제어가 부족하여, 서로 다른 유형의 검색 부정합이나 모델의 내부 실패 상태를 구별하지 못한다.
    • Skill-RAG는 LLM이 검색 후 내부 표현에 기반하여 실패 상태에 있는지를 감지하는 은닉 상태 프로버를 갖춘 반복 파이프라인을 사용한다.
    • 실패를 감지하면, 프롬프트 기반 스킬 라우터가 질의와 증거 사이 부정합의 구체적 원인을 진단하고 사전 정의된 네 가지 표적 검색 스킬(예: 질의 재작성, 질문 분해, 증거 집중) 중 하나를 선택한다.
    • 선택된 스킬은 질의를 재구성하고 새로운 검색 라운드를 촉발하는 등의 시정 조치를 실행하며, 프로버가 충분함을 나타내거나 종료 스킬이 선택되거나 최대 라운드 수에 도달할 때까지 이 반복 루프를 지속한다.
    초록PDF
  30. 152LLMs / Architecture / DistillationarXiv:2604.14191

    Attention to Mamba: A Recipe for Cross-Architecture Distillation

    Apple 연구진은 Pythia-1B Transformer로부터 순수 Mamba 계열 구조로 지식을 전이하기 위해 HedgeMamba라는 2단계 교차 구조 증류 방법을 개발했다.

    Apple 연구진은 Pythia-1B Transformer로부터 순수 Mamba 계열 구조로 지식을 전이하기 위해 HedgeMamba라는 2단계 교차 구조 증류 방법을 개발했다. 이 접근법은 교사 모델 원래 사전학습 토큰 예산의 단 2.7%만 사용하면서, Mamba 학생 모델이 교사의 13.86에 근접한 14.11의 퍼플렉서티를 달성하도록 했다.

    • Transformer 모델은 강력하지만 시퀀스 길이가 늘어남에 따라 2차 계산 비용이 발생하여, 긴 시퀀스와 추론에 대한 효율성이 제한된다.
    • Mamba 같은 상태공간 모델(SSM)을 비롯한 대안적 선형 구조는 효율성을 제공하지만, 대규모에서 다운스트림 과제에 대해 Transformer보다 성능이 떨어지는 경우가 많다.
    • Transformer에서 Mamba 구조로의 교차 구조 증류에 대한 이전 시도들은 성능 보존에 어려움을 겪었고, 흔히 하이브리드 Attention-SSM 해법을 필요로 했다.
    • 원칙에 입각한 2단계 증류 레시피가 개발되었다. 먼저 Softmax Attention에서 학습된 Linear Attention(Hedgehog)으로, 그다음 Linear Attention에서 적응된 Mamba(HedgeMamba)로 전이한다.
    • Mamba SSM 믹서 파라미터는 Linear Attention 단계에서 학습된 특징 맵을 사용해 초기화되었고, 추가적인 Mamba 구성요소는 항등 연산자로 작동하도록 설정되었다.
    • 이후 전체 HedgeMamba 구조는 정답에 대한 표준 교차 엔트로피 손실을 사용해 미세조정되어, 모든 Mamba 구성요소를 활성화했다.
    초록PDF
  31. 151Agents / Self-ImprovementarXiv:2604.15034

    Autogenesis: A Self-Evolving Agent Protocol

    LLM 기반 에이전트 시스템의 최근 발전은 복잡하고 장기적인 과제를 다루는 데서 가능성을 보여주었다.

    LLM 기반 에이전트 시스템의 최근 발전은 복잡하고 장기적인 과제를 다루는 데서 가능성을 보여주었다. 그러나 기존 에이전트 프로토콜(예: A2A, MCP)은 엔티티 간 생명주기 및 맥락 관리, 버전 추적, 진화 안전 업데이트 인터페이스를 충분히 명세하지 않아, 모놀리식 구성과 취약한 글루 코드를 조장한다. 이 논문은 무엇이 진화하는지와 진화가 어떻게 일어나는지를 분리하는 자기 진화 프로토콜인 Autogenesis Protocol(AGP)을 도입한다. 그 Resource Substrate Protocol Layer(RSPL)는 프롬프트, 에이전트, 도구, 환경, 메모리를 명시적 상태·생명주기·버전 관리된 인터페이스를 갖는 프로토콜 등록 자원으로 모델링한다. 그 Self Evolution Protocol Layer(SEPL)는 감사 가능한 계보와 롤백을 갖춘 개선안의 제안·평가·확정을 위한 폐루프 연산자 인터페이스를 명세한다. AGP를 토대로, 실행 중에 프로토콜 등록 자원을 동적으로 인스턴스화하고 검색하고 정제하는 자기 진화형 다중 에이전트 시스템인 Autogenesis System(AGS)을 제시한다. 이질적 자원에 걸친 장기 계획과 도구 사용을 요구하는 여러 까다로운 벤치마크에서 AGS를 평가한다. 그 결과는 강력한 베이스라인 대비 일관된 향상을 보여주어, 에이전트 자원 관리와 폐루프 자기 진화의 효과성을 뒷받침한다. 코드는 공개되어 있다.

    • LLM 기반 에이전트 시스템의 최근 발전은 복잡하고 장기적인 과제를 다루는 데서 가능성을 보여주었다.
    • 그러나 기존 에이전트 프로토콜(예: A2A, MCP)은 엔티티 간 생명주기 및 맥락 관리, 버전 추적, 진화 안전 업데이트 인터페이스를 충분히 명세하지 않아, 모놀리식 구성과 취약한 글루 코드를 조장한다.
    • 이 논문은 무엇이 진화하는지와 진화가 어떻게 일어나는지를 분리하는 자기 진화 프로토콜인 Autogenesis Protocol(AGP)을 도입한다.
    • 그 Resource Substrate Protocol Layer(RSPL)는 프롬프트, 에이전트, 도구, 환경, 메모리를 명시적 상태·생명주기·버전 관리된 인터페이스를 갖는 프로토콜 등록 자원으로 모델링한다.
    • 그 Self Evolution Protocol Layer(SEPL)는 감사 가능한 계보와 롤백을 갖춘 개선안의 제안·평가·확정을 위한 폐루프 연산자 인터페이스를 명세한다.
    • AGP를 토대로, 실행 중에 프로토콜 등록 자원을 동적으로 인스턴스화하고 검색하고 정제하는 자기 진화형 다중 에이전트 시스템인 Autogenesis System(AGS)을 제시한다.
    초록PDF
  32. 150Agents / Safety / EvaluationarXiv:2604.08567

    Multi-User Large Language Model Agents

    KAUST, UT Austin, Stanford University, MIT의 연구진은 다중 주체 환경에서 작동하는 다중 사용자 대규모 언어 모델 에이전트에 대한 체계적 조사를 수행했다.

    KAUST, UT Austin, Stanford University, MIT의 연구진은 다중 주체 환경에서 작동하는 다중 사용자 대규모 언어 모델 에이전트에 대한 체계적 조사를 수행했다. 이 연구는 최신 프런티어 모델조차도 사용자 간 충돌 해소, 장기적 프라이버시 유지, 다자 과제의 효율적 조율 능력에서 체계적인 한계가 있음을 밝혀냈다.

    • 대규모 언어 모델(LLM)과 그 에이전트는 주로 단일 주체 상호작용 시나리오에 최적화되어 있어, 서로 다른 사용자 정체성, 역할, 그리고 잠재적으로 상충하는 목표를 간과한다.
    • 기존 LLM 에이전트 시스템은 사용자 역할을 구분하거나 정보 경계를 강제하거나 여러 사용자의 이익 간 충돌을 효과적으로 해소할 네이티브 프로토콜이 부족하다.
    • 현재 모델은 현실적인 팀 워크플로와 조직 도구에 내재된 이질적 효용, 상이한 권한 수준, 정보 비대칭, 프라이버시 제약을 관리하는 데 어려움을 겪는다.
    • 저자들은 다중 사용자 LLM 상호작용을, 단일 에이전트가 개별 사용자 효용·권한·접근 제어 정책을 고려하면서 가중치가 부여된 사회적 목표를 최적화하는 다중 주체 의사결정 문제로 정식화했다.
    • 명시적 권한과 사적 맥락을 갖는 사용자 페르소나, 그리고 공유 맥락을 관찰하고 개인화된 업데이트를 제공하는 에이전트 메커니즘을 정의하는 통합 상호작용 프로토콜을 수립했다.
    • 다중 주체 과제에 대해 최신 LLM을 실증적으로 평가하기 위해 세 가지 스트레스 테스트 시나리오(다중 사용자 지시 수행, 사용자 간 접근 제어, 다중 사용자 회의 조율)로 구성된 스위트를 설계했다.
    초록PDF
  33. 149Agents / Web / SkillsarXiv:2604.13318

    WebXSkill: Skill Learning for Autonomous Web Agents

    WEBXSKILL은 대규모 언어 모델 기반 웹 에이전트가 복잡한 웹 상호작용을 위한 실행 가능한 스킬을 학습하고 활용할 수 있게 하는 프레임워크를 도입한다.

    WEBXSKILL은 대규모 언어 모델 기반 웹 에이전트가 복잡한 웹 상호작용을 위한 실행 가능한 스킬을 학습하고 활용할 수 있게 하는 프레임워크를 도입한다. 매개변수화된 행동 프로그램과 단계 수준의 자연어 안내를 통합함으로써, 실제 웹사이트에서 과제 성공률을 최대 14.2%p 높이고 베이스라인 대비 스킬 채택률을 두 배로 늘린다.

    • 자율 웹 에이전트는 절차적 지식을 효과적으로 보유하고 재사용하지 못하기 때문에 장기적이고 다중 페이지에 걸친 워크플로에서 어려움을 겪는다.
    • 기존 스킬 정식화는 그라운딩 격차를 겪는데, 스킬이 해석 가능하지만 실행 불가능하거나, 실행 가능하지만 에이전트에게 불투명하다.
    • 선행 스킬 학습 방법은 흔히 습득 비용이 크거나 문맥 인식 검색이 부족하여, 확장성과 효율성이 제한된다.
    • WEBXSKILL은 매개변수화된 행동 프로그램과 단계 수준의 자연어 안내를 결합하여 직접 실행과 에이전트 해석을 모두 지원하는 새로운 실행 가능한 스킬을 제안한다.
    • 합성 궤적으로부터의 추출, URL 기반 스킬 그래프로의 조직화, 그라운디드 모드 또는 가이디드 모드를 통한 배포라는 3단계 파이프라인으로 스킬 관리를 구현한다.
    • 이 프레임워크는 스킬 일반화를 위해 LLM 기반 추상화를 사용하고, 견고한 스킬 라이브러리를 위해 온라인 중복 제거와 실행 가능성 검증을 포함하는 큐레이션 과정을 사용한다.
    초록PDF
  34. 148Agents / Coding / ProductionarXiv:2604.12108

    LLM-Based Automated Diagnosis Of Integration Test Failures At Google

    Google의 연구진은 방대하고 이질적인 로그 데이터를 처리하여 복잡한 통합 테스트 실패의 근본 원인을 자동으로 식별하는 LLM 기반 도구 Auto-Diagnose를 개발했다.

    Google의 연구진은 방대하고 이질적인 로그 데이터를 처리하여 복잡한 통합 테스트 실패의 근본 원인을 자동으로 식별하는 LLM 기반 도구 Auto-Diagnose를 개발했다. Google 전사에 배포된 이 도구는 전문가 평가에서 90.14%의 정확도를 달성했으며, 디버깅 시간을 크게 단축하여 사내 개발자 도구 중 최상위권으로 평가받았다.

    • 통합 테스트 실패의 진단은 흔히 수 시간에서 수일이 걸릴 만큼 매우 시간 소모적이며, 개발자에게 상당한 인지적 부담을 준다.
    • 현대의 분산 시스템은 다수의 분산되고 동적으로 이름이 부여되는 소스로부터 방대한 양의 로그(실패당 평균 11,058줄, 26개 파일)를 생성하여, 수작업 선별을 어렵게 만든다.
    • 로그는 흔히 반정형이고 이질적이며 신호 대 잡음 비가 낮아, 실제 근본 원인과 무관한 다수의 경고나 오류가 핵심 정보를 가린다.
    • 통합 테스트 실패를 감지하면 테스트 드라이버와 피시험 시스템(SUT) 구성요소에서 로그를 수집하고 통합하는, LLM 중심의 자동화 파이프라인 Auto-Diagnose를 구현했다.
    • 단계별 안내 추론, 추측을 방지하는 엄격한 부정 제약, 진단을 위한 정밀한 출력 형식을 포함하도록 정교하게 설계된 프롬프트 템플릿과 함께 Gemini 2.5 Flash를 활용했다.
    • LLM 출력을 가독성 있는 마크다운으로 후처리하고 식별된 관련 로그 줄을 클릭 가능하게 만들어, 진단 기능을 Google의 사내 코드 리뷰 시스템 Critique에 직접 통합함으로써 매끄러운 개발자 워크플로를 구현했다.
    초록PDF
  35. 147Agents / MemoryarXiv:2604.14004

    Memory Transfer Learning: How Memories are Transferred Across Domains in Coding Agents

    KAIST와 NYU의 연구진은 자기 진화형 코딩 에이전트를 위한 Memory Transfer Learning(MTL)을 도입하여, 이질적인 코딩 과제로부터 만든 통합 메모리 풀을 활용하면 에이전트 성능을 평균 3.7% 향상시킬 수 있음을 보였다.

    KAIST와 NYU의 연구진은 자기 진화형 코딩 에이전트를 위한 Memory Transfer Learning(MTL)을 도입하여, 이질적인 코딩 과제로부터 만든 통합 메모리 풀을 활용하면 에이전트 성능을 평균 3.7% 향상시킬 수 있음을 보였다. 이 연구는 고수준 메타지식, 특히 추상적 통찰이 효과적인 도메인 간 지식 전이의 핵심임을 입증하여, 과제별 코드 예시보다 우월한 성능으로 이어짐을 밝혔다.

    • 기존 코딩 과제용 자기 진화형 AI 에이전트는 일반적으로 메모리 활용을 동질적인 과제 도메인에 국한하여, 공유되는 인프라적 기반(예: 프로그래밍 언어, 런타임 환경)을 간과한다.
    • 이러한 한계는 에이전트가 다양한 실세계 코딩 문제에 걸쳐 전이 가능한 지식을 활용하지 못하게 하여, 일반화와 견고한 성능을 저해한다.
    • 선행 연구는 도메인 간 메모리 전이의 메커니즘과 이러한 이질적 환경에서 효과적인 메모리를 위한 설계 원칙에 대한 체계적 탐구가 부족했다.
    • 에이전트 추론 궤적으로부터의 오프라인 메모리 생성과, 새 과제 수행 중의 온라인 메모리 검색이라는 2단계 과정으로 구성된 Memory Transfer Learning(MTL)을 개발했다.
    • LLM을 생성에 활용하여, 저수준의 과제별 세부사항부터 고수준의 일반화된 메타지식까지 아우르는 네 가지 별개의 메모리 표현(Trajectory, Workflow, Summary, Insight)을 만들었다.
    • 임베딩 기반 코사인 유사도를 활용해 이질적 도메인 메모리 풀에서 가장 관련성 높은 메모리를 검색하여 코딩 에이전트의 시스템 프롬프트에 제공했다.
    초록PDF
  36. 146LLMs / ArchitecturearXiv:2604.12374

    Nemotron 3 Super: Open, Efficient Mixture-of-Experts Hybrid Mamba-Transformer Model for Agentic Reasoning

    NVIDIA의 Nemotron 3 Super는 하이브리드 Mamba-Attention Mixture-of-Experts 구조에 새로운 LatentMoE와 Multi-Token Prediction(MTP) 메커니즘을 결합한 모델이다.

    NVIDIA의 Nemotron 3 Super는 하이브리드 Mamba-Attention Mixture-of-Experts 구조에 새로운 LatentMoE와 Multi-Token Prediction(MTP) 메커니즘을 결합한 모델이다. NVFP4를 사용해 25조 토큰으로 사전학습된 이 모델은 경쟁력 있는 정확도와 효율적인 양자화 배포를 유지하면서 최대 7.5배 높은 추론 처리량과 향상된 에이전트형 추론 능력을 달성한다.

    • 기존 대규모 언어 모델은 추론 효율성과 실제 배포 비용에서 어려움을 겪으며, 이전의 Mixture-of-Experts(MoE) 설계는 실세계의 지연 시간과 메모리 대역폭 제약을 간과하는 경우가 많았다.
    • 대규모 언어 모델 사전학습을 수조 개의 토큰으로 확장하면서 저정밀도 포맷에서 안정성과 정확도를 유지하는 것은 미해결 문제이며, 에너지 효율성과 하드웨어 친화성을 저해한다.
    • 다단계 도구 사용과 장기 과제를 아우르는 견고하고 일반화 가능한 에이전트형 추론 능력을 LLM에 개발하려면 특화된 구조적 접근과 학습적 접근이 필요하다.
    • 효율적 라우팅을 위한 새로운 LatentMoE 설계와, 모델링 품질 및 추측적 디코딩을 개선하는 Multi-Token Prediction(MTP) 메커니즘을 갖춘 하이브리드 Mamba-Attention Mixture-of-Experts(MoE) 구조를 도입한다.
    • NVIDIA 독자 저정밀도 포맷인 NVFP4를 사용해 25조 토큰으로 대규모 사전학습을 수행하며, 대규모 환경에서의 안정성과 정확도를 입증한다.
    • 광범위한 지도 미세조정(SFT)과 검증 가능한 보상으로부터의 다중 환경 강화학습(RLVR)을 결합한 다단계 사후학습 파이프라인을 구현하며, 에이전트형 추론과 최대 1M 토큰의 장문맥 능력에 집중한다.
    초록PDF
  37. 145Agents / Evaluation / CodingarXiv:2604.12162

    AlphaEval: Evaluating Agents in Production

    AlphaEval이라는 평가 프레임워크가 실제 운영 환경에서 AI 에이전트를 평가하기 위해 도입되었으며, 최고 성능 에이전트가 실세계 과제에서 100점 만점에 64.41점을 달성했고 에이전트 스캐폴딩이 성능에 지대한 영향을 미친다는 점을 밝혔다.

    AlphaEval이라는 평가 프레임워크가 실제 운영 환경에서 AI 에이전트를 평가하기 위해 도입되었으며, 최고 성능 에이전트가 실세계 과제에서 100점 만점에 64.41점을 달성했고 에이전트 스캐폴딩이 성능에 지대한 영향을 미친다는 점을 밝혔다. 이 프레임워크는 운영 특유의 여섯 가지 실패 모드를 식별하고 에이전트가 제공하는 경제적 가치를 정량화했다.

    • AI 에이전트 평가에는 상당한 '연구-운영 격차'가 존재하는데, 현재 벤치마크가 실세계 상업적 배포의 복잡성을 반영하지 못하기 때문이다.
    • 전통적인 벤치마크는 명시적으로 정의된 요구사항, 결정론적 지표, 정적 과제에 의존하며, 이는 암묵적 제약, 주관적 판단, 변화하는 요구로 특징지어지는 운영 환경과 대비된다.
    • 평가는 흔히 기반 언어 모델에 초점을 맞춰, 완전한 에이전트 제품 또는 스캐폴드가 실세계 성능에 미치는 상당한 영향을 간과한다.
    • 활성 상업 배포에서 도출된, 6개 O*NET 직업 영역에 걸쳐 7개 기업에서 수집한 94개 과제를 갖춘 벤치마크 AlphaEval을 도입했다.
    • 진정성 있고 명세가 부족한 운영 요구를 실행 가능하고 자동화된 평가 과제로 변환하기 위해 4단계 '요구사항-벤치마크 구축 프레임워크'를 구현했다.
    • 다원적 평가 방법론(예: 참조 답안, 형식 논리, 루브릭 기반, 실행 기반)과 LLM-as-a-Judge를 과제별 경제적 가치 주석과 함께 통합했다.
    초록PDF
  38. 144Agents / ResearcharXiv:2604.13018

    Toward Autonomous Long-Horizon Engineering for ML Research

    AiScientist 시스템은 구조화된 오케스트레이션과 지속적 상태 연속성을 통합해 자율적이고 장기 지평의 ML 연구 엔지니어링을 가능하게 한다.

    AiScientist 시스템은 구조화된 오케스트레이션과 지속적 상태 연속성을 통합해 자율적이고 장기 지평의 ML 연구 엔지니어링을 가능하게 한다. 논문 재현(PaperBench)과 지속적 실험 개선(MLE-Bench Lite)에서 향상된 성능을 달성하며, 기존 베이스라인을 능가하고 비용 효율성을 입증한다.

    • 현재 자율 AI는 여러 단계에 걸쳐 지속적이고 일관된 진척을 요구하는, 수 시간에서 수 일에 이르는 장기 지평 과제에서 어려움을 겪는다.
    • ML 연구 논문은 흔히 명세가 부족해, 에이전트가 누락된 구현 세부를 추론하고 복잡한 환경 설정을 관리해야 한다.
    • 지연되고 혼란된 실험 피드백을 해석하고 반복 주기 전반에 걸쳐 프로젝트 상태 연속성을 유지하는 것은 상당한 도전을 제기한다.
    • AiScientist는 '두꺼운 상태에 대한 얇은 제어'를 구현해, 최상위 Orchestrator는 간결한 요약을 사용하고 상세한 프로젝트 정보는 권한 범위가 지정된 공유 워크스페이스에 위치한다.
    • 산출물을 매개로 한 조율을 위해 'File-as-Bus' 프로토콜을 사용하며, 공유 워크스페이스의 구조화된 조직을 활용해 지속적 상태와 누적 진척을 보장한다.
    • 계층적 오케스트레이션 모델은 Orchestrator가 호출 가능한 도구로 노출된 Tier-1 전문 에이전트(예: 논문 이해, 구현, 실험 전문가)에게 과제를 위임하도록 한다.
    초록PDF
  39. 143Reasoning / EfficiencyarXiv:2604.03679

    LightThinker++: From Reasoning Compression to Memory Management

    중간 사고를 압축해 대형 언어 모델이 추론 컨텍스트를 효율적으로 관리하도록 하는 LightThinker와 LightThinker++가 제안된다.

    중간 사고를 압축해 대형 언어 모델이 추론 컨텍스트를 효율적으로 관리하도록 하는 LightThinker와 LightThinker++가 제안된다. LightThinker는 암묵적 압축을 통해 최대 토큰 사용량을 최대 70%, 추론 시간을 26% 줄이며, LightThinker++는 명시적이고 적응적인 메모리 관리를 사용해 추론 충실도를 유지하면서 장기 지평 에이전트 과제에서 활성 컨텍스트를 60~70% 줄인다.

    • 대형 언어 모델(LLM)은 다수의 토큰을 생성하는 점과 어텐션의 이차 복잡도 및 KV 캐시의 선형 증가로 인해 복잡한 추론에서 상당한 연산 및 메모리 오버헤드를 초래한다.
    • 프롬프트 엔지니어링이나 실시간 토큰 가지치기 같은 기존 컨텍스트 관리 기법은 흔히 광범위한 데이터 구축을 요구하거나 상당한 추론 지연을 유발한다.
    • 암묵적 압축 방법은 효율적이긴 하나, 상세한 중간 단계를 요구하는 복잡한 추론 과제에서 '논리적 병목'을 만들 수 있는 비가역적 정보 손실의 위험이 있다.
    • 초기 프레임워크인 LightThinker는 특수한 'gist token'과 분할 어텐션 마스크를 사용해 긴 사고 단계를 간결한 의미 표현으로 암묵적으로 압축하도록 LLM을 학습시킨다.
    • LightThinker++는 'commit', 'expand', 'fold' 같은 프리미티브를 통한 명시적이고 행동 수준의 메모리 관리를 도입해 이를 발전시키며, 의미 요약의 동적 보관이나 원시 추론 세부의 복원을 가능하게 한다.
    • 목적의식적인 메모리 스케줄링으로 LLM을 학습시키기 위해 특화된 환경 인식 궤적 합성 파이프라인을 사용하며, 추론과 명시적 메모리 연산을 교차시킨 전문가 시연을 생성한다.
    초록PDF
  40. 142Multimodal / MedicalarXiv:2604.05081

    MedGemma 1.5 Technical Report

    MedGemma 컬렉션의 최신 모델인 MedGemma 1.5 4B를 소개한다.

    MedGemma 컬렉션의 최신 모델인 MedGemma 1.5 4B를 소개한다. MedGemma 1.5는 추가 기능을 통합해 MedGemma 1을 확장한다. 고차원 의료 영상(CT/MRI 볼륨 및 조직병리학 전체 슬라이드 영상), 경계 상자를 통한 해부학적 위치 파악, 다시점 흉부 X선 분석, 향상된 의료 문서 이해(검사 보고서, 전자건강기록)가 그것이다. 새로운 학습 데이터, 롱 컨텍스트 3D 볼륨 슬라이싱, 전체 슬라이드 병리 샘플링 등 단일 구조 안에서 이러한 모달리티를 가능하게 하는 데 필요한 혁신을 상세히 기술한다. MedGemma 1 4B와 비교해 MedGemma 1.5 4B는 이러한 새 영역에서 상당한 향상을 보이며, 3D MRI 상태 분류 정확도를 11%, 3D CT 상태 분류를 3% 향상시킨다(절대 개선). 전체 슬라이드 병리 영상에서 MedGemma 1.5 4B는 macro F1을 47% 끌어올린다. 추가로 흉부 X선에서 Intersection over Union을 35% 높여 해부학적 위치 파악을 개선하고, 종단적 흉부 X선 분석에서 4%의 macro 정확도를 달성한다. MedGemma 1 대비 향상된 멀티모달 성능을 넘어, MedGemma 1.5는 텍스트 기반 임상 지식과 추론에서도 개선되어 MedQA 정확도를 5%, EHRQA 정확도를 22% 향상시킨다. 또한 4개의 서로 다른 검사 보고서 정보 추출 데이터셋(EHR Datasets 2, 3, 4 및 Mendeley Clinical Laboratory Test Reports)에서 평균 18%의 macro F1을 달성한다. 종합하면 MedGemma 1.5는 커뮤니티를 위한 견고한 오픈 리소스로서, 개발자가 차세대 의료 AI 시스템을 만들 수 있는 개선된 토대로 설계되었다. MedGemma 1.5를 토대로 구축하기 위한 리소스와 튜토리얼은 공개 링크에서 찾을 수 있다.

    • MedGemma 컬렉션의 최신 모델인 MedGemma 1.5 4B를 소개한다.
    • MedGemma 1.5는 추가 기능을 통합해 MedGemma 1을 확장한다. 고차원 의료 영상(CT/MRI 볼륨 및 조직병리학 전체 슬라이드 영상), 경계 상자를 통한 해부학적 위치 파악, 다시점 흉부 X선 분석, 향상된 의료 문서 이해(검사 보고서, 전자건강기록)가 그것이다.
    • 새로운 학습 데이터, 롱 컨텍스트 3D 볼륨 슬라이싱, 전체 슬라이드 병리 샘플링 등 단일 구조 안에서 이러한 모달리티를 가능하게 하는 데 필요한 혁신을 상세히 기술한다.
    • MedGemma 1 4B와 비교해 MedGemma 1.5 4B는 이러한 새 영역에서 상당한 향상을 보이며, 3D MRI 상태 분류 정확도를 11%, 3D CT 상태 분류를 3% 향상시킨다(절대 개선).
    • 전체 슬라이드 병리 영상에서 MedGemma 1.5 4B는 macro F1을 47% 끌어올린다.
    • 추가로 흉부 X선에서 Intersection over Union을 35% 높여 해부학적 위치 파악을 개선하고, 종단적 흉부 X선 분석에서 4%의 macro 정확도를 달성한다.
    초록PDF
  41. 141Agents / SkillsarXiv:2604.04323

    How Well Do Agentic Skills Work in the Wild: Benchmarking LLM Skill Usage in Realistic Settings

    이 연구는 기술 선택, 대규모 저장소로부터의 검색, 적응 같은 도전을 포함시켜 점진적으로 현실적인 조건에서 LLM 에이전트 기술의 효능을 체계적으로 벤치마킹한다.

    이 연구는 기술 선택, 대규모 저장소로부터의 검색, 적응 같은 도전을 포함시켜 점진적으로 현실적인 조건에서 LLM 에이전트 기술의 효능을 체계적으로 벤치마킹한다. 이러한 환경에서 기술의 이점이 크게 줄어들지만, 질의별 기술 정교화 전략을 통해 상당 부분 회복될 수 있음을 밝힌다.

    • 기존 LLM 에이전트 기술 벤치마크는 흔히 이상화된 조건에 의존해, 사전 선택되고 수작업으로 제작된 기술을 에이전트에게 직접 제공했다.
    • 에이전트는 실세계 시나리오에서 많은 선택지 중 관련 기술을 독자적으로 선택하고, 크고 정리되지 않은 저장소에서 기술을 검색하며, 범용 기술을 특정 질의에 적응시키는 등의 도전에 직면한다.
    • 실용적이고 이상적이지 않은 상황에서 에이전트 기술의 진정한 유용성과 한계는 대체로 정량화되지 않은 채 남아 있었다.
    • LLM 에이전트의 현실적인 검색 및 적응 조건을 시뮬레이션하기 위해 34,198개의 실세계 기술로 구성된 대규모 데이터셋을 구축했다.
    • 기술 검색 엔진을 개발하고 다양한 검색 전략(키워드, 의미 기반, 하이브리드, 에이전트 검색)을 평가해 효과적인 기술 발견 방법을 식별했다.
    • SKILLSBENCH와 TERMINAL-BENCH 2.0에서 점진적으로 현실적인 여섯 가지 평가 설정에 걸쳐 LLM 에이전트 성능을 평가하며, 선택, 검색, 적응의 도전을 도입했다.
    초록PDF
  42. 140Agents / CodingarXiv:2604.05013

    Scaling Coding Agents via Atomic Skills

    [철회 논문] Scaling Coding Agents via Atomic Skills는 결과의 유효성에 영향을 주는 데이터 오류로 철회되었습니다.

    arXiv 최신 버전 v2는 Yue Liu가 이 논문을 철회했다고 명시합니다. 공식 버전 이력상 최신 철회 버전의 게시일은 2026년 4월 24일입니다. 저자는 제출 후 발견한 중대한 데이터 오류가 결과의 유효성에 영향을 준다고 밝혔으며, 추후 수정본을 제출할 수 있다고 설명했습니다. 기존 방법과 성능 수치는 철회 전 주장이므로 유효한 연구 성과나 도입 추천의 근거로 제시하지 않습니다. 공식 철회 안내와 버전 이력은 https://arxiv.org/abs/2604.05013 에서 확인할 수 있습니다.

    • [철회 논문] arXiv 최신 버전 v2는 Yue Liu가 이 논문을 철회했다고 명시하며, 해당 버전의 게시일은 2026년 4월 24일입니다.
    • 공개 사유는 제출 후 발견된 중대한 데이터 오류가 결과의 유효성에 영향을 준다는 것이며, 저자는 추후 수정본을 제출할 수 있다고 밝혔습니다.
    • 공식 사유: We request standard withdrawal of this submission because significant errors were discovered in the data after submission, which affect the validity of the results. We may submit a corrected version later
    • 기존 방법과 성능 수치는 철회 전 주장이므로 유효한 연구 성과나 도입 추천의 근거로 제시하지 않습니다.
    • 공식 철회 안내와 버전 이력: https://arxiv.org/abs/2604.05013 .
    초록PDF
  43. 139Agents / EvaluationarXiv:2604.06240

    The Art of Building Verifiers for Computer Use Agents

    Microsoft Research와 Browserbase 연구진은 과정 보상과 결과 보상을 분리하고 시각적 컨텍스트를 효과적으로 관리해 Computer Use Agent 궤적을 신뢰성 있게 평가하도록 설계된 시스템 Universal Verifier를 개발했다.

    Microsoft Research와 Browserbase 연구진은 과정 보상과 결과 보상을 분리하고 시각적 컨텍스트를 효과적으로 관리해 Computer Use Agent 궤적을 신뢰성 있게 평가하도록 설계된 시스템 Universal Verifier를 개발했다. 이 검증기는 기존 방법에 비해 인간 판단과의 정렬을 우수하게 달성하고 위양성률을 크게 낮췄으며, CUAVerifierBench 데이터셋도 함께 도입했다.

    • Computer Use Agent(CUA)의 과제 성공을 신뢰성 있게 검증하는 것은 길고 시각적으로 풍부하며 모호한 궤적 때문에 어렵다.
    • CUA 궤적에 대한 사람의 주석 작업은 까다롭고 비용이 많이 들며, 미묘하거나 일시적인 실패를 놓치는 경우가 많다.
    • 기존 자동 검증 시스템은 토큰 제한, 컨텍스트 관리, 복잡한 환경에서 성공이나 실패를 정확히 귀속하는 데 어려움을 겪어 높은 위양성률을 초래한다.
    • 견고한 검증을 위한 네 가지 원칙에 기반한, CUA 궤적용 평가 시스템 Universal Verifier(UV)를 도입했다.
    • 이는 환각을 탐지하기 위해 신중하게 구성된 비중첩 루브릭과 2패스 채점을 사용하고, 평가를 과정 보상과 이진 결과 라벨로 분리한다.
    • UV는 제어 가능한 에이전트 실패와 제어 불가능한 환경 요인을 구별하며, 스크린샷 증거의 멀티모달 컨텍스트 관리를 위해 분할 정복 전략을 활용한다.
    초록PDF
  44. 138Agents / Multi-AgentarXiv:2604.02460

    Single-Agent LLMs Outperform Multi-Agent Systems on Multi-Hop Reasoning Under Equal Thinking Token Budgets

    이 Stanford University 연구는 다중 홉 추론 과제에서 단일 에이전트 대 다중 에이전트 LLM 시스템의 성능을 조사한다.

    이 Stanford University 연구는 다중 홉 추론 과제에서 단일 에이전트 대 다중 에이전트 LLM 시스템의 성능을 조사한다. 사고 토큰 예산이 동일할 때 단일 에이전트 시스템이 일관되게 다중 에이전트 시스템과 대등하거나 능가하며, 다중 에이전트 시스템은 주로 심각한 컨텍스트 저하 조건에서만 이점을 제공할 수 있음을 보여준다.

    • 다중 에이전트 LLM 시스템(MAS)의 성능 향상이 구조적 이점 때문인지, 단순히 테스트 시점의 연산 지출 증가 때문인지 불분명하다.
    • MAS와 단일 에이전트 시스템(SAS) 간의 기존 비교는 불균등한 토큰 사용량으로 혼란되는 경우가 많아 직접 비교를 신뢰하기 어렵다.
    • 성능 동인을 명확히 하려면 사고 토큰 예산을 엄밀히 통제하는 견고한 평가 방법론이 필요하다.
    • 고정된 추론 예산 하에서 단일 에이전트 시스템의 정보 효율성을 주장하기 위해 데이터 처리 부등식(Data Processing Inequality, DPI)에 기반한 이론적 프레임워크를 도입했다.
    • 세 가지 LLM 계열(Qwen3, DeepSeek, Gemini)에 걸쳐 다양한 단일 에이전트 및 다중 에이전트 구조(예: Sequential, Debate, Ensemble)를 다중 홉 추론 과제(FRAMES, MuSiQue)에서 광범위하게 실증 평가했다.
    • 시스템 간 공정한 비교를 보장하기 위해 사고 토큰 예산, 즉 프롬프트와 최종 답을 제외한 중간 추론용 토큰에 대한 엄격한 통제를 구현했다.
    초록PDF
  45. 137Agents / MemoryarXiv:2604.04503

    Memory Intelligence Agent

    Memory Intelligence Agent(MIA) 프레임워크는 뇌에서 영감을 받은 메모리를 통합해 지속적 자기 진화와 향상된 추론을 가능하게 함으로써 Deep Research Agent를 강화한다.

    Memory Intelligence Agent(MIA) 프레임워크는 뇌에서 영감을 받은 메모리를 통합해 지속적 자기 진화와 향상된 추론을 가능하게 함으로써 Deep Research Agent를 강화한다. 이는 멀티모달 과제에서 평균 5.5%, 텍스트 전용 과제에서 평균 7.5%만큼 이전 메모리 기반 방법을 능가하며 SOTA 성능을 달성한다.

    • Deep Research Agent(DRA)를 위한 기존 메모리 시스템은 주로 롱 컨텍스트 메모리를 사용하며, 이는 어텐션 희석, 노이즈 유입, 높은 저장 및 연산 비용 같은 문제로 이어진다.
    • 기존 메모리 시스템은 대체로 지식 지향 메모리, 즉 '무엇'을 포착할 뿐, 심층 연구에서 미래 계획을 안내하는 데 핵심적인 과정 지향 메모리와 개념적 지식, 즉 '어떻게'를 활용하지 못한다.
    • DRA의 최적화되지 않은 계획과 실행은, 메모리가 few-shot Chain-of-Thought(CoT)에만 쓰일 때 계획자가 과제별 학습을 결여하고 실행자가 명령을 오해하는 데서 비롯된다.
    • MIA는 Manager-Planner-Executor 구조를 제안하며, 과거 검색 궤적의 비모수적 메모리 저장, 모수적 계획, 실행을 분리하고 하이브리드 검색 전략을 사용한다.
    • 2단계 교대 강화학습(RL) 전략은 Planner와 Executor 사이의 시너지적 공동 진화를 촉진해 고수준 계획과 효과적인 저수준 과제 실행의 정렬을 보장한다.
    • Test-Time Learning(TTL)과 새로운 비지도 평가 프레임워크는 지속적 자기 진화를 가능하게 해, 에이전트가 명시적 감독 없이 온라인으로 비모수적, 모수적 메모리를 모두 정교화하도록 한다.
    초록PDF
  46. 136LLMs / ArchitecturearXiv:2604.06425

    Neural Computers

    Meta AI와 KAUST 연구진이 Neural Computer(NC)를 소개한다. 단일 신경망이 계산, 메모리, 입출력을 학습된 런타임 상태로 통합하는 컴퓨팅 패러다임이다.

    Meta AI와 KAUST 연구진이 Neural Computer(NC)를 소개한다. 단일 신경망이 계산, 메모리, 입출력을 학습된 런타임 상태로 통합하는 컴퓨팅 패러다임이다. 초기 프로토타입은 기초적인 입출력 정렬과 단기 지평 제어 프리미티브가 명령줄 및 그래픽 사용자 인터페이스 환경에서 화면 프레임, 명령, 사용자 행동으로부터 직접 학습될 수 있음을 보여준다.

    • 전통적인 컴퓨터, AI 에이전트, 월드 모델은 흔히 계산, 메모리, 입출력을 별개의 하드웨어나 소프트웨어 모듈, 또는 외부 실행 환경으로 분절한다.
    • 기존 시스템은 명시적이고 사람이 설계한 명령어 집합에 의존하는데, 이는 고차원적이고 통계적이며 전역적으로 결합된 처리를 요구하는 영역에서 경직될 수 있다.
    • 기존 AI 에이전트는 대개 실행 가능한 상태를 컴퓨터 자체로 내재화하기보다 외부 실행 환경을 매개한다.
    • 이 논문은 신경망 자체가 계산, 메모리, 입출력을 잠재 런타임 상태 안에 내재화함으로써 능동적인 컴퓨터 역할을 하는 Neural Computer(NC)를 제안한다.
    • NC는 명령과 사용자 행동에 기반해 화면 프레임을 롤아웃할 수 있는 비디오 모델로 구현되며, 명령줄 인터페이스(CLI)와 그래픽 사용자 인터페이스(GUI) 환경의 입출력 트레이스에서 직접 학습된다.
    • 방법론은 diffusion transformer, VAE, 그리고 행동 주입과 커서 감독을 위한 특화 기법을 사용해 인터페이스별 프로토타입인 NC-CLIGen과 NC-GUIWorld를 개발하는 것을 포함한다.
    초록PDF
  47. 135Multi-Agent / TheoryarXiv:2603.26993

    On the Reliability Limits of LLM-Based Multi-Agent Planning

    다중 에이전트 워크플로는 비중복 정보를 추가하거나 통신을 통해 사후 신념을 보존할 때에만 도움이 된다고 주장하는 의사결정 이론 노트다.

    이 논문은 LLM 다중 에이전트 계획을, 제한된 언어 채널 하에서 통신하며 도구나 사람의 검토를 사용할 수 있는 노드들로 이루어진 유한 비순환 위임 의사결정 네트워크로 모델링한다. 주요 이론적 결과는, 새로운 외생 신호가 없다면 그러한 위임은 동일한 증거를 가진 중앙집중식 베이즈 의사결정자에게 지배된다는 것이다. 공통 증거의 경우, 그래프 설계는 공유 신호의 예산 제약 확률적 인코더를 선택하는 문제로 환원된다. 통신 손실은 적정 점수 규칙 하의 사후 분포 왜곡으로 특징지어지며, 로그 손실에서는 조건부 상호정보량으로, Brier 점수에서는 제곱 사후 오차로 나타난다. 통제 실험이 이 이론을 뒷받침한다. 직렬 산문 중계는 정확도를 급격히 떨어뜨리고, 구조화된 사후 벡터 메시지는 손실을 줄이며, 도구는 합성 지식베이스 과제에서처럼 비중복 정보를 제공할 때에만 도움이 된다.

    • 에이전트, 메시지, 비공개 도구 신호, 종단 행동, 선택적 사람 에스컬레이션을 planner나 critic 같은 역할 이름이 아니라 하나의 베이즈 위험 프레임워크 안에서 모델링한다.
    • 신뢰도 상한을 증명한다. 새로운 외생 정보가 없는 경우, 추가 에이전트 단계는 공유 증거를 변환하거나 압축할 수 있을 뿐, 그 증거를 가진 중앙집중식 베이즈 의사결정자를 이길 수 없다.
    • 에이전트 간 산문을 손실 통신 채널로 규정한다. 관련 설계 지표는 에이전트 수나 라운드 수, 전사 길이가 아니라 사후 분포 왜곡이다.
    • 실험은 큰 중계 성능 저하를 보여준다. gpt-4.1-mini는 단일 에이전트 정확도 90.7%에서 중계 에이전트 둘일 때 41.2%, 셋일 때 43.5%, 다섯일 때 22.5%로 떨어지는 반면, 사후 벡터 통신은 정합된 부분집합에서 산문의 58.1% 대비 75.2%에 도달한다.
    • 도구 사용은 정보 구조를 바꿀 때에만 가치가 있다. Wikipedia 접근은 MMLU에서 대체로 중복이지만, 합성 KB 조회는 도구가 없을 때의 24.3%에서 82.7%로 정확도를 끌어올린다.
    초록PDF
  48. 134LLMs / EconomicsarXiv:2603.23971

    The Price Reversal Phenomenon: When Cheaper Reasoning Models End Up Costing More

    광고된 토큰당 API 가격이 실제 RLM 추론 비용을 오해하게 만드는 대리지표가 될 수 있음을 보여주는 비용 감사 논문이다. 숨겨진 사고 토큰 사용량이 청구액을 좌우하기 때문이다.

    이 논문은 공시된 API 가격이 추론 언어 모델(RLM) 사용의 실제 비용을 예측하는지 연구하며, 수학, 과학 QA, 코딩, 시각 추론, 다영역 추론에 걸친 9개 과제에서 8개의 프런티어 RLM을 감사한다. 광고된 토큰 가격이 더 낮은 모델이 어떤 워크로드 전체에서는 비용이 더 많이 드는 경우를 가격 역전으로 정의하며, 252개 모델 쌍과 과제 비교의 21.8%에서 이를 발견했고 역전 폭은 최대 28배에 달했다. 그 메커니즘은 프롬프트 길이가 아니라 청구되는 사고 토큰 소비의 이질성이다. 동일한 질의가 한 모델이 다른 모델보다 약 900% 더 많은 사고 토큰을 쓰게 만들 수 있으며, 사고 토큰 비용을 제거하면 역전이 70% 줄고 Kendall 순위 상관이 0.563에서 0.873으로 상승한다. 동일한 질의를 반복 실행해도 사고 토큰이 최대 9.7배까지 변동하므로, 저자들은 가격표만으로 모델을 선택하기보다 워크로드별 비용 감사와 요청당 비용의 투명한 보고를 주장한다.

    • 실제 비용을 입력 토큰 비용에 출력 토큰 비용을 더한 것으로 정식화하되 사고 토큰을 청구 대상 출력에 포함시키고, 공시 가격 기준 순위를 측정된 총비용 기준 순위와 비교하는 방법을 쓴다.
    • GPT-5.2, Gemini 3 Flash/Pro, Claude Opus/Haiku, Kimi, MiniMax 변형을 포함한 8개 RLM을 9개 데이터셋과 11,872개 질의에 걸쳐 감사하며, 2026년 2~3월 가격을 적용해 수집했다.
    • 252개 쌍별 비교 중 21.8%가 가격 역전을 보였다. Gemini 3 Flash는 GPT-5.2보다 공시 가격이 78% 저렴하지만 전체 비용은 22% 더 비싸며, 인용된 극단 사례에서는 MMLUPro에서 Claude Haiku 4.5보다 28배 더 비쌌다.
    • RLM 조달은 실제 워크로드를 벤치마킹하고 요청당 프롬프트, 사고, 최종 생성 비용 내역을 공개해야 한다. 의미 기반이나 길이 기반 예측 변수조차 확률적인 사고 토큰 변동에 직면하기 때문이다.
    초록PDF
  49. 133Multi-AgentarXiv:2603.28990

    Self-Organizing LLM Agents

    LLM 에이전트 조직에 대한 대규모 실험으로, 고정된 인간식 역할은 유능한 모델에게 과제별로 역할과 기권, 얕은 위계가 창발하도록 하는 최소한의 프로토콜을 부여하는 것보다 덜 중요하다는 것을 보인다.

    이 논문은 다중 에이전트 LLM 시스템이 실제로 얼마나 많은 구조를 필요로 하는지를 묻는데, 8개 모델, 4명에서 256명의 에이전트, 중앙집중식 위계에서 거의 자유로운 자기 조직화에 이르는 8개 협조 프로토콜에 걸쳐 25,000회 이상의 과제 실행을 시험한다. 핵심 결과는 내생성 역설이다. 즉, 최선의 프로토콜은 완전한 자율성이나 설계된 관리자가 아니라, 에이전트가 이전 출력을 보고 스스로 임시 역할을 고르며 기여할 것이 적을 때 기권할 수 있는 순차적 구성이다. 순차적 협조는 중앙집중식 협조보다 14% 우수하고 가장 약한 프로토콜 대비 44%의 품질 차이를 보이며, 256명의 에이전트까지 유의미한 품질 손실 없이 확장되고 비용은 하위 선형으로 증가한다. 자율성의 이득은 모델 역량에 좌우된다. Claude나 Sonnet급, DeepSeek 계열 같은 강력한 모델은 스스로 전문화할 수 있지만, 약한 모델은 여전히 경직된 발판이 필요할 수 있다. 주된 시사점은 사전 할당된 직함이 아니라 임무, 프로토콜, 모델 역량을 중심으로 다중 에이전트 시스템을 설계하라는 것이지만, 결과는 또한 역량 임계값 아래에서는 자기 조직화가 자동으로 이로운 것이 아님을 경고한다.

    • 방법으로, 이 연구는 에이전트 조직을 역할, 상호작용 위상, 메모리, 충격, 확률적 LLM 행동을 갖춘 동적 시스템으로 형식화한 뒤, 동일한 과제와 평가 파이프라인 하에서 8개 협조 프로토콜을 비교한다.
    • 핵심 아이디어는 다음과 같다. 순차적 협조는 순서와 이전 출력에 대한 가시성만 제공하여, 에이전트가 고정된 역할 프롬프트 없이 과제 특화 역할을 만들고, 가치가 낮은 참여를 건너뛰며, 얕은 위계를 형성하게 한다.
    • 결과로, 복잡한 과제에서 순차적 협조는 완전 공유 협조나 자율 협조보다 훨씬 높은 품질에 도달하고 중앙집중식 코디네이터를 14% 능가한다. 품질은 256명의 에이전트까지 안정적으로 유지되며, 8명의 에이전트가 5,006개의 고유 역할 이름을 생성한다.
    • 한계이자 의미로, 자기 조직화는 역량에 의해 제약된다. 강력한 모델은 이득을 보고 약한 모델은 저하될 수 있으므로, 실용적 처방은 '모든 구조를 제거하라'가 아니라 '메타 추론이 가능한 모델과 함께 최소한의 발판을 사용하라'이다.
    초록PDF
  50. 132Code Agents / Long ContextarXiv:2603.20432

    Coding Agents are Effective Long-Context Processors

    이 논문은 장기 컨텍스트 추론을 실행 가능한 파일시스템 탐색 문제로 재구성하여, 코딩 에이전트가 고유의 검색과 스크립팅, 저장소 탐색 습관을 사용함으로써 더 큰 컨텍스트 윈도우와 고정된 RAG를 능가할 수 있음을 보여준다.

    이 연구는 장기 컨텍스트 처리를 불투명한 어텐션 밖으로 빼내어 기성 코딩 에이전트가 수행하는 명시적 행동으로 옮길 수 있는지를 묻는다. 저자들은 문서나 코퍼스를 파일과 디렉터리로 패키징하고, Codex와 Claude Code 같은 에이전트에게 질의와 경로만 주며, 과제 특화 미세조정 없이 grep과 ripgrep, sed, Python 스크립트, 중간 파일, 반복 검색을 사용하게 한다. BrowseComp-Plus, LongBench-v2, Oolong, Natural Questions 전반에서 코딩 에이전트는 기존에 발표된 시스템보다 평균 17.3% 향상되었으며, BrowseComp-Plus에서 88.5%, 3조 토큰 규모의 NQ 코퍼스에서 56.0 EM을 포함해 다섯 개 중 네 개 벤치마크에서 최고 결과를 세웠다. 절제 실험은 계층적 폴더 구조가 단일 JSON 파일보다 더 도움이 되는 반면, BM25나 밀집 검색기를 추가하면 에이전트가 철저한 터미널 탐색을 하는 대신 불완전한 상위 k개 검색을 과신하게 만들어 때때로 해가 될 수 있음을 보여준다.

    • 방법은 다음과 같다. 긴 문서와 대규모 코퍼스를 탐색 가능한 파일과 디렉터리로 표현한 뒤, 코딩 에이전트가 grep, sed, Python 집계, 노트 파일과 같은 실행 가능한 연산을 선택하게 한다.
    • 핵심 아이디어는 장기 컨텍스트 추론이 환경 상호작용이 된다는 것이다. 모델은 더 이상 모든 것을 잠재 어텐션이나 단일 검색 스니펫으로 압축할 필요가 없다.
    • 결과로, 기존 최고 발표 시스템 대비 평균 17.3% 향상되었으며, 다섯 개 중 네 개 벤치마크에서 SOTA를 달성하고 188K 토큰 컨텍스트에서 3조 토큰 위키피디아 코퍼스까지 강한 확장성을 보였다.
    • 한계이자 시사점으로, 이 접근법은 에이전트의 도구 역량과 데이터 조직화에 의존한다. 순진하게 검색기를 추가하면 유용한 탐색을 억제할 수 있으므로, 향후 시스템은 파일시스템 검색을 대체하지 않고 보완하는 검색을 필요로 한다.
    초록PDF