논문 아카이브

수록 논문과 요약을 번호가 큰 순서로 보여 줍니다.

수록 논문 1,193자료 갱신일 2026-10-16벤치마크 RSS 구독

545AI / GeneralarXiv:2607.01224
AutoMem: Automated Learning of Memory as a Cognitive Skill
메모리 관리를 독립적으로 학습 가능한 인지 스킬로 취급하고 자동화하는 AUTOMEM 프레임워크. 32B 오픈모델을 Claude Opus 4.5 수준으로 끌어올렸다.
AUTOMEM은 메모리 관리를 학습 가능한 독립 스킬로 정식화하고, 파일 시스템 조작을 태스크 액션과 동등한 1급 메모리 액션으로 승격한다. 두 개의 자동화 루프—scaffold 최적화(메타-LLM이 전체 궤적을 리뷰하여 프롬프트/스키마/코드 개선)와 memory proficiency 훈련(좋은 메모리 결정을 학습 신호로 활용)—를 통해 Qwen2.5-32B 기반 에이전트의 장기 태스크 성능을 2-4배 향상시켰다. Crafter, MiniHack, NetHack 세 환경에서 32B 모델이 Qwen2.5-72B를 크게 능가했으며, Claude Opus 4.5 및 Gemini 3.1 Pro Thinking과 경쟁하는 수준에 도달했다.
- 파일 시스템(read/write/search/append/create)을 태스크 액션과 동등한 1급 메모리 액션으로 승격 — 모든 메모리 결정이 추적 가능한 액션
- Outer-loop 1: 메타-LLM이 최대 10만 스텝 궤적을 리뷰하여 agent scaffold(코드/프롬프트/메모리 스키마)를 자동 개선
- Outer-loop 2: 에이전트의 좋은 메모리 결정을 추출하여 전용 memory specialist 모델을 LoRA 파인튜닝 (task model은 동결)
- 메모리 최적화만으로 태스크 모델 가중치 수정 없이 2-4배 성능 향상 — 메모리가 모델 스케일보다 더 높은 레버리지
- 32B 최적화 에이전트가 72B를 능가하며 Claude Opus 4.5, Gemini 3.1 Pro Thinking 급에 도달
- 인지과학의 메타메모리(metamemory) 개념을 LLM 에이전트의 구체적 최적화 타겟으로 전환한 최초의 사례
초록 PDF
544RoboticsarXiv:2607.00272
ASPIRE: Agentic /Skills Discovery for Robotics
로봇이 자율적으로 제어 프로그램을 작성·수정하며 경험을 재사용 가능한 스킬 라이브러리로 축적하는 자가개선 시스템 ASPIRE를 제안한다.
ASPIRE(NVIDIA)는 code-as-policy 패러다임에서 로봇이 자율적으로 프로그램을 작성하고 디버깅하며, 검증된 수정 패턴을 재사용 가능한 스킬 라이브러리로 축적하는 지속 학습 시스템이다. 세 가지 핵심 구성요소—폐루프 실행 엔진(미세 다중모달 트레이스), 스킬 라이브러리, 진화 탐색—를 통해 기존 코딩 에이전트 대비 LIBERO-Pro 섭동 태스크에서 최대 77%, Robosuite 양손 협업에서 72%, BEHAVIOR-1K 장기 가사 태스크에서 32% 향상을 달성했다. 시뮬레이션에서 발견된 스킬이 실제 로봇으로 전이되는 초기 증거도 제시했다.
- 폐루프 로봇 실행 엔진이 primitive별 다중모달 트레이스(지각 overlay, 파지 후보, 궤적, 충돌 피드백)를 노출하여 에이전트의 자율 실패 진단·수정 가능
- 검증된 수정 패턴을 스킬 라이브러리에 축적하여 후속 태스크에서 in-context guidance로 재사용 — 태스크가 많아질수록 적응 속도 향상
- 진화 탐색으로 단일 궤적 수정을 넘어 다양한 프로그램 후보를 병렬 탐색하여 성공률 추가 향상
- LIBERO-Pro Long에서 제로샷 31% 성공률 달성 (기존 방법 4%) — 누적 스킬 라이브러리의 일반화 효과
- 시뮬레이션 스킬을 실제 양솔 로봇에 전이 시 추론 토큰를 약 10배 절감하며 성공률도 향상
- 실행 엔진이 없을 때 macro-average 14% → 엔진 추가 후 62% → 진화 탐색 추가 후 72%로 단계적 향상
초록 PDF
543Computer VisionarXiv:2607.00784
LeVLJEPA: End-to-End Vision-Language Pretraining Without Negatives
대비 학습 없이 end-to-end 비전-언어 사전학습을 수행하는 최초의 방법 LeVLJEPA를 제안한다. 밀집 semantic 특징 품질에서 대비 학습 기반(CLIP, SigLIP)을 능가한다.
LeVLJEPA는 negative pair, temperature, momentum encoder, teacher-student schedule 없이 cross-modal prediction과 분포 정규화만으로 비전-언어 사전학습을 수행하는 최초의 방법이다. CC12M(12M) 및 Datacomp-L(92M) 규모에서 훈련 후, zero-shot 분류에서는 CLIP/SigLIP과 경쟁력을 보이면서도, semantic segmentation 및 VLM 백본 등 밀집 특징이 필요한 downstream에서는 일관되게 대비 학습 기반을 능가한다. GQA, VQAv2, POPE 세 벤치마크에서 두 개의 서로 다른 언어모델 백론 모두에서 최고 성능을 기록했다.
- 비전-언어 사전학습에서 negative pair 없이 cross-modal prediction + SIGReg 정규화만으로 안정적 대규모 훈련 가능함을 최초로 입증
- VLM 백본으로 사용 시 GQA 44.6%, VQAv2 54.2%, POPE 66.9%(Llama-1N 기준)로 CLIP/SigLIP 모두 능가
- Semantic segmentation에서 대비 학습 기반 대비 우수한 dense semantic feature 품질 — patch-token 수준에서 구조화된 정보 보존
- Zero-shot 분류에서는 대비 학습이 여전히 우위지만, 백본 활용에서는 zero-shot 성적이 오히려 역상관 관계
- 전체 학습에 negative/temperature/momentum/teacher-student 불필요 → 학습 recipe의 단순화 및 비용 절감
- 객체 중심 표현 학습에 유리하여 배경 robustness에서도 대비 기반 대비 우수
초록 PDF
542Machine LearningarXiv:2607.01232
Is One Layer Enough? Training A Single Transformer Layer Can Match Full-Parameter RL Training
단일 transformer 레이어만 RL 훈련해도 전체 파라미터 RL 훈련과 맞먹는 성능 향상을 달성한다는 발견. RL 이익이 네트워크 중간층에 집중되는 구조적 패턴을 규명했다.
본 연구는 RL 포스트트레이닝에서 transformer 레이어별 기여도를 체계적으로 분석하여, 단일 레이어 훈련만으로 전체 파라미터 RL 훈련의 성과를 회복할 수 있음을 보여준다. Qwen3, Qwen2.5 등 7개 모델과 GRPO, GiGPO, Dr. GRPO 등 3가지 RL 알고리즘에서 일관되게 중간 레이어의 기여도가 가장 높았으며, 이를 활용한 layer-aware 훈련 전략이 표준 RL을 일관되게 능가했다. 예컨대 Qwen3-8B에서 상위 10개 레이어만 훈련하여 수학 추론 평균 69.1%를 달성, 전체 RL의 66.4%를 초과했다.
- 단일 transformer 레이어만 훈련해도 최대 114%까지 전체 RL 이익을 회복 가능하며, 최약 레이어는 30% 미만에 불과
- 고기여 레이어는 네트워크 깊이의 약 40-60% 중간층에 일관되게 집중됨 — 모델 스케일·패밀리·RL 알고리즘·데이터셋에 무관
- Layer contribution 순위는 데이터셋 간 Spearman ρ=0.76, 태스크 간 ρ=0.59로 안정적
- 고기여 레이어에 학습률을 높이거나 선택적 훈련을 적용하면 전체 RL 대비 Qwen3-1.7B +43%, 4B +27%, 8B +32% 추가 이익
- 서로 다른 레이어에서 훈련된 모델들은 상호 보완적 행동을 보이며, majority voting으로 추가 성능 향상 가능
- 전체 훈련 시 weight change magnitude는 레이어 간 비교적 균일하나, 기여도는 극단적으로 불균일 → parameter subspace의 효율성 차이가 핵심
초록 PDF
541AI / GeneralarXiv:2606.31651
FARS: A Fully Automated Research System Deployed at Scale
완전 자동화 AI-for-AI 연구 시스템. 67개 세분 주제에 166편 논문을 생성하고 282건의 인간 리뷰로 품질을 평가한 최초의 대규모 공개 배포 결과.
FARS(Fully Automated Research System)는 아이데이션, 기획, 실험, 논문 작성의 4단계를 에이전트가 자동 수행하며 공유 워크스페이스로 조정하는 완전 자동화 AI 연구 시스템이다. 첫 공개 배포에서 67개 세분 AI/ML 주제에 166편의 완결된 논문을 생성했고, 모든 중간 산출물(제안, 코드, 로그, 결과, 원고)을 감사 가능한 코퍼스로 보존했다. 140편에 대한 282건의 전문가 리뷰 결과, review-worthy 수준의 연구 산출물을 대규모로 생성할 수 있음을 보였으며, Stanford Agentic Reviewer 기준 타 시스템 대비 최고 평점(5.00/10)을 받았다. 다만 실험 범위 협소, 방법론 한계, 무결성 이슈가 반복적 약점으로 확인되었다.
- 완전 자동 4단계 파이프라인: Ideation -> Planning -> Experiment -> Writing, 단계별 전문 에이전트 + 공유 워크스페이스
- 67개 세분 AI/ML 주제, 166편 논문 생성 — 선택된 샘플이 아닌 전체 산출물 보존(성공/실패/부정 결과 모두)
- 282건의 구조화된 자원봉사 리뷰(140편 커버): 평점, 건전성, 발표, 기여도, 무결성 체크, LLM 사용 공개 포함
- Stanford Agentic Reviewer 교차 비교: FARS 5.00/10(165편)으로 DeepScientist(4.13), ScientistOne(4.00) 등 기존 시스템 모두 앞섬
- 인간 리뷰 평균 3.23/10 — 자동 리뷰어보다 엄격하지만 방향성은 일치, 11.4%가 자동 리뷰 기준 accept 임계값 도달
- 반복적 실패 모드: 실험 범위 협소, 방법론 한계, 무결성 이슈(claim-artifact 불일치 등) — 표면 발표가 아닌 기여도/실험 충분성/서술 충실성이 병목
초록 PDF
540Computer VisionarXiv:2606.31986
CoLT: Teaching Multi-Modal Models to Think with Chain of Latent Thoughts
다모달 모델의 CoT를 잠재 표현 체인으로 대체. 3단 잠재 사고로 8개 벤치마크에서 기존 latent reasoning 능가, 텍스트 CoT 대비 10.1배 속도 향상.
CoLT(Chain of Latent Thoughts)는 다모달 대형 언어 모델에서 텍스트 기반 CoT 추론 대신 잠재 사고 표현의 체인을 사용하는 프레임워크다. 전방 디코딩(잠재 사고->텍스트), 후방 디코딩(텍스트->잠재 사고), 내부 감독(단계 간 일관성)의 3방향 step-level 감독으로 학습 안정성을 확보하며, 추론 시에는 디코더를 제거해 효율성을 유지한다. 8개 벤치마크에서 기존 latent reasoning 방법(CODI, SIM-CoT)과 잠재 시각 추론 방법을 모두 능가했으며, 텍스트 CoT 대비 추론 시간 10.1배, 텍스트 디코딩 시간 22.6배 단축을 달성했다.
- 문제의식: 텍스트 CoT는 수천 토큰을 자가회귀적으로 생성해야 해서 추론 지연이 크고, 자연어 표현으로 인해 대체 추론 경로가 소실됨
- 3방향 step-level 감독: forward decoding(잠재->텍스트), backward decoding(텍스트->잠재), internal supervision(잠재 단계 간 전이 일관성)
- 추론 시 디코더와 내부 감독 제거 -> 단 3개 잠재 벡터로 추론 완료, 추가 파라미터 오버헤드 없음
- Qwen3-VL-8B 기반 8개 벤치마크(MMStar, MathVista, SeedBench 등)에서 Text CoT 및 기존 latent reasoning 일관되게 능가
- 추론 속도: 텍스트 CoT 7.24초(142 토큰) vs CoLT 0.32초(3 잠재 벡터) -> 22.6배 디코딩 속도, 10.1배 end-to-end 속도 향상
- 노이즈 강인성도 우수: 시각/텍스트 노이즈 조건에서 Direct Answer(7.2~19.0% 저하), Text CoT(5.0~13.8%) 대비 CoLT는 2.8~9.0% 저하에 그침
초록 PDF
539LLMs / NLParXiv:2606.30015
Parametric Skills
텍스트 스킬 문서를 hypernetwork로 LoRA 어댑터로 변환하여 컨텍스트 없이 스킬 활용. SWE 과제에서 in-context 대비 +6.44점, test-time continual learning 가능성까지.
ParametricSkills는 텍스트 기반 스킬 문서를 test-time에 hypernetwork를 통해 LoRA 어댑터로 변환하는 프레임워크로, 긴 컨텍스트에서 핵심 지시사항을 놓치는 문제를 해결한다. 45.8k 스킬 라이브러리를 구축하고 OpenCode 샌드박스에서 단일/멀티턴 스킬 활용 궤적을 합성해 hypernetwork를 훈련한다. Qwen3-8B 기반으로 6개 SWE 과제에서 in-context 스킬 대비 LLM judge 기준 +6.44점, BERT Score +1.17, F1 +5.53%를 달성했으며, 파라메트릭 스킬의 EMA 병합으로 test-time continual learning의 가능성도 보였다.
- 핵심 문제: in-context 스킬은 모델의 지시사항 이해/준수 능력에 제약받으며, 특히 오픈소스 모델이나 긴 컨텍스트에서 성능 급락
- 해결책: hypernetwork가 텍스트 스킬을 입력받아 단일 forward pass로 LoRA 어댑터 생성 -> 컨텍스트 윈도우 소모 없이 스킬 적용
- 45.8k 규모 고품질 스킬 라이브러리 구축(웹 크롤링 + 실제 에이전트 궤적 요약), 13개 도메인 커버
- SWE 6개 과제 평가: ParametricSkills 64.09 vs In-Context 57.65 vs SHINE 48.48(LLM judge 평균) — SHINE은 스킬 내용+활용법을 충실히 압축하지 못함
- Rank-concatenation 병합으로 다중 스킬 조합 시 single-LoRA 대비 동등 이상 성능, factor-wise linear 병합보다 우수
- HumanEval 기반 self-evolving 실험: 5라운드 반복으로 75%->84.76% 정확도 향상, online continual merge 시 29%->51.6%로 추가 향상
초록 PDF
538Computer VisionarXiv:2607.00678
ABot-M0.5: Unified Mobility-and-Manipulation World Action Model
이동 조작 로봇을 위한 세계-행동 모델. 시간 해상도·행동 공간·학습-추론 정합을 3단 정렬하여 듀얼 MoT 구조와 dream-forcing 학습으로 장시간 모바일 조작 및 정밀 제어를 달성한다.
ABot-M0.5는 이동 조작(mobile manipulation)의 구조적 한계를 해결하기 위해 시간 해상도, 행동 공간, 학습-추론 일관성 세 축에서 정렬을 맞춘 세계-행동 모델(WAM)이다. 중간 잠재 행동(latent action)으로 비디오와 로봇 제어 사이의 해상도 간극을 메우고, 듀얼 레벨 Mixture-of-Transformers로 베이스 이동과 팔 조작의 행동 공간을 분리하며, Dream Forcing 학습으로 모델 예측 비디오 상에서 역동학을 훈련해 추론 시의 오류 누적을 줄인다. RoboCasa365·RoboTwin·LIBERO 등에서 SOTA를 달성했으며, 실제 로봇(6-DoF Agilex Piper)에서 페그 삽입 70% 성공률, 장시간 조작 과제 60~80% 성공률을 기록했다.
- 3대 구조적 병목 식별: 시간 해상도 불일치(거친 비디오 vs 세밀한 제어), 행동 공간 불일치(네비게이션 vs 매니퓰레이션), 학습-추론 맥락 불일치
- 중간 잠재 행동(latent action) 도입: 비디오 잠재표현과 embodiment-specific 제어 사이 브릿지 역할, local visual state transition 포착
- Dual-level Mixture-of-Transformers: 모달리티 표현과 이질적 행동 부분공간(베이스 이동/팔 조작)을 분리하여 각각 최적화
- Dream Forcing: 모델이 예측한(dream) 비디오로 역동학 학습 → autoregressive 추론과 훈련 조건 정합, 장시간 롤아웃 오류 누적 감소
- RoboCasa365 모바일 조작 90.8%/75.4%/58.4%(난이도별), 실제 로봇 페그 삽입 70% 성공률/96% 프로세스 점수 (대비 pi0.5: 50%/90%, Fast-WAM: 30%/77%)
- 실제 로봇 장시간 과제(접시 정렬, 과일 정렬, 꽃꽂이 등) 60~80% 성공률, Fast-WAM(20~40%) 대비 큰 폭 향상
초록 PDF
537Machine LearningarXiv:2606.32017
TRIAGE: Role-Typed Credit Assignment for Agentic Reinforcement Learning
에이전트 RL에서 각 행동 세그먼트의 역할(결정적 진전/탐색/무의미/후퇴)을 분류해 역할별 크레딧을 차등 부여하는 프레임워크. GRPO 대비 ALFWorld·WebShop에서 롤아웃 길이를 10~15% 단축하며 성공률을 일관되게 향상시킨다.
TRIAGE는 에이전트 강화학습에서 결과 보상만으로는 불완전한 크레딧 할당 문제를 해결하기 위해, LLM 저지가 각 환경 상호작용 세그먼트를 4가지 역할(결정적 진전, 유용한 탐색, 무의미 인프라, 후퇴)로 분류하고 역할별로 차등 보상을 부여한다. 검증 결과는 최적화 방향으로 유지하되 역할 라벨만으로 MSE-최적 세그먼트 교정이 가능함을 이론·실험으로 보였다. ALFWorld·Search-QA·WebShop에서 GRPO 대비 Qwen3-1.7B 기준 최대 18.4점 성공률 향상을 달성했으며, 완료된 롤아웃의 환경 턴 수도 10.4%~14.8% 추가 감소시켰다. 회귀 패널티가 주요 기여 요인이고 탐색 보너스는 일관된 보조 이득을 제공한다.
- 에이전트 RL의 핵심 문제: GRPO는 트라젝토리 성공/실패를 모든 행동에 동일 적용 → 유용한 탐색이 실패 롤아웃에서 벌받고, 후퇴 행동이 성공 롤아웃에서 보상받음
- 4역할 분류 체계: Decisive(결정적 진전), Exploration(유용한 탐색), No-progress(무의미), Regression(후퇴) — 역할별 차등 크레딧 룰 적용
- 역할 라벨만으로 MSE-최적 세그먼트 교정 가능함을 증명: judge가 신뢰할 수 있는 한도 내에서 advantage 추정 오차를 항상 감소시킴
- Qwen3-1.7B에서 ALFWorld 18.4점, WebShop 7.9점 향상; 완료 롤아웃 환경 턴 10.4%~14.8% 감소
- 회귀 억제가 주요 성능 원인(ALFWorld/WebShop에서 회귀 비율 약 48%/43%), 탐색 보너스는 0.6~1.7점의 일관된 보조 이득
- 스칼라 프로세스 보상이나 outcome-supervised value baseline보다 우수 → 단순 dense reward 추가가 아닌 역할 타이핑 자체가 효과
초록 PDF
536Information RetrievalarXiv:2606.31984
GR2 Technical Report
Meta의 산업용 LLM 리랭커. Semantic ID 미드트레이닝 + 추론 증류 + RL로 산업 트래픽에서 +18.7% R@1 달성. SFT 대신 OPD 제안.
GR2는 대규모 추천 시스템의 최종 리랭킹 단계에 LLM 추론을 도입한 엔드투엔드 프레임워크다. Semantic ID 미드트레이닝, 교사 모델 추론 증류, 검증 가능한 보상 기반 RL을 결합한다. 산업 규모에서 SFT가 붕괴하는 문제를 해결하기 위해 On-Policy Distillation(OPD)을 제안하며, 컨텍스트 압축기로 훈련 비용을 절감한다.
- Semantic ID(≥99% 고유성) 미드트레이닝으로 LLM이 카탈로그 아이템을 직접 추론
- 강한 교사 모델(32B)에서 추론 트레이스 증류 → 학생 모델(8B)에 추론 사전 설치
- DAPO 기반 RL + 다중 보상(포맷+AUC/NDCG+LLM-as-judge)으로 리랭킹 특화 최적화
- 산업 트래픽 +18.7% R@1, +7.1% R@3, +9.6% N@3 개선
- On-Policy Distillation(OPD): 1.7B 모델로 32B 교사 이득의 ≈82%를 5% 크기로 회복
- 리워드 해킹(들어오는 순서 보존, 위치 편향) 방지용 조건부 보상 설계 필수
초록 PDF
535Software EngineeringarXiv:2606.29957
SWE-Together: Evaluating Coding Agents in Interactive User Sessions
실제 사용자-에이전트 코딩 세션에서 재구축한 멀티턴 벤치마크 109개. 정적 벤치마크의 한계 극복, 상호작용 품질과 사용자 수정 횟수로 평가.
SWE-Together는 실제 사용자-에이전트 코딩 세션 11,260개에서 재구축한 109개 리포지토리 수준 태스크로 구성된 멀티턴 벤치마크다. 반응형 LLM 사용자 시뮬레이터가 원래 사용자의 의도를 보존하면서 에이전트 진행에 따라 피드백을 제공한다. 최종 코드 정확도뿐 아니라 사용자 수정 횟수(User Correction)를 측정하여 협업 품질을 평가한다.
- 11,260개 실제 세션에서 109개 검증 가능한 태스크 추출 (0.97% 전환율)
- 상태 조건부 LLM 사용자 시뮬레이터: 원래 의도 보존 + 궤적 적응형 피드백
- 최종 정확도 + User Correction(수정 턴 수) + Intent Coverage로 다차원 평가
- 강한 에이전트일수록 더 높은 성공률 + 더 적은 개입 횟수 → 사용자 경험 개선 시사
- 정적 SWE-Bench 방식의 한계: 단턴 명령 + 최종 코드만 평가로 실제 상호작용 누락
- 4개 업스트림 데이터소스(DataClaw, Pi-staging, Hyperswitch, SWE-chat) 활용
초록 PDF
534Computer VisionarXiv:2606.29148
GPC: Large-Scale Generative Pretraining for Transferable Motor Control
NVIDIA의 물리 기반 캐릭터 컨트롤러. FSQ 기반 이산 모션 표현 + GPT 스타일 자기회귀 트랜스포머로 600시간+ 모션 데이터 학습, 99.98% 추적 성공률.
GPC(Generative Pretrained Controllers)는 대규모 모션 데이터셋에서 물리 기반 캐릭터 컨트롤을 위해 설계된 생성형 사전학습 프레임워크다. Finite Scalar Quantization(FSQ)으로 모션 보케블러리를 학습하고, GPT 스타일 자기회귀 트랜스포머로 토큰 분포를 모델링한다. 600시간 이상의 모션 데이터로 훈련해 99.98% 추적 성공률을 달성했으며, 자연스러운 행동 발현과 PEFT를 통한 다운스트림 태스크 적응을 지원한다.
- Finite Scalar Quantization(FSQ) 기반 이산 모션 표현 학습 - VQ-VAE의 코드북 문제 회피
- GPT 스타일 자기회귀 트랜스포머로 모션 토큰 분포 모델링 (next-token prediction)
- 600시간+ 대규모 모션 데이터셋 훈련, 99.98% 추적 성공률 달성
- 자연 발현 행동: 외란 대응, 낙하 후 복구 전략 등
- Parameter-Efficient Fine-Tuning(PEFT)로 새 태스크 적응
- SIGGRAPH 2026 컨퍼런스 페이퍼 - NVIDIA/Simon Fraser University 공동
초록 PDF
533AI / GeneralarXiv:2606.30639
Self-Evolving World Models for LLM Agent Planning
LLM 에이전트용 자가진화 세계 모델. 에피소드 기억+의미 기억+선택적 선견지로 모델 파라미터 변경 없이 예측 정확도와 계획 성공률 향상.
WORLDEVOLVER는 LLM 에이전트의 세계 모델을 배포 시점에서 자가 진화시키는 프레임워크다. 에피소드 기억(검색 기반 시뮬레이션), 의미 기억(예측-관측 불일치에서 규칙 추출), 선택적 선견지(저신뢰 예측 필터링) 세 모듈로 구성된다. 모델 파라미터와 다운스트림 에이전트를 고정한 채 컨텍스트만 수정하여 ALFWorld와 ScienceWorld에서 최고 예측 정확도와 계획 성공률을 달성했다.
- 파라미터 업데이트 없이 배포 시점 컨텍스트만 수정하는 자가진화 세계 모델
- 에피소드 기억: 실제 액션 전환을 검색 기반 시뮬레이션으로 활용
- 의미 기억: 예측-관측 불일치에서 지속적 휴리스틱 규칙 추출
- 선택적 선견지: 저신뢰 예측을 에이전트 추론 컨텍스트에 통합하기 전 필터링
- ALFWorld/ScienceWorld에서 3개 백본 모두 최고 예측 정확도 달성
- 노이지 선견지는 액션 정확도를 해친다는 오라클 실험 결과 → 신뢰도 필터링의 중요성 입증
초록 PDF
532Information RetrievalarXiv:2606.31693
ShopX: A Foundation Model for Intent-to-Item Fulfillment in Agentic Shopping
알리바바 Taobao의 쇼핑 에이전트용 파운데이션 모델. Semantic ID 기반 item-space 조작을 LLM에 직접 통합하여 복잡한 쇼핑 의도 충족도 향상.
ShopX는 쇼핑 에이전트의 의도 이해, 실행 계획, item-space 조작을 단일 파운데이션 모델에 통합한다. Semantic ID(SID)를 기반으로 beam-search 검색, 리스트와이즈 랭킹, 제품 번들링 등의 작업을 모델 자체가 계획하고 실행한다. Taobao 프로덕션 로그 기반 평가에서 기존 툴 중재 시스템 대해 복잡한 요청에서 특히 큰 개선을 보였다.
- intent-to-item fulfillment를 단일 모델에 통합: 의도 이해 + 실행 계획 + SID 네이티브 조작
- Semantic ID(SID) 설계: 의미적으로 복구 가능하고 LLM이 조작 가능한 형태
- 지속 사전학습 + 후학습 레시피로 일반 LLM을 쇼핑 에이전트로 특화
- Taobao 프로덕션 로그 기반 단턴/멀티턴 평가에서 기존 툴 중재 시스템 대비 우수
- 복합/모호한 요청에서 특히 큰 개선, 정밀도 88-97% 달성
- 모델 네이티브 설계로 에이전트 오케스트레이션-아이템 실행 간 손실 핸드오프 감소
초록 PDF
531AI / GeneralarXiv:2606.29537
OSWorld2.0: Benchmarking Computer Use Agents on Long-Horizon Real-World Tasks
장시간 실제 컴퓨터 사용 워크플로우 108개로 구성된 벤치마크. 최고 모델도 20.6%만 완료하며, 숨겨진 상태 복원·동적 환경 대응이 핵심 병목임을 드러냄.
OSWorld 2.0은 실제 전문가 워크플로우를 기반으로 한 108개 장기 호라이즌 컴퓨터 사용 태스크 벤치마크다. 중앙값 1.6시간이 소요되는 태스크들로 구성되며, Claude Opus 4.8도 500 스텝 예산에서 20.6%만 완료한다. 단순 GUI 조작이 아닌 숨겨진 상태 복원, 동적 환경 변화, 교차 출처 추론 등 실제 워크플로우의 구조적 난이도를 측정한다.
- 108개 장기 호라이즌 워크플로우, 인간 중앙값 1.6시간 / 에이전트 평균 318 툴콜 소요
- Claude Opus 4.8(max thinking) 20.6% 완료, GPT-5.5 13% 수준 - 토큰 효율은 더 좋음
- 10가지 챌린지 현상 정의: 동적 환경, 교차 출처 추론, 숨겨진 상태 추론, 충돌 해소 등
- 31개 자체 호스팅 웹 서비스(이메일·뱅킹·채팅 등)로 현실적 환경 구성
- 핵심 실패 원인: 제약 조건 망각, 중간 정보 누락, 추측, 검증 생략 (기본 GUI 조작 아님)
- 에이전트가 자체 예산의 7% 미만만 오류 감지·수정에 사용
초록 PDF
530Machine LearningarXiv:2606.32026
AdaJEPA: An Adaptive Latent World Model
JEPA 잠재 세계 모델에 테스트 시점 적응을 도입. MPC 폐루환 내에서 1회 그래디언트 스텝만으로 모델을 업데이트하여 계획 성공률 대폭 향상.
AdaJEPA는 훈련 후에도 배포 시점에서 계속 학습하는 적응형 잠재 세계 모델이다. MPC의 계획-실행-적응-재계획 루프 안에서 실행 직후 관측된 전환을 자기지도 신호로 활용해 모델을 업데이트한다. 소수의 파라미터만 수정하고 1회 그래디언트 스텝만으로도 분포 변화에 대한 계획 성공률을 크게 높일 수 있음을 보였다.
- JEPA 세계 모델 최초의 테스트 시점 적응 프레임워크 (Plan-Execute-Adapt-Replan 루프)
- 추가 전문가 시연 없이 관측된 전환만으로 자기지도 적응 수행
- 1회 그래디언트 스텝 per MPC 재계획만으로도 큰 성능 향상
- 인분포/아웃분포 목표 도달 태스크 모두에서 고정 모델 대비 유의미한 개선
- 훈련 데이터가 제한된 상황에서 특히 큰 이득 확인
- 최근-N 전략과 hard-N 전략 온라인 버퍼 관리 방식 비교
초록 PDF
529AI / GeneralarXiv:2606.31410
Xiaomi-GUI-0 Technical Report
샤오미의 실기기 기반 엔드투엔드 GUI 에이전트. 실제 모바일 환경에서 데이터 수집부터 훈련·평가까지闭环 구축, RealMobile 72.0%·AndroidWorld 78.9% 달성.
Xiaomi-GUI-0는 실제 물리적 기기에서 데이터 수집, 훈련, 평가를 수행하는 네이티브 멀티모달 GUI 에이전트다. 핵심은 실기기 중심의 하이브리드 인프라와 에러 기반 데이터 플라이휠이며, SFT→Step RL→Agentic RL의 3단계 점진적 훈련으로 기본 조작부터 장기 계획, 오류 복구까지 점진적 역량을 개발한다. 오류 궤적을 교정 액션·반성 설명·복구 데모로 변환하여 비정상 상태 인식과 자기 복구 능력을 크게 향상시켰다.
- 실기기 중심 하이브리드 인프라: 물리 기기 메인 + 샌드박스 보조로 실배포와 동일한 실행 분포 확보
- 에러 기반 데이터 플라이휠: 롤아웃 실패 궤적을 교정 액션·반성 설명·복구 데모로 변환
- 3단계 점진 훈련: SFT(기본 조작) → Step RL(장기 계획) → Agentic RL(오류 복구)
- RealMobile 벤치마크 72.0%, AndroidWorld 78.9% 성공률 달성
- 실사용 환경의 계정 상태, 권한 다이얼로그, 결제 인증, 리스크 컨트롤 등 비정상 상태 대응 능력 강화
- 에뮬레이터 감지 메커니즘 우회 문제 해결을 위해 실기기 폐루환경 구축
초록 PDF
528LLMs / NLParXiv:2606.30406
MOPD: Multi-Teacher On-Policy Distillation for Capability Integration in LLM Post-Training
여러 도메인 RL 교사의 능력을 하나의 모델로 통합하는 Multi-teacher On-Policy Distillation(MOPD) 파이프라인을 제안한다. Qwen3-30B와 MiMo-V2-Flash에 적용.
MOPD는 여러 도메인별 RL 교사의 능력을 단일 학생 모델에 통합하는 post-training 패러다임이다. 3단계 파이프라인(일반 SFT → 도메인별 RL 교사 → 다중 교사 온정책 증류)을 통해 dense token-level 감독을 제공하며, 학생 자신의 rollout에서 훈련하여 exposure bias를 제거한다. Qwen3-30B-A3B에서 Mix-RL, Cascade RL, Off-Policy Finetune, Param-Merge를 모두 능가하며 정규화 점수 0.937을 달성했고, 산업 규모 모델 MiMo-V2-Flash에 배포되어 실용성을 검증했다.
- 3단계 파이프라인: General SFT → Domain-specialised RL → Multi-teacher On-Policy Distillation
- 학생 rollout에서 per-token reverse KL로 교사-학생 정렬 → dense supervision + on-policy
- Qwen3-30B-A3B에서 차상위 baseline 대비 +5.5점, 교사-학생 간극의 91~95% 해소
- 도메인 교사 훈련이 병렬 가능 → 개발 처리량 향상, 도메인 간 결합 해제
- 동일 기원(same-origin) 교사가 안정적 최적화에 핵심적 (외부 교사 사용 시 발산 위험)
- MiMo-V2-Flash 산업 모델에 배포 → 실제 프론티어 규모 효용 검증
초록 PDF
527AI / GeneralarXiv:2606.28446
Domain-Informed Multi-View Self-Distillation for Astronomical Light-Curve Representation Learning with JEPA
천문학적 광도곡선(light curve) 표현 학습을 위해 JEPA와 도메인 지식을 결합한 프레임워크. 불규칙 샘플링, 복잡한 잡음, 넓은 시간 스케일 문제를 해결한다.
이 논문은 천문학적 광도곡선의 견고한 표현 학습을 위해 도메인 지식 기반 multi-view JEPA 프레임워크를 제안한다. Raw 시계열, Lomb-Scargle 주기도, 위상 접기 광도곡선의 3가지 view를 사용하고, 불규칙 관측 시간을 위한 C-RoPE와 측정 불확실성을 위한 EANE를 도입했다. StarEmbed 분류 벤치마크 16개 지표 중 15개에서 수작업 특징을 능가하며 최초의 딥러닝 기반 우위를 달성했고, 12개 비천문학 불규칙 시계열 데이터셋에서도 5개 SOTA를 기록했다.
- C-RoPE(Continuous Rotary Positional Embedding): 불규칙 관측 시간 간격을 회전 위치 인코딩으로 처리
- EANE(Error-Aware Numeric Embedding): 측정 불확실성(잡음)을 임베딩에 통합
- 3가지 도메인 view: raw 광도곡선, GLS 주기도, 위상 접기 곡선의 multi-view self-distillation
- StarEmbed 벤치마크 16개 지표 중 15개에서 수작업 특징 최초 능가 (macro-F1 42.56~63.58)
- 유사도 검색, 영점 드리프트 검출, 파라미터 추정 등 다운스트림 응용 검증
- PYRREGULAR 12개 비천문학 데이터셋 중 5개 SOTA → 도메인 특화 설계의 중요성 시사
초록 PDF
526AI / GeneralarXiv:2606.30626
DOPD: Dual On-policy Distillation
온정책 증류(OPD)에서 특권 정보 도입 시 발생하는 'privilege illusion' 문제를 해결하는 dual distillation 패러다임을 제안한다.
DOPD는 온정책 증류에서 특권 정보(privileged information)를 도입할 때 발생하는 privilege illusion 현상을 해결하는 이중 증류 패러다임이다. 특권 정보가 포함된 교사와 학생 사이의 advantage gap을 토큰 단위로 평가하여, 능력 격차가 실제 존재하는 토큰은 교사 증류를, 그렇지 않은 토큰은 학생 자기 감독을 적용한다. LLM(Qwen3-8B→1.7B)과 VLM(Qwen3-VL-8B→2B) 설정에서 Vanilla OPD 대비 각각 7.5, 6.0점 향상을 달성했으며, 지속 학습·OOD 일반화·훈련 안정성에서도 일관된 우위를 보였다.
- Privilege illusion: 특권 정보로 인한 정보 비대칭이 능력 격차와 혼동되는 실패 패턴 정의
- Advantage-aware routing: 토큰별로 교사/학생 감독 소스를 동적 선택
- LLM에서 Vanilla OPD 대비 +7.5점, VLM에서 +6.0점 평균 향상
- 강한 교사 증류(전 어휘)와 약한 학생 자기 감독을 토큰 카테고리별 적용
- 지속 학습, OOD 일반화, 훈련 안정성에서 일관된 우위 검증
- 토큰 수준 분석: high-teacher/low-student 토큰이 핵심 능력 전달 담당
초록 PDF
525RoboticsarXiv:2606.28276
SimFoundry: Modular and Automated Scene Generation for Policy Learning and Evaluation
NVIDIA의 SimFoundry는 실제 비디오 하나에서 시뮬레이션 환경을 자동 생성하는 시스템이다. 로봇 정책 훈련과 평가 모두에 사용 가능하며, digital cousin 확장으로 zero-shot sim-to-real 전이를 달성한다.
SimFoundry는 단일 실제 비디오로부터 상호작용 가능한 시뮬레이션 환경을 자동 생성하는 모듈형 시스템이다. 디지털 트윈 복원, object/scene/task cousin 확장, 시뮬레이션 기반 정책 평가 및 훈련을 통합 제공한다. 7개 조작 과제와 5개 정책 아키텍처에서 시뮬레이션 평가가 실제 성능과 강한 상관관계(Pearson 0.911)를 보였으며, cousin 데이터로 훈련된 정책은 실제 환경에서 17~40% 성공률 향상을 달성했다. DROID와 YAM 로봇에 zero-shot 전이를 검증했다.
- 단일 비디오 → sim-ready 디지털 트윈 자동 생성 (F1 0.81~0.92, 3분 튜닝 시 0.93~0.99)
- Object/Scene/Task cousin: affordance를 보존하면서 다양성을 확보하는 장면 변형
- 7 과제 × 5 정책에서 sim 평가-실제 성능 Pearson 상관 0.911 (이전 SOTA 대비 +0.59)
- Cousin 데이터 훈련 정책이 zero-shot sim-to-real 전이에서 17~40% 성공률 향상
- YAM(99% Pot on Stove) 및 DROID(100% Stack Dishware)에서 뛰어난 zero-shot 전이 성공
- 다단계 조작, 관절 객체 상호작용, 양손 협업 등 기존 대비 복잡한 과제 처리
초록 PDF
524Information RetrievalarXiv:2606.29718
Diagnosing and Mitigating Context Rot in Long-horizon Search
장기 검색 agent에서 context가 누적될 때 모델이 포기하거나 불확실한 답을 내는 'context rot' 현상을 진단하고, 7가지 완화 전략을 체계적으로 평가한다.
이 논문은 장기 딥 검색(deep search) 시나리오에서 context rot 현상을 체계적으로 진단한다. 4개 최신 오픈소스 모델과 3개 벤치마크에서, context가 누적될수록 모델이 직접 포기하거나 불확실한 답을 제공하는 현상이 악화됨을 발견했다. Context compaction, trimming, isolation의 7가지 완화 방법을 성능·비용·rot 영향 측면에서 평가하고, rot-aware 필터링으로 거절 샘플링 시 2.6~4.9% 평균 성능 향상을 달성했다. compaction+trimming 결합이 비용-성능 균형에서 최적임을 보여준다.
- Context rot: 누적 context로 인해 모델이 포기(give up)하거나 불확실한 답(uncertain answer)을 내는 현상 정의
- 4개 오픈소스 모델(Qwen3.5-397B, GLM-4.7 등) × 3개 벤치마크로 체계적 진단
- Context compaction, trimming, isolation 등 7가지 관리 방법을 성능·비용·rot 영향으로 평가
- Rot-aware filtering: 불확실/포기 궤적 제거로 2.6~4.9% 평균 성능 향상
- Compaction + trimming 결합이 비용 대비 rot 완화에서 최적의 균형
- Context isolation(서브에이전트)은 모델 의존성이 크며 강한 모델에서만 유효
초록 PDF
523Machine LearningarXiv:2606.29723
ScaleAware-JEPA: Latent Representation for Discovery in Multiscale Physical Fields
물리적 다중 스케일 필드에 맞춘 JEPA 변형으로, Constrained Diffusion Decomposition을 통해 스케일별 잠재 좌표를 학습한다. MHD 난류, 분자가스, 도시 야간 조명에 적용.
ScaleAware-JEPA는 연속 물리 필드의 다중 스케일 구조를 JEPA에 통합한 프레임워크이다. Constrained Diffusion Decomposition(CDD)으로 필드를 스케일별 성분으로 분해하고, 각 스케일에 맞춘 마스킹으로 예측 과제를 구성한다. MHD 난류, 성간 분자가스, 도시 야간 조명 데이터에 적용하여 라벨이나 사전 정의된 분할 없이도 물리적으로 의미 있는 구조를 잠재 공간에서 포착한다. 소비자용 하드웨어(M3 Pro, RTX 3090)로 실험을 수행한 1인 연구이다.
- Constrained Diffusion Decomposition(CDD)으로 필드를 픽셀 단위 스케일 성분으로 분해
- CDD 스케일이 마스킹 기하학을 결정 → 물리적 스케일 계층과 예측 과제 정렬
- MHD 난류, NGC 3627 분자가스, 청두 야간 조명 등 3개 이질적 도메인에 적용
- 라벨, segmentation, 카탈로그 없이 dense latent atlas 생성 가능
- 고정 패치 마스크 대비 스케일 인지 마스킹의 우월성을 정량 검증
- Apple M3 Pro + RTX 3090 소비자용 하드웨어로 수행된 독립 연구
초록 PDF
522Machine LearningarXiv:2606.28277
Towards Automating Scientific Review with Google's Paper Assistant Tool
Google의 Paper Assistant Tool(PAT)은 추론 스케일링으로 과학 논문의 수학적 오류를 자동 검출하는 agent 기반 리뷰 시스템이다. STOC/ICML 파일럿 배포 결과를 공유한다.
PAT(Paper Assistant Tool)는 Gemini Deep Think 기반의 agent 파이프라인으로, 과학 논문을 세그먼트별로 분할하고 정보 밀도에 따라 계산 예산을 동적 할당하여 수학적·논리적 오류를 심층 검출한다. SPOT 벤치마크에서 zero-shot 대비 34% 향상된 오류 재현율을 달성했으며, STOC와 ICML에서 사전 제출 도구로 파일럿 배포되어 저자들이 제출 전 중요 오류를 발견하는 데 도움을 주었다. 또한 AI가 과학 검증에 참여하는 4단계 분류체계를 제안한다.
- Segmenter → Adaptive Budgeting → Deep Review → Global Synthesis의 4단계 agent 파이프라인
- SPOT 벤치마크 수학 오류 검출에서 zero-shot 대비 34% recall 향상
- STOC, ICML 두 주요 컨퍼런스에서 사전 제출 도구로 파일럿 배포
- AI를 도구(Tool)/지원 리뷰어(Supporting Reviewer)/완전 자동화 등 4단계 역할 분류체계 제안
- Pass@k의 precision 저하와 context 한계를 segment별 deep review로 해결
- NeurIPS 2021 연구: 인간 리뷰어도 23% 불일치율 → AI 리뷰의 실용적 가치 시사
초록 PDF
521LLMs / NLParXiv:2606.30616
Scaling the Horizon, Not the Parameters: Reaching Trillion-Parameter Performance with a 35B Agent
35B MoE 모델로 agent horizon을 확장하여 1T 파라미터 모델과 맞먹는 성능을 달성한 Agents-A1을 소개한다. 지식-행동 인프라와 다중 교사 온정책 증류가 핵심이다.
Agents-A1은 35B Mixture-of-Experts 모델로, agent horizon(평균 45K 토큰 궤적)을 확장하여 1T 파라미터 모델 수준의 성능을 달성한다. Knowledge-Action Graph(KAG) 기반의 장기 궤적 인프라를 구축하고, 6개 이기종 도메인(검색, 과학, 엔지니어링, 도구, 지시 수행)에 대해 3단계 학습(전 도메인 SFT → 도메인별 교사 → 다중 교사 온정책 증류)을 수행한다. SEAL-0, IFBench, HiPhO, FrontierScience-Olympiad 등에서 Kimi-K2.6, DeepSeek-V4-pro 등 1T 모델을 능가하거나 필적하는 결과를 보여준다.
- 35B MoE로 파라미터가 아닌 agent horizon 확장을 통한 성능 향상 경로 제시
- Knowledge-Action Graph(KAG): 증거·행동·관찰·검증 결과를 연결된 객체로 저장하는 장기 궤적 인프라
- 3단계 학습: 전 도메인 SFT → 도메인별 교사 RL → domain-routed 다중 교사 온정책 증류
- 평균 45K 토큰 길이의 agent 궤적 생성, 6개 이기종 도메인 통합
- SEAL-0(56.4), IFBench(80.6), FrontierScience-Olympiad(79.0) 등에서 1T 모델 능가
- Salient Vocabulary Alignment로 도메인 간 추론 패턴 충돌 완화
초록 PDF
520Computer VisionarXiv:2606.30534
Orca: The World is in Your Mind
멀티모달 세계 신호로부터 통합된 world latent space를 학습하는 범용 세계 기반 모델 Orca를 제안한다. Next-State-Prediction이라는 새로운 패러다임으로 이해·예측·행동을 통합한다.
Orca는 비디오와 언어 신호로부터 세계 상태를 내부 표현(world latent)으로 학습하는 세계 기반 모델이다. 무의식적 학습(unconscious learning)으로 자연적 상태 전환을, 의식적 학습(conscious learning)으로 의미 있는 이벤트 수준의 전환을 포착하며, 125K시간 비디오와 160M 이벤트 annotation으로 사전학습한다. 학습된 latent는 텍스트 생성, 이미지 예측, 로봇 행동 생성이라는 세 가지 downstream readout에서 동일 크기의 특화 모델들을 능가하며, 모델 크기와 데이터 규모에 따른 확장성을 확인했다.
- Next-Token/Frame/Action Prediction이 아닌 Next-State-Prediction을 통합 패러다임으로 제안
- 무의식적 학습(연속 비디오에서 밀집 상태 전환) + 의식적 학습(언어 조건부 희소 이벤트 전환)의 두 보완적 패러다임 설계
- 125K시간 비디오, 160M 이벤트 annotation 규모의 대규모 world-learning 데이터 구축
- Encoder 동결 후 lightweight decoder만 학습하여 텍스트·이미지·행동 readout 수행
- 4B/0.8B 규모에서 확장성 검증 완료, 더 큰 world latent가 더 강한 downstream 성능으로 직결
- 현재 비전·언어로 제한된 모달리티, 단기 horizon 전환, 제한된 모델 규모 등 명확한 한계도 공유
초록 PDF
519RoboticsarXiv:2606.27374
World Action Models Enable Continual Imitation Learning with Recurrent Generative Replays
World Action Model의 생성 능력을 활용해 저장된 과거 데모 없이도 파멸적 망각을 완화하는 REGEN continual learning 프레임워크.
REGEN은 World Action Model(WAM)의 미래 관측 생성 능력을 활용해 과거 과제의 pseudo-replay 궤적을 합성하는 최초의 continual imitation learning 프레임워크다. 새 과제 학습 시 WAM에게 이전 과제의 언어 지시와 현재 관측을 조건으로 주고, 생성된 미래 프레임을 재귀적으로 재입력하여 완성된 궤적을 만든다. 이를 새 과제 데이터와 함께 훈련해 순차 미세조정 대비 최대 50% 망각을 감소시킨다. 다만 장기 horizon에서의 시각적 열화와 action-observation 간 불일치가 주요 병목으로 확인되었다.
- WAM의 생성 능력(reconstructed future frames)을 pseudo-replay에 활용하는 최초의 continual imitation learning 접근
- 순차 미세조정(seq-FT) 대비 파멸적 망각을 최대 50% 감소시키며, 실제 demonstration에 접근하는 experience replay에 근접
- 재귀적 생성: WAM이 예측한 미래 관측을 다시 입력으로 feed back하여 완전한 궤적을 합성 (recurrent generative replay)
- 실제 로봇 환경에서도 유효: NBT 96.3→60.5 (40% 망각 감소), FWT 50→80으로 forward transfer도 개선
- 주요 병목 규명: (1) 장기 horizon 재귀 생성에서의 시각 품질 저하 (PSNR 감소), (2) 예측 관측과 action 간 불일치 (imagined 83% vs grounded 42%)
- Action representation drift 측정: REGEN(0.12)이 Seq-FT(0.30) 대비 현저히 낮은 drift로 표현 보존 확인
초록 PDF
518RoboticsarXiv:2606.28133
Translation as a Bridging Action: Transferring Manipulation Skills from Humans to Robots
인간 동작 데이터에서 로봇 조작 스킬을 전이하기 위해 손목 병진(wrist translation)만을 bridging action으로 사용하는 접근법.
이 논문은 인간의 동작 데이터를 양팔 로봇(parallel gripper)에 전이할 때, 노이즈가 많은 6DoF 인간 동작 대신 손목 병진(wrist translation)만을 shared action space로 사용하는 'bridging action' 접근법을 제안한다. π0-like VLA 모델에 interleaved action token과 attention masking을 적용해 이종 action component를 처리하며, 3단계 훈련(인간 사전학습 → 공동 훈련 → 소량 로봇 데이터 후속학습)으로 지식을 전이한다. 손목 병진만으로 6DoF 인간 동작보다 월등히 우수한 스킬 전이를 달성했다.
- 인간 손의 회전 정보는 노이즈가 많고 parallel gripper와 contact pattern이 달라 rotation-inclusive 6DoF 학습은 sub-optimal이라고 주장
- 손목 병진(relative wrist translation in head-camera frame)을 bridging action으로 채택, 인간-로봇 간 공유 action space 구축
- Interleaved action token(3D-wrist → 6D-eef → gripper) + attention masking으로 이종 데이터의 missing component 처리
- 3단계 전략: 대규모 인간 데이터 사전학습 → 인간+로봇 공동 훈련 → 소량 실물 로봇 후속학습
- 로봇 데이터에 bridging action을 추가 감독하는 것이 필수적 (overall success 12.5%→38.3%)
- Upper bound 분석: embodiment gap을 제거하면 bridging objective가 더 강력한 전이 성능 달성 (overall progress 59.75%→73.54%)
초록 PDF
517RoboticsarXiv:2606.27581
SceneBot: Contact-Prompted General Humanoid Whole Body Tracking with Scene-Interaction
SceneBot은 휴머노이드 로봇을 위해 참조 모션과 per-link 접촉 라벨을 조건으로 받는 최초의 통합 전신 모션 트래킹 프레임워크다.
SceneBot은 휴머노이드 로봇이 자유 공간 보행, 불규칙 지형 통과, 전신 객체 조작을 단일 정책으로 수행할 수 있게 하는 contact-conditioned 모션 트래킹 프레임워크다. 핵심 혁신은 per-link contact label을 정책 조건으로 추가하여, 로봇이 어느 부위가 환경과 접촉해야 하는지 명시적으로 알 수 있게 하는 것이다. 부족한 상호작용 데이터는 hindsight scene reconstruction으로 해결하며, 7.5시간의 재구성된 contact-rich 데이터로 훈련해 unseen 모션과 환경으로 일반화한다.
- 참조 모션 + per-link contact label을 정책 조건으로 사용하여 free-space와 contact-rich 행위를 단일 정책으로 통합 (최초)
- Hindsight scene reconstruction: retargeted human motion에서 scene-interaction graph를 추론하고 terrain/object asset을 역으로 재구성
- 7.5시간의 contact-rich 훈련 데이터(AMASS + OMOMO + Bones + Lafan 조합)로 unseen 모션/환경 일반화 달성
- Global root tracking이 필수적: 없으면 terrain 성공률 100%→45%, 객체 과제 95%→20%로 급락
- Contact label 제거 시 객체 파지 성공률이 0%에 수렴, 접촉 라벨의 결정적 역할 입증
- 실제 Unitree G1에서 평균 root 위치 오차 0.032m, 회전 오차 0.018rad로 state estimation 성능 확인
초록 PDF
516AI / GeneralarXiv:2606.26859
AgentX: Towards Agent-Driven Self-Iteration of Industrial Recommender Systems
Kuaishou의 AgentX는 추천 시스템 알고리즘 반복을 자동화하는 프로덕션 배포 다중 에이전트 시스템으로, 자가 진화하며 인간 엔지니어 대비 3.7배 비즈니스 가치를 창출한다.
AgentX는 산업용 추천 시스템의 알고리즘 반복 과정을 자동화하는 다중 에이전트 시스템이다. Brainstorm Agent(아이디어 생성) → Developing Agent(코드 구현) → Evaluation Agent(A/B 테스트 평가) → Harness Evolution(SGPO 기반 자가 개선)의 폐루프를 구동한다. Kuaishou App 3주 배포에서 374개 아이디어 중 10개 롤아웃을 달생했으며, 주당 처리량이 2배씩 증가하고 0.561% 앱 체류 시간 증가, 연간 1억 위안 이상의 수익을 창출했다.
- 4단계 폐루프: Brainstorm(증거 기반 제안) → Developing(repo-grounded 코드 생성) → Evaluation(guardrail-vetoed A/B 판정) → Harness Evolution(SGPO)
- SGPO(Semantic-Gradient-based Prompt Optimization)로 실행 궤적을 에이전트 프롬프트 업데이트에 활용, 주당 처리량 2배 증가
- 3명의 AgentX worker가 3주간 374개 아이디어 → 10개 런처블 롤아웃 달성 (인간 엔지니어 대비 8배 동시성, 3.7배 비즈니스 가치)
- 온라인 A/B 피드백을 보상 신호로 사용하여 실제 비즈니스 가치와 정렬 (0.561% 앱 체류 시간 증가, 연간 1억 위안+)
- 추천 전략뿐 아니라 모델 측 연구(논문 재현, 모듈 절단, 아키텍처 조합)로 확장 가능함을 입증
- 부정 결과(실패한 실험)도 구조화 지식 자산으로 전환하는 negative-result assetization 메커니즘
초록 PDF
515Computer VisionarXiv:2606.28128
PhysisForcing: Physics Reinforced World Simulator for Robotic Manipulation
로봇 조작 비디오 생성에서 물리적 일관성을 강화하는 PhysisForcing 프레임워크. 픽셀 수준 궤적 정렬과 의미 수준 관계 정렬을 물리적으로 중요한 영역에 집중 적용한다.
PhysisForcing은 로봇 조작 비디오 생성 모델이 물리적으로 불가능한 장면을 만드는 문제를 해결하기 위해, 물리적 정보가 풍부한 영역(manipulator, 객체, 접촉부)에 계층적 감독을 적용하는 프레임워크다. 픽셀 수준에서는 점 궤적 정렬 손실을, 의미 수준에서는 토큰 유사도 행렬 정렬 손실을 DiT 백본 훈련에 통합한다. R-Bench에서 Wan2.2-I2V-A14B 기준 +22.3%, Cosmos3-Nano 기준 +9.2% 개선했으며, WorldArena 폐루프 성공률을 16.0%에서 24.0%로 끌어올렸다.
- 물리적 오류의 두 원인(이동 객체 변형, 상호작용 entity 간 부자연스러운 시공간 상관관계)을 실험적으로 규명
- 픽셀 수준 궤적 정렬 손실(point tracking 기반)과 의미 수준 관계 정렬 손실(frozen video encoder 기반)을 상호 보완적으로 설계
- 물리적 감독을 interaction-critical region에 집중하는 physics region focus 전략 제안 (균일 적용 대비 +1.5pt 우수)
- R-Bench에서 Wan2.2-I2V-A14B +22.3%, Cosmos3-Nano +9.2% 개선 (vanilla finetuning 대비 각각 +7.1%, +3.7%)
- WorldArena action-planner 프로토콜에서 폐루프 성공률 16.0%→24.0%, downstream policy 평균 성공률 68.2%→72.8% 향상
- PF-Cosmos가 R-Bench, PAI-Bench, EZS-Bench 모두에서 최고 종합 점수 달성
초록 PDF
514Computer VisionarXiv:2606.27608
Qwen-Image-2.0-RL Technical Report
Qwen-Image-2.0에 RLHF와 on-policy distillation을 적용해 이미지 생성 품질과 명령어 준수 능력을 향상시킨 포스트트레이닝 파이프라인.
Qwen-Image-2.0-RL은 diffusion 모델에 RLHF를 적용하기 위해 VLM 기반 복합 보상 모델(alignment·aesthetics·portrait)을 구축하고, GRPO 기반 RL 훈련 프레임워크를 제안한다. 이후 on-policy distillation(OPD)으로 T2I와 이미지 편집의 task-specialized RL teacher들을 단일 모델로 통합한다. 그 결과 Qwen-Image-Bench 57.84점(+2.61), T2I 아레나 Elo 1193(+78), 편집 아레나 Elo 1349(+93)를 달성했다.
- VLM을 pointwise scoring + CoT reasoning으로 파인튜닝하여 task별 복합 보상 모델 구축 (T2I: alignment/aesthetics/portrait, 편집: instruction/face ID)
- GRPO 기반 RL 프레임워크에 hybrid CFG 전략을 도입해 pre-trained 지식 보존과 훈련 안정성 동시 확보
- On-policy distillation(OPD)으로 T2I teacher와 편집 teacher를 trajectory-level velocity matching으로 단일 student 모델에 통합
- OPD가 mixed RL(다중 보상 동시 최적화) 대비 cross-task 간섭을 피하며 더 우수한 성능 달성
- Qwen-Image-Bench 57.84점(+2.61), T2I 아레나 Elo +78, 편집 아레나 Elo +93의 일관된 개선 확인
초록 PDF
513RoboticsarXiv:2606.26025
In-Context World Modeling for Robotic Control
VLA 모델이 새로운 환경(카메라 시점·로봇 형태 변경)에서 자율적으로 시스템 변수를 추론해 적응하도록 하는 in-context 세계 모델링 프레임워크 ICWM을 제안한다.
ICWM(In-Context World Modeling)은 Vision-Language-Action(VLA) 모델의 일반화 실패를 시스템 식별 문제로 재구성한다. 로봇이 과제 수행 전 짧은 무작위 탐색 동작을 수행하고 그 결과 시각 전환을 컨텍스트로 prepend하면, 모델이 암묵적으로 현재 시스템 구성(카메라 시점, 형태학 등)을 추론하여 파라미터 업데이트 없이 적응한다. 시뮬레이션과 실제 로봇 실험 모두에서 ICWM은 표준 VLA 대비 새로운 카메라 시점에서 큰 성능 향상을 보였으며, 의미론적 장면 변화와 로봇 형태학적 변경으로도 일반화된다. 핵심은 컨텍스트 윈도우를 '무엇을 할 것인가'가 아닌 '시스템이 어떻게 작동하는가'를 이해하는 데 사용한다는 점이다.
- VLA 정식화에서 누락된 시스템 구성 ψ(카메라 시점·형태학)를 컨텍스트로 복원하는 문제 정식화
- 과제 독립적 무작위 탐색 클립 N개(보통 3~5개)를 컨텍스트로 prepend해 파라미터 업데이트 없이 시스템 동역학 암묵 추론
- 6개 OOD 시점 평균 성공률 25.0% (Multi-View 기준 19.8% 대비 +5.2pp); 잘못된 컨텍스트는 오히려 성능을 18.9%로 저하시켜 모델이 실제로 컨텍스트에 의존함을 입증
- 로봇 그리퍼에 20~80mm 스페이서 부착(형태학 변경) 시 MV 기준 5.6%에서 ICWM 14.4%로 +60% 마진 유지
- KV 캐싱으로 컨텍스트 hidden state 재사용 시 추론 지연을 기준선(0.112s) 수준으로 회복 가능
- 이 컨텍스트 적응 능력은 표준 모방 학습에서 자연 발생하지 않으며 명시적 훈련 인센티브가 필요함
초록 PDF
512Machine LearningarXiv:2606.26294
The Red Queen Gödel Machine: Co-Evolving Agents and Their Evaluators
에이전트와 평가자를 공동 진화시키는 자기개선 프레임워크 RQGM을 제안한다. 고정된 평가 기준의 한계를 극복하고 비정상적 유틸리티에서도 재귀적 자기개선을 보장한다.
Red Queen Gödel Machine(RQGM)은 자기개선 에이전트와 이를 평가하는 학습된 평가자를 공동 진화시키는 프레임워크다. 핵심 메커니즘인 '제어된 유틸리티 진화'는 탐색을 에폭으로 나누어 에폭 내에서는 고정 평가 기준을 유지하되, 에폭 경계에서 평가자를 더 강한 것으로 교체할 수 있게 한다. 코딩 작업에서는 저렴한 코드 리뷰 신호를 추가해 이전 SOTA 대비 1.35~1.72배 적은 토큰으로 더 높은 합격률(71.7% vs 69.9%)을 달성했다. 논문 작성·심사, 올림피아드 수준의 증명 작성·채점 영역에서도 공동 진화된 작성자가 1.78~1.86배 높은 수용률을 기록했고, 공동 진화된 채점자는 9% 더 높은 정확도를 달성했다. 또한 적대적 목표를 에폭 경계에서 주입해 AI 생성 논문에 관대한 심사자의 자기선호 편향을 교정할 수 있음을 보였다.
- 제어된 유틸리티 진화: 에폭 내 고정 기준 + 에폭 경계 교체로 비정상 유틸리티에서도 자기개선 보장을 유지
- 코딩 작업(Polyglot)에서 agent-as-a-judge 코드 리뷰 신호 추가로 이전 SOTA 대비 +1.8%p 합격률, 1.35~1.72× 적은 토큰 사용
- 논문 작성 영역에서 공동 진화된 작성자의 수용률 21.8%→40.5% (1.86× 향상)
- IMO 수준 증명 채점에서 공동 진화된 채점자가 고정 기준선 대비 3× 적은 탐색 비용으로 더 높은 정확도 달성
- 에폭 경계에 적대적 목표를 주입해 AI 생성 논문에 대한 심사자 자기선호 편향(AI 1.91× 과수용)을 교정
- 평가자가 강해질수록 작업 에이전트에게 커리큘럼 효과를 제공해 아카이브 재순위화와 점진적 강화를 유발
초록 PDF
511AI / GeneralarXiv:2606.26300
The Verification Horizon: No Silver Bullet for Coding Agent Rewards
코딩 에이전트의 검증(verification)이 생성보다 어려워지는 현상을 분석하고, 검증 신호의 3축(확장성·충실성·강인성) 프레임워크와 4가지 보상 설계 사례를 제시한다.
이 논문은 Qwen 파운데이션 모델 기반 코딩 에이전트 훈련에서 검증 시스템 설계의 핵심 경험을 공유한다. 검증 신호를 확장성·충실성·강인성 3차원으로 분류하고, 단위 테스트 보상(SWE 작업), 루브릭 기반 상호작용 평가자(프론트엔드), 사용자 피드백 보상(실제 에이전트 작업), 자율 에이전트 평가자(장기 과제)의 4가지 보상 구성을 심층 분석한다. 각 설정에서 표적화된 검증 설계가 보상 해킹을 억제하고 작업 완성 품질을 크게 향상시키며, 어떤 고정된 보상 함수도 정책 능력 성장에 따라 영구 유효할 수 없음을 입증한다. 핵심 주장은 검증이 훈련 파이프라인의 보조가 아닌 핵심 인프라여야 하며, 생성기와 공동 진화해야 한다는 것이다.
- 단위 테스트 보상에서 품질 판정+궤적 모니터링 추가 시 SWE-Bench 해킹 해결률이 28.57%→0.56%로 급감, 정상 해결률은 40.22%→60.53%로 상승
- 프론트엔드 작업에서 브라우저 기반 상호작용 평가자를 도입해 정적 코드 검사에 취약한 길이 공격 해킹을 방어한다
- 사용자 피드백 보상으로 5개 내부 코딩 에이전트 벤치마크에서 최대 13.3%p 개선 달성
- 장기 과제용 자율 에이전트 평가자로 필터링한 데이터가 랜덤 샘플링 대비 RFT에서 +1.91점 향상 (23.52 vs 21.61)
- 검증의 3축(확장성·충실성·강인성)을 동시에 만족하는 단일 메커니즘은 없으며, 과제 유형별 맞춤 설계가 필수적이다
- 검증은 보조가 아닌 핵심 훈련 인프라이며, 정책 능력 성장에 맞춰 지속 공동 진화해야 한다
초록 PDF
510AI / GeneralarXiv:2606.27226
Ask, Don't Judge: Binary Questions for Interpretable LLM Evaluation and Self-Improvement
평가 기준을 원자적 이진 질문(yes/no)으로 분해해, 투명하고 진단 가능한 다차원 점수를 제공하는 LLM 평가 프레임워크 BINEVAL을 제안한다.
BINEVAL은 LLM 출력 평가를 원자적 이진 질문들로 분해하여, 개별 질문 수준의 피드백과 다차원 점수를 simultaneously 제공하는 training-free 평가 프레임워크다. SummEval, Topical-Chat, QAGS 벤치마크에서 UniEval, G-Eval 등 강력한 기존 방법들과 동등하거나 더 우수한 성능을 보이며, 특히 사실 일관성 평가에서 두드러진 강점을 보인다. 같은 질문 수준 피드백을 활용해 요약 및 명령어 준수 프롬프트를 반복적으로 최적화할 수 있어, 평가와 생성 개선을 하나의 프레임워크에서 통합한다.
- 평가 기준을 원자적 이진 질문으로 분해하는 meta-prompt 구조로, 평가의 투명성과 진단 가능성을 크게 향상시킨다
- QAGS(사실 일관성)에서 UniEval 대비 Spearman ρ +0.195 개선 — 분해 자체가 정보 이득의 핵심 기여임을 입증
- G-Eval/UniEval이 5.0 만점을 주는 미묘한 사실 오류를 BINEVAL은 7개 질문으로 각각 포착해 1.57점으로 인간 판단(2.0)에 근접
- LLM judge의 고질적 ceiling effect를 회피해, 경계선 출력과 명확한 결함 출력을 더 잘 구분한다
- 질문 수준 피드백을 활용한 cross-model prompt update로 요약 및 IFBench 프롬프트를 모두 개선한다
- task-agnostic·training-free 설계로, 요약·대화·명령어 준수 등 다양한 태스크에 즉시 적용 가능하다
초록 PDF
509Machine LearningarXiv:2606.25086
Training for the Model You Return: Improving Optimization for Iterate-Averaged Language Models
Iterate average(EMA) 기반 LM 반환을 전제로, 최적 제어 이론에서 도출한 PACE 옵티마이저가 학습 궤적을 직접 개선하는 연구.
현대 LM 파이프라인은 학습 iterate의 EMA를 반환하는 것이 표준인데, 이 논문은 'EMA로 반환할 것이라면 학습 자체를 어떻게 바꿔야 하는가'라는 근본 질문을 던진다. 저자들은 이를 확률적 2차 모델에서의 최적 제어 문제로 정식화하고, AdamW 위에 얹는 가벼운 래퍼인 PACE를 도출했다. PACE는 현재 가중치를 EMA 쪽으로 clipped per-coordinate pullback으로 당기면서, iterate average의 오차를 최소화한다. convex 수렴 보장(standard SCO rate)과 2차 설정에서 임의로 큰 개선을 증명했으며, SmolLM2-1.7B, Qwen3-1.7B, Gemma3-1B fine-tuning과 GPT-2 pretraining에서 광범위한 하이퍼파라미터에 걸쳐 EMA 단독 및 AdamW를 일관되게 능가했다. Schedule-Free와도 경쟁력을 보였다.
- iterate-average 최적화를 continuous-time stochastic quadratic 최적 제어 문제로 정식화
- PACE: AdamW 위에 얹는 lightweight wrapper, 추가 메모리 = model weights 1본
- convex 설정에서 standard SCO 수렴률 보장, 2차 설정에서는 임의로 큰 한정 오차 개선 가능
- SmolLM2/Qwen3/Gemma3 fine-tuning 3종 일관된 개선, GPT-2 FineWeb pretraining에서도 유효
- Schedule-Free와 경쟁적이면서 LR decay 불필요 — constant LR으로 WSD의 모든 token budget에서 우위
- pullback strength c, EMA power κ, update frequency에 대한 광범위한 ablation으로 견고성 입증
초록 PDF
508RoboticsarXiv:2606.27295
LA4VLA: Learning to Act without Seeing via Language-Action Pretraining
VLA 모델에서 시각 정보 없이 언어-행동만으로 사전학습하는 LA4VLA 프레임워크. 시각적 단축 의존도를 낮추고 언어 조건부 행동 사전을 학습한다.
LA4VLA는 기존 VLA 학습의 근본적 비대칭—시각-행동 신호는 조밀하지만 언어-행동 신호는 희소—를 해결한다. 전문가 데모를 원자 단위 행동 세그먼트로 분해하고 각각에 저수준 행동 설명을 페어링하여 33K LA 에피소드를 구축했다. 시각 입력을 완전히 제거한 상태에서 언어와 proprioceptive state만으로 행동을 예측하게 하면, 정책이 시각적 단축이 아닌 언어-조건부 행동 패턴을 학습하게 된다. 세 가지 사전학습 패러다임(LA-only, sequential LA-to-VLA, mixed LA-VLA)을 제안했고, mixed 사전학습 시뮬레이션에서 최대 17.8pp, 실제 로봇에서 45.0pp 향상을 달성했다. 특히 시각적 섭동 하에서 견고성이 크게 향상되어, 언어-행동 grounding의 중요성을 실증했다.
- 기존 VLA 학습의 시각-언어 비대칭 문제 체계적 분석 (data-level + input-level asymmetry)
- 33K LA 에피소드를 추가 데이터 수집 없이 기존 데모에서 자동 구축 (LA4-33K)
- LA-only 사전학습이 동일 규모 VLA-only 사전학습보다 일관되게 우수
- mixed LA-VLA 사전학습: MetaWorld 87.53%, LIBERO 96.28%, 실제 로봇 83.3% 달성
- 시각 노이즈 하에서 LA 사전학습 정책이 VLA-only 대비 평균 25pp 높은 성공률
- LA 사전학습 정책의 t-SNE 분석에서 명령어 방향별로 명확히 분리된 표현 형성 확인
초록 PDF
507Machine LearningarXiv:2606.27326
Hallucination in World Models is Predictable and Preventable
월드 모델의 환각이 데이터 커버리지 부족에서 비롯되며, 가벼운 신호로 예측·완화할 수 있음을 입증한 연구.
이 논문은 생성적 월드 모델의 환각(hallucination)이 근본적으로 데이터 커버리지 문제임을 체계적으로 입증한다. 427시간 분량의 210-task 벤치마크 MMBench2를 구축하고 350M 파라미터 Dreamer 4 모델을 학습시켜, 환각을 세 가지 유형—지각적, 행동 무시, 장면 발산—으로 분류했다. 각 단계별로 환각을 예측하는 세 가지 신호(tokenizer round-trip residual, flow instability, inter-seed denoising variance)를 개발했고, 이를 coverage-aware 샘플링과 curiosity 보상 기반 타겟 데이터 수집에 활용한다. 단 50개의 실제 궤적으로 완전 새로운 환경에 적응할 수 있어, 환각 완화가 아키텍처 변경이 아닌 데이터 전략으로 해결 가능함을 보여준다.
- 환각 3가지 유형 정의: perceptual(tokenizer), action marginalization(dynamics), scene divergence(rollout)
- MMBench2: 65,600 궤도, 427시간, 210-task, 10 도메인, ground-truth action/reward/simulator 포함
- coverage-aware 학습으로 tokenizer+dynamics 모두 개선 시 rollout ΔPSNR +0.88dB 향상
- curiosity 기반 50 궤도 수집만으로 unseen 태스크 적응 성능 0.325 달성 (전문가/human 0.362의 ~90%)
- 환각 예측 신호들이 rollout ΔPSNR과 ρ≈0.80 상관관계를 보임
- off-the-shelf tokenizer(Wan 2.1 VAE) vs in-domain tokenizer 비교 분석 포함
초록 PDF
506Machine LearningarXiv:2606.26217
Fast LeWorldModel
LeWorldModel의 순차적 롤아웃을 action-prefix 병렬 예측으로 대체하여 계획 속도를 3.9배 높이고 성공률도 향상시킨 연구.
Fast-LeWM은 기존 LeWorldModel이 갖던 두 가지 한계—느린 순차적 롤아웃과 누적 잠재 오차—를 해결한다. 핵심 아이디어는 1-step 전이 모델을 반복 적용하는 대신, action sequence의 모든 prefix에 대해 미래 latent를 병렬로 예측하는 것이다. 이렇게 하면 CEM 계획 시 전체 궤적을 한 번의 forward pass로 평가할 수 있어 속도가 크게 올라가며, 예측 오차도 prefix 단위의 dense supervision으로 인해 훨씬 느리게 누적된다. 4개 과제에서 평균 성공률 85.8%에서 90.5%로 향상되었고, CEM 해결 시간은 54.4초에서 28.3초로 절반 가까이 줄었다.
- action-prefix 예측으로 다중 horizon latent를 병렬 생성하여 순차 롤아웃의 병목 제거
- dynamics 모듈 시간 31.4s → 8.0s (3.9배 단축), CEM 전체 해결 시간 48% 감소
- open-loop latent loss의 초기값과 증가 기울기 모두 LeWM 대비 유의미하게 낮음
- 평균 계획 성공률 85.8% → 90.5% (Two-Room 98%, Push-T 96%, Cube 80%)
- terminal-only 예측보다 dense prefix supervision이 성능에 필수적임을 ablation으로 확인
- 물리 상태 probing에서 MLP probe 기준 agent 위치·블록 위치·각도 모두 최고 정확도 달성
초록 PDF
505LLMs / NLParXiv:2606.26790
OPID: On-Policy Skill Distillation for Agentic Reinforcement Learning
완료된 on-policy 궤적에서 hindsight skill을 추출해 dense한 토큰 수준 감독을 제공하는 agentic RL 프레임워크. ALFWorld 58.9, WebShop 74.2로 기존 GRPO 대비 큰 폭 향상.
OPID는 outcome-based RL의 sparse reward 문제를 해결하기 위해, 완료된 on-policy 궤적에서 episode-level과 step-level의 계층적 skill을 추출하고 이를 self-distillation 신호로 활용한다. Critical-first routing으로 중요 의사결定时점에는 step-level skill을, 그 외에는 episode-level skill을 주입하여 old policy가 같은 response를 재평가하게 한다. ALFWorld 58.9(GRPO 46.1 대비 +12.8), WebShop 74.2(GRPO 63.3 대비 +10.9)를 달성했으며, 추론 시 추가 인프라가 불필요하다.
- 완료된 on-policy 궤적에서 hindsight skill을 직접 추출하므로 external skill library나 retrieval이 불필요하다.
- episode-level skill(전역 워크플로/실패 회피 규칙)과 step-level skill(국소 의사결정)의 2단계 계층 구조를 도입했다.
- critical-first routing: 중요 시점에는 step-level skill 사용, 나머지는 episode-level skill으로 fallback한다.
- ALFWorld 58.9%(GRPO 46.1% 대비 +12.8pt), WebShop 74.2%(GRPO 63.3% 대비 +10.9pt)를 달성했다.
- GRPO 학습 에이전트의 'hallucinated target' 오류(존재하지 않는 객체 탐색)를 skill 주입으로 해결하는 정성 분석을 제공한다.
- 추론 시 analyzer, external skill retrieval, privileged context가 전혀 필요 없는 training-time-only 프레임워크다.
초록 PDF
504AI / GeneralarXiv:2606.24937
The Hitchhiker's Guide to Agentic AI: From Foundations to Systems
에이전트 AI의 전체 스택을 다루는 종합 참고서. LLM 아키텍처부터 RLHF, RAG, 멀티에이전트, MCP/A2A 프로토콜, 평가 방법론까지 600페이지 분량으로 정리했다.
이 책은 자율 AI 시스템 구축에 필요한 전체 스택을 다루는 실무자용 종합 참고서다. Part I은 LLM 기초(transformer, GPU 시스템, 학습/파인튜닝, 추론 최적화), Part II는 정렬과 추론(RLHF, PPO, DPO, GRPO, CoT, test-time scaling), Part III는 에이전트 AI 본론(trajectory RL, RAG, 메모리 시스템, 에이전트 핸네스, MCP/A2A 프로토콜, 멀티에이전트 아키텍처)를 다룬다. 각 장은 이론과 구현 가이드, 코드 예시를 함께 제공한다.
- LLM 아키텍처(tokenization, transformer, attention)부터 GPU 시스템, Flash Attention까지 기초를 망라한다.
- RLHF, PPO, DPO, GRPO 등 정렬 기법과 Chain-of-Thought, test-time scaling 등 추론 기법을 다룬다.
- 에이전트 핵심: trajectory RL, RAG/Agentic RAG, in-context/external/episodic/semantic 메모리 시스템, 에이전트 핸네스 설계.
- MCP(Model Context Protocol), A2A(Agent-to-Agent) 프로토콜, 도구 사용과 에이전트 스킬을 체계적으로 정리했다.
- 중앙집중/분산/계층형 멀티에이전트 아키텍처와 에이전트 간 통신 패턴을 다룬다.
- 평가 방법론, 에이전트 UI 디자인, 프로덕션 배포까지 실무 전 단계를 커버한다 (600+ 페이지, 400+ 참고문헌).
초록 PDF
503Computer VisionarXiv:2606.26907
Qwen-Image-Agent: Bridging the Context Gap in Real-World Image Generation
실제 사용자 요청의 맥락 부족(Context Gap)을 해결하기 위해 plan, reason, search, memory, feedback을 통합한 에이전트 이미지 생성 프레임워크. IA-Bench 벤치마크를 새로 제안했다.
Qwen-Image-Agent는 T2I 모델이 실제 요청에서 직면하는 context gap(사용자 맥락과 생성에 필요한 충분한 맥락 간 불일치)를 해결하기 위해, Context-Aware Planning과 Context Grounding을 통합한 에이전트 프레임워크다. Planning은 information/content/generation 3수준으로 동작하고, Grounding은 reason, search, memory, feedback 4개 소스에서 맥락을 수집한다. IA-Bench(4개 역량, 17개 과제, 730 인스턴스)에서 SOTA를 달성했으며, MindBench와 WISE-Verified에서도 기존 baseline을 능가했다.
- T2I 모델의 실세 과제 실패 원인을 'Context Gap'으로 정의하고, 이를 해결하는 에이전트 패러다임을 제안했다.
- Context-Aware Planning을 3단계(information-level, content-level, generation-level)로 계층화하여 맥락 부재 식별→수집→할당을 수행한다.
- Context Grounding은 reasoning, web/image search, memory, feedback 4개 채널에서 맥락을 수집한다.
- IA-Bench(Plan/Reason/Search/Memory 4개 역량, 17개 과제, 730 테스트 인스턴스, 1801개 체크리스트 항목)를 새로 구성했다.
- MLLM backbone 지능이 전체 시스템 성능에 결정적이며, backbone 교체 시 대부분의 메트릭에서 큰 저하가 발생한다.
- 이미지 검색 과용이 오히려 생성 품질을 저하함을 발견하고, generator 능력에 맞춘 검색 경계 설정이 중요함을 확인했다.
초록 PDF
502Machine LearningarXiv:2606.25971
Improving Neural Network Training by Decoupling the Magnitude and Direction of Weight Vectors
가중치 행렬의 크기(magnitude)와 방향(direction)을 분리해 업데이트하는 optimizer 개선. weight decay와 warmup 없이도 Adam/Muon baseline을 능가하며, large MoE에서 AdamW 대비 약 2배 효율적이다.
MD Decoupling은 각 가중치 행렬을 fixed-norm 방향과 학습 가능한 per-row/per-column magnitude gain으로 분해하고, 각각 다른 학습률로 업데이트하는 optimizer 수정이다. 방향은 hypersphere 상에 고정하고 magnitude gain을 별도로 학습하여, learning rate가 방향 변화를 직접 제어하게 한다. Adam과 Muon 모두에서 well-tuned baseline을 능가하며, 모델 폭이 변해도 최적 LR이 전이된다. large MoE 스케일에서 AdamW와 동일 loss에 약 2배 적은 compute로 도달한다.
- 가중치 magnitude-direction 간섭을 수학적으로 분석: 방향 변화는 현재 magnitude에 반비례하고, magnitude는 방향 학습의 부산물로 증가한다.
- optimizer 내부에서 가중치를 fixed-norm direction + learnable gains로 분해하므로 모델 구조 변경 없이 적용 가능하다.
- weight decay와 warmup이 불필요해지며, 이는 large-scale 학습 레시피를 크게 단순화한다.
- 모델 폭이 달라도 최적 learning rate가 전이되어 LR 재튜닝이 필요 없다 (µP와 유사하나 직접 얻어짐).
- large MoE 모델에서 MuonMD는 AdamW와 동일 loss에 약 2배 적은 compute로 도달한다.
- 방향을 sphere에 고정하는 것이 대부분의 개선을 가져오고, learnable gains가 추가적인 정확도 향상을 제공한다.
초록 PDF
501LLMs / NLParXiv:2606.25331
Improved Large Language Diffusion Models
완전 bidirectional attention의 masked diffusion 언어모델 iLLaDA(8B)를 12T 토큰으로 사전학습. 비자기회귀 모델이 자기회귀 모델(Qwen2.5 7B)과 여러 벤치마크에서 경쟁력을 보인다.
iLLaDA는 LLaDA를 개선한 8B fully bidirectional masked diffusion 언어모델로, 12T 토큰 사전학습과 25B 토큰 SFT(12 epoch)를 수행했다. grouped-query attention, tied embedding, 학습률 스케줄 개선, confidence-based scoring 등을 도입했다. BBH에서 21.6점, ARC-Challenge에서 14.9점 향상되었으며, MATH에서 14.5점, HumanEval에서 16.5점 개선되었다. Qwen2.5 7B Base와 평균에서 동등한 성능을 보였다.
- masked diffusion 언어모델을 12T 토큰까지 스케일업한 최초의 사례로, 8B 파라미터로 from-scratch 학습했다.
- grouped-query attention 도입으로 KV-cache 메모리를 줄이고 tied embedding으로 파라미터를 7.62B로 경량화했다.
- confidence-based scoring으로 다지선다 평가에서 likelihood 방식 대비 PIQA +1.3, ARC-C +0.6, HellaSwag +2.3 향상했다.
- SFT를 12 epoch까지 진행할수록 GSM8K, MATH, MMLU-Pro가 지속적 향상되어 diffusion LLM에서 data-reuse 효과를 확인했다.
- Base 모델 기준 MMLU 74.8, BBH 71.3, GSM8K 81.9로 Qwen2.5 7B(71.9/63.9/78.9)를 여러 벤치마크에서 능가했다.
- Instruct 모델은 RL 정렬이 없어도 MMLU-Redux 76.4, GSM8K 89.0으로 경쟁적이나, code/math에서는 여전히 Qwen2.5 Instruct에 뒤진다.
초록 PDF
500Computer VisionarXiv:2606.27377
DanceOPD: On-Policy Generative Field Distillation
단일 이미지 생성 모델에서 T2I, 로컬 편집, 글로벌 편집 역량을 통합하는 on-policy 증류 프레임워크. 각 샘플을 하나의 역량 필드로 라우팅하여 student 자신의 rollout 상태에서 감독한다.
DanceOPD는 flow-matching 이미지 생성 모델에서 T2I, 로컬 편집, 글로벌 편집의 충돌을 해결하기 위해 각 역량을 velocity field로 모델링하고 on-policy distillation로 통합한다. 핵심 설계는 hard-routed sample-wise field matching, student rollout 상태에서의 단일 쿼리, velocity MSE 손실이다. GEditBench에서 최고 OPD baseline 대비 8.1% 향상, local+global 편집 조합에서 16.1% 향상을 달성했다.
- T2I, 로컬 편집, 글로벌 편집의 충돌을 velocity field 관점에서 정식화하고 on-policy distillation로 해결한다.
- 샘플별로 정확히 하나의 역량 필드만 할당하는 hard routing으로 target-field 모호성을 제거한다.
- GEditBench에서 기존 OPD baseline 대비 8.1% 향상, T2I 소스와 동등한 GenEval 성능을 유지했다.
- local+global 편집 조합에서 최고 경쟁 baseline 대비 16.1%, local edit 소스 대비 7.9% 향상했다.
- realism field 흡수 시 off-policy distillation 대비 9.9% 향상, student-teacher reward gap의 85.3%를 달성했다.
- CFG(classifier-free guidance)도 동일한 velocity MSE 목표 하에 흡수 가능함을 보였다.
초록 PDF
499LLMs / NLParXiv:2606.24775
Are We Ready For An Agent-Native Memory System?
에이전트 메모리 시스템을 데이터 관리 관점에서 체계적으로 분해하고 12개 시스템을 5개 워크로드에서 평가한 연구. 단일 아키텍처가 모든 시나리오를 장악하지 못하며, 워크로드 특성에 맞는 메모리 구조 선택이 핵심이라는 것을 보여준다.
LLM 에이전트의 메모리 시스템을 표현/저장, 추출, 검색/라우팅, 유지보수 4개 핵심 모듈로 분해하고 12개 대표 시스템을 11개 데이터셋에서 평가했다. 대화형 QA에서는 복합 하이브리드 시스템이, 단일 홉 사실 질의에서는 그래프 기반이 강세를 보였으나 모든 영역을 독점하는 단일 아키텍처는 없었다. 지역적 메모리 유지보수가 전역 재조직보다 비용 효율적이며, 보수적 통합(conservative merge)이 최적의 유지보수 전략으로 확인되었다.
- 에이전트 메모리를 4개 모듈(표현/저장, 추출, 검색/라우팅, 유지보수)로 체계적으로 분해하는 분석 프레임워크를 제안했다.
- 12개 메모리 시스템 + 2개 베이스라인을 5개 워크로드(11개 데이터셋)에서 통일된 테스트베드로 평가했다.
- 단일 아키텍처가 만능이 아니다. 복합 하이브리드는 대화형 QA에, 그래프 기반은 사실 회상에 강하나 시간 추론에는 취약하다.
- 메모리 추출은 write-time에 context를 보존하는 것이 핵심이다. 가Happy한 추출보다 넓은 보존이 downstream reasoning에 유리하다.
- 보수적 통합(conservative merge)이 delayed flush나 과도한 요약보다 장기 안정성에서 우위를 보인다.
- 고구조화 시스템은 인덱스 구축 시간과 쿼리 지연에서 수십~수백 배의 비용을 치르나 비례하는 정확도 향상은 없다.
초록 PDF
497AI / GeneralarXiv:2606.25996
Autodata: An agentic data scientist to create high quality synthetic data
Autodata는 고품질 합성 데이터를 생성하는 agentic data scientist로 도구 사용, 데이터 큐레이션, 평가를 자동화한다.
Autodata는 AI 에이전트가 데이터 과학자로 작동하여 고품질 훈련 및 평가 데이터를 구축하는 일반적인 방법이다. 에이전트는 도구 사용, 데이터 큐레이션, 평가를 자동화하여 합성 데이터를 생성한다. 이 방법은 합성 데이터의 품질을 높이고 실제 데이터와 유사한 분포를 가진 데이터를 생성하는 데 유용하다. 다양한 도메인에서 적용 가능하며 데이터 부족 문제를 해결하는 데 기여한다.
- Autodata는 AI 에이전트가 데이터 과학자로 작동하여 고품질 훈련 및 평가 데이터를 구축하는 일반적인 방법이다
- 에이전트는 도구 사용, 데이터 큐레이션, 평가를 자동화하여 합성 데이터를 생성한다
초록 PDF
496Machine LearningarXiv:2606.24143
AsyncOPD: How Stale Can On-Policy Distillation Be?
비동기 On-Policy Distillation에서 오래된 데이터 문제를 체계적으로 연구하고 AsyncOPD 파이프라인으로 1.6배~3.8배 학습 처리량 향상을 달성한다.
AsyncOPD는 비동기 On-Policy Distillation(OPD)에서 오래된 데이터(stale data) 문제를 체계적으로 연구한다. KL 방향이 stale 데이터 문제를 바꾼다는 것을 보이고(teacher-weighted forward KL는 robust, student-weighted reverse KL는 취약), reverse-KL OPD에서 학습 시점에 advantage를 재계산하는 것이 가장 효과적임을 보인다. 오래된 sparse top-k는 지원 불일치 문제가 있고 one-sample MC는 correctable하지만 높은 분산을 가지므로 multi-sample MC를 제안한다. AsyncOPD 파이프라인은 Qwen3-Base 모델에서 1.6배~3.8배 학습 처리량 향상을 달성하면서 비슷한 정확도를 유지한다.
- AsyncOPD는 비동기 On-Policy Distillation(OPD)에서 오래된 데이터(stale data) 문제를 체계적으로 연구한다
- KL 방향이 stale 데이터 문제를 바꾼다는 것을 보이고(teacher-weighted forward KL는 robust, student-weighted reverse KL는 취약), reverse-KL OPD에서 학습 시점에 advantage를 재계산하는 것이 가장 효과적임을 보인다
초록 PDF
495Computer VisionarXiv:2606.23743
Sol Video Inference Engine: Agent-Native Full-Stack Acceleration Framework for Efficient Video Generation
Sol Video Inference Engine은 비디오 디퓨전 모델을 위한 에이전트 네이티브 훈련 없는 전체 스택 가속화 프레임워크로 2배 이상의 엔드투엔드 가속을 달성한다.
Sol Video Inference Engine은 캐싱, 희소 어텐션, 토큰 프루닝, 양자화, 커널 퓨전의 다섯 가지 기술을 에이전트 가속화 스택으로 조직한다. Cosmos3-Super(64B), LTX-2.3(22B), SANA-Video(2B) 세 가지 비디오 모델에 적용하여 VBench 품질을 거의 손실 없이 2배 이상의 엔드투엔드 가속을 달성한다. 인간 노력을 최소화하여 인스턴스별 최적화를 자동화한다.
- Sol Video Inference Engine은 캐싱, 희소 어텐션, 토큰 프루닝, 양자화, 커널 퓨전의 다섯 가지 기술을 에이전트 가속화 스택으로 조직한다
- Cosmos3-Super(64B), LTX-2.3(22B), SANA-Video(2B) 세 가지 비디오 모델에 적용하여 VBench 품질을 거의 손실 없이 2배 이상의 엔드투엔드 가속을 달성한다
초록 PDF