HDATF
한국어
도입 상담하기
메뉴

논문 아카이브

수록 논문과 요약을 번호가 큰 순서로 보여 줍니다.

수록 논문 1,193자료 갱신일 벤치마크RSS 구독
  1. 1045Computer VisionarXiv:2608.28549

    Video Generative Models as Geometry Learner

    사진 한 장에서 깊이와 표면 방향을 함께 뽑아내는 문제를, 이미 학습된 '영상 생성 AI'를 다음 프레임 예측으로 재활용해 적은 데이터로 푼 논문.

    이 논문은 한마디로 사진 한 장으로 3D 기하 정보(깊이+표면 법선)를 동시에 뽑는 새 방법 GeoNeXt를 제안한 것이다. 핵심 아이디어는 이미 대규모로 학습된 영상 생성 모델을 가져와, 원본 이미지의 '다음 프레임'에 깊이 맵과 법선 맵이 오는 것처럼 예측 문제를 다시 정의한 것이다. 적은 학습 데이터(Hypersim, Virtual KITTI 수준)로 가벼운 미세조정만 했는데도 기존 생성형 방법을 모두 앞질렀다. 심지어 100배 이상 많은 데이터로 학습한 판별식(정답을 맞히기만 하던) 최고 성능 모델과도 대등한 수준을 보였다.

    • 영상 생성 모델이 원래 갖고 있던 시간 일관성 지식을 그대로 물려받아, 깊이·법선을 이미지와 함께 한 번에 생성했다.
    • 약 100분의 1 수준의 학습 데이터로도 기존 최고 성능 판별 모델과 대등한 성능을 냈다.
    • 깊이·법선을 각각 따로 예측하던 기존 방식과 달리 하나의 모델로 통합해 체크포인트 저장과 계산 비용을 아꼈다.
    • 단 한 번의 예측으로 모든 생성형 기준선을 넘어섰고, 가벼운 앙상블(5×5, 10초)로 성능을 더 끌어올렸다.
    • 뽑아낸 3D 기하 정보로 이미지 재조명, 조절 가능한 이미지 생성, 3D 메쉬 복원 같은 응용이 가능해졌다.
    초록PDF
  2. 1044Computer VisionarXiv:2608.26872

    Self-OPD: On-Policy Distillation for Flow Matching Models without Teacher

    이미지 생성 모델을 원하는 목표에 맞추는 학습에서 비싼 '교사 모델'을 없애고, 학생 모델이 스스로 뻗어나간 시도를 보상으로 채점해 좋은 갈래는 당기고 나쁜 갈래는 밀어내는 Self-OPD를 제안한 논문.

    이 논문은 한마디로 '교사 없는 온폴리시 증류'로, 생성 모델이 자기 탐색의 결과를 스스로 채점해 학습 신호를 만드는 방법이다. 기존 온폴리시 증류(OPD)는 목표마다 전용 교사 모델을 미리 학습해야 해서 비싸고, 교사와 학생의 궤적이 어긋나면 오차가 쌓이는 문제가 있었다. Self-OPD는 매 시간 단계에서 학생의 예측을 K개의 확률적 갈래로 나눠 각각 이미지까지 굴리고, 확정적 자기 기준선과 보상을 비교해 우위를 계산한 뒤 좋은 갈래는 끌어당기고 나쁜 갈래는 밀어낸다. 그 결과 교사 3개 학습에 97시간 걸리던 파이프라인을 웜스타트 기준 약 44~48시간(약 2배 빠름)으로 줄이면서 OCR 0.946·GenEval 0.915로 성능은 오히려 더 높였고, 여러 목표도 보상 수준에서 합쳐 한 장의 이미지가 글자·구도·미감을 동시에 만족하게 했다.

    • 교사 모델이 아예 필요 없어, DiffusionOPD의 총 97시간(교사 학습 85.8h + 증류 11.3h) 대비 웜스타트 구성으로 약 44~48시간에 도달해 2배 가까이 빨라졌다.
    • K개 확률적 갈래 + 자기 기준선으로 매 스텝 밀도 높은 학습 신호를 얻어, 종료 보상만 쓰는 강화학습(Flow-GRPO류)의 높은 분산 문제를 피했다.
    • 좋은 갈래만 따라가는 Best-of-K는 학습이 불안정했고, 전 갈래 풀-푸시 + KL 정규화가 안정 수렴의 핵심이었다(제한 없는 반발 항은 성능 붕괴 0.768 유발).
    • 여러 목표(글자·구도·미감)를 보상 수준에서 합쳐 그래디언트 충돌 없이 한 이미지가 동시에 만족하게 했다(선호 점수 하락 폭 0.48 vs 교사 방식 1.23).
    초록PDF
  3. 1043AI / GeneralarXiv:2608.26081

    SwarmWorld: Stigmergic technological evolution in societies of language-model agents

    역할·레시피 없이 풀어놓은 LLM 에이전트 무리가 공유 세계에 남긴 흔적(스티머지)을 통해 기술을 누적 진화시키고, 각자 따로 탐색할 때보다 더 넓고 튼튼한 기술 포트폴리오를 만든다는 것을 입증한 논문.

    이 논문은 한마디로 '에이전트들이 직접 대화하지 않아도, 공유하는 세계에 만들어 둔 유물이 다음 에이전트의 출발점이 되며 기술이 저절로 누적된다'는 것을 보인 연구다. SwarmWorld 시뮬레이터에서 처음에 똑같은 LLM 에이전트 50~200마리가 역할 없이 돌아다니며 재료를 시험하고, 실행 가능한 제어 프로그램을 담은 유물(아티팩트)을 짓는다. 에이전트를 전부 치운 뒤 예고 없는 교란을 8가지 가해 유물을 평가하니, 함께 산 세계가 같은 계산량을 각자 쓴 best-of-N 탐색보다 더 폭넓고 회복력 있는 기술 모음과 더 많은 검증 발명을 남겼다. 다만 가장 강한 단일 유물 하나만 따지면 각자 탐색도 여전히 경쟁력이 있었고, 문화 장치의 이득은 평가 항목과 시간에 따라 달라졌다.

    • 역할·레시피·중앙 통제가 전혀 없는데도 똑같은 에이전트들이 탐험·건설·유지·조정 행동으로 저절로 분화했다(행동 특징 15개로 군집화해 확인).
    • 에이전트를 모두 제거한 뒤 8가지 예고 없는 교란으로 채점하는 구조를 만들어, LLM의 자기 주장이 아니라 시뮬레이터가 판정하는 객관 기능을 측정했다.
    • 공유 세계가 각자 탐색 대비 검증 발명 수 +1.2~+6.0개, 회복력 지표도 일관되게 앞섰다(시드 4개 짝비교).
    • 기술 재사용은 채팅이 아니라 남이 만든 유물을 몸소 관찰하는 데서 시작되는 경우가 가장 많았다.
    • 가르치기(TEACH) 같은 명시적 문화 장치는 협업과 조직을 키우지만, 기능 이득은 평가 항목과 시간대에 따라 들쭉날쭉해 만능이 아니었다.
    초록PDF
  4. 1042Machine LearningarXiv:2608.27351

    Understanding Evolution Strategies for LLM Reasoning: Broader Reasoning Coverage than GRPO

    진화 전략(ES)이 GRPO보다 메모리 효율만 좋은 게 아니라, 답 다양성을 지키며 Pass@K까지 높이는 별개의 추론 학습 패러다임임을 보인 분석 논문.

    이 논문은 한마디로 진화 전략(Evolution Strategies, ES)이 LLM 추론 학습에서 GRPO와 어떻게 다른지 파헤친 분석 논문이다. ES는 역전파 없이 파라미터를 무작위로 흔들어 보고 좋았던 방향으로 업데이트하는 방식이라 메모리를 적게 쓴다. 연구진은 ES가 GRPO처럼 탐색이 한쪽으로 쏠리는 엔트로피 붕괴 없이 Pass@1과 Pass@K를 동시에 높인다는 걸 이론·실험으로 보였다. 또 파라미터가 크게 움직여도 재앙적 망각이 필수는 아니며, 모델이 클수록 적은 개체수로도 학습이 된다는 실용 지침도 얻었다.

    • ES가 GRPO와 달리 엔트로피 붕괴(탐색 다양성 소멸) 없이 Pass@1과 Pass@K를 함께 높여 추론 답 다양성을 지킴을 보였다.
    • GRPO로 먼저 학습하고 ES로 마무리하는 순차 조합이 두 방법의 강점을 결합했다.
    • 성능 향상은 큰 폭 업데이트 일부(주로 정규화·어텐션 파라미터)에 집중돼 있어, 파라미터가 크게 움직여도 기능 변화는 드물다는 걸 보였다.
    • 홀드아웃 평가에서 ES는 기존 능력을 대체로 유지해, 큰 파라미터 이동 자체가 재앙적 망각을 유발하지 않는다는 반례를 제시했다.
    • z-점수 보상 정규화가 필수이고, 모델이 클수록 개체수 N=16만으로도 N=64에 근접했다.
    초록PDF
  5. 1041Computer VisionarXiv:2608.27226

    DINOcular: Self-Supervised Visuospatial Representations

    RGB 영상에 깊이 센서 정보를 함께 넣어 3D 공간 감각까지 갖춘 시각 표현을 자기지도학습으로 만든 프레임워크.

    이 논문은 한마디로 RGB 영상과 깊이(Depth) 정보를 같이 보고 3D 공간 감각이 있는 시각 표현을 배우는 DINOcular 프레임워크다. 요즘 시각 기반모델은 RGB만 배워서 3D 이해가 약한데, 깊이를 위치 인코딩의 세 번째 축으로 넣어(3D 확장 RoPE) 기하 정보가 특징 자체에 스미게 했다. 3D 대응점 찾기·자세 추정 같은 기하 과제에서 같은 규모 기존 모델을 이겼고, 시맨틱 분할에서도 뒤처지지 않았다. 작은 모델이 3배 큰 DINO ViT-B보다 나은 경우도 있었다.

    • 깊이를 로터리 위치 인코딩(RoPE)의 세 번째 축으로 넣어 기하 정보가 특징 표현에 자연스럽게 들어가게 했다.
    • 자기지도학습(라벨 없는 학습) 방식으로 RGB-D 영상에서 외관과 공간 구조를 함께 담은 표현을 배웠다.
    • 3D 대응점 찾기(NAVI·ScanNet)에서 같은 규모 기존 모델을 이겼고, ScanNet에서는 DINOv3 ViT-B보다도 높았다.
    • 3D 자세 추정에서 대형 모델(DINOcular-L)이 모든 baseline을 이기는 구간이 있었다.
    • 3D 이해를 높이는 대신 시맨틱 성능이 소폭 희생되는 트레이드오프를 확인했다.
    초록PDF
  6. 1040LLMs / NLParXiv:2608.27370

    Puro-2B: Poor Lab's Qwen2-1.5B Trained on RTX 5090 within $5090

    게이밍용 그래픽카드(RTX 5090)로 약 6,900달러만 써서 Qwen2-1.5B급 2B 모델을 처음부터 학습시킨 저비용 사전학습 완전 공개 레시피.

    이 논문은 한마디로 가성비 그래픽카드만으로 5천 달러대 비용에 2B 규모 언어모델을 처음부터 학습시키는 완전 공개 레시피다. 소규모 연구실도 못 쓰는 사전학습 비용(3B 학습에 수십만~150만 달러)이 문제라, 이 팀은 RTX 5090 클러스터와 FP8 저정밀 학습, 하이퍼볼 최적화, 커리큘럼 모델 평균 등을 조합해 비용을 6,900달러로 낮췄다. 1.4조 토큰으로 학습한 최종 모델은 15개 벤치마크 평균에서 Qwen2-1.5B를 넘고 Qwen2.5-1.5B에 근접했다. 가중치·데이터·코드를 전부 Apache 2.0으로 공개해 재현 가능성을 높였다.

    • 소비자용 RTX 5090 클러스터에서 FP8 저정밀 학습으로 2B 모델 사전학습 비용을 약 6,900달러로 낮췄다.
    • 1.4조 토큰·22,514 GPU시간·17.6일 학습으로 Qwen2-1.5B 성능을 넘고 Qwen2.5-1.5B에 근접했다.
    • 학습 비용-성능 관계를 맞춘 'Puro 비용 스케일링 법칙'을 제시했고, 약 4,400달러면 Qwen2-1.5B급에 도달한다고 추정했다.
    • 하드웨어 선택, 저정밀 학습, 하이퍼볼 최적화, 커리큘럼 모델 평균, 데이터 레시피의 다섯 요소가 비용 효율을 만들었다.
    • 가중치 10종, 데이터 매니페스트, 학습·전처리 코드를 Apache 2.0으로 전부 공개했다.
    초록PDF
  7. 1039RoboticsarXiv:2608.15917

    Pre-training Visual Dexterity in Simulation

    VR 시뮬레이터 안에서 사람이 로봇 손을 조종해 75시간 데이터를 모아 사전학습하고, 실제 로봇은 데모 1~2시간만으로 완성하는 방법.

    이 논문은 한마디로 로봇 장비 없이 VR 시뮬레이션에서만 75시간 데이터를 모아 사전학습하고, 실제로는 데모 1~2시간 만으로 정교한 손 로봇을 가르치는 방법(SPD)이다. 다포수(손가락 많은) 로봇 손은 실제 데이터 수집이 비싸고 깨지기 쉬운데, VR 안이라면 빠른 리셋과 병렬 작업으로 저렴하게 쌓을 수 있다. 5명이 일주일간 모은 75시간 데이터로 정책을 사전학습한 뒤, 56자유도 양팔 손 로봇에서 파인튜닝했다. 접시 정리·젠가 등 5개 실과제 전부에서 처음부터 학습한 것보다 나았다.

    • VR 시뮬레이션 텔레오퍼레이션으로 실제 로봇 없이 일주일 만에 75시간·약 2000 에피소드의 손 조작 데이터를 모았다.
    • 사전학습 후 실제 데모 1~2시간 파인튜닝만으로 5개 실과제 모두에서 처음부터 학습보다 나은 성적을 냈다.
    • 과거 관찰 기록(히스토리)을 보게 하고 행동 조각을 짧게(8스텝) 끊는 설정이 반응성과 일관성을 동시에 잡았다.
    • 히스토리+짧은 행동 조각 구성이 사전학습 덕을 가장 많이 봐서 처음부터 학습 대비 평균 18포인트 올랐다.
    • 데이터셋(spd-75h)과 VR 수집 소프트웨어(spd-vr), 튜닝된 6개 씬을 공개했다.
    초록PDF
  8. 1038AI / GeneralarXiv:2608.27454

    WikiSkill: Compiling Agent Experience into Persistent Knowledge for Skill Evolution

    에이전트가 겪은 경험을 '위키'라는 영구 지식창고에 쌓아두고, 그 지식 위에서 스킬을 계속 진화시키는 구글의 프레임워크.

    이 논문은 한마디로 에이전트의 실행 경험을 위키(영구 지식창고)에 쌓아서 스킬을 점점 좋게 만드는 WikiSkill 프레임워크다. 작업 공간을 원시 기록(Raw)·위키(Wiki)·스킬(Skill) 세 층으로 나누고, 매 반복마다 성공/실패 기록의 원인을 위키에 정리한 뒤 그 지식을 근거로 스킬을 수정한다. 검증 점수가 오르는 수정만 채택하는 규칙 덕에 성능이 나빠지지 않으면서 지식은 계속 쌓인다. 5개 벤치마크·5개 모델에서 기존 스킬 진화 방법(EvoSkill, SkillOpt)을 이겼고, 작은 모델이 스킬을 얹으면 3배 큰 모델을 이기기도 했다.

    • 실행 기록·지식·스킬을 세 층으로 분리하고, 위키층은 절대 초기화하지 않고 계속 쌓는 구조를 만들었다.
    • 검증 성적이 오르는 스킬 수정만 채택하고 나빠지면 되돌리는 게이팅으로 안정적으로 진화시켰다.
    • 5개 벤치마크(수학·검색·스프레드시트·문서QA·가정환경 과제)·5개 모델에서 기존 스킬 진화 방법을 일관되게 이겼다.
    • 모델이 클수록 스킬 진화 효과가 커져서, Qwen 계열에서 4B/9B/27B가 각각 평균 +12.3/+17.5/+23.9% 올랐다.
    • 9B 모델+WikiSkill(47.4%)이 스킬 없는 27B 모델(39.4%)을 이겼고, 남이 진화한 스킬이 자기 스킬보다 나은 경우도 있었다.
    • 위키를 없애는 절임 실험에서 성능이 떨어져, 지식 축적이 효과의 핵심임을 확인했다.
    초록PDF
  9. 1037RoboticsarXiv:2608.27406

    CLAP: Cross-Embodiment Video World Models are Zero-Shot Physical Simulators

    사람과 여러 로봇의 영상을 통째로 배워 물리 법칙을 이해하는 크로스바디 영상 월드모델 프레임워크. 제로샷 실과제 일반화를 보였다.

    이 논문은 한마디로 서로 다른 로봇과 사람의 영상을 함께 배우는 크로스바디 영상 월드모델 CLAP을 제안했다. 물리 법칙은 행위자와 무관하다는 관점에서, 엔드이펙터(로봇 손끝) 좌표, 자연어, 잠재 행동이라는 세 가지 행동 표현을 통일해 인터넷 규모 영상에 학습한다. 라벨 없는 영상으로 잠재 행동을 먼저 배우고 엔드이펙터 행동으로 정밀화하는 커리큘럼 학습으로 제로샷 실과제 배치까지 이어진다. 단일 바디 SOTA에 근접하거나 능가했고, 월드모델 안에서 계획과 RL 파인튜닝으로 π0.5, MolmoAct-2 같은 최신 정책의 실과제 성공률을 올렸다.

    • 서로 다른 로봇 플랫폼과 사람 영상을 한 모델에 함께 학습시키는 크로스바디 월드모델 프레임워크를 만들었다.
    • 엔드이펙터 좌표, 자연어, 잠재 행동 표현으로 서로 다른 행동 공간을 통일했다.
    • 라벨 없는 영상(잠재 행동)에서 엔드이펙터 행동으로 이어지는 커리큘럼 학습으로 제로샷 배치를 가능하게 했다.
    • DROID 등 도전 환경에서 단일 바디 SOTA에 근접하거나 능가했고, 소수 샘플 적응으로 격차를 더 벌렸다.
    • 월드모델 내 추론 시 계획과 RL 파인튜닝으로 π0.5, MolmoAct-2 실과제 성공률을 높였다.
    초록PDF
  10. 1036AI / GeneralarXiv:2608.25198

    Tunable Tool-Call Rates in LLM Agents via Representation Steering

    LLM이 도구를 호출할지 말지를 모델 내부 표현에 선형 방향 벡터 하나를 더해 실시간으로 조절하는 기법. 학습·프롬프트 변경 없이 QA 정확도를 거의 2배 올렸다.

    이 논문은 한마디로 도구를 쓸지 말지 결정을 모델 잔차 스트림(내부 표현 공간)의 단일 선형 방향으로 조종할 수 있음을 보인 연구다. 저자들은 도구 호출 선호 신호에서 평균차 방향을 뽑아내고, 추론 시 이 방향을 세기 α로 더하면 호출률이 0% 근처에서 90% 넘게까지 단조적으로 움직인다. 방향을 올리면 모델이 스스로 못 답하는 질문에 정확히 검색을 부르고, 내리면 불필요한 계산기 호출을 없앤다. 실제 도구 실행 환경에서 비용-정확도 파레토 프론티어를 그리며 오픈도메인 QA 정확도를 0.29에서 0.56으로 거의 두 배 올렸고, dense·MoE·멀티모달 모델 전반으로 전이됐다.

    • 도구 호출 여부를 결정하는 선형 방향을 학습 없이 모델 자체 신호에서 뽑아냈다.
    • 방향 강도를 조절하면 호출률이 0% 근처에서 90% 이상까지 단조적으로 움직인다(호출 형식은 그대로 정상).
    • 방향을 올리면 모델이 스스로 못 답하는 질문에 정확히 도구를 부르고, 내리면 불필요한 호출을 줄인다.
    • 안 본 도구에도 전이되고, 어느 도구를 고르는지(선택)와 호출할지(결정)가 서로 다른 방향으로 분리돼 있다.
    • 실 실행 환경에서 QA 정확도를 0.29에서 0.56으로 올렸고 dense·MoE·멀티모달 모델까지 같은 레시피가 통했다.
    초록PDF
  11. 1035ResearcharXiv:2608.27349

    High-Temperature Superconductivity of the Fe-Se-H compound

    우크라이나 팀이 수소 열확산으로 만든 Fe-Se-H 분말에서 상온 초전도 증거(EPR 흡수 곡선)를 주장한 실험 논문.

    이 논문은 한마디로 FeSe 결정에 수소를 열확산시켜 만든 Fe-Se-H 분말이 상온(295K)에서도 초전도 상태를 보인다고 주장하는 실험 보고다. 저자들은 EPR 분광기로 3.6K부터 295K까지 자기장에 따른 마이크로파 흡수를 측정했다. 상온에서도 단결정 초전도체와 비슷한 U자형 비선형 곡선이 나타났고, 이를 2종 초전도체의 혼합 상태에서 와동(소용돌이) 밀도가 변하는 것으로 해석했다. 다만 전기저항 같은 직접 측정이 아닌 간접 신호 해석이고, 상온 상압 초전도라는 초대형 주장이라 독립 재현 검증이 반드시 필요하다.

    • 임계온도 8K인 FeSe 단결정에 180도·5기압의 수소를 10시간 열확산시켜 Fe-Se-H 분말을 만들었다.
    • EPR 분광기로 3.6~25K와 295K에서 6000Oe까지 자기장에 따른 마이크로파 흡수를 측정했다.
    • U자형 비선형 흡수와 준주기 신호를 2종 초전도체의 혼합 상태와 아브리코소프 와동이 나타난 증거로 해석했다.
    • 저자들은 이 신호를 근거로 정상 압력의 295K에서도 초전도가 존재한다고 주장해 상온 초전도 가능성을 제시했다.
    • 다만 전기저항이나 자화의 직접 전이 측정이 아니라 EPR 신호 해석에 의존하므로 독립적인 재현과 교차 검증이 반드시 필요하다.
    초록PDF
  12. 1034RoboticsarXiv:2608.26545

    Memory Anchors for Continual Robot Learning

    로봇 연속학습에서 리플레이 버퍼 안의 소수 핵심 데이터(메모리 앵커)가 망각 방지를 좌우한다는 발견과 이를 활용한 알고리즘(ANCHORER).

    이 논문은 한마디로 로봇이 새 과제를 배울 때 옛 과제를 잊는 문제가 리플레이 버퍼(옛 데이터를 다시 섞어 학습하는 장치) 안 소수의 핵심 기억에 크게 좌우된다는 걸 보인 연구다. 저자들은 새 과제 관측이 옛 과제 관측과 표현이 겹치면서도 행동은 충돌하는 영역을 찾아, 그 충돌 영역과 가장 비슷한 옛 데이터를 메모리 앵커로 정의했다. 상위 10% 앵커만 빼도 망각이 4.5배 늘고, 반대로 버퍼의 10%를 앵커로 채우면 충돌 과제 망각이 63% 줄었다. 실제 로봇 연속학습에서도 무작위 버퍼 대비 총 성공률 1.7배를 달성했다.

    • 리플레이 버퍼의 모든 데이터가 똑같이 중요한 게 아니라, 충돌 영역의 소수 데이터가 망각 방지를 좌우함을 발견했다.
    • 정책 잠재공간에서 관측은 겹치는데 행동이 충돌하는 영역을 찾아 메모리 앵커를 뽑는 3단계 절차를 만들었다.
    • 상위 10% 앵커만 제외해도 LIBERO 벤치마크에서 망각이 4.5배 증가했다.
    • 버퍼 10%를 앵커로 채우는 ANCHORER는 충돌 과제 망각을 63% 줄였다.
    • 실제 로봇 두 과제 시퀀스 연속학습에서 무작위 버퍼 대비 총 성공률 1.7배를 냈다.
    초록PDF
  13. 1033RoboticsarXiv:2608.23831

    Learning to Act While Waiting: RL Finetuning of Generalist Robot Policies Under Inference Latency

    로봇 정책을 RL로 미세조정할 때 추론 지연 때문에 생기는 비마르코프 문제를, 확정된 행동과 추론 중간 관측을 상태에 넣어 해결한 프레임워크(ARLI).

    이 논문은 한마디로 VLA 같은 큰 로봇 정책을 실제 지연 환경에서도 RL로 개선할 수 있게 만든 ARLI 프레임워크다. 큰 모델은 동작 하나 뽑는 데 100~300ms 걸려서, 비동기 추론과 RL을 섞으면 마르코프 가정(다음 상태가 현재 상태·행동만으로 결정된다는 가정)이 깨져 학습이 아예 실패한다. ARLI는 이미 확정된 행동과 추론 중간 시점의 관측을 상태에 추가해 근사 마르코프 구조를 복원하고, 저지연 RL 정책이 추론 창 안에서 반응성을 최대화하게 설계했다. 시뮬레이션과 실제 양팔 로봇(UR5e) 과제에서 표준 RL이 완전히 실패하는 지연 조건에서도 학습이 되고, 지연 없는 이상 환경의 표준 RL과 동등 이상 성능을 냈다.

    • VLA의 추론 지연(100~300ms)이 환경 다이내믹스를 바꿔 RL의 마르코프 가정을 깬다는 실패 원인을 규명했다.
    • 확정된 행동과 추론 중간 관측을 상태에 넣는 증강으로 근사 마르코프 구조를 복원했다.
    • 표준 RL이 완전히 실패하는 지연 조건에서도 안정적인 파인튜닝을 가능하게 했다.
    • 지연 없는 이상 조건의 표준 RL 성능과 동등하거나 그 이상을 냈다.
    • 실제 양팔 UR5e 로봇 3개 과제에서 비동기 추론 하의 실세계 개선을 입증했다.
    초록PDF
  14. 1032RoboticsarXiv:2608.27384

    FlashVLA: Streaming Action Decoding for Fast and Asynchronous VLA Inference

    로봇 VLA 모델의 동작 디코딩을 스트리밍 방식으로 바꿔 매번 추론마다 실행 가능한 동작을 계속 뽑아내게 한 기법. 단일 GPU에서 30Hz 제어를 달성했다.

    이 논문은 한마디로 로봇 제어 모델(VLA)의 느린 동작 생성을 스트리밍 디코딩으로 바꿔 속도와 부드러움을 동시에 잡은 FlashVLA다. 기존 flow-matching VLA는 동작 덩어리 하나를 만들 때마다 순차 디노이징(잡음 제거) 10번을 반복해 추론 시간의 75%를 여기에 쓴다. FlashVLA는 서로 다른 잡음 단계의 동작 덩어리 여러 개를 버퍼에 두고 한 번의 순전파로 모두 한 단계씩 진행시켜, 매 스텝 실행 가능한 덩어리 하나를 뱉는다. 덩어리 간 인과 어텐션으로 미래 동작이 현재 궤적에 암묵적으로 맞춰져 비동기 실행도 매끄럽다. π0.5 대비 최대 2.43배 빠르고 30Hz 이상 제어를 유지하며 과제 성공률은 유지·향상됐다.

    • π0.5 프로파일링으로 동작 디코딩이 스텝당 추론 시간의 75%를 잡아먹는다는 사실부터 확인했다.
    • 잡음 단계가 엇갈린 동작 덩어리 버퍼를 두고 한 번의 순전파로 전부 한 단계씩 디노이징하는 스트리밍 구조를 만들었다.
    • 스텝당 동작 디코딩 지연이 최대 20배 줄었고 전체 파이프라인은 최대 2.43배 빨라졌다.
    • 덩어리 간 인과 어텐션 덕에 별도 미래상태 예측기 없이도 비동기 실행의 시간 불일치가 사라졌다.
    • LIBERO·RoboTwin 2.0·실제 Franka 실험에서 π0.5 성능을 유지·향상하며 단일 GPU 30Hz 이상 제어를 달성했다.
    초록PDF
  15. 1031AI / GeneralarXiv:2608.26088

    Planetary Prediction Engine: Autonomous Geospatial Prediction via Intelligent Data Selection and Foundation Model Embeddings

    구글이 자연어 질문만 넣으면 지구 관측 데이터를 스스로 찾아 합쳐서 예측 모델까지 만드는 지리공간 자율 에이전트를 발표했다.

    이 논문은 한마디로 자연어 질문 하나로 지리공간 예측 모델을 끝까지 만드는 자율 AI 시스템 PPE를 소개한다. 데이터 선택, 데이터 정제, AutoML 3단계를 LLM 오케스트레이터가 진행하고, 공개 데이터 플랫폼에서 공변량(예측에 도움되는 변수)을 가져와 지리공간 파운데이션 모델(PDFM, AlphaEarth) 임베딩과 융합한다. 미국 건강지표 21개 평균 R² 76.8%(전문가 베이스라인 60.0%), 나이지리아 식량안보 지표 R² 66.1%(기존 31.5%), 콩고 에볼라 유행 예측 Recall@10 83.3%(기존 SOTA 대비 +10.3%p) 등 수제 전문가 모델을 능가했다.

    • 자연어 질문만으로 700단계가 넘는 지리공간 예측 파이프라인을 데이터 발굴부터 모델 선택까지 자동화했다.
    • 지리공간 파운데이션 모델 임베딩과 실시간 수집 공변량을 융합해 예측 특징을 만든다.
    • 미국 CDC 건강지표 21개 평균 R²를 60.0%에서 76.8%로, 전문가 베이스라인을 크게 앞질렀다.
    • 2026 콩고 에볼라 유행 예측에서 5주 연속 예보로 신규 침입 보건구 18곳 중 15곳을 미리 짚어냈다(Recall@10 83.3%).
    • 타깃 누출 방지와 과적합 가드 같은 검증 장치를 에이전트 루프 안에 내장했다.
    초록PDF
  16. 1030LLMs / NLParXiv:2608.27448

    TTPO: Test-Time Policy Optimization

    정답 라벨 없이 다수결 가짜 정답만으로 테스트타임 학습을 하는 방법. 동의한 롤아웃은 증류, 반대한 롤아웃은 페널티로 나눠 처리해 노이즈에 강하다.

    이 논문은 한마디로 정답 없이 모델 스스로 뽑은 다수결 가짜 정답만으로 수학 추론 실력을 올리는 학습법 TTPO를 제안했다. 경쟁급 난제에서는 가짜 정답의 85%가 틀리지만, 가짜 정답에 반대표를 던진 롤아웃(답변 후보)도 약 79%는 실제로 틀렸다는 비대칭성을 이용한다. 그래서 가짜 정답에 동의한 롤아웃은 증류로, 반대한 롤아웃은 그룹 RL 페널티로 갈라서 처리한다. 라벨 없이도 라벨 학습과 동등한 성능을 냈고, 순수 테스트타임 학습에서 Qwen3-1.7B를 38.0%에서 45.2%로 올렸다.

    • 경쟁급 난제에서 가짜 정답이 85% 틀려도, 반대한 롤아웃의 79%는 실제로 틀렸다는 비대칭 구조를 발견했다.
    • 이 비대칭을 이용해 동의 롤아웃은 증류, 반대 롤아웃은 그룹 RL 페널티로 처리하는 TTPO를 만들었다.
    • 라벨 전혀 없이 5개 경쟁급 벤치마크에서 라벨 기반 학습(OPSD)과 동등 이상 성능을 냈다.
    • 순수 테스트타임 학습 설정에서 Qwen3-1.7B 정확도를 38.0%에서 45.2%로 올렸다.
    • 사고모드(긴 추론) 없이도 25.2~36.4%p 오르고, 한 벤치마크 학습이 다른 벤치마크로 일반화됐다.
    초록PDF
  17. 1029Computer VisionarXiv:2608.27395

    LeVJEPA: Efficient & Scalable Video Pretraining without the Heuristics

    타깃 인코더·프레딕터 같은 부속 장치 없이 단일 인코더로 학습하는 영상 사전학습 방법. V-JEPA 2 대비 최대 20.8배 적은 연산으로 같거나 더 좋은 성능을 낸다.

    이 논문은 한마디로 영상 사전학습을 붕괴 방지용 잔가지 장치 없이 단일 인코더와 단일 손실로 할 수 있게 만든 LeVJEPA를 제안했다. 표현 붕괴(모든 입력이 같은 값으로 수렴하는 문제)를 막는 SIGReg 정규화가 수학적 보장을 주기 때문에 별도 장치가 필요 없다. 토큰 95%를 무작위로 버리는데 오히려 정확도가 올라가, 같은 데이터에서 V-JEPA 2 대비 5.6~20.8배 적은 연산으로 동등 이상 성능을 냈다. 프레임 단위 인과 어텐션(과거만 보고 현재를 계산)으로 학습해 스트리밍 추론에도 그대로 쓸 수 있다.

    • EMA 타깃 인코더, 스톱그래디언트, 프레딕터 없이 단일 인코더만으로 영상 표현 학습을 해냈다.
    • 토큰 95%를 무작위로 버렸더니 ImageNet 정확도가 33.9%에서 47.6%로 오히려 올라갔다.
    • 동일 데이터·동일 에포크에서 V-JEPA 2 대비 총 사전학습 연산 5.6~20.8배를 절약하며 성능 동등 이상을 달성했다.
    • 같은 연산 예산에서는 최강 영상 베이스라인보다 ImageNet-1K에서 7.6점 앞섰다.
    • 블록-인과 어텐션으로 학습해 새 프레임이 오면 일정한 비용으로 표현을 확장할 수 있다(스트리밍·월드모델 친화적).
    초록PDF
  18. 1028LLMs / NLParXiv:2608.26070

    Prefix Sliding for efficient test-time scaling

    LLM이 길게 생각할 때 프리픽스(지시문)와 최근 몇천 토큰만 남기고 중간 추론 토큰을 버려, 학습 없이 3배 빠르게 만드는 기법.

    이 논문은 한마디로 추론 중간의 토큰 대부분은 곧 쓸모가 없어진다는 관찰에서 출발해 Prefix Sliding을 제안했다. 전체 추론 흔적을 메모리에 두는 풀 어텐션(전체 토큰을 다 보는 방식)은 길어질수록 토큰당 비용이 커지는데, 프리픽스와 최근 윈도우만 보면 비용이 일정해진다. 학습 없이 기존 모델에서 성능 유지와 3배 속도를 얻었고, RL 학습과 결합하면 10만 토큰이 넘는 초장문 추론 트레이스로 학습할 수 있다. 중간 토큰을 요약하거나 단순 슬라이딩 윈도우만 쓰는 방법보다 낫다는 것도 확인했다.

    • 어텐션 분석으로 중간 추론 토큰은 빠르게 중요도를 잃고 프리픽스와 최근 토큰만 중요하다는 사실을 보였다.
    • 학습 없이 기존 모델(Qwen3)에 적용해 성능 유지와 3배 빠른 추론을 달성했다.
    • RL 학습과 결합해 10만 토큰을 넘는 추론으로 학습할 수 있게 해, 긴 롤아웃을 버리던 문제를 해결했다.
    • 중간 토큰 요약이나 단순 슬라이딩 윈도우 같은 대안보다 성능과 속도 모두 우위를 확인했다.
    • 코딩 벤치마크(LiveCodeBench)처럼 초반 코드를 오래 기억해야 하는 과제는 큰 윈도우(16384)가 필요하다는 한계도 밝혔다.
    초록PDF
  19. 1027AI / GeneralarXiv:2608.26701

    Accelerating Scientific Research with Gemini in the Real-World

    구글 딥마인드가 멀티에이전트 연구 시스템 Co-Scientist를 '가상 아이디어 생성'에서 '실제 실험 실행까지 하는 연구 파트너'로 확장해 재료·생물·컴퓨터과학 세 분야에서 실증한 논문.

    이 논문은 한마디로 Gemini 기반 멀티에이전트 시스템 Co-Scientist를 실험실 실험까지 수행하는 실행 기반 연구 파트너로 확장하고 실제로 검증했다. 가설 생성에서 실험, 논문 작성까지 폐쇄 루프(닫힌 순환)로 돌아가고, 도메인마다 사람이 개입할 수준을 다르게 조절한다. 재료과학에서는 CVD 장비(박막 합성 장치)와 연동해 한 번의 시도로 단층 반도체(MoS2, MoSe2, WS2) 성장에 성공했고, 생물학에서는 대장균 군집 형태 예측기를, CS에서는 의료 응답 에이전트를 자율 설계해 프런티어 모델 6개를 능가했다. 30명 전문가의 450회 이중맹검 검토에서 환각(없는 사실 만들기)과 표절이 줄어드는 것도 확인했다.

    • CVD 합성 장비와 연동해 무해한 전구체로 MXene 합성 경로를 설계했고, 단층 MoS2·MoSe2·WS2를 한 번의 시도로 성장시켰다.
    • 대장균 군집 형태 예측 에이전트를 만들어 미공개 웻랩(습식실험) 측정값과 정량적으로 일치하는 결과를 냈다.
    • 의료 응답 에이전트를 완전 자율 설계해 HealthBench Hard/Professional에서 프런티어 모델 6개를 능가했다.
    • 30명 전문가·450회 이중맹검 검토로 생성 논문의 환각과 표절을 줄이는 신뢰성 모듈의 효과를 입증했다.
    • 도메인별로 인간-AI 협업 수준을 조절하는 적응형 자율성이 폐쇄 루프 연구의 핵심 설계 축임을 보였다.
    초록PDF
  20. 1026Computer VisionarXiv:2608.25559

    AdaVDR: Adaptive Tool Use and Reflection for Video Deep Research

    영상 딥리서치 에이전트가 '필요한 도구만, 필요할 때만' 쓰고 불안한 중간 결과만 되돌아가게 만든 논문. 도구 호출을 줄이면서 정확도는 유지·향상.

    이 논문은 한마디로 영상 기반 심층 질의응답 에이전트가 도구를 낭비 없이 쓰게 만든다. 질문·영상 유형마다 필요한 도구(시간·공간 그라운딩, 이미지·웹 검색)가 다른데, 기존엔 정해진 워크플로우를 다 돌려 비용과 오류가 쌓였다. AdaVDR은 모델이 스스로 할 수 있는 일은 도구를 건너뛰고, 중간 결과가 불안할 때만 되돌아가서 다시 확인한다. 학습 데이터도 '모델이 직접 답할 수 있는 도구 호출은 제거'하는 필터로 정제했고, SFT 후 중복 페널티 RL로 다듬었다. 결과적으로 도구 호출 수를 줄이면서 정확도를 유지·향상했다.

    • 질문·영상 유형별로 최적 도구 조합이 다름을 문제 삼고, 모델이 자기 능력과 내부 지식을 보고 도구 호출을 건너뛰게 했다.
    • 대상 모델이 도구 없이도 답할 수 있는 호출을 학습 궤적에서 제거하는 '모델 조건부 도구 필요성 필터링'을 제안했다.
    • 엔티티·이벤트 중심 질문 250개, 7개 도메인을 아우르는 VDR-EE 벤치마크와 학습 데이터를 구축해 공개했다.
    • 평가한 오픈소스 모델 중 최고 성능을 냈고, VideoDR에서도 베이스 대비 큰 향상을 보였다.
    • 중복 인지 보상 RL로 정확도(51%)를 유지한 채 평균 도구 호출을 7.84번에서 6.80번으로 줄였다.
    초록PDF
  21. 1025AI / GeneralarXiv:2608.24735

    Meta$^n$: Recursive Self-Improvement through Emergent Depth

    자기개선의 '개선기' 자체는 고정하고 그 출력에 재귀 적용해 메타 깊이 2의 한계를 깬 논문. 암기에 강한 ARC-AGI-2에서 유일하게 0점을 벗어났다.

    이 논문은 한마디로 자기개선 에이전트가 '답'만 고치던 한계를 넘어, '답을 만드는 과정'을 여러 층으로 재귀 개선하는 구조다. 하나의 고정된 메타 연산 오메가가 아래 스택의 실행 흔적과 코드를 읽고 다음 층(전략 프리프로세스 + 헬퍼 라이브러리)을 코드로 쓴다. 오메가는 절대 바뀌지 않아 시스템이 무너지지 않고, 입력만 계속 자라서 각 층은 더 높은 시점에서 추론한다. 8개 벤치마크군에서 기존 자기개선 에이전트를 모두 이겼고, 암기 저항 설계인 ARC-AGI-2에서는 유일하게 0점 이상을 기록했다.

    • 기존 자기개선 시스템은 개선 메커니즘 자체가 고정돼 실현 메타 깊이가 약 2를 못 넘는다고 진단했다.
    • 고정된 메타 연산을 자기 출력에 재귀 적용하고, 깊이는 수렴할 때까지(실제로 3~6층) 스스로 정한다.
    • 층 사이 맥락 전달이 재귀 이득의 약 72%, 호출 가능한 코드 라이브러리가 약 15%를 차지한다는 이득 분해를 제시했다.
    • ARC-AGI-2 홀드아웃에서 메타 스택이 0.331로 유일하게 바닥을 벗어났다(Godel Agent·OpenEvolve는 0점).
    • 재귀를 제거하면 CO-Bench 검증 점수가 0.845에서 0.714로 떨어져(+0.131) 재귀 자체의 효과를 분리 확인했다.
    초록PDF
  22. 1024RoboticsarXiv:2608.26053

    $R^3$: Training Robots to Reason in Natural Language via Reinforcement Learning

    로봇이 행동 전에 자연어로 '생각'하게 훈련시켜 하위 정책을 조종하게 만든 논문. 전문가 추론 흔적 초기화 후 루브릭 RL로 다듬는 2단계 레시피.

    이 논문은 한마디로 로봇 팔을 움직이기 전에 VLM이 자연어로 추론하도록 훈련시키는 방법이다. 상위 VLM(추론자)이 장면과 상호작용 히스토리를 보고 자연어 지시를 내리면, 고정된 하위 정책이 그 지시를 따라 움직인다. 학습은 전문가 추론 흔적으로 추론 스타일을 잡는 미드트레이닝과, 오프라인 데이터에 루브릭 기반 RL을 얹는 2단계로 이뤄진다. 식료품 포장(양팔 장기 과제)에서 지시만 흉내낸 모방학습(38.0%)을 47.9%로 크게 앞섰고, 자연어 추론이 실제로 테스트타임 컴퓨트로 기능함을 보였다.

    • 언어 추론을 학습 보조 신호로만 쓰던 기존 방식과 달리, 테스트타임에 추론을 실제로 생성해 하위 정책을 조종하게 했다.
    • 1단계는 전문가 추론가의 흔적(성공·실패 무관)으로 추론 스타일을 초기화하고, 2단계는 VLM 심판의 루브릭 보상으로 오프라인 RL(Dr. GRPO)을 돌린다.
    • 식료품 포장 12개 홀드아웃 과제에서 평균 성공률 47.9%로 지시만 쓰는 모방학습(38.0%)을 이겼다.
    • 학습된 추론자는 대안 비교, 불확실할 때 장면 재관찰, 점진적 단계 선택 같은 신중한 행동 지향 추론을 보였다.
    • 추론 예산을 조절하는 개입 실험으로 추론이 성능에 인과적으로 기여함을 확인했다.
    초록PDF
  23. 1023LLMs / NLParXiv:2608.25593

    JIT-Agent: Scaling Harness Intelligence via Just-in-Time Harness Evolution

    에이전트의 '운영체제(하네스)'를 태스크마다 즉석에서 코드로 생성해주는 전용 모델. 가벼운 백본도 강한 하네스를 얹으면 GPT-5.6을 이긴다.

    이 논문은 한마디로 '에이전트 성능은 모델만이 아니라 하네스(메모리·계획·행동·도구 프레임워크)가 결정한다'며, 그 하네스를 태스크에 맞춰 즉석 생성하는 모델을 만들었다. 하네스를 메모리·계획·행동·역량 4개 모듈의 실행 가능한 코드로 정의하고, 생성·실패 복구·성과 피드백 진화의 3단계로 훈련했다. DeepSeek-V4-Flash에 얹으니 딥서치·계획 벤치마크에서 GPT-5.6을 앞질렀고, 이미 강한 GLM-5.2는 최대 +20.2점 올랐다. 생성된 하네스는 OpenCode·Claude Code 같은 성숙한 런타임과 대등한 성능을 냈다.

    • 에이전트 능력을 모델과 하네스의 결합 결과로 보고, 미리 고정한 하네스 대신 과제마다 즉석 생성하는 JIT 방식을 제안했다.
    • 하네스를 메모리·계획·행동·역량의 네 모듈로 나눈 실행 가능한 코드로 표현해 생성과 수리, 진화가 가능하게 했다.
    • 과제 맞춤 학습과 실패 복구 학습, 성과가 더 좋은 하네스를 축적하는 Evo-GDPO를 결합해 생성 모델을 훈련했다.
    • DeepSeek-V4-Flash는 두 벤치마크에서 GPT-5.6을 9.1점과 4.3점 앞섰고, GLM-5.2도 과제에 따라 최대 20.2점 향상됐다.
    • 전체 실행 틀을 즉석에서 바꾸는 방식은 운영 환경의 안정성과 검증 문제가 남아 있어, 저자들도 안정된 핵심부와 검증 가능한 부분 수정 방식을 후속 과제로 제시했다.
    초록PDF
  24. 1022RoboticsarXiv:2608.26058

    One Policy, Many Embodiments: Unified Camera-Centric Action Geometry Pre-training for Heterogeneous Embodied Manipulation

    로봇팔·양팔·휴머노이드·사람 손을 '카메라 좌표계의 움직임' 하나로 통일해 6,300시간 데이터를 한 정책으로 함께 학습한 논문.

    이 논문은 한마디로 서로 다른 로봇 몸체의 데이터를 '카메라에 보이는 손목 움직임'이라는 공통 기하로 바꿔 하나의 정책으로 학습했다. 로봇별 제어 명령이 제각각이라 섞어 쓰기 어려웠던 문제를, 카메라 좌표계의 앵커(손목·파지점) 궤적으로 통일하고 각 로봇에 맞는 변환기가 실행 명령으로 바꿔준다. 6,300시간(로봇·시뮬레이션 4,030 + 사람 시연 2,340)을 학습한 단일 체크포인트가 LIBERO 98.3%, RoboTwin 89%대를 찍었다. 사람 손 영상도 별도 변환 없이 하나의 '몸체'로 취급해 그대로 학습에 쓸 수 있다.

    • 로봇·시뮬레이션·사람 손 데이터를 하나의 카메라 중심 동작 공간으로 정렬해 통합 사전학습했다.
    • 사람 시연 2,340시간을 리타게팅·영상 합성 없이 '인간이라는 몸체'로 직접 학습에 넣었다.
    • 단일 체크포인트로 LIBERO 98.3%, RoboTwin Easy/Hard 88.7%/89.2%, LIBERO-Plus 제로샷 82.0%를 달성했다.
    • 실제 로봇에서 빵 집기 60%·서랍 열기 90%·그릇 쌓기 75%로 같은 조건의 pi0.5(20/85/65%)를 이겼다.
    • 카메라 보정·깊이 추정 오차가 그대로 전파되고 몸체 간 이전(ALOHA에서 ARX 35%)은 여전히 어렵다는 한계도 밝혔다.
    초록PDF
  25. 1021Computer VisionarXiv:2608.25412

    AdaptiveEmbed: Sample-Adaptive Multi-Vector Representation for Multimodal Retrieval

    검색 임베딩 개수를 샘플별로 다르게 배분하면, 평균 2개 벡터로 고정 3~40개짜리보다 검색이 잘된다는 논문.

    이 논문은 한마디로 '모든 데이터에 같은 개수의 벡터를 주던 멀티벡터 검색을 샘플별 맞춤으로 바꿨다'. 멀티벡터 검색(하나의 데이터를 여러 임베딩으로 표현)은 표현력이 좋지만, 모든 샘플에 동일한 벡터 수를 쓰는 게 비효율이었다. 저자는 샘플마다 추가 벡터의 검색 효용을 계산해 필요한 만큼만 배분하는 AdaptiveEmbed를 제안했다. 이미지·영상·오디오 검색에서 평균 벡터 2.1개로 고정 3~40개 방식보다 좋은 성적을 냈다.

    • 샘플마다 최적 벡터 수가 1개부터 8개까지 제각각이라는 관츬으로 문제를 제기했다.
    • 다중 그룹 대조 학습(MGCL)으로 후보 벡터를 만들고, 효용 정책 최적화(UPO)로 샘플별 벡터 수를 결정한다.
    • COCO에서 평균 2.1 벡터로 8개 방향 중 6개에서 최고 성능을 냈고, 54.6만 개 갤러리 OpenImages 제로샷에서도 리드했다.
    • 비디오·오디오 검색에서도 평균 1.9 벡터로 고정 예산 방식을 이겨 모달리티 무관함을 보였다.
    • 오라클(정답 배분)은 비슷한 평균 예산에서 평균 61.0 mAP까지 가능해서, 적응 배분 자체의 잠재력이 크다고 본다.
    초록PDF
  26. 1020Computer VisionarXiv:2608.26105

    VBVR-Pro: A Scalable and Verifiable Suite for Native Visual Reasoning

    '생성이 곧 추론'이라는 네이티브 시각 추론을 300개 과제와 검증 가능한 보상으로 훈련·평가·RL까지 원스톱 만든 테스트베드 논문.

    이 논문은 한마디로 이미지·비디오 생성으로 문제를 푸는 '네이티브 시각 추론'을 위한 훈련·평가 인프라다. 절차적으로 생성되는 300개 과제와 사람 판정에 맞춘 검증 가능한 보상 스코어를 제공한다. 이 과제로 훈련한 모델은 못 본 외부 벤치마크 7곳에서 자주 20%p 이상 향상됐고, 그 보상으로 RL을 돌리니 생성 품질도 올라갔다. 분석 결과, 언어로 된 사고과정보다 시각 상태를 직접 조작하는 궤적이 추론의 핵심 기반이었다.

    • VLM-as-a-judge 평가가 숫자 세기 오류·미세 근거 무시·규칙 오독 같은 실패를 반복함을 확인하고, 결정적 규칙 기반 스코어로 대체했다.
    • 300개 절차 생성 과제로 훈련한 모델이 RISE-Video, MME-CoF-Pro 등 외부 벤치마크 7곳에서 대폭 전이됐다(자주 +20%p 이상).
    • 이득이 지시 패턴 암기가 아니라 진짜 시각 추론 때문인지 최근접 이웃·반사실 진단 실험으로 검증했다.
    • 이미지·비디오·인터리브 생성기 30여 개를 같은 과제 분포로 비교해, 시공간 상태 추적엔 비디오가, 계산 효율엔 인터리브가 유리함을 밝혔다.
    • 검증 보상으로 RL을 돌리자 미로 탐색 점수가 0.2249에서 0.8692로 뛰고, 중간 답을 스스로 고치는 자기수정도 관찰됐다.
    초록PDF
  27. 1019Computer VisionarXiv:2608.25924

    Visual General Intelligence: A White Paper

    '지능이 언어 말고 시각에서도 나올 수 있는가'를 묻는 비전 중심 AGI(VGI) 선언문. CVPR 2026 워크숍 참여자들의 관점을 모은 포지션 페이퍼.

    이 논문은 한마디로 'AGI로 가는 길이 언어 모델만이 아니라 시각 학습에도 있다'는 비전 커뮤니티의 공동 성명이다. GPT가 텍스트 대규모 학습으로 예상 밖 능력을 얻었듯, 영상·기하 같은 시각 데이터에서도 비슷한 창발이 가능한지 묻는다. 대규모 생성 학습, 지속 학습, 능동 지각, 공간 메모리 같은 후보 경로를 여러 저자의 관점으로 펼친다. 단일 정의를 강요하지 않고, VGI 평가는 정적 벤치마크를 넘어 전이·적응·창의성을 봐야 한다고 주장한다.

    • 여러 연구자의 관점을 모아 언어보다 훨씬 오래된 시각 경험이 일반 지능으로 가는 독자적인 출발점이 될 수 있는지 검토했다.
    • 대규모 생성 학습과 미래 예측, 공간 기억, 지속 학습, 능동 지각, 몸을 통한 상호작용을 시각 지능의 후보 경로로 제시했다.
    • 평가는 고정 과제 점수를 넘어 새로운 상황으로의 전이, 지속 적응, 창의성, 물리적 일관성, 능동적 정보 탐색을 봐야 한다고 주장했다.
    • 비전 단독과 비전 우선, 언어 결합 등 여러 경로를 열어 두고 시각 일반 지능을 하나의 모델이나 정의로 성급히 고정하지 말자고 결론지었다.
    • 이 연구는 새 모델이나 통합 실험을 제시한 논문이 아니라 연구 의제를 정리한 백서이며, 현재의 시각 능력도 서로 분절돼 있고 계산 비용과 시간 범위의 한계가 있다.
    초록PDF
  28. 1018RoboticsarXiv:2608.26103

    Zero-WAM: In-Context World-Action Modeling from Human Videos for Open-Ended Task Generalization

    로봇에게 사람 영상을 '문제 지시'로 보여주면 훈련 못 본 작업도 바로 수행하게 만든 논문. 사람-로봇 짝 데이터 7.4만 쌍을 자동 생성한 게 핵심.

    이 논문은 한마디로 '사람이 하는 걸 영상으로 보여주면 로봇이 처음 보는 작업을 바로 수행한다'는 접근이다. LLM의 인컨텍스트 학습(예시를 프롬프트로 주면 파라미터 수정 없이 새 작업을 수행)을 로봇에 가져왔다. 로봇 궤적에서 의미가 맞는 사람 영상을 자동으로 만들어 HumanGen 데이터(7.42만 쌍, 8,600 작업)를 구축했고, 모델이 영상 프롬프트를 진짜 참고하게 만드는 학습 목표(IFP)를 제안했다. 그 결과 못 본 작업 7개에서 평균 성공률 47.0%로, 최강 베이스라인보다 29.5%p 앞섰다.

    • 언어 지시는 공간 제약이나 중간 상태를 담기 어려워서, 사람 시연 영상을 작업 지시 인터페이스로 채택했다.
    • 로봇 궤적에서 의미가 일치하는 사람 영상을 자동 생성하는 파이프라인으로 HumanGen 7.42만 쌍(8,600 작업)을 만들었다.
    • 기존 작업 지식의 지름길에 기대지 않게 미래 구간 예측(IFP) 목표를 추가해 모델이 영상 프롬프트를 강제로 참고하게 했다.
    • RoboTwin 2.0에서 못 본 작업 7개 평균 성공률 47.0%로 최강 베이스라인(LingBot-VA) 대비 +29.5%p를 기록했다.
    • 실제 로봇에서도 다중 물체·장기 과제·정밀 삽입 같은 못 본 구성에서 영상 지시를 잘 따라갔다.
    초록PDF
  29. 1017Computer VisionarXiv:2608.25927

    Code World Model: Coding Agent as World Brain

    코딩 에이전트를 '세계의 뇌'로 써서 게임 세계 상태를 코드로 굴리고, 비디오 모델은 화면만 그리게 역할을 나눈 논문.

    이 논문은 한마디로 '세계 진화는 코드가, 화면 구현은 비디오 모델이' 맡는 세계 모델 구조다. 코딩 에이전트가 사건의 결과를 추론해 실행 가능한 코드로 세계 상태를 계속 갱신하고, 그 상태를 프록시(대리 표현) 영상으로 바꿔 비디오 모델에 조건을 주면 고화질 영상이 나온다. 게임플레이 약 5.6시간 짝 데이터로 MiniMax-H3를 파인튜닝한 결과, 프록시가 지정한 위치·이동·카메라 궤적을 잘 따라가는 영상이 생성됐다. 상태가 코드로 유지되니 과거 사건의 결과가 사라지지 않고 계속 이어지는 게 기존 비디오 세계 모델과의 차이다.

    • 비디오만으로 배우는 기존 세계 모델은 '왜 그렇게 되는지'라는 규칙을 못 배우고 결과 장면만 흉내 낸다고 진단했다.
    • 코딩 에이전트(뇌)는 드물게 복잡한 결정만 내리고, 코드는 자주 반복되는 상태 갱신을 빠르게 처리하는 이중 구조로 역할을 나눴다.
    • 게임플레이 157개 테이크(약 5.6시간)에서 9,420개 클립을 뽑어 MiniMax-H3를 LoRA로 파인튜닝했다(훈련 파라미터 약 5.96억 개).
    • 프록시 조건 해상도는 출력의 1/16 수준이라 추가 추론 부담이 거의 없다고 밝혔다.
    • 학습 규모가 작고 실시간 생성도 안 되며, 코딩 에이전트가 복잡한 게임 메커니즘을 처음부터 만들긴 아직 어렵다고 한계를 인정했다.
    초록PDF
  30. 1016Computer VisionarXiv:2608.24855

    LeFlow: Generative Latent Flow Planning for World Models

    LeFlow는 매번 처음부터 행동을 찾는 대신 세계 모델의 잠재 공간에서 재사용 가능한 계획 경로를 만들어 더 빠르고 성공적인 제어를 노린다.

    기존 잠재 세계 모델은 상태와 목표가 바뀔 때마다 행동 순서를 처음부터 반복 탐색해 계획 비용이 크다. LeFlow는 이미 학습된 세계 모델의 잠재 공간에서 재사용 가능한 경로 사전 정보를 학습해 이 탐색을 한 번의 생성 문제로 바꾼다. 정류 흐름 모델이 현재와 목표 사이의 잠재 경로를 만들고, 역동역학 디코더가 이를 행동 묶음으로 바꾸며, 고정된 세계 모델이 후보를 다시 굴려 확인한다. 네 가지 목표 조건부 픽셀 제어 벤치마크에서 기존의 반복 행동 탐색보다 성공률이 꾸준히 높았고 계획 시간은 대략 10배 줄었다. 다만 현재는 짧고 고정된 계획 구간만 다루며, 더 긴 구간에서는 생성 차원이 커지고 세계 모델의 누적 예측 오차가 늘어나는 한계가 있다.

    • LeFlow는 고정된 잠재 세계 모델 위에서 현재 상태와 목표를 잇는 재사용 가능한 잠재 경로를 정류 흐름 모델로 생성한다.
    • 생성된 잠재 전이는 역동역학 디코더가 행동 묶음으로 바꾸고, 세계 모델의 자기회귀 롤아웃이 정해진 수의 후보를 검증해 고른다.
    • 네 가지 목표 조건부 픽셀 제어 벤치마크에서 반복적인 행동 공간 최적화보다 성공률이 꾸준히 높았고 계획 시간은 대략 10배 줄었다.
    • 이 방식은 세계 모델을 단순 예측기로만 쓰지 않고 여러 상태와 목표에 재사용할 수 있는 빠른 계획기로 확장한다는 적용 의미가 있다.
    • 현재 방법은 짧고 고정된 계획 구간에 머물며, 긴 구간에서는 생성 문제가 커지고 고정된 예측기의 롤아웃 오차가 누적되는 한계가 있다.
    초록PDF
  31. 1015Computer VisionarXiv:2608.24053

    WeMM-Embedding: WeChat Multi-Modal Embedding Technical Report

    이 논문은 텍스트·이미지·영상·문서를 하나의 임베딩 공간에 담는 텐센트 위챗의 범용 멀티모달 임베딩 모델군(2B/4B/9B) 기술 보고서다.

    이 논문은 한마디로 위챗이 텍스트·이미지·영상·시각 문서까지 하나의 벡터 공간에 담는 범용 임베딩 모델군을 만들어 공개 벤치마크 1위를 찍고 실제 서비스에 얹은 기술 보고서다. 2단계 학습(대규모 정렬 → 정제 데이터·세밀한 관련도 감독·크기 간 지식 증류)으로 학습했다. 9B 모델은 MMEB-v2에서 80.6점으로 전체 1위(오픈소스·상용 포함)를 기록했고, 2B만으로도 기존 최고 8B 오픈소스 모델을 앞질렀다. 위챗 추천·검색 14건의 온라인 A/B 테스트에서 성과 향상을 확인해 실제로 배치했다. 256차원으로 줄여도 전체 성능의 98.7%를 유지해 가볍게 쓸 수도 있다.

    • 텍스트·이미지·영상·문서·섞인 입력을 한 모델로 임베딩하고, 출력 차원도 64~2048까지 자유롭게 뽑을 수 있다.
    • 9B 모델이 MMEB-v2 종합 80.6점으로 오픈소스·상용 모델 전체 1위를 기록했다(2026-08-24 기준).
    • 2B 소형 모델만으로도 기존 최고 성능 8B 오픈소스 모델을 앞질러 효율성을 입증했다.
    • 위챗 채널·공식계정·모멘트·커머스 검색·추천에 실배치되고 14건 A/B 테스트에서 일관된 향상을 냈다.
    • 256차원으로 축소해도 2,048차원 대비 98.7% 성능을 유지해 저장·속도 부담을 크게 줄였다.
    초록PDF
  32. 1014RoboticsarXiv:2608.24714

    GaussianWAM: Distilling Geometry and Semantics from 3D Gaussian Fields into World-Action Models

    이 논문은 로봇 조작용 월드-액션 모델에 3D 가우시안 장을 '학습 시간 전용 교사'로 붙여 기하·의미 감각을 주입하고, 추론 때는 전부 떼어내 원래 속도를 유지한 채 성공률을 크게 올렸다.

    이 논문은 한마디로 로봇 팔 조작용 월드-액션 모델(미래 영상을 예측하며 동작을 만드는 모델, WAM)의 내부 표현에 3D 공간 감각과 사물 의미를 주입하는 학습법이다. 여러 시점의 영상에서 깊이·의미 정보를 뽑아 3D 가우시안 장(공간을 작은 타원체 모음으로 표현하는 방식)에 묶은 뒤, 그걸 다시 WAM 표현에 증류(교사 모델에서 지식을 옮겨 주는 학습)해 넣는다. 교사 모델과 가우시안 장은 학습에만 쓰고 추론 때는 전부 제거하므로 배포 구조와 계산 비용은 그대로다. 그 결과 LIBERO-Plus 벤치마크에서 FastWAM을 52.05%에서 71.29%로, Cosmos Policy를 71.52%에서 77.30%로 올렸고 실제 양팔 로봇에서도 평균 성공률 30%에서 40%로 올랐다.

    • 미래 영상 예측만 하던 WAM 표현에 3D 가우시안 장을 매개로 깊이·의미·커버리지 감독을 공간적으로 정렬해 넣었다.
    • 학습에만 쓰는 교사라 추론 파이프라인과 계산 비용이 그대로여서 실서비스 부담 없이 쓸 수 있다.
    • LIBERO-Plus에서 FastWAM 52.05%→71.29%, Cosmos Policy 71.52%→77.30%로 올렸다.
    • 교사 신호를 가우시안 장으로 통합한 게 효과가 있었다. 그냥 직접 증류(69.37%)보다 1.9점 더 높았다.
    • 실제 양팔 로봇(UR7e 두 대) 실험에서도 평균 성공률을 30.00%에서 40.00%로 올렸다.
    초록PDF
  33. 1013AI / GeneralarXiv:2608.24876

    Recursive Experiential-Working Memory Evolution for Long-Horizon Agent Harnesses

    이 논문은 긴 과제에서 에이전트가 필요한 스킬을 제때 못 쓰는 문제를 '작업 기억+경험 기억' 결합과, 검증을 통과할 때만 기억을 고치는 재귀 루프로 풀었다.

    이 논문은 한마디로 긴 과제를 수행하는 AI 에이전트의 기억을 '지금 상황을 추적하는 작업 기억(Working Memory)'과 '쌓아둔 경험에서 스킬을 꺼내주는 경험 기억(Experiential Memory)'으로 나눠 맞물리게 하면 성공률이 크게 오른다는 것이다. 작업 기억이 지금 뭐가 필요한지 추리면 경험 기억이 맞는 스킬을 골라 주고, 실행 결과는 검증해서 작업 기억을 갱신한다. 실패가 나면 어느 기억 부분 탓인지 특정해 그 부분만 고치고, 검증을 통과해야 반영한다. 그 결과 4개 장기 벤치마크·10개 모델의 37개 조합 중 35개가 좋아졌고, 과제가 길수록 효과가 커서 최장 구간에서는 +32.2점까지 올랐다.

    • 검증된 현재 과제 상태를 작업 기억에 유지하고, 그 상태를 기준으로 경험 기억에서 필요한 스킬을 찾게 해 긴 대화 기록의 잡음을 줄였다.
    • 실행 흔적으로 실패 위치를 기억 구성 요소까지 좁힌 뒤 해당 부분만 고치고, 검증을 통과한 수정만 반영하는 재귀 개선 고리를 만들었다.
    • 네 장기 과제와 열 개 모델의 완료된 37개 조합 중 35개가 향상됐고, 최고 성능 모델도 15~18점가량 올라 최대 성공률 87.9%에 도달했다.
    • 과제가 길수록 이득이 커져 가장 긴 구간에서 32.2점 향상됐고, 대표적인 장기 과제 실패 유형은 최대 80% 이상 줄었다.
    • 다만 실패 위치 표시는 엄밀한 인과 판정이 아니라 가장 고치기 좋은 부분을 고르는 결정이며, 일부 검사기 구성 요소는 효과가 없던 과제 때문에 충분히 검증되지 않았다.
    초록PDF
  34. 1012Machine LearningarXiv:2608.24814

    Effective Learning Rate Governs Loss Dynamics in Language Model Pretraining

    이 논문은 LLM 사전학습에서 손실 곡선이 학습률과 파라미터 크기의 비율인 '실효 학습률(ELR)' 하나로 결정된다는 법칙을 발견했다.

    이 논문은 한마디로 LLM 사전학습의 손실(오차) 곡선은 학습률(LR)을 파라미터 크기로 나눈 '실효 학습률(ELR)'이 지배한다는 실험 법칙을 밝혔다. 학습률과 파라미터 크기가 완전히 달라도 ELR 시간표만 같으면 손실 곡선이 거의 겹쳤다(오차 10^-3 수준으로, 시드를 바꿀 때 생기는 차이보다 작다). 웨이트 데케이(파라미터 크기를 서서히 줄여주는 기법) 같은 크기 제어도 결국 ELR을 바꿔서 손실에 영향을 준다는 것을 증명했다. ELR 좌표로 바꾸면 손실 곡선 예측식(스케일링 로우)이 크기 제어 방식이 달라도 그대로 쓸 수 있었고, 크기 제어가 나중에 역전하는 '늦은 가속' 현상의 원인도 ELR 감쇠로 설명했다.

    • 학습률과 파라미터 크기를 각각 튜닝할 게 아니라, 비율인 ELR 시간표를 먼저 설계하라는 새 관점을 제시했다.
    • ELR만 맞추면 옵티마이저·아키텍처·데이터·모델 크기가 달라도 손실 곡선이 거의 일치했다(평균 오차 10^-3 수준).
    • 웨이트 데케이와 하이퍼볼(파라미터를 정해진 크기로 묶는 기법)의 손실 영향도 각각 만드는 ELR 시간표로 설명됐다.
    • ELR 기반 스케일링 로우는 크기 제어 방식이 달라도 예측이 통했다. 학습률 기반으로 두면 예측 오차가 12.9배 커졌다.
    • 이 법칙이 정확히 성립하는 조건(정규화 설계, 변화 속도)도 조건별 실험으로 짚어냈다.
    초록PDF
  35. 1011RoboticsarXiv:2608.24885

    Do Robotic World Models Really Follow Actions? Diagnosing and Aligning Action-Conditioned Generation for Policy Learning

    이 논문은 로봇 세계 모델이 시킨 대로 움직이는지를 전문가 시연 밖의 행동까지 넣어 진단하는 평가 도구를 만들고, 거기서 드러난 약점을 메우는 학습법으로 정책 성공률을 끌어올렸다.

    이 논문은 한마디로 '세계 모델이 정말 행동을 따르는지 캐묻고 고치는 연구'다. 지금까지 평가는 대부분 전문가 시연 범위 안에서만 이뤄져, 그 밖의 행동을 넣었을 때 무슨 일이 생기는지는 제대로 확인되지 않았다. WorldEcho는 다섯 갈래의 행동 질의를 넣고 생성된 영상이 멀쩡한지와 말단 장치 궤적이 맞는지를 함께 본다. 진단해 보니 기존 모델들은 전문가 행동은 그럭저럭 따르지만, 그 밖의 행동에서는 지시를 무시하거나 팔이 뭉개지는 식으로 무너졌다. 이를 메우는 WorldSync는 시뮬레이션 과제 성공률을 51~52%에서 65%로, 실제 로봇 컵 쌓기에서는 48%에서 68%로 올렸다.

    • WorldEcho는 시연 행동에 더해 다른 상태 재생, 국소 변형, 정책 롤아웃, 실행 가능 공간 표집이라는 네 가지 비전문가 행동 질의로 세계 모델을 찔러 본다.
    • WorldSync는 행동 결과의 분포를 넓히고, Action-Forcing Expert로 중간 영상 표현을 로봇 움직임에 붙들어 매고, 행동을 바꿨을 때의 변화가 실제 미래의 변화와 맞도록 정렬한다.
    • RoboTwin 50개 과제에서 WorldSync는 시각 무결성을 반영한 오차 0.0661로 가장 낮았고 영상 통과율 84.51%로 가장 높았다.
    • 이 모델을 학습된 시뮬레이터로 써서 정책을 두 번 개선하자 시뮬레이션 성공률이 51~52%에서 65%로, 실제 로봇 컵 쌓기는 48%에서 68%로 올라 비교 대상 CtrlWorld보다 각각 8~9점과 12점 앞섰다.
    • 다만 개별 지표를 따로 보면 우위가 고르지 않아 원시 NDTW는 Cosmos-Predict2.5가 0.013으로 더 좋았고, 저자들도 긴 시간에 걸친 상호작용과 여러 로봇 몸체까지 넓히는 일은 아직 과제로 남는다고 밝혔다.
    초록PDF
  36. 1010Computer VisionarXiv:2608.24680

    Game2World Engine: Unlocking In-the-Wild Gameplay Videos for World Model Training

    이 논문은 게임 화면에 겹쳐진 인터페이스를 자동으로 걷어내는 데이터 엔진과 제거 모델을 만들어, 인터넷 게임 영상을 세계 모델 학습 자료로 바꿀 수 있음을 보였다.

    이 논문은 한마디로 '게임 영상에서 화면 표시를 지워 학습 데이터로 만드는 공장'이다. 게임 영상에는 체력 막대나 미니맵 같은 화면 표시가 섞여 있어, 게임 세계의 움직임과 무관한 신호가 학습을 방해한다. 연구진은 실제 게임 영상에서 인터페이스 조각 5,132개를 뽑아 21개 갈래로 정리하고, 이를 깨끗한 영상 위에 다시 얹어 짝지어진 학습 데이터 9만 6천 개를 만들었다. 이 데이터로 학습한 GameCleaner는 지울 영역을 따로 받지 않고도 화면 표시를 지우며, 합성 평가에서 AAR 95.36, 실제 게임 영상에서 80.05를 기록했다. 사전 실험에서 화면 표시를 지운 영상으로 학습한 영상 모델은 그렇지 않은 경우보다 VideoReward 종합 점수가 6.83% 높았다.

    • 실제 게임 영상에서 인터페이스 조각을 자동으로 뽑아 사람이 확인한 자산 5,132개를 모으고, 이를 깨끗한 영상 위에 시간 흐름이 자연스럽게 다시 얹어 짝지어진 학습 데이터를 합성했다.
    • GameCleaner는 멀티모달 언어 모델이 화면 표시를 알아보고 영상 확산 트랜스포머가 가려진 부분을 복원하는 구조라, 지울 영역을 미리 그려주지 않아도 된다.
    • 합성 평가에서 AAR 95.36과 배경 보존 99.00을, 실제 게임 영상 평가에서는 참조 이미지를 준 조건으로 AAR 80.05와 배경 보존 99.80을 기록했다.
    • 화면 표시를 지운 영상으로 학습하면 VideoReward 종합이 6.83% 올라, 인터넷에 널린 게임 영상을 세계 모델 학습 자료로 재활용할 길이 열린다.
    • 다만 저자들은 크고 불투명한 창이나 빠르게 바뀌는 겹침 요소, 장면과 뒤엉킨 표시에서는 복원이 어긋날 수 있고, 후속 실험도 행동 조건 없이 글로 영상을 만드는 대리 실험이었다고 밝혔다.
    초록PDF
  37. 1009Machine LearningarXiv:2608.24696

    On-policy Distillation with Verifiable Reward

    이 논문은 온폴리시 증류의 토큰 단위 신호에 정답 여부를 반영한 ReLU 게이트를 씌워, 새 하이퍼파라미터 없이 증류와 검증 가능한 보상 학습을 하나로 합쳤다.

    이 논문은 한마디로 '정답 여부에 맞게 증류 신호의 부호를 정리한 후학습 방법'이다. 검증 가능한 보상 학습은 과제 단위로만 점수를 줘서 신호가 성기고, 온폴리시 증류는 토큰마다 촘촘하지만 그 궤적이 정답인지는 따지지 않는다. 저자들은 표본 토큰 증류에 숨어 있는 보상을 궤적 정답 여부로 다시 쓴 뒤, 맞은 궤적의 토큰은 음수 보상을 받지 않고 틀린 궤적의 토큰은 양수 보상을 받지 않도록 ReLU 게이트를 걸었다. 덕분에 새 하이퍼파라미터가 하나도 늘지 않고, 증류가 GRPO 같은 정책 경사 알고리즘과 그대로 결합된다. 같은 구조와 다른 구조 두 증류 설정 모두에서 여섯 개 추론 벤치마크 평균이 기존 온폴리시 증류보다 높았다.

    • 표본 토큰 증류의 숨은 보상을 궤적 정답 여부로 다시 쓰고, 맞은 궤적에는 음이 아닌 보상만, 틀린 궤적에는 양이 아닌 보상만 남기는 ReLU 게이트를 적용했다.
    • Qwen3-4B 같은 구조 설정에서 여섯 벤치마크 평균이 49.1로 기존 증류의 47.8을 넘었고, AIME24에서는 36.9로 교사 모델의 36.0보다도 높았다.
    • 게이트 방향을 반대로 뒤집은 대조 실험은 여섯 벤치마크 모두에서 기본 증류보다 낮아, 부호를 정답에 맞추는 것이 효과의 원인임을 보였다.
    • 하이퍼파라미터를 새로 늘리지 않고 GRPO 같은 기존 정책 경사 알고리즘에 그대로 얹을 수 있어, 이미 돌아가는 후학습 파이프라인에 적은 수정으로 넣을 수 있다.
    • 다만 학생 모델이 교사를 따라잡지는 못해 다른 구조 설정에서는 평균 22.8로 교사의 30.9에 크게 못 미쳤고, 실험도 Qwen3 계열 수학 추론 벤치마크에 한정됐다.
    초록PDF
  38. 1008RoboticsarXiv:2608.24882

    Latent Action as Intention Enables Efficient Future Imagination for World Action Models

    이 논문은 로봇 세계행동모델이 미래 영상을 직접 그리는 대신 압축된 잠재 행동으로 의도만 떠올리게 바꿔, 성능은 지키면서 추론 시간을 크게 줄였다.

    이 논문은 한마디로 '미래를 영상 대신 압축된 신호로 상상하는 로봇 정책'이다. 미래 관측을 생성하는 방식은 일반화에 도움이 되지만 매번 영상을 만들어야 해서 느리고, 이를 생략한 방식은 빠르지만 일반화가 떨어졌다. LAWA는 영상의 변화를 이산 토큰으로 압축한 잠재 행동을 미래 의도로 삼고, 이 잠재 상태와 실행할 행동 묶음을 함께 잡음 제거하면서 추론 때는 미래 영상 가지를 떼어낸다. RoboCasa에서 학습 궤적의 10%만 쓴 조건에서 평균 성공률 65.6%, 전체 데이터에서 80.8%를 기록해 같은 조건의 Fast-WAM보다 각각 9.6점과 4.5점 높았다. 행동 묶음 하나를 만드는 시간은 338.5ms로, 미래 영상을 그리는 Joint-WAM의 593.1ms보다 42.9% 짧았다.

    • SAM 2가 자동으로 만든 마스크로 손과 조작기 주변을 강조하도록 학습시킨 이산 잠재 행동 토크나이저가 영상의 변화를 압축해 미래 의도를 만든다.
    • 학습할 때는 영상과 잠재 행동과 행동 전문가를 함께 학습시키되, 추론할 때는 미래 영상 가지를 빼고 잠재 의도와 행동 묶음만 함께 잡음 제거한다.
    • RoboCasa 평균 성공률이 소량 데이터에서 65.6%, 전체 데이터에서 80.8%로 같은 조건의 Fast-WAM보다 9.6점과 4.5점 높았고, LIBERO-Plus에서는 추가 학습 없이 74.4%를 기록해 Joint-WAM보다 4.0점 높았다.
    • 행동 묶음 하나당 338.5ms로 Joint-WAM의 593.1ms보다 42.9% 빨라, 지연이 곧 실패로 이어지는 실제 로봇 제어에 쓰기 유리하다.
    • 다만 속도만 보면 미래 상상을 아예 버린 Fast-WAM의 196.5ms보다 여전히 느리고, 행동 정보가 없는 1인칭 영상으로 사전학습을 하지 않으면 잠재 행동 방식이 같은 조건의 Joint-WAM보다 오히려 약했다.
    초록PDF
  39. 1007Computer VisionarXiv:2608.24646

    On-Policy Self-Distillation in Diffusion Models

    이 논문은 이미지 단위 보상을 확산 모델의 중간 예측이 따라갈 구체적 목표로 바꿔주는 자기증류 방식을 제안해, 더 적은 GPU 시간으로 더 좋은 정렬 성능을 얻었다.

    이 논문은 한마디로 '보상을 중간 예측의 목표로 바꿔주는 확산 모델 후학습법'이다. 기존 강화학습은 완성된 이미지에만 점수를 주기 때문에 중간 잡음 제거 단계가 어떻게 바뀌어야 하는지는 알려주지 못했다. DiffusionOPSD는 얼어붙은 행동 정책이 내놓은 예측을 기준점으로 삼고, 보상의 기울기로 좋은 목표와 나쁜 목표를 만들어 학습 정책이 그 목표를 따라가게 한다. SD3.5-M과 9단계 Z-Image-Turbo에서 보상을 맞춘 평가 조건 20개 중 19개에서 최종 점수가 가장 높았고, 가장 강한 경쟁 기법보다 최대 44.0% 좋아졌다. 학습 비용도 DiffusionNFT 대비 GPU 시간이 각각 40%와 63% 줄었다.

    • 얼어붙은 행동 정책이 궤적과 기준점을 만들고, 보상 기울기로 기준점 주변에 크기를 제한한 긍정 목표와 부정 목표를 세운 뒤, 학습 정책이 이를 끊어낸 지도 신호로 따라 학습한다.
    • 목표를 만드는 단계와 그 목표에 실제로 맞춰지는 단계를 갈라놓아, 성능이 안 오를 때 어느 쪽이 문제인지 따로 잴 수 있게 했다.
    • 두 백본과 평가기 10개로 이뤄진 보상 일치 조건 20개 가운데 19개에서 보류 세트 최종 점수가 가장 높았다.
    • DiffusionNFT 대비 갱신 100회당 GPU 시간이 40%와 63% 줄어, 같은 예산으로 이미지 생성 모델을 사람 선호에 맞추는 후학습을 더 자주 돌릴 수 있다.
    • 다만 통제 실험에서 목표를 잘 만들었다고 한 번의 갱신으로 그만큼 얻는 것은 아니어서, HPSv2.1에서는 프롬프트 512개 중 62.3%에서 순서가 뒤집혔다.
    초록PDF
  40. 1006Computer VisionarXiv:2608.24845

    LAION-BVD: A 10-Million-Hour Open Video Dataset for Multimodal Pre-training

    이 논문은 CommonCrawl에서 모은 영상 링크로 1,000만 시간 규모의 공개 영상 데이터셋을 만들고, 영상과 소리와 이미지 세 갈래 학습 모두에서 쓸 만한 학습 신호가 나온다는 것을 보였다.

    이 논문은 한마디로 '초대형 공개 영상 데이터셋 만들기'다. 연구진은 CommonCrawl 기록에서 영상 링크 13억 개를 골라내고, 그중 8,000만 개를 실제로 내려받아 총 1,000만 시간 분량을 모았다. 장면이 바뀌는 지점을 찾아 짧은 조각으로 자른 뒤, 작은 인공지능 모델로 영상 설명문과 소리 설명문을 자동으로 붙였다. 이 데이터로 학습한 영상 모델은 같은 조건의 InternVid 기반 모델보다 나은 점수를 냈고, 소리 모델은 LAION-Audio와 비슷하거나 더 좋았다. 영상에서 뽑은 정지 장면으로 학습한 이미지 모델은 검색 과제에 강했지만 ImageNet 분류에서는 기존 웹 이미지 데이터보다 약했다. 저자들은 이 데이터셋을 연구 커뮤니티에 공개한다고 밝혔다.

    • CommonCrawl 기록에서 유튜브와 비메오와 데일리모션 링크만 걸러 13억 개를 만든 뒤 8,000만 개를 실제로 내려받아 1,000만 영상 시간을 확보했다.
    • 이 가운데 영상 240만 개를 뽑아 장면 전환 기준으로 5,500만 개 조각으로 자르고, Qwen3-VL-2B-Instruct로 영상 설명을, Audio Flamingo 3로 소리 설명을 자동으로 붙였다.
    • 학습 표본 5,000만 개를 본 시점에서 BVD-V-10M과 BVD-V-50M은 더 촘촘히 걸러진 InternVid-10M-FLT보다 종합 평균이 각각 3.3점과 4.0점 높았다.
    • 영상과 소리와 이미지를 한 자리에서 다룰 수 있는 공개 자원이라, 검색이나 표현 학습처럼 임베딩 품질이 중요한 작업에 바로 쓸 만하다.
    • 다만 설명문이 모두 작은 모델로 짧게 자동 생성돼 표현이 빈약하고 모델 편향이 섞일 수 있으며, 실제로 ImageNet 분류 점수는 기존 웹 이미지 데이터보다 낮았다.
    초록PDF
  41. 1005AI / GeneralarXiv:2608.23041

    AutoSaddler: Automatic Harness Optimization with Durable Updates from Agent Execution Traces

    이 논문은 에이전트 실행틀(하네스)을 사람이 손으로 다듬지 않고, 실패 기록을 분석해 코드처럼 자동 패치하는 프레임워크를 만들어 세 벤치마크에서 9~10%p씩 성능을 올렸다.

    이 논문은 한마디로 '에이전트 하네스 자동 튜닝기'다. AutoSaddler는 실패한 실행 기록을 깊게 디버깅하고, 하네스(프롬프트·도구·제어 로직)를 코드로 취급해 구조화된 패치를 만들고, 검증 세트에서 일반화되는 것만 골라 반영한다. GAIA2·SWE-Bench Pro·Terminal-Bench 2.0에서 기본 하네스 대비 각각 9.0/9.6/10.0%p 향상을 얻었다. GAIA2에서는 72.3%를 약 1,000회 실행으로 달성해 2,800회를 쓴 경쟁 기법들보다 효율적이었다.

    • 하네스 최적화를 오프라인 학습 문제로 정식화하고, 실패 신호를 받아 반복적으로 패치한다.
    • 얕은 반성이 아니라 깊은 디버깅, 제멋대로 수정이 아니라 구조화된 패치, 일반화 검증이 효과의 핵심이었다.
    • GAIA2에서 72.3%를 약 1,000회 과제 실행으로 달성, 약 2,800회를 쓴 경쟁 기법(64.6%)을 능가했다.
    • 세 벤치마크 모두 기본 하네스 대비 +9.0~10.0%p, 최강 자동 기준선 대비 +4.4~7.4%p 올랐다.
    • 정답이 달린 학습용 과제와 성공 실패 신호가 있어야 작동해 실제 현장에 바로 쓰기 어렵고, 적용 범위도 상태가 이어지지 않는 독립 과제로 한정된다는 한계를 저자들이 밝혔다.
    초록PDF
  42. 1004Computer VisionarXiv:2608.23238

    Mover360: Controllable Object Manipulation in 360° Panoramic Images

    이 논문은 360도 파노라마 사진 안에서 물체를 클릭 한 번으로 옮기고 지우고 넣는 편집 모델을 만들었다.

    이 논문은 한마디로 파노라마 사진용 물체 편집기다. 360도 이미지는 좌우가 이어지고 위아래 왜곡이 심해서 일반 편집 모델이 잘 못 다룬다. Mover360은 사전학습 생성 모델(Flux2)에 LoRA만 붙이고, 3채널 지시맵과 깊이 정보로 위치를 지정한다. 게임엔진(UE5)으로 12,150쌍의 학습 데이터를 자동으로 만들어 훈련했고, 합성·실촬영 벤치마크에서 기존 방법들을 종합적으로 이겼다.

    • 360도 이미지에서 물체 이동을 중심에 두고 삭제·삽입까지 한 모델로 처리한다.
    • 점 클릭 한 번으로 크기·받침·조명을 추론하며, 박스·마스크로 정밀 제어도 가능하다.
    • UE5 파이프라인으로 12,150쌍(에포크당 60,750쌍)의 학습 데이터와 210+50 벤치마크를 만들었다.
    • 합성·실제 두 도메인에서 원근 편집·삽입·인페인팅 강자들을 재현 충실도·의미 일관성 모두 앞섰다.
    • 다만 지시문이 세 가지 작업으로 고정돼 있어서, 물체 속성을 바꾸거나 복잡한 관계를 말로 지정하는 편집은 아직 되지 않는다.
    초록PDF
  43. 1003RoboticsarXiv:2608.23478

    Act with Intent: Distilling Behavior Intent for Vision-Language-Action Models

    이 논문은 로봇 팔 모델에게 '이 행동이 무엇을 노리는지'라는 의도를 가르쳐, 행동 복제만 할 때보다 성공률을 크게 올렸다.

    이 논문은 한마디로 로봇 행동 학습에 '의도'를 넣은 연구다. 기존 VLA 모델은 어떤 모터 명령을 흉내 낼지는 배우지만, 그 행동이 왜 필요한지는 배우지 않는다. INDI는 고정된 교사 VLM이 실행 영상을 보고 행동 의도 표현을 만들면, 학생 디코더가 이를 중간층에서 복원해 행동 예측에 쓰게 한다. SimplerEnv-Bridge에서 GR00T-N1.7을 64.3%에서 84.7%로 끌어올렸다.

    • 행동 복제에 그치지 않고 행동의 국소 목적(의도)을 명시적 감독 신호로 증류했다.
    • 교사 추론과 목표 생성은 오프라인에서 한 번만 하고 배포 때는 교사 쪽 모듈을 전부 떼어내, 기존 VLA에 얹어도 실행 부담은 디코더 표현이 늘어난 만큼에 그친다.
    • SimplerEnv-Bridge에서 GR00T-N1.7 64.3%→84.7%(+20.4%p), RoboCasa 64.1%→70.3%를 달성했다.
    • 실기 과제 평균 62.0%→68.7%, 긴 과제에서 최대 +12%p 향상됐다.
    • 다만 의도의 의미가 교사 VLM이 아는 범위에 갇혀서, 신체 경험이 없는 교사를 쓰면 목표에 방향성이 거의 사라지고 성능이 행동만 따라 배우는 기준선보다도 떨어졌다.
    초록PDF
  44. 1002ResearcharXiv:2608.23132

    The Cartan determinant conjecture for representation-finite algebras

    이 논문은 오래 열려 있던 대수학 문제(카르탕 행렬식 추측)를 표현유한 대수 범위에서 증명했는데, 증명을 AI(GPT-5.6-Sol)가 찾고 초안도 AI가 썼다고 논문에 명시했다.

    이 논문은 한마디로 수학 정리 하나를 완전히 증명한 논문이다. 카르탕 행렬식이 1이 되리라는 추측은 아직 일반적으로 미해결인데, 저자는 표현이 유한한 대수(가능한 모듈이 유한개인 대수)에서 이 성립함을 보였다. 증명은 메쉬 범주의 경로 길이로 만든 양의 등급과 Wilson의 판정법을 조합한 것이다. 특히 증명을 GPT-5.6-Sol이 저자의 지휘 아래 찾아내고 초안을 GPT-5.6-Sol과 Claude Opus 5가 썼다는 기록이 논문에 남아 있다.

    • 표현유한 대수가 유한 전역차원을 가지면 카르탕 행렬식이 정확히 1임을 증명했다.
    • 표준성 정리와 메쉬 범주의 경로 길이 등급을 잇는 간결한 논증으로 기존 결과들을 결합했다.
    • End(M) 형태의 확장 정리(Theorem B)도 같은 논증으로 얻었다.
    • 논문의 Use of AI 절에 증명 발견과 초안 작성에 AI가 관여했음을 명시했다.
    • 저자는 이 증명이 표현유한 대수의 구조 이론에 기대고 있으며, 그 이론을 쓰지 않는 증명이 있는지는 자신도 모른다고 적었다.
    초록PDF
  45. 1001Computer VisionarXiv:2608.23329

    Thinking Beyond Videos: Unifying Video Reasoning and Deep Research for Open-World Video Agents

    이 논문은 영상 이해와 딥리서치를 한 에이전트로 합쳐, 영상 속 단서를 찾아 웹을 뒤져 답하는 '영상 딥리서치'를 8B 모델로 구현했다.

    이 논문은 한마디로 영상판 딥리서치 에이전트다. VideoRover는 긴 영상에서 관련 구간을 잘라 확대하는 동시에, 이미지 검색·텍스트 검색·웹페이지 열람을 오가며 부족한 지식을 채운다. 검색 결과가 다시 영상 재확인을 유도하는 쌍방향 루프가 핵심이다. 26K 검증 SFT 트레젝토리와 3K RL 데이터로 훈련한 8B 모델이, 도구 없이 직접 답하는 GPT-5급 폐쇄 모델과 대등한 정확도(VideoDR 56%)를 냈다.

    • 영상 크롭(구간 확대)·이미지 검색·텍스트 검색·웹 열람을 하나의 탐색 루프로 통합했다.
    • 뉴스나 시연, 다큐멘터리, 강의처럼 영상 속 단서를 영상 밖 지식과 이어야 하는 상황에서, 작은 모델도 모자란 지식을 검색으로 메워 답할 수 있게 된다.
    • 26K 검증 SFT 트레젝토리 + 3K 강화학습 인스턴스를 뽑아내는 자동 데이터 파이프라인을 구축했다.
    • VideoRover-8B-RL은 VideoDR 56.0%로 도구 없는 GPT-5(57.0%)와 대등했다.
    • 다만 외부 검색 도구를 모두 빼면 VideoDR 정확도가 56.0%에서 13.0%로 무너져, 성능이 실시간 웹 검색에 크게 기대고 있음을 보여준다.
    초록PDF
  46. 1000Machine LearningarXiv:2608.23566

    How to Train a Critic Stably and Efficiently

    이 논문은 LLM 강화학습에서 불안정하다고 여겨진 크리틱(가치평가기)을 체계적인 요리법으로 안정적으로 훈련시키면, 그룹 샘플링(GRPO) 없이도 성능이 나온다는 것을 보였다.

    이 논문은 한마디로 '크리틱 훈련 설계서'다. 저자들은 크리틱 기반 학습이 무너지는 원인을 통제 실험으로 하나씩 격리해내고, 값 범위 제한·몬테카를로 타깃·비정규화 어드밴티지 등을 조합한 BPCO 레시피를 만들었다. 프롬프트당 응답 1개만으로 GRPO와 동등 이상의 성능을 1.5B~30B MoE 모델에서 달성했다. 크리틱은 훈련 후 버려지므로 정답지·채점기준 같은 특권 정보를 크리틱만 보게 줄 수도 있다.

    • 크리틱 불안정의 원인(무한정 값 예측, 배치 단위 정규화 등)을 통제 실험으로 하나씩 분리했다.
    • DPPO+보상 범위 제한+몬테카를로 타깃+비정규화 어드밴티지를 결합한 BPCO 레시피를 제안했다.
    • 프롬프트당 응답 1개만 샘플링해도 그룹 기반(GRPO) 기준선과 동등 이상을 달성했다.
    • 크리틱은 훈련에서만 쓰이므로 정답이나 채점 루브릭처럼 정책에 감춰야 할 정보를 크리틱에만 넣을 수 있고, 덕분에 루브릭으로 보상을 주는 과제까지 강화학습을 넓힐 수 있다.
    • 다만 근거가 수학과 루브릭 보상에 한정되고, 보상 범위를 미리 알아야 하며, 크리틱 훈련이 더 쓰는 연산과 메모리는 비교에 반영되지 않았다고 논문은 밝힌다.
    초록PDF
  47. 999RoboticsarXiv:2608.22869

    UniMem: Unifying Multimodal Memory and Control for Vision-Language-Action Models

    이 논문은 로봇 팔 제어 모델(VLA)에 사건 단위 기억을 하나의 모델 안에 통합해, 기억이 필요한 과제의 성공률을 크게 올리면서도 실시간 속도를 유지했다.

    이 논문은 한마디로 로봇이 '아까 뭘 했지'를 기억하게 만든 프레임워크다. UniMem은 사건 분류기가 과제의 중요 순간을 잡아내면 텍스트 기억과 핵심 프레임을 캐시에 저장하고, 이를 행동 예측에 직접 조건으로 준다. 기억 관리용 대형 VLM을 따로 얹는 계층형 방식과 달리 하나의 백본이 기억과 제어를 함께 처리해서, 시뮬레이션 93.4%·실기 80.0% 성공률을 냈다. 논문은 수십 분에서 몇 시간에 이르는 더 긴 과제에서는 아직 검증하지 못했다고 밝힌다.

    • 사건 분류기가 백본 잠재공간에서 과제 핵심 순간을 감지해 텍스트·핵심프레임 기억을 갱신한다.
    • 기억 관리용 VLM을 따로 두지 않고 기억과 저수준 제어를 한 백본(π0.5)에 통합했다.
    • 핵심프레임 캐싱으로 프레임당 약 90ms의 단일 프레임 수준 속도를 지켜 계층형 기억 방식보다 6배 빠르고, 표준 워크스테이션 GPU에서 카메라 4대짜리 양팔 설정까지 속도 손해 없이 늘릴 수 있다.
    • 시뮬레이션 5과제 평균 93.4%(고정 간격 프레임 기준선 68.2%), 실기 4과제 평균 80.0%(계층형 MemER 43.5%)를 기록했다.
    • 다만 훈련 때의 연산 한계로 과거 이정표를 세 개까지만 담고, 이 한도를 넘으면 가장 오래된 프레임을 버린다.
    초록PDF
  48. 998AI / GeneralarXiv:2608.23318

    Agent-G$^2$: Gaussian Guidance for Agentic Reinforcement Learning

    이 논문은 강화학습 훈련 때 전문가 궤적을 얼마나 앞부분까지 보여줄지(힌트 깊이)를 작업별 확률분포로 뽑는 방법으로, 긴 과제 학습 효율을 크게 올렸다.

    이 논문은 한마디로 '힌트 주는 양'을 지능적으로 조절한 학습법이다. 전문가 궤적의 앞부분을 보여주는 힌트 기반 강화학습에서는 얼마나 보여줄지가 성패를 가른다. 저자들은 유용한 힌트 깊이가 한 점이 아니라 '띠'를 이룬다는 걸 발견하고, 작업별 가우시안에서 깊이를 뽑아 기존 롤아웃 통계로 온라인 조정했다. ALFWorld에서 1.5B/7B 모델 각각 95.3%/98.4% 성공률로 최강 기준선들을 제쳤다.

    • 유용한 힌트 깊이가 한 점이 아니라 가우시안형 '띠'를 이룬다는 사실을 진단 실험으로 보였다.
    • 작업 군집별 가우시안(중심+폭)을 기존 롤아웃 통계만으로 온라인 추정해, 추가 롤아웃 없이 깊이를 뽑는다.
    • ALFWorld에서 95.3%(1.5B)/98.4%(7B)로 최강 힌트 기반 기준선을 1.5~2.3점 앞질렀다.
    • WebShop에서 보상 92.3점을 냈고, 이런 결과를 작업별 탐색이 쓰는 롤아웃의 3분의 1도 안 되는 비용으로 얻어 기존 강화학습 파이프라인에 별도 탐색 없이 얹을 수 있다.
    • 다만 학습 과제마다 전문가 궤적이 하나씩 있어야 해서, 그런 시연을 구하기 어렵거나 비용이 큰 환경에는 그대로 적용할 수 없다고 논문은 한계를 밝힌다.
    초록PDF
  49. 997Computer VisionarXiv:2608.23549

    FixAnything: 3D-Consistent Rendering Refinement via Video Generative Priors

    이 논문은 3D 렌더링 영상의 흔한 결함(떠다니는 점, 흐림, 구멍)을 표현별 전용 모델 없이 사전학습 영상 생성모델 하나로 모두 고치는 범용 정화기를 만들었다.

    이 논문은 한마디로 '3D 렌더링 수리공' 역할을 하는 범용 비디오 모델이다. 3DGS·NeRF·메쉬·포인트클라우드 등 어떤 표현이든, 결함 있는 렌더링 영상을 자연스러운 영상으로 번역하듯 정화한다. 사전학습 영상 모델(Wan2.1)에 LoRA만 얹어 파라미터 1% 미만을 고쳤고, 쌍 훈련 영상 20개만으로도 효과가 났다. 3D 일관성은 카메라 포즈 정확도를 보상으로 쓰는 DPO로 구워 넣어 7.2% 끌어올렸다.

    • 3DGS·NeRF·메쉬·포인트클라우드 4종 표현의 렌더링 결함을 한 모델로 정화하는 범용 프레임을 제안했다.
    • 다만 입력 시점에 보이지 않던 영역은 모델이 새로 지어내야 해서, 논문의 불확실성 분석에서도 확신이 높은 픽셀 25%는 PSNR 25.7dB, 확신이 낮은 25%는 14.4dB로 품질이 크게 갈렸다.
    • 깨끗한 픽셀을 가리는 마스크 조건으로 신뢰할 프레임과 고칠 프레임을 구분해 환각을 막았다(마스크 제거 시 -1.3dB).
    • 카메라 포즈 복원 정확도를 보상으로 Flow-DPO를 적용, 3D 일관성(AUC@5°)을 7.2% 올렸다.
    • 전문가 파이프라인과 동등 이상 품질이면서, 더 강한 영상 모델이 나오면 갈아끼우기만 하면 되는 구조다.
    초록PDF
  50. 996AI / GeneralarXiv:2608.23493

    SRPO: Self-Reflective Policy Optimization for Long-Horizon Reasoning

    이 논문은 모델이 자기 실패 기록을 반성해 '반성 노트'를 만들고 이를 훈련 신호로 쓰는 방법으로, 희소한 보상 문제를 풀어 적은 컴퓨팅으로 큰 성과를 냈다.

    이 논문은 한마디로 '스스로 반성하며 배우는' 강화학습 방법이다. SRPO는 완료된 트레젝토리를 모델 스스로 분석해 간결한 반성 조각을 만들고, 이 반성을 조건으로 한 교사 점수를 학생 롤아웃의 토큰별 밀집 신호로 쓴다. 8B 모델로 수학 AIME'24 73.3%를 대규모 SFT 대비 8% 연산만에 달성했고, 긴 과제(WebShop·ALFWorld·SWE-Bench-Lite)에서도 성공률이 크게 올랐다. 교사 역할도 모델 자신이 맡기 때문에, 모델이 갖고 있지 않은 지식이 필요한 문제에서는 반성이 도움이 되지 않았다.

    • 완주한 트레젝토리에서 스스로 반성 요약을 뽑아, 이를 조건으로 한 밀집 토큰급 훈련 신호를 만들었다.
    • 더 큰 교사 모델이나 외부 크리틱, 별도 보상 모델 없이 모델 자신만으로 돌아가서, 상위 모델을 쓰기 어려운 곳에서도 후속 학습을 적용할 수 있다.
    • Qwen3-8B로 AIME'24 73.3%를 달성했고, 확장 SFT 대비 8%(0.08배) 연산만 썼다.
    • WebShop 64.7%, ALFWorld 76.8%, SWE-Bench-Lite 31.2%로 긴 과제 성공률도 크게 올렸다.
    • 다만 반성이 늘 통하지는 않아서, 실패한 반성의 42%는 두루뭉술한 조언, 35%는 원인 오진, 23%는 모델이 애초에 갖고 있지 않은 지식이 필요한 문제였다.
    초록PDF