HDATF
한국어
도입 상담하기
메뉴

논문 아카이브

수록 논문과 요약을 번호가 큰 순서로 보여 줍니다.

수록 논문 1,193자료 갱신일 벤치마크RSS 구독
  1. 1095Machine LearningarXiv:2609.20807

    Score Centering Stabilizes Off-policy Reinforcement Learning

    LLM 강화학습에서 학습 엔진과 추론 엔진의 미세한 차이가 쌓여 훈련이 무너지는 문제를, '스코어 센터링'이라는 덧셈 보정항 하나로 안정시킨 논문이다.

    이 논문은 한마디로 LLM 강화학습(RL)이 무너지는 진짜 원인이 학습·추론 엔진 간 미세한 수치 차이가 매 스텝 쌓이는 '드리프트'임을 보이고, 이걸 상쇄하는 간단한 덧셈 보정항 '스코어 센터링'을 제안했다. 기존의 중요도 샘플링(확률 비율로 보정)은 분산이 커서 불안정했는데, 이 방법은 비율·클리핑 없이 그냥 스코어의 평균을 빼주기만 한다. 0.6B~30B 모델 실험에서 양자화(저정밀 연산)가 심해질수록 기존 방법보다 더 잘 버텼고, 중요도 샘플링과 같이 쓰면 효과가 더 컸다.

    • RL 불안정의 원인을 '드리프트'(엔진 간 편차가 훈련 스텝마다 누적되는 것)로 특정하고, 이를 상쇄하는 덧셈식 보정항을 수학적으로 유도했다.
    • FP8/INT4 같은 저정밀 양자화 상황에서 800스텝 훈련 시, 스코어 센터링이 PPO·DAPO 등 주요 보정법들을 따라잡거나 앞질렀다.
    • 비율 곱셈이 아니라 덧셈 보정이라 중요도 샘플링과 조합 가능하고, 조합 시 낡은 롤아웃(staleness) 실험에서 순수 중요도 샘플링보다 성적이 더 좋았다.
    • Qwen3-0.6B(Countdown 게임)와 Qwen3-30B(수학 데이터)로 검증했고, 코드를 깃허브에 공개했다.
    초록PDF
  2. 1094LLMs / NLParXiv:2609.19969

    DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression

    긴 컨텍스트 에이전트의 배포 비용 병목인 KV 캐시를 CSA2(층 간 공유)와 FP4 캐시로 1/4까지 줘서 성능은 더 좋아진 DeepSeek 신모델 기술 보고서다.

    이 논문은 한마디로 DeepSeek가 에이전트용 초장문 모델 'V4.1-Flash'를 발표하며 KV 캐시(모델이 문맥을 기억하는 데 쓰는 메모리)를 극한까지 압축한 기술 보고서다. 552B 파라미터의 멀티모달 MoE(전문가 혼합) 모델인데, 인코더-디코더 구조를 바꿔 입력 처리 시엔 8B, 출력 시엔 16B만 켜서 비용을 아꼈다. 층끼리 KV 캐시를 공유하는 CSA2 어텐션과 FP4 저정밀 캐시를 함께 써서 HBM 안 캐시는 토큰당 890바이트, 즉 이전 세전의 약 1/4로 줄였다. 그럼에도 에이전트 벤치마크 성능은 이전 세대보다 오히려 더 좋다.

    • KV 캐시를 층 간 공유(CSA2) + FP4 저정밀 저장으로 묶어, 토큰당 메모리를 이전 세대의 약 1/4(890바이트)로 줄였다.
    • SSD에 저장하는 영구 캐시는 SWA Bounded Replay 기법으로 약 1/8까지 줄여, 긴 대화를 여러 번 이어 쓰는 에이전트에 유리하다.
    • 인코더-디코더 구조(CED)로 입력 처리 시 활성 파라미터를 절반(8B)으로 낮춰, 입력이 많고 출력이 짧은 에이전트 작업에 비용 효율이 좋다.
    • 최대 100만 토큰 컨텍스트를 지원하며, 45T 토큰 멀티모달 데이터로 사전학습하고 대규모 에이전트 과제 합성 + RL로 사후학습했다.
    • 추론 노력(reasoning effort) 설정을 25→100으로 올리면 답 길이가 2.0~3.1배로 예측 가능하게 늘고, 성능도 일관되게 올라가는 것을 8개 벤치마크에서 확인했다.
    • 모델 체크포인트를 허깅페이스에 공개해 바로 써볼 수 있다.
    초록PDF
  3. 1093AI AgentsarXiv:2609.20519

    SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness

    NVIDIA가 자동 연구 루프(RSI)로 에이전트 하네스의 토큰 효율을 개선하는 시스템. 4가지 메커니즘이 살아남아 Codex/Claude Code 대비 토큰 44.7~49.0% 절감, API 비용 약 1/3 절감을 달성했다.

    NVIDIA/NTU/MIT 팀이 재귀적 자기개선(RSI)에서 영감을 받아, AI가 에이전트 하네스 자체를 자동으로 최적화하는 SoL-Pi 시스템을 제안한다. 약 150개 방향과 500개 실행 환경에서 3,000회 이상의 실행과 60,000회 이상의 상호작용을 거쳐 4가지 메커니즘(Action Fusion, Online Context Compaction, ObservationPack, Evidence-Preserving Delegated Reading)이 선발됐다. EdgeBench 51과제에서 GPT-5.6 Sol과 Opus 5 모두 기존 Pi 하네스와 동등한 성능을 유지하면서 토큰 트래픽 44.7~49.0% 감소, API 비용 약 1/3 절감을 달성했다. Codex 대비 시간당 $8.75~13.50, Pi 대비 $4.36~5.71 절약 효과가 있다.

    • RSI(재귀적 자기개선)를 하네스 계층에 적용 — AI가 실행 트레이스를 관찰하고 하네스 코드를 자동 개선
    • 광역→심화 단계별 탐색: 152개 제안 방향 → 500개 실행 환경 → 3,000+ 실행 → 4개 메커니즘 생존
    • 생존한 4개: Action Fusion(명령 병합), Online Context Compaction(컨텍스트 압축), ObservationPack(관찰 묶음), Evidence-Preserving Delegated Reading(위임 읽기)
    • EdgeBench 51과제에서 Pi와 동등한 성능(42.0 vs 44.8) + 토큰 44.7~49.0% 감소 + API 비용 약 1/3 절감
    • GPT-5.6 Sol과 Opus 5 양쪽에서 일관된 개선 — 모델 간 일반화 확인
    • '하네스 사전학습' 개념 제시 — 더 효율적인 하네스가 다음 연구 사이클의 비용을 낮추는 재귀적 효율 개선 비전
    초록PDF
  4. 1092RoboticsarXiv:2609.17524

    Modality-Autoregressive World-Action Models

    로봇 세계-행동 모델이 미래를 RGB 영상 대신 점 궤적·DINO 특징·깊이 같은 가벼운 예측 대상을 한 개씩 순서대로 생성한 뒤 마지막에 행동을 예측하게 한 ModAR을 제안한 논문.

    이 논문은 한마디로 로봇의 미래 예측 모델(WAM)이 미래 장면을 통째로 영상으로 예측하는 대신, 움직임·의미·깊이 정보를 따로 따로 순서대로 예측한 뒤 마지막에 행동을 결정하게 만든 연구다. 모달리티(정보 형태)별로 하나씩 노이즈를 제거하며 생성하고, 앞서 만든 예측을 다음 예측의 조건으로 쓴다. 처음부터 다시 훈련해 비교 실험을 하니 점 궤적·DINO 특징·깊이 예측이 성능을 확실히 끌어올렸고 RGB 영상 예측을 더하는 건 일관된 이득이 없었다. 30.1M(약 3천만) 파라미터의 작은 모델이 60억 규모 사전학습 모델(Flex-π)을 같은 데이터에서 앞질렀고(75% vs 72%), 학습 계산량은 약 20분의 1이었다.

    • 미래를 여러 정보 형태로 순서대로 예측하고 행동을 마지막에 생성하는 '모달리티 자기회귀' 구조를 처음 제안했다.
    • 점 궤적(움직임), DINO 특징(의미), 깊이(기하) 예측은 성능을 올리지만 RGB 영상 예측은 일관된 이득이 없음을 밝혔다.
    • 6B 사전학습 모델 대비 약 20배 적은 학습 계산량으로 비슷하거나 더 나은 성공률(75% vs 72%)을 달성했다.
    • 양팔 로봇 실제 과제(컵 쌓기, 수건 접기, 서랍 정리)에서 기존 방식을 이겼고 사람 영상 데이터를 섞으면 더 좋아졌다.
    • 사전학습 없이 처음부터 훈련해 통제된 비교가 가능하다는 점이 이 분야 실험 설계에 주는 시사가 크다.
    초록PDF
  5. 1091Natural Language ProcessingarXiv:2609.19134

    ScienceIDE: Turning World's Scientific Codebase into Agent Learnable Environments

    전 세계 과학 코드 저장소를 에이전트가 학습할 수 있는 실행 환경으로 바꾸는 인프라 ScienceIDE를 제안하고, 이 경험으로 훈련한 모델 family(PhAI-IDE)가 일반 코딩 능력까지 좋아진 긍정 전이를 보인 논문.

    이 논문은 한마디로 과학 소프트웨어 코드를 AI 에이전트의 훈련장(환경)으로 바꾸는 대규모 인프라를 만든 연구다. 전문가가 정의한 과학 사례와 통과 기준에 따라 저장소를 실행 가능한 환경으로 변환하고, 그 안에서 과제 생성·실행·검증이 돌아가게 한다. 이렇게 만든 2,812개 과제 환경(64개 환경, 27개 코드베이스)에서 검증된 궤적으로 PhAI-IDE 72B/9B/4B 모델을 훈련했더니, 과학 코드 수리뿐 아니라 일반 코딩·추론 벤치마크에서도 향상이 있었다. 즉 과학 경험이 범용 능력으로 긍정적으로 옮겨간다는 증거를 제시한다.

    • 논문·코드가 그대로 훈련 경험이 되지 않는 '과학 경험 병목'을 정의하고 이를 푸는 인프라를 제안했다.
    • 27개 과학 코드베이스를 64개 실행 환경, 2,812개 검증 과제로 바꿨고 천문·기후·재료 등 분야가 넓다.
    • 검증된 궤적으로 훈련한 PhAI-IDE 모델 family가 과학 코드 수리뿐 아니라 일반 코딩·추론 벤치마크에서도 좋아졌다.
    • ScienceIDE-Hard 평가에서 최상위 모델(Claude Fable 5.1)도 67% 수준에 그쳐, 과학 코딩이 여전히 어려운 영역임을 보여준다.
    • SFT와 강화학습, 평가가 같은 환경 위에서 돌아가는 통합 작업공간을 지향한다는 점에서 LabChin 구조와 직접 공명한다.
    초록PDF
  6. 1090Computer VisionarXiv:2609.19138

    In-Context Robot Learning with VLM Agents

    상용 VLM(GPT-6 등)을 로봇 전용 학습 없이 그대로 연결해, 사람 영상 시연이나 상호작용 기록만 보고 즉석에서 새 로봇 과제에 적응하는 '문맥 학습' 프레임워크를 제안한 논문.

    이 논문은 한마디로 로봇 전용 훈련을 받지 않은 범용 비전-언어 모델(VLM)이 시연 영상만 보고 새 과제를 즉석에서 수행할 수 있는지를 검증한 연구다. GPT-Policy 프레임워크는 과제에 필요한 장면 전환만 골라 담는 문맥 컴파일러, VLM이 도구 행동을 제안하는 부분, 행동을 검증·실행하는 제한적 컨트롤러 세 부분으로 이뤄진다. 실제 로봇 실험에서 사람 동영상 시연만 줘도(로봇 행동 라벨 없이) 과제 완수율이 올라갔고, 접촉이 민감한 과제에선 정렬된 행동 참고자료가 추가 이득을 냈다. 다만 정확한 접촉이나 결과 검증 같은 물리 실행의 마지막 신뢰성은 여전히 풀 과제로 남았다.

    • 로봇 학습 없이 상용 VLM의 능력만으로 현장 적응이 어느 정도 되는지를 체계적으로 측정한 첫 사례에 가깝다.
    • 사람 동영상 시연만으로도 과제 진행률이 55%에서 100%로 올라가고, 실행 시간과 토큰 사용량도 줄었다.
    • 목표 이미지, 로봇 영상+행동, 상호작용 기록 등 5가지 문맥 형태를 같은 실행 틀 안에서 비교했다.
    • 티택토 같은 인간-로봇 상호작용 과제에서 GPT-6 Astra가 3/3 성공하며 차례 지키기와 전략 추론을 함께 해냈다.
    • 반면 정밀 접촉, 결과 검증, 안전 문제는 범용 모델만으로 해결되지 않는 한계를 명확히 드러냈다.
    초록PDF
  7. 1089RoboticsarXiv:2609.18207

    Reinforcement Learning for Real-Time Vision-Language-Action Policies

    거대 로봇 비전-언어-행동(VLA) 모델이 느려서 행동이 늦는 문제를, 큰 모델은 행동을 '제안'하고 작은 수정 정책이 최신 관측을 보고 즉시 '수정'하는 이중 구조로 풀고 강화학습으로 미세조정한 논문.

    이 논문은 한마디로 느린 큰 로봇 모델과 빠른 작은 수정 모듈을 나눠 실시간 로봇 제어를 가능하게 만들고, 여기에 강화학습을 얹어 성능까지 끌어올린 연구다. 큰 VLA 모델은 행동 묶음을 천천히 제안하고, 가벼운 수정 정책(edit policy)이 최신 카메라 정보를 보며 실행 직전에 행동을 고친다. 공이 굴러가는 접시 받침, 회전하는 물건 집기 같은 빠른 반응이 필요한 실제 과제에서 온라인 데이터 10분 만에 평균 성공률을 42%에서 97%로 올렸다. 시뮬레이션 벤치마크(Kinetix)에서도 지연이 있는 방법 중 10개 환경 모두에서 최고 성적을 냈다.

    • 큰 VLA 모델의 추론 지연 때문에 실행 시점의 관측이 낡는 문제를 '느린 제안 + 빠른 수정' 이중 구조로 해결했다.
    • 모방학습 기반이던 기존 실시간 실행 방식과 달리, 강화학습 미세조정으로 훈련 분포를 넘어 신뢰성을 높였다.
    • 실제 로봇 4개 과제(물건 전달, 공 균형, 탁구공 차기, 동적 집기)에서 온라인 데이터 10분 만에 성능을 42%에서 97%로 끌어올렸다.
    • 사람의 개입 없이 학습이 자동으로 돌아가는 점이 실제 현장 적용에서 중요한 의미를 갖는다.
    • Kinetix 시뮬레이션 벤치마크에서 지연/무지연 모든 방법을 제치고 10개 환경 전부에서 최고 성능을 냈다.
    초록PDF
  8. 1088Machine LearningarXiv:2609.15903

    Discrete Beckmann Transport Models for One-Step Language Modeling and Reasoning

    디퓨전 언어모델을 한 번의 계산으로 문장을 뽑는 '한 걸음 생성'으로 압축하되, 기존의 교사 모델 증류 없이 데이터에서 직접 학습하는 DBTM을 제안한 논문.

    이 논문은 한마디로 자기회귀가 아닌 디퓨전 방식 언어모델을 한 번(또는 몇 번)의 계산으로 생성하게 만드는 새로운 수송맵 학습법이다. 시간에 무관한 흐름(autonomous flow)의 지도가 어떤 점이든 정점(완성된 문장)으로 수렴한다는 성질을 이용해, 보존방정식 잔차를 최소화하면 교사 모델 없이 데이터에서 직접 한 걸음 지도를 학습할 수 있음을 증명했다. 부분 학습된 지도를 반복 적용하면 정점에 닿으므로, 적게 계산하고도 품질을 올릴 수 있다. 언어모델링과 추론 과제에서 디퓨전·플로우 기준 모델들을 같거나 더 적은 계산량으로 앞질렀다.

    • 한 걸음 수송맵이 보존방정식 b·∇T=0을 만족한다는 이론을 세우고, 그 잔차를 최소화해 교사 증류 없이 직접 학습하는 방법을 만들었다.
    • 부분 학습된 지도를 반복 적용하면 고정점(완성 문장)에 수렴하므로, 계산 횟수를 줄이고도 정확도를 끌어올릴 수 있다.
    • 부분 문맥 보간으로 추가 계산을 '정제 단계'로 활용하는 자기수정 생성을 지원한다.
    • 언어모델링(OpenWebText 생성 PPL)과 추론 과제에서 디퓨전/플로우 맵 기준 모델(FMLM 등)보다 같거나 적은 함수평가횟수로 더 좋은 성능을 냈다.
    초록PDF
  9. 1087AI / GeneralarXiv:2609.15818

    Atria Dawn: The Dawn of Agentic Superintelligence

    744B MoE 기반 에이전틱 모델 'Atria Dawn Preview'를 내고, 자기 개발 과정 769건의 작업 기록을 분석해 'AI는 실행, 사람은 판단'이라는 새로운 연구 협업 구도를 보여준 논문.

    이 논문은 한마디로 연구·엔지니어링용 에이전트 언어모델 Atria Dawn Preview를 소개하고, 그 개발 과정 자체를 인간-AI 협업 사례로 분석한 것이다. 모델은 도구 사용 결과를 외부 검증(테스트·메트릭)으로 확인하는 '검증 가능한 경험 파이프라인'으로 학습됐고, 16개 벤치마크 중 5개에서 최고 점수를 냈다. 개발 기록 769건을 분석하니 AI가 방법 제안과 수정 실행을 주도하고, 사람은 평가·선택·방향 결정에 집중하는 패턴이 드러났다. 참가자들은 완료된 AI 지원 작업의 약 3분의 1을 'AI 없이는 불가능했다'고 평가했다.

    • 744B 파라미터 MoE 기반 에이전틱 모델을 도구 사용→산출물→외부 검증으로 이어지는 학습 파이프라인으로 훈련했다.
    • 16개 벤치마크 중 5개에서 최고 점수, 3개에서 차점을 기록했다 (SWE-bench Pro 59.6, GDPval 1583 등).
    • 자기 개발 과정의 작업 기록 769건(참가자 56명)을 분석하는 실증적 인간-AI 협업 연구를 함께 수행했다.
    • AI 지원 작업의 약 3분의 1이 같은 조건에서는 AI 없이 불가능했다는 참가자 평가가 나왔다.
    • 에이전트는 방법 제안·수정 실행을, 인간은 평가·선택·방향 결정을 맡는 '프로젝트 수준 파트너십'으로 역할이 이동하고 있음을 보여줬다.
    초록PDF
  10. 1086AI / GeneralarXiv:2609.15364

    RSIAgent: Autonomous Exploration for Recursive Self-improvement in New Environments

    새 환경에 던져진 에이전트가 사람 도움 없이 스스로 탐색하며 '환경 사용 설명서'를 메모리로 쌓아, 오픈소스 모델을 GPT-6급 이상으로 끌어올리는 훈련 없는 자기개선 프레임워크.

    이 논문은 한마디로 에이전트가 낯선 환경에서 스스로 탐색하고 검증하면서 재사용 가능한 기억(메모리)을 쌓는 방법이다. 커리큘럼/실행/검증 에이전트 셋이 돌아가며 '뭘 탐색할지 → 해보고 → 맞는지 확인' 루프를 반복하고, 넓게 훑은 뒤 깊게 파는 전략으로 숨은 규칙과 실패 조건까지 찾아낸다. 만들어진 메모리는 얼려서 그대로 재사용하므로 모델 파라미터를 전혀 수정하지 않는다. 그 결과 Kimi-K3와 GLM-5.3 같은 오픈소스 모델이 OSWorld-v2와 Agent's Last Exam에서 GPT-6, Claude Opus 5 같은 최상위 폐쇄형 모델을 추월했다.

    • 커리큘럼·실행·검증 에이전트 3역할을 돌리는 재귀 자기개선 루프를 제안해 사람 감독 없이 환경 지식을 쌓았다.
    • '넓게 병렬 탐색 → 중요 방향 깊게 파기' 2단계 전략으로 코너 케이스와 숨은 제약조건까지 메모리에 담았다.
    • 단순 성공 기록이 아니라 행동→조건→결과의 인과관계를 메모리에 저장해 다른 작업에도 재사용했다.
    • 학습 없이(파라미터 수정 없이) 메모리만으로 오픈소스 모델(Kimi-K3, GLM-5.3)을 GPT-6급 성능 이상으로 끌어올렸다.
    • OSWorld-v2에서 부분점수 78.82, Agent's Last Exam 71.60 등 최전선 폐쇄형 모델 추월을 실증했다.
    초록PDF
  11. 1085LLMs / NLParXiv:2609.10715

    NCP-ArchPreview Technical Report: Moving towards Latent Space Language Models through Next Concept Prediction

    다음 토큰과 함께 여러 토큰을 묶은 개념도 예측해 언어 모델의 학습 효율과 성능을 높이는 구조를 제안한다.

    NCP-ArchPreview는 다음 토큰을 예측하는 기존 방식에 다음 개념을 예측하는 학습 목표를 더한 언어 모델이다. 모델 내부의 표현을 여러 토큰에 걸친 이산적인 개념으로 압축하고, 별도 모듈이 예측한 개념을 다시 토큰 생성에 전달한다. 연구진은 8.9B 규모 모델을 Dolma-3 데이터의 5.73T 토큰으로 학습했으며, 전체 학습 토큰의 51.3%를 사용한 시점에 OLMo-3-7B의 최종 사전학습 손실에 도달했다고 보고했다. 전체 사전학습 뒤에는 OLMo-3-7B보다 후속 과제의 전체 평균 점수가 2.45점, GSM8K 점수가 5.99점 높았다. 개념 관련 모듈만 조정하는 가벼운 분야 적응과 추측 디코딩 보조에도 활용 가능성을 보였지만, 이번 보고서에는 긴 문맥 학습이 포함되지 않았다.

    • 연구 방법은 내부 표현으로 개념 사전을 만들고 다음 개념 예측과 다음 토큰 예측을 함께 학습하며, 예측한 개념을 토큰 생성에 다시 전달하는 것이다.
    • 8.9B 모델은 OLMo-3-7B가 사용한 전체 학습 토큰의 51.3%로 해당 기준 모델의 최종 사전학습 손실에 도달했고, 전체 학습 뒤 후속 과제의 전체 평균 점수는 2.45점 높았다.
    • 모델 크기를 8.9B로 맞춘 별도 기준 모델과 비교해도 기준 계산량의 85%를 사용해 비슷한 학습 손실에 접근해, 성능 개선이 모델 크기 차이만으로 설명되지 않음을 보였다.
    • 17M 규모의 개념 관련 모듈만 조정하는 분야 적응을 제시했으며, 개념 표현을 DFlash2의 초안 생성기에 넣었을 때 평균 수용 길이가 4.17% 늘어 추측 디코딩을 돕는 가능성도 보였다.
    • 이번 구조 공개판은 표준 문맥 길이에서 평가됐고 긴 문맥 학습은 포함하지 않아, 장문 처리 환경에서도 같은 이점이 유지되는지는 추가 검증이 필요하다.
    초록PDF
  12. 1084Machine LearningarXiv:2609.11873

    The Last AI Built by Humans: Toward Genuine Recursive Self-Improvement

    AI가 스스로를 개선하는 '재귀적 자기개선(RSI)'의 현주소를 5단계 자율성 지도로 정리한 대형 종설. 산업 사례 100곳 이상을 등급 매긴 것이 특징.

    이 논문은 한마디로 'AI가 자기 자신을 점점 더 잘 개선하게 만드는 기술(RSI)'의 현 수준을 체계적으로 정리한 지도다. 저자들은 자율성을 5단계(L1 개선 실행 → L5 개선 방법 자체의 개선)로 나누고, 과학·로봇·소프트웨어·의료 분야별 요구사항을 비교했다. 학계 논문뿐 아니라 실제 회사 100곳 이상의 사례를 조사해 각각 어느 단계인지 등급을 매겼다. 결론은 현재 대부분 시스템이 L1~L2 수준이며, 진짜 재귀적 자기개선까지는 검증과 환경 구축이 남은 과제다.

    • 자율성 5단계 프레임워크(B0~L5)를 제안해 흩어진 자기개선 연구를 하나의 지도로 정리했다.
    • Anthropic, DeepSeek, Tencent 등 100곳 이상 산업 사례를 직접 조사해 단계별로 등급을 매겼다.
    • 개발 부담의 실체를 숫자로 보여줬다: 멀티에이전트는 일반 챗보다 토큰을 약 15배 쓰고, DeepSeek-V3.2는 사후학습에 사전학습의 10% 이상을 썼다.
    • OpenAI GPT-5.6 사례에서 AI가 실험을 직접 설계·실행해 토큰 생성 효율을 15% 이상 끌어올린 사례를 근거로 제시했다.
    • 핵심 장벽으로 신뢰할 수 있는 검증(verification)과 학습 환경 구축을 꼽고, 이게 RSI의 병목이라고 진단했다.
    초록PDF
  13. 1083Machine LearningarXiv:2609.11801

    Thinking with Looped Flows

    어려운 문제일수록 더 오래 '생각'하는 루프 모델의 학습 문제를, 노이즈 제거 목표(디노이징)를 단계별로 묶는 플로우 학습으로 풀어낸 논문이다.

    이 논문은 한마디로 반복적으로 숨은 상태를 갱신하며 '더 오래 생각'하는 루프 모델을, 노이즈에서 답으로 가는 플로우(흐름) 학습과 결합해 어려운 추론 문제를 더 잘 풀게 만든 연구다. 기존 루프 모델은 학습 시 그래디언트가 몇 스텝만 전달돼서 앞쪽 계산이 뒤쪽을 돕도록 배우기 어려웠는데, 점점 줄어드는 노이즈 수준과 공유 노이즈로 디노이징 목표를 시간축으로 연결해 이 문제를 피했다. 추론 때는 학습된 디노이저로 정의된 확률 흐름을 적분해 답을 만들며, 시간 격자를 촘촘히 하면 계산을 더 쓰는 만큼 성능이 올라간다. 결과적으로 6개 추론 벤치마크에서 기존 최고 성능 루프 모델을 전반적으로 앞서, ARC-AGI-1에서 58.8%, ARC-AGI-2에서 12.2% 정확도를 달성했다.

    • 같은 구조의 기존 최고 모델(TRM) 대비 ARC-AGI-1 정확도를 44.6%에서 58.8%로, ARC-AGI-2를 7.8%에서 12.2%로 끌어올렸다.
    • 기존 루프 모델이 실패하던 케이스의 90.9%를 해결했다. 특히 '수렴 실패' 케이스의 89.9%, '틀린 답에 안착' 케이스의 98.0%를 복구했다.
    • 정답이 여러 개인 문제(N-Queens, 그래프 색칠)에서도 다른 샘플링으로 서로 다른 유효한 답들을 여러 개 뽑아내, 모든 지표에서 최고 성능을 냈다.
    • 추론 시간 격자를 촘촘히 하거나 고급 적분기를 쓰는 것만으로 성능이 추가로 올라가, '계산을 더 쓸수록 더 잘 푼다'는 목표를 실현했다.
    • 제거 실험에서 시간 조건, 인터폴랜트, 점감 노이즈, 노이즈 공유 등 플로우 구성요소 각각이 성능에 의미 있게 기여했다.
    초록PDF
  14. 1082LLMs / NLParXiv:2609.10745

    Think Before You Link: Rarity, Reasoning, and Retrieval in Multilingual Entity Linking

    이미지와 글에 등장하는 드문 대상을 정확한 지식 항목에 연결하려면 검색과 추론을 함께 사용하는 방식이 효과적이다.

    이 연구는 여러 언어의 글과 이미지에 나온 인물이나 사물을 위키백과의 정확한 항목에 연결하는 문제를 다룬다. 연구진은 조회 수뿐 아니라 지식 그래프의 연결과 설명 수준을 이용해 잘 알려지지 않은 대상을 구분했다. 이어 추가 학습 없이 시각 언어 모델이 위키백과를 반복 검색하고 찾은 근거를 검토하는 방법을 제안했다. 다섯 언어의 평가에서 검색과 추론을 함께 쓸 때 가장 좋은 결과를 얻었고, 드문 대상을 식별하는 성능도 개선됐다. 다만 평가 대상은 영어 위키백과 문서가 있는 항목으로 제한되며, 필요한 정보를 검색하지 못하는 문제가 여전히 주요 오류 원인으로 남았다.

    • 조회 수 중심의 희소성 평가를 보완하기 위해 위키데이터의 연결 수와 설명 정보 등 구조적 지표로 드문 대상의 평가 집합을 구성했다.
    • 추론 가능한 시각 언어 모델이 영어 위키백과를 반복 검색하면서 근거를 모으도록 설계했으며, 제안한 절차를 적용하기 위한 추가 모델 학습은 하지 않았다.
    • 힌디어, 인도네시아어, 일본어, 타밀어, 베트남어로 구성된 MERLIN 평가에서 검색과 추론의 결합이 가장 좋은 성능을 보였고, 추론만으로는 드문 대상의 정확도가 유의하게 개선되지 않았다.
    • 검색만 추가하면 드문 대상의 성능은 좋아져도 전체 정확도가 떨어질 수 있어, 검색 결과를 판별하는 추론 과정이 다국어 정보 연결 시스템에 중요함을 보여준다.
    • 영어 위키백과 문서가 없는 대상에는 적용 가능성이 제한되고, 분석한 잔여 오류에서는 검색 실패가 가장 큰 비중을 차지해 검색 품질 개선이 주요 과제로 남았다.
    초록PDF
  15. 1081Machine LearningarXiv:2609.11917

    Data Scarcity and Model Sparsity: Mixtures-of-Experts Overfit More to Repeated Data

    전문가 혼합 모델은 같은 학습 데이터를 반복해서 사용할 때 일반 밀집 모델보다 과적합이 빠르게 심해질 수 있다.

    이 연구는 학습 자료가 부족해 같은 데이터를 여러 번 사용할 때 전문가 혼합 모델이 얼마나 잘 버티는지 살펴본다. 연구진은 데이터 반복 횟수와 분야, 전문가 수와 크기를 바꾸면서 일반 밀집 모델과 비교했다. 실험에서는 전문가 혼합 모델의 성능이 반복 학습에 더 민감했고, 이 경향은 실제 계산에 쓰이는 매개변수보다 전체 매개변수 수와 더 밀접했다. 학습 중 일부 출력을 가리는 방법은 과적합을 줄였지만, 모두 서로 다른 데이터로 학습한 성능을 완전히 회복하지는 못했다. 따라서 학습 비용을 줄이기 위해 전문가 혼합 구조를 선택할 때는 계산량뿐 아니라 확보한 고유 데이터의 양과 반복 정도도 함께 고려해야 한다.

    • 연구진은 활성 매개변수 8천만 개부터 10억 개까지의 모델에서 데이터 반복률, 분야별 혼합 비율, 전문가 수와 크기를 바꾸어 비교했다.
    • 활성 매개변수 8천만 개 규모의 실험에서는 전문가 혼합 모델이 데이터를 네 번 반복할 때부터 성능 저하를 보였고, 높은 반복률에서는 밀집 모델에 대한 성능 우위를 잃었다.
    • 전문가 선택 경로가 학습 초기에 고정되는 현상과 반복 데이터에 대한 전문가의 과도한 특화가 관찰되어, 과적합을 이해하는 단서를 제공했다.
    • 드롭아웃과 출력 가리기는 반복 학습의 피해를 완화했으며, 데이터가 제한된 환경에서는 모델 구조와 함께 이런 과적합 완화 방법을 검토할 필요가 있음을 보여준다.
    • 실험한 완화 방법 중 어느 것도 고유 데이터만 사용한 학습 성능을 완전히 재현하지 못했으므로, 반복 학습을 새 데이터 확보의 완전한 대체 수단으로 볼 수는 없다.
    초록PDF
  16. 1080Computer VisionarXiv:2609.11929

    SenseNova-U1.5: Towards Native Unified Visual Intelligence

    이 논문은 이미지 '이해'와 '생성'을 하나의 모델에서 처리하는 문제를, 비전 인코더와 VAE(이미지를 압축하는 부품) 없이 픽셀에서 바로 배우는 단일 아키텍처로 풀었다.

    이 논문은 한마디로 이미지를 보는 것과 만드는 것을 하나의 8B 모델(SenseNova-U1.5)이 픽셀 단위 표현 하나로 함께 하게 만든 연구다. 기존 시스템은 이해용 인코더와 생성용 VAE라는 서로 다른 부품을 썼는데, 이 논문은 둘 다 없애고 32x32 픽셀을 토큰 하나로 압축한 뒤 이웃 영역끼리 정보를 주고받으며(공간적으로 이어붙이는 재구성) 4K 해상도까지 자연스러운 이미지를 만든다. 훈련은 각 능력(미적 감각, 중영문 글자 렌더링, 인포그래픽, 이미지 편집)마다 전문 강화학습 전문가를 따로 만들고, 이걸 다시 한 모델로 통합하는 온-폴리시 증류(모델 자신의 생성 경로를 따라 지식을 옮기는 기법)로 합쳤다. 그 결과 이미지 품질, 글자 렌더링, 복잡한 구도, 여러 참고 이미지 편집, 텍스트-이미지 섞어 쓰기에서 상용 최고 모델들(Nano-Banana-Pro, GPT-Image-2 등)을 넘어서는 성적을 냈다.

    • 인코더와 VAE를 없애고 픽셀에서 직접 배우는 단일 구조로, 이미지 이해·추론·생성·편집을 한 모델에서 처리했다.
    • 각 픽셀 조각을 따로 예측하던 기존 방식을 고쳐, 이웃 영역끼리 정보를 주고받는 재구성 방식으로 바꿔 고해상도(4K)에서도 이음새 없는 이미지를 만들었다.
    • 능력마다 전문 강화학습 전문가를 따로 훈련한 뒤 온-폴리시 증류로 하나로 합치는 '특화 후 통합' 전략을 썼다.
    • 텍스트-이미지 교차 생성 벤치마크 VBVR-Pro-Bench에서 68.2점으로 Nano-Banana-Pro(56.4)와 GPT-Image-2(50.7) 같은 상용 모델을 제쳤다.
    • 생성 학습데이터에 구조화된 형식이 거의 없었는데도 길고 복잡한 구조적 지시를 잘 따르는 것을 확인해, 이해 능력이 생성 능력으로 옮겨간다는 것을 보여줬다.
    • 추론 중심 편집 벤치마크(RISEBench)에서 사고 과정(CoT)을 쓰면 인과·논리·시간 편집 성적이 크게 올라갔다.
    초록PDF
  17. 1079Machine LearningarXiv:2609.10464

    Semigroup-JEPA: Latent Dynamics Consistency for Zero-Shot Physics Generalization

    중력 조건과 여러 단계의 미래 예측을 함께 학습해 낯선 중력에서도 물체 움직임과 로봇 제어에 유용한 표현을 만드는 연구다.

    이 연구는 영상에서 세계를 압축해 표현하는 모델이 학습 때와 다른 중력에서도 움직임을 예측할 수 있는지 살펴본다. SG-JEPA는 중력 값을 입력으로 주고, 여러 단계의 미래를 연속해서 예측하는 동안 영상 인코더와 예측기를 함께 학습한다. 연구진은 중력을 바꾼 시뮬레이션에서 기존 모델보다 장기 예측과 로봇 조작 성능이 좋아졌다고 보고한다. 추가 분석에서는 예측기 자체보다 움직임에 필요한 정보를 보존하도록 개선된 영상 표현이 성능 향상의 주요 원인으로 나타났다. 다만 실험에서 바꾼 물리 변수는 중력 하나이며, 새로운 물체 모양이나 복잡한 회전으로의 일반화에는 한계가 있다.

    • SG-JEPA는 중력 조건을 받아 여러 단계의 잠재 상태를 재귀적으로 예측하며 인코더와 예측기를 공동 학습한다.
    • 학습에서는 좁은 중력 범위를 사용하고 평가에서는 더 넓은 중력 범위를 사용하는 여덟 가지 MuJoCo 데이터셋으로 일반화를 시험한다.
    • 논문은 DINO-WM 대비 2차원 예측 오차가 최대 절반 수준으로 줄고 3차원 로봇 제어 성공률이 최대 2.5배로 높아졌다고 보고한다.
    • 고정한 인코더에 새 예측기를 학습하는 분석은 동역학에 필요한 표현의 개선이 핵심임을 보여 주며, 이 표현을 별도 확산 정책의 제어 입력으로 활용한다.
    • 중력 이외의 여러 물리 변수를 함께 바꾸는 상황은 검증하지 않았고, 물체 형태와 회전이 달라질 때의 전이는 불균일하다는 한계가 있다.
    초록PDF
  18. 1078Computer VisionarXiv:2609.10540

    Programmable World Model

    영상 생성 AI로 만든 가상 세계가 '상태를 기억하지 못하는' 문제를, 게임 엔진처럼 상태는 프로그램이 따로 관리하고 영상은 렌더러로 분리해 해결한 논문.

    이 논문은 한마디로 '생성 AI 영상만으로 세계를 기억하면 안 되고, 상태 관리와 그림 그리기를 분리해야 한다'는 논문이다. 코딩 에이전트가 사용자 지시를 실행 가능한 프로그램(엔티티 상태와 상태 변화 규칙)으로 바꾸면, 가벼운 엔진이 화면 밖 정보까지 포함한 전체 세계 상태를 계속 유지한다. 이 상태를 3D 방향성 바운딩 박스(OBB, 물체의 위치·크기·방향을 담은 상자)로 표현해 영상 생성 모델에 넘기면, 영상 모델은 사실적인 '렌더러' 역할만 한다. 그 결과 만든 게임 같은 상황에서 살아있는 캐릭터 수를 정확히 유지하는 정확도 94%, 사망 같은 상태 변화를 화면에 제대로 반영하는 정확도 98%를 달성해 기존 대화형 영상 세계 모델을 크게 앞섰다.

    • 세계 상태를 관리하는 엔진과 영상을 생성하는 렌더러를 분리해, 영상 세계 모델의 '기억하지 못하는' 문제를 구조적으로 해결했다.
    • 코딩 에이전트가 자연어 지시를 실행 가능한 프로그램으로 바꿔, 사용자가 게임 규칙을 직접 프로그래밍할 수 있게 했다.
    • 3D OBB라는 중간 표현을 써서 프로그램이 다루기 쉬우면서도 영상 생성을 정밀하게 안내할 수 있게 했다.
    • 새 벤치마크 CombatStateBench에서 캐릭터 수 유지 정확도 94%, 상태 반영 정확도 98%로 기존 모델들을 최대 62%p 차이로 앞섰다.
    • 영상 품질 지표(VBench) 4개 항목에서도 모두 최고 성적을 유지해, 구조화된 제어가 화면 품질을 해치지 않음을 보였다.
    초록PDF
  19. 1077RoboticsarXiv:2609.10522

    Show-Harness: Just a VLM Agent Can Play Robots

    VLM(이미지를 이해하는 AI)이 로봇을 '게임처럼 조작'할 수 있게 해주는 인터페이스를 만들어, 추가 학습 없이도 프론티어 모델이 로봇 팔을 제어할 수 있음을 보인 논문.

    이 논문은 한마디로 'AI가 로봇을 조종하기 어려운 이유는 모델이 아니라 인터페이스 때문'이라며, 사람이 이해하는 수준의 간단한 동작 명령(전진·회전·집기 등)으로 로봇을 조작하는 방법을 제안했다. VLM이 이 명령들을 골라내면 로봇마다 붙는 '해석기'가 실제 움직임으로 확정적으로 바꿔주는 구조다. 이 방식만으로 구형 최신 VLM(Gemini-3.1 Pro)을 파인튜닝 없이(제로샷) 로봇 제어에 쓸 수 있었고, 실제 과제에서 96% 성공률을 기록했다. 작은 2B급 오픈소스 모델도 GPU 몇 시간만 학습하면 같은 방식으로 로봇을 다룰 수 있었다. 또한 GUI(화면 클릭 인터페이스)로 사람과 에이전트가 특수 장비 없이 로봇 시연 데이터를 모을 수 있는 GUMI 도구도 함께 만들었다.

    • VLA(비전-언어-행동 모델)처럼 로봇 전용 재학습을 하지 않고, 의미 있는 동작 단위 인터페이스만으로 기초 VLM의 지능을 로봇 제어로 끌어냈다.
    • 최신 폐쇄형 VLM을 학습 없이(제로샷) 그대로 로봇 에이전트로 쓸 수 있음을 실제 로봇 팔 실험에서 확인했다.
    • 작은 오픈소스 VLM(2B급)도 몇 GPU시간의 가벼운 파인튜닝만으로 같은 동작 공간에서 로봇을 다룰 수 있어, 저비용 배포 경로도 열렸다.
    • 작업·로봇 형태·환경이 바뀌어도 기존 에이전트 방식과 VLA 방식보다 일반화가 좋았다.
    • GUMI라는 GUI 기반 조작 화면을 만들어, 값비싼 원격조종 장비 없이도 사람과 에이전트가 로봇 시연 데이터를 함께 수집할 수 있게 했다.
    • 핵심 구성요소를 하나씩 빼는 실험에서 계획·실패 복구·동작 기록 등이 성공률을 최대 24~35%p 끌어올린다는 걸 보여줬다.
    초록PDF
  20. 1076LLMs / NLParXiv:2609.08936

    AuK Technical Report: An Open-Source Foundational Model for Speech Generation and Editing

    AuK는 자연어 지시와 오디오 문맥으로 음성 생성부터 내용과 음향 편집까지 수행하는 통합 모델이다.

    AuK는 새로운 음성을 만드는 작업과 기존 음성의 내용이나 소리를 바꾸는 작업을 하나의 입력 방식으로 통합한다. 사용자는 자연어로 원하는 변화를 설명하고 필요하면 참고 오디오를 함께 제공한다. 모델은 언어 기반 의미 정보와 압축된 오디오 표현을 결합하며 생성과 편집을 공동 학습한 뒤 사람의 선호와 보상 신호로 보완된다. 경량화한 AuK-Flash는 네 단계 추론을 사용하며 논문이 비교한 동일 조건에서 전체 모델보다 실제 실행 시간이 4.5배 빨랐다. 다만 복합적인 지시를 정확히 이해하는 능력은 더 개선해야 하며 명시적인 작업 분류와 지시문 보완의 도움을 여전히 받는다.

    • 자연어 지시와 오디오 문맥을 공통 입력으로 사용해 음성 생성, 내용 편집, 복원과 분리, 발화 특성 및 음향 편집을 다룬다.
    • 멀티모달 언어 모델의 의미 조건과 오디오 VAE의 음향 조건을 결합하고 생성 중심 준비 학습 이후 생성과 편집을 공동 학습한다.
    • 생성과 편집에 서로 다른 후속 학습 신호를 적용하며 AuK-Flash는 네 단계 추론으로 비교 조건에서 4.5배의 실행 속도 향상을 보고했다.
    • 서로 다른 오디오 작업을 통합된 인터페이스로 다룰 수 있어 음성 제작과 편집 도구를 구성하는 기반으로 활용할 수 있다.
    • 복합 지시의 이해와 새로운 지시 조합으로의 일반화는 미해결 과제이며 현재 시스템은 작업 분류와 지시문 보완에 일부 의존한다.
    초록PDF
  21. 1075RoboticsarXiv:2609.07398

    OpenWAM: An Open, Modular Exploration Towards Systematic World-Action Model Pretraining

    OpenWAM은 영상 생성 지식을 로봇 행동 학습에 옮기는 설계 요소를 모듈로 나누어 비교할 수 있게 만든 공개 연구 체계다.

    세계와 행동을 함께 배우는 로봇 모델은 여러 구성 요소가 밀접하게 연결되어 있어 어떤 설계가 성능을 높이는지 구분하기 어렵다. OpenWAM은 모델 구조와 시각 표현, 정보 흐름, 학습과 평가 절차를 조합 가능한 모듈로 분리한다. 통제 실험에서는 충분한 생성 모델 능력, 정보가 풍부한 압축 표현, 행동 전용 용량과 명시적인 정보 전달이 중요하다고 보고한다. 이 원칙을 적용한 OpenWAM-alpha는 약 6,400시간의 사람 시점 영상과 로봇 데이터로 사전 학습되었으며 시뮬레이션과 실제 로봇에서 평가되었다. 공개된 초록의 결과는 시험한 조작 환경에 대한 근거이므로 모든 로봇이나 물리 환경에서 같은 성능을 보장하는 것으로 해석해서는 안 된다.

    • OpenWAM-Infra는 세계와 행동 모델의 설계 공간을 모듈로 나누고 학습, 추론, 배포와 평가 절차를 통합한다.
    • 통제 실험을 통해 생성 모델과 압축 표현의 역할, 세계 예측에서 행동으로 전달되는 정보, 공동 학습의 효과를 구분해 조사한다.
    • 약 6,400시간의 사람 시점 및 로봇 데이터로 학습한 모델을 여덟 시뮬레이션 벤치마크와 실제 로봇 조작 실험에서 평가했다.
    • 설계와 평가 조건을 공유하므로 개별 구성 요소를 바꾸어 성능 차이를 재현하고 로봇 학습 방법을 비교하는 데 활용할 수 있다.
    • 확인한 초록의 성능 주장은 평가한 단일 팔, 양팔과 손 조작 환경에 한정되며 모든 로봇 환경에 대한 검증 결과는 아니다.
    초록PDF
  22. 1074Computer VisionarXiv:2609.09155

    SyncWorld: Visual Calibration Enables World Models as Zero-Shot Simulators

    SyncWorld는 짧은 로봇 보정 영상과 행동 기록을 이용해 새로운 환경에서도 행동의 시각적 결과를 추가 학습 없이 예측한다.

    로봇에 같은 이동 명령을 내려도 카메라 위치나 로봇 배치가 달라지면 영상 속 움직임은 달라진다. SyncWorld는 각 제어 방향으로 움직이는 짧은 영상과 행동 기록을 입력받아 현재 환경에서 명령과 화면 변화가 어떻게 연결되는지 파악한다. 이를 바탕으로 처음 보는 환경에서도 추가 학습 없이 행동 이후의 영상을 예측한다. 연구진은 이렇게 만든 가상 실행 결과를 활용해 평가 시점의 로봇 정책 선택을 개선할 수 있음을 보였다. 다만 극단적인 카메라 시점이나 낯선 물체와의 상호작용에서는 움직임이 불분명해지거나 물체 상태를 잘못 예측하는 문제가 남는다.

    • 로봇의 제어 방향별 움직임을 담은 영상과 행동 기록을 보정 문맥으로 제공해 환경별 명령과 시각 변화의 대응을 학습한다.
    • 예측 시에는 보정 문맥과 최근 관측, 앞으로 실행할 행동을 함께 이용하며 새로운 환경에 맞춘 추가 학습을 요구하지 않는다.
    • 연구진은 보지 못한 환경에서 행동 결과를 모사하고 이 예측으로 평가 시점의 정책 성능을 개선하는 실험을 제시했다.
    • 카메라나 로봇 배치가 바뀔 때마다 시뮬레이터를 새로 학습하는 부담을 줄일 수 있다는 의미가 있다.
    • 극단적인 시점에서는 궤적 예측이 불안정하고 학습 분포 밖의 물체를 다룰 때 물체가 흐려지거나 위치가 잘못 표현될 수 있다.
    초록PDF
  23. 1073Computer VisionarXiv:2609.05416

    WorldSculpt: Generating Compositional Worlds from Grounded Videos

    수백 개 물체가 겹쳐 있는 복잡한 장면을 각 물체별 3D 메시(물체의 3D 형태 데이터)로 따로따로 분리해 재구성하는 프레임워크. 단일 물체 생성 모델을 재활용해 장면 학습 없이 해결했다.

    이 논문은 한마디로 어지러하게 쌓인 방이나 창고를 사진 몇 장만으로 '물체별로 분리된 3D 파일'로 되살리는 방법이다. 게임이나 로봇 시뮬레이션은 장면 전체를 한 덩어리로 만들면 쓸모가 없고, 의자 하나만 골라 옮길 수 있어야 하기 때문이다. 저자들은 물체 하나짜리 3D 생성 모델(Pixal3D)에 여러 시점의 사진을 함께 보는 회로를 달아서, 장면 학습 없이도 수백 개 물체가 서로 가려진 장면을 처리하게 했다. 가려진 부분은 생성 모델이 그럴듯하게 채우고, 보이는 부분은 사진 증거에 맞춘다. 물체 수백 개짜리 벤치마크(UE-MeshyScene)에서 기존 방법을 앞섰고, 물건이 많고 가림이 심할수록 격차가 커졌다.

    • 물체 하나만 배우는 3D 생성 모델(Pixal3D)에 여러 시점 영상을 조건으로 넣는 회로를 추가해, 장면 단위 학습 없이 수백 개 물체 장면을 처리했다.
    • 각 물체를 개별 메시로 만든 뒤 세계 좌표에 배치하므로, 게임·AR·시뮬레이션·로보틱스에서 물체를 따로 골라 쓸 수 있다.
    • 언리얼 엔진으로 만든 UE-MeshyScene 벤치마크(6개 장면, 물체 93~701개, 물체별 정답 메시 포함)를 공개했다.
    • 가림이 심한 벤치마크에서 학습 기반 시점 융합(IBR)이 오차 지표 CD-L2를 12% 낮추고 F-Score를 0.944에서 0.951로 올렸다.
    • Marble·HY-World 2.0 같은 생성 월드모델이 만든 3DGS 장면을 물체 단위 메시 장면으로 바꾸는 응용도 추가 학습 없이 시연했다.
    초록PDF
  24. 1072AI / GeneralarXiv:2609.05275

    Don't Drop Dropout: Optimizing Layer Sparsity for Efficient LLM Training and Inference

    레이어 드롭아웃(학습 때 층을 무작위로 건너뛰는 기법)을 제대로 튜닝하면 LLM 학습 비용을 최대 25% 아끼면서 성능은 유지되고, 추론까지 최대 1.55배 가속된다는 2400회 넘는 대규모 실증 연구.

    이 논문은 한마디로 요즘 LLM 학습에서 사라진 '레이어 드롭아웃'을 제대로 설정하면 돈과 시간을 아낄 수 있다는 걸 증명한 연구다. 학습할 때 트랜스포머의 층(블록)을 확률적으로 건너뛰게 하되, 깊은 층에 더 많이 걸고 학습 후반으로 갈수록 약하게 거는 조합이 핵심이다. 2400번 넘는 실험(2.7억~82억 파라미터, 최대 1600억 토큰)으로 검증했고, 같은 학습 예산에서 오히려 손실이 낮아지면서 계산량은 최대 25% 절약됐다. 이렇게 학습한 모델은 층을 일부 생략해도 튼튼해서 추론 가속 기법과 결합해 최대 1.55배 빨라진다. 규모가 커질수록 효과가 확실해져서 대형 모델 학습법의 기본 레시피로 다시 쓸 만하다는 결론이다.

    • 2400번 넘는 학습 실험으로, 층이 깊어질수록 드롭아웃을 세게 걸고 학습이 진행될수록 약하게 거는 조합이 최적이라는 걸 찾아냈다.
    • 같은 학습 예산에서 검증 손실이 dense(드롭아웃 없는 기준)와 비슷하거나 더 낮게 나오면서 계산량은 최대 25% 절약됐다.
    • 82억 파라미터 모델에서 최대 드롭아웃 99%의 공격적 설정으로도 손실 1.663을 기록해 dense 기준(1.732)보다 좋았다.
    • 드롭아웃으로 학습한 모델은 층을 생략해도 튼튼해서, 자기-추측 디코딩(모델이 직접 빠른 초안을 쓰고 검증하는 가속 기법)으로 최대 1.55배 빨라졌다.
    • 반면 드롭아웃 없이 학습한 dense 모델은 층을 건너뛰면 손실이 6.446까지 폭증해 사실상 못 쓰는 점이 대비된다.
    초록PDF
  25. 1071LLMs / NLParXiv:2609.03430

    Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning

    입력 질문을 보존하고 추론 기록의 캐시를 무작위로 줄이는 단순한 방법이, 논문의 비교 실험에서 복잡한 중요도 계산 방식에 견줄 정확도와 더 높은 처리량을 보였다.

    언어 모델이 길게 추론할수록 이전 계산을 저장하는 KV 캐시가 커져 GPU 메모리를 많이 차지한다. 이 논문의 Random Attention은 입력 질문은 그대로 남기고, 각 어텐션 헤드에서 추론 기록의 캐시를 무작위로 덜어내 중요도 점수를 계산하지 않는다. 네 모델과 여섯 추론 과제를 비교한 결과, 연구진은 이 단순한 방법이 강한 기존 캐시 제거 방법에 견줄 정확도를 보였다고 보고한다. H200 한 대의 vLLM 실험에서는 같은 캐시 예산의 TriAttention보다 출력 처리량이 32~43% 높았다. 연구진은 추론 중 필요한 내용이 다시 서술되고 여러 헤드에도 저장되기 때문에 가능한 결과라고 설명하지만, 한 번만 등장하고 반복되지 않는 정보를 찾아야 하는 상황에서는 무작위 제거가 불리할 수 있다.

    • 연구 방법은 입력 질문을 보존한 채 각 어텐션 헤드의 추론 기록에서 캐시 항목을 균등한 확률로 제거해, 중요도 점수 계산과 순위 선정을 없애는 것이다.
    • 네 모델과 여섯 추론 과제의 비교에서는 강한 기존 제거 방법에 견줄 정확도를 보였으며, 모든 방법이 입력 질문을 보존하도록 맞추면 방법 사이의 성능 차이가 대부분 줄었다.
    • H200 한 대에서 캐시 예산 2048, 입력 길이 1k 토큰, 생성 길이 32k 토큰을 사용한 vLLM 실험의 출력 처리량은 TriAttention보다 32~43% 높았다.
    • 추론 중 필요한 정보가 다시 서술되고 여러 헤드에 중복 저장된다는 분석은, 복잡한 중요도 계산 없이도 긴 추론 서비스의 메모리 부담과 캐시 관리 비용을 줄일 가능성을 보여준다.
    • 한 번만 등장하고 다시 언급되지 않는 정보를 찾는 실험에서는 선별 신호가 도움이 됐으므로, 이 결과를 모든 정보 검색 과제나 모든 모델에서 무작위 제거가 우수하다는 뜻으로 일반화해서는 안 된다.
    본문공개 코드초록PDF
  26. 1070ResearcharXiv:2609.03344

    Large-Language Models as a Cognitive Virus

    LLM 사용이 전염병처럼 인구 수준에서 퍼지는 상황을 수학 모델로 묘사한 논문이다. 채택이 임계점을 넘으면 인지 능력이 급격히 무너지는 도미노 전이와 기술 고착이 일어날 수 있고, 예방이 회복보다 쉽다는 것을 보인다.

    이 논문은 한마디로 LLM(대형 언어 모델) 사용이 바이러스처럼 사람 사이에서 퍼지는 과정을 전염병 수학 모델로 그린 것이다. 사람을 '안 씀 → 자율적으로 씀(스스로 검증하고 생각하는 힘 유지) → 지속적으로 의존함'의 세 상태로 나누고, 사회적 전파·회복·집단 강화가 맞물리는 방정식을 세웠다. 그 결과 전파 강도가 임계값(tipping point, 급격히 상태가 바뀌는 분기점)을 넘으면 인구 전체가 급격히 의존 상태로 넘어가 평균 인지 역량이 순식간에 떨어질 수 있고, 한번 넘어가면 조건을 예전으로 되돌려도 쉽게 회복되지 않는 히스테리시스(되돌아가지 않는 현상, 기술 고착)가 생긴다. 같은 틀에서 '인지 면역화' 조건도 제시한다. AI 접촉 자체를 막는 게 아니라, 스스로 검증하는 습관과 AI 없이 문제를 푸는 훈련을 유지하는 것이 핵심이라는 결론이다.

    • 사람을 세 상태(미사용 U, 자율 사용 C, 지속 의존 D)로 나눈 인구 동역학(전염병식 확산) 모델에서, 전파율이 임계 구간을 넘으면 자율 집단과 의존 집단이 공존하던 상태가 급격히 의존 쪽으로 넘어가는 이중안정성(두 안정 상태가 공존하는 구간)이 나타났다.
    • 예시 파라미터(ρ=0.10, κ=0.40)에서 임계값 λSN=0.40과 λTC=0.50 사이에 히스테리시스가 생긴다. 즉 채택이 한번 폭주하면 전파 압력을 예전 수준으로 낮춰도 저절로 이전 상태로 돌아오지 않는다(기술 고착).
    • 지속 의존 비율은 D*=(µ/σ)C*로 정해진다. 의존으로 빠지는 속도 µ를 줄이거나 회복 속도 σ를 높이면 (훈련, 검증 습관, 의도적인 인지 마찰) 의존 규모를 줄일 수 있다.
    • 인지 역량 예시값(자율 1.0, 자율적 사용 0.5, 지속 의존 0.1)을 대입하면 평균 역량도 같은 히스테리시스를 따라간다. 개개인의 채택이 완만해도 인구 전체에서는 급락할 수 있다는 게 핵심이다.
    • '인지 면역화'는 AI 접촉 차단이 아니라, 스스로 검증하고 맨머리로 문제를 푸는 습관과 교육 설계를 유지하는 것이라고 정의했다. 예방이 회복보다 훨씬 쉽다는 결론.
    • 논문이 인용한 실험 근거: '먼저 생각하고 나중에 ChatGPT' 프로토콜이 이후의 독립적 창의성을 높였고, 무제한 AI 사용은 도구를 쓰는 동안의 성과는 올려도 도구 없이 할 때의 성과와 이해·기억은 낮췄다.
    초록PDF
  27. 1069LLMs / NLParXiv:2609.04173

    Last Translation Benchmark

    번역 모델이 실제로 실패하는 사람이 만든 어려운 예제 3456개(109개 언어)를 모으고, 예제마다 '검증 규칙'을 붙여 LLM 심판이 규칙 단위로 채점하는 재현 가능한 벤치마크를 제안한 논문이다.

    이 논문은 한마디로 최신 번역 모델을 무너뜨리는 어려운 예제를 사람이 만들어 모으고, 예제마다 검증 규칙을 붙여 재현 가능하게 채점하는 새 벤치마크다. 기존 벤치마크는 포화 상태고 자동 지표는 조작에 약하며 사람 평가는 재현이 안 된다는 문제를 풀고자 했다. 텍스트·이미지·오디오·비디오 형식의 예제 3456개를 109개 언어에서 모았고, LLM 심판이 규칙 단위로 참/거짓을 가려 전부 통과해야 성공으로 친다. 살아있는 데이터셋이라 계속 기여를 받으며, 규칙 기반이라 실패 이유까지 해석할 수 있다.

    • 텍스트·이미지·오디오·비디오 형식의 어려운 번역 예제 3456개를 109개 언어에 걸쳐 사람이 만들고 동료 검토까지 거쳤다.
    • 각 예제에 '이렇게 번역돼야 한다'는 검증 규칙을 달아, LLM 심판이 규칙 단위로 통과/실패를 판정한다. 전 규칙 통과만 성공으로 인정한다.
    • 간단한 영어→체코어 문장(남자 간호사의 성별 표현)에서 Google Translate와 Gemini 3.1 Pro는 0%를 받았고 GPT-5.6 Sol만 통과했다. 강한 모델도 치명적 실수를 한다는 증거다.
    • 예제를 다른 언어로 이식하는 실험에서는 자동 필터가 48%를 살렸고 사람 검토로 64.1%가 통과해, 반자동 확장이 가능함을 보였다.
    • 데이터는 CC BY 4.0으로 공개됐고 계속 기여를 받는 '살아있는' 벤치마크다.
    초록PDF
  28. 1068AI / GeneralarXiv:2609.04148

    Terminal-Universe: Turning Agent Trajectories into Scalable Terminal Environments

    에이전트가 작업하며 남긴 기록(트라젝토리)의 파일 조작을 되감아 '실행 가능한 환경' 37.3k개를 복원하고, 그 위에서 과제를 합성해 Qwen3.5-27B를 Terminal-Bench 2.1 +11.9점 끌어올린 논문이다.

    이 논문은 한마디로 에이전트가 일하며 남긴 작업 기록을 되감아 실행 가능한 작업 환경으로 복원하고, 그 위에서 새 과제를 대량 생산하는 방법이다. 기록 속 파일 읽기/쓰기 이력을 에이전트가 고치기 전 상태로 되돌려 워크스페이스를 복구하고, 부족한 파일은 보완 에이전트가 채운다. 이렇게 37.3k개 환경을 만들고 각 과제마다 검증기를 붙여 통과한 데이터로만 Qwen3.5-27B를 학습시켰다. 결과는 단일 라운드 벤치마크(Terminal-Bench 2.1) +11.9점, 멀티 라운드 벤치마크(MT@4) +13.8점이었고, 기록을 그대로 따라 하는 것보다 복원 환경에서 다시 풀게 하는 게 훨씬 좋았다.

    • 에이전트 기록 안에 이미 환경 정보가 다 담겨 있다는 발상으로, 파일 조작 되감기 + 보완 에이전트로 37.3k개의 재사용 가능한 실행 환경을 복원했다.
    • 한 환경에서 여러 과제를 뽑아 내되, 여러 코드베이스를 넘나드는 과제(폭 확장)와 사용자 피드백이 이어지는 멀티 라운드 과제(깊이 확장)까지 합성했다.
    • 과제마다 검증기를 붙이고 통과한 데이터만 써서, Qwen3.5-27B가 Terminal-Bench 2.1에서 11.9점, EvoCode-Bench v2 MT@4에서 13.8점 올랐다.
    • 같은 데이터 예산이면 질문이나 해답 수를 늘리는 것보다 환경 수를 늘리는 게 더 효과적이었다(53.2→56.0 vs 53.8/53.9).
    • 원본 기록을 그대로 따라 하는 학습보다 복원 환경에서 과제를 다시 풀게 하는 학습이 훨씬 좋았다.
    • 소프트웨어 엔지니어링(SWE) 기록에서 만든 데이터로도 터미널 벤치마크 평균이 47.0→50.0으로 올라 도메인을 넘어 일반화됐다.
    초록PDF
  29. 1067Machine LearningarXiv:2609.04010

    Unlocking Lossless Speedups in LLMs via Discrete Diffusion

    기존 LLM에 가벼운 확산 가중치만 얹어 토큰 여러 개를 동시에 뽑게 하여 최대 3배 가속하되, 답 품질은 수학적으로 그대로 보존하는(무손실) 방법을 제안한 논문이다.

    이 논문은 한마디로 'Uno'라는 모델 구조로, 원래 모델의 답 분포는 그대로 두고 토큰을 동시에 여러 개 뽑는 확산 가중치만 추가해 LLM 추론을 최대 3배 가속한 연구다. 작은 초안 모델이 필요한 기존 추측 디코딩과 달리 한 모델 안에서 확산 가중치가 초안을 뽑고 원본 가중치가 검증한다. 검증이 엄격해서 답 분포가 원본과 정확히 같은 무손실 가속이고, 배치가 커져도 이득이 사라지지 않아 장비 최대 배치에서도 2배 빠름을 유지한다. 8B 모델이 26B 확산 LLM과 상용 Mercury 2를 도구 사용·코딩·긴 문서 과제 전부에서 앞섰다.

    • 기존 LLM에 확산(여러 토큰을 동시에 채우는 방식) 가중치를 얹는 가벼운 학습 단계만 추가해, 구조를 크게 바꾸지 않고도 최대 3배 가속을 얻었다.
    • 초안 전용 작은 모델이 필요한 추측 디코딩(EAGLE-3, DFlash)과 달리 한 모델에서 초안+검증을 처리하고, 답 분포가 원본과 정확히 같은 무손실 가속이다.
    • 기존 확산 LLM은 배치가 커지면 이득이 사라졌는데, Uno는 평가한 모든 배치에서 추측 디코딩보다 처리량이 높고 최대 배치에서도 2배 빠름을 유지했다.
    • 8B Uno가 26B DiffusionGemma와 상용 Mercury 2를 에이전트 도구 사용·코딩·긴 문서 추론 전 벤치마크에서 이겼다.
    • RL 후속학습에서 가장 느린 롤아웃 생성 단계도 빨라져, 추론뿐 아니라 강화학습 훈련 자체를 가속할 수 있음을 보였다.
    • 이미 공개된 오픈웨이트 모델에 얹어 만들 수 있어서, 새로 대형 학습을 하지 않아도 된다.
    초록PDF
  30. 1066AI / GeneralarXiv:2609.04172

    Rethinking On-Policy Distillation of Large Language Models II: One Training Example

    증류 훈련에 쓰는 질문이 딱 1개여도 수백 스텝씩 계속 성능이 오르고 전체 데이터 효과의 72%를 회복한다는 사실을 보여주고 그 이유를 밝힌 논문이다.

    이 논문은 한마디로 온폴리시 증류(학생이 스스로 답을 써 보면 선생 모델이 토큰 하나하나 피드백을 주는 학습법)가 훈련 질문 1개만으로도 풀데이터 효과의 대부분을 낸다는 발견과 그 이유를 밝힌 연구다. 저자들은 '상태 커버리지(학생이 실제로 거쳐 가는 상태가 전체에서 차지하는 비율)'로 설명하는데, 질문 1개만으로도 71.5%를 덮고 의미가 다른 질문 16개면 98.9%를 덮어 전체 데이터와 동급이 된다. 반면 학생이 선생과의 격차를 메우는 속도는 질문 수와 무관하게 비슷하게 떨어진다. 즉 데이터는 남아돌고 알고리즘이 소화를 못 하는 '데이터 과잉, 알고리즘 기근' 상태라는 게 결론이다.

    • 증류 훈련에 질문 1개만 써도 수백 스텝 동안 성능이 계속 올라가, 수학 과제에서 전체 데이터 효과의 72%를 회복했다.
    • '상태 커버리지'라는 잣대를 제안해 설명했다. 질문 1개 = 71.5%, 의미가 다른 질문 16개 = 98.9% 커버로 전체 데이터 훈련과 동급 성적을 냈다.
    • 흡수율(남은 선생-학생 격차 중 한 번의 업데이트로 메우는 비율)은 질문 1개든 17,000개든 비슷한 속도로 떨어졌다. 병목은 데이터 양이 아니라 학습 알고리즘이라는 뜻이다.
    • 내용이 거의 없는 템플릿이나 관계없는 도메인의 잡담 데이터(WildChat)로 훈련해도 진짜 질문과 비슷한 효과가 났다. 질문의 역할은 '생각을 시작시키는 것'뿐이라는 것이다.
    • 같은 질문 하나로 1000스텝을 비교하면 증류(OPD)의 성능 향상은 강화학습(RLVR)의 2배 이상이었다. 결과 보상은 답을 맞히면 소진되지만 토큰 단위 지도는 계속 남기 때문이다.
    초록PDF
  31. 1065LLMs / NLParXiv:2609.02702

    Trace as State: Reasoning Traces as Conditional States for Long-Context Transformers

    AI가 긴 문서를 읽으며 남긴 '생각 흔적'을 문서 앞쪽에 붙여 다시 읽게 하는 것만으로 긴 문서 이해력을 크게 끌어올린 논문이다.

    이 논문은 한마디로 모델이 긴 문서를 한 번 읽고 남긴 추론 흔적을, 두 번째 읽기 때 문서 '앞'에 넣어주면 문서 '뒤'에 넣을 때보다 성적이 크게 오른다는 발견이다. 트랜스포머는 앞에서 뒤로만 읽는 구조라 나중에야 알게 된 정보를 앞부분 해석에 쓸 수 없는데, 저자들은 '필요한 조건을 먼저 주면 나중에 줄 때보다 필요한 기억 공간이 최악의 경우 지수적으로 적다'는 이론으로 이 현상을 설명한다. 실제로 세 모델 × 세 긴 문서 과제의 27가지 조합 중 26가지에서 앞에 넣는 방식이 이겼고, 한 과제에서는 GLM-5.2가 66.4%에서 100%까지 올라갔다. 모델 구조를 전혀 안 바꾸고 프롬프트 배치만 바꾸는 방법이라 바로 적용할 수 있다.

    • 첫 독서에서 나온 추론 흔적을 긴 문서 앞에 붙여 다시 읽게 하는 것만으로, 27가지 모델×과제×지표 조합 중 26가지에서 기존 방식(흔적을 뒤에 붙임)을 이겼다.
    • '조건을 먼저 주면 나중에 줄 때보다 필요한 기억 공간이 지수적으로 적다'는 이론 분석으로 왜 앞에 넣는 게 유리한지 설명했다.
    • GraphWalks Parents 과제에서 GLM-5.2는 정확도가 첫 시도 66.4%에서 100%로, DeepSeek V4 Pro는 29.2%에서 81.8%로 올라갔다.
    • 다른 문제의 흔적을 넣으면 오히려 성적이 떨어졌다. 형식이 아니라 그 문제 특유의 정보가 효과의 원인이라는 뜻이다.
    • 흔적 개수를 1개에서 5개로 늘릴수록 성적이 계속 올라가, 추론 횟수를 조절하는 추가 스케일링 지점으로도 쓸 수 있다.
    • 모델 구조 수정이 전혀 없어서 긴 문서를 다루는 어떤 서비스에도 바로 붙일 수 있는 게 최대 장점이다.
    초록PDF
  32. 1064RoboticsarXiv:2609.01938

    One Demonstration, Many Objects: Generalizing Manipulation via Local Contact Geometry

    사람 시범 동영상 하나만 보고 배운 로봇 손 정책이 접촉 지점 주변의 국소 형상에 집중해, 크기·무게·마찰이 다른 새 물체 16개에서 평균 71% 성공을 낸 로봇 손 조작 방법이다.

    이 논문은 한마디로 사람 시범 동영상 한 개로 여러 물체를 다루는 로봇 손을 만든 연구다. 여러 손가락 로봇 손의 학습 데이터는 모으기 어려운데, DemoMimic은 사람 손 동작을 로봇 궤적으로 옮긴 뒤 시뮬레이션에서 잔차 강화학습(기준 궤적에 수정분을 더해 배우는 방식)으로 훈련한다. 핵심은 두 가지다. 손목 깊이 카메라가 접촉점 주변의 국소 3D 형상만 보는 하위 정책을 쓰고, 학습 때 손가락이 물체 표면에 정렬돼 접촉을 유지하도록 하는 접촉 중심 보상을 준다. 그 결과 실제 로봇에서 모양·크기·질량·마찰이 다른 16개 물체와 4개 과제, 2종 로봇 손에서 평균 71% 성공률을 냈고 시뮬레이션 대비 실제 성능 저하는 기존 방식보다 가장 적었다.

    • 원격조종 대신 사람 동영상 시범 한 개에서 출발해, 로봇 궤적으로 바꾼 뒤 시뮬레이션에서 잔차 강화학습으로 다듬고 깊이 카메라 정책으로 증류했다.
    • 손목 깊이 카메라가 접촉점 근처 국소 형상만 보는 하위 정책과 전방 RGB 영상으로 전역 궤적을 잡는 상위 정책을 분리해, 실행 시 물체 위치 추정 없이 작동한다.
    • 접촉 정렬·접촉 유지 보상은 시뮬레이션 점수에는 거의 영향이 없지만 실제 하드웨어 성공률을 결정적으로 끌어올린다는 점을 절제 실험으로 보였다.
    • 16개 물체 × 4개 과제 × 2종 로봇 손에서 평균 71% 실제 성공률(한쪽 손 76%, 다른쪽 손 65%)을 기록했고, 시뮬-리얼 성능 저하는 기준선보다 가장 적었다.
    • 국소 접촉 기하가 다른 물체(곡면 처리된 뚜껑 상자)에서는 39%까지 떨어져, 일반화의 경계가 접촉 구조의 유사성임을 솔직히 보여줬다.
    초록PDF
  33. 1063Machine LearningarXiv:2609.01343

    SMELT: Scaling Laws for Compute-Matched MoE Looped Transformers

    토큰당 계산량·파라미터·KV캐시를 전부 동일하게 맞춘 조건에서도 '중간 레이어만 두 번 반복'하는 구조가 이득인지를 54B 규모 스케일링 법칙으로 검증하고, 같은 성능에 최대 18% 적은 학습 비용을 확인한 논문이다.

    이 논문은 한마디로 '레이어 재사용(루핑)이 계산 예산을 공정하게 맞춰도 여전히 이득인가'를 처음으로 다중 규모로 검증한 연구다. 기존 루프 연구는 고정 파라미터에서 반복 횟수만 늘려 계산량 이득과 구조 이득을 섞어 놓았다. 연구진은 전문가 혼합(MoE, 라우터가 토큰마다 일부 전문가만 쓰는 구조) 모델에서 토큰당 연산량·총 파라미터·KV캐시 세 가지를 모두 맞추고, 절제 실험으로 '중간 절반 레이어만 두 번 반복'하는 SMELT 레시피를 찾았다. 54B 규모까지 네 크기에서 스케일링 법칙을 따로 피팅한 결과 SMELT가 모든 규모에서 더 낮은 손실에 도달했고, 같은 성능에 6.8~18.0% 적은 학습 연산량이 들었다. 이득은 코드 도메인에서 가장 크고 입력·예시가 많을수록 커지며, 두 번째 통과에서 어텐션 싱크(문장 첫 토큰 쏠림)가 줄고 근거 토큰으로 시선이 이동하는 것이 원인으로 분석됐다.

    • 루프 연구 최초로 토큰당 연산량·총 파라미터·KV캐시 세 예산을 동시에 동일하게 맞춰, '계산을 더 써서 그런 것'이라는 반론을 차단한 다중 규모 비교다.
    • 중간 절반 레이어만 두 번 돌리고 은닉 차원을 줄인 뒤 전문가 수를 늘려 지식 용량을 복구하는 설계로, MoE에서만 가능한 예산 균형을 활용했다.
    • 비임베딩 54B까지 4개 규모·여러 희소도에서 항상 더 낮은 손실을 기록했고, 스케일링 법칙 피팅으로 같은 성능 도달에 6.8~18.0% 적은 학습 연산량이 필요함을 확인했다.
    • 코드 도메인에서 이득이 가장 크고, 입력이 길수록 프롬프트의 예시가 많을수록 격차가 벌어져 구조화된 입력에서 루프의 가치가 커짐을 보였다.
    • 두 번째 통과에서 어텐션 싱크가 사라지고 정답 근거 토큰으로 어텐션이 이동하는 현상(괄호 짝맞추기 과제에서 첫 토큰 쏠림 0.60 → 0.02, 근거 토큰 0.24 → 0.85)을 확인했다.
    초록PDF
  34. 1062AI / GeneralarXiv:2609.01481

    Harness-of-Harness: Multi-Day Autonomous Software Development with Continual Improvement

    기존 코딩 에이전트 하네스를 계획-개발-테스트 루프로 감싸 사람 개입 없이 며칠씩 소프트웨어를 계속 개선하게 만든 상위 오케스트레이션 프레임워크로, 벤치마크 최대 82.86% 향상과 70회 루프 만의 FPS 게임 자율 개발을 보여줬다.

    이 논문은 한마디로 코딩 에이전트를 '며칠 동안 스스로 개선'시키는 상위 오케스트레이터다. Harness-of-Harness(HoH)는 Codex·OpenCode·Pi 같은 기존 하네스의 내부를 고치지 않고, 실행을 계획 → 개발 → 테스트 루프로 조직한다. 매 루프는 남은 문제 해결과 작은 신규 기능 추가를 함께 담고, 구현 중 테스트와 독립적인 QA 평가를 분리하며, 검증 가능한 산출물 형식만 강제하고 에이전트의 작업 방식은 자유롭게 둔다. 그 결과 세 벤치마크에서 세 가지 하네스-모델 조합 모두 단독 하네스 대비 평균 52.25%, 최대 82.86% 상대 향상을 기록했고, 70회 넘는 루프로는 요구사항 문서 하나만 받아 사람이 플레이 가능한 FPS 게임을 자율 완성했다.

    • 하네스 구현을 건드리지 않고 산출물(계획, 테스트 리포트)의 형식만 강제해 위반 시 재시도를 유발하는 방식으로, 에이전트 자율성과 검증 가능성을 동시에 확보했다.
    • GameCraft-Bench·FrontierSWE·ProgramBench에서 Codex+GPT-5.5, OpenCode+DeepSeek-V4-Pro, Pi+MiniMax-M3 조합 모두 3회 루프 만에 평균 상대 52.25%, 최대 82.86% 향상을 기록했다.
    • FrontierSWE에서 Codex+GPT-5.5는 10회 루프 동안 22%에서 72.67%로 계속 올라가, 반복이 늘수록 이득이 누적됨을 보였다.
    • 빈 작업 폴더에 요구사항 문서만 주고 70회 넘는 루프로 스토리·전투 AI·연출·오디오를 갖춘 1인칭 슈팅 게임 'Fusepoint'를 자율 완성했다. 사람의 개입은 네트워크 복구뿐이었다.
    • 기록된 81개 이슈 중 65개를 스스로 종료했고, 예전에 검증된 기능이 무너진 재발 이슈 17건을 버전 이력 기반으로 복구해 장기 개발에서 회귀 관리가 핵심임을 보여줬다.
    • Godot 엔진 연동, 에셋 생성, UI/UX, 테스트용 스킬을 역할별로 배정해 재사용을 유도하는 점진 공개 구조를 썼다.
    초록PDF
  35. 1061Computer VisionarXiv:2609.02886

    SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models

    서로 다른 10개 영상 데이터셋(클립 143만 개)을 하나의 규격으로 통일하고, 구조가 다른 영상 생성기 4종(5B~33B)에 같은 훈련법을 적용해, 5초 영상만 배워도 시간 단위로 이어지는 카메라 조작형 영상 월드모델을 완전 오픈소스로 만든 프로젝트다.

    이 논문은 한마디로 영상 생성기를 '카메라로 탐색할 수 있는 가상 세계'로 바꾸는 완전 오픈소스 기술기반이다. 데이터 쪽에서는 시간축·카메라 좌표·캡션 스타일이 제각각인 10개 데이터셋의 클립 143만 개를 프레임 단위로 정렬된 통합 규격으로 묶고, 원본 전처리와 훈련 배합을 분리해 다양한 배합 실험이 가능하게 했다. 모델 쪽에서는 Wan2.2·LTX-2.5·MiniMax-H3라는 서로 다른 생성기의 원래 구조와 학습 목표를 보존한 채 카메라 제어·훈련·롤아웃 공통 인터페이스만 얹어 5B부터 33B까지 4개 모델을 만들었다. 양방향 사전학습 → 자기회귀 적응 → 분포 정합 증류의 3단계 레시피로 학습했는데, 5초짜리 영상만으로 훈련하고도 분 단위에서 1시간짜리 연속 롤아웃을 실시간 카메라 조작에 반응하며 유지한다.

    • 10개 데이터셋 143만 클립(25TB 이상)을 프레임 정렬·카메라 기하·캡션·품질 메타데이터를 포함한 통합 규격으로 변환해, 전처리를 다시 돌리지 않고도 훈련 배합을 바꿔 실험할 수 있게 했다.
    • 구조가 전혀 다른 Wan2.2(5B/14B)·LTX-2.5(22B)·MiniMax-H3(33B) 백본에 원래 표현과 목표를 해치지 않는 백본 네이티브 적응을 적용해, 서로 직접 비교 가능한 4개 모델 패밀리를 완성했다.
    • 양방향 학습 → 자기회귀 적응 → 분포 정합 증류(DMD, 큰 모델의 출력 분포를 흉내 내도록 작은 모델을 압축 학습하는 기법)의 단순한 3단계만으로 특수한 초기화 없이 최고 수준 성능을 냈다.
    • 5초 시퀀스만으로 학습했는데도 긴 영상 미세조정이나 어텐션 싱크 장치 없이 60분 연속 롤아웃 끝까지 장면 정체성과 카메라 반응을 유지했다.
    • 학습 데이터에 없는 스타일의 외부 생성 이미지(GPT Image 2, Krea)로 시작해도 처음 보이는 영역을 상상하며 탐색 가능한 세계로 확장하는 일반화를 보였다.
    • 데이터·처리 파이프라인·훈련 레시피·가중치를 전부 공개해 재현 가능한 영상 월드모델 연구의 기준점을 만들었다.
    초록PDF
  36. 1060Agents / InfrastructurearXiv:2609.01437

    HarnessDev: Can LLMs Create and Evolve Their Own Agent Harness?

    에이전트가 하네스를 직접 만들고 고치게 한 뒤, 숨긴 과제와 다른 실행 모델에서도 성능이 유지되는지를 검증한 벤치마크다.

    이 논문은 모델이 정해진 하네스 안에서 문제를 푸는 능력이 아니라, 실행 루프·도구·문맥·상태·복구·검증을 맡는 하네스 자체를 만들고 개선하는 능력을 평가하는 HarnessDev를 제안한다. 생성 단계에서는 6개 모델이 약한 초기 코드에서 출발해 코드·검색·글쓰기·머신러닝 실험용 하네스를 만들고, 진화 단계에서는 실제 실행 피드백으로 자기 하네스를 반복 수정한다. 총 2,207개 과제 평가에서 생성된 하네스는 글쓰기와 머신러닝 실험에서는 선택된 사람 제작 기준과 비슷하거나 앞섰지만, 코드와 장기 검색·연구에서는 크게 뒤처졌다. 더 중요한 결과는 보이는 평가 점수의 개선이 숨긴 과제로 잘 이어지지 않았다는 점이다. 64번의 버전 전환 중 보이는 점수와 숨긴 점수가 같은 방향으로 움직인 경우는 34번뿐이었고, 모델이 최종 선택한 9개 버전 중 숨긴 과제에서 실제 최적이었던 버전은 2개뿐이었다. HDATF Harness v4에는 기능을 많이 추가하는 것보다 버전 고정, 숨긴 과제 검증, 다른 실행 모델로의 이전성 검사, 실패 시 되돌리기가 중요하다는 직접적인 근거다.

    • HarnessDev는 하네스를 한 번의 답변이 아니라 여러 과제에 재사용되는 실행 인프라로 정의하고, 생성과 진화를 분리해 능력과 실행 토큰 비용을 함께 평가한다.
    • 6개 생성 모델, 4개 분야, 5개 벤치마크의 2,207개 고유 과제를 사용했으며, 생성된 하네스는 글쓰기·머신러닝 실험에는 강했지만 코드·검색·연구에서는 사람 제작 기준보다 뒤처졌다.
    • 코드 하네스 18개는 모두 실행 루프를 만들었지만 상태·메모리는 가장 약했다. 11개가 State 클래스를 선언했어도 저장 인터페이스와 주기적 체크포인트는 각각 1개뿐이었고, 26,679개 실행 기록에서 체크포인트 이벤트는 한 번도 나타나지 않았다.
    • 9개 진화 과정의 73개 공식 버전과 64번의 버전 전환을 분석한 결과, 보이는 점수와 숨긴 점수가 같은 방향으로 움직인 비율은 53.1%였고 최종 선택 버전이 숨긴 과제의 최적 버전인 경우는 2/9에 그쳤다.
    • 실행 모델을 Gemini로 고정한 진화 실험에서는 Opus 계열만 숨긴 과제 성능이 좋아지고 나머지 3개 계열은 나빠져, 하네스 개선이 특정 모델과 공개 피드백에 과적합될 수 있음을 보여줬다.
    초록PDF
  37. 1059Machine LearningarXiv:2609.00196

    WHALE: A Simple Recipe for Joint Harness-Weight Optimization

    모델 가중치 학습과 실행 하네스 코드 탐색을 짧게 번갈아 수행해, 한쪽만 개선할 때 생기는 병목을 줄이는 에이전트 공동 최적화 방법이다.

    이 논문은 AI 에이전트의 성능이 모델 가중치뿐 아니라 도구 연결, 문맥 관리, 오류 처리와 실행 흐름을 맡는 하네스 코드에도 함께 좌우된다는 문제에서 출발한다. WHALE은 현재 하네스에서 모델을 학습한 뒤, 갱신된 모델에 더 잘 맞는 하네스를 찾는 두 단계를 반복한다. 연구진은 온라인 거부 샘플링 미세조정과 Meta-Harness를 결합하고, 고정된 단계 길이 또는 학습 신호가 좋아지지 않을 때 전환하는 방식으로 두 단계의 시점을 정했다. Qwen3.5-2B와 4B를 검색 질의응답, 수학 추론, 체스 퍼즐에 적용한 결과, 가중치만 또는 하네스만 최적화한 기준과 프롬프트 중심 공동 학습보다 높은 정확도를 보였다. 다만 실험이 소형 모델 세 종류의 과제에 한정됐고, 보고된 롤아웃 비용 비교에는 하네스 후보를 만드는 계산량이 포함되지 않았다.

    • 현재 하네스를 고정한 온라인 거부 샘플링 미세조정과 갱신된 모델을 고정한 Meta-Harness 코드 탐색을 번갈아 수행한다.
    • Qwen3.5-2B와 4B를 검색 질의응답, 수학 추론, 체스 퍼즐에 평가해 단일 요소 기준보다 7.67~24.38%포인트, 프롬프트만 바꾸는 FST보다 4.15~13.00%포인트 높은 최고 정확도를 기록했다.
    • 검색 과제는 하네스가 주된 병목이었지만 수학 과제는 먼저 가중치를 갱신해야 같은 하네스 탐색이 효과를 내어, 과제마다 병목 위치가 달라짐을 보였다.
    • 작은 갱신을 여러 번 교차하면 가중치를 모두 학습한 뒤 하네스를 한 번 찾는 단계식 방식보다 정확도와 롤아웃 효율이 좋아져, 에이전트 학습 파이프라인을 하나의 공동 최적화 문제로 설계할 근거를 준다.
    • 중요한 한계는 Qwen3.5-2B와 4B 및 세 과제에만 검증됐고, 롤아웃 비용 비교에서 하네스 제안 모델의 계산량을 제외했다는 점이다.
    초록PDF
  38. 1058Computer VisionarXiv:2609.00111

    Qwen-Drive-1.0: An Initial Step towards a Vision-Language Foundation Model for Autonomous Driving

    자율주행용 비전-언어 파운데이션 모델. Qwen3.5-4B 구조를 바꾸지 않고 외부 모듈 두 개만 붙여 3D 인식·질의응답·경로 계획을 통합하고, 단계적 학습으로 일반 능력 소실을 막았다.

    이 논문은 한마디로 범용 비전-언어 모델(Qwen3.5-4B)의 구조는 그대로 두고 외부 모듈 두 개만 붙여서, 3D 인식과 질의응답, 자율주행 경로 계획까지 한 모델이 다 하게 만든 연구다. BEV(조감도) 인식 헤드가 3D 물체 인식과 지도 그리기를 맡고, 계획 전문가(Planning Expert)가 미래 주행 경로를 생성한다. 운전 데이터와 범용 데이터를 섞어 단계별로 학습해서 주행 능력을 얻으면서도 원래의 범용 능력을 대부분 지켰다. nuScenes 3D 인식 43.95 mAP, NAVSIM 주행 점수 90.7 등으로 기존 방법들과 경쟁하는 성능을 냈다.

    • 사전학습 VLM(Qwen3.5-4B) 구조를 하나도 바꾸지 않고, BEV 인식 헤드와 계획 전문가(Planning Expert) 두 외부 모듈만 붙여 3D 인식·질의응답·경로 계획을 통합했다.
    • BEV 헤드를 '3D 탐침(probe)'으로 써서, 모델이 텍스트 답변만 능숙한 게 아니라 실제 3D 장면 구조를 얼마나 아는지 검사 가능하게 만들었다.
    • 운전 데이터와 범용 비전-언어 데이터를 섞는 단계적 학습으로 주행 능력과 일반 능력을 함께 유지해, 치명적 망각(새로 배우며 옛 능력을 잃는 문제)을 완화했다.
    • nuScenes에서 3D 인식 43.95 mAP·지도 60.99 mIoU, NAVSIM 주행 점수(PDMS) 90.7, Waymo E2E 평가자 점수 7.91을 기록했다.
    • 차량 내 콕핏(멀티미디어)과 주행 기능이 하나의 컴퓨팅 플랫폼을 공유하는 추세에 맞춰, 운전만 하는 모델이 아니라 다 같이 하는 모델을 지향했다.
    초록PDF
  39. 1057Computer VisionarXiv:2609.01560

    H3-World: Turning Language Understanding into World Control

    거대 영상 생성 모델(MiniMax-H3)을 게임 플레이 데이터 8,000건만으로 가볍게 조정해, 텍스트 명령만으로 캐릭터와 카메라를 정밀하게 조종하는 인터랙티브 월드 모델로 바꾼 연구다.

    이 논문은 한마디로 영상 생성 AI가 이미 갖고 있는 언어 이해 능력을 활용해, 별도의 조종 장치 없이 텍스트만으로 가상 세계를 조종하게 만든 연구다. 캐릭터와 카메라 움직임을 구조화된 텍스트 명령으로 바꾸고, 각 명령이 영상의 해당 시간 구간에만 작동하도록 어텐션(모델이 중요한 부분에 집중하는 기법)을 제한하는 '시간 어텐션 라우팅'을 도입했다. 전체 파라미터의 0.199%만 조정하는 가벼운 LoRA 학습으로도 정밀 조종이 가능했고, 학습에 없던 명령 조합과 낯선 장면에도 잘 작동했다. 큰 영상 모델 안에 조종에 필요한 능력이 이미 상당 부분 들어 있다는 걸 보여준 게 핵심이다.

    • 33B 영상 생성 모델 MiniMax-H3에 전용 조종 모듈을 붙이지 않고, 모델이 이미 아는 텍스트 경로를 조종 인터페이스로 그대로 재활용했다.
    • 게임 플레이 샘플 8,000건, LoRA 학습 10,000스텝, 학습 파라미터 0.199%만으로 캐릭터·카메라 정밀 조종을 달성했다.
    • 시간 어텐션 라우팅으로 각 명령이 자기 시간 구간에만 작동하게 막아, 명령이 다른 구간으로 새는 문제를 줄였다.
    • 카메라 방향 전환 실험에서 전역 프롬프트 방식은 수평 흐름 +0.0/-17.3에 그친 반면, H3-World는 +52.7/-106.0으로 두 방향 모두 정확히 따랐다.
    • 학습 때 본 적 없는 행동 조합과 게임 밖 장면(1인칭 시점, 실내, 판타지 등)에도 같은 인터페이스가 그대로 작동했다.
    초록PDF
  40. 1056Computer VisionarXiv:2608.30821

    Lucida: Parse, Generate, and Place for Composable Real-to-Sim Scene Modeling

    실내 촬영 영상을 개별 물건 단위 3D 에셋으로 복원하는 real-to-sim 시스템으로, 배치를 3D 에디터 GUI 조작 같은 닫힌 루프로 처리하는 VLM 정책이 핵심이다.

    이 논문은 한마디로 지저분한 실내 촬영 영상을 '각 물건이 따로 떼어낼 수 있는 3D 에셋'들로 복원하는 시스템이다. 기존 파이프라인은 파싱→생성→배치 각 단계가 완벽한 입력을 요구했는데, Lucida는 정확도 요구를 마지막 배치 단계로 미뤄 각 단계가 실제 촬영이 주는 것만 소비하게 만들었다. 배치는 GizmoAct라는 VLM 정책이 3D 에디터의 기즈모를 잡고 돌리고 옮기는 멀티턴 상호작용으로, 렌더링만 보고 스스로 '정렬 완료'를 판단할 때까지 반복한다. 그 결과 3D 검출 mAP 69% 개선, 포즈 정렬 57.8%→83.4%, 장면 F-스코어 0.794→0.924를 달성했다.

    • '정확한 입력'을 요구하던 3단계 파이프라인의 요구사항을 재분배해, 각 단계가 실제 촬영 데이터가 신뢰성 있게 주는 것만 소비하게 재설계했다.
    • GizmoAct라는 VLM 정책이 물체 배치를 3D 에디터 GUI 조작으로 바꿔, 다음 수정과 정지 시점을 렌더링만 보고 스스로 결정한다.
    • 장면 3D 검출에서 Boxer 대비 mAP를 0.351에서 0.592로 69% 개선했다.
    • 포즈 추정 ADD-SB@0.05를 CA-1M에서 57.8%에서 83.4%로 25.6%p 끌어올렸고, 장면 재구성 F-스코어도 0.794(SAM 3D)에서 0.924로 올렸다.
    • SFT 후 강화학습으로 훈련한 단일 정책이 오차 특성이 다른 초기화 방식들에 재학습 없이 대응했다.
    초록PDF
  41. 1055LLMs / NLParXiv:2608.31119

    PaperGym: Rubric-Centered Evolution for Research-Plan Generation

    논문 2만 편을 '연구 계획 훈련 환경'으로 바꿔, 정답 검증이 불가능한 연구 기획에도 강화학습을 걸 수 있게 만든 프레임워크다.

    이 논문은 한마디로 '연구 계획서에는 정답이 없어서 강화학습을 못 시킨다'는 고민을, 논문 자체를 채점 기준(rubric)으로 바꿔 해결했다. 질문은 논문의 목표·배경에서, 채점 기준은 방법·실험에서 따와 '질문을 바꿔 말하기만 해도 점수를 따는' 누출 꼼수를 3.7%까지 막았다. 루브릭을 자가 증류 교사의 힌트로, 이어 GRPO의 보상으로 두 번 활용하는 2단계 학습을 돌렸더니 Qwen3-8B가 ResearchQA 73.48로 거대 모델 Kimi K2.6(73.19)을 넘었다.

    • 논문 구조를 이용해 질문(목표·배경)과 채점 기준(방법·실험)의 출처를 분리, 기준 누출률을 기존 11.9~34.1%에서 3.7%로 낮췄다.
    • 같은 루브릭을 OPSD 자가교사의 특권 컨텍스트로, 그다음 GRPO 보상으로 두 번 쓰는 2단계 학습이 SFT·단독·역순을 모두 이겼다.
    • Qwen3-1.7B/4B/8B에서 5개 벤치마크 평균을 각각 +5.6, +5.0, +4.8점 올렸다.
    • 학습 레시피를 고정한 대조에서 PaperGym-20k 학습 모델이 3자 비교 승률 58.1%로 RubricHub Science(28.2%)를 압도해 데이터 품질의 효과를 분리해 보였다.
    • 훈련된 Qwen3-8B가 ResearchQA 73.48로 훨씬 큰 Kimi K2.6(73.19)을 넘었다.
    초록PDF
  42. 1054RoboticsarXiv:2608.30935

    LightNav-0: Eliciting VLM Spatial Intelligence for Generalist Embodied Navigation

    4B 소형 VLM 하나에 '가리키기' 인터페이스를 얹어 과제별 전용 헤드 없이 길찾기·물건 탐색·추적을 전부 처리하게 만든 범용 로봇 내비게이션 모델이다.

    이 논문은 한마디로 소형 VLM(Qwen3-VL-4B) 하나를 로봇 내비게이션 만능 두뇌로 만든 것이다. '무엇을 향해 가는지(오브젝트 점)'와 '어느 방향으로 갈 수 있는지(어포던스 점)'를 이미지 위의 점으로 찍는 이중 포인팅을 과제·로봇 공용 인터페이스로 쓰고, 행동은 언어모델 헤드의 토큰 3개로 10개 웨이포인트를 뽑는 RVQ 토크나이저가 만든다. 2K+ 씬·4K+ 시간 데이터로 미드트레이닝-SFT-RL을 거쳤고, 10개 공개 시뮬레이션 전부에서 단안 카메라 기준 최고 성공률을 냈다. 실제 휴머노이드·4족·드론·바퀴 로봇에 추가 학습 없이 그대로 옮겨갔다.

    • 과제별 예측 헤드 없이 VLM 백본 하나로 안내 따르기, 열린 어휘 물건 탐색, 시각 추적을 한 모델로 처리했다.
    • 이중 포인팅(어포던스 점+오브젝트 점)이 평균 성공률을 54.7%에서 63.1%로 끌어올렸고, 제거 시 모든 벤치마크에서 성능이 떨어졌다.
    • 잔차 벡터 양자화(RVQ) 행동 토크나이저로 토큰 3개만으로 10개 웨이포인트 궤적을 정밀 생성했다.
    • 10개 공개 내비게이션 시뮬레이션 전부에서 단안(monocular) 성공률 최고치를 기록했다.
    • 휴머노이드·4족·공중·바퀴 로봇에 제로샷 전이됐고, 환경 다양성 확대가 모델 크기 증가보다 확실한 성능 축이었다(백본은 4B 이상에서 포화).
    초록PDF
  43. 1053Machine LearningarXiv:2608.31046

    Does On-Policy Distillation Really Distill? From Noisy Teacher to Self-Improvement

    온폴리시 증류(OPD)의 성능 향상이 사실은 교사 지식 전이가 아니라 '저확률 토큰 억제' 효과임을 밝히고, 교사 없이 자기 신호만으로 모델을 강화하는 OPSA를 제안했다.

    이 논문은 한마디로 '증류가 아니라 자기 정리'임을 보인 반전 규명이다. 온폴리시 증류(OPD)에서 강한 교사 모델의 채점은 최대 50%까지 노이즈인데도 학생 모델은 아무렇지 않게 성장했고, 원인을 추적하니 학생이 뽑은 저확률 토큰을 억제하는 효과가 진짜였다. 저자들은 교사·보상·정답 힌트 없이, 토큰의 불확실성(엔트로피)에 맞춰 벌점 세기를 조절하는 OPSA를 만들었다. Qwen3-1.7B에서 AIME24 Avg@32를 기본 대비 263% 끌어올렸고 OPD보다 16.77점 높았다.

    • OPD의 교사 신호가 4B 교사 30.6%, 235B 교사 50.6%까지 노이즈(정답에 벌점, 오답에 점수)였는데, 노이즈를 지우고 학습해도 결과가 사실상 같았다.
    • OPD의 이득은 저확률 토큰에 집중되며, 고정된 음의 어드밴티지 하나로 교사 신호를 대체할 수 있음을 보였다.
    • 외부 감독이 전혀 없는 OPSA는 AIME24 Avg@32를 +35.41점(상대 263%) 올렸고 OPD보다 16.77점 높았다.
    • 3개 수학 벤치마크(AIME24/25, HMMT) 모두에서 Pass@32를 두 배 이상 늘렸다.
    • 확률이 갈리는 고엔트로피 분기점에서는 후보 토큰에 확률을 골고루 나눠, 분포를 날카롭게 만들면서도 탐색 다양성을 유지했다.
    초록PDF
  44. 1052Machine LearningarXiv:2608.31036

    Normalized Low-Rank Adaptation

    LoRA(적은 파라미터로 모델을 조정하는 기법)의 다운 프로젝션 행렬을 정규화하는 것만으로 학습 속도·성능·안정성을 함께 끌어올린 간단한 개선법이다.

    이 논문은 한마디로 인기 미세조정 기법인 LoRA에 '정규화' 하나를 얹어 학습을 더 빠르고 안정적으로 만드는 NoRA를 제안했다. LoRA는 학습 초기에 업 프로젝션이 0으로 시작하므로 다운 프로젝션 행렬 A가 학습 방향을 사실상 지배하는데, NoRA는 이 A의 크기를 랭크 방향으로 정규화해 저랭크 축들 사이의 균형을 잡는다. 사전학습·미세조정·강화학습 모두에서 수렴이 빨라지고 성능이 올라가며, 기존 지식을 잊는 치명적 망각도 줄었다. 파라미터 추가도 추론 비용 증가도 없어 기존 LoRA 파이프라인에 그대로 얹을 수 있다.

    • LoRA의 초기 학습이 다운 프로젝션 A에 좌우된다는 점을 짚고, A를 랭크 방향으로 정규화하는 것만으로 최적화가 개선됨을 보였다.
    • 감독 미세조정 평균을 37.93(LoRA)에서 43.37로 올렸고, 초기화 시점에만 정규화를 적용하는 NoRA-init만으로도 42.38까지 올랐다.
    • 수학 추론 강화학습(RLVR)에서 전체 평균 44.4%로 LoRA(42.8%)를 넘었고, 같은 설정에서 SVD 기반 PiSSA는 0.2%로 무너지는 것과 대조적으로 안정적이었다.
    • 적응 후 기존 지식 유지(MMLU 등 3종 평균 변화)가 +0.02로, LoRA(-0.56)나 MiSS(-0.70)보다 망각이 훨씬 적었다.
    • DoRA에도 같은 정규화 원리를 적용해 38.30에서 41.40으로 올려, 아이디어가 LoRA 계열에 한정되지 않음을 확인했다.
    초록PDF
  45. 1051AI / GeneralarXiv:2608.27953

    The Illusion of $\textit{What If}$: Evaluating the Breakdown of Counterfactual Reasoning in LLMs

    최신 LLM들에게 '만약 ~라면 어땠을까' 질문 220개를 던져, 그럴듯한 답 뒤에 숨은 엉성한 인과구조를 잡아내는 평가 벤치마크를 만든 논문.

    이 논문은 한마디로 LLM의 반사실(what-if) 추론이 얼마나 부실한지 드러내는 WhatIfBench 벤치마크와 평가기 PRISM을 소개한다. 기존 벤치마크는 정해진 변수·단일 정답만 다뤘지만, 이 벤치마크는 STEM·인문사회·혼합 영역의 열린 형식 질문 220개로 구성했다. PRISM은 모델의 자유 서술 답변을 사건·상태·메커니즘으로 이루어진 인과 그래프로 바꾼 뒤, 그래프 수준 인과 타당성과 답변 수준 충분성을 함께 채점한다. 최신 LLM 6개를 평가한 결과 최고 모델도 64.62%에 그쳤고, 인과 공백·전제 표류·위상 파편화 같은 실패 패턴이 반복됐다.

    • 열린 도메인 what-if 질문 220개(STEM/인문사회/혼합)로 구성된 진단 벤치마크를 공개했다.
    • 자유 서술 답변을 인과 그래프(사건·상태·메커니즘의 DAG)로 변환해, 결과가 아니라 추론 과정을 채점하는 PRISM 평가기를 만들었다.
    • 최신 LLM 6개 중 최고 성적이 64.62%에 불과해, 반사실 추론이 아직 포화 상태에서 멀다는 걸 보였다.
    • 가장 흔한 실패는 '인과 공백'이었다. 그럴듯한 결과를 나열하지만 전제를 결과로 잇는 중간 다리가 빠져 있었다.
    • 유창한 서술이 엉성한 인과 과정을 감춘다는 결론으로, 구조 기반 평가의 필요성을 강조했다.
    초록PDF
  46. 1050Machine LearningarXiv:2608.27763

    Fast Weight Attention for Continual Learning

    어텐션 대신 '고정 크기 상태'로 문맥을 압축하는 모델들의 상태 갱신 규칙을 온라인 학습 관점에서 이론적으로 정리하고, 새 갱신 규칙(Falcon 계열)을 유도한 논문.

    이 논문은 한마디로 순환형 고속가중치 메모리와 상태공간모델(Mamba 계열)이 문맥을 고정 크기 상태로 압축할 때, 그 갱신 규칙이 사실상 '온라인 학습 규칙'임을 밝히고 정렬된 학습 쌍과 정규화된 1차 갱신식(Falcon-1/2/3과 내적 변형)을 유도한 이론 작업이다. 저자들은 다음 토큰 예측 목표에서 상태가 실제로 학습해야 하는 쌍은 한 스텝 어긋난 (직전 키, 현재 값)임을 보였다. 이 갱신식들은 청크 병렬 학습과도 호환된다. 언어모델링에서 경쟁력을 유지했고, 자릿수 덧셈 외삽(33~48자리)에서는 Falcon-3A.3가 87.2%로 모든 기준선을 넘었다.

    • 상태 갱신 규칙을 온라인 학습으로 재해석해, 시간 정렬·가소성·망각·리허설을 분리해 분석하는 틀을 만들었다.
    • 다음 토큰 예측에서 상태가 학습해야 할 쌍이 (직전 키, 현재 값)으로 한 스텝 어긋나 있음을 밝혔다.
    • 회귀 목표(Falcon-1/2/3)와 내적 목표(Falcon-1A/2A/3A)의 정규화 1차 갱신식을 유도하고 재발·마스크 병렬·청크 병렬 형태를 제공했다.
    • 언어모델링 평가에서 기존 순환 모델들과 경쟁력을 유지했다.
    • 33~48자리 덧셈 외삽에서 Falcon-3A.3가 87.2%로 RetNet·Transformer 기준선을 모두 앞섰다.
    초록PDF
  47. 1049Computer VisionarXiv:2608.27549

    Code as Worlds: Agentic Discovery of Executable World Representations for Physical Reasoning

    물리 세계를 '실행 가능한 코드'로 표현하고, 에이전트가 가설을 세워 시뮬레이션으로 검증하며 세계 표현을 찾아내게 한 논문.

    이 논문은 한마디로 물리 세계를 실행 가능한 코드(물체 구성, 움직임 법칙, 겉모습)로 표현하는 Code-as-World 패러다임을 제안한 것이다. 에이전트가 글이나 영상을 보고 '실행 가능한 세계 가설'을 제안하고, 시뮬레이터에서 돌려보고 렌더링해 실제 관측과 비교한 뒤 틀리면 고치는 반복 루프를 돈다. 이렇게 검증된 세계를 학습 감독 신호로 써서 시각-언어 모델(Code-as-World-VL)을 학습시켰다. 그 결과 9B 모델이 Gemini-3.1-Flash보다 정량 물리 추론(QuantiPhy)에서 뛰어났고, 27B는 모든 기준선을 넘어섰다.

    • 물체·물리 법칙·겉모습을 코드로 써서, 컴팩트하면서도 숫자로 검증 가능한 세계 표현을 만들었다.
    • 제안→실행→렌더링→검증→수정의 에이전트 루프(가추 추론에서 영감)로 글이나 영상에서 세계 표현을 자동으로 발견했다.
    • 검증된 실행 세계를 감독 신호로 활용해, 영상 속 속도·질량 같은 수치를 묻는 정량 물리 추론을 시각-언어 모델에 가르쳤다.
    • Code-as-World-VL-9B가 QuantiPhy에서 Gemini-3.1-Flash 같은 훨씬 큰 상용 모델을 능가했고, 27B는 전체 최고 성적을 냈다.
    • 가설을 세우고 실험으로 확인하는 과학적 발견 절차를 에이전트 루프로 옮겼다는 점이 핵심 의의다.
    초록PDF
  48. 1048LLMs / NLParXiv:2608.28476

    ContextPilot: Teaching Agents for Proactive Context Management via Fine-grained RL

    긴 작업을 하는 에이전트가 자기 대화 맥락(컨텍스트)을 스스로 정리·압축하도록 도구를 늘리고 강화학습으로 가르친 논문.

    이 논문은 한마디로 장기 작업 에이전트가 자기 컨텍스트를 능동적으로 관리하도록 훈련시키는 ContextPilot 프레임워크를 제안한 것이다. 기존에는 검색·삭제·요약 세 가지 도구뿐이었는데, 여기에 계획 수립, 장기 기억, 소프트 오프로딩(덜 중요한 내용을 외부 저장소로 내보내기) 도구를 추가했다. 또 컨텍스트 편집 행동마다 영향이 다름을 반영해, 중요한 편집 지점에서 가지치기 샘플링을 하고 행위 단위로 보상을 주는 강화학습을 설계했다. 그 결과 긴 문서 질의응답과 심층 검색 과제에서 더 좋은 성적을 내면서도 컨텍스트 길이를 8~10K 토큰으로 안정적으로 유지했다.

    • 도구 세트에 계획·장기 기억·오프로딩을 추가하자 BrowseComp+ 정확도가 63.49%에서 80.96%로 올랐다.
    • 강화학습 적용으로 더 어려운 BrowseComp+ 벤치마크에서 5.34점 상승했다. 과제가 길고 어려울수록 효과가 커졌다.
    • 기존 에이전트의 입력 길이는 턴마다 30K 토큰까지 선형 증가했지만, ContextPilot은 8~10K 토큰에서 안정됐다.
    • 강화학습이 도구 사용 실수도 줄였다. 초기에 잦던 기억·오프로딩 도구 실패가 훈련되며 크게 감소했다.
    • Qwen3-8B/14B, Gemma4-E4B 등 서로 다른 베이스 모델에서도 일관된 향상을 보였다.
    초록PDF
  49. 1047ResearcharXiv:2608.28122

    Agentic Artifact Creation: Systems, Evaluation, Principles, and Opportunities

    AI가 보고서·코드·영상 같은 '완성된 결과물'을 중간 점검으로 방향을 수정하며 만드는 연구 259편을 통합 정리한 조사 논문.

    이 논문은 한마디로 '에이전트가 결과물을 만드는 일(agentic artifact creation)' 연구 259편(시스템 230편+벤치마크 29편)을 체계적으로 정리한 조사다. 저자들은 결과물 상태를 담는 표현, 무엇을 고칠지 정하는 정책, 결과를 검증하는 피드백의 세 요소가 연결돼야 완성도 높은 결과물이 나온다고 본다. 텍스트·이미지·소프트웨어 등 6개 결과물 계열을 비교하며, 실패가 아직 고칠 수 있을 때 보이는지가 난이도를 좌우한다고 짚는다. 마지막으로 책임 명확화, 피드백 기반 국소 수리, 변경 후 재검증 같은 설계 원칙을 제안했다.

    • 2026년 8월까지 발표된 연구 259편을 검토해, '상태 저장 + 관측 기반 방향 수정'이 있는 에이전트 생성을 하나의 연구 분야로 정의했다.
    • 텍스트, 2D 영상, 오디오, 비디오, 3D·공간, 행동(소프트웨어 등) 6개 결과물 계열별 공통 과제와 난이도를 비교했다.
    • 작업을 쪼개면 국소 복잡도는 줄지만 조정·재조립 비용이 늘어나는 트레이드오프를 짚었다.
    • 생성 모델과 같은 취향·맹점을 공유하는 '학습된 심판'은 독립적 증거를 거의 추가하지 못한다고 경고했다.
    • 약속과 책임을 명시하고, 피드백을 국소 수리로 바꾸고, 변경 후에는 영향받은 부분을 다시 검증하라는 원칙을 제시했다.
    초록PDF
  50. 1046LLMs / NLParXiv:2608.28444

    Sliding-window beats linear attention

    값비싼 '선형 어텐션' 개조 대신, 추가 학습 없는 슬라이딩 윈도우 어텐션(최근 토큰+맨 앞 몇 개만 보기)이 메모리도 아끼고 성능도 더 좋다는 걸 정면 비교로 보여준 논문.

    이 논문은 한마디로 LLM의 메모리 문제 해결책으로 유행하는 '선형 어텐션 전환'보다, 아무 추가 학습 없이 쓸 수 있는 슬라이딩 윈도우 어텐션(SWA)이 낫거나 최소한 동등하다는 것을 보여준 것이다. 저자들은 1.3B~70B 크기의 여러 LLM과 다양한 벤치마크에서 두 방식을 정면 비교했다. 일반 과제에서 SWA는 원래 모델 성능의 99%를 회복했고, 긴 문맥 과제(바늘찾기, BABILong)에서는 선형 어텐션 대비 2~10배 높은 정확도를 냈다. 결론은 추론 메모리를 줄이고 싶으면 값비싼 개조 대신 SWA를 쓰라는 것이다.

    • 추가 학습 0회: 어텐션 마스크만 바꾸는 SWA로, 수십억~수십억 토큰 재학습이 필요한 선형 어텐션 전환과 맞먹거나 능가했다.
    • 긴 문맥에서 격차가 더 컸다. 256K 컨텍스트에서 SWA는 원래 성능의 20~25%를 회복했지만 선형 어텐션(LoLCATs)은 2.2~5%에 그쳤다.
    • MMLU에서 SWA는 원 성능의 93.2%를 회복해 LoLCATs(83.2%), Liger-GLA(62.2%) 등 주요 선형화 방법을 모두 앞질렀다.
    • SWA(윈도우 64)는 테스트한 방식 중 디코딩 속도가 가장 빠르고 메모리도 가장 적게 들었다.
    • 영상 생성 모델에서도 훈련 없는 슬라이딩 윈도우가 강력한 기준선이라는 점을 관련 연구 인용으로 확인했다.
    초록PDF