논문 아카이브

수록 논문과 요약을 번호가 큰 순서로 보여 줍니다.

수록 논문 1,193자료 갱신일 2026-10-16벤치마크 RSS 구독

344AI / GeneralarXiv:2606.06453
Vortex: Efficient and Programmable Sparse Attention Serving for AI Agents
희소 attention 알고리즘을 빠르게 프로토타이핑하고 배포하는 프로그래밍 가능한 서빙 시스템으로 최대 4.7배 가속을 달성한다.
Vortex는 Python 임베디드 프론트엔드 언어와 페이지 중심 텐서 추상화 위에 구축된 희소 attention 서빙 시스템이다. 다양한 희소 attention 알고리즘을 표현할 수 있고, 효율적인 백엔드가 현대 LLM 서빙 스택과 긴밀히 통합된다. AI 에이전트가 Vortex를 사용해 자동으로 다양한 알고리즘을 생성하고 정제하며, 최적 결과는 full attention 대비 3.46배 높은 처리량을 달성한다. 또한 GLM-4.7-Flash에서 4.7배, 229B 파라미터 MiniMax-M2.7에서 1.37배 처리량 향상을 기록하며, 신흥 아키텍처와 초대형 모델까지 확장 가능함을 보여준다.
- Python 임베디드 프론트엔드로 희소 attention 알고리즘을 빠르게 프로토타이핑할 수 있다.
- AI 에이전트가 자동으로 알고리즘을 생성하고 정제해 3.46배 처리량 향상을 달성한다.
- GLM-4.7-Flash MLA 아키텍처에서 4.7배, MiniMax-M2.7 229B에서 1.37배 가속한다.
- 현대 LLM 서빙 스택과 긴밀히 통합된 효율적 백엔드를 제공한다.
- 신흥 아키텍처와 초대형 모델까지 희소 attention의 적용 범위를 확장한다.
초록 PDF
343Machine LearningarXiv:2606.06458
In-Context Multiple Instance Learning
합성 데이터로 사전학습한 in-context learner가 소수 라벨로 다중 인스턴스 학습을 수행한다.
이 논문은 Perceiver 스타일 아키텍처의 in-context learner를 합성 데이터로 사전학습해, 소수 라벨 가방만으로 새로운 다중 인스턴스 학습(MIL) 태스크를 해결하는 방법을 제안한다. 추론 시 단일 forward pass로 분류가 이루어지며 기울기 업데이트가 필요 없다. 가방 구조 데이터를 위한 여러 합성 데이터 생성기를 조사하고, 이들이 상호 보완적 귀납 편향을 포착함을 발견했다. 혼합 생성기로 사전학습한 모델은 12개 MIL 벤치마크에서 평균 최고 성능을 달성하며, 태스크별 학습이 필요한 지도 학습 기준선을 능가한다.
- 합성 데이터로 사전학습한 in-context learner가 소수 라벨로 MIL 태스크를 해결한다.
- 추론 시 단일 forward pass로 분류하며 기울기 업데이트가 필요 없다.
- 가방 구조 데이터를 위한 다양한 합성 데이터 생성기를 제안하고 분석한다.
- 서로 다른 생성기가 상호 보완적 귀납 편향을 포착한다.
- 혼합 생성기 사전학습 모델이 12개 MIL 벤치마크에서 지도 학습 기준선을 능가한다.
초록 PDF
342Machine LearningarXiv:2606.06459
Event Detection for Parameter-to-KPI Dependency Learning for AI-RAN
AI-RAN 환경에서 제어 파라미터와 KPI 간 의존성 학습을 위한 이벤트 탐지 방법을 제안한다.
차세대 무선 네트워크의 AI-RAN 환경에서 여러 AI 제어 기능이 동시에 실행될 때 상호 간섭을 관리하기 위해서는 제어 파라미터와 네트워크 성능 KPI 간의 의존 구조 파악이 필수적이다. 이 논문은 노이즈가 많은 연속 원격 측정 데이터를 이진 이벤트 지표로 변환하는 이벤트 탐지 방법에 집중한다. 잠재 의존성이 심어진 합성 폐루프 트래픽 생성기를 도입하고, 유의성 탐지 문제로 정식화한 의존성 복원 파이프라인을 평가한다. 신호가 배경 변동과 충분히 분리되면 잠재 의존 구조를 안정적으로 복원하며, 임계값 보정이 탐지 품질의 핵심 요소임을 확인한다.
- AI-RAN에서 다중 AI 제어 기능 간 간섭 관리를 위한 의존성 학습의 첫 단계를 다룬다.
- 노이즈가 많은 연속 측정 데이터를 이진 이벤트 지표로 변환하는 파이프라인을 제안한다.
- 잠재 의존성이 심어진 합성 폐루프 트래픽 생성기를 새로 도입했다.
- 유의성 탐지 문제로 정식화해 의존성 복원 파이프라인을 평가한다.
- 임계값 보정이 이벤트 탐지 품질의 핵심 결정 요소임을 확인했다.
초록 PDF
341SecurityarXiv:2606.06460
Will the Agent Recuse Itself? Measuring LLM-Agent Compliance with In-Band Access-Deny Signals
LLM 에이전트가 자발적으로 접근을 거부하도록 유도하는 협력적 거버넌스 신호를 제안하고 실험적으로 검증한다.
이 논문은 자율 LLM 에이전트가 유효한 자격증명을 가지고 있을 때 서버가 프로토콜 기존 채널을 통해 에이전트에게 자발적 철수를 요청하는 Recuse Signal을 제안한다. 이는 robots.txt의 라이브 접근 버전으로, 보안 경계가 아닌 협력적 거버넌스 수단이다. SSH banner/PAM 훅과 PostgreSQL 프록시 두 가지 어댑터를 구현해 실제 프로덕션 호스트에서 실험한 결과, 신호가 있을 때 GPT-4o, GPT-4o-mini, Claude Code 모두 100% 철수했으며, 운영자 승인 프레이밍 시 가장 유능한 모델만 진입을 재개하는 등 협력적 신호로 작동함을 확인했다.
- 프로토콜 기존 채널로 에이전트에게 자발적 철수를 요청하는 Recuse Signal을 제안한다.
- 보안 경계가 아닌 robots.txt 같은 협력적 거버넌스 수단으로 설계했다.
- SSH banner와 PostgreSQL NOTICE로 구현해 프로덕션 환경에서 실험했다.
- 신호가 없으면 100% 작업 수행, 있으면 100% 철수로 깔끔한 대조를 보였다.
- 운영자 승인 프레이밍에 따라 가장 유능한 모델만 진입을 재개하는 계층적 반응을 관찰했다.
초록 PDF
340AI / GeneralarXiv:2606.06462
Benchmark Everything Everywhere All at Once
에이전트가 자율적으로 벤치마크를 구축하는 시스템으로, 15개 벤치마크를 생성해 품질을 검증받았다.
Benchmark Agent는 사용자 쿼리 분석, 하위태스크 설계, 데이터 주석, 품질 관리까지 벤치마크 구축 전체 파이프라인을 자율적으로 수행하는 에이전트 시스템이다. 기존 벤치마크의 노동 집약적 구축과 빠른 성능 포화 문제를 해결하기 위해 설계되었다. 텍스트 이해, 멀티모달 이해, 도메인 특화 추론 등 15개 대표 벤치마크를 생성하고, 인간 평가와 LLM-as-a-judge로 높은 품질을 검증받았다. 지속적 평가를 통해 현재 모델들이 특정 도메인 추론 태스크에서 어려움을 겪는다는 점 등 여러 통찰을 발견했다.
- 쿼리 분석부터 품질 관리까지 벤치마크 구축 전체 파이프라인을 자율적으로 수행한다.
- 기존 벤치마크의 노동 집약성과 빠른 성능 포화 문제를 해결한다.
- 텍스트, 멀티모달, 도메인 추론 등 15개 벤치마크를 성공적으로 생성했다.
- 인간 평가와 LLM-as-a-judge로 생성 샘플의 높은 품질을 확인했다.
- 지속적 평가를 통해 현재 모델들의 도메인 특화 추론 약점을 발견했다.
초록 PDF
339LLMs / NLParXiv:2606.06467
You Only Index Once: Cross-Layer Sparse Attention with Shared Routing
KV 공유 아키텍처에서 라우팅 인덱스까지 레이어 간 공유해 128K 컨텍스트에서 최대 7.6배 디코딩 가속을 달성한다.
CLSA(Cross-Layer Sparse Attention)는 YOCO 등 KV 공유 아키텍처 위에 구축되어, KV 캐시뿐 아니라 라우팅 인덱스까지 레이어 간에 공유한다. 단일 인덱서가 토큰 수준 top-k 선택을 한 번 수행하고 그 결과를 모든 층에서 재사용해, 토큰 희소 attention의 세밀한 선택성을 유지하면서 라우팅 오버헤드를 분할 상환한다. 프리필링, KV 캐시 저장, 장문맥 디코딩 등 모든 주요 추론 병목을 개선하며, 128K 컨텍스트에서 최대 7.6배 디코딩 가속과 17.1배 전체 처리량 향상을 달성한다.
- KV 공유 아키텍처에서 라우팅 인덱스까지 레이어 간 공유하는 CLSA를 제안한다.
- 단일 인덱서가 top-k 선택을 한 번 수행하고 결과를 전체 층에서 재사용한다.
- 토큰 희소 attention의 정확도를 유지하면서 라우팅 비용을 분할 상환한다.
- 프리필링, KV 캐시, 디코딩 등 모든 주요 추론 병목을 동시에 개선한다.
- 128K 컨텍스트에서 7.6배 디코딩 가속, 17.1배 전체 처리량 향상을 달성한다.
초록 PDF
338AI / GeneralarXiv:2606.06468
Goedel-Architect: Streamlining Formal Theorem Proving with Blueprint Generation and Refinement
Lean 4에서 청사진 생성과 정제로 형식 정리 증명을 수행하는 에이전트 프레임워크로 SOTA를 달성한다.
Goedel-Architect는 Lean 4에서 형식 정리 증명을 위한 에이전트 프레임워크로, 정의와 보조정리의 의존성 그래프인 청사진(blueprint)을 생성하고 정제하는 것이 핵심이다. 먼저 자연어 증명의 선택적 가이드와 함께 청사진을 생성하고, 도구가 장착된 Lean 증명기가 열린 보조정리를 병렬로 증명한다. 실패한 보조정리는 전역 청사진의 정제를 유도한다. DeepSeek-V4-Flash를 백본으로 MiniF2F-test 99.2%, PutnamBench 75.6% pass@1을 달성하며, 자연어 증명 가이드 추가 시 MiniF2F 100%, PutnamBench 88.8%, IMO 2025 4/6, Putnam 2025 11/12를 해결한다.
- 정의와 보조정리의 의존성 그래프인 청사진을 생성하고 정제하는 전략을 사용한다.
- 재귀적 보조정리 분해 대신 병렬 증명과 전역 정제로 dead-end 루프를 방지한다.
- DeepSeek-V4-Flash(284B-A13B) 오픈 모델을 백본으로 사용한다.
- MiniF2F-test 100%, PutnamBench 88.8%, IMO 2025 4/6, Putnam 2025 11/12를 달성한다.
- 유사 오픈소스 파이프라인 대비 최대 500배 낮은 비용으로 SOTA를 기록한다.
초록 PDF
337StatisticsarXiv:2606.06469
How abundant are good interpolators?
과파라미터화 환경에서 보간 분류기의 일반화 성능이 지수적으로 집중되는 현상을 대편차 원리로 증명한다.
이 논문은 가우시안 혼합 모델과 로지스틱 모델에서 데이터를 완벽히 분류하는 단위 노름 선형 분류기들의 집합 S에서 무작위로 선택한 분류기의 일반화 오차에 대편차 원리(large deviation principle)를 확립한다. 그 결과, S 안의 거의 모든 보간 분류기가 동일한 일반화 성능에 지수적으로 집중된다는 놀라운 현상을 보여준다. 또한 과파라미터화 영역에서 기울기 하강과 선형 계획법이 S의 대다수 분류기보다 우수한 성능을 보여, 이들의 무해한 과적합(benign overfitting)이 자명하지 않음을 시사한다.
- 보간 분류기 집합에서 무작위 선택 시 일반화 오차에 대한 대편차 원리를 확립한다.
- 거의 모든 보간 분류기가 동일한 일반화 성능에 지수적으로 집중됨을 보인다.
- 가우시안 혼합 모델과 로지스틱 모델 두 가지 자연스러운 분포에서 분석한다.
- 과파라미터화 영역에서 기울기 하강과 선형 계획법이 무작위 보간기보다 우수하다.
- 실용적 알고리즘의 무해한 과적합이 자명하지 않은 비자명한 현상임을 시사한다.
초록 PDF
336Machine LearningarXiv:2606.06470
PC Layer: Polynomial Weight Preconditioning for Improving LLM Pre-Training
다항식 전처리기로 가중치 특이값 스펙트럼을 안정화해 LLM 사전학습을 개선하는 PC Layer 방법이다.
PC Layer는 저차 다항식 전처리를 통해 가중치 행렬의 특이값 스펙트럼을 재형성하여 LLM 사전학습 전반에서 안정적인 가중치 조건수를 보장하는 가중치 파라미터화 방법이다. 학습 후 전처리된 가중치는 원래 아키텍처에 병합 가능해 추론 시 오버헤드가 없다. Llama-1B 사전학습에서 AdamW와 Muon 최적화기 모두에 대해 표준 transformer 대비 우수성을 보이며, 이론적으로는 각 층의 특이값을 균일하게 제한하면 깊은 선형 네트워크에서 기울기 하강의 기하학적 수렴을 보장함을 증명한다.
- 저차 다항식 전처리로 가중치 행렬의 특이값 스펙트럼을 안정화한다.
- 학습 후 가중치를 원래 아키텍처에 병합해 추론 오버헤드가 없다.
- Llama-1B에서 AdamW, Muon 모두에 대해 표준 transformer 대비 성능 향상을 달성한다.
- 이론적으로 층별 특이값 균일 제한 시 기울기 하강의 기하학적 수렴을 보장한다.
- 추가 파라미터나 구조 변경 없이 기존 LLM 학습 파이프라인에 적용 가능하다.
초록 PDF
335AI / GeneralarXiv:2606.06473
MLEvolve: A Self-Evolving Framework for Automated Machine Learning Algorithm Discovery
LLM 에이전트로 머신러닝 알고리즘을 자동 발견하는 다중 에이전트 자가진화 프레임워크다.
MLEvolve는 LLM 기반 자가진화 다중 에이전트 프레임워크로, end-to-end 머신러닝 알고리즘 발견을 수행한다. 트리 탐색을 Progressive MCGS로 확장해 그래프 기반 참조 간선으로 브랜치 간 정보 흐름을 가능케 하고, 엔트로피 기반 점진적 스케줄로 탐색에서 활용으로 전환한다. Retrospective Memory로 도메인 지식과 태스크별 경험을 축적하고, 전략 기획과 코드 생성을 분리하는 적응적 코딩 모드로 장기 반복의 안정성을 확보한다. MLE-Bench에서 SOTA를 달성하고, AlphaEvolve를 수학 알고리즘 최적화에서 능가한다.
- Progressive MCGS로 브랜치 간 정보 흐름을 가능케 해 기존 트리 탐색의 고립 문제를 해결한다.
- Retrospective Memory로 도메인 지식과 태스크 경험을 동시에 활용한다.
- 전략 기획과 코드 생성을 분리하는 적응적 코딩 모드로 장기 반복의 안정성을 확보한다.
- MLE-Bench에서 12시간(표준의 절반) 예산으로 평균 메달률과 유효 제출률 SOTA를 달성한다.
- AlphaEvolve를 수학 알고리즘 최적화에서 능가하며 강한 교차 도메인 일반화를 보여준다.
초록 PDF
334LLMs / NLParXiv:2606.06474
Self-Augmenting Retrieval for Diffusion Language Models
이산 확산 언어모델에서 낮은 신뢰도 토큰을 검색 신호로 활용하는 학습 불필요 RAG 프레임워크다.
SARDI(Self-Augmenting Retrieval for Diffusion Language Models)는 이산 확산 언어모델에서 디노이징 과정에 버려지는 저신뢰도 토큰을 lookahead 신호로 활용하는 동적 RAG 프레임워크다. 이 토큰들은 출력이 완성되기 전에 주요 개체를 미리 표면화하는 경향이 있어, 더 강한 증거를 검색하는 데 활용할 수 있다. 학습이나 특정 검색기 없이 다섯 개 다중 홉 QA 벤치마크에서 기존 학습 불필요 확산 및 자기회귀 검색 기준선을 능가하며 최대 8배 높은 처리량을 달성한다.
- 디노이징에서 버려지는 저신뢰도 토큰을 검색용 lookahead 신호로 활용한다.
- 학습 불필요, 검색기 무관, 모든 이산 확산 언어모델에 적용 가능하다.
- 저신뢰도 토큰이 출력 완성 전 주요 개체를 미리 표면화하는 특성을 이용한다.
- 5개 다중 홉 QA 벤치마크에서 기존 기준선들을 능가한다.
- 기존 대비 최대 8배 높은 처리량을 달성한다.
초록 PDF
333Machine LearningarXiv:2606.06475
RREDCoT: Segment-Level Reward Redistribution for Reasoning Models
추론 모델의 사고사슬에서 핵심 구간에 보상을 재분배해 GRPO의 고분산 문제를 완화하는 방법이다.
RREDCoT는 강화학습 기반 추론 언어모델의 지연 보상 문제를 해결하기 위해 사고사슬(CoT) 구간 수준에서 보상을 재분배하는 방법이다. 기존 GRPO는 몬테카를로 방법으로 분산이 높은 반면, RREDCoT는 모델 자체를 활용해 추가 생성 없이 최적 보상 재분배를 근사한다. 정답 도달에 중요한 CoT 구간에 더 높은 보상을 할당하는 credit assignment를 수행하며, CoT 분할 방식과 상태 가치 추정 등 설계 선택을 분석한다.
- 사고사슬의 지연 보상 문제를 구간 수준 보상 재분배로 해결한다.
- 모델 자체를 활용해 추가 생성 없이 최적 보상 재분배를 근사한다.
- 몬테카를로 샘플링 대비 계산 오버헤드를 크게 줄인다.
- 정답 도달에 기여하는 CoT 구간을 식별해 credit assignment를 수행한다.
- CoT 분할 방식과 상태 가치 추정 방법의 설계 선택을 체계적으로 분석한다.
초록 PDF
332Machine LearningarXiv:2606.06479
Pretraining Recurrent Networks without Recurrence
순환 전파 없이 RNN을 사전학습하는 SMT 방법으로, 병렬 학습과 장거리 의존성 캡처를 동시에 달성한다.
Supervised Memory Training(SMT)은 RNN 학습을 단계 기억 전이 라벨 (m_t, x_{t+1}) → m_{t+1}에 대한 지도학습으로 환원해 순환적 credit propagation을 완전히 우회한다. Transformer 기반 인코더로 예측 상태 목표를 학습해 기억 라벨을 획득하며, 무엇을 기억할지와 어떻게 갱신할지를 분리한다. 그 결과 모든 토큰 쌍 사이 O(1) 길이 기울기 경로를 가지면서 시간 축 병렬 학습이 가능하다. 언어모델링과 픽셀 시퀀스 모델링에서 BPTT를 능가한다.
- RNN 학습을 단계 기억 전이에 대한 지도학습으로 환원해 순환 전파를 우회한다.
- Transformer 기반 인코더로 기억 라벨을 생성해 무엇을 기억할지를 학습한다.
- 모든 토큰 쌍 간 O(1) 기울기 경로로 장거리 의존성을 안정적으로 포착한다.
- 시간 축 병렬 학습이 가능해 RNN 스케일링의 병목을 해소할 잠재력이 있다.
- 언어모델링과 픽셀 시퀀스 모델링에서 표준 BPTT를 능가한다.
초록 PDF
331Game TheoryarXiv:2606.06480
DNQ: Deep Nash Q-Network for Partially Observable n-Player Games
부분 관찰 n인 게임에서 균형 감독 기반으로 에이전트를 학습하는 DNQ 프레임워크다.
DNQ(Deep Nash Q-Network)는 다중 턴 동시 입찰 환경에서 균형 기반 감독으로 에이전트를 학습하는 프레임워크다. 궤적 수집, critic 기반 보수 추정, 균형 계산, 정책 모방을 교대로 수행하며, 공유 critic이 pairwise 보수 행렬 또는 정확한 N인 보수 텐서를 예측하고 외부 솔버가 균형 전략을 계산한다. pairwise 공식화는 정확한 공식화 대비 균형 계산 비용과 학습 시간을 크게 줄이면서 더 많은 에이전트로 확장 가능하다.
- solver-in-the-loop 균형 감독 프레임워크로 입찰 에이전트를 학습한다.
- 공유 critic이 pairwise 보수 행렬 또는 N인 보수 텐서를 예측해 학습 효율을 높인다.
- pairwise 공식화는 정확한 N인 공식화 대비 계산 비용을 크게 감소시킨다.
- 정확한 방법은 에이전트 수가 늘어나면 계산적으로 실현 불가능해진다.
- 전략적 충실도와 확장성 사이의 트레이드오프를 실증적으로 보여준다.
초록 PDF
330LLMs / NLParXiv:2606.06481
Operation-Guided Progressive Human-to-AI Text Transformation Benchmark for Multi-Granularity AI-Text Detection
인간-AI 공동 편집 과정에서 AI 저작 신호가 어떻게 누적·소멸하는지 분석하는 다중 세분성 벤치마크다.
OpAI-Bench는 인간 작성 문서를 시작으로 AI 편집 연산을 점진적으로 적용해 9단계 수정 버전을 생성하는 벤치마크다. 문서, 문장, 토큰, 스팬 네 가지 세분성에서 AI 텍스트 탐지를 평가하며, 8개 문서 수준, 7개 문장 수준, 2개 미세 수준 탐지기를 포함한다. 핵심 발견은 AI 탐지 가능성이 AI 편집 비율뿐 아니라 편집 연산 유형, 도메인, 누적 수정 이력에 따라 결정되며, 혼합 저작의 중간 버전이 완전 인간이나 완전 AI보다 탐지하기 더 어렵다는 비단조적 패턴이다.
- 인간-AI 점진적 공동 편집 과정을 9단계로 모델링하는 벤치마크 OpAI-Bench를 제안한다.
- 문서, 문장, 토큰, 스팬 네 가지 세분성에서 AI 텍스트 탐지기를 평가한다.
- 5가지 대표적 AI 편집 연산과 4개 도메인을 포괄한다.
- 혼합 저작의 중간 버전이 완전 인간이나 고비율 AI보다 탐지하기 더 어려운 비단조적 패턴을 발견했다.
- AI 탐지 가능성은 편집 비율, 연산 유형, 도메인, 누적 이력에 모두 의존한다.
초록 PDF
329Machine LearningarXiv:2606.06486
Regret Minimization with Adaptive Opponents in Repeated Games
적응적 상대가 있는 반복 게임에서 후회 최소화를 위한 새로운 게임이론적 메트릭 RP-Regret을 제안한다.
이 논문은 상대가 플레이 이력에 따라 전략을 바꾸는 반복 게임에서 기존 외부 후회(external regret)가 적응성을 포착하지 못하는 한계를 지적하고, Repeated Policy Regret(RP-Regret)을 새롭게 제안한다. RP-Regret은 모든 플레이어가 플레이 이력에 반응할 수 있는 설정에서 실현된 효용과 사후 최적 효용의 차이를 측정한다. 최적화 오라클, 선형화 대리 함수, 느리게 변하는 상대에 대한 직접 최소화 등 세 가지 알고리즘을 제안하며, 실험에서 Stag-Hunt 게임에서 더 협력적인 해로 수렴함을 보여준다.
- 적응적 상대가 있는 반복 게임을 위한 새 메트릭 RP-Regret을 도입한다.
- RP-Regret은 기본적으로 비볼록 문제이며, 이를 다루기 위한 세 가지 알고리즘을 제안한다.
- 모든 플레이어가 RP-Regret을 최소화하면 부분게임 완전 균형을 학습할 수 있다.
- Stag-Hunt 게임에서 기존 방식보다 더 협력적이고 효용이 높은 해로 수렴한다.
- 비교 전략과 상대 전략의 기억에 대한 필요조건을 규명한다.
초록 PDF
328RoboticsarXiv:2606.06491
TempoVLA: Learning Speed-Controllable Vision-Language-Action Policies
로봇 조작에서 실행 속도를 명시적으로 제어할 수 있는 VLA 모델로, 위험도에 따라 가감속을 동적으로 조절한다.
TempoVLA는 기존 VLA 모델이 학습 데모에서 단일 속도만 상속하는 한계를 극복해, 실행 속도를 명시적으로 제어할 수 있는 비전-언어-액션 정책이다. Variable-Speed Trajectory Augmentation(VSTA)으로 데모를 임의 속도로 재조정하고, 모델 측 컨디셔닝 메커니즘으로 속도를 정책에 주입한다. 대형 멀티모달 모델과 협력해 저위험 구간에서는 가속, 고위험 구간에서는 감속하는 동적 속도 제어를 실현한다.
- 기존 VLA는 고정 속도만 학습하지만, TempoVLA는 명시적 속도 조건으로 실행 속도를 제어한다.
- VSTA 데이터 증강으로 데모를 임의 속도로 재조정하면서 운동 의미를 보존한다.
- 시뮬레이션과 실제 환경 모두에서 양방향 유연한 속도 제어를 달성한다.
- 대형 멀티모달 모델과 결합해 위험도 기반 동적 속도 제어를 실현한다.
- VSTA는 기본 1x 속도 성능도 데이터 활용도 향상으로 개선한다.
초록 PDF
327Software EngineeringarXiv:2606.06492
Code2LoRA: Hypernetwork-Generated Adapters for Code Language Models under Software Evolution
하이퍼네트워크로 리포지토리별 LoRA 어댑터를 생성해 코드 모델에 저장소 지식을 주입하는 프레임워크다.
Code2LoRA는 하이퍼네트워크 기반 프레임워크로, 리포지토리별 LoRA 어댑터를 생성해 코드 언어모델에 저장소 수준의 맥락을 추론 시 추가 토큰 없이 주입한다. 정적 스냅샷을 위한 Code2LoRA-Static과 코드 변경사항마다 GRU 은닉 상태를 업데이트하는 Code2LoRA-Evo 두 가지 모드를 제공한다. 604개 Python 리포지토리로 구축한 RepoPeftBench에서 정적 트랙 66.2%, 진화 트랙 60.3% exact match를 달성해 기존 방법들을 능가한다.
- 하이퍼네트워크가 리포지토리별 LoRA 어댑터를 생성해 추론 시 토큰 오버헤드 없이 저장소 지식을 주입한다.
- 정적 스냅샷용 Code2LoRA-Static과 진화하는 코드베이스용 Code2LoRA-Evo 두 모드를 지원한다.
- Code2LoRA-Evo는 GRU 은닉 상태로 커밋별 diff에 적응한다.
- 604개 Python 리포지토리 기반 RepoPeftBench 벤치마크를 새로 구축했다.
- 정적 트랙 66.2%, 진화 트랙 60.3% exact match로 리포지토리별 LoRA 상한에 근접한다.
초록 PDF
326RoboticsarXiv:2606.06493
HANDOFF: Humanoid Agentic Task-Space Whole-Body Control via Distilled Complementary Teachers
휴머노이드 로봇을 위한 단일 전신 제어기로, 세 전문가 모델을 증류하여 자연어 명령으로 다양한 조작이 가능하다.
HANDOFF는 휴머노이드 로봇의 작업 계획과 전신 제어 사이 인터페이스를 간결하게 설계한 프레임워크다. 전신 모션 트래킹, 이동, 낙하 복구 세 전문가 모델을 multi-teacher KL 증류로 mixture-of-experts 학생 모델에 통합한다. Unitree G1에서 SOTA 수준의 속도 추적 성능을 달성하며, VLM 기반 에이전트 플래너와 결합해 자연어 명령만으로 태스크별 데이터나 컨트롤러 미세조정 없이 다양한 조작 작업을 수행한다.
- 작업 계획과 전신 제어 사이의 간결하고 모듈적인 인터페이스를 제안한다.
- 전신 모션 트래킹, 이동, 낙하 복구 세 전문가를 mixture-of-experts로 증류한다.
- Unitree G1 하드웨어에서 SOTA 속도 추적과 넓은 조작 작업공간을 달성한다.
- VLM 기반 에이전트 플래너로 자연어 명령을 통한 제어가 가능하다.
- 태스크별 데이터나 컨트롤러 미세조정 없이 다양한 작업을 수행한다.
초록 PDF
325Machine LearningarXiv:2606.06494
TailLoR: Protecting Principal Components in Parameter-Efficient Continual Learning
특이값 분해 기반으로 주성분을 보호하며 연속학습 간섭을 줄이는 파라미터 효율적 미세조정 방법이다.
TailLoR는 사전학습 가중치의 특이값 기저 U, V를 고정 참조 프레임으로 활용해 저랭크 업데이트를 특이값 행렬에 적용하는 방법이다. 소프트 스펙트럴 페널티를 통해 주요 특이방향으로의 업데이트를 억제하고, 대신 긴 꼬리(long-tail) 스펙트럼 좌표로 세밀한 적응을 유도한다. 이를 통해 연속학습에서 catastrophic forgetting을 줄이면서도 새로운 태스크에 효과적으로 적응할 수 있다.
- 사전학습 가중치의 특이값 기저(U, V)를 고정 참조 프레임으로 활용해 저랭크 업데이트를 설계한다.
- 소프트 스펙트럴 페널티로 주성분 방향의 업데이트를 억제하여 태스크 간 간섭을 줄인다.
- 세밀한 적응은 유연성이 높은 긴 꼬리 스펙트럼 좌표로 라우팅된다.
- 스펙트럼 분해 기반 PEFT 방법들의 연속학습 성능을 개선한다.
초록 PDF
324LLMs / NLParXiv:2606.05122
Self-Evaluation Is Already There: Eliciting Latent Judge Calibration in Base LLMs with Minimal Data
대규모 언어 모델이 점점 다른 모델에 의해 평가되면서 자연스러운 질문이 제기된다. 모델은 심판이 자신의 출력을 어떻게 채점할지 예측할 수 있는가? 이 능력은 어떤 표적 학습 이전에도 대체로 존재한다. 퓨샷 프롬프트만으로 기본 모델은 이미 세 가지 벤치마크 전반에서 개방형 응답에 대한 외부 심판의 다속성 품질 점수를 우연 수준을 훨씬 웃돌게 예측한다.
이 연구는 언어 모델이 자신의 답변을 외부 심판 모델이 어떻게 채점할지 미리 가늠하는 능력을 이미 갖고 있는지 살펴본다. 기본 모델도 몇 개의 예시만 주면 세 가지 벤치마크에서 우연보다 훨씬 잘 여러 품질 점수를 예측했다. 저자들은 답변 개선과 채점 예측을 함께 학습한 뒤, 답변은 건드리지 않고 예측만 다듬는 SEE 절차를 제안한다. SEE는 강화학습 비교 방법보다 약 31배 적은 160개 고유 예제로 답변 품질을 유지하면서 보정 성능을 높였다. 다만 실험은 한 기본 모델과 언어 모델 심판 계열에 한정됐고 사람 평가가 없어, 사람의 선호까지 잘 맞춘다고 보기는 어렵다.
- 이 논문은 이 능력이 어떤 표적 학습 이전에도 대체로 존재함을 발견한다. 퓨샷 프롬프트만으로 기본 모델은 이미 세 가지 벤치마크 전반에서 개방형 응답에 대한 외부 심판의 다속성 품질 점수를 우연 수준을 훨씬 웃돌게 예측한다.
- 강화 학습 베이스라인보다 약 31배 적은 160개의 고유 예제로부터, SEE는 답변 품질을 유지하면서 세 가지 벤치마크 전반에 걸쳐 홀드아웃 보정을 개선한다.
- 이 결과들은 심판 정렬 자기 평가를 획득이 아니라 도출의 문제로 재구성한다.
초록 PDF
323Computer VisionarXiv:2606.05124
Geometry Gaussians: Decoupling Appearance and Geometry in Gaussian Splatting
새로운 시점 합성을 위한 3D Gaussian Splatting(3DGS)의 성공 이후, 많은 연구가 이를 기하 표면 표현에도 활용하는 방법을 탐구해 왔다.
기본 3D 가우시안 스플래팅은 새로운 시점의 영상을 잘 만들지만, 색과 표면 기하를 같은 파라미터로 표현해 두 목표가 충돌할 수 있다. 저자들은 완전한 정답 색과 기하 정보로 학습해도 기본 구조가 두 정보를 동시에 정확히 담기 어렵다는 점을 확인했다. 해결책은 각 가우시안에 기하 전용 불투명도 파라미터 하나를 더하고, 필요하면 투명 물체에 맞춘 최적화 절차를 적용하는 것이다. 이 작은 변경은 NeRF Synthetic, DTU, Translab, Mip-NeRF 데이터에서 렌더링과 기하 품질을 함께 높였고 특히 투명한 물체가 있는 복잡한 장면에서 효과가 컸다. 별도의 기하 표현을 하나 더 유지하는 방식보다 가볍고 기존 기하 인식형 파이프라인에 붙이기 쉽다는 점이 실용적이다.
- 새로운 시점 합성을 위한 3D Gaussian Splatting(3DGS)의 성공 이후, 많은 연구가 이를 기하 표면 표현에도 활용하는 방법을 탐구해 왔다.
- 이 연구는 완전한 정답 텍스처 및 기하 정보로 학습함으로써, 기본 형태의 3DGS가 본질적으로 텍스처와 기하 구조를 동시에 표현하기에 부적합함을 보인다.
- 저자들은 또한 각 스플랫에 단일 추가 기하 불투명도 파라미터를 적용하고, 선택적인 투명도 큐레이션 최적화 파이프라인을 함께 사용하는 간단한 해법을 제안한다.
초록 PDF
322Machine LearningarXiv:2606.05129
Preserving Data Privacy in Learning Causal Structure with Fully Homomorphic Encryption
데이터 프라이버시 보존은 구조적 데이터 관리와 데이터 마이닝에서 중요한 주제다.
이 논문은 여러 곳에 나뉜 데이터를 공개하지 않고도 인과 구조를 학습하기 위해 완전 동형 암호를 사용한다. 데이터는 전송 중뿐 아니라 계산 중에도 암호문으로 남기 때문에 원본 값이 노출되지 않는다. 동형 암호가 나눗셈과 로그 연산을 직접 다루기 어렵고 느리다는 문제를 회로 단순화, 뉴턴-랩슨 역수 근사, 테일러 전개, 묶음 병렬 처리로 완화했다. 실험한 데이터셋에서는 평문 방식과 비슷한 인과 구조를 얻었고, 암호화 상태에서도 수십 분 안에 학습을 끝냈다. 다만 근사 연산과 암호 계산의 추가 비용이 있으므로 더 큰 데이터와 복잡한 구조에서의 확장성은 계속 확인해야 한다.
- 이 논문은 암호문에 대해 계산을 수행하여 전송 및 연산 중에 데이터를 암호화된 상태로 유지하는, 완전 동형 암호(FHE) 기반 방법을 제안한다.
- 또한 이 방법은 차등 프라이버시를 지원하도록 이식 가능함을 보임으로써 FHE를 넘어 손쉽게 확장될 수 있다.
- 실험 결과는 이 방법이 테스트한 데이터셋에서 평문 버전과 높은 일관성 및 대등한 인과 구조를 달성함을 보여준다.
초록 PDF
321Machine LearningarXiv:2606.05130
Towards Efficient and Evidence-grounded Mobility Prediction with LLM-Driven Agent
개인 수준 이동성 예측은 도시 시뮬레이션, 교통 계획, 정책 분석의 핵심이다.
AgentMob은 별도 학습 없이 다음 위치를 예측하는 LLM 에이전트다. 규칙적인 이동은 과거 반복 패턴으로 빠르게 처리하고, 애매한 경우에만 최근 이동, 장기 이력, 머무름 가능성, 지리 정보를 도구로 차례로 확인한다. 세 이동 데이터셋에서 학습 없는 LLM 방법 가운데 가장 강한 종합 성능을 보였고, GPT-5.4의 1순위 정확도는 BW 71.42%, YJMob100K 33.14%, Shanghai ISP 33.50%였다. BW의 어려운 사례에서는 같은 도구를 쓰는 통계 기준선의 30.65%보다 높은 48.62%를 기록해, 적응적 증거 수집의 이점을 보였다. 다만 성능이 바탕 LLM의 도구 사용 능력에 의존하고, 평가 데이터와 도구 설계 범위가 제한돼 다른 도시와 관측 방식으로의 확장이 필요하다.
- 지도 학습 시퀀스 모델은 높은 정확도를 달성하지만 작업별 학습이 필요하며 의사결정 수준의 투명성을 거의 제공하지 못한다.
- 이 논문은 다음 위치 예측을 적응적·증거 통제형 의사결정으로 정식화하는, 학습이 필요 없는 LLM 구동 에이전트 프레임워크를 제안한다.
- 세 가지 이동성 데이터셋 전반에서 AgentMob은 학습이 필요 없는 LLM 기반 방법 중 가장 강한 종합 성능을 달성하며, GPT-5.4는 BW에서 71.42% Acc@1, YJMob100K에서 33.14%, Shanghai ISP에서 33.50%에 도달한다.
초록 PDF
320Machine LearningarXiv:2606.05131
Deep Embedded Multiplicative DMD for Algebra-Preserving Koopman Learning
쿠프만(Koopman) 이론은 비선형 동역학을 선형 스펙트럼 문제로 전환한다.
쿠프만 이론은 비선형 동역학을 선형 연산자로 다루지만, 실제 계산에서는 어떤 관측량과 유한 차원 사전을 고르느냐가 어렵다. DeepMDMD는 잠재 좌표와 그 공간의 구획을 학습하면서 쿠프만 곱셈 규칙을 정확한 대수 제약으로 강제한다. 학습은 정확한 곱셈 연산자 갱신과 잠재 군집화 단계를 번갈아 수행해 동역학에 맞는 작은 사전을 만든다. 해밀토니안, 혼돈계, 유체 실험에서 기존의 기하 기반 구획보다 스펙트럼 잡음을 줄이고 심한 잡음에서도 안정적인 예측과 장기 통계를 유지했다. 초기 학습 비용은 크지만 이후 예측은 잠재 공간에서 이뤄져, 상태 차원이 매우 큰 동역학 분석에 특히 유용하다.
- 심층 쿠프만 방법은 유연한 좌표를 학습하는 반면, 구조 보존 방법은 고정된 사전에 연산자 항등식을 강제한다.
- 그 결과는 학습된 잠재 셀 위의 유한 전이 맵이다.
- 이 결과들은 쿠프만 학습을 위한 실용적 규칙을 시사한다. 좌표는 학습하고, 대수는 제약하라.
초록 PDF
319LLMs / NLParXiv:2606.05134
Activation-Based Active Learning for In-Context Learning: Challenges and Insights
심층 능동 학습은 LLM 인컨텍스트 샘플 선택을 위해 이전에 탐구된 바 있으나, 트랜스포머 활성화 이해의 최근 진전을 활용하는 방법으로는 그렇지 않았다.
이 연구는 트랜스포머의 MLP 활성값으로 인컨텍스트 예시의 품질을 골라낼 수 있는지 검증한다. Llama-3.2-3B와 Qwen2.5-3B 기본 모델에 여러 분류 및 생성 데이터와 다양한 주의 마스킹 방식을 적용했다. 큰 활성값이나 활성 분포의 앞 네 모멘트는 예시 품질 및 과제 성능과 뚜렷한 관계가 없었고, 모든 실험의 스피어만 상관계수 절댓값이 0.33 이하였다. 따라서 활성값을 그대로 예시 선택 점수로 쓰기보다 모델 불확실성이나 주의 가중치 같은 다른 신호를 쓰는 편이 낫다는 부정적 결과를 제시한다. 다만 비지시형 3B 모델만 조사했으므로 더 큰 모델과 희소 오토인코더처럼 겹친 특징을 분리하는 방법은 추가 검증이 필요하다.
- 그러나 이 논문은 부정적인 결과를 발견한다. 거대 활성화 또는 처음 네 개의 모멘트라는 렌즈로 본 MLP 출력은 예제 품질이나 작업 성능과 상관관계가 없다.
- 구체적으로, 테스트한 모든 작업과 모델에서 절대 스피어만 상관계수는 최대 0.33에 불과하여, 이러한 활성화 기반 샘플링이 인컨텍스트 학습에 사용되어서는 안 됨을 보여준다.
- 저자들은 이것이 중첩 때문일 수 있다고 가정하는데, 이는 모델이 가진 차원 수보다 더 많은 특징을 표현하는 현상으로, Sparse Autoencoder(SAE) 같은 방법이 유망한 향후 방향일 수 있음을 시사한다.
초록 PDF
318Machine LearningarXiv:2606.05138
Generating Financial Time Series by Matching Random Convolutional Features
현실적인 금융 시계열을 생성하는 것은 학습 데이터가 흔히 단일 과거 경로로 제한되기 때문에 어렵다.
금융 시계열은 흔히 하나의 짧은 과거 경로만 있어 생성 모델이 학습 자료를 외우기 쉽다. 저자들은 실제 자료와 생성 자료의 무작위 합성곱 특징을 맞추는 방식과, 미분 가능한 특징 맵 SOCK를 제안한다. SOCK는 여러 커널의 반응을 부드럽게 경쟁시켜 생성기 학습에 바로 쓸 수 있도록 만든다. 소표본 합성 및 실제 금융 데이터에서 SOCK 기반 생성기는 시그니처 특징과 Diffusion-TS 비교 방법을 꾸준히 앞섰고, 이표본 검정과 분류에서도 기존 비지도 특징 맵과 비슷하거나 더 좋았다. 다만 저차원 단일 경로 데이터와 단순한 생성기에 초점을 맞췄으므로, 데이터가 많거나 구조가 복잡한 환경에서도 같은 이점이 유지되는지는 확인이 필요하다.
- 이를 완화하기 위해, 최근 접근법들은 실제 시계열과 생성된 시계열의 비학습 특징 표현 간 불일치를 최소화하도록 생성기를 학습시킨다.
- 이 논문은 무작위 SOCK 특징을 매칭하여 학습된 생성기가 다양한 소표본 금융 데이터셋 전반에서 시그니처 및 확산 기반 베이스라인을 일관되게 능가함을 보인다.
- 저자들은 나아가 이표본 가설 검정과 시계열 분류 작업에서 SOCK의 표현력을 입증하는데, 이 작업들에서 SOCK는 기존 비지도 특징 맵과 대등하거나 이를 능가한다.
초록 PDF
317Machine LearningarXiv:2606.05139
BBOmix: A Tabular Benchmark for Hyperparameter Optimization of Unsupervised Biological Representation Learning
고처리량 시퀀싱의 급속한 발전은 대규모 고차원 오믹스 데이터셋을 낳았다.
오믹스 자료용 오토인코더는 구조와 하이퍼파라미터에 민감하지만 대규모 탐색 비용이 커 기본 설정에 의존하기 쉽다. BBOmix는 실제 생물학 자료에서 비지도 표현 학습의 하이퍼파라미터 최적화를 비교하기 위한 공개 표 형식 벤치마크다. TCGA와 SCHC의 일곱 오믹스 유형, 네 오토인코더 구조를 아우르는 35개 과제와 10만 5천 번의 학습 결과를 담았다. 분석 결과 재구성 손실은 대체로 후속 성능을 잘 대변했지만 일부 DNA 과제에서는 어긋났고, 전이학습과 다중 충실도 최적화가 적은 계산으로 좋은 설정을 찾는 데 효과적이었다. 다만 비교 대상이 단순한 오토인코더와 두 데이터셋에 한정돼 더 다양한 구조와 생물학 자료로 넓힐 필요가 있다.
- 심층 비지도 학습 구조, 특히 오토인코더(AE)는 이 분야에서 차원 축소와 표현 학습을 위해 점점 더 많이 사용되고 있다.
- 대규모 비지도 HPO 연구에 대한 접근을 보편화하기 위해, 이 논문은 실제 생물학 데이터에 대한 비지도 표현 학습을 위한 최초의 오픈소스 테이블형 벤치마크인 BBOmix를 소개한다.
- 이 벤치마크는 TCGA 및 SCHC 데이터셋의 네 가지 AE 구조와 일곱 가지 다중 오믹스 양식에 걸쳐 105,000건의 평가를 포함한다.
초록 PDF
316Computer VisionarXiv:2606.05142
GeM-NR: Geometry-Aware Multi-View Editing for Nonrigid Scene Changes
생성 모델을 활용한 다중 시점 이미지 편집의 최근 발전은 범용 3D 콘텐츠 생성과 커스터마이징에 한 걸음 더 가까워지게 했다.
기존 다중 시점 이미지 편집은 원래 장면의 기하를 유지하는 색상 변경이나 단단한 물체 편집에는 강하지만, 형태가 크게 바뀌는 편집에는 약하다. 학습이 필요 없는 GeM-NR은 먼저 한 시점의 편집 영상을 받은 뒤, 편집 전후 깊이로 3D 점군을 맞추고 이를 다른 시점에 투영해 후속 편집을 안내한다. FLUX, Qwen, BrushNet 같은 여러 편집기를 그대로 쓸 수 있고 두 시점에서 여러 시점으로 확장할 수 있다. 정량 및 정성 평가에서 큰 형태와 외관 변화에도 편집 품질과 기하·밝기 일관성을 높였으며, 결과 영상으로 편집된 3D 표현도 만들 수 있었다. 다만 하나의 기준 시점에 의존해 시점 차이가 큰 넓은 장면에서는 모든 시점의 일관성을 보장하지 못한다.
- 이 논문은 기존 방법들이 어려워하는, 기하 구조와 외관에 큰 변화가 있는 편집을 이 방법이 처리할 수 있음을 입증한다.
- 저자들은 편집된 장면의 3D 표현 생성을 포함한 다양한 편집 작업에서 이 방법이 일관성을 개선함을 보이는 광범위한 평가를 수행한다.
- 정량적·정성적 결과 모두 편집 품질뿐 아니라 여러 시점에 걸친 기하적·광도적 일관성 측면에서 이 방법의 최첨단 성능을 나타낸다.
초록 PDF
315RoboticsarXiv:2606.05143
HORIZON: Recoverability-Governed Curriculum for Physical-Domain Scaling
강건한 로봇 정책을 확장하려면 더 넓은 무작위화 이상이 필요한데, 물리 도메인 경험이 학습 전 과정에서 체계적이고 학습 가능한 상태로 유지되어야 하기 때문이다.
HORIZON은 로봇 강화학습에서 물리 조건을 무작정 넓히기보다 현재 정책이 실패에서 회복할 수 있는 범위 안에서 확장하는 교육 과정이다. 새 동역학이 너무 어려우면 교정에 쓸 경험을 만들지 못하고 롤아웃 전체가 실패하므로, 체크포인트와 되돌리기, 경계 조정으로 난도를 단계적으로 높인다. 4족 보행 실험에서는 마찰, 질량, 구동력 같은 물리 축마다 바로 넓힐 수 있는 정도가 달랐고 순서를 둔 학습이 필요했다. 더 많은 조건을 넣는다고 항상 강건해지는 것은 아니었으며, 핵심 조건만 조합한 구성이 일곱 조건 전체를 쓴 것보다 목표 스트레스 시험에서 더 좋았다. 다만 현재 결과는 사람이 정한 물리 조건의 보행 과제에 한정돼, 물체 조작과 시각 변화까지 넓히려면 회복 가능 경계를 새로 정의해야 한다.
- 온폴리시 학습에서 새로운 동역학은, 롤아웃을 회복 불가능한 실패로 무너뜨리는 대신 교정용 온폴리시 데이터를 생성할 만큼 현재 정책에 충분히 가깝게 유지되는 한에서만 유용하다.
- 체화된 일반화를 위한 물리적으로 까다로운 벤치마크로 4족 보행을 사용하여, 이 논문은 HORIZON을 도입한다. 이는 현재 정책의 회복 가능 경계 안에서만 물리 도메인을 확장하는 체크포인트 기반 프런티어 커리큘럼이다.
- 종합하면, 이 결과들은 물리 도메인 일반화를 체화된 제어를 위한 지속적 성장 문제로 규정하며, 회복 가능성을 온폴리시 확장의 조직 원리로 삼는다.
초록 PDF
314Machine LearningarXiv:2606.05145
Failed Reasoning Traces Tell You What Is Fixable (But Not by Reading Them)
사후 학습된 언어 모델이 추론 문제에서 실패할 때 흔한 테스트타임 스케일링 대응은 추가 시도에 더 많은 연산을 투입하는 것이며, 실패한 추론 흔적은 이후 아무런 역할도 하지 못한다.
언어 모델의 추론 실패는 단순히 운이 나쁜 표본이라 재시도로 고칠 수 있는 경우와, 같은 방식의 재시도로는 고치기 어려운 구조적 경우로 나뉜다. 이 연구는 실패한 답변의 문장을 읽는 대신 여러 실패 롤아웃이 보이는 분포 형태에서 회복 가능성을 찾는다. 사용 가능한 개입 구조에서 만든 세 가지 궤적 특징이 실패를 안정적인 유형으로 묶고, 서로 다른 사후 학습법의 실패 지형을 84.3±4.3% 정확도로 구분했다. 이 특징으로 재시도와 제한된 개입을 고르는 학습 없는 분기 규칙은 어려운 Steerable-Hard 부분집합의 구제율을 12.2% 높였고 다른 모델 계열에도 옮겨 갔다. 따라서 버리던 실패 기록을 추가 학습이나 모델 가중치 접근 없이 추론 전략을 고르는 진단 자료로 쓸 수 있다.
- 이 논문은 이것이 중요한 신호를 버리는 것이라고 주장한다. 어떤 실패는 운 나쁜 샘플링에서 비롯되어 더 많은 롤아웃이 도움이 되지만, 다른 실패는 구조적이어서 예산과 무관하게 재샘플링에 저항한다.
- 저자들은 실패한 추론 흔적이 회복 가능성 구조를 부호화한다고 제안한다. 즉, 주어진 실패를 어떤 테스트타임 개입이 구제할 수 있는지에 대한 추론 시점의 시그니처다.
- 사용 가능한 개입의 구조에서 도출된 세 가지 문제 수준의 궤적 특징은, 실패한 롤아웃의 텍스트가 아니라 그 분포적 시그니처로부터 이 구조를 복원한다.
초록 PDF
313Computer VisionarXiv:2606.05149
An Open-Source Two-Stage Computer Vision Pipeline for Fine-Grained Vehicle Classification using Vision Transformers
차량 차체 유형은 추월 사고에서 자전거 이용자의 부상 심각도를 좌우하는 중요한 요인이지만, 자연 주행 도로 영상으로부터 차량을 부상 위험 관련 범주로 분류하는 자동화 도구는 공개 문헌에 존재하지 않는다.
이 논문은 자전거 추월 영상에서 차량을 승용차, SUV, 픽업트럭, 미니밴, 대형 밴, 상용 트럭으로 나누는 공개 파이프라인을 제시한다. 먼저 사전 학습된 RT-DETR이 차량 위치를 찾고, 미세 조정한 ViT-Base/16이 차체 유형을 분류한다. 확신이 0.60보다 낮으면 억지로 분류하지 않고 '알 수 없음'으로 남겨 조용한 오분류를 줄인다. 앤아버의 3,805건에서는 정확도 0.94를, 다른 장소의 311건에서는 재학습 없이 0.89를 기록했으며 미니밴 성능 하락은 주로 오분류보다 기권 증가로 나타났다. 다만 고정형 자전거 도로 카메라에 맞춘 평가여서 교차로 상공 카메라나 차량·드론 영상 같은 다른 시점에는 별도 적응이 필요하다.
- 미시간주 앤아버의 자전거 도로 구간에서 수집한 3,805건의 주석 달린 추월 이벤트(분포 내)로 평가한 결과, 이 파이프라인은 0.94의 정확도를 달성했으며 클래스별 F1 점수는 0.91(미니밴)부터 0.97(SUV)까지였다.
- 잘 대표된 네 범주 중 세 범주는 도메인 변화 하에서도 F1을 0.90 이상으로 유지했다.
- 추론 스크립트, 학습 코드, 평가 유틸리티, 모델 가중치를 포함한 전체 파이프라인은 도로변 영상 아카이브와 자전거 안전 연구 전반에서 재현성과 재사용을 지원하기 위해 오픈소스 소프트웨어로 공개된다.
초록 PDF
312Neural NetworksarXiv:2606.05150
Multi-Column RBF Neural Network Using Adaptive and Non-Adaptive Particle Swarm Optimization
경사 하강 알고리즘으로 학습된 방사형 기저 함수 신경망(RBFN)은 얕은 망과 깊은 망 모두에서 효과적인 완전 연결 구조를 제공한다.
방사형 기저 함수 신경망은 정확도가 높지만 큰 데이터에서는 커널 계산과 은닉층 크기가 빠르게 늘어난다. MC-PSO와 MC-APSO는 데이터를 공간별 작은 부분으로 나누고 각 부분에 특화된 작은 신경망을 입자 군집 최적화 또는 적응형 입자 군집 최적화로 따로 학습한다. 시험할 때는 입력의 이웃이 들어 있는 부분의 신경망만 골라 출력을 합치므로 계산을 줄이면서 지역 특화를 활용한다. 여러 벤치마크에서 두 방법은 ErrCor, 기본 PSO와 APSO, 기존 다중 열 RBFN보다 정확도와 재현율이 높았다. 대부분의 실험에서 학습과 시험 시간도 더 짧아, 큰 자료에서 진화 탐색 기반 RBF 신경망을 병렬화하는 실용적 방향을 보였다.
- 최첨단 경사 기반 학습 방법인 오류 보정(ErrCor)은 정확도를 높이기 위해 최적의 은닉 유닛을 선택한다.
- ErrCor과 PSO 모두 향상된 결과와 경쟁력 있는 수렴을 입증한다.
- MCRN의 성공에 영감을 받아, 저자들은 PSO 성능을 개선하기 위한 두 가지 새로운 접근법을 제안한다. 즉, PSO를 적용한 다중 열 RBFN(MC-PSO)과 APSO를 적용한 다중 열 RBFN(MC-APSO)이다.
초록 PDF
311Machine LearningarXiv:2606.05152
Reinforcement Learning from Rich Feedback with Distributional DAgger
추론 모델은 빠르게 발전해 왔지만, 지배적인 검증 가능 보상 기반 강화학습(RLVR) 방법론은 놀라울 정도로 협소하게 남아 있다. 즉, 여러 응답을 샘플링하고 최종 답이 맞는지를 나타내는 단일 비트로 각 응답에 보상을 준다.
검증 가능한 보상 기반 강화학습은 보통 최종 답의 정오만 한 비트로 주지만, 실제 환경에는 실행 기록, 도구 출력, 전문가 수정처럼 더 풍부한 피드백이 있다. DistIL은 현재 정책이 방문한 상태에서 피드백을 아는 교사의 분포를 받아 배우는 DAgger의 분포형 변형이다. 순방향 교차 엔트로피를 사용해 뒤에서 나타날 교사와 학생의 차이를 앞선 결정까지 전달한다. 저자들은 역방향 KL이나 젠슨-섀넌 기반 자기 증류가 더 나쁜 행동의 확률을 높일 수도 있지만, DistIL은 단조 정책 개선과 후회 한계를 보장한다고 분석했다. 과학 추론, 코딩, 어려운 수학 실험에서 RLVR과 자기 증류 비교 방법보다 좋은 성능을 보여, 풍부한 피드백을 추론 학습에 쓰는 방법을 제시한다.
- 이 논문은 역방향 KL이나 Jensen-Shannon에 기반한 기존 자기 증류 목적 함수를 사용하는 RL이 단조적 정책 개선을 보장하지 못함을 보인다. 즉, 전문가가 더 높은 보상을 갖더라도 그 업데이트가 더 나쁜 행동에 대한 확률을 높일 수 있다.
- 이와 대조적으로, 순방향 교차 엔트로피가 단조적 정책 개선을 허용하며 후회(regret)에 대한 보장을 누림을 보인다.
- 또한 이 목적 함수가 교사 가중 성공 가능도의 하한을 최적화하여 Pass@N을 개선함을 보인다.
초록 PDF
310LLMs / NLParXiv:2606.05158
Streaming Communication in Multi-Agent Reasoning
다중 에이전트 추론 시스템은 종단 간 지연 시간이 파이프라인 깊이에 비례해 선형적으로 증가하도록 강제하는 '생성 후 전달' 패러다임을 채택한다.
기존 다중 에이전트 추론은 한 에이전트가 전체 답을 만든 뒤 다음 에이전트에 넘겨 파이프라인이 길수록 지연도 늘어난다. StreamMA는 각 추론 단계를 생성되는 즉시 다음 에이전트에 보내 인접 작업을 겹쳐 실행한다. 초반 추론 단계가 후반보다 더 믿을 만한 경향이 있어, 완성된 긴 사슬의 늦은 오류가 다음 에이전트를 흐리는 것도 줄일 수 있다는 설명을 제시한다. 수학, 과학, 코드의 여덟 벤치마크와 두 모델, 세 연결 구조에서 직렬 방식과 단일 에이전트보다 평균 7.3%포인트, 최대 22.4%포인트 높았다. 또한 에이전트마다 처리하는 단계 수를 늘리면 성능과 효율이 함께 좋아지는 단계 수준 확장 법칙을 보고했다.
- 이 논문은 생성되는 즉시 각 추론 단계를 하위 에이전트로 스트리밍하여 인접 에이전트를 파이프라이닝함으로써 지연 시간을 줄이는 다중 에이전트 추론 시스템 StreamMA를 소개한다.
- 수학, 과학, 코드를 아우르는 8개 추론 벤치마크, 두 개의 최첨단 LLM(Claude Opus 4.6과 GPT-5.4), 세 가지 토폴로지(Chain, Tree, Graph)에 걸쳐 StreamMA는 두 베이스라인을 모두 능가한다.
- 이러한 기여를 넘어, 저자들은 '단계 수준 스케일링 법칙'을 발견했다. 즉, 에이전트당 단계 수를 늘리면 효과성과 효율성이 일관되게 향상되며, 이는 에이전트 수 스케일링과 직교하고 조합 가능한 새로운 스케일링 차원이다.
초록 PDF
309RoboticsarXiv:2606.05159
X4Val: Learning Neural Surrogates for Variance-Reduced Policy Evaluation
학습 기반 로봇 시스템의 엄밀한 평가는 배포를 위한 필수 전제 조건이다.
로봇 정책을 엄밀하게 평가하려면 실제 배포 환경 자료가 필요하지만, 최신 정책의 실세계 시험 자료는 비싸고 적다. X4Val은 실세계와 시뮬레이션·과거 로그·관련 환경의 짝지어지지 않은 자료를 공통 표현 공간에 놓고 실세계 지표를 예측하는 신경 대리 모델을 학습한다. 이 예측기를 제어 변량 추정기에 넣어 보조 자료가 실제 자료와 한 쌍이 아니어도 추정 분산과 신뢰 구간을 줄인다. 자율주행과 실제 로봇 조작에서 비교 방법보다 일관되게 나았고 분산을 최대 38.4% 줄였다. 다만 최종 추정에 쓰는 목표 환경 표본 자체는 여전히 평가하려는 배포 분포에서 뽑아야 하며, 다른 분포의 보조 자료만으로 목표 평균을 정할 수는 없다.
- 이는 시뮬레이션, 과거 정책 로그, 관련 플랫폼이나 환경에서 수집한 데이터를 포함한 이질적 데이터 소스를 활용하는 평가 방법론에 동기를 부여한다.
- 이 논문은 자율 주행과 실세계 로봇 조작 작업에 대해 이론적 분석과 실증 평가를 제공하며, 이 영역들에서 X4Val은 최대 38.4%의 분산 감소를 달성하고 강력한 베이스라인 대비 일관된 향상을 입증한다.
- 이 결과는 짝지어지지 않은 이질적 데이터를 활용해 엄밀한 로봇 시스템 검증의 표본 효율을 상당히 개선할 수 있음을 보여준다.
초록 PDF
308RoboticsarXiv:2606.05160
GRAIL: Generating Humanoid Loco-Manipulation from 3D Assets and Video Priors
휴머노이드 로코-매니퓰레이션을 확장하려면 다양한 객체, 전신 동작, 장면 기하구조에 걸친 로봇 호환 시연이 필요하지만, 텔레오퍼레이션과 모션 캡처는 각 수집이 물리적 설정, 계측된 행위자, 로봇 운용에 의존하기 때문에 확장하기 어렵다.
GRAIL은 휴머노이드의 이동과 물체 조작 시연을 실제 원격 조작 없이 디지털로 만드는 파이프라인이다. 물체 모양, 카메라, 실제 크기, 장면 깊이와 로봇 체형이 알려진 3D 장면에서 영상 생성 모델로 상호작용을 만든 뒤, 이를 미터 단위의 4D 사람-물체 궤적으로 복원한다. 복원 동작을 Unitree G1에 맞추고 물체 조작용 추적기와 지형 이동용 추적기를 학습해 2만 개가 넘는 시퀀스를 만들었다. 이 합성 자료만으로 학습한 시각 정책은 실제 로봇에서 다양한 물체 집기 84%, 계단 오르기 90%의 성공률을 냈다. 다만 3D 자산과 준비된 시뮬레이션 장면이 필요하고, 심한 가림이나 빠른 움직임, 영상 속 물체 외관의 불일치에서는 복원 품질이 떨어진다.
- 이 특권적 설정은 4D 복원을 더 잘 조건화하여, 모델 기반 객체 추적, 인간 동작 추정, 상호작용 인식 최적화가 깊이 모호성과 형태 불일치를 줄이면서 미터법 4D 인간-객체 상호작용(HOI) 궤적을 재구성할 수 있게 한다.
- 저자들은 복원된 동작을 휴머노이드 로봇에 리타깃팅하고, 상호 보완적인 범용 작업 추적기를 학습한다. 즉, 조작을 위한 객체 인식 잠재 적응기와 지형 횡단을 위한 장면 인식 추적기다.
- GRAIL이 생성한 데이터만 사용하여, sim-to-real 파이프라인을 통해 자기중심 시각 정책을 학습하고 이를 Unitree G1 휴머노이드에 배포하여, 다양한 객체 집기에서 84%, 계단 오르기에서 90%의 실세계 성공률을 달성한다.
초록 PDF
307LLMs / NLParXiv:2606.05161
Beyond Text Following: Repairable Arbitration Reversals in Audio-Language Models
오디오-언어 모델(ALM)은 오디오 증거가 명확한 경우에도 오디오와 충돌하는 텍스트를 따르는 경우가 많다.
오디오-언어 모델은 소리가 분명해도 소리와 충돌하는 글을 따라 답하는 경우가 많다. 저자들은 같은 오디오를 유지하고 충돌하는 글만 뺀 반사실 비교를 통해, 다섯 모델과 네 과제의 충돌 표본 64.1%에서 오디오 답 선호가 글 답 선호로 뒤집힘을 확인했다. 활성값 바꿔 넣기 실험은 이 뒤집힘이 답을 정하는 위치의 계산에서 일어나며, 그 효과가 최종 후보 점수 차이와 0.93의 스피어만 상관을 보인다고 밝혔다. 학습이 필요 없는 GACL은 두 조건의 점수를 선택적으로 섞어 충실도 하락을 5%포인트 안에 두면서 가장 좋은 대조 기준보다 nAUC를 17.8점 높였다. 다만 이 방법은 모델이 이미 소리 정보를 표현했을 때만 중재를 고칠 수 있고, 참조 계산을 한 번 더 해야 해 지연이 늘어난다.
- 이 논문은 오디오를 고정한 채 충돌하는 텍스트만 제거하고 그에 따른 모델 선호의 변화를 측정하는 동일 오디오 반사실 기법을 사용해 이 질문을 검토한다.
- 5개의 ALM과 4개의 충돌 작업에 걸쳐, 충돌 샘플의 64.1%에서 부호 반전이 나타났다. 즉, 동일 오디오 분기는 오디오가 뒷받침하는 답을 선호하는 반면, 결합 분기는 텍스트가 뒷받침하는 답을 선호한다.
- 엄격한 5 pp 충실도 하락 예산 하에서 GACL은 최고의 대조 학습 베이스라인 대비 nAUC를 17.8점 향상시키며, 재조정 없이 시각-텍스트 중재로 전이된다(최대 +40.5 pp).
초록 PDF
306Computer VisionarXiv:2606.05162
Controllable Dynamic 3D Shape Generation via 3D Trajectories and Text
이 논문은 3D 궤적과 텍스트를 조건으로 제어 가능한 동적 3D 형상 생성을 수행하는 피드포워드 프레임워크 T2Mo를 소개한다.
T2Mo는 글과 3D 궤적을 함께 조건으로 받아 움직이는 3D 형상을 한 번에 생성한다. 글만으로는 정확한 이동 경로를 지정하기 어려워, 사용자가 고른 점들이 따라갈 3차원 길을 직접 제어 신호로 준다. 형상 기반 궤적 임베딩은 조밀하거나 드문 궤적, 고르지 않은 입력을 물체 전체를 덮는 고정된 형상 토큰으로 바꾼다. 정량·정성 평가와 사용자 연구에서 글 기반 방법과 영상 생성 뒤 동적 메시로 바꾸는 연쇄 방법보다 지시를 더 충실히 따르면서 움직임 품질을 유지했다. 다만 고정된 원본 메시의 꼭짓점 이동을 예측하므로 물체가 갈라지거나 합쳐지고 새 부분이 생기는 위상 변화는 다루지 못한다.
- 이를 해결하기 위해 선택된 점들이 이동해야 할 정확한 경로를 명시하는 제어 가능한 공간적 가이드로 3D 궤적을 채택한다.
- 밀집부터 희소하고 불균등하게 분포된 것까지 임의의 구성을 갖는 궤적 입력을 견고하게 처리하기 위해, 입력 궤적 집합을 객체 전체를 포괄하는 형상 인식 토큰 집합으로 매핑하는 형상 기반 궤적 임베딩을 추가로 제안한다.
- 정량적·정성적 평가와 사용자 연구는 이 접근법이 동작 품질을 보존하면서 주어진 프롬프트를 더 충실히 따르고 표현력이 더 높은 동작을 생성함을 입증한다.
초록 PDF
305Machine LearningarXiv:2606.05165
STRIDE: Training Data Attribution via Sparse Recovery from Subset Perturbations
학습 데이터 귀속(TDA)은 모델의 예측을 그 학습 데이터로 추적하는 것을 목표로 한다.
학습 데이터 귀속은 모델의 특정 예측에 어떤 학습 예제가 영향을 줬는지 찾지만, 예제를 넣고 빼며 모델을 반복 학습하기는 매우 비싸다. STRIDE는 수십억 개 파라미터의 기울기를 따라가는 대신, 데이터 일부로 학습했을 때의 행동 변화를 활성 공간의 가벼운 조향 연산자로 흉내 낸다. 이 연산자들이 시험 예측을 어떻게 바꾸는지 측정하고 압축 센싱식 희소 분해로 개별 예제의 영향을 복원한다. LLM 사전학습 귀속에서 기존 최고 수준의 성능을 내면서 이전 방법보다 13배 빨랐다. 데이터 선택, 학습 자료 오염 탐지와 정성 분석에도 적용돼 대규모 학습 자료 정리와 모델 감사를 위한 실용성을 보였다.
- 이 논문은 관점의 전환을 제안한다. 즉, 매개변수 변화를 추정하는 대신 활성화 공간에서 학습 데이터의 기능적 효과를 모델링한다.
- 저자들은 TDA를 압축 센싱의 정신에 입각한 희소 복원 문제로 정식화하는 프레임워크 STRIDE(Steering-based Training Data Influence Decomposition)를 소개한다.
- STRIDE는 LLM 사전학습 귀속에서 SOTA를 달성하면서도 기존 기술보다 한 자릿수, 즉 13배 더 빠르다.
초록 PDF
304LLMs / NLParXiv:2606.02545
Transferable Self-Harm Surveillance from Emergency Department Triage Notes Using an Evidence-Augmented Machine Learning Approach
자해는 주요 공중보건 문제이지만, 병원 내원 자료에 의존하는 현행 감시 체계는 진단 코드의 낮은 민감도로 인해 부적절하다.
응급실 진단 코드는 자해 사례를 놓치기 쉬워, 첫 접촉 때 작성되는 짧은 분류 기록을 감시에 활용할 필요가 있다. 이 연구는 LLM으로 민감하게 후보를 거르고, 자해 근거를 구조화해 뽑은 뒤, 원문과 근거를 지도 분류기에 넣는 세 단계 방식을 만들었다. 호주 세 병원에서 내부와 외부 검증 AUPRC는 각각 0.887±0.016과 0.884±0.012였다. 시간 순서에 따른 평가에서도 개발 병원 0.881±0.008, 별도 재학습 없는 두 외부 병원 0.879±0.012와 0.816±0.015를 기록했고 주요 자해 방법은 95% 정확도로 구분했다. 다만 한 주의 세 병원과 한 LLM만 사용한 후향 연구이며, 실제 감시 배포 전에는 다른 의료 체계에서 임상 검증이 더 필요하다.
- 이 접근법은 내부 및 외부 검증에서 각각 0.887 ± 0.016과 0.884 ± 0.012의 AUPRC를 보였다.
- 전향적으로는 개발 기관에서 0.881 ± 0.008의 AUPRC를 달성했으며, 기관별 재학습 없이 두 외부 기관에서 각각 0.879 ± 0.012와 0.816 ± 0.015를 달성했다.
- 이 접근법의 핵심 장점은 주요 자해 방법을 95%의 정확도로 식별할 수 있어, 이진 분류를 넘어선 더 세분화된 감시를 지원한다는 점이다.
초록 PDF
303LLMs / NLParXiv:2606.02548
SN-WER: Script-Normalized WER for Multi-Script Indic ASR Evaluation
단어 오류율(WER)은 자동 음성 인식(ASR)의 지배적 지표이지만, 참조와 가설이 동일한 단어를 다른 문자 체계로 표기할 경우 오류를 과대평가할 수 있다.
일반 단어 오류율은 같은 단어를 서로 다른 문자로 쓴 경우도 오류로 세어 다언어 음성 인식 성능 차이를 부풀릴 수 있다. SN-WER은 정답과 모델 출력을 언어별 기준 문자로 음역한 뒤 오류율을 계산하는 학습 없는 평가 지표다. 다섯 인도 언어, 두 데이터셋, 세 음성 인식 모델에서 깨끗한 FLEURS 자료의 과장된 모델 차이를 최대 12% 줄였다. 인위적인 로마자 표기 실험에서는 오류율 부풀림을 67% 완화하면서 실제 단어 치환 오류에 대한 민감도는 거의 그대로 유지했다. 이 지표는 검색과 색인처럼 문자 모양보다 단어가 중요한 용도에서 WER·CER과 함께 써야 하며, 사용자에게 보이는 글자 자체가 중요한 경우 기존 지표를 대신해서는 안 된다.
- 이 논문은 WER을 계산하기 전에 참조 텍스트와 가설 텍스트를 모두 언어별 표준 문자 체계로 음역하는, 학습이 필요 없고 평가 전용인 채점 방법 Script-Normalized WER(SN-WER)을 제안한다.
- 통제된 스트레스 테스트에서 인위적 로마자화로 유발된 WER 부풀림이 67% 완화되었으며, 어휘 치환 통제 실험에서는 의미 오류에 대한 민감도가 거의 동일하게 유지되어 Delta SN-WER 대 Delta WER이 약 1.09로 나타났다.
- SN-WER은 음역기 선택과 정규화 변경에 견고하며, 평가한 인도어 환경에서 토큰 충돌률이 0.1% 미만으로 낮게 나타났다.
초록 PDF
302RoboticsarXiv:2606.02551
AFUN: Towards an Affordance Foundation Model for Functionality Understanding
어포던스 이해는 시각 인지와 물리적 행동을 연결하며, 개방적이고 비정형적인 실세계 환경에서 로봇 조작을 위한 설명 가능한 인터페이스 역할을 한다.
AFUN은 로봇이 물체의 어디를 어떻게 움직여야 하는지를 한 모델에서 이해하도록 만든 어포던스 모델이다. 한 장의 RGB-D 영상과 글로 된 과제를 받아 접촉할 영역의 마스크와 접촉 뒤 3D 이동 곡선을 함께 예측한다. 로봇 시연, 사람 영상, 시뮬레이션과 실제 스캔을 언어·마스크·물체 중심 움직임이라는 공통 형식으로 바꾸는 대규모 자료 파이프라인을 구축했다. 네 벤치마크의 여덟 시험 세트에서 분할 점수를 크게 높였고, 접촉점 적중률은 가장 좋은 비교 방법보다 12.7~61.3% 높았으며 세 움직임 시험에서도 가장 좋았다. 다만 학습 자료에 비슷한 물체나 동작이 전혀 없으면 정확한 움직임을 예측하기 어려워, 실제 로봇에서는 안전 장치와 과제별 검증이 필요하다.
- 기존 방법들은 보통 이 과제의 일부만 다룬다. 실행 가능한 동작을 명시하지 않은 채 작업 관련 영역만 위치를 추정하거나, 동작을 예측하더라도 확장성이 제한적이다.
- 이 논문은 기능 이해를 위한 어포던스 파운데이션 모델로 나아가는 한 걸음인 ourmodel을 제시한다.
- 단일 RGB-D 관측과 언어로 된 작업 설명으로부터 ourmodel은 작업 조건부 기능 마스크(어디를 상호작용할지)와 3D 접촉 후 동작 곡선(어떻게 상호작용할지)을 예측한다.
초록 PDF
301Computer VisionarXiv:2606.02552
Modeling Depth Ambiguity: A Mixture-Density Representation for Flying-Point-Free Depth Estimation
깊이 추정의 발전에도 불구하고, 떠다니는 점은 지속적인 실패 모드로 남아 있다. 객체 경계 근처에서 깊이 추정기는 종종 전경과 배경 표면 사이의 빈 공간에 잘못된 3D 점을 예측한다.
깊이 추정기는 물체 경계의 한 픽셀에 앞쪽과 뒤쪽 표면이 함께 걸릴 때 두 깊이의 중간값을 내서 빈 공간에 떠 있는 3D 점을 만들곤 한다. MDA는 픽셀마다 하나의 깊이 대신 여러 깊이 후보와 각 확률을 예측하는 혼합 밀도 표현을 쓴다. 경계에서는 후보들이 서로 다른 표면에 붙고 최종 깊이는 실제 후보 가운데 하나에서 골라져 중간의 빈 공간을 피한다. 여러 백본에서 입력이 심하게 흐린 경우에도 경계 복원을 높이고 떠다니는 점을 대부분 없앴으며 실행 시간 증가는 거의 없었다. 다만 카메라와 거의 나란한 표면이나 작고 얇은 구조에서는 시각 단서와 기본 백본의 약점 때문에 일부 오류가 남는다.
- 저자들은 이 아티팩트를 표준적인 모델링 선택, 즉 각 픽셀에 단일 깊이 가설을 할당하는 것에서 비롯된 것으로 추적한다.
- 각 픽셀에 대해 여러 깊이 가설과 그에 연관된 확률을 예측할 수 있게 하는 혼합 밀도 표현인 MDA로 이를 해결한다.
- 서로 다른 백본 전반에서 MDA는 경계 재구성을 크게 향상시키고 심각한 입력 블러 하에서도 떠다니는 점 아티팩트를 대부분 제거하면서도, 무시할 수 있을 만큼 미미한 런타임 오버헤드만을 추가한다.
초록 PDF
300Computer VisionarXiv:2606.02553
LongLive-RAG: A General Retrieval-Augmented Framework for Long Video Generation
자기회귀(AR) 비디오 확산은 가변 길이 합성을 가능하게 하지만, 장기 시간 지평 생성은 종종 누적 오류와 정체성 표류에 시달린다.
자기회귀 영상 생성기는 최근 구간만 보는 창 방식 때문에 긴 영상을 만들수록 외형 오류와 정체성 변화가 누적된다. LongLive-RAG는 이미 생성한 잠재 표현 전체를 검색 가능한 기억으로 두고, 다음 구간마다 관련 있는 과거 내용을 찾아 조건으로 다시 넣는다. 윈도우 시간 델타 손실은 바로 옆 구간의 중복된 유사성은 줄이고 의미 있는 시간 변화를 담는 검색 표현을 학습한다. 여러 자기회귀 백본과 영상 길이에서 작은 검색 비용만 더하면서 긴 영상 품질을 높였고 VBench-Long에서 가장 좋은 평균 순위를 기록했다. 다만 생성기 자체는 고정돼 있어 최종 품질은 바탕 영상 모델의 능력과 오류 한계를 넘을 수 없다.
- 검색을 더 변별력 있게 만들기 위해, 저자들은 중복된 국소 유사성을 억제하고 임베딩이 의미 있는 시간적 변화를 포착하도록 장려하는 윈도우 시간 델타 손실(Window Temporal Delta Loss)을 도입한다.
- 여러 AR 백본과 생성 길이에 걸친 실험은 향상된 장편 비디오 품질과 최고의 평균 VBench-Long 순위를 보여준다.
- 알려진 한, 개방형 AR 장편 비디오 생성 방법 중에서 LongLive-RAG는 자체 생성된 잠재 이력을 콘텐츠 주소 지정 가능 검색 메모리로 정식화한 최초의 방법이다.
초록 PDF
299LLMs / NLParXiv:2606.02556
HERO'S JOURNEY: Testing Complex Rule Induction with Text Games
이 논문은 목표 지향적 에피소드 작업에서의 규칙 귀납을 위한 벤치마크인 HERO'S JOURNEY를 소개한다. 여기서 에이전트는 시연으로부터 숨겨진 규칙을 추론하고 다단계 실행을 통해 그에 따라 행동해야 한다.
HERO'S JOURNEY는 에이전트가 시연에서 숨은 규칙을 알아내고 여러 단계를 실행해 목표를 이루는 능력을 평가하는 텍스트 게임 벤치마크다. 속성 규칙과 절차 규칙 계열의 여덟 과제에 네 가지 구조 형태, 조절 가능한 단어 연결과 규칙 식별 조건을 넣었다. 최신 LLM들은 규칙을 어느 정도 찾아냈지만 과제별 차이가 컸고, 규칙을 알아도 긴 절차를 실행하는 과정이 별도 병목이 됐다. 귀납을 돕는 조향법은 속성 과제에는 도움이 됐지만 절차 과제에서는 믿을 만한 향상이 없었다. 다만 완전 합성 환경이고 새 과제의 식별 조건을 사람이 설계해야 하므로, 잡음이 많은 현실 상황으로 결과가 이어지는지는 더 확인해야 한다.
- 이 논문은 목표 지향적 에피소드 작업에서의 규칙 귀납을 위한 벤치마크인 HERO'S JOURNEY를 소개한다. 여기서 에이전트는 시연으로부터 숨겨진 규칙을 추론하고 다단계 실행을 통해 그에 따라 행동해야 한다.
- 최첨단 LLM을 평가한 결과, 모델이 규칙 귀납의 증거를 보이지만 그 능력이 제한적이며 작업 간에 고르지 않다는 것을 발견했다.
- 귀납 특화 스티어링 방법은 속성 작업에서는 성능을 향상시키지만 절차적 작업에서는 신뢰할 만한 향상을 보이지 못하며, 이는 절차적 귀납의 격차가 여전히 미해결 과제로 남아 있음을 시사한다.
초록 PDF
298LLMs / NLParXiv:2606.02559
From Layers to Submodules: Rethinking Granularity in Replacement-Based LLM Compression
대규모 언어 모델(LLM)의 사후 학습 압축은 전체 아키텍처 구성 요소를 삭제하거나 적합된 모듈로 대체하여 제거한다.
기존 LLM 대체형 압축은 보통 이어진 전체 층을 골라 삭제하거나 작은 모듈로 바꾸지만, 중복은 층 깊이와 어텐션·피드포워드에 고르게 퍼져 있지 않다. SubFit은 서로 떨어진 어텐션과 피드포워드 하위 모듈을 따로 고르고 각각에 가벼운 잔차 우회 모듈을 맞춘다. 추가 학습이 아니라 보정 자료의 통계로 압축한 뒤 적용할 수 있어 특수 희소 커널이나 새 하드웨어가 필요 없다. 열 개 LLM과 12.5~37.5% 희소도에서 비교 방법보다 종합적인 혼란도·정확도 균형이 좋았고, 25%에서는 원본 정확도의 84.6%를 유지하면서 추론 속도와 KV 캐시를 줄였다. 다만 우회 모듈이 제거한 계산과 파라미터 일부를 다시 더하고 오프라인 압축 시간도 필요하다는 비용이 있다.
- 기존의 대체 기반 방법들은 두 가지 설계 제약을 공유한다. 전체 계층 단위의 granularity와 연속적 선택이다.
- 이러한 직관을 바탕으로, 저자들은 LLM을 서브모듈 수준에서 압축하는 SubFit(서브모듈 수준 적합 잔차 대체, Submodule-level Fitted residual replacement)을 소개한다. 어텐션과 피드포워드 서브모듈은 비연속적으로 선택되며, 각각은 자체적인 경량 적합 잔차 우회 경로를 받는다.
- SubFit은 사후 학습 단계에서 작동하며 보정 데이터만을 필요로 한다.
초록 PDF
297RoboticsarXiv:2606.02562
Permissive Safety Through Trusted Inference: Verifiable Belief-Space Neural Safety Filters for Assured Interactive Robotics
사람과 상호작용하는 자율 로봇은 선호, 목표, 역량, 협력 의지 등 인간에서 비롯된 불확실성 하에서 안전하고 효율적인 결정을 내려야 한다.
사람과 상호작용하는 로봇은 상대의 목표와 협력 의지를 확실히 알 수 없어, 지나치게 보수적이지 않으면서도 안전을 보장하기 어렵다. 이 연구는 로봇이 실행 중에 사람을 추론하며 불확실성을 줄이는 신념 공간 안전 필터를 컨포멀 예측으로 인증한다. 전체 상황을 한꺼번에 검증하는 대신 추론이 믿을 만하다고 예상되는 영역에 검증과 필터 사용을 집중해 드문 추론 실패 때문에 모든 행동이 막히는 것을 줄인다. 모의 차량-보행자 상호작용에서 표준 컨포멀 예측 기준보다 같은 안전 집합 수준에서 더 많은 행동을 허용하고 온라인 거부율도 낮췄다. 다만 보장은 최악의 경우가 아니라 자료 분포에 대한 것이며, 추론 점수가 부정확하거나 상호작용으로 분포가 바뀌면 보수적인 보조 필터가 필요하다.
- 이 논문은 로봇의 런타임 추론 모듈의 신뢰성을 명시적으로 고려하면서, 컨포멀 예측을 사용하여 BeliefSF의 고확률 안전성을 인증하는 알고리즘적 접근법을 제안한다.
- 이 방법은 추론이 신뢰할 만하다고 기대되는 영역에 검증을 집중함으로써 신념 공간 안전 필터링의 구조를 활용한다.
- 시뮬레이션된 인간-차량 상호작용 벤치마크를 통해, 이 접근법이 표준 컨포멀 예측 기준선보다 훨씬 더 관대한 신념 공간 안전 필터를 검증함을 보여준다.
초록 PDF
296Machine LearningarXiv:2606.02563
IntraShuffler: A Privacy Preserving Framework for Heterogeneous DP Federated Learning
연합 학습(FL)에서의 이질적 차등 프라이버시(HDP)는 클라이언트가 기관 정책과 데이터 민감도에 따라 개별 프라이버시 예산(ε, 프라이버시 예산)을 선택할 수 있게 한다.
이질적 차등 프라이버시 연합학습은 참여자마다 다른 프라이버시 예산을 허용하지만, 예산을 반영한 서버 집계와 서로 다른 데이터 분포가 기울기에 지속적인 흔적을 남긴다. 저자들은 정직하지만 호기심 많은 서버가 이 흔적으로 참여자의 분포 속성을 알아내고 여러 학습 회차의 업데이트를 같은 참여자와 연결할 수 있음을 보였다. IntraShuffler는 비슷한 프라이버시 예산의 참여자를 묶고 각 묶음 안에서 파라미터 수준으로 업데이트를 섞어, 예산별 가중 집계는 유지하면서 흔적을 흐린다. 네 데이터셋에서 기울기 복원 가능성을 60% 넘게 줄이고 대리 추론 정확도를 0.78에서 0.33으로 낮추면서 모델 성능은 비슷하게 유지했다. 다만 참여자가 적거나 예산이 모두 달라 묶음마다 한 명만 남으면 섞기의 익명화 효과가 사라진다.
- 연합 학습(FL)에서의 이질적 차등 프라이버시(HDP)는 클라이언트가 개별 프라이버시 예산을 선택할 수 있게 하며, 이 예산을 인식하는 집계를 수행한다.
- 네 가지 서로 다른 데이터셋에 걸친 실험은 IntraShuffler가 기울기 복원 가능성을 60% 이상 줄이고 대리 추론 정확도를 0.78에서 0.33으로 낮추면서도, 여러 FL 집계 규칙 전반에서 비슷한 수준의 모델 유용성을 유지함을 보여준다.
초록 PDF
295Computer VisionarXiv:2606.02564
VLMs are Good Teachers for Video Reasoning via Adaptive Test-Time Optimization
최근의 '비디오를 통한 추론' 패러다임은 비디오 생성 모델(VGM)을 활용하여 추론 작업을 완수하기 위한 시간적으로 일관된 시각 궤적을 생성한다.
이 연구는 비디오 생성 모델이 시각 품질은 높지만 과제별 규칙을 따르지 못해 추론 과정에서 논리적 오류를 내는 문제를 다룬다. 기존처럼 비전-언어 모델을 텍스트 풀이자로 쓰는 대신, 과정 제약과 최종 목표를 평가하는 테스트 시점 교사로 사용한다. 교사가 과제별 규칙으로 미분 가능한 보상을 만들면 비디오 생성 모델은 가벼운 LoRA 모듈을 온라인으로 최적화해 현재 문제에 적응한다. VBVR-Bench와 RULER-Bench 평가에서 이 방식은 기준 추론 모델보다 평균 16.7점 높았고, 비슷한 계산 비용의 텍스트 풀이 및 Best-of-N 방식보다 큰 개선을 보였다. 이는 고수준 규칙을 텍스트 지시로만 전달하기보다 생성 과정을 직접 감독하는 방식이 일반화 가능한 비디오 추론에 더 효과적일 수 있음을 보여준다.
- 최첨단 VGM은 시각적 품질이 뛰어나지만, 작업별 규칙을 이해하고 따르는 데 종종 어려움을 겪어 다양한 추론 시나리오에서 논리적 실패로 이어진다.
- VLM은 풀이자로서는 어려움을 겪지만, 과정 제약 조건의 충족과 최종 목표 달성을 평가할 수 있는 강력한 인식 능력을 갖추고 있다.
- 이러한 결과는 VLM을 테스트 시점 교사로 통합하는 것이 일반화 가능한 비디오 추론을 달성하기 위한 유망한 패러다임을 제공함을 보여준다.
초록 PDF