HDATF
한국어
도입 상담하기
메뉴

논문 아카이브

수록 논문과 요약을 번호가 큰 순서로 보여 줍니다.

수록 논문 1,193자료 갱신일 벤치마크RSS 구독
  1. 745Computer VisionarXiv:2607.26037

    Wonder: Video World Model Done Better

    이 논문은 실시간으로 카메라를 조작할 수 있는 비디오 세계 모델(Wonder)을 처음부터 끝까지 시스템 수준으로 설계해, 16 FPS로 분 단위 긴 영상을 만들면서도 카메라 제어 정확도와 장기 기억 일관성을 동시에 잡은 연구다.

    이 논문은 한마디로 사진 한 장에서 출발해 사용자가 실시간으로 카메라를 움직이며 탐험할 수 있는 '비디오 세계 모델'을 만든 연구다. 핵심은 카메라 제어 방식, 메모리 구조, 증류(distillation) 훈련을 하나의 시스템으로 통합 설계한 것이다. 픽셀 단위 좌표장(coordinate field)으로 카메라 움직임을 시각 정보로 직접 주고, 희소 어텐션(sparse attention)으로 긴 영상에서도 필요한 부분만 빠르게 찾아낸다. 결과적으로 16 FPS 실시간 생성, 이전 최고 모델 대비 카메라 이동 오차 24% 감소, 그리고 분 단위 롤아웃에서도 장면 일관성을 유지했다.

    • 카메라 움직임을 추상 데이터가 아닌 '렌더링된 시각 단서'로 변환해서, 증류 후에도 제어 정확도가 떨어지지 않게 했다.
    • 희소 풀해상도 메모리(sparse full-fidelity memory)로 모든 과거 프레임을 보존하면서도 어텐션 비용은 일정하게 유지했다.
    • 시간별 혼합 학생(mixture-of-students) + 카메라 인식 적대 정규화로 증류 과정에서 시각 품질과 제어 정확도를 둘 다 지켰다.
    • 회전 위치 오차(RPE)에서 최강 기준선 대비 이동 0.0174→0.0132, 회전 0.1155→0.0784로 유의미한 개선을 달성했다.
    • 비디오 입력도 지원해서, 기존 동영상의 카메라 경로를 실시간으로 바꿔 재촬영할 수 있다.
    초록PDF
  2. 744Machine LearningarXiv:2607.24645

    Sparse Autoencoders Encode Both Concepts and Functions: The Downstream Geometry of Feature Effects

    SAE 특징이 해석되고 인과적이어도 안정된 조종 방향을 준다는 보장은 없다는 해석가능성 경고.

    FEGA는 희소 오토인코더 특징 개입이 모델 출력에 만드는 변화의 기하 구조를 재는 비지도 프레임워크다. 여러 문맥에서 같은 특징을 지워 로짓 변화 구름 모양을 분류한다. 값 같은 특징은 저차원 구조를 더 자주 보이지만 대개 여러 방향에 걸치고, 포인터 같은 특징은 흩어진 효과를 낸다. 특징이 해석 가능하고 인과적이어도 하나의 조종 방향을 주지 않는다는 결론이다.

    • 특징을 지웠을 때 출력 로짓 변화의 기하 구조를 잰다.
    • 대부분의 특징은 하나의 안정된 조종 방향을 주지 않는다.
    • 값 같은 특징은 저차원 구조를 더 자주 보이지만 여러 방향에 퍼진다.
    • 포인터 같은 특징은 대부분 흩어진 효과를 낸다.
    • Gemma-2-2B에서 ReLU, TopK, Matryoshka Batch TopK를 비교했다.
    • 특징이 해석 가능하고 인과적이어도 조종이 안정적이란 보장은 없다.
    초록PDF
  3. 743AI / GeneralarXiv:2607.24280

    From Proprietary to Open-Source: Bridging the Distribution Gap via Multi-Agent Protocol Distillation in Agentic Search

    상용 모델의 추론 전략만 JSON 규약으로 뽑아 오픈모델에 넘기면 문체 오염 없이 싸게 검색 에이전트를 키운다.

    MAPD는 상용 모델을 오프라인 교사로 써서 오픈소스 검색 에이전트를 키우는 증류와 강화학습 결합 방법이다. 멀티에이전트가 만든 구조화 JSON 규약이 교사와 학생을 잇는 다리 역할을 한다. 규약은 학습 때만 특권 정보로 쓰여 밀도 높은 지도신호를 주고 추론 비용은 0이다. Claude, GPT, Gemini 어떤 교사를 써도 성능이 비슷해 API를 자유롭게 갈아탈 수 있다.

    • 상용 모델을 오프라인 교사로만 쓰고 추론 비용은 0이다.
    • 멀티에이전트가 만든 구조화 JSON 규약이 교사와 학생을 잇는다.
    • 겉문체를 벗겨 스타일 오염과 환각을 줄인다.
    • Qwen3-1.7B 39.4%, Qwen3-4B 44.4% 평균 성공률을 냈다.
    • Claude, GPT, Gemini 교사 모두 2포인트 이내로 비슷해 API 교체가 자유롭다.
    • 규약 합성은 전체 약 1,454달러로 한 번만 드는 일회성 비용이다.
    초록PDF
  4. 742LLMs / NLParXiv:2607.24223

    A New Role for Relevance: Guiding Corpus Interaction in Agentic Search

    관련도를 상위 k 선택이 아니라 grep 실행 순서로 쓰면 검색 에이전트가 더 싸고 정확해진다.

    RARG는 검색 관련도를 도구 실행 우선순위로 바꾼 에이전트 검색 방법이다. 임베딩 순위로 grep 탐색 순서를 정하고, 좋은 시작 문단을 심고, 매칭 조각을 재순위한다. 결정적 근거를 앞쪽에서 만나게 해 도구 호출을 크게 줄이면서 정확도를 올린다. 100만 문서로 키워도 성능 하락이 완만하다.

    • 관련도를 상위 k 문서 선택이 아니라 grep 탐색 순서로 바꾼다.
    • 문서 순위로 전역 관련도를 주고, 매칭 재순위로 지역 관련도를 준다.
    • 질문에 맞는 문단으로 검색 시작점을 심어 결정적 근거를 일찍 만난다.
    • GPT-5.4-mini에서 정확도 84%를 도구호출 23.9회로 내 경쟁 방법보다 호출이 훨씬 적다.
    • 100만 문서로 키워도 79%를 유지해 성능 하락이 완만하다.
    초록PDF
  5. 741Information RetrievalarXiv:2607.24617

    LaRec: Unleashing LLM-based Latent Reasoning for Generative Recommendation

    긴 텍스트 추론 대신 잠재 공간 추론을 써서 추천 정확도와 응답 속도를 함께 잡은 LLM 추천 연구다.

    LaRec는 LLM 추천에서 긴 사고사슬 대신 잠재 공간에서 생각하는 잠재 추론을 쓴다. 잠재 추론의 두 약점인 세밀한 지도신호 부족과 단일 경로 문제를, 단계별 지도신호를 주는 잠재 사전학습과 사용자별 분포로 탐색하는 개인화 강화학습으로 푼다. 여러 데이터셋에서 기존 방법을 크게 앞서면서도 무추론과 비슷한 낮은 지연을 유지한다. 실제 광고 플랫폼 A/B 테스트에서 전환 2.93% 등 개선을 확인했다.

    • 긴 텍스트 추론 대신 잠재 공간에서 생각하는 잠재 추론으로 응답 지연을 크게 줄였다.
    • 잠재 사전학습에서 단계별 정렬과 과정 방향 정렬로 중간 추론 단계에 지도신호를 준다.
    • 사용자별 가우시안 혼합 분포로 추론 시작점을 뽑아 사용자 관련 공간 안에서 탐색한다.
    • GRPO와 희소 적중 보상 더하기 밀집 의미 유사도 보상으로 추론을 추천 목표에 정렬한다.
    • 잠재 추론 지연은 무추론과 거의 같고 사고사슬보다 훨씬 낮다.
    • 실제 광고 플랫폼 온라인 A/B 테스트에서 전환 2.93% 등 개선을 기록했다.
    초록PDF
  6. 740RoboticsarXiv:2607.23969

    LeapBot-WA: World-Anchor Action Models via Predictive Latent Alignments

    픽셀 영상 생성 대신 잠재 공간 예측으로 로봇 제어를 가볍게 만든 월드액션 모델이다.

    LeapBot-WA는 미래 영상을 픽셀로 그리는 대신 공동임베딩 예측 구조 기반 잠재 공간에서 물리 변화를 예측하는 로봇 월드액션 모델이다. 예측 특징과 확산 모델의 분포 차이를 등방성 의미 오토인코더로 메우고, 비대칭 혼합 트랜스포머로 학습 때만 무거운 예측 분기를 쓰고 추론 때 잘라낸다. RoboTwin 2.0 91.46%, LIBERO 97.3%, LIBERO-Plus 제로샷 73.1%로 대규모 궤적 사전학습 없이 강한 성능과 시각 방해 견고성을 보인다.

    • 픽셀 단위 영상 복원 대신 잠재 공간에서 추상적 물리 변화를 예측하는 방향으로 전환했다.
    • 공동임베딩 예측 구조를 월드 앵커로 써서 시각 외형이 아닌 상태 변화에 집중한다.
    • 등방성 의미 오토인코더로 예측 특징과 확산 사전분포의 불일치를 메운다.
    • 무거운 예측 분기는 학습 때만 쓰고 추론 때 잘라내 추가 비용 없이 동작한다.
    • RoboTwin 2.0 91.46%, LIBERO 97.3%로 대규모 궤적 사전학습 없이 최고 수준을 기록했다.
    • 등방성 정규화로 잠재 랭크를 38.1에서 92.3으로 올리고 성공률을 71.3%로 끌어올렸다.
    초록PDF
  7. 739RoboticsarXiv:2607.24159

    DeVA: Decoupled Video-Action Model with physical guidance for robot policy learning

    영상 예측과 행동 예측을 분리하고 물리 정보를 주입해 적은 시연으로 강한 로봇 조작 정책을 만든 연구다.

    DeVA는 로봇 조작 정책 학습을 위해 영상 예측 전문가와 행동 예측 전문가를 따로 두는 분리형 구조다. 영상 백본의 여러 층 표현을 행동 쪽으로 전달하고, 물체 조작 가능 영역과 깊이 정보를 지도신호로 넣어 물리 이해를 강화한다. RoboCasa 72.0%, LIBERO 99.0%, 실제 양팔 로봇 평균 74%로 적은 데이터에서도 높은 성공률을 낸다. 통합 구조보다 빠르게 수렴하고 학습 데이터도 최대 20배 적게 쓴다.

    • 영상 예측과 행동 예측을 별도 전문가로 분리해 정책 학습을 더 다루기 쉽게 만들었다.
    • 영상 백본 여러 층의 표현을 교차어텐션과 다리 토큰으로 행동 전문가에 전달한다.
    • 물체 조작 가능 영역과 상대 깊이를 보조 지도신호로 주입해 물리 정보를 강화한다.
    • RoboCasa 과제당 50개 시연으로 72.0% 성공, 같은 예산 대비 최대 22포인트 앞섰다.
    • 실제 양팔 로봇 3개 과제에서 평균 74%로 GR00T-N1.6(48%), Cosmos Policy(34%)를 앞섰다.
    • Cosmos-Policy보다 최대 20배 적은 학습 예제로 더 빠르게 수렴했다.
    초록PDF
  8. 738ResearcharXiv:2607.24528

    On Feige's conjecture

    Feige 추측을 GPT-5.6 Sol 도움으로 짧게 증명한 확률론 논문.

    기댓값 1인 음이 아닌 독립 확률변수 합의 하한을 다룬 확률론 논문이다. 합이 n+1보다 작을 확률이 e의 역수 이상임을 보여 Feige 추측을 확정했다. 증명은 GPT-5.6 Sol의 도움으로 얻었고 Vlassis-Thomas의 최근 돌파에 기반한다. 후속 연구로 n이 2일 때는 모든 델타에 대한 날카로운 형태까지 확장했다.

    • Vlassis와 Thomas의 분포 비의존 p값 결과를 Feige 추측의 확률변수 합 문제에 연결해 짧은 증명을 구성했다.
    • 기댓값이 1인 음이 아닌 독립 확률변수 n개의 합이 n+1보다 작을 확률이 (n/(n+1))^n 이상임을 보였다.
    • 이 하한은 1/e 이상이므로 2004년에 제기된 Feige 추측을 확정한다.
    • 통계학의 Gaffke 추측 해결이 확률 부등식 증명으로 이어질 수 있음을 보여주며, GPT-5.6 Sol이 증명 탐색을 도왔다.
    • 다만 핵심 정리는 임계값이 n+1인 Feige 추측에 초점을 두므로 더 일반적인 작은 편차 매개변수 전체를 해결하지는 않는다.
    초록PDF
  9. 737ResearcharXiv:2607.23980

    Sharp small-deviation inequalities for sums of independent nonnegative random variables

    20년 묵은 확률 부등식 난제를 대형 언어모델이 증명하고 Lean으로 검증한 사례.

    음이 아닌 독립 확률변수 합의 하한에 대한 날카로운 부등식을 증명한 확률론 논문이다. 델타가 1 이상인 구간에서 Feige 추측을 참으로 확정하고 모든 n에 대해 최적임을 보였다. 증명은 ChatGPT 5.6 Pro가 찾았고 Vlassis-Thomas 정리와 볼록기하 정리를 결합했다. Codex로 만든 Lean 형식증명으로 종단 간 검증까지 마쳤다.

    • Vlassis와 Thomas의 정확한 디리클레 보정 정리를 Grünbaum 무게중심 정리 등 볼록기하 결과와 결합했다.
    • 0<δ<1과 δ≥1을 나누어 음이 아닌 독립 확률변수 합의 작은 편차 확률에 대한 명시적 하한을 증명했다.
    • δ≥1에서는 모든 n에 대해 하한이 최적이며 1/e 이상이어서 Feige 추측을 확정한다.
    • 이 결과는 독립적인 음이 아닌 확률변수 합의 하위 꼬리를 분석할 때 사용할 수 있는 날카로운 기준을 제공한다.
    • 다만 모든 n에 대한 최적성은 δ≥1에서만 확립됐고 0<δ<1 구간의 하한은 같은 수준의 날카로움이 증명되지 않았다.
    초록PDF
  10. 736RoboticsarXiv:2607.24485

    τ: Learning Touch-Augmented Vision-Language-Action Models from Future Visual Supervision

    촉각을 사전학습 VLA에 붙여 정밀 접촉 조작을 개선한 로봇 조작 연구다.

    사전학습 VLA 모델에 촉각 감각을 결합한 프레임워크 타우를 제안한 논문이다. 미래 시각 특징을 예측하는 자기지도 학습을 훈련 단계에만 적용해 추론 비용 없이 촉각 표현을 개선했다. 플러그와 USB 삽입, 도장 찍기, 화이트보드 지우기 네 가지 접촉 위주 작업에서 시각 전용 VLA와 기존 촉각 정책을 모두 앞섰다. 미지의 물체와 장면에서도 일반화를 보였다.

    • 현재 촉각과 뒤따르는 행동으로 미래 시각 특징을 예측하는 자기지도 목표를 사용해 시공간 촉각 표현을 학습한다.
    • 학습한 촉각 표현을 사전학습된 시각·언어 특징과 결합해 로봇 행동을 생성하며, 예측 가지는 훈련 때만 사용한다.
    • 플러그와 USB 삽입 등 네 가지 접촉 중심 조작에서 시각 전용 VLA와 기존 촉각 정책보다 높은 성능을 보였다.
    • 추론 때 추가 가지를 제거하므로 배포 비용을 늘리지 않으면서 접촉이 중요한 로봇 조작을 개선할 수 있다.
    • 평가는 TacAura의 네 가지 대표 작업과 제한된 작업별 데이터에 집중되어 있어 더 다양한 로봇과 접촉 상황에서의 검증이 남아 있다.
    초록PDF
  11. 735AI / GeneralarXiv:2607.24459

    From Execution to Capability: Scientific Experience Consolidation via Procedural Knowledge Synthesis

    실행 경험을 검증하고 절차로 뽑아 약한 모델에까지 심는 자기개선 파이프라인.

    과학 계산에서 한 문제의 실행 피드백이 다음 문제의 능력으로 잘 이어지지 않는다. SciConsolidate는 성공과 실패를 대조해 과제를 넘나드는 절차를 뽑고, 검증 관문으로 거른다. 약한 모델이 못 쓰는 추상 절차는 강한 모델이 실행 코드로 바꿔 지도학습 데이터로 만든다. 그 결과 9B 학생 모델이 추론 때 절차 없이도 크게 좋아졌다.

    • 검증된 실행 경험을 재사용 절차 지식과 영구 모델 능력으로 바꾸는 문제를 정의했다.
    • 성공과 실패를 대조해 절차를 뽑고 개발 검증 관문으로 유효한 것만 남긴다.
    • 정답 없이 실패 기반으로 새 문제를 합성해 학습 데이터를 늘린다.
    • 추상 절차를 약한 모델이 못 쓰는 추상과 실행 간극을 실증했다.
    • 강한 모델이 절차를 실행 코드로 구체화해 표준 지도학습 데이터를 만든다.
    • 9B 학생이 절차 없이도 원본 대비 서브스텝 5.62점, 본문제 11.25점 향상됐다.
    초록PDF
  12. 734Computer VisionarXiv:2607.23855

    OmniVAE: An Audio-Video VAE with Cross-Modal Alignment for Joint Generation

    오디오와 비디오 잠재 공간을 처음으로 명시 정렬한 공동 VAE. 자율랩과는 거리가 있음.

    오디오와 비디오를 함께 생성할 때 두 잠재 공간이 어긋나 동기화가 어렵다. OmniVAE는 공동 학습으로 두 공간을 세밀하게 정렬한다. 구간 대조 학습과 의미 증류 두 목표를 재구성 위에 얹었고, 추론 비용은 늘지 않는다. 결과로 동기화와 음질, 영상 품질이 모두 좋아졌다.

    • 오디오 VAE와 비디오 VAE를 따로 학습하면 잠재 공간이 어긋나 동기화가 어렵다.
    • OmniVAE는 두 공간을 공동 학습으로 세밀하게 정렬한 오디오 비디오 VAE다.
    • 구간 단위 대조 학습으로 시간 의미 대응을 맞춘다.
    • 사전학습 인코더에서 의미 특징을 증류해 각 잠재 공간의 학습성을 높인다.
    • 두 목표 모두 학습 때만 쓰여 추론 비용이 늘지 않는다.
    • Verse-Bench에서 동기화(DeSync 0.884에서 0.570)와 음질이 모두 개선됐다.
    초록PDF
  13. 733LLMs / NLParXiv:2607.24720

    The Physics of Multi-Turn Long-Horizon Planning: From Pre-training to Post-training via Single- and Multi-Teacher On-Policy Agentic Distillation

    에이전트의 장기 계획 능력을 훈련 단계별로 분해한 실전 지침서.

    다회차 장기 계획을 통제된 합성 환경에서 뜯어봤다. 사전학습에서는 생각의 사슬로 세계 모델을 심는 게 핵심이고, 소량의 장기 데이터가 큰 도움이 된다. 후학습에서는 온폴리시 증류가 강화학습보다 장기, 저품질 조건에서 유리하다. 여러 교사를 합치는 다교사 증류는 공유 패턴으로 수렴하되, 패턴이 충돌하면 망각이 심하다.

    • 세계 모델을 생각의 사슬로 명시하면 장기 일반화가 크게 좋아진다 (93.1 대 0.3).
    • 원자 기술만으로는 조합 일반화가 안 되지만 장기 데이터를 5%만 섞어도 급상승한다.
    • 나쁜 궤적을 섞으면 오류가 누적되어 장기 성능이 무너진다.
    • 온폴리시 증류가 GRPO보다 장기, 저품질 조건에서 유효 영역이 넓다.
    • 다교사 증류는 공유 계획 패턴으로 수렴하고, 충돌 패턴은 심한 망각을 부른다.
    • 실험은 Qwen2.5-100M 기반 전체 파라미터 지도학습으로 진행했다.
    초록PDF
  14. 732Computer VisionarXiv:2607.24591

    CameraAnything: Refilming Videos with Arbitrary Camera Control

    기존 영상을 임의의 카메라 위치, 초점, 해상도로 다시 찍어주는 첫 통합 편집 프레임워크다.

    기존 카메라 제어 영상 편집은 3D 복원에 의존하거나 카메라 위치 같은 외부 파라미터만 바꿨다. CameraAnything은 픽셀별 광선 표현과 해상도 반영 3D 위치 인코딩을 자기어텐션에 넣어 위치, 초점거리, 해상도를 한 번에 제어한다. 짝 데이터 부족은 여러 대 카메라 동기 촬영 합성 파이프라인으로 풀고, 직교 학습으로 단일과 복합 제어를 모두 지원한다. 합성과 실세계 벤치마크에서 카메라 정확도와 화질 모두 최고 성능을 낸다.

    • 위치와 방향 같은 외부, 초점거리와 해상도 같은 내부 카메라 파라미터를 함께 제어한다.
    • 픽셀별 광선 표현과 해상도 반영 3D 위치 인코딩을 자기어텐션에 결합한다.
    • 자르기나 바깥 채우기 없이 원본 해상도 편집을 한 번의 생성으로 처리한다.
    • 여러 대 카메라 동기 촬영 기반 합성 파이프라인으로 짝 학습 데이터를 만든다.
    • 실세계 회전 오차 2.76도로 ReCamMaster 5.12도, TrajectoryCrafter 13.99도보다 낮다.
    • 합성 데이터만으로 학습해도 실세계 영상에 일반화한다.
    초록PDF
  15. 731Computer VisionarXiv:2607.24027

    Sol-Attn: Accelerating Video Generation Inference via On-the-Fly Attention Sparsification

    재학습 없이 어텐션만 희소화해 영상 생성 추론을 2배 넘게 가속하는 실전 기법이다.

    긴 토큰 탓에 영상 확산 트랜스포머는 어텐션이 추론 병목이다. Sol-Attn은 블록 프록시 점수가 거의 가우시안인 점을 이용해 쿼리별 임계값으로 블록을 즉석에서 고르고, 프록시 지도를 메모리에 만들지 않는다. 버린 블록 점수는 재활용해 근사 보정하며, 라우팅과 희소 계산과 보정을 온라인 소프트맥스 한 번에 합친다. 영상 생성 2.1배, 편집 2.3배 가속에 Sol-Engine 통합 시 최대 5배까지 빨라지며 화질을 유지한다.

    • 학습 없이 어텐션만 희소화해 사전학습 모델을 그대로 가속한다.
    • 블록 프록시 점수가 가우시안이라 평균과 표준편차 기반 임계값으로 블록을 고른다.
    • 프록시 점수 지도를 메모리에 만들지 않아 라우팅 비용을 줄인다.
    • 버린 블록 점수를 재활용해 근사 보정하므로 공격적 희소화에도 정확도 손실이 작다.
    • 영상 생성 2.1배, 편집 2.3배 종단 가속을 화질 저하 없이 낸다.
    • Sol-Engine과 통합하면 영상 생성에서 최대 5배 가속에 도달한다.
    초록PDF
  16. 730Computer VisionarXiv:2607.24731

    Rethinking Classifier-Free Guidance in On-Policy Diffusion Distillation

    확산 영상 증류에서 겉만 맞추면 내부 오차가 숨는 함정을 짚고, 구성 요소를 따로 감독하는 해법을 준다.

    확산 영상 모델을 학생 궤적으로 증류할 때 CFG 합성 예측만 맞추는 기존 방식은 양수와 음수 가지 오차가 서로 상쇄되어 감독이 흐려진다. 교사 음수 가지에 특권 정보가 있으면 양수는 좋아지고 음수는 나빠지는 반대 움직임(NBA)이 생긴다. 저자들은 양수 예측과 CFG 방향을 따로 제약하는 PDM을 제안한다. 밀집 대 희소 영상 제어에서 기존 방식은 가이던스 스케일 변화에 취약하지만 PDM은 안정적이고 제어 정확도도 높였다.

    • CFG 합성만 맞추는 OPD는 가지 수준에서 정체가 안 잡혀 오차가 상쇄된다.
    • 교사 음수 가지의 특권 정보가 음수 가지 비대칭(NBA) 실패를 일으킨다.
    • PDM은 양수 예측과 CFG 방향(양수 빼기 음수)을 따로 제약해 상쇄를 막는다.
    • 가이던스 스케일이 바뀌면 기본 방식은 무너지고 PDM은 안정적이다.
    • 방향 가중치와 감독 상태 수를 조절해 정확도와 효율의 최적점을 찾았다.
    • 포즈, 깊이, 스크리블 밀집 대 희소 영상 제어에서 제어 충실도를 개선했다.
    초록PDF
  17. 729Computer VisionarXiv:2607.24241

    FilmBench: A Film-Grade Benchmark for Cinematic Video Generation

    영화 촬영 언어 기준의 영상 생성 벤치마크, 자동 평가 에이전트가 사람 순위 재현.

    FilmBench는 실제 영화 제작의 촬영 언어 기준으로 AI 영상 생성을 평가하는 벤치마크다. 수상작 영화에서 역설계한 프롬프트 1169개와 3단계 평가 체계를 쓴다. 자체 개발한 전문가급 자동 평가 에이전트 FilmOps가 사람 순위를 스피어만 0.95 이상으로 재현한다. 어떤 모델도 천장에 못 미쳤고 다중샷과 동적 미학에서 특히 약했다.

    • 전문 감독이 수상작 영화 장면에서 역설계한 프롬프트 1,169개를 구축했으며 이 가운데 1,056개가 다중 샷이다.
    • 촬영 언어를 3개 축, 12개 요소, T2V용 35개 세부 지표와 R2V 전용 3개 지표로 나눠 평가한다.
    • FilmOps 자동 평가기는 9개 T2V와 7개 R2V 모델의 사람 순위를 각각 스피어만 상관계수 0.95와 0.96으로 재현했다.
    • 기존 웹 영상 중심 평가가 놓친 동적 미학과 다중 샷 연속성을 영화 제작 기준으로 비교할 수 있게 한다.
    • 다만 영화와 전문 영상 제작에 맞춘 벤치마크라서 세로형 짧은 영상이나 일반 사용자 제작 영상의 성능을 그대로 대표하지는 않는다.
    초록PDF
  18. 728RoboticsarXiv:2607.24744

    Data Pyramid for Embodied Manipulation

    로봇 조작 학습 데이터를 5단계로 정리한 대규모 서베이, 랩 로봇 데이터 설계 참고서.

    임바디드 로봇 조작을 위한 학습 데이터를 다섯 소스의 피라미드로 정리한 서베이다. 실로봇, UMI 방식, 1인칭과 3인칭 영상, 시뮬레이션, 일반 영상언어 데이터를 확장성과 로봇 정합성 기준으로 배열한다. 각 소스를 품질, 다양성, 재사용성, 물리 충실도로 비교하고, 임바디드 브레인, VLA, 월드액션 모델을 데이터 레시피 관점에서 분석한다. 촉각 데이터, 실패 데이터 등 여섯 가지 열린 과제를 제시한다.

    • 임바디드 조작 데이터를 실로봇, UMI 방식, 1·3인칭 영상, 시뮬레이션, 일반 시각·언어 데이터의 다섯 소스로 정리했다.
    • 각 소스를 확장성과 로봇 정합성의 긴장 관계 위에 놓고 품질, 다양성, 재사용성, 물리 충실도로 비교했다.
    • 임바디드 브레인, VLA, 월드액션 모델이 사전학습에서 여러 데이터 소스를 선택하고 섞는 방식을 분석했다.
    • 이 분류는 로봇 연구자가 목표 능력과 수집 비용에 맞춰 데이터 조합을 설계하는 참고 틀로 쓸 수 있다.
    • 대규모 촉각 데이터, 실패와 복구 기록, 서로 다른 로봇 간 행동 정렬 등 여섯 과제가 아직 해결되지 않았다는 한계가 있다.
    초록PDF
  19. 727LLMs / NLParXiv:2607.24653

    Kimi K3: Open Frontier Intelligence

    공개 가중치로 나온 프런티어급 에이전트와 추론 모델, 자율랩 두뇌 후보.

    Kimi K3는 Kimi Team이 공개한 프런티어급 오픈웨이트 모델이다. 총 2.8조 파라미터 MoE에 활성 파라미터는 104억이고 문맥은 100만 토큰이다. 일반, 에이전트, 코딩 강화학습으로 장기 작업과 도구 사용을 잘한다. 상용 최상위 두 모델에만 뒤지고 나머지 공개 모델과 상용 모델은 모두 앞선다.

    • Kimi K3는 총 2.8조 파라미터 가운데 1,040억 개를 활성화하는 전문가 혼합 모델로 시각 입력과 100만 토큰 문맥을 지원한다.
    • Kimi Delta Attention, Attention Residuals, Stable LatentMoE를 결합해 토큰마다 896개 전문가 중 16개를 사용한다.
    • 일반 추론, 에이전트, 코딩 분야와 여러 추론 노력 수준을 강화학습해 장기 작업과 조합적 일반화를 강화했다.
    • Kimi K2보다 전체 확장 효율이 약 2.5배 높고 전체 가중치를 공개해 프런티어급 모델 연구와 배포에 활용할 수 있다.
    • 평가 묶음에서는 다른 공개·상용 모델보다 강했지만 Claude Fable 5와 GPT-5.6 Sol 같은 최상위 비공개 모델에는 여전히 뒤졌다.
    초록PDF
  20. 726Computer VisionarXiv:2607.22148

    dRAE: Representation Autoencoder with Hyper-Spherical Codes

    고차원 시각 특징을 이산 코드로 변환할 때 발생하는 '코드북 붕괴' 문제를 각도 기반 라우팅으로 해결한 양자화 방법이다.

    이 논문은 한마디로 고차원 시각 특징을 이산 토큰(코드)으로 변환할 때 일어나는 '코드북 붕괴(소수 코드만 쓰이는 현상)'를 해결한 새로운 양자화 방법 dRAE다. 원인을 유클리드 거리 기반의 코드 할당이 고차원 공간의 기하학과 맞지 않아서라고 진단했다. 해결책은 각도(방향) 기반으로 코드를 할당하는 Hyper-Spherical Quantization(HSQ)이다. 의미(방향)와 크기(magnitude)를 분리해서, 코드 할당은 의미로 하고 재구성은 크기 정보를 활용한다. 코드북을 13만 개까지 늘려도 100% 활용률을 유지하며 기존 VQ 대비 압도적 성능을 보였다.

    • VQ의 코드북 붕괴 원인을 '유클리드 거리와 고차원 표현 공간의 기하학적 불일치'로 명확히 진단했다.
    • 각도(코사인 유사도) 기반 코드 할당 + 유클리드 commitment loss의 조합이 최적으로, 전부 각도로 하면 성능이 떨어진다.
    • 코드북을 131,072개까지 스케일업해도 100% 활용률을 유지하며, VQ·IBQ 대비 빠른 수렴과 안정적 학습을 보였다.
    • ImageNet 클래스 조건부 생성에서 gFID 4.45 (HSQ 65536)로 VQ 대비 큰 폭 개선, Text-to-Image에서도 준수한 성능.
    • 12M 이미지-텍스트 쌍만으로 GenEval 0.63, DPG-Bench 80.58로 효율적인 생성 파이프라인을 보여주었다.
    초록PDF
  21. 725AI / GeneralarXiv:2607.22319

    Towards Trustworthy and Cost-Efficient Data Integration: From Naïve RAG to Agentic RAG

    기업 데이터 통합에서 LLM의 환각과 비용 문제를 RAG → GraphRAG → Agentic RAG 진화로 해결하려는 비전 논문이다.

    이 논문은 한마디로 LLM으로 데이터 통합(스키마 매칭, 엔티티 매칭 등)을 할 때 발생하는 환각과 비용 문제를 RAG(검색 증강 생성) 기반 접근으로 해결하는 방법을 제시한 비전 논문다. 단순 RAG에서 출발해 지식 그래프를 결합한 GraphRAG/KG-RAG를 거쳐, 최종적으로 자율 멀티 에이전트가 적응적으로 검색·추론하는 Agentic RAG로 나아가는 로드맵을 그린다. 핵심은 LLM의 내부 지식에만 의존하지 말고 외부 지식으로 grounding해서 신뢰성과 비용 효율성을 동시에 잡자는 것이다.

    • LLM 기반 데이터 통합의 3대 문제(환각, 라벨 의존성, 비용)를 지식 grounding 부재로 진단했다.
    • Naïve RAG → GraphRAG/KG-RAG → Agentic RAG로 이어지는 진화 경로를 정리했다.
    • Agentic RAG에서 Planner, Retriever, Reasoner, Decision, Evaluator 5개 에이전트가 협력하는 구조를 제안했다.
    • 메모리-검색 지식 충돌, 배치 검색 노이즈, 에이전트 초기화 등 핵심 연구 과제를 식별했다.
    • 신뢰성(증거 기반 추론), 비용 효율성, 자율성을 동시에 평가하는 새 벤치마크가 필요함을 강조했다.
    초록PDF
  22. 724RoboticsarXiv:2607.22530

    ViTacWorld: Scaling Visuo-Tactile World Models for Contact-Rich Robot Manipulation

    카메라만으로는 안 보이는 접촉 정보를 촉각 센서로补充하는 로봇 조작 월드 모델. 합성 데이터로 정책을 개선한다.

    이 논문은 한마디로 로봇이 물건을 만질 때 발생하는 시각+촉각 정보를 동시에 예측하는 월드 모델 ViTacWorld다. 촉각 센서 데이터는 비싸고 모으기 힘들기 때문에, 공개 데이터와 시뮬레이션으로 대규모 사전학습을 한 뒤 실제 로봇 데이터로 파인튜닝하는 전략을 썼다. 이 모델은 로봇 액션이 주어지면 미래의 시각 장면과 촉각 신호를 동시에 생성할 수 있다. 생성된 합성 데이터로 하위 정책을 추가 학습하니 실제 로봇 작업 성공률이 크게 올라갔다. 예를 들어 π0.5+촉각 정책은 평균 성공률이 42.5%에서 67.5%로 향상되었다.

    • 최초로 로봇 액션 조건부 시각+촉각 월드 모델을 제안했으며, 시뮬레이션+실제 데이터 통합 학습 파이프라인을 구축했다.
    • 촉각을 '추가적인 뷰'로 모델링하여 view-aware conditioning과 cross-view attention으로 시각-촉각 일관성을 유지한다.
    • 생성된 롤아웃으로 정책을 추가 학습하자 π0.5+촉각 정책 평균 성공률이 42.5% → 67.5%로 +25%p 향상되었다.
    • 사전학습 + 시뮬레이션 데이터가 PSNR, SSIM, LPIPS 모든 지표에서 생성 품질을 크게 높였다.
    • 정책 평가 도구로도 활용 가능하여, 주어진 액션 시퀀스에 대한 시각+촉각 결과를 예측할 수 있다.
    초록PDF
  23. 723RoboticsarXiv:2607.22535

    Robot-Factored World Models via Robot Rendering

    로봇 월드 모델이 액션을 직접 학습하는 부담을 줄이려고, 로봇 동작을 미리 렌더링해서 시각 정보로 입력하는 방법이다.

    이 논문은 한마디로 로봇 월드 모델이 액션(제어 명령)을 직접 이해하려는 부담을 줄이기 위해, 로봇 동작을 미리 렌더링해서 시각 정보로 제공하는 방법이다. 핵심 아이디어는 액션을 로봇의 컨트롤러와 운동학으로 먼저 '명목 궤적(nominal trajectory)'으로 변환한 뒤, 이를 URDF(로봇 모델)로 렌더링하여 카메라 시점의 로봇 형상으로 만드는 것이다. 이렇게 하면 월드 모델은 로봇 모양 없이 장면이 어떻게 반응하는지만 학습하면 된다. 서로 다른 로봇에도 적용 가능하고 인간 동작을 로봇 동작으로 변환해 입력할 수도 있다.

    • 액션을 로봇 컨트롤러로 '명목 궤적'으로 변환 후 렌더링하여 입력함으로써, 미래 상태 누출 없이 액션 정보를 전달한다.
    • 엔드이펙터 깊이와 장면 깊이를 추가해 2D 이미지 평면에서 불가능한 접촉·가림 판단을 가능하게 했다.
    • SVD·Wan 백본 모두에서 기존 벡터 조건부(baseline) 대비 PSNR·SSIM·LPIPS 전 항목 향상.
    • 학습에 사용되지 않은 새로운 로봇(xArm6 + Inspire F1)의 움직임도 렌더링만 바꿔주면 제로샷 적용 가능하다.
    • 인간 조작 영상의 손 동작을 로봇으로 재타겟팅하여 렌더링하면 로봇 조작 비디오를 생성할 수 있다.
    초록PDF
  24. 722Computer VisionarXiv:2607.22531

    Twins: Learn to Predict Unified Representations with Focal Loss

    이미지 이해용(ViT)과 생성용(VAE) 특징을 이어 붙여서 하나의 토큰으로 통합한 'Twins' 표현 방식. focal loss로 학습 불균형을 해결했다.

    이 논문은 한마디로 이미지 이해에 쓰이는 ViT 특징과 이미지 생성에 쓰이는 VAE 특징을 채널 방향으로 이어 붙여, 하나의 통합된 토큰(Twins)을 만드는 방법이다. 토큰 길이는 늘어나지 않아 계산 비용도 그대로다. 하지만 Diffusion Transformer로 학습하면 ViT는 잘 맞추고 VAE는 못 맞추는 불균형 문제가 생긴다. 이 논문은 그 원인을 주파수 특성, 고유 차원수, 조건 의존성의 차이로 분석하고, focal loss를 적용해 VAE 채널의 오차에 더 큰 가중치를 주어 균형을 맞췄다.

    • ViT(의미)와 VAE(디테일) 특징을 채널 단위로 단순히 이어 붙여 통합 표현을 만들었다. 토큰 길이 불변.
    • DiT 학습 시 ViT는 잘 학습되지만 VAE는 학습이 안 되는 불균형을 발견하고, 3가지 원인(주파수, 차원수, 조건 의존성)을 규명했다.
    • Focal Loss를 flow matching에 적용해 VAE 채널 오차에 가중치를 주어 균형을 달성, ImageNet에서 MSE 대비 최대 10.57 gFID 개선.
    • 기존 단일 인코더(SigLIP2) 대비 이해 성능을 유지하면서 재구성 품질(PSNR)을 크게 높였다.
    • Classifier-free guidance와 함께 쓰면 FID 1.59 달성으로 준수한 생성 품질을 보인다.
    초록PDF
  25. 721LLMs / NLParXiv:2607.22043

    Scaling Native Multimodal Pre-Training From Scratch

    처음부터 텍스트+이미지를 함께 학습하는 '네이티브 멀티모달' 방식의 최적 모델 크기와 데이터 비율을 수학법칙으로 규명한 연구다.

    이 논문은 한마디로 텍스트와 이미지를 처음부터 함께 학습할 때, 주어진 컴퓨팅 예산에서 최적의 모델 크기·데이터 양·데이터 비율을 수학법칙으로 규명한 연구다. 핵심 발견은 언어 학습과 멀티모달 학습의 스케일링 법칙이 다르다는 것이다. 언어는 데이터 비율에 상관없이 일정하게 학습되지만, 멀티모달은 텍스트 비율이 높을수록 더 큰 모델이 필요하다. 또한 네이티브 멀티모달 사전학습이 텍스트만 하는 공간 추론 능력까지 향상시킨다는 것을 실험으로 확인했다.

    • 언어 목적함수의 스케일링 법칙은 데이터 구성에 거의 영향받지 않지만, 멀티모달 목적함수는 데이터 비율에 매우 민감하다.
    • 텍스트 비중이 높은 데이터는 모델이 커야 효율적이며, 최적 자원 분배가 모델 용량 쪽으로 이동한다.
    • 모델 크기, 토큰 수, 데이터 비율의 최적 조합을 지정하는 '효율성 프론티어(efficiency frontier)'를 수식으로 도출했다.
    • 네이티브 멀티모달 학습이 순수 텍스트 공간 추론 능력까지 향상시키는 크로스모달 전이 효과를 확인했다.
    • 3B 파라미터 모델에서 멀티모달 in-context learning 능력이 자연스럽게 출현함을 관찰했다.
    초록PDF
  26. 720Computer VisionarXiv:2607.22534

    SM4RT: Learning Structured Motion Geometry for 4D Reconstruction

    비디오에서 3D 장면 구조와 움직임을 한 번에 복원하는 새 방법이다. 움직임을 개별 점이 아니라 '물체 단위의 강체 운동'으로 모델링해서 더 정확하고 자연스럽다.

    이 논문은 한마디로 단일 카메라 비디오에서 3D 구조와 물체의 움직임을 동시에 복원하는 새로운 프레임워크 SM4RT다. 기존 방식은 각 점의 움직임을 독립적으로 추적했지만, 이 논문은 움직임을 소수의 '강체 운동 기저(motion basis)'로 분해한다. 즉 같은 물체에 속한 점들은 같은 운동 궤적을 공유하게 만든다. 이렇게 하면 움직임의 자유도가 3HW에서 6N으로 대폭 줄어들어 더 안정적이고 해석 가능한 결과를 얻을 수 있다.

    • 비디오의 움직임을 개별 점이 아니라 '강체 운동 기저'의 조합으로 표현하는 Structure-of-Motion(SoM) 표현을 제안했다.
    • 하나의 순전파(forward pass)로 3D 기하학, 움직임, 장면의 운동 구조를 동시에 추론한다.
    • Kubric 벤치마크에서 추적 정확도(APD) 90.62로 SOTA 달성, 변형 점수(VM)에서도 압도적 구조 보존 성능을 보였다.
    • DA3 백본이 VGGT 대비 큰 폭으로 우수하며, 단순 선형 결합이 가장 효과적인 특징 융합 방식이었다.
    • 추론 속도 2.86초/샘플로 기존 방법 대비 효율적이며 GPU 메모리 15.72GB로 가볍다.
    초록PDF
  27. 719LLMs / NLParXiv:2607.22529

    Skill Self-Play: Pushing the Frontier of LLM Capability with Co-Evolving Skills

    LLM이 스킬(재사용 가능한 모듈)을 스스로 만들고 발전시키며 자기 학습하는 새 방법을 제안했다. 도구 사용 성능 최대 +42.9점, 논리 추론 +12.0점 향상.

    이 논문은 한마디로 LLM이 스스로에게 도전 과제를 내고 풀면서, 그 과정에서 새로운 스킬을 배우고 기존 스킬을 개선하는 '스킬 자가 학습(Skill Self-Play)' 프레임워크다. 기존 방식은 좁은 영역만 학습하거나, 넓게 학습해도 품질 검증이 안 되는 딜레마가 있었다. 이 논문은 스킬(특정 작업을 처리하는 모듈)을 매개체로 삼아, 과제 다양성과 검증 신뢰성을 동시에 잡았다. Qwen3-4B 기준 도구 사용 정확도 +42.9점, 논리 추론 +12.0점의 성능 향상을 달성했다.

    • 스킬(재사용 가능한 작업 모듈)을 핵심 매개체로 삼아, 과제 다양성과 검증 신뢰성을 동시에 확보했다.
    • 제안자(Proposer)-해결자(Solver)-스킬 관리자(Controller) 3자가 강화학습 루프에서 함께 진화한다.
    • 스킬 라이브러리가 매 반복마다 약 20개의 새 스킬을 만들고, 기존 스킬을 업데이트하며, 쓸모없는 스킬은 폐기한다.
    • Qwen3-4B 기준 도구 사용(BFCL)에서 최대 +42.9점, 논리 추론(ZebraLogic)에서 +12.0점의 성능 향상을 기록했다.
    • 정적 스킬보다 동적 스킬 진화가 핵심이며, 스킬 없는 자가 학습 대비 전체 정확도 +2.6점을 추가로 확보했다.
    • 처음에 정렬이 안 된 모델도 큰 폭으로 개선되는 '턴어라운드' 효과를 보였다.
    초록PDF
  28. 718Computer VisionarXiv:2607.21580

    GraphVid: Interactive Graph-Controllable Video Generation

    장면 그래프(scene graph)를 조건으로 삼아 한 장의 사진에서 여러 객체의 상호작용을 제어하며 영상을 만드는 비디오 생성 모델이다.

    이 논문은 한마디로 "그래프로 영상 움직임을 조종하는" 새로운 비디오 생성 방법을 제안한다. 기존 방식은 객체마다 궤적을 그려주거나 텍스트로 설명해야 해서 여러 객체가 얽히는 장면에서는 쓰기 어려웠다. GraphVid는 이미지에서 객체와 관계를 자동으로 그래프로 만들고, 사용자가 이 그래프를 수정하면 그 정보가 비디오 생성 모델에 주입되어 자연스러운 영상이 만들어진다. 적은 데이터(약 2.7만 클립)와 적은 파라미터(0.6B)로도 기존 방법보다 훨씬 좋은 품질을 보였다.

    • 장면 그래프(객체=노드, 상호작용=엣지)를 조건으로 비디오를 생성하는 최초의 프레임워크를 제안했다.
    • Edge-Aware Graph Reasoning 모듈로 방향성 엣지 속성을 반영하여 메시지 전달을 수행한다.
    • GraphVid-Bench라는 약 27K 상호작용 중심 비디오 데이터셋을 새로 구축했다.
    • Motion-I2V 대비 FID 39.9% 감소, FVD 37.6% 감소, PSNR 9.87→15.98 향상을 달성했다.
    • 학습 가능한 파라미터 0.6B로 기존 방법(수십억 파라미터) 대비 훨씬 효율적이다.
    • 그래프 표현이 백본 모델에 독립적이라 LTX(2B)와 Wan 2.2(5B) 모두에서 효과를 확인했다.
    초록PDF
  29. 717ResearcharXiv:2607.21367

    A solution to 2-copy distillability of Werner states

    양자 얽힘 증류(distillation)의 25년 난제였던 "Werner 상태의 2-copy 증류 가능성"을 해결한 수학 증명 논문이다.

    이 논문은 한마디로 양자 정보 이론의 오랜 미해결 문제인 "Werner 상태가 2-copy로 증류 가능한가?"를 완전히 해결한 수학 논문이다. Werner 상태(양자 얽힘을 연구할 때 쓰는 표준 모델)가 1개 복사로 증류 불가능하면 2개 복사로도 불가능하다는 것을 임의 차원에서 증명했다. 이는 얽힘 증류의 가장 기본적인 질문 중 하나를 닫은 것이며, 더 큰 질문인 "NPT 상태는 모두 증류 가능한가?"로 가는 중요한 단계다.

    • Werner 상태의 2-copy 증류 가능성 문제를 임의 차원에서 완전히 해결했다.
    • 1-copy와 2-copy의 증류 역치(threshold)가 정확히 일치함을 증명하여, 2개 복사가 1개보다 이점이 없음을 보였다.
    • 대칭/반대칭 텐서 부분공간의 기하학적 추정을 핵심 도구로 사용했다.
    • NPT 상태의 증류 가능성이라는 더 큰 미해결 문제의 첫 번째 유한 복사 단계를 해결했다.
    • 경계 케이스 α = -1/2에서 블록 연산자 부등식과 변분 기법을 결합하여 증명을 완성했다.
    초록PDF
  30. 716LLMs / NLParXiv:2607.21051

    Sample-Efficient Learning from Agent Experience

    에이전트가 환경과 상호작용하며 얻은 경험을 추가 환경 사용 없이 모델 가중치로 증류하는 '경험 증류(Experience Distillation)' 방법을 제안했다.

    이 논문은 한마디로 에이전트가 직접 겪은 경험을 모델 가중치에 '증류'해서 경험 없이도 성능을 유지하게 만드는 방법을 제안한다. 핵심 아이디어는 수집된 궤적(trajectory)의 각 시점에서 교사 모델의 다음 행동만 다시 샘플링하는 것이다. 이렇게 하면 추가 환경 상호작용이나 세계 모델 없이도 경험을 가중치로 녹여낼 수 있다. 소프트웨어 엔지니어링 과제 749개와 텍스트 게임 6개에서 실험한 결과, 인컨텍스트 학습(ICL) 효과의 64.8%를 유지했다. 일반 SFT는 3.8%만 회복했다. 강화학습(RL) 대비 환경 샘플을 9.6배 이상 적게 썼다.

    • 에이전트의 상호작용 경험을 가중치로 증류하는 'Experience Distillation' 문제를 정의하고 해법을 제시했다.
    • 수집된 궤적의 각 시점에서 교사의 다음 행동만 재샘플링하는 1-step branch rollout로 추가 환경 사용을 없앴다.
    • ICL 효과의 64.8%를 유지해서 일반 SFT(3.8% 회복)를 크게 앞섰다.
    • 강화학습 베이스라인과 비슷한 성능을 내면서 환경 샘플은 9.6배 이상 적게 사용했다.
    • 경험 전처리, 강화된 교사 추론, branch packing 등 실제 구현 디테일을 실험적으로 검증했다.
    초록PDF
  31. 715Machine LearningarXiv:2607.21427

    Context-weighted Discrete Flow Matching

    이산 플로우 매칭에서 토큰 주변의 지역 컨텍스트 밀도를 활용해 생성 품질을 크게 높이는 간단한 수정을 제안했다.

    이 논문은 한마디로 텍스트/분자 생성에 쓰이는 이산 플로우 매칭(DFM)에서 '주변에 이미 채워진 토큰이 많을수록 예측이 쉽다'는 단순한 관찰을 활용해 생성 품질을 높인다. 저자들은 주변 컨텍스트 밀도에 따라 샘플링 속도와 학습 가중치를 조절하는 방법을 제안했다. OpenWebText에서 생성 퍼플렉시티를 63% 낮췄고, 분자 생성에서 유효 분자 수를 2.8배 늘렸다. 별도 추가 계산 없이 기존 모델에 바로 적용할 수 있다.

    • 토큰 주변의 채워진 이웃 수가 많을수록 예측 엔트로피가 낮아진다는 것을 실험으로 확인했다.
    • 지역 컨텍스트 밀도를 샘플링에 반영하는 context-weighted sampler를 제안했다 (추가 학습 불필요).
    • Scaled Cross-Entropy 손실 함수로 훈련 신호를 재가중해서 OpenWebText 생성 퍼플렉시티를 63% 낮췄다.
    • 분자 생성(QM9)에서 유효 분자 수를 2.8배, 새로운 분자 수를 1.9배 각각 늘렸다.
    • 반자유회귀(semi-AR) 블록 확산 기반 방법과 비슷한 품질을 유지하면서도 순서 무관 생성의 유연성을 보존했다.
    초록PDF
  32. 714AI / GeneralarXiv:2607.21503

    Agentic Context Management: Solving Agent Memory and Cost by Treating Them as Lifecycle and Architecture Problems

    AI 에이전트의 컨텍스트(기억) 관리를 단순 저장/검색이 아닌 5단계 라이프사이클로 정의하고, 그 경제성과 구현 방안을 제시했다.

    이 논문은 한마디로 AI 에이전트가 실패하는 진짜 이유는 추론력 부족이 아니라 '무엇을 컨텍스트에 담을지' 관리를 못해서라고 진단한다. 저자들은 컨텍스트 관리를 설계(architecting), 추출(ingesting), 범위 지정(scoping), 예측(anticipating), 압축(compacting)의 5단계 라이프사이클로 정의한다. 단순히 전체 대화를 컨텍스트에 쌓으면 비용이 제곱(O(n²))으로 늘고, 무식한 요약은 정확도를 떨어뜨린다. 검증된 압축이 들어가야 선형 비용(O(n))으로 정확도를 유지할 수 있다. 참고 구현체인 Maximem Synap이 LongMemEval 92%, LoCoMo 93.2%를 기록했다.

    • 에이전트 컨텍스트 관리를 '저장/검색'이 아닌 5단계 라이프사이클(설계→추출→범위→예측→압축)로 재정의했다.
    • 무제한 컨텍스트 누적은 토큰 비용이 O(n²)로 증가하고, 단순 요약은 정확도 급락을 유발함을 수학적으로 증명했다.
    • 조직 계층(user → customer → client)을 고려한 스코핑으로 개인정보 격리와 조직 지식 축적을 동시에 해결한다.
    • 참고 구현체(Maximem Synap)가 LongMemEval 92%, LoCoMo 93.2%를 달성했다.
    • 기존 상용 메모리 시스템(Mem0, Zep, Cognee 등)은 주로 추출/저장에만 집중하고 있어 5단계 전체를 다루는 시스템이 없음을 대조했다.
    초록PDF
  33. 713ResearcharXiv:2607.21554

    Strategic Plan for Neutral Atom Quantum Computation

    중성 원자 양자 컴퓨팅이 실용적 우위(practical quantum advantage)에 도달하기 위한 전략적 로드맵을 종합적으로 정리했다.

    이 논문은 한마디로 중성 원자 기반 양자 컴퓨터를 실용 수준으로 끌어올리기 위한 전략 계획서다. 하드웨어 확장, 큐비트 인코딩, 게이트 정확도 개선, 광자 제어 기술, 양자 오류 정정, 회로 컴파일, 그리고 다중 프로세서 네트워킹까지 전 영역을 다룬다. NSF Town Hall(2025년 1월 MIT) 회의 결과를 바탕으로 학계·산업 합의를 반영했다. 현재 큐비트 수는 연평균 1.8배, 게이트 오류는 매년 40%씩 감소하고 있다.

    • 중성 원자 양자 컴퓨팅의 전 영역(하드웨어, 오류 정정, 컴파일, 네트워킹)을 아우르는 종합 로드맵을 제시했다.
    • 큐비트 수는 연평균 약 1.8배, 2큐빗 게이트 오류는 매년 약 40% 감소하는 스케일링 추세를 확인했다.
    • 집적 광자 제어(integrated photonics)가 대규모 시스템 확장의 핵심 기술 경로임을 강조했다.
    • qLDPC 등 새로운 오류 정정 코드가 표면 코드 대비 자원 요구량을 크게 줄일 수 있음을 설명했다.
    • 다중 양자 프로세서를 네트워크로 연결하는 분산 양자 컴퓨팅의 가능성과 기술적 과제를 정리했다.
    초록PDF
  34. 712Computer VisionarXiv:2607.21576

    Self-Supervised Learning of Structured Dynamics from Videos

    비디오에서 카메라 움직임과 객체 움직임을 자동으로 분리하는 구조적 동역학 모델(SDM)을 제안했다.

    이 논문은 한마디로 비디오 속 움직임을 '카메라 움직임'과 '객체 움직임'으로 자동 분리하는 방법을 제안한다. 저자들은 얼어있는(frozen) 이미지 인코더 위에 구조적 동역학 모델(SDM)을 올려서, 주요 움직임을 담는 primary 토큰과 나머지를 담는 residual 토큰 두 개로 분해했다. 합성 데이터(Kubric)로 약한 감독을 주고 실제 비디오로 자기지도학습을 한다. VGGT 같은 강하게 지도학습된 모델과 비슷한 성능을 내면서도 훨씬 적은 라벨을 사용했다.

    • 비디오의 움직임을 카메라 움직임(primary)과 객체 움직임(residual) 두 개의 토큰으로 구조화하는 SDM을 제안했다.
    • 얼어있는 이미지 백본(DINOv2) 위에 가벼운 모델을 올려서 비디오 전처리학습 없이도 동역학 표현을 학습한다.
    • ProbeMotion이라 새로운 평가 벤치마크를 만들어 합성/실제 비디오에서 체계적으로 측정했다.
    • VGGT(17개 데이터셋으로 학습)와 비슷하거나 일부에서 더 좋은 성능을 약한 감독만으로 달성했다.
    • primary 토큰은 카메라 이동 장면에서 카메라를, 정지 카메라 장면에서는 객체를 포착하는 식으로 자동 적응한다.
    초록PDF
  35. 711Machine LearningarXiv:2607.21585

    Expanding Flow Maps

    출력 크기(차원)가 고정된 기존 생성 모델의 한계를 극복하고, 데이터 크기 자체를 학습하는 새로운 플로우 맵(EFM)을 제안했다.

    이 논문은 한마디로 생성 모델이 출력의 '크기'를 스스로 정하게 만드는 새로운 프레임워크를 제안한다. 기존 플로우 기반 생성 모델은 미리 정해진 차원이나 길이 안에서만 동작했는데, 저자들은 '확장 연산자(expand operator)'와 '이동 맵(transport map)'을 결합해 생성 과정 중에 상태 공간을 늘려가는 EFlow를 만들었다. 분자 구조 생성, 분자 그래프 생성, 언어 생성 실험에서 기존 고정 크기 모델들과 비슷하거나 더 나은 성능을 보였다. 특히 분자 그래프 생성에서 1스텝만에 기존 대비 5배 낮은 오차(FCD)를 기록했다.

    • 생성 과정 중에 차원을 늘려가는 '확장 생성 플로우(EFlow)'라는 새로운 생성 모델 구조를 처음 제안했다.
    • expand(확장) 연산과 transport(이동) 연산을 번갈아 적용해서, 적은 스텝(1~2회)만에 고품질 데이터를 생성한다.
    • 분자 그래프 생성에서 기존 방식(CFM) 대비 1스텝 오차(FCD)를 5배 낮췄다 (0.44 vs 2.14).
    • 언어 생성(LM1B)에서도 고정 길이 모델(FLM)을 능가하며, 변수 길이 생성이 품질 저하를 일으키지 않음을 보였다.
    • 연속(분자 구조)과 이산(그래프, 언어) 도메인 모두에서 동일한 프레임워크가 작동함을 입증했다.
    초록PDF
  36. 710Computer VisionarXiv:2607.21072

    Show, Don't Tell: Evaluating Spatial Cognition in Generative Pixels Rather Than LLM Text

    이미지 생성 모델의 공간 지능을 텍스트 답변이 아닌 픽셀 단위 시각 답안으로 평가하는 프레임워크(ProVisE)와 진단 벤치마크(SpatialGen-Bench)다.

    이 논문은 한마디로 이미지 생성 모델(GPT Image, FLUX 등)이 공간을 얼마나 잘 이해하는지, 텍스트로 답하는 기존 방식 대신 이미지 자체에 표시해서 답하도록 하는 평가 방법을 제안했다. ProVisE는 이미지 생성 모델이 시각적 형식(마킹, 하이라이트 등)으로 답하면 이를 파싱해서 기존 벤치마크와 동일한 기준으로 채점한다. SpatialGen-Bench는 14개 공간 소과제, 470개 샘플로 구성된 진단용 벤치마크다. 이미지 생성 모델은 시각적 표현이 직관적인 과제에서 경쟁력이 있었지만, 복합 추론이 필요한 과제에서는 텍스트 기반 VLM이 여전히 우세했다.

    • 이미지 생성 모델이 픽셀 공간에서 직접 공간 답안을 표현하도록 하는 ProVisE 프레임워크를 제안했다.
    • 470개 샘플, 14개 소과제로 구성된 SpatialGen-Bench 진단 벤치마크를 구축했다.
    • 에이전트 빌더가 새로운 벤치마크에 맞는 평가 프로토콜을 자동 구성하고 검증한다.
    • 이미지 생성 모델은 직관적 시각 표현 과제에서 경쟁력이 있었다.
    • 실패의 88%는 시각 전달 채널 문제가 아닌, 공간 추론 자체의 오류였다.
    초록PDF
  37. 709RoboticsarXiv:2607.21582

    Scale Up Strategically: Learning Compositional Generalization via Bias-Aware Evaluation and Data Collection for Robotic Manipulation

    로봇이 언어 지시를 따를 때 색깔 같은 특정 단어에만 편향되는 '요인 편향'을 측정하고, 편향이 큰 요인에 데이터를 집중해 일반화를 높인 연구다.

    이 논문은 한마디로 로봇이 "파란 큐브를 집어라" 같은 지시를 받을 때, 동사(push, grasp)보다 색깔(color)에만 편향되어 반응하는 현상을 정량화하고 해결한 연구다. 요인 지배율(FDR)과 요인 지배 위계(FDH)라는 두 지표로 편향을 측정했다. 6개 기반 정책 모델을 평가한 결과, color ≥ object ≥ spatial ≥ verb ≥ size 순으로 일관된 편향이 나타났다. 이 진단을 활용해 미흡한 요인(verb, size)에 데이터를 집중하면, 절반 데이터만 쓰고도 기존보다 나은 일반화를 달성했다.

    • 언어 지시를 색깔·동사·객체·크기·공간 5개 요인으로 분해해서 편향을 측정하는 프레임워크를 만들었다.
    • 6개 기반 정책에서 color ≥ object ≥ spatial ≥ verb ≥ size 순의 일관된 편향 구조를 발견했다.
    • FDR(요인 간 쌍별 편향)과 FDH(전체 순위) 두 가지 정량 지표를 제안했다.
    • 편향 진단을 바탕으로 미흡 요인에 데이터를 집중하면 실제 로봇에서도 더 나은 일반화를 보인다.
    • 데모 절반만 쓰고도 기존 전체 데이터 대비 더 나은 성능을 달성했다.
    초록PDF
  38. 708ResearcharXiv:2607.21509

    Aspects of Closed Matricial Worlds

    양의 우주 상수를 가진 2차원 양자 중력의 힐베르트 공간 구조를 매트릭스 모델 관점에서 수학적으로 분석한 이론 물리학 논문이다.

    이 논문은 한마디로 우주 상수가 양수인 2차원 양자 중력에서 파동함수가 따르는 휠러-드윗 방정식과 경로 적분을 매트릭스 모델(행렬로 표현하는 모델) 관점에서 정밀하게 분석한 수학 논문이다. 단순한 설정이지만 대부피 효과, 위상 수학적 보정, 구(sphere) 경로 적분의 비자명한 구조 등 일반적으로 중요한 여러 현상이 나타난다. Lian-Zuckerman이 발견한 무한 차원 힐베르트 공간의 내적 후보를 논의하고, 종수 6까지 명시적 결과를 제시했다.

    • 양의 우주 상수를 가진 2차원 양자 중력의 힐베르트 공간을 매트릭스 모델로 분석했다.
    • 휠러-드윗 방정식과 경로 적분 두 관점을 모두 다루고 그 차이를 논의한다.
    • 비자명한 위상이 경로 적분 파동함수에 미치는 보정을 명시적으로 계산했다.
    • 종수 6까지의 명시적 결과를 제시하고, 큰 부피 극한에서 위상 수학적 중력과의 유사성을 보였다.
    • 순수 중력 행렬 모델의 double scaling limit을 '닫힌 매트리셜 세계'로 명명했다.
    초록PDF
  39. 707AI / GeneralarXiv:2607.21557

    OpenForgeRL: Train Harness-native Agents in Any Environment

    Claude Code, OpenClaw 같은 실제 에이전트 하네스(운영 환경) 그대로 강화학습을 할 수 있는 오픈소프 프레임워크다. 학습-배포 불일치를 해결했다.

    이 논문은 한마디로 에이전트 하네스(에이전트를 구동하는 운영 환경, 예: Claude Code, Codex, OpenClaw)를 그대로 사용하면서 강화학습(RL)으로 파인튜닝할 수 있는 오픈소스 프레임워크(OpenForgeRL)를 제안했다. 핵심은 가벼운 프록시로 하네스의 모델 호출을 기록해서 학습 데이터로 만들고, 각 롤아웃을 개별 컨테이너에서 돌리는 것이다. 이렇게 하면 학습할 때와 실제 배포할 때 같은 하네스를 쓰므로 불일치가 사라진다. CLI 에이전트(ClawEval 55.9 pass@3)와 GUI 에이전트(OSWorld 37.7) 모두에서 비슷한 크기 기준 모델을 능가했다. RL이 에이전트의 자기 검증, 도구 사용 다양성, 다단계 계획 완료를 개선하지만 오류 복구는 여전히 약하다는 점을 발견했다.

    • 하네스의 모델 호출을 프록시로 기록해서 표준 RL 코드(veRL 등)로 학습할 수 있게 했다.
    • 각 롤아웃을 Kubernetes 컨테이너로 격리해서 복잡한 환경도 안전하게 실행한다.
    • 학습과 배포가 같은 하네스를 공유해서 train-deploy mismatch를 제거했다.
    • OpenForge-Claw가 ClawEval 55.9(pass@3), OpenForge-GUI가 OSWorld 37.7을 달성했다.
    • RL이 자기 검증과 도구 커버리지를 개선하지만, 오류 복구 능력은 여전히 취약하다.
    초록PDF
  40. 706Computer VisionarXiv:2607.21595

    3D-Aware VLMs with Implicit and Explicit Geometries

    2D 이미지만으로 3D 공간을 이해하는 VLM에, 암묵적(전역) 기하 정보와 명시적(세부) 기하 정보를 함께 주입해서 3D 과제 성능을 높인 프레임워크다.

    이 논문은 한마디로 비전-언어 모델(VLM)이 RGB 비디오만 보고도 3D 공간을 정확히 이해하도록, 암묵적 기하 토큰(전체 장면의 대략적 3D 구조)과 명시적 기하 토큰(깊이 지도, 포인트 클라우드 같은 세부 3D 정보)을 함께 주입하는 프레임워크(VLM-IE3D)를 제안했다. 기존 방식은 암묵적 정보만 써서 세밀한 3D 과제에 한계가 있었다. 두 종류 토큰을 3D-aware 어댑터로 융합해서 2D 시각 정보와 결합한다. 3D 객체 감지, 3D 시각 위치 파악, 3D 밀집 캡션, 공간 추론에서 RGB-only 방식 중 최고 성능을 달성했다.

    • 암묵적 기하 토큰(IGT)과 명시적 기하 토큰(EGT)을 동시에 VLM에 주입했다.
    • EGT는 깊이 지도·포인트 클라우드 같은 세부 3D 정보를 경량 임베딩으로 인코딩한다.
    • 3D-aware 어댑터로 2D 시각 + 암묵 3D + 명시 3D 정보를 효과적으로 융합한다.
    • RGB 비디오만 입력으로 사용해서 추가 3D 센서가 필요 없다.
    • 3D 비디오 감지, 3D 시각 그라운딩, 3D 밀집 캡션, 공간 추론 4개 과제에서 SOTA 달성.
    초록PDF
  41. 705Computer VisionarXiv:2607.21556

    Visual Contrastive Self-Distillation

    이미지를 지운 것과 원본 이미지를 비교해서 시각적 의존도를 학습하는 자가 증류(자기 스스로 가르치는) 방법으로, 외부 교사 모델 없이도 VLM 성능을 높인다.

    이 논은 한마디로 비전-언어 모델(VLM)이 이미지 없을 때와 있을 때의 차이를 스스로 비교해서 이미지를 더 잘 활용하도록 학습하는 '시각 대조 자가 증류(VCSD)' 방법이다. 기존 자가 증류는 외부 교사나 특권 정답이 필요했지만, 이 방법은 원본 이미지와 내용을 지운 이미지에 대한 EMA 교사(이동 평균 모델)의 예측을 비교하기만 하면 된다. 이미지에 의존하는 토큰의 확률을 높이는 방향으로 학습한다. Qwen3-VL 2B에서 62.27%→67.04%, 8B에서 72.51%→76.26%로 일관되게 향상되었다.

    • 원본 이미지와 내용을 지운 이미지 간 토큰 확률 차이를 비교해 시각 의존도를 학습한다.
    • 외부 교사, 특권 정답, 시각 증거 신호, 추론 궤적이 전혀 필요 없다.
    • 추론 시간이 추가로 들지 않는다 (학습 시에만 EMA 교사가 두 번 평가).
    • Qwen3-VL 2B에서 +4.77%p, 4B에서 +1.86%p, 8B에서 +3.75%p 향상을 달성했다.
    • 7개 비전-언어 벤치마크 평균에서 일관되게 기존 자가 증류 방식을 능가한다.
    초록PDF
  42. 704RoboticsarXiv:2607.21588

    AXIS: A Growable Community-Driven Data Engine for Scalable Robot Manipulation

    누구나 브라우저로 로봇 시연 데이터를 모을 수 있게 만든 커뮤니티 기반 로봇 학습 데이터 엔진이다. 207개 작업, 5만 궤적 이상을 확보했다.

    이 논문은 한마디로 로봇 조작(물건 집기, 옮기기 등) 학습용 데이터를 웹 브라우저만 있으면 누구나 모을 수 있게 만든 데이터 엔진이다. 브라우저에서 MuJoCo(WASM) 시뮬레이터를 돌려 원격 조종으로 시연 데이터를 수집하고, 자동 품질 필터링·궤적 평활화·시각/물리 증강을 거쳐 학습용 데이터로 가공한다. 현재 207개 작업, 5만 개 이상 궤적을 보유하고 있다. π0.5 모델에 AXIS 데이터로 추가 학습하면 성공률이 5.8% 향상되었고, 데이터 양이 늘수록 성능도 일관되게 올라갔다.

    • 브라우저 기반 MuJoCo-WASM 원격 조종으로 전문 장비 없이 시연 데이터를 수집할 수 있다.
    • 207개 작업, 50K+ 궤적을 보유한 확장 가능한 커뮤니티 데이터셋을 구축했다.
    • 자동 성공 검증, 품질 필터링, 궤적 평활화, IsaacSim 증강을 한 파이프라인으로 통합했다.
    • π0.5 모델 기준 AXIS 데이터 추가 학습으로 성공률 5.8% 향상, RoboCasa365 대비 37.3% 앞선다.
    • 데이터 크기가 커질수록 성능이 일관되게 향상되는 스케일링 효과를 확인했다.
    초록PDF
  43. 703Computer VisionarXiv:2607.21594

    Streaming Multi-Agent Autoregressive Diffusion Model with World State Registers

    다중 에이전트가 공유하는 세계 상태를 '레지스터 토큰'으로 명시적으로 관리해서, 서로 다른 시점에서도 일관된 영상을 생성하는 비디오 확산 모델이다.

    이 논문은 한마디로 여러 에이전트(게임 속 캐릭터 등)가 같은 세계에서 상호작용할 때, 각자 보는 시각이 달라도 세계 상태가 일관되게 유지되도록 '월드 스테이트 레지스터'라는 학습 가능한 토큰을 도입한 비디오 생성 모델이다. 기존 방식은 과거 프레임만 조건으로 써서 공유 상태를 간접적으로 추론해야 했는데, 이 논문은 상태를 명시적으로 저장하고 업데이트한다. 에이전트 상태, 조감도, 장면 텍스트를 감독 신호로 활용해서 레지스터를 학습한다. Mixture-of-Transformers 구조로 상태 모델링과 프레임 생성을 분리했다.

    • 월드 스테이트 레지스터(학습 가능한 토큰)로 다중 에이전트 간 공유 상태를 명시적으로 관리한다.
    • 에이전트 상태, 조감도, 장면 텍스트 3종 감독 신호로 레지스터를 그라운딩했다.
    • Mixture-of-Transformers 구조로 상태 업데이트와 프레임 생성 간 간섭을 줄였다.
    • Self-Forcing 패러다임을 적용해 긴 호라이즌 롤아웃 중에 레지스터를 동적 갱신한다.
    • 마인크래프트 2에이전트 실험에서 논리적 일관성과 생성 품질 모두 향상되었다.
    초록PDF
  44. 702LLMs / NLParXiv:2607.20911

    Tencent WorkBuddy Bench: A Multi-Domain Coding-Agent Benchmark with Contamination-Resistant Task Construction

    텐센트가 코딩 에이전트(프로그래밍 AI)를 4개 실무 영역에서 평가하기 위해 만든 오염 방지 벤치마크다. 웹 검색으로 정답을 외워서 통과하는 것을 막았다.

    이 논문은 한마디로 코딩 에이전트(코드 작성 AI)를 4개 실무 영역(코드, 웹, 오피스, 보안)에서 평가하는 벤치마크를 만들되, 기존 공개 데이터를 그대로 쓰지 않고 실제 커밋·PR을 역설계해서 웹 검색으로는 원본을 찾을 수 없게 한 것이 핵심이다. 각 작업은 페르소나 기반 일상 언어로 다시 쓰여서 데이터 오염(모델이 인터넷에서 정답을 외워버리는 현상)을 방지한다. 260개 작업을 두 가지 에이전트 하네스(CodeBuddy Code, Claude Code)로 평가했다. 상위 모델로 Claude Opus 4.8(75.0%), GLM-5.2(72.9%) 등의 결과를 얻었다.

    • 실제 커밋·PR·보안 시나리오를 역설계해 웹 검색으로 원본을 찾을 수 없는 작업을 만들었다.
    • 4개 영역(코드 80개, 웹 70개, 오피스 50개, 보안 60개) 총 260개 작업으로 구성했다.
    • 각 작업은 일상적이고 구어체인 페르소나 요청으로 재작성되어 오염을 방지한다.
    • Claude Opus 4.8이 종합 75.0%로 1위, GLM-5.2가 72.9%로 2위를 기록했다.
    • 전체 코드, 환경 이미지, 평가 도구를 공개해서 누구나 재현 및 감사할 수 있다.
    초록PDF
  45. 701Machine LearningarXiv:2607.21366

    Hilbert Operator for Progressive Encoding (HOPE): A Mathematical Framework for Deconstructing Learned Representations in Deep Networks

    신경망의 각 뉴런을 수학적 연산자로 모델링해서, 데이터 없이도 가지치기와 뉴런 병합을 정확하게 수행하는 이론적 프레임워크다.

    이 논문은 한마디로 신경망 압축을 단순한 파라미터 크기 기준에서 벗어나, 각 뉴런이 실제로 하는 연산을 수학 함수로 모델링해서 정확하게 평가하는 프레임워크(HOPE)를 제안했다. 뉴런을 힐베르트-슈미트 연산자(함수 공간에서의 선형 변환을 나타내는 수학 객체)로 표현해서 가지치기와 병합을 통합된 기준으로 처리한다. 배치 정규화(BN) 통계를 활용해 데이터 없이도 뉴런의 중요도를 계산할 수 있다. 모델 압축과 파인튜닝(DEFT) 적용 사례로 실용성을 보였다.

    • 뉴런을 힐베르트 공간의 rank-1 연산자로 모델링해 가지치기와 병합을 하나의 수학적 기준으로 통합했다.
    • 배치 정규화 통계를 활용해 데이터 없이, 하이퍼파라미터 없이도 동작한다.
    • 거시 블록 제거(macro block eviction)로 잔차 연결 경로 전체를 평가할 수 있다.
    • DEFT 파인튜닍에서 중복 뉴런을 병합해 새 작업용 파라미터 공간을 확보하는 방식을 제안했다.
    • 전체 프레임워크는 수학적으로 엄밀하며, 개념 증명 실험으로 유효성을 확인했다.
    초록PDF
  46. 700AI / GeneralarXiv:2607.21461

    AREX: Towards a Recursively Self-Improving Agent for Deep Research

    심층 연구 에이전트가 답을 찾은 뒤 스스로 검증하고, 틀린 부분을 찾아 다시 조사하는 '재귀적 자기 개선' 구조를 제안한 논문이다.

    이 논문은 한마디로 AI 연구 에이전트가 한 번 답을 내고 끝내는 게 아니라, 답을 제약 조건별로 검증하고 미흡한 부분을 집중적으로 다시 조사하는 재귀적 자기 개선(RSI) 구조를 제안했다. AREX는 내부 연구 루프(증거 수집 및 임시 답안 작성)와 외부 개선 루프(답안 감사 및 후속 연구 지시)를 번갈아 실행한다. 긴 대화 내용을 압축해서 핵심 정보만 유지하는 자체 컨텍스트 업데이트 도구도 학습했다. 4B 및 122B-A10B MoE 모델로 BrowseComp 82.5점, HLE 52.4점 등 비슷한 크기 경쟁 모델들을 크게 앞섰다.

    • 발견-검증 비대칭성(답을 찾기는 어렵지만 검증은 쉬운 특성)을 활용해 검증을 다음 연구 라운드의 출발점으로 삼았다.
    • 자체 컨텍스트 압축 도구로 긴 대화 내용을 핵심만 남겨서 긴 호라이즌 연구가 가능하다.
    • 4B 모델로 BrowseComp 82.5점, HLE 52.4점으로 비슷한 규모 경쟁 모델 대폭 상회한다.
    • 에이전트 미드-트레이닝과 장호라이즌 강화학습으로 검색·도구 사용·검증을 단계적으로 가르쳤다.
    • 핵심 증거 획득 시점에 가중치를 부여해 희소 보상의 신용 할당 문제를 완화했다.
    초록PDF
  47. 699Computer VisionarXiv:2607.21553

    SANA-Video 2.0: Hybrid Linear Attention with Attention Residuals for Efficient Video Generation

    비디오 생성 모델에서 선형 어텐션(빠르지만 표현력이 떨어지는 방식)과 소프트맥스 어텐션(느리지만 정확한 방식)을 3:1로 섞어서, 속도와 품질을 동시에 잡은 하이브리드 비디오 생성 기법이다.

    이 논문은 한마디로 비디오를 만들 때 계산량이 많은 소프트맥스 어텐션을 25%만 쓰고 나머지는 가벼운 선형 어텐션으로 대체해서, 품질은 비슷하게 유지하면서 속도를 크게 높인 방법이다. 선형 어텐션(데이터를 순차적으로 빠르게 처리하는 기술) 3개마다 소프트맥스 어텐션(정밀하게 모든 데이터 간 관계를 계산하는 기술) 1개를 배치해서 정확도를 보완했다. 추가로 AttnRes(블록 어텐션 잔차)라는 기법으로 깊은 층에서 정보가 희석되는 문제를 해결했다. 5B 모델 기준 H100 GPU 한 대에서 720p 비디오를 13초 만에 생성하며, 비슷한 크기의 기존 모델보다 3.2배 빠르다.

    • 선형 어텐션과 소프트맥스 어텐션을 3:1 비율로 섞어 속도와 품질을 동시에 잡았다.
    • AttnRes 기법으로 깊은 층의 정보 품질이 약 12% 향상되었다.
    • H100 GPU 한 대로 720p 비디오를 13초에 생성한다 (기존 Wan 2.2 대비 120배 빠름).
    • 소프트맥스 25%가 품질과 효율의 최적 균형점임을 처음부터 직접 학습하며 확인했다.
    • 커널 최적화(Sol-Engine)로 추가 3.58배 가속을 달성했다.
    초록PDF
  48. 698LLMs / NLParXiv:2607.20062

    Solar Open 2 Technical Report

    한국 주권 AI 모델로 250B-A15B MoE 구조에 100만 토큰 컨텍스트를 지원하며, 한국어 벤치마크에서 최고 성능을 기록한 기술 보고서다.

    이 논문은 한마디로 한국 주권 AI 모델 Solar Open 2의 기술 보고서로, 250B 매개변수에 100만 토큰 컨텍스트를 지원하는 것이다. 하이브리드 어텐션(선형 3:소프트맥스 1)과 NoPE, 음수 고윳값 확장으로 메모리를 1/4로 줄이면서도 100만 토큰을 처리한다. 한국어 벤치마크에서 동급 오픈 모델은 물론 상용 API까지 제치고 1위를 차지했고, 12개 전문가를 MOPD로 통합했다.

    • 250B-A15B MoE 구조로 Solar Open 1(102B)에서 스케일업하면서 2.3% 매개변수만 선택적 전달했다.
    • 하이브리드 어텐션(선형 75% + 소프트맥스 25%) + NoPE로 1M 토큰 컨텍스트를 지원한다.
    • 한국어 토크나이저 효율이 글로벌 모델 대비 24% 높다 (같은 한국어를 더 적은 토큰으로 표현).
    • 한국어 벤치마크 평균에서 동급 오픈모델 및 상용 API 중 1위, Ko-GDPval에서 DeepSeek-V4-Pro(1.6T)와 거의 동등.
    • 12개 도메인 전문가를 다교사 온정책 증류(MOPD)로 하나의 모델에 통합했다.
    초록PDF
  49. 697ResearcharXiv:2607.19918

    Scalable Keyword Spotting via Modular Network Expansion

    임베디드 기기 키워드 인식 모델에서 기존 키워드를 망가뜨리지 않고 새 키워드를 추가하는 모듈식 확장 방법을 제안한 논문이다.

    이 논문은 한마디로 소형 음성 인식 모델에 새 키워드를 추가할 때 기존 인식을 완벽히 보존하는 경량 확장 방법을 제안한 것이다. 베이스 네트워크를 완전히 얼리고 10K 매개변수 이하의 확장 브랜치만 추가해서 학습한다. 새 키워드 오류율(FRR)을 6.46%에서 4.37%로 낮추면서, 기존 키워드의 로짓과 임계값은 100% 동일하게 유지된다.

    • 베이스 네트워크 전체(배치 정규화 통계 포함)를 얼려서 기존 키워드 성능이 픽셀 단위로 보존된다.
    • 10K 매개변수(베이스 150K의 6.7%) 추가만으로 새 키워드 FRR을 6.46%에서 4.37%로 개선했다.
    • Adapter나 LoRA보다 적은 MACs(16.34M vs 18.45M/20.52M)로 더 좋은 성능을 달성했다.
    • 코어 우선 판정 규칙으로 기존 키워드 임계값 동작이 정확히 유지된다.
    • 기존 학습 데이터 접근 없이 새 키워드 데이터만으로 확장이 가능하다.
    초록PDF
  50. 696Computer VisionarXiv:2607.20417

    ATSplat: Compact Feed-forward 3D Gaussian Splatting with Adaptive Token Expansion

    3D 가우시안 스플래팅에서 장면 복잡도에 따라 가우시안을 적응적으로 배치하여 5.7배 적게 쓰면서도 최고 품질을 달성한 논문이다.

    이 논문은 한마디로 3D 장면 재건에서 픽셀 단위가 아닌 적응적 토큰 단위로 가우시안을 배치하여 효율을 크게 높인 것이다. 기존 방식은 입력 해상도에 비례해 수백만 개의 가우시안을 찍었지만, ATSplat은 희소 앵커 토큰에서 시작해 어려운 영역만 선택적으로 확장한다. 311K 가우시안(기존의 1/5.7)으로 동등 이상의 품질을 1초 미만에 달성한다.

    • 적응적 토큰 확장(ATE) 모듈이 렌더링 오류가 큰 영역을 자동으로 찾아 가우시안을 추가한다.
    • 기존 dense 방식 대비 가우시안 수를 5.7배 이상 줄이면서도 SOTA 품질을 달성했다.
    • 12장의 512×960 이미지에서 1초 미만 재건, 1136 FPS 렌더링을 기록했다.
    • 3D 앵커 오프셋 설계로 가우시안 배치를 입력 픽셀 그리드에서 분리했다.
    • 불확실성 예측이 실제 렌더링 오류와 잘 일치함을 시각적으로 확인했다.
    초록PDF