JEPA-Anything: Learning Predictive Models across Different Worlds

발행일
출처
arXiv
논문 번호
1096
분야
LLMs / NLP
arXiv 번호
2609.20800

하나의 학습 원리(직교 예측 분해)로 비전, 생물, 의료, 물리, 날씨까지 7개 영역의 세계 모델을 하나의 프레임워크로 학습하는 법을 보여준 논문이다.

이 논문은 한마디로 영역을 가리지 않는 세계 모델 프레임워크 'JEPA-Anything'을 제안해, 하나의 학습 원리로 7개 전혀 다른 영역을 예측하게 만들었다. 핵심 아이디어는 직교 예측 분해(OPF)인데, 예측 대상을 서로 겹치지 않는 여러 '요인'으로 쪼개고 각각 전용 예측기로 학습한 뒤 합성하는 것이다. 비전, 생물학, 임상 데이터, 제어, 분자동역학, 물리장, 날씨에서 기존 JEPA 대비 전 과제에서 성적이 올랐고, 분자 시뮬레이션 100단계 예측 오차도 4개 시스템 모두 최저를 기록했다. 나아가 모델이 추천한 생물학적 개입이 실제 세포·마우스 실험에서 효과가 확인되고, 궤도 데이터에서 케플러 법칙까지 스스로 복원해 'AI 과학 발견' 가능성을 보여줬다.

핵심 요약

  • 예측 대상을 서로 직교하는 여러 요인으로 분해해 각각 따로 예측하고 합치는 구조(OPF)로, 한 덩어리로 배울 때 생기는 간섭을 없앴다.
  • 비전·생물·임상·제어·분자·물리장·날씨 7개 영역에서 같은 핵심 구조를 재사용해, 매칭된 JEPA 기준 대비 10개 다이내믹스 과제 전부에서 성적을 올렸다.
  • 단일 개입 예측 오차를 34.8% 줄였고, 분자동역학 100단계 롤아웃에서도 비교 방법 중 최저 오차를 4개 시스템 모두에서 달성했다.
  • 모델이 지목한 생물학 개입(IL-18 + CD73 차단)이 실제 공동배양·오가노이드·마우스 실험에서 항종양 효과로 확인됐다.
  • 궤도 운동 데이터에서 물리 법칙을 가르쳐준 적 없이 케플러 스케일링 지수(이론값 -1.5)를 -1.4991로 복원해냈다.

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.

원문 보기 (새 탭에서 열림)