A Mathematical Introduction to Diffusion Models

확산 모델의 수학적 기초부터 샘플링 이론, 오차 분석, 추론 시간 제어까지 체계적으로 정리한 강의 노트.

Duke University의 Jianfeng Lu가 SLMath 여름학교 강의를 위해 집필한 확산 모델 수학 교재다. Langevin动力学에서 시작해 연속 시간 score-based扩散, 이산화(DDPM), 오차 분석, 그리고 guidance와 추론 시간 RL까지 5개 파트로 구성된다. 확률론 기초만 있는 대학원생을 대상으로, 핵심 정의는 완전한 증명과 함께 제시하고 연구 수준 정리는 증명 로드맵만 제공하는 계층적 구성을 취한다.

핵심 요약

• Langevin dynamics와 ULA/MALA의 수렴 보장이 log-Sobolev 부등식 하에서 KL 수축으로 증명됨
• Tweedie 항등식과 reverse-time SDE가 확산 모델의 이론적 골격을 형성하며, Polchinski flow와 확률 국산화로 동일한 Gaussian 채널을 재해석함
• DDPM 이산화 오차가 early stopping, KL telescoping, score error 세 항으로 분해되어 분석됨
• 이산 확산 모델은 연속 시간 Markov chain으로 noising SDE를 대체하며 유한 상태 공간에서 오차 분석이 재구성됨
• Guidance, reward tilting, path-space control, 추론 시간 강화학습으로 훈련된 모델의 추론 시간 조향 방법을 체계화함
• 50개 이상의 참고문헌과 부록(Itô 미적분, Gaussian 도구함)으로 자체 완결성을 확보함

논문 링크

외부 연구를 정리한 자료입니다. HDATF가 발표한 논문이나 제품 성능을 측정한 결과는 아닙니다.