[paper review] Understanding Diffusion Models: A Unified Perspective

date

Feb 6, 2023

slug

diffusion-models

author

status

Public

tags

paper

DeepLearning

summary

type

Post

thumbnail

category

📑Paper Review

updatedAt

Sep 6, 2024 01:39 PM

 

다음과 같은 목차로 Diffusion model의 개괄적인 설명을 정리함

본 논문에서는 VAE 모델에서

 

잠재변수를 계층적으로 구성한 HVAE가 Diffusion모델의 일반 구조라 설명함

 

 

Variational Diffusion Model은 다음 아래의 조건을 만족함

시각적으로 표현하면 다음과 같음

이미지를 노이즈로 만들고. 만들어진 노이즈에서 다시 이미지를 복원하는 학습을 통하여 이미지를 생성할 수 있게함

 

모델의 목적함수는 크게 3가지로 설명될 수 있음

1. t시점의 이미지가 원본 이미지와 같도록 학습

2. 노이즈를 학습

 

1. xt 시점의 데이터의 기울기를 학습

 

모델은 조건을 할당할 수 있음

1. 분류기를 두어 조건을 주는 방법

1. 분류기 없이 조건을 주는 방법

디퓨전 모델은 엄밀히 잠재변수를 학습하는 것이 아닌 단점이 있음

디퓨전 모델은 각 시점별 학습이 있으므로 효율적이지 못한 단점이 있지만

이미지 생성에서 좋은 성능을 보이고 있음