ELBO
-
Variational Auto Encoder와 ELBO(Evidence Lower Bound)공부/논문읽기 2019. 10. 30. 21:52
* 이 글은 현재 참여하고 있는 스터디 모임에서 발표한 내용으로, 여기에 직접 게시한 글을 옮겨 수정하면서 등록하였습니다. Auto-Encoding Variational Bayes, 2014 pdf 비록 나온지 오래된 논문이지만 딥러닝 영역에서 막대한 영향을 끼친 VAE에 대해서 간단한 개념과 함께 사용된 목적함수가 갖는 의미에 대해서 설명해 보고자 한다. Auto Encoder 오토인코더(Auto Encoder)는 위 그림과 같이 크게 인코더(Encoder)와 디코더(Decoder) 두 파트로 구성된다. 어떤 입력에 대해 특징을 추출하여 압축된 정보를 잠재 변수(Latent variables)에 담고, 잠재 변수로부터 자기 자신(입력)을 복원해 내는 알고리즘이라 볼 수 있다. 인코더를 통해서 정보를 압..