Variational Inference

Creator

Creator

Seonglae Cho

Created

Created

2023 Jun 1 5:29

Editor

Editor

Seonglae Cho

Edited

Edited

2024 May 23 4:17

Refs

Refs

Latent Variable

Generative Learning

Probability version of
Variational Method

복잡한 분포를 간단한 분포로 근사하여 추론을 효율적으로 수행하는 방법

생성 모델은 판별 모델에 비해 intractable 단점을 복잡성을 간단한 함수로 흡수

사전확률과 우도의 파라메터 또한 알고 있지 못하는 경우

notion image

분포 추정 문제를

Convex Optimization 바꾸어준다

notion image

approximate posterior using because computing

Posterior is hard

Variational Inference Notion

Variational parameter

Amortized inference

Score Function Estimator

Variational Inference 알아보기 - MLE, MAP부터 ELBO까지

확률 분포를 근사 추정하는 기법인 Variational Inference를 이해하고 싶은 사람들을 위해, 확률 분포를 추정하는 근본적인 이유를 알려드립니다. 또한 MLE, MAP, KL divergence, ELBO 등 자주 등장하는 용어들을 설명합니다.

Variational Inference 알아보기 - MLE, MAP부터 ELBO까지

https://modulabs.co.kr/blog/variational-inference-intro/

Variational Inference 알아보기 - MLE, MAP부터 ELBO까지

변분추론(Variational Inference) · ratsgo's blog

변분추론(Variational Inference) · ratsgo's blog

https://ratsgo.github.io/generative%20model/2017/12/19/vi/

Recommendations

///////