목록Expectation Maximization (1)

대학원생 리암의 블로그

EM-알고리즘의 수식적 이해

전 글에서 EM알고리즘을 예시를 통해 직관적으로 이해해보려고 시도했다. 이번에는 저번에 사용한 동일한 예제를 수식으로 보다 구체적으로 살펴보도록 하겠다. 직관적 이해에 관한 포스팅을 우선적으로 참조하면 좋을 것 같다. 수식으로 EM 알고리즘은 관찰되지 않은 변수 \( z_n \)의 존재하에 최대 우도 추정을 수행하는 데 사용되며 크게 두 가지 주요 단계로 나뉘게 된다: Expectation 단계 (E-step)와 Maximization 단계 (M-step)이다. \( q(z_n) \)은 \( z_n \)의 분포를 나타내고 현 예제에서는 베르누이 분포일 것이다.우선, EM 알고리즘에서 최적화하려는 로그 우도 함수는 아래와 같다: \[ \ell(\theta) = \sum_{n=1}^{N} \log p(y_n..
대학원 2024. 9. 3. 13:33
이전 Prev 1 Next 다음