1 min read
Bayes Theorem 베이즈 이론 (Bayes theorem) 은 어떤 이벤트가 발생할 확률을 해당 이벤트와 관련될 법한 사전 지식 (prior) 에 의거해 설명하는 방법이다. \displaystyle P(A\mid B)=\frac{P(B\mid A)P(A)}{P(B)}=\frac{P(A,B)}{P(B)}=\frac{P(A\mid B...
Conjugate prior 만약 posterior 가 prior 와 동일한 parameterized family 라면 (i.e., p(\boldsymbol{\theta}\mid\mathcal{D})\in\mathcal...
...thbf{x})를 모델링하는 것을 의미한다. Frequentist 접근법 특정 기준(예: 최대우도추정, MLE)에 따라 하나의 파라미터 값을 선택한다. Bayesian 접근법 파라미터에 대해 prior 분포를 설정하고, 관측된 데이터를 바탕으로 Bayes theorem을 이용해 posterior 분포를 계산한다. B) 관련 개념 비모수(nonparametric) 밀도 추정 방법 또한 존재한...
... 내놓는다. D) Frequentist vs. Bayesian 어떤 N 개의 데이터를 기반으로 통계적으로 추론하고 싶은 것이 있다면, N 의 값이 작을수록 베이지안 방식이 유리하다. 왜냐하면 prior 를 통해 추론의 불완전성을 보완해줄 수 있기 때문이다. 반대로 N 이 점점 커질수록 두 방식의 추론 결과는 거의 차이가 없을 것이다. 이 경우는 좀 더 간단한 방식인 frequentist 의...
...int Likelihood Let there be a generative model m describing measured data y using model parameters θ and a prior distribution on θ . p(y,\theta\mid m)=p(y\mid\theta,m)p(\theta\mid m) Then, the joint likelihood is equal ...
Posterior evidence X 가 주어졌을 때, A 가 발생할 확률을 나타내며, notation 은 다음과 같이 표기할 수 있다. P(A \mid X) posterior 는 prior 를 re weight 해준다는 목적으로 사용할 수 있다 (이벤트 A 가 발생할 기존의 믿음을 바꾸는 용도). B) Posterior Mean 의 추정 posterior mode 의 alter...