Zzong's Notes

posterior

1 min read

Posterior

evidence 가 주어졌을 때, 가 발생할 확률을 나타내며, notation 은 다음과 같이 표기할 수 있다.

posterior 는 prior 를 re-weight 해준다는 목적으로 사용할 수 있다 (이벤트 가 발생할 기존의 믿음을 바꾸는 용도).

B) Posterior Mean 의 추정

posterior mode 의 alternative 한 측정 방식이 posterior mean

  • 만약 posterior distribution 이 Gaussian distribution 와 같이 symmetric 하다면, posterior mean 과 mode 는 동일하다. 만약, non-symmetric 하다면 동일하지 않음
  • If we want our estimate to reflect where the central mass of the
    posterior probability lies than in case where the posterior is highly
    skewed, the mode is a better choice than the mean.

C) Related

D) References

링크된 언급

9
approximate posterior inference

Approximate Posterior Inference posterior 를 approximate 하게 추정하는 방법이다. 정확한 값을 계산하지 않고 근사하는 이유는 posterior 를 정확하게 계산하려면 많은 비용이 들기...

Bayes theorem

...id B)P(B)}{P(A)} 가정: A 와 B 는 서로 다른 이벤트이고, P(B)\neq0 B) Notations P(A\mid B) 는 B 가 발생했을 때 A 가 발생할 조건부 확률: posterior 다른 말로 하면, B 가 True 일 때, A 의 posterior probability (사후 확률) P(B\mid A) 도 A 가 발생했을 때 B 가 발생할 조건부 확률: likeli...

BPR - Bayesian Personalized Ranking from Implicit Feedback

...을 막을 수 있음 E) Bayesian Personalized Ranking (BPR) Loss 베이지안 관점에서 모든 아이템 i\in I 에 대해서 올바른 랭킹을 찾는 것은 다음과 같은 posterior 확률을 최대화 하는 것과 같다 p\left(\Theta\mid>{} {u}\right)\propto p\left(>{} {u}\mid\Theta\right)p(\Theta) \...

conjugate prior

Conjugate prior 만약 posterior 가 prior 와 동일한 parameterized family 라면 (i.e., p(\boldsymbol{\theta}\mid\mathcal{D})\in\mathcal{F}), 우리는 이...

Density estimation

...대우도추정, MLE)에 따라 하나의 파라미터 값을 선택한다. Bayesian 접근법 파라미터에 대해 prior 분포를 설정하고, 관측된 데이터를 바탕으로 Bayes theorem을 이용해 posterior 분포를 계산한다. B) 관련 개념 비모수(nonparametric) 밀도 추정 방법 또한 존재한다. 이 경우, 모델의 형태 그 자체보다는 모델 복잡도를 조절하는 파라미터가 중요한 역할을 ...

posterior predictive distribution

Posterior Predictive Distribution 사후 예측 분포 (posterior predictive distribution) 는 관측된 데이터를 조건으로 했을 때 관측될 가능성이 있지만 관...

Sampling the Imaginary

Tags Statistical Rethinking Sampling to simulate prediction posterior 에서 sampling 하는건 어떤 관계를 보이는가? 되게 애매한 챕터였음. posterior 에 대해서 깊게 탐구하는 내용인듯. 연습문제를 좀 풀어보는게 좋아보임..

trapezoidal rule

...} t {0}\right)\left(f\left(t {1}\right)+f\left(t {0}\right)\right)}{2} C) Application C.1) Computing the posterior Distribution Using a Numerical Method marginal probability 계산은 다음과 같다. p(\mathcal{D})=\int p(\mathcal{D}...

variational inference

Variational Inference 변분 추론 (Variational Inference, VI) 은 intractable 한 posterior 분포 p(z\mid x) 를 다루기 쉬운 분포 q(z) 로 근사하는 방법론을 의미한다. 이때 x 는 관측 가능한 데이터, z 는 latent variable 을 의미한다. 두 분포는 다음...