Joint Distribution
많은 변수에 대한 확률 분포를 joint probability distribution 이라고 한다.
B) 예시
denotes the probability that and simultaneously.
1 min read
많은 변수에 대한 확률 분포를 joint probability distribution 이라고 한다.
P(x=x,y=y) denotes the probability that x=x and y=y simultaneously.
Ancestral Sampling graphical model 에서 사용되는 sampling 방식으로, 어떤 K 개의 노드 (variable) 이 존재할 때, 이에 대한 joint distribution p\left(x {1}, \ldots, x {K}\right) 을 sampling 으로 구하는 방식을 의미한다. 각 노드는 자기보다 높은 순번의 노드 (부모 노드) 로 밖에 이어지...
...n indexed collection of random variables X {1},\ldots,X {n}. To find the value of this member of the joint distribution, we can apply the definition of conditional probability to obtain \mathrm{P}\left(X {n},\ldots,X {1}...
...e 확률 분포에서 approximated 된 일련의 관찰값 (observations) 들을 획득하기 위한 MCMC 알고리즘으로, 직접적인 샘플링이 어려울 때 사용한다. 구체적으로는 joint distribution 을 explicit 하게 알기 어렵거나 직접적으로 샘플링하기 어려운 케이스이지만, 각 변수에 대한 conditional distribution 은 상대적으로 확인하기 또는 샘플링하...
...{\mathrm{KL}}\left(P {(X,Y)}\|P {X}\otimes P {Y}\right) D {\mathrm{KL}} 은 KL Divergence, P {(X,Y)} 는 joint distribution and P X 와 P Y 는 marginal distributions B.1) 이산 case \displaystyle I(A;B)=\sum {a\in A}\sum {b\in B}P...