1 min read
위 식에서 C 는 category 의 갯수이고, q 는 사건의 확률질량함수 (Probability Mass Function) 이다. 예시 가방 안에 빨간공만 들어있다고 하자. 이 경우, 불확실성은 없다. 왜냐하면 어떤공을 꺼내도 빨간 공이기 때문이다. 따라서 이 경우 entropy 는 0 이다....
B) PMF of Multinomial Distribution 랜덤 변수 Xᵢ 는 outcome i 에 대한 발생 횟수라고 가정하자. 이때, multinomial 분포에 대한 PMF 는 다음과 같다.
Multinomial Distribution 다항분포 (multinomial distribution) 란, 여러 개의 값을 가질 수 있는 독립 확률변수들에 대한 확률분포를 의미한다.
Entropy entropy 란 불확실성 (uncertainty) 에 대한 척도이며, 다음과 같이 계산된다.
Categorical Distribution Related References.
A function f:\mathbb{R}^{D}\rightarrow\mathbb{R} is called a probability density function (pdf) i if \forall\boldsymbol{x}\in\mathbb{R}^{D}:f(\boldsymbol{x})\geqslant0 Its...
Prediction Interval B) Related C) References.
Probability Distribution Discrete 확률 분포 we use discrete probability distributions to model categorical variables.
Marginal Distribution 어떤 변수들의 집합에 대한 확률 분포에서, 부분 집합에 대한 확률 분포를 marginal probability distribution 이라고 한다. 2.
Joint Distribution 많은 변수에 대한 확률 분포를 joint probability distribution 이라고 한다.
Mode The mode (statistics) is the value that appears most often in a set of data values.
CDF A cumulative distribution function (cdf) of a multivariate real-valued random variable X with states \boldsymbol{x}\in\mathbb{R}^{D} is given by F...