관측된 값과 추정된 값의 차이를 의미한다. 여기서 추정된 값은 표본집단과 같은 곳에서 구해지는 estimated value 를 의미한다.
Vs. Error
error 는 실제 값과 관측된 값의 차이를 의미한다. 여기서 실제 값은 모집단과 같은 곳에서 구해지는 true value 를 의미한다.
관측된 값과 추정된 값의 차이를 의미한다. 여기서 추정된 값은 표본집단과 같은 곳에서 구해지는 estimated value 를 의미한다.
error 는 실제 값과 관측된 값의 차이를 의미한다. 여기서 실제 값은 모집단과 같은 곳에서 구해지는 true value 를 의미한다.
Gradient Boosting Algorithm (GBM) 은 regression 또는 classification 을 수행할 수 있는 예측모형이며 예측모형의 ensemble 방법론 중 boosting 계열에 속하는 알고리즘 여러개의 weak models 을 조합해서 하나의 결과를 만든다. 일반적으로 Decision Trees 를 많이 사용하며, 이 경우 알고리즘 이름은 gradient-bo...
예시 아래 그림에서 residual plot 은 U- 모양을 그리고 있다. 이는 데이터가 non-linearity 를 보인다는 증거가 된다.
y 축은 residual e_{i}=y_{i}-\hat{y}_{i} 이고, x 축 \hat{y}_{i} 인 그래프
residual e_i 를 추정된 standard error 으로 나눈 값 -
estimation 과 실제 값의 차이의 제곱에 대한 합을 나타낸다.
관측 불가능한 variables 의 집합 (반대: data)
likelihood 는 Probability 와 반대되는 개념으로, 랜덤 변수 X 에 따른 샘플 x 이 주어졌을 때, 랜덤 변수가 따르는 parameter 가 \theta 될 확률을 의미한다. 이는 주로 \mathcal{L}(\theta\mid x) 로 표현한다.
데이터 (observation) 의 leverage 를 측정하기 위한 방법
신뢰 구간 (confidence interval) 은 알려지지 않은 모수 (parameter) 에 대한 가능한 값 (plausible values) 들의 범위를 의미한다. 어떤 표본집단에서 추정한 parameter 가 모집단의 parameter 와 정확하게 일치하지 않을 수 있으니 이러한 범위를 정하는 것이다.
evidence X 가 주어졌을 때, A 가 발생할 확률을 나타내며, notation 은 다음과 같이 표기할 수 있다.
밀도 추정이란, 유한한 개수의 관측값 \mathbf{x_1}, \cdots, \mathbf{x_N} 이 주어졌을 때, 확률변수 \mathbf{x}의 확률분포 p(\mathbf{x})를 모델링하는 것을 의미한다.
어떤 변수들의 집합에 대한 확률 분포에서, 부분 집합에 대한 확률 분포를 marginal probability distribution 이라고 한다.