1 min read
linear regression 에서 Y=\beta {0}+X {1}\beta {1}+\cdots+X {p}\beta {p}+\epsilon 여기서 에러 \epsilon 를 의미한다.
회귀는 예측하는 함수를 만드는 것이다. 예측하려는 데이터의 종류가 numerical 또는 categorical data 에 따라서 사용하는 알고리즘이 달라진다.
References en.wikipedia.org/wiki/Poisson regression .
Regularization 은 overfitting 문제를 완화하기 위한 방법이다.
polynomial functions of the predictors in the linear regression model Interaction Effect 그냥 단순히 변수들을 additive 하게 나열하는 것보다, 변수간 관계를 생각해서 섞는게 효과가 좋을 수 있다.
ridge regression 과 달리 L1-norm 을 regularization term 으로 사용하는 linear 모델이다.
variance 가 input 마다 다른 것 p(\boldsymbol{y}\mid\boldsymbol{x};\boldsymbol{\theta})=\mathcal{N}\left(\boldsymbol{y}\mid\mathbf{X}\boldsymbol{w},\boldsymbol{\Lambda}^{-1}\right)...
ridge 과 lasso regression 을 합친 하이브리드 선형 모델 \mathcal{L}\left(\boldsymbol{w}, \lambda {1}, \lambda {2}\right)=\|\boldsymbol{y}-\mathbf{X} \boldsymbol{w}\|^{2}+\lambda...
linear model 을 학습하는 방법 중 하나로, 계수 추정에 제약을 줘서 계수가 0 으로 shrink 하도록 유도하는 학습 방법이다. II. Related ridge regression lasso regression .
linear regression 모델을 다룰 때 발생할 수 있는 이슈들 Non-linearity of the Response-predictor Relationships residual plot are a useful graphical tool for identifying non-linearity.