Zzong's Notes

elastic net

1 min read

Elastic Net

ridge 과 lasso regression 을 합친 하이브리드 선형 모델

위 함수는 를 가정했을 때, 가 full rank 가 아니여도 strictly convex 하다. 즉, unique global minimum 이 존재한다.

B) Related

C) References

링크된 언급

2
lasso regression

...bol{w})=\sum {d=1}^{D} w {d} x {d} 를 계산할 때, w {d}=0 에 해당하는 feature x {d} 를 버리는 방향으로 진행하면 좋다. C) Related elastic net D) References

scale invariant

...icient 가 두배로 커지면 된다. Linear Regression with Regularization ridge regression & lasso regression (당연히 elastic net 도 포함하여), 이들은 scale invariant 하지 않다. L0 regularization regression 의 경우는 scale invariant 하다. PCA PCA 는 sc...