SHAP 는 feature importance(attribution) 을 파악할 수 있는 방법이다.
SHAP 는 feature importance(attribution) 을 파악할 수 있는 방법이다.
통계적 기법이나 알고리즘을 이용하여 feature 간 상관 관계를 계산함
보통 모델이나 알고리즘의 “feature”들을 제거해 나가면서 그 행위가 성능에 얼마나 영향을 미치는지를 확인해보는 것 다른 말로 하면, 제안한 요소가 모델에 어떠한 영향을 미치는지 확인하고 싶을 때, 이 요소를 포함한 모델과 포함하지 않은 모델을 비교하는 것
Permutation Importance 는 feature importance 를 측정하기 위한 방법으로,모델을 학습시킨 뒤 특정 feature 의 데이터를 shuffle 했을 때, 검증 데이터 셋에 대한 예측성능을 확인하고 feature importance 를 계산한다.
class K>2 의 경우에서 generalized linear model (reference)
covariate shift 는 ML 에서 종종 마주치는 특수한 형태의 데이터 변화를 의미한다.
deep Learning 과 달리 structured data 가 필요한 학습 모델
ridge regression 과 달리 L1-norm 을 regularization term 으로 사용하는 linear 모델이다.
manifold 의 정의 고차원의 데이터를 저차원으로 옮길 때 데이터를 잘 설명하는 집합의 모형 매니폴드 가정 (manifold Hypothesis (assumption) 고차원의 데이터의 밀도는 낮지만, 이들의 집합을 포함하는 저차원의 manifold(subspace) 가 있다는 가정 Natural data in...
linear model 을 학습하는 방법 중 하나로, 계수 추정에 제약을 줘서 계수가 0 으로 shrink 하도록 유도하는 학습 방법이다.
파인 튜닝 방식은 모델의 모든 parameter 를 학습시키는 방법이다.