Information Value
Related
References
- A Sub-linear, Massive-scale Look-alike Audience Extension System (yahoo, 2016)
1 min read
information gain information value
Feature Selection 1.1. Filtering Method 통계적 기법이나 알고리즘을 이용하여 feature 간 상관 관계를 계산함 t-test \chi^2-test information gain information value 1.2.
Category Feature Related References Google Developers Blog: Introducing TensorFlow Feature Columns .
Information Gain Decision Tree 에서 tree 의 node 를 나눌 때, feature 를 선택하는 기준으로 information gain 을 사용한다.
Fisher Information 피셔 정보는 어떤 정보의 양을 측정하는 방법이다. 그 정보란, 랜덤 변수가 가지는 분포의 매개변수에 대해 유추할 수 있는 정보를 말한다.
Permutation Importance Permutation Importance 는 feature importance 를 측정하기 위한 방법으로,모델을 학습시킨 뒤 특정 feature 의 데이터를 shuffle 했을 때, 검증 데이터 셋에 대한 예측성능을 확인하고 feature importance 를 계산한다.
Mean Normalization 새로운 user 에 대해서 rating 을 측정할 필요가 있다.
Feature Crosses 서로 다른 성격 (도메인) 을 지닌 feature 를 섞어서 하나의 context 로 표현하는 것 (예시) 어느 사람이 바나나를 샀고, 요리책을 샀다면 믹서기를 살 확률이 높다.
Hashing Trick the Hashing Trick is not parameter-free; the hashing space size must be decided beforehand.
Relative Information Gain 시간 t 에 대한 RIG 값은 다음과 같다.
Box-cox Transformation 데이터를 정규 분포 에 가깝게 만들어 주는 변환 방법 x>0 에 대하여 box-cox 변환은 다음을 만족하도록 한다.