class 분류 문제에서 class 당 instance 수의 균형이 맞지 않는 문제를 말하며, 이를 imbalanced data 라고 한다.
Solutions
가장 먼저 해볼것은 그냥 전체 데이터를 이용해 학습해 보는 것이다. 만약 모델이 잘 동작한다면 문제 없다.
Solutions
- Negative down sampling
...하게 치우친 경우에도 해석이 어려워진다. positive 가 100 개 중 2 개뿐이면 예측 하나가 바뀌는 것만으로 TPR 이 50% 움직여서 곡선 자체가 불안정해진다. 이런 class imbalance problem 상황에서는 AUPRC 를 함께 본다. Multi-class 와 Multi-label 원래 AUC 는 이진 분류용 지표라서, class 가 셋 이상이면 이진 문제로 쪼개서 계산...
확률을 학습하고, 기준을 정하고, 결과를 평가한다 스팸 탐지를 예로 들면, 스팸은 찾으려는 클래스인 positive이고 정상 메일은 negative다. 분류 모델은 보통 이 판정을 바로 출력하지 않는다. 먼저 각 클래스에 속할 확률이나 점수를 계산한다. 그다음 threshold(판정 기준값)를 적용해 positive와 negative를 나눈다. 예를 들어 스팸 확률이 0.7인 메일을 thre...
스팸 탐지를 예로 들면, 스팸은 찾으려는 클래스인 positive이고 정상 메일은 negative다. 분류 모델은 보통 이 판정을 바로 출력하지 않는다. 먼저 각 클래스에 속할 확률이나 점수를 계산한다. 그다음 threshold(판정 기준값)를 적용해 positive와 negative를 나눈다. 예를 들어 스팸...
AUC 는 ROC 곡선 아래의 면적이다. ROC 곡선이 임계값을 0 에서 1 까지 훑으면서 그려지는 곡선이므로, 그 아래 면적은 "임계값을 어디에 두든 평균적으로 얼마나 잘 구분하는가" 를 한 숫자로 요약한 값이 된다. 임계값을 하나 고정해야 하는 accuracy 나 precision 과 달리 임계값 선택에서...
어떤 문제를 푸냐에 따라 방식이 달라진다: 분류 또는 회귀.
Decision boundary 는 label 값 y 가 0 인지 1 인지 결정하는 영역을 나누는 선이다.
binary classification 의 핵심은 D 차원 공간에 존재하는 example 들을 레이블에 따라 두 파티션으로 나눈다는 것이다. 이때, 공간을 나누는 역할을 hyperplane 이 맡게된다.
Naive Bayes 는 feature 들이 class 조건부로 서로 독립이라고 가정하고 Bayes theorem 으로 class 를 고르는 probabilistic classifier 다. 여기서 "조건부 독립 (conditional independence)" 은 class y 를 이미 알고 있다고 치면...
Negative Sampling 은 skip-gram 모델의 softmax 함수 계산 비용을 절약하기 위해 고안된 Word Embedding 방식이다.
class K>2 의 경우에서 generalized linear model (reference)
분류기를 학습시키기 위해 사용되는 loss function
logistic regression model 은 classification 문제를 해결하는데 사용하는 모델이다.