Training data 전체를 메모리상에 보관하면서 test 데이터가 새로 들어왔을 때 바로 학습하는 방법
장점
추가적인 학습 시간 없이, 곧바로 학습 결과를 얻을 수 있다.
단점
메모리상에 training data 를 항상 보관하고 있어야 하므로, 메모리 용량보다 초과하는 데이터의 경우 Lazy Learning 을 적용할 수 없음
Related
Eager Learning 은 Lazy Learning 의 반대 방법
1 min read
Training data 전체를 메모리상에 보관하면서 test 데이터가 새로 들어왔을 때 바로 학습하는 방법
추가적인 학습 시간 없이, 곧바로 학습 결과를 얻을 수 있다.
메모리상에 training data 를 항상 보관하고 있어야 하므로, 메모리 용량보다 초과하는 데이터의 경우 Lazy Learning 을 적용할 수 없음
Eager Learning 은 Lazy Learning 의 반대 방법
...학습 시에만 메모리에 보관되며 학습 이후에는 training 데이터를 메모리에서 제거한다. 이후, test 데이터를 분류 또는 예측할 때만 test 데이터를 메모리에 적재한다. Vs. Lazy Learning Eager Learning 은 Lazy learning 보다 메모리를 효율적으로 사용할 수 있다. 하지만 메모리 적재 시간이 필요하므로, Lazy learning 보다 학습 시간이 오...
...imensionality 에 의해 성능 저하가 발생한다. 이에 대한 이슈를 해소하기 위해 locality sensitive hashing 을 이용하기도 한다. KNN 은 학습 과정에서 Lazy learning 방법을 사용한다.
일반적인 학습 과정으로, training 데이터로 일정 기간 학습시킨 후, 학습시킨 모델을 기반으로 테스트 데이터를 적용하는 방법 training 데이터는 학습 시에만 메모리에 보관되며 학습 이후에는 training 데이터를 메모리에서 제거한다.
KNN 어떤 문제를 푸냐에 따라 방식이 달라진다: 분류 또는 회귀. For classification: 비교 대상이 되는 데이터 주변에 가장 가까이 존재하는 k 개의 데이터와 비교해 가장 가까운 데이터 종류로 판별한다.
deep Learning 과 달리 structured data 가 필요한 학습 모델 Machine Learning Model Representation 위 그림의 h 는 가설 (hypothesis) 을 뜻함 h:X\rightarrow Y X 는 입력 데이터 공간 (space), Y 는 출력 데이터 공간.
학습의 목적이 parameters 가 아닌 학습을 의미한다.즉, 모델을 구축하지 않아서 새로운 데이터가 입력으로 들어왔을 때, 알고리즘을 처음부터 재학습할 필요성이 존재한다. 예) t-SNE 는 고차원 데이터에 대한 최적의 저차원 데이터를 추정한다.
Inductive Learning 학습의 목적이 최적의 parameters 를 추정하는 학습을 의미한다. 즉, 모델을 구축하기 때문에 새로운 데이터가 입력으로 들어왔을 때, 알고리즘을 처음부터 재시작할 필요성이 없다.
정의 metric learning 은 데이터 포인트 간의 거리를 측정하는 방법을 학습하는 기법입니다.
Semi-supervised learning은 label이 있는 데이터와 label이 없는 데이터를 함께 써서 모델을 학습하는 설정이다. label은 비싸고 unlabeled data는 많은 상황에서 자주 등장한다.
모아둔 데이터로 한 번에 학습을 끝내고, 완성된 모델을 배포해 쓰는 방식이다. batch learning 이라고도 한다. 새 데이터가 쌓이면 전체를 다시 학습시켜 모델을 교체한다.
Contrastive learning 은 비슷해야 하는 pair 는 embedding 공간에서 가깝게, 달라야 하는 pair 는 멀게 학습하는 representation learning 방법이다.
데이터를 줄여서 샘플링하는 방법이다. Apply with cross-validation K-fold validation 을 적용할때 downsampling 을 적용하는 기법은 학습 데이터 (in-fold data) 만 일부 샘플링하여 적용하는 것이다.