Batch Inference
Batch inference is a process of aggregating inference requests and sending this aggregated requests through the ML/DL framework for inference all at once.
1 min read
Counterfactual Learning 추천 시스템의 학습은 supervised learning 과 다르다. 추천 시스템은 오직 사용자가 선택한 결과만을 가지고 학습하기 때문에, log data 는 partial information 형식을 지닌다.
Federated Learning 데이터를 하나의 저장소로 모으지 않고 모델을 학습할 수 없을까? 데이터를 특정 서버에 모으지 않고 개인 디바이스에서 학습하는 방식으로, 데이터 이동 이슈를 해소하기 위한 방안으로 많이 연구되고 있다.
Matthew Effect 유명한 아이템은 더 많이 노출되어서 학습 데이터의 밸런스가 더욱 무너지는 현상.
userKNN B) Related C) References A Troubling Analysis of Reproducibility and Progress in Recommender Systems Research, TOIS, 2021.
collaborative filtering 의 MF 기법은 gradient descent update 를 이용하여 user 와 item 의 latent vector 를 찾아내는데, 이러한 최적화 과정은 너무 느리고 많은 반복이 필요하다.
Machine Learning deep Learning 과 달리 structured data 가 필요한 학습 모델 2.
Ensemble 기계 학습 모델의 예측 결과를 서로 합치는 방식을 의미 추천시스템의 경우 MAB 를 통해서도 추천 결과를 앙상블 할 수 있다.
Covariate Shift covariate shift 는 ML 에서 종종 마주치는 특수한 형태의 데이터 변화를 의미한다. Related References www.seldon.io/what-is-covariate-shift .
Offline Evaluation 현실에 직접 적용하는 대신 정해진 데이터셋에서 성능 평가를 하는 것 일반적으로 사용자들이 관측하지 않은 콘텐츠에 대한 반응을 유추하여 평가하나, 실제 데이터를 사용하지 않았기 때문에 정확한 성능 비교가 어렵다.
Onnxruntime inference APIs 를 통해 ONNX 모델에 대한 inference time 속도를 빠르게 해준다. A.1) 장점 여러 언어 및 OS 의 API 를 지원한다. 추가적으로 학습 속도의 향상도 지원한다.