Batch inference is a process of aggregating inference requests and sending this aggregated requests through the ML/DL framework for inference all at once.
Batch inference is a process of aggregating inference requests and sending this aggregated requests through the ML/DL framework for inference all at once.
데이터를 하나의 저장소로 모으지 않고 모델을 학습할 수 없을까?
추천 시스템의 학습은 supervised learning 과 다르다. 추천 시스템은 오직 사용자가 선택한 결과만을 가지고 학습하기 때문에, log data 는 partial information 형식을 지닌다. 반면 지도 학습은 그 사용자에 대해서 가장 적합한 best ranking items 전체를 학습하기...
유명한 아이템은 더 많이 노출되어서 학습 데이터의 밸런스가 더욱 무너지는 현상
모아둔 데이터로 한 번에 학습을 끝내고, 완성된 모델을 배포해 쓰는 방식이다. batch learning 이라고도 한다. 새 데이터가 쌓이면 전체를 다시 학습시켜 모델을 교체한다.
collaborative filtering 의 MF 기법은 gradient descent update 를 이용하여 user 와 item 의 latent vector 를 찾아내는데, 이러한 최적화 과정은 너무 느리고 많은 반복이 필요하다.
A Troubling Analysis of Reproducibility and Progress in Recommender Systems Research, TOIS, 2021.
deep Learning 과 달리 structured data 가 필요한 학습 모델
Joint-training consists of training together multiple networks with different learning objectives in order to benefit from the synergy of the learning.
현실에 직접 적용하는 대신 정해진 데이터셋에서 성능 평가를 하는 것
ML Model Serving : 학습된 ML 모델을 프로덕션 환경에서 예측 API로 제공하는 시스템. 모델 로딩, 스케일링, 전/후처리, 모니터링 등을 자동화.