Zzong's Notes

ensemble

1 min read

링크된 언급

3
Gradient Boosting Machine

...Boosting Machine Gradient Boosting Algorithm (GBM) 은 regression 또는 classification 을 수행할 수 있는 예측모형이며 예측모형의 ensemble 방법론 중 boosting 계열에 속하는 알고리즘 여러개의 weak models 을 조합해서 하나의 결과를 만든다. 일반적으로 Decision Trees 를 많이 사용하며, 이 경우 알고리...

out of fold prediction

...old 는 k fold cross validation 의 fold 로, 데이터를 셔플링한 뒤에 균일하게 나눠진 데이터 구간을 fold 로 정해서 사용한다. OOF 예측은 크게 1) 평가, 2) 앙상블 에 활용된다. A.1) 평가 (Evaluation) 각 OOF 에 대하여 metric (e.g. accuracy) 을 구한다음 평균내거나, 아니면 예측 결과들을 리스트 같은곳에 모은뒤에 한번에...

Reciprocal Rank Fusion

...zure AI Search✅ vector weighting 지원OpenSearch⏳ 로드맵에 포함Weaviate✅ alpha 파라미터로 조절 D) 추천 시스템 적용 추천 시스템에서 RRF는 ensemble 방식에 활용된다: 각 모델로부터 순위가 매겨진 추천 결과를 받아옴 해당 추천 결과들을 활용하여 아이템 별 RRF score 계산 최종 순위 결정 RRF 식에서: 각 모델의 추천 결과 → D...