Dueling Bandit Gradient Descent
Related
papers/recommender_system/Online learning to rank for information retrieval
최초 작성 마지막 수정 읽는 데 1분
노트 편집 ↗
papers/recommender_system/Online learning to rank for information retrieval
...해서, 제안한 방식은 user return 신호를 유저 feedback 정보로 활용한다. exploration 을 위해서 Interactively Optimizing Information Retrieval Systems as a Dueling Bandits Problem 를 활용한다. 이는 현재 추천 결과의 이웃 아이템을 candidate 로 하여 랜덤 추천을 진행하기 위해서 사용한다. 이...
Probability Ranking Principle 에 의하면 top-K items 을 greedy 하게 rank 하는것이 optimal 함
slide: https://staff.fnwi.uva.nl/m.derijke/wp-content/uploads/sigir2016-tutorial.pdf
Thompson sampling is an old heuristic that has a spirit of Bayesian inference and selects an arm based on posterior samples of the expectation of each arm.
http://www.chenshouyuan.com/papers/sdm14.pdf
optimism principle 에 기반한 알고리즘은 문제에 대한 구조를 exploit 하는데 실패하여 점근적으로 suboptimal 결과를 보임 context 분포와 exploration policy 가 나눠지도록 (decoupled) regret lower bound 를 reformulate 하여,...
Contextual Bandit + Bootstrapped Neural Network 로 CTR 예측의 불확실성을 추정하여 광고 추천에서 exploration을 수행.
이 논문의 main research question: how approximated model posteriors affect the performance of decision making via Thompson Sampling in contextual bandits.
Poisson point process
일반적인 Multi-Armed Bandit 은 arm 이 사라지지 않는다고 가정한다. Mortal MAB 는 arm 마다 수명이 있어서 일정 시점이 지나면 arm 이 죽고 (더 이상 당길 수 없고), 새 arm 이 계속 들어오는 상황을 다룬다. 광고나 뉴스처럼 후보가 계속 바뀌는 추천 문제가 이 설정에 해당한다.
Metadata Tag: Contextual Bandit, Thompson sampling, LinUCB, Multi-Armed Bandit Link:...