최초 작성 마지막 수정 읽는 데 1분
노트 편집 ↗http://www.chenshouyuan.com/papers/sdm14.pdf
이 논문의 main research question: how approximated model posteriors affect the performance of decision making via Thompson Sampling in contextual bandits.
Contextual Bandit + Bootstrapped Neural Network 로 CTR 예측의 불확실성을 추정하여 광고 추천에서 exploration을 수행.
한 번에 아이템 여러 개를 순서대로 배치하고, 사용자가 위에서부터 훑다가 하나를 클릭하면 멈춘다는 cascade 가정 아래에서, 특징 벡터를 쓰는 선형 bandit 알고리즘 C3-UCB 를 제안한다. Li et al., ICML 2016.
optimism principle 에 기반한 알고리즘은 문제에 대한 구조를 exploit 하는데 실패하여 점근적으로 suboptimal 결과를 보임 context 분포와 exploration policy 가 나눠지도록 (decoupled) regret lower bound 를 reformulate 하여,...
Metadata Tag: Contextual Bandit, Thompson sampling, LinUCB, Multi-Armed Bandit Link:...
Probability Ranking Principle 에 의하면 top-K items 을 greedy 하게 rank 하는것이 optimal 함
Thompson sampling is an old heuristic that has a spirit of Bayesian inference and selects an arm based on posterior samples of the expectation of each arm.
사용자와 콘텐츠 정보를 활용한 개인화 웹 서비스 (광고, 뉴스 등) 를 제공하는 것은 다음과 같은 두 가지 이유로 어렵다. 1. web service is featured with dynamically changing pools of content, rendering traditional collaborative...
일반적인 Multi-Armed Bandit 은 arm 이 사라지지 않는다고 가정한다. Mortal MAB 는 arm 마다 수명이 있어서 일정 시점이 지나면 arm 이 죽고 (더 이상 당길 수 없고), 새 arm 이 계속 들어오는 상황을 다룬다. 광고나 뉴스처럼 후보가 계속 바뀌는 추천 문제가 이 설정에 해당한다.