Collaborative Topic Regression

collaborative filtering 과 topic modeling 을 합친 모델을 의미

• Approaches
• naive
  • $r_{ij}\sim \mathcal{N}\left(u_i^T{\theta }_j,c_{ij}^{-1}\right)$

The Generative Process for CTR

1. 각 사용자 $i$ 에 대해서 Latent vector $u_i\sim \mathcal{N}\left(0,{\lambda }_u^{-1}{I}_K\right)$ 를 draw
2. 각 아이템 $j$ 에 대해서 다음을 실행
   1. Dirichlet distribution 를 활용하여 topic proportions 을 뽑음: ${\theta }_j\sim \mathrm{Dirichlet}(\alpha )$
   2. item latent offset ${ϵ}_j\sim \mathcal{N}\left(0,{\lambda }_v^{-1}{I}_K\right)$ 를 뽑고, item latent vector $v_j={ϵ}_j+{\theta }_j$ 를 계산
   3. $j$ 번째 아이템 (문서) 의 $n$ 번째 단어 $w_{jn}$ 에 대해서, 다음을 실행
      1. multinomial distribution 을 통해 topic assignment 를 결정: $z_{jn}\sim \mathrm{Mult}\left({\theta }_i\right)$
      2. 해당 topic 에서 단어를 draw : $w_{jn}\sim \mathrm{Mult}\left({\beta }_{z_{jn}}\right)$
3. 각 user-item 쌍 $(i,j)$ 에 대해, rating 값을 draw: $r_{ij}\sim \mathcal{N}\left(u_i^T{v}_j,c_{ij}^{-1}\right)$
   • $c_{ij}$ 는 reward $r_{ij}$ 를 관찰할 수 있는 정도의 confidence 를 의미한다

$$c_{ij}=\{\begin{array}{ll}a& \text{if}{r}_{ij}=1\\ b& \text{if}{r}_{ij}=0\end{array}$$

where $a>b>0$ - $u_i$는 사용자의 latent vector를 의미

The Graphical Representation

Related

Papers

• Collaborative Topic Modeling for Recommending GitHub Repositories
• Collaborative Topic Modeling for Recommending Scientific Articles

Notes

• Latent Dirichlet Allocation
• Probabilistic latent Semantic Indexing