Zzong's Notes

방문

Home

❯

논문

❯

Recommender System

❯

BERT4Rec - Sequential Recommendation with Bidirectional Encoder Representations from Transformer

BERT4Rec - Sequential Recommendation with Bidirectional Encoder Representations from Transformer

최초 작성 2026-08-28마지막 수정 2026-10-23읽는 데 1분

노트 편집 ↗

II. References

paper link: https://arxiv.org/abs/1904.06690


링크된 언급

3
Bidirectional Encoder Representations from Transformers

bert github paper link BERT4Rec - Sequential Recommendation with Bidirectional Encoder Representations from Transformer

Progressive Alignment of Recommender Foundation Model through Multi-Phase Post-Training

...former 로 읽고 다음 작품을 맞히도록 학습한다. 이 논문의 FM 도 causal Transformer 이고 다음 행동을 예측하도록 사전학습했다. 양방향으로 보고 가려 둔 작품을 맞히는 BERT4Rec 보다는 SASRec 쪽이다. 차이는 세 가지다.

session-based recommendations

BERT4Rec - Transformer Encoder 기반으로 Masked Language Model 방식으로 학습

함께 보면 좋은 글

session-based recommendations

이벤트의 시퀀스를 기반으로 추천을 진행하는 방식을 의미하며, next item prediction 이 그 예이다.

Bidirectional Encoder Representations from Transformers

Google 에서 만든 language representation model. BERT 는 미리 학습된 (pre-trained) 언어 모델이다. BERT is designed to pre-train deep bidirectional representations from unlabeled...

Mixed Negative Sampling for Learning Two-tower Neural Networks in Recommendations

NLP 에서 dual encoder 로 불리는 two-tower 신경망 framework 를 어떻게 추천 시스템에 적용할 수 있는지 보임 추가로, Mixed Negative Sampling (MNS) 이라는 negative sampling 전략을 제안

Joint User-Entity Representation Learning for Event Recommendation in Social Network

Paper link Abstract 사용자와 이벤트를 동일한 latent space 에 project 하기 위해 a joint representation model (결합 표현 모델) 을 제안 제안한 모델은 parallel CNN 기반이고, event text 의 semantic meaning 을 파악하며...

The YouTube Video Recommendation System

YouTube 추천 시스템을 초기 대규모 산업 추천 관점에서 설명한 논문이다. 이 볼트에서는 YouTube 추천 구조와 large-scale candidate generation / ranking 흐름을 연결해서 읽는 reference 로 쓰인다.

Collaborative Topic Modeling for Recommending GitHub Repositories

paper link: http://www.cs.cmu.edu/afs/cs.cmu.edu/Web/People/norii/pub/github-ctr.pdf

Practical Lessons for Job Recommendations in the Cold-Start Scenario

Wide & Deep Learning for Recommender Systems

A wide linear model and a deep neural network are trained together to both memorize and generalize a recommendation systems.

Modeling personalized item frequency information for next-basket recommendation

SBRS 에서 Next-basket 추천 (NBR) 을 위해 제안된 논문이다.

Reinforced Negative Sampling for Recommendation with Exposure Data

data (노출이 발생한 아이템) 정보는 유저들의 negative preference 에 대한 정보를 담고있지만 활용하기는 쉽지 않은데, 다음과 같은 이유가 있기 때문이다.