Zzong's Notes

❯

❯

collaborative_filtering

❯

Term Weighting Schemes for Latent Dirichlet Allocation

Term Weighting Schemes for Latent Dirichlet Allocation

2026년 6월 14일1 min read

Tags
- Latent Dirichlet Allocation, paper review
paper link: https://aclanthology.org/N10-1070.pdf
Abstract
- the “problem” of high-frequency words can be dealt with more elegantly, through the use of appropriate weighting schemes comparable to those sometimes used in Latent Semantic Indexing (LSI).

함께 보면 좋은 글

Latent Dirichlet Allocation

paper link: www.jmlr.org/papers/volume3/blei03a/blei03a.pdf Abstract LDA 는 이산 데이터 콜렉션을 위한 generative probabilistic model 이다.

Tutorial on Probablistic Latent Semantic Analysis

Tags Probabilistic latent Semantic Indexing, PLSI, multinomial distribution paper link arxiv.org/pdf/1212.3900.pdf notations size T: topic size, D: document size, N d:...

Probabilistic latent Semantic Indexing

Probabilistic Latent Semantic Indexing 단어와 문서 사이를 잇는, 우리 눈에 보이지 않는 잠재구조가 있다는 가정 하에, 단어와 문서 출현 확률을 모델링한 확률모형 \displaystyle P(w,d)=\sum {c}P(c)P(d\mid c)P(w\mid c)=P(d)\sum...

Distributed representations of words and phrases and their compositionality

paper link Abstract skip-gram 모델의 extension 을 제안함으로써 학습 속도와 vector quality 상승을 보였다.

Matrix Factorization for Collaborative Filtering Is Just Solving an Adjoint Latent Dirichlet Allocation Model After All

Abstract Conclusion LDA4Rec model, which extends the traditional LDA by incorporating parameters for the popularity of items and conformity of users.

Do not Stop Pretraining - Adapt Language Models to Domains and Tasks

Do not Stop Pretraining - Adapt Language Models to Domains and Tasks B) Related C) References LangCon 2023 - 특정 도메인에 맞는 언어모델은 어떻게 만들까? .

paper review

논문의 퀄리티 측정법 뻔하지 않은 결과에는 합리적이고 디테일한 설명이 필요하다. novelty 가 부족하면 안된다. 기존 방식이 가진 이슈를 제기하고, 이를 해결할 수 있는 방안을 제시해야한다. C) References 2401.02412.pdf .

MPNet

MPNet - Masked and Permuted Pre-training for Language Understanding Abstract BERT 과 XLNet 의 장점을 가지면서 단점을 극복한 pre-training 학습 모델.

Information Noise-Contrastive Estimation

Information Noise-Contrastive Estimation InfoNCE (Information Noise-Contrastive Estimation) 손실은 대조 학습 (contrastive learning) 에서 널리 사용되는 손실 함수 비지도 학습 방식 InfoNCE 손실은 양의 쌍...

Collaborative Filtering for Implicit Feedback Datasets

Collaborative Filtering for Implicit Feedback Datasets Alternating Least Squares Vs.