최초 작성 마지막 수정 읽는 데 1분
노트 편집 ↗We can split ANN algorithms into three distinct categories; trees, hashes, and graphs. HNSW slots into the graph category.
the critical challenges of GNN-based recommendation and the potential solutions 에 중점을 두고 설명함 extensive background of recommender systems and graph neural networks 부터 설명을 시작...
relations between pairs of items, model-based Sparse LInear Method (SLIM)
ANN(Approximate Nearest Neighbor)은 정확한 nearest neighbor를 전수 계산하지 않고, 충분히 가까운 후보를 빠르게 찾는 검색 방식이다. Retrieval에서는 HNSW, IVF, faiss, scann, Vamana 같은 index가 dense embedding search의...
1. 추천 시스템 내 대부분의 데이터는 그래프 구조를 가진다. real world 에서 객체들은 서로 explicit 또는 implicit 하게 연결되어 있다. 그리고 그 객체는 사용자, 아이템, 속성등 이 될 수 있다. 2. 그래프 학습은 복잡한 관계를 학습할 수 있다. random walk 나 GNN 과 같은...
이 논문에서는 추천 시스템에서 sparse data 를 linear model 로 학습하는 방안을 제시했다. 학습에 사용한 training objective 는 closed-form solution 으로 표현될 수 있다. 실험 결과 SOTA CF 방식보다 더 나은 ranking accuracy 를 보였다. 여기서...
Discussion 메타 러닝을 이용해서 일부 아이템을 소모한 사용자들에게는 더 빠르게 학습할 수 있다고 한다. 즉, 완전 cold-start 는 아닌 case. Abstract 기존 추천 방식의 한계점들 (1) the users who consumed a few items have poor...
WSABIE 는 대규모 이미지 주석 데이터에 대해 높은 성능을 보이는 방법으로, 주어진 이미지에 대해 상위 순위의 주석 리스트를 반환하는 데 최적화된 모델입니다. 이 방식은 기존의 baseline 방법들보다 빠르고 메모리 사용량이 적습니다.
베이즈 추론 자체를 신경망에 미리 학습시켜 두고, 실제 데이터셋이 들어오면 학습 없이 forward 한 번으로 예측을 내놓게 하는 접근이다. Müller et al., "Transformers Can Do Bayesian Inference", ICLR 2022.
최대 내적 검색(Maximum Inner Product Search, MIPS)은 주어진 쿼리 벡터와 데이터베이스 내의 수많은 데이터 벡터들 사이에서, 내적(inner product) 값이 가장 큰 벡터를 찾는 문제를 의미합니다. 이 기술은 단순한 유사도 측정을 넘어 추천 시스템, 자연어 처리(NLP), 컴퓨터...