LLM, 검색, 추천 모델을 만드는 머신러닝 엔지니어입니다. 일하고 공부하며 정리한 노트를 이곳에 모았습니다. 개념 설명, 논문 읽은 기록, 직접 해 본 실험이 있습니다. 쓴 사람이 궁금하다면 이력서를 보세요.

Recent Posts

더 보기
  1. Elasticsearch 검색 과정
    retrieval/search_engine
  2. Embedding Dimension Rule of Thumb
    machine_learning/feature_engineering
  3. VLM 임베딩 추출 방법
    retrieval/dense
  4. Focal Loss와 Gradient Blending
    machine_learning/loss
  5. Bi-Encoder vs Cross-Encoder
    retrieval/concepts

최근 수정한 글

더 보기
  1. Elasticsearch
    retrieval/search_engine
  2. BM25
    retrieval/sparse
  3. Inverted Index
    retrieval/sparse
  4. Hashing Trick
    machine_learning/feature_engineering
  5. Tokenization
    machine_learning/NLP

주제별로 둘러보기

검색

많은 문서 중에서 질문에 맞는 것을 빠르게 찾아오고, 찾은 결과의 순서를 정하는 방법.

검색 노트 전체

추천 시스템

사용자가 좋아할 상품이나 글을 골라 주는 방법과, 그 결과가 정말 나아졌는지 실험으로 확인하는 방법.

추천 노트 전체

LLM

대형 언어 모델을 학습시키고, 사람이 원하는 대로 답하게 다듬고, 가볍게 만들어 서비스하는 방법.

생성형 AI 노트 전체

머신러닝 기초

모델이 데이터에서 배우는 원리와, 배운 모델이 처음 보는 데이터에서도 잘 맞게 만드는 기본기.

머신러닝 노트 전체

논문 읽기

읽은 논문을 한국어로 요약했습니다. 분야별로 나뉘어 있습니다.

논문 노트 전체

통계와 수학

확률 분포, 추정, 가설 검정처럼 실험 결과를 해석할 때 필요한 도구. 선형대수 노트도 따로 있습니다.

통계 노트 전체 · 선형대수 노트 전체

강화학습

행동한 결과로 받는 보상을 보고 더 나은 행동을 배우는 방법. LLM 을 다듬는 GRPO 같은 방법의 바탕이기도 합니다.

강화학습 노트 전체

시스템과 데이터

모델을 서비스로 띄우고 데이터를 흘려보내는 데 쓰는 도구. 컨테이너, 메시지 큐, 데이터베이스.

서버 · K8s · 데이터 엔지니어링 · DB