검색과 추천 모델을 만드는 머신러닝 엔지니어가 일하고 공부하며 정리한 노트입니다. 개념 설명, 논문 읽은 기록, 직접 해 본 실험을 한곳에 모았습니다. 쓴 사람이 궁금하다면 이력서를 보세요.
처음이라면 여기부터
검색이 궁금하다면
단어로 찾는 방법과 뜻으로 찾는 방법이 어떻게 다른지부터 짚고, 나머지 검색 노트로 이어 줍니다.
LLM 학습이 궁금하다면
자연스러운 한국어를 위한 LLM Post-Training
이미 학습된 언어 모델이 한국어를 자연스럽게 말하도록 추가로 학습시키는 순서를 정리했습니다.
직접 풀어 보고 싶다면
경사 하강법부터 활성화 함수, 손실 함수까지 20여 개 문제를 브라우저에서 Python 으로 풀고 바로 채점받습니다.
주제별로 둘러보기
검색
추천 시스템
사용자가 좋아할 상품이나 글을 골라 주는 방법과, 그 결과가 정말 나아졌는지 실험으로 확인하는 방법.
LLM
대형 언어 모델을 학습시키고, 사람이 원하는 대로 답하게 다듬고, 가볍게 만들어 서비스하는 방법.
머신러닝 기초
모델이 데이터에서 배우는 원리와, 배운 모델이 처음 보는 데이터에서도 잘 맞게 만드는 기본기.
논문 읽기
통계와 수학
확률 분포, 추정, 가설 검정처럼 실험 결과를 해석할 때 필요한 도구. 선형대수 노트도 따로 있습니다.
강화학습
행동한 결과로 받는 보상을 보고 더 나은 행동을 배우는 방법. LLM 을 다듬는 GRPO 같은 방법의 바탕이기도 합니다.
시스템과 데이터