1 min read
Machine Learning deep Learning 과 달리 structured data 가 필요한 학습 모델 2. Machine Learning Model Representation
AreaNotesRetrievalretrieval, BM25, DPRMachine Learningmachine learning, deep Learning, Large Language ModelRecommendationRecommendation System, collaborative filtering, sequential recommen...
Machine Learning deep Learning 과 달리 structured data 가 필요한 학습 모델 2.
Weight Decay regularization > Weight Decay 를 참고할 것. Related References.
Self-supervised 데이터로부터 target(label) 을 만들어내는 학습 Related References.
Adam B) Related C) References.
Fine-tuning 파인 튜닝 방식은 모델의 모든 parameter 를 학습시키는 방법이다. 해당 학습과 다른 방식으로는 linear probing 방식이 있다. 2. Related 3. References.
Step Function \chi {A}(x)= \begin{cases}1 & \text { if } x \in A \\ 0 & \text { if } x \notin A\end{cases} B) Related C) References en.wikipedia.org/wiki/Step function .
Linear Probing transfer learning 의 방식 중 하나로, head 레이어만 학습시키고 나머지 기존 모델의 weight 는 얼리는 접근 방법 중 하나다. 이 학습 방식과 다른 방식은 fine tuning 이 존재한다.
LambdaRank Related References.
NN with a Hidden Layer hidden layer 가 한개 있는 neural network 를 살펴보자. 입력 units 은 세개이고, activation function 이 사용된다.
Prompt Engineering Related References.