특정 태스크 수행 능력을 위해 소량의 잘 검수된 데이터가 조금이라도 들어가면 도움이 된다는것이지만, 질이 떨어지는 데이터도 대량으로 있으면 역시 성능 향상에 도움이 된다는점인것 같습니다.
특정 태스크 수행 능력을 위해 소량의 잘 검수된 데이터가 조금이라도 들어가면 도움이 된다는것이지만, 질이 떨어지는 데이터도 대량으로 있으면 역시 성능 향상에 도움이 된다는점인것 같습니다.
LLaVA (Large Language and Vision Assistant) : Vision Encoder + LLM을 연결하여 이미지를 이해하고 자연어로 대화할 수 있는 멀티모달 LLM . GPT-4를 활용해 COCO 데이터셋을 instruction-following 형태로 확장하여 학습.
MPNet - Masked and Permuted Pre-training for Language Understanding
Self-Rewarding Language Models, where the language model itself is used via LLM-as-a-Judge prompting to provide its own rewards during training.
LLM이 모호한 태스크를 받았을 때, Bayesian Experimental Design (BED) 을 활용해 정보 이득(EIG)이 최대인 clarifying question 을 생성하여 모호성을 능동적으로 해소하는 프레임워크. 핵심 아이디어는 LLM에게 "좋은 질문을 해라"고 직접 지시하는 대신, 먼저 다수의...
DialogLM은 긴 대화를 이해하고 요약하기 위해 사전 학습된 인코더-디코더 기반 신경망 모델입니다.
LangCon 2023 - 특정 도메인에 맞는 언어모델은 어떻게 만들까?
Pretrained model on English language using a masked language modeling (MLM) objective.
최근 NVIDIA 연구진은 structured weight pruning 과 knowledge distillation 을 결합한 방법이, 대형 언어 모델을 점차적으로 더 작은 모델로 압축하는 데 매우 효과적이라는 사실을 밝혔습니다. 이 방법으로 만들어진 대표적인 작은 모델로는 NVIDIA Minitron 8B 와...
'LLM-as-a-Judge'(생성형 보상 모델)란 무엇인가?
사전 학습된 언어 모델을 미세 조정하는 데 사용됩니다. 인간이 주석을 달아준 데이터와 긍정적으로 평가된 모델 생성에 의존합니다.