LIMA
특정 태스크 수행 능력을 위해 소량의 잘 검수된 데이터가 조금이라도 들어가면 도움이 된다는것이지만, 질이 떨어지는 데이터도 대량으로 있으면 역시 성능 향상에 도움이 된다는점인것 같습니다.
1 min read
핵심 요약 LLaVA (Large Language and Vision Assistant): Vision Encoder + LLM을 연결하여 이미지를 이해하고 자연어로 대화할 수 있는 멀티모달 LLM.
MPNet - Masked and Permuted Pre-training for Language Understanding Abstract BERT 과 XLNet 의 장점을 가지면서 단점을 극복한 pre-training 학습 모델.
Self-Rewarding Language Models Self-Rewarding Language Models, where the language model itself is used via LLM-as-a-Judge prompting to provide its own rewards during training.
한줄 요약 LLM이 모호한 태스크를 받았을 때, Bayesian Experimental Design (BED) 을 활용해 정보 이득(EIG)이 최대인 clarifying question 을 생성하여 모호성을 능동적으로 해소하는 프레임워크.
DialogLM이란 DialogLM은 긴 대화를 이해하고 요약하기 위해 사전 학습된 인코더-디코더 기반 신경망 모델입니다. A.1) 기존 연구의 한계 지금까지의 연구는 주로 짧은 길이의 1:1 대화 상황에 집중되어 있었습니다.
Do not Stop Pretraining - Adapt Language Models to Domains and Tasks B) Related C) References LangCon 2023 - 특정 도메인에 맞는 언어모델은 어떻게 만들까? .
Chain of Hindsight Aligns Language Models with Feedback B) SFT 사전 학습된 언어 모델을 미세 조정하는 데 사용됩니다. 인간이 주석을 달아준 데이터와 긍정적으로 평가된 모델 생성에 의존합니다.
Roberta Pretrained model on English language using a masked language modeling (MLM) objective. B) Vs.
대형 언어모델(LLM)을 ‘심판’으로 쓸 때 발생하는 치명적 허점과 해결책 A.1) LLM 심판이 쉽게 속는 이유 ‘LLM-as-a-Judge’(생성형 보상 모델)란 무엇인가?...
NVIDIA 의 Pruning 과 Knowledge Distillation 을 통한 언어 모델 압축 최근 NVIDIA 연구진은 structured weight pruning 과 knowledge distillation 을 결합한 방법이, 대형 언어 모델을 점차적으로 더 작은 모델로 압축하는 데 매우 효과적이라는...