Zzong's Notes

summarization

1 min read

링크된 언급

2
BART

BART란 BERT와 GPT의 구조를 결합한 모델로, 특히 summarization(요약) 작업에서 우수한 성능을 보인 것으로 알려져 있습니다. MASS와 달리, BART는 Encoder에 다양한 Noise를 추가하는 방식으로 더욱 뛰어난 성능을 기록하였습니다. B)...

PEGASUS

PEGASUS PEGASUS: Pre training with Extracted Gap sentences for Abstractive summarization In prior work (BERT, GPT 2, etc.), the self supervised objectives used in pre training have been somew...