Teacher Forcing

RNN 을 학습하는 방법 중 하나

학습 과정에서는 ground truth ${\mathbf{y}}^{(t)}$ 를 ${\mathbf{h}}^{(t+1)}$ 의 입력값으로 넣어준다. 테스트 과정에서는 ${\mathbf{y}}^{(t)}$ 대신 ${\mathbf{o}}^{(t)}$ 값을 넣어준다.

B) Pros and Cons

B.1) 장점

학습 속도가 빠르다.

B.2) 단점

배포 과정에서는 ground truth 를 알 수 없으므로 성능이 불안정하다.

C) Related

D) References