양방향 RNN

 

 

• 양방향 RNN 구조

 

 

양방향 RNN은 하나의 출력 값을 예측하는데 메모리 셀 2개를 사용한다. 

첫번째 메모리 셀은 이전 시점의 은식상태 (Forward states)를 전달받아 현재의 은닉 상태를 계산한다.

 

 

밑의 그림에서는 hi 행 전부 부분에 해당한다. 

 

 

 

두번째 메모리 셀은 다음 시점의 은닉상태 (backward states) 를 전달 받아 현재의은닉상태를 계산한다.

밑 그림의 gi 행전부  부분에 해당한다. 

 

 

그리고  이 값 2개를 모두 출력층에서 출력 값을 예측하는데 사용한다.

 

 

일반적으로 LSTM보다 양방향 RNN이 성능이 좋다.