CHAPTER 5. 자기회귀 모델
5.2 LSTM 네트워크 소개RNN이란?순차 데이터를 처리하는 순환 층(셀).특정 타임 스텝에서 셀의 출력은 다음 타임 스텝 입력의 일부분.매우 간단하며 tanh 함수 하나로 구성(-1 ~ 1 스케일).그레디언트 소실 일어나 긴 시퀀스에는 부적합.=> LSTM이 문제 해결.5.2.2 텍스트 데이터 다루기이미지와 텍스트 데이터의 차이점.텍스트는 개별적인 데이터 조각이지만, 이미지는 픽셀의 연속적인 색상위의 한 점. 개별 픽셀의 그레디언트를 계산하면 역전파가 쉽지만, 텍스트는 어려움.텍스트는 시간차원이 있고 공간차원이 없지만 이미지는 반대. 단어 사이에는 의존성이 있지만 이미지는 모든 픽셀 동시 처리 가능.텍스트는 개별 단위 변화에 민감하나 이미지는 아님. 픽셀 하나가 달라져도 이미지는 큰 변화가 없지만 문..
2025.02.16