초보자를 위한 RNNs과 LSTM 가이드

초보자를 위한 RNNs과 LSTM 가이드

이 포스팅은 RNNs(Recurrent Neural Networks), 특히 RNNs의 한 종류인 LSTM(Long Short-Term Memory)을 설명하는 포스팅입니다.

RNNs은 글, 유전자, 손글씨, 음성 신호, 센서가 감지한 데이타, 주가 등 배열(sequence, 또는 시계열 데이터)의 형태를 갖는 데이터에서 패턴을 인식하는 인공 신경망 입니다.

RNNs은 궁극의 인공 신경망 구조라고 주장하는 사람들이 있을 정도로 강력합니다. RNNs은 배열 형태가 아닌 데이터에도 적용할 수 있습니다. 예를 들어 이미지에 작은 이미지 패치(필터)를 순차적으로 적용하면 배열 데이터를 다루듯 RNNs을 적용할 수 있습니다.

RNNs은 배열에 등장했던 패턴을 ‘기억’할 수 있는 능력이 있습니다. 이 부분은 사람의 기억과 기억력에 비유하면 아주 간결하게 설명할 수 있어서 종종 RNNs을 사람의 뇌처럼 취급합니다.

• 일반적인 인공 신경망 (Feedforward Networks)
• RNNs (Recurrent Neural Networks)
• BPTT:Backpropagation Through Time (시간을 거슬러 가는 backprop)
• 그라디언트 안정화 문제
• Long Short-Term Memory Units (LSTM)
• 다양한 시간 단위의 시계열 데이터 분석
• 예제 코드
• 학습자료