7-1. 순환 신경망 (RNN) 기초

1. 순환 신경망 (RNN)의 등장 배경

딥러닝은 이미지, 텍스트, 음성 등 다양한 형태의 데이터를 처리하는 데 혁신적인 발전을 이루었습니다. 특히, 합성곱 신경망 (CNN)은 이미지 인식 분야에서, 트랜스포머는 자연어 처리 분야에서 뛰어난 성능을 보였습니다. 하지만, 기존의 딥러닝 모델들은 데이터의 순차적인(Sequential) 특성을 고려하는 데 한계가 있었습니다. 예를 들어, 시계열 데이터(주식 가격, 온도 변화 등)나 텍스트 데이터(문장, 문단 등)는 각 요소 간의 순서가 매우 중요합니다. "나는 학교에 간다"라는 문장에서 단어의 순서가 바뀌면 의미가 완전히 달라지는 것처럼 말입니다.

기존의 신경망은 입력 데이터의 각 요소를 독립적으로 처리하기 때문에 순차적인 의존성을 파악하기 어려웠습니다. CNN은 이미지의 공간적 관계를 파악하는 데 효과적이지만, 시간적 순서를 고려하지 않습니다. 이러한 한계를 극복하기 위해 등장한 것이 바로 순환 신경망 (Recurrent Neural Network, RNN)입니다. RNN은 순차적인 데이터를 처리하기 위해 설계되었으며, 이전 시점의 정보를 기억하고 이를 현재 시점의 처리에 활용하는 독특한 구조를 가지고 있습니다.

2. RNN의 기본 구조

RNN의 핵심 아이디어는 네트워크가 "메모리"를 갖는다는 것입니다. 이는 이전 시점의 출력을 다시 입력으로 사용하여 현재 시점의 출력을 계산하는 방식으로 구현됩니다. 이러한 순환 연결(Recurrent connection)을 통해 RNN은 시퀀스 내의 시간적 의존성을 모델링할 수 있습니다.

1) 기본 구조

RNN의 가장 기본적인 형태는 다음과 같습니다.

위 그림에서 각 구성 요소는 다음과 같습니다.

• $x_t$: 시퀀스의 $t$ 시점에서의 입력 (예: 단어, 픽셀 값)
• $h_t$: $t$ 시점에서의 은닉 상태 (Hidden state). RNN의 "메모리" 역할을 하며, 이전 시점의 정보와 현재 입력을 결합하여 계산됩니다.
• $y_t$: $t$ 시점에서의 출력 (예: 다음 단어 예측, 주식 가격 예측)
• $W_{xh}$: 입력에서 은닉 상태로의 가중치 행렬
• $W_{hh}$: 이전 은닉 상태에서 현재 은닉 상태로의 가중치 행렬
• $W_{hy}$: 은닉 상태에서 출력으로의 가중치 행렬

RNN의 동작은 다음과 같은 수식으로 표현됩니다.

$$ h_t = f(W_{xh}x_t + W_{hh}h_{t-1} + b_h) $$

$$ y_t = g(W_{hy}h_t + b_y) $$

여기서 $f$는 활성화 함수(예: tanh, ReLU), $g$는 출력에 맞는 활성화 함수(예: softmax, linear)를 나타냅니다. $b_h$와 $b_y$는 편향(bias)입니다.

2) 순환 연결의 이해

RNN의 핵심은 $h_{t-1}$이 $h_t$를 계산하는 데 사용된다는 점입니다. 즉, 이전 시점의 은닉 상태가 현재 시점의 은닉 상태에 영향을 미칩니다. 이러한 순환 연결을 통해 RNN은 시퀀스 내의 정보를 기억하고, 이를 바탕으로 예측을 수행할 수 있습니다.

예를 들어, "나는 학교에"라는 문장이 주어졌을 때, RNN은 "학교에"까지의 정보를 $h_t$에 저장합니다. 그리고 다음 단어를 예측할 때, 이 정보를 활용하여 "간다"를 예측할 가능성을 높입니다.

3. RNN의 활용 사례

RNN은 순차 데이터를 처리하는 다양한 분야에서 활용됩니다.

• 자연어 처리 (NLP):
  • 언어 모델링: 다음 단어 예측, 문장 생성
  • 기계 번역: 한 언어에서 다른 언어로 번역
  • 감성 분석: 텍스트의 긍정/부정 감성 분류
  • 챗봇: 대화 생성 및 응답
• 시계열 데이터 분석:
  • 주가 예측: 과거 주가 데이터를 기반으로 미래 주가 예측
  • 날씨 예측: 과거 기상 데이터를 기반으로 미래 날씨 예측
  • 이상 감지: 센서 데이터에서 이상 패턴 감지
• 음성 인식: 음성 신호를 텍스트로 변환
• 음악 생성: 멜로디 생성, 작곡

4. RNN의 단점과 극복 노력

RNN은 이론적으로는 임의의 길이의 시퀀스를 처리할 수 있지만, 실제로는 몇 가지 치명적인 단점을 가지고 있습니다.

1) 기울기 소실 문제 (Vanishing Gradient Problem)

RNN은 역전파 (Backpropagation)를 통해 학습됩니다. 역전파 과정에서, 기울기가 여러 번 곱해지면서 0에 가까워지는 현상이 발생할 수 있습니다. 이는 먼 과거의 정보가 현재 시점의 학습에 거의 영향을 미치지 못하게 하여, 장기 의존성(Long-term dependency)을 학습하는 데 어려움을 줍니다.

2) 기울기 폭발 문제 (Exploding Gradient Problem)

반대로, 기울기가 너무 커져서 학습이 불안정해지는 경우도 있습니다. 이는 기울기 소실 문제보다 덜 흔하게 발생하지만, 학습을 방해하는 요인이 됩니다.

3) 장기 의존성 문제

위의 기울기 소실 문제와 밀접하게 관련되어 있습니다. RNN은 먼 과거의 정보를 기억하는 데 어려움을 겪기 때문에, 시퀀스의 길이가 길어질수록 성능이 저하되는 경향이 있습니다.

이러한 단점들을 극복하기 위해 LSTM (Long Short-Term Memory)과 GRU (Gated Recurrent Unit)와 같은 개선된 RNN 구조가 개발되었습니다. LSTM과 GRU는 "게이트" 메커니즘을 사용하여 기울기 소실 문제를 완화하고, 장기 의존성을 효과적으로 학습할 수 있도록 설계되었습니다.

5. RNN의 학습 과정

RNN의 학습 과정은 다른 딥러닝 모델과 유사하게, 순전파 (Forward propagation), 손실 계산, 역전파 (Backward propagation), 그리고 가중치 업데이트의 단계로 이루어집니다.

1) 순전파

입력 시퀀스를 RNN에 순차적으로 입력합니다. 각 시점 $t$에서 입력 $x_t$와 이전 은닉 상태 $h_{t-1}$을 사용하여 현재 은닉 상태 $h_t$와 출력 $y_t$를 계산합니다.

2) 손실 계산

각 시점 $t$에서 계산된 출력 $y_t$와 실제 정답(ground truth) 사이의 차이를 나타내는 손실 함수(loss function)를 계산합니다. 일반적으로, cross-entropy loss, mean squared error (MSE) 등이 사용됩니다.

3) 역전파 (BPTT: Backpropagation Through Time)

BPTT는 RNN의 학습에서 사용되는 역전파 알고리즘입니다. 시간 축을 따라 펼쳐진 RNN 구조에서, 각 시점의 손실을 최소화하기 위해 가중치를 업데이트합니다. BPTT는 각 시점의 손실에 대한 가중치의 기울기를 계산하고, 이를 사용하여 가중치를 업데이트합니다. BPTT는 RNN의 순환 구조 때문에 일반적인 역전파보다 복잡하며, 기울기 소실/폭발 문제를 처리해야 합니다.

4) 가중치 업데이트

계산된 기울기를 사용하여, 경사 하강법 (Gradient descent)과 같은 최적화 알고리즘을 통해 가중치를 업데이트합니다. 학습률 (learning rate)과 같은 하이퍼파라미터는 학습 과정에 영향을 미칩니다.

6. RNN의 구현 (PyTorch 예시)

간단한 RNN을 PyTorch로 구현하는 예시를 살펴보겠습니다. 이 코드는 기본적인 구조를 보여주기 위한 것으로, 실제 문제에 적용하려면 더 복잡한 설정을 고려해야 합니다.

import torch
import torch.nn as nn

# RNN 모델 정의
class SimpleRNN(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(SimpleRNN, self).__init__()
        self.hidden_size = hidden_size
        self.rnn = nn.RNN(input_size, hidden_size, batch_first=True)  # batch_first=True: 입력 텐서의 첫 번째 차원이 배치 크기
        self.fc = nn.Linear(hidden_size, output_size)

    def forward(self, x):
        # x: (batch_size, seq_len, input_size)
        # h0: (num_layers * num_directions, batch_size, hidden_size)  -> 여기서는 1 레이어, 양방향 아님
        h0 = torch.zeros(1, x.size(0), self.hidden_size)
        out, _ = self.rnn(x, h0)  # out: (batch_size, seq_len, hidden_size)  _는 마지막 hidden state
        out = self.fc(out[:, -1, :])  # 마지막 hidden state를 fully connected layer에 통과
        return out

# 하이퍼파라미터 설정
input_size = 10  # 입력 차원 (예: 단어 임베딩 차원)
hidden_size = 20  # 은닉 상태 차원
output_size = 5  # 출력 차원 (예: 클래스 개수)
batch_size = 32
seq_len = 50

# 모델 인스턴스 생성
model = SimpleRNN(input_size, hidden_size, output_size)

# 가짜 데이터 생성
dummy_input = torch.randn(batch_size, seq_len, input_size)

# 모델의 예측
output = model(dummy_input)

# 출력 크기 확인
print(output.size()) # torch.Size([32, 5])

위 코드는 간단한 RNN 모델을 PyTorch로 구현한 것입니다.

1. SimpleRNN 클래스는 nn.Module을 상속받아 RNN 모델을 정의합니다.
2. __init__ 메서드에서는 입력 차원, 은닉 상태 차원, 출력 차원을 입력받아 RNN 레이어와 fully connected 레이어를 정의합니다. batch_first=True는 입력 텐서의 첫 번째 차원이 배치 크기임을 나타냅니다.
3. forward 메서드에서는 입력 데이터를 RNN 레이어에 통과시키고, 마지막 은닉 상태를 fully connected 레이어에 통과시켜 최종 출력을 생성합니다.
4. 가짜 데이터를 생성하여 모델의 예측을 수행하고, 출력 크기를 확인합니다.

7. 결론

RNN은 순차 데이터를 처리하는 데 중요한 역할을 하는 딥러닝 모델입니다. RNN의 기본적인 구조, 동작 원리, 활용 사례, 그리고 단점과 개선된 구조에 대해 살펴보았습니다. RNN은 자연어 처리, 시계열 데이터 분석 등 다양한 분야에서 활용될 수 있으며, LSTM과 GRU와 같은 개선된 모델들을 통해 성능이 더욱 향상되었습니다. 다음 포스트에서는 RNN의 단점을 극복하기 위해 개발된 LSTM과 GRU에 대해 자세히 알아보겠습니다.