5-3. 딥러닝 심화: 정규화

1. 정규화의 필요성: 과적합(Overfitting)과 일반화(Generalization)

딥러닝 모델의 성능을 결정하는 핵심 요소 중 하나는 바로 '일반화' 능력입니다. 일반화란, 모델이 훈련 데이터뿐만 아니라 보이지 않는 새로운 데이터(unseen data)에 대해서도 좋은 예측 성능을 보이는 것을 의미합니다.

훈련 데이터에만 과도하게 맞춰진 모델은 훈련 데이터에서는 높은 정확도를 보일 수 있지만, 새로운 데이터에 대해서는 형편없는 성능을 보일 수 있습니다. 이러한 현상을 과적합(Overfitting)이라고 합니다. 과적합은 모델이 훈련 데이터의 노이즈(noise)까지 학습하여, 실제 데이터의 패턴을 제대로 파악하지 못하게 되는 경우 발생합니다.

반대로, 훈련 데이터에 대한 학습이 충분히 이루어지지 않은 모델은 훈련 데이터와 새로운 데이터 모두에 대해 낮은 성능을 보일 수 있습니다. 이를 과소적합(Underfitting)이라고 합니다.

정규화(Regularization)는 이러한 과적합 문제를 해결하고, 모델의 일반화 성능을 향상시키기 위한 기법들을 통칭합니다. 정규화는 모델의 복잡도를 조절하여, 훈련 데이터에 너무 과도하게 적합되는 것을 방지합니다.

2. L1, L2 정규화 (Weight Decay)

L1 및 L2 정규화는 가장 널리 사용되는 정규화 기법 중 하나입니다. 이들은 모델의 손실 함수에 가중치(weight)에 대한 벌칙(penalty) 항을 추가하여, 가중치 값의 크기를 제한합니다. 이는 모델이 특정 가중치에 너무 의존하는 것을 방지하고, 모델의 복잡도를 줄여 과적합을 억제하는 효과를 냅니다.

1) L1 정규화

L1 정규화는 손실 함수에 가중치의 절댓값의 합을 더합니다.

$$ \text{Loss} = \text{Loss}_{\text{original}} + \lambda \sum_{i=1}^{n} |w_i| $$

여기서 $\lambda$는 정규화의 강도를 조절하는 하이퍼파라미터이며, $w_i$는 모델의 가중치, $n$은 가중치의 개수입니다. L1 정규화는 가중치 중 일부를 0으로 만들어, 모델의 희소성(sparsity)을 유도합니다. 즉, 덜 중요한 특징(feature)에 해당하는 가중치를 0으로 만들어 해당 특징을 제거하는 효과가 있습니다.

2) L2 정규화

L2 정규화는 손실 함수에 가중치의 제곱의 합을 더합니다.

$$ \text{Loss} = \text{Loss}_{\text{original}} + \lambda \sum_{i=1}^{n} w_i^2 $$

L2 정규화는 가중치의 크기를 전반적으로 감소시키는 경향이 있습니다. 가중치가 너무 커지는 것을 억제하여, 모델이 특정 가중치에 과도하게 의존하는 것을 방지합니다. L2 정규화는 가중치를 0으로 만들지는 않지만, 작은 값으로 수렴하게 하여 모델을 더욱 안정적으로 만듭니다.

3) L1 vs. L2 비교

4) PyTorch 예시 코드

import torch
import torch.nn as nn
import torch.optim as optim

# 간단한 모델 정의
class SimpleModel(nn.Module):
    def __init__(self, input_size, output_size):
        super(SimpleModel, self).__init__()
        self.linear = nn.Linear(input_size, output_size)

    def forward(self, x):
        return self.linear(x)

# 모델, 손실 함수, 옵티마이저 정의
input_size = 10
output_size = 1
model = SimpleModel(input_size, output_size)
criterion = nn.MSELoss()
optimizer = optim.SGD(model.parameters(), lr=0.01, weight_decay=0.01) # L2 정규화 (weight_decay)

# 가짜 데이터 생성
X = torch.randn(100, input_size)
y = torch.randn(100, output_size)

# 학습 루프
for epoch in range(100):
    # 순전파
    outputs = model(X)
    loss = criterion(outputs, y)

    # 역전파 및 최적화
    optimizer.zero_grad()
    loss.backward()
    optimizer.step()

    if (epoch+1) % 10 <mark class="highlight"> 0:
        print(f'Epoch [{epoch+1}/100], Loss: {loss.item():.4f}')

위 코드에서 optim.SGD의 weight_decay 파라미터는 L2 정규화를 적용하는 데 사용됩니다. L1 정규화를 사용하려면, weight_decay 대신 모델의 가중치에 L1 벌칙 항을 직접 더하는 방식으로 구현해야 합니다.

3. Dropout

Dropout은 신경망의 과적합을 방지하기 위한 강력한 정규화 기법==입니다. Dropout은 훈련 과정에서 각 층의 뉴런을 무작위로 비활성화시킵니다. 즉, 특정 뉴런의 출력을 0으로 만듭니다.

1) Dropout의 작동 원리

Dropout은 각 훈련 배치(batch)마다 서로 다른 뉴런을 무작위로 비활성화합니다. 비활성화될 확률은 dropout rate라고 하는 하이퍼파라미터로 설정됩니다 (일반적으로 0.2-0.5 사이). 훈련 시에는 각 뉴런이 무작위로 비활성화되지만, 테스트 시에는 모든 뉴런을 사용하되, 각 뉴런의 출력을 dropout rate만큼 scaling하여 조정합니다.

2) Dropout의 효과

• 모델 앙상블 효과: Dropout은 여러 개의 모델을 앙상블(ensemble)하는 효과를 냅니다. 각 훈련 배치마다 다른 뉴런이 비활성화되므로, 훈련 과정은 서로 다른 구조를 가진 여러 모델을 학습하는 것과 유사해집니다.
• 특징 간의 의존성 감소: Dropout은 특정 뉴런에 과도하게 의존하는 것을 방지합니다. 특정 뉴런이 비활성화될 수 있기 때문에, 다른 뉴런이 정보를 전달하는 데 기여하도록 학습됩니다. 이는 특징 간의 의존성을 줄여, 모델의 일반화 성능을 향상시킵니다.
• 계산 효율성: 훈련 과정에서 일부 뉴런의 출력을 0으로 만들므로, 계산량이 감소하여 훈련 속도를 높일 수 있습니다.

3) PyTorch 예시 코드

import torch
import torch.nn as nn

# 모델 정의 (Dropout 적용)
class DropoutModel(nn.Module):
    def __init__(self, input_size, hidden_size, output_size, dropout_rate=0.5):
        super(DropoutModel, self).__init__()
        self.fc1 = nn.Linear(input_size, hidden_size)
        self.relu = nn.ReLU()
        self.dropout = nn.Dropout(dropout_rate)
        self.fc2 = nn.Linear(hidden_size, output_size)

    def forward(self, x):
        x = self.fc1(x)
        x = self.relu(x)
        x = self.dropout(x)  # Dropout 적용
        x = self.fc2(x)
        return x

# 모델, 손실 함수, 옵티마이저 정의
input_size = 10
hidden_size = 20
output_size = 1
dropout_rate = 0.5
model = DropoutModel(input_size, hidden_size, output_size, dropout_rate)
criterion = nn.MSELoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)

# 학습 루프 (간략화)
# 훈련 모드 설정 (Dropout 활성화)
model.train()
# ... (훈련 데이터로 학습)

# 평가 모드 설정 (Dropout 비활성화)
model.eval()
with torch.no_grad():
    # ... (평가 데이터로 평가)

위 코드에서 nn.Dropout(dropout_rate)는 Dropout 레이어를 정의합니다. model.train()은 훈련 모드를, model.eval()은 평가 모드를 설정합니다. 훈련 모드에서는 Dropout이 활성화되어 무작위로 뉴런이 비활성화되고, 평가 모드에서는 Dropout이 비활성화되어 모든 뉴런이 사용됩니다.

4. 배치 정규화 (Batch Normalization)

배치 정규화(Batch Normalization, BN)는 딥러닝 모델의 훈련을 가속화하고, 일반화 성능을 향상시키는 데 사용되는 기법입니다. 배치 정규화는 각 레이어의 활성화 함수(activation function)의 입력값을 정규화합니다. 정규화는 각 배치(batch)마다 이루어지며, 각 레이어의 활성화 함수의 입력값의 평균을 0으로, 분산을 1로 만듭니다.

1) 내부 공변량 변화 (Internal Covariate Shift)

배치 정규화의 핵심 아이디어는 내부 공변량 변화(Internal Covariate Shift)를 줄이는 것입니다. 내부 공변량 변화란, 딥러닝 모델의 각 층(layer)의 입력 데이터 분포가 훈련 과정에서 계속 변하는 현상을 의미합니다. 이는 각 층의 가중치가 업데이트될 때마다 이전 층의 출력 분포가 바뀌기 때문에 발생합니다.

내부 공변량 변화는 훈련 속도를 늦추고, 모델의 성능을 저하시킬 수 있습니다. 배치 정규화는 각 층의 입력 데이터 분포를 안정화시켜, 내부 공변량 변화를 줄이는 역할을 합니다.

2) 배치 정규화의 작동 원리

배치 정규화는 각 층의 활성화 함수(activation function) 입력 값에 다음과 같은 변환을 적용합니다.

1. 미니 배치 평균과 분산 계산: 각 미니 배치(mini-batch)에 대해 입력 데이터의 평균($\mu_B$)과 분산($\sigma_B^2$)을 계산합니다.

2. 정규화: 입력 데이터를 평균 0, 분산 1로 정규화합니다.

   $$ \hat{x}_i = \frac{x_i - \mu_B}{\sqrt{\sigma_B^2 + \epsilon}} $$

   여기서 $x_i$는 입력 데이터, $\mu_B$는 미니 배치 평균, $\sigma_B^2$는 미니 배치 분산, $\epsilon$는 분모가 0이 되는 것을 방지하기 위한 작은 값입니다. 3. 스케일 및 시프트: 정규화된 데이터에 스케일($\gamma$)과 시프트($\beta$)를 적용합니다.

   $$ y_i = \gamma \hat{x}_i + \beta $$

   $\gamma$와 $\beta$는 학습 가능한 파라미터입니다. 이 파라미터들은 각 층이 학습을 통해 데이터의 분포를 조절할 수 있도록 합니다.

3) 배치 정규화의 효과

• 훈련 속도 향상: 배치 정규화는 내부 공변량 변화를 줄여, 기울기 소실(vanishing gradient) 문제를 완화하고, 훈련 속도를 향상시킵니다.
• 일반화 성능 향상: 배치 정규화는 모델의 일반화 성능을 향상시키는 효과가 있습니다.
• 더 높은 학습률 사용 가능: 배치 정규화는 더 높은 학습률을 사용할 수 있도록 하여, 훈련을 더욱 가속화할 수 있습니다.
• 정규화 효과: 배치 정규화는 일종의 정규화 효과를 제공합니다. 입력 데이터의 분포를 안정화시켜, 과적합을 방지하는 데 도움을 줍니다.

4) PyTorch 예시 코드

import torch
import torch.nn as nn

# 모델 정의 (Batch Normalization 적용)
class BatchNormModel(nn.Module):
    def __init__(self, input_size, hidden_size, output_size):
        super(BatchNormModel, self).__init__()
        self.fc1 = nn.Linear(input_size, hidden_size)
        self.bn1 = nn.BatchNorm1d(hidden_size) # BatchNorm1d 적용
        self.relu = nn.ReLU()
        self.fc2 = nn.Linear(hidden_size, output_size)

    def forward(self, x):
        x = self.fc1(x)
        x = self.bn1(x)  # BatchNorm 적용
        x = self.relu(x)
        x = self.fc2(x)
        return x

# 모델, 손실 함수, 옵티마이저 정의
input_size = 10
hidden_size = 20
output_size = 1
model = BatchNormModel(input_size, hidden_size, output_size)
criterion = nn.MSELoss()
optimizer = torch.optim.Adam(model.parameters(), lr=0.01)

# 학습 루프 (간략화)
# ... (데이터 준비, 훈련 루프)

위 코드에서 nn.BatchNorm1d(hidden_size)는 배치 정규화 레이어를 정의합니다. BatchNorm1d는 1차원 데이터에 대한 배치 정규화를 수행하며, 2D 데이터(이미지)의 경우 BatchNorm2d를 사용합니다.

5. 정규화 기법 선택 및 결론

어떤 정규화 기법을 사용할지는 문제의 특성과 데이터에 따라 다릅니다.

• L1/L2 정규화: 모델의 복잡도를 줄이고, 가중치의 크기를 제어하는 데 효과적입니다. 특히, 특징 선택(feature selection)이 필요한 경우 L1 정규화가 유용합니다.
• Dropout: 대규모 모델에서 과적합을 방지하고, 일반화 성능을 향상시키는 데 효과적입니다.
• 배치 정규화: 훈련 속도를 높이고, 일반화 성능을 향상시키는 데 기여합니다.

대부분의 경우, 여러 정규화 기법을 함께 사용하는 것이 더 좋은 성능을 얻을 수 있습니다. 예를 들어, L2 정규화와 Dropout을 함께 사용하여 모델의 일반화 성능을 더욱 향상시킬 수 있습니다. 또한, 배치 정규화는 다른 정규화 기법과 함께 사용될 때 시너지를 낼 수 있습니다.

정규화는 딥러닝 모델의 성능을 향상시키는 데 중요한 역할을 합니다. 각 기법의 원리를 이해하고, 문제에 적합한 기법을 선택하여 모델의 일반화 성능을 극대화하는 것이 중요합니다.