Step 5 MNIST 손글씨 인식 - 딥러닝의 첫 실전

💡 왜 28×28일까?
1998년 당시 컴퓨터 성능을 고려한 적절한 크기입니다. 너무 크면 계산이 오래 걸리고, 너무 작으면 숫자를 알아보기 어렵죠. 28×28 = 784개의 픽셀이 우리 신경망의 입력이 됩니다!

from torchvision import datasets, transforms

# 데이터 변환 정의 (이미지를 텐서로 변환)
transform = transforms.Compose([
    transforms.ToTensor(),
    transforms.Normalize((0.5,), (0.5,))  # 정규화
])

# 훈련 데이터 다운로드
train_dataset = datasets.MNIST(
    root='./data',
    train=True,
    download=True,
    transform=transform
)

# 테스트 데이터 다운로드
test_dataset = datasets.MNIST(
    root='./data',
    train=False,
    download=True,
    transform=transform
)

📊 텐서(Tensor) 형태:
• 이미지: [1, 28, 28] 형태의 3D 텐서
└ 1: 채널 수 (흑백이므로 1, 컬러면 3: RGB)
└ 28: 이미지 높이
└ 28: 이미지 너비

• 레이블: 0~9 사이의 정수 하나
└ 예: 이미지가 "7"이면 레이블은 정수 7

❌ 문제: 과적합 (Overfitting)

학생이 문제집의 답을 외워버린 상황과 같습니다.
문제집 문제는 100점이지만, 실제 시험에서는 형편없는 점수를 받죠.

마찬가지로 모델이 훈련 데이터는 완벽하게 맞추지만,
새로운 데이터는 전혀 맞추지 못하는 현상이 발생합니다.

✅ 해결책: 데이터 분할

• Train: 문제 푸는 방법을 배움
• Validation: 중간에 이해도 확인하고 학습 방향 조정
• Test: 최종 실력 평가

이렇게 하면 모델이 정말로 "이해"했는지, 아니면 그냥 "암기"했는지 알 수 있습니다!

예를 들어 10 epochs 학습한다면?
→ 60,000개의 데이터를 10번 반복해서 학습합니다.

비유: 교과서를 10번 반복해서 읽는 것
한 번 읽을 때마다 이해도가 조금씩 높아지죠!

왜 배치로 나눌까?

1. 메모리 문제: 60,000개를 한 번에 GPU에 올리면 메모리 부족!
2. 학습 안정성: 작은 배치로 자주 업데이트하면 더 부드럽게 학습
3. 일반화 성능: 너무 큰 배치는 과적합을 유발할 수 있음

일반적인 배치 크기: 32, 64, 128, 256 등 2의 거듭제곱 사용
(GPU 연산 효율 때문)

Epoch 1:
  Batch 1 (64개) → 순전파 → 오차 계산 → 역전파 → 가중치 업데이트
  Batch 2 (64개) → 순전파 → 오차 계산 → 역전파 → 가중치 업데이트
  ...
  Batch 937 (64개) → 순전파 → 오차 계산 → 역전파 → 가중치 업데이트
  → Epoch 1 완료! Validation으로 성능 확인

Epoch 2:
  다시 처음부터... (가중치는 Epoch 1에서 학습된 상태로 시작)

...

Epoch 10:
  최종 학습 완료!
  → Test 데이터로 최종 성능 평가

🧮 왜 딥러닝에는 GPU가 필요할까?

딥러닝의 핵심 연산은 행렬 곱셈입니다:
• 784개 픽셀 × 128개 뉴런 → 100,352번의 곱셈
• 이런 연산을 배치 64개, 여러 층에서 동시에!

CPU: 4개 코어가 순차적으로 처리 → 느림 🐢
GPU: 수천 개 코어가 동시에 처리 → 빠름 🚀

실제 속도 차이:
• CPU: MNIST 학습 1 epoch → 약 30초
• GPU: MNIST 학습 1 epoch → 약 3초
→ 약 10배 빠릅니다! (더 큰 모델에선 100배 이상 차이)

import torch

# GPU 사용 가능 여부 확인
device = torch.device('cuda' if torch.cuda.is_available() else 'cpu')
print(f'Using device: {device}')

# 모델을 GPU로 이동
model = model.to(device)

# 데이터도 GPU로 이동
for inputs, labels in train_loader:
    inputs = inputs.to(device)
    labels = labels.to(device)
    
    # 이제 GPU에서 빠르게 계산!
    outputs = model(inputs)