핵심 요약
AI 모델의 과적합은 학습 데이터에 특화된 상태로, 학습한 사례에서는 높은 정확도를 보이지만 새로운 데이터에서는 성능이 떨어지는 현상이다. 일반화는 학습한 내용을 바탕으로 처음 보는 사례에서도 안정적인 성능을 보이는 것을 의미한다. 과적합은 학습 데이터가 실제 환경을 충분히 대표하지 못하거나, 모델이 지나치게 복잡한 경우에 발생한다. 학습·검증·시험 데이터셋을 구분하여 사용하는 것이 과적합 진단과 모델 평가에 중요하다.
1. 과적합과 일반화의 개념
- 과적합(overfitting)은 학습 데이터에 과도하게 맞춰져 새로운 데이터에 대한 예측력이 떨어지는 현상이다.
- 일반화(generalization)는 학습 데이터를 넘어 미지의 데이터에 대해서도 정확도를 유지하는 능력이다.
2. 과적합 발생 원인
- 학습 데이터가 실제 사례를 충분히 대표하지 못하는 경우
- 모델 구조가 복잡하고 파라미터가 많은 경우
- 학습 손실은 감소하지만 검증 손실이 증가하는 경우 과적합 가능성이 있다.
3. 데이터셋 구분과 활용
- 학습 집합(training set): 모델 매개변수를 학습하는 데 사용하는 데이터
- 검증 집합(validation set): 학습 과정 중 모델 성능을 평가하여 조기 종료나 하이퍼파라미터 조정에 활용
- 시험 집합(test set): 최종 학습된 모델을 평가하는 독립된 데이터
4. 과적합 진단 절차
- 학습 집합과 시험 집합을 구분하여 모델 평가
- 학습 집합에서 성능이 우수하지만 시험 집합에서 성능이 저하된다면 과적합으로 판단
- 시험 집합은 학습 데이터와 중복되지 않는 실제 사례를 포함해야 함
- 시험 집합을 반복적으로 조정하며 사용하지 않고, 평가에 사용된 자료와 역사를 함께 관리해야 함
실무 유의점
- 모델 개발시 학습, 검증, 시험 데이터셋을 명확히 분리해야 하며 데이터 중복을 엄격히 방지해야 한다.
- 검증 손실과 시험 손실의 변화를 지속적으로 모니터링 하여 과적합 여부를 판단한다.
- 시험 데이터셋의 재사용을 최소화하고, 재사용 시 평가 신뢰도가 영향을 받을 수 있음을 인지해야 한다.