📘 고성능 AI 컴퓨팅 인프라 용어 사전 (12) – Model Versioning: 실험과 롤백의 기반

 

모델을 학습하고 서빙하는 과정에서 가장 자주 겪는 질문은 다음과 같습니다:

 

“지금 서빙 중인 모델이 어떤 학습 실험에서 나온 거지?”

“며칠 전 정확도가 좋았던 모델로 다시 되돌릴 수 있을까?”

 

이런 질문에 명확하게 답하기 위해 필요한 것이 바로 **Model Versioning(모델 버전 관리)**입니다.

 

---

✅ Model Versioning이란?

 

Model Versioning은 학습된 모델을 버전 단위로 관리하는 체계입니다.

각 버전은 다음 정보를 포함합니다:

 

• 모델 가중치 파일 (weights)
• 사용한 데이터셋 버전
• 하이퍼파라미터
• 학습 코드/스크립트 버전 (Git SHA 등)
• 체크포인트/성능 메트릭

 

이 정보들을 묶어서 모델 하나의 스냅샷처럼 관리합니다.

 

---

✅ 왜 중요한가?

 

• 재현 가능성 확보: 이전 모델을 정확히 복원해 재실험 가능
• 롤백 가능성 확보: 성능 저하 시 빠르게 이전 모델로 복귀
• A/B 테스트 기반 확보: 여러 모델을 비교하고 추적
• 서빙 안정성 강화: 프로덕션 환경에서 어떤 모델이 돌아가고 있는지 명확하게 파악 가능

 

---

✅ Model Versioning 구조 예시

/models/
 └── resnet50/
     ├── v1/
     │   ├── model.pt
     │   ├── metrics.json
     │   └── config.yaml
     ├── v2/
     │   ├── model.pt
     │   ├── metrics.json
     │   └── config.yaml

 

• v1, v2는 명시적 버전 (manual or 자동 태깅)
• metrics.json에는 accuracy, loss, F1 score 등 기록
• config.yaml에는 학습 당시 seed, 배치 크기, optimizer 정보 포함

 

---

✅ Versioning 도구 및 플랫폼

도구	특징
MLflow	실험 추적, 모델 저장/등록, REST API 서빙까지 지원
DVC(Data Version Control)	Git과 유사한 방식으로 모델 및 데이터 버전 관리
Weights & Biases	실험 시각화 + 모델 아티팩트 저장
KServe + ModelMesh	Kubernetes 기반 다중 모델 버전 서빙
SageMaker Model Registry	AWS에서 모델 버전 추적 및 배포 자동화

 

---

✅ 서빙에서의 Model Versioning

 

• 각 모델 버전은 고유한 ID 또는 경로로 구분됨 (/v1, /v2, /20240801-1330/)
• 서빙 인프라(KServe, Triton 등)는 버전 기반 라우팅 또는 동시 다중 버전 서빙 지원
• A/B 테스트 또는 Canary 서빙 구성 시 필수

 

---

✅ 실무 시 고려사항

 

• 버전 규칙 통일: 예) 날짜 기반, 실험 ID 기반, v1, v1.1 등
• 버전별 평가 메트릭 자동 저장: 성능 비교 및 자동 롤백 기준으로 활용
• 저장소 분리: 코드와 모델 아티팩트 저장소 분리 또는 통합 전략 결정
• CI/CD 연계: Git 커밋 → 학습 파이프라인 실행 → 모델 저장까지 자동화

 

---

✅ 마무리

 

Model Versioning은 단순히 “파일을 잘 저장하는 것”이 아닙니다.

AI 서비스의 신뢰성, 추적 가능성, 유연한 롤백을 가능하게 만드는 운영의 핵심입니다.

 

대규모 AI 시스템일수록 “지금 어떤 모델이 돌아가고 있는가”를 명확히 답할 수 있어야 합니다.