MLflow 와 무엇이 다른가
MLflow 만으로 부족한 기능과 MLOps Central Platform 이 그 위에 추가한 층
MLOps Central Platform 은 MLflow 를 대체하지 않음. MLflow 를 내장하고 그 위에 운영에 필요한 레이어 추가.
왜 MLflow 인가
실험 기록과 모델 관리를 수동으로 하면 다음 문제 발생.
- 재현: 환경이 개인 컴퓨터마다 달라, 어떤 데이터와 파라미터로 실행했는지 추적 곤란.
- 버전 관리: 스프레드시트나 파일 이름으로 버전과 성능 비교.
- 배포와 감시: 학습·배포를 수동으로 수행, 배포 뒤 성능이 떨어져도 알 수 없음.
플랫폼은 실험 추적과 모델 레지스트리의 기반으로 MLflow 사용.
| 이유 | 내용 |
|---|---|
| 사실상의 업계 표준 | 실험 추적과 모델 레지스트리를 함께 제공하는 오픈소스 |
| 쉬운 연동 | 표준 Python API 라서 학습 코드에 몇 줄만 추가 |
| 프레임워크 독립 | PyTorch, YOLO, scikit-learn 등을 같은 방식으로 기록 |
| 검증된 저장소 | PostgreSQL, S3 같은 널리 사용되는 저장소 위에서 동작 |
MLflow 단독 구성
표준 MLflow 구성에서는 클라이언트가 트래킹 서버에 실험을 기록하고 모델 등록.
- 사용자: ML 개발자가 Python 클라이언트(
log_params,log_metrics,log_artifact,register_model)나 CLI, 웹 브라우저로 사용. - 서비스: MLflow Tracking Server 하나가 실험 추적, 모델 레지스트리, 아티팩트 서비스, 웹 화면 담당.
- 스토리지: 실험·Run·모델 버전 같은 메타데이터는 PostgreSQL 에, 모델 가중치·이미지·로그 같은 대용량 파일은 S3 호환 저장소에 저장.
기본 구성에는 인증도, 팀 사이의 격리도 없음. 주소를 아는 사람은 누구나 모든 실험과 모델을 조회·수정 가능.
MLflow 만으로 부족한 기능
| 부족한 기능 | 문제 |
|---|---|
| 보안 | 인증이 없어 모델과 실험 데이터가 외부에 노출 |
| 거버넌스 | 모델을 운영에 반영할 때 거치는 승인 절차가 없고, 누가 무엇을 했는지 기록하는 감사 로그도 없음 |
| 운영 기능 | MLflow 는 배포, 서빙, 모니터링(드리프트 감지), 재학습(CT) 미제공 |
MLOps Central Platform 이 추가한 층
MLflow 코어 앞에 플랫폼 층을 배치해 멀티테넌시·승인·배포·관측 기능 추가.
그림에서 빨간 점선 내부가 새로 추가한 부분. MLflow Tracking Server 는 플랫폼 게이트를 통해서만 접근 가능, 외부에 직접 노출되지 않음.
| 추가한 기능 | 하는 일 | 자세히 |
|---|---|---|
| MLflow 게이트 | 테넌트 토큰으로 사용자 인증, 테넌트마다 MLflow 워크스페이스 분리. 개발자는 표준 MLflow 코드를 그대로 사용. | 노트북에서 MLflow 사용 |
| 역할 기반 접근 | 다섯 가지 역할(VIEWER, DEVELOPER, OPERATOR, APPROVER, ADMIN)과 승인 워크플로, 감사 로그 | 역할과 권한 |
| 운영 자동화 | 엣지 배포와 롤백, 모니터링, 경보, 드리프트 감시와 재학습 | MLOps Central Platform 의 기능 |
| 통합 화면 | 실험부터 배포, 감시까지 한 화면에서 처리 | 사용 가이드 |
비교
| 항목 | MLflow 만 | MLOps Central Platform |
|---|---|---|
| 실험 기록·모델 레지스트리 | ✅ | ✅ (내장 MLflow 그대로) |
| 로그인과 인증 | 없음 | 로그인(JWT), MLflow 는 테넌트 토큰 |
| 팀(테넌트) 격리 | 없음 | 테넌트마다 워크스페이스와 Kubernetes 네임스페이스 |
| 권한 | 없음 | 역할 다섯 가지, 권한 열한 가지 |
| Production 승격 | 누구나 즉시 | 항상 승인 요청. 안전이 중요한 모델은 두 번의 승인 필요. |
| 감사 기록 | 없음 | 누가 무엇을 했는지 기록하고 CSV 로 내보내기 |
| 학습 실행 | 직접 | 마법사로 제출하면 클러스터의 Kubernetes Job 으로 실행 |
| 서빙·엣지 배포 | 직접 | API 서비스, 현장 장비 배포와 롤백 |
| 감시 | 없음 | 모니터링, 경보, 드리프트(PSI·KS) |