[NAVER Cloud] 대규모 GPU 클러스터 기반 MLOps Platform 개발 (경력)

부서소개 저희 조직은 팀네이버 AI/ML의 핵심인 MLOps Platform을 개발하고 운영하며, 대규모 GPU Cluster를 효율적으로 활용하는 일을 담당하고 있습니다. 저희는 데이터 준비, 대규모 분산 학습, 그리고 모델 서빙에 이르는 ML 라이프사이클 전반을 지원하는 플랫폼을 제공합니다. 팀네이버의 다양한 서비스에서 검증된 저희 플랫폼은 네이버클라우드의 대규모 컴퓨팅 환경을 기반으로 한 다양한 GPUaaS 서비스의 코어 플랫폼으로서 글로벌 시장으로 나아가고 있습니다. • [데이터] ML 엔지니어와 연구자들이 대규모 데이터를 효율적으로 관리하고 활용할 수 있도록, Hugging Face 인터페이스 기반의 데이터 플랫폼과 대규모 병렬 처리를 지원하는 관리형 ETL 시스템을 개발하고 제공합니다. • [학습] 국내 최고 수준의 GPU 인프라에서 대규모 ML 분산 학습 워크로드가 안정적으로 수행될 수 있도록, Kubernetes 기반의 MLOps 플랫폼 핵심 구성 요소를 개발하고 고도화합니다. • [서빙] AI/ML 모델의 안정적인 서빙을 지원하고, 모델 서빙에 특화된 기능을 제공하는 확장 가능한 플랫폼을 개발하고 운영합니다. 궁극적으로 ML 엔지니어와 연구자들이 인프라의 복잡성에서 벗어나 핵심 모델의 실험과 배포에만 집중할 수 있는 환경을 제공하는 것을 목표로 합니다. [참고자료] • [DAN 24] HyperCLOVA X, MLOps로 Hyperscale AI 개발의 새로운 장을 열다 • https://dan.naver.com/24/sessions/599 • [DAN 25] MLXP: GPU 효율화를 선도하는 대규모 MLOps 플랫폼 • https://dan.naver.com/25/sessions/679 담당업무 • Kubernetes 기반 MLOps 플랫폼(데이터, 학습, 서빙) 설계, 개발 및 고도화 (Operator, Scheduler 등 핵심 구성 요소 개발 포함) • 대규모 데이터 저장, 처리, 관리를 위한 데이터 플랫폼 및 병렬 데이터 처리(Spark, Ray), ETL 파이프라인(Kubeflow pipeline, Airflow) 구축 및 최적화 • ML 학습 프레임워크(PyTorch, DeepSpeed, etc.) 기반 대규모 분산 학습 효율 최적화/디버깅/프로파일링 도구 개발, 고속 네트워크 기술(InfiniBand, RoCE, etc.) 연구 및 플랫폼 적용 • 안정적이고 확장 가능한 ML 모델 서빙 시스템 및 추론 환경(vLLM, Kserve, llm-d, etc.) 개발, LLM Gateway(K8s Gateway API 기반 품질/비용 최적화 라우팅, 자동 모델 Fallback 등) 기능 구현, 모델 배포 자동화 파이프라인 구축 • SRE 관점에서 MLOps Platform의 안정적 운영을 위한 시스템 고도화 (MLOps Observability 구축, 모니터링, CI/CD, 장애 탐지 및 복구, 가용성 개선 등) • ML 엔지니어와 연구자들이 쉽게 사용할 수 있는 SDK 및 API, Event-driven 자동화 시스템 개발 • 네이버클라우드의 대규모 컴퓨팅 환경 기반 GPUaaS 서비스의 코어 플랫폼 개발 및 글로벌 서비스화