NVIDIA Run:ai 오픈소스, GPU를 여러 팀이 나눠 쓰기 전 확인할 것

GPU 서버 몇 대를 여러 사람이 함께 쓰는 연구실이나 교육기관, 사내 팀에서는 누가 GPU를 얼마나, 언제까지 쓸지 정하는 일이 계속 생깁니다. NVIDIA는 2026년 10월 13일 기술 블로그에서 GPU 작업 배분 플랫폼인 NVIDIA Run:ai 전체를 오픈소스로 공개한다고 밝혔습니다. 이 글은 NVIDIA 블로그와 GitHub 저장소 README에 적힌 범위에서 도입 전에 확인할 조건을 정리했습니다. 직접 설치해 실행하지는 않았습니다.

1. 이번에 공개된 범위

NVIDIA 블로그는 "The complete source code for NVIDIA Run:ai is available in the NVIDIA Run:ai repository within the NVIDIA DSX AI Factory GitHub organization."라고 적었습니다. 전체 소스 코드가 GitHub의 NVIDIA DSX AI Factory 조직 아래 저장소에 올라왔다는 뜻입니다. README에 따르면 이 저장소에는 관리 화면과 API를 맡는 컨트롤 플레인, 각 클러스터에 설치하는 서비스, 설치 도구, CLI, MCP 서버, 문서가 함께 들어 있습니다.

블로그는 따로 떼어 쓸 수 있는 구성 요소 4개도 소개했습니다. 작업 배치를 정하는 KAI Scheduler, GPU 1장을 여러 작업이 나눠 쓰게 하는 GPU Fractioning Operator, 부서·프로젝트별 할당을 관리하는 KAI Resource Management, 여러 종류의 AI 작업을 같은 방식으로 다루게 하는 Workload Map입니다. 블로그는 KAI Scheduler를 "the Kubernetes-native scheduler that powers the NVIDIA Run:ai platform"이라고 설명했고, Apache 2.0 라이선스로 공개해 CNCF(클라우드 네이티브 컴퓨팅 재단) Sandbox 프로젝트로 기여했다고 밝혔습니다.

2. 먼저 확인할 전제: Kubernetes를 운영하고 있는가

Kubernetes는 여러 서버에 프로그램을 나눠 올리고 관리하는 운영 체계입니다. README는 Run:ai를 Kubernetes 위에서 동작하는 배분·관리 계층이라고 설명하면서 Kubernetes나 컨테이너 실행 환경을 대신하지 않는다고 적었습니다. 설치 대상도 Kubernetes 또는 OpenShift입니다.

README는 쓸 곳도 구분했습니다. "If you need GPU sharing, quota enforcement, and multi-tenant governance across teams sharing one Kubernetes GPU estate, that is the gap NVIDIA Run:ai fills."라는 문장 바로 뒤에, 한 팀이 전용 GPU에서 작업만 실행한다면 Kubernetes 기본 배치 기능으로 충분할 수 있다고 덧붙였습니다. 같은 README는 서버에 직접 일괄 작업을 올리는 HPC 방식에는 Slurm이 대안이라고 적었습니다.

작성자 판단으로는 Kubernetes를 아직 쓰지 않는 연구실이라면 Run:ai보다 Kubernetes를 누가 운영할지부터 정해야 합니다. 여러 팀이 이미 Kubernetes 위에서 GPU를 함께 쓰고 있을 때 검토 가치가 큽니다.

3. 팀별 할당과 GPU 분할

NVIDIA 블로그에 따르면 KAI Resource Management는 누가 어떤 자원을 받는지를 정합니다. 부서와 프로젝트로 조직 구조를 만들고, 그 구조에 따라 GPU를 할당하고 보장하고 나눠 쓰게 합니다. 블로그는 예시로 플랫폼 팀이 클러스터의 50%를 연구에 보장하면서 남은 용량을 한 팀이 독차지하지 못하게 할 수 있다고 들었습니다. 팀별 할당량을 스프레드시트로 관리하고 있다면 이를 대신할 계층이라는 설명도 붙였습니다.

GPU Fractioning Operator는 GPU 1장을 여러 작업이 나눠 쓰게 합니다. 블로그는 CUDA 13.4의 기본 분할 기능을 Kubernetes에서 쓰게 하는 도구라고 설명했고, CUDA 드라이버가 작업마다 GPU 메모리 상한을 강제하며 각 작업은 자기 몫의 메모리만 본다고 적었습니다. 블로그가 든 대상은 노트북, 개발 세션, 작은 모델입니다. 작성자 판단으로는 수업 실습처럼 GPU 메모리를 다 쓰지 않는 작업이 많은 곳이라면 이 기능부터 살펴보면 됩니다.

왼쪽 계층 구조와 오른쪽 GPU 분할은 NVIDIA 2026년 10월 13일 블로그의 KAI Resource Management, GPU Fractioning Operator 설명을 옮긴 것입니다. '연구 50% 보장'은 블로그의 예시이고, 부서·프로젝트 이름과 그림 배치는 작성자가 구성했습니다.

4. 라이선스와 지원 조건

항목	공식 자료에 적힌 내용	도입 전에 확인할 것
소스 코드	README: Apache License 2.0. 일부 하위 폴더는 MIT, CC-BY-4.0 등 별도 라이선스	코드를 고쳐 배포할 계획이면 하위 폴더 라이선스 표
상표	Apache 2.0은 코드에만 적용, NVIDIA·Run:ai 상표와 로고 사용 허락은 포함하지 않음	기관 내부 서비스 이름에 상표를 쓸지
NGC 배포본	Helm 차트가 있는 Community Product, 내려받으려면 NVIDIA Software License Agreement와 제품별 약관 동의 필요	약관 전문을 법무·구매 담당과 검토(이 글에서는 전문을 확인하지 않음)
비용·지원	Community Product에는 유료 구독이나 지원 권한이 필요 없고 NVIDIA 엔터프라이즈 지원도 포함되지 않음	장애가 나면 기관 안에서 누가 대응할지

블로그 원문은 "No paid NVIDIA Run:ai subscription or NVIDIA support entitlement is required for the Community Product, and NVIDIA enterprise support is not included."입니다. README에 따르면 공개된 컨테이너 이미지와 Helm 차트는 NGC 레지스트리(nvcr.io/nvidia/runai)에 올라가 있고, 설치 도구와 Helm 차트가 기본으로 이 레지스트리에서 내려받습니다. 작성자 해석으로는 GitHub 코드만 볼 계획이어도 기본 설치 경로를 쓰면 NGC 약관 검토가 함께 필요합니다. NVIDIA 지원을 받는 상용 제품(단독 제품, NVIDIA Mission Control, NVIDIA AI Enterprise, 일부 클라우드 마켓플레이스)으로도 제공되며, 블로그는 제공 조건과 지원 조건이 제공 방식마다 다르다고 적었습니다.

5. 이번 주에 해 볼 일: GPU 사용 현황표 만들기

지금 함께 쓰는 GPU 서버를 표로 적어 보십시오. 서버별 GPU 종류와 장수, 쓰는 팀과 사람 수, 주된 작업(노트북 실습·학습·추론), Kubernetes 운영 여부를 칸으로 둡니다. 한 팀만 쓰고 있다면 README 설명대로 기본 배치 기능으로 충분한지부터 따져 보면 됩니다. 여러 팀이 Kubernetes 위에서 쓰고 있다면 README가 설치 전에 보라고 안내한 지원 버전 표(Support Matrix)와 시스템 요구 사항 문서를 읽고, 현재 클러스터 버전과 맞는지 표에 함께 적으십시오. 노트북 실습처럼 GPU 메모리를 일부만 쓰는 작업이 많다면 GPU 분할을 먼저 검토할 항목으로 표시해 두면 됩니다.