Nemotron 3.5 Super VL, 기관 서버에 들이기 전 확인할 공개 범위

스캔한 공문, 표가 들어간 보고서, 차트 이미지를 기관 밖으로 보내지 않고 처리하려면 모델을 기관 서버에 직접 두는 방법을 검토하게 됩니다. NVIDIA는 2026년 10월 15일 글·이미지·문서·영상을 함께 읽고 도구를 호출하는 오픈 가중치 모델 Nemotron 3.5 Super VL을 공개했습니다. 학교·연구실·사내 팀이 검토할 항목을 NVIDIA 기술 블로그, Hugging Face 모델 카드, NVIDIA 블로그에 적힌 범위에서 정리했고, 모델을 직접 내려받거나 실행하지는 않았습니다.

1. 한 모델이 받는 입력과 내놓는 출력

모델 카드에 따르면 이 모델은 전체 파라미터 120B 가운데 토큰마다 12B만 계산에 쓰는 전문가 혼합(MoE, 입력마다 일부 층만 골라 계산하는 구조) 모델입니다. 입력은 텍스트·이미지·영상이고 출력은 텍스트이며, 컨텍스트(한 번에 넣을 수 있는 입력 길이)는 최대 100만 토큰입니다. 다만 모델 카드는 배포 레시피에 따라 GPU 메모리와 동시 처리량에 맞춰 더 작은 컨텍스트를 쓸 수 있다고 적었습니다.

NVIDIA 기술 블로그는 텍스트 모델과 시각 언어 모델을 따로 두고 작업 내용을 주고받지 않아도 한 모델로 처리할 수 있다는 점을 내세웁니다. 예로 든 업무는 코딩, 웹 조사, 표·차트에서 정보를 뽑는 문서 처리, 보안 취약점 분류, 영상 이해입니다. 기관 업무에 맞는지는 기관 자료로 시험해 봐야 알 수 있습니다.

2. 함께 공개된 체크포인트, 레시피, 데이터

NVIDIA 기술 블로그는 공개 범위를 "The release includes base, post-trained, and NVFP4-quantized checkpoints with training recipes, data, and reinforcement-learning environments."라고 적었습니다. 사전 학습만 마친 기본 모델, 추가 학습을 거친 모델, 4비트 형식으로 줄인 NVFP4 모델이 함께 나왔고 학습 레시피, 데이터, 강화학습 환경도 공개됐다는 뜻입니다. 같은 글에서 NVIDIA는 도구 사용 대화, 금융 추론, 지시 따르기, 긴 문맥, 공정성 데이터와 시각 언어 데이터셋 40개를 Hugging Face에 공개한다고 밝혔습니다.

기관 자료로 모델을 추가 학습시키는 실습을 설계한다면 NVIDIA가 공개한 레시피와 데이터 형식을 출발 자료로 삼을 수 있습니다. 다만 학습에 쓴 데이터가 모두 공개됐는지는 이번에 확인하지 못했습니다. 기술 보고서 본문도 읽지 않았습니다.

3. 라이선스는 모델 카드 표기까지만 확인했습니다

Hugging Face 모델 카드의 라이선스 항목에는 OpenMDW-1.1이 적혀 있고, 이용 조건은 "Use of this model is governed by the OpenMDW License Agreement, version 1.1."이라고 안내합니다. 모델 설명에는 "This model is ready for commercial or non-commercial use."라는 문장도 있습니다. 상업용과 비상업용에 모두 쓸 준비가 된 모델이라고 NVIDIA가 밝힌 문장입니다.

이 글에서는 OpenMDW 라이선스 전문을 열어 보지 않았습니다. 그래서 재배포 조건, 추가 학습한 모델을 공개할 때의 조건, 출처 표시 방법 같은 조항은 해석하지 않습니다. 기관에서 쓰기로 정하면 라이선스 전문을 법무·계약 담당과 함께 읽고, 모델 카드의 문장은 검토를 시작하는 근거로만 쓰십시오.

4. 기관 서버에 둘 때 필요한 GPU

모델 카드는 BF16 원본 가중치의 배포 환경을 4× H100 또는 2× GB200으로 적었습니다. 모두 데이터센터용 GPU라서, GPU 1장짜리 실습실 PC나 워크스테이션으로 원본을 그대로 돌리기는 어렵다고 보는 편이 안전합니다.

더 가볍게 쓰려면 NVFP4 체크포인트를 봐야 합니다. NVIDIA 기술 블로그에 따르면 NVFP4는 Blackwell 아키텍처 GPU에서 가중치와 활성값을 모두 4비트로 쓰고, 그 밖의 GPU에서는 같은 체크포인트를 4비트 가중치와 16비트 활성값으로 실행합니다. 모델 카드는 DGX Spark나 데이터센터 GPU에서 효율적으로 추론하려면 NVFP4 카드를 보라고 안내합니다. NVIDIA 블로그는 DGX Spark, DGX Station, RTX PRO·RTX 시스템과 데이터센터·클라우드에서 실행된다고 적었지만, 이번에 확인한 자료에서 장비별 메모리 요구량은 BF16 기준만 찾았습니다.

BF16의 H100 4장 또는 GB200 2장 요건은 모델 카드, NVFP4의 4비트·16비트 설명은 NVIDIA 기술 블로그, OpenRouter·NIM 제공 경로는 NVIDIA 기술 블로그와 NVIDIA 블로그에 적힌 내용입니다. 4칸으로 나눈 구성은 작성자가 정리한 것입니다.

NVIDIA 블로그는 Hugging Face, OpenRouter, ModelScope와 NVIDIA NIM으로 제공한다고 밝혔습니다. 호스팅 이용 요금과 한국에서 결제할 수 있는지는 공식 자료에서 확인하지 못했습니다.

5. NVIDIA가 낸 성능 수치를 읽을 때

발표 글의 성능 수치는 모두 NVIDIA나 파트너가 낸 값이고, 외부에서 재현한 결과는 확인하지 못했습니다.

수치	누가 낸 수치인가	읽을 때 확인할 조건
단일 GPU에서 에이전트 작업 처리량 최대 5배	NVIDIA 발표	같은 크기 범주의 오픈 모델과 비교, Artificial Analysis Intelligence Index 기준
초당 600토큰 이상	NVIDIA 기술 블로그 그림 설명	파트너 Baseten의 엔드포인트 기준이라 기관 장비에서 같은 속도가 나온다는 근거는 없음
Hermes Bench 63.44%, LangChain Evals 87.05%	NVIDIA 기술 블로그 표	비교 대상은 NVIDIA 자사 모델 Nemotron 3 Ultra(56.33%, 84.3%)
추론 비용 40배, 지연 시간 5배 감소	Scale AI 사례를 NVIDIA가 소개	"will decrease"로 쓴 특정 업무의 예상치

한국어 성능은 공식 자료에서 근거를 찾지 못했습니다. 모델 카드의 학습 데이터 설명에는 Common Crawl에서 추출한 15개 언어에 한국어가 들어 있다고 적혀 있지만, 한국어 평가 수치는 없습니다. NVIDIA 기술 블로그는 인도 언어에 대해서만 별도 학습 데이터와 평가 결과를 소개했습니다.

6. 이번 주에 정할 것

기관 서버에 둘지 검토한다면 먼저 이 모델로 처리하려는 자료 1종을 고르십시오. 표가 들어간 PDF 보고서처럼 기관 밖으로 보내기 어려운 자료가 후보가 됩니다. 그 자료를 기준으로 기관이 가진 GPU가 모델 카드의 BF16 요건이나 NVFP4 경로에 맞는지, OpenMDW-1.1 전문을 누가 읽을지 정합니다.

장비가 없다면 호스팅 경로로 공개 문서를 먼저 넣어 보는 방법도 있습니다. 이때는 기관 내부 자료를 쓰지 말고 공개 문서로만 시험하고, 한국어 문서의 표와 차트를 제대로 읽는지 직접 확인한 결과를 검토 기록에 적어 두십시오.