NVIDIA가 네모트론 3 울트라(Nemotron 3 Ultra)를 발표했다. 5500억 파라미터 규모의 희소 혼합 전문가(Sparse MoE) 모델로, 추론 시 활성화되는 파라미터는 550억 개다. 장기 실행 에이전트 작업 완료 속도를 높이고 비용을 낮추기 위해 설계되었으며, 가중치·데이터·학습 레시피까지 완전 오픈소스로 공개된다.

NVIDIA가 에이전트 AI 시대를 겨냥한 야심찬 오픈 모델을 공개했다. 네모트론 3 울트라는 단순한 단일 턴 챗봇이 아닌, 복수의 도구 호출·하위 에이전트 위임·오류 복구·긴 컨텍스트 추론을 포함하는 복잡한 워크플로우를 위해 설계된 모델이다.

핵심 벤치마크와 성능

지표 수치 비교
전체 파라미터 550B (5500억) 추론 활성 55B
처리량 향상 5배 동급 오픈 모델 대비
에이전트 비용 절감 최대 30% SWE-bench·터미널벤치 기준
SWE-bench Verified 65~70.4% 다양한 하네스 평균

특히 주목할 점은 에이전트 효율성이다. SWE-bench와 터미널벤치 2.0 실험에서 네모트론 3 울트라는 동급 모델보다 전체 토큰 수와 턴당 토큰 수 모두 적게 사용하면서 작업을 완료했다. 에이전트 루프가 길어질수록 토큰 비용이 선형으로 증가하는 구조를 고려하면 이 30% 비용 절감은 실제 배포 환경에서 상당한 의미를 갖는다.

**개발자를 위한 팁**: Nemotron 3 Ultra는 Perplexity Pro, OpenRouter, Anaconda, build.nvidia.com에서 API로 사용할 수 있으며, Hugging Face에서 가중치를 직접 다운로드하거나 NVIDIA NIM 마이크로서비스로 최적화된 인스턴스를 실행할 수 있다. AWS JumpStart, Google Cloud, Microsoft Foundry 등 주요 클라우드에서도 지원된다.

아키텍처 혁신: 네 가지 핵심 기술

네모트론 3 울트라의 성능을 뒷받침하는 네 가지 아키텍처 혁신이 눈길을 끈다.

하이브리드 맘바-트랜스포머(Hybrid Mamba-Transformer): 맘바 레이어는 긴 컨텍스트 처리의 효율을 높이고, 트랜스포머 레이어는 에이전트가 대형 컨텍스트 창에서 특정 사실을 정확히 회수해야 할 때 정밀도를 보장한다.

NVFP4 양자화: BF16 대비 Blackwell GPU에서 최대 5배 높은 처리량을 제공하면서, 동일한 체크포인트가 Hopper·Blackwell·Ampere GPU 전 아키텍처에서 작동한다. 배포 복잡성을 획기적으로 낮추는 설계다.

LatentMoE: 전문가 라우팅을 더 효율적으로 처리해, 추론·코드 생성·도구 호출·도메인 특화 로직에 걸친 워크플로우를 하나의 모델이 유연하게 처리할 수 있게 한다.

멀티토큰 예측(MTP): 단일 포워드 패스에서 여러 미래 토큰을 동시에 예측해 긴 출력과 멀티턴 워크플로우에서 생성 속도를 높인다.

**학습 방법론의 혁신**: 네모트론 3 울트라는 '멀티 티처 온폴리시 증류(MOPD)'라는 독자적 학습 방식을 사용한다. 10개 이상의 도메인별 특화 교사 모델이 학생 모델의 시도를 채점하며, 법률(LegalBench 64.6% → 74.7%)·지식(SimpleQA 향상)·코드(GitHub 데이터 1730억 토큰 추가) 등 세 분야의 특화 데이터가 투입되었다.

함께 공개되는 두 개의 추가 모델

NVIDIA는 네모트론 3 울트라와 함께 두 가지 특화 모델도 출시했다.

네모트론 3.5 신규 모델 라인업

  • Nemotron 3.5 Content Safety: 4B 파라미터 경량 가드레일 모델. 텍스트·이미지·복합 입력에서 안전하지 않거나 정책 위반 콘텐츠를 분류한다. 엔터프라이즈 AI 안전 레이어로 활용 가능
  • Nemotron 3.5 ASR: 실시간 음성 에이전트용 다국어 자동 음성 인식 모델. 40개 이상의 언어를 단일 체크포인트로 지원하며 100ms 미만의 지연시간을 목표로 한다. GitHub Copilot CLI 음성 입력 기능을 이미 구동 중이며, 2000만 명 이상의 개발자가 영어 버전을 사용 중

오픈 라이선스 정책 전환

이번 릴리즈와 함께 NVIDIA는 라이선스도 OpenMDW-1.1로 전환했다. 리눅스 재단이 오픈 AI 모델 배포를 위해 설계한 이 허용적 라이선스는 아키텍처·파라미터·문서·소프트웨어 등 모델의 전체 자료를 단일 프레임워크로 포괄한다. 가중치, 데이터, 레시피까지 완전 오픈임을 명시한 것은 NVIDIA가 에이전트 AI 생태계에서 오픈소스 리더십을 적극적으로 추구하겠다는 신호로 읽힌다.