TL;DR — NVIDIA가 Nemotron 3 Ultra를 공개했다. 전체 550B 파라미터, 활성 55B 파라미터의 하이브리드 Mamba-Transformer MoE 구조로, 기존 동급 모델 대비 5배 빠른 추론30% 낮은 에이전트 작업 비용을 달성했다. 가중치·데이터·학습 레시피 모두 Linux Foundation의 OpenMDW-1.1 라이선스로 완전 공개됐다.

에이전트 AI를 위해 태어난 모델

"AI는 더 이상 질문에 답하는 것에 그치지 않는다. 이제 AI는 당신을 대신해 일하는 에이전트다." NVIDIA 공식 발표에서 강조된 이 문장이 Nemotron 3 Ultra의 설계 철학을 요약한다.

코딩 에이전트는 계획을 세우고, 코드를 작성하고, 테스트하고, 디버깅하고, 반복한다. 이 과정이 수 시간에 걸쳐 여러 에이전트에서 동시에 진행된다. Nemotron 3 Ultra는 이런 장시간 에이전트 워크플로에서 최고 성능을 내도록 설계됐다.

550B 전체 파라미터 (활성 55B)
동급 모델 대비 추론 속도 향상
30% 에이전트 작업 비용 절감
10+ 도메인 특화 교사 모델 (Multi-Teacher 증류)

핵심 기술 아키텍처

하이브리드 Mamba-Transformer

Nemotron 3 Ultra는 기존 Transformer 레이어에 SSM(State Space Model) Mamba 레이어를 결합한 하이브리드 구조를 채택했다. Mamba는 긴 컨텍스트 처리에서 Transformer보다 메모리·계산 효율이 뛰어나, 수백만 토큰에 달하는 에이전트 세션을 처리할 때 핵심적인 이점을 제공한다.

LatentMoE + NVFP4

LatentMoE는 전통적인 MoE보다 4배 많은 전문가(Expert)를 같은 추론 비용으로 활성화할 수 있도록 한다. 더 많은 전문가 = 더 높은 지능, 같은 속도. 또한 NVFP4 양자화를 통해 Hopper, Blackwell, Ampere 전 세대 NVIDIA GPU에서 하나의 체크포인트로 구동되며, BF16 대비 최대 5배 높은 처리량을 달성한다.

Multi-Teacher On-Policy Distillation

10개 이상의 도메인 특화 교사 모델에서 밀도 높은 피드백을 받아 학습하는 방식이다. 학습 데이터 파이프라인과 레시피가 완전히 공개돼 누구나 자신의 도메인에 특화해 파인튜닝할 수 있다.

💡
바로 사용하기
Nemotron 3 Ultra는 Perplexity Pro, OpenRouter, Anaconda, build.nvidia.com API에서 즉시 사용 가능하다. NVIDIA NIM 마이크로서비스로 패키징돼 클라우드·온프레미스·엣지 환경 어디서나 배포할 수 있다.

성능 비교

SWE-bench와 Terminal Bench 2.0에서 Nemotron 3 Ultra는 동급 최강 모델들과 비교해 더 적은 총 토큰턴당 더 적은 토큰으로 벤치마크를 완료했다. 이는 에이전트 작업의 실제 비용과 직결된다.

특성 Nemotron 3 Ultra 동급 경쟁 모델 평균
추론 속도 5× 빠름 기준
에이전트 작업 비용 30% 절감 기준
GPU 호환성 Hopper·Blackwell·Ampere 제각각
라이선스 완전 오픈 (OpenMDW-1.1) 제한적
가중치 공개 대부분 ❌
ℹ️
OpenMDW-1.1 라이선스란?
Linux Foundation이 AI 모델을 위해 설계한 퍼미시브 라이선스로, 모델 아키텍처·파라미터·문서·소프트웨어·관련 자료를 단일 프레임워크로 포괄한다. 상업적 이용도 가능하며 파인튜닝 후 재배포도 허용된다.

에이전트 하네스 통합

Nemotron 3 Ultra는 NVIDIA의 NemoClaw 보안 런타임 및 Hermes 에이전트 하네스와 긴밀히 통합된다. OpenCode, Hermes 등 주요 에이전트 프레임워크에서 간단한 JSON 설정 한 줄로 모델을 교체할 수 있다.

핵심 포인트
  • Nemotron 3 Ultra는 550B/55B 하이브리드 Mamba-Transformer MoE 모델이다.
  • 동급 모델 대비 5배 빠른 추론, 에이전트 작업 비용 30% 절감.
  • NVFP4 양자화로 Hopper·Blackwell·Ampere 전 세대 GPU에서 동일 체크포인트 구동.
  • 가중치·데이터·레시피 완전 공개 (OpenMDW-1.1), 상업적 파인튜닝·재배포 허용.
  • Perplexity Pro, OpenRouter, build.nvidia.com, NVIDIA NIM에서 즉시 사용 가능.
🔗
관련 자료 · 공식 출처 · 사용 안내
NVIDIA NeMo GitHub — 모델 학습·파인튜닝 프레임워크 공식 저장소
Megatron-LM GitHub — 대규모 분산 학습 라이브러리 (Nemotron 학습 기반)
NeMo Guardrails GitHub — 에이전트 안전 제어 및 가이드레일 라이브러리