에이전트 AI를 위한 새로운 오픈 프론티어 모델
AI가 "질문에 답하는 도구"에서 "지속적으로 작업을 수행하는 에이전트"로 진화하면서, 단순한 응답 품질보다 긴 컨텍스트에서의 효율성이 중요해졌다. NVIDIA의 Nemotron 3 Ultra는 이 요구에 정면으로 응답한다. 550B 총 파라미터 중 55B만 활성화하는 MoE 구조로 프론티어급 성능을 유지하면서도 추론 비용을 획기적으로 낮췄다.
- 총 파라미터: 550B (활성 파라미터: 55B)
- NVFP4 Blackwell 추론 속도: BF16 대비 최대 5배
- 에이전트 태스크 비용 절감: 최대 30%
- 지원 GPU: Hopper, Blackwell, Ampere (단일 체크포인트)
- 라이선스: Linux Foundation OpenMDW-1.1 (완전 오픈)
핵심 아키텍처 혁신
Nemotron 3 Ultra의 성능 뒤에는 네 가지 핵심 아키텍처 혁신이 있다.
| 혁신 | 설명 |
|---|---|
| Hybrid Mamba-Transformer | Mamba와 Transformer 레이어 혼합 — 긴 컨텍스트 처리 효율화 |
| LatentMoE | 전문가 라우팅 개선으로 동일 추론 비용에 4배 많은 전문가 활용 |
| NVFP4 양자화 | Hopper/Blackwell/Ampere 전 아키텍처에서 단일 체크포인트 실행 |
| 멀티토큰 예측 | 멀티턴 작업에서 생성 속도 향상 |
Hybrid Mamba-Transformer 레이어: 기존 순수 Transformer 모델의 병목인 긴 시퀀스 처리를 Mamba 레이어가 보완한다. 수백 번의 턴이 이어지는 에이전트 워크플로에서 특히 효과적이다.
LatentMoE: 같은 추론 비용으로 4배 더 많은 전문가를 활용할 수 있는 라우팅 메커니즘이다. "빠른 모델이 더 똑똑한 모델"이라는 Nemotron 팀의 원칙 아래, 속도와 지능의 동시 향상을 추구한다.
Nemotron 3 Ultra는 Hermes 에이전트 하네스 및 OpenCode와 직접 통합된다. NVIDIA NIM 마이크로서비스로 패키징되어 클라우드·온프레미스·엣지 환경에 배포 가능하다. HuggingFace에서 BF16 및 NVFP4 가중치를 직접 다운로드할 수 있으며, build.nvidia.com에서 즉시 사용해볼 수 있다.
Multi-Teacher 온-폴리시 증류 — Nemotron 연합의 힘
단순한 자체 개발을 넘어, NVIDIA는 Nemotron Coalition을 통해 10개 이상의 도메인 특화 티처 모델에서 밀도 높은 피드백을 받아 Nemotron 3 Ultra를 학습시켰다. 이를 통해 코딩, 연구, 기업 특화 작업 등 다양한 도메인에서 지속적인 성능 향상과 파인튜닝이 가능하다.
SWE-bench와 Terminal bench 2.0에서의 실험 결과, Nemotron 3 Ultra는 비교 모델 대비 총 토큰과 턴당 토큰을 모두 적게 사용하면서 동등한 성능을 달성했다. 이 효율성이 에이전트 비용 30% 절감으로 이어진다.
Perplexity Pro 구독 또는 API, OpenRouter, Anaconda, build.nvidia.com에서 즉시 사용 가능. HuggingFace에서 가중치 다운로드, NVIDIA NIM 마이크로서비스로 어디서나 배포 가능. 학습 레시피와 쿡북은 GitHub에서 제공된다.
- 550B 총 파라미터 / 55B 활성 파라미터 MoE — 에이전트 AI 최적화
- NVFP4로 Hopper·Blackwell·Ampere 단일 체크포인트, BF16 대비 최대 5배 빠른 추론
- 에이전트 워크플로 비용 최대 30% 절감 (SWE-bench, Terminal bench 실증)
- 가중치·데이터·레시피 완전 오픈 — Linux Foundation OpenMDW-1.1 라이선스
- Hermes, OpenCode 등 에이전트 하네스와 직접 통합 지원