NVIDIA Nemotron 3 Ultra 출시 — 에이전트 AI를 위한 완전 오픈 550B 추론 모델

Nemotron 3 Ultra란?

NVIDIA가 Nemotron 3 패밀리의 최상위 모델 Nemotron 3 Ultra를 공개했다. 이 모델은 단순한 챗봇이나 단일 쿼리 응답이 아닌, 장시간 자율 에이전트 워크플로를 위해 설계됐다. 코딩 에이전트, 리서치 에이전트, 멀티 에이전트 파이프라인이 주 사용 대상이다.

Nemotron 3 Ultra는 550B 총 파라미터 중 55B만 추론 시 활성화되는 Sparse MoE 구조로, 높은 지능을 유지하면서 추론 비용을 대폭 낮췄다. NVIDIA의 발표에 따르면 동급 오픈 모델과 비교해 5배 빠른 처리량, SWE-bench 및 Terminal bench 2.0 기준 30% 낮은 비용을 달성했다.

핵심 아키텍처 혁신 4가지

Nemotron 3 Ultra는 단순한 스케일업이 아닌 여러 아키텍처 혁신의 조합이다.

1. Hybrid Mamba-Transformer

• Mamba 레이어: 긴 컨텍스트 처리 효율 극대화 — 에이전트가 수백 번의 도구 호출을 누적하는 장시간 워크플로에 최적
• Transformer 레이어: 대규모 컨텍스트 내 특정 정보 정확 회수(recall) 유지

두 아키텍처의 장점을 선택적으로 결합해 1M 토큰 컨텍스트를 실용적으로 활용할 수 있다.

2. LatentMoE

기존 MoE의 전문가 라우팅을 개선한 LatentMoE는 같은 추론 비용으로 4배 많은 전문가를 활용한다. 추론, 코드 생성, 도구 호출, 도메인 특화 로직이 혼재하는 에이전트 워크플로에서 특히 효과적이다.

3. NVFP4 양자화

단일 NVFP4 체크포인트가 NVIDIA Hopper, Blackwell, Ampere GPU 모두에서 동작한다. BF16 대비 Blackwell에서 5배 높은 처리량을 실현하며, GPU 아키텍처별 별도 최적화 없이 통합 배포가 가능하다.

4. 멀티토큰 예측(MTP)

단일 포워드 패스에서 여러 미래 토큰을 동시에 예측해 긴 출력과 멀티턴 워크플로의 생성 속도를 향상시킨다.

Multi-Teacher On-Policy Distillation (MOPD)

Nemotron 3 Ultra의 후훈련(post-training) 방식도 독특하다. MOPD는 10개 이상의 도메인 특화 교사 모델을 동시에 활용하는 훈련 방법이다. 각 교사 모델이 자신의 전문 영역에서 Ultra의 응답을 평가하고, Ultra는 자신이 생성한 시도(attempt)에서 실시간으로 학습한다. 이를 통해 학생-교사 모델이 함께 진화(co-evolution)하며 도메인 전반의 추론 능력이 향상된다.

에이전트 생태계: Hermes + OpenClaw + NIM

Ultra는 단독 모델이 아닌 에이전트 생태계와 함께 작동하도록 설계됐다. NVIDIA는 함께 다음을 출시했다:

• Hermes Agent: 계획, 도구 호출, 메모리를 제공하는 에이전트 하네스
• NemoClaw: Hermes와 OpenCode를 연결하는 오픈소스 오케스트레이션 레이어
• NVIDIA OpenShell: 에이전트와 생성 코드를 안전하게 격리하는 보안 런타임 환경

코딩 에이전트는 OpenCode에서 수 시간에 걸쳐 계획·코딩·테스트·디버깅을 반복하고, 리서치 에이전트는 Hermes를 통해 수백 개 소스를 검색·교차 검증한다. Ultra는 이 두 워크플로 모두에서 최적화되어 있다.