Holo3.1이란?
H Company는 2026년 6월 2일 컴퓨터 조작(Computer Use) 에이전트 모델 패밀리 Holo3.1을 공개했다. Holo3.1은 화면을 인식하고 마우스·키보드를 직접 조작하는 비전-언어 모델(VLM)로, 전작인 Holo3가 OSWorld-Verified 벤치마크에서 78.85%로 GPT-5.4와 Opus 4.6을 앞질렀던 기반 위에 구축됐다.
이번 업데이트에서 가장 핵심적인 변화는 로컬 추론 지원이다. H Company는 처음으로 35B-A3B 모델에 FP8, NVFP4, Q4 GGUF 양자화 체크포인트를 함께 공개했다. 기업 내부 시스템의 스크린샷을 클라우드로 전송하지 않고 사내 서버나 개인 장치에서 직접 에이전트를 실행할 수 있어 데이터 프라이버시 요구사항이 엄격한 금융·의료·법률 분야에서 특히 주목받고 있다.
달라진 점 3가지
1. 빠른 로컬 추론
NVIDIA DGX Spark에서 NVFP4 W4A16 양자화를 적용하면 에이전트 평균 스텝 시간이 FP8 기준 6.8초에서 3.3초로 약 2배 단축된다. RTX 4090 기준으로는 퍼셉션-투-액션 지연이 140ms로, 스크린샷을 원격 서버로 전송하는 클라우드 API 방식보다 4배 빠르다. 4-bit 양자화(bitsandbytes)를 적용하면 12GB VRAM GPU에서도 전체 에이전트 스택을 구동할 수 있다.
2. 모바일 환경 공식 지원
Holo3.1은 Android UI 트레이스 데이터를 학습해 모바일 자동화를 공식 지원한다. 35B-A3B 모델의 AndroidWorld 벤치마크 점수가 67%에서 **79.3%**로 상승했으며, 소형 4B/9B 모델도 58%에서 72%로 향상됐다. 기존 Holo3 대비 H Company 자체 하네스인 Holotab 기준으로 25% 이상의 성능 개선이 확인됐다.
3. 서드파티 프레임워크 호환성 강화
Holo3.1은 기존의 구조화 JSON 출력 외에 OpenAI 호환 함수 호출(function-calling) 프로토콜을 기본 지원한다. LangGraph, CrewAI, AutoGen 등 주요 에이전트 하네스에서 별도 어댑터 레이어 없이 바로 통합 가능하다. 이전 Holo3에서 서드파티 통합 시 발생하던 10~15%의 성능 격차가 이번 릴리스에서 거의 해소됐다.
모델 패밀리 비교
| 모델 | 파라미터 | 주요 배포 대상 |
|---|---|---|
| Holo3.1-0.8B | 0.8B | 초경량 엣지 에이전트 |
| Holo3.1-4B | 4B | 비용 효율적 프라이빗 배포 |
| Holo3.1-9B | 9B | 성능·지연 균형형 |
| Holo3.1-35B-A3B | 35B (활성 3B) | SOTA 성능, 엔터프라이즈 |
4B Q4-GGUF를 자신의 하네스에서 실행해 보자. 작업 성공률·지연시간·메모리 세 가지 지표를 측정하고, 함수 호출 종단간 파라미터 매핑도 반드시 검증할 것.
왜 지금인가?
Hacker News에서 716 업보트를 기록한 별도 포스트는 GPU가 없는 2016년 Intel Xeon에서도 투기적 디코딩(speculative decoding)으로 Gemma 4를 실행하는 데 성공했다고 밝혔다. Holo3.1 출시와 맞물려 "로컬 에이전트 추론의 시대가 본격적으로 열렸다"는 평가가 커뮤니티에서 이어지고 있다.
H Company는 현재 Holo3.1 기반 데스크톱 에이전트 하네스를 개발 중이며, 앞으로 더 많은 환경에서 범용 에이전트 시스템을 구동하는 것을 목표로 한다.
- 컴퓨터 조작 에이전트 최초로 FP8·NVFP4·Q4 GGUF 양자화 체크포인트 공개
- AndroidWorld 35B-A3B 점수 67% → 79.3%, 4B/9B 모델 58% → 72%
- NVFP4로 평균 스텝 시간 6.8초 → 3.3초(약 2배), RTX 4090에서 140ms 달성
- OpenAI 호환 함수 호출 지원으로 LangGraph·CrewAI·AutoGen 통합 간소화
- 0.8B, 4B, 9B, 35B-A3B 4가지 크기, Apache 2.0 오픈소스 공개
— Holo3.1 공식 블로그 (H Company)
— Holo3.1 출시 발표 (Hugging Face Blog)
— Holo3.1 퀵스타트 가이드 (H Company Hub)