구글, 엔터프라이즈용 '에이전틱 RAG' 출시 — 팩트 정확도 최대 34% 향상

기존 RAG의 한계

RAG(검색 증강 생성)은 LLM이 외부 문서 저장소에서 관련 정보를 검색해 답변의 사실성을 높이는 기법이다. 그러나 기업 환경에서는 여러 팀이 관리하는 다수의 데이터베이스에 정보가 분산되어 있어, 단순 RAG는 두 가지 핵심 문제에 부딪힌다.

복잡한 다단계 질의 처리 불가: "M*A*S*H와 치어스 중 어느 시리즈 피날레가 더 길었고, 얼마나 차이가 났나?"처럼 여러 단계의 조회가 필요한 질문은 단일 검색으로 처리하기 어렵다. 불충분한 컨텍스트 판단 부재: 기존 RAG는 검색 결과가 실제로 질문에 답하기에 충분한지를 스스로 판단하지 못한다. 이 경우 불완전한 정보로 답변을 생성해 환각이 발생할 수 있다.

에이전틱 RAG의 구조

구글의 새 프레임워크는 다수의 전문화된 에이전트가 협력해 질의를 처리하는 방식이다. 주요 구성 요소는 다음과 같다.

플래너 에이전트(Planner Agent): 복잡한 질의를 하위 질문으로 분해하고, 어느 데이터 소스에서 검색할지 결정한다. 복수의 기업 데이터베이스 중 올바른 코퍼스를 선택하는 역할을 한다.

쿼리 재작성기(Query Rewriter): 검색 결과가 불충분할 경우, 더 정밀한 결과를 얻을 수 있도록 검색 쿼리를 자동으로 재작성한다.

충분 컨텍스트 에이전트(Sufficient Context Agent): 현재까지 수집된 컨텍스트가 신뢰할 수 있는 답변을 생성하기에 충분한지를 판단한다. 부족하면 플래너 에이전트에 추가 검색을 요청한다.

크로스 코퍼스 검색: 핵심 차별점

에이전틱 RAG의 가장 주목할 만한 특징은 서로 무관한 복수의 데이터 소스를 동시에 처리하는 능력이다. 구글은 FramesQA 데이터셋(824개 질의, 2,676개 PDF 문서)에 추가로 세 개의 무관한 데이터셋을 포함시킨 크로스 코퍼스 환경에서 평가를 진행했다.

결과는 놀라웠다. 4개의 데이터 소스 중 올바른 코퍼스를 선택해야 하는 크로스 코퍼스 설정에서 90.1%의 정확도를 달성했고, 지연 시간은 단일 코퍼스 설정 대비 3% 이내 증가에 그쳤다.

이는 서로 다른 팀이 관리하는 복수의 기업 데이터베이스에서 정보를 검색해야 하는 실제 엔터프라이즈 환경을 직접 반영한 결과다.

감사 가능성과 투명성

기업 AI 도입에서 핵심 과제 중 하나는 AI 생성 답변의 출처를 추적할 수 있는가 하는 점이다. 에이전틱 RAG는 이를 아키텍처 수준에서 해결한다.

검색 경로, 쿼리 재작성 이력, 컨텍스트 충분성 판단 과정이 모두 기록되어 최종 답변이 어떤 문서의 어떤 정보를 근거로 생성됐는지 추적할 수 있다. 구글은 이를 '감사 가능하고, 추적 가능하며, 근거 있는(auditable, traceable, grounded)' 답변이라고 표현한다.

경쟁 구도

마이크로소프트의 Azure AI Search, Amazon의 Bedrock Knowledge Bases, Anthropic의 에이전트 기반 검색 도구 등 주요 클라우드 벤더들이 모두 유사한 방향으로 RAG를 발전시키고 있다. 구글의 에이전틱 RAG가 차별화되는 지점은 '충분 컨텍스트' 판단 메커니즘과 크로스 코퍼스 검색의 정확도-지연 균형이다.

기업 AI 시장에서 RAG의 진화는 단순 검색 보조에서 자율적 정보 수집 에이전트로의 전환을 의미하며, 이는 엔터프라이즈 AI 채택을 가속화할 핵심 동력이 될 전망이다.