에이전트가 검색을 지휘하는 Agentic RAG
Agentic RAG는 자율 AI 에이전트를 RAG 파이프라인에 내장해 정적 워크플로를 동적 검색 전략과 다단계 추론으로 바꾸는 접근입니다. 아키텍처 분류체계와 산업별 응용, 미해결 과제를 정리한 이 서베이는 검색 한 번으로 끝나는 시스템과 계획하고 재검색하는 시스템의 차이가 기업 RAG의 다음 세대를 가른다는 것을 보여줍니다.
전통적 RAG는 정해진 순서를 한 번 지나갑니다. 검색하고 생성하면 끝이며, 검색이 빗나가도 되돌릴 방법이 없습니다. 실제 업무 질문은 이렇게 한 번에 풀리지 않는 경우가 많습니다.
문제 배경
단순 RAG의 한계를 메우려는 시도는 쿼리 재작성, 리랭킹, 모듈형 구성 등으로 이어져 왔지만, 이들 역시 사람이 미리 짜 둔 고정 워크플로 안에서 움직입니다. 질문마다 필요한 검색 횟수와 경로가 다른데 워크플로가 고정되어 있으면, 중간 결과가 나쁠 때 전략을 바꿀 주체가 없습니다. 판단의 주체를 파이프라인 안에 넣는 것이 남은 과제였습니다.
방법
Singh 등(2025)의 서베이는 이 방향의 연구를 Agentic RAG로 묶어 정리했습니다. 핵심은 반성, 계획, 도구 사용, 다중 에이전트 협업이라는 에이전트 설계 패턴을 검색 파이프라인에 내장하는 것입니다. 에이전트는 질문을 분해해 계획을 세우고, 중간 결과를 반성해 검색 전략을 바꾸고, 필요하면 다른 도구나 다른 에이전트를 부릅니다. 논문은 아키텍처를 에이전트 수, 제어 구조, 자율성, 지식 표현을 기준으로 분류합니다. 질의를 적절한 검색 경로로 보내는 라우터형 단일 에이전트부터, 역할을 나눈 다중 에이전트, 계층형, 그래프 기반, 그리고 검색 결과의 관련성을 평가해 스스로 교정하는 Corrective RAG까지가 그 스펙트럼입니다.

결과
서베이는 헬스케어, 금융, 교육, 기업 문서 처리 분야의 응용 사례와 구현 프레임워크를 비교 분석해, 설계 선택지별 상충 관계를 정리했습니다. 단순 질의에는 라우터형의 얕은 개입으로 충분하고, 문서 간 종합이 필요한 질의일수록 다중 에이전트와 반복 검색의 이득이 커진다는 것이 공통된 관찰입니다.
한계와 주의점
저자들이 꼽는 미해결 과제는 평가, 에이전트 간 조정, 메모리 관리, 효율, 거버넌스입니다. 특히 실행 경로가 매번 달라지는 시스템은 고정 벤치마크로 재기 어렵고, 에이전트 단계가 늘수록 호출 비용과 지연이 함께 늘어납니다. 서베이 논문이므로 특정 구성의 우위를 입증하는 실험 수치를 제공하지는 않는다는 점도 유의해야 합니다.
기업 적용 관점
정적 RAG는 FAQ형 질의에 충분하지만 조사형 업무 질의에는 계획과 재검색이 필요합니다. 다만 에이전트 구조는 비용과 지연이 늘어나므로 모든 질의에 쓸 이유는 없습니다. 이 서베이의 분류체계는 어느 수준의 자율성이 자사 질의에 맞는지 고르는 지도에 가깝습니다. 코텍시스는 질의 복잡도에 따라 정적 경로와 에이전트 경로를 나누는 단계적 도입을 권장합니다.
코텍시스 AI사업부는 sLLM 최적화, Advanced RAG, AI Agent 개발을 수행합니다. 이런 기법의 도입을 검토 중이라면 문의를 남겨주세요.
AI 개발 문의같은 주제의 다른 인사이트
멀티홉 질의 앞에서 무너지는 RAG를 측정하다
여러 문서의 증거를 모아 추론해야 답할 수 있는 멀티홉 질의에서 기존 RAG는 GPT-4를 써도 정답률이 절반 수준에 그칩니다. 이를 체계적으로 측정한 벤치마크 MultiHop-RAG를 구축한 논문으로, 단일 검색 한 번으로 설계된 시스템의 한계를 미리 알고 보완해야 함을 보여줍니다.
정답지 없이 RAG를 평가하는 RAGAS
RAGAS는 사람이 만든 정답 데이터 없이 검색 관련성, 생성 충실도, 답변 관련성을 각각 자동 측정하는 참조 없는 RAG 평가 프레임워크입니다. 평가 체계가 없으면 RAG 개선은 감에 의존하게 되므로, 사내 시스템 도입 시 정량 평가 루프를 처음부터 갖추는 일의 근거가 됩니다.
검색 전에 질문부터 고쳐 쓰는 RAG
사용자 질문을 검색에 맞게 고쳐 쓰는 재작성 단계를 검색 앞에 추가하면 RAG 성능이 일관되게 개선됩니다. Rewrite-Retrieve-Read 프레임워크를 제안한 이 논문은 소형 재작성 모델을 LLM 리더의 피드백으로 강화학습해, 검색기와 생성기를 그대로 둔 채 QA 성능을 끌어올렸습니다.