AI 에이전트가 검색을 스스로 계획하는 법 — 도구까지 고르는 Agentic RAG

안녕하세요.

웹과 앱 서비스를 직접 만들고 운영하며 그 노하우를 바탕으로 외주 개발까지 진행하고 있는 개발사 에그코드입니다.

지금까지 RAG 시리즈에서 자료가 맞는지 검증하는 법(Corrective RAG)과 난이도에 따라 검색량을 조절하는 법(Adaptive RAG)을 다뤘습니다.

이번엔 한 발 더 나갑니다. 검색 과정 자체를 AI 에이전트에게 통째로 맡기면 어떻게 될까요?

1. 먼저 RAG 뜻부터 — 기존 방식의 한계

잠깐 복습하면, RAG(검색 증강 생성)는 AI가 답하기 전에 관련 자료를 찾아 근거로 삼는 구조입니다.

(RAG 뜻 = 질문이 오면 관련 문서부터 찾아 참고해 답하는 방식)

그런데 대부분의 RAG는 '질문 → 한 번 검색 → 답'이라는 고정된 순서로 움직입니다.

한 번 찾은 자료가 부족해도 그대로 답하고, 여러 자료를 오가야 풀리는 질문엔 약합니다.

→ 정해진 길만 따라가니, 조금만 복잡해도 막힙니다.

2. 해법 — 검색을 스스로 운전하는 Agentic RAG

그래서 나온 것이 'Agentic RAG(에이전틱 RAG)'입니다.

핵심은 검색 순서를 정해두지 않고, AI 에이전트가 스스로 판단하며 움직이는 것입니다.

사람 조사원처럼 먼저 계획을 세우고 → 필요한 곳을 찾고 → 결과를 보고 → 부족하면 다시 찾습니다.

즉 정해진 순서를 따르는 게 아니라, 답이 될 때까지 검색을 직접 운전하는 방식입니다.

→ 그래서 여러 단계를 거쳐야 하는 질문에도 스스로 길을 만들어 갑니다.

3. 구체적으로 뭐가 달라질까 — 세 가지 능력

검색을 스스로 운전한다는 건 이런 능력을 갖는다는 뜻입니다.

• 계획·도구 선택 → 검색이 필요한지, 사내 문서·웹·DB 중 어디를 볼지 스스로 정합니다.
• 질문 분해 → 복잡한 질문을 작은 질문으로 쪼갭니다. (예: 'A와 B 비교' → 각각 찾아 종합)
• 반복·자기점검 → 답을 만든 뒤 '근거가 충분한가'를 스스로 보고, 부족하면 다시 찾습니다.

→ 한 번의 검색이 아니라, 여러 도구를 오가며 답을 다듬어 갑니다.

4. 시리즈 총정리 — 세 방식은 경쟁이 아니다

지금까지 다룬 세 방식은 서로 다른 조각을 맡습니다.

사실 앞의 두 방식(검증·조절)도 Agentic RAG 안에서 하나의 판단으로 들어갈 수 있습니다.

→ 즉 Agentic RAG는 그 위를 감싸는 큰 그릇에 가깝습니다.

마치며

검색을 스스로 운전한다는 건 강력하지만, 공짜는 아닙니다.

단계를 여러 번 돌수록 응답이 느려지고 비용도 늘며, 어디로 튈지 예측하기도 어렵습니다.

그래서 모든 서비스에 Agentic RAG를 넣는 게 정답은 아닙니다. 질문이 복잡하고 여러 자료를 오가야 하는 곳부터 골라 적용하는 게 핵심입니다.

AI 기능을 맡길 땐 화려한 데모보다 "막혔을 때 스스로 다시 찾는가"를 함께 보시길 권합니다.

함께 읽어보세요 — 정보를 그래프로 잇는 GraphRAG · AI 시대 개발자가 진짜 하는 일 3가지 · AI 에이전트로 시작하는 AX 구축 로드맵