AI 에이전트가 '큰 그림'까지 답하는 법 — 정보를 그래프로 잇는 GraphRAG

안녕하세요.

웹과 앱 서비스를 직접 만들고 운영하며 그 노하우를 바탕으로 외주 개발까지 진행하고 있는 개발사 에그코드입니다.

RAG 시리즈에서 검색을 검증하고(Corrective), 조절하고(Adaptive), 스스로 운전하는(Agentic RAG) 법을 다뤘습니다.

그런데 이 방식들을 쓰는 AI 에이전트에도 공통 약점이 하나 있습니다. "문서 전체에서 핵심이 뭐야?" 같은 큰 그림 질문에 약하다는 것.

1. 먼저 RAG 뜻부터 — 기존 검색이 놓치는 것

잠깐 복습하면, RAG(검색 증강 생성)는 AI가 답하기 전에 관련 자료를 찾아 근거로 삼는 구조입니다.

(RAG 뜻 = 질문이 오면 관련 문서부터 찾아 참고해 답하는 방식)

기존 RAG는 질문과 '의미가 비슷한 문장 조각'을 찾아옵니다.

조각 하나로 답할 질문엔 강하지만, 여러 문서에 흩어진 걸 연결해야 하는 질문엔 약합니다.

→ 조각은 잘 찾는데, 그 조각들을 잇는 '관계'는 못 봅니다.

2. GraphRAG란 — 조각이 아니라 '관계 지도'로

그래서 나온 것이 지식그래프를 쓰는 'GraphRAG'입니다. (Microsoft가 2024년 공개)

핵심은 문서를 잘게 자른 조각이 아니라, 엔티티(개체)와 관계로 이은 지식 그래프로 정리해두는 것입니다.

• 엔티티 = 인물·회사·개념 같은 '점' (예: 에그코드, RAG, 개발자)
• 관계 = 그 점들을 잇는 '선' (예: 에그코드 — 만든다 — 서비스)

쉽게 말해 흩어진 메모가 아니라 한 장의 관계 지도로 정리해두는 방식입니다.

→ 지도가 있으니, 흩어진 점을 따라가며 답을 모을 수 있습니다.

3. 어떻게 작동할까 — 세 단계

GraphRAG는 크게 세 단계로 움직입니다.

→ 그래서 AI 에이전트는 "전반적으로 무슨 얘기야?" 같은 질문에도 조망하며 답합니다.

4. 그래서 언제 강하고, 대가는 뭘까

GraphRAG가 빛나는 곳은 분명합니다.

여러 문서에 흩어진 정보를 연결하거나 전체를 조망하는 질문 — 보고서 요약, 사내 자료 종합 같은 일이죠.

다만 공짜는 아닙니다. 그래프와 커뮤니티 요약을 미리 만드는 데 시간·비용·전처리가 크게 듭니다.

→ 그래서 단순 Q&A엔 과하고, 연결·조망이 중요한 곳부터 골라 쓰는 게 맞습니다.

마치며

지금까지의 RAG 시리즈가 검색의 '과정'을 다뤘다면, GraphRAG는 검색하는 '데이터 구조'를 바꾼 접근입니다.

정보를 관계 지도로 정리해두면, AI 에이전트는 조각을 넘어 '큰 그림'까지 답할 수 있습니다.

모든 서비스의 정답은 아닙니다. 구축 비용이 큰 만큼, 연결·조망이 진짜 필요한 곳부터 시작하는 게 핵심입니다.

AI 기능을 맡길 땐 "조각으로 풀리나, 연결이 필요한가"를 함께 따져보시길 권합니다.

함께 읽어보세요 — 찾아온 자료를 스스로 채점하는 Corrective RAG · 질문 난이도로 검색량을 정하는 Adaptive RAG · AI 에이전트로 시작하는 AX 구축 로드맵