Modular RAG: 진화하는 RAG 시스템의 새로운 패러다임 - LEGO처럼 유연한 AI 검색 시스템

최근 AI 기반 검색 및 정보 추출 시스템에서 RAG (Retrieval-Augmented Generation) 모델이 큰 주목을 받고 있습니다. Advanced RAG 모델은 성능과 실용성이 크게 향상되었지만, 실제 애플리케이션에서의 다양한 요구 사항을 충족하기에는 여전히 부족한 부분이 있습니다. 특히, 사용자 요구 사항이 계속해서 진화하고 복잡해짐에 따라, 고정된 구조의 RAG는 여러 한계에 부딪힐 수밖에 없습니다. Naive RAG와 Advanced RAG는 기본적으로 단방향 구조로 설계되어 있어 모든 단계를 처음부터 잘 설계해야 하고, 단계별로 되돌리거나 조정하는 데 어려움이 따릅니다.

이러한 한계를 극복하기 위해 등장한 개념이 Modular RAG입니다. 모듈형 RAG는 이름 그대로 다양한 기능 모듈을 LEGO처럼 조립해가며 성능을 최적화할 수 있는 접근 방식입니다. 이러한 구조는 각 기능을 독립적으로 실행할 수 있게 설계하여 필요에 따라 유연한 파이프라인을 구성하고, 분기와 조건문을 통해 다양한 상황에 맞는 전략적 의사 결정을 할 수 있도록 합니다.

반응형

---

Modular RAG의 구조와 필요성

https://medium.com/@sahin.samia/modular-rag-using-llms-what-is-it-and-how-does-it-work-d482ebb3d372

Modular RAG는 각 단계를 모듈화하여 정의하는 것이 핵심입니다. 각 모듈은 필요에 따라 독립적으로 구성되며 병렬 처리가 가능하도록 설계됩니다. 이로 인해 RAG 시스템이 더욱 유연해지고 다양한 상황에 맞게 맞춤형으로 조정할 수 있습니다. 예를 들어, 검색 기능이 포함된 모듈, 메모리 관리 모듈, 질문을 다시 구성하거나 평가하는 모듈 등을 필요에 따라 추가하고 교체하는 것이 가능합니다. 특히 다양한 문제 해결을 위한 모듈들이 통합되어 각 작업의 맥락에 맞는 파이프라인 구성이 가능하다는 점에서 큰 장점을 지닙니다.

Modular RAG의 주요 기술

Modular RAG는 여러 기술적 발전을 통해 최적화가 가능해집니다. 그 중 몇 가지 주요 기술은 다음과 같습니다:

1. 하이브리드 검색 탐색: 키워드 기반과 의미론적 검색을 결합하여 더 관련성 높고 풍부한 컨텍스트의 정보를 검색합니다.
2. 재귀적 검색 및 질의 엔진: 작은 단위의 의미(청크)부터 시작하여 점진적으로 컨텍스트를 확장해 가며 검색하는 방식으로, 정보의 풍부함과 효율성 간 균형을 맞추게 됩니다.
3. 스텝백 프롬프트: LLM이 추론의 근거와 원칙을 생성하도록 유도하여 더 신뢰성 높은 응답을 제공합니다.
4. 하위 질의: 복잡한 질문을 작은 하위 질문으로 분할하여 다양한 데이터 소스를 효과적으로 활용할 수 있습니다.
5. 가상 문서 임베딩: HyDE 방식은 질문에 대한 가상의 답변을 생성하고 이를 임베딩하여 관련 문서를 검색하는 접근법입니다.

Modular RAG 예시: 질문-응답 파이프라인

https://medium.com/@yoony1007/%EB%9E%AD%EC%B2%B4%EC%9D%B8-%EC%BD%94%EB%A6%AC%EC%95%84-%EB%B0%8B%EC%97%85-2024-q2-%ED%85%8C%EB%94%94%EB%85%B8%ED%8A%B8-%EC%B4%88%EB%B3%B4%EC%9E%90%EB%8F%84-%ED%95%A0-%EC%88%98-%EC%9E%88%EB%8A%94-%EA%B3%A0%EA%B8%89-rag-%EB%8B%A4%EC%A4%91-%EC%97%90%EC%9D%B4%EC%A0%84%ED%8A%B8%EC%99%80-langgraph-%EC%A0%9C%EC%9E%91-e8bec8adfef4

예를 들어, Modular RAG 파이프라인을 활용한 질문-응답 프로세스를 생각해봅시다.

1. 사용자가 질문을 입력합니다.
2. 문서 검색 모듈이 관련 문서를 검색합니다.
3. 검색된 내용을 바탕으로 LLM 모듈이 답변을 생성합니다.
4. 생성된 답변은 평가 모듈에 의해 평가됩니다.
5. 평가 결과에 따라 필요한 경우 웹 검색이나 질문 재구성이 이루어집니다.

이러한 Modular RAG 파이프라인은 유연하게 구성이 가능하여, 특정 문제 상황에 맞게 파이프라인을 조정할 수 있습니다.

Modular RAG 구현을 위한 프레임워크: LangGraph

Modular RAG를 구현하는 데 유용한 프레임워크로 LangGraph가 있습니다. LangGraph는 다양한 RAG 모듈을 그래프 형태로 구성할 수 있도록 돕는 도구로, 각 단계 후 상태를 저장하는 Persistency 기능과 Cycle & Branching 기능이 포함되어 있습니다. 이를 통해 필요 시 특정 단계로 돌아가거나 분기별로 다른 경로를 선택할 수 있어, 더욱 유연한 구조를 갖추게 됩니다.

- https://langchain-ai.github.io/langgraph/

728x90

---

결론

Modular RAG는 RAG 시스템의 한계를 극복하고 더욱 진화된 정보를 제공하기 위한 강력한 접근 방식입니다. LEGO처럼 유연한 모듈형 구조를 통해 각 단계가 독립적으로 작동하며 다양한 애플리케이션 요구사항을 만족시킬 수 있습니다.