
AI 에이전트의 성능은 모델보다 아키텍처가 중요합니다
최근 AI 에이전트는 단순히 질문에 답하는 수준을 넘어 스스로 생각하고, 도구를 활용하며, 계획을 세우고, 여러 에이전트가 협업하는 방향으로 발전하고 있습니다.
Andrew Ng가 소개한 "From Loops to Graphs from Scratch"에서는 이러한 Agentic AI를 구현하기 위한 핵심 워크플로우를 단계별로 설명합니다.
핵심 메시지는 단순합니다.
에이전트는 반복(Loop)을 통해 사고하고, 그래프(Graph)를 통해 기억합니다.
아무리 뛰어난 모델이라도 이러한 구조가 없다면 작업 과정에서 중요한 정보를 잊거나, 실패를 복구하지 못하거나, 결과물의 품질이 제한될 수 있습니다. 반대로 비교적 성능이 낮은 모델이라도 적절한 워크플로우를 적용하면 훨씬 높은 품질의 결과를 만들어낼 수 있습니다.
이번 글에서는 Agentic AI를 구성하는 4가지 핵심 단계와 이를 실제 시스템에 연결하는 방법을 살펴봅니다.
왜 Loop와 Graph가 중요한가
AI 에이전트는 기본적으로 한 번의 프롬프트만 수행하면 이전 사고 과정을 지속적으로 활용하지 못하는 특성이 있습니다.
이러한 한계를 해결하기 위해 다음 두 가지 개념이 필요합니다.
- Loop : 여러 번의 사고 과정을 반복하며 스스로 결과를 개선
- Graph : 여러 작업과 에이전트가 상태와 기억을 공유하는 구조
즉,
- Loop는 에이전트가 더 깊게 생각하도록 만들고
- Graph는 에이전트가 작업 중 기억을 유지하도록 만듭니다.
둘 중 하나만으로는 충분하지 않으며, 두 가지가 함께 동작해야 Agentic AI의 성능을 극대화할 수 있습니다.
Step 1. Reflection: 스스로 검토하고 다시 작성하기
첫 번째 단계는 Reflection(자기 성찰) 입니다.
작동 방식은 매우 단순합니다.
- 에이전트가 초안을 작성합니다.
- 두 번째 프롬프트가 결과를 비판하고 개선점을 찾습니다.
- 에이전트가 이를 반영하여 다시 작성합니다.
즉,
작성 → 검토 → 수정
이라는 반복 구조를 만드는 것입니다.
흥미로운 점은 자기 검토(Self-review) 루프를 한 번만 추가해도, 이를 수행하지 않는 더 높은 성능의 모델보다 좋은 결과를 얻을 수 있다는 것입니다.
단순히 모델을 업그레이드하는 것보다, 검토 과정을 추가하는 것이 더 큰 효과를 가져올 수 있다는 의미입니다.
Step 2. Tool Use: 도구를 사용할 수 있어야 합니다
두 번째 단계는 Tool Use입니다.
에이전트가 내부 지식만으로 판단하도록 두면 잘못된 정보를 생성할 가능성이 커집니다.
이를 해결하기 위해 다양한 외부 도구를 연결합니다.
대표적인 예시는 다음과 같습니다.
- 검색(Search)
- 코드 실행(Code Execution)
- API 호출
핵심 메시지는 다음과 같습니다.
도구 없이 사고하는 것은 결국 환각(Hallucination)으로 이어질 수 있습니다.
필요한 정보를 직접 조회하고, 계산하고, 외부 시스템과 연동할 수 있을 때 에이전트는 더욱 신뢰할 수 있는 결과를 제공합니다.
Step 3. Planning: 실행 전에 계획을 세우기
세 번째 단계는 Planning입니다.
에이전트는 곧바로 작업을 수행하지 않고 먼저 해야 할 일을 구조화합니다.
예를 들어 작업을 JSON 형태의 단계로 나누어 계획을 생성한 후 실행합니다.
계획을 먼저 수립하면 다음과 같은 장점이 있습니다.
- 전체 작업 흐름을 명확하게 파악
- 각 단계별 실행 관리
- 실패한 단계만 다시 수행 가능
특히 특정 단계가 실패하면 전체 작업을 처음부터 다시 수행하는 것이 아니라,
실패한 부분만 새로운 계획으로 재구성(Replan) 하여 작업을 계속 이어갈 수 있습니다.
Step 4. Multi-Agent: 하나의 에이전트보다 팀으로 협업하기
네 번째 단계는 Multi-Agent입니다.
모든 역할을 하나의 에이전트가 수행하도록 만드는 대신 여러 에이전트가 역할을 분담합니다.
예를 들어
- 코드 작성 담당
- 코드 리뷰 담당
- 테스트 담당
처럼 각각의 전문 역할을 수행하도록 구성할 수 있습니다.
이러한 구조는 실제 개발 조직의 협업 방식과 유사하며,
각 에이전트가 자신의 역할에 집중하기 때문에 전체 품질을 높일 수 있습니다.
실제로 적용하는 방법
위의 네 가지 개념은 복잡해 보이지만 실제 적용은 비교적 간단하게 시작할 수 있습니다.
Step 5. 모든 생성 이후 Critique를 추가하기
가장 쉽게 적용할 수 있는 방법은
모든 생성 결과 뒤에 Critique(검토) 호출을 추가하는 것입니다.
즉,
생성 → 검토 → 수정
단계를 기본 워크플로우로 만드는 것입니다.
이 방법만으로도 결과 품질이 약 10~30% 향상될 수 있으며, 비교적 짧은 기간 안에 구현할 수 있는 개선 방법입니다.
Step 6. 모든 워크플로우를 Graph로 연결하기
마지막 단계는 앞에서 살펴본 모든 워크플로우를 하나의 Graph 구조로 연결하는 것입니다.
이 구조에서는
- Reflection
- Tool Use
- Planning
- Multi-Agent
가 하나의 그래프 안에서 서로 연결됩니다.
가장 중요한 특징은 에이전트들이 대화 기록(Transcript)이 아닌 공유 메모리(Shared Memory)를 활용한다는 점입니다.
에이전트는 작업 도중 일부 정보를 잊을 수 있지만,
Graph는 전체 상태와 기억을 유지하며 필요한 정보를 지속적으로 제공합니다.
즉,
- 에이전트는 잊을 수 있지만,
- Graph는 기억합니다.
이것이 Graph 기반 Agent Architecture의 핵심입니다.
Andrew Ng가 제시한 Agentic Workflow는 단순히 더 뛰어난 AI 모델을 사용하는 것이 아니라 에이전트의 구조를 어떻게 설계하느냐가 성능을 결정한다는 점을 보여줍니다.
핵심 단계는 다음과 같습니다.
- Reflection으로 스스로 결과를 개선합니다.
- Tool Use로 외부 정보를 활용해 신뢰성을 높입니다.
- Planning으로 실행 전에 작업을 구조화합니다.
- Multi-Agent로 역할을 분담해 협업합니다.
- Critique를 추가해 결과 품질을 향상시킵니다.
- Graph로 모든 워크플로우와 기억을 연결합니다.
결국 중요한 것은 모델의 크기가 아니라 아키텍처입니다.
Loop를 통해 에이전트는 더 깊이 사고하고, Graph를 통해 작업의 맥락과 기억을 유지합니다. 이러한 구조를 갖춘 시스템은 동일한 비용에서도 더 안정적이고 높은 품질의 결과를 만들어낼 수 있으며, 앞으로의 AI 에이전트 설계에서 중요한 방향성을 제시합니다.

'인공지능' 카테고리의 다른 글
| Agent Skills란? AI 코딩 에이전트의 재사용 가능한 워크플로우를 구축하는 방법 (0) | 2026.07.27 |
|---|---|
| AI 시대, 왜 기업은 '지능(Intelligence)'을 소유해야 하는가? (0) | 2026.07.27 |
| 샘 알트만이 말한 AI의 미래 전략 12가지: 초지능, AI 에이전트, 데이터센터 시대의 핵심 변화 (0) | 2026.07.27 |
| Microsoft MAI-Image-2.5-Pro와 MAI-Voice-2-Flash 공개, 생성형 AI 이미지·음성 모델의 새로운 기준 (0) | 2026.07.27 |
| AI 에이전트 기반 대규모 코드 마이그레이션 방법과 Claude Code 활용 사례 (0) | 2026.07.27 |