이 글은 최근 주목받고 있는 에이전트형 엔지니어링을 중심으로, AI 에이전트의 자율성 수준을 어떻게 정의하고 운영해야 하는지를 정리한 글입니다.
단순히 “AI에게 얼마나 많은 일을 맡길 수 있는가”의 문제가 아니라, 위험·검증·되돌릴 수 있는 정도를 기준으로 자율성을 설계하는 방법, 그리고 단일 에이전트가 아닌 여러 에이전트를 조율하는 오케스트레이션 관점까지 함께 다룹니다.
AI 에이전트를 실제 개발·운영 환경에서 활용하려는 엔지니어라면, 현재 어디까지 맡기고 무엇을 사람이 책임져야 하는지 판단하는 기준을 얻을 수 있을 것입니다.
에이전트형 엔지니어링, 프롬프트에서 운영 설계로
에이전트형 엔지니어링의 중심은 더 이상 “좋은 프롬프트 작성”에 머물러 있지 않습니다.
이제 핵심은 운영 설계입니다.
구체적으로는 다음과 같은 요소들이 전면에 등장합니다.
- 목표와 범위 정의
- 반복 루프와 정지 조건
- 백그라운드 세션과 서브 에이전트
- 샌드박스와 권한 관리
- 에이전트가 에이전트를 승인하고 검증하는 구조
이러한 흐름을 보여주는 대표적인 예가 **Anthropic**의 **Claude Code**와 **Codex**입니다.
이 도구들은 단일 대화형 AI를 넘어, 목표 설정 → 실행 → 검증 → 반복이라는 운영 루프를 전제로 설계돼 있습니다.
단일 사다리로는 부족하다: 자율성의 두 축
기존에는 AI 에이전트의 자율성을 하나의 숫자나 단계로 표현하는 단일 사다리 모델이 주로 사용됐습니다.
이 방식은 “한 에이전트를 얼마나 믿을 수 있는가”를 표현하는 데는 유용하지만, 여러 에이전트를 동시에 다루는 환경에서는 한계가 분명합니다.
그래서 자율성은 두 개의 축으로 나눠서 봐야 합니다.
agency: 한 에이전트의 자율성
- 제안만 하는가
- 제한된 작업을 수행하는가
- 목표 달성을 위해 실험·학습·재시도를 스스로 수행하는가
orchestration: 여러 에이전트의 조율 능력
- 하나의 스레드에서 동작하는가
- 여러 에이전트가 병렬로 분리된 작업을 하는가
- 백로그·이슈·스케줄을 기반으로 지속적으로 운영되는가
이 두 축을 분리해서 봐야, 다중 에이전트 환경의 실제 복잡성을 설명할 수 있습니다.
에이전트 자율성 0~5단계 이해하기
Level 0: Assist
에이전트는 제안을 하지만, 실행 여부는 항상 사람이 결정합니다.
자동완성, 인라인 편집 제안 같은 경우가 여기에 해당합니다.
비용이 큰 오류가 우려되거나, 판단을 형성 중인 작업에 적합합니다.
Level 1: Supervised Action
에이전트가 직접 편집이나 명령 실행을 하지만, 중요한 단계마다 사람의 승인을 받습니다.
가장 일반적인 사용 형태에 가깝지만, 반복 승인으로 인한 승인 피로가 주요 실패 요인입니다.
Level 2: Scoped Task Delegation
명확한 목표와 범위를 가진 제한된 작업을 에이전트에 위임합니다.
사람은 가까이 있지만 대부분 개입하지 않으며, 검증은 사람이 직접 보는 대신 테스트, 로그, 스크린샷 같은 증거로 이뤄집니다.
실무 소프트웨어 엔지니어링에서 중심이 되는 단계입니다.
Level 3: Goal-driven Autonomy
에이전트가 목표 달성 여부가 측정 가능할 때까지 스스로 계획하고 실행합니다.
예를 들어 “이 페이지의 로드 시간을 1초 미만으로 줄여라”처럼 명확한 정지 조건이 있어야 합니다.
모호한 목표에는 적합하지 않습니다.
Level 4: Parallel Delegation
여러 에이전트가 병렬로 작업을 나눠 수행합니다.
가장 큰 병목은 “어떻게 작업을 분해하느냐”이며, 잘못하면 병렬성이 아니라 중복 작업과 충돌만 늘어날 수 있습니다.
각 에이전트는 격리된 작업 공간과 명확한 소유권을 가져야 합니다.
Level 5: Managed-by-exception Orchestration
사람은 정책과 성공 정의만 정하고, 매니저 에이전트가 트리거에 따라 작업을 분배합니다.
사람은 문제가 생길 때만 개입하는 구조입니다.
이 단계는 에이전트 팩토리에 비유되며, 독립 검증과 명확한 에스컬레이션 설계가 필수입니다.
자율성의 상한은 위험과 되돌릴 수 있는 정도
Anthropic의 Claude Code 분석에 따르면, 실제 사용 환경에서 사람은 계획의 약 70%, **에이전트는 실행의 약 80%**를 담당하는 패턴이 나타났습니다.
중요한 점은 높은 자율성이 사람을 완전히 배제하는 것이 아니라, 사람의 역할이 실행에서 방향 결정으로 이동한다는 것입니다.
자율성이 진짜로 높은지 판단하려면 다음 질문에 답해야 합니다.
- 무엇이 잘못됐는지 얼마나 빨리 알 수 있는가
- 얼마나 깔끔하게 되돌릴 수 있는가
- 하고 있는 일이 옳다는 증거는 무엇인가
이 세 가지에 답하지 못하면, 그 자율성은 신뢰할 수 없습니다.
에이전트 실행 전 반드시 필요한 ‘계약’
모든 에이전트 실행에는 사전 계약이 필요합니다.
- 목표: 달성하려는 결과
- 범위와 비목표
- 도구와 권한
- 정지 조건
- 완료를 증명할 수 있는 증거
- 에스컬레이션 기준
- 시간·토큰·노력 예산
이 계약이 명확할수록, 더 높은 자율성을 안전하게 적용할 수 있습니다.
이 글이 말하는 결론은 단순합니다.
높은 자율성을 과시하는 것이 목표가 아닙니다.
성숙한 에이전트 활용이란,
- 위험에 맞는 자율성을 선택하고
- 검증 병목을 관리하며
- 되돌릴 수 있는 경로를 확보하고
- 증거 기반으로 신뢰를 쌓아가는 것
입니다.
앞으로의 엔지니어링 역량은 “AI를 얼마나 믿느냐”가 아니라, 어디까지 맡기고 어디서 멈추게 할지를 설계하는 능력에 달려 있습니다.
https://addyo.substack.com/p/agentic-autonomy-levels
Agentic Autonomy Levels
A working model of autonomy for agentic engineering
addyo.substack.com
'인공지능' 카테고리의 다른 글
| AI가 만든 코드를 사람이 이해하는 방법, Cluedoc으로 정리하는 기능 중심 문서화 (0) | 2026.07.05 |
|---|---|
| 보안 중심 소프트웨어에서 AI 코딩을 통제하는 Short Leash 방식 정리 (0) | 2026.07.05 |
| 에이전트의 성능을 결정하는 루프 엔지니어링 구조와 활용 전략 (0) | 2026.07.04 |
| Fable 필드 가이드로 이해하는 ‘미지(Unknowns)’ 중심의 에이전틱 작업 방식 (0) | 2026.07.04 |
| 시니어 엔지니어를 제대로 평가하는 오픈소스 벤치마크, Senior SWE-Bench 정리 (0) | 2026.07.04 |
