장기 작업을 기억하는 AI 메모리 시스템, Memora의 개념과 핵심 특징

AI 에이전트가 수개월에 걸친 프로젝트를 함께 수행한다면, 과거의 대화와 결정 과정을 얼마나 잘 기억하느냐는 성능을 좌우하는 핵심 요소가 됩니다. 하지만 현재의 대다수 AI 에이전트는 장기적인 기억을 유지하지 못하고, 매번 전체 대화를 다시 불러오거나 요약된 정보에 의존해야 합니다.
이 글에서는 이러한 한계를 해결하기 위해 제안된 Memora라는 새로운 AI 메모리 시스템이 무엇인지, 왜 필요한지, 그리고 기존 방식과 무엇이 다른지를 중심으로 살펴봅니다.

반응형

---

장기 기억이 AI 에이전트의 병목이 되는 이유

현대의 대규모 언어 모델은 추론 능력은 뛰어나지만 기본적으로 상태를 유지하지 못하는(stateless) 구조를 가지고 있습니다.
즉,

• 모든 세션은 처음부터 다시 시작되고
• 긴 대화는 매번 전체 히스토리를 다시 읽어야 하며
• 새로운 정보는 원문 그대로 저장되거나, 과도하게 압축된 요약으로 남게 됩니다

이 과정에서 맥락은 파편화되거나, 중요한 제약 조건과 세부 사항이 사라지게 됩니다.
특히 수백 턴 이상의 대화가 이어지는 장기 작업에서는 이러한 구조가 심각한 확장성 문제로 작용합니다.

---

기존 메모리 접근 방식의 한계

AI 메모리 시스템을 개선하려는 다양한 시도가 있었지만, 공통적인 한계가 존재했습니다.

• RAG, Mem0와 같은 방식은 세부 정보는 잘 보존하지만 기억이 조각나고 맥락 연결이 약해집니다.
• 요약 기반 메모리는 효율적이지만 중요한 수치, 예외 조건, 결정 배경이 손실됩니다.
• 그래프 기반 메모리(Zep, GraphRAG)는 구조를 제공하지만, 사전에 정의된 온톨로지에 의존해야 하며 도메인 확장성이 낮습니다.

결국 모든 방식은 추상화(효율)와 구체성(유용성) 사이의 트레이드오프를 완전히 해결하지 못했습니다.

---

Memora란 무엇인가

Memora는 장기 작업을 수행하는 AI 에이전트를 위해 설계된 에이전트 메모리 프레임워크입니다.
핵심 아이디어는 매우 명확합니다.

“무엇을 저장할 것인가”와 “어떻게 검색할 것인가”를 분리한다.

Memora에서는 메모리의 실제 내용은 풍부하게 유지하면서, 검색과 인덱싱은 별도의 가벼운 구조 계층이 담당합니다. 이로 인해 메모리는 확장 가능해지고, 에이전트는 전체 히스토리를 다시 읽지 않고도 필요한 정보를 정확히 찾아낼 수 있습니다.

---

Memora의 핵심 구조: 추상화와 세부 정보의 분리

Memora의 각 메모리는 두 가지 요소로 구성됩니다.

1. Primary Abstraction (주요 추상화)

• 6~8단어 정도의 짧은 문구
• 해당 메모리가 “본질적으로 무엇에 관한 것인지”를 표현
• 이 추상화만 임베딩되어 검색에 사용됨

2. Memory Value (메모리 값)

• 실제 대화 내용, 결정 과정, 수치 정보 등 풍부한 원문 데이터
• 직접 검색 대상이 되지 않음
• 추상화에 의해 간접적으로 접근됨

이 구조 덕분에 동일한 주제에 대한 새로운 정보는 기존 메모리에 병합되고, 중복된 파편 메모리가 생성되지 않습니다.

---

Cue Anchor: 유연한 접근 경로 제공

Memora는 Cue Anchor라는 개념을 함께 사용합니다.

• 메모리 값에서 자동 추출된 짧은 태그
• 주요 추상화 외에 다양한 검색 경로 제공
• 사전 정의된 스키마나 온톨로지가 필요 없음

예를 들어 프로젝트 일정 변경에 대한 하나의 메모리는
인물 기준, 프로젝트 기준, 일정 기준 등 다양한 질문으로 동일한 메모리에 접근할 수 있습니다.

---

정책 기반 검색기: 기억을 ‘추론’하는 방식

Memora의 검색은 단순한 top-k 유사도 검색이 아닙니다.

• 검색 쿼리를 반복적으로 개선하고
• Cue Anchor를 따라 연관 메모리를 확장 탐색하며
• 언제 탐색을 멈출지 스스로 판단합니다

이는 사람이 기억을 떠올릴 때 연관된 사건을 따라가며 회상하는 방식과 유사합니다.
이 검색 정책은 대형 언어 모델로 직접 수행하거나, 강화학습을 통해 소형 모델로 증류할 수도 있습니다.

---

성능 결과와 효율성

Memora는 장문 대화 벤치마크에서 뛰어난 성능을 보였습니다.

• LoCoMo: 평균 600턴 대화
• LongMemEval: 최대 115,000 토큰 컨텍스트

두 벤치마크 모두에서 기존 RAG, Mem0, 그래프 기반 시스템은 물론 전체 컨텍스트를 그대로 사용하는 방식보다도 높은 정확도를 기록했습니다.

특히 주목할 점은 토큰 사용량을 최대 98%까지 절감하면서도 더 나은 결과를 냈다는 점입니다.
저장해야 할 메모리 수 역시 Mem0 대비 절반 수준으로 줄어들었습니다.

---

향후 확장 방향

Memora는 단순한 성능 개선을 넘어, 장기 협업이 가능한 AI 에이전트를 향한 기반 기술로 제시됩니다.
연구진은 다음과 같은 방향을 함께 탐구하고 있습니다.

• MemLoop: 실패로부터 학습하는 메모리 시스템
• Deferred Memory: 언제 메모리를 저장할지 지연 판단
• Group Memory: 조직과 팀 단위의 지식 공유와 접근 제어

---

728x90

Memora는 AI 에이전트가 장기적인 맥락을 이해하고, 과거의 경험을 구조적으로 활용할 수 있도록 설계된 메모리 시스템입니다.
추상화와 구체성을 분리한 설계, 유연한 검색 경로, 그리고 정책 기반 탐색은 기존 메모리 접근 방식의 한계를 명확히 짚고 이를 해결합니다.

장기간 사용자와 협업하며 지식을 축적하는 AI 에이전트를 구현하고자 한다면, Memora는 그 방향성을 제시하는 중요한 이정표라 할 수 있습니다.

300x250

https://www.microsoft.com/en-us/research/blog/memora-a-harmonic-memory-representation-balancing-abstraction-and-specificity/

Memora scales agent memory to boost long-horizon productivity