Langchain으로 인공지능 챗봇 만들기: 메모리를 활용한 자연스러운 대화 유지 비법

Langchain은 인공지능(Large Language Model, LLM) 기반의 애플리케이션을 개발하는 데 강력한 도구를 제공합니다. 그중에서도 Memory 기능은 사용자가 이전에 한 말을 기억하고, 자연스러운 대화를 이어나가는 데 필수적입니다. 이번 글에서는 Memory의 중요성과 필요성을 설명하고, Langchain에서 사용할 수 있는 다양한 메모리 종류와 각각의 활용 방법을 살펴보겠습니다. 특히 ConversationBufferMemory, ConversationBufferWindowMemory, ConversationTokenBufferMemory, ConversationSummaryBufferMemory에 대해 간단한 코드 예시와 함께 알아보겠습니다.

Memory의 중요성과 필요성

챗봇을 만들 때 사용자가 이전에 한 질문이나 응답을 기억하지 못하면, 대화가 단절되거나 어색해질 수 있습니다. 이런 문제를 해결하기 위해 Memory를 사용하여 챗봇이 대화를 지속적으로 기억하게 할 수 있습니다. 이를 통해 챗봇은 더 자연스럽고 일관성 있는 대화를 제공합니다.

Memory는 특히 다음과 같은 상황에서 필요합니다:

• 대화 흐름 유지: 사용자와의 대화를 매끄럽게 이어나가기 위해 이전 대화를 기억.
• 상황 맥락 이해: 대화에서 나온 중요한 정보를 기억하여, 같은 대화 내에서 맥락을 유지.
• 사용자 경험 향상: 대화의 연속성 덕분에 사용자는 더 만족스러운 경험을 얻게 됨.

Langchain에서는 다양한 종류의 Memory를 제공하며, 각 메모리는 조금씩 다른 용도로 사용됩니다.

반응형

Memory 종류와 사용 방법

1. ConversationBufferMemory

ConversationBufferMemory는 가장 기본적인 메모리 유형으로, 모든 대화 기록을 저장합니다. 이전 대화 내용 전체를 참조하며, 문맥을 계속 유지할 수 있게 합니다.
사용 예시는 다음과 같습니다.

from langchain.chains import ConversationChain
from langchain.memory import ConversationBufferMemory
from langchain.chat_models import ChatOpenAI

# 대화 모델과 메모리 설정
llm = ChatOpenAI(model="gpt-3.5-turbo")
memory = ConversationBufferMemory()

# 대화 체인 설정
conversation = ConversationChain(llm=llm, memory=memory)

# 대화 예시
conversation.run("무지개 색깔이 뭐죠?")
conversation.run("다음 색깔들은 뭐죠?")

특징: 전체 대화를 기억하여 대화가 길어질수록 더 많은 문맥을 제공합니다. 하지만 대화가 길어지면 성능이 저하될 수 있습니다.

2. ConversationBufferWindowMemory

ConversationBufferWindowMemory는 대화의 전체 기록을 저장하는 대신, 지정된 개수의 최근 대화만 기억합니다. 이를 통해 대화의 맥락을 유지하면서도 오래된 정보는 잊어버릴 수 있습니다.

from langchain.chains import ConversationChain
from langchain.memory import ConversationBufferWindowMemory
from langchain.chat_models import ChatOpenAI

# 메모리 설정 (최근 3개의 메시지만 저장)
memory = ConversationBufferWindowMemory(k=3)

conversation = ConversationChain(llm=llm, memory=memory)

# 대화 예시
conversation.run("무지개 색깔이 뭐죠?")
conversation.run("다음 색깔들은 뭐죠?")

특징: 최근 대화 몇 개만 기억하므로 메모리 효율적 사용이 가능하고, 문맥에 집중합니다. 하지만 오래된 대화 정보는 잊어버립니다.

3. ConversationTokenBufferMemory

ConversationTokenBufferMemory는 토큰 수를 기준으로 대화를 기억합니다. GPT 모델은 입력 토큰 수에 제한이 있기 때문에, 토큰 수를 기준으로 필요한 대화 내용을 효율적으로 관리할 수 있습니다.

from langchain.chains import ConversationChain
from langchain.memory import ConversationTokenBufferMemory
from langchain.chat_models import ChatOpenAI

# 토큰 수 기준으로 메모리 설정 (100개 토큰까지 기억)
memory = ConversationTokenBufferMemory(llm=llm, max_token_limit=100)

conversation = ConversationChain(llm=llm, memory=memory)

# 대화 예시
conversation.run("무지개 색깔이 뭐죠?")
conversation.run("다음 색깔들은 뭐죠?")

특징: 주어진 토큰 수 내에서 대화를 관리하며, 대화의 길이에 따른 모델의 토큰 한도를 초과하지 않게 유지합니다.

4. ConversationSummaryBufferMemory

ConversationSummaryBufferMemory는 대화를 요약하여 저장하는 방식으로, 전체 대화를 기억하지만 요약된 형태로 저장하므로 더 효율적입니다. 긴 대화에서도 핵심 내용을 요약해 기억할 수 있습니다.

from langchain.chains import ConversationChain
from langchain.memory import ConversationSummaryBufferMemory
from langchain.chat_models import ChatOpenAI

# 요약 메모리 설정
memory = ConversationSummaryBufferMemory(llm=llm)

conversation = ConversationChain(llm=llm, memory=memory)

# 대화 예시
conversation.run("무지개 색깔이 뭐죠?")
conversation.run("다음 색깔들은 뭐죠?")

특징: 전체 대화를 요약하여 저장함으로써 성능을 최적화하며, 중요한 정보는 유지합니다. 대화가 길어지더라도 요약을 통해 정보 손실을 최소화합니다.

728x90

Memory는 Langchain에서 대화형 애플리케이션을 개발할 때 중요한 역할을 합니다. 적절한 메모리를 선택하고 활용하면, 더 자연스럽고 유려한 대화 경험을 제공할 수 있습니다. 각 메모리 유형의 특징을 이해하고 프로젝트에 맞게 활용해 보세요.