본문 바로가기

인공지능

 (210)
모듈형 RAG의 첫걸음, Linear Pattern으로 쉽게 이해하는 고도화된 검색 기반 AI 모델 검색 기반 생성 모델, 흔히 RAG(Retrieval-Augmented Generation) 패턴은 최근 많은 관심을 받는 AI 모델 구조입니다. 특히 이 중에서 Linear Pattern은 가장 기본적이면서도 효율적인 구조로, 단순히 단방향(Sequence)으로 구성되어 쉽게 구축할 수 있는 장점이 있습니다. 그럼에도 불구하고 모듈형 RAG(Modular RAG)에서는 각 단계가 독립적 모듈로 분리되어 더욱 유연하게 활용될 수 있죠. 이번 글에서는 Linear Pattern이 모듈형 RAG에서 어떻게 작동하며, 어떤 기술이 사용되는지 알아보겠습니다.Linear Pattern이란? – 단방향 Sequence 기반 구조Linear Pattern은 이름 그대로 순차적으로 작업을 진행하는 패턴으로, Advan..
새로운 도메인 검색의 해답, HyDE: 가상의 문서로 RAG 성능을 향상시키다! 기존 검색의 한계와 HyDE의 탄생 배경기존의 Embedding 기반 검색 시스템, 특히 RAG(Retrieval-Augmented Generation) 파이프라인에서 활용되는 유사도 검색은 대부분 학습된 데이터 세트를 바탕으로 이루어집니다. 하지만 데이터의 도메인이 기존 학습 데이터와 다를 경우, 검색 성능이 저하되는 문제가 발생할 수 있습니다. 특히 새로운 도메인에 대한 검색에서는 사용자의 질문이 기존 데이터와 연결되지 않아 검색 결과가 부정확해지거나 적합한 맥락을 제공하지 못할 수 있습니다.이러한 문제를 해결하기 위해 등장한 것이 **HyDE(Hypothetical Document Embeddings)**입니다. HyDE는 사용자의 질문을 토대로 가상의 문서를 생성하여, 이를 검색의 입력으로 사용함..
왜 우리는 다른 사람이 만든 앱에 맞춰야 할까요? GitHub Spark로 맞춤형 애플리케이션 시대를 열다 개발자로서 우리는 항상 자신의 개발 환경을 자유롭게 커스터마이즈하고, 고유한 워크플로우에 맞는 도구를 만드는 것을 좋아합니다. 이는 단순히 생산성이나 효율성 때문만이 아니라, 일상을 더 개인적이고 흥미롭게 만들기 때문입니다. 우리는 dotfiles를 관리하고, 자동화 스크립트를 작성하며, 에디터 설정을 조정하는 데 시간을 투자합니다. 그러나 실제로 자신만의 애플리케이션을 만드는 일은 얼마나 자주 시도할까요? 개발할 수 있는 능력이 있음에도 불구하고, 단기간에만 필요할 것 같거나 너무 특정한 목적이라서, 혹은 시간이 많이 들 것 같아서 포기하게 되는 경우가 많습니다. 이것이 바로 오늘날 소프트웨어 환경의 아이러니입니다. 우리는 강력한 컴퓨터를 손에 들고 있지만, 그 컴퓨터들이 우리에게 딱 맞춰져 있지는 않..
Self-RAG란? 전통적인 RAG 한계를 넘어서는 새로운 검색 방식 1. 기존 RAG 한계와 Self-RAG 필요성**RAG(Retrieval-Augmented Generation)**는 질문에 답변할 때 검색 기능을 추가해 좀 더 정확한 정보를 제공할 수 있도록 설계된 모델입니다. 하지만, 기존 RAG의 경우 모든 질문에 대해 일괄적인 검색을 수행하는 특징이 있어 자원 낭비와 불필요한 정보 혼란을 초래할 수 있습니다. RAG 모델은 질문을 이해한 후 자동으로 검색을 수행하기 때문에, 때로는 검색이 필요 없는 질문에도 검색을 시도하여 효율성이 떨어질 수 있습니다.이와 달리 Self-RAG는 이러한 한계를 극복하고자 등장했습니다. Self-RAG는 **반영 토큰(Reflection Tokens)**을 사용하여 필요할 때에만 검색을 수행하게 하고, 검색된 정보 중에서도 필요..
AI 생성 콘텐츠 탐지: 구글 'SynthID'와 워터마킹 기술의 중요성 생성형 인공지능(Generative AI)은 다양한 콘텐츠를 쉽고 빠르게 제작할 수 있어 많은 사람들이 과제나 글 작성에 활용하고 있습니다. 그러나 AI가 생성한 콘텐츠를 사람이 직접 작성한 것처럼 제출할 경우, 이를 구분하고 진위 여부를 확인하는 것이 중요한 문제가 되고 있습니다. 이를 해결하기 위한 핵심 기술 중 하나가 '워터마킹'입니다. 이번 글에서는 구글의 최신 AI 감지 도구인 'SynthID'와 워터마킹 기술에 대해 깊이 있게 알아보겠습니다.워터마킹이란 무엇인가요?워터마킹(watermarking)은 원래 이미지나 영상에 보이지 않는 식별 정보를 삽입해 원본을 보호하거나 출처를 확인할 수 있도록 하는 기술입니다. 이 기술을 텍스트에도 적용할 수 있으며, AI가 생성한 텍스트에는 사람이 쉽게 알아..
Modular RAG: 진화하는 RAG 시스템의 새로운 패러다임 - LEGO처럼 유연한 AI 검색 시스템 최근 AI 기반 검색 및 정보 추출 시스템에서 RAG (Retrieval-Augmented Generation) 모델이 큰 주목을 받고 있습니다. Advanced RAG 모델은 성능과 실용성이 크게 향상되었지만, 실제 애플리케이션에서의 다양한 요구 사항을 충족하기에는 여전히 부족한 부분이 있습니다. 특히, 사용자 요구 사항이 계속해서 진화하고 복잡해짐에 따라, 고정된 구조의 RAG는 여러 한계에 부딪힐 수밖에 없습니다. Naive RAG와 Advanced RAG는 기본적으로 단방향 구조로 설계되어 있어 모든 단계를 처음부터 잘 설계해야 하고, 단계별로 되돌리거나 조정하는 데 어려움이 따릅니다.이러한 한계를 극복하기 위해 등장한 개념이 Modular RAG입니다. 모듈형 RAG는 이름 그대로 다양한 기능 ..
Object Detection의 필수 요소! Intersection over Union (IoU)의 역할과 활용법 1. IoU(Intersection over Union)란 무엇인가요?객체 인식(Object Detection)에서 **Intersection over Union(IoU)**은 두 바운딩 박스 간의 중첩 정도를 측정하는 지표입니다. 이는 모델이 예측한 바운딩 박스가 실제 객체를 얼마나 정확히 포착했는지 평가하기 위해 사용됩니다. IoU는 ground-truth 바운딩 박스와 예측 바운딩 박스 간의 중첩 영역을 기준으로 계산되며, 다음의 공식으로 정의됩니다:​교집합 영역이 클수록 모델이 객체 위치를 정확히 예측했음을 나타내며, 반대로 IoU 값이 작으면 예측이 부정확함을 의미합니다.2. IoU의 역할과 필요성머신 러닝의 분류(Classification) 문제에서는 단순히 예측 클래스가 실제 클래스와 일치하..
OpenAI 프롬프트 캐싱: 비용 절감과 지연 시간 감소로 효율적인 AI 활용법! AI 모델을 사용할 때 가장 큰 고민 중 하나는 긴 입력 프롬프트로 인한 비용 부담과 응답 지연 시간입니다. 특히, RAG(Retrieval-Augmented Generation)처럼 긴 문서를 기반으로 AI 답변을 생성하는 작업을 할 때, 매번 동일한 프롬프트가 반복되면 비용이 급격히 증가할 수 있습니다. 이런 문제를 해결하기 위해 OpenAI는 최근에 프롬프트 캐싱 기능을 도입했습니다. 이 기능을 통해 동일한 입력에 대해 처리 속도를 높이고, 비용을 절감할 수 있는 방법을 알아보겠습니다.프롬프트 캐싱이란?**프롬프트 캐싱(Prompt Caching)**은 반복적으로 사용되는 프롬프트를 서버에 저장하여, 이후 동일한 프롬프트가 다시 들어왔을 때 이를 빠르게 처리하는 기능입니다. 즉, 처음 요청된 긴 프..

티스토리툴바