본문 바로가기

728x90
반응형

전체 글

(4051)
Spotify와 YouTube Music을 한 앱에서 쓰는 비공식 안드로이드 플레이어 Square와 이용약관 위험 Square는 Spotify와 YouTube Music의 음악 콘텐츠를 하나의 앱에서 이용할 수 있도록 설계된 비공식 안드로이드 음악 플레이어다. Liquid Glass 디자인을 적용한 사용자 인터페이스를 기반으로 음악 재생, 플레이리스트 관리, 가사 표시, 오프라인 재생, 오디오 효과 등 다양한 기능을 제공한다. 다만 Spotify와 Google의 공식 앱이 아니며, 두 서비스의 이용약관과 관련된 위험이 있어 사용 전 주의가 필요하다.이 글에서는 Square의 주요 기능과 사용자 인터페이스, 음악 재생 및 라이브러리 관리 기능, Spotify 연동에 필요한 조건, 설치 및 사용 시 고려해야 할 사항을 살펴본다. 특히 공식 음악 서비스 앱과 비교해 어떤 특징이 있는지, 실제 사용을 검토할 때 어떤 제약과..
장편 AI 영상의 공간과 시간 일관성을 지키는 월드 상태 기반 영상 생성 프레임워크 ATAS AI 영상 생성 기술이 발전하면서 하나의 장면을 만드는 것을 넘어, 여러 장면이 연결되는 장편 영상을 제작하려는 시도가 이어지고 있습니다. 그러나 영상의 길이가 길어지고 장면 전환이 많아질수록 인물의 외형, 배경 구조, 사건의 흐름을 일관되게 유지하기 어려워집니다. 특히 이전에 등장했던 장소를 다른 시점에서 다시 보여주거나, 과거에 발생한 사건을 새로운 카메라 앵글로 재현하려면 장면 간 정보를 체계적으로 관리할 수 있어야 합니다.이러한 문제를 해결하기 위한 접근 방식으로 GitHub에 공개된 ATAS 프로젝트가 있습니다. ATAS는 영상 전체에 걸쳐 유지되는 월드 상태(World State)를 중심으로 각 장면을 생성하고, 새롭게 생성된 영상이 기존 세계의 상태와 일치하는지 검증한 뒤 반영하는 프레임워크..
AI 챗봇이 사용자의 잘못된 믿음에 맞장구치지 않게 하는 지침 설계와 자기 성찰 단계의 효과 AI 챗봇은 사용자가 개인적인 생각이나 감정을 편하게 이야기할 수 있는 대화 도구입니다. 하지만 사용자의 말에 지나치게 동의하면 잘못된 믿음을 강화하거나 다른 관점에서 생각할 기회를 줄일 수 있습니다. 이러한 문제를 해결하기 위해 조지아공과대학교(Georgia Institute of Technology) 연구진은 AI 모델의 응답 지침을 변경하고 자기 성찰 단계를 추가하는 방법을 연구했습니다. 시뮬레이션 대화를 통해 확인한 결과, 간단한 지침 변경만으로도 잘못된 믿음에 대한 동조를 줄일 가능성이 나타났습니다. 이번 연구의 주요 내용과 기술적 의미, 그리고 실제 AI 서비스에 적용할 때 고려해야 할 한계를 살펴보겠습니다.AI 챗봇의 과도한 동조, 왜 문제가 될까?AI 챗봇은 사용자의 질문에 답하는 것을 넘..
AI 에이전트의 KV 캐시를 직접 제어해 비용과 지연을 줄이는 캐시 엔지니어링과 AKV 서빙 엔진 AI 에이전트가 복잡한 검색, 코드 수정, 다단계 추론 등의 작업을 수행하려면 이전에 관찰한 정보와 실행한 작업을 지속적으로 참조해야 합니다. 작업이 길어질수록 누적되는 대화 기록과 도구 실행 결과는 모델이 처리해야 하는 컨텍스트를 증가시키며, 이에 따라 추론 비용과 처리 지연도 커질 수 있습니다.이러한 문제를 해결하기 위해 기존에는 대화 기록을 요약하거나 오래된 내용을 삭제하는 방식이 활용됐습니다. 그러나 기록을 수정하면 이미 계산한 정보를 다시 처리해야 할 수 있고, 중요한 정보를 제거하면 작업 정확도가 떨어질 수 있습니다. 결국 캐시 재계산 비용을 줄이면서도 필요한 정보를 유지하는 것이 장시간 실행되는 AI 에이전트의 중요한 과제가 됩니다.칭화대학교와 홍콩중문대학교 연구진이 발표한 논문 Cache ..
오픈 웨이트 모델을 하나의 API로 운영하는 You.com Inference Router, 가동률 SLA와 데이터 보존 정책 정리 오픈 웨이트(Open-weight) 모델을 실제 서비스에 적용하려면 모델 성능과 추론 비용만 고려해서는 안 됩니다. 안정적인 가동률, 데이터 보안, 데이터 저장 정책, 미국 내 호스팅, 장애 발생 시 대체 처리까지 함께 검토해야 합니다. 여러 모델을 테스트한 뒤에도 보안 및 운영 요건을 충족하지 못해 서비스 전환이 지연되는 이유입니다.You.com은 이러한 문제를 해결하기 위해 오픈 웨이트 모델을 하나의 API로 호출하고, 장애 발생 시 다른 추론 제공업체로 요청을 전환하는 Inference Router를 공개했습니다. You.com이 직접 밝힌 주요 특징은 최소 99.9% 가동률 서비스 수준 협약(SLA), 기본 적용되는 제로 데이터 보존(ZDR), 100% 미국 내 호스팅, 플랫폼 수수료 0%입니다...
강화학습 파이프라인을 역할별 서비스로 나누는 비동기 RL 프레임워크, OpenBMB Meshy 대규모 언어 모델(LLM)의 강화학습(Reinforcement Learning, RL)에서는 모델 추론, 학습, 데이터 생성 등의 작업을 효율적으로 연결하고 GPU 자원을 관리하는 것이 중요합니다. 특히 여러 작업이 동시에 실행되는 환경에서는 서비스 간 데이터 전달과 실행 순서를 조율하는 구조가 전체 시스템 설계의 핵심이 됩니다.OpenBMB의 Meshy는 이러한 문제를 해결하기 위해 설계된 역할 기반 강화학습 학습 프레임워크입니다. SPMD(Single Program, Multiple Data) 패러다임을 바탕으로 추론, 학습, 롤아웃 등의 역할을 독립적인 서비스로 구성하고, TransferQueue를 통해 데이터 전달과 실행 제어를 통합합니다. 또한 동일한 서비스 구성을 활용하면서 동기식부터 완전 비..
AI 에이전트가 아이폰 앱을 조작하는 방법, Phone Use의 구조와 벤치마크 결과 AI 에이전트가 모바일 앱을 직접 조작하려면 화면을 인식하는 것만으로는 충분하지 않습니다. 현재 화면의 정보를 파악하고, 적절한 동작을 수행한 뒤, 작업이 의도대로 완료됐는지 확인할 수 있어야 합니다. 반복 작업이라면 이전에 성공한 경로를 저장해 다음 실행에 활용하는 능력도 중요합니다.Phone Use는 이러한 요구를 해결하기 위해 소개된 AI 에이전트용 모바일 실행 환경입니다. 접근성 트리를 활용한 인터페이스 분석, 동작 이후의 결과 검증, 앱 화면과 전환 경로의 기록, 성공한 작업의 재실행을 하나의 실행 환경으로 연결합니다. 터미널 명령어를 이용한 작업 수행부터 실행 과정의 추적까지 지원하는 것이 주요 특징입니다.이 글에서는 Phone Use의 핵심 구조와 동작 방식, 실제 사용 예제, 작업 기록 및..
생성형 AI를 50ms 미만 실시간 요청 경로에 올리는 Liquid AI의 저지연 추론 엔진 RIPL 생성형 AI를 실시간 서비스에 적용하려면 모델의 성능뿐 아니라 응답 속도도 중요합니다. 검색 순위 결정, 상품 추천, 사기 탐지, 결제 승인과 같은 업무에서는 응답이 조금만 늦어져도 사용자 경험과 서비스 흐름에 영향을 줄 수 있습니다. 이러한 환경에서는 수 초가 아닌 밀리초 단위의 응답 시간이 요구됩니다.Liquid AI는 이러한 요구사항을 해결하기 위해 Liquid RIPL(Real-time Inference Pipeline) 을 발표했습니다. RIPL은 Liquid Foundation Models(LFMs)를 실시간 요청 처리 경로에 직접 배치해, 생성형 AI의 추론 응답 시간을 단축하는 데 초점을 맞춘 엔진입니다. Liquid AI는 RIPL이 전체 생성 응답을 50ms 미만에 반환하고, 높은 부하..
Google Cloud에서 Anthropic이 직접 관리하는 Claude 모델, 설정부터 마이그레이션까지 Google Cloud에서 Claude 모델을 사용하는 방법은 Anthropic이 직접 관리하는 방식과 Google이 관리하는 방식으로 구분됩니다. 두 방식은 모두 Google Cloud 환경에서 Claude 모델을 활용할 수 있지만, 계정 관리와 인증, API 호출 방식 및 기능 지원 범위에서 차이가 있습니다.이 글에서는 Anthropic 관리형 Claude 모델(Anthropic managed)을 중심으로 계정 설정부터 IAM 권한 구성, API 호출, 지원 기능, 과금 및 기존 환경에서의 마이그레이션까지 살펴봅니다. 특히 Google Cloud를 통해 사용 권한과 비용을 관리하면서 Anthropic의 Claude API를 활용하려는 개발자라면, 두 관리 방식의 차이와 API 키를 사용하지 않는 인증..
사내 지식을 AI와 연결하는 오픈소스 플랫폼 Onyx의 구조와 주요 기능 AI를 업무에 도입할 때 중요한 과제 중 하나는 사내에 흩어져 있는 지식을 AI가 얼마나 정확하게 활용할 수 있는가입니다. 일반적인 대규모 언어 모델(LLM)은 공개된 정보에 대한 답변을 제공할 수 있지만, 조직 내부의 문서와 업무 도구에 저장된 정보까지 자동으로 파악하지는 못합니다. 팀의 업무 맥락을 이해하고 실제 업무에 활용하려면 별도의 지식 연결 구조가 필요합니다.Onyx는 이러한 문제를 해결하기 위해 개발된 오픈소스 AI 지식 플랫폼입니다. 여러 업무 애플리케이션에 분산된 정보를 연결하고, 검색과 검색 증강 생성(RAG)을 통해 AI가 필요한 지식을 활용할 수 있도록 지원합니다. 단순한 AI 채팅 인터페이스를 넘어 리서치, 사용자 정의 에이전트, 외부 도구 연동 등 다양한 기능을 하나의 환경에서 ..

728x90
반응형