본문 바로가기

728x90

전체 글

(3991)

크래프톤 Raon-1 mini Preview: 한국어 대화와 AI 에이전트에 특화된 MoE 언어 모델 크래프톤 AI가 개발한 Raon-1 mini는 한국어 대화와 AI 에이전트 작업을 중심으로 설계된 30B-A4B 규모의 MoE(Mixture of Experts) 언어 모델입니다. 모델의 추론 능력과 도구 호출 기능을 바탕으로 복잡한 지시를 처리하고, 검색이나 코딩 등 다양한 에이전트 작업에 활용할 수 있도록 개발됐습니다.Raon-1 mini는 자체 설계한 하이브리드 어텐션 구조와 희소 전문가 활성화 방식을 적용해 모델 전체 파라미터 규모와 실제 추론 시 활성화되는 파라미터 규모를 구분합니다. 또한 최대 262,144토큰의 컨텍스트를 지원하며, Transformers, vLLM, llama.cpp 등 다양한 실행 환경을 제공합니다.이번 글에서는 Raon-1 mini의 주요 기술적 특징과 모델 구조, 공개..

데이터 분석의 숨은 오류를 점검하는 오픈소스 도구, Data Pitfalls 데이터를 분석하고 시각화할 때는 차트의 축 설정이나 색상뿐 아니라 데이터 수집 방식, 분석 기준, 통계적 해석, 결과 전달 과정에서도 오류가 발생할 수 있습니다. 차트가 깔끔하고 SQL 쿼리가 정상적으로 실행되더라도, 분석 과정에 잘못된 가정이나 누락된 데이터가 있다면 결과는 실제 상황을 왜곡할 수 있습니다.Data Pitfalls는 이러한 문제를 점검하기 위해 개발된 오픈소스 도구입니다. 차트 이미지, 코드, 자연어로 작성한 분석 설명, 문서 등을 입력하면 데이터 작업에서 발생할 수 있는 오류를 찾아내고, 문제가 되는 이유와 개선 방향을 구조화된 형태로 제공합니다. Anthropic의 Claude API를 활용하며, 데이터 분석 과정 전반에서 발생할 수 있는 실수를 체계적으로 검토하는 데 초점을 맞춥니..

AI를 활용해 사고력과 전문성을 높이는 6가지 방법 AI가 이메일을 작성하고, 복잡한 개념을 설명하며, 중요한 의사결정까지 도와주는 시대입니다. 필요한 정보를 빠르게 얻을 수 있다는 점은 분명한 장점이지만, AI에 의존하는 습관이 강해지면 스스로 생각하고 문제를 해결하는 능력이 약해질 수 있다는 우려도 있습니다. 그렇다면 AI를 사용하면서도 사고력과 전문성을 함께 키우려면 어떻게 해야 할까요?Fast Company의 기술 칼럼니스트는 AI가 사람의 사고력을 반드시 저하시키는 것은 아니라고 설명합니다. AI를 단순히 결과물을 대신 만들어 주는 도구로 사용하는 대신, 지식을 점검하고 아이디어를 발전시키며 새로운 관점을 발견하는 데 활용할 수 있다는 것입니다.이 글에서는 해당 칼럼의 필자가 제안한 관점을 바탕으로, AI를 활용해 학습 능력과 비판적 사고를 강화..

기업용 자율 AI 에이전트 실행 환경의 보안 아키텍처와 거버넌스 설계 AI 기술이 발전하면서 기업에서 AI를 활용하는 방식도 변화하고 있다. 기존의 대화형 AI가 사용자의 질문에 답변하거나 정보를 요약하는 데 초점을 맞췄다면, 자율 AI 에이전트는 소스 코드를 분석하고, 문서를 검토하며, 테스트를 실행하고, 기업 내부 시스템에 접근하는 등 여러 작업을 연속적으로 수행할 수 있다. 사용자가 자리를 비운 동안에도 작업을 지속할 수 있다는 점에서 업무 자동화의 범위가 크게 확대된다.그러나 에이전트의 자율성이 높아질수록 보안과 통제의 중요성도 커진다. 에이전트가 잘못된 지시를 따르거나 외부 콘텐츠에 포함된 악의적인 지시에 영향을 받으면 의도하지 않은 파일 변경, 시스템 데이터 수정, 민감 정보 유출 등의 문제가 발생할 수 있다. 특히 에이전트가 기업 내부 데이터와 외부 네트워크에..

Google Cloud, AI 에이전트 실행 인프라와 통합 거버넌스 체계 확장 AI 에이전트가 단순한 질의응답을 넘어 코드를 실행하고, 도구를 호출하며, 브라우저를 제어하고, 기업 업무를 자동으로 수행하는 단계로 발전하면서 이를 뒷받침하는 인프라의 역할도 달라지고 있다. 에이전트를 실행하는 것만으로는 충분하지 않다. 여러 에이전트가 동시에 동작하는 환경에서 실행 효율성과 보안을 확보하고, 각 에이전트의 권한과 활동을 일관되게 관리할 수 있어야 한다.Google Cloud는 2026년 10월 22일 AGNTCon 및 MCPCon 행사에서 이러한 요구에 대응하기 위한 Agent Compute Engine과 AI 에이전트 거버넌스 기능의 확장 계획을 발표했다. 또한 Kubernetes 환경에서 활용할 수 있는 오픈소스 실행 런타임 Agent Substrate on GKE도 소개했다.이번..

Perplexity의 JOLT: 교사와 학생 모델을 함께 학습해 강화학습 효율을 높이는 방법 대규모 언어 모델(LLM)이 수학 문제를 해결하거나 코드를 작성하고, 여러 단계를 거쳐 작업을 수행하는 에이전트로 발전하면서 학습 과정의 효율성이 중요한 과제로 떠오르고 있습니다. 특히 강화학습에서는 정답을 맞혔는지, 작업을 성공적으로 완료했는지와 같은 결과 중심의 보상만으로는 어떤 행동이 성공에 기여했는지 세밀하게 파악하기 어렵습니다.Perplexity와 NVIDIA 연구진은 이러한 문제를 해결하기 위한 학습 방법인 JOLT(Joint On-Policy Learning and Teaching)를 소개했습니다. JOLT는 하나의 모델이 교사(Teacher)와 학생(Student) 역할을 동시에 수행하고, 교사 역할을 맡은 모델까지 함께 학습한다는 점이 특징입니다. 이를 통해 학생 모델이 실제로 활용할 수..

AI 에이전트 기반 오픈소스 보안 테스트 도구의 특징과 활용 방법 애플리케이션의 보안 취약점을 사전에 발견하고 대응하는 일은 개발 과정에서 중요한 과제입니다. 하지만 수동 침투 테스트는 전문 인력과 시간이 필요하고, 정적 분석 도구는 실제 실행 환경에서 발생하는 문제를 파악하는 데 한계가 있을 수 있습니다. 이러한 문제를 해결하기 위한 접근 방식 중 하나가 AI 에이전트를 활용한 자동화된 보안 테스트입니다.Strix는 AI 에이전트가 애플리케이션을 동적으로 분석하고, 발견한 취약점을 검증하도록 설계된 오픈소스 침투 테스트 도구입니다. 여러 에이전트가 협력해 보안 점검을 수행하고, 분석 결과와 개선 방향을 제공하는 것이 주요 특징입니다. 개발자와 보안 담당자는 이를 활용해 애플리케이션의 보안 상태를 점검하고 개발 단계에서 취약점에 대응할 수 있습니다.이 글에서는 Stri..

16.9MB 음성 인식 모델 Cactus Whistle, Whisper Base와 성능 및 속도 비교 음성 인식 모델을 선택할 때는 인식 정확도뿐 아니라 모델 크기, 추론 속도, 메모리 사용량, 실시간 처리 성능까지 함께 고려해야 합니다. 특히 GPU 없이 CPU만으로 음성 인식 기능을 구현하려는 환경에서는 이러한 요소가 시스템의 비용과 응답 속도에 직접적인 영향을 미칩니다.Cactus Compute의 Whistle은 단일 파일 크기가 16.9MB인 경량 음성 인식 모델로, CPU 환경에서 동작하며 단어별 타임스탬프와 확률 정보를 제공합니다. 모델 카드에서는 LibriSpeech 벤치마크를 기준으로 Whisper Base보다 높은 성능을 주장하고 있습니다. 그렇다면 실제 테스트에서도 이러한 차이가 나타날까요?이번 글에서는 MarkTechPost가 2026년 10월 21일 공개한 Cactus Whistle..

ChatGPT와 Google 검색의 트래픽 및 전환 성과 비교: 100개 웹사이트 분석 AI 검색이 주목받으면서 ChatGPT가 실제 웹사이트 방문과 전환에 얼마나 기여하는지에 대한 관심도 높아지고 있습니다. 하지만 AI 검색의 성장 가능성과 현재 비즈니스에 유입되는 트래픽 규모는 구분해서 살펴볼 필요가 있습니다.Search Engine Land가 2026년 10월 21일 보도한 마리 헤인즈(Marie Haynes)의 분석에 따르면, 100개 웹사이트에서 ChatGPT가 유입시킨 세션은 Google 오가닉 검색 세션의 0.62% 수준이었습니다. 전환율만 보면 ChatGPT 방문자가 Google 오가닉 검색 방문자보다 높은 수치를 기록했지만, 전체 전환 규모에서는 Google이 크게 앞섰습니다.이번 글에서는 해당 분석의 주요 수치를 바탕으로 ChatGPT와 Google 검색의 트래픽 및 전환..

로컬 LLM 기반 자율형 코딩 에이전트의 특징과 활용 방법 AI를 활용한 개발 환경에서는 단순히 코드를 생성하는 것을 넘어 프로젝트 구조를 분석하고, 파일을 수정하고, 명령어를 실행한 뒤 결과까지 검증하는 자동화 기능이 중요해지고 있습니다. 하지만 개발 프로젝트를 클라우드 기반 AI 서비스에 연결하는 것이 부담스럽거나, API 키와 외부 서비스에 대한 의존성을 줄이고 싶은 개발자라면 다른 접근 방식도 고려할 수 있습니다.GitHub에 공개된 Agent Smith Reloaded는 이러한 요구를 해결하기 위해 설계된 로컬 우선(Local-first) AI 코딩 에이전트입니다. 로컬에서 실행되는 대규모 언어 모델(LLM)을 활용해 프로젝트 파일을 읽고, 코드를 수정하고, 터미널 명령을 실행하며, 변경 결과를 검증하는 개발 환경을 제공합니다.이 프로젝트의 핵심은 AI..

이전 1 2 3 4 ··· 400 다음

728x90

티스토리툴바