본문 바로가기

분류 전체보기

 (465)
systemd service 등록 하는 방법 systemd는 Linux의 초기 프로세스인 init를 대체하여 서비스 관리 등의 역할을 하는 시스템 및 서비스 관리자입니다. systemd를 이용하여 서비스를 등록하려면, systemd 서비스 유닛 파일을 만들어야 합니다. 이는 일반적으로 /etc/systemd/system 디렉토리에 위치합니다. 아래는 기본적인 systemd 서비스 유닛 파일 생성 방법입니다: 1. 새로운 systemd 서비스 파일을 만듭니다. 파일 이름은 보통 '[서비스명].service' 형태를 가집니다. (예를 들어, 'my_service.service'라는 이름으로 파일을 만들 수 있습니다.) sudo vi /etc/systemd/system/my_service.service 2. 아래와 같이 서비스 파일에 내용을 입력합니다...
[인공지능] 할루시네이션 이란 무엇인가? LLM 할루시네이션이란 무엇일까요?LLM(대규모 언어 모델) 할루시네이션은 모델이 실제로 사실이 아닌 정보를 생성하는 현상을 말합니다. 이는 LLM이 학습 데이터의 패턴을 과도하게 일반화하거나 학습 데이터에 없는 새로운 정보를 만들어내기 때문입니다.할루시네이션의 특징사실과 다른 정보LLM은 학습 데이터에 존재하지 않는 정보를 만들어낼 수 있습니다.논리적 오류LLM은 논리적으로 일관성이 없는 문장이나 이야기를 만들어낼 수 있습니다.편향LLM은 학습 데이터의 편향을 반영하여 편향된 정보를 만들어낼 수 있습니다.할루시네이션의 위험잘못된 정보LLM은 사실이 아닌 정보를 만들어낼 수 있어 사용자가 잘못된 정보를 믿게 만들 수 있습니다.편향된 정보LLM은 학습 데이터의 편향을 반영하여 편향된 정보를 만들어낼 수 있..
RAG란 무엇일까요? RAG는 Retrieval Augmented Generation의 약자로, 검색 증강 생성이라는 뜻입니다. 이는 **대규모 언어 모델(LLM)**의 성능을 향상시키기 위한 기술입니다. LLM은 방대한 양의 텍스트 데이터를 학습하여 텍스트 생성, 번역, 질의응답 등 다양한 작업을 수행할 수 있습니다. 하지만 LLM은 학습 데이터 외부의 정보에 접근하지 못하고, 생성된 텍스트의 정확성과 신뢰성이 부족할 수 있습니다. RAG는 LLM의 부족한 부분을 검색 기술로 보완합니다. RAG는 LLM에게 질문을 주면, 먼저 검색 엔진을 사용하여 관련 정보를 검색합니다. 그리고 검색된 정보를 바탕으로 LLM이 텍스트를 생성합니다. 이렇게 하면 LLM이 학습 데이터 외부의 정보도 활용할 수 있고, 생성된 텍스트의 정확성과 ..
플랫폼 엔지니어링에 대해 알아보기 플랫폼 엔지니어링은 안정적이고 확장 가능한 플랫폼을 구축하는데 중점을 둔 엔지니어링 분야입니다. 주로 대규모 시스템의 아키텍처 설계, 인프라스트럭처 관리 및 운영, 자동화, 문제 해결, 성능 최적화, 보안 및 규정 준수 등을 담당합니다. 플랫폼 엔지니어는 다음과 같은 주요 역할을 수행합니다: 아키텍처 설계: 대규모 시스템의 아키텍처를 설계하고 구축합니다. 이는 시스템의 안정성, 확장성 및 성능을 보장하기 위해 중요한 단계입니다. 인프라스트럭처 관리: 서버, 네트워크, 스토리지 등의 인프라스트럭처를 관리하고 운영합니다. 이는 시스템의 안정성과 가용성을 유지하기 위해 필수적입니다. 자동화: 자동화 도구와 프로세스를 구축하여 반복적이고 시간 소모적인 작업을 자동화합니다. 이는 작업의 효율성과 일관성을 향상시키..
Ansible vs Terraform 알아보기 Ansible과 Terraform은 모두 인프라스트럭처 자동화 도구입니다. 하지만 각각의 목적과 사용 방식에 차이가 있습니다. Ansible은 설정 관리 도구이며, 서버 구성, 소프트웨어 배포, 네트워크 구성 등과 같은 작업을 자동화하는 데 사용됩니다. Ansible은 에이전트 없이 SSH를 통해 서버에 연결하여 작업을 수행하며, YAML을 사용하여 작업을 정의합니다. Ansible은 선언적인 언어로 작성되어 있어, 원하는 상태를 설명하고 Ansible이 해당 상태로 변경하도록 지시할 수 있습니다. 반면에 Terraform은 인프라스트럭처 프로비저닝 도구입니다. 클라우드 서비스 공급자 (예: AWS, Azure, Google Cloud)와 같은 인프라스트럭처를 프로그래밍 방식으로 관리할 수 있습니다. T..
LLMOps 이란 무엇인가?! LLMOps는 "Large Language Model Operations"의 약어로, 대규모 언어 모델의 운영과 관리를 의미합니다. 이는 대용량 언어 모델의 훈련, 배포, 업데이트 및 모니터링과 같은 작업을 포함합니다. LLMOps는 기업이나 조직이 언어 모델을 효율적으로 관리하고 운영할 수 있도록 돕는 전략과 방법론을 포함합니다. LLMOps의 목표는 언어 모델의 안정성, 성능, 확장성 및 보안을 보장하면서 모델의 운영 비용을 최소화하는 것입니다. 이를 위해 LLMOps는 다음과 같은 작업을 수행할 수 있습니다: 데이터 관리: 대규모 언어 모델을 훈련시키기 위해 필요한 데이터를 수집, 정제 및 관리하는 작업입니다. 데이터의 품질과 다양성은 모델의 성능에 직접적인 영향을 미치므로, 데이터 관리는 매우 중..
자바 성능 튜닝 정보 알아보기! 구분 내용 -Djava.awt.headless 그래픽 사용자 인터페이스 (GUI)를 지원하는 환경에서 Java 애플리케이션을 실행할 때 사용됩니다. 이 설정은 화면이 없는 서버 환경에서 Java 애플리케이션을 실행할 때 유용합니다. java.awt.headless 시스템 속성을 true로 설정하면, Java 애플리케이션은 그래픽 환경이 없는 "헤드리스" 모드로 실행됩니다. 이 모드에서는 그래픽 화면이 없기 때문에 그래픽 관련 작업을 수행할 수 없습니다. 대신, 이 모드에서는 그래픽 작업을 대신할 수 있는 대체 수단을 사용하게 됩니다. 이러한 설정은 주로 웹 서버, 배치 프로세스 또는 백그라운드 작업과 같이 그래픽 환경이 필요하지 않은 Java 애플리케이션을 개발하고 실행할 때 유용합니다. 이렇게 설정을 ..
SRE에 대해 알아보기!! SRE 개념에 대해 알아보자! SRE는 Site Reliability Engineering의 약자로, Google에서 시작된 용어입니다. 이 용어는 "소프트웨어를 구축하고 운영하는 데 있어서의 신뢰성, 확장성, 그리고 효율성을 책임지는 엔지니어링 팀"을 특별히 지칭합니다. 이 팀은 소프트웨어의 안정적인 작동과 확장 가능성을 보장하며, 시스템의 효율성을 극대화하는 데 중점을 둡니다. SRE의 핵심 원칙은 세 가지 주요 요소로 구성되어 있습니다: 첫째로, **서비스 수준 목표(Service Level Objectives, SLO)**가 있습니다. SRE 팀은 시스템의 장애율, 성능, 그 외 다른 중요한 지표에 대한 목표를 설정합니다. 이 목표는 서비스 수준 합의(Service Level Agreement, ..

티스토리툴바