TLS 1.3이란? TLS 1.3 (Transport Layer Security 1.3)은 인터넷에서 안전한 통신을 위해 사용되는 프로토콜 중 하나입니다. 이전 버전의 TLS/SSL에 비해 보안성이 향상되어 있으며, 보안 알고리즘 및 핸드쉐이크 프로세스 등이 개선되어 더욱 안전한 통신이 가능합니다. TLS 1.3은 2018년 8월에 RFC 8446으로 표준화되었습니다. 이전 버전의 TLS와 달리 더욱 간결한 디자인을 채택하여 보안성을 강화하면서도 연결 시간을 줄이는 데 주력하였습니다. TLS 1.3의 핵심적인 개선 사항으로는 다음과 같은 것들이 있습니다. 핸드쉐이크 과정 최적화: 기존의 2라운드 핸드쉐이크 과정에서 1라운드로 간소화되어 연결 시간이 크게 단축됩니다. 암호화 강화: 보안성이 더욱 강화된 새..
UUID란 무엇인가? UUID는 "Universally Unique Identifier"의 약어로, 고유한 식별자를 생성하기 위한 포맷 중 하나입니다. UUID는 128비트의 식별자로, 일반적으로 16진수로 표현된 32개의 문자열로 구성됩니다. UUID는 대규모 분산 시스템에서 개체나 엔티티를 고유하게 식별하기 위해 사용됩니다. UUID는 시간, 컴퓨터의 MAC 주소, 임의의 값을 조합하여 생성됩니다. 이를 통해 고유성이 보장됩니다. UUID는 표준으로서, 다양한 프로그래밍 언어와 플랫폼에서 지원되며, 많은 개발자들이 사용하고 있습니다. 그러나, UUID는 생성된 순서나 시간순으로 정렬이 되지 않으므로, 대규모 분산 시스템에서 빠른 검색이나 정렬이 필요한 경우에는 적합하지 않을 수 있습니다. 또한, UU..
데이터 플랫폼의 데이터 저장소 구성시, 명확하고 일관된 원칙을 갖는 것이 중요하다. 이 일관된 원칙은 표준화된 파이프라인 구축이 가능하게 하고 대규모 파이프라인을 효율적으로 관리 할 수 있게 도와준다. 아래 그림은 많은 유스케이스를 충족시킬 수 있는 스토리지 구성 패턴이다. (1) 수집 계층에 데이터는 랜딩(Landing) 영역에 저장된다.랜딩 영역은 원시 데이터가 처리될 때까지 저장돼 있는 곳이다. (랜딩 영역에 기록할 수 있는 계층은 오직 수집 계층이다.) (2) 원시 데이터는 일련의 공통 변환 과정을 거치게 된다. 그리고 스테이징 영역에 저장된다. (3) 원시 데이터는 랜딩 영역에서 아카이브 영역으로 복제된다. 아카이브 영역에 원시 데이터의 활용 목적은 재처리가 필요한 경우, 파이프라인 디버깅을 해..
Lake Formation 데이터레이크(Data Lake)란? 데이터레이크는 정형 혹은 비정형 데이터에 상관 없이 어떤 규모에서도 저장 및 분석이 가능한 단일 저장소를 이야기 한다. 주요하게 기억해야 할 사항 데이터 형식에 제약이 없어야 한다. (정형, 비정형, 반정형 모두 지원되어야 한다) 규모에 제약이 없어야 한다. (다양한 규모의 데이터를 지원할 수 있어야 한다) 단일 저장소 형태여야 한다. 데이터레이크를 위한 필수 사항 : 모든 규모의 정형 및 비정형 데이터를 관리, 탐색, 공유, 분석 할 수 있는 유연하고 안전한 저장소 구분 내용 데이터 저장소 단일 지점에서 모든 데이터를 활용할 수 있어야 한다. 데이터 형식 다양한 데이터 형식을 모두 지원 가능해야 한다. 정형, 반정형, 비정형, 원시 데이터 ..
오늘은 자연어 처리 분야 입문에 많은 도움이 될 수 있는 책을 소개할까 합니다. 이 책은 데이터 과학자와 개발자가 텍스트 분석 및 자연어 처리를 비즈니스에 쉽게 도입할 수 있도록 안내하는 서적 입니다. 인공지능 기술이 많이 성숙화 되면서, 이제 연구를 넘어 실제 서비스로 많이 도입되고 있는 것 같습니다. 그래서인지 인공지능 분야에 엔지니어와 관련된 내용과 연구에 대한 양쪽 모두에 대한 내용이 다양한게 많이 보이는 것 같습니다. 그 중 이 책은 자연어 처리의 엔지니어 적인 기술적 내용과 연구를 하기 위해 필요한 기본적인 내용을 다룬 책입니다. 데이터와 인공지능 분야에 몸담고 있다면 파이썬이라는 개발 언어는 이제 너무나 익숙할 텐데요. 이와 같이 익숙한 파이썬 언어를 통해 텍스트를 어떻게 다루고 분석하고 활..
데이터 플랫폼 빌딩 블록 : 상위 레벨 아키텍처 구분 내용 데이터 플랫폼의 빌딩 블록 데이터 플랫폼의 목적 분석에 활용될 수 있도록 어떤 유형의 데이터든 최대한 비용 효과적인 방식으로 데이터를 수집, 저장, 처리해서 활용할 수 있도록 제공하는 것 계층간 느슨하게 결합돼 있는 형태의 아키텍처를 지향한다. 각 계층은 각가의 특정 역할을 담당하고, 잘 정의된 API를 통해 각 계층간 상호교류한다. 수집 계층 (Ingestion Layer) 데이터를 데이터 플랫폼으로 가져오는 역할 관계형 데이터베이스, NoSQL 데이터베이스, 파일 스토리지, 사내 API, 타사 API 등..에 접속해 데이터를 추출하는 역할을 담당 유연성이 높아야 한다. >> 활용하고자 하는 데이터 소스가 다양해 지고 있음 대부분 오픈 소스 툴..
시간이 지날수록 데이터의 중요성은 점점 더 커져가는 것 같습니다. 지금 이 시점에서 빅데이터의 필요성을 아직 의심하는 사람은 없을 것 입니다. 인공지능에 대한 기대와 데이터가 주는 가치를 빠르게, 알고 이미 많은 기업들이 많은 데이터를 확보하고 있습니다. 하지만 조금 더 한발자국 깊이있게 들어가보면 제대로 데이터를 잘 활용하는 경우는 그리 많지 않습니다. 아직 대부분 데이터를 수집하는 것에 집중하고 있으며, 수집한 데이터를 어떻게 사용해야 하는지 방황해 하는 기업들이 많은 것 같습니다. 그렇다면, 이제 우리는 어디에 집중하고 많이 고민해야 할까요? 저는 데이터를 어떻게 사용하고, 시장을 바꿀 수 있는 방향에 대해 더 많이 고민하는 것이 어떨까? 라고 제안해봅니다. 그리고 수집을 하는 것에 더해, 활용할 ..
프로젝트에 어떤 프로그램 언어를 사용하시나요? 현재 공부하고 계신분들이라면, 어떤 기준으로 첫 언어를 선택 하셨나요? 프로그램 언어를 선택하거나, 프로젝트에 기술을 선택하는 기준은 정말 다양할 것입니다. 팀원들에 스킬을 반영하여, 선정이 될 수도 있구요. 프로젝트의 일정과 주어진 자원이 먼저 고려가 되는 경우도 많을 것 입니다. 또 어떤 경우가 있을까요? 팀 리더라면, 개발자를 쉽게 구할 수 있는 트렌디한 기술을 선택할 수도 있겠죠? 위에 말씀 드린 내용들은 기술을 검토하고 선정할 때, 모두 중요한 요소이며, 검토 되어야 할 항목들 임은 틀림 없습니다. 하지만 IT 개발자라면, 무엇보다도 중요하게 생각되는 녀석이 바로 성능일 것 입니다. 적은 비용으로, 최고의 성능을 낼 수 있는 기술이 곧 시장을 앞서 ..
MLOps라는 말 많이 들어보셨죠? 아마 처음 듣는 분들도 있으실 거예요. 그렇다면 DevOps는 들어보셨나요? DevOps가 소프트웨어 개발과 운영의 합성어인 것 처럼 MLOps는 MachineLearning과 운영의 합성어 입니다. 인공지능 기술의 발전이 엄청나게 빠르게 이루어지고 다양한 분야의 인공지능 기술들이 고도화 됨으로써, 더 빠르고 효율적으로 머신러닝 서비스를 관리할 수 있는 기술 또한 지속적으로 발전해나가고 있습니다. 소프트웨어 개발과 운영의 프로세스를 단순화하고 많은 부분이 자동화 함으로써 소프트웨어 애플리케이션 개발 생산성이 엄청나게 올라갔듯이, 머신러닝 분야에서도 이와 같은 노력이 당연하게 이루어지고 있습니다. 이런 노력이 결국 MLOps로 모여드는 것이죠. 오늘은 제가 관심을 많이 ..
JPA 구현체로 하이버네이트를 사용하기 위해 필요한 lib는 아래와 같다. 구분 내용 gradle 참고용 hibernate-core 하이버네이트 라이브러리 * hibernate-entitymanager를 라이브러리로 지정하면 hibernate-core도 함께 내려 받는다. hibernate-entitymanager 하이버네이트가 JPA 구현체로 동작하도록 JPA 표준을 구현한 라이브러리 implementation group: 'org.hibernate', name: 'hibernate-entitymanager', version: '5.5.2.Final' hibernate-jpa-2.1-api JPA 2.1 표준 API를 모아둔 라이브러리 * hibernate-entitymanager를 라이브러리로 지정하..
- Total
- Today
- Yesterday
- it
- 머신러닝
- SW
- 텐서플로우
- 데이터플랫폼설계
- mlops
- AWS
- Rest
- 데이터
- 교육
- 쿠버네티스
- 프롬프트엔지니어링
- llm
- 딥러닝
- 인공지능
- ai
- 데이터플랫폼
- okhttp
- 소프트웨어교육
- Java
- rest api
- java8
- springboot
- 데이터파이프라인
- API
- Spring
- 소프트웨어
- 빅데이터
- http client
- tensorflow
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | |||
5 | 6 | 7 | 8 | 9 | 10 | 11 |
12 | 13 | 14 | 15 | 16 | 17 | 18 |
19 | 20 | 21 | 22 | 23 | 24 | 25 |
26 | 27 | 28 | 29 | 30 | 31 |