Hadoop 개요 아파치 하둡(Apache Hadoop)은 대용량 데이터를 분산 처리하기 위한 오픈소스 프레임워크로, 구글의 맵리듀스(MapReduce)와 구글 파일 시스템(GFS)을 기반으로 개발되었습니다. 하둡은 수천 대의 일반적인 하드웨어 서버로 구성된 클러스터에서 페타바이트(PB) 규모의 데이터를 저장하고 분석할 수 있는 능력을 제공합니다. 특히, …
검색 결과
"Avro"에 대한 검색 결과 (총 6개)
처리량 최적화 (Throughput Optimization) 1. 개요 1.1 정의 처리량(Throughput)이란 단위 시간당 시스템이 성공적으로 처리하여 완료한 작업의 양을 의미합니다. 시스템 성능 측정에서 처리량은 전체적인 생산성과 처리 능력을 나타내는 핵심 지표입니다. 이때 시스템 처리 용량(Capacity)은 시스템이 이론적으로 처리할 수 있는 최…
ORC (Optimized Row Columnar) 1. 개요 ORC(Optimized Row Columnar)는 Apache Hive를 위해 설계된 고성능 열 지향(Columnar) 저장 형식으로, 대규모 데이터 세트에 대해 효율적인 압축과 빠른 읽기 성능을 제공하는 바이너리 파일 포맷입니다. 빅데이터 환경에서는 수 페타바이트(PB) 이상의 데이터를 처리…
데이터 형식 변환 (Data Format Conversion) 1. 개요 데이터 형식 변환이란 특정 소프트웨어나 시스템에서 생성된 데이터의 구조와 표현 방식(Format)을 다른 시스템이나 애플리케이션에서 인식하고 처리할 수 있는 다른 형식으로 변경하는 과정을 의미한다. 현대의 데이터 생태계는 다양한 언어와 플랫폼으로 구성되어 있어, 서로 다른 시스템 간의…
데이터 형식 변기 개요 데이터 형식환기(Data Format)는 다양한 데이터 형식의 구조적 문법적 표현을 호환 가능한 형태 변환하는 소트웨어 도구 알고리즘을합니다. 데이터 과 및 정보 기술 분에서 데이터는 다양한스에서 수집되, 각 소스마다유한 형식 사용합니다. 예 들어, 관계형베이스는나 SQL 테이블식으로 데이터를하고, IoT 장는 JSON 또는 XML …
직렬화 개요 직렬화(Serialization) 컴퓨터 과학에서 데이터 구조나 객체의 상태를 저장하거나 전송할 수 있도록 일련의 바이트(byte) 형태로 변환하는 과정을 의미합니다. 과정을 통해 메모리 상의 복잡한 데이터를 파일, 데이터베이스, 네트워크 등을 통해 영속화하거나 다른 시스템과 공유할 수 있습니다. 직렬화의 반대 과정은 역직렬화(Deseriali…