MapReduce 개요 MapReduce는 대규모 데이터셋을 분산 처리하기 위한 프로그래밍 모델이자 소프트웨어 프레임워크로, 구글에서 2004년에 발표한 논문을 통해 처음 공개되었습니다. 이 모델은 수천 대의 컴퓨터로 구성된 클러스터에서 병렬로 데이터를 처리할 수 있도록 설계되어, 빅데이터 환경에서 매우 중요한 역할을 합니다. MapReduce는 두 가지 …

Hadoop 개요 아파치 하둡(Apache Hadoop)은 대용량 데이터를 분산 처리하기 위한 오픈소스 프레임워크로, 구글의 맵리듀스(MapReduce)와 구글 파일 시스템(GFS)을 기반으로 개발되었습니다. 하둡은 수천 대의 일반적인 하드웨어 서버로 구성된 클러스터에서 페타바이트(PB) 규모의 데이터를 저장하고 분석할 수 있는 능력을 제공합니다. 특히, …

멀티스레 개요 멀티스레(Multithreading은 하나의 프로스 내에서 여러의 스레드)를 동시에 실행하여로그램의 성과 반응성을상시키는 병렬팅 기법입니다 각 스레드 독립적인 실행 흐을 가지며, 프로세스의모리 공간과원을 공유으로써 효율적인 공유와 통신 가능합니다. 멀스레딩은 현 소프트웨어 개발에서 매우 중요한 개념으로, 특히 다중 코어 프로세서 환경에서 성능…

빅데이터 분석 (Big Data Analytics) 1. 개요 빅데이터 분석이란 기존의 데이터베이스 관리 도구로는 수집, 저장, 관리, 분석하기 어려울 정도로 거대한 규모와 복잡성을 가진 데이터 집합(Big Data)으로부터 유의미한 패턴, 상관관계, 추세 및 통찰력을 추출하는 고도의 분석 프로세스를 의미한다. 전통적인 데이터 분석이 정형 데이터(Struc…

빅데이터 (Big Data) 1. 개요 빅데이터란 기존의 데이터베이스 관리 도구로는 수집, 저장, 관리, 분석하기 어려울 정도로 방대한 양과 다양한 형태를 가진 데이터 집합, 그리고 이를 처리하고 분석하여 가치 있는 정보를 추출하는 기술을 의미한다. 전통적인 데이터가 주로 정형화된 수치나 텍스트 중심의 관계형 데이터베이스(RDBMS)에 저장되었다면, 빅데이…

대규모 데이터 처리 (Large-Scale Data Processing) 개요 대규모 데이터 처리(Large-Scale Data Processing)는 방대한 양의 데이터(빅데이터)를 효율적으로 수집, 저장, 분석 및 시각화하기 위한 기술적 접근법과 아키텍처를 포괄하는 개념입니다. 전통적인 단일 서버 기반의 데이터 처리 방식은 데이터의 볼륨(Volume),…

빅데이터 분석 플랫폼 개요 빅데이터석 플랫폼은 대의 구조화, 반구조, 비구조화 데이터를 수집, 저장, 처리, 분석 시각화할 수 있도록 설계 소프트웨어 시스템 또는 통합 환경을 의미합니다. 현대 기업과 기관은 매일 페타바이트(PB) 단위의 데이터를 생성하며, 이러한 데이터를 효과적으로 활용하기 위해서는 고성능의 분석 인프라가 필수적입니다. 빅데이터 분석 플랫…

Hadoop HDFS 개요 Hadoop HDFSHadoop Distributed File System)는파치 하둡pache Hadoop)로젝트의심 구성 요소 중 하나, 대용량 데이터를 분산 환경에서 안정적이고 효율적으로 저장하기 위한 분산 파일 시스템입니다. HDFS는천 대의 일반적인 상용 하드웨어로 구성된 클러스터에서 페타바이트(PB) 규모의 데이터를 저…

YARN YARN(Yet Another Resource Negotiator)은 아파치 하둡(Apache Hadoop) 프로젝트의 핵심 구성 요소 중 하나로, 분산 컴퓨팅 환경에서 클러스터 리스를 효율적으로 관리하고 작업을 스케줄링하는 데 사용되는 리소스 관리 및 작업 스케줄링 프레임워크입니다. 하둡 2.0 버전부터 도입되며, 기존의 맵리듀스(MapReduc…

Apache Spark 개요 Apache Spark는 대규모 데이터 처리를 위한 오픈소스 분산 컴퓨팅 프레임워크. 2009년 UC 버클리의 AMPLab에서 개발을 시작했으며, 2010년에 오픈소스로 공되고 203년 Apache Software Foundation 인큐베이션 프로젝트로 채택된 이후, 빅데이터 처리 분야에서 가장 널리 사용되는 도구 중 하나로 …