데이터 리크
데이터 리크 (Data Leakage) 개요 데이터 리크(Data Leakage)란 머신러닝 모델을 학습시킬 때, 모델이 예측해야 할 타겟(Target) 정보나 테스트 데이터셋의 정보가 학습 데이터셋에 의도치 않게 포함되어 모델의 성능이 비정상적으로 높게 측정되는 현상…
데이터 리크 (Data Leakage) 개요 데이터 리크(Data Leakage)란 머신러닝 모델을 학습시킬 때, 모델이 예측해야 할 타겟(Target) 정보나 테스트 데이터셋의 정보가 학습 데이터셋에 의도치 않게 포함되어 모델의 성능이 비정상적으로 높게 측정되는 현상…
시뮬레이션 모델링 (Simulation Modeling) 1. 개요 시뮬레이션 모델링이란 현실 세계의 복잡한 시스템이나 프로세스, 특히 단순한 수학적 공식으로는 예측하기 어려운 복잡계(Complex Systems)를 수학적, 논리적 모델로 추상화하여 컴퓨터 상에서 모사…
시계열 플롯 (Time Series Plot) 1. 개요 시계열 플롯(Time Series Plot)은 일정 시간 간격으로 기록된 데이터 포인트들을 시간의 흐름에 따라 시각화하여 데이터의 변화 추이, 패턴, 주기성을 분석하는 그래프입니다. 주로 시간에 따른 변수의 변화…
전환율 개요 전환율(Conversion Rate)은 특정 목표 행동으로 사용자나 고객이 이어지는 비율을 나타내는 지표로, 디지털 마케팅, 웹 분석, 제품 운영, 비즈니스 전략 등 다양한 분야에서 핵심 성과 지표(KPI)로 활용된다. 전환율은 단순히 방문자 수나 노출 수…
K-means -means는 대적인 비지도 학습(Unsupervised Learning) 알고리즘 중 하나로, 주어진 데이터를 K개의 클러스터(군집)로 나누는 데 사용됩니다. 클러스터링은 데이터의 유사성을 기반으로 그룹을 형성하여 데이터의 구조를 이해하고 패턴을 발견하…
위양성율 (False Positive Rate) 위양성율(False Positive Rate, 약자 FPR)은 이진 분류(Binary Classification) 문제에서 실제 음성(Negative)인 샘플 중 모델이 양성(Positive)으로 잘못 예측한 비율을 의미…
스트리밍 오류 LLM 서비스에서 응답을 받을 수 없습니다. 성능 모니터링 지표 LLM 서비스의 품질을 정량적으로 측정하기 위해 다음과 같은 핵심 성능 지표(KPI)를 모니터링해야 합니다. 주요 측정 기준 응답 속도 (Latency): 사용자가 요청을 보낸 시점부터 첫 …
Tableau (태블로) 1. 개요 Tableau(태블로)는 데이터 시각화 및 비즈니스 인텔리전스(BI, Business Intelligence) 솔루션으로, 복잡한 데이터를 직관적인 그래프와 대시보드로 변환하여 데이터 기반의 의사결정을 돕는 분석 도구이다. Table…
데이터 무결성 검증 (Data Integrity Verification) 1. 개요 데이터 무결성 검증이란 데이터의 생명주기(Life Cycle) 전 과정에서 데이터가 전송, 저장, 처리되는 동안 권한 없는 변경이 일어나지 않고, 원래의 정확성, 일관성, 유효성을 유지…
차분 차수 (Differencing Order) 1. 개요 차분 차수(Differencing Order)란 시계열 데이터의 비정상성(Non-stationarity)을 제거하여 [[정상성]](Stationarity)을 확보하기 위해, 인접한 시점의 데이터 값들의 차이를 …
IQR (사분위수 범위, Interquartile Range) 1. 개요 IQR(Interquartile Range, 사분위수 범위)은 데이터의 중앙값(Median)을 중심으로 상위 25%와 하위 25%를 제외한 중간 50% 데이터의 범위를 나타내는 통계적 산포도 지표…
정보 검색 개요 정보 검색(Information Retrieval, IR)은 사용자가 필요로 하는 정보를 대의 데이터 집합에서 효과적이고 효율적으로 찾아내는 기 및 과정을 의미합니다. 이는 전통적인 도서관 카탈로그 시스템에서 시작되어, 오늘날 인터넷 기반의 검색 엔진,…
HBM (고대역폭 메모리, High Bandwidth Memory) 개요 HBM(High Bandwidth Memory, 고대역폭 메모리)은 여러 개의 DRAM(Dynamic Random Access Memory) 칩을 수직으로 적층하고, 이를 TSV(Through S…
추천 시스템 개요 추천 시스템(Recommendation System)은 사용자의 관심사, 선호도, 행동 패턴 등을 분석하여 사용자가 관심을 가질 가능성이 높은 아이템(item)을 제안하는 정보 필터링 기술이다. 이러한 시스템은 대량의 데이터 속에서 사용자가 원하는 정…
FNV-1a 개요 FNV-1a(Fowler–Noll–Vo hash function, version 1a)는 빠르고 간단한 비암호화 해시 함수로, 주로 해시 테이블, 데이터 무결성 확인, 고성능 시스템에서의 키 해싱 등에 사용된다. 이 알고리즘은 Glenn Fowler,…
분류 (Classification) 개요 분류(Classification)는 데이터과학에서 가장 핵심적인 기계학습(ML) 기법 중 하나로, 주어진 데이터를 사전 정의된 범주 또는 클래스에 할당하는 과정을 의미합니다. 이는 지도학습(Supervised Learning)의…
클러스터링 개요 클러스터링(Clustering)은 데이터 포인트를 유사성에 따라 그룹화하는 비지도 학습(unsupervised learning) 기법으로, 데이터의 내재적 구조를 탐색하고 패턴을 발견하는 데 활용됩니다. 이는 분석가들이 대규모 데이터 세트에서 의미 있는…
배열 슬라이싱 (Array Slicing) 1. 개요 배열 슬라이싱(Array Slicing)이란 배열이나 리스트와 같은 선형 데이터 구조에서 특정 인덱스 범위를 지정하여 연속된 요소들의 부분 집합을 추출함으로써 새로운 부분 배열을 생성하는 기법이다. 이 작업의 주된 …
ORC (Optimized Row Columnar) 1. 개요 ORC(Optimized Row Columnar)는 Apache Hive를 위해 설계된 고성능 열 지향(Columnar) 저장 형식으로, 대규모 데이터 세트에 대해 효율적인 압축과 빠른 읽기 성능을 제공하는…
샘플링 개요 샘플링(Sampling)은 전체 모집단(Population에서 일부를 선택하여 그 특성을 조사함으로써 모집단 성질을 추정하는계적 방법이다. 데이터과학 분야에서 샘플링은규모 데이터셋 효율적으로 처리하고 분석하는 데심적인 역할을 한다. 특히 빅데이터 환경에서 …