특성 변수
개요
성 변수(Feature Variable), 또는 단히 특성(Feature), 입력 변수(Input Variable)는 데이터 과학 및 머신러닝 분야에서 모델이 학습하거나 예측을 수행하는 데 사용하는 데이터의 개별적인 속성(attribute)을 의미합니다. 예를 들어, 집값 예측 모델에서 방의 수, 면적, 위치, 연식 등은 각각 하나의 특성 변수입니다. 이러한 변수들은 모델이 데이터 패턴을 인식하고 결과를 도출하는 데 핵심적인 역할을 하며, 데이터 분석의 전처리, 모델링, 평가 단계 전반에 걸쳐 중요한 요소로 작용합니다.
특성 변수는 일반적으로 행렬 형태의 데이터셋에서 각 열(column)에 해당하며, 관측 대상(행)마다 그 값이 달라집니다. 효과적인 특성 변수의 설계와 선택은 모델의 성능 향상에 직접적인 영향을 미치므로, 데이터 과학 프로젝트에서 특성 공학(Feature Engineering)은 매우 중요한 단계로 여겨집니다.
특성 변수의 종류
특성 변수는 그 성격에 따라 여러 가지 유형으로 분류할 수 있습니다. 각 유형은 데이터 전처리 방식과 모델 적용 가능성에 영향을 미칩니다.
1. 정량적 특성 (Quantitative Features)
수치로 표현되는 특성으로, 연속형(Continuous) 또는 이산형(Discrete)일 수 있습니다.
- 연속형(Continuous): 실수 값으로 표현되며, 무한한 범위의 값을 가질 수 있음
예: 키, 몸무게, 온도, 소득
- 이산형(Discrete): 정수 값만 가질 수 있음
예: 자녀 수, 방문 횟수, 구매한 상품 수
2. 정성적 특성 (Qualitative Features)
수치가 아닌 범주(category) 또는 상태(state)로 표현되는 특성입니다.
- 명목형(Nominal): 순서가 없는 범주형 데이터
예: 성별(남, 여), 지역(서울, 부산, 대구), 혈액형(A, B, AB, O)
- 순서형(Ordinal): 순서가 있는 범주형 데이터
예: 학력(고졸, 대졸, 석사 이상), 만족도(매우 불만족, 보통, 매우 만족)
특성 변수의 전처리
원시 데이터(raw data)는 대부분 모델 학습에 바로 사용할 수 없기 때문에, 특성 변수에 대한 전처리가 필수적입니다.
1. 결측치 처리 (Missing Value Imputation)
특성 변수에 값이 없는 경우, 이를 보완하는 방법이 필요합니다.
- 평균/중앙값/최빈값 대체
- 회귀 모델을 이용한 예측 대체
- 결측치를 별도의 범주로 처리
2. 정규화 및 표준화 (Normalization & Standardization)
수치형 특성의 스케일이 서로 다를 경우, 모델 학습에 불균형이 발생할 수 있습니다.
- 정규화(Min-Max Scaling): 값의 범위를 [0, 1]로 조정
$$
x_{\text{norm}} = \frac{x - x_{\min}}{x_{\max} - x_{\min}}
$$
- 표준화(Z-score Normalization): 평균 0, 분산 1의 분포로 변환
$$
x_{\text{std}} = \frac{x - \mu}{\sigma}
$$
3. 원-핫 인코딩 (One-Hot Encoding)
명목형 변수를 모델이 이해할 수 있도록 이진 벡터(binary vector)로 변환합니다.
예: 색상 → [빨강, 파랑, 초록] → 빨강일 경우 [1, 0, 0]
4. 라벨 인코딩 (Label Encoding)
순서형 변수에 정수 값을 부여하는 방식. 순서 정보를 유지할 수 있음.
예: 학력 → 고졸: 0, 대졸: 1, 석사 이상: 2
특성 선택 (Feature Selection)
모든 특성 변수가 모델 성능에 긍정적인 영향을 주는 것은 아닙니다. 불필요한 특성은 과적합(Overfitting)을 유발하거나 계산 비용을 증가시킬 수 있습니다. 따라서 다음과 같은 방법으로 중요한 특성만 선별합니다.
1. 필터 방법 (Filter Methods)
2. 래퍼 방법 (Wrapper Methods)
- 특정 모델을 기반으로 특성 조합의 성능을 평가
- 예: 순차적 특성 선택(Sequential Feature Selection), RFE(Recursive Feature Elimination)
- 정확도는 높지만 계산 비용이 큼
3. 임베디드 방법 (Embedded Methods)
특성 공학 (Feature Engineering)
특성 공학은 기존 변수를 조합하거나 변형하여 새로운 유의미한 특성 변수를 생성하는 과정입니다. 이는 모델의 성능 향상에 매우 중요한 역할을 합니다.
예시
참고 자료 및 관련 문서
특성 변수는 데이터 분석과 머신러닝의 기초이자 핵심 요소로, 정확한 이해와 체계적인 처리가 고품질의 결과를 도출하는 데 필수적입니다.
특성 변수
개요
**성 변수**(Feature Variable), 또는 단히 **특성**(Feature), **입력 변수**(Input Variable)는 데이터 과학 및 머신러닝 분야에서 모델이 학습하거나 예측을 수행하는 데 사용하는 데이터의 개별적인 속성(attribute)을 의미합니다. 예를 들어, 집값 예측 모델에서 방의 수, 면적, 위치, 연식 등은 각각 하나의 특성 변수입니다. 이러한 변수들은 모델이 데이터 패턴을 인식하고 결과를 도출하는 데 핵심적인 역할을 하며, 데이터 분석의 전처리, 모델링, 평가 단계 전반에 걸쳐 중요한 요소로 작용합니다.
특성 변수는 일반적으로 행렬 형태의 데이터셋에서 각 열(column)에 해당하며, 관측 대상(행)마다 그 값이 달라집니다. 효과적인 특성 변수의 설계와 선택은 모델의 성능 향상에 직접적인 영향을 미치므로, 데이터 과학 프로젝트에서 특성 공학(Feature Engineering)은 매우 중요한 단계로 여겨집니다.
---
## 특성 변수의 종류
특성 변수는 그 성격에 따라 여러 가지 유형으로 분류할 수 있습니다. 각 유형은 데이터 전처리 방식과 모델 적용 가능성에 영향을 미칩니다.
### 1. 정량적 특성 (Quantitative Features)
수치로 표현되는 특성으로, 연속형(Continuous) 또는 이산형(Discrete)일 수 있습니다.
- **연속형**(Continuous): 실수 값으로 표현되며, 무한한 범위의 값을 가질 수 있음
예: 키, 몸무게, 온도, 소득
- **이산형**(Discrete): 정수 값만 가질 수 있음
예: 자녀 수, 방문 횟수, 구매한 상품 수
### 2. 정성적 특성 (Qualitative Features)
수치가 아닌 범주(category) 또는 상태(state)로 표현되는 특성입니다.
- **명목형**(Nominal): 순서가 없는 범주형 데이터
예: 성별(남, 여), 지역(서울, 부산, 대구), 혈액형(A, B, AB, O)
- **순서형**(Ordinal): 순서가 있는 범주형 데이터
예: 학력(고졸, 대졸, 석사 이상), 만족도(매우 불만족, 보통, 매우 만족)
---
## 특성 변수의 전처리
원시 데이터(raw data)는 대부분 모델 학습에 바로 사용할 수 없기 때문에, 특성 변수에 대한 전처리가 필수적입니다.
### 1. 결측치 처리 (Missing Value Imputation)
특성 변수에 값이 없는 경우, 이를 보완하는 방법이 필요합니다.
- 평균/중앙값/최빈값 대체
- 회귀 모델을 이용한 예측 대체
- 결측치를 별도의 범주로 처리
### 2. 정규화 및 표준화 (Normalization & Standardization)
수치형 특성의 스케일이 서로 다를 경우, 모델 학습에 불균형이 발생할 수 있습니다.
- **정규화**(Min-Max Scaling): 값의 범위를 [0, 1]로 조정
$$
x_{\text{norm}} = \frac{x - x_{\min}}{x_{\max} - x_{\min}}
$$
- **표준화**(Z-score Normalization): 평균 0, 분산 1의 분포로 변환
$$
x_{\text{std}} = \frac{x - \mu}{\sigma}
$$
### 3. 원-핫 인코딩 (One-Hot Encoding)
명목형 변수를 모델이 이해할 수 있도록 이진 벡터(binary vector)로 변환합니다.
예: 색상 → [빨강, 파랑, 초록] → 빨강일 경우 [1, 0, 0]
### 4. 라벨 인코딩 (Label Encoding)
순서형 변수에 정수 값을 부여하는 방식. 순서 정보를 유지할 수 있음.
예: 학력 → 고졸: 0, 대졸: 1, 석사 이상: 2
---
## 특성 선택 (Feature Selection)
모든 특성 변수가 모델 성능에 긍정적인 영향을 주는 것은 아닙니다. 불필요한 특성은 과적합(Overfitting)을 유발하거나 계산 비용을 증가시킬 수 있습니다. 따라서 다음과 같은 방법으로 중요한 특성만 선별합니다.
### 1. 필터 방법 (Filter Methods)
- 통계적 지표(상관계수, 카이제곱 검정 등)를 사용하여 특성의 중요도 평가
- 빠르고 계산 비용이 낮음
- 예: 타겟 변수와의 피어슨 상관계수 기반 선택
### 2. 래퍼 방법 (Wrapper Methods)
- 특정 모델을 기반으로 특성 조합의 성능을 평가
- 예: 순차적 특성 선택(Sequential Feature Selection), RFE(Recursive Feature Elimination)
- 정확도는 높지만 계산 비용이 큼
### 3. 임베디드 방법 (Embedded Methods)
- 모델 학습 과정에서 특성 중요도를 내재적으로 평가
- 예: Lasso 회귀(L1 정규화), 트리 기반 모델의 특성 중요도
---
## 특성 공학 (Feature Engineering)
특성 공학은 기존 변수를 조합하거나 변형하여 새로운 유의미한 특성 변수를 생성하는 과정입니다. 이는 모델의 성능 향상에 매우 중요한 역할을 합니다.
### 예시
- 날짜 데이터에서 요일, 월, 공휴일 여부 추출
- 텍스트 데이터에서 단어 빈도(TF-IDF), 감성 점수 생성
- 수치 변수의 로그 변환, 다항식 특성 생성
---
## 참고 자료 및 관련 문서
- [Scikit-learn: Feature Selection](https://scikit-learn.org/stable/modules/feature_selection.html)
- [Feature Engineering for Machine Learning](https://www.oreilly.com/library/view/feature-engineering-for/9781491953235/) - O'Reilly 출판
- 김태훈, 『데이터 과학을 위한 특성 공학』, 한빛미디어, 2020
특성 변수는 데이터 분석과 머신러닝의 기초이자 핵심 요소로, 정확한 이해와 체계적인 처리가 고품질의 결과를 도출하는 데 필수적입니다.