# 민감 속성 (Sensitive Attributes)

## 1. 개요
**민감 속성(Sensitive Attributes)**이란 인종, 성별, 종교, 정치적 견해 등 개인의 정체성과 밀접하게 연관되어 있으며, 이를 근거로 차별이나 편견이 발생할 가능성이 높은 데이터 특성을 의미한다. 인공지능(AI) 및 데이터 분석 맥락에서 민감 속성은 모델의 예측 결과가 특정 집단에 불리하게 작용하는 '알고리즘 편향(Algorithmic Bias)'의 핵심 원인이 된다. 따라서 공정한 AI 시스템을 구축하기 위해서는 어떤 변수가 민감 속성에 해당하는지 정확히 식별하고, 해당 속성이 모델의 의사결정에 부당한 영향을 미치지 않도록 관리하는 것이 필수적이다.

## 2. 민감 속성의 종류와 예시
민감 속성은 법적 규제와 사회적 합의에 따라 분류되며, 국가나 문화권마다 그 범위가 다를 수 있다. 일반적으로 다음과 같은 범주로 나뉜다.

| 속성 분류 | 구체적 예시 | 관련 법규/기준 |
| :--- | :--- | :--- |
| **인구통계학적 특성** | 성별, 연령, 국적, 인종, 민족 | GDPR, 국내 개인정보 보호법 |
| **생물학적/신체적 특성** | 장애 여부, 유전 정보, 건강 상태, 혈액형 | 보건의료 데이터 가이드라인 |
| **신념 및 가치관** | 종교, 정치적 성향, 노동조합 가입 여부 | 헌법(양심의 자유), GDPR |
| **사회경제적 지위** | 소득 수준, 학력, 거주 지역, 혼인 여부 | 공정거래법, 차별금지법(논의 중) |
| **성적 지향** | 성적 지향, 성 정체성 | 인권위원회 권고 기준 |

## 3. AI 모델에서의 편향 발생 원리
AI 모델은 학습 데이터에 내재된 패턴을 학습한다. 이때 민감 속성이 직접적으로 입력값으로 사용되지 않더라도, 다른 변수를 통해 편향이 전이되는 현상이 발생한다.

### 3.1 대리 지표 (Proxy Variable)
**대리 지표**란 민감 속성과 강한 상관관계를 가지고 있어, 모델이 이를 통해 간접적으로 민감 속성을 추론하게 만드는 변수를 말한다. 예를 들어, 특정 인종이 밀집해 사는 지역의 '우편번호'는 인종이라는 민감 속성을 대체하는 대리 지표로 작동하여, 결과적으로 인종 차별적인 예측을 수행하게 만들 수 있다.

**[대리 지표의 구체적 예시]**
| 민감 속성 | 대리 지표 (Proxy) | 편향 발생 메커니즘 |
| :--- | :--- | :--- |
| **인종/민족** | 거주 지역(우편번호), 성씨 | 특정 지역의 인종 구성비가 높을 때 지역 기반 차별 발생 |
| **성별** | 취미, 전공, 쇼핑 패턴 | 특정 성별이 선호하는 활동을 통해 성별을 추론하여 기회 제한 |
| **소득 수준** | 사용하는 스마트폰 기종, 주소지 | 기기 가격이나 거주지 수준을 통해 경제적 계층 차별 |
| **연령** | SNS 이용 패턴, 졸업 연도 | 디지털 숙련도나 졸업 시점을 통해 연령 차별 발생 |

### 3.2 데이터 불균형 (Data Imbalance)
학습 데이터셋에서 특정 민감 집단의 표본 수가 현저히 적을 경우, 모델은 다수 집단에 최적화된 패턴을 학습하게 된다. 이는 소수 집단에 대해 낮은 예측 정확도나 높은 오답률로 이어져 결과적인 불평등을 초래한다.

## 4. 공정성 평가 지표
모델의 결과가 민감 속성에 따라 공정한지 측정하기 위해 다양한 수학적 지표가 사용된다.

*   **집단 공정성 (Group Fairness / Demographic Parity):** 민감 속성에 관계없이 모든 집단이 동일한 비율로 긍정적인 결과(예: 합격)를 얻어야 한다는 개념이다. $\rightarrow P(\hat{Y}=1 | A=0) = P(\hat{Y}=1 | A=1)$ (여기서 $A$는 민감 속성)
*   **기회 균등 (Equal Opportunity):** 실제 정답이 '긍정'인 샘플들 중에서, 민감 속성과 관계없이 긍정으로 예측될 확률(True Positive Rate)이 동일해야 한다는 개념이다. $\rightarrow P(\hat{Y}=1 | A=0, Y=1) = P(\hat{Y}=1 | A=1, Y=1)$
*   **개별 공정성 (Individual Fairness):** 유사한 특성을 가진 두 개인이 민감 속성만 다를 때, 모델이 유사한 결과를 내놓아야 한다는 원칙이다. $\rightarrow d(f(x), f(x')) \le L \cdot d(x, x')$

### Python을 활용한 공정성 지표 계산 예시 (`Fairlearn` 라이브러리)
```python
from fairlearn.metrics import demographic_parity_difference, equalized_odds_difference
from sklearn.metrics import accuracy_score

# 데이터셋 정의
y_true = [1, 0, 1, 1, 0, 1]
y_pred = [1, 0, 0, 1, 0, 1]
sensitive_features = ['남성', '남성', '여성', '여성', '남성', '여성']

# 1. 인구통계학적 동등성 차이 계산 (0에 가까울수록 공정)
dp_diff = demographic_parity_difference(y_true, y_pred, sensitive_features=sensitive_features)
print(f"Demographic Parity Difference: {dp_diff:.4f}") 
# Expected Output: Demographic Parity Difference: 0.0000 (예시 데이터 기준)

# 2. 균등 기회 차이 계산 (0에 가까울수록 공정)
eo_diff = equalized_odds_difference(y_true, y_pred, sensitive_features=sensitive_features)
print(f"Equalized Odds Difference: {eo_diff:.4f}")
# Expected Output: Equalized Odds Difference: 0.3333 (예시 데이터 기준)
```

## 5. 편향 완화 및 제어 방법
민감 속성의 영향을 줄이기 위한 기술적 방법론은 적용 단계에 따라 세 가지로 나뉜다.

### 5.1 전처리 (Pre-processing)
학습 데이터 단계에서 편향을 제거하여 모델이 편향된 패턴을 학습하지 않도록 한다.
*   **리샘플링(Resampling):** 소수 집단의 데이터를 오버샘플링하거나 다수 집단을 언더샘플링하여 집단 간 표본 수의 균형을 맞춘다.
*   **데이터 변환(Reweighing):** 각 샘플에 가중치를 부여하여, 민감 속성과 레이블 간의 상관관계를 통계적으로 상쇄시킨다.
*   **표현 학습(Fair Representation Learning):** 민감 속성 정보는 제거하고 예측에 필요한 핵심 정보만 남긴 새로운 특징 공간으로 데이터를 변환한다.

### 5.2 학습 중 제어 (In-processing)
모델 학습 알고리즘 자체에 공정성 제약 조건을 추가하여 최적화 과정에서 편향을 억제한다.
*   **적대적 학습(Adversarial Debiasing):** 민감 속성을 예측하려는 '판별자'와 이를 방해하려는 '예측기'를 동시에 학습시켜, 예측 결과에서 민감 속성 정보를 완전히 제거한다.
*   **정규화(Regularization):** 손실 함수(Loss Function)에 공정성 지표를 페널티 항으로 추가하여, 정확도와 공정성을 동시에 최적화한다.

### 5.3 후처리 (Post-processing)
모델의 예측 결과가 나온 후, 최종 결정 단계에서 임계값을 조정하여 공정성을 확보한다.
*   **임계값 최적화(Threshold Optimizer):** 집단별로 서로 다른 결정 임계값을 적용하여, 최종 결과의 긍정 비율(Positive Rate)이나 오답률을 맞춘다.
*   **결과 수정(Label Flipping):** 특정 조건 하에서 소수 집단의 예측 결과를 변경하여 공정성 지표를 충족시킨다.

**[편향 완화 방법론 단계별 비교]**
| 구분 | 전처리 (Pre-processing) | 학습 중 제어 (In-processing) | 후처리 (Post-processing) |
| :--- | :--- | :--- | :--- |
| **적용 시점** | 모델 학습 전 (데이터 단계) | 모델 학습 중 (알고리즘 단계) | 모델 학습 후 (결과 단계) |
| **장점** | 모델 종류에 상관없이 적용 가능 | 정확도와 공정성의 최적 균형 가능 | 기존 학습 모델을 수정 없이 활용 가능 |
| **단점** | 데이터 변형으로 인한 정보 손실 가능성 | 모델 구조 변경 필요, 학습 비용 증가 | 예측 확률값의 의미가 변질될 수 있음 |
| **핵심 목표** | 편향되지 않은 데이터셋 구축 | 편향을 억제하는 모델 학습 | 공정한 최종 결정 도출 |

## 6. 산업별 적용 사례
민감 속성 관리는 실생활의 다양한 도메인에서 결정적인 영향을 미친다.

| 산업 분야 | 적용 사례 | 민감 속성 관리의 핵심 |
| :--- | :--- | :--- |
| **금융/신용** | 대출 심사 및 신용 점수 산정 | 거주지나 성별이 대출 승인 여부에 영향을 주지 않도록 대리 지표 제거 |
| **채용/인사** | 이력서 자동 스크리닝 AI | 출신 학교, 지역, 성별 등의 정보가 직무 역량 평가를 왜곡하지 않도록 제어 |
| **의료/보건** | 질병 진단 및 치료 추천 AI | 인종이나 성별에 따른 생물학적 차이는 반영하되, 사회적 편견에 의한 진단 누락 방지 |
| **법률/치안** | 재범 가능성 예측 시스템 | 인종, 경제적 수준이 형량 결정이나 가석방 여부에 부당하게 작용하는 것 방지 |

**[실제 편향 발생 사례: 채용 AI]**
과거 특정 기업의 AI 채용 시스템은 학습 데이터가 주로 남성 지원자의 이력서로 구성되어 있어, '여성'이라는 단어가 포함된 이력서에 감점을 부여하는 편향을 보였다. 이는 성별이라는 민감 속성이 직접 입력되지 않았더라도, 과거의 편향된 채용 관행이 데이터에 그대로 반영되어 모델이 이를 '성공 패턴'으로 학습했기 때문에 발생한 사례이다.

## 7. 윤리적 고려사항 및 법적 규제
### 7.1 법적 규제
유럽의 **GDPR(일반 데이터 보호 규정)**은 인종, 정치적 견해, 종교, 건강 데이터 등을 '특별 범주 데이터(Special Categories of Personal Data, Article 9)'로 지정하여 원칙적으로 처리를 금지하며, 매우 엄격한 예외 조건 하에서만 수집을 허용한다. 한국의 **개인정보 보호법** 역시 민감 정보를 별도로 정의하여 정보 주체의 별도 동의를 받도록 강제하고 있다.

### 7.2 공정성의 역설 (Fairness Paradox)
여기서 윤리적 딜레마가 발생한다. 모델의 편향을 측정하고 완화하기 위해서는 역설적으로 **민감 속성 데이터를 수집하고 보유**해야 한다. 민감 속성을 완전히 삭제하면(Fairness through Unawareness), 앞서 언급한 '대리 지표'를 통한 간접적 차별을 감지하거나 수정할 방법이 사라지기 때문이다. 따라서 "개인정보 보호를 위해 수집하지 않아야 한다"는 원칙과 "공정성 평가를 위해 수집해야 한다"는 필요성 사이의 균형 잡힌 거버넌스가 요구된다.

## 8. 민감 속성 식별 체크리스트
데이터셋 설계 및 모델링 단계에서 다음 항목을 검토하여 민감 속성 및 잠재적 편향 요소를 식별한다.

- [ ] **직접적 속성 확인:** 데이터셋에 성별, 연령, 인종, 종교, 장애 여부 등 법적 민감 정보가 포함되어 있는가?
- [ ] **대리 지표 탐색:** 민감 속성과 상관관계가 높은 변수(예: 우편번호 $\rightarrow$ 인종, 전공 $\rightarrow$ 성별)가 존재하는가?
- [ ] **데이터 분포 분석:** 민감 속성별 샘플 수의 비율이 실제 인구 통계적 분포와 일치하는가, 혹은 특정 집단이 과소 대표되었는가?
- [ ] **레이블 편향 검토:** 과거의 인간 결정자가 내린 결과(Ground Truth) 자체가 특정 집단에 편향되어 기록되었는가?
- [ ] **영향도 평가:** 해당 속성이 모델의 예측 결과에 결정적인 영향을 미칠 경우, 그것이 도메인 관점에서 **정당한 사유**(예: 의료적 특성에 따른 처방 차이)가 있는가?