통계적 평등
개요
통계적 평등(Statistical Parity)은 인지능(AI) 및 기계학습 모델의 공정성(fairness)을 평가하는 데 사용되는 주요 기준 중 하나로, 모델의 예측 결과가 서로 다른 사회적 집단(예: 성별, 인종, 연령 등) 간에 균형 있게 분포되어야 한다는 원칙을 의미합니다. 이 개념은 AI 시스템이 특정 집단에 대해 체계적인 차별을 하지 않도록 보장하기 위한 수학적 기준을 제공하며, 특히 채용,출 승인, 범죄 위험 예측 등의 민감한 분야에서 중요하게 다뤄집니다.
통계적 평등은 집단 공정성(group fairness)의 한 형태로, 모델이 특정 보호 집단(protected group)과 비보호 집단 간에 동일한 양의 긍정적 예측 결과를 제공해야 한다고 주장합니다. 이는 결과의 형평성을 수치적으로 평가할 수 있게 해주며, AI 시스템의 편향을 탐지하고 완화하는 데 유용한 도구입니다.
통계적 평등의 정의
통계적 평등은 다음과 같은 수식으로 표현할 수 있습니다:
[
P(\hat{Y} = 1 | A = a) = P(\hat{Y} = 1 | A = b)
]
여기서:
- (\hat{Y})는 모델의 예측 결과 (예: "대출 승인", "채용 추천")
- (A)는 민감한 속성 (예: 성별, 인종)
- (a)와 (b)는 서로 다른 집단 (예: 남성 vs 여성)
즉, 통계적 평등은 모든 집단에 대해 긍정적 예측 확률이 동일해야 한다는 조건을 의미합니다. 예를 들어, 대출 승인 모델이 남성과 여성에게 각각 70%의 승인률을 제공한다면 통계적 평등이 유지된 것으로 간주됩니다.
예시
다음과 같은 상황을 가정해 보겠습니다:
| 집단 |
대출 신청자 수 |
승인된 수 |
승인률 |
| A 그룹 |
1,000 |
700 |
70% |
| B 그룹 |
800 |
560 |
70% |
이 경우 두 집단의 승인률이 동일하므로 통계적 평등이 충족됩니다.
통계적 평등의 장점
- 단순성과 해석 용이성: 수식이 직관적이고, 결과를 쉽게 이해하고 설명할 수 있습니다.
- 정책 적용 가능성: 기관이나 기업이 공정성 기준을 정책으로 삼기 쉬우며, 감사 및 규제 대응에 유용합니다.
- 편향 탐지 도구: 특정 집단이 체계적으로 불리한 결과를 받는지 여부를 빠르게 파악할 수 있습니다.
한계 및 비판
통계적 평등은 직관적인 매력이 있지만, 다음과 같은 중요한 한계를 지닙니다:
1. 결과의 질 무시
통계적 평등은 긍정적 예측의 수만 고려하고, 그 예측이 실제로 타당한지(정확한지)는 고려하지 않습니다. 예를 들어, 자격이 부족한 지원자에게도 동일한 비율로 채용을 추천한다면, 이는 형평성을 유지하더라도 효율성과 정확성의 저하를 초래할 수 있습니다.
2. 상황 맥락 무시
다른 집단 간에 기반이 되는 자격 조건이나 분포가 다를 수 있음에도 불구하고, 단순히 예측 결과의 비율만 같아야 한다는 조건은 비현실적일 수 있습니다. 예를 들어, 대출 신청자의 신용 점수 분포가 집단 간에 다르다면, 동일한 승인률을 강제하는 것은 오히려 불공정할 수 있습니다.
3. 공정성 기준 간의 충돌
통계적 평등은 다른 공정성 기준과 수학적으로 양립할 수 없습니다. 예를 들어, 동등한 정밀도(equal precision)나 동등한 재현율(equal recall)과 함께 만족시키기 어렵습니다. 이는 "공정성의 삼각형"(fairness trilemma)로 알려진 문제입니다.
관련 공정성 기준과의 비교
| 공정성 기준 |
설명 |
통계적 평등과의 차이 |
| 동등한 기회(Equal Opportunity) |
긍정 클래스에서 재현율(민감도)이 동일해야 함 |
실제 긍정 사례에 대해 동일한 기회 제공 강조 |
| 동등한 정밀도(Predictive Parity) |
긍정 예측의 정밀도가 집단 간 동일해야 함 |
예측의 신뢰도에 초점 |
| 조건부 통계적 평등 |
조건부로 특정 기준을 만족하는 평등 |
통계적 평등의 일반화된 형태 |
🔍 참고: 통계적 평등은 "무조건적" 집단 간 결과 분포 동일성을 요구하는 반면, 위 기준들은 실제 레이블(ground truth)을 고려합니다.
실제 적용 사례
- 금융 서비스: 대출 승인 모델에서 인종 간 승인률 차이 분석
- 인사 관리: AI 기반 채용 시스템이 성별에 따라 추천 비율을 균등하게 유지하는지 평가
- 의료 진단: 특정 인종 집단에 대해 질병 진단 모델이 과소 또는 과대 진단하지 않는지 검토
결론
통계적 평등은 인공지능의 공정성을 평가하는 데 유용한 출발점이지만, 전체적인 공정성 보장을 위한 유일한 기준으로는 부족합니다. 실제 적용 시에는 도메인의 맥락, 데이터의 분포, 다른 공정성 기준과의 균형을 고려해야 합니다. 따라서 통계적 평등은 다층적 공정성 평가 프레임워크의 일부로서 활용되어야 하며, 단독으로 의존하는 것은 위험할 수 있습니다.
참고 자료 및 관련 문서
- Barocas, S., Hardt, M., & Narayanan, A. (2019). Fairness and Machine Learning. https://fairmlbook.org
- Verma, S., & Rubin, J. (2018). "Fairness Definitions Explained". IEEE International Workshop on Software Fairness.
- Mehrabi, N., et al. (2021). "A Survey on Bias and Fairness in Machine Learning". ACM Computing Surveys.
📚 관련 위키 문서:
- AI 편향
- 공정성 기준
- 민감한 속성
# 통계적 평등
## 개요
**통계적 평등**(Statistical Parity)은 인지능(AI) 및 기계학습 모델의 **공정성**(fairness)을 평가하는 데 사용되는 주요 기준 중 하나로, 모델의 예측 결과가 서로 다른 사회적 집단(예: 성별, 인종, 연령 등) 간에 균형 있게 분포되어야 한다는 원칙을 의미합니다. 이 개념은 AI 시스템이 특정 집단에 대해 체계적인 차별을 하지 않도록 보장하기 위한 수학적 기준을 제공하며, 특히 채용,출 승인, 범죄 위험 예측 등의 민감한 분야에서 중요하게 다뤄집니다.
통계적 평등은 **집단 공정성**(group fairness)의 한 형태로, 모델이 특정 보호 집단(protected group)과 비보호 집단 간에 동일한 양의 긍정적 예측 결과를 제공해야 한다고 주장합니다. 이는 결과의 형평성을 수치적으로 평가할 수 있게 해주며, AI 시스템의 편향을 탐지하고 완화하는 데 유용한 도구입니다.
---
## 통계적 평등의 정의
통계적 평등은 다음과 같은 수식으로 표현할 수 있습니다:
\[
P(\hat{Y} = 1 | A = a) = P(\hat{Y} = 1 | A = b)
\]
여기서:
- \(\hat{Y}\)는 모델의 예측 결과 (예: "대출 승인", "채용 추천")
- \(A\)는 민감한 속성 (예: 성별, 인종)
- \(a\)와 \(b\)는 서로 다른 집단 (예: 남성 vs 여성)
즉, 통계적 평등은 **모든 집단에 대해 긍정적 예측 확률이 동일해야 한다**는 조건을 의미합니다. 예를 들어, 대출 승인 모델이 남성과 여성에게 각각 70%의 승인률을 제공한다면 통계적 평등이 유지된 것으로 간주됩니다.
### 예시
다음과 같은 상황을 가정해 보겠습니다:
| 집단 | 대출 신청자 수 | 승인된 수 | 승인률 |
|------|----------------|-----------|--------|
| A 그룹 | 1,000 | 700 | 70% |
| B 그룹 | 800 | 560 | 70% |
이 경우 두 집단의 승인률이 동일하므로 통계적 평등이 충족됩니다.
---
## 통계적 평등의 장점
1. **단순성과 해석 용이성**: 수식이 직관적이고, 결과를 쉽게 이해하고 설명할 수 있습니다.
2. **정책 적용 가능성**: 기관이나 기업이 공정성 기준을 정책으로 삼기 쉬우며, 감사 및 규제 대응에 유용합니다.
3. **편향 탐지 도구**: 특정 집단이 체계적으로 불리한 결과를 받는지 여부를 빠르게 파악할 수 있습니다.
---
## 한계 및 비판
통계적 평등은 직관적인 매력이 있지만, 다음과 같은 **중요한 한계**를 지닙니다:
### 1. 결과의 질 무시
통계적 평등은 **긍정적 예측의 수**만 고려하고, 그 예측이 실제로 타당한지(정확한지)는 고려하지 않습니다. 예를 들어, 자격이 부족한 지원자에게도 동일한 비율로 채용을 추천한다면, 이는 형평성을 유지하더라도 **효율성과 정확성의 저하**를 초래할 수 있습니다.
### 2. 상황 맥락 무시
다른 집단 간에 **기반이 되는 자격 조건이나 분포가 다를 수 있음**에도 불구하고, 단순히 예측 결과의 비율만 같아야 한다는 조건은 비현실적일 수 있습니다. 예를 들어, 대출 신청자의 신용 점수 분포가 집단 간에 다르다면, 동일한 승인률을 강제하는 것은 오히려 불공정할 수 있습니다.
### 3. 공정성 기준 간의 충돌
통계적 평등은 다른 공정성 기준과 **수학적으로 양립할 수 없습니다**. 예를 들어, **동등한 정밀도**(equal precision)나 **동등한 재현율**(equal recall)과 함께 만족시키기 어렵습니다. 이는 "공정성의 삼각형"(fairness trilemma)로 알려진 문제입니다.
---
## 관련 공정성 기준과의 비교
| 공정성 기준 | 설명 | 통계적 평등과의 차이 |
|-------------|------|----------------------|
| **동등한 기회**(Equal Opportunity) | 긍정 클래스에서 재현율(민감도)이 동일해야 함 | 실제 긍정 사례에 대해 동일한 기회 제공 강조 |
| **동등한 정밀도**(Predictive Parity) | 긍정 예측의 정밀도가 집단 간 동일해야 함 | 예측의 신뢰도에 초점 |
| **조건부 통계적 평등** | 조건부로 특정 기준을 만족하는 평등 | 통계적 평등의 일반화된 형태 |
> 🔍 **참고**: 통계적 평등은 "무조건적" 집단 간 결과 분포 동일성을 요구하는 반면, 위 기준들은 실제 레이블(ground truth)을 고려합니다.
---
## 실제 적용 사례
- **금융 서비스**: 대출 승인 모델에서 인종 간 승인률 차이 분석
- **인사 관리**: AI 기반 채용 시스템이 성별에 따라 추천 비율을 균등하게 유지하는지 평가
- **의료 진단**: 특정 인종 집단에 대해 질병 진단 모델이 과소 또는 과대 진단하지 않는지 검토
---
## 결론
통계적 평등은 인공지능의 공정성을 평가하는 데 유용한 출발점이지만, **전체적인 공정성 보장을 위한 유일한 기준으로는 부족**합니다. 실제 적용 시에는 도메인의 맥락, 데이터의 분포, 다른 공정성 기준과의 균형을 고려해야 합니다. 따라서 통계적 평등은 **다층적 공정성 평가 프레임워크의 일부**로서 활용되어야 하며, 단독으로 의존하는 것은 위험할 수 있습니다.
---
## 참고 자료 및 관련 문서
- Barocas, S., Hardt, M., & Narayanan, A. (2019). *Fairness and Machine Learning*. [https://fairmlbook.org](https://fairmlbook.org)
- Verma, S., & Rubin, J. (2018). "Fairness Definitions Explained". *IEEE International Workshop on Software Fairness*.
- Mehrabi, N., et al. (2021). "A Survey on Bias and Fairness in Machine Learning". *ACM Computing Surveys*.
> 📚 **관련 위키 문서**:
> - [AI 편향](AI_편향.md)
> - [공정성 기준](공정성_기준.md)
> - [민감한 속성](민감한_속성.md)