편향 (Bias) 편향(Bias)은 인공지능(AI) 시스템이 학습 데이터나 알고리즘 설계 과정에서 발생하는 체계적인 오류로 인해 특정 개인이나 집단에 대해 공정하지 않거나 차별적인 결과를 도출하는 현상을 의미합니다. 특히 인공지능의 공정성(Fairness) 분야에서 핵심적인 논의 대상이 되며, 기술적 결함뿐만 아니라 사회적 편견이 시스템에 내재화되는 과정을…
검색 결과
"편향 완화 전략"에 대한 검색 결과 (총 3개)
Gender Bias Score 개요 Gender Bias Score(성별 편향 점)는 인공지능 모델, 특히 자연어 처리(NLP) 모델이나 이미지 생성 모델에서 성별에 기반한 편(bias)의를 정량적으로 평가하기 위해 사용되는표입니다. 이 점수는 모델이 특정 성별에 대해 불균형한, 과도한 일반화, 혹은 사회적으로 문제가 되는 고정관념(stereotype)을…
WebText2 개요 WebText2는 대규모 텍스트 데이터셋 중 하나로, 주로 자연어(NLP) 및 언어 모델 훈련을 위한 목적으로 개발된 데이터 수집 프로젝트의 결과물입니다. 이 데이터셋은 인터넷 상의 다양한 공개 텍스트 자원을 크롤링하여 구축되었으며, 특히 GPT-2(Generative Pre-trained Transformer 2) 모델의 훈련에 사용…