데이터 편향 개요 데이터 편향(Data Bias)은 머신러닝 모델 훈련에 사용되는 데이터셋에 시스템적으로 왜곡된 패턴이 존재하는 현상으로, 모델의 예측 결과에 불공정성이나 오류를 유발할 수 있습니다. 이러한 편향은 데이터 수집, 전처리, 모델링 전 단계에서 발생할 수 있으며, 사회적 불평등을 심화시키거나 법적 문제를 야기할 수 있습니다. 예를 들어, 얼굴 …
검색 결과
"AI 위험 관리 프레임워크"에 대한 검색 결과 (총 5개)
책임성 (Accountability) 개요 책임성(Accountability)이란 특정 개인이나 조직이 부여받은 권한을 행사하여 내린 결정과 그 결과에 대해 설명할 의무가 있으며, 그 결과에 따른 보상이나 제재를 수용해야 하는 상태를 의미한다. 책임성은 단순히 과업을 수행하는 '책임(Responsibility)'이나 질문에 답하는 '답변 가능성(Answer…
인공지능의 편향과 차별 (AI Bias and Discrimination) 1. 개요 인공지능의 편향과 차별이란 AI 모델이 학습 데이터의 불균형이나 알고리즘의 설계 결함으로 인해 특정 보호 집단(Protected Group, 인종, 성별, 연령, 종교 등)에 대해 체계적으로 불리하거나 왜곡된 결과를 출력하는 현상을 의미한다. 현대 사회에서 AI는 채용, …
OECD AI Principles (OECD 인공지능 원칙) 1. 개요 OECD AI Principles는 경제협력개발기구(OECD)가 2019년 5월에 채택한 인공지능(AI) 개발 및 활용에 관한 국제적인 가이드라인입니다. 이 원칙은 AI가 인간의 권리를 존중하고, 민주적 가치를 수호하며, 지속 가능한 성장을 촉진하는 방향으로 발전하도록 하기 위해 설계되…
NIST (미국 국립표준기술연구소) 1. 개요 NIST(National Institute of Standards and Technology, 미국 국립표준기술연구소)는 미국 상무부(Department of Commerce) 산하의 비규제 정부 기관으로, 측정 표준의 개발 및 보급, 그리고 산업 경쟁력 강화를 위한 기술 표준 설정을 주 목적으로 하는 세계 최…