안전성 (Safety) 1. 개요 안전성(Safety)이란 시스템, 장치, 또는 공정이 의도하지 않은 사고나 피해를 일으키지 않고, 허용 가능한 수준의 리스크 범위 내에서 정상적으로 작동하는 상태 또는 그 능력을 의미한다. 안전성은 단순히 '사고가 없는 상태'라는 정적인 개념을 넘어, 잠재적 위험 요소를 지속적으로 식별하고 제어하여 피해 가능성을 최소화하는…
검색 결과
"AI 안전성"에 대한 검색 결과 (총 4개)
NIST (미국 국립표준기술연구소) 1. 개요 NIST(National Institute of Standards and Technology, 미국 국립표준기술연구소)는 미국 상무부(Department of Commerce) 산하의 비규제 정부 기관으로, 측정 표준의 개발 및 보급, 그리고 산업 경쟁력 강화를 위한 기술 표준 설정을 주 목적으로 하는 세계 최…
투명성 확 개요 인공지능(AI)의속한 발전과 함께, 시스템이 사회 전반에 미치는 영향은 점점 더 커지고 있습니다. 의료, 금융, 사법, 고용 등 민감한 분야에서 AI 기술이 의사결정을 지원하거나 직접 개입함에 따라, 시스템의 작동 방식과 결정 근거에 대한 투명성 확보가 중요한 윤리적 요구사항으로 떠올랐습니다. 투명성 확보란 AI 시스템의 설계, 데이터 처리…
Adversarial Examples (적대적 예시) 개요 적대적 예시(Adversarial Examples)란 인공 신경망(Artificial Neural Networks)과 같은 머신러닝 모델의 예측을 의도적으로 오도하기 위해 인간이 인지하기 어려운 미세한 노이즈(noise)를 입력 데이터에 추가한 샘플을 의미합니다. 이 개념은 2013년 Ian Goo…