# SHAP 값 ## 개요 SHAP 값(Shapley Additive exPlanations) 머신러닝 모델의 예측 결과를 해석하기 위한모델 해석성**(Interpretability) 기법 중로, 게임 이론의 **샤플리 값**(Shapley Value) 개념을 기반으로 합니다. SHAP은 각 특성(feature)이 모델의 개별 예측에 기여한 정도를 정량...
검색 결과
"SHapley Additive exPlanations"에 대한 검색 결과 (총 8개)
# LIME ## 개요 LIME (Local Interpretable-agnostic Explanations)는 복잡한 머신러닝 모의 예측 결과를 인간이 이해할 수 있도록석하는 데 사용되는 **모 무관**(model-agnostic)한 설명 기법입니다. 딥러닝과 같은 블랙박스 모델은 높은 정확도를 제공하지만, 그 예측 과정이 투명하지 않아 신뢰성과 책임...
# 모델 해석성 ## 개요 **모델 해석성**(Model Interpretability)은 머신러닝 및 데이터과학 분야에서 모델이 예측을 내놓는 과정을 인간이 이해할 수 있도록 설명하는 능력을 의미합니다. 특히 복잡한 알고리즘(예: 딥러닝, 부스팅 모델 등)이 사용되는 경우, 모델의 결정 과정이 "블랙박스"처럼 보일 수 있어 해석성의 중요성이 더욱 부각...
블랙박스 ## 개요 **블랙스 문제**(Black Box Problem)는공지능, 특히 딥러닝반 모델에서 자주 언급되는 핵심적인 윤리적·기술적 이슈로, AI 시스템이 특정 결정을 내리는 과정이 투명하지 않고 해석하기 어려운 현상을 의미한다. 이 용어는 시스템의 내부 동작을 관찰할 수 없고, 오직 입력과 출력만을 볼 수 있는 ‘블랙박스’에 비유하여 붙여졌...
투명성 확 ## 개요 인공지능(AI)의속한 발전과 함께, 시스템이 사회 전반에 미치는 영향은 점점 더 커지고 있습니다. 의료, 금융, 사법, 고용 등 민감한 분야에서 AI 기술이 의사결정을 지원하거나 직접 개입함에 따라, 시스템의 작동 방식과 결정 근거에 대한 **투명성 확보**가 중요한 윤리적 요구사항으로 떠올랐습니다. 투명성 확보란 AI 시스템의 설...
AI검사 ## 개요 AI검사(인공능 검사, AI Model Inspection)는 인공지 모델의 성, 신뢰성,정성, 보성, 투명성 종합적으로 평가하고 분석 과정을 의미합니다 AI 기술이 금융, 의료 자율주행, 채용 등 민감한 분야에 광범위하게 적용면서, 모델 예상치 못한류를 일으키거나 편향된 결정을 내릴 경우 심각한 사회적, 윤리적 문제 초래할 수 있습...
# AI검사 AI검사(또는 AI 모델 검사) 인공지능 시스템의 성능, 안정성, 공정성, 보안성, 윤리적 적합성 등을 종합적으로 평가하고 검증하는 일련의 절차를 의미합니다. 특히 AI 모델이 실제 환경에서 안전하고 신뢰할 수 있게 작동하기 위해 필수적인 단계로, 단순한 정확도 측정을 넘어 다양한 위험 요소와 잠재적 편향을 식별하는 데 초점을 맞춥니다. AI...
# 의료 분석 ## 개요 의료 분석은 인공지능(AI) 기술 중 머신러닝(ML)을 활용하여 의료 데이터를 처리하고 해석하는 과정입니다. 이는 질병 진단, 치료 계획 수립, 예후 예측 등 다양한 의료 영역에서 혁신적인 변화를 가져왔습니다. 머신러닝은 대량의 의료 데이터(예: 환자 기록, 영상 자료, 유전자 정보)를 분석하여 숨겨진 패턴을 발견하고, 의사결정을...