GPT 개요 GPT(Generative Pre-trained Transformer)는 오픈AI(OpenAI)에서발한 자연어 처리(NLP) 분야의 대표적인 언어 모델 시리즈로, 트랜스포머(Transformer) 아키텍처를 기반으로 한 생성형 사전 훈련 모델입니다. GPT는 대량의 텍스트 데이터를 이용해 사전 훈련된 후, 특정 작업에 맞게 미세 조정(fine-…
검색 결과
"AI 시스템"에 대한 검색 결과 (총 50개)
사이버 보안 프레임워크 (Cybersecurity Framework) 1. 개요 사이버 보안 프레임워크란 조직이 사이버 보안 위험을 관리하고 감소시키기 위해 사용하는 표준화된 세트의 지침, 모범 사례, 그리고 정책의 집합체이다. 현대의 IT 환경은 클라우드 전환, 원격 근무 확대, 공격 기법의 고도화로 인해 단일 보안 솔루션만으로는 방어가 불가능한 복잡성을…
정밀도 정밀도(Precision)는 인공지능 특히 머신러닝 모델의 성능을 평가하는 핵심 지표 중 하나로, 모델이 긍정 클래스(positive class)로 예측한 샘플 중 실제로 긍정인 샘플의 비율을 의미합니다. 주로 분류(Classification) 작업에서 사용되며, 특히 불균형 데이터셋(imbalanced dataset)에서 모델의 신뢰도를 판단하는 …
편향성 (Bias) 1. 개요 편향성(Bias)이란 정보 처리 과정에서 특정 방향으로 치우쳐 객관성을 잃거나, 통계적 추정치가 실제 모수(Parameter)와 체계적으로 차이가 나는 상태를 의미한다. 인지적 관점에서는 인간의 뇌가 정보를 효율적으로 처리하기 위해 사용하는 지름길(Heuristics)로 인해 발생하는 판단 오류를 뜻하며, 통계 및 기술적 관점…
생성 편향성 개요 성 편향성(ative Bias)은 생성형 인공지능 모델 생성하는 콘텐츠가 특정 집단, 관점, 또는 사상에 대해 불균형하게 반영되거나 차별적인 경향을 보일 발생하는 문제를 의미합니다. 이 모델의 학 데이터, 알고리즘계, 평가 기준 등 다양한 요인에서 기인하며, 특히 생성형 언어 모델(Large Language Models, LLM), 이미지…
투명성 확 개요 인공지능(AI)의속한 발전과 함께, 시스템이 사회 전반에 미치는 영향은 점점 더 커지고 있습니다. 의료, 금융, 사법, 고용 등 민감한 분야에서 AI 기술이 의사결정을 지원하거나 직접 개입함에 따라, 시스템의 작동 방식과 결정 근거에 대한 투명성 확보가 중요한 윤리적 요구사항으로 떠올랐습니다. 투명성 확보란 AI 시스템의 설계, 데이터 처리…
책임성 (Accountability) 개요 책임성(Accountability)이란 특정 개인이나 조직이 부여받은 권한을 행사하여 내린 결정과 그 결과에 대해 설명할 의무가 있으며, 그 결과에 따른 보상이나 제재를 수용해야 하는 상태를 의미한다. 책임성은 단순히 과업을 수행하는 '책임(Responsibility)'이나 질문에 답하는 '답변 가능성(Answer…
사전 훈련된 모델 (Pre-trained Model) 1. 개요 사전 훈련된 모델(Pre-trained Model)이란 방대한 양의 데이터셋을 사용하여 특정 작업(Task)을 수행하도록 미리 학습된 머신러닝 모델을 의미한다. 일반적으로 딥러닝 모델을 처음부터 학습시키는 스크래치 학습(Training from scratch)은 막대한 양의 레이블링된 데이터와…
공정성 개요 인공지능(A)의 공정성(Fair)은 AI 시스템이 개인 집단에 대해 차별적이거나 편향된 결정을 내리지 않도록 보장하는 핵심 윤리 원칙입니다. AI 기술이 의료, 채용, 금융, 사법 등 민감한 분야에 광범위하게 적용되면서, 시스템의 판단이 특정 인종, 성별, 연령, 지역, 사회경제적 지위 등에 따라 불공정한 결과를 초래하지 않도록 하는 것이 점점…
편향 완화 (Bias Mitigation) 1. 개요 편향 완화(Bias Mitigation)란 인공지능(AI) 모델이 학습 데이터나 알고리즘 설계 과정에서 습득한 특정 집단에 대한 편향된 판단이나 차별적인 결과를 최소화하여, 모델의 공정성(Fairness)과 신뢰성을 확보하는 기술적·정책적 과정을 의미한다. AI 모델의 편향은 단순히 기술적인 오류를 넘어…
인공지능의 편향과 차별 (AI Bias and Discrimination) 1. 개요 인공지능의 편향과 차별이란 AI 모델이 학습 데이터의 불균형이나 알고리즘의 설계 결함으로 인해 특정 보호 집단(Protected Group, 인종, 성별, 연령, 종교 등)에 대해 체계적으로 불리하거나 왜곡된 결과를 출력하는 현상을 의미한다. 현대 사회에서 AI는 채용, …
OECD AI Principles (OECD 인공지능 원칙) 1. 개요 OECD AI Principles는 경제협력개발기구(OECD)가 2019년 5월에 채택한 인공지능(AI) 개발 및 활용에 관한 국제적인 가이드라인입니다. 이 원칙은 AI가 인간의 권리를 존중하고, 민주적 가치를 수호하며, 지속 가능한 성장을 촉진하는 방향으로 발전하도록 하기 위해 설계되…
민감 속성 (Sensitive Attributes) 1. 개요 민감 속성(Sensitive Attributes)이란 인종, 성별, 종교, 정치적 견해 등 개인의 정체성과 밀접하게 연관되어 있으며, 이를 근거로 차별이나 편견이 발생할 가능성이 높은 데이터 특성을 의미한다. 인공지능(AI) 및 데이터 분석 맥락에서 민감 속성은 모델의 예측 결과가 특정 집단에 …
AI 모델 규제 (AI Model Regulation) 1. 개요 및 정의 AI 모델 규제란 인공지능 기술이 사회 전반에 미치는 영향력을 고려하여, AI 시스템의 개발, 배포 및 사용 과정에서 발생할 수 있는 위험을 관리하고 법적·윤리적 기준을 준수하도록 강제하는 일련의 제도적 장치를 의미한다. 인공지능 기술은 데이터 기반의 의사결정 능력을 통해 산업 혁신…
NIST (미국 국립표준기술연구소) 1. 개요 NIST(National Institute of Standards and Technology, 미국 국립표준기술연구소)는 미국 상무부(Department of Commerce) 산하의 비규제 정부 기관으로, 측정 표준의 개발 및 보급, 그리고 산업 경쟁력 강화를 위한 기술 표준 설정을 주 목적으로 하는 세계 최…
정보 검색 기반 (Information Retrieval Based) 개요 정보 검색 기반(Information Retrieval Based)은 방대한 양의 비정형 데이터(주로 텍스트)에서 사용자의 질의(Query)에 관련성이 높은 정보를 효율적으로 찾아내고 반환하는 기술 및 그 기반이 되는 시스템 아키텍처를 포괄하는 개념입니다. 현대의 디지털 환경에서 검…
의료 이미지 분류 (Medical Image Classification) 개요 의료 이미지 분류(Medical Image Classification)는 컴퓨터 비전(Computer Vision)과 인공지능(AI) 기술을 활용하여 의료 영상 데이터(엑스레이, CT, MRI, 초음파, 조직 슬라이드 등)를 분석하고, 해당 이미지가 특정 질병이나 상태에 해당하는…
집단별 성능 지표 (Stratified Performance Metrics) 개요 집단별 성능 지표(Stratified Performance Metrics)는 머신러닝 및 데이터 과학 모델의 평가 과정에서 전체 데이터셋의 평균 성능만으로는 파악하기 어려운 하위 그룹(Sub-group) 간의 성능 편차(Disparity)를 정량화하기 위해 사용되는 평가 방법…
다양성 (Diversity) 다양성(Diversity)은 인공지능, 특히 머신러닝과 딥러닝 모델 설계 및 훈련 과정에서 핵심적인 개념으로, 데이터의 분포, 모델의 예측 결과, 또는 학습 알고리즘의 행동이 단일한 패턴에 치우치지 않고 포괄적이고 균형 잡힌 상태를 유지하는 정도를 의미합니다. 현대 AI 시스템이 편향(Bias)을 최소화하고 일반화 성능을 극대화…
과적합 (Overfitting) 과적합(過適合, Overfitting)은 머신러닝 및 통계 모델링에서 학습 데이터에 지나치게 맞춰져 새로운 데이터, 즉 테스트 데이터나 실제 환경에서의 예측 성능이 저하되는 현상을 의미합니다. 이는 모델이 데이터의 일반적인 패턴(신호, Signal)을 학습하는 것이 아니라, 학습 데이터에 포함된 무작위 오차나 노이즈(Nois…