생성 편향성 개요 성 편향성(ative Bias)은 생성형 인공지능 모델 생성하는 콘텐츠가 특정 집단, 관점, 또는 사상에 대해 불균형하게 반영되거나 차별적인 경향을 보일 발생하는 문제를 의미합니다. 이 모델의 학 데이터, 알고리즘계, 평가 기준 등 다양한 요인에서 기인하며, 특히 생성형 언어 모델(Large Language Models, LLM), 이미지…
검색 결과
"TruthfulQA"에 대한 검색 결과 (총 4개)
LLM (거대 언어 모델) 1. 개요 LLM(Large Language Model, 거대 언어 모델)은 방대한 양의 텍스트 데이터를 학습하여 인간과 유사한 자연어를 이해하고 생성할 수 있도록 설계된 인공신경망 기반의 딥러닝 모델이다. 여기서 '거대(Large)'함은 크게 두 가지 측면을 의미한다. 첫째는 파라미터(Parameter, 매개변수)의 수로, 모델…
의미 왜곡 방지 (Prevention of Semantic Distortion) 1. 개요 의미 왜곡 방지란 생성형 AI 및 자연어 처리(NLP) 모델이 텍스트를 생성, 요약, 번역하는 과정에서 입력된 원문의 핵심 의미나 의도를 변형시키지 않고 정확하게 유지하도록 제어하는 기술적 접근을 의미한다. 대규모 언어 모델(LLM)은 확률적으로 다음 토큰을 예측하는…
논리적 일관 개요 논리적 일성(Logical Cons)은 자연어 생성(Natural Language Generation, NLG 시스템이 생성하는 텍스트가부적으로 모순이 일관된 논리 구조를 유지하는 정도를 의미합니다. 즉, 생성된 문장이나 문단들이 서로 충돌하지 않고, 주어진 맥락 속에서 타당한 추론과 연결을 보여야 한다는 원칙입니다. 이는 자연어 생성 시…