환각 현상 정의 환각 현상(Hallucination)이란 LLM(대규모 언어 모델)이 학습 데이터에 없는 내용을 마치 사실인 것처럼 자신 있게 생성하는 현상을 말한다. 이는 모델이 논리적으로는 그럴듯해 보이지만, 실제 사실과는 다른 허위 정보를 생성하는 일종의 생성 오류이다. 발생 원인 환각 현상은 LLM의 기본 작동 원리와 데이터의 한계로 인해 발생하며,…
검색 결과
"추론 경로"에 대한 검색 결과 (총 3개)
정형 검증 (Formal Verification) 1. 개요 정형 검증(Formal Verification)이란 수학적 모델과 논리적 추론을 사용하여 소프트웨어나 하드웨어 시스템이 설계 명세(Specification)를 엄격하게 준수하는지를 증명하는 소프트웨어 공학 기법이다. 일반적인 소프트웨어 테스트(Testing)가 특정 입력값의 집합을 선택해 실행 결…
프롬프트 기반 추 개요프롬프트반 추론(-based Reasoning) 인공지능, 대규모 언 모델(Large Language Models,LM)의 성능을 평가하고 향상시키기 위한 핵심적인 방법론 중 하나입니다 이 기법은 모델이 주어진(프롬프트)을 바으로 논리적 사고, 추론, 해결 능력을 발휘하도록 유도하는 방식으로, 전통적인 지도 학습 방식과는 달리 레이블링…