정규방정식 개요 정규방정식(Normal Equation)은 선형회귀(Linear Regression) 문제를 해결하기 위한 해석적(analytical) 방법 중 하나로, 최소제곱법(Least Squares Method)을 사용하여 선형 모델의 계수를 직접 계산하는 수식이다. 이 방정식은 손실 함수인 잔차 제곱합(Sum of Squared Residuals)…
검색 결과
"가역 행렬"에 대한 검색 결과 (총 5개)
준뉴턴 방법 (Quasi-Newton Methods) 준뉴턴 방법(Quasi-Newton Methods)은 목적 함수의 2차 미분 정보인 헤시안 행렬(Hessian Matrix)을 직접 계산하는 대신, 1차 미분 값인 그라디언트(Gradient)의 변화량을 통해 헤시안의 근사치를 반복적으로 업데이트하여 최적해를 찾는 수치 최적화 알고리즘입니다. 1. 개요 …
어핀 변환 (Affine Transformation) 어핀 변환은 선형 변환(Linear Transformation)과 평행 이동(Translation)이 결합된 기하학적 변환으로, 변환 후에도 직선의 직선성과 평행선 간의 평행성이 유지되는 특성을 가진 함수이다. 1. 개요 어핀 변환은 유클리드 공간에서 점들의 위치를 변경하는 변환의 일종이다. 핵심은 '선…
영행렬 개요 영행렬(zero matrix)은 모든 원소가 0인 행렬을 말한다. 행렬 연산에서 항등원(덧셈 항등원)으로 작용하며, 선형대수의 여러 기본 정리와 정의에 필수적인 역할을 한다. 영행렬은 차원에 따라 형태가 달라지지만, “모든 원소가 0”이라는 공통된 특성을 가진다. 본 문서는 영행렬의 정의, 주요 성질, 연산 규칙, 다른 특수 행렬과의 관계, 실…
정규 방정식 개요 정규 방정식(Normal Equation)은 선형 회귀 분석(Linear Regression)에서 최적의 파라미터(계수)를 직접 계산하는 수학적 방법입니다. 이 방법은 반복적 최적화 알고리즘인 경사 하강법(Gradient Descent)과 달리, 행렬 연산을 통해 해를 한 번에 도출합니다. 주로 작은 데이터셋 또는 특성이 적은 경우에 사용…