# 의사역행렬

의사역행렬(Pseudoinverse), 또는 무어-펜로즈 역행렬(Moore-Penrose Inverse)은 선형대수학에서 정방행렬이 아니거나 비가역적인 행렬에 대해 일반화된 역행렬을 제공하는 중요한 개념이다. 실제 응용에서 많은 문제들이 정방행렬이 아닌 비정방행렬로 표현되며, 이 경우 일반적인 역행렬을 정의할 수 없기 때문에 의사역행렬은 회귀분석, 신호 처리, 기계학습 등 다양한 분야에서 핵심적인 역할을 한다.

---

## 개요

행렬 \( A \)가 정방행렬이고 비특이적(invertible)이라면, 그 역행렬 \( A^{-1} \)이 존재하여 \( A A^{-1} = A^{-1} A = I \)를 만족한다. 그러나 \( A \)가 비정방행렬(예: \( m \times n \), \( m \neq n \))이거나 특이행렬(singular matrix)인 경우 일반적인 역행렬은 존재하지 않는다. 이러한 상황에서 **의사역행렬**은 역행렬의 성질을 최대한 모방하여 유사한 역작용을 수행할 수 있도록 정의된 행렬이다.

의사역행렬은 특히 **최소제곱 문제**(least squares problem)의 해를 구하는 데 핵심적인 도구로 사용되며, 선형 시스템 \( A\mathbf{x} = \mathbf{b} \)의 해가 존재하지 않거나 유일하지 않을 때도 최적의 근사해를 제공한다.

---

## 정의와 성질

### 무어-펜로즈 조건

행렬 \( A \in \mathbb{R}^{m \times n} \)의 의사역행렬 \( A^+ \in \mathbb{R}^{n \times m} \)은 다음의 **무어-펜로즈 조건**(Moore-Penrose conditions)을 모두 만족하는 유일한 행렬로 정의된다:

1. \( A A^+ A = A \)
2. \( A^+ A A^+ = A^+ \)
3. \( (A A^+)^* = A A^+ \) (에르미트 성질)
4. \( (A^+ A)^* = A^+ A \) (에르미트 성질)

여기서 \(^*\)는 켤레전치(conjugate transpose)를 의미하며, 실수 행렬의 경우 전치행렬 \(^\top\)과 동일하다.

이 네 조건을 만족하는 \( A^+ \)는 항상 존재하며, 유일하다.

---

## 의사역행렬의 계산 방법

의사역행렬은 다음과 같은 방법들로 계산할 수 있다.

### 1. 특이값 분해(SVD)를 이용한 방법

가장 일반적이고 수치적으로 안정적인 방법은 **특이값 분해**(Singular Value Decomposition, SVD)를 이용하는 것이다.

행렬 \( A \)가 다음과 같이 SVD로 분해된다고 하자:

\[
A = U \Sigma V^*
\]

여기서:
- \( U \): \( m \times m \) 유니터리(unitary) 행렬
- \( \Sigma \): \( m \times n \) 직사각형 대각행렬 (특이값들이 대각선에 위치)
- \( V \): \( n \times n \) 유니터리 행렬

그러면 \( A \)의 의사역행렬은 다음과 같이 계산된다:

\[
A^+ = V \Sigma^+ U^*
\]

여기서 \( \Sigma^+ \)는 \( \Sigma \)의 전치를 취한 후, 0이 아닌 특이값들에 대해 역수를 취한 행렬이다. 예를 들어, \( \Sigma \)의 대각성분이 \( \sigma_1, \sigma_2, \dots, \sigma_r \) (단, \( r = \text{rank}(A) \))이면, \( \Sigma^+ \)는 \( \frac{1}{\sigma_1}, \dots, \frac{1}{\sigma_r} \)을 대각성분으로 가지며 나머지는 0이다.

---

### 2. 열이 선형독립한 경우

만약 \( A \)가 \( m \times n \) 행렬이고 열벡터들이 선형독립이라면 (\( \text{rank}(A) = n \)), 의사역행렬은 다음과 같다:

\[
A^+ = (A^* A)^{-1} A^*
\]

이 경우, \( A^* A \)는 \( n \times n \) 정방행렬이며 가역적이다.

---

### 3. 행이 선형독립한 경우

만약 \( A \)의 행벡터들이 선형독립이라면 (\( \text{rank}(A) = m \)), 의사역행렬은 다음과 같다:

\[
A^+ = A^* (A A^*)^{-1}
\]

---

## 응용 분야

### 1. 최소제곱 문제

선형 시스템 \( A\mathbf{x} = \mathbf{b} \)가 해를 가지지 않거나 해가 유일하지 않을 때, **최소제곱 해**(least squares solution)는 \( \|A\mathbf{x} - \mathbf{b}\|_2 \)를 최소화하는 \( \mathbf{x} \)이다. 이 해는 다음과 같이 의사역행렬을 이용해 구할 수 있다:

\[
\mathbf{x} = A^+ \mathbf{b}
\]

이는 가능한 해들 중에서 **노름이 가장 작은 해**(minimum norm solution)를 제공한다.

### 2. 회귀분석

선형 회귀 모델 \( \mathbf{y} = X\boldsymbol{\beta} + \boldsymbol{\varepsilon} \)에서 회귀계수 \( \boldsymbol{\beta} \)의 추정값은 다음과 같이 주어진다:

\[
\hat{\boldsymbol{\beta}} = X^+ \mathbf{y}
\]

특히 \( X \)가 풀랭크(full rank)인 경우, \( (X^\top X)^{-1} X^\top \) 형태로 표현된다.

### 3. 신호 처리 및 제어 이론

의사역행렬은 노이즈가 포함된 신호 복원, 이미지 재구성, 시스템 식별 등에서 최적 필터 설계에 활용된다.

### 4. 기계학습

신경망 초기화, PCA, 정규화 기법 등에서도 의사역행렬 기반의 계산이 사용된다.

---

## 예시

다음과 같은 행렬 \( A \)를 고려하자:

\[
A = \begin{bmatrix} 1 & 0 \\ 0 & 1 \\ 1 & 1 \end{bmatrix}
\]

이 행렬은 \( 3 \times 2 \)이며 열이 선형독립이다. 따라서:

\[
A^+ = (A^\top A)^{-1} A^\top
\]

먼저:

\[
A^\top A = \begin{bmatrix} 1 & 0 & 1 \\ 0 & 1 & 1 \end{bmatrix} \begin{bmatrix} 1 & 0 \\ 0 & 1 \\ 1 & 1 \end{bmatrix} = \begin{bmatrix} 2 & 1 \\ 1 & 2 \end{bmatrix}
\]

\[
(A^\top A)^{-1} = \frac{1}{3} \begin{bmatrix} 2 & -1 \\ -1 & 2 \end{bmatrix}
\]

따라서:

\[
A^+ = \frac{1}{3} \begin{bmatrix} 2 & -1 \\ -1 & 2 \end{bmatrix} \begin{bmatrix} 1 & 0 & 1 \\ 0 & 1 & 1 \end{bmatrix} = \frac{1}{3} \begin{bmatrix} 2 & -1 & 1 \\ -1 & 2 & 1 \end{bmatrix}
\]

---

## 관련 개념

- **특이값 분해**(SVD): 의사역행렬 계산의 핵심 도구
- **최소제곱법**(Least Squares)
- **정칙화**(Regularization): 의사역행렬과 결합하여 수치적 안정성 향상
- **직교사영**(Orthogonal Projection): \( A A^+ \)는 \( \mathbb{R}^m \)에서 \( \text{Col}(A) \)로의 사영

---

## 참고 자료

- Golub, G. H., & Van Loan, C. F. (2013). *Matrix Computations* (4th ed.). Johns Hopkins University Press.
- Strang, G. (2016). *Introduction to Linear Algebra* (5th ed.). Wellesley-Cambridge Press.
- Penrose, R. (1955). "A generalized inverse for matrices". *Mathematical Proceedings of the Cambridge Philosophical Society*, 51(3), 406–413.

--- 

의사역행렬은 현대 과학과 공학에서 선형 문제를 해결하는 데 필수적인 도구로, 이론적 깊이와 실용적 유용성을 모두 갖춘 선형대수학의 핵심 개념이다.