행렬대수

수리통계학을 공부하다보면 대부분의 수학적 증명이 행렬로 표현되어 있는 걸 볼 수 있다.(특히 다중회귀분석) 이렇게 표현하는게 이해하기 쉽다고 하는 데 하여튼 표현하는 데 편하다는 거엔 동의를 하지만...(입틀막) 행렬의 성질과 계산에 약하면 돌고돌아서 정체불명의 알 수 없는 결론에 도달한 스스로를 발견할 수 있다. 그런고로 자주 나오는 용어와 성질들을 정리해보도록 하자! 행렬에 어느정도 익숙한 사람 입장에서 쓴 내용이니 감안해서 읽도록 하자

1. 행렬의 정의(Matrix)

행렬이란 행과 열로 배열된 수들

바로 행렬 표현식을 봐보자

$$A = (a_{ij}) = \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1n} \\ a_{21} & a_{22} & \cdots & a_{2n} \\ \vdots & \vdots& \ddots & \vdots \\ a_{m1} & a_{m2} & \cdots & a_{mn} \end{pmatrix}$$
여기서, 행렬$A$는 $m \times n$ 라는 걸 바로 알 수 있으리라 생각한다.

2. 행렬의 종류

(1) 정방행렬(Square Matrix)

행과 열의 차수가 같은 행렬. 즉, $n \times n$ 행렬임

$$A = \begin{pmatrix} 2 & 1 \\ 3 & 0 \\ \end{pmatrix}$$

이때, 정방행렬 대각선 원소들의 합을 트레이스(Trace) 라 하며, $tr(A)$로 표시한다. $n \times n$행렬일 때의 트레이스는 다음과 같다. $$\sum_{i=1}^{n}{a_{ii}}$$

 

트레이스의 성질

트레이스의 성질은 다중회귀분석에서 제곱합(SST, SSE, SSR)의 자유도를 구할 때 쓰인다

1. $tr(A+B) = tr(A) + tr(B)$

2. $tr(\beta A) = \beta tr(A), \beta 는 상수$

3. $tr(I_{n}) = n$

4. $tr(AB) = tr(BA)$

5. $tr(ABC) = tr(BCA) = tr(CAB)$

6. 만약, x가 $n \times 1$벡터이고, $A$가 $n \times n$행렬이면, $tr(x^{'}Ax) = tr(x^{'}xA$)

 

(2) 대칭행렬(Symmetric Matrix)

모든 $i, j$에 대하여, $a_{ij} = a_{ji}$가 성립한다

$$A = \begin{pmatrix} 0 & 1 & 2 \\ 1 & 0 & 3 \\ 2 & 3 & 0 \end{pmatrix}$$

 

(3) 단위행렬(Unit Matrix) 또는 항등행렬(Identity Matrix)

n차 행렬에서 대각원소가 모두 1이고 나머지가 0일 경우 nck 단위행렬이라 하며 $I 또는 I_n$ 이라 표기한다

$$I = I_{3} = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{pmatrix}$$

 

(4) 대각행렬(Diagnol Matrix)

대각원소만 0이 아니고, 그 외의 모든 원소들은 0인 행렬

$$A = \begin{pmatrix} 2& 0 & 0 \\ 0 & 3 & 0 \\ 0 & 0 & 1 \end{pmatrix}$$

 

(5) 전치행렬(Transpose Matrix)

행렬 $A$의 행을 열로, 열을 행으로 한 행렬을 $A^{T}$ 또는 $A^{'}$라고 표기한다

$$A = \begin{pmatrix} 1 & 1 & 3 \\ 0 & 2 & 3 \\ 1 & 2 & 3 \end{pmatrix} A' = \begin{pmatrix} 1 & 0 & 1 \\ 1 & 2 & 2 \\ 3 & 3 & 3 \end{pmatrix}$$

 

(6) 역행렬(Inverse Matrix)

행렬 $A$가 n차 정방행렬이고 행렬식이 0이 아니면, $AA^{-1} = A^{-1}A = I$을 만족하는 행렬 $A^{-1}$가 존재하며 이를 $A$의 역행렬이라 한다.

 

역행렬의 성질

1. $A^{-1}$은 $A$가 정방행렬일 때만 존재한다.
2. $A^{-1}$은 $|A| \neq 0$일 때만 존재한다.
3. $A^{-1}$은 정칙행렬(Nonsigular Matrix)이다.
4. $A^{-1}$은 유일하다.
5. 행렬 $A, B$가 모두 정방행렬이고, $|A| \neq 0$, $|B| \neq 0$이면 $(AB)^{-1} = B^{-1}A^{-1}$이다.
6. $A$는 최대계수(Full Rank)를 가진다. 즉, r(A) = n이다.
7. $x=0$에 대해서만 $Ax = 0$이다.

• 행/열 계수란 행렬에서의 선형독립인 행/열의 최대 개수를 의미한다.

• 참고로 2차 역행렬의 경우, 다들 알겠지만 공식이 있다.
  $$A = \begin{pmatrix} a & b \\ c & d \end{pmatrix}, then A^{-1} = \frac{1}{ad-bc}\begin{pmatrix} d & -b \\ -c & a \end{pmatrix}$$

•  

(7) 직교행렬(Orthogonal Matrix)

정방행렬 A에 대하여 만약 $A^{'} = A^{-1}$이 성립하면 A를 직교행렬이라 한다. 또한, A가 직교행렬이면 AA^{'} = A^{'}A = I가 성립한다.

A가 n차 직교행렬이고, $n \times 1$벡터 $x$가 $y = Ax$라는 식을 통하여 y로 변환되면 이를 직교변환이라 한다.

 

(8) 멱등행렬(Idempotent Matrix)

$A = A^2 = A^3 = \cdots$가 성립하는 정방행렬 A를 멱등행렬이라 한다.

 

(9) 벡터(Vector)와 스칼라(Scalar)

$n \times 1$ 을 n차 행벡터, $1 \times n$ 을 n차 열벡터라 한다. 보통 행과 열의 구별 없이 벡터라 할 경우, 열벡터를 의미한다.

 

3.행렬식(Determinant)

행렬식은 정방행렬에서만 정의된다. 정방행렬 $A = (a_{ij})$의 행렬식은 $|A|$ 또는 $det A$라고 표시하며 공식은 다음과 같다 $$|A| = \sum_{j=1}^{n}{a_{ij}A_{ij}} , i = 1,2, \cdots,n$$

이해하기 쉽도록 차수에 따라 예시를 적어보겠다!

1차인 경우, $|A| = a_{11}$
2차인 경우, $|A| = \begin{vmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{vmatrix} = a_{11}a_{22} - a_{12}a_{21}$
3차인 경우, $|A| = a_{11}A_{11} + a_{12}A_{12} + a_{13}A_{13} = a_{11}(-1)^{1+1}detM_{11} + a_{12}(-1)^{1+2}detM_{12} + a_{13}(-1)^{1+3}detM_{13}= a_{11} \begin{vmatrix} a_{22} & a_{23} \\ a_{32} & a_{33} \end{vmatrix} - a_{12} \begin{vmatrix} a_{21} & a_{23} \\ a_{31} & a_{33} \end{vmatrix} + a_{13} \begin{vmatrix} a_{21} & a_{22} \\ a_{31} & a_{32} \end{vmatrix}$

• $a_{ij}$의 여인자(cofactor) $A_{ij}$는 $(-1)^{i+j}detM_{ij}$로 계산되며, 소행렬식 $detM_{ij}$에 부호를 주는 역할을 수행한다.
• $detM_{ij}$은 i번째 행과 j번째 열을 뺀 나머지 부분행렬의 행렬식 즉, 소행렬식이다.

행렬식의 성질도 중요하지만 기회가 된다면 정리해보도록 하겠다...(피토)

---

출처 : 행정, 입법고시, 금융공기업 통계학, 2019, (주)시대고시기획