계수와 상수가 실수인 이차방정식이 실수 범위에서 몇 개의 해를 갖는지 알아보기 위해서는 판별식의 부호를 살펴보면 된다. 이와 비슷하게 정사각행렬의 역행렬이 존재하는지 알아보는 공식이 있는데, 그것이 행렬식이다. 행렬식은 특정한 조건을 만족시키는 선형범함수로 정의될 수도 있는데, 그러한 함수는 크기가 작은 행렬의 행렬식을 이용하여 크기가 큰 행렬의 행렬식을 계산하는 귀납적인 방법으로 정의된다. 또한 행렬식은 행렬의 각 성분들을 이용하여 직접 계산하는 방식으로 정의될 수도 있다.
이 포스트에서는 행렬식의 두 가지 정의를 살펴보고 두 정의가 서로 동치임을 밝힌다. 더불어 행렬의 가역성과 관련된 행렬식의 성질을 살펴본다.
선형범함수로서의 행렬식
행렬식을 정의하기 위해 몇 가지 표기법을 정하자. \(K\)가 체이고 \(A\in M_n (K),\) \(n > 1\)이라고 하자. 이때 \(1\le i \le n ,\) \(1\le j \le n\)인 자연수 \(i,\) \(j\)에 대하여 행렬 \[\partial_{ij} A \in M_{n-1}(K)\] 를 \(A\)의 \(i\)째 행과 \(j\)째 열을 제거한 행렬로 정의하자. 예컨대 \[\partial_{12} \left(\begin{array}{ccc} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{array}\right) = \left(\begin{array}{cc} a_{21} & a_{23} \\ a_{31} & a_{33} \end{array}\right)\] 이다. 다음으로 행렬 \(A\)를 열벡터들을 붙여서 \[A = (A^1 ,\, A^2 ,\, \cdots ,\, A^n )\] 과 같이 나타낸다는 사실을 기억하자. 여기서 \(A^j\)는 \(A\)의 \(j\)째 열로 이루어진 열벡터이다.
정리 1. (행렬식의 기본정리)
\(n\ge 1\)일 때, 세 조건 (i), (ii), (iii)을 모두 만족시키는 함수 \[\det : M_n (K) \rightarrow K\] 가 유일하게 존재한다.
- 다중선형성질(multilinearity). \(A = (A^1 ,\, \cdots ,\, A^n ) \in M_n (K)\)이고, \(A\)의 \(j\)째 열벡터가 \[A^j = \lambda_1 C_1 + \lambda_2 C_2\]로 나타난다고 하자. 여기서 \(C_1 ,\, C_2 \in K^n\)이고 \(\lambda_1 ,\) \(\lambda_2\)는 스칼라이다. 그러면 \[\det(A) = \lambda_1 \det (A^1 ,\, \cdots ,\, C_1 ,\, \cdots ,\, A^n ) + \lambda_2 ( A^1 ,\, \cdots ,\, C_2 ,\, \cdots ,\, A^n )\] 이 성립한다. 여기서 우변의 \(C_1\)과 \(C_2\)는 각 행렬의 \(j\)째 열이다. 즉 \(\det\)는 행렬의 각 열에서 선형이다.
- 부호교대성질(alternation of sign). \(A = (A^1 ,\, \cdots ,\ A^n)\)이고, 적당한 \(j\)에 대하여 \(A^j = A^{j+1}\)이라고 하자. 즉 \(A\)의 열 중에서 서로 인접하고 동일한 것이 존재한다고 하자. 그러면 \(\det(A) =0\)이다.
- 정규화성질(normalization). 임의의 \(n\)에 대하여 \(\det(I_n)=1\)이다.
이러한 함수 \(\det\)를 행렬식(determinant)이라고 부른다.
증명.
여기서는 세 조건을 만족시키는 함수 \(\det\)가 존재함을 보이자. 그러한 함수가 유일하다는 사실은 뒤에서 증명할 것이다.
\(n=1\)인 경우 \(A=(a)\)이므로 당연히 \(\det(A) = a\)이다.
이제 \(n > 1\)이라고 하고, \(\det : M_n (K) \rightarrow K\)를 다음과 같이 정의하자. \[\det(A) = \sum_{j=1}^n (-1)^{j+1} a_{1j} \det(\partial_{1j} A).\tag{1}\] 이렇게 정의된 함수 \(\det\)가 (i), (ii), (iii)을 모두 만족시킴을 보이자.
(i)의 증명. 일반성을 잃지 않고 \(A^1 = \lambda_1 C_1 + \lambda_2 C_2\)라고 하자. 그리고 \(a_{11} = \lambda_1 c_1 + \lambda_2 c_2\)이며, \(c_1\)과 \(c_2\)가 각각 \(C_1\)과 \(C_2\)의 첫째 성분이라고 하자. 그러면 (1)에 의하여 \[\det(A) = (\lambda_1 c_1 + \lambda_2 c_2) \det(\partial_{11} A) + \sum_{j=2}^n (-1)^{j+1} a_{1j} \det(\partial_{1j} A)\] 이다. 그러므로 귀납적 정의에 의하여 다음을 얻는다. \[\begin{align} \det(A) &= \lambda_1 c_1 \det(\partial_{11} A) + \lambda_2 c_2 \det(\partial_{11} A) \\[5pt] &\quad+\sum_{j=2}^n (-1)^{j+1} a_{1j} \lambda_1 \det (\partial_{1j} (C_1 ,\, A^2 ,\, \cdots ,\, A^n )) \\[5pt] &\quad+\sum_{j=2}^n (-1)^{j+1} a_{1j} \lambda_2 \det (\partial_{1j} (C_1 ,\, A^2 ,\, \cdots ,\, A^n )). \tag{2} \end{align}\] 그런데 \[\partial_{11} A = \partial_{11} (C_1 ,\, A^2 ,\, \cdots ,\, A^n ) = \partial_{11}(C_2 ,\, A^2 ,\,\cdots ,\, A^n )\] 이다. 왜냐하면 이 등식에 있는 세 행렬중 어느 것도 \(A\)의 첫째 열을 포함고 있지 않기 때문이다. 그러므로 위 등식과 (2)를 결합하여 다음 식을 얻는다. \[\begin{align} \det(A) &= \lambda_1 \left\{ c_1 \det(\partial_{11} (C_1 ,\, A^2 ,\, \cdots ,\, A^n)) + \sum_{j=2}^n (-1)^{j+1} a_{1j} \det(\partial_{1j} (C_1 ,\, A^2 ,\, \cdots ,\, A^n)) \right\} \\[5pt] &\quad+ \lambda_2 \left\{ c_2 \det(\partial_{11} (C_2 ,\, A^2 ,\, \cdots ,\, A^n)) + \sum_{j=2}^n (-1)^{j+1} a_{1j} \det(\partial_{1j} (C_2 ,\, A^2 ,\, \cdots ,\, A^n)) \right\}.\tag{3} \end{align}\] 여기서 \(c_1 \det(\partial_{11} (C_1 ,\, A^2 ,\, \cdots ,\, A^n ))\)은 \(\det(C_1 ,\, A^2 ,\, \cdots ,\, A^n )\)을 전개했을 때 첫째 항이며, \(c_2 \det(\partial_{11}(C_2 ,\, A^2 ,\, \cdots ,\, A^n ))\)은 \(\det(C_2 ,\, A^2 ,\, \cdots ,\, A^n )\)을 전개했을 때 첫째 항이다. 그러므로 (3)을 간단하게 다음과 같이 나타낼 수 있다. \[\det(A) = \lambda_1 \det(C,\,A^2 ,\,\cdots,\,A^n) + \lambda_2 \det(C_2 ,\, A^2 ,\, \cdots ,\, A^n ).\] 이 식이 곧 (i)의 식이다.
(ii)의 증명. 일반성을 잃지 않고 \(A^1 = A^2\)라고 하자. 그러면 (1)에 의하여 \[\det(A) = a_{11}\det(\partial_{11}A) - a_{12}\det(\partial_{12}A) + \sum_{j=3}^n (-1)^{j+1} a_{1j} \det(\partial_{1j} A)\] 이다. 그런데 \(a_{11} = a_{12}\)이고 \(\partial_{11}A = \partial_{12}A\)이므로, 위 등식의 우변의 처음 두 항은 서로 상쇄된다. 우변에서 남은 항에 \(\partial_{1j} A,\) \(j=3,\,4,\,\cdots,\,n\)이 있는데, 이 행렬은 첫째 열과 둘째 열이 동일하므로 마찬가지로 상쇄된다. 이 과정을 반복하여 계속 상쇄시키면 결국 두 열이 같은 \(2\times 2\) 행렬 행렬식만 남는데, 이러한 행렬의 행렬식은 \(0\)이다. 그러므로 \(\det(A)=0\)이다.
(iii)의 증명. \(I_n\)의 첫째 행에서 \((1,\,1)\)-성분만 \(1\)이고 다른 성분은 모두 \(0\)이므로 \[\det(I_n) = 1\cdot \det(\partial_{11} I_n ) = \det (I_{n-1})\] 이다. 이 과정을 반복하면 \[\det(I_n) = \cdots = \det(I_1) = \det(1) = 1\] 을 얻는다.
보기 1. \(2\times 2\) 행렬과 \(3\times 3\) 행렬의 행렬식은 다음과 같이 구할 수 있다. \[\det\left(\begin{array}{cc} a & b \\ c & d \end{array}\right) = ad-bc,\] \[\det\left(\begin{array}{ccc} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{array}\right) = a_{11} \det\left(\begin{array}{cc} a_{22} & a_{23} \\ a_{32} & a_{33} \end{array}\right) - a_{12} \det\left(\begin{array}{cc} a_{21} & a_{23} \\ a_{31} & a_{33} \end{array}\right) + a_{13} \det\left(\begin{array}{cc} a_{21} & a_{22} \\ a_{31} & a_{32} \end{array}\right) . \]
따름정리 2. \(n \ge 2\)이고 \(A\)가 \(n\)차 정사각행렬일 때 다음이 성립한다.
- \(A\)의 인접한 두 열을 바꾸어 만든 행렬을 \(A ' \)이라고 하자. 그러면 \(\det(A ' ) = -\det(A)\)이다.
- \(A\)의 두 열을 바꾸어 만든 행렬을 \(A ' \)이라고 하자. 그러면 \(\det(A ' ) = -\det(A)\)이다.
- \(A\)의 열 중에서 서로 일치하는 것이 있으면 \(\det(A)=0\)이다.
증명.
(i)의 증명. \(A = (A^1 ,\, \cdots ,\, A^j ,\, A^{j+1} ,\, \cdots ,\, A^n ),\) \(A ' = (A^1 ,\, \cdots ,\, A^{j+1} ,\, A^j ,\, \cdots ,\, A^n )\)이라고 하자. 그리고 다음과 같은 행렬을 생각하자. \[A ' ' = (A^1 ,\, \cdots ,\, A^j + A^{j+1} ,\, A^j + A^{j+1} ,\, \cdots ,\, A^n ).\] \(A ' ' \)은 서로 일치하는 인접한 두 열을 가지고 있으므로 \(\det(A ' ' )=0\)이다. 따라서 다음을 얻는다. \[\begin{align} \det(A) + \det(A ' ) &= 0 + \det(A^1 ,\, \cdots ,\, A^j ,\, A^{j+1} ,\, \cdots ,\, A^n ) \\[5pt] &\quad + \det(A^1 ,\, \cdots ,\, A^{j+1} ,\, A^j ,\, \cdots ,\, A^n ) +0 \\[5pt] &= \det(A^1 ,\, \cdots ,\, A^j ,\, A^j ,\, \cdots ,\,A^n ) \\[5pt] &\quad + \det(A^1 ,\, \cdots ,\, A^j ,\, A^{j+1} ,\, \cdots ,\, A^n ) \\[5pt] &\quad + \det(A^1 ,\, \cdots ,\, A^{j+1} ,\, A^j ,\, \cdots ,\, A^n ) \\[5pt] &\quad + \det(A^1 ,\, \cdots ,\, A^{j+1} ,\, A^{j+1} ,\, \cdots ,\, A^n ) \\[5pt] &= \det(A ' ' ) =0 . \end{align}\] 그러므로 \(\det(A ' ) = -\det(A)\)이다.
(ii)의 증명. 두 열을 서로 바꾸는 연산은 인접한 두 열을 서로 바꾸는 연산을 홀수 번 한 것이다. 인접한 열을 서로 바꿀 때마다 행렬식의 크기는 같고 부호는 반대가 되므로, 두 열을 서로 바꾼 행렬의 행렬식은 처음 행렬의 행렬식에서 부호만 바꾼 것과 같다.
(iii)의 증명. 만약 \(A\)의 인접한 두 열이 서로 일치하면 \(A\)의 행렬식은 당연히 \(0\)이다. 만약 \(A\)의 서로 같은 두 열이 서로 인접하지 않다면, 열의 위치를 서로 바꾸는 연산을 한 번 함으로써 인접한 두 열이 서로 같은 행렬 \(A ' \)을 얻는다. 그러므로 \[\det(A) = -\det(A ' ) = 0\] 이다.
따름정리 3. \(A\)가 정사각행렬이고 \(A\)의 열벡터들이 일차종속이면 \(\det(A) =0\)이다.
증명.
\(A=(0)\)이면 당연히 \(\det(A)=0\)이다. 이제 \(n \ge 2\)이고 \(A\)가 \(n\)차 정사각행렬이며 \(A\)의 열벡터들이 일차종속이라고 하자. 그러면 스칼라 \(\lambda_k\)들이 존재하여 \[A^j = \sum_{k\ne j} \lambda_k A^k\] 로 표현된다. 그러면 \[\det(A) = \sum_{k\ne j} \lambda_k \det(A^1 ,\, \cdots ,\, A^k ,\, \cdots ,\, A^n )\] 이다. 여기서 \(A^k\)는 \(j\)째 열이다. 그런데 \[(A^1 ,\, \cdots ,\, A^k ,\, \cdots ,\, A^n )\] 은 일치하는 두 열을 가진 행렬이므로 따름정리 2의 (iii)에 의하여 이 행렬의 행렬식은 \(0\)이다.
행렬식의 다른 정의
(1)의 행렬식은 더 작은 행렬의 행렬식을 이용하여 더 큰 행렬의 행렬식을 구하는 귀납적 정의이다. 이제 행렬의 성분을 이용하여 직접 행렬을 계산하는 식을 살펴보자. 여기서 살펴보는 공식은 행렬식을 실제로 계산하기 위한 것이 아니라 행렬식의 성질을 밝히기 위한 기반으로서의 역할이 더 크다.
정리 4. 행렬 \(A\in M_n (K)\)의 행렬식은 다음과 같다. \[\det(A) = \sum_{\pi\in S_n} \sigma(\pi) a_{\pi(1)1} \cdots a_{\pi(n)n} .\tag{4}\] 여기서 \(\pi\)는 대칭군 \(S_n\)의 원소이며 \(\sigma\)는 부호 준동형사상이다. [즉 \(\sigma(\pi)\)는 \(\pi\)가 짝수 개의 호환의 합성일 때 \(1,\) 홀수 개의 호환의 합성일 때 \(-1\)을 값으로 갖는 함수이다.]
증명.
\(E_j\)가 \(n\times 1\) 행렬이고 \(j\)째 성분이 \(1\)이며 다른 성분은 모두 \(0\)인 행렬이라고 하자. 그러면 \[A = (a_{11} E_1 + \cdots + a_{n1} E_n ,\, A^2 ,\, \cdots ,\, A^n )\] 이다. 행렬식 (1)의 선형성에 의하여 \[\det(A) = \sum_{i=1}^n \det(E_i ,\, A^2 ,\, \cdots ,\, A^n )\] 이다. 같은 논증 과정을 두 번째 열에 적용하면 다음을 얻는다. \[\det(A) = \sum_{i=1}^n \sum_{j=1}^n a_{i1} a_{j2} \det(E_i ,\, E_j ,\, \cdots ,\, A^n ).\] 같은 방법으로 \(n\)개의 열에 이 과정을 차례로 적용하면 열벡터 \(E_j\)와 그 계수를 결합하는 모든 경우를 얻는다. 정의역과 공역이 모두 \(\left\{ 1,\,2,\,\cdots,\,n\right\}\)인 모든 함수들의 모임을 \(S\)라고 하면, 이 상황은 식으로 다음과 같이 나타낼 수 있다. \[\det(A) = \sum_{\varphi\in S} a_{\varphi (1)1} \cdots a_{\varphi(n) n} \det(E_{\varphi (1)},\, \cdots, \, E_{\varphi (n)} ).\tag{5}\] 만약 \(i \ne j\)이면서 \(\varphi(i) = \varphi(j)\)인 \(i,\) \(j\)가 존재한다면, 따름정리 2-(iii)에 의하여 \[\det(E_{\varphi (1)} ,\, \cdots ,\, E_{\varphi(n)})=0\] 이다. 그러므로 \(S\)의 모든 원소 \(\varphi\)에 대하여 (5)의 합을 구할 필요가 없고 \(\varphi\)가 일대일대응일 때만 구하면 된다. 즉 (5)는 다음과 같다. \[\det(A) = \sum_{\pi\in S_n} a_{\pi (1)1} \cdots a_{\pi(n) n} \det(E_{\pi (1)},\, \cdots, \, E_{\pi (n)} ).\tag{6}\] 식 (6)에 있는 행렬식을 살펴보자. \(I_n = (E_1 ,\, \cdots ,\, E_n)\)의 열의 순서를 적당히 바꾸어 \((E_{\pi(1)} ,\, \cdots ,\, E_{\pi(n)})\)을 만들 수 있다. 여기서 열의 순서를 바꾸는 횟수의 홀짝성은 \(\pi\)의 부호와 같다. 그러므로 \[\det(E_{\pi (1)} ,\, \cdots ,\, E_{\pi (n)}) = \sigma(\pi) \det(E_1 ,\, \cdots ,\, E_n ) = \sigma(\pi) \det(I_n) = \sigma(\pi)\tag{7}\] 가 성립한다. (7)과 (6)을 결합하면 (4)를 얻는다.
따름정리 5. 임의의 \(n\)차 정사각행렬 \(A\)에 대하여 \(\det(A) = \det( \,^t \! A )\)이다.
증명.
대칭군과 치환은 다음과 같은 성질을 가진다.
- \(\left\{ \pi \,\vert\, \pi \in S_n \right\}\)과 \(\left\{ \pi^{-1} \,\vert\, \pi \in S_n \right\}\)은 같은 집합이며, 두 집합의 원소는 일대일 대응된다.
- 임의의 \(\pi \in S_n\)에 대하여 \(\sigma(\pi) = \sigma(\pi^{-1})\)이다.
이제 비로소 정리 1의 세 조건을 모두 만족시키는 함수가 유일함을 증명할 수 있다.
행렬식의 유일성
정리 1의 세 조건 (i), (ii), (iii)을 모두 만족시키는 함수 \(\det : M_n (K) \rightarrow K\)는 유일하다.
증명.
(4)와 같이 정의된 행렬식은 정리 1의 세 조건을 모두 만족시킨다. 더욱이 정리 4는 정리 1의 세 조건을 만족시키는 함수가 (4)와 일치함을 설명한다. 그러므로 정리 1의 세 조건을 만족시키는 함수는 (4)로서 유일하게 정해진다.
정리 4와 따름정리 5의 결과로서 행렬식의 유용한 성질들을 이끌어낼 수 있다.
정리 6. (행렬식의 행전개와 열전개)
\(A\)가 \(n\)차 정사각행렬일 때, \(A\)의 행렬식은 다음과 같이 계산할 수 있다.
- 고정된 행번호 \(i,\) \(1\le i\le n\)에 대하여 \[\det(A) = \sum_{j=1}^n (-1)^{i+j} a_{ij} \det(\partial_{ij} A).\]
- 고정된 열번호 \(j,\) \(1\le j\le n\)에 대하여 \[\det(A) = \sum_{i=1}^n (-1)^{i+j} a_{ij} \det(\partial_{ij} A).\]
증명.
행렬식의 기본정리(정리 1)의 증명은 임의의 열에 적용 가능하다. 또한 행렬식이 유일하게 정해지므로 (i)의 등식이 성립한다. 다음으로 행렬의 행렬식과 전치행렬의 행렬식이 일치하며, 행렬의 한 행을 기준으로 전개한 행렬식은 그 전치행렬의 한 열을 기준으로 전개한 행렬식과 일치하므로 (ii)의 등식이 성립한다.
따름정리 7. 삼각행렬의 행렬식은 대각성분의 곱과 같다.
증명.
\(A\)가 \(n\)차 정사각행렬이고 아래삼각행렬이라고 하자. \(A\)의 첫째 행을 기준으로 행렬식을 전개하면 그 값은 \(A\)의 대각성분의 곱과 같다. \(A\)가 위삼각행렬인 경우에는 \(A\)의 첫째 열을 기준으로 행렬식을 전개하면 그 값은 \(A\)의 대각성분의 곱과 같다.
따름정리 8. \(A\)가 \(n\)차 정사각행렬이고 다음과 같은 형태를 가지고 있다고 하자. \[A= \left( \begin{array}{c|c} P&Q \\ \hline 0&R \end{array} \right).\tag{8}\] 여기서 \(P\)는 \(m\times m\) 행렬이고 \(Q\)는 \(m\times (n-m)\) 행렬이며 \(R\)는 \((n-m)\times(n-m)\) 행렬이고 \(0\)은 \((n-m)\times m\) 영행렬이다. 그러면 \[\det(A) = \det(P) \det(R)\tag{9}\] 이다. 특히 행렬 \(Q\)의 성분은 \(A\)의 행렬식을 계산할 때 아무런 역할을 하지 않는다.
증명.
\(m\)에 수학적 귀납법을 적용하여 증명하자. \(m=1\)인 경우 \(A\)의 첫째 열을 기준으로 행렬식을 전개하면 \[\det(A) = a_{11} \det(\partial_{11} A) = \det(P)\det(R)\] 이므로 (10)이 성립한다.
이제 \(m > 1\)이라고 가정하자. 그리고 \(P\)의 행의 개수가 \(m\) 미만인 모든 경우 (10)이 성립한다고 가정하자. \(i > m\)일 때 \(a_{i1} = 0\)이므로, \(A\)의 첫째 열을 기준으로 행렬식을 전개하면 다음을 얻는다. \[\begin{align} \det(A) &= \sum_{i=1}^n (-1)^{i+1} a_{i1} \det(\partial_{i1} A) \\[5pt] &= \sum_{i=1}^m (-1)^{i+1} a_{i1} \det(\partial_{i1} A) \\[5pt] &= \sum_{i=1}^m (-1)^{i+1} a_{i1} \det(\partial_{i1} P) \det(R) \\[5pt] &= \det(P) \det(R). \tag*{\(\blacksquare\)} \end{align}\]
행렬의 가역성과 행렬식의 관계
정사각행렬 \(A\)의 역행렬이 존재할 때 ‘\(A\)는 가역이다’라고 말하고, \(A\)를 가역행렬이라고 부른다. 행렬식은 행렬의 가역성과 깊은 관계가 있다.
정리 9. \(A\)와 \(B\)가 \(n\)차 정사각행렬일 때 \[\det(AB) = \det(A) \det(B) .\]
증명.
이 정리의 증명은 정리 4의 증명과 비슷하다. \(B\)의 열벡터를 이용하여 곱 \(AB\)를 나타내면 다음과 같다. \[AB = (A\cdot B^1 ,\, \cdots ,\, A\cdot B^j ,\, \cdots ,\, A \cdot B^n ).\] 또한 \(AB\)의 \(j\)째 열은 다음과 같이 나타낼 수 있다. \[A\cdot B^j = b_{1j} A^1 + \cdots + b_{nj} A^n .\] 정의역과 공역이 모두 \(\left\{ 1,\, 2,\,\cdots,\,n\right\}\)인 함수들의 모임을 \(S\)라 하자. 위 등식과 행렬식의 선형성을 이용하여 \(AB\)의 행렬식을 전개하면 다음과 같다. \[\det(AB) = \sum_{\varphi \in S} b_{\varphi(1)1} \cdots b_{\varphi(n)n} \det(A^{\varphi(1)} ,\,\cdots,\, A^{\varphi(n)}).\] 여기서 실제로 위 합에 영향을 주는 것은 \(\varphi\)가 일대일 대응일 때뿐이다. 그러므로 위 식은 다음과 같이 쓸 수 있다. \[\det(AB) = \sum_{\pi\in S_n} b_{\pi(1)1} \cdots b_{\pi(n)n} \det(A^{\pi(1)} ,\,\cdots,\, A^{\pi(n)}).\] 우변의 각 항은 \(A\)의 행렬식에 \(\pi\)의 부호를 곱한 인수를 가진다. 그러므로 위 식의 우변은 다음과 같이 변형할 수 있다. \[\begin{align} \det(AB) &= \sum_{\pi\in S_n} b_{\pi(1)1} \cdots b_{\pi(n)n} \sigma(\pi) \det(A) \\[5pt] &= \det(A) \sum_{\pi \in S_n} \sigma(\pi) b_{\pi(1)1} \cdots b_{\pi(n)n} \\[5pt] &= \det(A) \det(B).\tag*{\(\blacksquare\)} \end{align}\]
정리 10. \(A\in M_n (K)\)라고 하자. 이때 다음은 모두 서로 동치이다.
- 임의의 \(\mathbf{y}\in K^n\)에 대하여 연립일차방정식 \(A\mathbf{x} = \mathbf{y}\)는 적어도 하나의 해를 가진다.
- \(A\)의 열벡터들은 \(K^n\)을 생성한다.
- \(A\)의 행벡터들은 \(K^n\)을 생성한다.
- 동차방정식 \(A\mathbf{x} = \mathbf{0}\)은 자명한 해 \(\mathbf{x} = \mathbf{0}\)만을 가진다.
- \(A\)의 열벡터들은 일차독립이다.
- \(A\)의 행벡터들은 일차독립이다.
- 임의의 \(\mathbf{y}\in K^n\)에 대하여 연립일차방정식 \(A\mathbf{x} = \mathbf{y}\)는 딱 하나의 해를 가진다.
- \(A\)의 열벡터들은 \(K^n\)의 기저를 이룬다.
- \(A\)의 행벡터들은 \(K^n\)의 기저를 이룬다.
- \(A\)는 가역이다. 즉 \(A\in\operatorname{GL}_n (K)\)이다.
- \(\det(A) \ne 0.\)
- \(\det(\,^t\! A) \ne 0.\)
증명.
(i)부터 (x)까지가 모두 서로 동치임은 앞에서 증명하였다. 또한 따름정리 5에 의하여 \(\det(A) = \det(\,^t\! A)\)이므로 (xi)와 (xii)는 서로 동치이다.
만약 \(A\)의 열벡터들이 서로 일차종속이면 따름정리 3에 의하여 \(\det(A) = 0\)이다. 그러므로 (xi)⇒(v)가 성립한다.
이제 (x)⇒(xi)을 증명하자. \(A\)가 가역이라고 가정하자. 그러면 \(A\)의 역행렬 \(B\)가 존재한다. 즉 \(AB = I_n\)이다. 이때 정리 9에 의하여 \[\det(A)\det(B) = \det(AB) = \det(I_n) = 1\] 이므로 \(\det(A)\)의 값은 \(0\)이 될 수 없다.
체 \(K\)에서 덧셈에 대한 항등원을 제외한 집합을 \(K^*\)로 나타낸다. 위 정리에서 (x)과 (xi)이 동치라는 사실로부터 다음 정리를 얻는다.
따름정리 11. \(\det : \operatorname{GL}_n (K) \,\rightarrow\, K^*\)는 곱 연산에 대한 군준동형사상이다.
여인자와 Cramer 공식
다음과 같은 행렬이 주어졌다고 하자. \[A = \left(\begin{array}{ccc} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{array}\right).\] 이제 다음 식을 살펴보자. \[a_{11} \det(\partial_{31}A) - a_{12} \det(\partial_{32}A) + a_{13} \det(\partial_{33}A).\tag{10}\] 이 식은 다음과 같은 행렬 \(A ' \)의 셋째 행을 기준으로 행렬식을 전개한 것과 같다. \[A ' = \left(\begin{array}{ccc} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{11} & a_{12} & a_{13} \end{array}\right).\] \(A ' \)의 두 행이 같으므로 \(\det(A ' )=0\)이다. 그러므로 \[a_{11} \det(\partial_{31}A) - a_{12} \det(\partial_{32}A) + a_{13} \det(\partial_{33}A) = \det(A ' ) = 0\] 이다. 여기서 \((-1)^{i+j}\det(\partial_{ij}A)\)를 \(a_{ij}\)의 여인자(cofactor)라고 부른다. 이로써 위 등식은 다음과 같이 표현할 수 있다.
정사각행렬의 한 행의 성분들을 다른 고정된 행의 같은 열의 여인자와 곱하여 더한 결과는 \(0\)이다. 또한 한 열의 성분들을 다른 고정된 열의 같은 행의 여인자와 곱하여 더한 결과는 \(0\)이다.
\(A\)가 \(n\times n\) 행렬이고 \(C_{ij}\)가 \(a_{ij}\)의 여인자라고 하자. 이때 행렬 \[\left(\begin{array}{cccc} C_{11} & C_{12} & \cdots & C_{1n} \\ C_{21} & C_{22} & \cdots & C_{2n} \\ \vdots & \vdots & \ddots & \vdots \\ C_{n1} & C_{n2} & \cdots & C_{nn} \end{array}\right)\] 을 \(A\)의 여인자행렬(matrix of cofactor)이라고 부른다. 또한 \(A\)의 여인자행렬의 전치행렬을 \(A\)의 수반행렬(adjoint matrix)이라고 부르고 \(\adj(A)\)로 나타낸다.
보기 3. 다음 행렬의 수반행렬을 구해 보자. \[A = \left(\begin{array}{crr} 3 & 2 & -1 \\ 1 & 6 & 3 \\ 2 & -4 & 0 \end{array}\right).\] 여인자를 구하면 다음과 같다. \[\begin{array}{lll} C_{11} =12 , & C_{12} = 6 , & C_{13} = -16, \\ C_{21} = 4, & C_{22} = 2 , & C_{23} = 16, \\ C_{31} = 12, & C_{32} = -10, & C_{33} = 16 . \end{array}\] 그러므로 여인자행렬 \(C\)와 수반행렬 \(\adj(A)\)는 다음과 같다. \[\begin{align} C &= \left(\begin{array}{rrr} 12 & 6 & -16 \\ 4 & 2 & 16 \\ 12 & -10 & 16 \end{array}\right), \\[5pt] \adj(A) = \,^t\! C &= \left(\begin{array}{rrr} 12 & 4 & 12 \\ 6 & 2 & -10 \\ -16 & 16 & 16 \end{array}\right). \end{align}\]
정리 12. \(A\)가 가역인 \(n\)차 정사각행렬이면 \[A^{-1} = \frac{1}{\det(A)} \adj(A).\tag{11}\]
증명.
먼저 \(A\cdot\adj (A) = \det (A) I_n\)임을 보이자. \(\adj(A)\)의 \(ij\)-성분을 \(C_{ji}\)로 나타내자. 그러면 \(A\cdot\adj(A)\)의 \(j\)째 열은 다음과 같다. \[a_{i1} C_{j1} + a_{i2} C_{j2} + \cdots + a_{in} C_{jn}.\tag{12}\] \(i=j\)인 경우에는 여인자와 그 앞에 곱해진 성분이 \(A\)의 같은 행으로부터 얻어지므로 (3)은 그 행을 따라 \(\det(A)\)의 여인자 전개한 것이다. \(i\ne j\)인 경우에는 여인자와 그 앞에 곱해진 성분이 \(A\)의 다른 행으로부터 얻어지므로 앞의 논의에 의하여 (3)의 값은 \(0\)이다. 따라서 다음이 성립한다. \[A\cdot\adj(A) = \left(\begin{array}{cccc} \det(A) & 0 & \cdots & 0 \\ 0 & \det(A) & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & \det(A) \end{array}\right) =\det(A) I_n .\] \(A\)가 가역행렬이므로 \(\det(A) \ne 0\)이다. 그러므로 위 식의 양변을 \(\det(A)\)로 나누면 \[A \left( \frac{1}{\det(A)} \adj(A) \right) = I_n\] 이다. 이 식으로부터 (11)을 얻는다.
보기 4. 앞의 보기 3에서 살펴본 행렬 \(A\)의 역행렬을 구해 보자. \(\det(A) = 64\)이므로 \[A^{-1} = \frac{1}{\det(A)}\adj(A) = \frac{1}{64} \left(\begin{array}{rrr} 12 & 4 & 12 \\ 6 & 2 & -10 \\ -16 & 16 & 16 \end{array}\right).\]
여인자를 이용하면 연립일차방정식의 해 공식을 쉽게 표현할 수 있다.
정리 13. (Cramer 공식)
\(A\mathbf{x} = \mathbf{b}\)가 \(n\)개의 미지수를 가진 연립일차방정식이고 \(\det(A) \ne 0\)이라고 하자. 그리고 \(A\)의 \(j\)째 열을 \(\mathbf{b}\)로 바꾼 행렬을 \(A_j\)로 나타내자. 그러면 \(A\mathbf{x} = \mathbf{b}\)의 해는 다음과 같다. \[x_1 = \frac{\det(A_1)}{\det(A)} ,\,\, x_2 = \frac{\det(A_2)}{\det(A)} ,\,\, \cdots ,\,\, x_n = \frac{\det(A_n)}{\det(A)} .\]
증명.
정리 12의 식 (11)을 이용하면 \(A\mathbf{x} = \mathbf{b}\)의 해는 다음과 같다. \[\begin{align} \mathbf{x} &= A^{-1} \mathbf{b} = \frac{1}{\det(A)}\adj(A) \mathbf{b} \\[5pt] &= \frac{1}{\det(A)} \left(\begin{array}{cccc} C_{11} & C_{21} & \cdots & C_{n1} \\ C_{12} & C_{22} & \cdots & C_{n2} \\ \vdots & \vdots & \ddots & \vdots \\ C_{1n} & C_{2n} & \cdots & C_{nn} \end{array}\right) \left(\begin{array}{c} b_1 \\ b_2 \\ \vdots \\ b_n \end{array}\right). \end{align}\] 그러므로 \(\mathbf{x}\)의 \(j\)째 행은 다음과 같다. \[x_j = \frac{b_1 C_{1j} + b_2 C_{2j} + \cdots + b_n C_{nj}}{\det(A)}.\tag{13}\] 여기서 \(b_1,\) \(b_2 ,\) \(\cdots ,\) \(b_n\)은 \(\mathbf{b}\)의 성분이다. 이 식의 여인자들은 \(A\)의 \(j\)째 열에서 온 것이므로, \(A\)의 \(j\)째 열을 \(\mathbf{b}\)로 바꾸어도 위 식의 여인자들은 변하지 않는다. \(A\)의 \(j\)째 열을 \(\mathbf{b}\)로 바꾼 결과는 행렬 \(A_j\)가 되며, (13)의 분자는 \(A_j\)의 \(j\)째 열을 따라 전개한 여인자 전개와 같다. 그러므로 \[x_j = \frac{\det(A_j )}{\det(A)}\] 를 얻는다.
보기 5. 다음 연립방정식을 풀어 보자. \[\begin{cases} 2x-6y = 1 \\ 3x-4y = 5 \end{cases}\] Cramer 공식을 따라 계산하면 다음을 얻는다. \[\begin{align} x & = \frac{\det\left( \begin{array}{cr} 1 & -6 \\ 5 & -4 \end{array} \right)}{\det\left( \begin{array}{cr} 2 & -6 \\ 3 & -4 \end{array} \right)} = \frac{26}{10} = \frac{13}{5} , \\[5pt] y & = \frac{\det\left( \begin{array}{cr} 2 & 1 \\ 3 & 5 \end{array} \right)}{\det\left( \begin{array}{cr} 2 & -6 \\ 3 & -4 \end{array} \right)} = \frac{7}{10} . \end{align}\]
다 쓰고 나서 보니 [보기 2]가 없네. 언젠가 추가할 보기를 위해 번호를 하나 비워둔 것이라고 해두자.