\(A\)가 \(n\)차 정사각행렬이고 모든 성분이 체 \(K\)의 성분이라고 하자. 즉 \(A\in M_n (K)\)라고 하자. 그리고 \(A\)의 특성다항식을 \(p_A (t)\)라고 하자. 그러면 \(\lambda \in K\)가 \(A\)의 고윳값일 필요충분조건은 \(p_A(\lambda)=0\)인 것이다. 이때 \(p_A (t)\)는 다음과 같은 꼴로 인수분해된다. \[p_A (t) = (t-\lambda )^r q(t).\] 여기서 \((t-\lambda)\)의 차수 \(r\)를 고윳값 \(\lambda\)의 대수적 중복도라고 부른다. 고윳값 \(\lambda\)를 고정시켜 두고 다음 집합을 생각하자. \[\left\{ \mathbf{v}\in \mathbb{R}^n \,\vert\, A\mathbf{v} = \lambda \mathbf{v} \right\}\] 이 집합은 \(\mathbb{R}^n\)의 부분공간이 되는데, 이 공간을 고윳값 \(\lambda\)에 대응되는 고유공간이라고 부른다. 이 고유공간의 차원을 \(\lambda\)의 기하적 중복도라고 부른다.
만약 \(p_A(t)\)가 \(K\)에서 일차식의 곱으로 완전히 인수분해되고, \(A\)의 각 고윳값의 대수적 중복도와 기하적 중복도가 일치하면 \(A\)는 대각화 가능하다. 왜냐하면 \(A\)의 고유벡터가 \(\mathbb{R}^n\)의 고유기저가 되기 때문이다.
여기서는 다음과 같은 문제를 생각해 보자.
질문. \(\lambda\)가 \(A\)의 고윳값일 때, \(\lambda\)의 기하적 중복도는 항상 \(\lambda\)의 대수적 중복도 이하인가?
질문에 대한 답은 다음과 같다. \(\lambda\)의 고유공간의 차원을 \(r\)라고 하자. 만약 \(r=0\)이면 더이상 증명할 것이 없다. 그러므로 \(r > 0\)으로 두고 증명을 계속하자. \(\lambda\)의 고유공간의 기저를 다음과 같이 두자. \[\mathbf{v}_1 ,\, \mathbf{v}_2 ,\, \cdots ,\, \mathbf{v}_r .\] 이 기저를 확장하여 \(\mathbb{R}^n\)의 기저를 다음과 같이 두자. \[\mathbf{v}_1 ,\, \mathbf{v}_2 ,\, \cdots ,\, \mathbf{v}_r ,\, \mathbf{v}_{r+1} ,\, \cdots ,\, \mathbf{v}_n .\] 이제 \(\mathbf{v}_j\)들을 열벡터로 갖는 행렬을 \(P\)로 두자. 즉 \[P = \left[ \mathbf{v}_1 \,\, \mathbf{v}_2 \,\, \cdots \,\,\mathbf{v}_r \,\, \mathbf{v}_{r+1} \,\, \cdots \,\, \mathbf{v}_n \right].\] 그러면 행렬곱 \(AP\)는 다음과 같이 계산된다. \[AP = \left[ \lambda\mathbf{v}_1 \,\, \lambda \mathbf{v}_2 \,\, \cdots \,\, \lambda \mathbf{v}_r \,\, \ast \,\, \cdots \,\, \ast \right].\] 위 식에서 \(\ast\)는 \(r+1\)열과 그 오른쪽의 열벡터를 나타낸다. 이제 \[B = P^{-1}AP\] 라고 하자. [\(P\)는 열벡터가 일차독립이므로 가역이다.] 그러면 \(B\)는 다음과 같은 모양이다. \[B = P^{-1}AP =\left[ \lambda \mathbf{e}_1 \,\, \lambda \mathbf{e}_2 \,\, \cdots \,\, \lambda \mathbf{e}_r \,\, \ast \,\,\cdots \,\, \ast \right]. \] 즉 \(B\)의 왼쪽 위에 크기가 \(r\times r\)이고 모든 대각성분이 \(\lambda\)이며 다른 성분은 \(0\)인 정사각 블록행렬이 있고, 이 블록행렬 아래쪽 성분은 모두 \(0\)이다. 그러므로 \(B\)의 특성다항식 \(p_B (t)\)는 인수 \((t-\lambda)\)를 \(r\)개 이상 가진다. 즉 \(\lambda\)는 \(B\)의 고윳값이며 그 대수적 중복도는 \(r\) 이상이다. 그런데 \(A\)와 \(B\)는 닮은 행렬이므로 두 행렬의 특성다항식이 일치한다. 그러므로 \(A\)의 고윳값 \(\lambda\) 또한 대수적 중복도가 \(r\) 이상이다.