가우스의 보조정리에 관한 질문이 Share Your Math에 있어서 이에 대해 소개하고자 합니다. ‘가우스의 정리’라고 말하면 그 종류가 너무 많아서 무엇을 일컫는지 혼동의 여지가 있습니다. 지금 살펴보고자 하는 가우스의 보조정리는, 물론, 질문과 관련있는 다항식의 인수분해와 관련된 정리입니다.
달빛학사 Share Your Math 게시판에 올라온 질문의 요지는
정수계수 다항식이 (차수가 더 낮은) 유리계수 다항식 두 개로 인수분해될 필요충분조건이 그 다항식이 (차수가 더 낮은) 정수계수 다항식 두 개로 인수분해되는 것임을 어떻게 증명할 수 있는가?입니다. 인수분해를 섬세하게 살펴본 학생은 위의 질문에 언급된 사실을 어느 정도 추측할 수 있었을 수도 있겠습니다. 이 사실을 증명하는 데에 바로 가우스의 보조정리가 사용됩니다.
이 정리는 보통 수학과 학부과정 중 하나인 대수학 수업에서 등장합니다. 그래서 관련 내용은 물론 일반적인 대수학 교재에 잘 정리되어 있는데요, 아무래도 대학교 대수학 교재이다보니 좀 더 일반적인 수체계 위에서의 상황을 염두해 둔 다음과 같은 형태로 기술되어 있습니다.
보조정리 1. (가우스 보조정리 - 대학생 버전)
\(D\)가 유일분해정역(UFD; unique factorization domain)이면, \(D[x]\)의 두 원시다항식의 곱은 원시다항식이다.
유일분해정역이란 대충 말하면, \((\mathbb{Z}, +, \cdot)\), 즉 정수전체 집합을 일반화한 것입니다. \(D[x]\)는 \(D\)의 원소를 계수로 갖는 다항식 전체의 모임입니다. 그리고 ‘\(D\)가 유일분해정역이다.’라는 말의 뜻은 \(D\)의 \(0\)이 아닌 임의의 원소들의 소인수분해가 유일하게 된다는 뜻입니다.1 그리고 원시다항식이란 다항식의 계수들이 서로소라는 뜻입니다. 유일분해정역을 간단히 UFD로 씁니다.
그러면 위의 가우스 보조정리를 이제 중고등학생 버전으로 바꾸어 증명해보고, 가우스 보조정리를 활용하여 달빛학사에 올라온 질문에 대한 답변도 해보겠습니다. 먼저 몇가지 표기와 용어를 정의하겠습니다. \(\mathbb{Z}, \mathbb{Q}\) 각각을 (늘 그래왔듯이) 정수 전체집합, 유리수 전체집합이라 하겠습니다. 그리고 \(\mathbb{Z}[x], \mathbb{Q}[x]\)를 각각 정수 계수 다항식 전체의 집합, 유리수 계수 다항식 전체의 집합이라 하겠습니다.
다음으로 ‘정수 계수 다항식 \[f(x)=a_0+a_1x+\cdots + a_nx^n \] 이 원시다항식이다’라는 말의 뜻은 \(n+1\)개의 정수 \(a_0, a_1, \ldots, a_n\)의 최대공약수가 \(1\)이라는 것으로 약속하겠습니다. (최대공약수가 무엇인지는 따로 약속 안해도 되겠죠?)
이제 다음 보조정리를 증명해 보죠.
보조정리 2. (가우스 보조정리 - 중고등학생 버전)
\(\mathbb{Z}[x]\)의 두 원소 \(f(x), g(x)\)가 모두 원시다항식이면 \(f(x)g(x)\)도 원시다항식이다.
증명
\(f(x)\)와 \(g(x)\)를 각각 \[\begin{align} f(x)&=a_0+\cdots + a_nx^n,\\[8pt] g(x)&=b_0+\cdots b_mx^m \end{align}\] 으로 두자. 임의의 소수 \(p\)를 하나 택하면, \(f(x)\)와 \(g(x)\)가 모두 원시다항식이므로 \(p\)는 모든 \(a_i\)들을 나눌 수는 없으며, 모든 \(b_i\)들을 나눌 수도 없다(예를 들어 \(p\)가 모든 \(a_i\)들을 나눈다면, \(a_i\)들의 최대공약수는 \(p\)의 배수가되어 \(f(x)\)가 원시다항식이라는 가정에 모순이다).
\(a_0\)부터 \(a_n\)까지 일렬로 나열해 두고, \(p\)가 나누지 않는 첫 번째 것을 \(a_r\)이라 하자. 즉 \(i< r\)이면 \(p\)가 \(a_i\)를 나누고, \(p\)는 \(a_r\)을 나누지 못한다고 하자. 마찬가지로 \(p\)가 나누지 않는 첫 번째 \(g(x)\)의 계수를 \(b_s\)라 하자. 그러면 \(h(x)=f(x)g(x)\)의 항 중에 \(x^{r+s}\)의 계수는 \[(a_0b_{r+s}+\cdots +a_{r-1}b_{s+1})+a_rb_s+(a_{r+1}b_{s-1}+\cdots +a_{r+s}b_0) \] 인데, \(p\)는 \((a_0b_{r+s}+\cdots +a_{r-1}b_{s+1})\)와 \((a_{r+1}b_{s-1}+\cdots +a_{r+s}b_0)\)를 모두 나누지만 \(p\)는 \(a_rb_s\)를 나눌수는 없다. 즉 \(p\)는 \(x^{r+s}\)의 계수를 나누지 않는다. 여기서 \(p\)는 임의의 소수이다. 즉 임의의 소수에 대하여 \(h(x)\)에는 그 소수가 나눌 수 없는 계수가 있다. 따라서 \(h(x)\)는 원시다항식이다.
말만 길게 늘어썼지, 위의 내용은 중학교 1학년(혹은 초등학교)에서 배운 약수, 배수, 최대공약수 내용뿐입니다(중고등학생 버전이라는 말에 동의할 수 있겠죠?). 이제 위의 보조정리를 이용하여 다음의 main theorem을 증명해 보겠습니다.
정리 3. \(f(x)\in \mathbb{Z}[x]\)가 차수가 \(1\) 이상인 다항식이라 하자. \(f(x)\)가 \(f(x)\)의 차수보다 더 낮은 차수인 \(r\)과 \(s\)를 차수로 갖는 \(\mathbb{Q}[x]\)의 두 다항식으로 인수분해되기 위한 필요충분조건은 \(f(x)\)가 차수가 \(r\)과 \(s\)인 \(\mathbb{Z}[x]\)의 두 다항식으로 인수분해되는 것이다.
아, 이 메인 정리의 증명을 바로 하려고보니 다른 보조정리를 하나 써두고 그 보조정리를 이용해서 메인 정리의 증명을 쓰는게 좋은 것 같습니다. 보조 정리를 하나 더 쓰겠습니다.
보조정리 4. 차수가 \(1\) 이상인 다항식 \(f(x)\in \mathbb{Z}[x]\)에 대하여 적당한 정수 \(c\)와 적당한 원시다항식 \(g(x)\in\mathbb{Z}[x]\)가 존재해서 \(f(x)=cg(x)\)로 쓸 수 있다. 이때 \(c\)와 \(g(x)\)는 부호를 무시하면 유일하다.
이 보조정리는 \(c\)가 사실상 \(f(x)\)의 계수들의 최대공약수임을 생각하면, 아주 자명해보입니다. 그러니까 이 보조정리의 증명은 생략하고 메인 정리의 증명을 해봅시다.
정리 3의 충분조건 증명.
\(f(x)\in\mathbb{Z}[x]\)의 차수가 \(1\) 이상이고, \(f(x)\)보다 차수가 낮은 \(\mathbb{Q}[x]\)의 두 다항식 \(r(x), s(x)\)가 존재해서 \[ f(x)=r(x)s(x)\] 로 나타내어진다고 하자. \(r(x)\)와 \(s(x)\)의 계수는 모두 \(\frac{a}{b}\ (a, b\in\mathbb{Z})\)꼴이며 따라서 적당한 정수 \(d\in\mathbb{Z}\)를 \(f(x)=r(x)s(x)\)의 양변에 곱하여 분모를 없앨 수 있다. 즉 \begin{align*} & d\cdot f(x)=r_1(x) s_1(x),\\[8pt] & r_1(x)\in\mathbb{Z}[x],\ s_1(x)\in\mathbb{Z}[x],\\[8pt] & \deg r(x)=\deg r_1(x),\ \deg s(x)=\deg s_1(x) \end{align*} 를 모두 만족시키는 정수 \(d\)가 있다(여기서, 예를 들어, \(\deg r(x)\)는 \(r(x)\)의 차수를 나타낸다). 이제 보조정리 4를 이용하여, \(f(x),\) \(r_1(x),\) \(s_1(x)\)를 적당한 정수 \(c,\) \(c_1,\) \(c_2\)와 적당한 원시다항식 \(g(x),\) \(r_2(x),\) \(s_2(x)\)를 이용하여 \[f(x)=c\cdot g(x),\quad r_1(x)=c_1\cdot r_2(x),\quad s_1(x)=c_2\cdot s_2(x) \] 로 나타내었다고 하자. 이를 이용해 \(f(x)=r(x)s(x)\)를 다시 쓰면 \[ dc\cdot g(x)=c_1c_2\cdot r_2(x)s_2(x) \] 인데, 이때 가우스의 보조정리에 의해 \(r_2(x)s_2(x)\)는 원시다항식이다. 보조정리 4의 유일성에 의해 \(dc\)와 \(c_1c_2\)는 부호를 무시하면 동일하다. 따라서 \[ dc\cdot g(x)=udc\cdot r_2(x)s_2(x),\quad \mbox{(단, \(u\)는 \(1\) 혹은 \(-1\)이다.)} \] 가 성립하며 이는 \[ f(x)=c\cdot g(x)=(cu) r_2(x)s_2(x) \] 가 성립함을 뜻한다. 즉 \(f(x)\)가 \(\mathbb{Z}[x]\)의 (\(f(x)\)보다 차수가 더 낮은) 두 다항식으로 인수분해 됨을 뜻한다.
정리 3의 필요조건 증명.
\(\mathbb{Z}[x]\subset \mathbb{Q}[x]\)이므로 자명하다.