하르토크의 확장 정리(Hartog's extension theorem)는 \(X\)가 \(\mathbb{C}^n\)의 열린부분집합이고 \(n\ge 2\)이며 \(K\subseteq X\)가 컴팩트이고 \(X\setminus K\)가 연결집합일 때 \(X\setminus K\)에서 해석적인 함수는 \(X\)에서 해석적인 함수로 유일하게 확장될 수 있다는 정리이다. 먼저 단순한 경우부터 살펴보자.
집합 \(D\subseteq \mathbb{C}^n\)에 대하여, \(\mathbb{T}^n\)이 \(D\)에 대하여 성분별 연산으로 작용하면 \(D\)를 다중고리라고 부른다. 이때 만약 \(D\)가 영역(열린 연결집합)이면 \(D\)를 라인하르트 영역(Reinhardt domain)이라고 부른다.
거듭제곱급수의 수렴영역은 라인하르츠 영역이다. 그러나 \(f : D \mapsto M\)과 그 역함수가 모두 해석적이고 \(D\)가 라인하르츠 영역일지라도 \(M\)은 라인하르츠 영역이 아닐 수 있다. 예컨대 일변수 해석에서 리만 사상 정리에 의하면 복소평면 전체가 아닌 임의의 단순연결영역 \(D\)는 라인하르츠 영역인 단위원판의 내부영역과 동치이지만 \(D\)는 라인하르츠 영역이 아닌 경우가 존재한다.
정리 1. (고리 영역에서 하르토크의 확장 정리)
\(n \ge 2\)이고 \(0 < r < R \le \infty\)이며 \(\lVert \cdot \rVert\)가 \(\mathbb{C}^n\)의 노름이라고 하자. 그리고 \[B^n ( r,\,R) := B_{R}^{n} (0) \setminus \overline{B_r^n (0)}\] 이라고 하자. 그러면 제한사상대응함수 \[\rho : O(B_R^n (0)) \,\to\, O(B^n (r,\,R)),\, F\,\mapsto\, F | _{B^n (r,\,R)}\] 는 위상적 대수에 관한 동형사상이다.
증명
명백히 \(B^n (r,\,R)\)는 라인하르츠 영역이다. \(e_1 ,\) \(\cdots ,\) \(e_n\)이 \(\mathbb{C}^n\)의 표준기저라고 하고 \(\lambda\in (r,\,R)\)가 주어졌다고 하자. 그러면 \(B^n (r,\,R)\)는 \(j\)번째 성분이 \(\lambda\)이고 나머지 성분은 \(0\)인 임의의 벡터 \(\lambda e_j\)를 원소로 가진다. 따라서 \[\begin{align} \hat{B^n} (r,\,R) &= \left\{ (t_1 z_1 ,\, \cdots ,\,t_n z_n ) \,\vert\, z\in B(r,\,R) ,\, 0 \le t_j \le 1,\, j=1,\,\cdots,\,n \right\} \\[6pt] &= \left\{ (t_1 z_1 ,\, \cdots ,\, t_n z_n ) \,\vert\, z < \lVert z \rVert < R ,\, 0 \le t_j \le 1 ,\, j=1 ,\, \cdots ,\, n \right\}\\[6pt] &= \left\{ z\in \mathbb{C}^n \,\vert\, 0\le \lVert z \rVert < R \right\} \\[6pt] &= B_R^n (0) \end{align}\] 을 얻는다. 그러므로 \[\rho : O (B_R^n (0)) \,\to\, O(B^n ( r,\,R)) ,\, F \,\mapsto\, F|_{B(r,\,R)}\] 는 대수에 관한 동형사상이다. 더욱이 위 함수는 위상적 대수에 관한 동형사상이 된다.
위 정리로부터 다음과 같은 놀라운 결과를 얻는다.
따름정리 1. (다변수 복소함수의 특이점 제거)
2개 이상의 변수를 가진 해석적 복소함수는 고립진성특이점을 갖지 않는다.
증명
\(f\)가 열린 집합 \(U \subseteq \mathbb{C}^n\)에서 해석적이고 \(n \ge 2\)이며 \(a\in U\)라고 하자. 좌표의 평행이동을 이용하면 \(a=0\)이라고 해도 일반성을 잃지 않는다. \(U\)가 열린 집합이므로 \( 0 < r < R\)인 \(r\)와 \(R\)가 존재하여 \[0 \notin B^n (r,\,R) \subseteq U\] 를 만족시킨다. \(f\in O(U)\)이므로 제한사상 \(f | _{B^n (r,\,R)}\)는 해석적이다.
더욱이 정리 1에 의하여 \(f\)의 정의역을 확장한 해석적 함수 \(F \in O(B_R^n (0))\)이 유일하게 존재한다. 그러므로 특이점 \(0\)은 제거 가능하다.
더 일반적인 영역에서의 하르토크 확장 정리는 다음과 같다.
정리 2. (하르토크의 확장 정리)
\(X\)가 \(\mathbb{C}^n\)에서 열린 집합이고 \(n \ge 2\)이며 \(K \subseteq X\)가 컴팩트 집합이고 \(X\setminus K\)가 연결집합이라고 하자. 그러면 제한사상 대응함수 \[\rho : O(X) \,\to\, O(X\setminus K)\] 는 복소 대수에 관한 동형사상이다.
증명
일치 정리(identity theorem)에 의하여 \(\rho\)가 일대일 함수임은 자명하므로 \(\rho\)가 위로의 함수임을 증명하면 충분하다. 열린집합이면서 \(K \subseteq C \subseteq X\)로서 상대적 컴팩트인 집합 \(C\)를 택한다. 또한 컴팩트 받침을 갖고 \(\varphi | _C = 1\)을 만족시키는 매끄러운 함수 \(\varphi : X \,\to\,[0,\,1]\)을 택한다.
\(f\in O(X\setminus K)\)라고 하고 매끄러운 함수 \(h : X \,\to\,\mathbb{C}\)를 \[z \,\mapsto\, \begin{cases} (1-\varphi (z)) f(z) & \quad \text{if} \,\, z\in X \setminus K \\[6pt] 0 & \quad \text{if} \,\, z\in K \end{cases}\] 로 정의한다. 그러면 \[h|_{X\setminus \operatorname{supp} \varphi} = f|_{X\setminus \operatorname{supp} \varphi} \tag{1}\] 가 성립한다. 특히 \(\operatorname{supp}\varphi\)의 바깥에서 \(d ' ' f = d ' ' h = 0\)이 성립한다. 따라서 \(d ' ' h\)는 \(X\) 밖에서 \(d ' ' h \in \epsilon^{0,\,1} (\mathbb{C}^n )\)으로서 확장 가능하다. \(d ' ' h\)의 받침은 컴팩트 집합 \(\operatorname{supp} \varphi\)의 닫힌 부분집합이므로 컴팩트이다. 따라서 컴팩트 받침을 갖는 함수 \(g\in \epsilon (\mathbb{C}^n )\)이 존재하여 \(d ' ' g = d ' ' h\)를 만족시킨다. \(g\)는 \(\mathbb{C}^n \setminus \operatorname{supp} \varphi\) 위에서 해석적이다. 왜냐하면 \(\operatorname{supp} \varphi\) 밖에서 \(d ' ' h = 0\)이기 때문이다. \(d ' ' h = d ' ' g\)이므로 해석적 함수 \(F : X \,\to\,\mathbb{C}\)를 \[F := h-g\] 로서 정의할 수 있다.
이제 \(F\)가 \(f\)의 해석적 확장함수임을 보이자. \(W\)가 \(\mathbb{C}^n \setminus \operatorname{supp} \varphi\)의 유일한 유계가 아닌 연결성분이라고 하자. \(\operatorname{supp} g\)가 컴팩트 집합이므로 일치 정리에 의하여 \(g\)는 \(W\)에서 \(0\)이 된다. \(X\)가 열린 집합이라는 사실과 \[\partial W \subseteq \partial (\mathbb{C}^n \setminus \operatorname{supp} \varphi ) = \partial \operatorname{supp}\varphi \subseteq X\] 라는 사실로부터 \(X\cap W \ne \varnothing\)을 얻는다. \(X\cap W\)가 열린 집합이라는 것과 \[\varnothing \ne X\cap W \subseteq X\cap (\mathbb{C}^n \setminus \operatorname{supp} \varphi ) = X \setminus \operatorname{supp} \varphi\] 가 성립한다는 사실을 염두에 두고 증명을 이어가자. \[F | _{X\cap W} = h | _{X \cap W} = f|_{X \cap W}\] 이며, \(\varphi | _K =1\)이므로 \(K \subseteq \operatorname{supp} \varphi\)이고, 따라서 \(X \setminus \operatorname{supp} \varphi \subseteq X \setminus K\)가 성립한다. 정리의 전제 조건에 의하여 \(X\setminus K\)는 영역이고 \(F | _{X\setminus K}\)와 \(f\)는 공집합이 아닌 열린 부분집합 \(X \cap W\) 위에서 서로 일치한다. 그러므로 일치 정리에 의하여 \[F|_{X\setminus K} = f\] 이므로 원하는 결과를 얻는다.
따름정리 2. (다변수 복소해석적 함수의 영집합의 비컴팩트성)
\(D\)가 \(\mathbb{C}^n\)에서의 영역이며 \(n \ge 2\)이고 \(f\in O(D)\)라고 하자. 그러면 영집합 \(N(f)\)은 컴팩트가 아니다.
증명
\(f\)가 \(f=0\)인 상수함수라면 자명하게 결론을 얻는다. 그러므로 \(f \ne 0\)이라고 하자. \(N(f)\)의 여차원은 \(1\)이고, \(D\setminus N(f)\)는 연결집합이며, 함수 \(1/f\)는 \(D\setminus N(f)\)에서 해석적이다. 만약 \(N(f)\)가 컴팩트라면 하르토크의 확장 정리에 의하여 해석적 함수 \(F\in O(D)\)가 존재하여 \[F|_{D\setminus N(f)} = \frac{1}{f}\] 을 만족시키킨다. 양변에 \(f\)를 곱하면 \(D\setminus N(f)\) 위에서 \(F \cdot f = 1\)을 얻는다. \(f\)는 상수함수 \(0\)이 아니므로 \(D\setminus N(f)\)는 \(D\setminus N(f)\)의 공집합이 아닌 열린 부분집합이다. 따라서 일치 정리에 의하여 \(D\) 전체에서 \(F \cdot f = 1\)이 성립한다. 그러나 이것은 \(f|_{N(f)} = 0\)이라는 사실에 모순이다.
보기 1. 따름정리 2는 실해석적 함수에 대해서는 성립하지 않는다. 예를 들어 함수 \[f : \mathbb{C}^n \,\to\,\mathbb{C} ,\, z\,\mapsto\, \lVert z \rVert _2 ^2 -1\] 의 영집합은 \(\mathbb{C}^n\)에서의 컴팩트 단위구이다.
보기 2. 다항방정식 \(p(z_1 ,\, \cdots ,\, z_n ) = z_1\)의 영집합은 \(\left\{ 0 \right\} \times \mathbb{C}^{n-1}\)이다. \(n > 1\)일 때 이 집합은 컴팩트 집합이 아니다.
하르토크의 확장 정리의 상세한 증명을 알고자 하는 사람은 다음 문서를 참고하기 바란다: