앞 장에서는 거리공간에서 수열의 수렴, 열린집합과 닫힌집합, 컴팩트성을 살펴보았다. 이 장에서는 이러한 개념을 바탕으로 거리공간 사이에서 정의된 함수의 극한과 연속성을 다룬다.
함수의 극한
거리공간 \((X,d_X)\), \((Y,d_Y)\)와 함수 \(f\colon X\to Y\)를 생각하자. 점 \(a\in X\)가 \(X\)의 집적점이고 \(L\in Y\)라고 하자.
임의의 \(\varepsilon>0\)에 대해 \(\delta>0\)이 존재하여, \(0<d_X(x,a)<\delta\)인 임의의 \(x\in X\)에 대하여 \(d_Y(f(x),L)<\varepsilon\)이 성립하면, “\(x\to a\)일 때 \(f(x)\)가 \(L\)로 수렴한다”라고 말한다. 이것을 기호로 다음과 같이 나타낸다. \[ \lim_{x\to a}f(x)=L \quad\text{또는}\quad f(x)\to L\quad(x\to a). \]
정리 4.1. (함수의 극한의 유일성)
\(a\)가 \(X\)의 집적점일 때 \(\displaystyle\lim_{x\to a}f(x)\)가 존재하면 그 값은 유일하다.
증명 서로 다른 두 점 \(L,M\in Y\)가 모두 극한이라고 가정하자. \(\varepsilon=d_Y(L,M)/3\)으로 두면 어떤 \(\delta>0\)가 존재하여 \[ 0<d_X(x,a)<\delta \] 이면 동시에 \(d_Y(f(x),L)<\varepsilon\), \(d_Y(f(x),M)<\varepsilon\)이다. \(a\)가 집적점이므로 이러한 \(x\)를 하나 택할 수 있고, 삼각부등식에 의해 \[ d_Y(L,M)\le d_Y(L,f(x))+d_Y(f(x),M)<2\varepsilon, \] 인데 이는 \(\varepsilon=d_Y(L,M)/3\)에 모순이다.
수열을 사용하여 함수의 극한을 다음과 같이 특성화할 수 있다.
정리 4.2. (하이네 정리)
\(X\)와 \(Y\)가 거리공간이고 \(f\colon X\to Y\)가 함수이며 \(a\)가 \(X\)의 집적점이고 \(L\in Y\)라고 하자. 그러면 다음은 동치이다.
- \(\displaystyle\lim_{x\to a}f(x)=L\)
- \(x_n\to a\), \(x_n\neq a\), \(x_n\in X\)인 모든 수열 \(\{x_n\}\)에 대해 \(f(x_n)\to L\)이다.
증명 (1)을 가정하고 \(x_n\to a\), \(x_n\neq a\)라고 하자. 임의의 \(\varepsilon>0\)에 대하여 극한의 정의에서 얻는 \(\delta>0\)를 택한다. 충분히 큰 \(n\)에 대하여 \(d_X(x_n,a)<\delta\)이고 \(x_n\neq a\)이므로 \[ d_Y(f(x_n),L)<\varepsilon. \] 따라서 \(f(x_n)\to L\)이다.
역으로 (2)를 가정하고 (1)이 성립하지 않는다고 하자. 그러면 어떤 \(\varepsilon_0>0\)에 대하여 모든 양의 정수 \(n\)마다 \[ 0<d_X(x_n,a)<\frac1n, \quad d_Y(f(x_n),L)\ge\varepsilon_0 \] 를 만족시키는 \(x_n\in X\)를 택할 수 있다. 그러면 \(x_n\to a\)이고 \(x_n\neq a\)이지만 \(f(x_n)\not\to L\)이므로 (2)에 모순이다.
하이네 정리는 극한이 존재하지 않음을 보일 때 유용하다. 즉 \(x\to a\)일 때 \(f(x)\)의 극한이 존재하지 않음을 보이기 위해, \(s_n\to a\), \(t_n\to a\)이지만 \(\{f(s_n)\}\)과 \(\{f(t_n)\}\)이 다른 값에 수렴하는 두 수열 \(\{s_n\}\), \(\{t_n\}\)을 찾으면 된다.
보기 4.3.
\(X\)가 집합이고 \(A\subseteq X\)라고 하자. \(A\)의 특성함수(characteristic function) \(\chi_A\colon X\to\{0,1\}\)는 \(x\in A\)일 때 \(\chi_A(x)=1\)이고, \(x\notin A\)일 때 \(\chi_A(x)=0\)으로 정의된 함수이다.
\(X=\mathbb R\), \(A=\mathbb Q\)일 때 \(\chi_{\mathbb Q}\)는 모든 점에서 극한이 존재하지 않는다. 왜냐하면 \(a\in\mathbb R\)일 때 \(a\)로 수렴하고 \(s_n\neq a\)인 유리수열 \(\{s_n\}\)과 \(a\)로 수렴하고 \(t_n\neq a\)인 무리수열 \(\{t_n\}\)을 택하면 \(\chi_{\mathbb Q}(s_n)\to1\)이지만 \(\chi_{\mathbb Q}(t_n)\to0\)이기 때문이다.
실함수의 경우 한방향 극한(one-sided limit)을 정의할 수 있다. \(X\subseteq\mathbb R\), \(f\colon X\to\mathbb R\), \(a\in\mathbb R\)라고 하자.
- \(a\)가 \(X\cap(-\infty,a)\)의 집적점일 때, \(f\)를 \(X\cap(-\infty,a)\)로 제한한 함수의 \(a\)에서의 극한을 \(f\)의 좌극한이라고 부르고 \(\displaystyle\lim_{x\to a-}f(x)\)로 나타낸다. 즉 임의의 \(\varepsilon>0\)에 대하여 어떤 \(\delta>0\)가 존재하여 \(x\in X\), \(0<a-x<\delta\)이면 \(|f(x)-L|<\varepsilon\)일 때 \(\displaystyle\lim_{x\to a-}f(x)=L\)이라고 한다.
- \(a\)가 \(X\cap(a,\infty)\)의 집적점일 때, 같은 방법으로 우극한 \(\displaystyle\lim_{x\to a+}f(x)\)를 정의한다. 즉 임의의 \(\varepsilon>0\)에 대하여 어떤 \(\delta>0\)가 존재하여 \(x\in X\), \(0<x-a<\delta\)이면 \(|f(x)-L|<\varepsilon\)일 때 \(\displaystyle\lim_{x\to a+}f(x)=L\)이라고 한다.
특히 \(a\)가 \(X\cap(-\infty,a)\)와 \(X\cap(a,\infty)\)의 집적점일 때, \(\displaystyle\lim_{x\to a}f(x)=L\)이기 위한 필요충분조건은 좌극한과 우극한이 모두 존재하고 둘 다 \(L\)인 것이다.
문제 4.1. \(D\)가 거리공간 \(X\)의 부분집합이고 \(a\in D'\), \(f\colon D\to\mathbb R\)라고 하자. 다음과 같이 정의한다. \[ \lim_{x\to a}f(x)=+\infty \] 라는 것은 임의의 \(M>0\)에 대하여 어떤 \(\delta>0\)가 존재하여 \(x\in D\), \(0<d_X(x,a)<\delta\)이면 \(f(x)>M\)인 것을 뜻한다. \(\displaystyle\lim_{x\to a}f(x)=-\infty\)도 같은 방식으로 정의하시오. 또한 각각의 정의가 하이네 정리와 같은 수열에 의한 특성화를 가짐을 증명하시오.
문제 4.2. \(D\)가 거리공간 \(X\)의 부분집합이고 \(c\in D'\)이며 함수 \(f\colon D\to\mathbb R\)와 \(g\colon D\to\mathbb R\)가 \(x\to c\)일 때 각각 \(A\), \(B\)에 수렴한다고 하자. 이때 다음을 증명하시오.
- \(k\)가 실수인 상수이면, \(x\to c\)일 때 \((kf)(x)\to kA\)이다.
- \(x\to c\)일 때 \((f+g)(x)\to A+B\)이다.
- \(x\to c\)일 때 \((fg)(x)\to AB\)이다.
- \(B\ne0\)이면, \(c\)의 충분히 작은 구멍뚫린 근방에서는 \(g(x)\ne0\)이고 그곳에서 정의된 몫에 대하여 \(x\to c\)일 때 \((f/g)(x)\to A/B\)이다.
문제 4.3. \(D\)가 거리공간 \(X\)의 부분집합이고 \(a\)가 \(D\)의 집적점이며 함수 \(f\colon D\to\mathbb R^d\)의 \(j\)번째 좌표를 나타내는 함수가 \(f_j\)라고 하자. 즉 \[ f(x)=(f_1(x),f_2(x),\ldots,f_d(x)) \] 라고 하자. 또한 \(L=(L_1,L_2,\ldots,L_d)\in\mathbb R^d\)라고 하자. \(x\to a\)일 때 \(f(x)\to L\)이기 위한 필요충분조건은 임의의 \(j=1,2,\ldots,d\)에 대하여 \(x\to a\)일 때 \(f_j(x)\to L_j\)인 것임을 증명하시오.
문제 4.4. \((x,y)\to(0,0)\)일 때, 다음과 같이 정의된 함수 \(f\)가 수렴하는지 판별하시오.
- \(f(x,y)=\displaystyle\frac{5xy^2}{x^2+y^2}\)
- \(f(x,y)=\displaystyle\frac{3xy}{x^2+y^2}\)
- \(f(x,y)=\displaystyle\frac{x^2y}{x^2+y^2}\)
연속함수
함수 \(f\colon X\to Y\)가 점 \(a\in X\)에서 연속(continuous)이라는 것은, 임의의 \(\varepsilon>0\)에 대하여 어떤 \(\delta>0\)가 존재하여 \(d_X(x,a)<\delta\)인 임의의 \(x\in X\)에 대하여 \(d_Y(f(x),f(a))<\varepsilon\)인 것을 뜻한다. 정의역의 모든 점에서 연속인 함수를 연속함수라고 부른다.
\(E\)가 거리공간 \(X\)의 부분집합이고 \(a\in E\)라고 하자. 만약 \(B'(a,r)\cap E=\varnothing\)인 양수 \(r\)이 존재하면, \(a\)를 \(E\)의 고립점(isolated point)이라고 부른다.
정리 4.4. (수열을 사용한 연속의 정의)
함수 \(f\colon X\to Y\)와 점 \(a\in X\)에 대하여 다음은 모두 동치이다.
- \(f\)가 \(a\)에서 연속이다.
- \(x_n\to a\), \(x_n\in X\)인 모든 수열 \(\{x_n\}\)에 대하여 \(f(x_n)\to f(a)\)이다.
- \(a\)가 \(X\)의 고립점이거나, \(\displaystyle\lim_{x\to a}f(x)=f(a)\)이다.
증명 (1)을 가정하고 \(x_n\to a\)라고 하자. 임의의 \(\varepsilon>0\)에 대하여 연속성에서 얻는 \(\delta>0\)를 택하면, 충분히 큰 \(n\)에 대하여 \(d_X(x_n,a)<\delta\)이므로 \(d_Y(f(x_n),f(a))<\varepsilon\)이다. 따라서 (2)가 성립한다.
반대로 (2)를 가정하고 \(f\)가 \(a\)에서 연속이 아니라고 하자. 그러면 어떤 \(\varepsilon_0>0\)에 대하여 모든 양의 정수 \(n\)마다 \[ d_X(x_n,a)<\frac1n, \quad d_Y(f(x_n),f(a))\ge\varepsilon_0 \] 인 \(x_n\in X\)를 택할 수 있다. 그러면 \(x_n\to a\)이지만 \(f(x_n)\not\to f(a)\)이므로 모순이다. 따라서 (1)과 (2)는 동치이다.
마지막으로 \(a\)가 고립점이면 충분히 작은 \(\delta>0\)에 대하여 \(B(a,\delta)=\{a\}\)이므로 \(f\)는 자동으로 \(a\)에서 연속이다. \(a\)가 집적점이면 연속성의 정의와 함수의 극한의 정의에서 차이는 \(x=a\)를 허용하는지뿐이고, \(x=a\)에서는 \(d_Y(f(x),f(a))=0\)이다. 따라서 (1)과 (3)도 동치이다.
문제 4.5. \(I\)가 구간이고 함수 \(f\colon I\to\mathbb R\)가 단조함수라고 하자. \(I\)의 내부점에서는 좌극한과 우극한이 모두 존재하고, 끝점에서는 정의역 안쪽에서의 한방향 극한이 존재함을 보이시오. 또한 \(I\)에서 \(f\)가 불연속인 점의 개수가 많아야 가산임을 보이시오. 단조증가인 경우 각 불연속점 \(c\)에 대하여 \((f(c-),f(c+))\) 안의 유리수를 하나 택하는 방법을 사용해도 좋다.
자주 만나는 연속함수와 연속함수를 만드는 기본 방법은 다음과 같다. 아래 성질 중 일부는 이어지는 문제에서 직접 증명한다.
- 항등함수 \(\operatorname{id}_X\colon X\to X\)와 상수함수는 연속이다.
- \(f\colon X\to Y\)와 \(g\colon Y\to Z\)가 연속이면 \(g\circ f\colon X\to Z\)도 연속이다.
- \(X_1\times X_2\)에 2장에서 정의한 곱거리 중 하나를 주면 사영함수 \(\pi_i\colon X_1\times X_2\to X_i\)는 연속이다.
- 노름공간 \((V,\|\cdot\|)\)에서 \(x\mapsto\|x\|\)는 연속이다. 실제로 역삼각부등식에 의해 \(\bigl|\|x\|-\|y\|\bigr|\le\|x-y\|\)이다.
- 거리공간 \((X,d)\)에서 거리함수 \(d\colon X\times X\to\mathbb R\)는 곱거리공간에서 연속이다.
- \(f\)와 \(g\)가 연속인 실함수이면 \(f+g\), \(f-g\), \(fg\)는 연속이다. 또한 \(g(a)\ne0\)인 점 \(a\)에서는 \(f/g\)도 연속이다.
문제 4.6. \(X\), \(Y\), \(Z\)가 거리공간이고 \(f\colon X\to Y\)와 \(g\colon Y\to Z\)가 함수라고 하자. 또한 \(a\in X'\)이며, \(x\to a\)일 때 \(f(x)\to b\in Y\)이고 \(g\)가 \(b\)에서 연속이라고 하자. 이때 다음을 증명하시오. \[ \lim_{x\to a}g(f(x)) =g\left(\lim_{x\to a}f(x)\right). \]
문제 4.7. 밑이 자연상수 \(e\)인 로그를 자연로그라고 부르고 \(\ln\)으로 나타낸다. 즉 \(x>0\)일 때 \(\ln x=\log_e x\)이다. 이 문제에서는 미적분학에서 익힌 지수함수와 로그함수의 기본 성질을 사용해도 좋다. 다음 극한을 구하시오.
- \(\displaystyle\lim_{x\to\infty}\left(1+\frac1x\right)^x\)
- \(\displaystyle\lim_{x\to0}(1+x)^{1/x}\)
- \(\displaystyle\lim_{x\to0}\frac{\ln(1+x)}{x}\)
- \(\displaystyle\lim_{x\to0}\frac{e^x-1}{x}\)
- \(\displaystyle\lim_{x\to0}\frac{\log_a(1+x)}{x}\) (단, \(a>0\), \(a\ne1\).)
- \(\displaystyle\lim_{x\to0}\frac{a^x-1}{x}\) (단, \(a>0\), \(a\ne1\).)
문제 4.8. 다음 극한을 구하시오.
- \(\displaystyle\lim_{x\to0}\frac{\sin x}{x}\)
- \(\displaystyle\lim_{x\to0}\frac{1-\cos x}{x}\)
연속함수의 위상적 특성
열린집합을 사용하여 연속성을 정의할 수 있다.
정리 4.5. (열린집합을 사용한 연속의 정의)
함수 \(f\colon X\to Y\)가 연속함수이기 위한 필요충분조건은 \(Y\)의 모든 열린집합 \(V\)에 대해 \(f^{-1}(V)\)가 \(X\)의 열린집합인 것이다.
증명 \(f\)가 연속함수이고 \(V\)가 \(Y\)의 열린집합이라고 하자. \(x\in f^{-1}(V)\)이면 \(f(x)\in V\)이고, 어떤 \(\varepsilon>0\)에 대하여 \(B_Y(f(x),\varepsilon)\subseteq V\)이다. \(f\)가 \(x\)에서 연속이므로 어떤 \(\delta>0\)에 대하여 \[ y\in B_X(x,\delta) \quad\Longrightarrow\quad f(y)\in B_Y(f(x),\varepsilon)\subseteq V. \] 따라서 \(B_X(x,\delta)\subseteq f^{-1}(V)\)이고 \(f^{-1}(V)\)는 열린집합이다.
역으로 \(Y\)의 모든 열린집합 \(V\)에 대하여 \(f^{-1}(V)\)가 열린집합이라고 하자. \(a\in X\), \(\varepsilon>0\)를 택하면 \(V=B_Y(f(a),\varepsilon)\)은 열린집합이고 \(a\in f^{-1}(V)\)이다. 따라서 어떤 \(\delta>0\)에 대하여 \(B_X(a,\delta)\subseteq f^{-1}(V)\)이다. 즉 \(d_X(x,a)<\delta\)이면 \(d_Y(f(x),f(a))<\varepsilon\)이므로 \(f\)는 \(a\)에서 연속이다. \(a\)가 임의이므로 \(f\)는 연속함수이다.
위 성질을 사용하면 다음 정리를 얻는다.
정리 4.6. (닫힌집합과 연속함수의 관계)
함수 \(f\colon X\to Y\)가 연속함수일 때 다음이 성립한다.
- \(F\)가 \(Y\)의 닫힌집합이면 \(f^{-1}(F)\)는 \(X\)의 닫힌집합이다.
- \(K\)가 \(X\)의 컴팩트 부분집합이면 \(f(K)\)는 \(Y\)의 컴팩트 부분집합이다.
문제 4.9. 닫힌집합과 연속함수의 관계(정리 4.6)를 증명하시오.
문제 4.10. \(X\), \(Y\), \(Z\)가 거리공간이고 함수 \(f\colon X\to Y\)와 \(g\colon Y\to Z\)가 연속함수라고 하자. 이때 합성함수 \(g\circ f\colon X\to Z\)가 연속함수임을 보이시오.
문제 4.11. 함수 \(g\colon\mathbb R\times\mathbb R\to\mathbb R\)가 다음과 같이 정의되어 있을 때, \(g\)가 연속함수임을 보이시오.
- \(g(x,y)=x+y\)
- \(g(x,y)=xy\)
- \(g(x,y)=|x-y|\)
문제 4.12. \(X\)가 거리공간이고 \(f,g\colon X\to\mathbb R\)가 연속함수라고 하자. 이때 \(x\mapsto(f(x),g(x))\)가 \(X\)로부터 \(\mathbb R^2\)로의 연속함수임을 보이시오. 또한 문제 4.10과 문제 4.11의 결과를 사용하여 \(f+g\)와 \(fg\)가 연속함수임을 보이시오.
문제 4.13. \(X\)가 거리함수 \(d\)를 가진 거리공간이고 \(X\times X\)가 유클리드 곱거리 공간이라고 하자. 이때 \(g(x,y)=d(x,y)\)라고 정의된 함수 \(g\colon X\times X\to\mathbb R\)가 연속함수임을 보이시오. 만약 \(X\times X\)에 유클리드 곱거리가 아닌 다른 곱거리가 주어져 있다면 결과가 어떻게 달라지는지 논하시오.
문제 4.14. \(X\)가 컴팩트 거리공간이고 \(Y\)가 거리공간이며 \(f\colon X\to Y\)가 일대일대응인 연속함수라고 하자. 이때 역함수 \(f^{-1}\colon Y\to X\)가 연속함수임을 보이시오.
공역이 \(\mathbb R\)인 연속함수에 대해서는 다음 정리가 유용하다.
정리 4.7. (최대 최소 정리)
\(f\colon X\to\mathbb R\)가 연속함수이고 \(K\)가 \(X\)의 공집합이 아닌 컴팩트 부분집합이라고 하자. 그러면 \(f\)는 \(K\)에서 최댓값과 최솟값을 가진다.
증명 정리 4.6에 의해 \(f(K)\)는 \(\mathbb R\)의 컴팩트 부분집합이다. 따라서 \(f(K)\)는 닫혀 있고 유계이다. \(K\neq\varnothing\)이므로 \(f(K)\neq\varnothing\)이고, 완비성에 의해 \(\alpha=\sup f(K)\), \(\beta=\inf f(K)\)가 존재한다. 상한과 하한의 성질에 의해 \(f(K)\)의 점으로 이루어진 수열이 각각 \(\alpha\), \(\beta\)로 수렴하며, \(f(K)\)가 닫혀 있으므로 \(\alpha,\beta\in f(K)\)이다. 따라서 \(f\)는 \(K\)에서 최댓값과 최솟값을 가진다.
연결성
거리공간 \(X\)가 연결(connected)되어 있다는 것은 \(X=U\cup V\), \(U\cap V=\varnothing\)을 만족시키는 서로소인 두 비어 있지 않은 열린집합 \(U,V\subseteq X\)가 존재하지 않는다는 뜻이다.
문제 4.15. 거리공간 \(X\)가 연결된 공간이기 위한 필요충분조건은 \(X\)에서 열려 있으면서 동시에 닫혀 있는 집합이 \(\varnothing\)과 \(X\)뿐인 것임을 보이시오.
정리 4.8. (\(\mathbb R\)에서 연결된 집합의 형태)
\(\mathbb R\)의 공집합이 아닌 부분집합이 연결되어 있기 위한 필요충분조건은 구간인 것이다.
문제 4.16. 정리 4.8을 증명하시오.
연결성은 연속함수에 의해 보존된다. 즉, \(f\colon X\to Y\)가 연속이고 \(X\)가 연결되어 있으면 \(f(X)\)도 연결되어 있다. 이로부터 사잇값 정리가 따라온다.
정리 4.9. (사잇값 정리)
함수 \(f\colon X\to\mathbb R\)가 연속함수이고 \(X\)가 연결된 공간이면 \(f(X)\)는 구간이다.
문제 4.17. 함수 \(f\colon X\to Y\)가 연속함수이고 \(X\)가 연결된 공간일 때 \(f(X)\)도 연결된 집합임을 보이시오. 또한 이 성질을 사용하여 정리 4.9를 증명하시오.
거리공간 \(X\)가 경로연결(path-connected)되어 있다는 것은 임의의 두 점 \(x,y\in X\)에 대해 연속함수 \(\gamma\colon[0,1]\to X\)가 존재하여 \(\gamma(0)=x\), \(\gamma(1)=y\)인 것이다.
문제 4.18. 거리공간 \(X\)가 경로연결된 공간이면 \(X\)는 연결된 공간임을 보이시오. 정리 4.8과 연속함수가 연결성을 보존한다는 성질을 사용해도 좋다.
문제 4.19. \(\mathbb R^2\)의 두 부분집합 \(A\), \(B\)를 다음과 같이 정의하자. \[ A=\{(0,y)\mid y\in\mathbb R\}, \quad B=\left\{(x,y)\;\middle|\;y=\sin\frac1x,\;x>0\right\}. \] 이때 \(A\cup B\)는 연결된 집합이지만 경로연결된 집합은 아님을 보이시오.
점 \(x\in X\)가 속하는 모든 연결된 부분집합의 합집합을 \(x\)의 연결성분(connected component)이라고 부른다. 이 합집합이 서로소인 두 비어 있지 않은 열린 부분집합으로 분리된다고 가정하면, \(x\)를 포함하는 모든 연결된 부분집합은 \(x\)가 속한 한쪽에만 놓여야 하므로 다른 쪽은 비게 된다. 따라서 연결성분 자체도 연결되어 있다. 같은 방법으로 \(x\)가 속하는 모든 경로연결된 부분집합의 합집합을 \(x\)의 경로연결성분(path component)이라고 부른다. 두 점을 각각 \(x\)와 잇는 경로를 이어 붙이면 이 합집합도 경로연결이다.
문제 4.20. \(f\colon[0,1]\to[0,1]\)이 연속이면 고정점을 가짐을 보이시오. 즉 \(f(p)=p\)인 점 \(p\)가 \([0,1]\)에 존재함을 보이시오.
문제 4.21. 함수 \(f\colon(0,1]\to\mathbb R\)를 \(f(x)=\sin\frac1x\)로 정의할 때, 이 함수가 \([0,1]\)로 연속적으로 확장될 수 없음을 보이시오.
문제 4.22. \((X,d)\)가 완비거리공간이고 함수 \(f\colon X\to X\)가 어떤 \(0\le k<1\)에 대하여 \[ d(f(x),f(y))\le k\,d(x,y) \] 를 모든 \(x,y\in X\)에 대하여 만족시킨다고 하자. \(f\)가 유일한 고정점을 가짐을 보이시오. 즉 \(f(p)=p\)인 점 \(p\in X\)가 유일하게 존재함을 보이시오. 이것을 바나흐 고정점 정리(Banach fixed point theorem)라고 부른다. 한 점 \(x_0\in X\)에서 시작하여 \(x_{n+1}=f(x_n)\)으로 정의한 수열을 생각하시오.
문제 4.23. \(I=[a,b]\)가 닫힌구간이고 함수 \(f\colon I\to\mathbb R\)가 연속이라고 하자. \(f\)의 그래프 \[ G_f=\{(x,f(x))\mid x\in I\} \] 가 \(\mathbb R^2\)에서 컴팩트이고 연결된 집합이며, 따라서 닫힌집합임을 보이시오. 또한 그래프가 닫혀 있다는 조건만으로는 연속성을 보장할 수 없음을 반례로 보이시오.
균등연속성
함수 \(f\colon X\to Y\)가 \(X\)에서 균등연속(uniformly continuous)이라는 것은, 임의의 \(\varepsilon>0\)에 대해 \(\delta>0\)가 존재하여, \(d_X(x,y)<\delta\)인 모든 \(x,y\in X\)에 대해 \(d_Y(f(x),f(y))<\varepsilon\)인 것을 뜻한다.
균등연속함수는 연속함수이지만, 그 역은 일반적으로 성립하지 않는다.
- \(f(x)=x^2\)은 \(\mathbb R\)에서 연속이지만 균등연속이 아니다.
- \(f(x)=\sin x\)는 \(\mathbb R\)에서 균등연속이다.
- \(f(x)=1/x\)은 \((0,1]\)에서 연속이지만 균등연속이 아니다.
- \(f(x)=1/x\)은 \([2,5]\)에서 균등연속이다.
정리 4.10. (균등연속에 대한 칸토어의 정리)
\(X\)와 \(Y\)가 거리공간이고 \(f\colon X\to Y\)가 연속함수라고 하자. 만약 \(X\)가 컴팩트 공간이면 \(f\)는 \(X\)에서 균등연속이다.
증명 \(f\)가 \(X\)에서 균등연속이 아니라고 가정하자. 그러면 \(\varepsilon_0>0\)이 존재하여, 모든 \(\delta=1/n\)에 대하여 \(d_X(x_n,y_n)<1/n\)이지만 \(d_Y(f(x_n),f(y_n))\ge\varepsilon_0\)인 점 \(x_n,y_n\)이 존재한다. 정리 3.11의 점열컴팩트성에 의해 \(X\)가 컴팩트이면 \(\{x_n\}\)의 수렴하는 부분수열 \(\{x_{n_k}\}\)가 존재한다. \(x_{n_k}\to a\)라고 하자. \(d_X(x_{n_k},y_{n_k})\to0\)이므로 \(y_{n_k}\to a\)이다. \(f\)가 연속함수이므로 \(f(x_{n_k})\to f(a)\)이고 \(f(y_{n_k})\to f(a)\)이다. 따라서 \(d_Y(f(x_{n_k}),f(y_{n_k}))\to0\)인데, 이것은 모순이다.
균등연속함수의 기본 성질을 정리하면 다음과 같다.
정리 4.11. (균등연속함수의 기본 성질)
다음이 성립한다.
- \(f\colon X\to Y\)가 균등연속이고 \(\{x_n\}\)이 \(X\)의 코시 수열이면 \(\{f(x_n)\}\)은 \(Y\)의 코시 수열이다.
- \(E\)가 \(X\)에서 조밀하고 \(Y\)가 완비거리공간이며 \(f\colon E\to Y\)가 균등연속이면, \(f\)는 균등연속함수 \(\overline f\colon X\to Y\)로 유일하게 확장된다.
- \(f\colon X\to Y\)와 \(g\colon Y\to Z\)가 균등연속이면 \(g\circ f\colon X\to Z\)도 균등연속이다.
증명 (1) 임의의 \(\varepsilon>0\)에 대하여 균등연속성에서 얻는 \(\delta>0\)를 택한다. \(\{x_n\}\)이 코시 수열이므로 충분히 큰 \(m,n\)에 대하여 \(d_X(x_m,x_n)<\delta\)이고, 따라서 \(d_Y(f(x_m),f(x_n))<\varepsilon\)이다.
(2) \(x\in X\)를 택하자. \(E\)가 조밀하므로 \(x_n\in E\), \(x_n\to x\)인 수열을 택할 수 있다. \(\{x_n\}\)은 코시 수열이므로 (1)에 의해 \(\{f(x_n)\}\)은 \(Y\)의 코시 수열이고, \(Y\)가 완비이므로 수렴한다. 이 극한을 \(\overline f(x)\)로 정의한다. 같은 점 \(x\)로 수렴하는 두 수열을 번갈아 배열하면 역시 \(x\)로 수렴하므로 균등연속성을 이용하여 두 함숫값 수열의 극한이 같음을 알 수 있다. 따라서 \(\overline f\)는 잘 정의된다. \(x\in E\)에서는 상수수열을 사용할 수 있으므로 \(\overline f(x)=f(x)\)이다.
이제 \(\varepsilon>0\)에 대하여 \(f\)의 균등연속성에서 \(d_X(u,v)<\delta\)이면 \(d_Y(f(u),f(v))<\varepsilon/2\)가 되도록 \(\delta>0\)를 택한다. \(d_X(x,y)<\delta/3\)이면 \(E\)의 점 \(u_n\to x\), \(v_n\to y\)를 택하여 충분히 큰 \(n\)에서 \(d_X(u_n,v_n)<\delta\)가 되게 할 수 있다. 따라서 \(d_Y(f(u_n),f(v_n))<\varepsilon/2\)이고 극한을 취하면 \(d_Y(\overline f(x),\overline f(y))\le\varepsilon/2<\varepsilon\)이다. 그러므로 \(\overline f\)는 균등연속이다. 두 연속 확장이 \(E\)에서 일치한다면 조밀성에 의해 모든 \(X\)에서 일치하므로 유일성도 따른다.
(3) \(\varepsilon>0\)에 대하여 먼저 \(g\)의 균등연속성에서 \(d_Y(u,v)<\eta\)이면 \(d_Z(g(u),g(v))<\varepsilon\)이 되는 \(\eta>0\)를 택하고, 다음으로 \(f\)의 균등연속성에서 \(d_X(x,y)<\delta\)이면 \(d_Y(f(x),f(y))<\eta\)가 되는 \(\delta>0\)를 택하면 된다.
문제 4.24. 함수 \(f(x)=x^2\)이 \(\mathbb R\)에서 균등연속이 아님을 증명하시오.
문제 4.25. \(X\), \(Y\)가 거리공간이고 각 \(f_n\colon X\to Y\)가 균등연속이라고 하자. 또한 \(\{f_n\}\)이 \(f\colon X\to Y\)로 균등수렴한다는 것은 임의의 \(\varepsilon>0\)에 대하여 어떤 \(N\)이 존재하여 \(n\ge N\)이고 \(x\in X\)이면 \[ d_Y(f_n(x),f(x))<\varepsilon \] 인 것을 뜻한다고 하자. \(f_n\to f\)가 균등수렴이면 \(f\)도 균등연속임을 보이시오.
여러 가지 연속성
균등연속 외에도 해석학에서 자주 등장하는 연속의 개념이 몇 가지 있다.
립시츠 연속
함수 \(f\colon X\to Y\)가 립시츠 연속(Lipschitz continuous)이라는 것은, 어떤 상수 \(L\ge0\)이 존재하여 임의의 \(x,y\in X\)에 대하여 \[ d_Y(f(x),f(y))\le L\,d_X(x,y) \] 가 성립하는 것이다. 이와 같은 조건을 만족시키는 가장 작은 \(L\)의 값을 \(f\)의 립시츠 상수라고 부른다. 특히 \(L<1\)인 경우 \(f\)를 축소사상(contraction mapping)이라고 부른다.
\(\alpha\)-횔더 연속
\(0<\alpha\le1\)을 고정하자. 함수 \(f\colon X\to Y\)에 대하여 어떤 상수 \(C\ge0\)가 존재하여 임의의 \(x,y\in X\)에 대해 \[ d_Y(f(x),f(y))\le C\,d_X(x,y)^\alpha \] 가 성립하면 \(f\)가 \(\alpha\)-횔더 연속(\(\alpha\)-Hölder continuous)이라고 한다. 특히 \(\alpha=1\)인 경우가 립시츠 연속이다. 립시츠 연속함수와 횔더 연속함수는 모두 균등연속이다.
몇 가지 예를 살펴보자.
- \(f(x)=\sqrt x\)는 \([0,1]\)에서 \(1/2\)-횔더 연속이므로 균등연속이지만 립시츠 연속은 아니다.
- \(f(x)=x^2\)은 임의의 \(M>0\)에 대하여 \([-M,M]\)에서는 립시츠 연속이지만 \(\mathbb R\) 전체에서는 립시츠 연속도 균등연속도 아니다.
절대연속
적분 이론과 깊이 관련 있는 연속성 개념으로 절대연속(absolutely continuous)이 있다. 실함수 \(f\colon[a,b]\to\mathbb R\)가 절대연속이라는 것은, 임의의 \(\varepsilon>0\)에 대해 어떤 \(\delta>0\)가 존재하여 서로 겹치지 않는 유한 개의 구간 \((a_i,b_i)\subseteq[a,b]\)가 \[ \sum_i(b_i-a_i)<\delta \] 를 만족시킬 때마다 \[ \sum_i|f(b_i)-f(a_i)|<\varepsilon \] 인 것을 뜻한다.
문제 4.26. 다음을 증명하시오.
- \(f(x)=\sqrt x\)는 \([0,1]\)에서 \(1/2\)-횔더 연속이지만 립시츠 연속은 아니다.
- \(M>0\)일 때 \(f(x)=x^2\)은 \([-M,M]\)에서 립시츠 연속이고, 립시츠 상수로 \(2M\)을 택할 수 있다. 한편 \(\mathbb R\) 전체에서는 립시츠 연속이 아니다.
문제 4.27. \(X\)가 거리공간이고 \(f\colon X\to\mathbb R\)라고 하자. \(f\)가 \(a\in X\)에서 상반연속(upper semicontinuous)이라는 것은 임의의 \(\varepsilon>0\)에 대하여 어떤 \(\delta>0\)가 존재하여 \(d_X(x,a)<\delta\)이면 \(f(x)<f(a)+\varepsilon\)인 것을 뜻한다. 같은 방법으로 하반연속(lower semicontinuous)을 \(f(x)>f(a)-\varepsilon\)으로 정의한다. \(f\)가 \(a\)에서 연속이기 위한 필요충분조건은 \(a\)에서 상반연속이면서 하반연속인 것임을 보이시오.
문제 4.28. \(X\)와 \(Y\)가 거리공간이고 \(A\subseteq X\)이며 \(f\colon X\to Y\)가 연속함수라고 하자. 이때 \[ f(\overline A)\subseteq\overline{f(A)} \] 임을 보이시오. 이를 이용하여 \(A\)가 \(X\)에서 조밀하고 두 연속함수 \(f,g\colon X\to Y\)가 \(A\)에서 일치하면 \(X\) 전체에서 일치함을 보이시오.
문제 4.29. 위상공간 \((X,\mathcal T_X)\), \((Y,\mathcal T_Y)\) 사이의 함수 \(f\colon X\to Y\)가 연속이라는 것은 모든 \(V\in\mathcal T_Y\)에 대하여 \(f^{-1}(V)\in\mathcal T_X\)인 것을 뜻한다. 일대일대응 \(f\colon X\to Y\)와 역함수 \(f^{-1}\)가 모두 연속이면 \(f\)를 위상동형(homeomorphism)이라고 부른다. 거리공간에 거리에서 유도된 위상을 주면 이 연속성의 정의가 정리 4.5의 정의와 일치함을 설명하시오. 또한 위로의 거리보존함수는 위상동형임을 보이시오.
문제 4.30. \(a<b\)이고 \(C[a,b]\)가 \([a,b]\)에서 \(\mathbb R\)로의 연속함수들의 모임이라고 하자. 이때 \(C[a,b]\)의 원소의 개수가 \(\mathbb R\)의 원소의 개수와 같음을 보이시오. \(\mathbb Q\cap[a,b]\)에서의 함숫값들이 연속함수를 유일하게 결정한다는 사실을 이용해도 좋다.
문제 4.31. 함수 \(f\colon\mathbb R\to\mathbb R\)가 모든 실수 \(s,t\)에 대하여 \(f(s+t)=f(s)+f(t)\)를 만족시킨다고 하자. 다음 물음에 답하시오.
- \(f\)가 연속인 점이 하나 이상 존재한다고 하자. 이때 실수 \(a\)가 존재하여 모든 \(x\)에 대하여 \(f(x)=ax\)임을 보이시오.
- \(f\)가 연속인 점이 하나도 존재하지 않을 수 있는가? 이 문항에서는 \(\mathbb R\)가 \(\mathbb Q\) 위의 벡터공간으로서 하멜 기저를 가진다는 사실을 증명 없이 사용해도 좋다.