6부의 말미에서 완비성을 정의할 때, 우리는 ‘코시수열이 어떤 점으로 수렴한다’는 조건을 사용했다. 그런데 ‘수렴한다’, 곧 한 점에 ‘가까워진다’는 말이 정확히 무엇을 뜻하는지는 깊이 다루지 않았다. 실해석에서 가까움을 나타내는 가장 익숙한 모형은 실직선 위의 거리 \(|x-y|\)이다. 그러나 함수나 수열처럼 더 일반적인 대상을 다루려면 무엇을 거리로 삼을지부터 새로 정해야 하며, 어떤 공간의 자연스러운 가까움은 아예 하나의 거리로 표현되지 않기도 한다. 이 글에서는 실수의 거리에서 거리공간으로, 다시 위상공간으로 나아가는 과정을 살펴본다. 또한 특정 공간에서 증명된 성질이 더 일반적인 공간을 분류하는 정의로 채택되는 과정을 컴팩트성과 연결성의 사례를 통해 살펴본다.
바이어슈트라스와 ε-δ 논법
부분집합 \(D\subseteq\mathbb R\)에서 정의된 함수 \(f:D\to\mathbb R\)가 점 \(x_0\in D\)에서 연속이라는 사실을 오늘날에는 다음과 같이 표현한다. 임의의 \(\varepsilon>0\)에 대하여 어떤 \(\delta>0\)가 존재하여, 모든 \(x\in D\)에 대해 \[ |x-x_0|<\delta\ \Longrightarrow\ |f(x)-f(x_0)|<\varepsilon \] 가 성립한다.
이러한 엄밀한 수학적 표현은 여러 수학자의 손을 거치며 서서히 다듬어졌다. 볼차노(Bernard Bolzano)는 1817년 연속성과 중간값 성질을 부등식으로 엄밀하게 다루려 했고, 코시(Augustin-Louis Cauchy)는 1821년 『해석학 강의』(Cours d’Analyse)에서 변수의 무한소 증분에 대응하는 함수값의 무한소 변화를 통해 연속성을 설명했다.
카를 바이어슈트라스(Karl Weierstrass)는 1860년대 베를린 대학 강의에서 극한과 연속성을 ε와 δ를 사용한 부등식의 언어로 체계적으로 전개했다. 여기서 핵심은 모호한 크기의 ‘무한소’를 직접 조작하는 대신, 임의로 주어진 양의 오차 \(\varepsilon\)에 대응하는 양의 허용 범위 \(\delta\)를 찾는 데 있다.
[바이어슈트라스는 이 체계를 담은 해석학 교과서를 직접 출판하지 않았다. 그의 이론은 학생들의 강의 필기와 후속 문헌을 통해 널리 전해졌다. 하이네(Eduard Heine)의 1872년 논문도 같은 엄밀화 흐름의 중요한 출판물이지만, 하이네는 바이어슈트라스의 제자가 아니었다.
이 정의에는 \(|x-x_0|\)와 \(|f(x)-f(x_0)|\)라는 두 거리가 들어 있다. 절댓값은 실직선에서 두 점 사이의 거리를 나타내지만, 함수·수열·기하학적 형상처럼 원소의 종류가 달라지면 가까움을 재는 규칙도 달라져야 한다.
프레셰, 거리의 공리만 남기다
모리스 프레셰(Maurice Fréchet)는 1906년 박사학위 논문 「함수 계산의 몇 가지 문제에 대하여」(Sur quelques points du calcul fonctionnel)에서 함수와 같은 일반적 대상을 다룰 수 있도록 추상 공간, 수렴, 컴팩트성의 개념을 연구했다. 특히 그의 ‘거리(écart)’ 개념은 점의 정체와 무관하게 두 점 사이의 가까움을 공리로 다루는 길을 열었다.[Frechet1906][Taylor1982]
[프레셰는 수열의 수렴을 직접 공리화한 \(L\)류, 근접함수를 사용한 \(V\)류, ‘간격(écart)’에 삼각부등식을 요구한 \(E\)류 등 여러 종류의 추상 공간을 함께 연구했다. 이 가운데 \(E\)류의 조건은 현대 거리공간의 공리와 본질적으로 같다. ‘거리공간(metric space)’이라는 명칭과 익숙한 교과서적 정식화는 하우스도르프의 1914년 저서를 거치며 정착되었다.[Frechet1906][Taylor1982][Hausdorff1914]]
현대적인 정의를 쓰면 다음과 같다. 집합 \(X\) 위의 함수 \(d:X\times X\to[0,\infty)\)가 모든 \(x,y,z\in X\)에 대하여 다음 조건을 만족할 때 \(d\)를 \(X\) 위의 거리(metric)라고 한다.
- \(d(x,y)=0\Longleftrightarrow x=y\)
- \(d(x,y)=d(y,x)\)
- \(d(x,z)\le d(x,y)+d(y,z)\)
세 번째 조건은 삼각부등식(triangle inequality)이다. 거리와 집합의 순서쌍 \((X,d)\)를 거리공간(metric space)이라고 한다.[Munkres2000]
예를 들어 닫힌구간 \([a,b]\)에서 정의된 실수값 연속함수들의 집합 \(C([a,b])\)에는 \[ d_\infty(f,g)=\sup_{x\in[a,b]}|f(x)-g(x)| \] 라는 거리를 줄 수 있다. 연속함수는 컴팩트 구간에서 유계이므로 이 상한은 유한하다. 또한 실수열 전체의 집합 \(\mathbb R^{\mathbb N}\)에는 \[ d(x,y)=\sum_{n=1}^{\infty}2^{-n}\min\{1,|x_n-y_n|\} \] 라는 거리를 줄 수 있다. 이 거리에서의 수렴은 각 좌표에서의 수렴과 정확히 일치한다.[Munkres2000]
[상한 거리의 삼각부등식은 각 \(x\in[a,b]\)에서 \[ |f(x)-h(x)|\le |f(x)-g(x)|+|g(x)-h(x)| \] 가 성립한다는 사실에서 나온다. 양변의 상한을 취하면 \[ d_\infty(f,h)\le d_\infty(f,g)+d_\infty(g,h) \] 를 얻는다.]
이제 원소가 실수인지 함수인지 수열인지는 중요하지 않다. 두 거리공간 \((X,d_X)\), \((Y,d_Y)\) 사이의 함수 \(F:X\to Y\)가 \(x_0\in X\)에서 연속이라는 것은, 임의의 \(\varepsilon>0\)에 대하여 어떤 \(\delta>0\)가 존재하여 \[ d_X(x,x_0)<\delta\ \Longrightarrow\ d_Y(F(x),F(x_0))<\varepsilon \] 가 성립한다는 뜻이다. 함수공간이나 벡터공간 사이의 사상인 연산자(operator)의 연속성도 이 틀에서 정의할 수 있다.
하우스도르프와 거리 너머의 공간
펠릭스 하우스도르프(Felix Hausdorff)는 1914년 『집합론의 기초』(Grundzüge der Mengenlehre)에서 점들의 근방을 공리화하여 일반 공간을 체계적으로 연구했다. 이것은 두 점 사이의 거리를 수치로 재지 않고도 수렴과 연속성을 다룰 수 있음을 보여 준 중요한 단계였다.[Hausdorff1914]
[하우스도르프의 원래 근방 공리에는 서로 다른 두 점을 서로소 근방으로 분리하는 조건, 곧 오늘날의 \(T_2\) 조건이 포함되어 있었다. 현대의 열린집합 공리는 그 저서에 지금과 똑같은 형식으로 완성되어 있었던 것이 아니라, 근방·열린집합·폐포를 이용한 여러 동치적 형식이 정리되는 과정에서 표준화되었다. 쿠라토프스키(Kazimierz Kuratowski)의 1922년 폐포 공리는 이 과정의 중요한 이정표 가운데 하나이다.[Hausdorff1914][Kuratowski1922]]
현대적인 정의로, 집합 \(X\)의 부분집합들의 족 \(\tau\)가 다음 조건을 만족한다고 하자.
- \(\varnothing,X\in\tau\).
- \(\tau\)에 속하는 임의의 부분족의 합집합은 \(\tau\)에 속한다.
- \(\tau\)에 속하는 유한 개 집합의 교집합은 \(\tau\)에 속한다.
이때 \(\tau\)를 \(X\) 위의 위상(topology), \(\tau\)의 원소를 열린집합(open set), 순서쌍 \((X,\tau)\)를 위상공간(topological space)이라고 한다. 정의에는 거리나 수치가 나타나지 않고, 어떤 부분집합을 열린 것으로 볼지만 남는다.[Munkres2000]
두 위상공간 \((X,\tau_X)\), \((Y,\tau_Y)\) 사이의 함수 \(F:X\to Y\)에 대하여, 모든 열린집합 \(V\in\tau_Y\)의 원상 \(F^{-1}(V)\)가 \(\tau_X\)에 속하면 \(F\)를 연속(continuous)이라고 한다. 이렇게 연속성은 ε와 δ를 직접 언급하지 않고 ‘열린집합의 원상은 열린집합이다’라는 조건으로 표현된다.[Munkres2000]
두 정의를 잇는 다리
거리공간 \((X,d)\)에서 점 \(x\in X\)와 \(r>0\)에 대하여
\[
B(x,r)=\{y\in X:d(x,y)
[열린공 자체도 열린집합이다. \(y\in B(x,r)\)라면 \(r'=r-d(x,y)>0\)로 둘 수 있다. \(z\in B(y,r')\)일 때 삼각부등식으로
\[
d(x,z)\le d(x,y)+d(y,z) 정리: 연속성의 두 정의의 동치 성질 먼저 \(F\)가 ε-δ 연속이고 \(V\subseteq Y\)가 열린집합이라고 하자. 임의의 \(x\in F^{-1}(V)\)에 대하여 \(F(x)\in V\)이므로, 어떤 \(\varepsilon>0\)가 존재하여 \(B(F(x),\varepsilon)\subseteq V\)이다. ε-δ 연속성에 따라 어떤 \(\delta>0\)가 존재하여
\[
F(B(x,\delta))\subseteq B(F(x),\varepsilon)\subseteq V
\]
가 된다. 따라서 \(B(x,\delta)\subseteq F^{-1}(V)\)이다. 이는 \(F^{-1}(V)\)의 모든 점이 그 안에 포함되는 열린공을 가지므로 \(F^{-1}(V)\)가 열려 있음을 뜻한다. 반대로 모든 열린집합의 원상이 열려 있다고 하자. \(x_0\in X\)와 \(\varepsilon>0\)를 임의로 잡으면 \(B(F(x_0),\varepsilon)\)는 \(Y\)의 열린집합이다. 그러므로
\[
F^{-1}(B(F(x_0),\varepsilon))
\]
는 \(x_0\)를 포함하는 \(X\)의 열린집합이다. 따라서 어떤 \(\delta>0\)에 대하여
\[
B(x_0,\delta)\subseteq F^{-1}(B(F(x_0),\varepsilon))
\]
이다. 즉 \(d_X(x,x_0)<\delta\)이면 \(d_Y(F(x),F(x_0))<\varepsilon\)이므로 \(F\)는 ε-δ 연속이다. 이로써 두 정의가 동치임이 증명되었다.[Munkres2000] 하이네–보렐 정리(Heine–Borel theorem)는 유클리드 공간 \(\mathbb R^n\)의 부분집합 \(K\)에 대하여 다음 두 조건이 동치라고 말한다. 여기서 열린덮개는 \(K\subseteq\bigcup_{\alpha\in A}U_\alpha\)를 만족하는 열린집합들의 족 \(\{U_\alpha\}_{\alpha\in A}\)이고, 유한 부분덮개는 그 가운데 유한 개만 골라도 \(K\)를 덮는 경우를 말한다.[Munkres2000] [이 정리의 이름에는 하이네와 보렐 두 사람만 남았지만, 사실 그 이면에는 더 많은 수학자의 기여가 얽혀 있다. 19세기 중엽의 균등연속성 논증에는 이미 유한 덮개를 선택하는 생각이 나타났고, 보렐은 1895년 닫힌구간의 가산 열린구간 덮개에 관한 형태를 증명했다. 같은 해 쿠쟁(Pierre Cousin)은 임의로 주어진 국소 근방에서 유한 분할을 얻는 더 일반적인 보조정리를 발표했으며, 이후 여러 수학자가 오늘날의 임의 열린덮개 형식을 정리했다. 이제 임의의 위상공간 \(X\)의 부분집합 \(K\)에 부분공간 위상을 주자. \(K\)의 모든 열린덮개가 유한 부분덮개를 가지면 \(K\)를 컴팩트(compact)하다고 정의한다. 이 정의를 사용하면 하이네–보렐 정리는 “\(\mathbb R^n\)에서는 컴팩트함과 닫히고 유계임이 동치이다”라는 정리가 된다. 열린덮개 조건은 거리나 노름을 언급하지 않으므로 모든 위상공간에서 의미를 갖는다.[Munkres2000] 또 다른 일반화는 수열에서 출발한다. 공간 \(K\)의 모든 수열이 \(K\)의 한 점으로 수렴하는 부분수열을 가지면 \(K\)를 점열 컴팩트(sequentially compact)하다고 한다. 모든 거리공간에서는 컴팩트성과 점열 컴팩트성이 서로 동치이다. [거리공간에서 두 조건이 동치라는 증명은 표준 위상수학 정리이다. 한 방향에서는 컴팩트성이 각 \(\varepsilon\)-크기의 공들로 이루어진 유한 덮개를 제공한다는 사실을 이용해 수열의 코시 부분수열을 만들고, 다른 방향에서는 점열 컴팩트성을 이용해 열린덮개에 르베그 수가 존재함을 보인 뒤 유한 부분덮개를 얻을 수 있다.[Munkres2000]] 그러나 “닫히고 유계이면 컴팩트하다”는 명제는 일반 거리공간이나 무한차원 노름공간에서는 성립하지 않는다. 특히 무한차원 노름공간의 닫힌 단위공
\[
\overline B(0,1)=\{x:\|x\|\le1\}
\]
은 닫히고 유계이지만 컴팩트하지 않다. 리스 보조정리를 반복해 적용하면 단위공 안에서 서로 일정한 양 이상 떨어진 수열을 만들 수 있고, 이 수열은 수렴하는 부분수열을 갖지 않는다.[HunterNachtergaele2001] 열린덮개에 의한 컴팩트성은 20세기 초 여러 경쟁 개념 가운데 정리되었다. 알렉산드로프(Pavel Alexandroff)와 우리손(Pavel Urysohn)은 1923년 논문에서 열린덮개의 유한 부분덮개 성질을 일반 공간의 핵심 조건으로 제시하고 ‘쌍콤팩트(bicompact)’라는 말을 사용했다. 오늘날에는 대체로 이 열린덮개 조건 자체를 컴팩트성이라 부르며, 하우스도르프 조건이 필요하면 ‘컴팩트 하우스도르프’라고 따로 명시한다.[RamanSundstrom2015] [컴팩트성이라는 낯선 개념이 오늘날의 세련된 모습을 갖추기까지는 꽤 오랜 시간이 걸렸다. 프레셰의 1906년 연구에는 수열과 극한점에 기초한 여러 조건이 있었고, 하우스도르프의 정의도 오늘날의 열린덮개 컴팩트성과 같지 않았다. 알렉산드로프와 우리손의 1923년 작업은 일반 위상공간에서 열린덮개 조건을 전면에 놓은 중요한 단계였다. 오늘날 많은 일반위상 교재는 유한 부분덮개 조건만을 ‘컴팩트’라고 부르지만, 부르바키 계열과 대수기하 문헌에서는 이를 ‘준컴팩트(quasi-compact)’라고 하고 하우스도르프 조건까지 만족할 때 ‘컴팩트’라고 부르기도 한다.] 열린덮개 정의의 강점은 곱공간에서 특히 선명하다. 티호노프 정리(Tychonoff’s theorem)는 임의의 지표집합 \(I\)와 컴팩트 공간들 \(\{X_i\}_{i\in I}\)에 대하여, 곱위상을 준 곱공간
\[
\prod_{i\in I}X_i
\]
가 컴팩트하다고 말한다.[Tychonoff1935] [티호노프는 1930년에 닫힌 단위구간의 임의 거듭제곱에 해당하는 경우를 다루었고, 1935년 「함수공간에 관하여」에서 일반 곱정리를 발표했다. 모든 컴팩트 공간의 임의 곱에 관한 정리는 통상적인 집합론 ZF 위에서 선택공리와 동치이며, 역방향은 켈리(John L. Kelley)가 1950년에 증명했다.[RamanSundstrom2015][Tychonoff1935][Kelley1950]] 반면 점열 컴팩트성은 임의의 곱에서 보존되지 않는다. 각 인자가 점열 컴팩트하더라도 비가산 곱은 점열 컴팩트하지 않을 수 있다. 따라서 일반 위상수학에서는 수열만으로 포착되지 않는 컴팩트 현상을 열린덮개, 또는 그와 동치인 망(net)·필터의 언어로 다룬다.[Engelking1989] [표준적인 반례는 이산위상을 준 두 점 공간 \(2=\{0,1\}\)의 \(\mathcal P(\mathbb N)\)-개 곱 \(2^{\mathcal P(\mathbb N)}\)이다. 각 인자는 유한하므로 컴팩트하고 점열 컴팩트하며, 전체 곱은 티호노프 정리에 의해 컴팩트하다. 그러나 \(n\in\mathbb N\)에 대하여 \(x_n(A)=1\Longleftrightarrow n\in A\)로 수열 \((x_n)\)을 정의하자. 임의의 부분수열 \((x_{n_k})\)에 대해 \(A=\{n_{2k}:k\in\mathbb N\}\)라는 좌표를 택하면 \(x_{n_k}(A)\)가 \(0\)과 \(1\)을 번갈아 가지므로 그 부분수열은 그 좌표에서 수렴하지 않는다. 따라서 수렴하는 부분수열이 없다. \(|\mathcal P(\mathbb N)|=|[0,1]|\)이므로 원문에 등장한 \(2^{[0,1]}\)도 같은 반례이다.[Engelking1989]] 비슷한 관점은 연결성(connectedness)에도 적용된다. 위상공간 \(X\)를 서로소이고 공집합이 아닌 두 열린집합의 합집합으로 나타낼 수 없을 때 \(X\)가 연결되어 있다고 한다. 실수의 구간은 연결되어 있고, 연결공간의 연속상은 다시 연결되어 있다. 실수값 연속함수에 이 정리를 적용하면 사잇값 정리를 얻는다.[Munkres2000] 이 연재의 관점에서 보면 하이네–보렐 정리와 사잇값 정리의 배후에 있던 성질이 각각 컴팩트성과 연결성이라는 일반 개념으로 분리된 셈이다. 거리공간만으로 충분하지 않다는 사실을 보여 주는 대표적인 예가 비가산 집합 위의 함수공간이다. 집합 \(X\)에서 실수로 가는 모든 함수의 집합 \(\mathbb R^X\)를 생각하자. 기준 함수 \(f\in\mathbb R^X\), 유한집합 \(F\subseteq X\), \(\varepsilon>0\)에 대하여
\[
U(f;F,\varepsilon)
=\{g\in\mathbb R^X:|g(x)-f(x)|<\varepsilon\text{ for every }x\in F\}
\]
형태의 집합들을 \(f\)의 기본 근방으로 삼는다. [각 좌표의 실수공간 \(\mathbb R\)에 보통 위상을 주고, 유한 개의 좌표에만 열린 조건을 거는 집합들을 기저로 삼아 \(\mathbb R^X=\prod_{x\in X}\mathbb R\)에 주는 위상을 곱위상(product topology)이라고 한다. 각 좌표 평가함수 \(\pi_x(f)=f(x)\)가 모두 연속이 되게 하는 가장 약한 위상이기도 하다.[Munkres2000][Engelking1989]] 이 곱위상에서 함수열 \((f_n)\)이 \(f\)로 수렴할 필요충분조건은 모든 \(x\in X\)에 대하여 실수열 \((f_n(x))\)이 \(f(x)\)로 수렴하는 것이다. 즉 곱위상의 수열 수렴은 점별수렴(pointwise convergence)과 일치한다.[Munkres2000] 여기서 정의역의 크기가 중요하다. \(X\)가 유한이면 유한 개 좌표의 보통 곱거리로 충분하다. \(X\)가 가산 무한이고 \(X=\{x_1,x_2,\ldots\}\)로 열거할 수 있다면
\[
d(f,g)=\sum_{n=1}^{\infty}2^{-n}\min\{1,|f(x_n)-g(x_n)|\}
\]
가 곱위상을 유도한다. 따라서 가산 정의역에서 점별수렴의 위상은 거리로 표현할 수 있다. 문제가 생기는 것은 \(X\)가 비가산일 때이다.[Engelking1989] 모든 거리공간은 제1가산(first countable)이다. 즉 각 점마다 그 점의 모든 근방을 세분하는 가산 개의 국소기저가 존재한다. [거리공간의 점 \(x\)에서 \(\{B(x,1/n):n\in\mathbb N\}\)은 가산 국소기저이다. \(V\)가 \(x\)의 열린 근방이면 어떤 \(r>0\)에 대하여 \(B(x,r)\subseteq V\)이고, 아르키메데스 성질에 따라 \(1/n < r\)인 \(n\)을 택하면 \(B(x,1/n)\subseteq V\)이기 때문이다.[Munkres2000]] 이제 \(X\)가 비가산이고 \(\mathbb R^X\)에 곱위상을 주었다고 하자. 어떤 \(f\in\mathbb R^X\)가 가산 국소기저 \(N_1,N_2,\ldots\)를 가진다고 가정해 모순을 이끌어 내자. 각 \(n\)에 대해 \(f\in U_n\subseteq N_n\)인 기본 근방 \(U_n\)을 택하고, \(U_n\)이 조건을 거는 유한한 좌표들의 집합을 \(F_n\)이라 하자. 합집합 \(\bigcup_nF_n\)은 가산이므로, 비가산집합 \(X\)에는
\[
x_0\notin\bigcup_{n=1}^{\infty}F_n
\]
인 점이 존재한다. 이제
\[
V=\{g\in\mathbb R^X:|g(x_0)-f(x_0)|<1\}
\]
을 잡으면 \(V\)는 \(f\)의 열린 근방이다. 국소기저의 정의에 따르면 어떤 \(N_n\subseteq V\)가 있어야 하고, 그러면 \(U_n\subseteq V\)여야 한다. 그러나 \(U_n\)은 좌표 \(x_0\)에 아무 조건도 걸지 않으므로, \(x_0\)에서 \(f(x_0)\)와 1 이상 차이 나는 함수를 포함한다. 따라서 \(U_n\not\subseteq V\)이고 모순이다. 그러므로 \(X\)가 비가산이면 \(\mathbb R^X\)의 곱위상은 어느 점에서도 제1가산이 아니며, 따라서 어떤 거리도 이 위상을 유도할 수 없다.[Engelking1989] 지금까지의 추상화 과정을 정리하면 다음과 같다. 컴팩트성 역시 같은 일반화의 힘을 보여 준다. \(\mathbb R^n\)에서는 닫힘과 유계성이 컴팩트성을 정확히 특징짓지만, 일반 거리공간과 무한차원 노름공간에서는 그렇지 않다. 열린덮개에 의한 정의는 거리 없이도 의미가 있고 임의의 곱에서도 보존된다. 점열 컴팩트성은 거리공간에서는 이에 동치이지만 일반 위상공간에서는 갈라진다. 이 연재에서는 특정 공간의 정리에서 중요한 역할을 하던 성질을 분리하여 더 넓은 대상들의 정의로 삼는 추상화 방식을 정리의 정의 승격이라고 부르기로 한다. 컴팩트성과 연결성은 이 관점을 잘 보여 주는 대표적인 사례이다. 이제 거리를 넘어선 다음 질문은 ‘길이’이다. 닫힌구간 \([a,b]\)의 길이 \(b-a\)를 더 복잡한 집합에까지 일관되게 확장할 수 있을까? 8부에서는 이 질문을 따라 르베그(Lebesgue)의 측도론과 확률론으로 나아간다. 이슬비, 2026. designeralice＠daum.net.
두 거리공간 \((X,d_X)\), \((Y,d_Y)\)와 함수 \(F:X\to Y\)에 대하여 다음 두 조건은 동치이다.
정리가 정의가 되다: 컴팩트성
거리로 표현되지 않는 자연스러운 위상
거리를 버리고 열린집합이 남다
참고문헌
저작권