선택 공리(Axiom of Choice, AC)는 집합론에서 논란이 많았던 공리이다. 직관적으로는 당연해 보이지만, 이로부터 직관에 반하는 결과들이 도출되기도 한다. 20세기 초 많은 수학자들이 선택 공리를 다른 공리로부터 증명하거나 또는 다른 공리를 사용하여 반증하려고 했지만 실패하였다. 1963년 코언(Paul Cohen)은 선택 공리가 ZF와 독립적임을 증명했다.
1. 선택 공리의 의미
선택 공리를 이해하기 위해 먼저 선택함수(choice function)를 정의하자. \(\mathcal{F}\)가 집합족이라고 하자. 만약 함수 \(f: \mathcal{F} \to \bigcup \mathcal{F}\)가 모든 \(A \in \mathcal{F}\)에 대해 \(f(A) \in A\)를 만족시키면 \(f\)를 \(\mathcal{F}\)의 선택함수라고 부른다.
직관적으로 선택함수는 각 집합에서 원소를 하나씩 '선택'하는 함수이다. 예를 들면 다음과 같다.
- \(\mathcal{F} = \{\{1,\, 2\},\, \{3,\, 4,\, 5\},\, \{6\}\}\)에 대해, \(f(\{1,\,2\}) = 1\), \(f(\{3,\,4,\,5\}) = 4\), \(f(\{6\}) = 6\)으로 정의된 함수는 선택함수이다. 물론 \(\mathcal{F}\)의 선택함수는 이것 외에도 다섯 개를 더 만들 수 있다.
- 일반적으로, 비어있지 않은 유한 개의 집합에 대해서는 선택함수를 구체적으로 정의할 수 있다.
2. 선택 공리의 여러 형태
선택 공리는 여러 방식으로 표현할 수 있다.
- 직관적 표현: "비어있지 않은 집합들의 모임이 주어졌을 때, 각 집합에서 원소를 하나씩 선택할 수 있다."
- 엄밀한 표현: 공집합을 원소로 갖지 않는 임의의 집합족 \(\mathcal{F}\)에 대해 선택함수가 존재한다. \[\forall \mathcal{F} \left( \varnothing \notin \mathcal{F} \rightarrow \left( \exists f : \mathcal{F} \to \bigcup \mathcal{F},\,\, \forall A \in \mathcal{F} (f(A) \in A) \right) \right).\]
- 곱집합을 이용한 표현: 비어있지 않은 집합들의 족 \(\{A_i\}_{i \in I}\)에 대해, 곱집합 \(\prod_{i \in I} A_i\)는 비어있지 않다.
3. 역사적 배경
1904년 체르멜로(Ernst Zermelo)가 정렬 정리를 증명하면서 선택 공리를 명시적으로 사용했다. 이후 많은 수학자들 사이에서 논쟁이 일어났다.
- 힐베르트, 체르멜로 등은 선택 공리가 수학의 중요한 정리를 증명하는 데 필수적이라고 주장했다.
- 브라우어, 보렐 등은 선택 공리가 구성적이지 않고 직관에 반하는 결과를 낳는다고 비판했다.
- 러셀, 페아노 등은 선택 공리를 사용한 정리와 사용하지 않은 정리를 구분해야 한다고 주장했다.
1938년 괴델이 선택 공리가 ZF와 모순되지 않음을 증명했고, 1963년 코언이 선택 공리가 ZF로부터 증명될 수 없음을 보였다. 이로써 선택 공리는 ZF와 독립적임이 밝혀졌다.
4. 선택 공리와 동치인 명제들
ZF 하에서 선택 공리와 동치인 명제를 살펴보자.
(1) 정렬 정리 (Well-Ordering Theorem)
"모든 집합은 정렬 가능하다."
집합 \(A\)가 정렬 가능(well-orderable)하다는 것은, \(A\) 위에 정렬 순서를 정의할 수 있다는 의미이다. 정렬 순서란 공집합이 아닌 모든 부분집합이 최소원소를 갖는 전순서이다.
예를 들어, 자연수 집합 \(\mathbb{N}\)은 통상적인 순서로 정렬되어 있다. 그러나 실수 집합 \(\mathbb{R}\)의 통상적인 순서는 정렬이 아니다. 예를 들면, 열린 구간 \((0,\, 1)\)은 최소원소가 없다.
(2) 초른의 보조정리 (Zorn's Lemma)
"순서집합에서 모든 사슬이 상계를 가지면, 극대원소가 존재한다."
여기서 사슬(chain)은 임의의 두 원소가 비교 가능한 부분집합이고, 상계(upper bound)는 사슬의 모든 원소보다 크거나 같은 원소이며, 극대원소(maximal element)는 그보다 큰 원소가 없는 원소이다.
ZF 하에서 선택 공리, 정렬 정리, 초른의 보조 정리는 모두 서로 동치이다.
문제 10.1. ZF 하에서 선택 공리와 동치인 '하우스도르프의 극대 원리'(Hausdorff maximal principle)를 찾아 보자.
5. 선택 공리를 사용하는 정리들
선택 공리는 수학의 여러 분야에서 중요한 정리를 증명하는 데 사용된다. 여기서는 그 예로서 자주 사용하는 정리 몇 개를 살펴보자.
(1) 추상대수학에서의 예
정리 10.1.
단위원을 갖는 모든 환은 극대 아이디얼을 가진다.
증명 개요 환 \(R\)의 진부분 아이디얼들의 집합에 포함관계로 순서를 주고, 초른의 보조정리를 적용한다. 아이디얼들의 사슬의 합집합이 상계가 됨을 보이면, 극대원소(극대 아이디얼)의 존재가 보장된다.
(2) 선형대수학에서의 예
정리 10.2.
모든 벡터공간은 기저를 가진다.
증명 개요 벡터공간 \(V\)의 일차독립 부분집합들의 집합을 생각한다. 포함관계로 순서를 주고 초른의 보조정리를 적용하면, 극대인 일차독립 집합이 존재한다. 이 집합이 기저가 됨을 보일 수 있다.
이 정리는 무한차원 벡터공간에서 특히 중요하다. 예를 들어, 실수 위의 모든 실함수들의 벡터공간은 기저를 가진다. 비록 그 기저를 구체적으로 구성할 수는 없지만 기저의 존재성이 보장된다.
(3) 위상수학에서의 예
정리 10.3. (티호노프 정리)
컴팩트 공간들의 임의 곱공간은 곱위상에서 컴팩트이다.
증명 개요 \((X_i)_{i \in I}\)가 컴팩트 공간들의 족이고, \(X = \prod_{i \in I} X_i\)를 곱위상을 갖는 곱공간이라고 하자. \(X\)의 컴팩트성을 보이기 위해 다음 단계를 거친다.
- 극대 필터의 존재(선택공리 사용): \(X\)의 임의의 필터 \(\mathcal{F}\)에 대해, 이를 포함하는 극대 필터(ultrafilter) \(\mathcal{U}\)가 존재한다. 이것은 초른의 보조정리를 적용하여 얻는다.
- 수렴점 구성(선택공리 사용): 극대 필터 \(\mathcal{U}\)에 대해, 각 좌표 \(i \in I\)로의 사영 \(\pi_i(\mathcal{U})\)는 \(X_i\)의 극대 필터가 된다. \(X_i\)가 컴팩트이므로 \(\pi_i(\mathcal{U})\)는 어떤 점 \(x_i \in X_i\)로 수렴한다. 각 \(i \in I\)에 대해 수렴점 \(x_i\)를 선택하여 곱공간의 점 \(x = (x_i)_{i \in I} \in X\)를 구성할 때 선택공리가 사용된다.
- 수렴성 증명: 곱위상의 정의와 극대 필터의 성질을 사용하여 \(\mathcal{U}\)가 \(x\)로 수렴함을 보인다.
- 컴팩트성 결론: 모든 극대 필터가 수렴점을 가지므로 \(X\)는 컴팩트이다.
실제로 티호노프 정리는 선택 공리와 동치임이 알려져 있다.
6. 선택 공리의 역설적 결과
선택 공리로부터 직관에 반하는 결과를 끌어낼 수 있다.
(1) 비가측 집합의 존재
정리 10.4.
실수 구간 \([0,\, 1]\)의 르베그 비가측 부분집합이 존재한다.
증명 개요
- 동치관계 \(\sim\)을 \(x \sim y \,\,\Leftrightarrow\,\, x - y \in \mathbb{Q}\)라고 정의한다.
- 선택 공리를 사용하여 각 동치류에서 대표원소를 하나씩 선택한 집합 \(S\)를 만든다.
- \(S\)를 유리수만큼 평행이동한 집합들 \(\{S + q \mid q \in \mathbb{Q} \cap [-1,\, 1]\}\)을 생각한다.
- 이 집합들이 서로소이고 \([0,\, 1]\)을 덮음을 보인다.
- 만약 \(S\)가 가측이면 측도의 평행이동 불변성과 가산가법성에 모순이 생긴다.
(2) 바나흐-타르스키 역설
정리 10.5.
3차원 단위구를 유한 개의 조각으로 나눈 후, 이 조각들을 회전과 평행이동만으로 재배열하여 같은 크기의 구 두 개를 만들 수 있다.
증명 개요
- 자유군의 분해: 2개의 생성원을 가진 자유군 \(F_2 = \langle a,\, b \rangle\)를 생각한다. 이 군을 다음과 같이 분해할 수 있다.
- \(S_a\) = \(a\)로 시작하는 모든 기약어(reduced word)들의 집합.
- \(S_{a^{-1}}\) = \(a^{-1}\)로 시작하는 모든 기약어들의 집합.
- \(S_b\) = \(b\)로 시작하는 모든 기약어들의 집합.
- \(S_{b^{-1}}\) = \(b^{-1}\)로 시작하는 모든 기약어들의 집합.
- \(\{e\}\) = 항등원소의 집합.
그러면 \(F_2 = S_a \cup S_{a^{-1}} \cup S_b \cup S_{b^{-1}} \cup \{e\}\)이고, \(aS_{a^{-1}} \cup S_a \cup \{e\} = F_2\)이다. - 회전군과 연결: 3차원 회전군 \(SO(3)\)는 자유부분군을 포함한다. 구체적으로, 적절히 선택된 두 회전 \(\rho_1\), \(\rho_2\)가 자유군 \(F_2\)를 생성한다.
- 구의 점들에 작용(선택공리 사용): 단위구 \(S^2\)의 점들을 \(\langle \rho_1,\, \rho_2 \rangle\)의 궤도(orbit)로 분할한다. 각 궤도는 가산무한개의 점을 포함하며, 선택공리를 사용하여 각 궤도에서 대표원소를 하나씩 선택한다.
- 분해 구성: 대표원소들의 집합을 \(D\)라 하자. 자유군의 분해를 이용하여
- \(A_1 = \rho_1 S_{a^{-1}}(D) \cup S_a(D) \cup D\),
- \(A_2 = S_{a^{-1}}(D)\),
- \(B_1 = \rho_2 S_{b^{-1}}(D) \cup S_b(D)\),
- \(B_2 = S_{b^{-1}}(D)\)
라고 정의하면, \(S^2 = A_1 \cup A_2 \cup B_1 \cup B_2\)이다. - 재조립: 다음과 같이 4개의 조각을 회전만으로 재배열하여 두 개의 완전한 구를 만든다.
- \(\rho_1^{-1}(A_1) \cup A_2 = S^2\) (첫 번째 구)
- \(\rho_2^{-1}(B_1) \cup B_2 = S^2\) (두 번째 구)
이 증명에서 궤도의 대표원소를 선택할 때 선택공리가 사용되었다. 구성된 각 조각이 비가측이므로 크기(넓이)가 정의되지 않는다. 이것이 "하나가 둘이 되는" 역설적 결과가 도출되는 이유이다.
7. 선택 공리 없이 증명 가능한 것들
다음 정리는 선택 공리 없이 증명 가능하거나, 선택 공리보다 약한 공리를 사용하여 증명 가능하다.
- 가산 개의 비어있지 않은 집합들의 곱은 비어있지 않다. ('가산 선택 공리'는 ZF에서 증명 불가능하지만 선택 공리보다는 약하다.)
- 유한 개의 비어있지 않은 집합들의 곱은 비어있지 않다.
- 컴팩트 하우스도르프 공간에서 연속함수의 최댓값이 존재한다.
- 유한차원 벡터공간은 기저를 가진다.
8. 선택 공리의 대안
선택 공리보다 약한 형태들도 연구되어 왔다.
- 가산 선택 공리: 가산 개의 비어있지 않은 집합들에 대해서만 선택함수가 존재한다.
- 종속 선택 공리: 특정 조건을 만족시키는 무한 수열의 존재를 보장한다.
- 약한 선택 공리: 유한 집합들의 무한 족에 대해서만 선택함수가 존재한다.
이러한 약한 형태들은 해석학의 많은 정리를 증명하기에 충분하면서도, 바나흐-타르스키 역설 같은 극단적 결과는 피할 수 있게 해준다.