공리적 방법에 의한 추상화

해밀터의 사원수와 같이, 익숙한 연산 법칙 가운데 일부를 포기해도 일관된 대수 체계가 성립할 수 있다면, 수학적 대상을 그 ‘재료’가 아니라 만족해야 할 관계와 법칙으로 규정할 수도 있지 않을까? 해밀턴의 사원수는 교환법칙이 필수 법칙은 아니라는 강력한 사례를 제시했지만, 사원수의 발견에서 곧바로 현대의 공리적 방법이 완성된 것은 아니다.

19세기에는 서로 다른 여러 흐름이 이 질문에 접근했다. 비유클리드 기하학과 그 모형들은 수학적 기하학의 논리적 타당성과 물리적 공간에 대한 적용을 구별하게 했다. 군론에서는 구체적인 치환과 변환을 다루던 연구가 점차 원소와 연산의 법칙을 전면에 내세우는 방향으로 확장되었다. 데데킨트는 수와 아이디얼을 집합과 관계를 통해 구성했고, 파슈, 페아노, 힐베르트 등은 기하학의 공리적 기초를 다시 세웠다. 이 변화는 여러 연구 전통이 합류한 결과였으며, 힐베르트의 1899년 “기하학의 기초”는 그 가운데 특히 영향력 있는 전환점이었다.[GrayFerreiros2025][Sieg2020]

기하학과 물리 공간의 분리

“원론”의 다섯 공준 가운데 다섯 번째인 공준인 ‘평행선 공준’은, 한 직선이 두 직선을 가로지를 때 같은 쪽의 두 내각의 합이 두 직각보다 작으면, 두 직선을 무한히 연장했을 때 그쪽에서 서로 만난다는 내용이다. 오늘날 흔히 쓰는 “한 직선 밖의 한 점을 지나면서 그 직선과 만나지 않는 직선은 정확히 하나 존재한다”라는 문장은 유클리드의 원문이 아니라, 다른 기하학적 전제 아래에서 제5공준과 동치인 플레이페어형 공리다.[EuclidElements][Bonola1912] 제5공준은 다른 공준보다 길고, 멀리 연장한 두 직선의 만남을 요구한다는 점에서 자명성이 약하다고 여겨졌다. 그 때문에 여러 시대의 수학자들은 이것이 나머지 전제들로부터 증명되는 정리가 아닐지 탐구했다.[Bonola1912]

그 중요한 사례가 이탈리아 수학자 지롤라모 사케리(Girolamo Saccheri)의 1733년 저서 “모든 오점에서 해방된 유클리드”(Euclides ab omni naevo vindicatus)이다. 사케리는 밑변의 두 각이 직각이고 두 옆변의 길이가 같은 사각형을 만든 뒤, 나머지 두 각이 직각, 둔각, 예각인 세 가설을 검토했다. 그는 직각 가설만 남기기 위해 다른 가설들에서 모순을 이끌어 내려 했지만, 예각 가설에서는 오늘날 쌍곡기하학의 정리로 인정되는 많은 결과를 얻었다. 마지막에 예각 가설이 ‘직선의 본성에 어긋난다’고 선언했으나, 그것은 앞선 전제에서 정당하게 도출된 모순이 아니었다. 따라서 사케리는 자신이 부정하려 한 기하학의 상당 부분을 전개한 중요한 선구자로 평가된다.[Bonola1912]

19세기에는 가우스(Carl Friedrich Gauss), 로바쳅스키(Nikolai Lobachevsky), 보여이(János Bolyai)가 서로 독립적으로 이 새로운 기하학을 탐구했다. 가우스는 발표하지 않은 연구와 서신에서 이를 논의했고, 로바쳅스키는 1826년에 공개 발표한 뒤 1829–1830년에 러시아어 논문을 출판했다. 보여이의 “공간의 절대과학을 제시하는 부록”은 1831년에 별쇄가 나오고 1832년 아버지의 “Tentamen” 제1권 부록으로 출판되었다.[Torretti2021] 오늘날 쌍곡기하학(hyperbolic geometry)이라고 부르는 이 체계에서는 플레이페어형 공리의 유일성이 성립하지 않는다. ‘평행’을 만나지 않는 직선이라는 넓은 뜻으로 쓰면, 주어진 직선 밖의 한 점을 지나면서 그 직선과 만나지 않는 직선이 무한히 많이 존재한다. 다만 로바쳅스키와 보여이의 역사적 용어에서는 그 가운데 경계를 이루는 두 직선만을 평행선이라 부르고 나머지는 초평행선으로 구별하기도 한다.[Torretti2021]

이들이 제5공준을 부정하고도 풍부한 정리 체계를 전개했다는 사실만으로 현대적 의미의 무모순성이 증명된 것은 아니었다. 이 이론의 논리적 지위를 결정적으로 바꾼 인물이 에우제니오 벨트라미(Eugenio Beltrami)이다. 벨트라미는 1868년 두 논문에서 쌍곡기하학의 점, 직선, 거리, 각을 유클리드적 해석기하와 미분기하의 대상들로 해석하는 모형들을 제시했다. 따라서 쌍곡기하학에서 모순이 유도된다면 그 모형을 구성한 유클리드적 수학에서도 모순이 유도된다. 이것은 절대적 무모순성 증명이 아니라, 배경이 되는 유클리드적 수학이 무모순이면 쌍곡기하학도 무모순이라는 상대적 무모순성 논증이다.[Arcozzi2012]

[벨트라미가 쌍곡평면의 일부를 3차원 유클리드 공간의 의사구면 위에 실현한 모형은 국소적이며, 쌍곡평면 전체를 매끄럽고 완전한 곡면으로 3차원 유클리드 공간에 담은 것은 아니다. 그러나 쌍곡평면 전체의 모형이 클라인이나 푸앵카레에 이르러서야 처음 등장한 것은 아니다. 벨트라미의 1868년 연구에는 원판 내부 전체를 사용하는 사영 모형과 등각 모형이 이미 들어 있다. 클라인은 뒤이어 사영 모형을 케일리의 복비 거리와 연결해 구조를 명료하게 했고, 푸앵카레는 등각 원판과 반평면 모형을 함수론 연구에 강력하게 활용했다.[Arcozzi2012]]

[리만(Bernhard Riemann)은 1854년 괴팅겐 취임자격 강연 “기하학의 기초에 놓인 가설들에 관하여”에서 \(n\)차원의 연장체와 위치에 따라 계수가 달라질 수 있는 무한소 거리식을 논의하여, 일정하지 않은 곡률을 지닌 공간까지 다루는 틀을 제안했다. 이 강연은 그가 사망한 뒤인 1868년에 출판되었다. 다만 일반상대성이론의 시공간은 양의 정부호 리만 다양체가 아니라 시간 방향과 공간 방향의 부호가 다른 로런츠 다양체, 즉 준리만 다양체로 기술된다.[GrayFerreiros2025][Einstein1916]]

이 결과들이 바꾼 것은 특정한 정리 하나만이 아니었다. 비유클리드 기하학과 그 모형들은 서로 다른 기하학들이 수학적으로 정당한 이론으로 성립할 수 있음을 보여주어, 공리에서 연역되는 수학적 기하학과 자연 세계를 기술하기 위해 채택하는 물리적 기하학을 구별할 길을 열었다. 어느 기하학이 실제 공간과 시공간을 가장 잘 기술하는지는 순수 기하학의 공리만으로 결정되지 않는다. 관측과 측정이 필요하지만, 그 결과 역시 자와 시계와 빛의 물리적 거동에 관한 가정과 함께 해석된다.

군, 치환에서 공리로

비슷한 시기에 대수학에서도 대상의 구체적인 형태보다 연산의 구조에 주목하는 변화가 진행되었다. 방정식의 치환, 수론의 합성법칙, 기하학의 변환 등 여러 연구 전통이 19세기 후반에 합류했다.[Kleiner1986]

그 중요한 출발점 가운데 하나는 에바리스트 갈루아(Évariste Galois)이다. 1829년부터 1831년 사이 갈루아는 다항방정식의 해를 사칙연산과 근호를 유한 번 사용하여 나타낼 수 있는지 연구했다. 그는 방정식의 근들에 작용하는 치환 가운데 주어진 계수체에서 알려진 근들의 유리함수 관계를 보존하는 치환들을 살폈고, 이 치환들의 모임에 군(groupe)이라는 말을 사용했다.[Neumann2011]

[갈루아가 군론의 핵심을 1832년 결투 전날 밤 처음 작성했다는 유명한 이야기는 정확하지 않다. 주요 회고록은 1829–1831년에 이미 작성되었다. 1832년 5월 29일 밤 갈루아는 기존 원고를 손질하고 오귀스트 슈발리에에게 유언적 성격의 편지를 썼다. 조제프 리우빌은 이 자료들을 새로 만들어 낸 것이 아니라 검토하고 소개했으며, 1846년에 갈루아의 주요 수학 저작을 출판했다.[Neumann2011]]

1854년 아서 케일리(Arthur Cayley)는 “On the Theory of Groups, as depending on the symbolic equation \(\theta^n=1\)”에서 추상군 개념을 향한 가장 이르고 유명한 시도 가운데 하나를 제시했다. 그는 유한한 연산 기호들의 모임을 생각하고, 항등 연산과 합성, 결합법칙과 닫힘을 중심으로 군을 설명했다. 이 접근은 군을 개별 치환의 표기보다 기호들의 결합 법칙과 곱셈표를 통해 다룰 수 있게 했다는 점에서 중요하다.[Cayley1854]

[케일리의 원래 논문은 유한한 연산 기호들의 합성과 곱셈표를 중심으로 했으며, 결합법칙, 항등원, 역원을 오늘날처럼 독립된 공리 목록으로 제시하지 않았다. 오늘날의 정의에 가까운 공리화는 크로네커, 베버, 디크 등의 작업을 거치며 점차 정착했다.

케일리는 같은 논문에서 유한군의 원소들을 그 군 자체에 작용하는 치환으로 나타내는 대응도 제시했다. 현대의 케일리 정리는 이 생각을 유한군과 무한군 모두에 적용되는 형태로 정식화한다. 이 글의 후반부에서 그 현대적 형태를 증명할 것이다.[Cayley1854][Milne2025]

1872년 펠릭스 클라인(Felix Klein)은 에를랑겐 대학 교수 취임을 위해 “Vergleichende Betrachtungen über neuere geometrische Forschungen”이라는 프로그램 문서를 작성해 배포했다. 이 글은 실제 취임 강연에서 낭독되지는 않았지만 훗날 ‘에를랑겐 프로그램(Erlangen program)’으로 알려졌다. 클라인이 제시한 일반 문제는 하나의 공간과 그 위에 작용하는 변환군이 주어졌을 때, 그 변환들 아래에서 변하지 않는 도형의 성질을 연구하는 것이었다.[Klein1872]

여기서 사용된 군은 원소의 종류와 무관한 현대의 추상 공리군이라기보다 공간에 구체적으로 작용하는 변환들의 군이었다. 따라서 기하학을 결정하는 것은 추상군 하나만이 아니라 공간과 그 위의 군 작용이다. 클라인의 관점은 여러 고전 기하학을 변환군과 불변량을 통해 비교하고 조직하는 강력한 틀을 제공했다.[GrayFerreiros2025][Klein1872]

현대적인 분류 관례를 사용해 이 생각을 예시하면 다음과 같다. 변환군이 커질수록 일반적으로 보존되는 성질은 줄어든다.

• 유클리드 기하학: 평면의 등거리변환 아래에서 길이와 각도, 결합 관계가 보존된다.
• 아핀 기하학: 아핀변환 아래에서 길이와 각도는 일반적으로 보존되지 않지만, 공선성, 평행성 및 같은 직선 위 선분들의 비는 보존된다.
• 사영 기하학: 사영변환 아래에서 평행성은 일반적으로 보존되지 않지만, 점과 직선의 결합 관계 및 한 직선 위 네 점의 복비는 보존된다.

적절한 사영적 틀에서 유클리드 등거리변환군은 아핀변환군의 부분군이고, 아핀변환군은 사영변환군의 부분군으로 볼 수 있다. 이 포함 관계는 여러 고전 기하학 사이의 관계를 체계적으로 비교하게 해 준다.

[케일리는 1859년 고정된 이차곡선 또는 이차곡면을 ‘절대자(absolute)’로 삼고 사영기하학의 복비를 이용해 거리를 정의하는 사영적 계량을 제안했다. 클라인은 1871년과 1873년의 논문에서 이 구상을 발전시켜, 실수 이차곡선 내부에서는 쌍곡기하학을, 허수 절대자를 사용한 경우에는 타원기하학을 사영적으로 해석했다. 절대자를 보존하는 사영변환들은 이 계량의 등거리변환을 이룬다. 오늘날 이를 케일리–클라인 계량이라고 부른다. 이 결과는 일정 곡률의 고전 기하학들을 사영기하학 안에서 연결했지만, 모든 기하학을 빠짐없이 분류한 것은 아니다.[Cayley1859][ACampoPapadopoulos2015]]

이 사례가 보여주는 추상화의 힘은 새로운 대상을 만드는 데만 있지 않다. 변환군과 불변량이라는 공통 언어는 서로 달라 보이던 기하학들을 비교하고, 한 기하학의 구조가 다른 기하학의 구조에 어떻게 포함되는지 설명하는 도구가 되었다.

데데킨트, 관계로 규정되는 수

기하학과 군론에서 이러한 변화가 진행되는 동안, 정수론과 해석학의 기초에서도 대상을 집합과 관계로 규정하는 작업이 이루어지고 있었다.

독일의 수학자 리하르트 데데킨트(Richard Dedekind)는 대수적 정수, 즉 최고차항의 계수가 \(1\)인 정수 계수 다항식의 근이 되는 복소수를 연구했다. 일반적인 정수의 세계에서는 소인수분해가 유일하지만, 일부 대수적 수체의 정수환에서는 원소의 기약분해가 유일하지 않을 수 있다.[Dedekind1871][Reck2025] 예를 들어 \[ \mathbb Z \left[ \sqrt{-5} \right] = \{a+b\sqrt{-5}\,:\,a,b\in\mathbb Z\} \] 에서 \[ 6=2\cdot3= \left( 1+\sqrt{-5} \right) \left( 1-\sqrt{-5} \right) \] 라는 서로 다른 두 기약분해가 존재한다. 노름 \(N(a+b\sqrt{-5})=a^2+5b^2\)을 사용하면 \(2\), \(3\), \(1+\sqrt{-5}\), \(1-\sqrt{-5}\)가 모두 기약원소이며 서로 동반원 관계가 아니라는 사실을 확인할 수 있다.[ChapmanEtAl2019]

에른스트 쿠머(Ernst Kummer)는 먼저 원분체의 정수환에서 분해의 유일성을 회복하기 위해 ‘이상수(ideal number)’를 도입했다. 이는 단순한 임시변통이라기보다 깊은 계산 이론이었지만, 이상수를 보통의 대수적 정수와 같은 명시적인 대상으로 다루기 어렵다는 문제가 있었다. 데데킨트는 1871년 디리클레의 정수론 강의록 제2판 부록에서 아이디얼 이론을 처음 제시하고 이후 여러 차례 수정했다.[Dedekind1871][Reck2025]

현대적인 가환환 \(R\)에서 아이디얼(ideal) \(I\)는 덧셈에 관해 부분군을 이루고, 모든 \(r\in R\)와 \(x\in I\)에 대해 \(rx\in I\)를 만족하는 부분집합이다. 즉 덧셈과 덧셈의 역원에 대해 닫혀 있으며 환의 원소를 곱하면 그 안에 흡수된다. 수체의 정수환처럼 데데킨트 정역이 되는 환에서는 0이 아닌 고유 아이디얼이 소아이디얼들의 곱으로 유일하게 분해된다. 원소의 유일분해가 실패한 곳에서도 아이디얼의 유일분해가 회복되는 것이다.[Dedekind1871]

1872년 데데킨트는 실수를 엄밀하게 구성하는 문제에도 집합론적인 태도로 접근했다. 한 가지 표준적 표현에 따르면 데데킨트 절단(Dedekind cut)은 유리수 집합 \(\mathbb Q\)의 공집합도 전체 집합도 아닌 부분집합 \(A\)로서, 아래로 닫혀 있고 가장 큰 원소를 갖지 않는다. 각 절단을 하나의 실수로 보고 순서와 연산을 정의하면 완비순서체가 구성된다. 코시 수열의 동치류를 이용한 구성과 절단 구성은 원소의 재료가 같지는 않지만, 둘 다 완비순서체를 이루며 그 구조는 동형이라는 의미에서 동일한 실수 체계에 도달한다.[Dedekind1901]

데데킨트는 1888년 “수란 무엇이고 무엇이어야 하는가”(Was sind und was sollen die Zahlen?)에서 “수는 인간 정신의 자유로운 창조물이다”라고 썼다. 데데킨트의 직접적인 목표는 산술을 기하학적 직관과 독립시키고, 자연수를 단순 무한계와 사상의 관계를 통해 논리적으로 구성하는 것이었다.

힐베르트, 공리로 구조를 규정하다

데데킨트의 작업이 수와 아이디얼을 관계와 집합을 통해 구성했다면, 다비트 힐베르트(David Hilbert)의 1899년 “기하학의 기초”(Grundlagen der Geometrie)는 기하학의 기본 대상과 관계를 공리 체계 안에서 조직했다.

힐베르트는 점, 직선, 평면과 그 관계를 위한 공리들을 결합, 순서, 합동, 평행, 연속의 여러 군으로 체계화하고, 그 공리들의 무모순성과 독립성 등을 연구했다.[Hilbert1902] 판본도 구별할 필요가 있다. 1899년 초판의 연속성 군에는 아르키메데스 공리만 있었고, 완전성 공리는 1900년 프랑스어판에서 추가되었다. 유클리드의 명제 1에서 두 원이 만난다고 추론하는 데 추가적인 연속성 원리가 필요하다는 것은 고대 증명에 숨어 있는 도형적 전제의 대표적인 예다.

힐베르트는 점, 직선, 평면을 먼저 일상적 또는 물리적으로 정의한 뒤 공리를 확인하지 않았다. 기본 대상들의 세 체계와 ‘위에 있다’, ‘사이에 있다’, ‘합동이다’ 같은 기본 관계를 두고, 이들이 만족해야 할 공리를 제시했다. 이런 기초 표현을 오늘날 흔히 무정의 용어(undefined term)라고 부른다. 공리들은 한 대상의 재료를 지정하기보다 가능한 해석들이 공유해야 할 관계 구조를 규정한다. 이러한 측면을 공리에 의한 암묵적 정의(implicit definition)라고 설명할 수 있다.[Hilbert1902][Blanchette2024]

이와 관련하여 힐베르트가 “점, 직선, 평면 대신 책상, 의자, 맥주잔이라고 말할 수 있어야 한다”는 취지로 말했다는 유명한 일화가 있다. 이 문장은 힐베르트의 “기하학의 기초”에 실린 직접 인용문이 아니다. 그의 제자 오토 블루멘탈(Otto Blumenthal)은 1935년 전기적 글의 p. 403에서, 힐베르트가 1891년 베를린 역 대합실에서 아르투어 쇤플리스와 에른스트 쾨터와 기하학의 기초를 논의하며 이런 취지로 말했다고 회고한다. 이 일화의 요점은, 일상 사물을 실제 공간에 특정하게 배치한다고 해서 그대로 힐베르트 기하학이 되지는 않는다는 것이다. 모형은 대상들의 집합과 그 위에서 해석된 관계들로 이루어진다. 어떤 집합과 관계가 공리를 모두 참으로 만들면 그것은 그 공리계의 모형이다. 서로 전혀 다른 재료로 만든 모형들도 같은 공리 구조를 가질 수 있다.

프레게와 힐베르트의 논쟁

공리를 사용하여 대상을 암묵적으로 정의한다는 새로운 관점을 향해 가장 날카롭게 반응한 사람 가운데 하나가 논리주의자 고틀로프 프레게(Gottlob Frege)였다. 프레게와 힐베르트는 1899년 12월부터 1900년 9월까지 서신을 주고받았다. 프레게에게 공리는 이미 의미가 정해진 표현들로 이루어진 참인 사상이었다. 그는 같은 문장이 서로 다른 해석을 받는 방식, 그리고 공리계의 무모순성을 통해 그 공리를 만족하는 대상의 존재를 보인다는 힐베르트의 설명에 반대했다.[Blanchette2024]

힐베르트는 공리들을 함께 해석될 수 있는 관계 체계로 보았고, 적절한 수학적 맥락에서는 무모순성이 존재를 보장한다는 입장을 취했다. 즉 프레게와 힐베르트의 논쟁은 ‘무모순성’과 ‘존재’의 관계, 공리의 의미와 재해석 가능성을 둘러싼 역사적 논쟁이었다.[Hilbert1902][Blanchette2024] [두 사람의 편지는 프레게와 힐베르트의 문서에 보존되었고, 영어로는 “Gottlob Frege: Philosophical and Mathematical Correspondence”의 ‘The Frege–Hilbert Correspondence’, pp. 33–51에 수록되어 있다. 오늘날 이 논쟁은 공리, 모형, 정의 및 수학적 구조의 철학을 논의할 때 핵심 자료로 연구된다.[Blanchette2024][FregeHilbert1980]]

추상 군과 케일리 정리

이제 역사적 서술에서 현대 수학으로 시선을 옮겨, 공리적 정의가 실제로 어떻게 작동하는지 군을 통해 확인해 보자. 다음 정의와 케일리 정리는 현대적인 형태이며, 케일리의 1854년 문구를 그대로 옮긴 것이 아니다.[Neumann1999][Milne2025]

정수 전체의 집합 \(\mathbb Z\)는 덧셈에 대하여 군을 이룬다. 항등원은 \(0\)이고 \(n\)의 역원은 \(-n\)이다. 0이 아닌 유리수의 집합 \(\mathbb Q^\times\)는 곱셈에 대하여 군을 이룬다. 정사각형을 자기 자신에 포개는 회전과 반사들의 집합도 함수의 합성에 대하여 군을 이룬다. 원소의 재료는 수와 기하학적 변환으로 서로 다르지만, 모두 같은 군 공리를 만족한다. 따라서 군 공리만으로 증명한 정리는 이 사례들 모두에 적용된다.

두 군 \(G,H\) 사이의 함수 \(\varphi:G\to H\)가 모든 \(g,h\in G\)에 대하여 \[ \varphi(gh)=\varphi(g)\varphi(h) \] 를 만족하면 \(\varphi\)를 준동형사상(homomorphism)이라고 부른다. 준동형사상이 전단사이면 동형사상(isomorphism)이라고 부르며, 이때 “\(G\)와 \(H\)는 동형이다(isomorphic)”라고 말한다. 또한 \(G\)의 부분집합 \(K\)가 \(G\)의 연산으로 군을 이루면 \(K\)를 \(G\)의 부분군(subgroup)이라고 부른다.

집합 \(X\)에서 \(X\)로 가는 모든 전단사함수를 \(X\)의 치환(permutation)이라고 부른다. 이 치환들의 집합에 함수의 합성을 연산으로 주면 군이 되며, 이를 \(X\) 위의 대칭군(symmetric group) \(\mathrm{Sym}(X)\)라고 쓴다. [자기 자신으로 보내는 항등함수가 항등원이고, 모든 전단사함수는 역함수를 가지며, 함수의 합성은 결합법칙을 만족한다. 따라서 \(\mathrm{Sym}(X)\)는 함수의 합성에 대하여 군을 이룬다.] \(\mathrm{Sym}(X)\)의 부분군을 \(X\) 위의 치환군(permutation group)이라고 부른다.

정리의 증명을 살펴보자. 각 \(g\in G\)에 대하여 함수 \(\lambda_g:G\to G\)를 \[ \lambda_g(x)=gx\quad(x\in G) \] 로 정의하자. 그러면 \[ \lambda_{g^{-1}}(\lambda_g(x))=g^{-1}(gx)=(g^{-1}g)x=x \] 이고 반대 순서의 합성도 항등함수이므로 \(\lambda_{g^{-1}}\)은 \(\lambda_g\)의 역함수다. 따라서 \(\lambda_g\)는 전단사이고 \(\lambda_g\in\mathrm{Sym}(G)\)이다. 이제 \[ \varphi:G\longrightarrow\mathrm{Sym}(G),\quad \varphi(g)=\lambda_g \] 로 정의한다. 모든 \(g,h,x\in G\)에 대하여 \[ \lambda_{gh}(x)=(gh)x=g(hx)=\lambda_g(\lambda_h(x)) \] 이므로 \(\lambda_{gh}=\lambda_g\circ\lambda_h\), 즉 \[ \varphi(gh)=\varphi(g)\circ\varphi(h) \] 이다. 따라서 \(\varphi\)는 준동형사상이다. [등식 \((gh)x=g(hx)\)는 군의 결합법칙을 사용한 바로 그 단계다.]

또 \(\varphi(g)=\varphi(h)\)라고 하면 \(\lambda_g=\lambda_h\)이다. 항등원 \(e\)에 두 함수를 적용하면 \[ g=\lambda_g(e)=\lambda_h(e)=h \] 이므로 \(\varphi\)는 단사다. 공역을 상 \(\varphi(G)\)로 제한한 함수 \[ \widetilde{\varphi}:G\longrightarrow\varphi(G) \] 는 단사이면서 정의상 전사인 준동형사상이므로 동형사상이다. 또한 \(\varphi(G)\)는 합성에 대해 닫혀 있고 \[ \varphi(e)=\lambda_e,\quad \varphi(g)^{-1}=\varphi(g^{-1}) \] 이므로 \(\mathrm{Sym}(G)\)의 부분군이다. 따라서 \[ G\cong\varphi(G)\leq\mathrm{Sym}(G) \] 이다.

[같은 결론은 제1동형정리 \(G/\ker\varphi\cong\varphi(G)\)와 \(\ker\varphi=\{e\}\)를 이용해서도 얻을 수 있다. 그러나 여기서는 \(\widetilde{\varphi}\)가 전단사 준동형임을 직접 확인하는 것만으로 충분하다.[Milne2025]]

케일리 정리는 모든 군을 그 기저집합 위의 치환으로 충실하게 표현할 수 있음을 말한다. 위의 치환들은 군 \(G\)의 원소들 자체를 왼쪽 곱셈으로 옮기는 치환이다. \(G\)와 \(\varphi(G)\)의 원소는 서로 다른 종류일 수 있지만 군 연산의 관점에서는 동형이다.

추상적 정의의 장점은 특정한 표현을 선택하지 않은 채 모든 군에 공통되는 결과를 한 번에 증명할 수 있다는 데 있다. 군 공리만을 사용한 증명은 정수의 덧셈군, 정사각형의 대칭군, 그 밖의 모든 군에 적용된다. 다만 각 사례가 실제로 그 공리들을 만족한다는 확인은 별도로 필요하며, 공리에서 얻는 결론은 오직 그 공리와 논리적 추론이 보장하는 범위에서만 성립한다.

[하나의 공리적 증명이 동일한 공리를 만족하는 모든 사례에 적용된다는 효율성은 이 연재에서 되풀이하여 등장할 핵심 주제다. 다만 그러한 보편성은 각 사례가 실제로 해당 공리들을 만족한다는 사실을 먼저 확인한 뒤에 얻어진다.]

대상의 정체를 버리고 공리가 남다

지금까지 살펴본 변화는 하나의 단선적인 계보로 환원되지 않는다. 비유클리드 기하학과 벨트라미의 모형은 기하학의 상대적 무모순성과 다양한 해석을 보여주었다. 갈루아, 케일리와 여러 대수학자의 연구는 치환과 변환에서 연산 구조의 추상화로 나아갔다. 클라인은 공간에 작용하는 변환군과 불변량으로 여러 고전 기하학을 비교했다. 데데킨트는 아이디얼과 실수를 명확한 집합적 대상으로 구성했고, 힐베르트는 기하학의 기본 대상과 관계를 공리 체계로 규정했다.[GrayFerreiros2025][Kleiner1986][Reck2025]

수학적 대상과 관계가 만족해야 할 명제들을 명시하고 그 결과를 연역적으로 전개하는 일을 공리화(axiomatization)라고 한다. 공리가 기본 용어들의 가능한 해석을 관계적으로 규정한다는 점은 암묵적 정의라고 설명할 수 있다.

후기 힐베르트 프로그램은 수학을 형식화하고, 유한주의적이라고 여긴 방법으로 그 형식 체계의 무모순성을 증명하려는 별도의 증명론적 기획이었다.[Sieg2020][Zach2023] 괴델의 제2불완전성 정리는 일관되고 효과적으로 공리화되며 충분한 산술을 포함하는 이론은 통상적인 조건 아래에서 자기 자신의 무모순성을 그 이론 안에서 증명할 수 없음을 보였다.

공리적 추상화는 대상의 구체적인 표현에서 증명을 분리해, 같은 구조를 지닌 여러 사례에 한꺼번에 적용할 수 있게 한다. 공리적 추상화의 과정에는 공리계의 해석, 모형의 존재, 무모순성 증명의 배경 이론, 그리고 공리들이 실제 사례에 성립하는지에 대한 검토가 함께 필요하다. 이러한 제한까지 포함할 때 공리화는 현대 수학의 가장 강력한 추상화 방법 가운데 하나가 된다.

그런데 군의 공리, 환의 공리, 체의 공리, 위상공간의 공리처럼 서로 다른 이론의 구조들을 더 높은 관점에서 비교하면 무엇을 볼 수 있을까? 대상 내부의 원소보다 대상들 사이의 사상에 주목할 때 나타나는 새로운 추상화는 5부에서 살펴보기로 한다.

참고문헌

• [EuclidElements] Euclid. Euclid’s Elements of Geometry, Book I, Postulate 5. R. Fitzpatrick 편역. PDF.
• [Bonola1912] Bonola, R. (1912). Non-Euclidean Geometry: A Critical and Historical Study of Its Development. H. S. Carslaw 번역. Internet Archive.
• [Torretti2021] Torretti, R. (2021). “Nineteenth Century Geometry.” The Stanford Encyclopedia of Philosophy (Fall 2021 ed.). https://plato.stanford.edu/archives/fall2021/entries/geometry-19th/.
• [Arcozzi2012] Arcozzi, N. (2012). “Beltrami’s Models of Non-Euclidean Geometry.” In Mathematicians in Bologna 1861–1960, 1–30. https://doi.org/10.1007/978-3-0348-0227-7_1.
• [Riemann1854] Riemann, B. (1854/1868). “On the Hypotheses which Lie at the Bases of Geometry.” W. K. Clifford 번역. EMIS PDF.
• [GrayFerreiros2025] Gray, J., & Ferreirós, J. (2025). “Epistemology of Geometry.” The Stanford Encyclopedia of Philosophy (Winter 2025 ed.). https://plato.stanford.edu/archives/win2025/entries/epistemology-geometry/.
• [Neumann2011] Neumann, P. M. (2011). The Mathematical Writings of Évariste Galois. European Mathematical Society. https://doi.org/10.4171/104.
• [Kleiner1986] Kleiner, I. (1986). “The Evolution of Group Theory: A Brief Survey.” Mathematics Magazine, 59(4), 195–215. https://doi.org/10.1080/0025570X.1986.11977247.
• [Cayley1854] Cayley, A. (1854). “On the Theory of Groups, as Depending on the Symbolic Equation \(\theta^n=1\).” Philosophical Magazine, series 4, 7, 40–47. https://doi.org/10.1080/14786445408647421.
• [Neumann1999] Neumann, P. M. (1999). “What Groups Were: A Study of the Development of the Axiomatics of Group Theory.” Bulletin of the Australian Mathematical Society, 60(2), 285–301. https://doi.org/10.1017/S0004972700036406.
• [Klein1872] Klein, F. (1872/1893). “A Comparative Review of Recent Researches in Geometry.” M. W. Haskell 번역. arXiv:0807.3161.
• [Cayley1859] Cayley, A. (1859). “A Sixth Memoir upon Quantics.” Philosophical Transactions of the Royal Society of London, 149, 61–90. https://doi.org/10.1098/rstl.1859.0004.
• [ACampoPapadopoulos2015] A’Campo, N., & Papadopoulos, A. (2015). “On Klein’s So-called Non-Euclidean Geometry.” In Sophus Lie and Felix Klein: The Erlangen Program and Its Impact in Mathematics and Physics. arXiv:1406.7309.
• [Dedekind1871] Dedekind, R. (1871/2004). “Dedekind’s 1871 Version of the Theory of Ideals.” J. Avigad 영어 번역 및 주석. Carnegie Mellon University Technical Report CMU-PHIL-162. PDF.
• [ChapmanEtAl2019] Chapman, S. T., Gotti, F., & Gotti, M. (2019). “How Do Elements Really Factor in \(\mathbb Z[\sqrt{-5}]\)?” In Advances in Commutative Algebra, 171–195. arXiv:1711.10842.
• [Dedekind1901] Dedekind, R. (1901). Essays on the Theory of Numbers. W. W. Beman 번역. “Continuity and Irrational Numbers” 및 “The Nature and Meaning of Numbers” 수록. Project Gutenberg.
• [Reck2025] Reck, E. (2025). “Dedekind’s Contributions to the Foundations of Mathematics.” The Stanford Encyclopedia of Philosophy. https://plato.stanford.edu/entries/dedekind-foundations/.
• [Hilbert1902] Hilbert, D. (1902). The Foundations of Geometry. E. J. Townsend 번역. PDF.
• [AvigadEtAl2009] Avigad, J., Dean, E., & Mumma, J. (2009). “A Formal System for Euclid’s Elements.” The Review of Symbolic Logic, 2(4), 700–768. https://doi.org/10.1017/S1755020309990098.
• [Blumenthal1935] Blumenthal, O. (1935). “Lebensgeschichte von David Hilbert.” In D. Hilbert, Gesammelte Abhandlungen, Bd. III, 388–429. Berlin: Julius Springer. EuDML.
• [Blanchette2024] Blanchette, P. (2024). “The Frege–Hilbert Controversy.” The Stanford Encyclopedia of Philosophy (Spring 2024 ed.). https://plato.stanford.edu/archives/spr2024/entries/frege-hilbert/.
• [Milne2025] Milne, J. S. (2025). Group Theory, v4.01. PDF.
• [Sieg2020] Sieg, W. (2020). “The Ways of Hilbert’s Axiomatics: Structural and Formal.” In E. Reck & G. Schiemer (Eds.), The Prehistory of Mathematical Structuralism, 142–165. Oxford University Press. https://doi.org/10.1093/oso/9780190641221.003.0006.
• [Zach2023] Zach, R. (2023). “Hilbert’s Program.” The Stanford Encyclopedia of Philosophy (Fall 2023 ed.). https://plato.stanford.edu/archives/fall2023/entries/hilbert-program/.
• [Raatikainen2021] Raatikainen, P. (2021). “Gödel’s Incompleteness Theorems.” The Stanford Encyclopedia of Philosophy (Spring 2021 ed.). https://plato.stanford.edu/archives/spr2021/entries/goedel-incompleteness/.
• [FregeHilbert1980] Frege, G., & Hilbert, D. (1980). “The Frege–Hilbert Correspondence.” In G. Gabriel et al. (Eds.), B. McGuinness (English ed.), & H. Kaal (Trans.), Gottlob Frege: Philosophical and Mathematical Correspondence, 33–51. Blackwell / University of Chicago Press. https://philpapers.org/rec/FRETFC.
• [Einstein1916] Einstein, A. (1916). “Die Grundlage der allgemeinen Relativitätstheorie.” Annalen der Physik, 49, 769–822. https://doi.org/10.1002/andp.19163540702.

저작권

이슬비, 2026. designeralice＠daum.net.