수학적 추상화의 기본 개념

by I Seul Bee

일상어에서 ‘추상적’이라는 말은 대체로 긍정적인 의미로 쓰이지 않는다. 설명이 추상적이라는 말은 대개 모호해서 알아듣기 어렵다는 불평을 뜻하며, 으레 구체적인 예를 들어 달라는 요청이 뒤따른다.

수학에서는 사정이 다르다. 추상대수학의 군, 추상 벡터공간, 위상공간의 정의는 엄밀하고 명료한 문장으로 기술된다. 공리는 대개 특정 대상 하나를 유일하게 정하는 것이 아니라, 어떤 구조가 그 개념의 사례가 되기 위해 만족해야 할 조건을 명시한다. 같은 공리계를 만족하는 서로 다른 구조들이 존재할 수 있지만, 무엇을 가정하고 무엇을 증명하는지는 분명해진다. 수학자가 어떤 개념을 추상화했다고 말할 때, 그것은 개념을 모호하게 만들었다는 뜻이 아니라 관련된 구조와 성질을 명확히 드러냈다는 뜻이다. 동일한 단어가 일상에서는 모호함을, 수학에서는 정교한 개념 형성을 가리키는 셈이다.

이 연재는 이러한 차이점에서 출발한다. 수학적 추상화란 어떠한 ‘조작’이며, 이 조작은 어떻게 수학을 엄밀하게 만드는가? 나아가 수학자들은 언제부터 자신이 이러한 조작을 수행하고 있음을 자각했는가? 이 글에서는 추상화의 뜻을 정의하고, 그 조작이 실제로 수행되는 방식 중 하나를 수학의 정리와 증명을 통해 살펴본다.

추상과 사상

우선 단어의 어원부터 살펴보자. 영어 단어 ‘abstract’는 라틴어 ‘abstractus’(동사 ‘abstrahere’의 과거분사)에서 왔으며, ‘abstrahere’는 ‘~로부터 떨어져’를 뜻하는 ‘ab-/abs-’와 ‘끌다’를 뜻하는 ‘trahere’의 결합이다[MerriamWebsterND]. 아리스토텔레스는 수학적 대상을 논하면서 ‘제거에 의해’ 또는 ‘제거 속에서’를 뜻하는 ‘아파이레시스(aphairesis)’ 계열의 표현을 사용했다[Mendell2016]. 그의 설명에서 수학자는 감각적 사물과 별도로 존재하는 수나 도형을 만들어 내는 것이 아니라, 감각적 사물을 그것의 감각적, 운동적 측면이 아닌 양과 연속성의 측면에서 고찰하며 무게, 열, 운동 등의 성질을 고려에서 제외한다[Aristotle1998]. 이는 후대 서양 철학의 추상론에 큰 영향을 준 고전적 출발점이며, 이에 대한 본격적인 논의는 2부에서 다룬다.

한자어도 이와 비슷한 이미지를 담고 있다. 추상(抽象)은 여러 대상이나 표상에서 공통된 성질을 뽑아내어 개념을 구성하는 작용을 뜻하며[KotobankChusho], 철학에서 이와 짝을 이루어 쓰이는 사상(捨象)은 그 과정에서 다른 성질이나 측면을 버리고 고려하지 않는 일을 가리킨다[KotobankShasho]. 이 두 표현은 별개의 조작이라기보다 하나의 선택 과정에서 서로 맞물리는 두 측면으로 볼 수 있다. 칠판에 그린 삼각형에는 크기와 위치가 정해져 있고, 선의 굵기와 분필의 색상도 존재한다. 여기서 ‘세 선분으로 둘러싸인 도형’이라는 성질에 주목하고 나머지를 고려에서 제외할 때 일반적인 ‘삼각형’의 개념으로 나아갈 수 있다. 무엇을 취할지 정하는 일은 곧 무엇을 고려하지 않을지 정하는 일과 연결되며, 이 점은 이 연재 전반에 걸쳐 자주 등장할 것이다.

추상화의 세 가지 방식

이 연재에서 추상화(abstraction)란 다음과 같은 조작을 의미한다. 하나 또는 여러 대상에서 특정한 성질만을 추출하고 나머지 성질은 배제하여, 오직 추출된 성질로만 규정되는 새로운 개념이나 대상을 형성하는 조작이다. 수학에서 이 조작은 크게 세 가지 방식으로 수행된다.

  • 첫 번째는 ‘개념 형성’으로서의 추상화이다. 여러 사례에서 공통된 성질을 추출하여 하나의 개념으로 묶는 방식이다. 사과 다섯 개, 양 다섯 마리, 손가락 다섯 개에서 지칭하는 구체적인 대상을 고려에서 제외하면 ‘수 5’라는 개념만 남는다. 이는 인류가 수행해 온 가장 원초적인 형태의 추상화 가운데 하나이며, 수학교육 연구에서도 중요한 관점으로 다루어진다[MitchelmoreWhite2007]. 이 방식의 역사적 배경은 2부에서, 이와 관련된 학습의 문제는 9부에서 다루기로 한다.
  • 두 번째는 ‘동치류를 사용한 정의’이다. 대상들 사이에 성립하는 관계에서 출발하여, 그 관계로 묶인 부류 하나하나를 새로운 대상으로 취급하는 방식이다. 이 방식은 본문의 후반부에서 자세히 살펴볼 것이다.
  • 세 번째는 ‘공리화’를 사용한 추상화이다. 대상이 만족시켜야 할 성질의 목록, 즉 공리(axiom)를 제시하고, 그 공리계를 만족시키는 모든 수학적 대상을 포괄하여 정의하는 방식이다. 군, 벡터공간, 위상공간 등이 이러한 방식으로 정의된다. 공리화는 19세기 말, 특히 힐베르트가 1899년에 제시한 기하학의 공리화를 거치며 현대적인 형태를 갖추었고, 20세기 수학의 주요 방법론이 되었다[Zach2023]. 자세한 내용은 4부에서 상세히 살펴볼 것이다.

이 세 가지 방식은 서로 긴밀하게 연결되어 있다. 첫 번째가 추상화에 대한 직관적인 서술이라면, 두 번째와 세 번째는 이를 수학적으로 더 정교하게 다듬은 기법이다.

일반화, 이상화, 형식화

추상화와 혼동하기 쉬운 몇 가지 개념이 있다.

  • 첫째, 일반화(generalization)는 명제나 정리의 적용 범위를 더 넓은 대상군으로 확장하는 과정이라고 하자. 예를 들어 평면 \(\mathbb R^2\)의 벡터에 대하여 증명된 정리를 \(n\)차원 공간 \(\mathbb R^n\)의 벡터로 확장하는 것은 일반화의 전형적인 사례다. 한편 \(\mathbb R^n\)에서 임의의 체 위의 추상 벡터공간으로 넘어갈 때는 좌표라는 구체적인 표현을 배제하고 덧셈과 스칼라배의 공리적 구조에 주목한다. 그 결과 다항식, 연속함수, 동차 선형 미분방정식의 해공간처럼 처음부터 좌표로 제시되지 않은 대상도 벡터공간으로 다룰 수 있다. 이 연재에서는 주로 ‘적용 범위의 확장’과 ‘표현에서 구조를 분리하는 일’ 가운데 어느 측면을 강조하는지에 따라 두 말을 구분해 사용할 것이다. 벡터공간에 관한 자세한 이야기는 6부에서 살펴본다.
  • 둘째, 이상화(idealization)는 현실의 복잡한 대상을 다루기 위해 실제 대상과 의도적으로 어긋나는 가정을 도입하는 과정이라고 하자. 물리학에서 가정하는 마찰 없는 평면, 부피가 없는 질점, 전기 저항이 없는 도선 등이 이에 속한다. 한 전형적인 구분에 따르면 추상화는 대상의 세부 측면을 고려에서 제외하는 데 초점을 두고, 이상화는 실제와 맞지 않는 성질을 도입하는 데 초점을 둔다.
  • 셋째, 형식화(formalization)는 명제와 추론을 명시적인 형식언어, 공리, 추론 규칙으로 표현하여 각 증명 단계가 정해진 규칙을 따르는지를 구문적으로 검사할 수 있게 하는 과정이다[ShapiroKouriKissel2026]. 형식화는 공리화와 밀접하게 연관되어 있으나 동일한 개념은 아니다. 이 두 개념의 엄밀한 구분은 향후 공리적 방법을 다룰 때 다시 논의할 예정이며, 추상화를 포함한 네 가지 개념의 체계적인 정리는 연재의 마지막 글인 11부에서 마무리할 것이다.

동치류를 사용한 정의

이제 두 번째 방식인 ‘동치류를 사용한 정의’를 자세히 살펴보자. 출발점으로 다음과 같은 질문을 던져 볼 수 있다. “직선의 방향이란 무엇인가?”

직선의 방향은 기준축에 대한 각으로 나타낼 수 있지만, 그 각도 값은 어떤 기준축을 선택하느냐에 의존한다. 또한 화살표는 방향을 나타내는 하나의 구체적인 대표물이지 방향 그 자체는 아니다. 프레게(Gottlob Frege)는 『산술의 기초』(Die Grundlagen der Arithmetik)에서 방향의 고립된 ‘본질’을 먼저 정의하는 대신, 두 직선이 언제 같은 방향을 갖는지를 출발점으로 삼았다[Frege1884]. 직선 \(a\)의 방향을 \(\mathrm{dir}(a)\)라고 쓰면, \[ \mathrm{dir}(a)=\mathrm{dir}(b)\quad\Longleftrightarrow\quad a\parallel b \] 라는 동일성 조건을 생각할 수 있다. 이하에서는 \(\mathcal L\)을 고정된 유클리드 평면에 놓인 직선들의 집합이라 하고, \(a\parallel b\)는 두 직선이 일치하거나 통상적인 의미에서 평행하다는 뜻으로 사용한다. 단, 여기서 어떤 직선은 항상 자기 자신과 평행하다고 약속한다. 이 조건이 전제되어야 후술할 ‘반사성’이 성립한다.

프레게는 먼저 위 쌍조건문을 ‘방향’이라는 표현의 문맥적 정의(contextual definition)로 삼을 수 있는지 검토했다[Frege1884]. 이 원리는 두 방향이 언제 같은지는 알려 주지만, 방향 표현과 전혀 다른 종류의 표현 사이의 동일성까지 결정하지는 못한다. 예컨대 ‘지구축의 방향이 영국과 같은가’와 같은 문장은 이 원리만으로 참인지 거짓인지 판정되지 않는다. 프레게는 이러한 문제가 정의의 불완전성을 드러낸다고 보았다[Frege1884].

이에 프레게는 직선 \(a\)의 방향을 ‘\(a\)와 평행한 직선’이라는 개념의 외연으로 명시적으로 정의했다[Frege1884]. 이를 현대 집합론의 언어로 나타내면 다음과 같다. \[ \mathrm{dir}(a):=[a]_{\parallel}=\{b\in\mathcal L:b\parallel a\}. \] 이제 방향은 \(\mathcal L\)의 부분집합으로 주어지므로, 두 방향의 동일성은 집합의 동일성으로 판정할 수 있다.

여기서는 두 층위를 구분할 필요가 있다. 일반적으로 \[ A(x)=A(y)\quad\Longleftrightarrow\quad x\sim y \] 와 같이 새 표현 \(A(x)\)의 동일성 조건을 제시하는 원리를 추상화 원리(abstraction principle) 또는 추상에 의한 정의(definition by abstraction)라고 부른다. 반면 \(A(x)=[x]_{\sim}\)로 두어 새 대상을 실제 동치류로 구현하는 것은 현대 집합론의 몫집합 구성이다. 이 둘은 밀접하게 연결되지만 논리적으로 같은 단계는 아니며, ‘definition by abstraction’이라는 전문 용어는 프레게 이후 19세기 말 페아노 학파의 논의를 거치며 정착했다[Mancosu2016].

프레게가 방향의 사례를 검토한 근본적인 목적은 기수(cardinal number)를 엄밀히 정의하는 데 있었다. 두 개념 \(F\)와 \(G\)에 속하는 대상들 사이에 일대일 대응이 존재할 때 두 개념이 동수(equinumerous)라고 하고 \(F\approx G\)로 쓰면, \[ \#F=\#G\quad\Longleftrightarrow\quad F\approx G \] 라는 추상화 원리를 얻는다. 그러나 이 원리만으로는 수가 아닌 대상과 수 사이의 동일성 문제가 남는다. 그래서 프레게는 \(F\)에 속하는 기수를 ‘\(F\)와 동수인 개념’이라는 개념의 외연으로 명시적으로 정의했다[Frege1884]. 이러한 논리주의적 시도가 어떤 결말을 맺었는지는 연재의 마지막 글인 11부에서 상세히 다룰 것이다.

동치관계와 분할

이제 앞서 방향의 예에서 수행한 조작을 수학적으로 일반화해 보자. 이것을 위해 가장 먼저 필요한 것은 대상들을 ‘같다고 간주하기’ 위해 관계가 만족시켜야 할 조건들을 명확히 규정하는 일이다.

엄밀히 말해 집합 \(X\) 위의 이항관계 \(R\)은 곱집합 \(X\times X\)의 부분집합이며, \(x\mathrel{R}y\)라는 표기는 순서쌍 \((x,y)\)가 \(R\)의 원소라는 뜻이다. 집합 \(X\) 위의 관계 \(\sim\)가 다음 세 가지 조건을 만족시킬 때, 이 관계를 \(X\) 상의 동치관계(equivalence relation)라고 부른다.

  • 임의의 원소 \(x\in X\)에 대하여 \(x\sim x\)이다. (반사성)
  • \(x\sim y\)이면 \(y\sim x\)이다. (대칭성)
  • \(x\sim y\)이고 \(y\sim z\)이면 \(x\sim z\)이다. (추이성)

이 조건들은 일상에서 우리가 ‘같다’라는 개념에 암묵적으로 요구하는 성질들을 수학적으로 형식화한 것이다. 앞서 정한 약속 아래에서, 고정된 유클리드 평면의 직선들 사이의 ‘평행’은 동치관계다. 두 학생이 ‘같은 학년에 속한다’라는 관계나, 정수론에서 ‘두 정수를 6으로 나눈 나머지가 같다(합동이다)’라는 관계 역시 동치관계에 해당한다. 반면 실수의 대소 관계인 “\(x\)가 \(y\)보다 작거나 같다(\(x\le y\))”는 반사성과 추이성을 만족시키지만 대칭성은 만족시키지 않으므로 동치관계가 아니다.

집합 \(X\) 상에 동치관계 \(\sim\)가 주어질 때, 특정 원소 \(x\in X\)와 동치인 모든 원소들을 모은 부분집합 \[ [x]=\{y\in X:x\sim y\} \] 을 \(x\)를 대표원으로 하는 동치류(equivalence class)라고 부른다. 즉, 관계 \(\sim\) 하에서 \(x\)와 ‘같다’고 취급되는 대상 전체의 집합이다. 그리고 이러한 동치류들을 원소로 가지는 새로운 집합 \[ X/{\sim}=\{[x]:x\in X\} \] 을 \(X\)의 \(\sim\)에 대한 몫집합(quotient set) 또는 상집합이라고 부른다.

이와 별개로, 집합 \(X\)의 부분집합들을 모아놓은 족(family) \(\mathcal P\)가 다음 세 가지 조건을 만족시킬 때, \(\mathcal P\)를 \(X\)의 분할(partition)이라고 정의한다. 직관적인 이해를 돕기 위해 \(\mathcal P\)에 속한 각각의 부분집합을 하나의 ‘조각(block)’이라고 부르기로 하자.

  • 각 조각은 공집합이 아니다.
  • 서로 다른 두 조각은 서로소이다.
  • 조각 전체의 합집합은 \(X\)이다.

이 분할의 정의를 사용하여 곧바로 유도할 수 있는 중요한 성질이 있다. 바로 집합 \(X\)의 임의의 원소는 ‘정확히 단 하나의’ 조각에만 속한다는 사실이다. 전체 합집합이 \(X\)가 되어야 하므로 모든 원소는 적어도 하나의 조각에 속해야 하며, 서로 다른 조각들은 서로소여야 하므로 어떤 원소도 두 개 이상의 조각에 동시에 속할 수 없기 때문이다.

표면적인 정의만 놓고 보면 동치관계와 분할은 서로 무관한 개념처럼 보인다. 동치관계가 두 대상 사이의 관계성을 판별하는 기준이라면, 분할은 거시적으로 집합 전체를 여러 구역으로 나누는 구조적 방식이기 때문이다. 그러나 다음 정리는 이 두 개념이 수학적으로 하나가 다른 하나를 완벽히 결정함을 보여준다.

정리: 동치관계와 분할의 대응

집합 \(X\) 상의 동치관계 \(\sim\)가 주어지면, 그에 따른 몫집합 \(X/{\sim}\)는 \(X\)의 분할이 된다. 역으로, 집합 \(X\)의 임의의 분할 \(\mathcal P\)가 주어졌을 때, “\(x\)와 \(y\)가 동일한 조각에 속한다”라고 정의된 관계는 \(X\) 상의 동치관계가 된다. 나아가 이 두 대응은 서로 역(inverse)의 관계에 있다. 즉, 집합 \(X\) 상의 동치관계 전체의 집합과 \(X\)의 분할 전체의 집합 사이에는 자연스러운 일대일 대응(전단사)이 존재한다.

증명은 세 단계로 나누어 진행한다. 첫째, 동치관계로부터 얻은 몫집합이 실제로 분할의 조건을 만족시키는지 확인한다. 관계의 반사성에 의해 임의의 원소 \(x\in X\)에 대하여 \(x\sim x\)가 성립하므로 \(x\in[x]\)이다. 따라서 어떤 동치류도 공집합이 될 수 없으며, 모든 동치류들을 합집합하면 전체집합 \(X\)가 됨은 자명하다. 남은 것은 서로 다른 두 동치류가 항상 서로소임을 보이면 된다. 이를 위해 대우명제, 즉 “두 동치류 \([x]\)와 \([y]\)가 공통 원소를 가지면 사실상 \([x]=[y]\)이다”라는 명제를 증명하자. 어떤 원소 \(z\)가 존재하여 \(z\in[x]\cap[y]\)라고 가정해 보자. 동치류의 정의에 의해 \(x\sim z\)이고 동시에 \(y\sim z\)이다. 대칭성에 의해 \(z\sim y\)가 성립하고, 다시 추이성을 적용하면 \(x\sim z\)와 \(z\sim y\)로부터 \(x\sim y\)를 얻는다. 이제 \([y]\subset[x]\)임을 보이기 위해 임의의 \(w\in[y]\)를 택하자. 정의상 \(y\sim w\)가 성립하는데, 앞서 얻은 \(x\sim y\)에 추이성을 적용하면 \(x\sim w\)가 도출되므로 \(w\in[x]\)가 된다. 따라서 \([y]\subset[x]\)이다. 대칭성에 의해 \(y\sim x\) 역시 성립하므로, \(x\)와 \(y\)의 역할을 바꾸어 동일한 논증을 전개하면 \([x]\subset[y]\)도 도출된다. 결과적으로 \([x]=[y]\)가 증명되었다.

둘째, 역방향의 구성을 확인한다. 임의의 분할 \(\mathcal P\)가 주어졌을 때, “두 원소 \(x, y\)를 모두 포함하는 조각 \(A\in\mathcal P\)가 존재하면 \(x\approx y\)이다”라고 새로운 이항관계 \(\approx\)를 정의하자. 이 관계가 동치관계의 세 조건을 만족시키는지 살펴보아야 한다. 분할의 특성상 각 원소 \(x\)는 반드시 어떤 유일한 조각에 포함되므로, 그 조각 안에는 당연히 \(x\) 자신도 포함된다. 따라서 \(x\approx x\)가 성립하여 반사성을 만족한다. 대칭성 역시 정의 자체가 \(x\)와 \(y\)에 대해 대칭적이므로 자명하게 성립한다. 추이성의 경우, \(x\approx y\)이고 \(y\approx z\)라고 가정해 보자. 정의에 따라 \(x, y\in A\)를 만족하는 조각 \(A\)와 \(y, z\in B\)를 만족하는 조각 \(B\)가 존재한다. 이때 원소 \(y\)가 \(A\)와 \(B\)의 교집합에 속하게 되므로 두 조각 \(A, B\)는 서로소가 아니다. 분할의 조건에서 서로 다른 두 조각은 반드시 서로소여야 하므로, 결론적으로 \(A=B\)일 수밖에 없다. 따라서 \(x\)와 \(z\)는 모두 같은 조각 \(A\)에 속하게 되어 \(x\approx z\)가 성립한다.

셋째, 이 두 생성 과정이 서로 역의 관계임을 입증한다. 먼저 어떤 동치관계 \(\sim\)에서 출발하여 분할인 몫집합 \(X/{\sim}\)를 구성하고, 이 분할로부터 앞서 정의한 방식대로 새로운 관계 \(\approx\)를 얻었다고 하자. 정의상 \(x\approx y\)라는 것은 두 원소를 동시에 가지는 어떤 동치류가 존재한다는 뜻이다. 만약 원래의 관계에서 \(x\sim y\)였다면 두 원소는 모두 동치류 \([x]\)에 속하므로 자연스럽게 \(x\approx y\)가 성립한다. 역으로 \(x\approx y\)라면 어떤 원소 \(z\)를 대표원으로 하는 동치류에 대해 \(x, y\in[z]\)가 된다는 의미이므로, \(z\sim x\)이고 \(z\sim y\)이다. 대칭성과 추이성을 적용하면 결과적으로 \(x\sim y\)를 얻는다. 즉, 새로 유도된 관계 \(\approx\)는 원래의 동치관계 \(\sim\)와 완벽히 일치한다.

반대 방향도 마찬가지다. 특정한 분할 \(\mathcal P\)에서 출발하여 관계 \(\approx\)를 정의했을 때, 이 관계로부터 파생된 몫집합 \(X/{\approx}\)가 원래의 분할 \(\mathcal P\)와 일치함을 보이면 된다. (이하의 논증에서 \([x]\)는 유도된 관계 \(\approx\)에 대한 동치류를 의미한다.) 임의의 원소 \(x\in X\)에 대해 \(x\)를 포함하는 유일한 조각을 \(A\in\mathcal P\)라고 하자. 어떤 원소 \(y\)가 \(A\)에 속한다면, 조각 \(A\)는 \(x\)와 \(y\)를 모두 원소로 가지므로 \(x\approx y\)가 되고, 이것은 곧 \(y\in[x]\)임을 뜻한다. 역으로 \(y\in[x]\)라면 \(x\approx y\)이므로 \(x\)와 \(y\)를 동시에 원소로 가지는 어떤 조각 \(B\)가 존재해야 한다. 이때 원소 \(x\)가 조각 \(A\)와 \(B\)에 모두 속하게 되어 두 조각의 교집합이 공집합이 아니게 되므로 분할의 조건에 의해 \(A=B\)가 성립하고, 결과적으로 \(y\in A\)가 된다. 이것은 곧 \([x]=A\)임을 의미한다. 즉, 유도된 동치관계에 대한 각각의 동치류는 원래 분할의 조각과 정확히 일치하며, 모든 조각은 공집합이 아니므로 어떤 대표원을 잡아도 그 동치류로 표현될 수 있다. 따라서 도출된 몫집합 \(X/{\approx}\)는 원래의 분할 \(\mathcal P\)와 동일한 집합족이 된다.

이 정리가 보여주는 것은 집합 위에 동치관계를 부여하는 일과 그 집합을 분할하는 일이 같은 정보를 서로 다른 방식으로 표현한다는 점이다. 동치관계 \(\sim\)가 주어지면 표준 몫사상 \[ \pi:X\longrightarrow X/{\sim},\qquad \pi(x)=[x] \] 을 정의할 수 있고, \[ \pi(x)=\pi(y)\quad\Longleftrightarrow\quad x\sim y \] 가 성립한다. 각 동치류는 \(X\)의 부분집합인 동시에 몫집합 \(X/{\sim}\)의 한 원소이므로, 배경 집합론 안에서는 이를 새로운 수학적 대상으로 취급할 수 있다[Halmos1960].

정수의 구성

이제 동치류를 사용한 정의의 구체적인 예로서, 새로운 수 체계를 구성하는 과정을 살펴보자[Tao2022]. 자연수 전체의 집합을 \(\mathbb N=\{0,\,1,\,2,\,\ldots\}\)이라고 하자. \(\mathbb N\)은 덧셈과 곱셈 연산에 대하여 닫혀 있지만, 뺄셈에 대해서는 닫혀 있지 않다. 예를 들어 방정식 \(x+5=3\)은 \(\mathbb N\) 내에 해가 존재하지 않는다. 우리는 임의의 뺄셈이 항상 가능하도록 자연수 체계를 확장하여 정수 체계를 구성하고자 한다.

핵심 아이디어는 음의 정수를 두 자연수의 ‘차(difference)’로 간주하는 것이다. 즉, 자연수의 순서쌍 \((3,\,5)\)를 “3에서 5를 뺀 값”으로 간주하는 것이다. 그런데 \((3,\,5)\)뿐만 아니라 \((4,\,6)\), \((0,\,2)\) 등 무수히 많은 순서쌍이 모두 수학적으로 동일한 값(즉, \(-2\))을 나타내야 한다. 그렇다면 두 순서쌍이 같은 값을 나타내기 위한 형식적 조건은 무엇일까? 직관적으로 \(a-b=c-d\)가 성립해야 하는데, 이 등식은 \(a+d=b+c\)와 동치이다. 주목할 점은 후자의 등식에는 뺄셈 연산이 등장하지 않는다는 것이다. 즉, 아직 정의되지 않은 뺄셈을 배제하고 오직 자연수 체계에 이미 존재하는 ‘덧셈’만으로 두 순서쌍 사이의 동치 조건을 표현해 낸 것이다. 이를 바탕으로 곱집합 \(\mathbb N\times\mathbb N\) 상에 다음과 같은 이항관계 \(\sim\)를 정의한다. \[ (a,\,b)\sim(c,\,d)\ \Longleftrightarrow\ a+d=b+c \]

이렇게 정의된 관계는 동치관계가 된다. 반사성(\(a+b=b+a\))과 대칭성은 (자연수 범위에서) 덧셈의 교환법칙에 의해 자명하게 성립한다. 추이성을 증명해 보자. \((a,\,b)\sim(c,\,d)\)이고 \((c,\,d)\sim(e,\,f)\)라고 가정하면, 정의에 의해 \(a+d=b+c\)이고 \(c+f=d+e\)가 성립한다. 이 두 등식의 양변을 각각 더하면 다음과 같은 등식을 얻는다. \[ a+d+c+f=b+c+d+e \] 자연수의 덧셈은 소거법칙(cancellation law)을 만족시키므로, 양변에서 공통된 \(c+d\)를 소거하면 \(a+f=b+e\)가 남는다. 이것은 곧 \((a,\,b)\sim(e,\,f)\)임을 뜻하므로 추이성이 증명되었다.

이 동치관계를 바탕으로, 정수 전체의 집합을 곧 순서쌍들의 몫집합 \[ \mathbb Z=(\mathbb N\times\mathbb N)/{\sim} \] 으로 정의한다. 자연수 순서쌍들의 동치류 하나가 정수 하나를 나타내는 것이다. 나아가 정수의 덧셈 연산은 각 동치류에서 대표원을 추출하여 성분별로 더하는 방식으로 정의한다. \[ [(a,\,b)]+[(c,\,d)]=[(a+c,\,b+d)] \] 여기서 논리적으로 반드시 짚고 넘어가야 할 점이 있다. 좌변은 ‘동치류 집합 사이의 연산’인 반면, 우변은 임의로 선택된 ‘대표원들 사이의 연산’의 결과에 의해 결정된다는 사실이다. 즉, 동일한 동치류 내에서 다른 대표원을 선택하여 계산하더라도 최종 결과물이 항상 동일한 동치류에 속하는지를 증명해야만 이 연산이 수학적 모순 없이 정의된다. 이 검증 절차를 마친 연산을 일컬어 잘 정의된(well-defined) 연산이라고 부른다.

이제 기존의 자연수 \(n\)을 새로운 정수계의 동치류 \([(n,\,0)]\)과 구조적으로 동일시(identify)하면, 원래의 집합 \(\mathbb N\)을 자연스럽게 확장된 집합 \(\mathbb Z\)의 부분집합으로 간주할 수 있다. 더 나아가 새롭게 정의된 임의의 동치류 \([(a,\,b)]\)에 대하여, \[ [(a,\,b)]+[(b,\,a)]=[(a+b,\,a+b)]=[(0,\,0)] \] 이 성립하므로 모든 정수는 덧셈에 대한 역원을 가지게 된다. [\((a+b,\,a+b)\sim(0,\,0)\)임은 동치관계의 정의에 의해 즉각적으로 확인된다. \([(0,\,0)]\)은 정수의 덧셈에 대한 항등원, 즉 \(0\)에 해당한다.] 결론적으로, 기존의 자연수 체계 \(\mathbb N\)에서는 해가 존재하지 않던 방정식 \(x+5=3\)이, 새롭게 확장된 정수 체계 \(\mathbb Z\)에서는 \([(3,\,5)]\)라는 명확한 해를 갖게 되며, 이 동치류가 바로 우리가 일상적으로 부르는 음의 정수 ‘\(-2\)’의 수학적 실체이다.

이러한 몫집합 기법은 다른 수 체계를 구성할 때도 사용된다. 예컨대 임의의 정수 \(p\)와 \(0\)이 아닌 정수 \(q\)로 이루어진 순서쌍들의 집합 위에 \[ (p,\,q)\sim(r,\,s)\ \Longleftrightarrow\ ps=qr \] 이라는 관계를 부여하면 동치류 \([(p,\,q)]\)를 유리수 \(p/q\)로 정의할 수 있다. 우리가 분수를 약분하거나 통분하는 과정은 동일한 동치류 안에서 다른 대표원을 택하는 조작으로 이해할 수 있다.

실수의 한 가지 구성은 유리수 코시 수열 전체의 집합 \(\mathcal C\)에서 출발한다. 두 수열 \((x_n)\)과 \((y_n)\)에 대하여 \[ (x_n)\sim(y_n)\quad\Longleftrightarrow\quad \lim_{n\to\infty}(x_n-y_n)=0 \] 으로 정의하고 몫집합 \(\mathcal C/{\sim}\)를 만든 뒤, 항별 덧셈과 곱셈 및 적절한 순서를 정의하면 완비순서체인 실수체의 한 구성을 얻는다[Tao2022]. 19세기에는 칸토어가 1872년에 이와 관련된 ‘기본수열’ 구성법을 발표했으며, 메레와 하이네의 관련 작업 및 데데킨트 절단을 이용한 대안적 구성도 있었다[Weiss2015].

이 연재에서는 수학사 전반에 걸쳐 추상화가 실제로 수행되는 구체적인 방식들을 하나씩 명명하며 살펴보고, 11부에서 그 방식들을 요약하여 돌아볼 예정이다. ‘동치류를 사용한 정의’, 즉 무형의 관계를 포착하여 구체적인 대상으로 굳혀내는 조작이 그 첫 번째 추상화 방식이다.

추상화의 역설

지금까지 추상화란 대상에서 특정한 성질에 주목하고 나머지를 고려에서 제외하여 새로운 개념이나 대상을 규정하는 조작이라고 정의하였다. 또한 이 조작이 수행되는 세 가지 방식을 분류하고, 첫 번째 상세 사례로 추상화 원리와 몫집합 구성을 구분하여 살펴보았다. 동치관계와 분할의 대응 정리는 몫집합이 어떻게 작동하는지를 설명하며, 방향과 정수의 사례는 동일성 조건을 제시하는 단계와 동치류를 사용해 대상을 명시적으로 구성하는 단계가 어떻게 연결되는지를 보여준다. 이는 프레게가 방향과 수를 논하면서 문맥적 동일성 원리와 개념의 외연에 의한 명시적 정의를 구분한 흐름과도 맞닿아 있다[Frege1884].

이 글의 서두에서, ‘수학적 추상화’가 일상에서 사용하는 ‘추상적’이라는 말과 달리 개념을 엄밀하고 명료하게 다듬는 데 사용된다고 하였다. 본문에서 살펴본 몫집합 구성은 그 차이를 잘 보여준다. 두 순서쌍 \((3,\,5)\)와 \((4,\,6)\) 사이에는 어떤 자연수를 대표원으로 썼는가 하는 차이가 있지만, 정수 구성에서는 \(a+d=b+c\)라는 관계가 그 차이를 무시하고 두 순서쌍을 같은 동치류에 넣는다. 여기서 무엇을 구별하고 무엇을 같다고 볼 것인지를 정하는 것은 구체적으로 선택한 관계 \(\sim\)이다. 반사성, 대칭성, 추이성은 선택된 관계가 집합을 서로 겹치지 않는 동치류들로 일관되게 분할하도록 보장하는 조건이다. 수학적 추상화의 명료함은 고려에서 제외할 차이와 보존할 구조를 이처럼 명시적인 정의와 조건으로 제시하는 데서 나온다.

아직 한 가지 의문이 남아 있다. 수학의 역사에서 추상화의 조작은 언제부터, 어떤 모습으로 나타났을까? 앞서 살펴본 것과 같은 추상화 원리와 몫구성의 사례들은 오래전부터 형성되어 왔지만, 그 논리적 형식과 ‘추상에 의한 정의’라는 전문 용어는 19세기 말에 이르러 체계적으로 분석되기 시작했다[Mancosu2016]. 2부에서는 메소포타미아의 셈돌과 수 표기의 발달이 수 개념의 형성에 어떻게 관여했는지, 그리고 ‘구체적인 셈돌에서 순수한 수가 단선적으로 분리되었다’는 설명이 왜 논쟁적인지를 함께 살펴본다[SchmandtBesserat1984][Overmann2018]. 또한 고대 그리스에서 문자로 표시한 도형, 정형화된 언어, 증명 관행이 연역적 수학의 형성에 어떻게 기여했는지도 검토할 것이다[Netz1999].

참고문헌

저작권

이슬비, 2026. designeralice＠daum.net.

수학적 추상화

  1. 수학적 추상화의 기본 개념
  2. 초기 수학에서의 암묵적 추상화
  3. 대수적 기호와 연산 법칙
  4. 공리적 방법에 의한 추상화
  5. 수학적 구조와 범주론
  6. 벡터공간과 선형 구조
  7. 거리공간과 위상공간
  8. 측도공간과 확률공간
  9. 수학적 추상화의 인지와 학습
  10. 현대 수학 연구에서의 추상화
  11. 수학적 추상화의 방법과 철학