수학적 추상화

‘추상적이다’라는 말은 흔히 어렵고 막연하다는 인상을 준다. 그러나 수학적 추상화는 모호함을 만드는 과정이 아니라, 대상에서 어떤 차이를 무시하고 어떤 성질과 관계를 남길지 정확하게 결정하는 과정이다. 서로 전혀 달라 보이는 대상들이 하나의 구조로 묶이고, 특정한 사례에서 발견된 증명이 더 넓은 세계로 옮겨 가는 데에도 추상화가 작용한다.

이 연재는 수학적 추상화를 조금 더 깊이 살펴보고 싶은 사람들과 관련된 정보와 생각을 나누기 위해 작성했다. 추상화가 단순히 ‘어려운 개념을 만드는 일’이 아니라, 수학의 대상·정의·증명·이론을 만들어 온 핵심적인 사고 방식이라는 점을 역사적 사례와 현대 수학의 개념을 통해 살펴본다.

이 글은 역사적 흐름에 따른 추상화의 변천을 살펴보는 것이 아니라, 추상화라는 관점으로 재구성한 역사를 살펴본다. 따라서 이 연재는 수학의 역사를 시대순으로 빠짐없이 정리하거나, 등장하는 모든 개념의 발전사를 완전하게 설명하려는 글이 아니다. 수많은 역사적 사건과 수학 이론 가운데 ‘무엇을 버리고 무엇을 남기는가’, ‘서로 다른 대상을 어떤 기준으로 같은 것으로 보는가’, ‘관계와 공리가 어떻게 새로운 수학적 대상을 규정하는가’라는 질문을 잘 보여 주는 장면들을 골라 하나의 흐름으로 재구성했다. 실제 수학사는 이 글에 나타난 것보다 훨씬 복잡하며, 여러 수학자와 사상, 사회적 조건이 서로 얽혀 전개되었다는 점을 염두에 둘 필요가 있다.

누구를 위한 연재인가

이 글은 수학교육을 공부하는 사람, 순수수학을 공부하는 사람, 수학 관련 전공의 학부생을 주요 독자로 생각하며 작성했다. 동시에 수학의 개념이 어떻게 만들어지는지 궁금한 일반 독자와 고등학생에게도 도움이 되기를 바랐다.

다만 모든 글의 난도가 같지는 않다. 어떤 부분은 고등학교 수학 정도의 지식만 있어도 읽고 이해할 수 있지만, 동치류, 공리계, 범주론, 위상공간, 측도공간, 가군, 이차 논리, 호모토피 유형 이론처럼 대학에서 수학을 전공해야 이해할 수 있는 내용도 있다. 모든 정리와 증명을 한 번에 이해하려 하기보다는 처음에는 각 개념이 왜 필요해졌고 무엇을 바꾸었는지에 초점을 맞추어 읽는 편을 권장한다.

전문적인 부분을 모두 이해하지 못하더라도 글의 큰 흐름을 따라가는 데에는 문제가 없다. 어려운 식이나 설명은 잠시 건너뛴 뒤, 관심이 생겼을 때 다시 돌아와 읽어도 된다.

연재 전체에서 공유하는 질문

열한 편의 글은 서로 다른 시대와 수학 분야를 다루지만, 다음과 같은 질문을 공유한다.

수학자는 대상에서 무엇을 버리고 무엇을 남기는가?
서로 다른 두 대상을 어떤 기준으로 같다고 말할 수 있는가?
기호, 공리, 구조, 관계는 어떻게 새로운 수학적 대상을 만드는가?
하나의 추상적 정의가 여러 사례와 정리를 어떻게 통합하는가?
추상화는 인간의 머릿속에서 어떻게 학습되고, 실제 연구에서는 어떻게 사용되는가?
추상적으로 정의된 수와 구조는 어떤 의미에서 존재한다고 말할 수 있는가?

글별 안내

1부: 수학적 추상화의 기본 개념: 일상어의 ‘추상적’이라는 말과 수학에서의 추상화를 비교하며 연재의 기본 질문을 세운다. 일반화, 이상화, 형식화와의 차이를 살펴보고, 동치관계와 동치류를 이용해 정수를 구성하는 사례를 통해 추상화가 어떻게 새로운 대상을 만드는지 설명한다.
2부: 초기 수학에서의 암묵적 추상화: 메소포타미아의 셈돌과 바빌로니아의 계산 절차, 고대 그리스의 증명, 아리스토텔레스의 추상화론, 0과 음수의 수용 과정을 살펴본다. 수학자들이 ‘추상화’라는 명시적인 방법론을 갖기 전에도 어떤 속성을 버리고 남기는 작업을 수행해 왔음을 보여 준다.
3부: 대수적 기호와 연산 법칙: 말로 쓰던 방정식이 축약 대수와 기호 대수로 바뀌는 과정을 따라간다. 비에트와 데카르트의 문자 사용, 형식의 보존 원리, 지수법칙의 확장, 해밀턴의 사원수를 통해 기호가 수학적 사고와 연산 법칙을 어떻게 대상 자체로 바꾸었는지 살펴본다.
4부: 공리적 방법에 의한 추상화: 비유클리드기하학과 군론, 데데킨트의 수 개념, 힐베르트의 기하학 공리화를 중심으로 대상의 물리적 정체보다 공리와 관계가 앞에 놓이게 된 과정을 다룬다. 프레게와 힐베르트의 논쟁, 케일리 정리도 함께 살펴본다.
5부: 수학적 구조와 범주론: 뇌터의 구조적 방법, 판데르바르던과 부르바키의 체계화, 범주론과 보편 성질의 등장을 다룬다. 대상의 내부 재료보다 대상 사이의 사상과 관계를 통해 수학을 조직하는 관점이 어떻게 형성되었는지, 그리고 그로텐디크가 이 방법을 어떻게 확장했는지 살펴본다.
6부: 벡터공간과 선형 구조: 기하 벡터, 연립방정식, 다항식, 함수, 미분방정식의 해처럼 서로 달라 보이는 대상들이 벡터공간이라는 하나의 공리적 구조 아래 묶이는 과정을 추적한다. 유한차원 벡터공간의 분류와 무한차원 함수공간으로의 확장도 소개한다.
7부: 거리공간과 위상공간: 바이어슈트라스의 \(\varepsilon\)-\(\delta\) 논법에서 거리공간과 위상공간으로 나아가는 과정을 살펴본다. 거리를 직접 재지 않고도 연속성과 수렴을 설명하는 방법, 그리고 하이네–보렐 정리와 컴팩트성 개념이 어떤 관계에 있는지 다룬다.
8부: 측도공간과 확률공간: 리만 적분의 한계에서 출발하여 르베그 측도, 비탈리의 비가측집합, 시그마대수와 추상 측도공간을 소개한다. 이어 콜모고로프가 확률론을 측도론의 언어로 공리화하면서 확률의 계산 체계와 철학적 해석 문제를 어떻게 분리했는지 살펴본다.
9부: 수학적 추상화의 인지와 학습: 추상화를 수학사뿐 아니라 학습자의 인지 과정에서 바라본다. 압축, 실체화, APOS 이론 등을 소개하고, 과정으로 이해하던 개념이 하나의 대상으로 인식되는 변화를 살펴본다. 새수학 운동의 성과와 한계를 통해 논리적 순서·역사적 순서·학습의 순서가 왜 다를 수 있는지도 생각해 본다.
10부: 현대 수학 연구에서의 추상화: 현대 수학 연구에서 추상화가 실제로 어떻게 선택되고 조절되는지를 다룬다. 가워스의 ‘두 문화’, 아놀드의 형식주의 비판, 적정 일반성의 문제, 가군 구조정리의 여러 응용을 살펴본다. 이어 Lean과 mathlib, 일가 기초론, 호모토피 유형 이론, 인공지능과 형식 증명으로 논의를 확장한다. 이 편에는 연재에서 가장 전문적인 내용이 일부 포함되어 있다.
11부: 수학적 추상화의 방법과 철학: 앞선 열 편의 내용을 한자리에서 정리한다. 일반화, 추상화, 이상화, 형식화의 관계와 연재에서 발견한 여섯 가지 조작을 다시 살펴보고, 베나세라프의 문제, 구조주의, 신논리주의와 흄의 원리를 통해 수학적 대상의 존재와 인식에 관한 철학적 질문으로 나아간다. 마지막으로 추상수학이 현실 세계에 적용되는 이유와 연재 전체의 결론을 검토한다.

어떻게 읽으면 좋은가

가능하다면 1부부터 차례대로 읽는 것을 권한다. 앞에서 소개한 개념과 질문이 뒤의 글에서 반복되고 확장되기 때문이다. 특히 1부는 연재에서 사용할 기본 개념을 설명하고, 11부는 앞선 논의를 종합하는 입구와 출구의 역할을 한다.

그러나 반드시 모든 글을 순서대로 읽어야 하는 것은 아니다. 수학사의 흐름에 관심이 있다면 2부부터 5부를 읽고, 구체적인 현대 수학 개념에 관심이 있다면 6부부터 8부를 읽으면 되며, 수학교육과 학습에 관심이 있다면 9부를 먼저 읽어도 된다. 현대 연구와 형식화에 관심이 있다면 10부를 읽고, 수학적 대상의 존재와 수리철학에 관심이 있다면 11부에서 출발한 뒤 관련된 앞의 글로 돌아갈 수도 있다.

대괄호와 수식에 관하여

본문에서 [대괄호 안에 들어 있는 내용]은 인물, 문헌, 역사적 배경, 기술적 조건 등을 보충하는 부가 설명이다. 본문의 중심 흐름을 이해하는 데 반드시 필요한 내용은 아니므로, 처음 읽을 때는 넘어가도 된다. 더 자세한 근거나 맥락이 궁금할 때 다시 읽으면 좋다.

수식과 증명도 같은 방식으로 읽을 수 있다. 수식은 단순히 내용을 기호로 작성한 것이 아니라 본문에서 말하는 추상화가 실제로 어떻게 적용되는지 보여주기 위해 포함했다. 그러나 글을 처음 읽으면서 모든 계산을 확인할 필요는 없다. 우선 수식 앞뒤의 설명을 통해 그 식이 무엇을 정의하고 무엇을 보존하는지를 파악한 뒤, 필요할 때 세부 과정을 검토해도 충분하다.

역사적 서술과 참고문헌

각 글의 역사적 사례와 철학적 논의에는 가능한 범위에서 근거 자료와 참고문헌을 덧붙였다. 다만 동일한 사건이나 개념도 수학사가와 철학자의 관점에 따라 다르게 해석될 수 있다. 본문에서는 확인된 역사적 사실과 이 연재가 제안하는 해석을 구분하려고 했으며, 특히 논쟁적인 주장에는 그 한계나 다른 관점을 함께 밝히고자 했다.

이 연재가 수학적 추상화를 이해하는 유일한 지도가 될 수는 없다. 다만 독자가 익숙한 수와 공식 뒤에서 어떤 선택과 사고의 전환이 일어났는지 발견하고, 수학을 완성된 지식의 목록이 아니라 개념을 만들고 다시 조직해 온 인간의 지적 활동으로 바라보는 데 도움이 되기를 바란다.

저작권

이슬비, 2026. designeralice＠daum.net.