수학적 구조와 범주론

by I Seul Bee
군의 공리, 환의 공리, 체의 공리처럼 서로 다른 이론에서 세워진 공리 체계들을 더 넓은 관점에서 비교하면 무엇을 볼 수 있을까? 20세기 전반의 대수학자들과 부르바키는 여러 수학 분야를 구조(structure)와 그 구조를 보존하는 대응의 관점에서 조직하는 데 크게 기여했다. 한편 1940년대에 등장한 범주론은 자연성, 함자, 사상과 보편 성질을 새로운 공통 언어로 제시했다. 이 글에서는 두 흐름이 각각 어떤 문제에서 출발했고 어떻게 서로 다른 추상화의 언어를 제공했는지 살펴본다.

뇌터, 계산을 개념으로 대체하다

1888년, 스물여섯 살의 다비트 힐베르트(David Hilbert)는 고전 불변량 이론의 유한 생성 문제를 해결하는 새로운 논증을 마련했다. 이 연구는 1890년 “대수적 형식의 이론에 관하여”(Ueber die Theorie der algebraischen Formen)라는 논문으로 출판되었다. 여기서는 서로 관련되지만 구별해야 하는 두 결과가 등장한다. 현대적인 형태의 힐베르트 기저 정리(Hilbert basis theorem)는 뇌터환 \(R\)에 대하여 다항식환 \(R[x]\)도 뇌터환이라는 명제이며, 특히 체 \(k\) 위의 다항식환 \(k[x_1,\ldots,x_n]\)의 모든 아이디얼이 유한 생성됨을 뜻한다. 힐베르트는 이와 관련된 아이디얼의 유한성 논증을 사용하여 고전 불변량 이론에서 다루던 불변량환이 유한 개의 불변량으로 생성된다는 유한성 정리를 얻었다.

힐베르트의 논증은 유한한 생성계가 존재함을 보였지만, 주어진 형식들에 대해 그 생성 불변량들을 실제로 계산하는 일반 절차를 제시하지는 않았다. 이는 고르단(Paul Gordan)의 상징적 계산법과 뚜렷이 대비되었다. [다만 당시의 모든 수학자가 구성적 계산만을 증명으로 인정했다거나, 비구성적 존재 증명이 이때 처음 등장했다고 말하는 것은 과장이다.1“이것은 수학이 아니라 신학이다”라는 문구는 고르단이 힐베르트의 논증을 보고 했다고 널리 전해지지만, 현재 알려진 당시의 심사보고나 서신에서는 그 정확한 문구와 발언 상황이 확인되지 않는다. 이 말은 후대에 형성된 일화라는 단서를 붙여 인용해야 한다. 고르단은 힐베르트 논문의 논증과 제시 방식에 비판적인 의견을 내기도 했지만, 이후 그 방법을 받아들여 활용했다. 따라서 두 사람의 관계를 ‘계산적 수학과 추상적 수학의 단순한 적대’로 묘사하는 것도 정확하지 않다.[McLarty2012]] 힐베르트의 논증의 역사적 중요성은 복잡한 생성원을 일일이 계산하는 대신 아이디얼의 유한성이라는 일반 명제를 통해 존재를 보였다는 데 있다.[Hilbert1890][McLarty2012]

이러한 유한성 조건을 일반적인 가환대수의 중심 원리로 발전시킨 인물 가운데 가장 중요한 수학자가 에미 뇌터(Emmy Noether)이다. 뇌터는 1921년 논문 “환 영역에서의 아이디얼 이론”(Idealtheorie in Ringbereichen)에서 데데킨트·힐베르트·라스커·매콜리 등의 아이디얼 이론을 일반적인 가환환의 언어로 재구성했다. 현대적인 표현으로, 가환환 \(R\)의 부분집합 \(I\)가 덧셈에 관해 부분군을 이루고 모든 \(r\in R\)와 \(x\in I\)에 대해 \(rx\in I\)를 만족하면 \(I\)를 \(R\)의 아이디얼(ideal)이라고 한다.[Noether1921][Corry2004]

뇌터가 중심적으로 사용한 유한성 조건은 아이디얼들의 모든 오름사슬 \[ I_1\subseteq I_2\subseteq I_3\subseteq\cdots \] 이 어느 단계부터 안정된다는 것이다. 즉 어떤 \(N\)이 존재하여 \[ I_N=I_{N+1}=I_{N+2}=\cdots \] 가 되어야 한다. 이를 오름사슬조건(ascending chain condition, ACC)이라고 한다. 오늘날 가환환 \(R\)이 이 조건을 만족시키면 \(R\)을 뇌터환(Noetherian ring)이라고 한다.[Noether1921][StacksProject]

[가환환 \(R\)에 대하여 ‘아이디얼의 오름사슬조건’과 ‘\(R\)의 모든 아이디얼이 유한 생성된다’는 조건은 서로 동치다. 모든 아이디얼이 유한 생성이고 \(I_1\subseteq I_2\subseteq\cdots\)이면 \(I=\bigcup_n I_n\)도 아이디얼이다. \(I\)의 유한한 생성원들은 모두 어떤 하나의 \(I_N\)에 들어가므로 \(I=I_N\)이고 사슬은 안정된다. 반대로 유한 생성되지 않는 아이디얼 \(I\)가 있다면 \(x_1\in I\)를 택하고, 이미 택한 원소들이 생성하는 아이디얼 밖에서 \(x_2,x_3,\ldots\)를 차례로 골라 \[ (x_1)\subsetneq(x_1,x_2)\subsetneq(x_1,x_2,x_3)\subsetneq\cdots \] 라는 안정되지 않는 오름사슬을 만들 수 있다.[StacksProject]]

뇌터의 1921년 논문이 보여 준 대표적인 성과는 라스커의 다항식 아이디얼 분해 정리를 일반화한 라스커–뇌터 정리다. 이에 따르면 가환 뇌터환의 모든 고유 아이디얼은 유한 개의 일차 아이디얼(primary ideal)의 교집합으로 표현된다. 뇌터는 자신의 연구가 데데킨트의 아이디어와 깊이 연결되어 있음을 강조했다. 데데킨트의 연구에 사상과 아이디얼의 관계에 관한 강한 구조적 관점이 있었으며, 뇌터는 데데킨트의 연구를 포함하여 힐베르트, 라스커, 매콜리 등 여러 연구 전통을 종합해 일반 가환대수의 언어로 발전시켰다.[VanDerWaerden1975][Corry2004]

구조가 목차가 되다

판데르바르던(Bartel van der Waerden)은 1924년 괴팅겐에서 뇌터의 강의와 연구 환경을 접했고, 1926년에는 함부르크에서 에밀 아르틴(Emil Artin)의 대수학 강의를 들었다. 그가 1930년과 1931년에 두 권으로 출판한 “현대 대수학”(Moderne Algebra)의 부제는 이 책이 아르틴과 뇌터의 강의를 이용해 작성되었음을 명시한다. 판데르바르던 자신은 책이 아르틴의 강의 노트에서 출발했지만 여러 차례의 재작성과 다른 강의·논문·자신의 연구를 반영하면서 원래 강의와 상당히 달라졌다고 회고했다.[VanDerWaerden1975][Corry2004]

수학사 연구에서는 이 책을 대수학의 여러 분야를 집합론적·공리적 관점에서 하나의 통일된 전체로 제시한 최초의 체계적인 교과서 가운데 가장 영향력 있는 저술로 평가한다. 제1권은 수와 집합을 다룬 뒤 군, 환과 체, 다항식, 체론, 갈루아 이론 등을 전개했고, 제2권은 아이디얼 이론과 초복소수 체계 등을 포함했다. 특히 다음과 같은 구조가 책 전체를 조직하는 공통 언어가 되었다.[VanDerWaerden1975][Corry2004]

  • 군(group)
  • 환(ring)
  • 체(field)

정수, 다항식, 행렬과 같은 구체적인 대상들은 이 구조들의 중요한 사례로 서로 비교될 수 있게 되었다. 구조적 관점은 구체적 대상의 연구를 없앤 것이 아니라 서로 다른 대상에 공통으로 적용되는 정의와 정리를 분리해 냈다. “Moderne Algebra”는 후대 대수학 교재의 서술 양식을 정착시키는 데 크게 기여했다.

부르바키, 구조를 성문화하다

1934년 말 앙드레 베유(André Weil), 앙리 카르탕(Henri Cartan), 클로드 슈발레(Claude Chevalley), 장 델사르트(Jean Delsarte), 장 디외도네(Jean Dieudonné), 르네 드 포셀(René de Possel) 등 프랑스의 젊은 수학자들은 낡은 프랑스 대학 해석학 교재를 대신할 공동 교과서를 논의하기 시작했다. 1935년 첫 공식 회합을 거치며 이들은 니콜라 부르바키(Nicolas Bourbaki)라는 공동 필명을 채택했다. 처음부터 ‘수학 전체를 완성된 하나의 체계로 다시 세운다’는 계획이 있었던 것은 아니다. 출발점은 현대적인 해석학 교재였고, 논의와 재작성을 거치면서 집합론·대수학·위상수학 등 해석학의 전제가 되는 분야로 범위가 확대되었다. 그 결과물이 장기간에 걸쳐 출판된 총서 “수학 원론”(Éléments de mathématique)이다.[BourbakiAssociation][Beaulieu1993]

[니콜라 부르바키는 실존하는 한 명의 수학자가 아니라 1934–1935년에 결성된 수학자 집단이 공동 저술에 사용한 필명이다. 참여자는 시기에 따라 바뀌었으며, 특정 정리나 장을 한 개인의 저작으로 귀속하지 않는 것이 이 집단의 원칙이었다.[BourbakiAssociation][Beaulieu1993]]

부르바키는 공리적·구조적 관점을 대수학뿐 아니라 여러 수학 분야를 조직하는 원리로 제시했다. 1948년 프랑스어로 발표되고 1950년 영어로 번역된 에세이 “수학의 건축”(L’architecture des mathématiques)에서 부르바키는 수학의 중심에 있는 몇 가지 큰 구조 유형을 모구조(structures mères, mother structures)라고 부르며 다음 세 유형을 예로 들었다.[Bourbaki1950]

  • 대수적 구조: 하나 이상의 합성법칙 또는 연산과 그것들이 만족하는 공리로 규정되는 구조다.
  • 순서 구조: 원소들 사이의 순서 관계와 그 관계가 만족하는 공리로 규정되는 구조다.
  • 위상 구조: 근방·극한·연속성의 직관을 추상적인 공리로 표현한 구조다.

부르바키의 에세이는 둘 이상의 모구조가 단순히 나란히 놓이는 것이 아니라 그 사이의 양립 조건을 나타내는 공리로 결합될 때 다중 구조(multiple structure)가 생긴다고 설명했다. 예를 들어 위상 벡터공간은 벡터 덧셈과 스칼라배라는 대수적 구조와 위상 구조를 갖는 데 그치지 않고, 덧셈과 스칼라배가 연속이라는 양립 조건을 만족해야 한다.

부르바키의 형식적 체계는 기본적으로 집합과 집합 위에 얹힌 구조를 출발점으로 삼았다. 준동형사상, 연속함수, 동형사상은 부르바키의 실제 수학 전개에서도 중요한 역할을 했다. 차이는 그러한 사상들을 범주와 함자라는 일반적인 조직 원리로 총서의 기초에 통합하지 않았다는 데 있다.[Corry1992]

[부르바키가 범주론을 알지 못해 단순히 ‘외면했다’는 설명은 정확하지 않다. 아일렌베르크와 그로텐디크 같은 범주론 연구자들이 부르바키에 참여했고, 내부에서는 범주와 호몰로지 대수에 관한 장을 총서에 넣는 방안도 논의되었지만 출판된 기초 체계의 중심에는 정착하지 못했다.

범주론, 대상과 사상을 함께 보다

1945년 새뮤얼 아일렌베르크(Samuel Eilenberg)와 손더스 매클레인(Saunders Mac Lane)은 “자연적 동치의 일반 이론”(General Theory of Natural Equivalences)을 발표했다. 원문의 제목은 ‘자연 변환’이 아니라 ‘자연적 동치’다. 이들은 벡터공간과 그 이중쌍대 사이의 대응, 위상수학의 호몰로지와 코호몰로지, 극한을 취할 때 보존되는 동형사상 등 여러 분야에서 나타나는 ‘자연성’을 엄밀하게 다루고자 했다. 이를 위해 범주, 함자, 자연적 동치와 자연 변환의 개념을 하나의 일반 이론 안에서 체계화했다.

이 글에서는 크기 문제를 피하기 위해 국소적으로 작은 범주(locally small category)만을 생각하자. 그러한 범주 \(\mathcal C\)는 다음 자료와 법칙으로 이루어진다.[Riehl2016][MacLane1998]

  • 대상(object)들의 모임이 주어진다.
  • 각 두 대상 \(A,B\)에 대하여 \(A\)에서 \(B\)로 가는 사상(morphism)들의 집합 \(\operatorname{Hom}_{\mathcal C}(A,B)\)가 주어진다.
  • 각 세 대상 \(A,B,C\)에 대하여 사상의 합성 \[ \operatorname{Hom}_{\mathcal C}(B,C)\times\operatorname{Hom}_{\mathcal C}(A,B) \longrightarrow \operatorname{Hom}_{\mathcal C}(A,C),\qquad (g,f)\longmapsto g\circ f \] 이 주어지고, 합성은 결합법칙 \((h\circ g)\circ f=h\circ(g\circ f)\)을 만족한다.
  • 각 대상 \(A\)에는 항등사상 \(\operatorname{id}_A:A\to A\)가 있어, 모든 \(f:A\to B\)에 대해 \[ f\circ\operatorname{id}_A=f=\operatorname{id}_B\circ f \] 가 성립한다.

집합을 대상으로 하고 함수를 사상으로 하는 \(\mathrm{Set}\), 군을 대상으로 하고 군 준동형사상을 사상으로 하는 \(\mathrm{Grp}\)가 대표적인 예다. 통상적인 집합론적 기초에서 \(\mathrm{Set}\)과 \(\mathrm{Grp}\)의 대상 전체는 하나의 집합이 아니므로 이들은 큰 범주(large category)다. 그러나 두 고정된 대상 사이의 사상들은 집합을 이루므로 국소적으로 작다. 실제 작업에서는 우주(universe) 같은 크기 관례를 채택하기도 한다.[Riehl2016]

범주론의 변화는 대상을 없애고 사상만 남긴 데 있지 않다. 아일렌베르크와 매클레인은 오히려 ‘대상과 그 사상을 동시에 고려’해야 한다고 강조했다. 범주론은 대상의 내부 원소를 매번 직접 언급하지 않고 합성·항등사상·가환도식·보편 성질로 많은 논증을 전개할 수 있게 하지만, 대상과 사상의 정의역·공역은 여전히 필수다. 또한 \(\mathrm{Set}\), \(\mathrm{Grp}\), 위상공간의 범주 같은 구체적 범주에서는 원소를 이용한 논증도 계속 유효하다. 결국 범주론은 대상과 사상을 함께 놓고 서로 다른 분야의 구성을 비교하는 언어이다.

[‘추상적 헛소리’ 또는 ‘일반 추상적 헛소리’(abstract nonsense, general abstract nonsense)는 범주론적이고 형식적인 일반 논증을 가리키는 자조적 표현으로 정착했다. 매클레인은 1997년 회고에서 범주의 매우 추상적인 아이디어가 당시 “general abstract nonsense”라고 불렸다고 썼다.]

이 사상 중심의 서술 방식이 실전에서 어떻게 작동하는지 곱의 정의를 통해 살펴보자.

곱의 보편 성질

두 집합 \(A\)와 \(B\)의 곱집합(cartesian product)은 보통 \[ A\times B=\{(a,b):a\in A,\ b\in B\} \] 로 정의한다. 그러나 많은 논증에서 중요한 것은 순서쌍의 구체적인 집합론적 구현이 아니라 두 사영함수 \(\pi_A:A\times B\to A\), \(\pi_B:A\times B\to B\)가 만족하는 성질이다. 임의의 집합 \(X\)와 두 함수 \(f:X\to A\), \(g:X\to B\)가 주어질 때 \[ h(x)=(f(x),g(x)) \] 로 정의되는 함수 \(h:X\to A\times B\)가 유일하게 존재하여 \[ \pi_A\circ h=f,\qquad \pi_B\circ h=g \] 를 만족한다. 이 성질은 순서쌍을 언급하지 않고도 임의의 범주에서 곱을 정의할 수 있게 한다.[Riehl2016][MacLane1998]

곱의 보편 성질(Universal Property of Product)
범주 \(\mathcal C\)의 두 대상 \(A,B\)가 주어졌다고 하자. 대상 \(P\)와 두 사상 \[ \pi_A:P\to A,\qquad \pi_B:P\to B \] 로 이루어진 삼중항 \((P,\pi_A,\pi_B)\)가 다음 조건을 만족하면 이를 \(A\)와 \(B\)의 곱(product)이라고 한다.

임의의 대상 \(X\)와 임의의 두 사상 \(f:X\to A\), \(g:X\to B\)에 대하여 \[ \pi_A\circ h=f,\qquad \pi_B\circ h=g \] 를 만족시키는 사상 \(h:X\to P\)가 유일하게 존재한다.

이 사상을 흔히 \(h=\langle f,g\rangle\)로 쓴다. 곱이 존재할 때 대상 부분을 \(A\times B\)라고 표기한다. 모든 범주에 모든 두 대상의 곱이 존재하는 것은 아니다.

이처럼 어떤 대상을 내부 원소의 특정 구현이 아니라 외부 대상에서 들어오는 모든 사상에 대해 만족하는 존재성과 유일성 조건으로 규정하는 것이 보편 성질(universal property)을 사용한 정의의 한 전형이다. 곱의 경우에는 \(P\)로 들어오는 사상들이 두 성분 사상과 정확히 대응한다는 점이 핵심이다.[Riehl2016][MacLane1998]

정리: 곱의 동형까지의 유일성
동일한 두 대상 \(A,B\)에 대하여 \((P,\pi_A,\pi_B)\)와 \((P',\pi_A',\pi_B')\)가 모두 곱이라 하자. 그러면 \[ \pi_A'\circ\varphi=\pi_A,\qquad \pi_B'\circ\varphi=\pi_B \] 를 만족하는 동형사상 \(\varphi:P\to P'\)가 유일하게 존재한다.

증명은 보편 성질을 두 번 적용하면 된다. \(P'\)의 보편 성질에서 시험 대상 \(X=P\), 두 사상 \(f=\pi_A\), \(g=\pi_B\)를 택하면 \[ \pi_A'\circ\varphi=\pi_A,\qquad \pi_B'\circ\varphi=\pi_B \] 를 만족하는 유일한 사상 \(\varphi:P\to P'\)를 얻는다. 반대로 \(P\)의 보편 성질에 \(X=P'\), \(f=\pi_A'\), \(g=\pi_B'\)를 넣으면 \[ \pi_A\circ\psi=\pi_A',\qquad \pi_B\circ\psi=\pi_B' \] 를 만족하는 유일한 사상 \(\psi:P'\to P\)를 얻는다.

이제 \(\psi\circ\varphi:P\to P\)에 두 사영을 합성하면 \[\begin{aligned} \pi_A\circ(\psi\circ\varphi) &=(\pi_A\circ\psi)\circ\varphi =\pi_A'\circ\varphi =\pi_A,\\ \pi_B\circ(\psi\circ\varphi) &=(\pi_B\circ\psi)\circ\varphi =\pi_B'\circ\varphi =\pi_B. \end{aligned}\] \(\operatorname{id}_P\)도 똑같은 두 등식을 만족한다. 그런데 \(P\)의 보편 성질은 이 조건을 만족하는 \(P\to P\) 사상이 유일하다고 말하므로 \[ \psi\circ\varphi=\operatorname{id}_P \] 이다. 대칭적으로 \[ \varphi\circ\psi=\operatorname{id}_{P'} \] 도 얻는다. 따라서 \(\varphi\)와 \(\psi\)는 서로 역인 사상이고 \(\varphi\)는 동형사상이다. 처음 보편 성질을 적용할 때부터 두 사영과 양립하는 \(\varphi\)는 유일했으므로 정리가 증명되었다.

여기서 유일하다는 것은 \(P\)와 \(P'\) 사이의 모든 동형사상 가운데 하나만 존재한다는 뜻이 아니다. 두 사영과 양립하는 동형사상이 유일하다는 뜻이다. 다만 범주에서 곱으로서 수행하는 역할은 유일한 호환 동형사상을 통해 같아진다.[Riehl2016]

보편 성질은 곱에만 쓰이지 않는다. 몫군과 몫벡터공간은 특정 사상들을 같게 만들거나 주어진 부분대상을 0으로 보내는 사상들이 유일하게 인수분해되는 성질로 설명할 수 있다. 자유군은 집합에서 군으로 가는 자유 함자와 망각 함자의 수반 관계로, 텐서곱은 쌍선형 사상들을 선형 사상으로 표현하는 보편 성질로 특징지어진다. 이들은 모두 ‘보편적인 사상’을 사용하지만 곱과 완전히 같은 모양은 아니다. 범주론은 이 여러 패턴을 극한과 쌍대극한, 표현가능성, 수반 등의 더 큰 틀에서 비교한다.[Riehl2016][MacLane1998]

수는 구조다

보편 성질이 구체적 구현과 그것이 수행하는 범주적 역할을 구별하게 한다는 관점을, 4부에서 다루었던 질문으로 되돌려 보자. “자연수란 무엇인가?”

오늘날 표준적인 집합론에서는 유한 폰 노이만 순서수(von Neumann ordinal)를 사용하여 자연수를 \[ 0=\varnothing,\quad 1=\{0\},\quad 2=\{0,1\},\quad 3=\{0,1,2\},\quad\ldots \] 로 구현한다. 후속자는 \(S(n)=n\cup\{n\}\)이다. 폰 노이만은 1923년 논문에서 각 순서수를 그보다 작은 모든 순서수의 집합으로 나타내는 방식으로 유한 순서수와 초한 순서수를 하나의 집합론적 체계 안에 놓았다.[VonNeumann1923][ReckSchiemer2021]

이와 대조되는 구현으로 흔히 유한 체르멜로 순서수(finite Zermelo ordinals)라고 부르는 열이 있다. \[ 0_Z=\varnothing,\quad 1_Z=\{\varnothing\},\quad 2_Z=\{\{\varnothing\}\},\quad 3_Z=\{\{\{\varnothing\}\}\},\quad\ldots \] 여기서는 후속자를 \(S_Z(n)=\{n\}\)으로 둔다. 체르멜로의 1908년 집합론 공리화에서 무한 공리는 공집합을 원소로 포함하고, 원소 \(a\)와 함께 한원소집합 \(\{a\}\)도 원소로 포함하는 집합의 존재를 요구했다. 이 과정을 유한하게 반복해 얻는 위의 열은 후대에 유한 체르멜로 순서수 또는 체르멜로 수라고 불렸다. 여기서는 역사적 우선권보다 베나세라프가 사용한 두 집합론적 구현의 대비에 초점을 맞추자.[Zermelo1908][Benacerraf1965][ReckSchiemer2021]

적절한 후속함수와 덧셈·곱셈을 각각 정의하면 두 체계는 자연수 구조로서 동형이며 같은 산술 명제들을 만족한다. 배경 집합론 안에서 두 열은 표준 자연수 구조의 두 구현을 이룬다.

그런데 산술의 언어가 아니라 집합론의 언어로 “\(1\in3\)인가?”, 즉 “자연수 \(1\)을 나타내는 집합이 자연수 \(3\)을 나타내는 집합의 원소인가?”라고 물으면 답이 갈린다. 폰 노이만 구현에서는 \(3=\{0,1,2\}\)이므로 \(1\in3\)은 참이다. 반면 체르멜로 구현에서는 \(3_Z=\{2_Z\}\)이고 \(1_Z\neq2_Z\)이므로 \(1_Z\notin3_Z\)이다. 이는 두 체계의 산술적 차이가 아니라 선택한 집합론적 구현에 따라 덧붙은 성질의 차이다.[Benacerraf1965]

폴 베나세라프(Paul Benacerraf)는 1965년 논문 “수는 무엇일 수 없는가”(What Numbers Could Not Be)에서 이러한 다중 구현을 이용해 자연수를 특정 집합들과 절대적으로 동일시하는 견해를 비판했다. 그의 요지는 산술에서 중요한 것은 각 수를 이루는 집합의 원소가 아니라, 수들이 한 진행열에서 서로 맺는 구조적 관계라는 것이다. 이 논의는 수를 구조 안의 위치로 이해하는 수학적 구조주의에 큰 영향을 주었다.

이 사례와 곱의 보편 성질에는 공통된 통찰이 있다. 수학적으로 중요한 동일성은 구체적 구현의 문자적 동일성과 다를 수 있고, 관련 구조와 사상을 보존하는 동형이 핵심 역할을 한다. 전자는 수의 존재론과 동일성에 관한 논증이고, 후자는 범주 안에서 특정 구성을 특징짓는 수학적 조건이다.[Riehl2016][Benacerraf1965][ReckSchiemer2021]

[요네다 보조정리(Yoneda lemma)는 ‘관계가 대상을 결정한다’는 직관에 정밀한 수학적 내용을 준다. 국소적으로 작은 범주 \(\mathcal C\), 대상 \(A\), 함자 \(F:\mathcal C^{op}\to\mathrm{Set}\)에 대하여 \[ \operatorname{Nat}\bigl(\operatorname{Hom}_{\mathcal C}(-,A),F\bigr)\cong F(A) \] 라는 자연스러운 전단사가 성립한다. 그 결과 요네다 매장 \[ \mathcal C\longrightarrow \mathrm{Set}^{\mathcal C^{op}},\qquad A\longmapsto\operatorname{Hom}_{\mathcal C}(-,A) \] 은 충실충만하고, 두 대상의 표현가능 함자가 자연동형이면 두 대상도 동형이다. 따라서 대상은 합성과 자연성까지 포함한 ‘들어오는 사상들의 체계’로 동형까지 복원된다. 다만 이 정리가 수학적 구조주의라는 철학 전체를 증명하거나, 대상이 문자 그대로 사상들의 집합에 불과하다고 말하는 것은 아니다.[Riehl2016][MacLane1998]]

프레게가 구체적 직선 자체가 아니라 ‘평행’이라는 관계를 통해 같은 방향을 묶으려 했던 작업도, 구체적 표현과 관계적 역할을 구별하려는 더 넓은 역사 속에서 이해할 수 있다.

그로텐디크, 문제가 저절로 열리는 지점까지

범주·함자·층·호몰로지 대수의 언어를 대수기하학에서 비약적으로 확장한 중심 인물은 알렉산더 그로텐디크(Alexander Grothendieck)이다. 그는 1958년부터 1970년까지 IHÉS의 상임교수로 재직하면서 장 디외도네(Jean Dieudonné), 장피에르 세르(Jean-Pierre Serre), 미하엘 아르틴(Michael Artin), 장루이 베르디에(Jean-Louis Verdier) 등 많은 동료와 제자들과 함께 스킴, 표현가능 함자, 층 코호몰로지, 에탈 코호몰로지와 토포스 등의 틀을 발전시켰다.

[“대수기하학 원론”(Éléments de géométrie algébrique, EGA)은 그로텐디크와 디외도네의 이름으로 1960–1967년에 여덟 분책으로 출판된, 본문 쪽수로 약 1,800쪽에 이르는 미완성 저술이다. “대수기하학 세미나”(Séminaire de géométrie algébrique, SGA)는 1960–1969년의 여러 세미나를 바탕으로 다수의 수학자가 작성·편집하고 이후 개정하여 여러 권으로 출판한 기록이다. 두 총서는 방대하지만 이를 모두 그로텐디크 한 사람의 저작인 ‘수만 쪽’이라고 부르는 것은 저자·성격·분량 면에서 부정확하다.[IHESGrothendieck][GrothendieckDieudonne1960][Oort2014][McLarty2007]]

그로텐디크는 1983–1986년에 작성한 회고록 “수확과 파종”(Récoltes et Semailles)에서 문제를 푸는 두 방식을 호두에 비유했다. 한 방식은 정과 망치로 껍데기를 직접 깨는 것이고, 다른 방식은 호두를 물에 오래 담가 껍데기가 부드러워진 뒤 손으로 열리게 하는 것이다. 제122주에서는 알기 어려운 것을 단단한 땅에, 이론의 일반성이 서서히 자라는 과정을 소리 없이 차오르는 바다에 비유했다. 이는 ‘추상화하면 모든 문제가 자동으로 풀린다’는 공식이 아니라, 직접 타격과 장기간의 개념 형성이라는 서로 다른 연구 스타일을 설명하는 자전적 은유다.[McLarty2007]

그 방법론과 연결되는 중요한 역사적 사례가 베유 추측(Weil conjectures)이다. 앙드레 베유는 1949년 유한체 위 대수다양체의 점 개수를 부호화한 제타함수에 관하여 유리성, 함수방정식과 베티 수에 대응하는 차수, 그리고 리만 가설형 절댓값 조건을 제시했다.[Weil1949]

해결의 공로는 한 사람이나 한 이론에만 돌아가지 않는다. 베르나르 드워크(Bernard Dwork)는 1960년 \(p\)-진 해석을 사용하여 유리성을 먼저 증명했다.[Dwork1960] 그로텐디크, 미하엘 아르틴, 장루이 베르디에와 여러 협력자가 발전시킨 에탈 코호몰로지 및 그 추적 공식은 유리성, 함수방정식, 베티 수와의 대응을 하나의 코호몰로지적 틀에서 설명했다. 마지막으로 피에르 들리뉴(Pierre Deligne)는 1973년에 리만 가설형 부분의 증명을 완성하고 1974년에 발표했다. 그는 에탈 코호몰로지의 틀을 사용했지만, 그로텐디크가 제안한 표준 추측을 먼저 증명하는 경로를 따르지는 않았다.[McLarty2007][Deligne1974]

원소와 사상, 구현과 역할

지금까지의 흐름은 대상에서 구조로, 구조에서 사상으로 곧게 뻗은 하나의 계단이라기보다 여러 연구 전통이 교차한 역사다.

  • 힐베르트는 불변량 이론에서 아이디얼의 유한성을 이용한 존재 논증을 제시했고, 뇌터는 오름사슬조건을 일반 가환대수의 강력한 조직 원리로 발전시켰다.
  • 판데르바르던은 뇌터와 아르틴을 비롯한 여러 연구의 성과를 “Moderne Algebra”에 종합하여 구조적 대수학의 교과서 모형을 널리 확산시켰다.
  • 부르바키는 공리와 구조를 수학의 통일성을 설명하는 프로그램으로 제시했지만, 세 모구조는 완결된 분류 정리가 아니었고 범주론과의 관계도 단순한 대립은 아니었다.
  • 아일렌베르크와 매클레인은 대상과 사상을 함께 고려하는 범주·함자·자연 변환의 언어를 만들었고, 곱의 보편 성질은 구체적 구현과 범주적 역할을 구별하는 방법을 보여 준다.
  • 폰 노이만식 자연수와 체르멜로식 자연수의 비교는 같은 산술 구조가 서로 다른 집합론적 구현을 가질 수 있음을 보여 주며, 베나세라프는 이 사실에서 영향력 있지만 논쟁적인 구조주의적 결론을 끌어냈다.
  • 그로텐디크와 협력자들은 범주론적·코호몰로지적 언어를 대수기하학의 실제 문제에 적용했고, 베유 추측의 해결은 여러 수학자의 서로 다른 방법이 합류한 대표적 사례가 되었다.

보편 성질을 사용한 정의는 특정한 내부 구현을 먼저 고정하지 않고, 한 대상과 사상들이 범주 안에서 만족하는 존재성과 유일성 조건으로 그 대상을 동형까지 특징짓는 방법이다. 집합의 곱에서는 순서쌍 구성이 여전히 곱의 한 유용한 모형이지만, 보편 성질 덕분에 그 구현에 의존하지 않는 정리들을 말할 수 있다.[Riehl2016][MacLane1998]

이 연재에서는 지금까지 다음 세 가지를 핵심적인 추상화 방식으로 정리했다.

  • 동치류를 사용한 정의
  • 공리화
  • 보편 성질을 사용한 정의

이 세 가지 방식은 본 연재에서 다룬 추상화의 흐름을 이해하는 핵심적인 틀이다. 동치류는 동일성 조건에 따라 여러 표현을 묶고, 공리화는 대상들이 만족해야 할 법칙을 분리하며, 보편 성질은 사상들의 존재성과 유일성으로 구성을 특징짓는다. 실제 수학에서는 세 방식이 서로 겹쳐 사용되기도 한다.

이제 시선을 거시적인 수학사에서 하나의 구체적인 학부 강의실로 좁혀 보자. 19세기까지 서로 다른 맥락에서 연구되던 연립방정식의 해, 기하학의 벡터, 함수와 미분방정식의 해가 어떻게 벡터공간(vector space)이라는 하나의 대수적 구조 아래 비교될 수 있게 되었는지, 6부에서 그 과정을 살펴본다.

참고문헌

저작권

이슬비, 2026. designeralice＠daum.net.

수학적 추상화

  1. 수학적 추상화의 기본 개념
  2. 초기 수학에서의 암묵적 추상화
  3. 대수적 기호와 연산 법칙
  4. 공리적 방법에 의한 추상화
  5. 수학적 구조와 범주론
  6. 벡터공간과 선형 구조
  7. 거리공간과 위상공간
  8. 측도공간과 확률공간
  9. 수학적 추상화의 인지와 학습
  10. 현대 수학 연구에서의 추상화
  11. 수학적 추상화의 방법과 철학