초기 수학에서의 암묵적 추상화

양 다섯 마리와 사과 다섯 개에서 동일한 ‘다섯’을 알아보는 일은 오늘날 너무나 당연해 보인다. 1부에서 제시한 관점으로 말하면, 이때 우리는 대상의 종류를 고려에서 제외하고 수량만을 보존한다.

1부에서는 추상화를 ‘대상에서 특정한 성질에 주목하고 나머지를 고려에서 제외하여 새로운 개념이나 대상을 규정하는 조작’으로 설명했다. 동치류를 이용한 현대적 구성과 ‘추상에 의한 정의’에 대한 논리적 분석은 주로 19세기 이후에 정교해졌지만, 서로 다른 대상을 같은 수로 세거나 개별 도형을 통해 일반 명제를 논증하는 실천은 훨씬 오래되었다[Mancosu2016, Chs. 1–2]. 이제부터 몇 편에 걸쳐 살펴볼 질문은 하나이되, 세 층위를 구분해야 한다. 추상적인 실천은 언제 나타났는가? 그 실천을 철학적으로 설명하려는 이론은 언제 나타났는가? 그리고 추상화를 수학의 명시적인 방법으로 통제하기 시작한 때는 언제인가?

따라서 고대에 대한 답을 단순히 ‘아무도 알지 못했다’라고 할 수는 없다. 특히 플라톤과 아리스토텔레스는 수학적 대상과 감각적 사물의 관계를 분명히 논의했다. 이 글에서 말하는 ‘암묵적 추상화’란 고대인이 추상적 사고를 전혀 자각하지 못했다는 심리학적 주장이 아니라, 계산과 증명의 관행이 오늘날과 같은 명시적 형식 규칙으로 완전히 정리되어 있지는 않았다는 분석적 표현이다. 이 제한된 의미에서 셈돌과 수 표기, 절차 중심의 문제 문헌, 그리스의 증명을 차례로 살펴본 뒤, 유클리드 “원론” 1권 명제 1의 교점 가정과 0, 음수의 서로 다른 수용사를 사례로 검토한다.

셈돌에서 수로

서아시아 여러 유적에서는 원뿔, 공, 원반, 원기둥 등으로 빚은 작은 점토 물체가 출토되며, 일부 유형은 기원전 8천년기까지 거슬러 올라간다. 고고학자 드니즈 슈만트-베세라트(Denise Schmandt-Besserat)는 이 물체들을 물품과 수량을 기록한 토큰(token) 체계로 해석하고, 토큰, 진흙 봉투, 수량 인상, 원시 설형문자 사이의 계보를 제안했다[SchmandtBesserat1984][SchmandtBesserat1992]. 그러나 모든 소형 점토 물체가 같은 기능을 했는지, 각 모양이 언제나 물품 한 단위와 엄격한 일대일 대응을 이루었는지, 복잡한 토큰이 문자 기호의 직접적인 선조였는지는 계속 논의되고 있다[BennisonChapman2019].

[드니즈 슈만트-베세라트가 1970년대부터 전개한 토큰 연구는 두 권짜리 저서 Before Writing(1992)에 집대성되어 있다. 다만 아래의 단계적 서술은 그의 영향력 있는 해석 모형이지, 세부까지 합의된 단선적 연대기는 아니다[SchmandtBesserat1992][Overmann2018].]

슈만트-베세라트의 모형에서 토큰은 실제 물품을 대신하여 수량을 물리적으로 조작할 수 있게 한다. 예컨대 어떤 유형의 토큰 다섯 개를 옮겨 양 다섯 마리의 거래를 나타낼 수 있었을 것이다. 이때 기록 매체가 물품 종류와 계량 맥락에 긴밀히 묶여 있었다는 점은 중요하다.

기원전 4천년기 후반의 메소포타미아에서는 토큰을 넣어 봉인한 속이 빈 점토 봉투(bulla), 그 표면의 인상, 수량을 기록한 점토판이 함께 확인된다. 토큰을 눌러 표시한 자국이 납작한 점토판의 기호로 바뀌었다는 설명은 토큰 가설의 핵심이다.

우루크의 원시 설형문자 문서에서는 수량을 나타내는 기호와 셈의 대상, 물품을 나타내는 기호가 표기상 구분된다. 하나의 수량 기호를 물품 기호와 결합하는 방식은 반복된 물품 그림만으로 수량을 나타내는 방식보다 경제적이며, 수량을 여러 맥락에서 재사용할 수 있게 한다[Nissen1993, Chs. 4–6]. 이것은 수 표상의 중요한 변화이다. 다만 어느 한 점토판을 ‘역사상 처음 다섯이 양에서 분리된 순간’으로 특정할 수는 없다. 말로 된 수사와 토큰 관행은 문헌보다 앞섰을 수 있고, 표기상의 분리와 인지적 추상화가 동일한 사건도 아니기 때문이다[Overmann2018].

초기 문서에는 하나의 보편적 수 체계가 아니라, 세는 대상과 재는 양에 따라 달라지는 10여 개, 흔히 약 13개로 분류되는 수, 계량 체계가 쓰였다. 사람, 동물, 가공품처럼 낱개로 세는 대상, 곡물의 부피, 토지 면적, 시간 등에 서로 다른 계열이 적용되었고, 같은 모양의 기호도 체계에 따라 값이 달라질 수 있었다[Nissen1993, pp. 25–35]. 따라서 수량 기호와 물품 기호가 분리되었다는 사실과 모든 대상에 통용되는 하나의 순수 수 체계가 확립되었다는 주장은 구분해야 한다.

[한스 니센(Hans J. Nissen), 페터 다메로(Peter Damerow), 로베르트 엥글룬트(Robert K. Englund)의 Archaic Bookkeeping(1993)은 원시 설형문자의 행정 문서와 복수의 수 체계를 분석한다. 토큰에서 문자로 이어지는 진화 서사의 세부 사항, 특히 진흙 봉투와 평판 사이의 인과관계에는 학계의 이견이 있으며, 토큰 가설 자체도 수정과 비판의 대상이 되어 왔다[Nissen1993][BennisonChapman2019].]

토큰 가설을 이 글의 추상화 관점에서 재구성하면 다음과 같은 ‘배제의 연쇄’를 생각해 볼 수 있다. 이것은 유물만으로 입증된 심리 단계가 아니라, 기록 매체의 변화를 설명하기 위한 해석 모형이다.

실제 물품 대신 토큰을 조작하면 물품의 많은 물리적 성질을 무시하고 기록에 필요한 유형과 수량을 보존할 수 있다.
입체 토큰 대신 점토 표면의 인상이나 기호를 사용하면 토큰 자체를 보관하지 않고도 정보를 전달할 수 있다.
수량 기호와 물품 기호를 조합하면 동일한 수량 표상을 서로 다른 대상과 결합할 수 있다.

이 변화들을 추동한 중요한 배경에는 창고 재고, 배급, 노동과 계약을 관리해야 했던 행정적 필요가 있었다. 그러므로 메소포타미아 자료는 실용적 기록 활동이 수 표상의 일반화를 촉진한 강력한 사례다[Nissen1993][Woods2010].

절차의 수학

고대 이집트와 바빌로니아의 여러 수학 문헌은 문제와 수치, 수행할 계산 절차, 때로는 검산을 중심으로 구성되어 있다. 남은 문서는 특정한 서기관 교육과 기록 장르가 무엇을 글로 남겼는지를 보여주기 때문이다[Imhausen2016, Chs. 3–5][Høyrup2002, Ch. 5].

린드 수학 파피루스(Rhind Mathematical Papyrus)는 현재의 연대 추정으로 대체로 기원전 16세기 중엽에 필사된 문헌이며, 서기관 아메스(Ahmes)는 더 오래된 자료를 옮겼다고 적었다. 이 문헌에는 80여 개의 문제가 수록되어 있다[Chace1927, pp. 19–21][Imhausen2016, Ch. 4]. 문제 24는 “어떤 양과 그 7분의 1을 더하면 19가 된다”는 문제다. 아메스는 먼저 그 양을 7이라고 가정해 합 8을 얻고, 8과 19의 비율로 가정값을 조정하여 답 \(16+\frac12+\frac18\)을 구한 뒤 결과를 확인한다[Chace1927, Problem 24]. 현대 수학사는 이런 유형을 거짓위치법(false position; regula falsi)이라고 부른다.

파피루스에는 \(x+x/7=19\)의 일반해를 문자식으로 쓰거나 절차의 타당성을 유클리드식 연역 증명으로 제시하는 대목은 없다. 계산의 선택과 검산은 답이 조건을 만족함을 보여주며, 구체적인 수치 사례는 절차를 가르치는 역할을 한다.

고바빌로니아 시대의 점토판 BM 13901은 정사각형의 변과 넓이에 관한 24개의 문제를 체계적으로 변주한다. 첫 번째 문제는 “넓이와 한 변을 더하면 \(0;45\)”가 된다는 내용이며, 현대 분수로는 \(\frac34\)이다[Høyrup2002, pp. 41–45]. 한 변을 \(x\)라고 놓는 현대식 번역에서는 \[ x^2+x=\frac34 \] 이지만, 원문에는 문자 \(x\)나 현대적 의미의 방정식이 없다. 또한 현대식 \(x\)항에 해당하는 길이는 원문의 절차에서 폭이 1인 직사각형으로 바뀌어 넓이와 결합되므로, 이 식은 차원이 다른 양을 무심코 더한 원식을 그대로 옮긴 것이 아니라 기하적 절차를 압축한 번역이다[Høyrup2002, pp. 41–45].

[원래 점토판의 수 \(0;45\)는 60진법에서 \(45/60=3/4\)을 뜻한다. 아래의 분수와 방정식은 독자를 위한 현대식 번역이며, 고대 서기관이 동일한 기호 대수 체계를 사용했다는 뜻이 아니다[Høyrup2002, pp. 9–12, 41–45].]

절차를 현대어로 옮기면 “1을 반으로 나누고, 그 절반을 제곱하여 \(\frac14\)을 얻고, 이를 \(\frac34\)에 더해 1을 만든 다음, 그 제곱근 1에서 \(\frac12\)을 뺀다”가 된다. 따라서 답은 \(\frac12\)이다. 기호로 압축하면 \[ x=\sqrt{\left(\frac12\right)^2+\frac34}-\frac12 \] 가 된다. 이것은 현대의 완전제곱식 만들기와 대응하지만, 옌스 회이루프(Jens Høyrup)의 문헌학적 분석에 따르면 원문의 ‘붙이기’, ‘떼어내기’, ‘붙들게 하기’ 같은 어휘는 수만 기계적으로 대입한 공식보다 넓이의 절단과 재배치를 이용한 기하적 절차로 읽는 편이 낫다[Høyrup2002, Chs. 3, 5].

BM 13901에는 계수만 바꾼 문제가 정확히 20개가 아니라 모두 24개 수록되어 있으며, 난도가 높아지는 변형들이 배열되어 있다. 명시적인 일반식 \(x^2+bx=c\)는 없지만, 문제군의 체계적인 변주와 공통된 조작 어휘는 개별 답을 넘어선 방법이 교육되었음을 보여준다. 일반성은 문자 공식 하나로 선언되기보다 예제의 배열과 반복 가능한 절차에 담겨 있었다.

증명이 요구한 추상화

기원전 5–4세기의 그리스 수학에서는 문자로 도형의 부분을 지시하고, 정형화된 언어로 일반 명제를 진술하며, 선행 결과에서 결론을 연역하는 관행이 발달했다. 그 과정의 초기 역사는 단편적인 후대 자료에 의존하므로 어느 한 사람의 ‘혁명’으로 단순화하기 어렵다[Netz1999, Chs. 1–2]. 기원전 300년 무렵 편찬된 것으로 여겨지는 유클리드의 “원론”은 정의, 공준, 공통 관념을 제시하고 명제와 증명을 조직한 이 전통의 가장 영향력 있는 현존 사례다[Euclid2008, Book I].

[후대 전승은 논증적 기하학의 초기 인물로 탈레스(Thales)를 지목한다. 원의 지름이 원을 이등분한다는 사실 등을 그가 증명했다는 이야기는 주로 기원후 5세기의 주석가 프로클로스(Proclus)가 전한 더 오래된 자료에 의존한다. 탈레스 자신의 수학 저술이 남아 있지 않으므로, 이 전승을 직접 사료와 같은 확실성으로 다룰 수는 없다[Heath1921, Vol. I, Ch. 4].]

보편적인 명제를 하나의 문자 도형으로 증명하려면, 그림의 어떤 특징이 논증에 필요하고 어떤 특징이 우연한지를 통제해야 한다. 예컨대 임의의 삼각형에 관한 정리를 증명하면서 눈앞의 삼각형이 우연히 예각삼각형이라는 사실, 구체적인 변의 길이, 종이 위 방향을 근거로 사용할 수는 없다. 레비엘 네츠(Reviel Netz)의 분석에 따르면 문자 표지, 정형화된 언어, 도해는 그리스 수학의 일반적인 연역을 함께 가능하게 한 인지적 도구였다[Netz1999, Chs. 1, 3]. 이런 의미에서 증명은 무엇을 보존하고 무엇을 무시할지 지속적으로 관리하는 추상화의 실천이다.

[특수한 성질을 사용하지 않고 임의로 택한 대상에 대해 논증한 뒤 일반 결론을 얻는 모습을 현대 논리학의 보편 일반화(universal generalization; 보편화 규칙)와 비교할 수 있다. 그러나 유클리드의 논증을 현대 술어논리의 형식 규칙을 그대로 적용한 것으로 동일시해서는 안 된다. 이 대괄호 안의 설명은 현대적 대응 관계이지 고대 용어의 번역이 아니다.]

“원론” 1권의 정의 1은 점을 “부분이 없는 것”, 정의 2는 선을 “폭 없는 길이”라고 말한다[Euclid2008, Book I, Definitions 1–2]. 이 정의들이 후속 증명에서 명시적 전제로 자주 인용되거나 점과 선의 존재를 보장하는 작도 규칙으로 사용되는 것은 아니지만, 그래서 아무 역할도 하지 않는다고 단정할 수는 없다[Beeson, Narboux, & Wiedijk 2019, pp. 213–220]. 그것들은 논의 대상의 경계를 세우고 기하학적 담론의 어휘를 제공한다. 이 글의 추상화 관점에서는 이를 현실의 점과 선에서 면적, 폭 같은 물질적 성질을 고려하지 말라는 일종의 ‘추상화 선언’으로 읽을 수 있다.

정의와 공준의 목록은 매우 영향력 있었지만, 오늘날의 형식 공리계처럼 모든 허용 추론을 빠짐없이 명문화한 목록은 아니었다. 그 사실은 “원론” 1권 명제 1을 현대적 기준으로 분석할 때 곧바로 드러난다.

“원론” 1권 명제 1

명제 1의 내용은 다음과 같다.

“주어진 선분 위에 정삼각형을 작도하라.”

선분의 두 끝점을 \(A,\) \(B\)라고 하자. 유클리드는 \(A\)를 중심으로 반지름 \(AB\)인 원을 그리고, \(B\)를 중심으로 반지름 \(BA\)인 원을 그린다. 두 원의 교점을 \(C\)로 잡아 \(CA\)와 \(CB\)를 잇는다. \(AC=AB\)와 \(BC=BA\)는 각각 같은 원의 반지름이라는 사실에서 나오며, 공통 관념 1을 적용하면 세 변이 모두 같으므로 \(ABC\)는 정삼각형이다[Euclid2008, Book I, Proposition 1].

현대 공리론의 관점에서 문제는 “두 원의 교점을 \(C\)로 잡는다”는 단계다. 공준 3은 주어진 중심과 반지름으로 원을 그릴 수 있게 하지만, 제시된 조건의 두 원이 반드시 만난다는 별도의 원리는 “원론” 서두에 명시되어 있지 않다. 오늘날에는 이를 원–원 교점 공리 또는 그것을 함축하는 충분한 연속성 원리로 보완할 수 있다[DeRisi2021, pp. 233–241][Beeson, Narboux, & Wiedijk 2019, pp. 214–215].

왜 추가 조건이 필요한지 좌표를 이용한 현대적 예로 확인해 보자. 좌표가 모두 유리수인 점만 허용하는 \(\mathbb Q\times\mathbb Q\)에서 \(A=(0,0)\), \(B=(1,0)\)을 택하면 두 원의 방정식은 \[ x^2+y^2=1,\quad (x-1)^2+y^2=1 \] 이다. 두 식을 빼면 \(x=\frac12\)이고, 이를 대입하면 \(y=\pm\frac{\sqrt3}{2}\)이다. 이 \(y\)좌표는 유리수가 아니므로 허용된 점 집합 안에는 교점이 없다. 이 예는 원의 방정식과 두 중심, 반지름 정보만으로는 허용된 점 집합 안의 교점 존재가 보장되지 않음을 직관적으로 보여준다.

이를 이 글의 언어로 표현하면, 유클리드의 논증은 선분의 구체적인 길이, 위치, 방향, 선의 굵기에는 의존하지 않지만, 그려진 두 원이 보이는 대로 만난다는 관계는 사용한다. 현대 수학자는 이를 교점 존재 또는 연속성 계열의 가정으로 명문화한다. 그러나 빈첸초 데 리시(Vincenzo De Risi)는 고대 기하학자가 이 추론을 현대적 ‘공간의 연속성’ 개념으로 정당화했다고 보는 것은 시대착오적이라고 지적한다. 고대의 도해 관행에서는 선들이 그림에서 교차하는 것처럼 제시된 경우 그 교점을 취하는 것이 허용된 추론이었다는 것이다[DeRisi2021, pp. 241–259].

1부에서 수학적 추상화의 엄밀성은 무엇을 고려하고 무엇을 제외할지를 명시하는 데서 나온다고 말했다. 명제 1은 그 목록의 역사적 기준이 고정되어 있지 않았음을 보여준다. 19세기에는 파슈가 순서와 교차에 관한 암묵적 가정들을 전면적으로 분석했고, 힐베르트는 결합, 순서, 합동, 평행, 연속성 공리들을 체계적으로 재구성했다[Pasch1882][Hilbert1902]. 오늘날에는 필요한 원–원 교점 조건을 직접 공리로 둘 수도 있고, 더 강한 연속성, 완비성 조건에서 유도할 수도 있다.

[1882년 파슈(Moritz Pasch)의 『Vorlesungen über neuere Geometrie』는 기하학의 순서, 교차 추론에 숨어 있던 전제를 엄밀하게 분석한 전환점이며, 1899년 힐베르트(David Hilbert)의 『Grundlagen der Geometrie』는 유클리드 기하학의 공리적 재구성을 크게 진전시켰다. 다만 파슈가 바로 명제 1의 원–원 교점 문제를 ‘최초로’ 지적했고 힐베르트의 초판이 오늘날 가능한 유일한 ‘완비’ 체계를 완성했다고 압축하면 과도하다. 교점 문제의 더 긴 역사와 여러 현대적 보완 방식은 데 리시의 연구를 참조할 수 있다[DeRisi2021].]

고대 그리스의 증명에서 도해는 단순한 장식이 아니라 통제된 정보원이었다. 케네스 맨더스(Kenneth Manders)는 길이의 정확한 같음이나 비례 같은 exact 정보는 명시된 논증에서 얻는 반면, 교차, 포함, 인접 같은 그림의 작은 변형에도 안정적인 co-exact 정보는 도해에서 읽어낼 수 있었다고 분석한다[Manders2008, pp. 80–133].

[과학사와 수학철학 연구에 따르면 고대 그리스 기하학에서 그림은 논증의 정당한 일부였다. 특히 교차나 영역의 포함 관계처럼 그림을 조금 변형해도 유지되는 관계는 도해로부터 읽되, 정확한 길이의 같음이나 각의 크기는 그림의 외관만으로 추론하지 않는 규율이 작동했다[Manders2008].]

그러므로 명제 1의 ‘틈’은 고대의 증명이 무논리적이었다는 증거가 아니다. 오히려 허용되는 도해 추론과 명시적 공리 사이의 경계를 후대가 다르게 그리게 되었음을 보여준다. 추상화의 기준, 그리고 엄밀성의 기준 자체도 역사 속에서 명시화되고 재구성된 것이다.

추상화에 대한 고대의 이론

고대 그리스 철학자들은 “수학이 무엇을 대상으로 삼는가?”라는 질문을 명시적으로 논의했다. 플라톤과 아리스토텔레스는 이 문제에 서로 다른 강조점을 제시했으며, 후대의 플라톤주의와 아리스토텔레스주의는 수학적 대상의 독립성과 감각적 사물과의 관계를 두고 오래 논쟁했다.

플라톤의 “국가” 6권에서 소크라테스는 기하학자들이 눈에 보이는 도형을 사용하지만, 논증은 그려진 사각형과 대각선이 아니라 ‘사각형 자체’와 ‘대각선 자체’를 향한다고 설명한다[Plato, Republic 510d–511a]. 이 구절은 감각적 그림과 사고의 대상을 분명히 구별한다. 그러나 플라톤의 수학적 대상이 이데아와 정확히 같은지, 이데아와 감각물 사이의 별도 ‘중간자’인지에 관해서는 고대의 증언과 현대 해석이 일치하지 않는다[Silverman2022, §§12–13].

대화편 “메논”에서 소크라테스는 수학을 배우지 않았다는 한 소년에게 정사각형의 넓이를 두 배로 만드는 문제를 묻고, 그림과 연속된 질문을 통해 원래 정사각형의 대각선을 새 정사각형의 변으로 삼는 답에 이르게 한다[Plato, Meno 81a–86c]. 이 장면은 대화 속에서 상기(anamnesis)설을 뒷받침하는 극적 예로 기능한다. 플라톤은 소크라테스의 질문에 스스로 답을 찾아가는 소년의 모습을 통해, 탐구가 가능하며 우리 안의 참된 앎이 대화로 일깨워질 수 있음을 밝힌다.

아리스토텔레스는 수학적 대상이 감각물과 분리된 별도의 실체로 존재해야 한다는 견해를 비판한다. “형이상학” M권에서 그는 기하학자가 감각적 대상을 길이, 면, 부피라는 측면에서, 즉 그것이 양을 지니는 한에서 연구할 수 있다고 설명한다[Aristotle1998, Metaphysics XIII.3, 1077b17–1078a31]. “자연학” 2권에서도 수학자는 자연물의 속성 가운데 형상과 양을 사고 속에서 분리해 고찰하지만, 그것을 물리적 사물과 별개의 실체로 만들 필요는 없다고 말한다[Aristotle2018, Physics II.2, 193b22–194a12].

이 논의와 관련해 아리스토텔레스는 아파이레시스(aphairesis, 제거, 떼어냄) 계열의 표현과 “분리된 것으로서” 고찰한다는 표현, 그리고 어떤 것을 ‘무엇인 한에서(qua)’ 연구한다는 표현을 사용한다. 현대 연구는 이 셋을 단순히 하나의 심리적 ‘뺄셈’ 이론으로 합치지 않고 문맥별 역할을 구분한다[Mendell2016, §§7.1–7.4][Cleary1985].

[이 논의의 핵심 자료는 아리스토텔레스의 “형이상학” M권, 특히 XIII.3(1077b17–1078a31), 그리고 “자연학” II.2이다. 그는 ‘제거에서 나온 것들’(ta ex aphaireseōs)이라는 표현을 사용하지만, 그의 수학철학 전체를 현대어 ‘abstraction’ 하나로 번역할 때에는 제거, 사고상의 분리, ‘~인 한에서’의 고찰을 구분할 필요가 있다[Mendell2016].]

Aphairesis가 산술에서 뺄셈을 뜻하기도 한다는 점은 ‘속성을 차감한다’는 비유를 매력적으로 만든다. 그러나 수학적 대상이 문자 그대로 심리적 뺄셈의 산물이라는 뜻으로 읽으면 아리스토텔레스의 복합적인 설명을 놓친다. 라틴어 abstractio를 거쳐 근대의 ‘abstraction’ 담론이 형성된 긴 번역사와, 1부에서 살펴본 근대 동아시아의 ‘추상(抽象)’, ‘사상(捨象)’이라는 번역어의 역사는 서로 관련되지만, 한자어가 고대 그리스어에서 직접 유래했다고 말할 수는 없다.

플라톤과 아리스토텔레스의 논의가 보여주는 결론은 고대에 추상화의 자각이 전혀 없었다는 것이 아니라, 수학적 실천에 대한 철학적 설명이 이미 존재했다는 것이다. 다만 그 설명이 유클리드의 모든 도해 추론을 형식 규칙으로 바꾸거나, 후대 집합론처럼 새로운 대상을 구성하는 일반 절차를 제공한 것은 아니다. 이 글이 ‘암묵적’이라고 부르는 것은 이 실무적, 형식적 층위다. 또한 아리스토텔레스의 철학이 뒤이은 0과 음수의 수용을 직접 가로막았다고 입증할 자료도 없으므로, 이제부터의 사례는 하나의 철학이 만든 단선적 결과가 아니라 문화권과 계산 관행에 따라 달라진 역사로 보아야 한다.

0과 음수

0과 음수는 수 개념이 구체적 크기와 어떻게 분리되는지를 잘 보여주지만, 그 역사를 ‘물리적 원천이 없어서 모두가 거부했다’는 하나의 원인으로 설명할 수는 없다. 자리값 표기의 필요, 천문 계산, 부채와 재산의 계산, 방정식의 해에 대한 조건, 기하학적 크기의 해석이 문화와 시대마다 다르게 작용했다. 특히 기호를 사용하는 것, 연산 규칙을 아는 것, 방정식의 답으로 인정하는 것, 독립된 수학적 대상으로 해석하는 것은 서로 다른 단계다.

후기 바빌로니아의 60진 자리값 표기에는 비어 있는 중간 자리를 나타내는 전용 쐐기 기호가 나타난다. 이것은 모호성을 줄이는 자리표시자였지만 현대의 숫자 0과 사용 범위가 같지 않았고, 모든 위치에서 일관되게 쓰이지도 않았다. 한편 제1천년기 수리천문학에서는 ‘아무것도 없음’에 해당하는 값이 계산 속에서 더 적극적인 역할을 하기도 했다. 따라서 바빌로니아의 사례를 단순히 ‘띄어쓰기일 뿐인 가짜 0’으로 폄하하기보다, 자리표시와 수로서의 0 사이에 여러 기능적 단계가 있었음을 인정해야 한다[Ritter2024, pp. 35–63].

인도 수학자 브라마굽타(Brahmagupta)는 628년에 완성한 “브라마스푸타싯단타” 18장에서 양수, 음수, 0의 계산 규칙을 현존 자료 가운데 이른 시기에 체계적으로 서술했다. 그는 양수를 ‘재산’, 음수를 ‘빚’에 비유하여 덧셈과 뺄셈을 설명하고, 서로 다른 부호의 곱과 같은 부호의 곱, 0을 곱한 결과를 규정했다[Colebrooke1817, Ch. 18, vv. 30–35].

양수와 음수의 합은 두 절댓값의 차에 따라 부호가 정해진다.
양수에서 음수를 빼거나 음수에서 양수를 빼는 규칙을 재산과 빚의 언어로 표현한다.
서로 다른 부호의 곱은 음수이고, 같은 부호의 곱은 양수이며, 0과의 곱은 0이다.

[브라마굽타도 0으로 나누기를 현대적으로 처리하지는 못했다. 그는 \(0/0=0\)이라고 썼고, 양수나 음수를 0으로 나눈 경우에는 0을 제수로 둔 분수 형태를 말할 뿐 오늘날처럼 ‘정의되지 않는다’고 규정하지 않았다[Colebrooke1817, Ch. 18, vv. 34–35].]

이 사례의 핵심은 0이 단 한순간에 ‘발명’되었다는 영웅 서사가 아니다. 표기상의 빈자리, 양이 없음을 나타내는 값, 다른 수와 연산하는 수라는 기능을 구분할 때, 브라마굽타의 텍스트가 특별한 까닭은 0과 부호 있는 양을 연산 규칙의 동일한 체계 안에 명시적으로 넣었다는 데 있다. 물론 이는 브라마굽타의 명시적 성명이라기보다, 그의 계산 규칙을 현대 수학의 관점에서 바라본 해석이다.

중국의 “구장산술(九章算術)”은 여러 세대에 걸쳐 형성되어 한대에 현재와 가까운 형태를 갖춘 문제와 절차의 모음이며, 유휘(劉徽)는 263년에 상세한 주석을 남겼다. 제8장 「방정(方程)」은 산가지를 계산판에 배열하여 연립일차문제를 소거하는 절차를 제시한다. 이것은 현대의 가우스 소거법과 구조적으로 비교할 수 있지만, 현대 행렬 기호를 그대로 사용한 것은 아니다[Shen, Crossley, & Lun 1999, Ch. 8].

양수와 음수의 덧셈과 뺄셈 규칙인 정부술(正負術)은 별도의 장이 아니라 이 「방정」 장 안에 들어 있다. 또한 양수에는 붉은 산가지, 음수에는 검은 산가지를 쓰라는 설명은 현전하는 본문 자체보다 유휘의 주석에서 확인된다. 색을 쓸 수 없을 때에는 산가지의 배치나 표시를 달리하는 방법도 있었다[Shen, Crossley, & Lun 1999, pp. 358–360]. 음수는 소거 과정에서 생기는 계산값을 표현하고 계속 조작하기 위한 실용적인 역할을 했다.

서유라시아의 역사도 단순한 ‘거부의 연속’은 아니다. 디오판토스의 “산술”은 보통 양의 유리수 해를 요구했고, 현대식으로 음수 해만 나오는 한 문제를 부적절하거나 불가능한 것으로 처리했다[Hettle2015, pp. 146–149]. 르네상스의 카르다노는 양의 근을 ‘참’, 음의 근을 ‘허구’라고 부르는 언어를 사용했지만 실제 계산에서는 음의 값을 다루었다. 데카르트도 양의 근을 ‘참’, 음의 근을 ‘거짓’이라고 불렀으나, 음의 근을 세고 부호 변환으로 양의 근으로 바꾸는 방법을 설명했다. 그러므로 ‘허구’와 ‘거짓’이라는 명칭을 곧 사용 거부와 동일시할 수 없다[Rabouin2024, pp. 41–61].

파스칼의 “팡세”에는 “무(0)에서 4를 빼도 무가 남는다는 것을 이해하지 못하는 사람들이 있다”는 취지의 문장이 있다. 원문에서 파스칼은 \(0-4=-4\)를 옹호하며 타인을 꾸짖는 것이 아니라, 오히려 ‘무’에서 무엇을 빼도 ‘무’라는 관념을 예로 든다[Pascal1670, “Transition”, fr. 4]. 따라서 원문과 반대 의미의 음수 옹호 발언으로 인용해서는 안 된다. [이 대목은 음수 개념에 대한 인식론적 저항의 사례로 자주 인용되지만, 판본마다 단편 번호와 번역이 다르고 문장 자체가 짧은 비유적 삽입이므로 파스칼의 완성된 음수 이론처럼 과대해석하지 않는 편이 안전하다[Pascal1670].]

18세기 말 영국의 윌리엄 프렌드(William Frend)는 “대수학의 원리”에서 ‘아무것도 없는 것보다 작은 수’를 배격하고, 뺄셈에서 빼는 수가 빼임을 당하는 수보다 큰 경우를 수 자체의 결과로 인정하지 않으려 했다[Frend1796, pp. x–xi]. 이 사례는 음수가 이미 널리 계산에 쓰이던 시기에도 그 의미와 기초를 둘러싼 반대가 남아 있었음을 보여준다.

이 긴 역사의 교훈은 음수가 어느 날 철학적 반대를 이기고 갑자기 ‘진짜 수’가 되었다는 데 있지 않다. 부채와 반대 방향 같은 해석, 계산 규칙의 안정화, 방정식 이론, 수직선과 기하적 표현, 대수 법칙의 일반화가 서로 다른 시기와 장소에서 축적되었다. ‘수의 사용’, ‘해의 허용’, ‘존재론적 지위’가 어긋날 수 있었기 때문에 카르다노와 데카르트는 부정적인 명칭을 쓰면서도 음수를 계산할 수 있었다[Rabouin2024]. 3부에서 다룰 기호대수의 전개는 이 변화의 중요한 일부이지만 유일한 원인은 아니다.

무엇을 버렸고, 무엇이 남았는가

메소포타미아의 토큰과 원시 설형문자는 물품 관리 속에서 수량 정보를 물질적으로 표현하고 재조합한 과정을 보여주지만, ‘구체적 셈에서 순수한 수가 한 번에 탄생했다’는 단선적 서사는 논쟁적이다. 이집트와 바빌로니아의 문제 문헌은 일반식을 명시하지 않으면서도 예제의 배열, 반복 가능한 절차, 검산과 기하적 조작을 통해 방법을 전달했다.

그리스의 연역적 수학은 문자 도형에서 우연한 특징과 논증에 허용되는 특징을 구분하는 강력한 관행을 발전시켰다. 유클리드 명제 1의 교점 단계는 현대적 공리 기준에서는 보완이 필요하지만, 고대의 통제된 도해 추론 안에서는 정당한 단계였다. 플라톤과 아리스토텔레스는 감각적 그림, 사물과 수학적 사고 대상의 관계를 명시적으로 이론화했다. 고대 역시 추상화에 대하여 철학적으로 자각하고 있었으나, 그 방식이 오늘날의 형식적 규칙과 달랐다.

0과 음수의 사례도 하나의 문화가 먼저 ‘합리적’이었고 다른 문화가 철학 때문에 천 년 동안 멈췄다는 도식보다 복잡하다. 자리표시자, 계산 중의 부호 있는 양, 방정식의 허용되는 해, 독립된 수라는 지위는 서로 다른 문제였다. 여러 전통에서 계산 규칙과 표현법이 먼저 안정되고, 그 의미와 기초에 대한 설명은 뒤따르거나 경쟁했다. 이 간극은 추상적 대상이 현실의 무엇을 닮았는가뿐 아니라, 어떤 규칙 안에서 어떤 역할을 일관되게 수행하는가를 묻게 만든다.

3부에서는 비에트(François Viète), 피콕(George Peacock), 해밀턴(William Rowan Hamilton)이 서로 다른 문제와 정당화 방식 속에서 기호대수를 변화시킨 과정을 살펴본다. 미지수와 계수를 문자로 표현하는 일, 기호 연산의 허용 범위를 설명하는 일, 새로운 수 체계를 구성하는 일은 한 번의 선언으로 완성된 동일한 사건이 아니었다. 다음 글에서는 이 차이를 구분하며 추상화가 점차 명시적인 수학적 방법으로 자리 잡는 과정을 다룬다.

참고문헌

[Aristotle1998] Aristotle. (1998). The Metaphysics (H. Lawson-Tancred, Trans.). Penguin Classics. Google Books.
[Aristotle2018] Aristotle. (2018). Physics (C. D. C. Reeve, Trans.). Hackett Publishing. Publisher page.
[BeesonEtAl2019] Beeson, M., Narboux, J., & Wiedijk, F. (2019). Proof-checking Euclid. Annals of Mathematics and Artificial Intelligence, 85(2–4), 213–257. https://doi.org/10.1007/s10472-018-9606-x.
[BennisonChapman2019] Bennison-Chapman, L. E. (2019). Reconsidering “tokens”: The Neolithic origins of accounting or multifunctional, utilitarian tools? Cambridge Archaeological Journal, 29(2), 233–259. https://doi.org/10.1017/S0959774318000513.
[Chace1927] Chace, A. B., Bull, L., Manning, H. P., & Archibald, R. C. (1927). The Rhind Mathematical Papyrus: British Museum 10057 and 10058 (Vol. I). Mathematical Association of America. Public-domain PDF.
[Cleary1985] Cleary, J. J. (1985). On the terminology of “abstraction” in Aristotle. Phronesis, 30(1), 13–45. https://doi.org/10.1163/156852885X00165.
[Colebrooke1817] Brahmagupta & Bhāskara. (1817). Algebra, with Arithmetic and Mensuration, from the Sanscrit of Brahmegupta and Bháscara (H. T. Colebrooke, Trans.). John Murray. Internet Archive.
[DeRisi2021] De Risi, V. (2021). Gapless lines and gapless proofs: Intersections and continuity in Euclid’s Elements. Apeiron, 54(2), 233–259. https://doi.org/10.1515/apeiron-2019-0012.
[Euclid2008] Euclid. (2008). Euclid’s Elements of Geometry (R. Fitzpatrick, Trans.). https://farside.ph.utexas.edu/Books/Euclid/Elements.pdf.
[Frend1796] Frend, W. (1796). The Principles of Algebra. J. Davis for G. G. and J. Robinson. Internet Archive.
[Heath1921] Heath, T. L. (1921). A History of Greek Mathematics (Vol. I). Clarendon Press. Reissued by Cambridge University Press. Chapter on Thales.
[Hettle2015] Hettle, C. (2015). The symbolic and mathematical influence of Diophantus’s Arithmetica. Journal of Humanistic Mathematics, 5(1), 139–166. https://doi.org/10.5642/jhummath.201501.08.
[Hilbert1902] Hilbert, D. (1902). The Foundations of Geometry (E. J. Townsend, Trans.). Open Court. (Original work published 1899.) Digital edition.
[Høyrup2002] Høyrup, J. (2002). Lengths, Widths, Surfaces: A Portrait of Old Babylonian Algebra and Its Kin. Springer. https://doi.org/10.1007/978-1-4757-3685-4.
[Imhausen2016] Imhausen, A. (2016). Mathematics in Ancient Egypt: A Contextual History. Princeton University Press. https://doi.org/10.2307/j.ctt1q1xs5f.
[Mancosu2016] Mancosu, P. (2016). Abstraction and Infinity. Oxford University Press. Publisher page.
[Manders2008] Manders, K. (2008). The Euclidean diagram. In P. Mancosu (Ed.), The Philosophy of Mathematical Practice (pp. 80–133). Oxford University Press. https://doi.org/10.1093/acprof:oso/9780199296453.003.0005.
[Mendell2016] Mendell, H. (2016). Aristotle and mathematics. In E. N. Zalta (Ed.), The Stanford Encyclopedia of Philosophy (Fall 2016 ed.). https://plato.stanford.edu/archives/fall2016/entries/aristotle-mathematics/.
[Netz1999] Netz, R. (1999). The Shaping of Deduction in Greek Mathematics: A Study in Cognitive History. Cambridge University Press. https://doi.org/10.1017/CBO9780511543296.
[Nissen1993] Nissen, H. J., Damerow, P., & Englund, R. K. (1993). Archaic Bookkeeping: Early Writing and Techniques of Economic Administration in the Ancient Near East (P. Larsen, Trans.). University of Chicago Press. Google Books.
[Overmann2018] Overmann, K. A. (2018). Updating the “abstract–concrete” distinction in ancient Near Eastern numbers. Cuneiform Digital Library Journal, 2018(1), 1–22. https://cdli.earth/articles/cdlj/2018-1.
[Pasch1882] Pasch, M. (1882). Vorlesungen über neuere Geometrie. B. G. Teubner. Internet Archive.
[Pascal1670] Pascal, B. (1670). Pensées, Lafuma 199 / Sellier 230, “Transition”, fragment 4. Critical text; commentary.
[PlatoMeno] Plato. Meno (B. Jowett, Trans.), 81a–86c. MIT Classics Archive.
[PlatoRepublic] Plato. Republic, 510d–511a. D. Horan (Trans.). Plato’s Republic online translation.
[Rabouin2024] Rabouin, D. (2024). Negatives as fictions in 16th and 17th century mathematics. Historia Mathematica, 69, 41–61. https://doi.org/10.1016/j.hm.2024.09.004.
[Richards2024] Richards, J. L. (2024). De Morgan’s family: Sophia and the children. In Augustus De Morgan, Polymath. Open Book Publishers. https://doi.org/10.11647/obp.0408.09.
[Ritter2024] Ritter, J. (2024). Babylonian zeros. In P. Gobets & R. L. Kuhn (Eds.), The Origin and Significance of Zero: An Interdisciplinary Perspective (pp. 35–63). Brill. https://doi.org/10.1163/9789004691568_006.
[SchmandtBesserat1984] Schmandt-Besserat, D. (1984). Before numerals. Visible Language, 18(1), 48–60. https://journals.uc.edu/index.php/vl/article/view/5376.
[SchmandtBesserat1992] Schmandt-Besserat, D. (1992). Before Writing (2 vols.). University of Texas Press. Google Books.
[Shen1999] Shen, K., Crossley, J. N., & Lun, A. W.-C. (1999). The Nine Chapters on the Mathematical Art: Companion and Commentary. Oxford University Press. Google Books.
[Silverman2022] Silverman, A. (2022). Plato’s middle period metaphysics and epistemology. In E. N. Zalta & U. Nodelman (Eds.), The Stanford Encyclopedia of Philosophy (Fall 2022 ed.). https://plato.stanford.edu/archives/fall2022/entries/plato-metaphysics/.
[Woods2010] Woods, C. (Ed.). (2010). Visible Language: Inventions of Writing in the Ancient Middle East and Beyond. Oriental Institute of the University of Chicago. Official PDF.

저작권

이슬비, 2026. designeralice＠daum.net.