측도공간과 확률공간

by I Seul Bee

7부에서 중대한 질문 하나를 남기고 마무리하였다. 실수 구간 \([a,\,b]\)의 길이 \(b-a\)를 단순한 선분이 아닌 복잡한 부분집합에까지 확장할 수 있을까? 선택공리를 가정하면 실수의 비가측 부분집합을 구성할 수 있다. 따라서 구간의 길이와 일치하고, 평행이동에 불변이며, 가산가법적인 측도를 실수의 모든 부분집합에 정의할 수는 없다. 여기서 불가능한 것은 아무 집합함수나 만드는 일이 아니라, 우리가 길이에 기대하는 이 세 조건을 모두 유지하는 일이다.

수학자들은 이 한계를 받아들이고, 측정할 집합의 범위와 크기를 재는 함수가 만족해야 할 조건을 분리하여 측도론을 세웠다. 이 추상적 구조는 훗날 확률론에도 공통의 엄밀한 형식을 제공했다. 이 글에서는 길이의 확장에서 출발한 측도론이 서로 다른 확률 해석들이 공유할 수 있는 수학적 언어가 되는 과정을 살펴본다.

리만 적분의 한계

어떤 유계함수 \(f:[0,\,1]\to\mathbb R\)가 주어졌다고 하자. 분할 \(P\)를 \[ 0=x_0<x_1<\cdots<x_n=1 \] 이라 하고, 각 소구간 \([x_{k-1},\,x_k]\)에서 \(f\)의 상한과 하한을 각각 \(M_k\), \(m_k\)라고 하자. 이때 \[ U(f,\,P)=\sum_{k=1}^n M_k(x_k-x_{k-1}),\qquad L(f,\,P)=\sum_{k=1}^n m_k(x_k-x_{k-1}) \] 를 각각 상합(upper sum)과 하합(lower sum)이라고 한다. 모든 분할에 대한 상합들의 하한과 하합들의 상한이 일치할 때 \(f\)를 리만 적분 가능(Riemann integrable)하다고 정의하고, 그 공통값을 적분값으로 삼는다.

이제 구간 \([0,\,1]\)에서 다음과 같이 정의된 함수를 생각해보자. \[ D(x)= \begin{cases} 1 & (x\in\mathbb Q),\\[4pt] 0 & (x\notin\mathbb Q). \end{cases} \] 이를 디리클레 함수(Dirichlet function)라고 부른다.

[디리클레(Peter Gustav Lejeune Dirichlet)는 1829년 푸리에 급수의 수렴을 다룬 논문 말미에서, 독립변수가 유리수일 때 한 상수이고 무리수일 때 다른 상수인 함수를 실제로 제시했다. 본문의 \(0\)과 \(1\)을 택한 함수는 그 예의 표준화된 형태이다.]

유리수 집합과 무리수 집합은 각각 실수에서 조밀하다. 따라서 길이가 양수인 모든 소구간에는 유리수와 무리수가 모두 들어 있다. 어떤 분할 \(P\)를 택하더라도 각 소구간에서 \(M_k=1\), \(m_k=0\)이므로 \[ U(D,\,P)=1,\qquad L(D,\,P)=0 \] 이다. 분할을 아무리 잘게 만들어도 이 간격은 줄어들지 않는다. 따라서 디리클레 함수는 리만 적분 가능하지 않다.

디리클레 함수는 \([0,\,1]\)의 모든 점에서 불연속이다.

[임의의 점 \(x_0\in[0,1]\)과 임의의 \(\delta>0\)을 잡아도 \(x_0\)의 정의역 안 \(\delta\)-근방에는 유리수와 무리수가 모두 존재한다. 따라서 \(x_0\)으로 수렴하면서 함수값이 각각 \(1\)과 \(0\)인 두 수열을 잡을 수 있다. 함수값이 하나의 극한으로 수렴할 수 없으므로 \(D\)는 \(x_0\)에서 불연속이고, \(x_0\)가 임의였으므로 모든 점에서 불연속이다.]

불연속점과 리만 적분 가능성의 관계는 이미 리만의 진동 조건에 들어 있었으며, 르베그는 새로운 측도 개념을 이용해 이를 오늘날의 간결한 형태로 표현했다.

[오늘날 르베그 판정법(Lebesgue criterion)이라고 부르는 정리에 따르면, 유계함수 \(f:[a,b]\to\mathbb R\)가 리만 적분 가능할 필요충분조건은 불연속점들의 집합이 르베그 측도 \(0\)인 것이다. 르베그의 1902년 학위논문은 리만의 진동 조건을 측도론적 언어와 연결했다. 디리클레 함수의 불연속점 집합은 \([0,1]\) 전체이고 그 측도는 \(1\)이므로, 이 판정법으로도 리만 적분 불가능하다는 결론을 얻는다.[Lebesgue1902]]

디리클레의 예는 1829년 푸리에 급수의 맥락에서 등장했고, 르베그는 길이·넓이의 일반화와 리만 적분의 제한을 포함한 여러 문제를 다루었다. 다만 이 함수는 현대적 관점에서 리만 적분의 제한과 르베그 적분의 확장성을 선명하게 비교해 주는 예이다.

르베그, 길이를 측도로 확장하다

복잡한 집합의 크기를 정의하는 문제는 르베그에게서 갑자기 시작된 것이 아니다. 페아노와 조르당은 유한 개의 구간이나 직사각형을 이용한 내용을 연구했고, 보렐은 가산 개의 구간을 사용하는 측도를 발전시켰다. 르베그는 이 선행 작업을 바탕으로 1902년 학위논문 『적분, 길이, 넓이』(Intégrale, Longueur, Aire)에서 측도와 적분을 크게 확장했다.[Lebesgue1902][Hawkins1970]

현대적인 정식화로, 실직선의 임의의 부분집합 \(A\subseteq\mathbb R\)에 대하여 \[ m^*(A)=\inf\left\{ \sum_{n=1}^{\infty}(b_n-a_n): A\subseteq\bigcup_{n=1}^{\infty}(a_n,b_n) \right\} \] 로 정의한 값을 르베그 외측도(Lebesgue outer measure)라고 한다. 즉 \(A\)를 덮는 가산 개 열린구간의 길이 합을 모두 생각하고 그 하한을 취한다. 이 값은 모든 부분집합에 대해 \([0,\infty]\)의 값을 갖는다. 외측도는 단조성과 가산준가법성을 만족하지만, 모든 집합에서 가산가법적인 “참된 길이”가 되는 것은 아니다.[Lebesgue1902]

닫힌구간 \([a,b]\)의 외측도는 기존의 길이 \(b-a\)와 일치한다. 실제로 임의의 \(\varepsilon>0\)에 대하여 열린구간 \[ (a-\varepsilon/2,\,b+\varepsilon/2) \] 가 \([a,b]\)를 덮고 그 길이는 \(b-a+\varepsilon\)이다. 따라서 \(m^*([a,b])\le b-a+\varepsilon\)이고, \(\varepsilon\)이 임의이므로 \(m^*([a,b])\le b-a\)이다.

[반대 부등식에는 하이네–보렐 정리를 사용할 수 있다. \([a,b]\)의 임의의 가산 열린구간 덮개에서 유한 부분덮개를 뽑으면, 그 유한 개 구간의 길이 합은 적어도 \(b-a\)이다. 따라서 원래 덮개의 전체 길이 합도 \(b-a\) 이상이고, 모든 덮개에 대한 하한 역시 \(b-a\) 이상이다. 두 부등식을 합치면 \(m^*([a,b])=b-a\)이다.]

가산집합의 외측도는 항상 \(0\)이다. 예를 들어 \(\mathbb Q\cap[0,1]\)을 \[ q_1,q_2,q_3,\ldots \] 로 나열하고 \(\varepsilon>0\)을 잡자. 각 \(q_n\)을 길이가 \(\varepsilon/2^n\)인 열린구간으로 덮으면, 이 구간들의 길이 합은 등비급수 \[ \sum_{n=1}^{\infty}\frac{\varepsilon}{2^n}=\varepsilon \] 가 된다. 따라서 \[ m^*(\mathbb Q\cap[0,1])\le\varepsilon \] 이고, \(\varepsilon\)을 임의로 작게 택할 수 있으므로 \(m^*(\mathbb Q\cap[0,1])=0\)이다. 유리수 집합은 조밀하지만 길이는 차지하지 않는다.

외측도가 모든 부분집합에 외측값을 배정한다고 해서 문제가 끝나지는 않는다. 서로소인 가산 개의 집합을 합쳤을 때 전체의 길이가 각 조각 길이의 합과 일치하는 가산가법성(countable additivity)은 측도의 핵심 조건이다. 르베그 외측도는 임의의 집합열에 대해서 가산준가법성 \[ m^*\left(\bigcup_{n=1}^{\infty}A_n\right) \le\sum_{n=1}^{\infty}m^*(A_n) \] 을 만족하지만, 모든 서로소 부분집합열에서 등호를 보장하지는 않는다.

비탈리의 비가측집합

1905년, 이탈리아 수학자 주세페 비탈리(Giuseppe Vitali)는 선택공리를 이용하여 르베그 비가측집합의 예를 제시했다.[Vitali1905] 즉, 구간의 길이를 연장하는 평행이동에 대하여 불변이고 가산가법적인 측도를 멱집합 \(\mathcal{P} (\mathbb{R})\) 전체에서 정의하는 것은 불가능하다.

반열린구간 \([0,1)\)의 두 점 \(x,y\) 사이에 \[ x\sim y\quad\Longleftrightarrow\quad x-y\in\mathbb Q \] 라는 관계를 정의하자. 이 관계는 반사성, 대칭성, 추이성을 만족하므로 동치관계이다. 따라서 \([0,1)\)은 서로소인 동치류들로 분할된다. 선택공리를 사용하여 각 동치류에서 대표원 하나씩을 고르고, 그 대표원들의 집합을 \(V\subset[0,1)\)라 하자.

각 \(q\in\mathbb Q\cap[0,1)\)에 대하여 \[ T_q(v)=v+q\pmod 1,\qquad V_q=T_q(V) \] 로 정의하자.

[여기서 \(v+q\pmod1\)은 실직선 위의 보통 평행이동이 아니라, \([0,1)\)의 양 끝을 붙여 만든 원 \(\mathbb R/\mathbb Z\) 위의 회전이다. 구체적으로 \(v+q<1\)이면 \(T_q(v)=v+q\)이고, \(v+q\ge1\)이면 \(T_q(v)=v+q-1\)이다.]

집합들 \(V_q\)는 서로소이고, 이들의 합집합은 \([0,1)\) 전체이다.

  • 먼저 서로소임을 보자. \(T_{q_1}(v_1)=T_{q_2}(v_2)\)라고 가정하면 어떤 \(k\in\mathbb Z\)에 대하여 \[ v_1+q_1=v_2+q_2+k \] 이다. 따라서 \(v_1-v_2=q_2-q_1+k\in\mathbb Q\)이므로 \(v_1\sim v_2\)이다. \(V\)는 각 동치류에서 대표원 하나만 골랐으므로 \(v_1=v_2\)이다. 이어서 \(q_1-q_2\in\mathbb Z\)이고 \(q_1,q_2\in[0,1)\)이므로 \(q_1=q_2\)이다.
  • 다음으로 합집합을 보자. \(x\in[0,1)\)를 잡고 \(x\)가 속한 동치류의 대표원을 \(v\in V\)라 하자. 그러면 \(r=x-v\in\mathbb Q\cap(-1,1)\)이다. \(r\ge0\)이면 \(q=r\), \(r<0\)이면 \(q=r+1\)로 두자. 그러면 \(q\in\mathbb Q\cap[0,1)\)이고 \(x=T_q(v)\)이다. 따라서 \[ [0,1)=\bigsqcup_{q\in\mathbb Q\cap[0,1)}V_q \] 이다.

이제 \(V\)가 르베그 가측이라고 가정하고 \(m(V)=c\)라 하자. \(V\subset[0,1)\)이므로 \(0\le c\le1\)이다.

[르베그 측도의 보통 평행이동 불변성만 적고 순환이동의 불변성을 곧바로 결론 내리면 한 단계가 빠진다. \(0\le q<1\)에 대하여 \[ A_q=V\cap[0,1-q),\qquad B_q=V\cap[1-q,1) \] 로 두면 \(V=A_q\sqcup B_q\)이고 \[ T_q(V)=(A_q+q)\sqcup(B_q+q-1) \] 이다. \(V\)가 가측이라는 가정 아래 두 조각도 가측이다. 평행이동 불변성과 유한가법성을 적용하면 \[ m(T_q(V))=m(A_q)+m(B_q)=m(V)=c \] 를 얻는다. 따라서 모든 \(V_q\)의 측도는 \(c\)이다.[Vitali1905]]

가산가법성을 적용하면 \[ 1=m([0,1)) =\sum_{q\in\mathbb Q\cap[0,1)}m(V_q) =\sum_{q\in\mathbb Q\cap[0,1)}c \] 가 되어야 한다. 그러나 \(c=0\)이면 우변은 \(0\)이고, \(c>0\)이면 우변은 \(\infty\)이다. 어느 경우에도 \(1\)이 될 수 없으므로 모순이다. 따라서 \(V\)는 르베그 가측집합이 아니다.

르베그는 1902년에 가측집합의 범위를 구별했고, 비탈리의 1905년 구성은 왜 그 범위를 모든 부분집합으로 넓힐 수 없는지를 명확하게 보여주었다.

[카라테오도리(Constantin Carathéodory)는 1914년 외측도로부터 가측집합을 골라내는 일반적인 판정법을 발표했다.[Caratheodory1914] 집합 \(X\) 위의 외측도 \(\mu^*\)가 주어졌을 때, \(E\subseteq X\)가 모든 \(A\subseteq X\)에 대하여 \[ \mu^*(A)=\mu^*(A\cap E)+\mu^*(A\setminus E) \] 를 만족하면 \(E\)를 카라테오도리 가측집합이라고 한다. 이러한 집합들은 시그마대수를 이루고, 그 시그마대수에 제한한 \(\mu^*\)는 완비 측도가 된다. 특히 \(\mu^*=m^*\)가 르베그 외측도이면 이 판정법으로 얻은 집합들이 르베그 가측집합이고, \(m^*\)의 제한이 르베그 측도이다.]

추상 측도공간

비탈리 집합의 결론은 구간의 통상적인 길이를 보존하고 평행이동에 불변인 가산가법적 측도의 정의역을 실직선의 멱집합 전체로 삼을 수 없음을 보여 준다. 따라서 르베그 길이를 다룰 때에는 여집합과 가산합집합 같은 기본 연산에 닫힌 부분집합족을 먼저 정하고, 그 집합족 위에서 가산가법적인 집합함수를 정의한다.

정의: 추상 측도공간
집합 \(X\)의 부분집합족 \(\mathcal F\)가 다음 조건을 만족한다고 하자.

  • \(X\in\mathcal F\)이다.
  • \(A\in\mathcal F\)이면 \(X\setminus A\in\mathcal F\)이다.
  • 가산열 \(A_1,A_2,\ldots\in\mathcal F\)이 주어지면 \[ \bigcup_{n=1}^{\infty}A_n\in\mathcal F \] 이다.

이때 \(\mathcal F\)를 \(X\) 위의 시그마대수(\(\sigma\)-algebra)라고 하고, \(\mathcal F\)의 원소를 가측집합(measurable set)이라고 한다.

[시그마대수의 조건은 앞선 글에서 위상(topology)을 정의할 때 요구한 조건과 형태적으로 닮았다. 두 구조 모두 집합 연산에 대한 닫힘을 요구한다. 그러나 위상은 임의의 합집합과 유한 교집합에 닫혀 있는 반면, 시그마대수는 가산합집합과 여집합에 닫혀 있어야 한다. 모든 열린집합의 여집합이 다시 열릴 필요는 없으므로 두 구조는 서로 같지 않다.]

함수 \(\mu:\mathcal F\to[0,\infty]\)가 다음 조건을 만족한다고 하자.

  • \(\mu(\varnothing)=0\)이다.
  • 서로소인 가산열 \(A_1,A_2,\ldots\in\mathcal F\)에 대하여 \[ \mu\left(\bigcup_{n=1}^{\infty}A_n\right) =\sum_{n=1}^{\infty}\mu(A_n) \] 이다.

이때 \(\mu\)를 \((X,\mathcal F)\) 위의 측도(measure)라고 하고, 순서삼중항 \((X,\mathcal F,\mu)\)를 측도공간(measure space)이라고 한다.

이 공리계는 서로 다른 “크기”를 한 언어로 다루게 한다.

  • 실직선에서 르베그 가측집합들의 시그마대수에 르베그 외측도를 제한하면 르베그 측도(Lebesgue measure)를 얻는다. 이 측도는 구간에 통상적인 길이를 부여한다.
  • 같은 구성을 \(\mathbb R^2\)와 \(\mathbb R^3\)로 확장하면 넓이와 부피를 일반화한 르베그 측도를 얻는다.
  • 임의의 집합 \(X\)에서 \(\mathcal F=\mathcal P(X)\)로 두고 \[ \mu(A)= \begin{cases} |A| & (A\text{가 유한집합일 때}),\\[4pt] \infty & (A\text{가 무한집합일 때}) \end{cases} \] 로 정의하면 셈측도(counting measure)가 된다.

이 측도공간들은 같은 공리를 만족하므로 측도 공리만으로 증명된 일반 정리를 모두 공유한다.

측도는 특히 단조롭게 증가하는 집합열의 합집합과 잘 맞는다. 이 경우에는 합집합을 취한 뒤 측정한 값과 각 단계의 측도들의 극한이 일치한다.

정리: 측도의 아래로부터의 연속성.
측도공간 \((X,\mathcal F,\mu)\)에서 \[ A_1\subseteq A_2\subseteq\cdots \] 인 증가집합열이 주어지면 \[ \mu\left(\bigcup_{n=1}^{\infty}A_n\right) =\lim_{n\to\infty}\mu(A_n) \] 이다. 이 값은 \(\infty\)일 수도 있다.

증명을 위해 \(B_1=A_1\)로 두고, \(n\ge2\)일 때 \[ B_n=A_n\setminus A_{n-1} \] 로 두자. [\(B_n=A_n\setminus A_{n-1}=A_n\cap(X\setminus A_{n-1})\)이다. 시그마대수는 여집합과 유한 교집합에 닫혀 있으므로 \(B_n\in\mathcal F\)이다. 유한 교집합에 대한 닫힘은 드모르간 법칙을 이용해 여집합과 가산합집합 공리에서 얻는다.]

조각들 \(B_1,B_2,\ldots\)은 서로소이다. 실제로 \(m<n\)이면 \(B_m\subseteq A_m\subseteq A_{n-1}\)인 반면 \(B_n\cap A_{n-1}=\varnothing\)이다. 또한 임의의 \(N\)에 대하여 \[ \bigcup_{n=1}^{N}B_n=A_N \] 이다. [가장 안쪽의 \(A_1\)에서 시작해 각 단계에서 새로 추가된 부분 \(A_n\setminus A_{n-1}\)만 붙인 것이므로 \(N\)단계에서는 정확히 \(A_N\)이 복원된다. 엄밀하게는 \(N\)에 대한 수학적 귀납법으로 위 등식을 증명할 수 있다.]

따라서 \[ \bigcup_{n=1}^{\infty}B_n =\bigcup_{n=1}^{\infty}A_n \] 이다. [왼쪽 합집합에 속하는 원소는 어떤 \(B_n\subseteq A_n\)에 속하므로 오른쪽에도 속한다. 반대로 오른쪽 합집합에 속하는 원소 \(x\)에 대해서는 \(x\in A_n\)이 되는 최소의 자연수 \(n\)이 존재한다. \(n=1\)이면 \(x\in B_1\)이고, \(n\ge2\)이면 \(x\in A_n\setminus A_{n-1}=B_n\)이다. 따라서 두 합집합은 같다.]

가산가법성을 적용하면 \[ \mu\left(\bigcup_{n=1}^{\infty}A_n\right) =\sum_{n=1}^{\infty}\mu(B_n) =\lim_{N\to\infty}\sum_{n=1}^{N}\mu(B_n) \] 이다. [유한합에 대한 가법성도 가산가법성에서 얻어진다. 서로소인 \(B_1,\ldots,B_N\) 뒤에 \(B_{N+1}=B_{N+2}=\cdots=\varnothing\)을 붙이면, 공집합의 측도가 \(0\)이므로 가산가법성 공리를 그대로 적용할 수 있다.]

그러므로 \[ \sum_{n=1}^{N}\mu(B_n) =\mu\left(\bigcup_{n=1}^{N}B_n\right) =\mu(A_N) \] 이고, 두 식을 결합하면 \[ \mu\left(\bigcup_{n=1}^{\infty}A_n\right) =\lim_{N\to\infty}\mu(A_N) \] 을 얻는다.

이 결과는 증가집합열에 한정된 “아래로부터의 연속성”이다. 감소집합열 \(A_1\supseteq A_2\supseteq\cdots\)에서도 유사한 등식이 성립하지만, 그 경우에는 일반적으로 \(\mu(A_1)<\infty\)라는 조건이 필요하다.

콜모고로프, 확률에 측도론적 형식을 주다

측도론의 발전은 확률론에 공통의 엄밀한 수학적 형식을 제공했다. 이 형식이 확률의 철학적 의미에 관한 논쟁을 끝낸 것은 아니지만, 서로 다른 해석을 따르는 연구자들이 같은 계산 규칙과 정리를 사용할 수 있게 한 것은 분명하다.

확률의 의미를 둘러싼 논쟁에는 여러 입장이 있었다. 존 벤(John Venn)은 1866년 『우연의 논리』(The Logic of Chance)에서 확률을 가상적인 무한 계열에서 나타나는 상대빈도와 연결하는 견해를 체계적으로 전개했다.[Venn1866] 리하르트 폰 미제스(Richard von Mises)는 1919년 이러한 빈도적 생각을 집합체(Kollektiv)라는 개념으로 정식화하려 했다. 폰 미제스의 집합체는 결과들의 무한수열로서, 각 결과의 상대빈도가 극한을 가져야 할 뿐 아니라 미래 결과를 미리 사용하지 않는 허용 가능한 선택규칙으로 부분수열을 골라도 같은 극한이 유지되어야 했다. 어떤 선택규칙을 허용할 것인지와 이 조건이 충분한 무작위성을 표현하는지는 이후 논쟁의 대상이 되었다.[VonMises1919]

주관적 해석도 발전했다. 브루노 데 피네티(Bruno de Finetti)는 확률을 불확실한 명제에 대한 개인의 믿음의 정도로 해석하고, 그 믿음을 일관된 베팅 가격과 연결했다.[DeFinetti1931]

[힐베르트가 1900년 파리 세계수학자대회 강연과 뒤이은 출판을 통해 제시한 문제 목록의 여섯 번째 문제는 “물리학 공리의 수학적 취급”이었다. 힐베르트는 특히 확률론과 역학을 공리적으로 다룰 것을 요청했다. 콜모고로프의 공리화는 이 가운데 확률론 부분에 대한 매우 중요한 응답으로 평가할 수 있다.

안드레이 콜모고로프(Andrey Kolmogorov)는 1933년 『확률론의 기초개념』(Grundbegriffe der Wahrscheinlichkeitsrechnung)에서 확률론의 측도론적 형식을 체계적으로 제시했다.[Kolmogorov1933] 이는 아무 선행 작업 없이 새 이론을 만든 일이 아니라, 보렐·르베그·다니엘·프레셰를 비롯한 연구자들이 발전시킨 측도와 적분의 아이디어를 하나의 확률론 체계로 종합한 작업이었다.[ShaferVovk2006]

정의: 확률공간
집합 \(\Omega\), 그 위의 시그마대수 \(\mathcal F\), 함수 \(P:\mathcal F\to[0,1]\)가 다음 조건을 만족한다고 하자.

  • 모든 \(A\in\mathcal F\)에 대하여 \(P(A)\ge0\)이다.
  • \(P(\Omega)=1\)이다.
  • 서로소인 사건열 \(A_1,A_2,\ldots\in\mathcal F\)에 대하여 \[ P\left(\bigcup_{n=1}^{\infty}A_n\right) =\sum_{n=1}^{\infty}P(A_n) \] 이다.

이때 \(P\)를 확률측도(probability measure), 순서삼중항 \((\Omega,\mathcal F,P)\)를 확률공간(probability space)이라고 한다. \(\Omega\)의 원소 \(\omega\)는 표본점(sample point) 또는 결과(outcome)이고, \(\mathcal F\)의 원소는 사건(event)이다.[Kallenberg2021]

콜모고로프의 원래 제시는 오늘날 교과서의 문장과 그대로 같지는 않았다. 그는 시그마대수 대신 집합체(field of sets)를 정의역으로 삼고, 비음성·정규화·유한가법성을 제시한 뒤 감소하는 사건열에 관한 연속성 공리를 추가했다. 유한가법성과 이 연속성 공리를 함께 쓰면, 서로소인 집합열의 합집합이 그 집합체에 속하는 경우 가산가법성을 얻는다. 오늘날의 정의는 정의역을 시그마대수로 두고 가산가법성을 직접 요구하는 표준 형식이다.[Kolmogorov1933][ShaferVovk2006]

공리계 자체는 확률이 장기 상대빈도인지, 물리적 성향인지, 합리적 믿음의 정도인지를 결정하지 않는다. 일단 어떤 모형이 위 조건을 만족하면 측도의 연속성과 수렴정리 같은 결과를 적용할 수 있다. 콜모고로프의 원전에도 수학적 공리계와 경험 세계를 연결하는 해석이 별도로 들어 있다.

확률론의 사전

집합의 측도와 사건의 확률, 함수의 적분과 확률변수의 기댓값 사이의 유사성은 콜모고로프 이전에도 알려져 있었다. 1933년의 저서는 이러한 대응을 일관된 확률론 체계 안에 정착시키는 데 결정적인 역할을 했다.

가측공간 \((S,\Sigma)\)에서 실수로 가는 함수 \(f:S\to\mathbb R\)를 생각하자. 실수의 보렐 시그마대수를 \(\mathcal B(\mathbb R)\)라 할 때, 모든 \(B\in\mathcal B(\mathbb R)\)에 대하여 \[ f^{-1}(B)\in\Sigma \] 이면 \(f\)를 가측함수(measurable function)라고 한다. 보렐 시그마대수는 반직선들로 생성되므로, 모든 \(t\in\mathbb R\)에 대하여 \[ f^{-1}((-\infty,t])\in\Sigma \] 인지 확인하는 것과 동치이다. [가측성의 원상 조건은 “열린집합의 원상이 열린집합”이라는 연속성의 정의와 형식적으로 닮았다. 그러나 두 조건은 동일하지 않다. 연속성은 위상의 열린집합에 관한 조건이고, 가측성은 시그마대수에 속하는 집합에 관한 조건이다. 위상공간에 보렐 시그마대수를 주면 연속함수는 가측이지만, 가측함수가 반드시 연속인 것은 아니다.]

확률공간 \((\Omega,\mathcal F,P)\)에서 \((\mathbb R,\mathcal B(\mathbb R))\)로 가는 가측함수 \(X:\Omega\to\mathbb R\)를 확률변수(random variable)라고 한다.[Kallenberg2021]

가측성만으로 모든 실수값 확률변수가 유한한 르베그 적분을 갖는 것은 아니다. \(X\ge0\)이면 \[ E[X]=\int_\Omega X\,dP \] 를 \(+\infty\)까지 허용하는 확장된 값으로 정의할 수 있다. 부호가 바뀌는 확률변수가 유한한 기댓값을 가지려면 \[ E[|X|]=\int_\Omega |X|\,dP<\infty \] 이어야 한다. 이 조건을 만족하는 \(X\)의 기댓값(expectation)은 \[ E[X]=\int_\Omega X\,dP \] 로 정의된다.[Kallenberg2021]

예를 들어 \([0,1]\)에 르베그 측도를 확률측도로 두면 디리클레 함수는 유리수 집합의 지시함수이다. 유리수 집합의 측도가 \(0\)이므로 \[ \int_{[0,1]}D\,dm=0 \] 이다. 리만 적분은 존재하지 않지만 르베그 적분은 존재하는 구체적인 예이다. 유한 표본공간에서 \(\mathcal F=\mathcal P(\Omega)\)인 경우에는 르베그 적분에 의한 기댓값이 익숙한 가중합 \[ E[X]=\sum_{\omega\in\Omega}X(\omega)P(\{\omega\}) \] 으로 환원된다.

두 사건 \(A,B\in\mathcal F\)가 \[ P(A\cap B)=P(A)P(B) \] 를 만족하면 두 사건이 독립(independent)이라고 한다. 두 실수값 확률변수 \(X,Y\)의 주변분포와 결합분포를 각각 \[ \mu_X=P\circ X^{-1},\qquad \mu_Y=P\circ Y^{-1},\qquad \mu_{(X,Y)}=P\circ(X,Y)^{-1} \] 로 두자. \(X\)와 \(Y\)가 독립이라는 것은 모든 보렐집합 \(A,B\subseteq\mathbb R\)에 대하여 \[ P(X\in A,\,Y\in B)=P(X\in A)P(Y\in B) \] 가 성립한다는 뜻이며, 이는 \[ \mu_{(X,Y)}=\mu_X\otimes\mu_Y \] 와 동치이다.[Kallenberg2021]

[두 확률측도 \(\mu_1,\mu_2\)가 각각 \((S_1,\Sigma_1)\), \((S_2,\Sigma_2)\) 위에 주어지면, 곱 시그마대수 \(\Sigma_1\otimes\Sigma_2\) 위에는 \[ (\mu_1\otimes\mu_2)(A_1\times A_2) =\mu_1(A_1)\mu_2(A_2) \] 를 만족하는 유일한 곱측도(product measure)가 존재한다. 이 구성에 두 측도공간이 미리 “독립적”이라는 전제는 필요하지 않다. 독립성은 공동 확률공간 위의 확률변수나 시그마대수에 대해 정의되는 별도의 성질이다.[Kallenberg2021]]

이 대응은 확률론에 측도론적 기초를 제공한다. 조건부확률, 독립성, 확률과정, 경험적 모형화는 확률론에 고유한 구조와 문제를 형성한다.[Kolmogorov1933][Kallenberg2021]

우연의 본성을 확정하지 않고 형식을 세우다

지금까지 기하학적 길이를 복잡한 집합으로 확장하는 과정을 추적했다. 디리클레 함수는 현대적 관점에서 리만 적분의 제한을 보여 준다. 르베그는 조르당과 보렐 등의 선행 연구를 바탕으로 1902년에 측도와 적분을 확장했고, 비탈리는 1905년에 선택공리를 이용한 집합으로 그 길이를 모든 부분집합에까지 확장할 수 없음을 선명하게 드러냈다. 카라테오도리의 판정법과 추상 측도공간의 공리는 측정할 집합족과 측도 함수를 분리해 다루는 일반적인 언어를 제공했다.

콜모고로프의 공리화는 서로 다른 확률 해석들이 공유할 수 있는 공통의 수학적 형식을 확립했다. 이 형식 안에서 확률변수는 가측함수로, 적분 가능한 확률변수의 기댓값은 르베그 적분으로, 독립성은 결합분포와 곱측도의 관계로 표현된다. 이 개념들은 콜모고로프 이전에도 연구되고 있었지만, 1933년의 저서는 그것들을 현대 확률론의 일관된 체계 안에 정착시키는 데 결정적인 역할을 했다.

이 연재에서는 이러한 추상화의 효과를 논쟁의 우회라고 부르기로 한다. 대상의 존재론적 본질을 하나로 확정하지 않은 채, 여러 해석이 공유할 수 있는 형식적 조건을 분리하여 이론을 전개하는 방식이다. 그의 원전은 수학적 형식과 경험 세계의 연결도 별도로 논의했다.

확률모형의 수학적 핵심은 사건들의 시그마대수와 그 위에 정의된 비음·가산가법·정규화 측도 \(P\)이다. 공리계는 이 구조 안에서 무엇을 계산할 수 있는지를 알려 주지만, 실제 현상에서 무엇을 \(\Omega\), \(\mathcal F\), \(P\)로 선택해야 하는지와 그 수치가 빈도·성향·믿음 가운데 무엇을 뜻하는지는 별도의 해석 및 모형화 문제로 남는다.

지금까지 세 편의 연재에 걸쳐 살펴본 벡터공간, 위상공간, 측도공간은 현대 수학의 중요한 공리적 구조들이다. 오늘날의 교과서는 대개 완성된 정의와 정리의 연역적 순서로 이 구조들을 제시하지만, 역사적 발견은 훨씬 복잡한 문제와 실패를 거쳐 진행되었다. 9부에서는 인류가 개념을 발견한 역사적 순서, 완성된 수학을 배열하는 논리적 순서, 개인이 개념을 익히는 인지적 순서가 왜 서로 어긋나는지 살펴본다.

참고문헌

저작권

이슬비, 2026. designeralice＠daum.net.

수학적 추상화

  1. 수학적 추상화의 기본 개념
  2. 초기 수학에서의 암묵적 추상화
  3. 대수적 기호와 연산 법칙
  4. 공리적 방법에 의한 추상화
  5. 수학적 구조와 범주론
  6. 벡터공간과 선형 구조
  7. 거리공간과 위상공간
  8. 측도공간과 확률공간
  9. 수학적 추상화의 인지와 학습
  10. 현대 수학 연구에서의 추상화
  11. 수학적 추상화의 방법과 철학