함수의 극한의 정의

함수의 극한은 미적분의 시작부터 끝까지 모든 곳에 나타나는 개념이다. 이 글에서는 함수의 극한의 엄밀한 정의를 살펴보고, 극한과 관련된 기본적인 성질을 증명한다. 이 글에서 다루는 함수는 정의역과 공역이 $\mathbb{R}$의 부분집합인 것으로 한정한다.

극한의 엄밀한 정의

$f$가 실수 $c$를 원소로 갖는 한 열린 구간에서 정의된 함수라고 하자. 직관적으로 $c$에서 $f$의 극한값이 $L$이라는 것은 $x$가 $c$에 한없이 가까이 다가갈 때 $f(x)$의 값이 $L$에 한없이 가까이 다가감을 의미한다. 논리적 정의는 다음과 같다.

정의 1. $c$와 $L$이 실수이고, 함수 $f$가 $c$를 원소로 갖는 한 열린 구간에서 정의되었다고 하자. (단, $c$에서는 $f$의 값이 정의되지 않아도 된다.) 만약 임의의 $\epsilon > 0$에 대하여 $\delta > 0$이 존재하여 $0 < |x-c | < \delta$인 모든 $x$에 대하여 $|f(x) - L | < \epsilon$을 만족시키면, ‘$x$가 $c$에 접근할 때 $f$의 극한은 $L$이다’라고 말하고, 기호로는 \[f(x) \,\to\, L \quad \text{as} \quad x\,\to\,c \tag{1}\] 또는 \[\lim_{x\,\to\,c} f(x) = L\tag{2}\] 로 나타낸다.

극한의 정의에서 $x$는 항상 $f$의 정의역의 점을 나타내는 것으로 약속한다.

다음 표현은 모두 같은 뜻이다.

$x$가 $c$에 접근할 때 $f$의 극한은 $L$이다.
$x=c$에서 $f$의 극한값은 $L$이다.
$x$가 $c$에 접근할 때 $f(x)$는 $L$에 수렴한다.
$x\,\to\,c$일 때 $f(x) \,\to\, L$이다.

함숫값과 극한값은 관계가 없다. 예컨대 다음 세 함수 모두 $3$에서 극한값은 $7$이다.

\[f(x) = 7 ,\] \[g(x) = \begin{cases} 7 \quad & \text{if} \,\, x \ne 3 \\[8pt] 0 \quad & \text{if} \,\, x = 3 , \end{cases}\] \[h(x) = \frac{7(x-3)}{x-3}. \]

극한의 정의를 이용하여 증명하기

극한의 정의를 이용하여 극한값을 증명하는 예를 살펴보자.

보기 1. 극한의 정의를 이용하여 다음을 증명해 보자. \[\lim_{x\,\to\,1} (3x-1) = 2\] $f(x) = 3x-1 ,$ $c = 1,$ $L = 2$라고 하면 $f$는 $c$를 포함하는 열린구간, 즉 실수 전체 구간에서 잘 정의된 함수이다. 이제 극한의 정의를 이용하자.

$\epsilon > 0$이 임의로 주어졌다고 하자. $\delta = \frac{1}{3} \epsilon$이라고 하면 $\delta > 0$이다. 이제 $ 0 < | x-1 | < \delta$임을 가정하면 \[|f(x) - L | = | (3x-1) -2 | = |3x-3| = 3 |x-1| < 3 \delta = \epsilon\] 이므로 $x$가 $1$에 접근할 때 $(3x-1)$은 $2$에 접근한다.

위 보기에서 $\delta$의 값은 $\frac{\epsilon}{3}$보다 더 작은 것으로 두어도 된다. $\epsilon$이 주어졌을 때, 극한의 정의를 만족시키는 $\delta$의 값은 하나만 있는 것이 아니다.

보기 2. $k$가 실수일 때, 극한의 정의를 이용하여 다음을 증명해 보자. \[\lim_{x\,\to\,k} x = k\] $\epsilon > 0$이 임의로 주어졌다고 하자. $\delta = \epsilon$이라고 하면 $\delta > 0$이다. 이제 $ 0 < |x-k| < \delta$임을 가정하면 $|x-k| < \delta = \epsilon$이므로 원하는 결론을 얻는다.

보기에서 보다시피 $c$에서 $f$의 극한값이 $L$이라는 증명을 ‘기술’하는 과정은 다음과 같다.

$\epsilon > 0$이 임의로 주어졌다고 가정한다.
다음으로 적당한 $\delta > 0$를 설정한다.
$0 < | x-c | < \delta$임을 가정하고 $ |f(x) - L | < \epsilon$이 성립함을 보인다.

이와 같은 증명의 기술 과정에서 $\delta$의 값을 찾는 과정은 보통 잘 드러나지 않는다. $\delta$를 찾는 과정은 증명을 기술하는 과정이 아니라 증명을 기술하기 위한 사전 작업이다.

보기 3. 극한의 정의를 이용하여 다음을 증명해 보자. \[\lim_{x\,\to\,2} (x^2 +1 ) = 5\] $\epsilon > 0$이 임의로 주어졌다고 하자. 극한의 정의를 만족시키는 $\delta$를 찾아야 한다. 그러한 양수 $\delta$가 이미 주어졌다고 가정하고 $|x-2| < \delta$임을 가정하자. 그러면 \[| (x^2 +1) -5 | = |x^2 -4| = |x+2|\,|x-2| < \delta |x+2|\] 를 얻는다. 마지막 항 $\delta |x+2|$에서 $\delta$의 값은 충분히 작게($0$에 가깝게) 만들어줄 수 있지만 $|x+2|$의 값은 그렇지 않다.

대신 $x$의 값의 범위가 제한되도록 하여 $|x+2|$의 값의 범위도 제한되도록 할 수 있다. 하지만 우리는 $x$의 값의 범위를 직접 제한하지 못한다. 다만 $|x-2|$의 값의 범위만 제한할 수 있을 뿐이다. 만약 $|x-2| < 1$이라면 $1 < x <3$이므로 $|x+2| < 5$라는 제한된 범위를 얻는다. 이것을 위해서는 $\delta \le 1$이라는 조건을 주면 된다. (물론 $|x-2|$의 값의 범위를 제한하는 수는 마음대로 정할 수 있다. 예컨대 $|x-2| < 1$ 대신 $|x-2| < 7$로 두어도 된다. 이 경우 $|x+2| < 5$ 대신 $|x+2| < 11$이라는 제한된 범위를 얻는다.)

$\delta \le 1$이라는 가정 하에 $\delta |x+2| < \epsilon $이 성립하려면 어떻게 해야 할까? $|x+2| < 5$이므로 \[\delta |x+2| < 5\delta\] 이며, $\delta \le \frac{\epsilon}{5}$이라면 위 식의 값은 $\epsilon$ 이하가 된다. 이로써 $\delta$의 값은 두 부등식 $\delta \le 1,$ $\delta \le \frac{\epsilon}{5}$을 모두 만족시키면 충분함을 알 수 있다.

여기까지는 $\delta$를 찾기 위한 탐색 과정이었을 뿐, 증명을 기술한 것은 아니다. 이제 극한의 정의에 맞게 증명을 기술해 보자. (이 문제가 시험 문제였다면, 답안을 작성할 땐 다음 문단의 내용부터 쓰면 된다.)

$\epsilon > 0$이 임의로 주어졌다고 하자. $\delta = \min \left\{ 1 ,\, \frac{\epsilon}{5} \right\}$이라고 하자. 그리고 $0 < |x-2| < \delta $라고 가정하자. 그러면 $ |x-2| < 1$이므로 $ 1 < x < 3$ 즉 \[|x+2| < 5\] 를 얻는다. 이 부등식과 $\delta \le \epsilon / 5$라는 사실을 이용하면 다음을 얻는다. \[ |(x^2 +1) -5| = |x+2|\,|x-2| < \delta |x+2| < 5 \delta \le \epsilon.\] 이로써 정의를 이용하여 극한을 증명하였다.

수렴하지 않음을 보이기

극한의 정의의 부정을 이용하면 주어진 값이 함수의 극한이 아님을 보일 수 있다. $c$에서 함수 $f : D \to \mathbb{R}$의 극한이 $L$이라는 것을 논리기호로 나타내면 \[\forall \epsilon > 0 \,\, \exists \delta > 0 \,\, \forall x \in D \, : \, ( 0 < | x-c | < \delta \,\rightarrow\, |f(x)-L| < \epsilon )\] 이며, 이 문장의 부정은 \[\exists \epsilon > 0 \,\, \forall \delta > 0 \,\, \exists x \in D \, : \, ( 0 < | x-c | < \delta \,\,\, \text{and} \,\,\, |f(x)-L| \ge \epsilon )\] 이다. 이 문장의 뜻은 “적당한 $\epsilon > 0$이 존재하여 임의의 $\delta > 0$에 대하여 [$0 < | x-c | < \delta$이지만 $|f(x)-L| \ge \epsilon$인 점 $x \in D$가 존재]한다”이다.

보기 4. 함수 $f$가 다음과 같이 주어졌다고 하자. \[f(x) =\begin{cases} 5 \qquad & \text{if} \,\, x > 3 \\[8pt] 1 \qquad & \text{if} \,\, x \le 3 \end{cases}\] $x = 3$일 때 함숫값은 $f(3) = 1$이다. 그러나 $x \,\to\,3$일 때 $f$의 극한값은 $1$이 아니다. 이것을 증명해 보자.

$\epsilon = 2$이라고 하자. 그리고 $\delta > 0$가 임의로 주어졌다고 하자. 실수의 조밀성에 의하여 $3 < x < 3+\delta$인 실수 $x$가 존재한다. 이 때 $0 < |x-3| < \delta$이지만 \[|f(x)-1| = |5-1| = 4 \ge 2 = \epsilon\]이므로 $x \,\to\,3$일 때 $f$의 극한값은 $1$이 아니다.

위 보기에서 보는 바와 같이 극한의 부정을 이용하여 주어진 값이 극한값이 아님을 보일 때에는 ‘적당한 $\epsilon$’을 잡는 것과 ‘적당한 $x$’를 찾는 것이 증명의 핵심이다.

보기 5. 함수 $f$가 다음과 같이 주어졌다고 하자. \[f(x) = \begin{cases} 1 \qquad & \text{if} \,\, x\in\mathbb{Q} \\[8pt] 0 \qquad & \text{if} \,\, x\notin\mathbb{Q} \end{cases}\] 그리고 실수 $c$가 임의로 주어졌다고 하자. $x\,\to\,c$일 때 $f(x)$의 극한이 존재하지 않음을 증명해 보자.

결론에 반하여 $x\,\to\,c$일 때 $f(x)$의 극한값이 존재하고, 그 값이 $L$이라고 가정하자. $\epsilon = 1/2$이라고 하고, $\delta > 0$가 임의로 주어졌다고 하자.

만약 $L \ge 1/2$이라면 열린구간 $(c-\delta ,\, c+\delta )$에서 무리수 $x$를 택한다. 그러면 $0 < |x-c| < \delta$이지만 $|f(x) - L| = L \ge \epsilon$이므로 $L$은 극한값이 아니다.

만약 $L < 1/2$이라면 열린구간 $(c-\delta ,\, c+\delta )$에서 유리수 $x$를 택한다. 그러면 $0 < |x-c| < \delta$이지만 $|f(x) - L| = 1-L \ge \epsilon$이므로 $L$은 극한값이 아니다.

그러므로 $x\,\to\,c$일 때 어떠한 값도 $f(x)$의 극한값이 될 수 없다.

극한의 유일성

사실 (2)와 같이 등호를 사용하여 극한 기호로 나타낼 수 있는 이유는 극한의 유일성이 보장되기 때문이다. 즉 다음이 성립한다.

정리 1. 한 점에서 함수의 극한이 존재한다면, 그것은 유일하다. 즉 \[f(x)\,\to\,L \quad \text{as} \quad x\,\to\,c\] 이고 \[f(x)\,\to\,M \quad \text{as} \quad x\,\to\,c\] 이면 $L=M$이다.

증명

$\epsilon > 0$이 임의로 주어졌다고 하자. 그러면 $\frac{\epsilon}{2}$도 양수이다. 이 때 극한의 정의에 의하여 $\delta_1 > 0$이 존재하여 $ 0 < |x-c| < \delta_1 $일 때마다 \[|f(x) - L | < \frac{\epsilon}{2}\] 이 성립하며, $\delta_2 > 0$이 존재하여 $ 0 < |x-c| < \delta_2 $일 때마다 \[|f(x) - M | < \frac{\epsilon}{2}\] 이 성립한다. $ 0 < |x-c| < \min \left\{ \delta_1 ,\, \delta_2 \right\}$인 $x$를 택하면 \[\begin{align} |L-M| &= |(L-f(x)) + (f(x)-M)| \\[8pt] &\le |f(x) - L | + |f(x)-M| \\[6pt] &< \frac{\epsilon}{2} + \frac{\epsilon}{2} = \epsilon \end{align}\] 이다. 여기서 $\epsilon$은 임의의 양수이므로 $|L - M| =0$ 즉 $L = M$을 얻는다.

극한의 대수적 성질

극한의 정의는 극한을 구하는 방법을 직접적으로 제공하지 않는다. 그러나 이미 극한값을 알고 있는 함수를 대수적으로 변형하거나 결합하여 새로운 함수를 만들었을 때 다음과 같은 방법으로 극한값을 쉽게 구할 수 있다.

정리 2. (극한의 대수적 성질) 만약 $L,$ $M,$ $c,$ $k$가 실수이고 $f$와 $g$가 $c$를 원소로 갖는 한 열린 구간의 $c$를 제외한 점에서 정의되었으며, \[\lim_{x\,\to\,c} f(x) = L , \quad \lim_{x\,\to\,c}g(x)=M\] 이면 다음이 성립한다.

(a) $(f+g)$는 $c$에서 수렴하고 \[ \lim _ { x\,\to\,c} (f(x)+g(x)) = L+M. \]

(b) $(f-g)$는 $c$에서 수렴하고 \[ \lim _ { x\,\to\,c} (f(x)-g(x)) = L-M . \]

(d) $fg$는 $c$에서 수렴하고 \[ \lim _ { x\,\to\,c} (f(x)g(x)) = LM . \]

(e) $M \ne 0$이면 $f/g$는 $c$에서 수렴하고 \[\lim_{x\,\to\,c} \frac{f(x)}{g(x)} = \frac{L}{M} .\]

증명

(a)와 (d)를 먼저 증명하고, 이것을 이용하여 (c)를 증명하여, 그 다음에 (b)를 증명한다. (e)는 가장 마지막에 증명한다.

(a)의 증명. $\epsilon > 0$이 임의로 주어졌다고 하자. 극한의 정의에 의하여 $\delta_1 > 0$이 존재하여 $0 < |x-c| < \delta_1$인 모든 $x$에 대하여 \[|f(x)-L| < \frac{\epsilon}{2}\]이 성립하며, $\delta_2 > 0$가 존재하여 $0 < |x-c| < \delta_2$인 모든 $x$에 대하여 \[|g(x)-M| < \frac{\epsilon}{2}\]이 성립한다. $\delta = \min\left\{ \delta_1 ,\, \delta_2 \right\}$라고 하자. 그러면 $ 0 < |x-c| < \delta$인 모든 $x$에 대하여 \[\begin{align} |(f(x)+g(x)) - (L+M)| &= |(f(x)-L) + (g(x)-M)| \\[6pt] &\le |f(x)-L| + |g(x)-M| \\[6pt] &< \frac{\epsilon}{2} + \frac{\epsilon}{2} = \epsilon . \end{align}\]

(d)의 증명. $\epsilon > 0$이 임의로 주어졌다고 하자. $1$은 양수이므로, 극한의 정의에 의하여 $\delta_1 > 0$이 존재하여 $0 < |x-c| < \delta_1$인 모든 $x$에 대하여 \[ | g(x)-M | < 1 \tag{3}\] 이 성립하며, $\delta_2 > 0$가 존재하여 $0 < |x-c| < \delta_2$인 모든 $x$에 대하여 \[ | f(x)-L | < 1 \tag{4}\] 이 성립한다. 여기서 (3)과 (4)를 변형하면 각각 \[ |g(x)| < |M|+1 ,\quad |f(x)| < |L|+1 \tag{5}\] 을 얻는다. 한편 $ \epsilon/(2(|M|+1))$과 $\epsilon/(2(|L|+1))$은 모두 양수이므로, 극한의 정의에 의하여 $\delta_3 > 0$이 존재하여 $0 < |x-c| < \delta_3$인 모든 $x$에 대하여 \[ |f(x) - L| < \frac{\epsilon}{2(|M| +1)} \tag{6}\] 이 성립하며, $\delta_4 > 0$이 존재하여 $0 < |x-c| < \delta_4$인 모든 $x$에 대하여 \[ |g(x) - M| < \frac{\epsilon}{2(|L| +1)} \tag{7}\] 이 성립한다. 이제 $\delta = \min\left\{ \delta_1 ,\, \delta_2 ,\, \delta_3 ,\, \delta_4 \right\}$라고 하자. 그러면 (5), (6), (7)에 의하여 \[\begin{align} | f(x)g(x) - LM| &= | f(x)g(x) - Lg(x) + Lg(x) - LM| \\[8pt] &\le |f(x)-L| \, |g(x)| + |L| \, |g(x)-M| \\[8pt] &< |f(x) -L| (|M|+1 ) + (|L|+1)|g(x)-M| \\[8pt] &< \frac{\epsilon}{2(|M|+1)} (|M|+1) + (|L|+1) \frac{\epsilon}{2(|L|+1)} \\[6pt] &= \frac{\epsilon}{2} + \frac{\epsilon}{2} = \epsilon \end{align}\] 이 성립한다.

(c)의 증명. $g(x) = k$라고 하면 $x\,\to\,c$일 때 $g(x) \,\to\,k$이고, $kf(x) = g(x)f(x)$이므로 (d)에 의하여 \[\begin{align} \lim _ { x\,\to\,c} (kf(x)) &= \lim _ { x\,\to\,c} (g(x)f(x)) \\[6pt] &= \left( \lim _ { x\,\to\,c} g(x) \right) \left( \lim _ { x\,\to\,c} f(x) \right) \\[6pt] &= kL \end{align}\] 을 얻는다.

(b)의 증명. (a)와 (c)에 의하여 다음을 얻는다. \[\begin{align} \lim _ { x\,\to\,c} (f(x)-g(x)) &= \lim _ { x\,\to\,c} (f(x) + (-1)g(x)) \\[6pt] &=\lim _ { x\,\to\,c} f(x) + \lim _ { x\,\to\,c} ((-1)g(x)) \\[6pt] &=\lim _ { x\,\to\,c} f(x) + (-1) \lim _ { x\,\to\,c} g(x) \\[6pt] &= L + (-1)M \\[8pt] &= L-M. \end{align}\]

(e)의 증명. $\epsilon > 0$이 임의로 주어졌다고 하자. $|M|/2$은 양수이므로 극한의 정의에 의하여 $\delta_1 > 0$이 존재하여 $0 < |x-c| < \delta_1$인 모든 $x$에 대하여 \[|g(x) - M| < \frac{|M|}{2}\tag{8}\] 이 성립한다. 또한 $|M|^2 \epsilon / 2$은 양수이므로 극한의 정의에 의하여 $\delta_2 > 0$이 존재하여 $0 < |x-c| < \delta_2$인 모든 $x$에 대하여 \[|g(x) - M| < \frac{|M|^2}{2} \epsilon\tag{9}\] 이 성립한다. $\delta = \min\left\{ \delta_1 ,\,\delta_2 \right\}$라고 하자. 그리고 $0 < |x-c| < \delta$라고 하자. (8)을 변형하면 \[|g(x)| > \frac{|M|}{2}\] 즉 \[\frac{1}{|g(x)|} < \frac{2}{|M|}\tag{10}\] 를 얻는다. 그러므로 (10), (9)에 의하여 \[\begin{align} \left| \frac{1}{g(x)} - \frac{1}{M} \right| &= \frac{|M - g(x)|}{|g(x)|\,|M|} \\[6pt] &< \frac{2}{|M|^2} |M-g(x)| \\[6pt] &< \frac{2}{|M|^2} \cdot \frac{|M|^2}{2} \epsilon = \epsilon \end{align}\] 이 성립한다. 즉 \[\lim_{x\,\to\,c}\frac{1}{g(x)} = \frac{1}{M}\] 이다. 이 등식과 (b)를 이용하면 \[\lim_{x\,\to\,c}\frac{f(x)}{g(x)} = \lim_{x\,\to\,c}\left( f(x) \cdot \frac{1}{g(x)}\right) = L \cdot \frac{1}{M} = \frac{L}{M}\] 을 얻는다.

극한의 대수적 성질을 이용하면 다항함수와 분수함수의 극한값을 쉽게 구할 수 있다.

보기 6. 다항함수의 극한값은 함숫값과 같다: \[\begin{align} \lim_{x\to3}(2x^3 -x^2 +4x ) &= \lim_{x\to 3} (2x^3) - \lim_{x\to 3}(x^2 ) + \lim_{x\to 3}(4x) \\[6pt] &= 2 \lim_{x\to 3} x^3 - \lim_{x\to 3}(x^2 ) + 4 \lim_{x\to 3} x \\[4pt] &= 2 \left(\lim_{x\to 3} x\right)^3 - \left(\lim_{x\to 3}x\right)^2 +4 \lim_{x\to 3} x \\[6pt] &= 2 \times 3^3 - 3^2 + 4 \times 3 \\[8pt] &= 54 - 9 + 12 = 57. \end{align}\]

보기 7. 분수함수의 극한값은, 분모가 $0$이 아니라면, 함숫값과 같다: \[\begin{align} \lim_{x\to -1}\frac{x^2 -3}{x+4} &= \frac{\lim_{x\to -1} (x^2 -3)}{\lim_{x\to -1} (x+4)} \\[6pt] &= \frac{(-1)^2 -3}{(-1)+4} \\[6pt] &= \frac{-2}{3} = - \frac{2}{3} . \end{align}\]

부등호와 관련된 극한의 성질

다음 정리는 함수의 식을 정확하게 알지 못하거나, 함수의 식을 대수적으로 풀기 어려울 때에도 극한값을 구할 수 있게 해주는 정리이다.

정리 3. (샌드위치 정리) $c$를 원소로 갖는 한 열린구간의 $x=c$를 제외한 모든 점 $x$에 대하여 \[g(x) \le f(x) \le h(x)\] 가 성립하고 \[\lim_{x\to c} g(x) = \lim_{x\to c} h(x) = L\] 이면 \[\lim_{x\to c} f(x) = L\] 이 성립한다.

증명

$\epsilon > 0$이 임의로 주어졌다고 하자. 극한의 정의에 의하여 $\delta_1 > 0$이 존재하여 $0 < |x-c| < \delta_1$인 모든 $x$에 대하여 \[|g(x) - L| < \epsilon\] 즉 \[ L - \epsilon < g(x) < L+ \epsilon\] 이 성립하며, $\delta_2 > 0$가 존재하여 $0 < |x-c| < \delta_2$인 모든 $x$에 대하여 \[|h(x) - L| < \epsilon\] 즉 \[ L - \epsilon < h(x) < L+ \epsilon\] 이 성립한다. $\delta = \min\left\{\delta_1 ,\,\delta_2 \right\}$라고 하면 $0 < |x-c| < \delta$인 모든 $x$에 대하여 \[ L - \epsilon < g(x) \le f(x) \le h(x) < L + \epsilon\] 즉 \[ | f(x) - L | < \epsilon\] 이 성립하므로 $x\,\to\,c$일 때 $f(x)\,\to\,L$이다.

샌드위치 정리를 이용하면 다음 보기와 같이 직접 구하기 어려운 함수의 극한값을 구할 수 있다.

보기 8. $\theta$가 $0$이 아닌 각이고 그 단위가 라디안이라고 하자.

그러면 위 그림을 통해 다음 부등식을 얻는다. \[- | \theta | \le \sin \theta \le | \theta | ,\\[8pt] - | \theta | \le 1- \cos \theta \le | \theta | .\] 이 부등식과 샌드위치 정리를 이용하면 다음 극한을 얻는다. \[\lim_{\theta \,\to\,0} \sin \theta =0 ,\\[8pt] \lim_{\theta \,\to\,0} \cos\theta = 1.\]

두 함수의 대소 관계와 극한값의 대소 관계 사이에는 다음 정리가 성립한다.

정리 4. $c$를 원소로 갖는 한 열린구간의 $x=c$를 제외한 모든 점 $x$에 대하여 \[f(x) \le g(x)\] 가 성립하고, $x\,\to\,c$일 때 $f(x)$와 $g(x)$의 극한이 모두 존재하면 \[\lim_{x\to c} f(x) \le \lim_{x\to c}g(x)\] 가 성립한다.

증명

결론을 부정하자. 즉 \[\lim_{x\to c}f(x) = L ,\quad \lim_{x\to c}g(x)=M\] 이고 $L > M$이라고 가정하자. \[\epsilon = \frac{L-M}{2}\] 라고 하자. 그러면 극한의 정의에 의하여 $\delta_1 > 0$이 존재하여 $0 < |x-c| < \delta_1$인 모든 $x$에 대하여 \[|f(x)-L| < \epsilon = \frac{L-M}{2}\] 즉 \[f(x) > L - \frac{L-M}{2}\] 이 성립하며, $\delta_2 > 0$이 존재하여 $0 < |x-c| < \delta_2$인 모든 $x$에 대하여 \[|g(x)-M| < \epsilon = \frac{L-M}{2}\] 즉 \[g(x) < M + \frac{L-M}{2}\] 이 성립한다. $\delta = \min\left\{\delta_1 ,\,\delta_2\right\}$라고 하면 $0 < |x-c| < \delta$인 $x$에 대하여 \[f(x) > L - \frac{L-M}{2} = \frac{L+M}{2} = M + \frac{L-M}{2} > g(x)\] 이므로, $f(x) \le g(x)$라는 사실에 모순이다. 그러므로 $L \le M$이다.

함수의 극한과 수열의 극한의 관계

함수의 극한과 수열의 극한은 밀접한 관계를 가지고 있다. 두 극한의 관계를 살펴보기 위하여 수열의 극한을 엄밀하게 정의한다.

정의 2. (수열의 극한)

$\left\{ x_n \right\}$이 수열이고 $L$이 실수라고 하자. 만약 임의의 $\epsilon > 0$에 대하여 자연수 $N$이 존재하여 $n > N$인 모든 $n$에 대하여 $\lvert x_n - L \rvert < \epsilon$을 만족시키면, ‘수열 $\left\{ x_n \right\}$은 $L$에 수렴한다’라고 말하고 $L$을 $\left\{x_n \right\}$의 극한이라고 부른다. 수열 $\left\{ x_n \right\}$이 어떠한 값에도 수렴하지 않을 때 ‘수열 $\left\{ x_n \right\}$은 발산한다’라고 말한다.

수열 $\left\{ x_n \right\}$이 $L$에 수렴하는 것을 다음과 같이 나타낸다. \[\lim_{n\to\infty} x_n = L\] 또는 \[x_n \,\to\, L .\]

수열의 극한 또한 함수의 극한과 마찬가지로 정리 2와 정리 3에서 살펴본 대수적 성질을 가지고 있다. 수열의 극한의 성질을 상세히 살펴보는 것은 이 글의 목적이 아니므로 이 글에서 수열의 극한의 성질과 관련된 논의는 생략한다.

정리 5. (함수의 극한과 수열의 극한의 관계)

함수 $f$가 점 $c$를 원소로 갖는 열린 구간 $I$에서 정의되어 있고 $L$이 실수라고 하자. 이때, $f$가 $c$에서 $L$에 수렴할 필요충분조건은 모든 항이 $I \setminus \left\{ c \right\}$에 속하고 $x_n \,\to\, c$인 임의의 수열 $\left\{ x_n \right\}$에 대하여 $ f( x_n ) \,\to\, L$인 것이다.

증명

먼저 필요조건을 증명하자. $f$가 $c$에서 $L$에 수렴한다고 하자. 그리고 수열 $\left\{ x_n \right\}$의 모든 항이 $I\setminus \left\{ c \right\}$에 속하고 $c$에 수렴한다고 하자. 이제 $f(x_n ) \,\to\, L$임을 증명해야 한다.

$\epsilon > 0$이 임의로 주어졌다고 하자. $c$에서 $f$가 $L$에 수렴하므로 $\delta > 0$가 존재하여 $ 0 < \lvert x-c \rvert < \delta$인 모든 $x$에 대하여 $\lvert f(x)-L \rvert < \epsilon$이 성립한다. 수열의 극한의 정의에 의하여 자연수 $N$이 존재하여 $n > N$인 모든 $n$에 대하여 $\lvert x_n - c \rvert < \delta$가 성립한다. 동일한 $N$에 대하여 $n > N$일 때 $\lvert f(x_n ) - L \rvert < \epsilon$이 성립하므로 $f(x_n ) \,\to\,L$이 증명되었다.

다음으로 충분조건을 증명하자. 결론에 반하여 $f$가 $c$에서 $L$에 수렴하지 않는다고 가정하자. 그러면 $\epsilon > 0$이 존재하여, 임의의 $\delta > 0$에 대하여 $ 0 < \lvert x-c \rvert < \delta$임에도 불구하고 $\lvert f(x) - L \rvert \ge \epsilon$인 $x$가 $I$에 존재한다. $\delta_n = 1/n$이라고 하자. 그러면 임의의 자연수 $n$에 대하여 $\delta_n > 0$이므로, $0 < \lvert x_n - c \rvert < \delta_n$임에도 불구하고 $\lvert f(x_n ) - L \rvert \ge \epsilon$인 점 $x_n$이 $I$에 존재한다. 이때 수열 $\left\{ x_n \right\}$은 $c$에 수렴하지만 $\left\{ f(x_n ) \right\}$은 $L$에 수렴하지 않는다.

보기 9. 보기 5에서 살펴본 내용을 다른 방법으로 증명해 보자. 함수 $f$가 다음과 같이 주어졌다고 하자. \[f(x) = \begin{cases} 1 \qquad & \text{if} \,\, x\in\mathbb{Q} \\[8pt] 0 \qquad & \text{if} \,\, x\notin\mathbb{Q} \end{cases}\] 그리고 실수 $c$가 임의로 주어졌다고 하자. $x\,\to\,c$일 때 $f(x)$의 극한이 존재하지 않음을 증명해 보자.

결론에 반하여 $x\,\to\,c$일 때 $f(x)$의 극한값이 존재하고, 그 값이 $L$이라고 가정하자.

유리수의 조밀성에 의하여 $c$에 수렴하고 $q_n \ne c$인 유리수열 $\left\{ q_n \right\}$이 존재하며, 무리수의 조밀성에 의하여 $c$에 수렴하고 $r_n \ne c$인 무리수열 $\left\{ r_n \right\}$이 존재한다. 이때 정리 5에 의하여 \[L = \lim_{x\to c} f(x) = \lim_{n\to\infty} f(q_n) = \lim_{n\to\infty} 1 = 1\] 그리고 \[L = \lim_{x\to c} f(x) = \lim_{n\to\infty} f(r_n) = \lim_{n\to\infty} 0 = 0\] 이므로 $1 = L = 0$이다. 이것은 모순이므로 $c$에서 $f(x)$의 극한은 존재하지 않는다.

Meme

$Meme: Epsilon-Delta$

(Source: Chase Worley's Twitter)

사실 위 밈의 내용은 잘못되었다. 즉 세 번째 컷에서 ‘$\delta$’를 ‘$\delta > 0$’으로 바꾸어야 맞다. 왜냐하면, 만약 $\delta = -1$이라고 두면 ‘임의의 $x$에 대하여 $0 < \lvert x-c \rvert < \delta$는 거짓’이므로 $f,$ $c,$ $L$에 상관 없이 \[ ( 0 < \lvert x-c \rvert < \delta) \,\,\,\to\,\,\, (\lvert f(x) - L \rvert < \epsilon) \] 이 공조건적으로(가정이 거짓이므로 결론에 상관 없이) 참이 되기 때문이다.