\(D\)가 \(\mathbb{R}^2\)의 부분집합으로서 다음과 같이 정의된 집합이라고 하자. \[D = \left\{ (x,\,y) \,\vert\, x^2 + y^2 \le 9 \right\}\] 그리고 함수 \(f\)가 \(D\)를 포함하는 영역에서 정의되었으며 정의역의 모든 점에서 두 번 이상 미분 가능하다고 하자. 이제 \(D\)에서 \(f\)의 극댓값과 극솟값, 최댓값과 최솟값은 다음과 같은 방법으로 구할 수 있다.
- 도함수 판정법: \(D\)의 내부점 중에서 \(f_x (x,\,y) = 0,\) \(f_y (x,\,y)=0\)인 점 \((x,\,y)\)를 모두 구한다.
- 이계도함수 판정법: 구한 점 \((x,\,y)\) 중에서 \(f\)의 Hesse 행렬식을 이용하여 \(f\)가 극값을 갖는 점, \(f\)의 그래프가 변곡점인 점, 임계점을 구한다.
- \(D\)의 경계에서 \(f\)가 극값을 갖는 점들을 구한다. \(D\)의 경계선 위에서 \(f\)는 일변수함수 처럼 다루어질 수 있다.
- 앞의 단계들에서 구한 모든 점들 위에서 \(f\)의 값을 구하고, 그 값들을 비교하여 최댓값과 최솟값을 구한다.
그러나 \(D\)가 유계가 아니거나 닫힌집합이 아니라면 이와 같은 방법을 사용할 수 없다. 이때에는 함수의 특징에 따라 다양한 방법으로 최댓값과 최솟값을 구해야 한다.
예제 1. \(\mathbb{R}^2\)에서 함수 \(f\)가 \[f(x,\,y) = 2x^2 + 3xy + 4y^2 - 5x + 2y\] 로 정의되었을 때, \(f\)의 최댓값과 최솟값을 구하시오.
풀이. 먼저 일계도함수 판정법을 이용하자. \(f\)의 편도함수를 구하면 \[\begin{gather} f_x (x,\,y) = 3x+3y-5 \\[6pt] f_y (x,\,y) = 8y + 3x+2 \end{gather}\] 이다. 두 편미분계수가 모두 \(0\)이 되도록 하는 점을 구하면 \((x,\,y) = (2,\,-1)\) 뿐이다. 이 점에서 이계도함수 판정법을 이용하자. \[f_{xx} (x,\,y) = 4 ,\quad f_{yy} (x,\,y) = 8 ,\quad f_{xy} (x,\,y) = f_{yx} (x,\,y) = 3\] 이므로 \[\det H(f) = 4 \times 8 - 3^2 = 23 > 0\] 이다. 더욱이 \(f_{xx} (2,\,-1) > 0\)이므로 \(f\)는 \((2,\,-1)\)에서 극솟값을 가진다.
그렇다면 \(f\)는 \((2,\,-1)\)에서 최솟값을 가질까? 그렇다. 일단 \(f\)의 임계점은 \((2,\,-1)\) 뿐이므로 특정한 다른 점에서 \(f\)가 최솟값을 갖지는 않는다. 이제 남은 경우의 수는 \((x,\,y)\)의 움직임에 따라 \(f\)가 음의 무한대로 발산하는 경우이다. 그런데 이러한 경우 또한 발생하지 않는다. 왜냐하면 점 \((x,\,y)\)가 원점으로부터 멀리 떨어질수록, 즉 \( | (x,\,y)| \,\rightarrow\, \infty\)일 때 \(f(x,\,y) \,\rightarrow \,\infty\)이기 때문이다. 그러므로 \(f\)는 아래로 유계이다. 만약 \(f\)가 아래로 유계가 아니었다면 \(f\)가 음의 무한대로 발산하도록 \((x,\,y)\)를 움직일 수 있었어야 한다.
이로써 \(f\)가 \((2,\,-1)\)에서 최솟값을 가진다는 사실이 증명되었다.
한편 \(x \to \infty ,\) \(y \to \infty\)일 때 \(f(x,\,y) \to \infty\)이므로 \(f\)는 최댓값을 갖지 않는다.
정의역이 유계가 아닌 또 다른 예를 살펴보자.
예제 2. \(\mathbb{R}^2\)의 \(xy \ne 0\)인 점에서 함수 \(f\)가 \[f(x,\,y) = \frac{1}{x} + xy + \frac{1}{y}\] 로 정의되었을 때, \(f\)의 최댓값과 최솟값을 구하시오.
풀이. 먼저 \(f\)의 편도함수를 구하면 \[f_x (x,\,y) = -\frac{1}{x^2} + y ,\quad f_y (x,\,y) = - \frac{1}{y^2} + x\] 이며, 이계편도함수를 구하면 \[f_{xx}(x,\,y) = \frac{2}{x^3} ,\quad f_{yy} (x,\,y) = \frac{2}{y^3} ,\quad f_{xy} (x,\,y) = f_{yx} (x,\,y) = 1\] 이다. 일계편미분계수가 모두 \(0\)이 되도록 하는 점은 \((x,\,y)=(1,\,1)\) 뿐이다. 이 점에서 Hesse 행렬식을 구하면 \[\det H(f) = 2\times 2- 1^2 = 3>0\] 이고, \(f_{xx} (1,\,1) = 2 > 0\)이므로 \(f\)는 \((1,\,1)\)에서 극솟값을 가진다.
이제 \(f\)가 \((1,\,1)\)에서 최솟값을 갖는지 여부를 판별해 보자. 만약 \(x\)가 무한히 커지고 \(y\)는 무한히 작아진다면, 예컨대 직선 \(y=-x\)를 따라서 \(x \,\rightarrow \,\infty\)인 극한을 취한다면 \[\lim_{x\to\infty} f\left( x,\,-x \right) = \lim_{x\to\infty} \left( \frac{1}{x} - x^2 -\frac{1}{x}\right) = -\infty\] 이므로 \(f\)는 아래로 유계가 아니다. 그러므로 \(f\)는 최솟값을 갖지 않는다.
한편 \(x \to \infty ,\) \(y \to \infty\)일 때 \(f(x,\,y) \to \infty\)이므로 \(f\)는 최댓값을 갖지도 않는다.
다음으로 정의역이 \(\mathbb{R}^2\) 전체가 아니지만 유계도 아닌 예를 살펴보자.
예제 3.
\(\mathbb{R}^2\)의 제 1 사분면 영역, 즉 \(x > 0 ,\) \(y > 0\)인 영역에서 함수 \(f\)가
\[f(x,\,y) = xy + 2y - \ln x^2 y\]
로 정의되었을 때, \(f\)의 최댓값과 최솟값을 구하시오.
(Thomas' Calculus 13ed Section 14.7 Problem 42.)
풀이. \(f\)의 편도함수를 구하면 \[f_x (x,\,y) = y+2 - \frac{2}{x} ,\quad f_y (x,\,y) = x - \frac{1}{y}\] 이며, 이계편도함수를 구하면 \[f_{xx}(x,\,y) = \frac{2}{x^2} ,\quad f_{yy}(x,\,y) = \frac{1}{y^2} ,\quad f_{xy}(x,\,y) = f_{yx}(x,\,y) = 1\] 이다. 일계편미분계수가 모두 \(0\)이 되도록 하는 점은 \[(x,\,y) = \left( \frac{1}{2} ,\, 2 \right)\] 뿐이다. 이 점에서 Hesse 행렬식을 구하면 \[\det H(f) = 8 \times \frac{1}{4} - 1^2 = 1 > 0\] 이고 \(f_{xx} (\frac{1}{2} ,\, 2) = 8 > 0\)이므로 \(f\)는 \(( \frac{1}{2} ,\,2)\)에서 극솟값을 가진다.
이제 \(f\)가 \(( \frac{1}{2} ,\,2)\)에서 최솟값을 갖는지 여부를 판별해 보자. \(xy > 0\)이므로 \[xy - \ln xy \ge 1\] 이다. 따라서 \[f(x,\,y) = 2x - \ln x + (xy - \ln xy) \ge 2x - \ln x + 1\] 이다. 그런데 \[\lim_{x\to 0+} ( 2x - \ln x ) = \infty\] 이고 \[\lim_{x\to \infty} ( 2x - \ln x ) = \infty\] 이므로 \((x,\,y)\)가 어떻게 움직이든 \(f\)의 값이 \(f(\frac{1}{2} ,\,2)\)보다 작아질 일은 없다.
특히 \(2x - \ln x\)가 최솟값을 갖는 것은 \(x = \frac{1}{2}\)일 때이고, \(xy - \ln xy\)가 최솟값을 갖는 것은 \(xy = 1\) 즉 \(y = \frac{1}{x}\)일 때이므로, \(f\)가 \((\frac{1}{2} ,\, 2 )\)에서 최솟값을 가진다는 사실이 다시 한 번 확인된다.
이로써 \(f\)가 \((\frac{1}{2} ,\,2)\)에서 최솟값을 가진다는 사실이 증명되었다.
한편 풀이 과정에서 \((x,\,y)\)의 움직임에 따라 \(f(x,\,y) \to \infty\)인 경우를 보았으므로, \(f\)는 최댓값을 갖지 않는다.