다변수함수와 편미분

앞선 글에서 우리는 공역의 차원을 올려 한 실수를 여러 실수로 보내는 함수, 곧 매개변수로 매개화된 곡선 $\mathbf{r}:\mathbb{R}\rightarrow\mathbb{R}^n$을 다루었다. 이제 거꾸로 정의역의 차원을 올려, 여러 실수를 한 실수로 보내는 다변수함수 $f:\mathbb{R}^m\rightarrow\mathbb{R}$을 다룬다. 미분은 여전히 한 점 근방에서의 일차 근사라는 본질을 갖지만, 정의역이 벡터공간이 되면서 다가오는 방향이 무수히 많아져 방향이 중요해지고, 일차 근사가 숫자 하나가 아닌 선형사상으로 주어진다. 벡터공간과 내적·norm은 §곡선과 벡터함수에서 다루었으므로, 이 글에서는 다변수 미분의 핵심 도구인 선형사상과 행렬, 행렬식을 간략히 정리한 뒤 편미분과 기울기, 미분가능성, 다변수 연쇄법칙, 극값을 다룬다.

선형사상과 행렬

미분의 본질은 한 점 근방에서의 일차 근사이다. 정의역이 벡터공간 $\mathbb{R}^m$이면 한 점에서의 일차 근사는 숫자 하나가 아니라 $\mathbb{R}^m$에서 $\mathbb{R}$로 가는 선형사상으로 주어지며, 이것이 다변수 미분을 일변수 미분과 본질적으로 다르게 만든다. 그래서 미분을 정식화하기에 앞서 선형사상과 그 행렬 표현, 그리고 행렬식을 간략히 정리한다.

벡터공간 사이의 함수 $T:\mathbb{R}^m\rightarrow\mathbb{R}^n$이 선형사상_{linear map}이라는 것은, 임의의 벡터 $\mathbf{v},\mathbf{w}\in\mathbb{R}^m$과 실수 $c\in\mathbb{R}$에 대해

\[T(\mathbf{v}+\mathbf{w})=T(\mathbf{v})+T(\mathbf{w}),\qquad T(c \mathbf{v})=cT(\mathbf{v})\]

이 성립하는 것이다. 즉 선형사상은 덧셈과 스칼라곱을 보존하는 함수이다. $\mathbb{R}^m$에서 $\mathbb{R}^n$으로 가는 선형사상은 $n\times m$개의 좌표들을 명시적으로 적은 행렬_matrix

\[A=\begin{pmatrix} a_{11} & \cdots & a_{1m} \\ \vdots & \ddots & \vdots \\ a_{n1} & \cdots & a_{nm} \end{pmatrix}\]

의 꼴로 표현할 수 있으나, 이를 자세히 다루는 것은 선형대수학으로 미룬다. 기억할 것은 선형사상이 곧 행렬이라는 것 뿐이며, 우리 경우에는 정사각행렬, 즉 $n\times n$ 행렬마다 정의되는 행렬식_determinant이라는 값이 특히 중요하다. 직관적으로 이는 선형사상이 부피를 얼마나 늘이거나 줄이는지를 나타내는 값으로, 낮은 차원의 경우에는

\[\det\begin{pmatrix} a & b \\ c & d \end{pmatrix}=ad-bc\]

그리고

\[\det\begin{pmatrix} a_{11} & a_{12} & a_{13} \\ a_{21} & a_{22} & a_{23} \\ a_{31} & a_{32} & a_{33} \end{pmatrix}=a_{11}a_{22}a_{33}+a_{12}a_{23}a_{31}+a_{13}a_{21}a_{32}-a_{13}a_{22}a_{31}-a_{11}a_{23}a_{32}-a_{12}a_{21}a_{33}\]

으로 주어진다.

다변수함수의 극한과 연속

미분을 정의하기에 앞서, 다변수함수의 극한과 연속을 짚고 넘어가야 한다. 일변수함수에서 극한은 점 $a$의 양쪽, 즉 좌·우 두 방향만 보면 충분했다. 그러나 정의역이 $\mathbb{R}^m$이 되면 점 $\mathbf{a}$로 다가오는 경로가 무수히 많아지므로 다소 주의할 필요가 있다.

정의 1 다변수함수 $f: \mathbb{R}^m \rightarrow \mathbb{R}$가 점 $\mathbf{a}$에서 극한_limit $L$을 가진다는 것은, 임의의 $\epsilon > 0$에 대해 어떤 $\delta > 0$가 존재하여

\[0 < \lVert \mathbf{x} - \mathbf{a}\rVert < \delta \quad\implies\quad \lvert f(\mathbf{x}) - L\rvert < \epsilon\]

가 모든 $\mathbf{x}$에 대해 성립하는 것이다. 이를 $\lim_{\mathbf{x}\rightarrow\mathbf{a}} f(\mathbf{x}) = L$로 쓰며, 특히 $\lim_{\mathbf{x}\rightarrow\mathbf{a}} f(\mathbf{x}) = f(\mathbf{a})$일 때 $f$는 $\mathbf{a}$에서 연속_continuous이라 한다.

이 정의의 형식은 일변수와 본질적으로 같으며, 차이는 $1$차원에서의 거리 $\lvert x - a\rvert$가 $m$차원에서의 거리 $\lVert\mathbf{x} - \mathbf{a}\rVert$로 바뀐 것이 전부다. 그러나, 예를 들어, 주어진 함수의 극한값이 $L$임을 확인하기 위해서는 임의의 방향 $\mathbf{v}=(v_1, \ldots, v_m)$에 대하여 다음 극한

\[\lim_{t\rightarrow 0}f(\mathbf{a}+t\mathbf{v})=L\]

인 것만 확인하면 안된다. 가령 함수 $f:\mathbb{R}^2\rightarrow \mathbb{R}$

\[f(x,y)=\begin{cases}1&\text{if $y=x^2$,}\\ 0&\text{otherwise}\end{cases}\]

으로 정의한다면 이 함수는 모든 직선 방향에서 그 극한이 $0$이지만 곡선 $y=x^2$을 따라가는 경로에서는 극한값이 $1$이다. 이 주의는 특히 이번 글의 나머지에서 편미분을 정의한 후 다변수함수의 미분을 논할 때 특히 신경써야 한다.

다변수함수의 미분

이제 우리는 예고했던대로 다변수함수, 즉 $\mathbb{R}^m$의 점마다 함숫값을 대응시키는 함수의 경우를 살펴본다. 이 경우, 함수는 좌극한이나 우극한 뿐만 아니라, 온갖 방향에서 한 점으로 향할 수 있으므로, 미분을 정의할 때 방향이 중요해진다.

가장 단순한 변화율은 한 좌표축 방향으로만 움직일 때의 것이다.

정의 2 다변수함수 $f(x_1, \ldots, x_m)$의 점 $\mathbf{a}$에서 변수 $x_i$에 대한 편미분_{partial derivative}은 나머지 변수를 고정한 채 $x_i$로만 미분한 것이다. 즉,

\[\frac{\partial f}{\partial x_i}( \mathbf{a}) = \lim_{h\rightarrow 0}\frac{f(\mathbf{a} + h \mathbf{e}_i) - f(\mathbf{a})}{h}\]

으로 주어지며, 여기서 $\mathbf{e}_i$는 $i$번째 성분만 $1$, 나머지 성분은 $0$인 표준기저벡터이다. 모든 편미분을 모은 벡터

\[\nabla f(\mathbf{a}) = \left(\frac{\partial f}{\partial x_1}(\mathbf{a}), \ldots, \frac{\partial f}{\partial x_m}(\mathbf{a})\right)\]

를 $f$의 기울기_gradient라 한다.

편미분의 계산은 일변수 미분과 똑같되 나머지 변수를 상수로 취급할 뿐이므로, 일변수함수에서의 미분법이 그대로 적용된다.

그러나 미분가능성의 경우는 다소 주의가 필요하다. 이를 확인하기 위해 다음 극한의 존재성

\[\lim_{h\rightarrow 0} \frac{f(a+h)-f(a)}{h}\]

은 양쪽 방향에서의 극한을 모두 보는 것임을 기억하자. 이 경우 위의 극한은 숫자 하나를 주며, 이는 정확히 곡선에 접하는 접선의 기울기이다.

이를 일반화하려면 두 가지를 주의해야 하는데, 하나는 $h$가 이제 벡터공간의 원소로서 모든 방향에서 $0$을 향해 올 수 있다는 것이고, 다른 하나는 이제 더 이상 선형근사가 숫자 하나로 표현되지 않는다는 것이다. 가령 곡면에 접하는 평면을 생각해보면, 이 평면을 매개하기 위해서는 접점을 제외하고도 두 개의 변수가 필요하다.

이를 해결하기 위해 우리에게 익숙한 직선의 방정식을 내적의 꼴로 다시 써보자. 평면 위에서 점 $\mathbf{a}=(a_1,a_2)$를 지나며 벡터 $\mathbf{n}=(n_1,n_2)$에 수직인 직선은, 그 위의 임의의 점 $\mathbf{x}=(x,y)$이 다음 방정식

\[\mathbf{n}\cdot(\mathbf{x}-\mathbf{a})=0\]

을 만족한다는 조건으로 주어지며, 이를 모두 대입해보면

\[n_1(x-a_1)+n_2(y-a_2)=0,\]

즉 우리에게 익숙한 직선의 방정식이 나온다. 비슷하게, $\mathbb{R}^m$에서의 한 점 $\mathbf{a}=(a_1,\ldots, a_m)$를 지나며 벡터 $\mathbf{n}=(n_1,\ldots, n_m)$에 수직인 초평면_hyperplane 위의 점 $\mathbf{x}=(x_1,\ldots, x_m)$은 같은 방정식

\[\mathbf{n}\cdot(\mathbf{x}-\mathbf{a})=0\]

으로 주어지며, 이를 풀어쓰면

\[n_1(x_1-a_1)+\cdots+n_m(x_m-a_m)=0\]

이 되어 우리가 기대하던 일차식의 꼴이 된다. 이제 마지막으로 일차식에서의 극한

\[\lim_{h\rightarrow 0}\frac{f(a+h)-f(a)}{h}=k\]

의 우변을 이항하여 다음의 식

\[\lim_{h\rightarrow 0}\frac{f(a+h)-(f(a)+kh)}{h}=0\]

의 꼴로 쓰면, 이 식은 점 $a$ 근방에서의 함숫값 $f(a+h)$가 직선 $y=f(a)+kh$로 일차근사된다는 것을 의미한다. 우리는 위에서 $\mathbb{R}^m$의 일차식을 어떻게 적을 수 있는지 살펴보았으므로, 이제 다음 정의가 명확하다.

정의 3 다변수함수 $f$가 점 $\mathbf{a}$에서 미분가능_{differentiable}하다는 것은, 벡터 $\mathbf{n}$이 존재하여

\[\lim_{\mathbf{h} \rightarrow 0}\frac{f(\mathbf{a} + \mathbf{h}) - f(\mathbf{a}) - \mathbf{n}\cdot \mathbf{h}}{\lVert \mathbf{h}\rVert} = 0\]

이 성립하는 것이다.

그럼 가장 놀라운 점은 이렇게 정의된 벡터 $\mathbf{n}$이 실제로는 위의 정의 2에서 살펴본 기울기 벡터 $\nabla f(\mathbf{a})$와 일치한다는 것이다.

명제 4 $f$가 점 $\mathbf{a}$에서 미분가능하면, 정의 3의 벡터 $\mathbf{n}$은 $\mathbf{n} = \nabla f(\mathbf{a})$이고, $f(\mathbf{a}+\mathbf{h}) \approx f(\mathbf{a}) + \nabla f(\mathbf{a})\cdot \mathbf{h}$가 최선의 일차 근사이다.

증명

정의 3의 극한에서 $\mathbf{h} = t \mathbf{e}_i$로 두면, $\lVert \mathbf{h}\rVert = \lvert t\rvert$이므로

\[\lim_{t \rightarrow 0}\frac{f(\mathbf{a} + t \mathbf{e}_i) - f(\mathbf{a}) - \mathbf{n}\cdot (t \mathbf{e}_i)}{\lvert t\rvert} = 0\]

이다. $\mathbf{n}\cdot (t \mathbf{e}_i) = t n_i$이므로, $t>0$일 때 $\lvert t\rvert = t$라 위 극한의 분수는 $\frac{f(\mathbf{a} + t \mathbf{e}_i) - f(\mathbf{a})}{t} - n_i$와 같고, $t<0$일 때는 $\lvert t\rvert = -t$라 이 식의 부호만 뒤집힌 것이다. 따라서 어느 쪽이든 위 극한이 $0$이라는 것은

\[\lim_{t\rightarrow 0}\frac{f(\mathbf{a} + t \mathbf{e}_i) - f(\mathbf{a})}{t} = n_i\]

를 뜻하며, 좌변의 극한이 존재한다는 것 자체가 편미분의 정의이므로 $\frac{\partial f}{\partial x_i}(\mathbf{a})$가 존재하고 그 값이 $n_i$이다. 모든 $i$에 대해 이를 모으면 $\nabla f(\mathbf{a})$가 잘 정의되고 $\mathbf{n} = \nabla f(\mathbf{a})$이다.

여기에서 정의 3과 명제 4를 명확하게 분리하여 서술했다는 것을 주목하자. 명제 4는, 만일 함수 $f$가 미분가능하다면, 그 조건을 만족하는 $\mathbf{n}$이 $\nabla f$라는 것이며, 이를 거꾸로 해석하여 모든 편미분이 존재하여 $\nabla f$가 잘 정의되면 함수 $f$가 미분가능하다고 이해하면 안된다. 대신 다음의 조건은 각각의 편미분이 연속이라면 $f$가 미분가능하다는 것을 보여준다.

명제 5 $f$의 모든 편미분이 $\mathbf{a}$ 근방에서 존재하고, 이들이 모두 $\mathbf{a}$에서 연속이라면 $f$는 $\mathbf{a}$에서 미분가능하다.

증명

표기를 간단히 하기 위해 두 변수 $f(x,y)$와 점 $(a,b)$에서 보이자. 일반 차원도 같은 논법을 좌표마다 반복하면 된다. 벡터 $(h,k)$를 한 좌표씩 움직여

\[f(a+h, b+k) - f(a,b) = \bigl(f(a+h, b+k) - f(a, b+k)\bigr) + \bigl(f(a, b+k) - f(a,b)\bigr)\]

로 쪼개면, 각 괄호는 한 변수만 변하므로 평균값정리에 의해 적당한 $\theta_1, \theta_2 \in (0,1)$에 대해

\[f(a+h,b+k) - f(a,b) = f_x(a+\theta_1 h, b+k) h + f_y(a, b+\theta_2 k) k\]

이며, 여기에서 $\nabla f(a,b)\cdot(h,k) = f_x(a,b)h + f_y(a,b)k$를 빼면

\[f(a+h,b+k) - f(a,b) - \nabla f(a,b)\cdot(h,k) = \bigl(f_x(a+\theta_1 h, b+k) - f_x(a,b)\bigr)h + \bigl(f_y(a, b+\theta_2 k) - f_y(a,b)\bigr)k\]

를 얻는다. 그럼 $f_x, f_y$가 $(a,b)$에서 연속이므로 $(h,k)\rightarrow(0,0)$일 때 두 괄호가 모두 $0$으로 가고, $\lvert h\rvert, \lvert k\rvert \le \lVert(h,k)\rVert$이므로 정의 3의 극한이 성립한다. 즉, $f$는 $(a,b)$에서 미분가능하고 그 기울기는 $\nabla f(a,b)$이다.

이렇게 편미분의 존재와 연속성을 함께 요구하는 상황은 앞으로도 반복해서 나타나므로, §미분과 도함수, ⁋정의 5의 이름을 다변수로 옮겨 쓰기로 한다. 즉 어떤 영역에서 $k$계 이하의 모든 편미분이 존재하고 연속이면 $f$가 그 영역에서 $C^k$급이라 하며, 이 말로 다시 적으면 명제 5는 $C^1$급 함수가 미분가능하다는 것이다.

연쇄법칙과 혼합편미분

이제 우리는 다변수함수의 연쇄법칙을 살펴본다. 만일 다변수함수가 입력으로 받는 변수 중 하나만이 다른 함수와의 합성으로 나타난다면 이는 해당 변수에 대한 편미분을 사용하여 일변수미분과 동일하게 연쇄법칙을 적용할 수 있지만, 문제는 다변수함수가 입력으로 받는 변수 여럿이 다른 함수를 거쳐 정의되었을 때 나타난다.

이를 위해서는 하나의 매개변수 $t$로 매개화된 곡선 $\mathbf{x}(t) = (x_1(t), \ldots, x_m(t))$이 필요한데, 이는 §곡선과 벡터함수, ⁋명제 2에서 정의한 대로 각 성분 $x_i(t)$가 일변수 함수로서 미분가능할 때 미분가능하며, 그 접벡터 $\mathbf{x}'(t) = (x_1'(t), \ldots, x_m'(t))$가 잘 정의된다. 이 하에서 다음이 성립한다.

정리 6 (다변수 연쇄법칙) $f$가 미분가능하고 $\mathbf{x}(t) = (x_1(t), \ldots, x_m(t))$가 미분가능한 곡선이면, 합성 $t \mapsto f(\mathbf{x}(t))$도 미분가능하고

\[\frac{d}{\dd{t}} f(\mathbf{x}(t)) = \nabla f(\mathbf{x}(t)) \cdot \mathbf{x}'(t) = \sum_{i=1}^m \frac{\partial f}{\partial x_i} \frac{\dd{x_i}}{\dd{t}}\]

이다.

증명

정의 3을 점 $\mathbf{x}(t)$와 변화량 $\Delta\mathbf{x}=\mathbf{x}(t+\Delta t)-\mathbf{x}(t)$에 적용하면 $\Delta t\rightarrow 0$일 때

\[\frac{f(\mathbf{x}(t+\Delta t))-f(\mathbf{x}(t))-\nabla f(\mathbf{x}(t))\cdot\Delta\mathbf{x}}{\lVert\Delta\mathbf{x}\rVert}\rightarrow 0\]

이다. 양변을 $\Delta t$로 나누면 우변은 일차항 $\nabla f(\mathbf{x}(t))\cdot\frac{\Delta\mathbf{x}}{\Delta t}$과 나머지항으로 갈라지는데, 이 나머지항은 위에서 $0$으로 간 양에 $\lVert\Delta\mathbf{x}\rVert/\lvert\Delta t\rvert$가 곱해진 것이다. 곡선의 미분가능성으로 $\Delta\mathbf{x}/\Delta t\rightarrow\mathbf{x}'(t)$이므로 $\lVert\Delta\mathbf{x}\rVert/\lvert\Delta t\rvert$가 유계이며, 따라서 나머지항도 $\Delta t\rightarrow 0$에서 $0$으로 사라져 공식을 얻는다.

정리 6 (다변수 연쇄법칙)는 한 변수가 여러 변수에 의존할 때 편미분이 사슬처럼 연결됨을 말하며, 좌표변환에서 주로 쓰인다. 가령 $z = f(x,y)$에서 극좌표 $x = r\cos\theta$, $y = r\sin\theta$로 바꾸면 $\partial z/\partial r = f_x\cos\theta + f_y\sin\theta$가 곧바로 나온다.

한편, 이계편미분에 대해서는 미분의 순서가 (적절한 연속성 아래) 문제되지 않는다.

정리 7 (Clairaut) 두 혼합편미분 $\frac{\partial^2 f}{\partial x \partial y}$와 $\frac{\partial^2 f}{\partial y \partial x}$가 모두 존재하고 한 점 근방에서 연속이면, 그 점에서 둘이 같다.

증명

점을 $(a,b)$라 하고 이차 차분

\[\Delta = f(a+h, b+k) - f(a+h, b) - f(a, b+k) + f(a, b)\]

를 생각한다. $\varphi(x) = f(x, b+k) - f(x, b)$로 두면 $\Delta = \varphi(a+h) - \varphi(a)$이고, 평균값정리로 적당한 $\theta_1\in(0,1)$에 대해 $\Delta = \varphi'(a+\theta_1 h)h = \bigl(f_x(a+\theta_1 h, b+k) - f_x(a+\theta_1 h, b)\bigr)h$이다. 안쪽 차분에 다시 $y$에 대한 평균값정리를 적용하면 적당한 $\theta_2\in(0,1)$에 대해

\[\Delta = \frac{\partial^2 f}{\partial y \partial x}(a+\theta_1 h, b+\theta_2 k) hk\]

를 얻는다. 대칭적으로 $\psi(y) = f(a+h, y) - f(a, y)$로 두고 $x$와 $y$의 역할을 바꾸면 적당한 $\theta_3, \theta_4\in(0,1)$에 대해

\[\Delta = \frac{\partial^2 f}{\partial x \partial y}(a+\theta_3 h, b+\theta_4 k) hk\]

이다. 두 식을 $hk$로 나눈 뒤 $(h,k)\rightarrow(0,0)$의 극한을 취하면, 두 혼합편미분이 $(a,b)$에서 연속이므로 우변이 각각 $\frac{\partial^2 f}{\partial y\partial x}(a,b)$와 $\frac{\partial^2 f}{\partial x\partial y}(a,b)$로 수렴하여 둘이 같다.

방향도함수와 기울기

단위벡터 $\mathbf{u}$를 따라 움직일 때의 변화율인 방향도함수 $D_{\mathbf{u}} f(\mathbf{a})$는 정의상 한 변수 함수 $g(t) = f(\mathbf{a} + t\mathbf{u})$의 $t = 0$에서의 도함수인데, 정리 6 (다변수 연쇄법칙)의 연쇄법칙을 $\mathbf{x}(t) = \mathbf{a} + t\mathbf{u}$에 적용하면 $D_{\mathbf{u}} f(\mathbf{a}) = g'(0) = \nabla f(\mathbf{a})\cdot \mathbf{u}$가 곧바로 나온다. 그럼 다음이 성립한다.

명제 8 (최대 경사 방향) $f$가 $\mathbf{a}$에서 미분가능하고 $\nabla f(\mathbf{a}) \neq 0$이면, 단위벡터 방향의 방향도함수 $D_{\mathbf{u}} f(\mathbf{a})$는 $\mathbf{u} = \nabla f(\mathbf{a})/\lVert\nabla f(\mathbf{a})\rVert$일 때 최대가 되고, 그 최댓값은 $\lVert\nabla f(\mathbf{a})\rVert$이다.

증명

미분가능성에 의해 임의의 단위벡터 $\mathbf{u}$에 대해 $D_{\mathbf{u}} f(\mathbf{a}) = \nabla f(\mathbf{a})\cdot \mathbf{u}$이다. Cauchy–Schwarz 부등식으로

\[\begin{aligned} D_{\mathbf{u}} f(\mathbf{a}) = \nabla f(\mathbf{a})\cdot \mathbf{u} &\leq \lVert\nabla f(\mathbf{a})\rVert \lVert \mathbf{u}\rVert \\ &= \lVert\nabla f(\mathbf{a})\rVert \end{aligned}\]

이고, 등호는 $\mathbf{u}$가 $\nabla f(\mathbf{a})$와 같은 방향, 즉 $\mathbf{u} = \nabla f(\mathbf{a})/\lVert\nabla f(\mathbf{a})\rVert$일 때 성립한다. 따라서 이 $\mathbf{u}$에서 방향도함수가 최댓값 $\lVert\nabla f(\mathbf{a})\rVert$를 가진다. 같은 논리로 반대 방향에서 최솟값 $-\lVert\nabla f(\mathbf{a})\rVert$를 가지므로, $-\nabla f$는 가장 가파른 감소 방향이다.

명제 8 (최대 경사 방향)은 기울기를 따라 내려가며 최솟값을 찾는 경사하강법의 기하학적 근거가 된다. 한편 기울기는 등위면 $f = c$에 수직이다: 등위면 위의 곡선 $\mathbf{x}(t)$에 대해 $f(\mathbf{x}(t)) = c$가 상수이므로, 연쇄법칙으로 $\nabla f\cdot \mathbf{x}'(t) = 0$이 되어 기울기가 모든 접벡터와 직교하기 때문이다.

극값과 헤세 행렬

한 변수에서 극값이 critical point에서 일어났듯, 다변수에서도 미분가능한 함수의 극값은 각 편미분이 $0$이 되어야 하므로 $\nabla f = 0$인 critical point에서만 일어난다. 일변수함수의 경우 우리는 이 critical point가 극대인지, 극소인지를 이계도함수를 사용하여 판단할 수 있었는데 (§평균값 정리, ⁋명제 17 (이계도함수 판정)), 비슷한 상황이 다변수함수에서도 일어난다.

다만 주의할 것은, 이제 미분을 취할 수 있는 방향이 여럿이므로 한 방향에서는 극소, 다른 한 방향에서는 극대인 점이 존재할 수 있다는 것이다. 이러한 점을 안장점_{saddle point}이라 부른다. 이 섹션에서 우리는 critical point가 언제 극대, 극소, 안장점인지를 판별할 것인데, 계산의 편의상 $\mathbb{R}^2$에서 정의된 다변수함수로 우리 관심을 제한한다.

미분가능한 이변수함수의 critical point 근방에서 테일러 전개하면, 일차항이 $\nabla f(\mathbf{a}) = 0$으로 사라지고 남는 이차항은

\[f(\mathbf{a}+\mathbf{h}) \approx f(\mathbf{a}) + \frac{1}{2}\bigl(f_{xx}(\mathbf{a})h_1^2 + 2f_{xy}(\mathbf{a})h_1 h_2 + f_{yy}(\mathbf{a})h_2^2\bigr)\]

이다. 이 이차형식의 계수들을 정사각행렬로 모은 것이 critical point $\mathbf{a}$에서의 헤세 행렬_Hessian로, 이는 다음의 식

\[H = \begin{pmatrix} f_{xx} & f_{xy} \\ f_{yx} & f_{yy}\end{pmatrix}\]

으로 주어진다. Critical point의 증감은 이 이차형식의 부호가 정하며, 이를 우리 상황에 맞추어 판별식의 언어로 풀어 설명하면 다음과 같다.

명제 9 (이계도함수 판정) $f$가 $C^2$급이고 $\mathbf{a}$가 critical point($\nabla f(\mathbf{a}) = 0$)이라 하고, 위 헤세 행렬의 판별식 $D = f_{xx}f_{yy} - f_{xy}^2 = \det H$을 생각하자.

$D > 0$이고 $f_{xx} > 0$이면 $\mathbf{a}$는 극소이다.
$D > 0$이고 $f_{xx} < 0$이면 이 점은 극대이다.
$D < 0$이면 이 점은 안장점이다.

증명

Critical point 근방 전개에서 남는 이차항 $f_{xx}h_1^2 + 2f_{xy}h_1 h_2 + f_{yy}h_2^2$을 보자. 우선 $f_{xx} \neq 0$일 때, 이를 $h_1$에 대해 완전제곱꼴로 바꾸면

\[\begin{aligned} f_{xx}h_1^2 + 2f_{xy}h_1 h_2 + f_{yy}h_2^2 &= f_{xx} \left(h_1 + \frac{f_{xy}}{f_{xx}}h_2\right)^2 + \frac{f_{xx}f_{yy} - f_{xy}^2}{f_{xx}} h_2^2 \\ &= f_{xx} \left(h_1 + \frac{f_{xy}}{f_{xx}}h_2\right)^2 + \frac{D}{f_{xx}} h_2^2 \end{aligned}\]

이며, 따라서 첫째 항의 부호는 $f_{xx}$를 따르고, 둘째 항의 부호는 $D/f_{xx}$를 따른다. 특히 $D > 0$이면 $D/f_{xx}$가 $f_{xx}$와 같은 부호여서 두 항의 부호가 일치한다. 추가적으로 $f_{xx} > 0$이면, 이차항들이 $0$이 아닌 한 항상 양수라 $\mathbf{a}$ 근방에서 함숫값이 더 커져 이 점이 극소점이 되며, 반대로 $f_{xx} < 0$이면 항상 음수라 극대이다. 반면 $D < 0$이면 두 항의 부호가 반대이므로 $h_1, h_2$의 비율에 따라 이차항이 양과 음 양쪽 값을 모두 가지며, $\mathbf{a}$는 안장점이다.

남은 것은 $f_{xx} = 0$인 경우인데, 이때는 $D = -f_{xy}^2 \leq 0$이므로 위의 세 경우 중 셋째만 따지면 된다. $D<0$이면 $f_{xy} \neq 0$이고 이차항은

\[2f_{xy}h_1 h_2 + f_{yy}h_2^2 = h_2\bigl(2f_{xy}h_1 + f_{yy}h_2\bigr)\]

이므로, $h_2$를 $0$이 아닌 값으로 고정한 채 $\lvert h_1\rvert$을 충분히 크게 잡으면 괄호 안의 부호가 $f_{xy}h_1$을 따라가고, 따라서 $h_1$의 부호를 바꾸는 것만으로 이차항이 양과 음 양쪽 값을 모두 가진다. 이차형식은 $(h_1,h_2)$를 같은 비율로 줄여도 부호가 변하지 않으므로 이는 $\mathbf{a}$에 얼마든지 가까운 곳에서 일어나며, 이 경우에도 $\mathbf{a}$는 안장점이다.

판별식이 음일 때 나타나는 안장점은 방향에 따라 함수가 오르내리는 가장 단순한 critical point라 할 수 있다.

예시 10 (안장점) $f(x,y) = x^2 - y^2$은 $\nabla f = (2x, -2y) = 0$에서 critical point $(0,0)$을 가진다. 헤세 행렬은 $\begin{pmatrix} 2 & 0 \\ 0 & -2\end{pmatrix}$로 $\det H = -4 < 0$이므로 안장점이다. 실제로 $x$축을 따라가면 $f = x^2$로 극소, $y$축을 따라가면 $f = -y^2$로 극대라, 방향에 따라 오르내리는 말안장 모양이다. 아래 그림은 이 곡면 $z = x^2 - y^2$의 모습으로, 원점(검은 점)이 안장점이다.

다만, $D=0$인 경우에는 위의 판별법이 어떠한 정보도 주지 않는 것에 유의하자. 이러한 경우는 각각의 상황에 맞는 방식을 적절히 사용하여야 한다.

라그랑주 승수법

미분법의 좋은 응용 중 하나는 주어진 구간 $[a,b]$ 안에서 함수의 극값을 찾는 것이었다. 우리는 이를 다변수함수에서 다룬다. 차이점은 이제 변수가 단순한 구간이 아니라는 것이며, 예를 들어 변수가 어떤 제약 $g(\mathbf{x}) = c$를 만족해야 하는 상황 또한 생각하게 된다. 이를테면 주어진 곡면 위에서 원점에 가장 가까운 점을 찾거나 고정된 자원 안에서 비용을 최소화하는 문제가 그렇다. 이러한 제약극값_{constrained extremum}을 찾는 표준 도구가 라그랑주 승수법이다.

명제 11 (라그랑주 승수) $f, g:\mathbb{R}^m\rightarrow\mathbb{R}$가 $C^1$급이고, 점 $\mathbf{a}$가 제약 $g(\mathbf{x}) = c$를 만족하는 점들 위에서 $f$의 극값이며 $\nabla g(\mathbf{a}) \neq 0$이라 하자. 그러면 어떤 실수 $\lambda$에 대해

\[\nabla f(\mathbf{a}) = \lambda \nabla g(\mathbf{a})\]

가 성립한다.

증명

제약면 $\{g = c\}$ 위에서 $\mathbf{a}$를 지나는 임의의 smooth curve $\mathbf{x}(t)$ ($\mathbf{x}(0) = \mathbf{a}$)를 잡자. $g(\mathbf{x}(t)) = c$가 상수이므로 정리 6 (다변수 연쇄법칙)으로 미분하면 $\nabla g(\mathbf{a}) \cdot \mathbf{x}'(0) = 0$이고, 한편 $\mathbf{a}$가 제약 아래에서 $f$의 극값을 주므로 $t \mapsto f(\mathbf{x}(t))$도 $t = 0$에서 극값을 가지고, 따라서 $\nabla f(\mathbf{a}) \cdot \mathbf{x}'(0) = 0$이다. 즉, 두 벡터 $\nabla f(\mathbf{a})$와 $\nabla g(\mathbf{a})$ 모두가 제약면의 tangent space에 직교한다. 그런데 전체 공간이 $m$차원이고, 제약면의 tangent space가 $m-1$차원이므로 이러한 방향은 하나 뿐이고, 따라서 $\nabla f(\mathbf{a}) = \lambda \nabla g(\mathbf{a})$인 실수 $\lambda$가 존재한다.

실제 계산에서는 새로 도입된 실수 $\lambda$를 미지수로 추가하여 $\nabla f = \lambda \nabla g$와 제약식 $g = c$를 함께 연립하여 푸는데, 이 $\lambda$를 라그랑주 승수_{Lagrange multiplier}라 부른다.

예시 12 (라그랑주 승수) 제약 $g(x,y) = x^2 + y^2 = 1$ 위에서 $f(x,y) = xy$의 극값을 찾자. $\nabla f = (y, x)$, $\nabla g = (2x, 2y)$이므로 $\nabla f = \lambda \nabla g$는

\[\begin{aligned} y &= 2\lambda x, \\ x &= 2\lambda y \end{aligned}\]

이다. 두 식을 곱하면 $xy = 4\lambda^2 xy$이므로 $xy = 0$이거나 $\lambda^2 = 1/4$이다. $xy = 0$이면 두 식에서 $x = y = 0$이 강제되어 제약식을 만족할 수 없으므로 이 경우는 배제된다. $\lambda = \pm 1/2$이면 $y = \pm x$이고 제약식 $2x^2 = 1$에서 $x = \pm 1/\sqrt2$이므로 $f = xy = \pm 1/2$이다. 따라서 단위원 위에서 $f = xy$의 최댓값은 $1/2$, 최솟값은 $-1/2$이다.

참고문헌

[Ste] J. Stewart, Calculus, 8th ed., Cengage Learning, 2016.
[Kim] 김홍종, 미적분학 1·2, 제3개정판, 서울대학교출판문화원, 2020.

Twitter Facebook LinkedIn

K