연속함수

우리는 §함수의 극한에서 극한을 엄밀하게 정의하였으니, 그 위에서 연속성을 정의한다.

연속의 정의

직관적으로 연속함수는 끊김 없이 이어진 함수로, 이를 엄밀하게 옮기는 데 필요한 도구는 이미 극한이라는 형태로 갖추어져 있다.

정의 1 함수 \(f\)가 정의역의 점 \(a\)에서 연속_continuous이라는 것은

\[\lim_{x \rightarrow a} f(x) = f(a)\]

가 성립하는 것이다. \(f\)가 정의역의 모든 점에서 연속이면 \(f\)를 연속함수라 부른다.

이를 \(\epsilon\)-\(\delta\) 논법으로 풀어쓰면, 임의의 \(\epsilon > 0\)에 대하여 어떤 \(\delta > 0\)이 존재하여 정의역의 모든 \(x\)에 대해

\[\lvert x - a\rvert < \delta\implies\lvert f(x) - f(a)\rvert < \epsilon\]

이 성립하는 것이다. 여기서 \(x = a\)를 제외하는 조건 \(0 < \lvert x-a\rvert\)가 사라졌는데, 이는 \(x = a\)일 때는 \(\lvert f(a)-f(a)\rvert = 0 < \epsilon\)이 자동으로 성립하므로 굳이 제외할 필요가 없기 때문이다.

이렇게 \(x\)를 정의역 안으로 제한하여 읽으면, 정의역이 \(a\)의 근방을 통째로 담고 있지 않은 경우에도 연속이 그대로 뜻을 가진다. 가령 정의역이 닫힌구간 \([a,b]\)이면 끝점 \(a\)에서의 연속은 §함수의 극한, ⁋정의 12의 오른쪽 극한으로 \(\lim_{x\rightarrow a^+} f(x) = f(a)\)인 것을 뜻하고, 끝점 \(b\)에서의 연속은 왼쪽 극한으로 \(\lim_{x\rightarrow b^-} f(x) = f(b)\)인 것을 뜻한다. 아래에서 닫힌구간 \([a,b]\) 위의 연속이나 구간 \(I\) 위의 연속을 말할 때는 언제나 이 뜻이다.

이 정의를 뜯어 보면 연속이 성립하려면 세 가지가 모두 충족되어야 함을 알 수 있다.

1. \(f(a)\)가 정의되어 있다.
2. 극한 \(\lim_{x\rightarrow a} f(x)\)가 존재한다.
3. 위의 두 값이 서로 같다.

이 조건들 중 어느 것이 성립하지 않는지에 따라 불연속의 종류가 갈리게 되는데, 이는 연속함수의 기본 성질들을 살펴본 후 다시 돌아오기로 한다.

연속함수의 연산

연속은 극한값이 함숫값과 일치한다는 진술이므로, §함수의 극한, ⁋명제 5 (극한법칙)이 그대로 연속함수의 연산으로 옮겨 온다.

명제 2 \(f\)와 \(g\)가 \(a\)에서 연속이면 \(f+g\), \(cf\) (\(c\)는 상수), \(fg\)도 \(a\)에서 연속이고, \(g(a) \neq 0\)이면 \(f/g\)도 \(a\)에서 연속이다. 또한 \(f\)가 \(a\)에서 연속이고 \(g\)가 \(f(a)\)에서 연속이면 합성함수 \(g \circ f\)는 \(a\)에서 연속이다.

증명

오직 합성함수만이 새로운 정리이다. 임의의 \(\epsilon > 0\)이 주어졌다 하자. 그럼 우선 \(g\)가 \(b := f(a)\)에서 연속이므로 어떤 \(\eta > 0\)이 존재하여

\[\lvert y - b\rvert < \eta\implies\lvert g(y) - g(b)\rvert < \epsilon\]

이다. 다시 \(f\)가 \(a\)에서 연속이므로 이 \(\eta\)에 대응하는 \(\delta > 0\)이 존재하여

\[\lvert x-a\rvert < \delta\implies\lvert f(x) - b\rvert < \eta\]

이다. 두 단계를 이으면, \(\lvert x-a\rvert < \delta\)일 때 \(y = f(x)\)가 \(\lvert y - b\rvert < \eta\)를 만족하므로 \(\lvert g(f(x)) - g(f(a))\rvert < \epsilon\)이다.

우리는 상수함수와 일차함수 \(f(x)=x\)가 연속임을 확인할 수 있다. 따라서, 이들의 합과 곱을 반복하면 임의의 다항함수가 연속이며, 여기에 몫을 취하면 임의의 유리함수는 분모가 \(0\)이 되는 점을 제외한 모든 곳에서 연속이다. 다음은 조금 덜 자명한 연속함수의 예시이다.

예시 3 삼각함수 \(\sin x\)가 정의역의 모든 점에서 연속임을 보이자. 삼각함수의 합차공식에서

\[\lvert \sin x - \sin a\rvert= \left\lvert 2\cos\frac{x+a}{2}\sin\frac{x-a}{2}\right\rvert \leq 2\left\lvert \sin\frac{x-a}{2}\right\rvert\]

이 항상 성립하는 것을 안다. 한편 §함수의 극한, ⁋예시 10에서 얻은 부등식 \(\sin t \leq t\) (\(0 < t < \pi/2\)) 는, \(t \geq \pi/2\)일 때 \(\lvert \sin t\rvert \leq 1 < t\)이고 \(\sin(-t) = -\sin t\)이므로, 모든 실수 \(t\)에 대한 부등식 \(\lvert \sin t\rvert \leq \lvert t\rvert\)로 확장된다. 이를 적용하면, 임의의 \(a \in \mathbb{R}\)에 대해

\[\lvert \sin x - \sin a\rvert\leq\lvert x-a\rvert\]

가 성립하므로 \(\delta = \epsilon\)으로 두면 된다.

이제 \(\cos\) 함수는 \(\sin\)함수를 평행이동하여 얻을 수 있으므로 명제 2에 의해 연속이며, 따라서 위에서 살펴본 논증에 의하여 \(\tan x\)도 분모가 \(0\)이 되는 지점을 제외한 곳에서는 모두 연속이다.

닫힌구간 위 연속함수의 성질

한편, 연속함수의 한 가지 유용한 성질은 \(f\)가 \(a\)에서 연속이고 \(f(a) > 0\)이면, \(\epsilon = f(a)/2\)에 대응하는 \(\delta\)를 잡을 수 있으므로 이 경우 \(a\)의 \(\delta\)-근방에서 \(f\)가 항상 양수라는 것이다. 이 단순한 사실은 그 자체로도 유용할 뿐만 아니라, 다음의 정리들로도 일반화된다.

정리 4 (최대·최소 정리) \(f\)가 닫힌구간 \([a,b]\)에서 연속이면, \(f\)는 \([a,b]\)에서 최댓값과 최솟값을 갖는다. 즉 어떤 \(c, d \in [a,b]\)가 존재하여 모든 \(x \in [a,b]\)에 대해 \(f(d) \leq f(x) \leq f(c)\)이다.

정리 5 (중간값 정리) \(f\)가 닫힌구간 \([a,b]\)에서 연속이고 \(f(a) \neq f(b)\)이면, \(f(a)\)와 \(f(b)\) 사이의 임의의 값 \(y\)에 대하여 \(f(c) = y\)를 만족하는 \(c \in (a,b)\)가 존재한다.

이 두 정리의 증명은 실수의 완비성을 본질적으로 필요로 한다.

정리 5 (중간값 정리)에서 사이라는 말은 양 끝값 \(f(a)\)와 \(f(b)\)를 제외한다는 뜻이고, 그래서 결론의 \(c\)도 열린구간 \((a,b)\)에서 얻어진다. \(y\)가 두 끝값 중 하나와 같거나 \(f(a) = f(b)\)인 경우까지 함께 적으려면 \(f(c) = y\)인 \(c\)를 닫힌구간 \([a,b]\)에서 찾으면 되며, 이때는 \(c\)로 \(a\)나 \(b\)를 잡으면 된다.

마지막으로, 연속이 깨지는 방식을 분류해 두면 함수의 성질을 기술하는 데 편리하다. §함수의 극한에서 \(\lvert x\rvert/x\)를 두고 언급한 jump discontinuity가 그중 한 종류이다.

정의 6 (불연속의 분류) 함수 \(f\)가 \(a\)의 어떤 삭제된 근방에서 정의되어 있고, \(a\)에서 연속이 아니거나 \(f(a)\)가 정의되어 있지 않다고 하자. 그럼 두 한쪽 극한 \(\lim_{x\rightarrow a^\pm} f(x)\)의 존재와 일치 여부에 따라 이 불연속점을 다음 셋으로 나눈다.

1. removable discontinuity_{제거가능 불연속}: 극한 \(\lim_{x\rightarrow a} f(x)\)가 존재하나 \(f(a)\)와 다르거나 \(f(a)\)가 정의되지 않은 경우. \(f(a)\)를 극한값으로 (재)정의하면 연속이 된다. 예: \((x^2-1)/(x-1)\) (\(a=1\)).
2. jump discontinuity_{도약 불연속}: 두 한쪽 극한이 모두 존재하나 서로 다른 경우. 예: \(\lvert x\rvert/x\) (\(a=0\)).
3. essential discontinuity_{본질적 불연속}: 한쪽 극한 중 적어도 하나가 존재하지 않는 (진동하거나 발산하는) 경우. 예: \(\sin(1/x)\) (\(a=0\)).

단조함수와 역함수

중간값 정리의 중요한 응용 하나는 역함수의 연속성이다. 함수가 구간에서 순증가(또는 순감소)한다는 것은 \(x_1 < x_2\)이면 항상 \(f(x_1) < f(x_2)\) (또는 \(>\)) 인 것을 말하며, 이러한 함수를 통틀어 순단조_{strictly monotone}라 한다. 순단조함수는 자명히 단사이므로 그 상 위에서 역함수를 가진다.

명제 7 \(f\)가 구간 \(I\)에서 연속이고 순단조이면, 그 상 \(J = f(I)\)도 구간이고 역함수 \(f^{-1} : J \rightarrow I\) 역시 연속인 순단조함수이다.

증명

\(f\)가 순증가하는 경우만 보이면 되고, 순감소인 경우는 부등호를 모두 뒤집어 같은 논증을 반복하면 된다. \(J\)가 구간임은 중간값 정리에서 따른다: \(f\)의 두 값 사이의 임의의 값도 \(f\)가 취하므로 \(J\)에 빈틈이 없다. 역함수 \(f^{-1}\)이 순증가함은 \(f\)의 순증가성에서 즉시 나온다.

연속성을 보이기 위해 \(y_0 \in J\)와 \(x_0 = f^{-1}(y_0)\)을 잡고 \(\epsilon > 0\)이 주어졌다 하자. \(x_0\)의 양쪽에 \(I\)의 점이 있는 경우, \(I\)가 구간이므로 \(x_0 - \epsilon < x_1 < x_0 < x_2 < x_0 + \epsilon\)인 \(x_1, x_2 \in I\)를 고를 수 있다. \(f\)가 순증가하므로 \(y_1 := f(x_1) < y_0 < f(x_2) =: y_2\)이고, \(\delta = \min(y_0 - y_1, y_2 - y_0) > 0\)으로 두면 \(\lvert y - y_0\rvert < \delta\)인 \(y \in J\)는 모두 \(y_1 < y < y_2\)를 만족한다. 이제 \(f^{-1}\)의 순증가성에서 \(x_1 < f^{-1}(y) < x_2\)이므로 \(\lvert f^{-1}(y) - x_0\rvert < \epsilon\)이다. \(x_0\)이 \(I\)의 끝점이어서 한쪽에만 \(I\)의 점이 있는 경우에는 \(x_1\)과 \(x_2\) 중 그쪽의 것만 잡아 같은 논증을 반복하면 되고, 반대쪽 부등식은 \(x_0\)이 \(I\)의 최솟값 또는 최댓값이라는 데서 저절로 따른다.

예컨대 \(f(x) = x^n\) (\(x \geq 0\), \(n\)은 자연수) 은 연속이고 순증가하므로, 그 역함수인 \(n\)제곱근 \(\sqrt[n]{x}\)도 연속이다. 마찬가지로 삼각함수를 제한한 것의 역함수인 역삼각함수 등도 모두 연속이다. 이로써 연속함수의 기본 성질을 갖추었다.

---

참고문헌

[Ste] J. Stewart, Calculus, 8th ed., Cengage Learning, 2016.
[Kim] 김홍종, 미적분학 1·2, 제3개정판, 서울대학교출판문화원, 2020.