닫힌집합에 의한 연속성의 특징화

두 위상공간 \( X \)와 \( Y \)가 주어졌을 때, 함수 \( f: X \to Y \)가 연속일 필요충분조건은 \( Y \)의 모든 닫힌집합 \( C \subseteq Y \)에 대하여 그 원상 \( f^{-1}(C) \)가 \( X \)에서 닫힌집합이 되는 것이다.

위상수학에서 연속성은 보통 열린집합을 이용해 정의된다. 즉, \( Y \)의 모든 열린집합의 원상이 \( X \)에서도 열린집합이면 함수는 연속이다.

그런데 연속성을 판단하기 위해 반드시 열린집합만 사용할 필요는 없다. 이 정리에 따르면 닫힌집합의 원상이 항상 닫힌집합인지 확인하는 것만으로도 연속성을 완전히 판별할 수 있다.

이는 열린집합과 닫힌집합이 서로 밀접하게 연결되어 있기 때문이다. 어떤 닫힌집합은 열린집합의 여집합으로 나타낼 수 있고, 반대로 어떤 열린집합도 닫힌집합의 여집합으로 표현할 수 있다.

참고: 실제 위상수학에서는 상황에 따라 열린집합 대신 닫힌집합을 이용하는 것이 더 편리한 경우가 많다. 따라서 이 정리는 연속성을 다루는 중요한 도구로 널리 활용된다.

예제

표준 위상을 갖는 실수공간에서 함수

$$ f(x)=x^2 $$

를 생각해 보자.

이 함수가 연속인지 확인하기 위해 \( Y=\mathbb{R} \)의 닫힌집합 하나를 선택해 보자. 예를 들어

$$ C=[1,+\infty) $$

를 생각할 수 있다. 이 집합은 경계점 1을 포함하므로 닫힌집합이다.

이제 \( C \)의 원상을 구하면

$$ f^{-1}(C)=\{x\in\mathbb{R}:x^2\in[1,+\infty)\} $$

이며, 이를 정리하면

$$ f^{-1}(C)=(-\infty,-1]\cup[1,+\infty) $$

를 얻는다.

이 집합은 \( \mathbb{R} \)에서 닫힌집합이다. 실제로 \((-\infty,-1]\)과 \([1,+\infty)\)는 각각 닫힌집합이며, 닫힌집합의 유한 합집합도 닫힌집합이기 때문이다.

따라서 닫힌집합 \( C \)의 원상은 닫힌집합이다.

같은 방식으로 임의의 닫힌집합에 대해서도 확인할 수 있으므로, 함수 \( f(x)=x^2 \)는 연속함수임을 알 수 있다.

증명

이 정리는 두 방향을 모두 증명해야 한다.

연속이면 닫힌집합의 원상은 닫힌집합이다

\( f \)가 연속이라고 가정하자.

연속성의 정의에 따르면 \( Y \)의 모든 열린집합의 원상은 \( X \)에서 열린집합이다.

이제 임의의 닫힌집합 \( C \subseteq Y \)를 선택하자.

\( C \)가 닫힌집합이므로 그 여집합 \( Y\setminus C \)는 열린집합이다.

\( f \)가 연속이므로

$$ f^{-1}(Y\setminus C) $$

는 \( X \)에서 열린집합이다.

한편 원상 연산은 여집합과 잘 호환되므로

$$ f^{-1}(Y\setminus C)=X\setminus f^{-1}(C) $$

가 성립한다.

따라서 \( X\setminus f^{-1}(C) \)가 열린집합이므로, \( f^{-1}(C) \)는 닫힌집합이다.

결국 연속함수는 모든 닫힌집합을 원상을 통해 닫힌집합으로 보낸다.

닫힌집합의 원상이 항상 닫힌집합이면 연속이다

이번에는 \( Y \)의 모든 닫힌집합의 원상이 \( X \)에서 닫힌집합이라고 가정하자.

연속성을 보이기 위해서는 \( Y \)의 임의의 열린집합 \( U \)에 대하여 \( f^{-1}(U) \)가 열린집합임을 증명하면 충분하다.

\( U \)가 열린집합이므로 여집합 \( Y\setminus U \)는 닫힌집합이다.

가정에 의해

$$ f^{-1}(Y\setminus U) $$

는 \( X \)에서 닫힌집합이다.

또한

$$ f^{-1}(Y\setminus U)=X\setminus f^{-1}(U) $$

가 성립한다.

따라서 \( X\setminus f^{-1}(U) \)가 닫힌집합이므로, 그 여집합인 \( f^{-1}(U) \)는 열린집합이다.

이는 연속성의 정의가 만족됨을 의미한다.

따라서 \( f \)는 연속이다.

결론

우리는 다음 두 명제가 서로 동치임을 확인하였다.

• 함수 \( f \)는 연속이다.
• \( Y \)의 모든 닫힌집합 \( C \)에 대하여 \( f^{-1}(C) \)는 \( X \)에서 닫힌집합이다.

따라서 연속성은 열린집합의 원상을 통해 정의할 수도 있고, 동등하게 닫힌집합의 원상을 통해 특징지을 수도 있다. 이 결과는 위상수학에서 연속성을 연구할 때 매우 자주 사용되는 기본 정리 가운데 하나이다.