집합의 내부와 폐포의 관계

위상수학에서는 집합의 내부와 폐포 사이에 잘 알려진 중요한 관계가 존재한다. 위상공간 \( X \)의 부분집합 \( A \)에 대하여, 집합 \( A \)의 여집합의 내부는 \( A \)의 폐포의 여집합과 정확히 같다. 이 관계는 다음과 같은 간단한 등식으로 표현된다. $$ \text{Int}(X - A) = X - \text{Cl}(A) $$

이 성질은 내부와 폐포라는 두 기본 개념이 여집합 연산을 통해 서로 긴밀하게 연결되어 있음을 보여 주며, 위상수학의 여러 정리와 계산에서 반복적으로 활용된다.

구체적인 예

이 관계를 보다 직관적으로 이해하기 위해, 표준 위상을 갖는 실수직선 \(\mathbb{R}\)을 예로 살펴보자. 이 공간에서 열린 집합은 열린 구간들로 이루어진다.

다음과 같은 닫힌 구간을 고려하자.

$$ A = [0, 1] $$

실수직선에서 이 집합의 여집합은 구간 \( [0, 1] \)의 바깥 부분으로, 다음과 같이 주어진다.

$$ \mathbb{R} - A = (-\infty, 0) \cup (1, \infty) $$

이 집합은 이미 열린 구간들의 합집합으로 이루어져 있으므로, 여집합 자체가 열린 집합이다. 따라서 여집합의 내부는 집합 전체와 같다.

$$ \text{Int}(\mathbb{R} - A) = (-\infty, 0) \cup (1, \infty) $$

한편, 집합 \( A \)의 폐포는 \( A \)와 그 모든 집적점을 포함하는 집합이다. 그러나 \( A = [0, 1] \)은 이미 닫힌 집합이므로, 폐포는 \( A \) 자체와 일치한다.

$$ \text{Cl}(A) = [0, 1] $$

이제 폐포의 여집합을 계산하면 다음과 같다.

$$ \mathbb{R} - \text{Cl}(A) = \mathbb{R} - [0, 1] = (-\infty, 0) \cup (1, \infty) $$

두 결과를 나란히 놓고 보면, 여집합의 내부와 폐포의 여집합이 완전히 동일함을 확인할 수 있다.

• \(\text{Int}(\mathbb{R} - A) = (-\infty, 0) \cup (1, \infty)\)
• \(\mathbb{R} - \text{Cl}(A) = (-\infty, 0) \cup (1, \infty)\)

이 간단한 예는 내부와 폐포 사이의 관계가 구체적인 상황에서 어떻게 작동하는지를 분명하게 보여 준다.

증명

이제 위의 결과가 특정한 예에만 국한되지 않고, 모든 위상공간에서 일반적으로 성립함을 보이자.

위상공간 \( X \)의 임의의 부분집합 \( A \)에 대하여, 다음의 등식을 증명하는 것이 목표이다.

$$ \text{Int}(X - A) = X - \text{Cl}(A) $$

이를 위해 내부와 폐포의 정의를 다시 한 번 떠올려 보자.

• \(\text{Int}(B)\)는 집합 \( B \)에 속하는 모든 내부점들의 집합이다.
• \(\text{Cl}(A)\)는 집합 \( A \)와 그 모든 집적점(극한점)을 포함하는 집합이다.

증명은 두 방향의 포함 관계를 차례로 보이는 방식으로 진행된다.

1] \(\text{Int}(X - A) \subseteq X - \text{Cl}(A)\)

\( X - A \)의 내부에 속하는 점 \( x \)를 하나 택하자.

$$ x \in \text{Int}(X - A) $$

정의에 따라, \( x \)의 어떤 근방 \( U \)가 존재하여 \( U \subseteq X - A \)가 된다.

이는 \( U \cap A = \emptyset \)임을 의미하며, 따라서 \( x \)의 적어도 하나의 근방은 집합 \( A \)와 만나지 않는다.

그러므로 \( x \)는 \( A \)의 집적점이 될 수 없고, 결국 \( x \notin \text{Cl}(A) \)이다.

즉, \( x \in X - \text{Cl}(A) \)가 되어 첫 번째 포함 관계가 성립한다.

2] \(X - \text{Cl}(A) \subseteq \text{Int}(X - A)\)

이번에는 \( X - \text{Cl}(A) \)에 속하는 점 \( x \)를 취하자.

$$ x \in X - \text{Cl}(A) $$

이는 \( x \)가 \( A \)의 폐포에 속하지 않는다는 뜻이다. 폐포의 정의에 따라, 이 경우 \( x \)의 어떤 근방 \( U \)는 집합 \( A \)와 교집합을 가지지 않는다.

따라서 \( U \subseteq X - A \)가 되고, 이는 \( x \)가 \( X - A \)의 내부점임을 의미한다.

즉, \( x \in \text{Int}(X - A) \)이며, 두 번째 포함 관계도 성립한다.

3] 결론

두 방향의 포함 관계가 모두 성립하므로, 다음의 등식이 얻어진다.

$$ \text{Int}(X - A) = X - \text{Cl}(A) $$

이로써 집합의 내부와 폐포가 여집합 연산을 통해 어떻게 연결되는지가 명확하게 드러난다.