集合の境界
点 \( x \) が集合 \( A \) の境界に属するとは、\( x \) の任意の近傍が集合 \( A \) とその補集合 \( X - A \) の双方と交わる場合をいう。
直感的に言えば、点 \( x \) のまわりにどれだけ小さな近傍をとっても、その中には常に集合 \( A \) に属する点と、\( A \) の外にある点の両方が含まれてしまう。このような点が、集合 \( A \) の境界にある点である。
具体例
この考え方を具体的な例で確認してみよう。
実数直線 \( \mathbb{R} \) 上の集合
$$ A = (0,1) $$
を考える。
この集合の境界は、区間の端にある点 0 と 1 である。なぜなら、0 や 1 のどんな近傍をとっても、その中には必ず区間 \( (0,1) \) の内部にある部分と、区間の外にある部分の両方が含まれるからである。
- 点 1
近傍 \( (1-\epsilon,1+\epsilon) \) を考える。ただし ε は十分小さい正の数とする。この近傍には、区間 \( (0,1) \) の内部にある部分 \( (1-\epsilon,1) \) と、区間の外にある部分 \( (1,1+\epsilon) \) が含まれる。したがって、点 1 は集合 \( A \) の境界点である。

- 点 0
同様に、近傍 \( (0-\epsilon,0+\epsilon) \) を考える。この近傍には、区間 \( (0,1) \) の内部にある部分 \( (0,0+\epsilon) \) と、区間の外にある部分 \( (0-\epsilon,0) \) が含まれる。したがって、点 0 も集合 \( A \) の境界点である。

- 区間 (0,1) の内部の点
区間の内部にある任意の点 \( x \) については、ε を十分小さく取れば、近傍 \( (x-\epsilon,x+\epsilon) \) を完全に \( (0,1) \) の内部に収めることができる。この近傍は \( X-A \) とは交わらない。したがって、区間 \( (0,1) \) の内部にある点は境界点ではない。

- 区間 (0,1) の外側の点
区間の外側にある点、ただし 0 と 1 を除く点を考える。このような点 \( x \) では、ε を十分小さく取れば、近傍 \( (x-\epsilon,x+\epsilon) \) を完全に \( X-A \) の内部に収めることができる。この近傍は \( A \) とは交わらない。したがって、区間 \( [0,1] \) の外にある点は集合 \( A \) の境界点ではない。

以上から、集合 \( A \) の境界は次のようになる。
$$ \partial A = \{0,1\} $$
まとめると、点 \( x \) が集合 \( A \) の境界にあるとは、その点の近傍の中に常に \( A \) の点と \( A \) の外の点の両方が現れる場合である。
証明
次に、この特徴づけを簡単に証明する。
1] 点 \( x \) が \( A \) の境界点であると仮定する
境界の定義から
$$ x \in \partial A $$
である。
境界は
$$ \partial A = \text{Cl}(A) - \text{Int}(A) $$
と表されるので、
\( x \in \text{Cl}(A) \) かつ \( x \notin \text{Int}(A) \) が成り立つ。
\( x \in \text{Cl}(A) \) であることから、\( x \) の任意の近傍は必ず集合 \( A \) と交わる。
一方、\( x \notin \text{Int}(A) \) であるため、\( x \) の近傍は \( A \) に完全には含まれない。したがって、その近傍は必ず \( X-A \) とも交わる。
よって、任意の近傍は \( A \) と \( X-A \) の両方と交わる。
2] 任意の近傍が \( A \) と \( X-A \) の双方と交わると仮定する
このとき、任意の近傍が \( A \) と交わるので
$$ x \in \text{Cl}(A) $$
が成り立つ。
同様に、任意の近傍が \( X-A \) とも交わるため
$$ x \in \text{Cl}(X-A) $$
となる。
さらに
$$ \text{Cl}(X-A) = X - \text{Int}(A) $$
であることから、
$$ x \notin \text{Int}(A) $$
が従う。
したがって
\( x \in \text{Cl}(A) \) かつ \( x \notin \text{Int}(A) \)
であり、
$$ x \in \partial A $$
が得られる。
以上より、点 \( x \) は集合 \( A \) の境界点であることが示された。