開集合による連続性の定義
関数 \( f : X \to Y \) が連続であるとは、任意の点 \( x \in X \) と、\( f(x) \) を含む任意の開集合 \( U \subset Y \) に対して、\( x \) の近傍 \( V \) が存在し、\( f(V) \subset U \) が成り立つことをいう。
より分かりやすく言えば、関数 \( f: X \to Y \) は、終域 \( Y \) の任意の開集合 \( U \) に対して、その逆像 \( f^{-1}(U) \) が定義域 \( X \) の開集合になるとき連続である。

つまり連続性とは、終域の開集合を定義域へ引き戻しても、その集合が開集合のままであるという性質である。
この定義は、距離や極限を直接用いることなく、開集合という位相空間の基本概念だけを使って連続性を記述する。そのため、位相空間論における連続性の最も基本的な定義の一つとなっている。
この考え方は、開集合による連続性の定義、あるいは連続性の位相的定義と呼ばれる。
注: この定義は、解析学で学ぶ \(\varepsilon\)-\(\delta\) による連続性の定義と同値である。そのため、「連続性の定義の同値性」として紹介されることも多い。解析学における連続性の定義は次のように述べられる。「関数 \( f \) が点 \( x_0 \in \mathbb{R} \) において連続であるとは、任意の \(\varepsilon > 0\) に対して、ある \(\delta > 0\) が存在し、任意の \( x \in \mathbb{R} \) について、\( |x-x_0| < \delta \) ならば \( |f(x)-f(x_0)| < \varepsilon \) が成り立つことである」。この定義は初等微積分学で広く用いられている。
また、連続性は開集合だけでなく、閉集合を使っても定義できる。
実際、二つの位相空間 \( X \) と \( Y \) の間の関数 \( f: X \to Y \) が連続であることは、\( Y \) の任意の閉集合 \( C \) に対して、その逆像 \( f^{-1}(C) \) が \( X \) において閉集合になることと同値である。
このように、連続性は開集合と閉集合のどちらを用いても記述できる。これは、位相空間において開集合と閉集合の概念が互いに補完し合う関係にあるためである。
具体例
それでは、実際に関数が連続であることを、開集合による定義を使って確認してみよう。
関数
$$ f : \mathbb{R} \to \mathbb{R}, \qquad f(x)=x^2 $$
を考える。
開集合による定義によれば、関数 \( f \) が連続であるためには、任意の開集合 \( U \subset \mathbb{R} \) に対して、その逆像 \( f^{-1}(U) \) が開集合にならなければならない。
そこで、具体的な例として開区間
$$ U=(1,4) $$
を選ぶ。
この集合は、1 より大きく 4 より小さいすべての実数からなる開集合である。

次に、\( U \) の逆像を求める。
逆像 \( f^{-1}(U) \) とは、\( x^2 \) が区間 \( (1,4) \) に入るようなすべての実数 \( x \) の集合である。
したがって、次の不等式を解けばよい。
$$ 1 < x^2 < 4 $$
これは次と同値である。
$$ 1 < |x| < 2 $$
よって、
$$ x \in (-2,-1)\cup(1,2) $$
となる。
したがって、
$$ f^{-1}(U)=(-2,-1)\cup(1,2) $$
であり、これは二つの開区間の和集合なので開集合である。
つまり、この開集合 \( U \) に対しては、逆像も確かに開集合になっている。
さらに、近傍を用いた定義でも確認してみよう。
例えば、逆像の中の点
$$ x=1.5 $$
を取る。
この点の像は
$$ f(1.5)=1.5^2=2.25 $$
であり、確かに \( U=(1,4) \) の中にある。

そこで、\( x=1.5 \) の周りに小さな近傍
$$ V=(1.4,1.6) $$
を取る。

この区間の端点を関数に代入すると、
$$ f(1.4)=1.96 \qquad f(1.6)=2.56 $$
となる。
したがって、\( V \) の像は
$$ f(V)=(1.96,2.56) $$
となり、これは完全に区間 \( (1,4) \) の中に含まれている。
$$ f(V)\subset U $$
つまり、点 \( x=1.5 \) の十分小さな近傍を選べば、その像は常に \( U \) の内部に収まる。
同じことは逆像に含まれる他のすべての点についても成り立つ。そのため、関数 \( f(x)=x^2 \) は開集合による定義の意味で連続であることが分かる。
注: 連続性は一つの点だけで確認すればよいわけではない。関数が連続であるためには、定義域のすべての点において同じ性質が成り立たなければならない。したがって、関数 \( f : \mathbb{R}\to\mathbb{R} \) の連続性を厳密に証明するには、任意の点 \( x \in \mathbb{R} \) と、\( f(x) \) を含む任意の開集合 \( U \) に対して、\( f(V)\subset U \) を満たす近傍 \( V \) が存在することを示す必要がある。
証明
ここでは、開集合による定義と近傍による定義が同値であることを示す。
A] 開集合による定義から近傍による定義を導く
まず、関数 \( f \) が開集合による定義の意味で連続であると仮定する。
\( x \in X \) を任意に取り、\( f(x) \) を含む開集合 \( U \subset Y \) を考える。
ここで
$$ V=f^{-1}(U) $$
とおく。
\( f \) は連続であるから、\( V \) は \( X \) の開集合である。
また、\( f(x)\in U \) なので \( x\in V \) であり、定義から \( f(V)\subset U \) が成り立つ。
したがって、\( f(x) \) を含む任意の開集合 \( U \) に対して、\( x \) を含む近傍 \( V \) が存在することが分かる。
B] 近傍による定義から開集合による定義を導く
逆に、任意の点 \( x \in X \) と、\( f(x) \) を含む任意の開集合 \( U \subset Y \) に対して、\( f(V)\subset U \) を満たす近傍 \( V \) が存在すると仮定する。
この仮定の下で、任意の開集合 \( W \subset Y \) に対して、逆像 \( f^{-1}(W) \) が開集合であることを示す。
\( x \in f^{-1}(W) \) を任意に取る。
すると \( f(x)\in W \) であり、\( W \) は開集合である。
仮定より、\( x \) の近傍 \( V_x \) が存在して
$$ f(V_x)\subset W $$
が成り立つ。
したがって、
$$ V_x \subset f^{-1}(W) $$
である。
つまり、\( f^{-1}(W) \) の任意の点は、その集合の内部に含まれる近傍を持つ。
よって、\( f^{-1}(W) \) は開集合である。
結論
以上より、開集合を用いる連続性の定義と、近傍を用いる連続性の定義は完全に同値であることが分かる。
この結果により、連続性は開集合、近傍、さらには閉集合を用いても同じ内容として記述できることが保証される。これは位相空間論における連続写像の基礎をなす重要な事実である。