连续性的开集定义
函数 \( f : X \to Y \) 连续，当且仅当对于任意点 \( x \in X \)，以及任意包含 \( f(x) \) 的开集 \( U \subset Y \)，都存在 \( x \) 的一个邻域 \( V \)，使得 \( f(V) \subset U \)。
还有一种更常见、更便于理解的表述：
函数 \( f: X \to Y \) 连续，当且仅当对于 \( Y \) 中任意开集 \( U \subset Y \)，其原像 \( f^{-1}(U) \) 都是 \( X \) 中的开集。
换句话说，陪域中的开集经过原像运算后，仍然对应定义域中的开集。
这一定义完全建立在拓扑空间中的开集概念之上，因此被称为连续性的拓扑定义。
在拓扑学教材中，它通常被称为连续性的开集定义。
说明：这一结果也常用于说明连续性的不同定义之间是等价的。我们熟悉的 \(\varepsilon\)-\(\delta\) 定义来自分析学，而这里介绍的定义来自拓扑学。虽然两种表述形式不同，但它们刻画的是同一个概念。
在实数空间中，连续性的分析定义为：
设 \( x_0 \in \mathbb{R} \)。若对于任意 \(\varepsilon > 0\)，都存在 \(\delta > 0\)，使得当 \( |x-x_0| < \delta \) 时，总有 \( |f(x)-f(x_0)| < \varepsilon \)，则称函数 \( f \) 在点 \( x_0 \) 处连续。
连续性不仅可以通过开集来描述，也可以通过闭集来描述。
事实上，设 \( X \) 和 \( Y \) 为两个拓扑空间，则函数 \( f:X \to Y \) 连续，当且仅当 \( Y \) 中任意闭集 \( C \) 的原像 \( f^{-1}(C) \) 都是 \( X \) 中的闭集。
因此，连续性既可以从开集的角度理解，也可以从闭集的角度理解。这是因为在拓扑学中，开集与闭集本质上是互补的概念。
一个具体例子
下面通过一个简单例子来理解这一概念。
考虑函数
$$ f:\mathbb{R}\to\mathbb{R}, \qquad f(x)=x^2 $$
我们利用开集定义来验证它是否连续。
先取陪域中的一个开集：
$$ U=(1,4) $$
它表示所有大于 1 且小于 4 的实数。
接下来求这个开集的原像 \( f^{-1}(U) \)。
根据定义，需要找出所有满足
$$ x^2 \in (1,4) $$
的实数 \( x \)。
即求解不等式：
$$ 1
等价地可写为：
$$ 1<|x|<2 $$
因此：
$$ f^{-1}(U)=(-2,-1)\cup(1,2) $$
这个集合是两个开区间的并，因此仍然是开集。
仅从这一例子中，我们已经看到：开集 \( U \) 的原像仍然是开集。
下面进一步从邻域的角度验证连续性。
任选一点
$$ x=1.5 $$
显然 \( x \in (1,2) \subset f^{-1}(U) \)。
它对应的函数值为：
$$ f(1.5)=1.5^2=2.25 $$
而 \( 2.25 \in (1,4) \)。
现在需要找到 \( x=1.5 \) 的一个邻域 \( V \)，使得整个邻域经过映射后仍落在 \( U \) 中。
例如取：
$$ V=(1.4,1.6) $$
计算区间端点对应的函数值：
$$ f(1.4)=1.96 $$
$$ f(1.6)=2.56 $$
因此：
$$ f(V)=(1.96,2.56) $$
显然有：
$$ f(V)\subset(1,4)=U $$
也就是说，在点 \( x=1.5 \) 的附近，函数不会把点映射到开集 \( U \) 之外。
对于 \( f^{-1}(U) \) 中的其他点，同样可以找到类似的邻域。
因此，函数 \( f(x)=x^2 \) 满足连续性的开集定义，是一个连续函数。
说明：验证连续性时，不能只检查某一个点。连续性要求定义域中的每一个点都满足相应条件。只有当这一性质在整个定义域上成立时，函数才是连续的。
证明
下面证明开集定义与邻域定义是等价的。
A] 必要性
假设函数 \( f \) 满足开集定义，即对于 \( Y \) 中任意开集，其原像都是 \( X \) 中的开集。
取任意点 \( x \in X \)，以及任意满足 \( f(x)\in U \) 的开集 \( U \subset Y \)。
定义：
$$ V=f^{-1}(U) $$
由于 \( U \) 是开集，而 \( f \) 连续，所以 \( V \) 是 \( X \) 中的开集。
又因为 \( f(x)\in U \)，因此 \( x\in V \)。
根据原像的定义，\( V \) 中所有点经过 \( f \) 映射后都落入 \( U \)，即：
$$ f(V)\subset U $$
因此，对于任意包含 \( f(x) \) 的开集 \( U \)，都存在包含 \( x \) 的开邻域 \( V \)，满足 \( f(V)\subset U \)。
B] 充分性
反过来，假设对于任意点 \( x\in X \) 和任意包含 \( f(x) \) 的开集 \( U\subset Y \)，都存在一个邻域 \( V \)，使得：
$$ f(V)\subset U $$
现在证明 \( f \) 满足开集定义。
任取 \( Y \) 中一个开集 \( W \subset Y \)。
需要证明：
$$ f^{-1}(W) $$
是 \( X \) 中的开集。
任取一点：
$$ x\in f^{-1}(W) $$
则有：
$$ f(x)\in W $$
由于 \( W \) 是开集，根据假设，存在 \( x \) 的一个邻域 \( V_x \)，使得：
$$ f(V_x)\subset W $$
于是：
$$ V_x\subset f^{-1}(W) $$
这说明 \( f^{-1}(W) \) 中的每个点都拥有一个完全包含于该集合中的邻域。
根据开集的定义，可以得到：
$$ f^{-1}(W) $$
是 \( X \) 中的开集。
结论
因此，我们证明了：
函数连续 ⇔ 任意开集的原像仍是开集 ⇔ 每个点附近都存在映射到目标开集内部的邻域。
也就是说，连续性的开集定义与连续性的邻域定义完全等价。
证毕。
