위상수학적 연속성

위상공간 \(X\)와 \(Y\)가 주어졌다고 하자. 함수 \(f: X \to Y\)가 \(Y\)의 모든 열린집합 \(V\)에 대하여 그 원상 \(f^{-1}(V)\)가 \(X\)에서 열린집합이면, \(f\)를 연속 함수라고 한다.

위상수학에서 연속 함수는 단순히 그래프가 끊어지지 않는 함수를 의미하지 않는다. 핵심은 함수가 한 공간의 위상 구조를 다른 공간으로 옮길 때 열린집합의 성질을 보존하는지에 있다.

즉, 위상수학적 연속성은 서로 다른 위상공간 사이에서 열린집합의 구조가 얼마나 안정적으로 유지되는지를 설명하는 개념이다.

참고: 위상수학적 연속성은 해석학에서 사용하는 연속성보다 더 일반적인 개념이다. 해석학에서는 점들 사이의 거리가 중요하지만, 위상수학에서는 열린집합들의 관계가 더 중요하다. 따라서 거리 개념이 없는 공간에서도 연속성을 정의할 수 있으며, 이것이 위상수학의 강점 가운데 하나이다.

예를 들어, 도형을 찢거나 붙이지 않고 늘리거나 구부리는 변형은 연속 함수로 표현할 수 있다.

이러한 관점에서 연속성은 변형 과정이 끝난 뒤에도 공간의 기본적인 위상 구조가 유지되도록 보장한다.

구체적인 예

두 위상공간 \(X = \{a, b, c, d\}\)와 \(Y = \{1, 2\}\)를 생각해 보자.

• \(X\)의 열린집합은 \(\{\}, \{a\}, \{a, b\}, \{a, b, c, d\}\)이다.
• \(Y\)의 열린집합은 \(\{\}, \{1\}, \{1, 2\}\)이다.

이제 함수 \(f: X \rightarrow Y\)를 다음과 같이 정의하자.

\( f(a) = 1 \), \( f(b) = 1 \), \( f(c) = 2 \), \( f(d) = 2 \)

이 함수는 위상수학적 의미에서 연속일까?

아래 그림은 함수 \(f\)와 두 위상공간, 그리고 각 공간의 열린집합을 나타낸 것이다.

이제 연속성의 정의를 직접 확인해 보자.

• \(Y\)의 열린집합 \(\{1\}\)의 원상은 \( f^{-1}(\{1\}) = \{a, b\} \)이며, 이는 \(X\)에서 열린집합이다.
• \(Y\)의 열린집합 \(\{1,2\}\)의 원상은 \( f^{-1}(\{1,2\}) = \{a,b,c,d\} \)이며, 역시 \(X\)에서 열린집합이다.

공집합은 모든 위상에서 열린집합이므로 따로 확인할 필요가 없다.

결국 \(Y\)의 모든 열린집합에 대해 원상이 \(X\)에서도 열린집합이 되므로 함수 \(f\)는 연속 함수이다.

예제 2

이번에는 같은 위상공간 사이의 다른 함수 \(g: X \rightarrow Y\)를 살펴보자.

\( g(a) = 1 \), \( g(b) = 1 \), \( g(c) = 1 \), \( g(d) = 2 \)

다음 그림은 함수 \(g\)를 나타낸 것이다.

ja

이번에도 정의를 적용해 보자.

• \(Y\)의 열린집합 \(\{1\}\)의 원상은 \( g^{-1}(\{1\}) = \{a,b,c\} \)이다. 그러나 \(\{a,b,c\}\)는 \(X\)에서 열린집합이 아니다.

따라서 \(Y\)의 열린집합 가운데 원상이 \(X\)에서 열린집합이 아닌 경우가 존재하므로 함수 \(g\)는 연속 함수가 아니다.

항등함수는 항상 연속일까?

예제 3

이제 모든 \(x \in X\)에 대해 \(id(x)=x\)로 정의되는 항등함수 \(id: X \to X\)를 생각해 보자.

$$ x = f(x) $$

항등함수는 어떤 점도 다른 점으로 바꾸지 않는다. 즉, 모든 원소를 자기 자신에게 대응시킨다.

이 경우 열린집합 역시 그대로 유지된다. 따라서 위상 구조에는 아무런 변화가 일어나지 않는다.

그러므로 항등함수 \(f(x)=x\)는 항상 연속이다.

상수함수는 항상 연속일까?

예제 4

이번에는 모든 \(x \in X\)에 대해 \(f(x)=c\)인 상수함수 \(f: X \to Y\)를 생각해 보자.

$$ f(x) = c $$

상수함수는 입력값이 무엇이든 항상 같은 값 \(c\)를 반환한다.

연속성의 정의를 적용하면 두 가지 경우가 생긴다.

• \(c \in V\)이면 \(V\)의 원상은 전체 공간 \(X\)가 된다. 전체 공간은 항상 열린집합이다.
• \(c \notin V\)이면 \(V\)의 원상은 공집합 \(\emptyset\)이 된다. 공집합 역시 항상 열린집합이다.

어느 경우든 원상은 열린집합이므로 상수함수 \(f(x)=c\)는 항상 연속이다.

참고: 이 예제는 연속성이 함수식의 복잡성과는 직접적인 관련이 없음을 보여 준다. 함수가 단순하더라도 위상 구조에 따라 연속 여부가 결정되며, 상수함수는 모든 열린집합의 원상이 항상 열린집합이 되기 때문에 언제나 연속이다.

같은 함수라도 위상에 따라 연속성이 달라질 수 있다

예제 5

이번에는 항등함수 \(f(x)=x\)를 다시 살펴보자. 함수 자체는 이전과 동일하지만, 정의역과 공역에 서로 다른 위상을 부여한다.

• \(X\)는 실수 집합 \( \mathbb{R} \)에 표준 위상을 부여한 공간이다. 열린집합은 \((a,b)\) 형태의 열린구간들로 이루어진다.
• \(Y\)는 실수 집합 \( \mathbb{R} \)에 하한 위상(lower limit topology)을 부여한 공간이다. 기본 열린집합은 \([a,b)\) 형태의 반열린구간이다.

함수가 연속인지 확인하려면 \(Y\)의 열린집합의 원상이 \(X\)에서 열린집합인지 조사해야 한다.

하한 위상에서 열린집합인 \( [0,1) \)을 생각해 보자.

항등함수이므로

\( f^{-1}([0,1)) = [0,1) \)

이다.

그러나 표준 위상에서는 \( [0,1) \)이 열린집합이 아니다.

참고: 표준 위상에서 열린집합이 되려면 집합의 모든 점이 집합 안에 완전히 포함되는 열린구간을 가져야 한다. 하지만 \(0\)은 이 조건을 만족하지 못한다. \(0\)을 포함하는 어떤 열린구간도 음의 실수를 포함하게 되는데, 이러한 점들은 \( [0,1) \)에 속하지 않는다.

따라서 정의역에 표준 위상을, 공역에 하한 위상을 부여한 항등함수 \( f : \mathbb{R} \to \mathbb{R} \)는 연속 함수가 아니다.

이 예제는 위상수학에서 함수 자체만으로는 연속성을 판단할 수 없다는 사실을 잘 보여 준다.

같은 함수 \(f(x)=x\)라도 정의역과 공역에 어떤 위상을 부여하느냐에 따라 연속일 수도 있고 연속이 아닐 수도 있다.

즉, 위상수학적 연속성은 함수와 위상 구조를 함께 고려해야 이해할 수 있는 개념이다.

연속성의 기저 정리

두 위상공간 \(X\)와 \(Y\)가 주어졌다고 하자. 함수 \(f: X \to Y\)는 \(Y\)의 위상에 대한 기저 \(B_Y\)의 모든 기저원소 \(B \in B_Y\)에 대하여 원상 \(f^{-1}(B)\)가 \(X\)에서 열린집합일 때, 그리고 그 경우에 한하여 연속이다.

연속성의 정의를 처음 접하면 다소 부담스럽게 느껴질 수 있다. 정의에 따르면 공역 \(Y\)의 모든 열린집합에 대해 원상을 확인해야 하기 때문이다.

하지만 실제 계산에서는 훨씬 간단한 방법을 사용할 수 있다. 바로 위상의 기저만 확인하는 것이다. 이것이 연속성의 기저 정리가 중요한 이유다.

기저 정리에 따르면, 공역 \(Y\)의 모든 열린집합을 검사할 필요 없이 기저를 이루는 집합들만 확인하면 함수의 연속성을 판정할 수 있다.

따라서 확인해야 할 대상이 크게 줄어들며, 실제 문제에서는 연속성을 훨씬 빠르고 효율적으로 판단할 수 있다.

증명. \(Y\)의 모든 열린집합은 기저 \(B_Y\)의 원소들의 합집합으로 표현될 수 있다. 이제 모든 \(B \in B_Y\)에 대해 \(f^{-1}(B)\)가 \(X\)에서 열린집합이라고 가정하자. 임의의 열린집합 \(V \subseteq Y\)는 \[ V = \bigcup_{\alpha} B_\alpha \] 와 같이 기저원소들의 합집합으로 표현된다. 원상은 합집합에 대해 분배되므로 \[ f^{-1}(V) = f^{-1}\!\left(\bigcup_{\alpha} B_\alpha\right) = \bigcup_{\alpha} f^{-1}(B_\alpha) \] 가 성립한다. 가정에 의해 각 \(f^{-1}(B_\alpha)\)는 열린집합이므로, 그 합집합 역시 열린집합이다. 따라서 \(Y\)의 모든 열린집합의 원상이 \(X\)에서 열린집합이 되며, 연속성의 정의에 따라 함수 \(f\)는 연속이다.

예제

이제 간단한 예를 통해 기저 정리를 직접 확인해 보자.

두 위상공간 \(X = \{a,b,c,d\}\)와 \(Y = \{x,y,z\}\)를 생각하자.

• \(X\)의 위상은 \( \tau_X = \{\emptyset, \{a\}, \{a,b\}, \{a,b,c,d\}\} \)이다.
• \(Y\)의 위상은 기저 \( B_Y = \{\{x\}, \{y\}, \{z\}\} \)로부터 생성된다.

\(Y\)의 모든 열린집합은 이 기저원소들의 합집합으로 만들어진다. 따라서 기저에 직접 포함되지 않는 집합도 열린집합이 될 수 있다.

예를 들어 \( \{x,y\} \), \( \{x,z\} \), \( \{y,z\} \), \( \{x,y,z\} \)는 기저의 원소는 아니지만, 기저원소들의 합집합으로 표현되므로 모두 열린집합이다.

이제 함수 \(f: X \to Y\)를 다음과 같이 정의하자.

• \(f(a) = x\)
• \(f(b) = x\)
• \(f(c) = y\)
• \(f(d) = z\)

기저 정리에 따르면, \(Y\)의 모든 열린집합을 검사할 필요 없이 기저원소들의 원상만 확인하면 된다.

• \(f^{-1}(\{x\}) = \{a,b\}\)이며, 이는 \(X\)에서 열린집합이다.
• \(f^{-1}(\{y\}) = \{c\}\)이며, 이는 위상 \( \tau_X \)에 포함되어 있지 않으므로 열린집합이 아니다.

이미 두 번째 단계에서 조건이 실패했으므로 더 이상의 검사는 필요 없다.

따라서 함수 \(f\)는 연속이 아니다.

참고. 기저원소 가운데 하나라도 원상이 열린집합이 아니면 함수는 연속이 될 수 없다. 따라서 한 번이라도 조건이 실패하면 나머지 기저원소에 대한 검사를 계속할 필요가 없다.

조위상과 세분위상에서의 연속성

같은 공역을 갖는 함수가 어떤 정의역의 위상에 대해 연속이라면, 그보다 더 세분된 정의역의 위상에 대해서도 연속이다.

이 정리는 처음에는 다소 의외로 느껴질 수 있다.

일반적으로 열린집합이 많아지면 조건이 더 까다로워질 것 같지만, 연속성은 원상이 열린집합인지 여부로 결정되기 때문에 정의역에 열린집합이 추가되더라도 이미 연속인 함수의 연속성이 사라지지는 않는다.

다만 반대 방향은 성립하지 않는다. 세분위상에서는 연속이지만 조위상에서는 연속이 아닌 함수가 존재할 수 있다.

조위상과 세분위상. 같은 집합 \(X\) 위에 정의된 두 위상 가운데 열린집합이 더 적은 위상을 조위상(coarser topology), 열린집합이 더 많은 위상을 세분위상(finer topology)이라고 한다.

예제

집합 \(X = \{a,b\}\) 위에 다음 두 위상을 정의하자.

1. 조위상 \( \tau_1 = \{\varnothing, \{a,b\}\} \)
2. 세분위상 \( \tau_2 = \{\varnothing, \{a\}, \{b\}, \{a,b\}\} \)

\(\tau_1\)에서는 공집합과 전체집합만 열린집합이다. 반면 \(\tau_2\)에서는 \(\{a\}\)와 \(\{b\}\)도 열린집합에 포함된다.

이제 \(Y = \{1\}\)이라 하고 함수 \(f: X \to Y\)를 다음과 같이 정의하자.

$$ f(a) = 1 $$

$$ f(b) = 1 $$

먼저 조위상 \(\tau_1\)에서 연속성을 확인해 보자.

• \(f^{-1}(\varnothing) = \varnothing\)이며, 열린집합이다.
• \(f^{-1}(\{1\}) = \{a,b\}\)이며, 역시 열린집합이다.

따라서 함수 \(f\)는 \(\tau_1\)에 대해 연속이다.

이제 세분위상 \(\tau_2\)를 살펴보자.

함수의 원상은 변하지 않으며, \(\tau_2\)는 \(\tau_1\)의 모든 열린집합을 포함한다.

• \(f^{-1}(\varnothing) = \varnothing\)이며, 열린집합이다.
• \(f^{-1}(\{1\}) = \{a,b\}\)이며, 역시 열린집합이다.

따라서 함수 \(f\)는 \(\tau_2\)에 대해서도 연속이다.

즉, 정의역의 위상을 세분화하더라도 이미 연속인 함수는 계속해서 연속성을 유지한다.

예제 2

이번에도 같은 집합 \(X = \{a,b\}\)와 동일한 두 위상을 사용하자.

1. 조위상 \( \tau_1 = \{\varnothing, \{a,b\}\} \)
2. 세분위상 \( \tau_2 = \{\varnothing, \{a\}, \{b\}, \{a,b\}\} \)

이번에는 \(Y = \{1,2\}\)에 이산위상을 부여하고 함수 \(g: X \to Y\)를 정의하자.

$$ g(a) = 1 $$

$$ g(b) = 2 $$

먼저 세분위상 \(\tau_2\)에서 연속성을 확인해 보자.

• \(g^{-1}(\varnothing) = \varnothing\)이며 열린집합이다.
• \(g^{-1}(\{1,2\}) = \{a,b\}\)이며 열린집합이다.
• \(g^{-1}(\{1\}) = \{a\}\)이며 열린집합이다.
• \(g^{-1}(\{2\}) = \{b\}\)이며 열린집합이다.

따라서 함수 \(g\)는 세분위상 \(\tau_2\)에 대해 연속이다.

하지만 조위상 \(\tau_1\)에서는 결과가 달라진다.

• \(g^{-1}(\varnothing) = \varnothing\)이며 열린집합이다.
• \(g^{-1}(\{1,2\}) = \{a,b\}\)이며 열린집합이다.
• \(g^{-1}(\{1\}) = \{a\}\)이지만, 이는 \(\tau_1\)에서 열린집합이 아니다.

따라서 함수 \(g\)는 \(\tau_1\)에 대해서는 연속이 아니다.

이 예제는 위상수학에서 연속성이 함수의 식만으로 결정되지 않는다는 사실을 잘 보여 준다.

같은 함수라도 정의역과 공역에 어떤 위상을 부여하느냐에 따라 연속일 수도 있고 연속이 아닐 수도 있다.

결국 연속성을 이해하려면 함수 자체뿐 아니라 그 함수가 정의된 위상공간의 구조도 함께 고려해야 한다.

연결성과 연속성의 차이

연결성과 연속성은 위상수학에서 자주 함께 등장하는 개념이지만, 서로 다른 대상을 설명한다.

연결성은 공간 자체의 성질을 나타내는 반면, 연속성은 함수의 성질을 나타낸다. 두 개념은 여러 중요한 정리를 통해 서로 연결되지만, 같은 의미로 사용될 수는 없다.

• 연결성은 공간의 성질이다
  연결성은 위상공간 자체의 구조적 특성을 설명한다. 위상공간 \(X\)가 연결되어 있다는 것은 \(X\)를 서로소인 두 개의 공집합이 아닌 열린집합으로 분해할 수 없다는 뜻이다. 동치적으로 말하면, \(X\)를 서로소인 두 개의 공집합이 아닌 닫힌집합으로 분해할 수도 없다. 따라서 연결성은 특정 함수의 존재와 관계없이 공간 자체가 갖는 고유한 위상적 성질이다.
• 연속성은 함수의 성질이다
  연속성은 두 위상공간 사이의 함수 \(f: X \to Y\)에 관한 개념이다. 함수 \(f\)는 \(Y\)의 모든 열린집합에 대해 그 원상이 \(X\)에서 열린집합일 때 연속이라고 한다. 즉, 연속성은 함수가 한 공간의 위상 구조를 다른 공간으로 옮기는 과정에서 그 구조를 얼마나 잘 보존하는지를 설명한다. 예를 들어, 표준 위상을 갖는 실수공간에서 함수 \(f(x)=x^2\)는 연속이다. 하지만 이 사실만으로는 실수공간 \(\mathbb{R}\)이 연결공간인지 아닌지를 판단할 수 없다.

연결성과 연속성은 서로 밀접하게 관련되어 있지만, 역할은 분명히 다르다.

대표적인 예로, \(X\)가 연결공간이고 \(f: X \to Y\)가 연속 함수라면 상 \(f(X)\)는 \(Y\)에서 연결집합이 된다.

이 정리는 연속 함수가 연결성을 보존한다는 사실을 보여 준다. 하지만 이것이 연결성과 연속성이 같은 개념이라는 뜻은 아니다. 연결성은 공간의 성질이고, 연속성은 함수의 성질이라는 구분은 항상 유지된다.

추가 참고 사항

다음은 위상수학적 연속성과 관련된 주요 정리와 개념들이다.

• 연속 함수가 반드시 열린 사상인 것은 아니다
  연속 함수는 일반적으로 열린집합을 열린집합으로 보내지 않는다. 따라서 함수가 연속이라는 사실만으로는 열린집합의 상이 열린집합이 된다고 결론지을 수 없다. 이러한 성질은 열린 사상(open map)에서 요구된다.
• 붙이기 보조정리(Pasting Lemma)
  두 집합 \(A\)와 \(B\) 위에 정의된 연속 함수 \(f: A \to Y\)와 \(g: B \to Y\)가 교집합 \(A \cap B\)에서 서로 일치한다면, 이들을 하나의 함수로 결합하여 \(A \cup B\) 위에 정의된 새로운 연속 함수를 만들 수 있다.
• 부분공간 위상에서의 연속성
  위상공간 \(X\)와 그 부분집합 \(Y \subseteq X\)가 주어졌을 때, 포함사상 \(i: Y \to X\)를 \(i(y)=y\)로 정의하면 이 함수는 항상 연속이다.
• 몫위상에서의 연속성
  위상공간 \(X\)에서 집합 \(A\)로 가는 전사 함수 \(f\)가 주어졌을 때, \(A\) 위의 몫위상은 \(f\)가 연속이 되도록 정의된다. 즉, 몫위상은 함수의 연속성을 보장하기 위해 특별히 도입되는 위상이다.
• 폐포와 연속성에 관한 정리
  연속 함수는 폐포 관계를 보존한다. 만약 점 \(x\)가 집합 \(A \subseteq X\)의 폐포 \(Cl(A)\)에 속한다면, \[ f(x) \in Cl(f(A)) \] 가 성립한다.
• 열린집합을 이용한 연속성의 정의
  함수 \(f: X \to Y\)는 \(Y\)의 모든 열린집합 \(U\)에 대해 원상 \(f^{-1}(U)\)가 \(X\)에서 열린집합일 때, 그리고 그 경우에 한하여 연속이다.
• 닫힌집합을 이용한 연속성의 정의
  함수 \(f: X \to Y\)는 \(Y\)의 모든 닫힌집합 \(C\)에 대해 원상 \(f^{-1}(C)\)가 \(X\)에서 닫힌집합일 때, 그리고 그 경우에 한하여 연속이다.
• 연속 함수의 합성에 관한 정리
  두 함수 \(f\)와 \(g\)가 모두 연속이면, 합성함수 \(g \circ f\) 역시 연속이다.
• 연속성과 수렴수열
  함수 \(f: X \to Y\)가 연속이고 수열 \((x_n)\)이 \(X\)에서 \(x\)로 수렴한다면, 상의 수열 \((f(x_n))\)은 \(Y\)에서 \(f(x)\)로 수렴한다.
• 다항함수
  표준 위상을 갖는 실수공간 \(\mathbb{R}\)에서 정의된 모든 다항함수 \[ p : \mathbb{R} \to \mathbb{R}, \qquad p(x)=a_nx^n+\cdots+a_1x+a_0 \] 는 연속 함수이다.

이 밖에도 위상수학적 연속성과 관련된 정리와 응용은 매우 다양하다. 이러한 결과들은 연속 함수가 공간의 구조를 어떻게 보존하는지 이해하는 데 도움을 주며, 위상수학과 해석학을 연결하는 중요한 역할을 한다.