Baire Category Theorem and its application

By | June 13, 2015

Baire Category Theorem은 해석학에서 꽤나 중요한 비중을 차지하는 정리다. 어떤 구조가 어느정도로 존재하는지에 대해서 잘 알려주는 정리다. Baire Space의 정의는 알고 있다는 전제 하에 이야기를 시작한다.

Theorem. Let X be a complete metric space or locally compact Hausdorff space. Then X is Baire space.

Proof. 본격적으로 증명하기 전에 complete metric space와 locally compact Hausdorff가 T_{3}라는 것을 기억하자. \left\{ U_{n}\right\} _{n=1}^{\infty}X에서의 open dense set들을 모은 countable collection이라 하자. 보이고자 하는 것은 \bigcap_{n=1}^{\infty}U_{n}X에서 dense하다는 것만 보이면 된다. 이를 보이기 위해 nonempty open set G=G_{1}
하나 잡자.
U_{1}이 dense set이므로 U_{1}\cap G_{1}\neq\varnothing이다. x_{1}\in U_{1}\cap G_{1}을 잡자. 그러면 U_{1}\cap G_{1}x_{1}의 open neighborhood이다. 그런데 XT_{3}이므로 \overline{G_{2}}\subset G_{1}\cap U_{1}, x_{1}\in G_{2}인 nonempty open subset G_{2}가 존재한다. G_{2} 또한 nonempty open set이고 U_{2}도 dense in X이므로 G_{2}\cap A_{2}\neq\varnothing이다. 여기서 x_{2}\in G_{2}\cap U_{2}를 고르자. 그러면 G_{2}\cap U_{2}x_{2}의 open neighborhood이고 XT_{3}라는 사실로부터 \overline{G_{3}}\subset G_{2}\cap U_{2}, x_{2}\in G_{3}인 nonempty open subset G_{3}가 존재한다. 이와 같은 과정을 반복하면 다음과 같은 \left\{ G_{n}\right\}\left\{ x_{n}\right\}을 만들었다.

  • G_{1}=G는 공집합이 아닌 열린집합이다.
  • 모든 n에 대하여 G_{n}은 공집합이 아닌 열린집합이며, G_{n}\cap U_{n}x_{n}
    open neighborhood다.
  • 모든 n에 대하여 \overline{G_{n+1}}\subset G_{n}\cap U_{n}

또 하나 주목할 것은 \bigcap\left(G_{n}\cap U_{n}\right)=\bigcap\overline{G_{n}}라는 사실이다. 이 것이 왜 성립하냐면, G_{n}\cap U_{n}\supset\overline{G_{n+1}} for all n\ge1이므로 \bigcap\left(G_{n}\cap U_{n}\right)\supset\bigcap\overline{G_{n+1}}=\bigcap\overline{G_{n}}이다. 이것이 보여주는 것은

    \[ G_{1}\cap\left(\bigcap_{n=1}^{\infty}U_{n}\right)\supset\bigcap\overline{G_{n}} \]

이라는 소리이며, \bigcap\overline{G_{n}}이 공집합이 아닌것만 보이면 X가 Baire space라는 것을 보인다는 말이다.
이제 경우를 분리해서 증명을 시작하자.

Case 1. X is complete metric space

위의 건설과정으로부터 모든 n에 대하여 \delta\left(G_{n}\right)\le\frac{1}{n}을 만족하는 \left\{ G_{n}\right\} _{n=1}^{\infty}이 존재한다고 가정할 수 있다. 그러면 모든 n에 대하여 a_{n}\in G_{n}을 만족하는 수열 \left\{ a_{n}\right\}을 생각하면, 이는 코시수열이 된다. 왜냐하면 m>n이라 할 때, \overline{G_{m}}\subset G_{n}이므로 d\left(a_{n},a_{m}\right)\le\delta\left(G_{n}\right)<\frac{1}{n}이 성립한다. 임의로 \varepsilon>0이 주어진다면, 이때 아르키메데스의 원리에 의하여 \frac{1}{N}<\varepsilon을 만족하는 적당한 자연수 N이 존재한다. 그러므로 n,m\ge N이라 하면 d\left(a_{n},a_{m}\right)<\frac{1}{N}<\varepsilon이다. 따라서 \left\{ a_{n}\right\}은 코시수열이다. 그런데 X가 complete metric space이므로 \lim_{n\rightarrow\infty}a_{n}=x_{0}x_{0}\in X가 존재한다. 임의의 k\ge2에 대하여 \left\{ a_{n}\right\} _{n\ge k}G_{k}에 있는 수열이다. 그러므로 x_{0}\in\overline{G_{k}}이므로 x_{0}\in\bigcap\overline{G_{n}}이다.

Case 2. X is locally compact Hausdorff space

위의 건설과정에서 \left\{ G_{n}\right\} _{n=1}^{\infty}에서 \overline{G_{n}}이 모두 compact set이라 가정하자. 왜냐하면 locally compact Hausdorff space에서는 compact neighorbhood가 local base를 이루기 때문이다. 임의의 k\ge2에 대하여 \overline{G_{k}}\subset\overline{G_{2}}이므로 \left\{ \overline{G_{k}}:k\ge2\right\} 는 finite intersection property를 갖는 closed set들의 모임이다. \left\{ \overline{G_{N_{1}}},\dots,\overline{G_{N_{k}}}\right\}에 대하여 N=\max\left\{ N_{1},\dots,N_{k}\right\}라 하면, \bigcap_{m=1}^{k}\overline{G_{N_{m}}}\supset\overline{G_{N}}\neq\varnothing이므로 finite intersection property를 갖는다. 그리고 \overline{G_{2}}가 compact set이므로 \bigcap_{k=1}^{\infty}\overline{G_{k}}\neq\varnothing이다. 그러므로 증명이 끝났다.


Baire category theorem에는 다양한 종류의 application이 있다. 함수해석학에서 중요하게 사용되는 성질들을 증명할 수 있다. 간단한 예로는 uniform boundedness principle이다. 이는 Banach-Steinhaus theorem이라고도 불리기도 한다. 이 정리는 pointwise estimate를 갖는 continuous linear operator family에 대해서 global uniform estimate를 주는 정리다.

Theorem (Uniform boundedness principle). Let E and F be two Banach spaces and let \left(T_{i}\right)_{i\in I} be a family of continuous linear operators from E into F. Assume that \sup_{i\in I}\norm{T_{i}x}{}<\infty for all x\in E. Then
\sup_{i\in I}\norm{T_{i}}{\mathscr{L}\left(E,F\right)}<\infty. That is, there is a constant c such that

    \[ \norm{T_{i}x}{}\le c\norm x{} \]

for all x\in E and for all i\in I.

Proof. 임의의 n\ge1에 대하여

    \[ X_{n,i}=\left\{ x\in E:\norm{T_{i}x}{}\le n\right\} \]

이라 하자. T_{i}가 continuous linear operator이므로 X_{n,i}는 closed다. 그러므로 X_{n}=\bigcap_{i\in I}X_{n,i}는 closed set in X다. 이제 보이고자 하는 것은 E=\bigcup_{n=1}^{\infty}X_{n}다. x\in E라 하면, \sup_{i\in I}\norm{T_{i}x}{}<\infty이므로 모든 i에 대하여 \norm{T_{i}x}{}\le n 적당한 자연수 n이 존재한다. 이는 x\in X_{n}임을 보인다. 그런데 E는 complete metric space이므로 Baire category theorem에 의하여 X_{N}이 nowhere dense인 N이 존재한다. 이제 x_{0}\in X_{N}^{\circ}를 잡으면 B\left(x_{0},r\right)\subset X_{N}r>0이 존재한다. 그러면 임의의 i와 모든 z\in B\left(0,1\right)에 대하여

    \[ \norm{T_{i}\left(x_{0}+rz\right)}{}\le N \]

이다. 이로부터 operator norm의 정의에 의해 r\norm{T_{i}}{\mathscr{L}\left(E,F\right)}\le N+\norm{T_{i}x_{0}}{}이다. i에 대한 supremum을 취하면, 증명이 끝난다.


위 정리에 대한 application으로 \left[0,2\pi\right]라고 해서 continuous function이라고 해서 convergent Fourier series를 갖는 것은 아니다라는 걸 보일 수 있다. 그리고 그런 함수들이 어떤 의미로 많다는 걸 보일 수 있다. 그러나 이 글의 목적보다 더 큰 이야기이므로 내용을 차후에 쓰도록 한다.

고등미적분학 1 (또는 해석학1)에서 다음과 같은 함수를 연습문제로 만나봤을 것이다: f:\left[0,1\right]\rightarrow\mathbb{R}인 함수를 다음과 같이 정의하자:

    \[ f\left(x\right)=\begin{cases} 1 & x=0,\\ \frac{1}{q} & x=\frac{p}{q},\\ 0 & x\in\mathbb{Q}^{c}\cap\left[0,1\right]. \end{cases} \]

여기서 \frac{p}{q}는 기약분수다. 그러면 이 함수는 모든 유리수점에서 불연속이고, 모든 무리수점에서 연속이다. 이 사실은 아르키메데스의 원리로 나오는 결과다. 이제 역으로 물어보기를, 과연 모든 유리수점에서 연속이고, 모든 무리수점에서 불연속인 함수가 있을까?

Baire Category Theorem에 의하면 이러한 함수는 없다는 걸 보일 수 있다.

Theorem. There is no function f:\left[0,1\right]\rightarrow\mathbb{R} such that f is continuous at every rational point but not continuous at every irrational point.

Proof. fx에서 연속이라는 표현을 조금 다른 언어로 말을 해보도록 하자. \mathrm{osc}\left(f\right)\left(x\right)=\lim_{r\rightarrow0}\sup_{y,z\in B_{r}\left(x\right)}\left|f\left(y\right)-f\left(z\right)\right|이라 정의하자. \mathrm{osc}\left(f\right)\left(x\right)=0이라는 것과 fx에서 연속이라는 것과 동치다. 이는 쉽게 보일 수 있다. 이 아이디어로부터 임의의 자연수 n\ge1에 대하여

    \[ E_{n}=\left\{ x\in\left[0,1\right]:\text{there exists }\delta_{x}>0\text{ such that }y,z\in B_{\delta_{x}}\left(x\right)\Rightarrow\left|f\left(y\right)-f\left(z\right)\right|<\varepsilon\right\} \]

라 정의하자. 이제 \mathcal{C}_{f}\left[0,1\right]에서 f가 연속인 점이라고 정의를 하면, \mathcal{C}_{f}=\bigcap_{n=1}^{\infty}E_{n}다. 이는 \mathrm{osc}\left(f\right)\left(x\right)=0fx에서 연속이라는 것과 동치이기 때문이다. 이제 E_{n}이 열린집합이라는 것을 보이도록 하자. x\in E_{n}을 하나 잡으면, 정의에 의하여 y,z\in B_{\delta_{x}}\left(x\right)implies \left|f\left(y\right)-f\left(z\right)\right|<\frac{1}{n}\delta_{x}>0가 존재한다. 이제 보이고자 하는 건 B_{\delta_{x}}\left(x\right)\subset E_{n}이다. w\in B_{\delta_{x}}\left(x\right)라 하면, B_{\delta_{w}}\left(w\right)\subset B_{\delta_{x}}\left(x\right)\delta_{w}>0이 존재한다. 이제 y,z\in B_{\delta_{w}}\left(w\right)라 잡으면 y,z\in B_{\delta_{x}}\left(x\right)이고 이는 \left|f\left(y\right)-f\left(z\right)\right|<\frac{1}{n}이다. 따라서 집합의 정의에 의하여 w\in E_{n}이며 이는 E_{n}이 열린 집합임을 보인 것이다. 그러므로 \mathcal{C}_{f}G_{\delta}-set이다.

이제 본격적으로 증명을 시작하도록 하자. \mathcal{C}_{f}=\mathbb{Q}\cap\left[0,1\right]라 가정하자. \mathcal{C}_{f}G_{\delta}-set이므로 \mathcal{C}_{f}^{c}F_{\sigma}-set이고 \mathcal{C}_{f}^{c}는 dense set이다. 그런데 \mathbb{Q}F_{\sigma}-set이다. \mathbb{R}은 Baire space이므로 E,E^{c}가 모두 dense subset이면 많아야 하나가 F_{\sigma}-set이다. 이는 전제에 모순이다.

이제 실변수 함수론으로 넘어가보도록 하자. Lebesgue measure space에서 finite measure space에서는 1<p<\infty일 때,L^{p}함수는 L^{1}임이 잘 알려져있다. 그러나 L^{1}이라고 L^{p}는 아님이 잘 알려진 결과다. 예를 들어 x^{-\frac{1}{p}}\in L^{1}\left(\left[0,1\right]\right)이지만 L^{p}\left(\left[0,1\right]\right)는 아니다. 그럼 L^{1}이면서 L^{p}인 함수는 어느정도로 있을까? 어떤 의미로 거의 없다. 이는 다음 정리가 알려주고 있다.

Theorem. Consider L^{p}\left(\left[0,1\right]\right) with Lebesgue measure. Note that if f\in L^{p} with p>1, then f\in L^{1}. Then the set of f\in L^{1} so that f\notin L^{p} is generic.

Proof. 다음과 같은 집합을 정의하자:

    \[ \mathcal{M}=\left\{ f\in L^{1}:f\notin L^{p}\right\} . \]

임의의 자연수 N에 대하여

    \[ E_{N}=\left\{ f\in L^{1}:\int_{I}\left|f\right|\le Nm\left(I\right)^{1-\frac{1}{p}}\text{ for all intervals }I\right\} \]

라 정의하자.

첫번째로 E_{N}은 닫힌집합이다. fE_{N}의 limit point라 하자. \left\{ f_{n}\right\} _{n=1}^{\infty} such that \norm{f_{n}-f}1\rightarrow0 as n\rightarrow\infty인 sequence가 존재한다. \varepsilon>0이 주어졌다고 하자. 그러면 k>K implies \norm{f_{n}-f}1<\varepsilon를 만족하는 K\in\mathbb{N}이 존재한다. 그러므로 임의의 interval I에 대하여 다음과 같은 계산을 통해

    \begin{align*} \int_{I}\left|f\right|dm & =\int_{I}\left|f-f_{n}+f_{n}\right|dm\\ & \le\int_{I}\left|f-f_{n}\right|dm+\int_{I}\left|f_{n}\right|dm\\ & <\varepsilon+\int_{I}\left|f_{n}\right|dm\\ & \le\varepsilon+Nm\left(I\right)^{1-\frac{1}{p}} \end{align*}

를 얻으며, 엡실론의 여지만큼 잘 남겼으므로, \int_{I}\left|f\right|dm\le Nm\left(I\right)^{1-\frac{1}{p}}이다. 여기서 I는 임의로 택해졌기 때문에, f\in E_{N}이다. 또 f\in L^{p} 이면 f\in L^{1}이다. 왜냐하면 m\left(\left[0,1\right]\right)<\infty이기 때문이다.러므로 \int_{I}\left|f\right|dm<\infty. 그렇기 때문에 t \int_{I}\left|f\right|dm\le Nm\left(I\right)^{1-\frac{1}{p}}인 자연수 N이 존재하므로 f\in\bigcup_{N}E_{N}이다. 이는L^{p}\left(\left[0,1\right]\right)\subset\bigcup_{N}E_{N}임을 보인 것이다. 이제 모든 N에 대하여 E_{N}임을 보이자. 그런 집합이 없다고 가정하자. 즉 E_{N_{0}}이 nowhere dense이라고 하자. 이제 f_{0}\in E_{N_{0}}^{\circ}를 하나 고르면 B_{r}\left(f_{0}\right)\subset E_{N_{0}}이 되는 r>0이 존재한다. \frac{1}{p}<1-\delta<1에 대하여

    \begin{align*} \int_{0}^{1}\left|g\right|dm & =\int_{0}^{1}\frac{1}{x^{1-\delta}}dx\\ & =M<\infty \end{align*}

이다. 그러므로 이제 \int_{0}^{1}\varepsilon\left|g\right|dm<M\varepsilon<r가 되도록 \varepsilon>0를 잘 잡으면, f_{0}+\varepsilon g\in B_{r}\left(f_{0}\right)이다. 그러나 \varepsilon g\notin L^{p}이다. 왜냐하면

    \[ \int_{0}^{1}\left|\varepsilon g\right|^{p}dm=\int_{0}^{1}\frac{\varepsilon^{p}}{x^{p-p\delta}}dx>\int_{0}^{1}\frac{\varepsilon^{p}}{x}dx=\infty, \]

인데, 이는 L^{p}\left(\left[0,1\right]\right)\subset\bigcup_{N}E_{N}라는 것에 모순이다.

그러므로 \mathcal{M}^{c}\subset\bigcup_{N}E_{N}라는 소리는 \mathcal{M}이 generic이라는 것과 같다.


그 외에도 많은 응용이 있을 정도로 Baire Category Theorem은 강력한 응용성을 가진 정리다.

Leave a Reply

Your email address will not be published. Required fields are marked *