こんにちは！半沢です！
今回の記事では位相空間論におけるベールのカテゴリー定理(Baire category theorem)について解説します。
ベールのカテゴリー定理は「完備距離空間においては，痩せた空間を可算個合わせてもふくよかにはならない」ことを主張する定理です。
主に関数解析などの解析学において，広く応用されています。
楽しんで読んでいただけると嬉しいです。
目次
ベールのカテゴリー定理(Baire category theorem)
主張
ベールのカテゴリー定理(閉集合ver.・弱い形)
\(X\,\)を完備な距離空間，\(\,A_n\,\,(n\in\mathbb{N})\,\)をその閉集合とする。
もし\(\,X=\displaystyle\bigcup_{n=1}^{\infty} A_n\,\)ならば，\(\,A_n\,\)の少なくとも一つは\(\,X\,\)の開球を含む。
よく関数解析で使われる形です。
次のように対偶を考えるとイメージしやすいです。
どの\(\,A_n\,\)も\(\,X\,\)の開球を含まない\(\,\Rightarrow\,\)\(\,X\not=\displaystyle\bigcup_{n=1}^{\infty} A_n\,\)
つまり，開球を含まないような「痩せた」閉集合\(\,A_n\,\)を高々可算個集めても，「ふくよかな」全体空間\(\,X\,\)を覆えないということです。
同じイメージで次の強い形も成り立ちます。
ベールのカテゴリー定理(閉集合ver.・強い形)
\(X\,\)を完備な距離空間，\(\,A_n\,\,(n\in\mathbb{N})\,\)をその閉集合，\(\,S\,\)を内部が空でない\(\,X\,\)の部分集合とする。
もし\(\,S\subseteq\displaystyle\bigcup_{n=1}^{\infty} A_n\,\)ならば，\(\,A_n\,\)の少なくとも一つは\(\,X\,\)の開球を含む。
またこれを開集合で書き換えた次の形も知られています。
ベールのカテゴリー定理(開集合ver.・強い形)
\(X\,\)を完備な距離空間，\(\,O_n\,\,(n\in\mathbb{N})\,\)をその稠密な閉集合とすると，
共通部分\(\,\displaystyle\bigcap_{n=1}^{\infty} O_n\,\)も稠密である。
余談ですがベールのカテゴリー定理の前提条件をやや変化させた定理は成り立ちません。
例えば強い形(閉集合ver.)において完備性を外してしまうと，反例として有理数の集合\(\,\mathbb{Q}=\displaystyle\bigcup_{q\in\mathbb{Q}} \{q\}\,\)が挙げられます。
\(\mathbb{Q}\,\)が可算濃度であることに注意しましょう。
また可算個の和集合でなく，非可算個の和集合を考えた場合も反例として実数の集合\(\,\mathbb{R}=\displaystyle\bigcup_{r\in \mathbb{R}} \{r\}\,\)が挙げられます。
名前の由来
ベールのカテゴリー定理は，「ベールの範疇定理」と訳されますが，先ほどの主張を見ても「カテゴリー」や「範疇」がどの文脈から生じたのか分かりづらいと思うので，この節で解説しましょう。
説明のために次の用語を定義します。
定義
位相空間\(\,X\,\)の部分集合\(\,S\,\)について，
\(S\,\)が内点を持たない閉集合の可算和に含まれる\(\,S\,\)を第一類(frist category)集合と言い，
そうでないとき第二類(second category)集合と言う。
この第一類集合は
この意味で「小さい」集合です。
それを裏返して，第二類は十分に「大きい」集合だと考えられます。
この類(category)を使うとベールのカテゴリー定理は次のように書き換えられます。
ベールのカテゴリー定理
完備距離空間\(\,X\,\)の内部が空でない部分集合\(\,S\,\)は第二類に属する。
このような理由でベールのカテゴリー定理と呼ばれるわけです。
数学で「カテゴリー」と聞くと圏論(category theory)のことが真っ先に思い浮かびますが，その意味ではないということですね。
証明
ここでは最初に強い形のベールのカテゴリー定理(開集合ver.)を示します。
強い形(閉集合ver.)\(\,\Rightarrow\,\)弱い形(閉集合ver.)は明らかですので，その後，強い形(開集合ver.)\(\,\Leftrightarrow\,\)強い形(閉集合ver.)の同値性の証明を行う流れで締めくくります。
強い形(開集合ver.)
ベールのカテゴリー定理(開集合ver.・強い形)
\(X\,\)を完備な距離空間，\(\,O_n\,\,(n\in\mathbb{N})\,\)をその稠密な閉集合とすると，
共通部分\(\,\displaystyle\bigcap_{n=1}^{\infty} O_n\,\)も稠密である。
上の主張を証明していきましょう。
点\(\,x\in X\,\)を中心とする半径\(\,r\,\)の円を\(\,B(x;r)\,\)で表すことにします。
このとき任意の点\(\,x_0\in X\,\)と，任意の正の整数\(\,\varepsilon_0\,\)に対して
\[\,B(x_0;\varepsilon_0)\cap\Biggl(\bigcap_{n=1}^{\infty} O_n\Biggr)\not=\emptyset\,\]
であることを示せば良いです。
まず\(\,O_1\,\)は稠密なので\(\,B(x_0;\varepsilon_0)\cap O_1\not=\emptyset\,\)で，そして開集合です。
よって\(\,x_1\in X\,\)と，ある正数\(\,\delta\,(\leq \varepsilon)\,\)を上手く選んで
\[\,B(x_1;\delta)\subseteq B(x_0;\varepsilon_0)\cap O_1\,\]
を満たすようにできます。
さらに開球\(\,B(x_1;\delta)\,\)を半径\(\,\varepsilon_1\coloneqq\frac{\delta}{2}\,\)まで縮めれば
\[\overline{B(x_1;\varepsilon_1)}\subseteq B(x_0;\varepsilon_0)\cap O_1,\]
\[\varepsilon_1\leq \frac{\varepsilon_0}{2}\]
と，開球の閉包\(\,\overline{B(x_1;\varepsilon_1)}\,\)を収めることができます。
次に\(\,O_2\,\)も稠密な開集合なので，\(\,B(x_1;\varepsilon_1)\cap O_2\,\)も空でない開集合です。
よって先ほどと同様に，点\(\,x_2\in X\,\)と正数\(\,\varepsilon_2\,\)を上手く選んで
\[\overline{B(x_2;\varepsilon_2)}\subseteq B(x_1;\varepsilon_1)\cap O_2,\]
\[\varepsilon_2\leq \frac{\varepsilon_0}{2^2}\]
を満たすようにできます。
この操作を繰り返すと，\(\,X\,\)の点列\(\,\{x_n\}\,\)と正数列\(\,\{\varepsilon_n\}\,\)で，
\[\overline{B(x_{n};\varepsilon_{n})}\subseteq B(x_{n-1};\varepsilon_{n-1})\cap O_{n},\]
\[\varepsilon_n\leq \frac{\varepsilon_0}{2^{n}}\]
を満たすものを構成できます。
このとき\(\,n\geq N\,\)なら，\(\,x_n\in B(x_N;\varepsilon_N)\,\)なので，
\[d(x_n,x_N)\lt \varepsilon_N\leq \frac{\varepsilon_0}{2^N}\]
が成り立ちます。
つまり\(\,\{x_n\}\,\)はコーシー列なので，完備性よりその極限点\(\,x_{\infty}\in X\,\)が存在します。
ここで第\(\,n\,\)項より前の項は無視することで，点列\(\,\{x_n\}\,\)は閉集合\(\,\overline{B(x_n;\varepsilon_n)}\,\)内の点列と考えられるので，\(\,x_{\infty}\in \overline{B(x_n;\varepsilon_n)} \,(\forall n\in \mathbb{N}\cup\{0\})\,\)です。
ここで\(\,\overline{B(x_{i};\varepsilon_{i})}\subseteq B(x_{i-1};\varepsilon_{i-1})\cap O_{i}\,\)より，
\[\,B(x_{i};\varepsilon_{i})\subseteq B(x_{i-1};\varepsilon_{i-1})\cap O_{i}\,\]
が成り立つので，これを\(\,i=1,\ldots,n-1\,\)まで繰り返し用いると，
\[\,B(x_{n-1},\varepsilon_{n-1})\subseteq B(x_0;\varepsilon_0)\cap\Biggl(\bigcap_{i=1}^{n-1} O_{i}\Biggr)\,\]
最後に\(\,\overline{B(x_{n};\varepsilon_{n})}\subseteq B(x_{n-1};\varepsilon_{n-1})\cap O_{n}\,\)を合わせて，
\[\overline{B(x_n,\varepsilon_n)}\subseteq B(x_0;\varepsilon_0)\cap\Biggl(\bigcap_{i=1}^{n} O_i\Biggr)\,\,(n\geq 1)\]
が成り立ちます。
よって\(\,x_{\infty}\in \overline{B(x_n,\varepsilon_n)}\,\)より，\(\,x_{\infty}\in B(x_0;\varepsilon_0)\cap\Biggl(\displaystyle\bigcap_{i=1}^{n} O_n\Biggr)\,\)が，任意の\(\,n\in\mathbb{N}\,\)について成り立つので，
\[x_{\infty}\in B(x_0;\varepsilon_0)\cap\Biggl(\bigcap_{n=1}^{\infty} O_n\Biggr)\]
となる。
したがって\(\,B(x_0;\varepsilon_0)\cap\Biggl(\displaystyle\bigcap_{n=1}^{\infty} O_n\Biggr)\not=\emptyset\,\)が示されたので，証明終了です。\(\quad\square\)
強い形(開集合ver.)\(\,\Leftrightarrow\,\)強い形(閉集合ver.)
まずは強い形(開集合ver.)\(\,\Rightarrow\,\)強い形(閉集合ver.)を示しましょう。
完備距離空間\(\,X\,\)の閉集合\(\,A_n\,\)と，内部が空でない部分集合\(\,S\subseteq X\,\)について，\(\,S\subseteq\displaystyle\bigcup_{n=1}^{\infty} A_n\,\)と仮定しましょう。
このとき，どの\(\,A_n\,\)も開球を含まないとしましょう。
すると，その補集合\(\,A_n^{c}\,\)は稠密な開集合です。
故に強い形(開集合ver.)より，\(\,\displaystyle\bigcap_{n=1}^{\infty} A_n^c=\Biggl(\bigcup_{n=1}^{\infty}A_n\Biggr)^{c}\)は稠密です。
これは\(\,\displaystyle\bigcup_{n=1}^{\infty}A_n\,\)が開球を含まないことを意味しますが，これは\(\,S\,\)が内部を持つのに\(\,S\subseteq\displaystyle\bigcup_{n=1}^{\infty} A_n\,\)となることに矛盾します。
よって\(\,\Rightarrow\,\)は示されました。
今度は強い形(開集合ver.)\(\,\Leftarrow\,\)強い形(閉集合ver.)を示しましょう(先ほどと逆のことをやるだけです)。
稠密な開集合\(\,O_n\,\)の補集合\(\,O_{n}^{c}\,\)は開球を含まない閉集合なので，
強い形(閉集合ver.)から\(\, \displaystyle \bigcup_{n=1}^{\infty} O_n^c=\Biggl(\bigcap_{n=1}^{\infty} O_n\Biggr)^{c}\,\)の内部は空となります。
仮に内部が空でないとすると，強い形(閉集合ver.)から\(\,O_{n}^{c}\,\)のどれかは開球を含まなければならなくなり，矛盾するからです。
これは\(\,\displaystyle\bigcap_{n=1}^{\infty} O_n^{c}\,\)が稠密であることを意味するので，以上より証明完了です。\(\quad\square\)
応用
ベールのカテゴリー定理の応用はここにまとめきれないほどあります。
今回は紹介しやすい「無限次元バナッハ空間は可算(代数)基底」を持てない」のみここで詳しく解説したいと思います。
他の応用についてはその他でまとめて，余裕があれば個別の記事として書く予定ですので，楽しみにしておいてください。
無限次元バナッハ空間は可算無限(代数)基底を持てない
無限次元バナッハ空間は可算無限(代数)基底を持てない。
上の主張を示すのがこの節の目的です。
この主張は多少誤解されやすいので，まず用語の確認を行いたいと思います。
ここで言う(代数)基底というものは有限和の線形結合についての基底のことです。
分かりやすく言えば，線形代数で登場する基底の意味ということです。
なぜこのような注意をするかというと，関数解析学ではシャウダー基底と呼ばれる，無限級数による線形結合を考えたものを用いることがあるからです。
この違いについては，こちらの方(こちらのブログでは代数基底をハメル基底と称して解説されています)がまとめているので，必要に応じてご覧ください。
確認を終えたところで，証明に入りましょう。
無限次元バナッハ空間\(\,X\,\)に可算無限基底\(\,\{e_n\mid n\in \mathbb{N}\}\,\)が存在したとします。
\(E_n\coloneqq \langle e_1,\ldots,e_n\rangle\,\)と定めると，基底の定義から\(\,X=\displaystyle\bigcup_{n=1}^{\infty}E_n\,\)となります。
有限次元部分空間は閉なので，各\(\,E_n\,\)は閉集合です。
そこで仮に全ての\(\,E_n\,\)が開球を含まないとすると，ベールのカテゴリー定理(閉集合ver.)に矛盾し，主張を示すことができます。
よって\(\,E_n\,\)が開球を含まないことを証明すれば十分です。
\(E_n\,\)が開球を含むとすると，ある\(\,x\in E_n\,\)と正数\(\,r\,\)が存在して，\(\,B(x;r)\subseteq E_n\,\)となります。
\(E_n\,\)は部分空間で加法について閉じているので，この開球を\(\,x\,\)だけ平行移動し\(\,B(0;r)\subseteq E_n\,\)とできます。
ここで任意の\(\,y\in X\,\)に対し，十分小さな正数\(\,t\gt 0\,\)を取ることで，\(\,ty\in B(0;r)\subseteq E_n\,\)とできます。
\(E_n\,\)は作用について閉じているので，
\[\,y=\frac{1}{t}(ty)\in E_n\,\]
となります。
すなわち\(\,X=E_n\,\)となることが示されましたが，仮定より\(\,X\,\)は無限次元のため矛盾します。
故に\(\,E_n\,\)は開球を含まないことが分かり，題意は示されました。\(\quad\square\)
その他
ベールのカテゴリー定理は前節で解説したもの以外にも応用されます。
最も有名なのが，関数解析学において次の重要な2定理を証明できることでしょう。
- 一様有界性原理
- 開写像原理
またこの他の応用として
区間\(\,[0,1]\,\)上には全ての点において微分不可能な連続関数がある意味「たくさん」存在する，
距離空間間の関数の連続・不連続点の性質
などが知られています。
微分不可能な連続関数は現在解説記事を書いているので，楽しみにしておいてください。
まとめ
今回の記事ではベールのカテゴリー定理(Baire category theorem)を解説いたしました。
応用がかなり利くので，個人的には割と好きな定理です。
応用の詳しい解説については，これから更新していくつもりなので，お待ちいただけると幸いです。
もし「説明がわかりにくい」などご要望・ご感想がありましたら，
X（旧:Twitter）で#サイエンティクスでつぶやいていただけると，できる限り対応します。
ここまで読んでいただき，ありがとうございました。
参考文献
- \([1]\) 内田伏一.“数学シリーズ 集合と位相（増補新装版）”.増補新装第1版.1986出版.p.144.
- \([2]\) ari1110.“Hamel base（ハメル基底）とSchauder base（シャウダー基底）；Enfloの反例”.note.https://note.com/ari1110/n/n747cfbe53bc2.2026-03-23閲覧.
