ヒルベルト空間における凸射影定理・直交射影定理

ヒルベルト空間とは

完備性

点列の収束先が自身に含まれる空間 のことです.

つまり,ある空間Xが完備である,とは自身の中にある任意のコーシー列 {\bf x}_n \in X \:\: (n=1,2,\cdots)の収束先 {\bf x}について, {\bf x} \in Xが成り立つことです.

内積空間

内積を備えた空間内積空間と呼びます. 内積 - Wikipedia

内積空間は内積から誘導されるノルムを持つノルム空間でもあり,そのノルムを距離関数として採用した距離空間でもあります.

ヒルベルト空間

ヒルベルト空間は完備な内積空間です.

完備なノルム空間はバナッハ空間と呼ばれ,完備な距離空間は単に完備距離空間と呼ばれます.

凸射影定理

ヒルベルト空間 \mathcal{H}の空でない閉凸集合 C \subset \mathcal{H}について考えます.この時,Cの中で,点{\bf x} \in \mathcal{H}にもっとも近い点は唯一存在するというのが凸射影定理です.

主張1

 \mathcal{H}の任意の点{\bf x} \in \mathcal{H}に対して,


d\left( {\bf x}, C \right) := \inf_{{\bf y} \in C}{ \| {\bf x} - {\bf y} \|}
            =  \| {\bf x} - P_{C}\left({\bf x} \right) \| = \min_{y \in C} \| {\bf x} - {\bf y} \|

を満たす唯一の点 P_C \left( {\bf x} \right) \in C が存在する. P_{C}:\mathcal{H} \rightarrow CCへの距離射影・凸射影・または単に射影と呼ばれます.

主張2

また, {\bf x}^{*} \in Cに対して,


{\bf x}^{*} = P_{C}\left( {\bf x} \right) \iff 
            \left< {\bf x} - {\bf x}^{*}, {\bf y} - {\bf x}^{*} \right> \leq 0 \:\:\: \left( \forall{{\bf y}} \in C \right)

が成立する.

P_{C}\left( {\bf x} \right)Cの中で{\bf x}をもっともよく近似する点として,最良近似点と呼ばれる.

直交射影定理

ヒルベルト空間 \mathcal{H}の空でない閉部分空間 M \subset \mathcal{H}について考えます.凸集合ならば部分空間でもあるので,凸射影定理は Mについても成り立つことに注意してください.

この時,Mの中で,点{\bf x} \in \mathcal{H}にもっとも近い点は唯一存在し,そのような点と {\bf x}を結んだベクトルは Mに直交する,というのが直交射影定理です.

主張1

\forall{{\bf x}} \in \mathcal{H}に対して,


            \inf_{{\bf y} \in M}{ \| {\bf x} - {\bf y} \|}
            =  \| {\bf x} - P_{M}\left({\bf x} \right) \| = \min_{y \in M} \| {\bf x} - {\bf y} \|

を満たす唯一の点P_{M} \left( {\bf x} \right) \in Mが存在する.

主張2

また,{\bf x}^{*} \in Mに対して,


            {\bf x}^{*} = P_{M}\left( {\bf x} \right) \iff 
            \left< {\bf x} - {\bf x}^{*}, {\bf y} \right> = 0 \:\:\: \left( \forall{{\bf y}} \in M \right)

が成立する.P_{M}:\mathcal{H} \rightarrow MMへの距離射影であるが,この性質から特別に直交射影と呼ばれる.

主張3

直交射影について,以下の一般化されたピタゴラスの定理が成立する.

            \|{\bf x} \|^{2} = \|{\bf x} - P_{M}\left( {\bf x} \right) \|^{2} + \|P_{M}\left( {\bf x} \right) \|^{2}

直交分解

ここで,ヒルベルト空間の任意の点が,ある閉部分空間の1点と,その直交補空間の1点の和の形に一意に分解することができる,ことを紹介します. 以下では柄部分空間をMとおきます.

直交補空間

Mの直交補空間としてM^{\perp}

  
M^{\perp} := \{ {\bf x} \in \mathcal{H} | \left<{\bf x},y \right> = 0 \;\; \left( \forall{y} \in M \right) \}

のように定義すると,M^{\perp}も閉部分空間となり,かつM \cap M^{\perp} = \{ {\bf 0} \}となります.

直交分解の一意性

 \forall{{\bf x}} \in\mathcal{H}は,

              {\bf x} = {\bf x}_1 + {\bf x}_2 \:\: \left( {\bf x}_1 \in M, \; {\bf x}_2 \in M^{\perp}  \right)

のように一意に分解可能です.