正定値カーネルk1,k2のRKHSがH1,H2のときのk1+k2のRKHS

Aronszajnというカーネルの数学者の結果です。「機械学習のためのカーネル 100問」の3.1節に掲載していますが、少しくだいてみました。テキストを最初から読んでいるか、関数解析を勉強したことのある人なら理解できると思います。

H1,H2をHilbert空間としたときに、その直積
F:=H1×H2は、内積
(f1,f2),(g1,g2)F:=f1,g1H1+f2,g2H2,f1,g1H1,f2,g2H2のもとで、Hilbert空間になります。実際、f1,nf1,mH1, f2,nf2,mH2
f1,nf1,mH12+f2,nf2,nH22=(f1,n,f2,n)(f1,m,f2,m)F以下であることを用いると、以下が成立します。
{(f1,n,f2,n)}がCauchy {f1,n}, {f2,n}がCauchy
{f1,n}, {f2,n}があるf1H1,f2H2に収束
(f1,n,f2,n)(f1,f2)F=f1,nf12+f2,nf220
{(f1,n,f2,n)}(f1,f2)Fに収束
すなわち、H1,H2が完備なら、Fも完備です。

次に、H1,H2の直和
H:=H1+H2:={f1+f2|f1H1,f2H2}について考えます。Fを写像u:F(f1,f2)f1+f2Hの核N:={(f1,f2)F|f1+f2=0}と、その直交補空間N:={xFx,y=0,yN}に分解すると、NN={(0,0)}が成立します。ここで、uNに制限したv:NHは単射v(f1,f2)=v(f1,f2)(f1,f2)=(f1,f2)になります。実際、f1+f2=f1+f2かつ(f1,f2),(f1,f2)Nであれば、(f1f1,f2f2)Nが成立します。他方、f1+f2=v(f1,f2)=v(f1,f2)=f1+f2は、(f1f1,f2f2)Nを意味し、両者より、(f1f1,f2f2)=(0,0)が成立します。

H=H1+H2が以下の内積をもつとき、Hは完備(Hilbert空間)となります。f,gH:=v1(f),v1(g)F ,f,gH実際、FがHilbert空間で、Nはその閉部分空間(テキスト命題20の1)ですから、Nは完備となり、fnfmH0v1(fnfm)F0
v1(fn)gF0なるgNが存在 fnv(g)H0が成立します。

H1, H2が再生核k1,k2をもつとき、上記のように定義されたHilbert空間H:=H1+H2は、k1+k2を核とするRKHSになります。この証明は(難しくありません)、テキストの付録を参照してください。