行列$A\in {\mathbb{R}}^{m\times n}$を特異値分解して$A=U\mathrm{\Sigma }{V}^{\mathrm{\top }}$と書くものとします。ただし、 $U\in {\mathbb{R}}^{m\times n}$, $\mathrm{\Sigma }\in {\mathbb{R}}^{n\times n}$, $V\in {\mathbb{R}}^{n\times n}$とし、$U^{\mathrm{\top }}U=V^{\mathrm{\top }}V=I$が成立し、$\mathrm{\Sigma }$は対角行列でその各成分(特異値)は非負の値をとります。このとき、$$A^{\mathrm{\top }}A=V{\mathrm{\Sigma }}^2{V}^{\mathrm{\top }}=(V\mathrm{\Sigma }{V}^{\mathrm{\top }}{)}^2$$とできます。また、正方行列$|A|:=V\mathrm{\Sigma }{V}^{\mathrm{\top }}$のトレースは、$\mathrm{\Sigma }$の特異値${\lambda }_1,\dots ,n$の和で常に非負になります。$|A|$の$(i,j)$成分は、$|A{|}_{i,j}=\sum _{k=1}^n{v}_{i,k}{\lambda }_k{v}_{j,k}$とかけるので、$|A|$のトレース(対角成分の和)は$$\sum _{i=1}^n|A{|}_{i,i}=\sum _{i=1}^n\sum _{k=1}^n{v}_{i,k}{\lambda }_k{v}_{j,i}=\sum _{k=1}^n{\lambda }_k\sum _{i=1}^n{v}_{i,k}^2=\sum _{i=1}^n{\lambda }_k$$となります。トレースというと$m=n$のときの$\sum _{i=1}^n{A}_{i,i}$をさすことが多いですが、関数解析では、$\sum _{i=1}^n|A{|}_{i,i}$のことをトレースノルムといいます。両者は非負定値対称のときに一致し、特異値${\lambda }_1,\dots ,{\lambda }_n$は固有値になります。

同様の概念を一般の線型作用素にも適用できます。線型作用素の$T$について、$|T|:=\{T^{\ast }T{\}}^{1/2}$と書いて、$\sum _{i=1}^{\mathrm{\infty }}⟨|T|e_i,e_i⟩$と書きます。$\{\cdot {\}}^{1/2}$は作用素の平方根でと呼ばれるものです。トレースノルムがが有限のときその作用素はトレースクラスであるといいます。そして、自己共役のときに$\sum _{i=1}^{\mathrm{\infty }}⟨T{e}_i,e_i⟩$をトレースといい、さらに非負定値のときにトレース、トレースクラスは一致します。「機械学習のためのカーネル」の第2章の最後のトレース作用素の箇所では、自己共役かつ非負定値の線型作用素のみを扱っていて、両者は一致します。