予測誤差

観測値 $x_{t},y_{t}(t=1,...,T)$ が与えられているとします.

このとき,この観測値は以下の確率モデルによって発生したとします.\[y_{t}=x'_{t} {\bf \beta} + u_{t}, t=1,...,T\]ここで, $x_{t},y_{t}(t=1,...,T)$ を並べたベクトルもしくは行列を ${\bf y}$($T$次元ベクトル),${\bf X}$($T \times k$行列),誤差ベクトルを ${\bf u}=[u_{1} \cdots u_{T}]'$ と表すと,\[{\bf y}={\bf X}{\bf \beta}+{\bf u}\]となります.

ここで,新たに,$x_{s}$ という観測値が得られたとき,この観測値に対応する予測値 $y_{s}$ を考えることにします.この観測値 $x_{s}$ に対応した誤差 $u_{s}$ を考え,この誤差 $u_{s}$ を加えた誤差ベクトルを考え,\[{\bf u}_{+}=[{\bf u}' u_{s}]\]となります.

また,$y_{s}$ の予測量[predicator]は, $\hat{y_{s}}$ は,\[\hat{y}_{s}={\bf x}_{s}'\hat{\beta}={\bf x}_{s}'({\bf X'X})^{-1}{\bf X}'y\]となります.

$y_{s}$ の予測量[predicator]の予測誤差を,\[\hat{u}_{s}=y_{s}-\hat{y}_{s}\]と表すと,\[y_{s}={\bf x}'_{s}{\bf \beta}+u_{s}\]であることから,\[\hat{u}_{s}=({\bf x}'_{s}{\bf \beta}+u_{s})-{\bf x}'_{s}\hat{\beta}=u_{s}-{\bf x}'_{s}({\bf \hat{\beta}}-\hat{\beta})\]となります.

また,\[{\bf \beta}={\bf \beta}+{\bf (X'X)^{-1}X'u}\]であることから,\[\hat{u}_{s}=u_{s}-{\bf x}'_{s}{\bf (X'X)^{-1}X'u}\]となります.

同様にして,$y_{s}$ の予測量[predicator] $\hat{y}_{s}$ の予測誤差の分散を求めると,\[Var(\hat{u}_{s})=\sigma^{2}_{u}\{1+{\bf x'_{s}(X'X)^{-1}x_{s}}\}\]となります.


Mathematics is the language with which God has written the universe.





















正規方程式 - 予測誤差 - 代数 - ガウス分布の導出 - ガウスの積分公式