確率収束と分布収束

確率収束と分布収束は、確率変数列の極限挙動を記述するための基本概念であり、漸近理論の基礎をなす。これらは収束の強さに関して異なる概念であり、統計的推測において重要な役割を果たす。

確率収束(convergence in probability)

定義

確率変数列 $X_n$ が確率変数 $X$ に確率収束するとは、任意の $\varepsilon > 0$ に対して

\[P(|X_n - X| > \varepsilon) \to 0 \quad (n \to \infty)\]

が成立することをいう。このとき、

\[X_n \xrightarrow{P} X\]

と書く。

直観的解釈

確率収束は、「$X_n$ が確率1に近い意味で $X$ に近づく」ことを意味する。すなわち、大きなずれが生じる確率が消失する。

性質

  • 一意性:極限はほぼ確実に一意である
  • 連続写像定理:連続関数 $g$ に対して $X_n \xrightarrow{P} X \Rightarrow g(X_n) \xrightarrow{P} g(X)$
  • 和・積に関する閉性

分布収束(convergence in distribution)

定義

確率変数列 $X_n$ が確率変数 $X$ に分布収束するとは、累積分布関数 $F_n(x) = P(X_n \leq x)$ が、$X$ の累積分布関数 $F(x)$ に対して、

\[F_n(x) \to F(x)\]

が、$F$ の連続点において成立することをいう。このとき、

\[X_n \Rightarrow X\]

と書く。

特性関数による特徴付け

分布収束は特性関数によっても特徴付けられる。すなわち、

\[\varphi_{X_n}(t) \to \varphi_X(t)\]

がすべての $t$ に対して成立すれば、$X_n \Rightarrow X$ である。

直観的解釈

分布収束は、「確率分布の形状が極限分布に近づく」ことを意味する。ただし、個々の確率変数の値が収束するとは限らない。

両者の関係

確率収束と分布収束の間には次の関係がある。

  • $X_n \xrightarrow{P} X \Rightarrow X_n \Rightarrow X$
  • 逆は一般には成立しない

例

$X_n \sim \mathcal{N}(0, 1/n)$ とすると、

\[X_n \Rightarrow 0\]

であるが、確率収束も成立する。一方、分布収束のみが成立し、確率収束が成立しない例も存在する。

スルツキーの定理

$X_n \Rightarrow X$, $Y_n \xrightarrow{P} c$ に対して、

\[X_n + Y_n \Rightarrow X + c, \quad X_n Y_n \Rightarrow cX\]

が成立する。

応用

  • 中心極限定理(分布収束)
  • 大数の法則(確率収束)
  • デルタ法

など、漸近理論の基盤として広く用いられる。

まとめ

確率収束は個々の確率変数の値の収束を意味し、分布収束は分布の形の収束を意味する。確率収束は分布収束よりも強い概念であり、両者の違いを理解することは統計的推論において重要である。

Mathematics is the language with which God has written the universe.





















数理統計学 機械学習