中心極限定理

中心極限定理は、独立同分布な確率変数の和または平均が、分布の形状に依らず正規分布に収束することを述べる基本定理である。この定理は統計学および確率論の理論的基盤をなす。

定理(中心極限定理)

独立同分布な確率変数列 $X_1, X_2, \dots$ が、期待値 $\mu = \mathbb{E}[X_i]$ および分散 $\sigma^2 = \mathrm{Var}(X_i) < \infty$ を持つとする。このとき、

\[S_n = X_1 + X_2 + \cdots + X_n\]

に対して、標準化した確率変数

\[Z_n = \frac{S_n - n\mu}{\sqrt{n\sigma^2}}\]

は、$n \to \infty$ のとき標準正規分布に分布収束する。すなわち、

\[Z_n \Rightarrow \mathcal{N}(0,1)\]

が成立する。

標本平均の形

標本平均

\[\bar{X}_n = \frac{1}{n} \sum_{i=1}^{n} X_i\]

については、

\[\frac{\bar{X}_n - \mu}{\sigma / \sqrt{n}} \Rightarrow \mathcal{N}(0,1)\]

が成立する。

解釈

中心極限定理は、個々の確率変数の分布がどのような形であっても、十分に多くの独立な和を取ると、その分布が正規分布に近づくことを意味する。これにより、複雑な分布に対しても正規分布を用いた近似が可能となる。

一般化

リンダーバーグ=レヴィの定理

同一分布である必要を緩めた一般化として、リンダーバーグ条件を満たす独立な確率変数列に対しても中心極限定理が成立する。

リヤプノフ条件

より強い条件として、ある $\delta > 0$ に対して

\[\frac{1}{s_n^{2+\delta}} \sum_{i=1}^{n} \mathbb{E}[|X_i - \mu_i|^{2+\delta}] \to 0\]

が成立すれば、中心極限定理が成り立つ。

特性関数による証明の概略

特性関数を用いると、独立性により積の形で表される特性関数をテイラー展開し、極限を取ることで正規分布の特性関数

\[\exp\left(-\frac{t^2}{2}\right)\]

に収束することを示す。

応用

など、広範な分野で利用される。

注意点

中心極限定理は有限標本における近似であり、収束の速さは元の分布の形状(特に歪度や裾の重さ)に依存する。また、分散が無限大の場合には適用できない。

まとめ

中心極限定理は、確率論における最も重要な定理の一つであり、独立な確率変数の和が普遍的に正規分布へと収束することを保証する。この結果により、統計学の多くの手法が理論的に正当化される。

Mathematics is the language with which God has written the universe.





















デルタ法 確率収束と分布収束 母集団と標本 統計量と標本分布 標本平均・標本分散の分布