大数の法則は、確率論において最も基本的かつ重要な極限定理の一つであり、独立同分布な確率変数の平均が、その期待値へ収束することを主張するものである。この定理は、確率と統計の橋渡しを行う理論的基盤であり、頻度としての確率の解釈を正当化する役割を持つ。
確率空間 $(\Omega, \mathcal{F}, P)$ 上で、独立同分布な確率変数列 $\{X_n\}_{n=1}^{\infty}$ を考える。各確率変数は同一の分布に従い、
\[\mathbb{E}[X_1] = \mu, \quad \mathrm{Var}(X_1) = \sigma^2 < \infty\]
とする。このとき、標本平均を
\[\overline{X}_n = \frac{1}{n} \sum_{i=1}^{n} X_i\]
と定義する。
弱大数の法則（Weak Law of Large Numbers, WLLN）は、標本平均が確率収束の意味で期待値に収束することを主張する。
すなわち、任意の $\varepsilon > 0$ に対して
\[\lim_{n \to \infty} P\left( \left| \overline{X}_n - \mu \right| > \varepsilon \right) = 0\]
が成立する。これを
\[\overline{X}_n \xrightarrow{P} \mu\]
と書き、確率収束という。
チェビシェフの不等式より、
\[P\left( \left| \overline{X}_n - \mu \right| > \varepsilon \right)\leq \frac{\mathrm{Var}(\overline{X}_n)}{\varepsilon^2}\]
が成り立つ。独立性より、
\[\mathrm{Var}(\overline{X}_n) = \frac{\sigma^2}{n}\]
であるから、
\[P\left( \left| \overline{X}_n - \mu \right| > \varepsilon \right)\leq \frac{\sigma^2}{n \varepsilon^2} \to 0 \quad (n \to \infty)\]
となり、結論が従う。
強大数の法則（Strong Law of Large Numbers, SLLN）は、標本平均がほとんど確実に期待値へ収束することを主張する。
すなわち、
\[P\left( \lim_{n \to \infty} \overline{X}_n = \mu \right) = 1\]
が成立する。これは
\[\overline{X}_n \xrightarrow{\text{a.s.}} \mu\]
と表され、ほとんど確実収束（almost sure convergence）という。
強大数の法則の成立にはいくつかの十分条件が存在する。代表的なものとして、
が挙げられる。
弱法則と強法則の違いは、収束の概念にある。
ほとんど確実収束は確率収束よりも強い概念であり、
\[X_n \xrightarrow{\text{a.s.}} X \Rightarrow X_n \xrightarrow{P} X\]
が成り立つが、逆は一般には成立しない。
大数の法則は、「試行回数を増やせば平均は真の値に近づく」という経験的事実を数学的に裏付けるものである。例えばコイン投げにおいて、表の割合は試行回数が増えるにつれて $1/2$ に近づく。
大数の法則は独立同分布の場合に限らず、弱い依存構造や非同分布の設定にも拡張されている。また、エルゴード定理はその動的系における一般化とみなすことができる。
大数の法則は、標本平均が期待値へ収束することを保証する定理であり、弱法則は確率収束、強法則はほとんど確実収束を主張する。この定理は統計的推定の正当性を支える理論的基盤であり、確率論と実証的観測を結びつける中心的役割を果たす。
Mathematics is the language with which God has written the universe.