チェビシェフの不等式

チェビシェフの不等式は、確率変数がその平均からどれだけ離れるかを分散によって評価する基本的不等式である。この不等式は分布の具体的な形状に依存せずに成立するため、確率論および統計学において極めて重要な役割を果たす。

定理(チェビシェフの不等式)

確率変数 $X$ が有限な期待値 $\mu = \mathbb{E}[X]$ および有限な分散 $\sigma^2 = \mathrm{Var}(X)$ を持つとする。このとき任意の $\varepsilon > 0$ に対して、

\[P\big(|X - \mu| \geq \varepsilon\big) \leq \frac{\sigma^2}{\varepsilon^2}\]

が成立する。

標準化された形

$k > 0$ として、標準偏差を用いると、

\[P\big(|X - \mu| \geq k\sigma\big) \leq \frac{1}{k^2}\]

と書ける。

証明

マルコフの不等式を用いて証明する。非負確率変数

\[Y = (X - \mu)^2\]

を考えると、

\[P(|X - \mu| \geq \varepsilon) = P\big((X - \mu)^2 \geq \varepsilon^2\big)\]

である。

ここでマルコフの不等式

\[P(Y \geq a) \leq \frac{\mathbb{E}[Y]}{a}\]

を適用すると、

\[P\big((X - \mu)^2 \geq \varepsilon^2\big)\leq \frac{\mathbb{E}[(X - \mu)^2]}{\varepsilon^2}= \frac{\sigma^2}{\varepsilon^2}\]

が得られる。

解釈

この不等式は、確率変数が平均から大きく外れる確率が、分散によって制御されることを示している。すなわち、分散が小さいほど、確率変数は平均の近くに集中する。

応用

大数の法則

チェビシェフの不等式は、大数の法則の証明において基本的な役割を果たす。特に独立同分布な確率変数列 $X_1, \dots, X_n$ に対して標本平均

\[\bar{X}_n = \frac{1}{n} \sum_{i=1}^n X_i\]

について、

\[P\big(|\bar{X}_n - \mu| \geq \varepsilon\big)\leq \frac{\mathrm{Var}(\bar{X}_n)}{\varepsilon^2}= \frac{\sigma^2}{n\varepsilon^2}\]

が成り立ち、$n \to \infty$ で右辺が 0 に収束することから弱法則が導かれる。

分布に依存しない評価

チェビシェフの不等式は分布の形に依存しないため、情報が限られている場合でも確率の上界を与えることができる。

一般化

任意の確率変数 $X$ と可測関数 $g \geq 0$ に対して、

\[P(g(X) \geq a) \leq \frac{\mathbb{E}[g(X)]}{a}\]

が成立する。これはマルコフの不等式であり、チェビシェフの不等式はその特別な場合である。

まとめ

チェビシェフの不等式は、分散を用いて確率変数の偏差を評価する基本的不等式であり、分布に依存しない普遍的な上界を与える。その単純さと一般性から、大数の法則や統計的推論の基礎として重要な役割を果たす。

Mathematics is the language with which God has written the universe.





















期待値とモーメント ベルヌーイ分布・二項分布 ポアソン分布 幾何分布・負の二項分布 一様分布