期待値の定義と性質

期待値は確率変数の平均的な値を表す量であり、確率分布に関する最も基本的な統計量である。その定義は測度論に基づき、ルベーグ積分として与えられる。

定義(一般形)

確率空間 $(\Omega, \mathcal{F}, P)$ 上の確率変数 $X$ に対して、期待値は

\[\mathbb{E}[X] = \int_{\Omega} X(\omega)\, dP(\omega)\]

によって定義される。ただし、この積分が有限であるときに限り、期待値が存在すると言う。

離散型の場合

確率質量関数 $p(x) = P(X=x)$ を用いると、

\[\mathbb{E}[X] = \sum_{x} x\,p(x)\]

と表される。

連続型の場合

確率密度関数 $f(x)$ を用いると、

\[\mathbb{E}[X] = \int_{-\infty}^{\infty} x f(x)\,dx\]

となる。

関数の期待値

確率変数 $X$ と可測関数 $g$ に対して、$g(X)$ の期待値は

\[\mathbb{E}[g(X)] =\begin{cases}\sum_x g(x)\,p(x) & \text{(離散型)} \\\int_{-\infty}^{\infty} g(x) f(x)\,dx & \text{(連続型)}\end{cases}\]

で与えられる。これはLOTUS(Law of the Unconscious Statistician)と呼ばれる。

基本性質

線形性

任意の確率変数 $X, Y$ と定数 $a, b$ に対して、

\[\mathbb{E}[aX + bY] = a\mathbb{E}[X] + b\mathbb{E}[Y]\]

が成立する。

単調性

もし $X \leq Y$ がほとんど確実に成り立つならば、

\[\mathbb{E}[X] \leq \mathbb{E}[Y]\]

非負性

$X \geq 0$ ならば、

\[\mathbb{E}[X] \geq 0\]

定数の期待値

定数 $c$ に対して、

\[\mathbb{E}[c] = c\]

独立性と積の期待値

確率変数 $X, Y$ が独立である場合、

\[\mathbb{E}[XY] = \mathbb{E}[X]\mathbb{E}[Y]\]

が成立する。

不等式

ヤンセンの不等式

凸関数 $\varphi$ に対して、

\[\varphi(\mathbb{E}[X]) \leq \mathbb{E}[\varphi(X)]\]

マルコフの不等式

$X \geq 0$, $a > 0$ に対して、

\[P(X \geq a) \leq \frac{\mathbb{E}[X]}{a}\]

チェビシェフの不等式

\[P(|X - \mu| \geq \varepsilon) \leq \frac{\mathrm{Var}(X)}{\varepsilon^2}\]

期待値の収束定理

期待値は極限操作と密接に関係する。

単調収束定理

非負関数列 $X_n \uparrow X$ に対して、

\[\lim_{n\to\infty} \mathbb{E}[X_n] = \mathbb{E}[X]\]

優収束定理

$X_n \to X$ かつ $|X_n| \leq Y$, $\mathbb{E}[Y] < \infty$ のとき、

\[\lim_{n\to\infty} \mathbb{E}[X_n] = \mathbb{E}[X]\]

まとめ

期待値は確率変数の平均的挙動を表す基本量であり、測度論的にはルベーグ積分として定義される。その線形性や単調性といった基本性質に加え、不等式や収束定理を通じて、確率論・統計学の理論展開において中心的な役割を果たす。

Mathematics is the language with which God has written the universe.





















分散と標準偏差 共分散と相関係数 モーメント母関数と特性関数 チェビシェフの不等式 期待値とモーメント