独立

この定義において,確率変数の値が離散的か連続的かを問わず,かつ集合 $A, B$ が任意の測度可能集合である点が重要である.特に,全ての「イベントの組み合わせ」で確率が積に分解できることが独立の厳密な定義である.

これを同時分布関数に言い換えると,確率変数 $X, Y$ の同時分布関数\[F_{X,Y}(x,y) = P(X \leq x, Y \leq y)\]と周辺分布関数\[F_X(x) = P(X \leq x), \quad F_Y(y) = P(Y \leq y)\]について,\[F_{X,Y}(x,y) = F_X(x) \times F_Y(y), \quad \forall x, y \in \mathbb{R}\]が成立することも独立の定義となる.

また,同時確率密度関数（存在するとき）$f_{X,Y}(x,y)$ と周辺確率密度関数 $f_X(x), f_Y(y)$ に対しては,\[f_{X,Y}(x,y) = f_X(x) \cdot f_Y(y), \quad \forall x,y \in \mathbb{R}\]が成立することが独立の条件である.

具体例

確率変数 $X$ と $Y$ の独立な場合と独立でない場合を具体的に示す.次の表は,2つの確率変数 $X$ と $Y$ の取り得る値と,そのときの同時確率 $P(X,Y)$ を示す.

• 1列目：確率変数 $X$ の値
• 2列目：確率変数 $Y$ の値
• 3列目：$X$ がその値かつ $Y$ がその値になる確率[同時確率]

例えば,行 $(X=0, Y=1, 0.25)$ は「$X$ が 0 かつ $Y$ が 1 になる確率は 0.25」を意味する.

独立な場合の例

\[\begin{array}{c|c|c}X & Y & P(X,Y) \\\hline0 & 0 & 0.25 \\0 & 1 & 0.25 \\1 & 0 & 0.25 \\1 & 1 & 0.25 \\\end{array}\]周辺確率は,\[P(X=0) = 0.25 + 0.25 = 0.5, \quad P(Y=0) = 0.25 + 0.25 = 0.5\]となる.さらに,\[P(X=0, Y=0) = 0.25 = 0.5 \times 0.5\]など全ての組で\[P(X,Y) = P(X) \, P(Y)\]が成り立つため,$X$ と $Y$ は独立である.

独立でない場合の例

\[\begin{array}{c|c|c}X & Y & P(X,Y) \\\hline0 & 0 & 0.4 \\0 & 1 & 0.1 \\1 & 0 & 0.1 \\1 & 1 & 0.4 \\\end{array}\]周辺確率は,\[P(X=0) = 0.4 + 0.1 = 0.5, \quad P(Y=0) = 0.4 + 0.1 = 0.5\]であるが,\[P(X=0, Y=0) = 0.4 \neq 0.5 \times 0.5 = 0.25\]となるため,少なくとも1つの組で\[P(X,Y) \neq P(X) \, P(Y)\]が成り立ち,$X$ と $Y$ は独立ではない.

記号の定義

• [$\Omega$] 標本空間[sample space].取り得る全ての事象の元[試行の結果]を集めた集合.
• [$\mathcal{F}$] $\Omega$ 上の $\sigma$-加法族[$\sigma$-代数, sigma-algebra].$\Omega$ の部分集合であって事象として扱う集合族であり,補集合や可算和集合に関して閉じている.
• [$P$] 確率測度[probability measure].$\mathcal{F}$ の各集合に対して $0 \le P(\cdot) \le 1$ を満たす値を割り当てる関数で,全体集合 $\Omega$ に対して $P(\Omega) = 1$ を満たす.
• [$(\Omega, \mathcal{F}, P)$] 上記3つの組で,確率論の基盤となる構造を成す確率空間.
• [$X : \Omega \to \mathcal{X}$] 確率変数（random variable）.$\Omega$ 上の可測写像で,各試行結果 $\omega \in \Omega$ を値域 $\mathcal{X}$ の要素に対応させる.
• [$Y : \Omega \to \mathcal{Y}$] 確率変数で,値域 $\mathcal{Y}$ を持つ.
• [$\mathcal{X}, \mathcal{Y}$] それぞれ確率変数 $X, Y$ の値域[range, state space].実数全体 $\mathbb{R}$ の部分集合である場合が多いが,離散的集合の場合もある.
• [$A \subseteq \mathcal{X}, \; B \subseteq \mathcal{Y}$] 値域の部分集合で,可測集合[通常はボレル集合]として扱う.
• [ボレル集合 Borel set] 実数空間上で開集合から $\sigma$-加法族の操作[補集合・可算和集合]によって生成される集合族.

Mathematics is the language with which God has written the universe.