指数分布

指数分布は確率論や統計学において,特に待ち時間や寿命に関連する現象をモデル化する場合に用いられる.具体的には,あるイベントがポアソン過程で発生するとき,次のイベントまでの時間が指数分布に従う.例えば,電話交換機に次の電話がかかってくるまでの時間,機械部品が故障するまでの時間,あるいはバスや列車の到着間隔などが挙げられる.また,部品や製品の寿命が故障率一定,すなわち経過時間に依存しない場合にも指数分布は適用される.このように指数分布は,故障が起こる確率が時間経過に依存しないという性質[memoryless property]を持つため,信頼性工学や待ち行列理論などでも広く利用される.

正規分布との関係においては,指数分布は非負の値しか取らず,平均値に対して左右対称ではない片側に裾を引く分布であるのに対し,正規分布は両側に裾を持つベル型の分布であり,平均付近に確率が集中する性質を持つ.中心極限定理により,独立に発生する多数のイベントの待ち時間の平均を取ると,その平均は近似的に正規分布に従う.したがって単一の待ち時間は指数分布で表されるが,多数の待ち時間の平均は正規分布で近似可能である.また,指数分布の平均を標準化することで,合成された値が正規分布で近似されることもある.こうして,指数分布は非負の連続量でmemoryless propertyを持つ事象のモデル化に適しており,正規分布は多数の独立要素の和の近似に関連する.

指数分布の確率密度関数[PDF]は,\[f_X(x) =\begin{cases}w e^{-w x}, & x \ge 0, \\0, & x < 0.\end{cases}\]また,指数分布の累積分布関数[CDF]は,\[F_X(x) = P(X \le x) =\begin{cases}1 - e^{-w x}, & x \ge 0, \\0, & x < 0.\end{cases}\]となる.

$w$について

1次元連続確率変数 $X$ の確率 $P(B)$ が密度関数 $\rho(x)$ によって\[P(B) = \int_B \rho(x) \, dx\]と表されるとする.
ここで,非負変数 $X \ge 0$ の分布を指数関数型で仮定する.\[\rho(x) = C e^{-w x}, \quad x \ge 0, \quad w > 0, \ C > 0.\]密度関数の正規化条件より,\[\int_0^\infty \rho(x) \, dx = \int_0^\infty C e^{-w x} \, dx = 1\]を満たす必要がある.積分すると,\[\int_0^\infty C e^{-w x} \, dx = C \left[ -\frac{1}{w} e^{-w x} \right]_0^\infty = \frac{C}{w} = 1\]よって,\[C = w\]となる.従って,指数分布の確率密度関数は,\[f_X(x) =\begin{cases}w e^{-w x}, & x \ge 0, \\0, & x < 0\end{cases}\]となり、パラメータ $w$ は分布の減衰率[スケールの逆数]を表す.

期待値と分散

期待値の導出

期待値は,\[\mathbb{E}[X] = \int_0^\infty x f_X(x) \, dx = \int_0^\infty x \, w e^{-w x} \, dx\]ここで,部分積分を用いる.\[\int x e^{-w x} dx = -\frac{x}{w} e^{-w x} - \frac{1}{w^2} e^{-w x} + C\]これを区間 $[0, \infty)$ で評価する.$x \to \infty$ のとき,\[-\frac{x}{w} e^{-w x} \to 0, \quad -\frac{1}{w^2} e^{-w x} \to 0\]$x = 0$ のとき,\[-\frac{0}{w} e^{-w \cdot 0} - \frac{1}{w^2} e^{-w \cdot 0} = -\frac{1}{w^2}\]よって,\[\int_0^\infty x e^{-w x} dx = 0 - (-\frac{1}{w^2}) = \frac{1}{w^2}\]従って,期待値は,\[\mathbb{E}[X] = w \cdot \frac{1}{w^2} = \frac{1}{w}\]

分散の導出

分散の定義より,\[\mathrm{Var}(X) = \mathbb{E}[X^2] - (\mathbb{E}[X])^2\]ここで,\[\mathbb{E}[X^2] = \int_0^\infty x^2 f_X(x) dx = w \int_0^\infty x^2 e^{-w x} dx\]次に,部分積分を用いる.\[\begin{aligned}u &= x^2 \quad \Rightarrow \quad du = 2x \, dx \\dv &= e^{-w x} dx \quad \Rightarrow \quad v = -\frac{1}{w} e^{-w x}\end{aligned}\]\[\int_0^\infty x^2 e^{-w x} dx = uv - \int v \, du = -\frac{x^2}{w} e^{-w x} \Big|_0^\infty + \frac{2}{w} \int_0^\infty x e^{-w x} dx\]さらに,部分積分を用いる.\[\int_0^\infty x e^{-w x} dx\]に対して,\[\begin{aligned}u &= x \quad \Rightarrow \quad du = dx \\dv &= e^{-w x} dx \quad \Rightarrow \quad v = -\frac{1}{w} e^{-w x}\end{aligned}\]\[\int_0^\infty x e^{-w x} dx = uv - \int v \, du = -\frac{x}{w} e^{-w x} \Big|_0^\infty + \frac{1}{w} \int_0^\infty e^{-w x} dx\]\[\int_0^\infty e^{-w x} dx = \left[-\frac{1}{w} e^{-w x} \right]_0^\infty = 0 - \left(-\frac{1}{w}\right) = \frac{1}{w}\]従って,\[\int_0^\infty x e^{-w x} dx = 0 + \frac{1}{w^2} = \frac{1}{w^2}\]これを1回目の積分に代入する.\[\int_0^\infty x^2 e^{-w x} dx = 0 + \frac{2}{w} \cdot \frac{1}{w^2} = \frac{2}{w^3}\]よって,\[\mathbb{E}[X^2] = w \cdot \frac{2}{w^3} = \frac{2}{w^2}\]既知の \(\mathbb{E}[X] = \frac{1}{w}\) を用いると,\[\mathrm{Var}(X) = \mathbb{E}[X^2] - (\mathbb{E}[X])^2 = \frac{2}{w^2} - \left(\frac{1}{w}\right)^2 = \frac{1}{w^2}\]

Mathematics is the language with which God has written the universe.