モーメント母関数

確率母関数*\[G_X(t) = \mathbb{E}[t^X] = \sum_{x=0}^{\infty} t^x P(X=x)\]において,\[t=e^{\theta}\]とおいたものがモーメント母関数である.そのため,モーメント母関数と確率母関数は基本的に同じ母関数であるということが出来る.

なお,離散確率変数の場合は,\[M_X(t) = \sum_{x} e^{tx} P(X = x)\]連続確率変数の場合は,$X$ の確率密度関数を $f_X(x)$ として,\[M_X(t) = \int_{-\infty}^{\infty} e^{tx} f_X(x) \, dx\]となる.

モーメント母関数が必要な理由

• 確率分布の完全な特徴付け：モーメント母関数は確率分布を一意に決定する.すなわち,2つの確率分布が同じモーメント母関数を持つならば,それらは同一の分布である.
• モーメントの簡単な計算が可能：モーメント母関数を微分することによって,確率分布の全てのモーメントを容易に計算できる.
• 確率変数の和の分布の導出：独立な確率変数の和のモーメント母関数は,個々の変数のモーメント母関数の積となる.これにより,和の分布を簡単に求めることができる.
• 極限定理などの証明：中心極限定理などの重要な定理の証明にモーメント母関数が使用される.
• パラメータ推定：統計学におけるパラメータの推定に使用される.

確率分布の母関数[MGF]と特性関数[CF]

二項分布 $B(n,p)$

\[\begin{align*}\text{MGF: } & M_X(t) = (p e^t + 1 - p)^n, \\ \text{CF: } & \varphi_X(t) = (p e^{it} + 1 - p)^n.\end{align*}\]

幾何分布 $Ge(p)$ [初成功までの試行回数]

\[\begin{align*}\text{MGF: } & M_X(t) = \frac{p e^t}{1 - (1-p)e^t}, \quad |e^t| < \frac{1}{1-p},\\\text{CF: } & \varphi_X(t) = \frac{p e^{it}}{1 - (1-p)e^{it}}, \quad |e^{it}| < \frac{1}{1-p}.\end{align*}\]

ポアソン分布 $Poisson(\lambda)$

\[\begin{align*}\text{MGF: } & M_X(t) = \exp\bigl(\lambda (e^t - 1)\bigr),\\ \text{CF: } & \varphi_X(t) = \exp\bigl(\lambda (e^{it} - 1)\bigr).\end{align*}\]

一様分布 $U(a,b)$

\[\begin{align*}\text{MGF: } & M_X(t) = \frac{e^{bt} - e^{at}}{t(b-a)}, \quad t \neq 0,\\ \text{CF: } & \varphi_X(t) = \frac{e^{ibt} - e^{iat}}{i t (b-a)}, \quad t \neq 0.\end{align*}\]

指数分布 $Exp(\lambda)$

\[\begin{align*}\text{MGF: } & M_X(t) = \frac{\lambda}{\lambda - t}, \quad t < \lambda,\\ \text{CF: } & \varphi_X(t) = \frac{\lambda}{\lambda - it}, \quad t \in \mathbb{R}.\end{align*}\]

正規分布 $N(\mu, \sigma^2)$

\[\begin{align*}\text{MGF: } & M_X(t) = \exp\Bigl(\mu t + \frac{\sigma^2 t^2}{2}\Bigr),\\ \text{CF: } & \varphi_X(t) = \exp\Bigl(i \mu t - \frac{\sigma^2 t^2}{2}\Bigr).\end{align*}\]

Mathematics is the language with which God has written the universe.