デルタ法は、確率変数の関数に対する漸近分布を導くための方法であり、特に推定量の関数の分布を近似する際に用いられる。中心極限定理とテイラー展開を組み合わせた結果として理解される。
確率変数列 $X_n$ が
\[\sqrt{n}(X_n - \theta) \Rightarrow \mathcal{N}(0, \sigma^2)\]
を満たすとする。このとき、関数 $g$ が点 $\theta$ で微分可能であり、$g'(\theta) \neq 0$ であれば、
\[\sqrt{n}(g(X_n) - g(\theta)) \Rightarrow \mathcal{N}\left(0, \sigma^2 (g'(\theta))^2\right)\]
が成立する。
関数 $g$ を点 $\theta$ の周りでテイラー展開すると、
\[g(X_n) = g(\theta) + g'(\theta)(X_n - \theta) + o(X_n - \theta)\]
となる。これに $\sqrt{n}$ を掛けると、
\[\sqrt{n}(g(X_n) - g(\theta)) = g'(\theta)\sqrt{n}(X_n - \theta) + o_p(1)\]
となるため、スルツキーの定理より結論が得られる。
確率ベクトル $\mathbf{X}_n \in \mathbb{R}^k$ が
\[\sqrt{n}(\mathbf{X}_n - \boldsymbol{\theta}) \Rightarrow \mathcal{N}(\mathbf{0}, \Sigma)\]
を満たし、関数 $g : \mathbb{R}^k \to \mathbb{R}^m$ が微分可能であるとする。このとき、
\[\sqrt{n}(g(\mathbf{X}_n) - g(\boldsymbol{\theta})) \Rightarrow \mathcal{N}(\mathbf{0}, J \Sigma J^\top)\]
が成立する。ただし $J$ はヤコビ行列
\[J = \left( \frac{\partial g_i}{\partial x_j}(\boldsymbol{\theta}) \right)\]
である。
標本平均 $\bar{X}_n$ に対して、関数 $g(x) = \frac{1}{x}$ を適用すると、
\[\sqrt{n}\left(\frac{1}{\bar{X}_n} - \frac{1}{\mu}\right)\Rightarrow \mathcal{N}\left(0, \frac{\sigma^2}{\mu^4}\right)\]
が得られる。
$g(x) = \log x$ とすると、
\[\sqrt{n}(\log \bar{X}_n - \log \mu)\Rightarrow \mathcal{N}\left(0, \frac{\sigma^2}{\mu^2}\right)\]
が成立する。
もし $g'(\theta) = 0$ の場合には、2次以上のテイラー展開を用いた高次デルタ法が必要となる。この場合、収束速度や極限分布の形が変化する。
デルタ法は、確率変数の関数の分布を近似するための基本的手法であり、中心極限定理とテイラー展開に基づく。統計的推定や信頼区間の構成において重要な役割を果たす。
Mathematics is the language with which God has written the universe.