ネイマン・ピアソンの補題

ネイマン・ピアソンの補題は、単純仮説同士の検定において、与えられた有意水準のもとで最も検出力の高い検定(最強力検定)を特徴付ける基本定理である。仮説検定の最適性理論の出発点となる。

設定

確率密度関数(または確率質量関数) $f(x;\theta)$ に対して、次の単純仮説を考える:

\[H_0 : \theta = \theta_0, \quad H_1 : \theta = \theta_1\]

ここで、$\theta_0 \neq \theta_1$ とする。

尤度比

観測値 $x$ に対して、尤度比を

\[\Lambda(x) = \frac{f(x;\theta_1)}{f(x;\theta_0)}\]

と定義する。

定理(ネイマン・ピアソンの補題)

有意水準 $\alpha$ のもとで、次の形の検定

\[\phi(x) =\begin{cases}1 & (\Lambda(x) > k) \\0 & (\Lambda(x) < k)\end{cases}\]

(必要に応じて $\Lambda(x) = k$ の場合にランダム化を行う)

は、すべての有意水準 $\alpha$ の検定の中で、対立仮説 $H_1$ に対する検出力を最大にする。

解釈

この結果は、「尤度比が大きいほど $H_1$ を支持する」という直観を厳密に正当化するものである。すなわち、尤度比に基づく検定が最も効率的であることを示している。

棄却域

検定は、尤度比に基づく棄却域

\[R = \{ x \mid \Lambda(x) > k \}\]

を用いて定義される。

定数 $k$ は、有意水準条件

\[P_{\theta_0}(X \in R) = \alpha\]

を満たすように選ばれる。

証明の概略

任意の他の検定関数 $\psi(x)$ に対して、検出力の差を評価し、尤度比検定が最大となることを示す。証明には積分不等式と基本的な確率論的手法が用いられる。

一般化

ネイマン・ピアソンの補題は単純仮説の場合に適用されるが、複合仮説に対しては尤度比検定(likelihood ratio test)が一般化として用いられる。

応用例

まとめ

ネイマン・ピアソンの補題は、尤度比に基づく検定が最も強力であることを示す基本定理である。仮説検定の理論における最適性の基準を与え、尤度比検定の理論的根拠を提供する。

Mathematics is the language with which God has written the universe.





















尤度比検定 正規母集団の検定(z検定・t検定) χ²検定・F検定 p値と多重検定 単純線形回帰