尤度比検定

尤度比検定は、帰無仮説と対立仮説のもとでの尤度の比に基づいて仮説を検定する一般的手法であり、ネイマン・ピアソンの補題を複合仮説へと拡張したものである。多くの統計的検定は、この枠組みで統一的に理解できる。

設定

確率密度関数(または確率質量関数) $f(x;\theta)$ に対して、

\[H_0 : \theta \in \Theta_0, \quad H_1 : \theta \in \Theta \setminus \Theta_0\]

という仮説を考える。

尤度関数

標本 $X_1, \dots, X_n$ に対して、尤度関数を

\[L(\theta) = \prod_{i=1}^{n} f(X_i;\theta)\]

とする。

尤度比統計量

尤度比は

\[\Lambda =\frac{\sup_{\theta \in \Theta_0} L(\theta)}{\sup_{\theta \in \Theta} L(\theta)}\]

で定義される。

すなわち、帰無仮説のもとでの最大尤度と、全体での最大尤度の比である。

検定統計量

通常、次の統計量を用いる:

\[-2 \log \Lambda\]

漸近分布(ウィルクスの定理)

適切な正則性条件のもとで、

\[-2 \log \Lambda \Rightarrow \chi^2(d)\]

が成立する。ここで $d$ は制約の自由度(パラメータ数の差)である。

意思決定

有意水準 $\alpha$ に対して、

\[-2 \log \Lambda > \chi^2_{d,\alpha}\]

であれば帰無仮説を棄却する。

例:正規分布の平均の検定

$X_i \sim \mathcal{N}(\mu, \sigma^2)$($\sigma^2$ 既知)として、

\[H_0 : \mu = \mu_0\]

を検定する場合、尤度比検定はz検定と一致する。

性質

  • 一般性が高い
  • 漸近的に最適な性質を持つ
  • 多くの検定がこの枠組みに含まれる

注意点

  • 有限標本では近似が不正確な場合がある
  • 正則性条件が必要である

まとめ

尤度比検定は、尤度の最大値の比に基づく一般的な仮説検定手法であり、ウィルクスの定理により漸近的にχ²分布に従う。多くの統計的検定を統一的に扱う枠組みを提供する。

Mathematics is the language with which God has written the universe.





















数理統計学 機械学習