負の aic 値を解釈する方法

赤池情報量基準 (AIC) は、さまざまな回帰モデルの適合度を比較するために使用される指標です。

次のように計算されます。

AIC = 2K – 2 ln (長さ)

金：

• K:モデルパラメータの数。
• ln (L) : モデルの対数尤度。これにより、データが与えられた場合にそのモデルがどの程度の可能性を持っているかがわかります。

複数の回帰モデルを適合させたら、各モデルの AIC 値を比較できます。 AIC が最も低いモデルが最適な適合を提供します。

AIC に関して学生がよく尋ねる質問は、「負の AIC 値をどう解釈するか?」というものです。

簡単な答えは、 AIC 値が低いほど、モデルの適合性が高くなります。 AIC 値の絶対値は重要ではありません。これはプラスにもマイナスにもなり得ます。

たとえば、モデル 1 の AIC 値が -56.5 で、モデル 2 の AIC 値が -103.3 の場合、モデル 2 の方がよりよく適合します。 AIC 値が両方とも負であっても問題ありません。

負の AIC 値を理解する

AIC の計算に使用される式を見るだけで、特定の回帰モデルが負の AIC 値をもたらす可能性があることが簡単にわかります。

AIC = 2K – 2 ln (長さ)

7 つのパラメーターと 70 の対数尤度を持つモデルがあるとします。

このモデルの AIC は次のように計算します。

AIC = 2*7 – 2*70 = -126

次に、この AIC 値を他の回帰モデルの値と比較して、どのモデルが最もよく適合するかを判断できます。

負の AIC 値に関する教科書の参考文献

負の AIC 値に関する有益な教科書参考資料は、62 ページの「モデル選択とマルチモーダル推論: 実践的な情報理論的アプローチ」にあります。

通常、AIC は正です。ただし、任意の加法定数によってシフトする可能性があり、一部の変更により負の AIC 値が生じる可能性があります。これは AIC 値の絶対的な大きさではなく、考慮されているすべてのモデル、特にAIC 値間の違いは重要です。

もう 1 つの有用な参考資料は、『Serious Stats: A Guide to Advanced Statistics for the Behavioral Sciences』 ( 402 ページ) から得られます。

尤度の場合と同様、AIC の絶対値はほとんど意味がありません (任意の定数によって決定されます)。この定数はデータに依存するため、AIC を使用して、同一のサンプルに適合したモデルを比較できます。

したがって、考慮されたすべてのもっともらしいモデルの中で最良のモデルは、AIC 値が最も小さい (実際のモデルと比較して情報の損失が最も少ない) モデルとなります。

どちらの教科書にも記載されているように、AIC の絶対値は重要ではありません。 AIC 値を使用してモデルの適合性を比較するだけで、AIC 値が最も低いモデルが最良となります。

追加リソース

RでAICを計算する方法
Python で AIC を計算する方法