如何解释负 aic 值


赤池信息准则 (AIC) 是一种用于比较不同回归模型拟合程度的指标。

计算方法如下:

AIC = 2K – 2 ln (L)

金子:

  • K:模型参数的数量。
  • ln (L) :模型的对数似然。这告诉我们在给定数据的情况下该模型的可能性有多大。

拟合多个回归模型后,您可以比较每个模型的 AIC 值。 AIC 最低的模型提供最佳拟合。

学生经常问的关于 AIC 的一个问题是:如何解释负 AIC 值?

答案很简单: AIC 值越低,模型拟合得越好。 AIC值的绝对值并不重要。这可以是积极的,也可以是消极的。

例如,如果模型 1 的 AIC 值为 -56.5,模型 2 的 AIC 值为 -103.3,则模型 2 提供更好的拟合。如果两个AIC值都是负数也没关系。

了解负 AIC 值

如果我们简单地查看用于计算 AIC 的公式,就很容易看出给定的回归模型如何导致 AIC 为负值:

AIC = 2K – 2 ln (L)

假设我们有一个具有 7 个参数且对数似然为 70 的模型。

我们将计算该模型的 AIC 如下:

AIC = 2*7 – 2*70 = -126

然后,我们可以将此 AIC 值与其他回归模型的值进行比较,以确定哪个模型提供最佳拟合。

有关负 AIC 值的教科书参考资料

关于负 AIC 值的有用教科书参考来自模型选择和多模态推理:实用信息理论方法第 62 页:

通常 AIC 为正值;然而,它可以通过任何加性常数来移动,并且某些变化可能会导致负 AIC 值…这不是 AIC 值的绝对大小,它是所有考虑的模型的相对值,特别是AIC值之间的差异很重要。

另一个有用的参考来自《严肃的统计:行为科学高级统计指南》第 402 页:

与似然一样,AIC 的绝对值在很大程度上没有意义(由任意常数确定)。由于该常数依赖于数据,因此 AIC 可用于比较适用于相同样本的模型。

因此,在所有考虑的合理模型中,最好的模型是 AIC 值最小的模型(与真实模型相比,信息损失最少)。

正如两本教科书所指出的,AIC 的绝对值并不重要。我们简单地用AIC值来比较模型的拟合度,AIC值最低的模型是最好的。

其他资源

如何在R中计算AIC
如何用Python计算AIC

添加评论

您的电子邮箱地址不会被公开。 必填项已用*标注