如何解释负 aic 值
赤池信息准则 (AIC) 是一种用于比较不同回归模型拟合程度的指标。
计算方法如下:
AIC = 2K – 2 ln (L)
金子:
- K:模型参数的数量。
- ln (L) :模型的对数似然。这告诉我们在给定数据的情况下该模型的可能性有多大。
拟合多个回归模型后,您可以比较每个模型的 AIC 值。 AIC 最低的模型提供最佳拟合。
学生经常问的关于 AIC 的一个问题是:如何解释负 AIC 值?
答案很简单: AIC 值越低,模型拟合得越好。 AIC值的绝对值并不重要。这可以是积极的,也可以是消极的。
例如,如果模型 1 的 AIC 值为 -56.5,模型 2 的 AIC 值为 -103.3,则模型 2 提供更好的拟合。如果两个AIC值都是负数也没关系。
了解负 AIC 值
如果我们简单地查看用于计算 AIC 的公式,就很容易看出给定的回归模型如何导致 AIC 为负值:
AIC = 2K – 2 ln (L)
假设我们有一个具有 7 个参数且对数似然为 70 的模型。
我们将计算该模型的 AIC 如下:
AIC = 2*7 – 2*70 = -126
然后,我们可以将此 AIC 值与其他回归模型的值进行比较,以确定哪个模型提供最佳拟合。
有关负 AIC 值的教科书参考资料
关于负 AIC 值的有用教科书参考来自模型选择和多模态推理:实用信息理论方法第 62 页:
通常 AIC 为正值;然而,它可以通过任何加性常数来移动,并且某些变化可能会导致负 AIC 值…这不是 AIC 值的绝对大小,它是所有考虑的模型的相对值,特别是AIC值之间的差异很重要。
另一个有用的参考来自《严肃的统计:行为科学高级统计指南》第 402 页:
与似然一样,AIC 的绝对值在很大程度上没有意义(由任意常数确定)。由于该常数依赖于数据,因此 AIC 可用于比较适用于相同样本的模型。
因此,在所有考虑的合理模型中,最好的模型是 AIC 值最小的模型(与真实模型相比,信息损失最少)。
正如两本教科书所指出的,AIC 的绝对值并不重要。我们简单地用AIC值来比较模型的拟合度,AIC值最低的模型是最好的。