Wat wordt als een goede aic-waarde beschouwd?

Het Akaike Information Criterion (AIC) is een maatstaf die wordt gebruikt om de fit van verschillende regressiemodellen te vergelijken.

Het wordt als volgt berekend:

AIC = 2K – 2 ln (L)

Goud:

• K: Het aantal modelparameters.
• ln (L) : De log-waarschijnlijkheid van het model. Dit vertelt ons hoe waarschijnlijk het model is, gegeven de gegevens.

Nadat u meerdere regressiemodellen heeft geïnstalleerd, kunt u de AIC-waarde van elk model vergelijken. Het model met de laagste AIC biedt de beste pasvorm.

Een vraag die studenten vaak stellen over AIC is: wat wordt als een goede AIC-waarde beschouwd?

Het simpele antwoord: er is geen waarde voor AIC die als ‘goed’ of ‘slecht’ kan worden beschouwd, omdat we AIC eenvoudigweg gebruiken als een manier om regressiemodellen te vergelijken. Het model met de laagste AIC biedt de beste pasvorm. De absolute waarde van de AIC-waarde is niet belangrijk.

Als Model 1 bijvoorbeeld een AIC-waarde van 730,5 heeft en Model 2 een AIC-waarde van 456,3, dan biedt Model 2 een betere pasvorm. Absolute waarden van AIC zijn niet belangrijk.

Een nuttige referentie over dit onderwerp komt uit Serious Stats: A Guide to Advanced Statistics for the Behavioral Sciences op pagina 402:

Net als bij waarschijnlijkheid is de absolute waarde van de AIC grotendeels betekenisloos (wordt bepaald door de willekeurige constante). Omdat deze constante gegevensafhankelijk is, kan AIC worden gebruikt om modellen te vergelijken die op identieke monsters zijn gemonteerd.

Het beste model van alle beschouwde plausibele modellen is daarom het model met de kleinste AIC-waarde (het minste verlies aan informatie vergeleken met het echte model).

Zoals vermeld in de handleiding is de absolute waarde van AIC niet belangrijk. We gebruiken simpelweg de AIC-waarden om de pasvorm van de modellen te vergelijken en het model met de laagste AIC-waarde is het beste.

Hoe bepaal je of een model goed bij een dataset past?

De AIC-waarde is een nuttige manier om te bepalen welk regressiemodel het beste past bij een dataset uit een lijst met potentiële modellen, maar kwantificeert niet daadwerkelijk hoe goed het model bij de gegevens past.

Een bepaald regressiemodel kan bijvoorbeeld de laagste AIC-waarde hebben uit een lijst met potentiële modellen, maar het kan nog steeds een slecht passend model zijn.

Om te bepalen of een model goed bij een dataset past, kunnen we de volgende twee metrieken gebruiken:

• Mallows‘ Cp : een metriek die de mate van vertekening in regressiemodellen kwantificeert.
• Aangepaste R-kwadraat : deel van de variantie in de responsvariabele dat kan worden verklaard door de voorspellende variabelen in het model, gecorrigeerd voor het aantal voorspellende variabelen in het model.

Een mogelijke strategie voor het kiezen van het ‘beste’ regressiemodel uit verschillende potentiële modellen is als volgt:

• Identificeer eerst het model met de laagste AIC-waarde.
• Pas dit regressiemodel vervolgens aan de gegevens aan en bereken de Mallows Cp en aangepaste R-kwadraat van het model om te kwantificeren hoe goed het daadwerkelijk bij de gegevens past.

Met deze aanpak kunt u het best passende model identificeren en kwantificeren hoe goed het model daadwerkelijk bij de gegevens past.

Aanvullende bronnen

Hoe negatieve AIC-waarden te interpreteren
Hoe AIC in R te berekenen
Hoe AIC in Python te berekenen