Negatif aic değerleri nasıl yorumlanır?

Akaike Bilgi Kriteri (AIC), farklı regresyon modellerinin uyumunu karşılaştırmak için kullanılan bir ölçümdür.

Aşağıdaki şekilde hesaplanır:

AIC = 2K – 2 ln (L)

Altın:

• K: Model parametrelerinin sayısı.
• ln (L) : Modelin log-olasılığı. Bu bize veriler göz önüne alındığında modelin ne kadar muhtemel olduğunu söyler.

Birden fazla regresyon modelini yerleştirdikten sonra her modelin AIC değerini karşılaştırabilirsiniz. En düşük AIC değerine sahip model en iyi uyumu sağlar.

Öğrencilerin AIC hakkında sıklıkla sordukları soru şudur: Negatif AIC değerleri nasıl yorumlanır?

Basit cevap: AIC değeri ne kadar düşükse model o kadar iyi uyum sağlar. AIC değerinin mutlak değeri önemli değildir. Bu olumlu ya da olumsuz olabilir.

Örneğin Model 1’in AIC değeri -56,5 ve Model 2’nin AIC değeri -103,3 ise Model 2 daha iyi uyum sağlar. Her iki AIC değerinin de negatif olması önemli değildir.

Negatif AIC Değerlerini Anlamak

AIC’yi hesaplamak için kullanılan formüle bakarsak, belirli bir regresyon modelinin nasıl negatif bir AIC değeriyle sonuçlanabileceğini görmek kolaydır:

AIC = 2K – 2 ln (L)

Diyelim ki 7 parametreli ve log-olabilirliği 70 olan bir modelimiz var.

Bu modelin AIC’sini şu şekilde hesaplayabiliriz:

AIC = 2*7 – 2*70 = -126

Daha sonra hangi modelin en iyi uyumu sağladığını belirlemek için bu AIC değerini diğer regresyon modelleriyle karşılaştırabiliriz.

Negatif AIC Değerlerine İlişkin Ders Kitabı Referansları

Negatif AIC değerlerine ilişkin faydalı bir ders kitabı referansı , Model Seçimi ve Çok Modlu Çıkarım: Pratik Bilgi-Teorik Yaklaşım, sayfa 62’den gelir:

Genellikle AIC pozitiftir; ancak herhangi bir katkı sabiti ile kaydırılabilir ve bazı değişiklikler negatif AIC değerleri ile sonuçlanabilir… Bu, AIC değerinin mutlak boyutu değildir, dikkate alınan tüm modellerdeki göreceli değerlerdir ve özellikle AIC değerleri arasındaki farklar önemlidir.

Bir başka yararlı referans ise Ciddi İstatistikler: Davranış Bilimleri İçin Gelişmiş İstatistikler Kılavuzu sayfa 402’den gelmektedir:

Olasılıkla olduğu gibi, AIC’nin mutlak değeri büyük ölçüde anlamsızdır (keyfi bir sabit tarafından belirlenir). Bu sabit verilere bağlı olduğundan AIC, aynı örneklere uyan modelleri karşılaştırmak için kullanılabilir.

Dolayısıyla, dikkate alınan tüm makul modeller arasında en iyi model, en küçük AIC değerine sahip olandır (gerçek modelle karşılaştırıldığında en az bilgi kaybı).

Her iki ders kitabında da belirtildiği gibi AIC’nin mutlak değeri önemli değildir. Modellerin uyumunu karşılaştırmak için basitçe AIC değerlerini kullanırız ve en düşük AIC değerine sahip model en iyisidir.

Ek kaynaklar

R’de AIC nasıl hesaplanır
Python’da AIC Nasıl Hesaplanır?