Bagaimana menafsirkan nilai aic negatif

Kriteria Informasi Akaike (AIC) adalah metrik yang digunakan untuk membandingkan kesesuaian model regresi yang berbeda.

Ini dihitung sebagai berikut:

AIC = 2K – 2 ln (L)

Emas:

• K : Jumlah parameter model.
• ln (L) : Log-likelihood model. Hal ini memberi tahu kita seberapa besar kemungkinan model tersebut, berdasarkan datanya.

Setelah Anda memasang beberapa model regresi, Anda dapat membandingkan nilai AIC setiap model. Model dengan AIC terendah memberikan kesesuaian terbaik.

Pertanyaan yang sering ditanyakan siswa tentang AIC adalah: bagaimana menafsirkan nilai AIC negatif?

Jawaban sederhananya: semakin rendah nilai AIC, semakin baik model tersebut cocok. Nilai absolut dari nilai AIC tidak penting. Ini bisa positif atau negatif.

Misalnya, jika Model 1 memiliki nilai AIC -56,5 dan Model 2 memiliki nilai AIC -103,3, maka Model 2 memberikan kesesuaian yang lebih baik. Tidak masalah jika kedua nilai AIC negatif.

Memahami Nilai AIC Negatif

Sangat mudah untuk melihat bagaimana model regresi tertentu dapat menghasilkan nilai AIC negatif jika kita melihat rumus yang digunakan untuk menghitung AIC:

AIC = 2K – 2 ln (L)

Misalkan kita memiliki model dengan 7 parameter dan log-likelihood 70.

Kami akan menghitung AIC model ini sebagai berikut:

AIC = 2*7 – 2*70 = -126

Kami kemudian dapat membandingkan nilai AIC ini dengan model regresi lainnya untuk menentukan model mana yang paling sesuai.

Referensi Buku Ajar Nilai AIC Negatif

Referensi buku teks yang berguna tentang nilai AIC negatif berasal dari Pemilihan Model dan Inferensi Multimodal: Pendekatan Teori-Informasi Praktis di halaman 62:

Biasanya AIC positif; namun, ini dapat digeser oleh konstanta aditif apa pun, dan beberapa perubahan dapat mengakibatkan nilai AIC negatif… Ini bukan ukuran absolut dari nilai AIC, ini adalah nilai relatif pada semua model yang dipertimbangkan, dan khususnya perbedaan antara nilai-nilai AIC, itu penting.

Referensi berguna lainnya datang dari Serious Stats: A Guide to Advanced Statistics for the Behavioral Sciences di halaman 402:

Seperti halnya kemungkinan, nilai absolut AIC sebagian besar tidak ada artinya (ditentukan oleh konstanta arbitrer). Karena konstanta ini bergantung pada data, AIC dapat digunakan untuk membandingkan model yang dipasang pada sampel yang identik.

Oleh karena itu, model terbaik di antara semua model yang masuk akal yang dipertimbangkan adalah model yang memiliki nilai AIC terkecil (kehilangan informasi paling kecil dibandingkan model sebenarnya).

Sebagaimana dicatat dalam kedua buku teks tersebut, nilai absolut AIC tidaklah penting. Kita cukup menggunakan nilai AIC untuk membandingkan kecocokan model dan model dengan nilai AIC terendah adalah yang terbaik.

Sumber daya tambahan

Cara menghitung AIC di R
Cara Menghitung AIC dengan Python