Jak obliczyć bic w r

Bayesowskie kryterium informacyjne , często w skrócie BIC , jest miarą stosowaną do porównywania dobroci dopasowania różnych modeli regresji.

W praktyce dopasowujemy modele regresji wielokrotnej do tego samego zbioru danych i wybieramy model o najniższej wartości BIC jako model najlepiej pasujący do danych.

Do obliczenia BIC używamy następującego wzoru:

BIC: (RSS+log(n)dσ̂ ² ) / n

Złoto:

• d: Liczba predyktorów
• n: Całkowita liczba obserwacji
• σ̂: Oszacowanie wariancji błędu związanej z każdą miarą odpowiedzi w modelu regresji
• RSS: Pozostała suma kwadratów z modelu regresji
• TSS: Całkowita suma kwadratów modelu regresji

Poniższy przykład pokazuje krok po kroku jak obliczyć wartości BIC dla modeli regresji w R.

Krok 1: Wyświetl dane

W tym przykładzie użyjemy wbudowanego zbioru danych mtcars :

 #view first six rows of mtcars dataset
head(mtcars)
mpg cyl disp hp drat wt qsec vs am gear carb
Mazda RX4 21.0 6 160 110 3.90 2.620 16.46 0 1 4 4
Mazda RX4 Wag 21.0 6 160 110 3.90 2.875 17.02 0 1 4 4
Datsun 710 22.8 4 108 93 3.85 2.320 18.61 1 1 4 1
Hornet 4 Drive 21.4 6 258 110 3.08 3.215 19.44 1 0 3 1
Hornet Sportabout 18.7 8 360 175 3.15 3.440 17.02 0 0 3 2
Valiant 18.1 6 225 105 2.76 3,460 20.22 1 0 3 1

Krok 2: Zainstaluj wiele szablonów

Następnie dopasujemy kilka różnych modeli regresji, korzystając z tego zbioru danych:

 #fit three different regression models
model1 <- lm(mpg ~ disp + hp, data = mtcars)
model2 <- lm(mpg ~ disp + qsec, data = mtcars)
model3 <- lm(mpg ~ disp + wt, data = mtcars)

Krok 3: Wybierz model z najniższym BIC

Aby obliczyć wartość BIC dla każdego modelu, możemy skorzystać z funkcji BIC() z pakietu flexmix :

 library (flexmix)

#calculate BIC of model1
BIC(model1)

[1] 174.4815

#calculate BIC of model2
BIC(model2)

[1] 177.7048

#calculate BIC of model3
BIC(model3)

[1] 170.0307

Dla każdego modelu możemy zobaczyć wartości BIC:

• BIC wzoru 1 : 174.4815
• Model 2 BIC: 177.7048
• Model 3 BIC: 170.0307

Ponieważ model 3 ma najniższą wartość BIC, wybierzemy go jako model najlepiej pasujący do zbioru danych.

Dodatkowe zasoby

Poniższe samouczki wyjaśniają, jak dopasować popularne modele regresji w R:

Jak wykonać prostą regresję liniową w R
Jak wykonać wielokrotną regresję liniową w R
Jak przeprowadzić regresję logistyczną w R
Jak wykonać ważoną regresję metodą najmniejszych kwadratów w R