{"id":3141,"date":"2023-07-19T00:41:50","date_gmt":"2023-07-19T00:41:50","guid":{"rendered":"https:\/\/statorials.org\/nl\/achterste-selectie\/"},"modified":"2023-07-19T00:41:50","modified_gmt":"2023-07-19T00:41:50","slug":"achterste-selectie","status":"publish","type":"post","link":"https:\/\/statorials.org\/nl\/achterste-selectie\/","title":{"rendered":"Wat is achterwaartse selectie? (definitie & #038; voorbeeld)"},"content":{"rendered":"

<\/p>\n

\n

In de statistiek is stapsgewijze selectie<\/strong> een procedure die we kunnen gebruiken om een regressiemodel<\/a> te construeren uit een reeks voorspellende variabelen door voorspellers stap voor stap in het model in te voeren en te verwijderen totdat er geen statistisch geldige reden meer is om in te voeren of verwijder er meer.<\/span><\/p>\n

Het doel van stapsgewijze selectie is het cre\u00ebren van een regressiemodel dat alle voorspellende variabelen omvat die statistisch significant gerelateerd zijn aan de responsvariabele<\/a> .<\/span><\/p>\n

Een van de meest gebruikte stapsgewijze selectiemethoden staat bekend als achterwaartse selectie<\/strong> en werkt als volgt:<\/span><\/p>\n

Stap 1:<\/strong> Pas een regressiemodel aan met behulp van alle p-<\/em> voorspellingsvariabelen. Bereken de AIC *<\/strong> -waarde voor het model.<\/span><\/p>\n

Stap 2:<\/strong> Verwijder de voorspellende variabele die resulteert in de grootste reductie in AIC en ook resulteert in een statistisch significante reductie in AIC vergeleken met het model met alle p<\/em> voorspellende variabelen.<\/span><\/p>\n

Stap 3:<\/strong> Verwijder de voorspellende variabele die resulteert in de grootste reductie in AIC en ook resulteert in een statistisch significante reductie in AIC vergeleken met het model met p-1<\/em> voorspellende variabelen.<\/span><\/p>\n

Herhaal het proces totdat het verwijderen van voorspellende variabelen niet langer leidt tot een statistisch significante vermindering van de AIC.<\/span><\/p>\n

*<\/strong> Er zijn verschillende meetgegevens die u kunt gebruiken om de goodness of fit van een regressiemodel te berekenen, waaronder kruisvalidatie-voorspellingsfouten, Cp, BIC, AIC of aangepaste R2<\/sup> .<\/span> In het onderstaande voorbeeld kiezen we ervoor om AIC te gebruiken.<\/span><\/p>\n

Het volgende voorbeeld laat zien hoe u een achterwaartse selectie uitvoert in R.<\/span><\/p>\n

Voorbeeld: achterwaartse selectie in R<\/strong><\/span><\/h3>\n

Voor dit voorbeeld gebruiken we de mtcars-dataset<\/a> die in R is ingebouwd:<\/span><\/p>\n

 #view first six rows of mtcars\n<\/em><\/span>head(mtcars)\n\n                   mpg cyl disp hp drat wt qsec vs am gear carb\nMazda RX4 21.0 6 160 110 3.90 2.620 16.46 0 1 4 4\nMazda RX4 Wag 21.0 6 160 110 3.90 2.875 17.02 0 1 4 4\nDatsun 710 22.8 4 108 93 3.85 2.320 18.61 1 1 4 1\nHornet 4 Drive 21.4 6 258 110 3.08 3.215 19.44 1 0 3 1\nHornet Sportabout 18.7 8 360 175 3.15 3.440 17.02 0 0 3 2\nValiant 18.1 6 225 105 2.76 3,460 20.22 1 0 3 1\n<\/strong><\/pre>\n
 We passen een meervoudig lineair regressiemodel toe met mpg<\/em> (mijl per gallon) als responsvariabele en de andere tien variabelen in de dataset als potenti\u00eble voorspellende variabelen.<\/span><\/p>\n
 De volgende code laat zien hoe u achteruit kunt stappen:<\/span><\/p>\n
 #define intercept-only model\n<\/span>intercept_only <- lm(mpg ~ 1, data=mtcars)\n\n#define model with all predictors\n<\/span>all <- lm(mpg ~ ., data=mtcars)\n\n#perform backward stepwise regression\n<\/span>backward <- step(all, direction=' backward<\/span> ', scope= formula<\/span> (all), trace=0)\n\n#view results of backward stepwise regression<\/span>\nbackward$anova\n\n    Step Df Deviance Resid. Df Resid. Dev AIC\n1 NA NA 21 147.4944 70.89774\n2 - cyl 1 0.07987121 22 147.5743 68.91507\n3 - vs 1 0.26852280 23 147.8428 66.97324\n4 - carb 1 0.68546077 24 148.5283 65.12126\n5 - gear 1 1.56497053 25 150.0933 63.45667\n6 - drat 1 3.34455117 26 153.4378 62.16190\n7 - available 1 6.62865369 27 160.0665 61.51530\n8 - hp 1 9.21946935 28 169.2859 61.30730\n\n#view final model\n<\/span>backward$coefficients\n\n(Intercept) wt qsec am \n   9.617781 -3.916504 1.225886 2.935837\n<\/strong><\/pre>\n
 Zo interpreteert u de resultaten:<\/span><\/p>\n
 Eerst passen we een model aan met behulp van de tien voorspellende variabelen en berekenen we de AIC van het model.<\/span><\/p>\n
 Vervolgens hebben we de variabele ( cyl<\/strong> ) verwijderd die resulteerde in de grootste reductie in AIC en ook een statistisch significante reductie in AIC verkregen vergeleken met het model met 10 voorspellende variabelen.<\/span><\/p>\n
 Vervolgens hebben we de variabele ( vs<\/strong> ) verwijderd die tot de grootste reductie in AIC leidde en ook een statistisch significante reductie in AIC verkregen vergeleken met het variabelenmodel met 9 voorspellende variabelen.<\/span><\/p>\n
 Vervolgens hebben we de variabele ( carb<\/strong> ) verwijderd die resulteerde in de grootste reductie in AIC en ook een statistisch significante reductie in AIC verkregen vergeleken met het model met 8 voorspellende variabelen.<\/span><\/p>\n
 We herhaalden dit proces totdat we een variabele verwijderden die niet langer resulteerde in een statistisch significante vermindering van de AIC.<\/span><\/p>\n
 Het uiteindelijke model blijkt te zijn:<\/span><\/p>\n
 mpg = 9,62 \u2013 3,92*gewicht + 1,23*qsec + 2,94*am<\/strong><\/span><\/p>\n
 Een opmerking over het gebruik van AIC<\/strong><\/span><\/h3>\n
 In het vorige voorbeeld hebben we ervoor gekozen om AIC als metriek te gebruiken om de fit van verschillende regressiemodellen te evalueren.<\/span><\/p>\n
 AIC staat voor Akaike Information Criterion<\/strong> en wordt als volgt berekend:<\/span><\/p>\n
 AIC = 2K \u2013 2 ln<\/em> (L)<\/span><\/p>\n
 Goud:<\/span><\/p>\n