<\/p>\n
In de statistiek is stapsgewijze selectie<\/strong> een procedure die we kunnen gebruiken om een regressiemodel<\/a> te construeren uit een reeks voorspellende variabelen door voorspellers stap voor stap in het model in te voeren en te verwijderen totdat er geen statistisch geldige reden meer is om in te voeren of verwijder er meer.<\/span><\/p>\n Het doel van stapsgewijze selectie is het cre\u00ebren van een regressiemodel dat alle voorspellende variabelen omvat die statistisch significant gerelateerd zijn aan de responsvariabele<\/a> .<\/span><\/p>\n Een van de meest gebruikte stapsgewijze selectiemethoden staat bekend als directe selectie<\/strong> en werkt als volgt:<\/span><\/span><\/p>\n Stap 1:<\/strong> Pas een regressiemodel toe dat alleen onderschept, zonder voorspellende variabelen. Bereken de AIC *<\/strong> -waarde voor het model.<\/span><\/p>\n Stap 2:<\/strong> Pas alle mogelijke regressiemodellen met \u00e9\u00e9n voorspeller toe. Identificeer het model dat de laagste AIC produceerde en ook een statistisch significante vermindering van de AIC had vergeleken met het model dat alleen onderschept.<\/span><\/p>\n Stap 3:<\/strong> Pas alle regressiemodellen aan twee mogelijke voorspellers aan. Identificeer het model dat de laagste AIC produceerde en ook een statistisch significante vermindering van de AIC had vergeleken met het model met \u00e9\u00e9n voorspeller.<\/span><\/p>\n Herhaal het proces totdat het aanpassen van een regressiemodel met meer voorspellende variabelen niet langer leidt tot een statistisch significante vermindering van de AIC.<\/span><\/p>\n *<\/strong> Er zijn verschillende meetgegevens die u kunt gebruiken om de goodness of fit van een regressiemodel te berekenen, waaronder kruisvalidatie-voorspellingsfouten, Cp, BIC, AIC of aangepaste R2<\/sup> .<\/span> In het onderstaande voorbeeld kiezen we ervoor om AIC te gebruiken.<\/span><\/p>\n Het volgende voorbeeld laat zien hoe u een directe selectie uitvoert in R.<\/span><\/p>\n Voor dit voorbeeld gebruiken we de mtcars-dataset<\/a> die in R is ingebouwd:<\/span><\/p>\n We passen een meervoudig lineair regressiemodel toe met mpg<\/em> (mijl per gallon) als responsvariabele en de andere tien variabelen in de dataset als potenti\u00eble voorspellende variabelen.<\/span><\/p>\n De volgende code laat stap voor stap zien hoe u een selectie uitvoert:<\/span><\/p>\n Zo interpreteert u de resultaten:<\/span><\/p>\n Ten eerste passen we het alleen-intercept-model toe. Dit model had een AIC van 115,94345<\/strong> .<\/span><\/p>\n Vervolgens passen we alle mogelijke modellen aan een voorspeller aan. Het model dat de laagste AIC produceerde en ook een statistisch significante reductie in AIC had vergeleken met het model dat alleen onderschept, gebruikte de wt-<\/em> voorspeller. Dit model had een AIC van 73,21736<\/strong> .<\/span><\/p>\n Vervolgens passen we alle mogelijke modellen aan met twee voorspellers. Het model dat de laagste AIC produceerde en ook een statistisch significante reductie in AIC had vergeleken met het model met \u00e9\u00e9n voorspeller, voegde de cil-<\/em> voorspeller toe. Dit model had een AIC van 63,19800<\/strong> .<\/span><\/p>\n Vervolgens passen we alle mogelijke modellen aan drie voorspellers aan. Het model dat de laagste AIC produceerde en ook een statistisch significante reductie in AIC had vergeleken met het model met twee voorspellers, voegde de pk-<\/em> voorspeller toe. Dit model had een AIC van 62,66456<\/strong> .<\/span><\/p>\n Vervolgens passen we alle mogelijke modellen aan vier voorspellers aan. Het bleek dat geen van deze modellen een significante vermindering van de AIC opleverde, dus stopten we de procedure.<\/span><\/p>\n Het uiteindelijke model blijkt dus:<\/span><\/p>\n mpg = 38,75 \u2013 3,17*gewicht \u2013 0,94*cil \u2013 0,02*hyp<\/strong><\/span><\/p>\n Het blijkt dat pogingen om meer voorspellende variabelen aan het model toe te voegen niet leiden tot een statistisch significante vermindering van de AIC.<\/span><\/p>\n We concluderen dus dat het beste model het model is met drie voorspellende variabelen: wt, cil en hp.<\/span><\/p>\n In het vorige voorbeeld hebben we ervoor gekozen om AIC als metriek te gebruiken om de fit van verschillende regressiemodellen te evalueren.<\/span><\/p>\n AIC staat voor Akaike Information Criterion<\/strong> en wordt als volgt berekend:<\/span><\/p>\n AIC = 2K \u2013 2 ln<\/em> (L)<\/span><\/p>\n Goud:<\/span><\/p>\n Er zijn echter nog andere meetgegevens die u kunt gebruiken om de pasvorm van regressiemodellen te evalueren, waaronder kruisvalidatie-voorspellingsfouten, Cp, BIC, AIC of aangepaste R2<\/sup> .<\/span><\/p>\n Gelukkig kunt u met de meeste statistische software opgeven welke metriek u wilt gebruiken bij het rechtstreeks selecteren.<\/span><\/p>\n De volgende zelfstudies bieden aanvullende informatie over regressiemodellen:<\/span><\/p>\n Een gids voor multicollineariteit en VIF in regressie<\/a> In de statistiek is stapsgewijze selectie een procedure die we kunnen gebruiken om een regressiemodel te construeren uit een reeks voorspellende variabelen door voorspellers stap voor stap in het model in te voeren en te verwijderen totdat er geen statistisch geldige reden meer is om in te voeren of verwijder er meer. Het doel van […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11],"tags":[],"class_list":["post-3140","post","type-post","status-publish","format-standard","hentry","category-gids"],"yoast_head":"\n Voorbeeld: directe selectie in R<\/strong><\/span><\/h3>\n
#view first six rows of mtcars\n<\/em><\/span>head(mtcars)\n\n mpg cyl disp hp drat wt qsec vs am gear carb\nMazda RX4 21.0 6 160 110 3.90 2.620 16.46 0 1 4 4\nMazda RX4 Wag 21.0 6 160 110 3.90 2.875 17.02 0 1 4 4\nDatsun 710 22.8 4 108 93 3.85 2.320 18.61 1 1 4 1\nHornet 4 Drive 21.4 6 258 110 3.08 3.215 19.44 1 0 3 1\nHornet Sportabout 18.7 8 360 175 3.15 3.440 17.02 0 0 3 2\nValiant 18.1 6 225 105 2.76 3,460 20.22 1 0 3 1\n<\/strong><\/pre>\n #define intercept-only model\n<\/span>intercept_only <- lm(mpg ~ 1, data=mtcars)\n\n#define model with all predictors\n<\/span>all <- lm(mpg ~ ., data=mtcars)\n\n#perform forward stepwise regression\n<\/span>forward <- step(intercept_only, direction=' forward<\/span> ', scope= formula<\/span> (all), trace= 0<\/span> )\n\n#view results of forward stepwise regression<\/span>\nforward$anova\n\n Step Df Deviance Resid. Df Resid. Dev AIC\n1 NA NA 31 1126.0472 115.94345\n2 + wt -1 847.72525 30 278.3219 73.21736\n3 + cyl -1 87.14997 29 191.1720 63.19800\n4 + hp -1 14.55145 28 176.6205 62.66456\n\n#view final model\n<\/span>forward$coefficients\n\n(Intercept) wt cyl hp \n 38.7517874 -3.1669731 -0.9416168 -0.0180381 \n<\/strong><\/pre>\n Een opmerking over het gebruik van AIC<\/strong><\/span><\/h3>\n
\n
Aanvullende bronnen<\/strong><\/span><\/h3>\n
Wat wordt als een goede AIC-waarde beschouwd?<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"