Als de mate van correlatie tussen variabelen hoog genoeg is, kan dit problemen veroorzaken bij het aanpassen en interpreteren van het regressiemodel.<\/span><\/p>\n Het meest extreme geval van multicollineariteit wordt perfecte multicollineariteit<\/strong> genoemd. Dit gebeurt wanneer twee of meer voorspellende variabelen een exact lineair verband met elkaar hebben.<\/span><\/p>\n Stel dat we bijvoorbeeld de volgende gegevensset hebben:<\/span> <\/p>\n Merk op dat de waarden van de voorspellende variabele x 2<\/sub> eenvoudigweg de waarden zijn van x 1<\/sub> vermenigvuldigd met 2.<\/span> <\/p>\n Dit is een voorbeeld van perfecte multicollineariteit<\/strong> .<\/span><\/p>\n Wanneer perfecte multicollineariteit aanwezig is in een dataset, kunnen gewone kleinste kwadraten geen schattingen van regressieco\u00ebffici\u00ebnten produceren.<\/span><\/p>\n Het is inderdaad niet mogelijk om het marginale effect van een voorspellende variabele (x 1<\/sub> ) op de responsvariabele (y) te schatten terwijl een andere voorspellende variabele (x 2<\/sub> ) constant blijft, omdat x 2<\/sub> altijd precies beweegt wanneer x 1<\/sub> beweegt.<\/span><\/p>\n Kortom, perfecte multicollineariteit maakt het onmogelijk om voor elke co\u00ebffici\u00ebnt in een regressiemodel een waarde te schatten.<\/span><\/p>\n De eenvoudigste manier om met perfecte multicollineariteit om te gaan, is door een van de variabelen te verwijderen die een exact lineair verband heeft met een andere variabele.<\/span><\/p>\n In onze vorige dataset konden we bijvoorbeeld eenvoudigweg x 2<\/sub> als voorspellende variabele verwijderen.<\/span> <\/p>\n We zouden dan een regressiemodel passen met x 1<\/sub> als voorspellende variabele en y als responsvariabele.<\/span><\/p>\n De volgende voorbeelden tonen de drie meest voorkomende scenario\u2019s van perfecte multicollineariteit in de praktijk.<\/span><\/p>\n Laten we zeggen dat we ‚hoogte in centimeters‘ en ‚hoogte in meters‘ willen gebruiken om het gewicht van een bepaalde dolfijnsoort te voorspellen.<\/span><\/p>\n Dit is hoe onze dataset er uit zou kunnen zien:<\/span> <\/p>\n Merk op dat de waarde van „hoogte in centimeters“ eenvoudigweg gelijk is aan „hoogte in meters“ vermenigvuldigd met 100. Dit is een geval van perfecte multicollineariteit.<\/span><\/p>\n Als we proberen een meervoudig lineair regressiemodel in R te fitten met behulp van deze dataset, zullen we geen co\u00ebffici\u00ebntenschatting kunnen maken voor de voorspellende variabele „meters“:<\/span><\/p>\n Laten we zeggen dat we ‚punten‘ en ‚geschaalde punten‘ willen gebruiken om de beoordeling van basketbalspelers te voorspellen.<\/span><\/p>\n Stel dat de variabele \u201cgeschaalde punten\u201d als volgt wordt berekend:<\/span><\/p>\n Geschaalde punten = (punten \u2013 \u03bc punten<\/sub> ) \/ \u03c3 punten<\/sub><\/span><\/p>\n Dit is hoe onze dataset er uit zou kunnen zien:<\/span> <\/p>\n Merk op dat elke „geschaalde punten“-waarde eenvoudigweg een gestandaardiseerde versie van „punten“ is. Dit is een geval van perfecte multicollineariteit.<\/span><\/p>\n Als we proberen een meervoudig lineair regressiemodel in R te passen met behulp van deze dataset, zullen we geen co\u00ebffici\u00ebntenschatting kunnen maken voor de voorspellende variabele „geschaalde punten“:<\/span><\/p>\n Een ander scenario waarin perfecte multicollineariteit kan optreden, staat bekend als de dummy-variabeleval<\/a> . Dit is wanneer we een categorische variabele in een regressiemodel willen nemen en deze willen converteren naar een „dummyvariabele“ die de waarden 0, 1, 2, enz. aanneemt.<\/span><\/p>\n Laten we bijvoorbeeld zeggen dat we de voorspellende variabelen ‚leeftijd‘ en ‚burgerlijke staat‘ willen gebruiken om het inkomen te voorspellen:<\/span> <\/p>\n Om \u2018burgerlijke staat\u2019 als voorspellende variabele te gebruiken, moeten we deze eerst omzetten in een dummyvariabele.<\/span><\/p>\n Om dit te doen, kunnen we ‚Single‘ als basiswaarde laten, aangezien dit het vaakst gebeurt, en als volgt waarden van 0 of 1 toewijzen aan ‚Getrouwd‘ en ‚Echtscheiding‘:<\/span> <\/p>\n Een fout zou zijn om als volgt drie nieuwe dummyvariabelen te maken:<\/span> <\/p>\n In dit geval is de variabele \u2018Single\u2019 een perfecte lineaire combinatie van de variabelen \u2018Getrouwd\u2019 en \u2018Gescheiden\u2019. Dit is een voorbeeld van perfecte multicollineariteit.<\/span><\/p>\n Als we proberen een meervoudig lineair regressiemodel in R te fitten met behulp van deze dataset, zullen we niet in staat zijn om voor elke voorspellende variabele een co\u00ebffici\u00ebntenschatting te maken:<\/span><\/p>\n Een gids voor multicollineariteit en VIF in regressie<\/a> In de statistiek treedt multicollineariteit op wanneer twee of meer voorspellende variabelen sterk met elkaar gecorreleerd zijn, zodat ze geen unieke of onafhankelijke informatie verschaffen in het regressiemodel. Als de mate van correlatie tussen variabelen hoog genoeg is, kan dit problemen veroorzaken bij het aanpassen en interpreteren van het regressiemodel. Het meest extreme geval van […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11],"tags":[],"class_list":["post-2119","post","type-post","status-publish","format-standard","hentry","category-gids"],"yoast_head":"\n![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/parfaitmult1.png\")
<\/p>\n![\"voorbeeld](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/parfaitmult2.png\")
<\/p>\n Het probleem van perfecte multicollineariteit<\/strong><\/span><\/h2>\n
Hoe om te gaan met perfecte multicollineariteit<\/strong><\/span><\/h2>\n
![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/parfaitmult3.png\")
<\/p>\n Voorbeelden van perfecte multicollineariteit<\/strong><\/span><\/h2>\n
1. Een voorspellende variabele is een veelvoud van een andere<\/strong><\/span><\/h3>\n
![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/parfaitmult4.png\")
<\/p>\n #define data\n<\/span>df <- data. frame<\/span> (weight=c(400, 460, 470, 475, 490, 440, 430, 490, 500, 540),\n m=c(1.3, .7, .6, 1.3, 1.2, 1.5, 1.2, 1.6, 1.1, 1.4),\n cm=c(130, 70, 60, 130, 120, 150, 120, 160, 110, 140))\n\n#fit multiple linear regression model\n<\/span>model <- lm(weight~m+cm, data=df)\n\n#view summary of model\n<\/span>summary(model)\n\nCall:\nlm(formula = weight ~ m + cm, data = df)\n\nResiduals:\n Min 1Q Median 3Q Max \n-70,501 -25,501 5,183 19,499 68,590 \n\nCoefficients: (1 not defined because of singularities)\n Estimate Std. Error t value Pr(>|t|) \n(Intercept) 458,676 53,403 8,589 2.61e-05 ***\nm 9.096 43.473 0.209 0.839 \ncm NA NA NA NA \n---\nSignificant. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1\n\nResidual standard error: 41.9 on 8 degrees of freedom\nMultiple R-squared: 0.005442, Adjusted R-squared: -0.1189 \nF-statistic: 0.04378 on 1 and 8 DF, p-value: 0.8395<\/strong><\/pre>\n 2. Een voorspellende variabele is een getransformeerde versie van een andere<\/strong><\/span><\/h3>\n
![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/parfaitmult5.png\")
<\/p>\n #define data\n<\/span>df <- data. frame<\/span> (rating=c(88, 83, 90, 94, 96, 78, 79, 91, 90, 82),\n pts=c(17, 19, 24, 29, 33, 15, 14, 29, 25, 22))\n\ndf$scaled_pts <- (df$pts - mean(df$pts)) \/ sd(df$pts)\n\n#fit multiple linear regression model\n<\/span>model <- lm(rating~pts+scaled_pts, data=df)\n\n#view summary of model\n<\/span>summary(model)\n\nCall:\nlm(formula = rating ~ pts + scaled_pts, data = df)\n\nResiduals:\n Min 1Q Median 3Q Max \n-4.4932 -1.3941 -0.2935 1.3055 5.8412 \n\nCoefficients: (1 not defined because of singularities)\n Estimate Std. Error t value Pr(>|t|) \n(Intercept) 67.4218 3.5896 18.783 6.67e-08 ***\npts 0.8669 0.1527 5.678 0.000466 ***\nscaled_pts NA NA NA NA \n---\nSignificant. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1\n\nResidual standard error: 2.953 on 8 degrees of freedom\nMultiple R-squared: 0.8012, Adjusted R-squared: 0.7763 \nF-statistic: 32.23 on 1 and 8 DF, p-value: 0.0004663\n<\/strong><\/pre>\n 3. De dummy-variabele val<\/strong><\/span><\/h3>\n
![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/mannequin4.png\")
<\/p>\n![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/mannequin6.png\")
<\/p>\n![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/mannequinvartrap1.png\")
<\/p>\n #define data\n<\/span>df <- data. frame<\/span> (income=c(45, 48, 54, 57, 65, 69, 78, 83, 98, 104, 107),\n age=c(23, 25, 24, 29, 38, 36, 40, 59, 56, 64, 53),\n single=c(1, 1, 1, 1, 0, 1, 0, 1, 1, 0, 0),\n married=c(0, 0, 0, 0, 1, 0, 1, 0, 0, 1, 1),\n divorced=c(0, 0, 0, 0, 0, 0, 0, 1, 1, 0, 0))\n\n#fit multiple linear regression model\n<\/span>model <- lm(income~age+single+married+divorced, data=df)\n\n#view summary of model\n<\/span>summary(model)\n\nCall:\nlm(formula = income ~ age + single + married + divorced, data = df)\n\nResiduals:\n Min 1Q Median 3Q Max \n-9.7075 -5.0338 0.0453 3.3904 12.2454 \n\nCoefficients: (1 not defined because of singularities)\n Estimate Std. Error t value Pr(>|t|) \n(Intercept) 16.7559 17.7811 0.942 0.37739 \nage 1.4717 0.3544 4.152 0.00428 **\nsingle -2.4797 9.4313 -0.263 0.80018 \nmarried NA NA NA NA \ndivorced -8.3974 12.7714 -0.658 0.53187 \n---\nSignificant. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1\n\nResidual standard error: 8.391 on 7 degrees of freedom\nMultiple R-squared: 0.9008, Adjusted R-squared: 0.8584 \nF-statistic: 21.2 on 3 and 7 DF, p-value: 0.0006865\n<\/strong><\/pre>\n Aanvullende bronnen<\/strong><\/span><\/h3>\n
Hoe VIF in R te berekenen<\/a>
Hoe VIF in Python te berekenen<\/a>
Hoe VIF in Excel te berekenen<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"