<\/p>\n
Lineaire regressie<\/strong> is een methode die we kunnen gebruiken om de relatie tussen een of meer voorspellende variabelen en een responsvariabele te begrijpen.<\/span><\/p>\n In deze tutorial wordt uitgelegd hoe u lineaire regressie uitvoert in Python.<\/span><\/p>\n Stel dat we willen weten of het aantal studie-uren en het aantal afgelegde oefenexamens invloed hebben op het cijfer dat een student op een bepaald examen krijgt.<\/span><\/p>\n Om deze relatie te onderzoeken, kunnen we de volgende stappen in Python uitvoeren om meervoudige lineaire regressie uit te voeren.<\/span><\/p>\n Stap 1: Voer de gegevens in.<\/strong><\/span><\/p>\n Eerst maken we een panda’s DataFrame om onze dataset in op te slaan:<\/span><\/p>\n Stap 2: Voer lineaire regressie uit.<\/strong><\/span><\/p>\n Vervolgens zullen we de functie OLS()<\/a> uit de statsmodels-bibliotheek gebruiken om een gewone regressie met de kleinste kwadraten uit te voeren, waarbij we ‚uren‘ en ‚examens‘ gebruiken als voorspellende variabelen en ’score‘ als de responsvariabele:<\/span><\/p>\n Stap 3: Interpreteer de resultaten.<\/strong><\/span><\/p>\n Zo interpreteert u de meest relevante cijfers in het resultaat:<\/span><\/p>\n R kwadraat:<\/strong> 0,734<\/strong> . Dit wordt de determinatieco\u00ebffici\u00ebnt genoemd. Dit is het deel van de variantie in de responsvariabele dat kan worden verklaard door de voorspellende variabelen. In dit voorbeeld wordt 73,4% van de variatie in examenscores verklaard door het aantal gestudeerde uren en het aantal afgelegde voorbereidende examens.<\/span><\/p>\n F-statistiek: 23,46<\/strong> . Dit is de algemene F-statistiek van het regressiemodel.<\/span><\/p>\n Waarschijnlijk (F-statistiek): 1.29e-05.<\/strong> Dit is de p-waarde die is gekoppeld aan de algehele F-statistiek. Dit vertelt ons of het regressiemodel als geheel statistisch significant is of niet. Met andere woorden, het vertelt ons of de twee voorspellende variabelen samen een statistisch significant verband hebben met de responsvariabele. In dit geval is de p-waarde kleiner dan 0,05, wat aangeeft dat de voorspellende variabelen \u2018studie-uren\u2019 en \u2018afgelegde voorbereidende examens\u2019 samen een statistisch significant verband hebben met de examenscore.<\/span><\/p>\n coef:<\/strong> De co\u00ebffici\u00ebnten van elke voorspellende variabele vertellen ons de verwachte gemiddelde verandering in de responsvariabele, ervan uitgaande dat de andere voorspellende variabele constant blijft. Voor elk extra uur dat aan studeren wordt besteed, zou de gemiddelde examenscore naar verwachting bijvoorbeeld met 5,56<\/strong> stijgen, ervan uitgaande dat de afgelegde oefenexamens constant blijven.<\/span><\/p>\n Je kunt het op een andere manier bekijken: als student A en student B allebei hetzelfde aantal voorbereidende examens afleggen, maar student A een uur langer studeert, dan zou student A 5,56<\/strong> punten hoger moeten scoren dan die van student B.<\/span><\/p>\n De interceptco\u00ebffici\u00ebnt interpreteren we zo dat de verwachte examenscore voor een student die geen uren studeert en geen voorbereidende examens aflegt 67,67<\/strong> bedraagt.<\/span><\/p>\n P>|t|.<\/strong> Individuele p-waarden vertellen ons of elke voorspellende variabele statistisch significant is of niet. We kunnen zien dat \u2018uren\u2019 statistisch significant zijn (p = 0,00), terwijl \u2018examens\u2019 <\/strong> (p = 0,52) is niet statistisch significant bij \u03b1 = 0,05. Omdat de term \u2018examens\u2019 niet statistisch significant is, kunnen we uiteindelijk besluiten deze uit het model te verwijderen.<\/span><\/p>\n Geschatte regressievergelijking:<\/strong> We kunnen de co\u00ebffici\u00ebnten uit de modeluitvoer gebruiken om de volgende geschatte regressievergelijking te maken:<\/span><\/p>\n examenscore = 67,67 + 5,56*(uren) \u2013 0,60*(voorbereidende examens)<\/strong><\/span><\/p>\n Met deze geschatte regressievergelijking kunnen we de verwachte examenscore voor een student berekenen, op basis van het aantal uren studie en het aantal oefenexamens dat hij\/zij aflegt. Een student die bijvoorbeeld drie uur studeert en een voorbereidend examen aflegt, zou een cijfer van 83,75<\/strong> moeten krijgen:<\/span><\/p>\n Houd er rekening mee dat, aangezien de eerdere voorbereidende examens niet statistisch significant waren (p = 0,52), we kunnen besluiten deze te verwijderen, omdat ze geen enkele verbetering opleveren voor het algehele model. In dit geval zouden we een eenvoudige lineaire regressie kunnen uitvoeren met alleen de bestudeerde uren als voorspellende variabele.<\/span><\/p>\n Stap 4: Verifieer modelaannames.<\/strong><\/span><\/p>\n Nadat u een lineaire regressie hebt uitgevoerd, wilt u wellicht verschillende aannames controleren om er zeker van te zijn dat de resultaten van het regressiemodel betrouwbaar zijn. Deze veronderstellingen omvatten:<\/span><\/p>\n Veronderstelling #1:<\/strong> Er is een lineair verband tussen de voorspellende variabelen en de responsvariabele.<\/span><\/p>\n Hypothese #2:<\/strong> Onafhankelijkheid van residuen.<\/span><\/p>\n Hypothese #3:<\/strong> Homoscedasticiteit van residuen.<\/span><\/p>\n Veronderstelling nr. 4:<\/strong> Normaliteit van residuen.<\/span><\/p>\n Veronderstelling #5:<\/strong> Controleer of er geen multicollineariteit bestaat tussen de voorspellende variabelen.<\/span><\/p>\n Voorbeeld: lineaire regressie in Python<\/strong><\/span><\/h3>\n
import<\/span> pandas as<\/span> pd\n\n#create data<\/span>\ndf = pd.DataFrame({'hours': [1, 2, 2, 4, 2, 1, 5, 4, 2, 4, 4, 3, 6, 5, 3, 4, 6, 2, 1, 2],\n 'exams': [1, 3, 3, 5, 2, 2, 1, 1, 0, 3, 4, 3, 2, 4, 4, 4, 5, 1, 0, 1],\n 'score': [76, 78, 85, 88, 72, 69, 94, 94, 88, 92, 90, 75, 96, 90, 82, 85, 99, 83, 62, 76]})\n\n#view data<\/span> \ndf\n\n hours exam score\n0 1 1 76\n1 2 3 78\n2 2 3 85\n3 4 5 88\n4 2 2 72\n5 1 2 69\n6 5 1 94\n7 4 1 94\n8 2 0 88\n9 4 3 92\n10 4 4 90\n11 3 3 75\n12 6 2 96\n13 5 4 90\n14 3 4 82\n15 4 4 85\n16 6 5 99\n17 2 1 83\n18 1 0 62\n19 2 1 76\n<\/strong><\/pre>\n import<\/span> statsmodels.api as<\/span> sm\n\n#define response variable\n<\/span>y = df['score']\n\n#define predictor variables\n<\/span>x = df[['hours', 'exams']]\n\n#add constant to predictor variables\n<\/span>x = sm.add_constant(x)\n\n#fit linear regression model\n<\/span>model = sm.OLS(y, x).fit()\n\n#view model summary\n<\/span>print(model.summary())\n\n OLS Regression Results \n==================================================== ============================\nDept. Variable: R-squared score: 0.734\nModel: OLS Adj. R-squared: 0.703\nMethod: Least Squares F-statistic: 23.46\nDate: Fri, 24 Jul 2020 Prob (F-statistic): 1.29e-05\nTime: 13:20:31 Log-Likelihood: -60.354\nNo. Observations: 20 AIC: 126.7\nDf Residuals: 17 BIC: 129.7\nDf Model: 2 \nCovariance Type: non-robust \n==================================================== ============================\n coef std err t P>|t| [0.025 0.975]\n-------------------------------------------------- ----------------------------\nconst 67.6735 2.816 24.033 0.000 61.733 73.614\nhours 5.5557 0.899 6.179 0.000 3.659 7.453\nexams -0.6017 0.914 -0.658 0.519 -2.531 1.327\n==================================================== ============================\nOmnibus: 0.341 Durbin-Watson: 1.506\nProb(Omnibus): 0.843 Jarque-Bera (JB): 0.196\nSkew: -0.216 Prob(JB): 0.907\nKurtosis: 2,782 Cond. No. 10.8\n==================================================== ============================\n<\/strong><\/pre>\n\n
\n
\n
\n
\n