<\/p>\n
Die lineare Regression<\/strong> ist eine Methode, mit der wir die Beziehung zwischen einer oder mehreren Pr\u00e4diktorvariablen und einer Antwortvariablen verstehen k\u00f6nnen.<\/span><\/p>\n In diesem Tutorial wird erl\u00e4utert, wie Sie eine lineare Regression in Python durchf\u00fchren.<\/span><\/p>\n Angenommen, wir m\u00f6chten wissen, ob die Anzahl der Lernstunden und die Anzahl der abgelegten \u00dcbungspr\u00fcfungen einen Einfluss auf die Note haben, die ein Student bei einer bestimmten Pr\u00fcfung erh\u00e4lt.<\/span><\/p>\n Um diese Beziehung zu untersuchen, k\u00f6nnen wir in Python die folgenden Schritte ausf\u00fchren, um eine multiple lineare Regression durchzuf\u00fchren.<\/span><\/p>\n Schritt 1: Geben Sie die Daten ein.<\/strong><\/span><\/p>\n Zuerst erstellen wir einen Pandas-DataFrame zur Aufnahme unseres Datensatzes:<\/span><\/p>\n Schritt 2: F\u00fchren Sie eine lineare Regression durch.<\/strong><\/span><\/p>\n Als n\u00e4chstes verwenden wir die Funktion OLS()<\/a> aus der Statsmodels-Bibliothek, um eine gew\u00f6hnliche Regression der kleinsten Quadrate durchzuf\u00fchren, wobei wir \u201eStunden\u201c und \u201ePr\u00fcfungen\u201c als Pr\u00e4diktorvariablen und \u201ePunktzahl\u201c als Antwortvariable verwenden:<\/span><\/p>\n Schritt 3: Interpretieren Sie die Ergebnisse.<\/strong><\/span><\/p>\n So interpretieren Sie die relevantesten Zahlen im Ergebnis:<\/span><\/p>\n R im Quadrat:<\/strong> 0,734<\/strong> . Dies wird als Bestimmtheitsma\u00df bezeichnet. Dies ist der Anteil der Varianz der Antwortvariablen, der durch die Pr\u00e4diktorvariablen erkl\u00e4rt werden kann. In diesem Beispiel lassen sich 73,4 % der Abweichungen bei den Pr\u00fcfungsergebnissen durch die Anzahl der gelernten Stunden und die Anzahl der abgelegten Vorbereitungspr\u00fcfungen erkl\u00e4ren.<\/span><\/p>\n F-Statistik: 23,46<\/strong> . Dies ist die Gesamt-F-Statistik des Regressionsmodells.<\/span><\/p>\n Wahrscheinlichkeit (F-Statistik): 1,29e-05.<\/strong> Dies ist der p-Wert, der der gesamten F-Statistik zugeordnet ist. Dies sagt uns, ob das Regressionsmodell als Ganzes statistisch signifikant ist oder nicht. Mit anderen Worten sagt es uns, ob die beiden Pr\u00e4diktorvariablen zusammen einen statistisch signifikanten Zusammenhang mit der Antwortvariablen haben. In diesem Fall liegt der p-Wert unter 0,05, was darauf hinweist, dass die Pr\u00e4diktorvariablen \u201eStudienstunden\u201c und \u201eabgelegte Vorbereitungspr\u00fcfungen\u201c zusammen einen statistisch signifikanten Zusammenhang mit der Pr\u00fcfungspunktzahl haben.<\/span><\/p>\n Koeffizient:<\/strong> Die Koeffizienten jeder Pr\u00e4diktorvariablen sagen uns die erwartete durchschnittliche \u00c4nderung der Antwortvariablen unter der Annahme, dass die andere Pr\u00e4diktorvariable konstant bleibt. Beispielsweise w\u00fcrde sich die durchschnittliche Pr\u00fcfungspunktzahl f\u00fcr jede weitere Lernstunde voraussichtlich um 5,56<\/strong> erh\u00f6hen, vorausgesetzt, dass die Anzahl der absolvierten \u00dcbungspr\u00fcfungen konstant bleibt.<\/span><\/p>\n Anders ausgedr\u00fcckt: Wenn Sch\u00fcler A und Sch\u00fcler B beide die gleiche Anzahl an Vorbereitungspr\u00fcfungen absolvieren, Sch\u00fcler A aber eine Stunde l\u00e4nger lernt, dann sollte Sch\u00fcler A 5,56<\/strong> Punkte mehr Punkte erzielen als Sch\u00fcler B.<\/span><\/p>\n Wir interpretieren den Intercept-Koeffizienten so, dass die erwartete Pr\u00fcfungspunktzahl f\u00fcr einen Studenten, der keine Stunden studiert und keine Vorbereitungspr\u00fcfungen ablegt, 67,67<\/strong> betr\u00e4gt.<\/span><\/p>\n P>|t|.<\/strong> Einzelne p-Werte sagen uns, ob jede Pr\u00e4diktorvariable statistisch signifikant ist oder nicht. Wir k\u00f6nnen sehen, dass \u201eStunden\u201c statistisch signifikant sind (p = 0,00), w\u00e4hrend \u201ePr\u00fcfungen\u201c <\/strong> (p = 0,52) ist bei \u03b1 = 0,05 statistisch nicht signifikant. Da der Begriff \u201ePr\u00fcfungen\u201c statistisch nicht signifikant ist, entscheiden wir uns m\u00f6glicherweise, ihn aus dem Modell zu entfernen.<\/span><\/p>\n Gesch\u00e4tzte Regressionsgleichung:<\/strong> Wir k\u00f6nnen die Koeffizienten aus der Modellausgabe verwenden, um die folgende gesch\u00e4tzte Regressionsgleichung zu erstellen:<\/span><\/p>\n Pr\u00fcfungsergebnis = 67,67 + 5,56*(Stunden) \u2013 0,60*(Vorbereitungspr\u00fcfungen)<\/strong><\/span><\/p>\n Wir k\u00f6nnen diese gesch\u00e4tzte Regressionsgleichung verwenden, um die erwartete Pr\u00fcfungspunktzahl f\u00fcr einen Studenten zu berechnen, basierend auf der Anzahl der Lernstunden und der Anzahl der von ihm abgelegten \u00dcbungspr\u00fcfungen. Ein Student, der beispielsweise drei Stunden lernt und eine Vorbereitungspr\u00fcfung ablegt, sollte eine Note von 83,75<\/strong> erhalten:<\/span><\/p>\n Bedenken Sie, dass wir uns m\u00f6glicherweise dazu entschlie\u00dfen, sie zu entfernen, da die vorherigen Vorbereitungspr\u00fcfungen statistisch nicht signifikant waren (p = 0,52), da sie keine Verbesserung f\u00fcr das Gesamtmodell bringen. In diesem Fall k\u00f6nnten wir eine einfache lineare Regression durchf\u00fchren und dabei nur die untersuchten Stunden als Pr\u00e4diktorvariable verwenden.<\/span><\/p>\n Schritt 4: Modellannahmen \u00fcberpr\u00fcfen.<\/strong><\/span><\/p>\n Nachdem Sie eine lineare Regression durchgef\u00fchrt haben, m\u00f6chten Sie m\u00f6glicherweise mehrere Annahmen \u00fcberpr\u00fcfen, um sicherzustellen, dass die Ergebnisse des Regressionsmodells zuverl\u00e4ssig sind. Zu diesen Annahmen geh\u00f6ren:<\/span><\/p>\n Annahme Nr. 1:<\/strong> Es besteht eine lineare Beziehung zwischen den Pr\u00e4diktorvariablen und der Antwortvariablen.<\/span><\/p>\n Hypothese Nr. 2:<\/strong> Unabh\u00e4ngigkeit der Residuen.<\/span><\/p>\n Hypothese Nr. 3:<\/strong> Homoskedastizit\u00e4t von Residuen.<\/span><\/p>\n Annahme Nr. 4:<\/strong> Normalit\u00e4t der Residuen.<\/span><\/p>\n Annahme Nr. 5:<\/strong> Stellen Sie sicher, dass zwischen den Pr\u00e4diktorvariablen keine Multikollinearit\u00e4t besteht.<\/span><\/p>\n Beispiel: lineare Regression in Python<\/strong><\/span><\/h3>\n
import<\/span> pandas as<\/span> pd\n\n#create data<\/span>\ndf = pd.DataFrame({'hours': [1, 2, 2, 4, 2, 1, 5, 4, 2, 4, 4, 3, 6, 5, 3, 4, 6, 2, 1, 2],\n 'exams': [1, 3, 3, 5, 2, 2, 1, 1, 0, 3, 4, 3, 2, 4, 4, 4, 5, 1, 0, 1],\n 'score': [76, 78, 85, 88, 72, 69, 94, 94, 88, 92, 90, 75, 96, 90, 82, 85, 99, 83, 62, 76]})\n\n#view data<\/span> \ndf\n\n hours exam score\n0 1 1 76\n1 2 3 78\n2 2 3 85\n3 4 5 88\n4 2 2 72\n5 1 2 69\n6 5 1 94\n7 4 1 94\n8 2 0 88\n9 4 3 92\n10 4 4 90\n11 3 3 75\n12 6 2 96\n13 5 4 90\n14 3 4 82\n15 4 4 85\n16 6 5 99\n17 2 1 83\n18 1 0 62\n19 2 1 76\n<\/strong><\/pre>\n import<\/span> statsmodels.api as<\/span> sm\n\n#define response variable\n<\/span>y = df['score']\n\n#define predictor variables\n<\/span>x = df[['hours', 'exams']]\n\n#add constant to predictor variables\n<\/span>x = sm.add_constant(x)\n\n#fit linear regression model\n<\/span>model = sm.OLS(y, x).fit()\n\n#view model summary\n<\/span>print(model.summary())\n\n OLS Regression Results \n==================================================== ============================\nDept. Variable: R-squared score: 0.734\nModel: OLS Adj. R-squared: 0.703\nMethod: Least Squares F-statistic: 23.46\nDate: Fri, 24 Jul 2020 Prob (F-statistic): 1.29e-05\nTime: 13:20:31 Log-Likelihood: -60.354\nNo. Observations: 20 AIC: 126.7\nDf Residuals: 17 BIC: 129.7\nDf Model: 2 \nCovariance Type: non-robust \n==================================================== ============================\n coef std err t P>|t| [0.025 0.975]\n-------------------------------------------------- ----------------------------\nconst 67.6735 2.816 24.033 0.000 61.733 73.614\nhours 5.5557 0.899 6.179 0.000 3.659 7.453\nexams -0.6017 0.914 -0.658 0.519 -2.531 1.327\n==================================================== ============================\nOmnibus: 0.341 Durbin-Watson: 1.506\nProb(Omnibus): 0.843 Jarque-Bera (JB): 0.196\nSkew: -0.216 Prob(JB): 0.907\nKurtosis: 2,782 Cond. No. 10.8\n==================================================== ============================\n<\/strong><\/pre>\n\n
\n
\n
\n
\n