Jednak przed wykonaniem wielokrotnej regresji liniowej musimy najpierw upewni\u0107 si\u0119, \u017ce spe\u0142nionych jest pi\u0119\u0107 za\u0142o\u017ce\u0144:<\/span><\/p>\n 1. Zale\u017cno\u015b\u0107 liniowa:<\/strong> Istnieje liniowa zale\u017cno\u015b\u0107 pomi\u0119dzy ka\u017cd\u0105 zmienn\u0105 predykcyjn\u0105 a zmienn\u0105 odpowiedzi.<\/span><\/p>\n 2. Brak wsp\u00f3\u0142liniowo\u015bci:<\/strong> \u017cadna ze zmiennych predykcyjnych nie jest ze sob\u0105 silnie skorelowana.<\/span><\/p>\n 3. Niezale\u017cno\u015b\u0107:<\/strong> Obserwacje s\u0105 niezale\u017cne.<\/span><\/p>\n 4. Homoscedastyczno\u015b\u0107:<\/strong> reszty maj\u0105 sta\u0142\u0105 wariancj\u0119 w ka\u017cdym punkcie modelu liniowego.<\/span><\/p>\n 5. Normalno\u015b\u0107 wielowymiarowa:<\/strong> Reszty modelu maj\u0105 rozk\u0142ad normalny.<\/span><\/p>\n Je\u015bli jedno lub wi\u0119cej z tych za\u0142o\u017ce\u0144 nie zostanie spe\u0142nione, wyniki wielokrotnej regresji liniowej mog\u0105 nie by\u0107 wiarygodne.<\/span><\/p>\n W tym artykule wyja\u015bniamy ka\u017cde za\u0142o\u017cenie, wyja\u015bniamy, jak ustali\u0107, czy za\u0142o\u017cenie jest spe\u0142nione i co zrobi\u0107, je\u015bli za\u0142o\u017cenie nie jest spe\u0142nione.<\/span><\/p>\n Wielokrotna regresja liniowa zak\u0142ada, \u017ce istnieje liniowa zale\u017cno\u015b\u0107 pomi\u0119dzy ka\u017cd\u0105 zmienn\u0105 predykcyjn\u0105 a zmienn\u0105 odpowiedzi.<\/span><\/p>\n Najprostszym sposobem sprawdzenia, czy to za\u0142o\u017cenie jest spe\u0142nione, jest utworzenie wykresu rozrzutu ka\u017cdej zmiennej predykcyjnej i zmiennej odpowiedzi.<\/span><\/p>\n Pozwala to wizualnie sprawdzi\u0107, czy istnieje liniowa zale\u017cno\u015b\u0107 mi\u0119dzy dwiema zmiennymi.<\/span><\/p>\n Je\u015bli punkty na wykresie rozrzutu le\u017c\u0105 w przybli\u017ceniu wzd\u0142u\u017c prostej linii uko\u015bnej, prawdopodobnie istnieje liniowa zale\u017cno\u015b\u0107 mi\u0119dzy zmiennymi.<\/span><\/p>\n Na przyk\u0142ad punkty na poni\u017cszym wykresie wydaj\u0105 si\u0119 uk\u0142ada\u0107 na linii prostej, co wskazuje, \u017ce istnieje liniowa zale\u017cno\u015b\u0107 pomi\u0119dzy t\u0105 konkretn\u0105 zmienn\u0105 predykcyjn\u0105 (x) a zmienn\u0105 odpowiedzi (y):<\/span> <\/p>\n Je\u015bli nie ma liniowej zale\u017cno\u015bci mi\u0119dzy jedn\u0105 lub wi\u0119ksz\u0105 liczb\u0105 zmiennych predykcyjnych a zmienn\u0105 odpowiedzi, mamy kilka opcji:<\/span><\/p>\n 1.<\/strong> Zastosuj transformacj\u0119 nieliniow\u0105 do zmiennej predykcyjnej, na przyk\u0142ad bior\u0105c log lub pierwiastek kwadratowy. Cz\u0119sto mo\u017ce to zmieni\u0107 relacj\u0119 na bardziej liniow\u0105.<\/span><\/p>\n 2.<\/strong> Dodaj do modelu kolejn\u0105 zmienn\u0105 predykcyjn\u0105. Na przyk\u0142ad, je\u015bli wykres x wzgl\u0119dem y ma kszta\u0142t paraboliczny, sensowne mo\u017ce by\u0107 dodanie X 2<\/sup> jako dodatkowej zmiennej predykcyjnej w modelu.<\/span><\/p>\n 3.<\/strong> Usu\u0144 zmienn\u0105 predykcyjn\u0105 z modelu. W najbardziej skrajnym przypadku, je\u015bli nie ma liniowej zale\u017cno\u015bci pomi\u0119dzy okre\u015blon\u0105 zmienn\u0105 predykcyjn\u0105 a zmienn\u0105 odpowiedzi, w\u00f3wczas uwzgl\u0119dnienie zmiennej predykcyjnej w modelu mo\u017ce nie by\u0107 przydatne.<\/span><\/p>\n Wielokrotna regresja liniowa zak\u0142ada, \u017ce \u017cadna ze zmiennych predykcyjnych nie jest ze sob\u0105 silnie skorelowana.<\/span><\/p>\n Kiedy jedna lub wi\u0119cej zmiennych predykcyjnych jest silnie skorelowanych, w modelu regresji wyst\u0119puje zjawisko wielowsp\u00f3\u0142liniowo\u015bci<\/a> , co sprawia, \u017ce oszacowania wsp\u00f3\u0142czynnik\u00f3w modelu s\u0105 niewiarygodne.<\/span><\/p>\n Najprostszym sposobem sprawdzenia, czy to za\u0142o\u017cenie jest spe\u0142nione, jest obliczenie warto\u015bci VIF dla ka\u017cdej zmiennej predykcyjnej.<\/span><\/p>\n Warto\u015bci VIF zaczynaj\u0105 si\u0119 od 1 i nie maj\u0105 g\u00f3rnej granicy. Generalnie warto\u015bci VIF powy\u017cej 5* wskazuj\u0105 na potencjaln\u0105 wieloliniowo\u015b\u0107.<\/span><\/p>\n Poni\u017csze samouczki pokazuj\u0105, jak obliczy\u0107 VIF w r\u00f3\u017cnych programach statystycznych:<\/span><\/p>\n *Czasami badacze u\u017cywaj\u0105 zamiast tego warto\u015bci VIF r\u00f3wnej 10, w zale\u017cno\u015bci od kierunku studi\u00f3w.<\/span><\/p>\n Je\u015bli jedna lub wi\u0119cej zmiennych predykcyjnych ma warto\u015b\u0107 VIF wi\u0119ksz\u0105 ni\u017c 5, naj\u0142atwiejszym sposobem rozwi\u0105zania tego problemu jest po prostu usuni\u0119cie zmiennych predykcyjnych o wysokich warto\u015bciach VIF.<\/span><\/p>\n Alternatywnie, je\u015bli chcesz zachowa\u0107 ka\u017cd\u0105 zmienn\u0105 predykcyjn\u0105 w modelu, mo\u017cesz u\u017cy\u0107 innej metody statystycznej, takiej jak regresja grzbietowa<\/a> , regresja lasso<\/a> lub regresja metod\u0105 cz\u0105stkowych najmniejszych kwadrat\u00f3w<\/a> , zaprojektowanej do obs\u0142ugi wysoce skorelowanych zmiennych predykcyjnych.<\/span><\/p>\n Wielokrotna regresja liniowa zak\u0142ada, \u017ce ka\u017cda obserwacja w zbiorze danych jest niezale\u017cna.<\/span><\/p>\n Najprostszym sposobem sprawdzenia, czy to za\u0142o\u017cenie jest spe\u0142nione, jest wykonanie testu Durbina-Watsona<\/a> , kt\u00f3ry jest formalnym testem statystycznym, kt\u00f3ry m\u00f3wi nam, czy reszty (a tym samym obserwacje) wykazuj\u0105 autokorelacj\u0119.<\/span><\/p>\n W zale\u017cno\u015bci od tego, w jaki spos\u00f3b naruszone zostanie to za\u0142o\u017cenie, masz kilka opcji:<\/span><\/p>\n Wielokrotna regresja liniowa zak\u0142ada, \u017ce reszty maj\u0105 sta\u0142\u0105 wariancj\u0119 w ka\u017cdym punkcie modelu liniowego. Je\u017celi tak nie jest, reszty cierpi\u0105 na heteroskedastyczno\u015b\u0107<\/a> .<\/span><\/p>\n Gdy w analizie regresji wyst\u0119puje heteroskedastyczno\u015b\u0107, wyniki modelu regresji staj\u0105 si\u0119 niewiarygodne.<\/span><\/p>\n W szczeg\u00f3lno\u015bci heteroskedastyczno\u015b\u0107 zwi\u0119ksza wariancj\u0119 szacunk\u00f3w wsp\u00f3\u0142czynnika regresji, ale model regresji tego nie uwzgl\u0119dnia. To sprawia, \u017ce znacznie bardziej prawdopodobne jest, \u017ce model regresji b\u0119dzie twierdzi\u0142, \u017ce sk\u0142adnik modelu jest istotny statystycznie, podczas gdy w rzeczywisto\u015bci tak nie jest.<\/span><\/p>\n Naj\u0142atwiejszym sposobem sprawdzenia, czy to za\u0142o\u017cenie jest spe\u0142nione, jest utworzenie wykresu reszt standaryzowanych w funkcji przewidywanych warto\u015bci.<\/span><\/p>\n Po dopasowaniu modelu regresji do zbioru danych mo\u017cna utworzy\u0107 wykres rozrzutu, kt\u00f3ry wy\u015bwietla przewidywane warto\u015bci zmiennej odpowiedzi na osi x i reszty standaryzowane modelu na osi x. y.<\/span><\/p>\n Je\u017celi punkty na wykresie rozrzutu wykazuj\u0105 tendencj\u0119, w\u00f3wczas wyst\u0119puje heteroskedastyczno\u015b\u0107.<\/span><\/p>\n Poni\u017cszy wykres przedstawia przyk\u0142ad modelu regresji, w kt\u00f3rym heteroskedastyczno\u015b\u0107 nie stanowi problemu:<\/span> <\/p>\n Nale\u017cy zauwa\u017cy\u0107, \u017ce reszty standaryzowane s\u0105 rozproszone wok\u00f3\u0142 zera bez wyra\u017anego wzoru.<\/span><\/p>\n Poni\u017cszy wykres przedstawia przyk\u0142ad modelu regresji, w kt\u00f3rym problemem jest<\/em> heteroskedastyczno\u015b\u0107:<\/span> <\/p>\n Zwr\u00f3\u0107 uwag\u0119, jak reszty standaryzowane rozprzestrzeniaj\u0105 si\u0119 coraz bardziej wraz ze wzrostem przewidywanych warto\u015bci. Ten kszta\u0142t \u201esto\u017cka\u201d jest klasycznym znakiem heteroskedastyczno\u015bci:<\/span> <\/p>\n Istniej\u0105 trzy typowe sposoby korygowania heteroskedastyczno\u015bci:<\/span><\/p>\n 1. Przekszta\u0142\u0107 zmienn\u0105 odpowiedzi.<\/strong> Najcz\u0119stszym sposobem radzenia sobie z heteroskedastyczno\u015bci\u0105 jest przekszta\u0142cenie zmiennej odpowiedzi poprzez pobranie logarytmu, pierwiastka kwadratowego lub pierwiastka sze\u015bciennego ze wszystkich warto\u015bci zmiennej odpowiedzi. Prowadzi to cz\u0119sto do zaniku heteroskedastyczno\u015bci.<\/span><\/p>\n 2. Zdefiniuj na nowo zmienn\u0105 odpowiedzi.<\/strong> Jednym ze sposob\u00f3w ponownego zdefiniowania zmiennej odpowiedzi jest u\u017cycie wsp\u00f3\u0142czynnika<\/em> , a nie warto\u015bci surowej. Na przyk\u0142ad zamiast u\u017cywa\u0107 wielko\u015bci populacji do przewidywania liczby kwiaciarni w mie\u015bcie, mo\u017cemy u\u017cy\u0107 wielko\u015bci populacji do przewidywania liczby kwiaciarni na mieszka\u0144ca.<\/span><\/p>\n W wi\u0119kszo\u015bci przypadk\u00f3w zmniejsza to zmienno\u015b\u0107, kt\u00f3ra naturalnie wyst\u0119puje w wi\u0119kszych populacjach, poniewa\u017c mierzymy liczb\u0119 kwiaciarni na osob\u0119, a nie sam\u0105 liczb\u0119 kwiaciarni.<\/span><\/p>\n 3. Zastosuj regresj\u0119 wa\u017con\u0105.<\/strong> Innym sposobem skorygowania heteroskedastyczno\u015bci jest u\u017cycie regresji wa\u017conej, kt\u00f3ra przypisuje wag\u0119 ka\u017cdemu punktowi danych na podstawie wariancji jego dopasowanej warto\u015bci.<\/span><\/p>\n Zasadniczo nadaje to niskie wagi punktom danych o wi\u0119kszych wariancjach, zmniejszaj\u0105c ich kwadraty resztowe. Zastosowanie odpowiednich wag mo\u017ce wyeliminowa\u0107 problem heteroskedastyczno\u015bci.<\/span><\/p>\n Powi\u0105zane<\/strong> : Jak przeprowadzi\u0107 regresj\u0119 wa\u017con\u0105 w R<\/a><\/span><\/p>\n Wielokrotna regresja liniowa zak\u0142ada, \u017ce reszty modelu maj\u0105 rozk\u0142ad normalny.<\/span><\/p>\n Istniej\u0105 dwa popularne sposoby sprawdzenia, czy to za\u0142o\u017cenie jest spe\u0142nione:<\/span><\/p>\n 1.<\/strong> Wizualnie zweryfikuj hipotez\u0119 za pomoc\u0105<\/span> wykres\u00f3w QQ<\/a> .<\/p>\n Wykres QQ, skr\u00f3t od wykresu kwantylowo-kwantylowego, to rodzaj wykresu, kt\u00f3rego mo\u017cemy u\u017cy\u0107 do okre\u015blenia, czy reszty modelu maj\u0105 rozk\u0142ad normalny. Je\u017celi punkty na wykresie tworz\u0105 w przybli\u017ceniu prost\u0105 uko\u015bn\u0105, w\u00f3wczas spe\u0142nione jest za\u0142o\u017cenie normalno\u015bci.<\/span><\/p>\n Poni\u017cszy wykres QQ przedstawia przyk\u0142ad reszt, kt\u00f3re w przybli\u017ceniu odpowiadaj\u0105 rozk\u0142adowi normalnemu:<\/span><\/p>\n Jednak\u017ce poni\u017cszy wykres QQ przedstawia przyk\u0142ad przypadku, w kt\u00f3rym reszty wyra\u017anie odbiegaj\u0105 od prostej linii uko\u015bnej, co wskazuje, \u017ce nie s\u0105 zgodne z rozk\u0142adem normalnym:<\/span><\/p>\n 2.<\/strong> Zweryfikuj hipotez\u0119 za pomoc\u0105 formalnego testu statystycznego, takiego jak Shapiro-Wilk, Ko\u0142mogorow-Smironow, Jarque-Barre lub D’Agostino-Pearson.<\/span><\/p>\n Nale\u017cy pami\u0119ta\u0107, \u017ce testy te s\u0105 wra\u017cliwe na pr\u00f3bki o du\u017cej wielko\u015bci \u2013 to znaczy cz\u0119sto stwierdzaj\u0105, \u017ce reszty nie s\u0105 normalne, gdy wielko\u015b\u0107 pr\u00f3bki jest wyj\u0105tkowo du\u017ca. Dlatego cz\u0119sto \u0142atwiej jest zastosowa\u0107 metody graficzne, takie jak wykres QQ, aby zweryfikowa\u0107 t\u0119 hipotez\u0119.<\/span><\/p>\n Je\u017celi za\u0142o\u017cenie o normalno\u015bci nie jest spe\u0142nione, masz kilka mo\u017cliwo\u015bci:<\/span><\/p>\n 1.<\/strong> Najpierw sprawd\u017a, czy w danych nie wyst\u0119puj\u0105 skrajne warto\u015bci odstaj\u0105ce, kt\u00f3re powoduj\u0105 naruszenie za\u0142o\u017cenia normalno\u015bci.<\/span><\/p>\n 2.<\/strong> Nast\u0119pnie mo\u017cesz zastosowa\u0107 nieliniow\u0105 transformacj\u0119 zmiennej odpowiedzi, na przyk\u0142ad pobieraj\u0105c pierwiastek kwadratowy, log lub pierwiastek sze\u015bcienny ze wszystkich warto\u015bci zmiennej odpowiedzi. Cz\u0119sto skutkuje to bardziej normalnym rozk\u0142adem reszt modelu.<\/span><\/p>\n Poni\u017csze tutoriale dostarczaj\u0105 dodatkowych informacji na temat wielokrotnej regresji liniowej i jej za\u0142o\u017ce\u0144:<\/span><\/p>\n Wprowadzenie do wielokrotnej regresji liniowej<\/a> Poni\u017csze samouczki zawieraj\u0105 przyk\u0142ady krok po kroku wykonywania wielokrotnej regresji liniowej przy u\u017cyciu r\u00f3\u017cnych program\u00f3w statystycznych:<\/span><\/p>\n Jak wykona\u0107 wielokrotn\u0105 regresj\u0119 liniow\u0105 w programie Excel<\/a> Wielokrotna regresja liniowa to metoda statystyczna, kt\u00f3r\u0105 mo\u017cemy wykorzysta\u0107 do zrozumienia zwi\u0105zku mi\u0119dzy wieloma zmiennymi predykcyjnymi azmienn\u0105 odpowiedzi . Jednak przed wykonaniem wielokrotnej regresji liniowej musimy najpierw upewni\u0107 si\u0119, \u017ce spe\u0142nionych jest pi\u0119\u0107 za\u0142o\u017ce\u0144: 1. Zale\u017cno\u015b\u0107 liniowa: Istnieje liniowa zale\u017cno\u015b\u0107 pomi\u0119dzy ka\u017cd\u0105 zmienn\u0105 predykcyjn\u0105 a zmienn\u0105 odpowiedzi. 2. Brak wsp\u00f3\u0142liniowo\u015bci: \u017cadna ze zmiennych predykcyjnych nie […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[],"class_list":["post-2434","post","type-post","status-publish","format-standard","hentry","category-przewodnik"],"yoast_head":"\n Hipoteza 1: Zale\u017cno\u015b\u0107 liniowa<\/strong><\/span><\/h2>\n
Jak ustali\u0107, czy to za\u0142o\u017cenie jest spe\u0142nione<\/strong><\/h3>\n
![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/hypotheseslinreg1.jpg\")
<\/p>\n Co zrobi\u0107, je\u015bli to za\u0142o\u017cenie nie jest przestrzegane<\/strong><\/h3>\n
Hipoteza 2: brak wsp\u00f3\u0142liniowo\u015bci<\/strong><\/span><\/h2>\n
Jak ustali\u0107, czy to za\u0142o\u017cenie jest spe\u0142nione<\/strong><\/h3>\n
\n
Co zrobi\u0107, je\u015bli to za\u0142o\u017cenie nie jest przestrzegane<\/strong><\/h3>\n
Hipoteza 3: Niepodleg\u0142o\u015b\u0107<\/strong><\/span><\/h2>\n
Jak ustali\u0107, czy to za\u0142o\u017cenie jest spe\u0142nione<\/strong><\/h3>\n
Co zrobi\u0107, je\u015bli to za\u0142o\u017cenie nie jest przestrzegane<\/strong><\/h3>\n
\n
Hipoteza 4: homoskedastyczno\u015b\u0107<\/strong><\/span><\/h2>\n
Jak ustali\u0107, czy to za\u0142o\u017cenie jest spe\u0142nione<\/strong><\/h3>\n
![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/norme1.png\")
<\/p>\n![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/norme2.png\")
<\/p>\n![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/norme3.png\")
<\/p>\n Co zrobi\u0107, je\u015bli to za\u0142o\u017cenie nie jest przestrzegane<\/strong><\/h3>\n
Za\u0142o\u017cenie 4: Wielowymiarowa normalno\u015b\u0107<\/strong><\/span><\/h2>\n
Jak ustali\u0107, czy to za\u0142o\u017cenie jest spe\u0142nione<\/strong><\/h3>\n
Co zrobi\u0107, je\u015bli to za\u0142o\u017cenie nie jest przestrzegane<\/strong><\/h3>\n
Dodatkowe zasoby<\/strong><\/span><\/h3>\n
Przewodnik po heteroskedastyczno\u015bci w analizie regresji<\/a>
Przewodnik po wielowsp\u00f3\u0142liniowo\u015bci i VIF w regresji<\/a><\/p>\n
Jak wykona\u0107 wielokrotn\u0105 regresj\u0119 liniow\u0105 w R<\/a>
Jak wykona\u0107 wielokrotn\u0105 regresj\u0119 liniow\u0105 w SPSS<\/a>
Jak wykona\u0107 wielokrotn\u0105 regresj\u0119 liniow\u0105 w Stata<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"