<\/p>\n
W statystyce<\/span> analiza regresji<\/span><\/a> jest technik\u0105, kt\u00f3r\u0105 mo\u017cna zastosowa\u0107 do analizy zwi\u0105zku mi\u0119dzy zmiennymi predykcyjnymi a zmienn\u0105 odpowiedzi.<\/span><\/p>\n Kiedy u\u017cywasz oprogramowania (takiego jak R<\/a> , Stata<\/a> , SPSS<\/a> itp.) do przeprowadzania analizy regresji, jako dane wyj\u015bciowe otrzymasz tabel\u0119 regresji podsumowuj\u0105c\u0105 wyniki regresji.<\/span><\/p>\n Prawdopodobnie najwa\u017cniejszymi liczbami w wynikach tabeli regresji s\u0105 wsp\u00f3\u0142czynniki regresji<\/strong> . Jednak pomimo ich znaczenia wiele os\u00f3b ma trudno\u015bci z prawid\u0142ow\u0105 interpretacj\u0105 tych liczb.<\/span><\/p>\n W tym samouczku przedstawiono przyk\u0142ad analizy regresji i szczeg\u00f3\u0142owo wyja\u015bniono, jak interpretowa\u0107 wsp\u00f3\u0142czynniki regresji wynikaj\u0105ce z regresji.<\/span><\/p>\n Powi\u0105zane:<\/strong> Jak czyta\u0107 i interpretowa\u0107 ca\u0142\u0105 tabel\u0119 regresji<\/a><\/span><\/p>\n Za\u0142\u00f3\u017cmy, \u017ce chcemy przeprowadzi\u0107<\/span> analiz\u0119 regresji przy u\u017cyciu nast\u0119puj\u0105cych zmiennych:<\/span><\/p>\n Zmienne predykcyjne<\/strong><\/span><\/p>\n Zmienna odpowiedzi<\/strong><\/span><\/p>\n Chcemy zbada\u0107 zwi\u0105zek mi\u0119dzy zmiennymi predykcyjnymi a zmienn\u0105 odpowiedzi, aby sprawdzi\u0107, czy godziny nauki i to, czy ucze\u0144 korzysta\u0142 z korepetycji, rzeczywi\u015bcie maj\u0105 znacz\u0105cy wp\u0142yw na jego ocen\u0119 z egzaminu.<\/span><\/p>\n Za\u0142\u00f3\u017cmy, \u017ce przeprowadzamy analiz\u0119 regresji i uzyskujemy nast\u0119puj\u0105cy wynik:<\/span><\/p>\n Zobaczmy, jak interpretowa\u0107 ka\u017cdy wsp\u00f3\u0142czynnik regresji.<\/span><\/p>\n Pierwotny<\/strong> termin w tabeli regresji informuje nas o oczekiwanej \u015bredniej warto\u015bci zmiennej odpowiedzi, gdy wszystkie zmienne predykcyjne s\u0105 r\u00f3wne zero.<\/span><\/p>\n W tym przyk\u0142adzie wsp\u00f3\u0142czynnik regresji dla pocz\u0105tku jest r\u00f3wny 48,56<\/strong> . Oznacza to, \u017ce dla studenta, kt\u00f3ry uczy\u0142 si\u0119 zero godzin ( Godziny nauki = 0)<\/em> i nie korzysta\u0142 z korepetycji ( opiekun = 0),<\/em> \u015bredni oczekiwany wynik egzaminu wynosi 48,56.<\/span><\/p>\n Nale\u017cy zauwa\u017cy\u0107, \u017ce wsp\u00f3\u0142czynnik regresji dla wyrazu wolnego jest istotny tylko wtedy, gdy uzasadnione jest za\u0142o\u017cenie, \u017ce wszystkie zmienne predykcyjne w modelu mog\u0105 w rzeczywisto\u015bci by\u0107 r\u00f3wne zero. W tym przyk\u0142adzie z pewno\u015bci\u0105 jest mo\u017cliwe, \u017ce student uczy\u0142 si\u0119 zero godzin ( Godziny nauki = 0)<\/em> i r\u00f3wnie\u017c nie korzysta\u0142 z pomocy korepetytora ( Opiekun = 0).<\/em><\/span> Zatem interpretacja wsp\u00f3\u0142czynnika regresji wyrazu wolnego jest w tym przyk\u0142adzie znacz\u0105ca.<\/span><\/p>\n Jednak\u017ce w niekt\u00f3rych przypadkach wsp\u00f3\u0142czynnik regresji dla wyrazu wolnego jest nieistotny. Za\u0142\u00f3\u017cmy na przyk\u0142ad, \u017ce przeprowadzili\u015bmy analiz\u0119 regresji, u\u017cywaj\u0105c metra kwadratowego<\/em> jako zmiennej predykcyjnej i warto\u015bci domu<\/em> jako zmiennej odpowiedzi.<\/span><\/p>\n W wyj\u015bciowej tabeli regresji wsp\u00f3\u0142czynnik regresji dla pierwotnego sk\u0142adnika nie mia\u0142by znacz\u0105cej interpretacji, poniewa\u017c powierzchnia<\/em> domu nigdy nie mo\u017ce by\u0107 r\u00f3wna zeru. W tym przypadku wsp\u00f3\u0142czynnik regresji dla pierwotnego sk\u0142adnika po prostu zakotwicza lini\u0119 regresji we w\u0142a\u015bciwym miejscu.<\/span><\/p>\n W przypadku ci\u0105g\u0142ej zmiennej predykcyjnej wsp\u00f3\u0142czynnik regresji reprezentuje r\u00f3\u017cnic\u0119 mi\u0119dzy przewidywan\u0105 warto\u015bci\u0105 zmiennej odpowiedzi dla ka\u017cdej jednojednostkowej zmiany zmiennej predykcyjnej, przy za\u0142o\u017ceniu, \u017ce wszystkie pozosta\u0142e zmienne predykcyjne pozostaj\u0105 sta\u0142e.<\/span><\/p>\n W tym przyk\u0142adzie badane godziny<\/em> s\u0105 ci\u0105g\u0142\u0105 zmienn\u0105 predykcyjn\u0105 o zakresie od 0 do 20 godzin. W niekt\u00f3rych przypadkach student uczy\u0142 si\u0119 tylko przez zero godzin, a w innych do 20 godzin.<\/span><\/p>\n Z wyniku regresji wida\u0107, \u017ce wsp\u00f3\u0142czynnik regresji dla badanych godzin<\/em> wynosi 2,03<\/strong> . Oznacza to, \u017ce \u015brednio ka\u017cda dodatkowa godzina nauki wi\u0105\u017ce si\u0119 ze wzrostem o 2,03 punktu na egzaminie ko\u0144cowym, przy za\u0142o\u017ceniu, \u017ce zmienna predykcyjna Tutor<\/em> pozostaje sta\u0142a.<\/span><\/p>\n We\u017amy na przyk\u0142ad pod uwag\u0119 ucznia A, kt\u00f3ry uczy si\u0119 przez 10 godzin i korzysta z korepetycji. We\u017a tak\u017ce pod uwag\u0119 Studenta B, kt\u00f3ry uczy si\u0119 przez 11 godzin i r\u00f3wnie\u017c korzysta z korepetycji. Zgodnie z wynikami naszej regresji oczekuje si\u0119, \u017ce ucze\u0144 B uzyska na egzaminie o 2,03 punktu wi\u0119cej ni\u017c ucze\u0144 A.<\/span><\/p>\n Warto\u015b\u0107 p tabeli regresji m\u00f3wi nam, czy ten wsp\u00f3\u0142czynnik regresji jest rzeczywi\u015bcie statystycznie istotny, czy nie. Widzimy, \u017ce warto\u015b\u0107 p dla badanych godzin<\/em> wynosi 0,009<\/strong> , co jest statystycznie istotne na poziomie alfa 0,05.<\/span><\/p>\n Uwaga:<\/strong> Poziom alfa nale\u017cy wybra\u0107 przed wykonaniem analizy regresji \u2013 najcz\u0119\u015bciej wybieranymi poziomami alfa s\u0105 0,01, 0,05 i 0,10.<\/span><\/p>\n Powi\u0105zany artyku\u0142:<\/strong> Wyja\u015bnienie warto\u015bci P i ich znaczenia statystycznego<\/a><\/span><\/p>\n W przypadku jako\u015bciowej zmiennej predykcyjnej wsp\u00f3\u0142czynnik regresji reprezentuje r\u00f3\u017cnic\u0119 w przewidywanej warto\u015bci zmiennej odpowiedzi pomi\u0119dzy kategori\u0105, dla kt\u00f3rej zmienna predykcyjna = 0, a kategori\u0105, dla kt\u00f3rej zmienna predykcyjna = 1.<\/span><\/p>\n W tym przyk\u0142adzie Tutor<\/em> jest kategoryczn\u0105 zmienn\u0105 predykcyjn\u0105, kt\u00f3ra mo\u017ce przyjmowa\u0107 dwie r\u00f3\u017cne warto\u015bci:<\/span><\/p>\n Z wyniku regresji widzimy, \u017ce wsp\u00f3\u0142czynnik regresji dla Tutora<\/em> wynosi 8,34<\/strong> . Oznacza to, \u017ce ucze\u0144 korzystaj\u0105cy z korepetycji uzyska\u0142 na egzaminie \u015brednio o 8,34 punktu wi\u0119cej ni\u017c ucze\u0144 nie korzystaj\u0105cy z korepetytora, przy za\u0142o\u017ceniu, \u017ce zmienna predykcyjna Badane godziny<\/em> pozostaje sta\u0142a.<\/span><\/p>\n We\u017amy na przyk\u0142ad pod uwag\u0119 ucznia A, kt\u00f3ry uczy si\u0119 przez 10 godzin i korzysta z korepetycji. We\u017a r\u00f3wnie\u017c pod uwag\u0119 Studenta B, kt\u00f3ry uczy si\u0119 przez 10 godzin i nie korzysta z korepetycji. Zgodnie z wynikami naszej regresji oczekuje si\u0119, \u017ce ucze\u0144 A uzyska wynik egzaminu o 8,34 punktu wy\u017cszy ni\u017c ucze\u0144 B.<\/span><\/p>\n Warto\u015b\u0107 p tabeli regresji m\u00f3wi nam, czy ten wsp\u00f3\u0142czynnik regresji jest rzeczywi\u015bcie statystycznie istotny, czy nie. Widzimy, \u017ce warto\u015b\u0107 p dla Tutora<\/em> wynosi 0,138<\/strong> , co nie jest statystycznie istotne na poziomie alfa 0,05. Oznacza to, \u017ce chocia\u017c uczniowie korzystaj\u0105cy z korepetycji radzili sobie lepiej na egzaminie, r\u00f3\u017cnica ta mog\u0142a wynika\u0107 z przypadku.<\/span><\/p>\n Mo\u017cemy u\u017cy\u0107 wszystkich wsp\u00f3\u0142czynnik\u00f3w z tabeli regresji, aby utworzy\u0107 nast\u0119puj\u0105ce szacunkowe r\u00f3wnanie regresji:<\/span><\/p>\n Oczekiwany wynik egzaminu = 48,56 + 2,03*(Godziny nauki) + 8,34*(Nauczyciel)<\/span><\/p>\n Uwaga<\/strong> :<\/strong> nale\u017cy pami\u0119ta\u0107, \u017ce zmienna predykcyjna \u201eNauczyciel\u201d nie by\u0142a istotna statystycznie na poziomie alfa 0,05, dlatego mo\u017cna usun\u0105\u0107 ten predyktor z modelu i nie u\u017cywa\u0107 go w ostatecznym oszacowaniu r\u00f3wnania regresji.<\/em><\/span><\/p>\n Korzystaj\u0105c z tego szacunkowego r\u00f3wnania regresji, mo\u017cemy przewidzie\u0107 ocen\u0119 ko\u0144cow\u0105 ucznia z egzaminu na podstawie ca\u0142kowitej liczby godzin nauki oraz tego, czy korzysta\u0142 on z korepetycji.<\/span><\/p>\n Przyk\u0142adowo, student, kt\u00f3ry uczy\u0142 si\u0119 10 godzin i korzysta\u0142 z korepetycji, powinien otrzyma\u0107 ocen\u0119 z egzaminu:<\/span><\/p>\n Oczekiwany wynik egzaminu = 48,56 + 2,03*(10) + 8,34*(1) = 77,2<\/strong><\/span><\/p>\n Nale\u017cy pami\u0119ta\u0107, \u017ce w modelu regresji zmienne predykcyjne mog\u0105 na siebie wp\u0142ywa\u0107. Na przyk\u0142ad wi\u0119kszo\u015b\u0107 zmiennych predykcyjnych b\u0119dzie przynajmniej w pewnym stopniu ze sob\u0105 powi\u0105zana (np. ucze\u0144, kt\u00f3ry wi\u0119cej si\u0119 uczy, z wi\u0119kszym prawdopodobie\u0144stwem skorzysta z pomocy korepetytora).<\/span><\/p>\n Oznacza to, \u017ce wsp\u00f3\u0142czynniki regresji b\u0119d\u0105 si\u0119 zmienia\u0107 po dodaniu lub usuni\u0119ciu r\u00f3\u017cnych zmiennych predykcyjnych z modelu.<\/span><\/p>\n Dobrym sposobem sprawdzenia, czy korelacja mi\u0119dzy zmiennymi predykcyjnymi jest na tyle silna, aby powa\u017cnie wp\u0142yn\u0105\u0107 na model regresji, jest sprawdzenie VIF mi\u0119dzy zmiennymi predykcyjnymi<\/a> .<\/span><\/p>\n Przyk\u0142ad analizy regresji<\/strong><\/span><\/h2>\n
\n
\n
\n\n
\n Termin<\/span><\/th>\n Wsp\u00f3\u0142czynnik<\/span><\/th>\n Standardowy b\u0142\u0105d<\/span><\/th>\n Statystyki<\/span><\/th>\n Warto\u015b\u0107 P<\/span><\/th>\n<\/tr>\n \n Przechwyci\u0107<\/span><\/strong><\/td>\n 48,56<\/span><\/td>\n 14:32<\/span><\/td>\n 3,39<\/span><\/td>\n 0,002<\/span><\/td>\n<\/tr>\n \n Godziny nauki<\/strong><\/span><\/td>\n 2.03<\/span><\/td>\n 0,67<\/span><\/td>\n 3.03<\/span><\/td>\n 0,009<\/span><\/td>\n<\/tr>\n \n Korepetytor<\/span><\/strong><\/td>\n 8.34<\/span><\/td>\n 5,68<\/span><\/td>\n 1,47<\/span><\/td>\n 0,138<\/span><\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n Interpretacja przechwycenia<\/strong><\/span><\/h2>\n
Interpretacja wsp\u00f3\u0142czynnika zmiennej predykcyjnej ci\u0105g\u0142ej<\/strong><\/span><\/h2>\n
Interpretacja wsp\u00f3\u0142czynnika zmiennej predyktora kategorycznego<\/strong><\/span><\/h2>\n
\n
Zinterpretuj wszystkie wsp\u00f3\u0142czynniki na raz<\/strong><\/span><\/h2>\n
Uwzgl\u0119dnianie korelacji przy interpretacji wsp\u00f3\u0142czynnik\u00f3w regresji<\/strong><\/span><\/h2>\n