Jak obliczyć sst, ssr i sse w r

Często używamy trzech różnych sum wartości kwadratów, aby zmierzyć, jak dobrze linia regresji faktycznie pasuje do zbioru danych:

1. Suma kwadratów całkowitych (SST) – Suma kwadratów różnic pomiędzy poszczególnymi punktami danych (y _i ) a średnią zmiennej odpowiedzi ( y ).

• SST = Σ(y _i – y ) ²

2. Regresja sumy kwadratów (SSR) – Suma kwadratów różnic pomiędzy przewidywanymi punktami danych (ŷ _i ) a średnią zmiennej odpowiedzi ( y ).

• SSR = Σ(ŷ _i – y ) ²

3. Błąd sumy kwadratów (SSE) – Suma kwadratów różnic pomiędzy przewidywanymi punktami danych (ŷ _i ) i obserwowanymi punktami danych (y _i ).

• SSE = Σ(ŷ _i – y _i ) ²

Poniższy przykład pokazuje krok po kroku, jak obliczyć każdą z tych metryk dla danego modelu regresji w R.

Krok 1: Utwórz dane

Najpierw utwórzmy zbiór danych zawierający liczbę przepracowanych godzin i wyniki egzaminów uzyskane dla 20 różnych studentów na danej uczelni:

 #create data frame
df <- data. frame (hours=c(1, 1, 1, 2, 2, 2, 2, 2, 3, 3,
                         3, 4, 4, 4, 5, 5, 6, 7, 7, 8),
                 score=c(68, 76, 74, 80, 76, 78, 81, 84, 86, 83,
                         88, 85, 89, 94, 93, 94, 96, 89, 92, 97))

#view first six rows of data frame
head(df)

  hours score
1 1 68
2 1 76
3 1 74
4 2 80
5 2 76
6 2 78

Krok 2: Dopasuj model regresji

Następnie użyjemy funkcji lm(), aby dopasować prosty model regresji liniowej, wykorzystując wynik jakozmienną odpowiedzi i godziny jako zmienną predykcyjną:

 #fit regression model
model <- lm(score ~ hours, data = df)

#view model summary
summary(model)

Call:
lm(formula = score ~ hours, data = df)

Residuals:
    Min 1Q Median 3Q Max 
-8.6970 -2.5156 -0.0737 3.1100 7.5495 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept) 73.4459 1.9147 38.360 < 2nd-16 ***
hours 3.2512 0.4603 7.063 1.38e-06 ***
---
Significant. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 4.289 on 18 degrees of freedom
Multiple R-squared: 0.7348, Adjusted R-squared: 0.7201 
F-statistic: 49.88 on 1 and 18 DF, p-value: 1.378e-06

Krok 3: Oblicz SST, SSR i SSE

Do obliczenia SST, SSR i SSE możemy użyć następującej składni:

 #find sse
sse <- sum (( fitted (model) - df$score)^2)
sse

[1] 331.0749

#find ssr
ssr <- sum (( fitted (model) - mean (df$score))^2)
ssr

[1] 917.4751

#find sst
sst <- ssr + sse
sst

[1] 1248.55

Metryki okazują się następujące:

• Całkowita suma kwadratów (SST): 1248,55
• Regresja sumy kwadratów (SSR): 917,4751
• Suma błędów kwadratów (SSE): 331,0749

Możemy sprawdzić, że SST = SSR + SSE:

• SST = SSR + SSE
• 1248,55 = 917,4751 + 331,0749

Możemy również ręcznie obliczyć R kwadrat modelu regresji:

• R do kwadratu = SSR / SST
• R do kwadratu = 917,4751/1248,55
• R do kwadratu = 0,7348

Z tego wynika, że 73,48% różnic w wynikach egzaminów można wytłumaczyć liczbą przepracowanych godzin.

Dodatkowe zasoby

Możesz użyć następujących kalkulatorów, aby automatycznie obliczyć SST, SSR i SSE dla dowolnej prostej linii regresji liniowej:

Kalkulator SST
Kalkulator RSS
Kalkulator ESS