Hoe sst, ssr en sse in r te berekenen

We gebruiken vaak drie verschillende kwadratensommen om te meten hoe goed een regressielijn daadwerkelijk bij een dataset past:

1. Som van totale kwadraten (SST) – De som van de kwadraten van de verschillen tussen individuele gegevenspunten (y _i ) en het gemiddelde van de responsvariabele ( y ).

• SST = Σ(y _i – y ) ²

2. Som van kwadratenregressie (SSR) – De som van de kwadraten van de verschillen tussen de voorspelde gegevenspunten (ŷ _i ) en het gemiddelde van de responsvariabele ( y ).

• SSR = Σ(ŷ _i – y ) ²

3. Som van kwadratenfout (SSE) – De som van de kwadraten van de verschillen tussen de voorspelde datapunten (ŷ _i ) en de waargenomen datapunten (y _i ).

• SSE = Σ(ŷ _ik – y _ik ) ²

Het volgende stapsgewijze voorbeeld laat zien hoe u elk van deze metrieken voor een bepaald regressiemodel in R kunt berekenen.

Stap 1: Creëer de gegevens

Laten we eerst een dataset maken met het aantal gestudeerde uren en de behaalde examenscores voor 20 verschillende studenten op een bepaalde universiteit:

 #create data frame
df <- data. frame (hours=c(1, 1, 1, 2, 2, 2, 2, 2, 3, 3,
                         3, 4, 4, 4, 5, 5, 6, 7, 7, 8),
                 score=c(68, 76, 74, 80, 76, 78, 81, 84, 86, 83,
                         88, 85, 89, 94, 93, 94, 96, 89, 92, 97))

#view first six rows of data frame
head(df)

  hours score
1 1 68
2 1 76
3 1 74
4 2 80
5 2 76
6 2 78

Stap 2: Pas een regressiemodel toe

Vervolgens zullen we de functie lm() gebruiken om een eenvoudig lineair regressiemodel te fitten met score alsresponsvariabele en uren als voorspellende variabele:

 #fit regression model
model <- lm(score ~ hours, data = df)

#view model summary
summary(model)

Call:
lm(formula = score ~ hours, data = df)

Residuals:
    Min 1Q Median 3Q Max 
-8.6970 -2.5156 -0.0737 3.1100 7.5495 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept) 73.4459 1.9147 38.360 < 2nd-16 ***
hours 3.2512 0.4603 7.063 1.38e-06 ***
---
Significant. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 4.289 on 18 degrees of freedom
Multiple R-squared: 0.7348, Adjusted R-squared: 0.7201 
F-statistic: 49.88 on 1 and 18 DF, p-value: 1.378e-06

Stap 3: Bereken SST, SSR en SSE

We kunnen de volgende syntaxis gebruiken om SST, SSR en SSE te berekenen:

 #find sse
sse <- sum (( fitted (model) - df$score)^2)
sse

[1] 331.0749

#find ssr
ssr <- sum (( fitted (model) - mean (df$score))^2)
ssr

[1] 917.4751

#find sst
sst <- ssr + sse
sst

[1] 1248.55

De statistieken blijken te zijn:

• Totale som van kwadraten (SST): 1248,55
• Som van kwadratenregressie (SSR): 917,4751
• Som van kwadratenfout (SSE): 331,0749

We kunnen verifiëren dat SST = SSR + SSE:

• SST = SSR + SSE
• 1248,55 = 917,4751 + 331,0749

We kunnen ook handmatig het R-kwadraat van het regressiemodel berekenen:

• R kwadraat = SSR / SST
• R kwadraat = 917,4751 / 1248,55
• R kwadraat = 0,7348

Dit vertelt ons dat 73,48% van de variatie in examenscores kan worden verklaard door het aantal gestudeerde uren.

Aanvullende bronnen

U kunt de volgende rekenmachines gebruiken om SST, SSR en SSE automatisch te berekenen voor elke eenvoudige lineaire regressielijn:

SST-calculator
RSS-calculator
ESS-calculator