如何计算 r 中的标准化残差

残差是回归模型中观测值与预测值之间的差异。

计算方法如下：

残差 = 观测值 – 预测值

如果我们绘制观测值并叠加拟合回归线，则每个观测值的残差将是观测值与回归线之间的垂直距离：

我们经常用来识别回归模型中的异常值的一种残差称为标准化残差。

计算方法如下：

r _i = e _i / s(e _i ) = e _i / RSE√ 1-h _ii

金子：

• e _i :第 i^个残基
• RSE：模型的残差标准误差
• h _ii ：^{第 i 个}观测值的上升

在实践中，我们经常将绝对值大于 3 的任何标准化残差视为异常值。

本教程提供了如何在 R 中计算标准化残差的分步示例。

第 1 步：输入数据

首先，我们将创建一个在 R 中使用的小数据集：

 #create data
data <- data.frame(x=c(8, 12, 12, 13, 14, 16, 17, 22, 24, 26, 29, 30),
                   y=c(41, 42, 39, 37, 35, 39, 45, 46, 39, 49, 55, 57))

#viewdata
data

    xy
1 8 41
2 12 42
3 12 39
4 13 37
5 14 35
6 16 39
7 17 45
8 22 46
9 24 39
10 26 49
11 29 55
12 30 57

步骤 2：拟合回归模型

接下来，我们将使用lm()函数来拟合一个简单的线性回归模型：

 #fit model
model <- lm(y ~ x, data=data)

#view model summary
summary(model) 

Call:
lm(formula = y ~ x, data = data)

Residuals:
    Min 1Q Median 3Q Max 
-8.7578 -2.5161 0.0292 3.3457 5.3268 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept) 29.6309 3.6189 8.188 9.6e-06 ***
x 0.7553 0.1821 4.148 0.00199 ** 
---
Significant. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 4.442 on 10 degrees of freedom
Multiple R-squared: 0.6324, Adjusted R-squared: 0.5956 
F-statistic: 17.2 on 1 and 10 DF, p-value: 0.001988

步骤 3：计算标准化残差

接下来，我们将使用内置函数rstandard()来计算模型的标准化残差：

 #calculate the standardized residuals
standard_res <- rstandard(model)

#view the standardized residuals
standard_res

          1 2 3 4 5 6 
 1.40517322 0.81017562 0.07491009 -0.59323342 -1.24820530 -0.64248883 
          7 8 9 10 11 12 
 0.59610905 -0.05876884 -2.11711982 -0.06655600 0.91057211 1.26973888

如果我们愿意，我们可以将标准化残差添加到原始数据框中：

 #column bind standardized residuals back to original data frame
final_data <- cbind(data, standard_res)

#view data frame
    xy standard_res
1 8 41 1.40517322
2 12 42 0.81017562
3 12 39 0.07491009
4 13 37 -0.59323342
5 14 35 -1.24820530
6 16 39 -0.64248883
7 17 45 0.59610905
8 22 46 -0.05876884
9 24 39 -2.11711982
10 26 49 -0.06655600
11 29 55 0.91057211
12 30 57 1.26973888

然后，我们可以根据标准化残差对每个观测值从最大到最小进行排序，以了解哪些观测值最接近异常值：

 #sort standardized residuals descending
final_data[ order (-standard_res),]

    xy standard_res
1 8 41 1.40517322
12 30 57 1.26973888
11 29 55 0.91057211
2 12 42 0.81017562
7 17 45 0.59610905
3 12 39 0.07491009
8 22 46 -0.05876884
10 26 49 -0.06655600
4 13 37 -0.59323342
6 16 39 -0.64248883
5 14 35 -1.24820530
9 24 39 -2.11711982

从结果中我们可以看到，没有一个标准化残差的绝对值超过 3。因此，没有一个观测值看起来是异常值。

步骤 4：可视化标准化残差

最后，我们可以创建一个散点图来可视化预测变量值与标准化残差的关系：

 #plot predictor variable vs. standardized residuals
plot(final_data$x, standard_res, ylab=' Standardized Residuals ', xlab=' x ') 

#add horizontal line at 0
abline(0, 0)

其他资源

什么是残留物？
什么是标准化残差？
多元线性回归简介