如何计算 r 中的稳健标准误差

线性回归的假设之一是模型残差在预测变量的每个水平上均匀分布。

当不满足此假设时，称回归模型中存在异方差性。

发生这种情况时，模型回归系数的标准误差变得不可靠。

为了解决这个问题，我们可以计算稳健的标准误差，它对于异方差性是“稳健的”，可以让我们更好地了解回归系数的真实标准误差值。

以下示例演示如何计算 R 回归模型的稳健标准误差。

示例：计算 R 中的稳健标准误差

假设我们在 R 中有以下数据框，其中包含有关班级 20 名学生的学习时间和考试成绩的信息：

 #create data frame
df <- data. frame (hours=c(1, 1, 1, 1, 2, 2, 2, 3, 3, 3, 4,
                         4, 5, 5, 5, 6, 6, 7, 7, 8),
                 score=c(67, 68, 74, 70, 71, 75, 80, 70, 84, 72,
                         88, 75, 95, 75, 99, 78, 99, 65, 96, 70))

#view head of data frame
head(df)

  hours score
1 1 67
2 1 68
3 1 74
4 1 70
5 2 71
6 2 75

我们可以使用lm()函数来拟合 R 中的回归模型，该模型使用小时作为预测变量，分数作为响应变量：

 #fit regression model
fit <- lm(score ~ hours, data=df)

#view summary of model
summary(fit)

Call:
lm(formula = score ~ hours, data = df)

Residuals:
    Min 1Q Median 3Q Max 
-19,775 -5,298 -3,521 7,520 18,116 

Coefficients:
            Estimate Std. Error t value Pr(>|t|)    
(Intercept) 71.158 4.708 15.11 1.14e-11 ***
hours 1.945 1.075 1.81 0.087 .  
---
Significant. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 10.48 on 18 degrees of freedom
Multiple R-squared: 0.154, Adjusted R-squared: 0.107 
F-statistic: 3.278 on 1 and 18 DF, p-value: 0.08696

目视检查异方差是否是回归模型中的问题的最简单方法是创建残差图：

 #create residual vs. fitted plot
plot(fitted(fit), reside(fit))

#add a horizontal line at y=0 
abline(0,0) 

x轴显示响应变量的拟合值，y轴显示相应的残差。

从图中我们可以看到，残差的方差随着拟合值的增大而增大。

这表明异方差性可能是回归模型中的问题，并且模型摘要的标准误差不可靠。

为了计算稳健的标准误差，我们可以使用lmtest包中的coeftest()函数和三明治包中的vcovHC()函数，如下所示：

 library (lmtest)
library (sandwich)

#calculate robust standard errors for model coefficients
coeftest(fit, vcov = vcovHC(fit, type = ' HC0 '))

t test of coefficients:

            Estimate Std. Error t value Pr(>|t|)    
(Intercept) 71.1576 3.3072 21.5160 2.719e-14 ***
hours 1.9454 1.2072 1.6115 0.1245    
---
Significant. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

请注意，小时预测变量的标准误差从先前模型摘要中的 1.075 增加到此模型摘要中的 1.2072。

由于原始回归模型中存在异方差性，因此此标准误差估计更可靠，应在计算小时预测变量的置信区间时使用。

注意：在vcovHC()函数中计算的最常见估计类型是“HC0”，但您可以参考文档来查找其他类型的估计。

其他资源

以下教程解释了如何在 R 中执行其他常见任务：

如何在 R 中执行 White 异方差检验
如何解释 R 中的线性回归输出
如何在 R 中创建残差图