R에서 wald 테스트를 수행하는 방법

Wald 테스트는 모델의 하나 이상의 매개변수가 특정 값과 같은지 여부를 테스트하는 데 사용할 수 있습니다.

이 테스트는 회귀 모델 에서 하나 이상의 예측 변수가 0인지 확인하는 데 자주 사용됩니다.

이 테스트에는 다음과 같은 귀무 가설과 대립 가설을 사용합니다.

• H ₀ : 일부 예측 변수 세트는 모두 0입니다.
• H _A : 세트의 모든 예측 변수가 0과 같지는 않습니다.

귀무 가설을 기각하지 못하면 모델 적합성에 통계적으로 유의미한 개선을 제공하지 않는 지정된 예측 변수 세트를 모델에서 제거할 수 있습니다.

다음 예에서는 R에서 Wald 테스트를 수행하는 방법을 보여줍니다.

예: R의 Wald 테스트

이 예에서는 다음 다중 선형 회귀 모델을 맞추기 위해 R에 내장된 mtcars 데이터 세트를 사용합니다.

mpg = β ₀ + β ₁ 사용 가능 + β ₂ 탄수화물 + β ₃ hp + β ₄ 실린더

다음 코드는 이 회귀 모델을 적합하고 모델 요약을 표시하는 방법을 보여줍니다.

 #fit regression model
model <- lm(mpg ~ disp + carb + hp + cyl, data = mtcars)

#view model summary
summary(model)

Call:
lm(formula = mpg ~ disp + carb + hp + cyl, data = mtcars)

Residuals:
    Min 1Q Median 3Q Max 
-5.0761 -1.5752 -0.2051 1.0745 6.3047 

Coefficients:
             Estimate Std. Error t value Pr(>|t|)    
(Intercept) 34.021595 2.523397 13.482 1.65e-13 ***
available -0.026906 0.011309 -2.379 0.0247 *  
carb -0.926863 0.578882 -1.601 0.1210    
hp 0.009349 0.020701 0.452 0.6551    
cyl -1.048523 0.783910 -1.338 0.1922    
---
Significant. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1

Residual standard error: 2.973 on 27 degrees of freedom
Multiple R-squared: 0.788, Adjusted R-squared: 0.7566 
F-statistic: 25.09 on 4 and 27 DF, p-value: 9.354e-09

다음으로, aod 패키지의 wald.test() 함수를 사용하여 예측 변수 “hp”와 “cyl”에 대한 회귀 계수가 모두 0인지 테스트할 수 있습니다.

이 함수는 다음 기본 구문을 사용합니다.

wald.test(시그마, b, 용어)

금:

• Sigma : 회귀 모델의 분산-공분산 행렬
• b : 모델의 회귀계수 벡터
• 항 : 검정할 계수를 지정하는 벡터

다음 코드는 실제로 이 함수를 사용하는 방법을 보여줍니다.

 library (aod)

#perform Wald Test to determine if 3rd and 4th predictor variables are both zero
wald. test (Sigma = vcov(model), b = coef(model), Terms = 3:4)

Wald test:
----------

Chi-squared test:
X2 = 3.6, df = 2, P(>X2) = 0.16

결과에서 검정의 p-값이 0.16임을 알 수 있습니다.

이 p-값은 0.05 이상이므로 Wald 검정의 귀무가설을 기각할 수 없습니다.

이는 예측 변수 “hp”와 “cyl”에 대한 회귀 계수가 모두 0이라고 가정할 수 있음을 의미합니다.

이러한 항은 전체 모형 적합도를 통계적으로 유의미하게 향상시키지 못하므로 모형에서 제거할 수 있습니다.

추가 리소스

다음 튜토리얼에서는 R에서 다른 일반적인 작업을 수행하는 방법을 설명합니다.

R에서 단순 선형 회귀를 수행하는 방법
R에서 다중 선형 회귀를 수행하는 방법
R에서 회귀 출력을 해석하는 방법
R에서 VIF(Variance Inflation Factor)를 계산하는 방법