선형 회귀 분석의 t-검정 이해

선형 회귀는 예측 변수와 반응 변수 간의 관계를 수량화하는 데 사용됩니다.

선형 회귀를 수행할 때마다 예측 변수와 응답 변수 사이에 통계적으로 유의미한 관계가 있는지 알고 싶습니다.

회귀 기울기에 대해 t-테스트를 수행하여 유의성을 테스트합니다. 이 t-검정에는 다음과 같은 귀무 가설과 대립 가설을 사용합니다.

• H ₀ : β ₁ = 0 (기울기는 0과 같습니다)
• H _A : β ₁ ≠ 0 (기울기가 0이 아님)

그런 다음 테스트 통계를 다음과 같이 계산합니다.

t = b / _SEb

금:

• b : 계수 추정
• SE _b : 계수 추정의 표준 오차

t 에 해당하는 p-값이 특정 임계값(예: α = 0.05)보다 낮으면 귀무 가설을 기각하고 예측 변수와 반응 변수 사이에 통계적으로 유의한 관계가 있다는 결론을 내립니다.

다음 예에서는 실제로 선형 회귀 모델에 대한 t-검정을 수행하는 방법을 보여줍니다.

예: 선형 회귀에 대한 t-검정 실행

한 교수가 학생 40명의 공부 시간과 시험 성적 사이의 관계를 분석하려고 한다고 가정해 보겠습니다.

학습 시간을 예측 변수로 사용하고 시험 점수를 응답 변수로 사용하여 간단한 선형 회귀를 수행합니다.

다음 표는 회귀 모델의 결과를 보여줍니다.

공부한 시간이 최종 시험 성적과 통계적으로 유의한 관계가 있는지 확인하기 위해 t-테스트를 수행할 수 있습니다.

이 t-검정에는 다음과 같은 귀무 가설과 대립 가설을 사용합니다.

• H ₀ : β ₁ = 0(연구된 시간의 기울기는 0과 같습니다)
• H _A : β ₁ ≠ 0 (연구한 시간의 기울기는 0이 아닙니다)

그런 다음 테스트 통계를 다음과 같이 계산합니다.

• t = b / _SEb
• 티 = 1.117 / 1.025
• 티 = 1.089

df = n-2 = 40 – 2 = 38인 t = 1.089에 해당하는 p-값은 0.283 입니다.

T 점수 대 P 값 계산기를 사용하여 이 p 값을 계산할 수도 있습니다.

이 p-값은 0.05 이상이므로 귀무가설을 기각할 수 없습니다.

이는 공부한 시간이 최종 시험 결과 사이에 통계적으로 유의미한 관계가 없다는 것을 의미합니다.

추가 리소스

다음 자습서에서는 선형 회귀에 대한 추가 정보를 제공합니다.

단순 선형 회귀 소개
다중 선형 회귀 소개
회귀 계수를 해석하는 방법
회귀 분석의 전반적인 중요성에 대해 F 테스트를 해석하는 방법