선형 회귀 분석에 대한 귀무 가설 이해

선형 회귀는 하나 이상의 예측 변수와 응답 변수 사이의 관계를 이해하는 데 사용할 수 있는 기술입니다.

하나의 예측 변수와 하나의 응답 변수만 있는 경우 다음 공식을 사용하여 변수 간의 관계를 추정하는 단순 선형 회귀를 사용할 수 있습니다.

ŷ = β ₀ + β ₁ x

금:

• ŷ: 예상된 응답 값입니다.
• β ₀ : x가 0일 때 y의 평균값.
• β ₁ : x의 1단위 증가와 관련된 y의 평균 변화입니다.
• x: 예측 변수의 값입니다.

단순 선형 회귀에서는 다음과 같은 귀무 가설과 대립 가설을 사용합니다.

• H ₀ : β ₁ = 0
• _HA : β ₁ ≠ 0

귀무 가설은 계수 β ₁ 이 0과 같다는 것입니다. 즉, 예측 변수 x와 반응 변수 y 사이에는 통계적으로 유의미한 관계가 없습니다.

대립 가설은 β _{1 이} 0이 아니라는 것입니다. 즉, x와 y 사이에는 통계적으로 유의미한 관계가 있습니다 .

예측 변수와 반응 변수가 여러 개인 경우 다음 공식을 사용하여 변수 간의 관계를 추정하는 다중 선형 회귀를 사용할 수 있습니다.

ŷ = β ₀ + β ₁ x ₁ + β ₂ x ₂ + … + β _k x _k

금:

• ŷ: 예상된 응답 값입니다.
• β ₀ : 모든 예측 변수가 0일 때 y의 평균 값입니다.
• β _i : x _i 의 1단위 증가와 관련된 y의 평균 변화입니다.
• x _i : 예측 변수 x _i 의 값입니다.

다중 선형 회귀에서는 다음과 같은 귀무 가설과 대립 가설을 사용합니다.

• H ₀ : β ₁ = β ₂ = … = β _k = 0
• H _A : β ₁ = β ₂ = … = β _k ≠ 0

귀무 가설은 모델의 모든 계수가 0과 같다는 것입니다. 즉, 예측 변수 중 어느 것도 응답 변수 y와 통계적으로 유의미한 관계를 갖지 않습니다.

대립 가설은 모든 계수가 동시에 0이 아니라는 것입니다.

다음 예에서는 단순 선형 회귀 모델과 다중 선형 회귀 모델에서 귀무 가설을 기각할지 여부를 결정하는 방법을 보여줍니다.

예시 1: 단순 선형 회귀

교수가 수업 시간을 사용하여 자신의 반 학생들이 달성할 시험 성적을 예측하려고 한다고 가정해 보겠습니다. 20명의 학생으로부터 데이터를 수집하고 간단한 선형 회귀 모델에 적합합니다.

다음 스크린샷은 회귀 모델의 결과를 보여줍니다.

적합 단순 선형 회귀 모델은 다음과 같습니다.

시험 점수 = 67.1617 + 5.2503*(공부한 시간)

공부 시간과 시험 점수 사이에 통계적으로 유의미한 관계가 있는지 확인하려면 모델의 전체 F 값 과 해당 p 값을 분석해야 합니다.

• 전체 F값: 47.9952
• P-값: 0.000

이 p-값은 0.05보다 작으므로 귀무가설을 기각할 수 있습니다. 즉, 공부시간과 시험점수 사이에는 통계적으로 유의미한 관계가 있다는 것입니다.

예시 2: 다중 선형 회귀

교수가 수업 시간과 준비 시험 횟수를 사용하여 학생들이 수업에서 받을 성적을 예측하려고 한다고 가정해 보겠습니다. 20명의 학생으로부터 데이터를 수집하고 다중 선형 회귀 모델에 적합합니다.

다음 스크린샷은 회귀 모델의 결과를 보여줍니다.

적합 다중 선형 회귀 모델은 다음과 같습니다.

시험 점수 = 67.67 + 5.56*(학습 시간) – 0.60*(준비 시험 응시)

두 예측 변수와 반응 변수 사이에 통계적으로 유의미한 관계가 있는지 확인하려면 모델의 전체 F 값과 해당 p 값을 분석해야 합니다.

• 전체 F값: 23.46
• P-값: 0.00

이 p-값은 0.05보다 작으므로 귀무가설을 기각할 수 있습니다. 즉, 공부한 시간과 응시한 시험 준비 시간은 시험 결과와 통계적으로 유의한 관계가 있습니다.

참고: 응시한 준비 시험에 대한 p-값(p = 0.52)은 중요하지 않지만, 공부한 시간과 결합 된 준비 시험은 시험 결과와 중요한 관계가 있습니다.

추가 리소스

회귀 분석의 전반적인 중요성에 대한 F 테스트 이해
회귀표를 읽고 해석하는 방법
회귀 결과를 보고하는 방법
Excel에서 단순 선형 회귀를 수행하는 방법
Excel에서 다중 선형 회귀를 수행하는 방법