비선형 회귀

에 의해 벤자민 앤더슨 8월 2, 2023 통계 댓글 0개

이 글에서는 비선형 회귀가 무엇인지, 그리고 그 특징에 대해 설명합니다. 다양한 유형의 비선형 회귀도 제시되며, 또한 비선형 회귀와 선형 회귀 간의 차이점도 확인할 수 있습니다.

비선형 회귀란 무엇입니까?

통계에서 비선형 회귀는 비선형 함수가 회귀 방정식의 모델로 사용되는 회귀 유형입니다. 따라서 비선형 회귀 모델의 방정식은 비선형 함수입니다.

논리적으로 비선형 회귀 분석은 두 변수 간의 관계가 선형이 아닌 경우 독립 변수를 종속 변수에 연결하는 데 사용됩니다. 따라서 표본 데이터를 그래프로 그릴 때 선형 관계가 없는, 즉 대략적인 직선을 형성하지 않는 것으로 관찰되면 ‘비선형 회귀 모델을 사용하는 것이 좋습니다.

예를 들어, 방정식 y=3-5x-8x ² +x ³ 은 3차 함수를 통해 독립 변수 X를 종속 변수 Y에 수학적으로 연결하기 때문에 비선형 회귀 모델입니다.

비선형 회귀 유형

비선형 회귀의 유형은 다음과 같습니다.

다항식 회귀(Polynomial regression) : 방정식이 다항식 형식인 비선형 회귀입니다.
로그 회귀(Logarithmic regression) : 독립변수를 로그로 취하는 비선형 회귀.
지수 회귀(Exponential Regression) : 독립 변수가 방정식의 지수에 있는 비선형 회귀입니다.

각 유형의 비선형 회귀는 아래에서 더 자세히 설명됩니다.

다항식 회귀

다항식 회귀 또는 다항식 회귀 는 독립 변수 X와 종속 변수 Y 간의 관계가 다항식을 사용하여 모델링되는 비선형 회귀 모델입니다.

다항식 회귀는 그래프가 다항식 곡선인 데이터 세트를 피팅하는 데 유용합니다. 따라서 데이터 샘플의 도트 플롯이 포물선 형태인 경우 선형 회귀 모델보다는 2차 회귀 모델을 구성하는 것이 더 좋습니다. 이렇게 하면 회귀 모델 방정식이 데이터 샘플에 더 잘 맞습니다.

다항식 회귀 모델의 방정식은 y=β ₀ +β ₁ x+β ₂ x ² +β ₃ x ³ …+β _m x ^m 입니다.

$y=\beta_0+\beta_1 x+\beta_2 x^2+\beta_3 x^3+\dots+\beta_m x^m$

금:

$y$

종속변수입니다.
$x$

독립변수이다.
$\beta_0$

다항식 회귀 방정식의 상수입니다.
$\beta_i$

변수와 관련된 회귀 계수입니다.

$x^i$

.

아래에서는 해당 다항식 회귀 방정식으로 그래프로 표시된 샘플 데이터를 볼 수 있습니다.

➤ 참고: 다항식 회귀

로그 회귀

로그 회귀는 방정식에 로그를 포함하는 비선형 회귀 모델입니다. 특히 로그 회귀 분석에서는 독립 변수의 로그가 고려됩니다.

로그 회귀를 사용하면 샘플 데이터가 로그 곡선을 형성할 때 회귀 모델을 적합할 수 있습니다. 이렇게 하면 회귀 모델이 샘플 데이터에 더 잘 맞습니다.

로그 회귀 방정식의 공식은 y=a+b·ln(x)입니다.

$y=a+b\cdot \ln(x)$

금:

$y$

종속변수입니다.
$x$

독립변수이다.
$a,b$

회귀 계수입니다.

다음 차트에서는 데이터 세트와 데이터에 맞는 로그 회귀 모델의 방정식을 볼 수 있습니다. 보시다시피 로그 방정식은 직선보다 점 그래프에 더 잘 맞습니다.

➤ 참고: 로그 회귀

지수 회귀

지수 회귀 는 방정식이 지수 함수 형태인 비선형 회귀 모델입니다. 따라서 지수회귀에서는 독립변수와 종속변수가 지수관계에 의해 연관되어 있다.

지수 회귀 모델 방정식의 공식은 y=a·e ^b·x 입니다. 따라서 지수회귀식은 숫자 e를 곱한 계수(a)와 독립변수를 곱한 지수에 또 다른 계수를 갖는다.

따라서 지수 회귀의 공식은 다음과 같습니다.

$y=a\cdot e^{b\cdot x}$

금:

$y$

종속변수입니다.
$x$

독립변수이다.
$a,b$

회귀 계수입니다.

다음 이미지에서 볼 수 있듯이 도트 플롯은 데이터가 점점 더 빠르게 증가하므로 지수 곡선 모양을 갖습니다. 이것이 바로 지수 회귀 모델이 단순 선형 회귀 모델보다 이 데이터 샘플에 더 잘 맞는 이유입니다.

➤ 참고: 지수 회귀

비선형 회귀 및 선형 회귀

마지막으로 요약하자면 비선형 회귀 모델과 선형 회귀 모델의 차이점이 무엇인지 살펴보겠습니다.

선형 회귀는 하나 이상의 독립 변수를 종속 변수와 선형적으로 연관시키는 통계 모델입니다. 따라서 선형 회귀 모델에는 설명 변수가 두 개 이상 있을 수 있지만 설명 변수와 응답 변수 간의 관계는 선형입니다.

따라서 비선형 회귀와 선형 회귀의 주요 차이점 은 비선형 회귀 모델의 방정식은 비선형 함수(다항식, 로그, 지수 등)인 반면 비선형 회귀 모델의 방정식은 선형 회귀라는 점입니다. 선형 함수(1차).

➤ 참고: 선형 회귀

저자 소개

벤자민 앤더슨

안녕하세요. 저는 통계학 교수를 퇴직하고 전임 통계 교사로 변신한 벤자민입니다. 통계 분야의 광범위한 경험과 전문 지식을 바탕으로 Statorials를 통해 학생들에게 힘을 실어주기 위해 지식을 공유하고 싶습니다. 더 알아보기