Уравнение регрессии

К бенджамин андерсон 2 августа, 2023 Статистика 0 комментариев

В этой статье объясняется, что такое уравнение регрессии и для чего оно используется. Кроме того, вы узнаете, как найти уравнение регрессии, решить упражнение и, наконец, онлайн-калькулятор для расчета уравнения регрессии для любого набора данных.

Что такое уравнение регрессии?

Уравнение регрессии — это уравнение, которое лучше всего соответствует точечному графику, то есть уравнение регрессии является лучшим приближением набора данных.

Уравнение регрессии имеет форму y=β ₀ +β ₁ x, где β ₀ — константа уравнения, а β ₁ — наклон уравнения.

$y=\beta_0+\beta_1x$

Если вы посмотрите на уравнение регрессии, это уравнение линии. Это означает, что связь между независимой переменной X и зависимой переменной Y моделируется как линейная зависимость, поскольку линия представляет линейную связь.

Итак, уравнение регрессии позволяет нам математически связать независимую переменную и зависимую переменную набора данных. Хотя уравнение регрессии, как правило, не способно точно определить значение каждого наблюдения, оно, тем не менее, используется для получения приблизительного значения его значения.

Как вы можете видеть на предыдущей диаграмме, уравнение регрессии помогает нам увидеть тенденцию набора данных и тип связи между независимой переменной и зависимой переменной.

Как рассчитать уравнение регрессии

Формулы расчета коэффициентов простого уравнения линейной регрессии следующие:

$\begin{array}{c}\beta_1=\cfrac{\displaystyle \sum_{i=1}^n (x_i-\overline{x})(y_i-\overline{y})}{\displaystyle \sum_{i=1}^n (x_i-\overline{x})^2}\\[12ex]\beta_0=\overline{y}-\beta_1\overline{x}\end{array}$

Золото:

$\beta_0$

– константа уравнения регрессии.
$\beta_1$

– наклон уравнения регрессии.
$x_i$

— значение независимой переменной X данных i.
$y_i$

— значение зависимой переменной Y данных i.
$\overline{x}$

представляет собой среднее значение независимой переменной
$\overline{y}$

представляет собой среднее значение зависимой переменной Y.

Пример расчета уравнения регрессии

После сдачи статистического экзамена пятерым студентам был задан вопрос, сколько учебных часов они потратили на экзамен, данные приведены в таблице ниже. Рассчитайте уравнение регрессии на основе собранных статистических данных, чтобы линейно связать часы обучения с полученной оценкой. Далее определите, какую оценку получит ученик, проучившийся 8 часов.

Чтобы найти уравнение регрессии для выборочных данных, нам нужно определить коэффициенты b ₀ и b ₁ уравнения, и для этого нам нужно использовать формулы, представленные в разделе выше.

Однако, чтобы применить формулы уравнения линейной регрессии, мы должны сначала вычислить среднее значение независимой переменной и среднее значение зависимой переменной:

$\begin{array}{c}\overline{x}=\cfrac{11+5+10+12+7}{5}=9\\[4ex]\overline{y}=\cfrac{7+4+5+8+6}{5}=6\end{array}$

Теперь, когда мы знаем средние значения переменных, мы вычисляем коэффициент β ₁ модели, используя соответствующую формулу:

$\begin{array}{c}\beta_1=\cfrac{\displaystyle \sum_{i=1}^n (x_i-\overline{x})(y_i-\overline{y})}{\displaystyle \sum_{i=1}^n (x_i-\overline{x})^2}\\[10ex] \beta_1=\cfrac{\begin{array}{c}(11-9)(7-6)+(5-9)(4-6)+(10-9)(5-6)+\\+(12-9)(8-6)+(7-9)(6-6)\end{array}}{(11-9)^2+(5-9)^2+(10-9)^2+(12-9)^2+(7-9)^2}\\[6ex]\beta_1=0,4412\end{array}$

Наконец, мы вычисляем коэффициент β ₀ модели, используя соответствующую формулу:

$\begin{array}{l}\beta_0=\overline{y}-\beta_1\overline{x}\\[3ex]\beta_0=6-0,4412\cdot 9 \\[3ex]\beta_0=2,0294\end{array}$

Вкратце, уравнение линии линейной регрессии задачи выглядит следующим образом:

$y=2,0294+0,4412x$

Ниже вы можете увидеть графическое представление выборочных данных вместе с простым уравнением модели линейной регрессии:

После того, как мы рассчитали уравнение регрессии, чтобы спрогнозировать оценку, которую получит студент, проучившийся 8 часов, просто подставьте это значение в полученное уравнение регрессии:

$y=2,0294+0,4412\cdot 8=5,56$

Таким образом, согласно проведенной модели линейной регрессии, если студент учился восемь часов, он получит на экзамене балл 5,56.

Калькулятор уравнения регрессии

Вставьте образец данных в калькулятор ниже, чтобы рассчитать уравнение регрессии. Вам необходимо разделить пары данных так, чтобы в первом поле были только значения независимой переменной X, а во втором поле — только значения зависимой переменной Y.

Данные должны быть разделены пробелом и введены с использованием точки в качестве десятичного разделителя.

Уравнение множественной линейной регрессии

Мы только что увидели, что такое простое уравнение линейной регрессии, однако модель регрессии также может представлять собой модель множественной линейной регрессии, которая включает две или более независимые переменные. Таким образом, множественная линейная регрессия позволяет линейно связать несколько объясняющих переменных с переменной отклика.

Уравнение модели множественной линейной регрессии :

$y=\beta_0+\beta_1 x_1+\beta_2 x_2+\dots+\beta_m x_m+\varepsilon$

Золото:

$y$

является зависимой переменной.
$x_i$

– независимая переменная i.
$\beta_0$

— константа уравнения множественной линейной регрессии.
$\beta_i$

коэффициент регрессии, связанный с переменной

$x_i$

.
$\bm{\varepsilon}$

— это ошибка или остаток, то есть разница между наблюдаемым значением и значением, оцененным моделью.
$m$

— общее количество переменных в модели.

Итак, если у нас есть образец с общим количеством

$n$

наблюдения, мы можем представить модель множественной линейной регрессии в матричной форме:

$\begin{pmatrix}y_1\\y_2\\\vdots\\y_n\end{pmatrix}=\begin{pmatrix}1&x_{11}&\dots&x_{1m}\\1&x_{21}&\dots&x_{2m}\\ \vdots&\vdots&\ddots&\vdots\\1&x_{n1}&\dots&x_{nm}\end{pmatrix}\cdot\begin{pmatrix}\beta_0\\\beta_1\\\vdots\\\beta_m\end{pmatrix}+\begin{pmatrix}\varepsilon_1\\\varepsilon_2\\\vdots\\\varepsilon_n\end{pmatrix}$

Приведенное выше матричное выражение можно переписать, присвоив каждой матрице букву:

$Y=X\beta+\varepsilon$

Таким образом, применив критерий наименьших квадратов, мы можем прийти к формуле оценки коэффициентов уравнения множественной линейной регрессии :

$\widehat{\beta}=\left(X^tX\right)^{-1}X^tY$

Однако применение этой формулы очень трудоемко и требует много времени, поэтому на практике рекомендуется использовать компьютерное программное обеспечение (например, Minitab или Excel), позволяющее гораздо быстрее создать модель множественной регрессии.

➤ См.: Что такое множественная линейная регрессия?

Об авторе

бенджамин андерсон

Здравствуйте, я Бенджамин, профессор статистики на пенсии, ставший преданным преподавателем Statorials. Имея обширный опыт и знания в области статистики, я хочу поделиться своими знаниями, чтобы расширить возможности студентов с помощью Statorials. Узнать больше