Memahami hipotesis null untuk regresi linier
Regresi linier adalah teknik yang dapat kita gunakan untuk memahami hubungan antara satu atau lebih variabel prediktor dan variabel respon .
Jika kita hanya memiliki satu variabel prediktor dan satu variabel respon, kita dapat menggunakan regresi linier sederhana , yang menggunakan rumus berikut untuk memperkirakan hubungan antar variabel:
ŷ = β 0 + β 1 x
Emas:
- ŷ : Perkiraan nilai respons.
- β 0 : Nilai rata-rata y ketika x sama dengan nol.
- β 1 : Rata-rata perubahan y yang terkait dengan peningkatan satu unit pada x.
- x : nilai variabel prediktif.
Regresi linier sederhana menggunakan hipotesis nol dan hipotesis alternatif berikut:
- H 0 : 1 = 0
- HA : β 1 ≠ 0
Hipotesis nol menyatakan bahwa koefisien β 1 sama dengan nol. Dengan kata lain, tidak terdapat hubungan yang signifikan secara statistik antara variabel prediktor x dan variabel respon y.
Hipotesis alternatif menyatakan bahwa β 1 tidak sama dengan nol. Dengan kata lain, terdapat hubungan yang signifikan secara statistik antara x dan y.
Jika kita memiliki beberapa variabel prediktor dan satu variabel respon, kita dapat menggunakan regresi linier berganda , yang menggunakan rumus berikut untuk memperkirakan hubungan antar variabel:
ŷ = β 0 + β 1 x 1 + β 2 x 2 + … + β k x k
Emas:
- ŷ : Perkiraan nilai respons.
- β 0 : Nilai rata-rata y ketika semua variabel prediktor sama dengan nol.
- β i : Rata-rata perubahan y yang terkait dengan peningkatan satu unit pada x i .
- x i : Nilai variabel prediktor x i .
Regresi linier berganda menggunakan hipotesis nol dan alternatif berikut:
- H 0 : β 1 = β 2 = … = β k = 0
- HA : β 1 = β 2 = … = β k ≠ 0
Hipotesis nol menyatakan bahwa semua koefisien dalam model sama dengan nol. Dengan kata lain, tidak ada satupun variabel prediktor yang mempunyai hubungan signifikan secara statistik dengan variabel respon y.
Hipotesis alternatif menyatakan bahwa tidak semua koefisien sama dengan nol secara bersamaan.
Contoh berikut menunjukkan bagaimana memutuskan menolak atau menolak hipotesis nol dalam model regresi linier sederhana dan regresi linier berganda.
Contoh 1: Regresi linier sederhana
Misalkan seorang profesor ingin menggunakan jumlah jam belajar untuk memprediksi nilai ujian yang akan dicapai siswa di kelasnya. Ini mengumpulkan data dari 20 siswa dan menyesuaikan model regresi linier sederhana.
Tangkapan layar berikut menunjukkan hasil model regresi:
Model regresi linier sederhana yang dipasang adalah:
Nilai ujian = 67.1617 + 5.2503*(jam belajar)
Untuk menentukan apakah ada hubungan yang signifikan secara statistik antara jam belajar dan nilai ujian, kita perlu menganalisis nilai F keseluruhan model dan nilai p yang sesuai:
- Nilai F keseluruhan: 47,9952
- Nilai P: 0,000
Karena nilai p ini kurang dari 0,05, kita dapat menolak hipotesis nol. Dengan kata lain, terdapat hubungan yang signifikan secara statistik antara jam belajar dan nilai ujian.
Contoh 2: Regresi linier berganda
Misalkan seorang profesor ingin menggunakan jumlah jam belajar dan jumlah ujian persiapan yang diambil untuk memprediksi nilai yang akan diperoleh siswa di kelasnya. Ini mengumpulkan data dari 20 siswa dan menyesuaikan model regresi linier berganda.
Tangkapan layar berikut menunjukkan hasil model regresi:
Model regresi linier berganda yang cocok adalah:
Nilai ujian = 67,67 + 5,56*(jam belajar) – 0,60*(ujian persiapan diambil)
Untuk menentukan apakah terdapat hubungan yang signifikan secara statistik antara dua variabel prediktor dan variabel respon, kita perlu menganalisis nilai F keseluruhan model dan nilai p yang sesuai:
- Nilai F keseluruhan: 23,46
- Nilai P: 0,00
Karena nilai p ini kurang dari 0,05, kita dapat menolak hipotesis nol. Dengan kata lain, jam belajar dan persiapan ujian yang diambil memiliki hubungan yang signifikan secara statistik dengan hasil ujian.
Catatan: Meskipun nilai p untuk persiapan ujian yang diambil (p = 0,52) tidak signifikan, namun ujian persiapan yang dikombinasikan dengan jam belajar memiliki hubungan yang signifikan dengan hasil ujian.
Sumber daya tambahan
Memahami Uji F untuk Signifikansi Keseluruhan dalam Regresi
Cara Membaca dan Menafsirkan Tabel Regresi
Cara melaporkan hasil regresi
Cara melakukan regresi linier sederhana di Excel
Cara melakukan regresi linier berganda di Excel