Doğrusal regresyon i̇çin sıfır hipotezini anlamak

Doğrusal regresyon, bir veya daha fazla yordayıcı değişken ile bir yanıt değişkeni arasındaki ilişkiyi anlamak için kullanabileceğimiz bir tekniktir.

Yalnızca bir öngörücü değişkenimiz ve bir yanıt değişkenimiz varsa, değişkenler arasındaki ilişkiyi tahmin etmek için aşağıdaki formülü kullanan basit doğrusal regresyonu kullanabiliriz:

ŷ = β ₀ + β ₁ x

Altın:

• ŷ: Tahmini yanıt değeri.
• β ₀ : x sıfır olduğunda y’nin ortalama değeri.
• β ₁ : x’teki bir birimlik artışla bağlantılı olarak y’deki ortalama değişiklik.
• x: yordayıcı değişkenin değeri.

Basit doğrusal regresyon aşağıdaki boş ve alternatif hipotezleri kullanır:

• H ₀ : β ₁ = 0
• _HA : β ₁ ≠ 0

Boş hipotez, β ₁ katsayısının sıfıra eşit olduğunu belirtir. Başka bir deyişle yordayıcı değişken x ile yanıt değişkeni y arasında istatistiksel olarak anlamlı bir ilişki yoktur.

Alternatif hipotez β _1’in sıfıra eşit olmadığını belirtir. Başka bir deyişle x ile y arasında istatistiksel olarak anlamlı bir ilişki vardır .

Birden fazla öngörücü değişkenimiz ve bir yanıt değişkenimiz varsa, değişkenler arasındaki ilişkiyi tahmin etmek için aşağıdaki formülü kullanan çoklu doğrusal regresyonu kullanabiliriz:

ŷ = β ₀ + β ₁ x ₁ + β ₂ x ₂ + … + β _k x _k

Altın:

• ŷ: Tahmini yanıt değeri.
• β ₀ : Tüm yordayıcı değişkenler sıfıra eşit olduğunda y’nin ortalama değeri.
• β _i : _xi’deki bir birimlik artışla bağlantılı olarak y’deki ortalama değişiklik.
• x _i : Tahmin değişkeni x _i’nin değeri.

Çoklu doğrusal regresyon aşağıdaki boş ve alternatif hipotezleri kullanır:

• H ₀ : β ₁ = β ₂ = … = β _k = 0
• _HA : β ₁ = β ₂ = … = β _k ≠ 0

Sıfır hipotezi, modeldeki tüm katsayıların sıfıra eşit olduğunu belirtir. Başka bir deyişle, yordayıcı değişkenlerden hiçbirinin yanıt değişkeni y ile istatistiksel olarak anlamlı bir ilişkisi yoktur.

Alternatif hipotez, tüm katsayıların aynı anda sıfıra eşit olmadığını belirtir.

Aşağıdaki örnekler, basit doğrusal regresyon ve çoklu doğrusal regresyon modellerinde sıfır hipotezinin reddedilip reddedilmeyeceğine nasıl karar verileceğini gösterir.

Örnek 1: Basit doğrusal regresyon

Bir profesörün, sınıfındaki öğrencilerin alacağı sınav notunu tahmin etmek için çalışılan saat sayısını kullanmak istediğini varsayalım. 20 öğrenciden veri topluyor ve basit bir doğrusal regresyon modeline uyuyor.

Aşağıdaki ekran görüntüsü regresyon modelinin sonucunu göstermektedir:

Uygun basit doğrusal regresyon modeli:

Sınav puanı = 67.1617 + 5.2503*(çalışılan saat)

Çalışılan saat ile sınav puanı arasında istatistiksel olarak anlamlı bir ilişki olup olmadığını belirlemek için modelin genel F değerini ve buna karşılık gelen p değerini analiz etmemiz gerekir:

• Genel F değeri: 47,9952
• P değeri: 0,000

Bu p değeri 0,05’ten küçük olduğundan sıfır hipotezini reddedebiliriz. Yani ders çalışılan saat ile sınav puanları arasında istatistiksel olarak anlamlı bir ilişki vardır.

Örnek 2: Çoklu doğrusal regresyon

Bir profesörün, öğrencilerinin sınıfında kazanacağı notu tahmin etmek için çalışılan saat sayısını ve girilen hazırlık sınavlarının sayısını kullanmak istediğini varsayalım. 20 öğrenciden veri topluyor ve çoklu doğrusal regresyon modeline uyuyor.

Aşağıdaki ekran görüntüsü regresyon modelinin sonucunu göstermektedir:

Uygun çoklu doğrusal regresyon modeli:

Sınav puanı = 67,67 + 5,56*(çalışılan saat) – 0,60*(girilen hazırlık sınavları)

İki yordayıcı değişken ile yanıt değişkeni arasında istatistiksel olarak anlamlı bir ilişki olup olmadığını belirlemek için modelin genel F değerini ve buna karşılık gelen p değerini analiz etmemiz gerekir:

• Genel F değeri: 23,46
• P değeri: 0,00

Bu p değeri 0,05’ten küçük olduğundan sıfır hipotezini reddedebiliriz. Başka bir deyişle, çalışılan saatlerin ve girilen hazırlık sınavlarının sınav sonuçlarıyla istatistiksel olarak anlamlı bir ilişkisi vardır.

Not: Girilen hazırlık sınavlarının p değeri (p = 0,52) anlamlı olmasa da, hazırlık sınavları ile çalışılan saatlerin birleşimi sınav sonuçlarıyla anlamlı bir ilişkiye sahiptir.

Ek kaynaklar

Regresyonda Genel Önem için F Testini Anlamak
Regresyon Tablosu Nasıl Okunmalı ve Yorumlanmalı
Regresyon sonuçları nasıl raporlanır?
Excel’de basit doğrusal regresyon nasıl gerçekleştirilir
Excel’de çoklu doğrusal regresyon nasıl gerçekleştirilir