R'de loess regresyon nasıl gerçekleştirilir (örnekle)

Bazen yerel regresyon olarak da adlandırılan LOESS regresyonu , bir regresyon modelini bir veri kümesine sığdırmak için yerel ayarlamayı kullanan bir yöntemdir.

Aşağıdaki adım adım örnek, R’de LOESS regresyonunun nasıl gerçekleştirileceğini gösterir.

1. Adım: Verileri oluşturun

Öncelikle R’de aşağıdaki veri çerçevesini oluşturalım:

 #view DataFrame
df <- data. frame (x=c(1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14),
                 y=c(1, 4, 7, 13, 19, 24, 20, 15, 13, 11, 15, 18, 22, 27))

#view first six rows of data frame
head(df)

  xy
1 1 1
2 2 4
3 3 7
4 4 13
5 5 19
6 6 24

Adım 2: Birden fazla LOESS regresyon modelini yerleştirin

Span parametresi için farklı değerler kullanarak birden fazla LOESS regresyon modelini bu veri kümesine sığdırmak için loess() işlevini kullanabiliriz:

 #fit several LOESS regression models to dataset
loess50 <- loess(y ~ x, data=df, span= .5 )
smooth50 <- predict(loess50) 

loess75 <- loess(y ~ x, data=df, span= .75 )
smooth75 <- predict(loess75) 

loess90 <- loess(y ~ x, data=df, span= .9 )
smooth90 <- predict(loess90) 

#create scatterplot with each regression line overlaid
plot(df$x, df$y, pch= 19 , main=' Loess Regression Models ')
lines(smooth50, x=df$x, col=' red ')
lines(smooth75, x=df$x, col=' purple ')
lines(smooth90, x=df$x, col=' blue ')
legend(' bottomright ', legend=c(' .5 ', ' .75 ', ' .9 '),
        col=c(' red ', ' purple ', ' blue '), pch= 19 , title=' Smoothing Span ')

Span için kullandığımız değer ne kadar düşük olursa, regresyon modelinin o kadar az “pürüzsüz” olacağını ve modelin veri noktalarına uymaya o kadar fazla çalışacağını unutmayın.

Adım 3: En İyi Modeli Bulmak için K-Fold Çapraz Doğrulamayı Kullanın

Kullanılacak en uygun kapsam değerini bulmak için, düzeltme paketindeki işlevleri kullanarak k-katlı çapraz doğrulama gerçekleştirebiliriz:

 library (caret)

#define k-fold cross validation method
ctrl <- trainControl(method = " cv ", number = 5 )
grid <- expand. grid (span = seq( 0.5 , 0.9 , len = 5 ), degree = 1 )

#perform cross-validation using smoothing spans ranging from 0.5 to 0.9
model <- train(y ~ x, data = df, method = " gamLoess ", tuneGrid=grid, trControl = ctrl)

#print results of k-fold cross-validation
print (model)

14 samples
 1 predictor

No pre-processing
Resampling: Cross-Validated (5 fold) 
Summary of sample sizes: 12, 11, 11, 11, 11 
Resampling results across tuning parameters:

  span RMSE Rsquared MAE      
  0.5 10.148315 0.9570137 6.467066
  0.6 7.854113 0.9350278 5.343473
  0.7 6.113610 0.8150066 4.769545
  0.8 17.814105 0.8202561 11.875943
  0.9 26.705626 0.7384931 17.304833

Tuning parameter 'degree' was held constant at a value of 1
RMSE was used to select the optimal model using the smallest value.
The final values used for the model were span = 0.7 and degree = 1.

Ortalama karekök hata (RMSE) için en düşük değeri üreten span değerinin 0,7 olduğunu görüyoruz.

Dolayısıyla, son LOESS regresyon modelimiz için, loess() fonksiyonundaki span argümanı için 0,7 değerini kullanmayı seçeceğiz.

Ek kaynaklar

Aşağıdaki eğitimler R’deki regresyon modelleri hakkında ek bilgi sağlar:

R’de basit doğrusal regresyon nasıl gerçekleştirilir
R’de çoklu doğrusal regresyon nasıl gerçekleştirilir
R’de lojistik regresyon nasıl gerçekleştirilir
R’de niceliksel regresyon nasıl gerçekleştirilir
R’de ağırlıklı regresyon nasıl gerçekleştirilir