Jenis regresi ini berbentuk:<\/span><\/p>\n Y = \u03b2 0<\/sub> +<\/sup> \u03b2 1<\/sub> X + \u03b2 2<\/sub> X 2<\/sup> + \u2026 + \u03b2 h<\/sub><\/span><\/p>\n di mana h<\/em> adalah \u201cderajat\u201d polinomial.<\/span><\/p>\n Tutorial ini memberikan contoh langkah demi langkah tentang cara melakukan regresi polinomial di R.<\/span><\/p>\n Untuk contoh ini, kita akan membuat dataset yang berisi jumlah jam belajar dan nilai ujian akhir untuk kelas yang terdiri dari 50 siswa:<\/span><\/p>\n Sebelum memasang model regresi ke data, pertama-tama mari buat diagram sebar untuk memvisualisasikan hubungan antara jam belajar dan nilai ujian:<\/span> <\/p>\n Kita dapat melihat bahwa data memiliki hubungan yang sedikit kuadrat, yang menunjukkan bahwa regresi polinomial mungkin lebih cocok dengan data dibandingkan regresi linier sederhana.<\/span><\/p>\n Selanjutnya, kita akan memasang lima model regresi polinomial berbeda dengan derajat h<\/em> = 1\u20265 dan menggunakan validasi silang k-fold dengan k = 10 kali untuk menghitung uji MSE untuk setiap model:<\/span><\/p>\n Dari hasilnya kita dapat melihat pengujian MSE untuk masing-masing model:<\/span><\/p>\n Model dengan uji MSE terendah ternyata adalah model regresi polinomial dengan derajat h<\/em> = 2.<\/span><\/p>\n Ini cocok dengan intuisi kita dari diagram sebar asli: model regresi kuadratik paling sesuai dengan data.<\/span><\/p>\n Terakhir, kita dapat memperoleh koefisien model dengan kinerja terbaik:<\/span><\/p>\n Langkah 1: Buat datanya<\/strong><\/span><\/h3>\n
#make this example reproducible<\/span>\nset.seed(1)\n\n#create dataset\n<\/span>df <- data.frame(hours = runif<\/span> (50, 5, 15), score=50)\ndf$score = df$score + df$hours^3\/150 + df$hours* runif<\/span> (50, 1, 2)\n\n#view first six rows of data\n<\/span>head(data)\n\n hours score\n1 7.655087 64.30191\n2 8.721239 70.65430\n3 10.728534 73.66114\n4 14.082078 86.14630\n5 7.016819 59.81595\n6 13.983897 83.60510\n<\/strong><\/pre>\n Langkah 2: Visualisasikan datanya<\/strong><\/span><\/h3>\n
library<\/span> (ggplot2)\n\nggplot(df, aes<\/span> (x=hours, y=score)) +\n geom_point()<\/strong> <\/pre>\n![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/poly1-1.png\")
<\/p>\n Langkah 3: Sesuaikan model regresi polinomial<\/span><\/strong><\/h3>\n
#randomly shuffle data\n<\/span>df.shuffled <- df[ sample<\/span> ( nrow<\/span> (df)),]\n\n#define number of folds to use for k-fold cross-validation\n<\/span>K <- 10 \n\n#define degree of polynomials to fit\n<\/span>degree <- 5\n\n#create k equal-sized folds\n<\/span>folds <- cut( seq<\/span> (1, nrow<\/span> (df.shuffled)), breaks=K, labels= FALSE<\/span> )\n\n#create object to hold MSE's of models\n<\/span>mse = matrix(data=NA,nrow=K,ncol=degree)\n\n#Perform K-fold cross validation\n<\/span>for<\/span> (i in<\/span> 1:K){\n \n#define training and testing data\n<\/span>testIndexes <- which<\/span> (folds==i,arr.ind= TRUE<\/span> )\n testData <- df.shuffled[testIndexes, ]\n trainData <- df.shuffled[-testIndexes, ]\n \n#use k-fold cv to evaluate models\n<\/span>for (j in 1:degree){\n fit.train = lm<\/span> (score ~ poly<\/span> (hours,d), data=trainData)\n fit.test = predict<\/span> (fit.train, newdata=testData)\n mse[i,j] = mean<\/span> ((fit.test-testData$score)^2) \n }\n}\n\n#find MSE for each degree \n<\/span>colMeans(mse)\n\n[1] 9.802397 8.748666 9.601865 10.592569 13.545547\n<\/strong><\/span><\/pre>\n\n
Langkah 4: Analisis model akhir<\/span><\/strong><\/h3>\n
#fit best model<\/span>\nbest = lm<\/span> (score ~ poly<\/span> (hours,2, raw= T<\/span> ), data=df)\n\n#view summary of best model<\/span>\nsummary(best)\n\nCall:\nlm(formula = score ~ poly(hours, 2, raw = T), data = df)\n\nResiduals:\n Min 1Q Median 3Q Max \n-5.6589 -2.0770 -0.4599 2.5923 4.5122 \n\nCoefficients:\n Estimate Std. Error t value Pr(>|t|) \n(Intercept) 54.00526 5.52855 9.768 6.78e-13 ***\npoly(hours, 2, raw = T)1 -0.07904 1.15413 -0.068 0.94569 \npoly(hours, 2, raw = T)2 0.18596 0.05724 3.249 0.00214 ** \n---\nSignificant. codes: 0 '***' 0.001 '**' 0.01 '*' 0.05 '.' 0.1 ' ' 1<\/strong><\/pre>\n
![\"Regresi](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/poly2.png\")
<\/p>\n