<\/p>\n
Dalam statistik, seleksi bertahap<\/strong> adalah prosedur yang dapat kita gunakan untuk membangun model regresi<\/a> dari sekumpulan variabel prediktor dengan memasukkan dan menghapus prediktor secara bertahap ke dalam model hingga tidak ada lagi alasan yang valid secara statistik untuk masuk. atau hapus lebih banyak.<\/span><\/p>\n Tujuan dari pemilihan bertahap adalah untuk menciptakan model regresi yang mencakup semua variabel prediktor yang secara statistik berhubungan signifikan dengan variabel respon<\/a> .<\/span><\/p>\n Salah satu metode seleksi langkah demi langkah yang paling umum digunakan dikenal sebagai seleksi langsung<\/strong> , yang cara kerjanya sebagai berikut:<\/span><\/span><\/p>\n Langkah 1:<\/strong> Sesuaikan model regresi intersep saja tanpa variabel prediktor. Hitung nilai AIC *<\/strong> untuk model tersebut.<\/span><\/p>\n Langkah 2:<\/strong> Cocokkan semua kemungkinan model regresi satu prediktor. Identifikasi model yang menghasilkan AIC terendah dan juga mengalami penurunan AIC yang signifikan secara statistik dibandingkan dengan model intersep saja.<\/span><\/p>\n Langkah 3:<\/strong> Sesuaikan semua model regresi dengan dua kemungkinan prediktor. Identifikasi model yang menghasilkan AIC terendah dan juga mengalami penurunan AIC yang signifikan secara statistik dibandingkan dengan model satu prediksi.<\/span><\/p>\n Ulangi proses ini hingga pemasangan model regresi dengan lebih banyak variabel prediktor tidak lagi menghasilkan penurunan AIC yang signifikan secara statistik.<\/span><\/p>\n *<\/strong> Ada beberapa metrik yang dapat Anda gunakan untuk menghitung kesesuaian model regresi, termasuk kesalahan prediksi validasi silang, Cp, BIC, AIC, atau R2<\/sup> yang disesuaikan.<\/span> Pada contoh di bawah ini, kami memilih untuk menggunakan AIC.<\/span><\/p>\n Contoh berikut menunjukkan cara melakukan seleksi langsung di R.<\/span><\/p>\n Untuk contoh ini, kita akan menggunakan dataset mtcars<\/a> yang ada di dalam R:<\/span><\/p>\n Kami akan menyesuaikan model regresi linier berganda dengan menggunakan mpg<\/em> (mil per galon) sebagai variabel respons dan 10 variabel lainnya dalam kumpulan data sebagai variabel prediktor potensial.<\/span><\/p>\n Kode berikut menunjukkan cara melakukan seleksi langkah demi langkah:<\/span><\/p>\n Berikut cara menafsirkan hasilnya:<\/span><\/p>\n Pertama, kami menyesuaikan model intersep saja. Model ini memiliki AIC 115.94345<\/strong> .<\/span><\/p>\n Kemudian kami memasukkan semua model yang mungkin ke dalam prediktor. Model yang menghasilkan AIC terendah dan juga mengalami penurunan AIC yang signifikan secara statistik dibandingkan dengan model intersep saja menggunakan prediktor berat<\/em> . Model ini memiliki AIC sebesar 73.21736<\/strong> .<\/span><\/p>\n Selanjutnya, kami mencocokkan semua model yang mungkin dengan dua prediktor. Model yang menghasilkan AIC terendah dan juga mengalami penurunan AIC yang signifikan secara statistik dibandingkan dengan model prediktor tunggal yang ditambahkan prediktor silinder<\/em> . Model ini memiliki AIC 63.19800<\/strong> .<\/span><\/p>\n Selanjutnya, kami menyesuaikan semua model yang mungkin ke dalam tiga prediktor. Model yang menghasilkan AIC terendah dan juga mengalami penurunan AIC yang signifikan secara statistik dibandingkan dengan model dua prediktor yang ditambahkan prediktor hp<\/em> . Model ini memiliki AIC sebesar 62.66456<\/strong> .<\/span><\/p>\n Selanjutnya, kami menyesuaikan semua model yang mungkin ke dalam empat prediktor. Ternyata tidak satu pun dari model ini yang menghasilkan pengurangan AIC secara signifikan, jadi kami menghentikan prosedur tersebut.<\/span><\/p>\n Oleh karena itu, model terakhirnya adalah:<\/span><\/p>\n mpg = 38,75 \u2013 3,17*berat \u2013 0,94*silinder \u2013 0,02*hyp<\/strong><\/span><\/p>\n Ternyata upaya untuk menambahkan lebih banyak variabel prediktor ke dalam model tidak menghasilkan penurunan AIC yang signifikan secara statistik.<\/span><\/p>\n Dengan demikian, kami menyimpulkan bahwa model terbaik adalah model dengan tiga variabel prediktif: wt, cyl dan hp.<\/span><\/p>\n Pada contoh sebelumnya, kami memilih untuk menggunakan AIC sebagai metrik untuk mengevaluasi kesesuaian berbagai model regresi.<\/span><\/p>\n AIC adalah singkatan dari Akaike Information Criterion<\/strong> dan dihitung sebagai berikut:<\/span><\/p>\n AIC = 2K \u2013 2 ln<\/em> (L)<\/span><\/p>\n Emas:<\/span><\/p>\n Namun, ada metrik lain yang dapat Anda pilih untuk digunakan guna mengevaluasi kesesuaian model regresi, termasuk kesalahan prediksi validasi silang, Cp, BIC, AIC, atau R2<\/sup> yang disesuaikan.<\/span><\/p>\n Untungnya, sebagian besar perangkat lunak statistik memungkinkan Anda menentukan metrik mana yang ingin Anda gunakan saat memilih secara langsung.<\/span><\/p>\n Tutorial berikut memberikan informasi tambahan tentang model regresi:<\/span><\/p>\n Panduan Multikolinearitas dan VIF dalam Regresi<\/a> Dalam statistik, seleksi bertahap adalah prosedur yang dapat kita gunakan untuk membangun model regresi dari sekumpulan variabel prediktor dengan memasukkan dan menghapus prediktor secara bertahap ke dalam model hingga tidak ada lagi alasan yang valid secara statistik untuk masuk. atau hapus lebih banyak. Tujuan dari pemilihan bertahap adalah untuk menciptakan model regresi yang mencakup semua […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11],"tags":[],"yoast_head":"\n Contoh: seleksi langsung di R<\/strong><\/span><\/h3>\n
#view first six rows of mtcars\n<\/em><\/span>head(mtcars)\n\n mpg cyl disp hp drat wt qsec vs am gear carb\nMazda RX4 21.0 6 160 110 3.90 2.620 16.46 0 1 4 4\nMazda RX4 Wag 21.0 6 160 110 3.90 2.875 17.02 0 1 4 4\nDatsun 710 22.8 4 108 93 3.85 2.320 18.61 1 1 4 1\nHornet 4 Drive 21.4 6 258 110 3.08 3.215 19.44 1 0 3 1\nHornet Sportabout 18.7 8 360 175 3.15 3.440 17.02 0 0 3 2\nValiant 18.1 6 225 105 2.76 3,460 20.22 1 0 3 1\n<\/strong><\/pre>\n #define intercept-only model\n<\/span>intercept_only <- lm(mpg ~ 1, data=mtcars)\n\n#define model with all predictors\n<\/span>all <- lm(mpg ~ ., data=mtcars)\n\n#perform forward stepwise regression\n<\/span>forward <- step(intercept_only, direction=' forward<\/span> ', scope= formula<\/span> (all), trace= 0<\/span> )\n\n#view results of forward stepwise regression<\/span>\nforward$anova\n\n Step Df Deviance Resid. Df Resid. Dev AIC\n1 NA NA 31 1126.0472 115.94345\n2 + wt -1 847.72525 30 278.3219 73.21736\n3 + cyl -1 87.14997 29 191.1720 63.19800\n4 + hp -1 14.55145 28 176.6205 62.66456\n\n#view final model\n<\/span>forward$coefficients\n\n(Intercept) wt cyl hp \n 38.7517874 -3.1669731 -0.9416168 -0.0180381 \n<\/strong><\/pre>\n Catatan tentang penggunaan AIC<\/strong><\/span><\/h3>\n
\n
Sumber daya tambahan<\/strong><\/span><\/h3>\n
Apa yang dianggap sebagai nilai AIC yang baik?<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"