<\/p>\n
Salah satu masalah paling umum yang akan Anda temui saat membuat model adalah multikolinearitas<\/a> . Hal ini terjadi ketika dua atau lebih variabel prediktor dalam kumpulan data berkorelasi tinggi.<\/span><\/p>\n Jika hal ini terjadi, model tertentu mungkin dapat menyesuaikan dengan kumpulan data pelatihan dengan baik, namun kemungkinan besar performa model tersebut akan buruk pada kumpulan data baru yang belum pernah dilihat karena model tersebut terlalu cocok dengan<\/a> kumpulan data pelatihan.<\/span><\/p>\n Salah satu cara untuk menghindari overfitting adalah dengan menggunakan beberapa jenis metode pemilihan subset<\/strong> seperti:<\/span><\/p>\n Metode ini berupaya menghilangkan prediktor yang tidak relevan dari model sehingga hanya prediktor terpenting yang mampu memprediksi variasi variabel respons yang tersisa di model akhir.<\/span><\/p>\n Cara lain untuk menghindari overfitting adalah dengan menggunakan beberapa jenis metode regularisasi<\/strong> seperti:<\/span><\/p>\n Metode ini berupaya untuk membatasi atau mengatur<\/em> koefisien suatu model untuk mengurangi varians dan dengan demikian menghasilkan model yang mampu melakukan generalisasi dengan baik pada data baru.<\/span><\/p>\n Pendekatan yang sama sekali berbeda untuk menangani multikolinearitas dikenal sebagai reduksi dimensi<\/strong> .<\/span><\/p>\n Metode pengurangan dimensi yang umum dikenal sebagai regresi komponen utama<\/strong> , yang cara kerjanya sebagai berikut:<\/span><\/p>\n 1.<\/strong> Asumsikan kumpulan<\/sub> data tertentu berisi p<\/em> prediktor<\/sub> :<\/sub><\/span><\/p>\n 2.<\/strong> Hitung Z 1<\/sub> , \u2026 , Z M<\/sub> sebagai kombinasi linier M<\/em> dari prediktor p<\/em> asli.<\/span><\/p>\n 3.<\/strong> Gunakan metode kuadrat terkecil untuk menyesuaikan model regresi linier dengan menggunakan komponen utama M<\/em> pertama Z 1<\/sub> , \u2026, Z M<\/sub> sebagai prediktor.<\/span><\/p>\n Istilah reduksi dimensi<\/strong> berasal dari kenyataan bahwa metode ini hanya harus memperkirakan koefisien M+1 dan bukan koefisien p+1, dimana M < p.<\/span><\/p>\n Dengan kata lain, dimensi<\/em> permasalahan telah dikurangi dari p+1 menjadi M+1.<\/span><\/p>\n Dalam banyak kasus di mana terdapat multikolinearitas dalam kumpulan data, regresi komponen utama mampu menghasilkan model yang dapat menggeneralisasi data baru dengan lebih baik dibandingkan regresi linier berganda<\/a> konvensional.<\/span><\/p>\n Dalam praktiknya, langkah-langkah berikut digunakan untuk melakukan regresi komponen utama:<\/span><\/p>\n 1. Standarisasikan prediktor.<\/strong><\/span><\/p>\n Pertama, kami biasanya membakukan data sedemikian rupa sehingga setiap variabel prediktor memiliki nilai rata-rata 0 dan deviasi standar 1. Hal ini mencegah satu prediktor memiliki pengaruh yang terlalu besar, terutama jika diukur dalam satuan yang berbeda (c yaitu, jika 1<\/sub> diukur dalam inci). dan X 2<\/sub> diukur dalam yard).<\/span><\/p>\n 2. Menghitung komponen utama dan melakukan regresi linier dengan menggunakan komponen utama sebagai prediktor.<\/strong><\/span><\/p>\n Selanjutnya, kita menghitung komponen utama dan menggunakan metode kuadrat terkecil untuk menyesuaikan model regresi linier dengan menggunakan komponen utama M<\/em> pertama Z 1<\/sub> , \u2026, Z M<\/sub> sebagai prediktor.<\/span><\/p>\n 3. Putuskan berapa banyak komponen utama yang harus disimpan.<\/strong><\/span><\/p>\n Selanjutnya, kami menggunakan validasi silang k-fold<\/a> untuk menemukan jumlah komponen utama yang optimal untuk dipertahankan dalam model. Jumlah komponen utama yang \u201coptimal\u201d untuk dipertahankan umumnya adalah jumlah yang menghasilkan mean square error (MSE) terendah dalam pengujian.<\/span><\/p>\n Regresi komponen utama (PCR) menawarkan keuntungan<\/strong> sebagai berikut:<\/span><\/p>\n Namun, PCR memiliki kelemahan:<\/strong><\/span><\/p>\n Dalam praktiknya, kami menyesuaikan berbagai jenis model (PCR, Ridge, Lasso, regresi linier berganda, dll.) dan menggunakan validasi silang k-fold untuk mengidentifikasi model yang menghasilkan uji MSE terendah pada data baru.<\/span><\/p>\n Jika terdapat multikolinearitas pada kumpulan data asli (hal ini sering terjadi), kinerja PCR cenderung lebih baik dibandingkan regresi kuadrat terkecil biasa. Namun, ada baiknya untuk menyesuaikan beberapa model berbeda sehingga Anda dapat mengidentifikasi model mana yang paling baik dalam menggeneralisasi data yang tidak terlihat.<\/span><\/p>\n Tutorial berikut menunjukkan cara melakukan regresi komponen utama dalam R dan Python:<\/span><\/p>\n Regresi Komponen Utama di R (Langkah demi Langkah)<\/a> Salah satu masalah paling umum yang akan Anda temui saat membuat model adalah multikolinearitas . Hal ini terjadi ketika dua atau lebih variabel prediktor dalam kumpulan data berkorelasi tinggi. Jika hal ini terjadi, model tertentu mungkin dapat menyesuaikan dengan kumpulan data pelatihan dengan baik, namun kemungkinan besar performa model tersebut akan buruk pada kumpulan data […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11],"tags":[],"yoast_head":"\n\n
\n
\n
Langkah-Langkah Melakukan Regresi Komponen Utama<\/strong><\/span><\/h3>\n
Keuntungan dan Kerugian Regresi Komponen Utama<\/strong><\/span><\/h3>\n
\n
\n
Regresi Komponen Utama dalam R & Python<\/strong><\/span><\/h3>\n
Regresi Komponen Utama dengan Python (Langkah demi Langkah)<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"