पिछड़ा चयन क्या है? (परिभाषा & #038; उदाहरण)

आँकड़ों में, चरणबद्ध चयन एक ऐसी प्रक्रिया है जिसका उपयोग हम मॉडल में चरण-दर-चरण तरीके से भविष्यवक्ताओं को दर्ज करके और हटाकर पूर्वसूचक चर के एक सेट से एक प्रतिगमन मॉडल बनाने के लिए कर सकते हैं जब तक कि प्रवेश करने के लिए कोई सांख्यिकीय रूप से मान्य कारण न रह जाए। या और हटाएं.

चरणबद्ध चयन का लक्ष्य एक प्रतिगमन मॉडल बनाना है जिसमें सभी भविष्यवक्ता चर शामिल हैं जो सांख्यिकीय रूप से प्रतिक्रिया चर से महत्वपूर्ण रूप से संबंधित हैं।

सबसे अधिक उपयोग की जाने वाली चरण-दर-चरण चयन विधियों में से एक को बैकवर्ड चयन के रूप में जाना जाता है, जो निम्नानुसार काम करती है:

चरण 1: सभी पी भविष्यवक्ता चर का उपयोग करके एक प्रतिगमन मॉडल फिट करें। मॉडल के लिए AIC * मान की गणना करें।

चरण 2: भविष्यवक्ता चर को हटा दें जिसके परिणामस्वरूप एआईसी में सबसे बड़ी कमी आती है और सभी पी भविष्यवक्ता चर वाले मॉडल की तुलना में एआईसी में सांख्यिकीय रूप से महत्वपूर्ण कमी आती है।

चरण 3: भविष्यवक्ता चर को हटा दें जिसके परिणामस्वरूप एआईसी में सबसे बड़ी कमी आती है और पी-1 भविष्यवक्ता चर वाले मॉडल की तुलना में एआईसी में सांख्यिकीय रूप से महत्वपूर्ण कमी आती है।

प्रक्रिया को तब तक दोहराएँ जब तक कि किसी भी भविष्यवक्ता चर को हटाने से एआईसी में सांख्यिकीय रूप से महत्वपूर्ण कमी न हो जाए।

* ऐसे कई मेट्रिक्स हैं जिनका उपयोग आप रिग्रेशन मॉडल के फिट की अच्छाई की गणना करने के लिए कर सकते हैं, जिसमें क्रॉस-वैलिडेशन भविष्यवाणी त्रुटि, सीपी, बीआईसी, एआईसी, या समायोजित ^{आर 2} शामिल हैं। नीचे दिए गए उदाहरण में, हम AIC का उपयोग करना चुनते हैं।

निम्नलिखित उदाहरण दिखाता है कि आर में बैकवर्ड चयन कैसे करें।

उदाहरण: आर में पिछड़ा चयन

इस उदाहरण के लिए, हम R में निर्मित mtcars डेटासेट का उपयोग करेंगे:

 #view first six rows of mtcars
head(mtcars)

                   mpg cyl disp hp drat wt qsec vs am gear carb
Mazda RX4 21.0 6 160 110 3.90 2.620 16.46 0 1 4 4
Mazda RX4 Wag 21.0 6 160 110 3.90 2.875 17.02 0 1 4 4
Datsun 710 22.8 4 108 93 3.85 2.320 18.61 1 1 4 1
Hornet 4 Drive 21.4 6 258 110 3.08 3.215 19.44 1 0 3 1
Hornet Sportabout 18.7 8 360 175 3.15 3.440 17.02 0 0 3 2
Valiant 18.1 6 225 105 2.76 3,460 20.22 1 0 3 1

हम प्रतिक्रिया चर के रूप में एमपीजी (मील प्रति गैलन) और संभावित भविष्यवक्ता चर के रूप में डेटा सेट में अन्य 10 चर का उपयोग करके एक एकाधिक रैखिक प्रतिगमन मॉडल फिट करेंगे।

निम्नलिखित कोड दिखाता है कि पीछे की ओर कैसे कदम बढ़ाया जाए:

 #define intercept-only model
intercept_only <- lm(mpg ~ 1, data=mtcars)

#define model with all predictors
all <- lm(mpg ~ ., data=mtcars)

#perform backward stepwise regression
backward <- step(all, direction=' backward ', scope= formula (all), trace=0)

#view results of backward stepwise regression
backward$anova

    Step Df Deviance Resid. Df Resid. Dev AIC
1 NA NA 21 147.4944 70.89774
2 - cyl 1 0.07987121 22 147.5743 68.91507
3 - vs 1 0.26852280 23 147.8428 66.97324
4 - carb 1 0.68546077 24 148.5283 65.12126
5 - gear 1 1.56497053 25 150.0933 63.45667
6 - drat 1 3.34455117 26 153.4378 62.16190
7 - available 1 6.62865369 27 160.0665 61.51530
8 - hp 1 9.21946935 28 169.2859 61.30730

#view final model
backward$coefficients

(Intercept) wt qsec am 
   9.617781 -3.916504 1.225886 2.935837

यहां परिणामों की व्याख्या करने का तरीका बताया गया है:

सबसे पहले, हम 10 भविष्यवक्ता चर का उपयोग करके एक मॉडल फिट करते हैं और मॉडल के एआईसी की गणना करते हैं।

इसके बाद, हमने वेरिएबल ( सिल ) को हटा दिया जिसके परिणामस्वरूप एआईसी में सबसे बड़ी कमी आई और 10 प्रेडिक्टर वेरिएबल मॉडल की तुलना में एआईसी में सांख्यिकीय रूप से महत्वपूर्ण कमी भी प्राप्त हुई।

इसके बाद, हमने वेरिएबल ( बनाम ) को हटा दिया जिसके कारण एआईसी में सबसे बड़ी कमी आई और 9-प्रीडिक्टर प्रेडिक्टर वेरिएबल मॉडल की तुलना में एआईसी में सांख्यिकीय रूप से महत्वपूर्ण कमी भी प्राप्त हुई।

इसके बाद, हमने वेरिएबल ( कार्ब ) को हटा दिया जिसके परिणामस्वरूप एआईसी में सबसे बड़ी कमी आई और 8-भविष्यवक्ता वेरिएबल मॉडल की तुलना में एआईसी में सांख्यिकीय रूप से महत्वपूर्ण कमी भी प्राप्त हुई।

हमने इस प्रक्रिया को तब तक दोहराया जब तक कि किसी भी वेरिएबल को हटाने से एआईसी में सांख्यिकीय रूप से महत्वपूर्ण कमी न हो जाए।

अंतिम मॉडल यह निकला:

एमपीजी = 9.62 – 3.92*वजन + 1.23*क्यूसेकंड + 2.94*एएम

एआईसी का उपयोग करने पर एक नोट

पिछले उदाहरण में, हमने विभिन्न प्रतिगमन मॉडलों के फिट का मूल्यांकन करने के लिए एक मीट्रिक के रूप में एआईसी का उपयोग करना चुना।

AIC का मतलब Akaike सूचना मानदंड है और इसकी गणना इस प्रकार की जाती है:

एआईसी = 2K – 2 एलएन (एल)

सोना:

• K: मॉडल मापदंडों की संख्या।
• एलएन (एल) : मॉडल की लॉग-संभावना। यह हमें डेटा दिए जाने पर मॉडल की संभावना बताता है।

हालाँकि, ऐसे अन्य मेट्रिक्स हैं जिनका उपयोग आप रिग्रेशन मॉडल के फिट का मूल्यांकन करने के लिए चुन सकते हैं, जिसमें क्रॉस-वैलिडेशन भविष्यवाणी त्रुटि, सीपी, बीआईसी, एआईसी, या समायोजित ^{आर 2} शामिल हैं।

सौभाग्य से, अधिकांश सांख्यिकीय सॉफ़्टवेयर आपको यह निर्दिष्ट करने की अनुमति देते हैं कि पूर्वव्यापी स्क्रीनिंग करते समय आप किस मीट्रिक का उपयोग करना चाहते हैं।

अतिरिक्त संसाधन

निम्नलिखित ट्यूटोरियल प्रतिगमन मॉडल के बारे में अतिरिक्त जानकारी प्रदान करते हैं:

प्रत्यक्ष चयन का परिचय
प्रतिगमन में बहुसंरेखता और वीआईएफ के लिए एक गाइड
एक अच्छा AIC मान क्या माना जाता है?