<\/p>\n
Uno dei problemi pi\u00f9 comuni che incontrerai durante la creazione di modelli \u00e8 la multicollinearit\u00e0<\/a> . Ci\u00f2 si verifica quando due o pi\u00f9 variabili predittive in un set di dati sono altamente correlate.<\/span><\/p>\n Quando ci\u00f2 accade, un dato modello potrebbe essere in grado di adattarsi bene a un set di dati di addestramento, ma probabilmente funzioner\u00e0 male su un nuovo set di dati che non ha mai visto perch\u00e9 si adatta eccessivamente<\/a> al set di dati di addestramento.<\/span><\/p>\n Un modo per evitare l’adattamento eccessivo \u00e8 utilizzare un tipo di metodo di selezione del sottoinsieme<\/strong> come:<\/span><\/p>\n Questi metodi tentano di rimuovere i predittori irrilevanti dal modello in modo che nel modello finale vengano lasciati solo i predittori pi\u00f9 importanti in grado di prevedere la variazione nella variabile di risposta.<\/span><\/p>\n Un altro modo per evitare l’overfitting \u00e8 utilizzare qualche tipo di metodo di regolarizzazione<\/strong> come:<\/span><\/p>\n Questi metodi tentano di vincolare o regolarizzare<\/em> i coefficienti di un modello per ridurre la varianza e quindi produrre modelli in grado di generalizzarsi bene a nuovi dati.<\/span><\/p>\n Un approccio completamente diverso per gestire la multicollinearit\u00e0 \u00e8 noto come riduzione dimensionale<\/strong> .<\/span><\/p>\n Un metodo comune di riduzione delle dimensioni \u00e8 noto come regressione delle componenti principali<\/strong> , che funziona come segue:<\/span><\/p>\n 1.<\/strong> Supponiamo che un<\/sub> dato set di dati contenga p<\/em> predittori<\/sub> :<\/sub><\/span><\/p>\n 2.<\/strong> Calcolare Z 1<\/sub> , \u2026 , Z M<\/sub> come le M<\/em> combinazioni lineari dei predittori p<\/em> originali.<\/span><\/p>\n 3.<\/strong> Utilizzare il metodo dei minimi quadrati per adattare un modello di regressione lineare utilizzando le prime M<\/em> componenti principali Z 1<\/sub> , \u2026, Z M<\/sub> come predittori.<\/span><\/p>\n Il termine riduzione di dimensione<\/strong> deriva dal fatto che questo metodo deve stimare solo i coefficienti M+1 invece dei coefficienti p+1, dove M < p.<\/span><\/p>\n In altre parole, la dimensione<\/em> del problema \u00e8 stata ridotta da p+1 a M+1.<\/span><\/p>\n In molti casi in cui \u00e8 presente la multicollinearit\u00e0 in un set di dati, la regressione delle componenti principali \u00e8 in grado di produrre un modello in grado di generalizzare a nuovi dati meglio della regressione lineare multipla<\/a> convenzionale.<\/span><\/p>\n In pratica, per eseguire la regressione delle componenti principali vengono utilizzati i seguenti passaggi:<\/span><\/p>\n 1. Standardizzare i predittori.<\/strong><\/span><\/p>\n Innanzitutto, in genere standardizziamo i dati in modo tale che ciascuna variabile predittrice abbia un valore medio pari a 0 e una deviazione standard pari a 1. Ci\u00f2 impedisce a un predittore di avere troppa influenza, soprattutto se viene misurato in unit\u00e0 diverse (c cio\u00e8 se 1<\/sub> \u00e8 misurato in pollici). e X 2<\/sub> \u00e8 misurato in iarde).<\/span><\/p>\n 2. Calcolare le componenti principali ed eseguire una regressione lineare utilizzando le componenti principali come predittori.<\/strong><\/span><\/p>\n Successivamente, calcoliamo le componenti principali e utilizziamo il metodo dei minimi quadrati per adattare un modello di regressione lineare utilizzando le prime M<\/em> componenti principali Z 1<\/sub> , \u2026, Z M<\/sub> come predittori.<\/span><\/p>\n 3. Decidere quanti componenti principali conservare.<\/strong><\/span><\/p>\n Successivamente, utilizziamo la convalida incrociata k-fold<\/a> per trovare il numero ottimale di componenti principali da mantenere nel modello. Il numero \u201cottimale\u201d di componenti principali da mantenere \u00e8 generalmente il numero che produce l\u2019errore quadratico medio (MSE) pi\u00f9 basso del test.<\/span><\/p>\n La regressione delle componenti principali (PCR) offre i seguenti vantaggi<\/strong> :<\/span><\/p>\n Tuttavia, la PCR presenta uno svantaggio:<\/strong><\/span><\/p>\n In pratica, adattiamo molti tipi diversi di modelli (PCR, Ridge, Lasso, regressione lineare multipla, ecc.) e utilizziamo la convalida incrociata k-fold per identificare il modello che produce il test MSE pi\u00f9 basso sui nuovi dati.<\/span><\/p>\n Nei casi in cui \u00e8 presente la multicollinearit\u00e0 nel set di dati originale (che \u00e8 spesso il caso), la PCR tende a funzionare meglio della regressione ordinaria ai minimi quadrati. Tuttavia, \u00e8 una buona idea adattare diversi modelli in modo da poter identificare quale generalizza meglio i dati invisibili.<\/span><\/p>\n I seguenti tutorial mostrano come eseguire la regressione dei componenti principali in R e Python:<\/span><\/p>\n Regressione delle componenti principali in R (passo dopo passo)<\/a> Uno dei problemi pi\u00f9 comuni che incontrerai durante la creazione di modelli \u00e8 la multicollinearit\u00e0 . Ci\u00f2 si verifica quando due o pi\u00f9 variabili predittive in un set di dati sono altamente correlate. Quando ci\u00f2 accade, un dato modello potrebbe essere in grado di adattarsi bene a un set di dati di addestramento, ma probabilmente […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11],"tags":[],"yoast_head":"\n\n
\n
\n
Passaggi per eseguire la regressione delle componenti principali<\/strong><\/span><\/h3>\n
Vantaggi e svantaggi della regressione delle componenti principali<\/strong><\/span><\/h3>\n
\n
\n
Regressione dei componenti principali in R e Python<\/strong><\/span><\/h3>\n
Regressione dei componenti principali in Python (passo dopo passo)<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"