L’obiettivo della PCA \u00e8 spiegare la maggior parte della variabilit\u00e0 in un set di dati con meno variabili rispetto al set di dati originale.<\/span><\/p>\n Per un dato set di dati con variabili p<\/em> , potremmo esaminare i grafici a dispersione di ciascuna combinazione di variabili a coppie, ma il numero di grafici a dispersione pu\u00f2 aumentare molto rapidamente.<\/span><\/p>\n Per i predittori p<\/em> esistono nuvole di punti p(p-1)\/2.<\/span><\/p>\n Quindi, per un set di dati con p = 15 predittori, ci sarebbero 105 diversi grafici a dispersione!<\/span><\/p>\n Fortunatamente, la PCA offre un modo per trovare una rappresentazione a bassa dimensionalit\u00e0 di un set di dati che catturi la maggior quantit\u00e0 possibile di variazioni nei dati.<\/span><\/p>\n Se riuscissimo a catturare la maggior parte della variazione in sole due dimensioni, potremmo proiettare tutte le osservazioni del set di dati originale su un semplice grafico a dispersione.<\/span><\/p>\n Il modo in cui troviamo i componenti principali \u00e8 il seguente:<\/span><\/p>\n Dato<\/sub> un<\/sub> set di dati<\/sub> con<\/sub> p<\/em> predittori<\/sub> :<\/em> _<\/em><\/span><\/p>\n In pratica, utilizziamo i seguenti passaggi per calcolare le combinazioni lineari dei predittori originali:<\/span><\/p>\n 1.<\/strong> Scala ciascuna variabile in modo che abbia una media pari a 0 e una deviazione standard pari a 1.<\/span><\/p>\n 2.<\/strong> Calcolare la matrice di covarianza per le variabili scalate.<\/span><\/p>\n 3.<\/strong> Calcola gli autovalori della matrice di covarianza.<\/span><\/p>\n Utilizzando l’algebra lineare, possiamo dimostrare che l’autovettore che corrisponde all’autovalore pi\u00f9 grande \u00e8 la prima componente principale. In altre parole, questa particolare combinazione di predittori spiega la maggiore varianza nei dati.<\/span><\/p>\n L’autovettore corrispondente al secondo autovalore pi\u00f9 grande \u00e8 la seconda componente principale e cos\u00ec via.<\/span><\/p>\n Questo tutorial fornisce un esempio passo passo di come eseguire questo processo in R.<\/span><\/p>\n Per prima cosa caricheremo il pacchetto Tidyverse<\/strong> , che contiene diverse funzioni utili per visualizzare e manipolare i dati:<\/span><\/p>\n Per questo esempio, utilizzeremo il set di dati USArrests<\/em> integrato in R, che contiene il numero di arresti per 100.000 residenti in ciascuno stato degli Stati Uniti nel 1973 per omicidio<\/em> , aggressione<\/em> e stupro<\/em> .<\/span><\/p>\n Include anche la percentuale della popolazione di ciascuno stato che vive in aree urbane, UrbanPop<\/em> .<\/span><\/p>\n Il codice seguente mostra come caricare e visualizzare le prime righe del set di dati:<\/span><\/p>\n Dopo aver caricato i dati, possiamo utilizzare la funzione integrata prcomp()<\/strong> di R per calcolare i componenti principali del set di dati.<\/span><\/p>\n Assicurati di specificare scale = TRUE<\/strong> in modo che ciascuna delle variabili nel set di dati venga ridimensionata per avere una media pari a 0 e una deviazione standard pari a 1 prima di calcolare i componenti principali.<\/span><\/p>\n Si noti inoltre che gli autovettori in R puntano nella direzione negativa per impostazione predefinita, quindi moltiplicheremo per -1 per invertire i segni.<\/span><\/p>\n Possiamo vedere che la prima componente principale (PC1) ha valori elevati per omicidio, aggressione e stupro, indicando che questa componente principale descrive la variazione maggiore in queste variabili.<\/span><\/p>\n Possiamo anche vedere che la seconda componente principale (PC2) ha un valore elevato per UrbanPop, indicando che questa componente principale enfatizza la popolazione urbana.<\/span><\/p>\n Tieni presente che i punteggi dei componenti principali per ciascuno stato sono archiviati in results$x<\/strong> . Moltiplicheremo anche questi punteggi per -1 per invertire i segni:<\/span><\/p>\n Successivamente, possiamo creare un biplot<\/strong> , un grafico che proietta ciascuna delle osservazioni nel set di dati su un grafico a dispersione che utilizza la prima e la seconda componente principale come assi:<\/span><\/p>\n Si noti che scale = 0<\/strong> garantisce che le frecce nel grafico siano ridimensionate per rappresentare i carichi.<\/span> <\/p>\n Dalla trama possiamo vedere ciascuno dei 50 stati rappresentati in un semplice spazio bidimensionale.<\/span><\/p>\n Gli stati vicini tra loro nel grafico hanno modelli di dati simili rispetto alle variabili nel set di dati originale.<\/span><\/p>\n Possiamo anche vedere che alcuni stati sono pi\u00f9 fortemente associati a determinati crimini rispetto ad altri. Ad esempio, la Georgia \u00e8 lo stato pi\u00f9 vicino alla variabile Omicidio<\/em> nella trama.<\/span><\/p>\n Se guardiamo gli stati con il tasso di omicidi pi\u00f9 alto nel set di dati originale, possiamo vedere che la Georgia \u00e8 effettivamente in cima alla lista:<\/span><\/p>\n Possiamo utilizzare il seguente codice per calcolare la varianza totale nel set di dati originale spiegata da ciascuna componente principale:<\/span><\/p>\n Dai risultati possiamo osservare quanto segue:<\/span><\/p>\n Pertanto, le prime due componenti principali spiegano la maggior parte della varianza totale dei dati.<\/span><\/p>\n Questo \u00e8 un buon segno perch\u00e9 il biplot precedente proiettava ciascuna delle osservazioni dei dati originali su un grafico a dispersione che teneva conto solo delle prime due componenti principali.<\/span><\/p>\n Pertanto, \u00e8 valido esaminare i modelli nel biplot per identificare stati simili tra loro.<\/span><\/p>\n Possiamo anche creare uno scree plot<\/strong> \u2013 un grafico che mostra la varianza totale spiegata da ciascun componente principale \u2013 per visualizzare i risultati della PCA:<\/span> <\/p>\n In pratica, la PCA viene utilizzata pi\u00f9 spesso per due motivi:<\/span><\/p>\n 1. Analisi esplorativa dei dati<\/strong> : utilizziamo la PCA quando esploriamo per la prima volta un set di dati e vogliamo capire quali osservazioni nei dati sono pi\u00f9 simili tra loro.<\/span><\/p>\n 2. Regressione delle componenti principali<\/strong> \u2013 Possiamo anche utilizzare la PCA per calcolare le componenti principali che possono poi essere utilizzate nella regressione delle componenti principali<\/a> . Questo tipo di regressione viene spesso utilizzato quando \u00e8 presente multicollinearit\u00e0<\/a> tra i predittori in un set di dati.<\/span><\/p>\n\n
Passaggio 1: caricare i dati<\/strong><\/span><\/h3>\n
library<\/span> (tidyverse)\n<\/strong><\/pre>\n #load data<\/span>\ndata<\/span><\/span> (\"USArrests\")<\/span>\n\n#view first six rows of data<\/span>\nhead(USArrests)\n\n Murder Assault UrbanPop Rape\nAlabama 13.2 236 58 21.2\nAlaska 10.0 263 48 44.5\nArizona 8.1 294 80 31.0\nArkansas 8.8 190 50 19.5\nCalifornia 9.0 276 91 40.6\nColorado 7.9 204 78 38.7\n<\/strong><\/pre>\n Passaggio 2: calcolare i componenti principali<\/strong><\/h3>\n
#calculate main components\n<\/span>results <- prcomp(USArrests, scale = TRUE<\/span> )\n\n#reverse the signs\n<\/span>results$rotation <- -1*results$rotation\n\n#display main components\n<\/span>results$rotation\n\n PC1 PC2 PC3 PC4\nMurder 0.5358995 -0.4181809 0.3412327 -0.64922780\nAssault 0.5831836 -0.1879856 0.2681484 0.74340748\nUrbanPop 0.2781909 0.8728062 0.3780158 -0.13387773\nRape 0.5434321 0.1673186 -0.8177779 -0.08902432<\/strong><\/pre>\n #reverse the signs of the scores\n<\/span>results$x <- -1*results$x\n\n#display the first six scores\nhead(results$x)<\/span>\n<\/span>\n PC1 PC2 PC3 PC4\nAlabama 0.9756604 -1.1220012 0.43980366 -0.154696581\nAlaska 1.9305379 -1.0624269 -2.01950027 0.434175454\nArizona 1.7454429 0.7384595 -0.05423025 0.826264240\nArkansas -0.1399989 -1.1085423 -0.11342217 0.180973554\nCalifornia 2.4986128 1.5274267 -0.59254100 0.338559240\nColorado 1.4993407 0.9776297 -1.08400162 -0.001450164\n<\/span><\/strong><\/pre>\n Passaggio 3: Visualizza i risultati con un biplot<\/strong><\/h3>\n
biplot(results, scale = 0<\/span> )\n<\/strong><\/pre>\n![\"Biplot](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/pca1.png\")
<\/p>\n #display states with highest murder rates in original dataset<\/span>\nhead(USArrests[ order<\/span> (-USArrests$Murder),])\n\n Murder Assault UrbanPop Rape\nGeorgia 17.4 211 60 25.8\nMississippi 16.1 259 44 17.1\nFlorida 15.4 335 80 31.9\nLouisiana 15.4 249 66 22.2\nSouth Carolina 14.4 279 48 22.5\nAlabama 13.2 236 58 21.2<\/strong><\/pre>\n Passaggio 4: Trova la varianza spiegata da ciascuna componente principale<\/strong><\/span><\/h3>\n
#calculate total variance explained by each principal component\n<\/span>results$sdev^2 \/ sum<\/span> (results$sdev^2)\n\n[1] 0.62006039 0.24744129 0.08914080 0.04335752\n<\/strong><\/pre>\n\n
#calculate total variance explained by each principal component\n<\/span>var_explained = results$sdev^2 \/ sum<\/span> (results$sdev^2)\n\n#create scree plot\n<\/span>qplot(c(1:4), var_explained) + \n geom_line() + \n xlab(\" Principal Component<\/span> \") + \n ylab(\" Variance Explained<\/span> \") +\n ggtitle(\" Scree Plot<\/span> \") +\n ylim(0, 1)<\/strong> <\/pre>\n![\"Terreno](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/pca2.png\")
<\/p>\n Analisi delle componenti principali nella pratica<\/strong><\/span><\/h3>\n
\n