Das Ziel der PCA besteht darin, den gr\u00f6\u00dften Teil der Variabilit\u00e4t in einem Datensatz mit weniger Variablen als im Originaldatensatz zu erkl\u00e4ren.<\/span><\/p>\n F\u00fcr einen gegebenen Datensatz mit p<\/em> Variablen k\u00f6nnten wir die Streudiagramme jeder paarweisen Kombination von Variablen untersuchen, aber die Anzahl der Streudiagramme kann sehr schnell gro\u00df werden.<\/span><\/p>\n F\u00fcr p<\/em> Pr\u00e4diktoren gibt es p(p-1)\/2 Punktwolken.<\/span><\/p>\n F\u00fcr einen Datensatz mit p = 15 Pr\u00e4diktoren g\u00e4be es also 105 verschiedene Streudiagramme!<\/span><\/p>\n Gl\u00fccklicherweise bietet PCA eine M\u00f6glichkeit, eine niedrigdimensionale Darstellung eines Datensatzes zu finden, die m\u00f6glichst viele Variationen in den Daten erfasst.<\/span><\/p>\n Wenn wir den Gro\u00dfteil der Variation in nur zwei Dimensionen erfassen k\u00f6nnen, k\u00f6nnten wir alle Beobachtungen aus dem Originaldatensatz auf ein einfaches Streudiagramm projizieren.<\/span><\/p>\n Wir finden die Hauptkomponenten wie folgt:<\/span><\/p>\n Gegeben sei<\/sub> ein<\/sub> Datensatz<\/sub> mit<\/sub> p<\/em> Pr\u00e4diktoren<\/sub> :<\/em> _<\/em><\/span><\/p>\n In der Praxis verwenden wir die folgenden Schritte, um die Linearkombinationen der urspr\u00fcnglichen Pr\u00e4diktoren zu berechnen:<\/span><\/p>\n 1.<\/strong> Skalieren Sie jede Variable so, dass sie einen Mittelwert von 0 und eine Standardabweichung von 1 hat.<\/span><\/p>\n 2.<\/strong> Berechnen Sie die Kovarianzmatrix f\u00fcr die skalierten Variablen.<\/span><\/p>\n 3.<\/strong> Berechnen Sie die Eigenwerte der Kovarianzmatrix.<\/span><\/p>\n Mithilfe der linearen Algebra k\u00f6nnen wir zeigen, dass der Eigenvektor, der dem gr\u00f6\u00dften Eigenwert entspricht, die erste Hauptkomponente ist. Mit anderen Worten: Diese spezielle Kombination von Pr\u00e4diktoren erkl\u00e4rt die gr\u00f6\u00dfte Varianz in den Daten.<\/span><\/p>\n Der Eigenvektor, der dem zweitgr\u00f6\u00dften Eigenwert entspricht, ist die zweite Hauptkomponente und so weiter.<\/span><\/p>\n Dieses Tutorial bietet ein schrittweises Beispiel f\u00fcr die Durchf\u00fchrung dieses Prozesses in R.<\/span><\/p>\n Wir laden zun\u00e4chst das Tidyverse-<\/strong> Paket, das mehrere n\u00fctzliche Funktionen zur Visualisierung und Bearbeitung von Daten enth\u00e4lt:<\/span><\/p>\n F\u00fcr dieses Beispiel verwenden wir den in R integrierten Datensatz USArrests<\/em> , der die Anzahl der Festnahmen pro 100.000 Einwohner in jedem US-Bundesstaat im Jahr 1973 wegen Mordes<\/em> , K\u00f6rperverletzung<\/em> und Vergewaltigung<\/em> enth\u00e4lt.<\/span><\/p>\n Es umfasst auch den Prozentsatz der Bev\u00f6lkerung jedes Staates, der in st\u00e4dtischen Gebieten lebt, UrbanPop<\/em> .<\/span><\/p>\n Der folgende Code zeigt, wie die ersten Zeilen des Datensatzes geladen und angezeigt werden:<\/span><\/p>\n Nach dem Laden der Daten k\u00f6nnen wir die in R integrierte Funktion prcomp()<\/strong> verwenden, um die Hauptkomponenten des Datensatzes zu berechnen.<\/span><\/p>\n Stellen Sie sicher, dass Sie \u201escale = TRUE\u201c<\/strong> angeben, damit jede der Variablen im Datensatz vor der Berechnung der Hauptkomponenten so skaliert wird, dass sie einen Mittelwert von 0 und eine Standardabweichung von 1 aufweist.<\/span><\/p>\n Beachten Sie au\u00dferdem, dass die Eigenvektoren in R standardm\u00e4\u00dfig in die negative Richtung zeigen, sodass wir mit -1 multiplizieren, um die Vorzeichen umzukehren.<\/span><\/p>\n Wir k\u00f6nnen sehen, dass die erste Hauptkomponente (PC1) hohe Werte f\u00fcr Mord, K\u00f6rperverletzung und Vergewaltigung aufweist, was darauf hindeutet, dass diese Hauptkomponente die gr\u00f6\u00dfte Variation dieser Variablen beschreibt.<\/span><\/p>\n Wir k\u00f6nnen auch sehen, dass die zweite Hauptkomponente (PC2) einen hohen Wert f\u00fcr UrbanPop hat, was darauf hindeutet, dass diese Hauptkomponente die st\u00e4dtische Bev\u00f6lkerung hervorhebt.<\/span><\/p>\n Beachten Sie, dass die Hauptkomponentenwerte f\u00fcr jeden Zustand in results$x<\/strong> gespeichert werden. Wir werden diese Werte auch mit -1 multiplizieren, um die Vorzeichen umzukehren:<\/span><\/p>\n Als N\u00e4chstes k\u00f6nnen wir ein Biplot<\/strong> erstellen \u2013 ein Diagramm, das jede der Beobachtungen im Datensatz auf ein Streudiagramm projiziert, das die erste und zweite Hauptkomponente als Achsen verwendet:<\/span><\/p>\n Beachten Sie, dass Scale = 0<\/strong> sicherstellt, dass die Pfeile im Diagramm so skaliert werden, dass sie die Belastungen darstellen.<\/span> <\/p>\n Aus der Darstellung k\u00f6nnen wir jeden der 50 Zust\u00e4nde sehen, die in einem einfachen zweidimensionalen Raum dargestellt werden.<\/span><\/p>\n In der Grafik nahe beieinander liegende Staaten weisen \u00e4hnliche Datenmuster in Bezug auf die Variablen im Originaldatensatz auf.<\/span><\/p>\n Wir k\u00f6nnen auch sehen, dass einige Staaten st\u00e4rker mit bestimmten Straftaten in Verbindung gebracht werden als andere. Beispielsweise ist Georgia der Staat, der der Variable \u201eMurder\u201c<\/em> in der Handlung am n\u00e4chsten kommt.<\/span><\/p>\n Wenn wir uns die Bundesstaaten mit den h\u00f6chsten Mordraten im Originaldatensatz ansehen, k\u00f6nnen wir erkennen, dass Georgia tats\u00e4chlich an der Spitze der Liste steht:<\/span><\/p>\n Wir k\u00f6nnen den folgenden Code verwenden, um die Gesamtvarianz im Originaldatensatz zu berechnen, die durch jede Hauptkomponente erkl\u00e4rt wird:<\/span><\/p>\n Aus den Ergebnissen k\u00f6nnen wir Folgendes beobachten:<\/span><\/p>\n Somit erkl\u00e4ren die ersten beiden Hauptkomponenten den Gro\u00dfteil der Gesamtvarianz in den Daten.<\/span><\/p>\n Dies ist ein gutes Zeichen, da im vorherigen Biplot jede der Beobachtungen aus den Originaldaten auf ein Streudiagramm projiziert wurde, das nur die ersten beiden Hauptkomponenten ber\u00fccksichtigte.<\/span><\/p>\n Daher ist es sinnvoll, die Muster im Biplot zu untersuchen, um Zust\u00e4nde zu identifizieren, die einander \u00e4hnlich sind.<\/span><\/p>\n Wir k\u00f6nnen auch ein Scree-Plot<\/strong> erstellen \u2013 ein Diagramm, das die durch jede Hauptkomponente erkl\u00e4rte Gesamtvarianz anzeigt \u2013, um die PCA-Ergebnisse zu visualisieren:<\/span> <\/p>\n In der Praxis wird PCA aus zwei Gr\u00fcnden am h\u00e4ufigsten verwendet:<\/span><\/p>\n 1. Explorative Datenanalyse<\/strong> \u2013 Wir verwenden PCA, wenn wir zum ersten Mal einen Datensatz untersuchen und verstehen m\u00f6chten, welche Beobachtungen in den Daten einander am \u00e4hnlichsten sind.<\/span><\/p>\n 2. Hauptkomponentenregression<\/strong> \u2013 Wir k\u00f6nnen PCA auch verwenden, um Hauptkomponenten zu berechnen, die dann in der Hauptkomponentenregression<\/a> verwendet werden k\u00f6nnen. Diese Art der Regression wird h\u00e4ufig verwendet, wenn zwischen den Pr\u00e4diktoren in einem Datensatz Multikollinearit\u00e4t<\/a> besteht.<\/span><\/p>\n\n
Schritt 1: Daten laden<\/strong><\/span><\/h3>\n
library<\/span> (tidyverse)\n<\/strong><\/pre>\n #load data<\/span>\ndata<\/span><\/span> (\"USArrests\")<\/span>\n\n#view first six rows of data<\/span>\nhead(USArrests)\n\n Murder Assault UrbanPop Rape\nAlabama 13.2 236 58 21.2\nAlaska 10.0 263 48 44.5\nArizona 8.1 294 80 31.0\nArkansas 8.8 190 50 19.5\nCalifornia 9.0 276 91 40.6\nColorado 7.9 204 78 38.7\n<\/strong><\/pre>\n Schritt 2: Berechnen Sie die Hauptkomponenten<\/strong><\/h3>\n
#calculate main components\n<\/span>results <- prcomp(USArrests, scale = TRUE<\/span> )\n\n#reverse the signs\n<\/span>results$rotation <- -1*results$rotation\n\n#display main components\n<\/span>results$rotation\n\n PC1 PC2 PC3 PC4\nMurder 0.5358995 -0.4181809 0.3412327 -0.64922780\nAssault 0.5831836 -0.1879856 0.2681484 0.74340748\nUrbanPop 0.2781909 0.8728062 0.3780158 -0.13387773\nRape 0.5434321 0.1673186 -0.8177779 -0.08902432<\/strong><\/pre>\n #reverse the signs of the scores\n<\/span>results$x <- -1*results$x\n\n#display the first six scores\nhead(results$x)<\/span>\n<\/span>\n PC1 PC2 PC3 PC4\nAlabama 0.9756604 -1.1220012 0.43980366 -0.154696581\nAlaska 1.9305379 -1.0624269 -2.01950027 0.434175454\nArizona 1.7454429 0.7384595 -0.05423025 0.826264240\nArkansas -0.1399989 -1.1085423 -0.11342217 0.180973554\nCalifornia 2.4986128 1.5274267 -0.59254100 0.338559240\nColorado 1.4993407 0.9776297 -1.08400162 -0.001450164\n<\/span><\/strong><\/pre>\n Schritt 3: Visualisieren Sie die Ergebnisse mit einem Biplot<\/strong><\/h3>\n
biplot(results, scale = 0<\/span> )\n<\/strong><\/pre>\n![\"Biplot](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/pca1.png\")
<\/p>\n #display states with highest murder rates in original dataset<\/span>\nhead(USArrests[ order<\/span> (-USArrests$Murder),])\n\n Murder Assault UrbanPop Rape\nGeorgia 17.4 211 60 25.8\nMississippi 16.1 259 44 17.1\nFlorida 15.4 335 80 31.9\nLouisiana 15.4 249 66 22.2\nSouth Carolina 14.4 279 48 22.5\nAlabama 13.2 236 58 21.2<\/strong><\/pre>\n Schritt 4: Finden Sie die Varianz, die durch jede Hauptkomponente erkl\u00e4rt wird<\/strong><\/span><\/h3>\n
#calculate total variance explained by each principal component\n<\/span>results$sdev^2 \/ sum<\/span> (results$sdev^2)\n\n[1] 0.62006039 0.24744129 0.08914080 0.04335752\n<\/strong><\/pre>\n\n
#calculate total variance explained by each principal component\n<\/span>var_explained = results$sdev^2 \/ sum<\/span> (results$sdev^2)\n\n#create scree plot\n<\/span>qplot(c(1:4), var_explained) + \n geom_line() + \n xlab(\" Principal Component<\/span> \") + \n ylab(\" Variance Explained<\/span> \") +\n ggtitle(\" Scree Plot<\/span> \") +\n ylim(0, 1)<\/strong> <\/pre>\n![\"R-f\u00f6rmiges](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/pca2.png\")
<\/p>\n Hauptkomponentenanalyse in der Praxis<\/strong><\/span><\/h3>\n
\n