Wenn dies geschieht, kann ein Modell m\u00f6glicherweise gut an einen Trainingsdatensatz angepasst werden, bei einem neuen Datensatz, den es noch nie gesehen hat, kann es jedoch eine schlechte Leistung erbringen, da es zu stark an den Trainingsdatensatz angepasst ist<\/a> . Trainingsset.<\/span><\/p>\n Eine M\u00f6glichkeit, dieses Problem zu umgehen, besteht darin, eine Methode namens \u201epartielle kleinste Quadrate\u201c<\/a> zu verwenden, die wie folgt funktioniert:<\/span><\/p>\n Dieses Tutorial bietet ein schrittweises Beispiel f\u00fcr die Berechnung partieller kleinster Quadrate in R.<\/span><\/p>\n Der einfachste Weg, partielle kleinste Quadrate in R durchzuf\u00fchren, ist die Verwendung von Funktionen im pls-<\/a> Paket.<\/span><\/p>\n F\u00fcr dieses Beispiel verwenden wir den integrierten R-Datensatz namens mtcars<\/strong> , der Daten zu verschiedenen Fahrzeugtypen enth\u00e4lt:<\/span><\/p>\n F\u00fcr dieses Beispiel passen wir ein Modell der partiellen kleinsten Quadrate (PLS) an, wobei wir hp<\/em> als Antwortvariable<\/a> und die folgenden Variablen als Pr\u00e4diktorvariablen verwenden:<\/span><\/p>\n Der folgende Code zeigt, wie das PLS-Modell an diese Daten angepasst wird. Beachten Sie die folgenden Argumente:<\/span><\/p>\n Sobald wir das Modell angepasst haben, m\u00fcssen wir bestimmen, wie viele PLS-Komponenten wir behalten m\u00f6chten.<\/span><\/p>\n Schauen Sie sich dazu einfach den quadratischen Mittelfehler des Tests (Test-RMSE) an, der durch die K-Kreuzvalidierung berechnet wurde:<\/span><\/p>\n Das Ergebnis enth\u00e4lt zwei interessante Tabellen:<\/span><\/p>\n 1. VALIDIERUNG: RMSEP<\/strong><\/span><\/p>\n Diese Tabelle zeigt uns den RMSE-Test, der durch k-fache Kreuzvalidierung berechnet wurde. Wir k\u00f6nnen Folgendes sehen:<\/span><\/p>\n Wir k\u00f6nnen sehen, dass das Hinzuf\u00fcgen zus\u00e4tzlicher PLS-Komponenten tats\u00e4chlich zu einer Erh\u00f6hung des RMSE des Tests f\u00fchrt. Daher scheint es optimal zu sein, im endg\u00fcltigen Modell nur zwei PLS-Komponenten zu verwenden.<\/span><\/p>\n 2. TRAINING: % der erkl\u00e4rten Varianz<\/strong><\/span><\/p>\n Diese Tabelle zeigt uns den Prozentsatz der Varianz in der Antwortvariablen, die durch die PLS-Komponenten erkl\u00e4rt wird. Wir k\u00f6nnen Folgendes sehen:<\/span><\/p>\n Beachten Sie, dass wir immer noch in der Lage sein werden, mehr Varianz durch die Verwendung von mehr PLS-Komponenten zu erkl\u00e4ren, aber wir k\u00f6nnen sehen, dass das Hinzuf\u00fcgen von mehr als zwei PLS-Komponenten den Prozentsatz der erkl\u00e4rten Varianz nicht wesentlich erh\u00f6ht.<\/span><\/p>\n Wir k\u00f6nnen den RMSE-Test (zusammen mit MSE und R-Quadrat-Test) auch als Funktion der Anzahl der PLS-Komponenten mithilfe der Funktion validationplot()<\/strong> visualisieren.<\/span> <\/p>\n In jedem Diagramm k\u00f6nnen wir sehen, dass sich die Modellanpassung durch das Hinzuf\u00fcgen von zwei PLS-Komponenten verbessert, sich jedoch tendenziell verschlechtert, wenn wir weitere PLS-Komponenten hinzuf\u00fcgen.<\/span><\/p>\n Somit umfasst das optimale Modell nur die ersten beiden PLS-Komponenten.<\/span><\/p>\n Wir k\u00f6nnen das endg\u00fcltige Modell mit zwei PLS-Komponenten verwenden, um Vorhersagen \u00fcber neue Beobachtungen zu treffen.<\/span><\/p>\n Der folgende Code zeigt, wie Sie den Originaldatensatz in einen Trainings- und einen Testsatz aufteilen und das endg\u00fcltige Modell mit zwei PLS-Komponenten verwenden, um Vorhersagen f\u00fcr den Testsatz zu treffen.<\/span><\/p>\n Wir sehen, dass der RMSE des Tests 54,89609<\/strong> betr\u00e4gt. Dies ist die durchschnittliche Abweichung zwischen dem vorhergesagten HP-<\/em> Wert und dem beobachteten HP-<\/em> Wert f\u00fcr die Testsatzbeobachtungen.<\/span><\/p>\n\n
Schritt 1: Laden Sie die erforderlichen Pakete<\/strong><\/span><\/h3>\n
#install pls package (if not already installed)<\/span>\ninstall.packages(\" pls<\/span> \")\n\nload pls package\n<\/span>library(pls)\n<\/strong><\/pre>\n Schritt 2: Passen Sie das Modell der partiellen kleinsten Quadrate an<\/strong><\/span><\/h3>\n
#view first six rows of mtcars dataset<\/span>\nhead(mtcars)\n\n mpg cyl disp hp drat wt qsec vs am gear carb\nMazda RX4 21.0 6 160 110 3.90 2.620 16.46 0 1 4 4\nMazda RX4 Wag 21.0 6 160 110 3.90 2.875 17.02 0 1 4 4\nDatsun 710 22.8 4 108 93 3.85 2.320 18.61 1 1 4 1\nHornet 4 Drive 21.4 6 258 110 3.08 3.215 19.44 1 0 3 1\nHornet Sportabout 18.7 8 360 175 3.15 3.440 17.02 0 0 3 2\nValiant 18.1 6 225 105 2.76 3,460 20.22 1 0 3 1\n<\/strong><\/pre>\n\n
\n
#make this example reproducible\n<\/span>set.seed(1)\n\n#fit PCR model\n<\/span>model <- plsr(hp~mpg+disp+drat+wt+qsec, data=mtcars, scale= TRUE<\/span> , validation=\" CV<\/span> \")<\/strong><\/pre>\n Schritt 3: W\u00e4hlen Sie die Anzahl der PLS-Komponenten<\/strong><\/span><\/h3>\n
#view summary of model fitting\n<\/span>summary(model)\n\nData: \n\tY dimension: 32 1\nFit method: kernelpls\nNumber of components considered: 5\n\nVALIDATION: RMSEP\nCross-validated using 10 random segments.\n (Intercept) 1 comp 2 comps 3 comps 4 comps 5 comps\nCV 69.66 40.57 35.48 36.22 36.74 36.67\nadjCV 69.66 40.41 35.12 35.80 36.27 36.20\n\nTRAINING: % variance explained\n 1 comp 2 comps 3 comps 4 comps 5 comps\nX 68.66 89.27 95.82 97.94 100.00\nhp 71.84 81.74 82.00 82.02 82.03\n<\/strong><\/pre>\n\n
\n
#visualize cross-validation plots\n<\/span>validationplot(model)\nvalidationplot(model, val.type=\" MSEP<\/span> \")\nvalidationplot(model, val.type=\" R2<\/span> \")<\/strong> <\/pre>\n![\"Partielle](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/svpr1.png\")
<\/p>\n![\"MSE-Kreuzvalidierung](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/sil-vous-plaitr2.png\")
<\/p>\n![\"Kreuzvalidierung](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/sil-vous-plaitr3.png\")
<\/p>\n Schritt 4: Verwenden Sie das endg\u00fcltige Modell, um Vorhersagen zu treffen<\/strong><\/span><\/h3>\n
#define training and testing sets\n<\/span>train <- mtcars[1:25, c(\"hp\", \"mpg\", \"disp\", \"drat\", \"wt\", \"qsec\")]\ny_test <- mtcars[26: nrow<\/span> (mtcars), c(\"hp\")]\ntest <- mtcars[26: nrow<\/span> (mtcars), c(\"mpg\", \"disp\", \"drat\", \"wt\", \"qsec\")]\n \n#use model to make predictions on a test set\n<\/span>model <- plsr(hp~mpg+disp+drat+wt+qsec, data=train, scale= TRUE<\/span> , validation=\" CV<\/span> \")\npcr_pred <- predict(model, test, ncomp= 2<\/span> )\n\n#calculate RMSE\n<\/span>sqrt<\/span> ( mean<\/span> ((pcr_pred - y_test)^2))\n\n[1] 54.89609\n<\/strong><\/pre>\n