RSS = \u03a3(y i<\/sub> \u2013 \u0177 i<\/sub> ) 2<\/sup><\/strong><\/span><\/p>\n Ouro:<\/span><\/p>\n No entanto, quando as vari\u00e1veis preditoras s\u00e3o altamente correlacionadas,<\/span> a multicolinearidade<\/a> pode se tornar um problema. Isso pode tornar as estimativas dos coeficientes do modelo pouco confi\u00e1veis e exibir alta vari\u00e2ncia.<\/span><\/p>\n Uma maneira de evitar esse problema \u00e9 usar a regress\u00e3o de componentes principais<\/a> , que encontra M<\/em> combina\u00e7\u00f5es lineares (chamadas de “componentes principais”) dos p<\/em> preditores originais e, em seguida, usa m\u00ednimos quadrados para ajustar um modelo de regress\u00e3o linear usando os componentes principais como preditores.<\/span><\/p>\n Este tutorial fornece um exemplo passo a passo de como realizar a regress\u00e3o de componentes principais em R.<\/span><\/p>\n A maneira mais f\u00e1cil de realizar a regress\u00e3o de componentes principais em R \u00e9 usar fun\u00e7\u00f5es no pacote pls<\/a> .<\/span><\/p>\n Para este exemplo, usaremos o conjunto de dados R integrado chamado mtcars<\/strong> , que cont\u00e9m dados sobre diferentes tipos de carros:<\/span><\/p>\n Para este exemplo, ajustaremos um modelo de regress\u00e3o de componentes principais (PCR) usando hp<\/em> como vari\u00e1vel de resposta<\/a> e as seguintes vari\u00e1veis como vari\u00e1veis preditoras:<\/span><\/p>\n O c\u00f3digo a seguir mostra como ajustar o modelo PCR a esses dados. Observe os seguintes argumentos:<\/span><\/p>\n Depois de ajustar o modelo, precisamos determinar quantos componentes principais valem a pena manter.<\/span><\/p>\n Para fazer isso, basta observar a raiz do erro quadr\u00e1tico m\u00e9dio do teste (teste RMSE) calculado pela valida\u00e7\u00e3o k-cruzada:<\/span><\/p>\n Existem duas tabelas interessantes no resultado:<\/span><\/p>\n 1. VALIDA\u00c7\u00c3O: RMSEP<\/strong><\/span><\/p>\n Esta tabela nos mostra o teste RMSE calculado pela valida\u00e7\u00e3o cruzada k-fold. Podemos ver o seguinte:<\/span><\/p>\n Podemos ver que a adi\u00e7\u00e3o de componentes principais adicionais resulta, na verdade, em um aumento no RMSE do teste. Assim, parece que seria \u00f3timo usar apenas dois componentes principais no modelo final.<\/span><\/p>\n 2. TREINAMENTO: % de vari\u00e2ncia explicada<\/strong><\/span><\/p>\n Esta tabela nos informa a porcentagem de vari\u00e2ncia na vari\u00e1vel resposta explicada pelos componentes principais. Podemos ver o seguinte:<\/span><\/p>\n Observe que ainda seremos capazes de explicar mais vari\u00e2ncia usando mais componentes principais, mas podemos ver que adicionar mais de dois componentes principais n\u00e3o aumenta muito a porcentagem de vari\u00e2ncia explicada.<\/span><\/p>\n Tamb\u00e9m podemos visualizar o teste RMSE (junto com o teste MSE e R-quadrado) como uma fun\u00e7\u00e3o do n\u00famero de componentes principais usando a fun\u00e7\u00e3o valida\u00e7\u00e3oplot()<\/strong> .<\/span> <\/p>\n Em cada gr\u00e1fico, podemos ver que o ajuste do modelo melhora ao adicionar dois componentes principais, mas tende a piorar quando adicionamos mais componentes principais.<\/span><\/p>\n Assim, o modelo \u00f3timo inclui apenas os dois primeiros componentes principais.<\/span><\/p>\n Podemos usar o modelo final de PCR de dois componentes principais para fazer previs\u00f5es sobre novas observa\u00e7\u00f5es.<\/span><\/p>\n O c\u00f3digo a seguir mostra como dividir o conjunto de dados original em um conjunto de treinamento e teste e usar o modelo PCR com dois componentes principais para fazer previs\u00f5es no conjunto de teste.<\/span><\/p>\n\n
Passo 1: Carregue os pacotes necess\u00e1rios<\/strong><\/span><\/h3>\n
#install pls package (if not already installed)<\/span>\ninstall.packages(\" pls<\/span> \")\n\nload pls package\n<\/span>library(pls)\n<\/strong><\/pre>\n Passo 2: Ajustar o modelo PCR<\/strong><\/span><\/h3>\n
#view first six rows of mtcars dataset<\/span>\nhead(mtcars)\n\n mpg cyl disp hp drat wt qsec vs am gear carb\nMazda RX4 21.0 6 160 110 3.90 2.620 16.46 0 1 4 4\nMazda RX4 Wag 21.0 6 160 110 3.90 2.875 17.02 0 1 4 4\nDatsun 710 22.8 4 108 93 3.85 2.320 18.61 1 1 4 1\nHornet 4 Drive 21.4 6 258 110 3.08 3.215 19.44 1 0 3 1\nHornet Sportabout 18.7 8 360 175 3.15 3.440 17.02 0 0 3 2\nValiant 18.1 6 225 105 2.76 3,460 20.22 1 0 3 1\n<\/strong><\/pre>\n\n
\n
#make this example reproducible\n<\/span>set.seed(1)\n\n#fit PCR model\n<\/span>model <- pcr(hp~mpg+disp+drat+wt+qsec, data=mtcars, scale= TRUE<\/span> , validation=\" CV<\/span> \")<\/strong><\/pre>\n Etapa 3: Escolha o n\u00famero de componentes principais<\/strong><\/span><\/h3>\n
#view summary of model fitting\n<\/span>summary(model)\n\nData: \n\tY dimension: 32 1\nFit method: svdpc\nNumber of components considered: 5\n\nVALIDATION: RMSEP\nCross-validated using 10 random segments.\n (Intercept) 1 comp 2 comps 3 comps 4 comps 5 comps\nCV 69.66 44.56 35.64 35.83 36.23 36.67\nadjCV 69.66 44.44 35.27 35.43 35.80 36.20\n\nTRAINING: % variance explained\n 1 comp 2 comps 3 comps 4 comps 5 comps\nX 69.83 89.35 95.88 98.96 100.00\nhp 62.38 81.31 81.96 81.98 82.03\n<\/strong><\/pre>\n\n
\n
#visualize cross-validation plots\n<\/span>validationplot(model)\nvalidationplot(model, val.type=\"MSEP\")\nvalidationplot(model, val.type=\"R2\")<\/strong> <\/pre>\n![\"Regress\u00e3o](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/pcr1.png\")
<\/p>\n![\"Gr\u00e1fico](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/pcr2.png\")
<\/p>\n![\"Regress\u00e3o](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/pcr3.png\")
<\/p>\n Etapa 4: use o modelo final para fazer previs\u00f5es<\/strong><\/span><\/h3>\n
#define training and testing sets\n<\/span>train <- mtcars[1:25, c(\"hp\", \"mpg\", \"disp\", \"drat\", \"wt\", \"qsec\")]\ny_test <- mtcars[26: nrow<\/span> (mtcars), c(\"hp\")]\ntest <- mtcars[26: nrow<\/span> (mtcars), c(\"mpg\", \"disp\", \"drat\", \"wt\", \"qsec\")]\n \n#use model to make predictions on a test set\n<\/span>model <- pcr(hp~mpg+disp+drat+wt+qsec, data=train, scale= TRUE<\/span> , validation=\" CV<\/span> \")\npcr_pred <- predict(model, test, ncomp= 2<\/span> )\n\n#calculate RMSE\n<\/span>sqrt<\/span> ( mean<\/span> ((pcr_pred - y_test)^2))\n\n[1] 56.86549\n<\/strong><\/pre>\n