<\/p>\n
Um dos problemas mais comuns que voc\u00ea encontrar\u00e1 ao criar modelos \u00e9 a multicolinearidade<\/a> . Isso ocorre quando duas ou mais vari\u00e1veis preditoras em um conjunto de dados est\u00e3o altamente correlacionadas.<\/span><\/p>\n Quando isso acontece, um determinado modelo pode ser capaz de se ajustar bem a um conjunto de dados de treinamento, mas provavelmente ter\u00e1 um desempenho ruim em um novo conjunto de dados que nunca viu porque se ajusta demais<\/a> ao conjunto de treinamento.<\/span><\/p>\n Uma maneira de evitar o overfitting \u00e9 usar algum tipo de m\u00e9todo de sele\u00e7\u00e3o de subconjunto<\/strong> como:<\/span><\/p>\n Esses m\u00e9todos tentam remover preditores irrelevantes do modelo, de modo que apenas os preditores mais importantes, capazes de prever a varia\u00e7\u00e3o na vari\u00e1vel resposta, sejam deixados no modelo final.<\/span><\/p>\n Outra maneira de evitar overfitting \u00e9 usar algum tipo de m\u00e9todo de regulariza\u00e7\u00e3o<\/strong> , como:<\/span><\/p>\n Esses m\u00e9todos tentam restringir ou regularizar<\/em> os coeficientes de um modelo para reduzir a vari\u00e2ncia e, assim, produzir modelos capazes de generalizar bem para novos dados.<\/span><\/p>\n Uma abordagem totalmente diferente para lidar com a multicolinearidade \u00e9 conhecida como redu\u00e7\u00e3o dimensional<\/strong> .<\/span><\/p>\n Um m\u00e9todo comum de redu\u00e7\u00e3o de dimens\u00e3o \u00e9 conhecido como regress\u00e3o de componentes principais<\/strong> , que funciona da seguinte forma:<\/span><\/p>\n 1.<\/strong> Suponha que um<\/sub> determinado conjunto de dados contenha p<\/em> preditores<\/sub> :<\/sub><\/span><\/p>\n 2.<\/strong> Calcule Z 1<\/sub> , \u2026 , Z M<\/sub> como as M<\/em> combina\u00e7\u00f5es lineares dos p<\/em> preditores originais.<\/span><\/p>\n 3.<\/strong> Use o m\u00e9todo dos m\u00ednimos quadrados para ajustar um modelo de regress\u00e3o linear usando os primeiros M<\/em> componentes principais Z 1<\/sub> , \u2026, Z M<\/sub> como preditores.<\/span><\/p>\n O termo redu\u00e7\u00e3o de dimens\u00e3o<\/strong> vem do fato de que este m\u00e9todo deve estimar apenas coeficientes M+1 em vez de coeficientes p+1, onde M < p.<\/span><\/p>\n Ou seja, a dimens\u00e3o<\/em> do problema foi reduzida de p+1 para M+1.<\/span><\/p>\n Em muitos casos em que a multicolinearidade est\u00e1 presente em um conjunto de dados, a regress\u00e3o de componentes principais \u00e9 capaz de produzir um modelo que pode generalizar para novos dados melhor do que a regress\u00e3o linear m\u00faltipla<\/a> convencional.<\/span><\/p>\n Na pr\u00e1tica, as seguintes etapas s\u00e3o usadas para realizar a regress\u00e3o de componentes principais:<\/span><\/p>\n 1. Padronize os preditores.<\/strong><\/span><\/p>\n Primeiro, normalmente padronizamos os dados de modo que cada vari\u00e1vel preditora tenha um valor m\u00e9dio de 0 e um desvio padr\u00e3o de 1. Isso evita que um preditor tenha muita influ\u00eancia, especialmente se for medido em unidades diferentes (c, isto \u00e9, se 1<\/sub> \u00e9 medido em polegadas). e X 2<\/sub> \u00e9 medido em jardas).<\/span><\/p>\n 2. Calcule os componentes principais e realize uma regress\u00e3o linear utilizando os componentes principais como preditores.<\/strong><\/span><\/p>\n A seguir, calculamos os componentes principais e usamos o m\u00e9todo dos m\u00ednimos quadrados para ajustar um modelo de regress\u00e3o linear usando os primeiros M<\/em> componentes principais Z 1<\/sub> , \u2026, Z M<\/sub> como preditores.<\/span><\/p>\n 3. Decida quantos componentes principais manter.<\/strong><\/span><\/p>\n A seguir, usamos a valida\u00e7\u00e3o cruzada k-fold<\/a> para encontrar o n\u00famero ideal de componentes principais a serem mantidos no modelo. O n\u00famero \u201c\u00f3timo\u201d de componentes principais a serem mantidos \u00e9 geralmente o n\u00famero que produz o menor erro quadr\u00e1tico m\u00e9dio (MSE) do teste.<\/span><\/p>\n A regress\u00e3o de componentes principais (PCR) oferece as seguintes vantagens<\/strong> :<\/span><\/p>\n No entanto, o PCR tem uma desvantagem:<\/strong><\/span><\/p>\n Na pr\u00e1tica, ajustamos muitos tipos diferentes de modelos (PCR, Ridge, Lasso, regress\u00e3o linear m\u00faltipla, etc.) e usamos valida\u00e7\u00e3o cruzada k-fold para identificar o modelo que produz o teste MSE mais baixo nos novos dados.<\/span><\/p>\n Nos casos em que a multicolinearidade est\u00e1 presente no conjunto de dados original (o que \u00e9 frequentemente o caso), a PCR tende a ter um desempenho melhor do que a regress\u00e3o de m\u00ednimos quadrados comum. No entanto, \u00e9 uma boa ideia ajustar v\u00e1rios modelos diferentes para que voc\u00ea possa identificar qual deles generaliza melhor para dados n\u00e3o vistos.<\/span><\/p>\n Os tutoriais a seguir mostram como realizar a regress\u00e3o de componentes principais em R e Python:<\/span><\/p>\n Regress\u00e3o de componentes principais em R (passo a passo)<\/a> Um dos problemas mais comuns que voc\u00ea encontrar\u00e1 ao criar modelos \u00e9 a multicolinearidade . Isso ocorre quando duas ou mais vari\u00e1veis preditoras em um conjunto de dados est\u00e3o altamente correlacionadas. Quando isso acontece, um determinado modelo pode ser capaz de se ajustar bem a um conjunto de dados de treinamento, mas provavelmente ter\u00e1 um […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11],"tags":[],"class_list":["post-1200","post","type-post","status-publish","format-standard","hentry","category-guia"],"yoast_head":"\n\n
\n
\n
Etapas para realizar a regress\u00e3o de componentes principais<\/strong><\/span><\/h3>\n
Vantagens e desvantagens da regress\u00e3o de componentes principais<\/strong><\/span><\/h3>\n
\n
\n
Regress\u00e3o de componentes principais em R e Python<\/strong><\/span><\/h3>\n
Regress\u00e3o de componentes principais em Python (passo a passo)<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"