Por exemplo, suponha que queiramos criar um modelo de regress\u00e3o<\/a> que use a vari\u00e1vel preditora horas gastas estudando<\/em> para prever a pontua\u00e7\u00e3o ACT<\/em> da vari\u00e1vel de resposta para alunos do ensino m\u00e9dio.<\/span><\/p>\n Para construir este modelo, coletaremos dados sobre horas gastas estudando e a pontua\u00e7\u00e3o ACT correspondente para centenas de alunos em um determinado distrito escolar.<\/span><\/p>\n Usaremos ent\u00e3o esses dados para treinar<\/em> um modelo que possa fazer previs\u00f5es sobre a pontua\u00e7\u00e3o que um determinado aluno receber\u00e1 com base no n\u00famero total de horas estudadas.<\/span><\/p>\n Para avaliar a utilidade do modelo, podemos medir at\u00e9 que ponto as previs\u00f5es do modelo correspondem aos dados observados. Uma das m\u00e9tricas mais comumente usadas para fazer isso \u00e9 o erro quadr\u00e1tico m\u00e9dio (MSE), que \u00e9 calculado da seguinte forma:<\/span><\/p>\n MSE = (1\/n)*\u03a3(y i<\/sub> \u2013 f(x i<\/sub> )) 2<\/sup><\/span><\/p>\n Ouro:<\/span><\/p>\n Quanto mais pr\u00f3ximas as previs\u00f5es do modelo estiverem das observa\u00e7\u00f5es, menor ser\u00e1 o MSE.<\/span><\/p>\n No entanto, um dos maiores erros cometidos no aprendizado de m\u00e1quina \u00e9 otimizar modelos para reduzir o MSE de treinamento<\/strong> , ou seja, qu\u00e3o bem as previs\u00f5es do modelo correspondem aos dados que usamos para treinar o modelo.<\/span><\/p>\n Quando um modelo se concentra demais na redu\u00e7\u00e3o do MSE de treinamento, muitas vezes \u00e9 muito dif\u00edcil encontrar padr\u00f5es nos dados de treinamento que s\u00e3o simplesmente causados pelo acaso. Ent\u00e3o, quando o modelo \u00e9 aplicado a dados n\u00e3o vistos, seu desempenho \u00e9 ruim.<\/span><\/p>\n Este fen\u00f4meno \u00e9 conhecido como overfitting<\/strong> . Isso acontece quando \u201cajustamos\u201d um modelo muito pr\u00f3ximo aos dados de treinamento e, assim, acabamos construindo um modelo que n\u00e3o \u00e9 \u00fatil para fazer previs\u00f5es sobre novos dados.<\/span><\/p>\n Para entender o overfitting, vamos voltar ao exemplo da cria\u00e7\u00e3o de um modelo de regress\u00e3o que usa horas gastas estudando<\/em> para prever a pontua\u00e7\u00e3o do ACT<\/em> .<\/span><\/p>\n Digamos que reunimos dados de 100 alunos em um determinado distrito escolar e criamos um gr\u00e1fico de dispers\u00e3o r\u00e1pido para visualizar a rela\u00e7\u00e3o entre as duas vari\u00e1veis:<\/span> <\/p>\n A rela\u00e7\u00e3o entre as duas vari\u00e1veis parece ser quadr\u00e1tica, ent\u00e3o suponhamos que aplicamos o seguinte modelo de regress\u00e3o quadr\u00e1tica:<\/span><\/p>\n Pontua\u00e7\u00e3o = 60,1 + 5,4*(Horas) \u2013 0,2*(Horas) 2<\/sup><\/span> <\/p>\n Este modelo tem um erro quadr\u00e1tico m\u00e9dio de treinamento (MSE) de 3,45<\/strong> . Ou seja, a diferen\u00e7a quadr\u00e1tica m\u00e9dia entre as previs\u00f5es feitas pelo modelo e as pontua\u00e7\u00f5es reais do ACT \u00e9 3,45.<\/span><\/p>\n No entanto, poder\u00edamos reduzir esse MSE de treinamento ajustando um modelo polinomial de ordem superior. Por exemplo, suponha que apliquemos o seguinte modelo:<\/span><\/p>\n Pontua\u00e7\u00e3o = 64,3 \u2013 7,1*(Horas) + 8,1*(Horas) 2<\/sup> \u2013 2,1*(Horas) 3<\/sup> + 0,2*(Horas ) 4 \u2013 0,1*(Horas) 5<\/sup> +<\/sup> 0,2(Horas) 6<\/sup><\/span> <\/p>\n Observe como a linha de regress\u00e3o se ajusta aos dados reais com muito mais precis\u00e3o do que a linha de regress\u00e3o anterior.<\/span><\/p>\n Este modelo tem um erro quadr\u00e1tico m\u00e9dio (MSE) de treinamento de apenas 0,89<\/strong> . Ou seja, a diferen\u00e7a quadr\u00e1tica m\u00e9dia entre as previs\u00f5es feitas pelo modelo e as pontua\u00e7\u00f5es reais do ACT \u00e9 0,89.<\/span><\/p>\n Este treinamento MSE \u00e9 muito menor que o produzido pelo modelo anterior.<\/span><\/p>\n No entanto, n\u00e3o nos importamos realmente com o MSE de treinamento<\/strong> , ou seja, qu\u00e3o bem as previs\u00f5es do modelo correspondem aos dados que usamos para treinar o modelo. Em vez disso, preocupamo-nos principalmente com o teste MSE<\/strong> \u2013 o MSE quando o nosso modelo \u00e9 aplicado a dados n\u00e3o vistos.<\/span><\/p>\n Se aplic\u00e1ssemos o modelo de regress\u00e3o polinomial de ordem superior acima a um conjunto de dados invis\u00edvel, provavelmente teria um desempenho pior do que o modelo de regress\u00e3o quadr\u00e1tica mais simples. Ou seja, produziria um teste MSE mais alto, que \u00e9 exatamente o que n\u00e3o queremos.<\/span><\/p>\n A maneira mais simples de detectar overfitting \u00e9 realizar valida\u00e7\u00e3o cruzada. O m\u00e9todo mais comumente usado \u00e9 conhecido como valida\u00e7\u00e3o cruzada k-fold<\/a> e funciona da seguinte forma:<\/span><\/p>\n Etapa 1: divida aleatoriamente um conjunto de dados em k<\/em> grupos, ou \u201cdobras\u201d, de tamanho aproximadamente igual.<\/strong><\/span> <\/p>\n Passo 2: Escolha uma das dobras como conjunto de fixa\u00e7\u00e3o. Ajuste o modelo \u00e0s dobras k-1 restantes. Calcule o teste MSE nas observa\u00e7\u00f5es da camada que foi tensionada.<\/strong><\/span> <\/p>\n Etapa 3: Repita esse processo k<\/em> vezes, cada vez usando um conjunto diferente como conjunto de exclus\u00e3o.<\/strong><\/span> <\/p>\n Etapa 4: Calcule o MSE geral do teste como a m\u00e9dia dos k<\/em> MSEs do teste.<\/strong><\/span><\/p>\n Teste MSE = (1\/k)*\u03a3MSE i<\/sub><\/strong><\/span><\/p>\n Ouro:<\/span><\/p>\n Este teste MSE nos d\u00e1 uma boa ideia do desempenho de um determinado modelo em dados desconhecidos.<\/span><\/p>\n Na pr\u00e1tica, podemos ajustar v\u00e1rios modelos diferentes e realizar valida\u00e7\u00e3o cruzada k-fold em cada modelo para descobrir seu teste MSE. Podemos ent\u00e3o escolher o modelo com o teste MSE mais baixo como o melhor modelo a ser usado para fazer previs\u00f5es no futuro.<\/span><\/p>\n Isso garante que selecionemos um modelo que provavelmente ter\u00e1 melhor desempenho em dados futuros, em oposi\u00e7\u00e3o a um modelo que simplesmente minimiza o MSE de treinamento e \u201cse ajusta\u201d bem aos dados hist\u00f3ricos.<\/span><\/p>\n Qual \u00e9 a compensa\u00e7\u00e3o entre vi\u00e9s e vari\u00e2ncia no aprendizado de m\u00e1quina?<\/a> No aprendizado de m\u00e1quina, muitas vezes constru\u00edmos modelos para que possamos fazer previs\u00f5es precisas sobre determinados fen\u00f4menos. Por exemplo, suponha que queiramos criar um modelo de regress\u00e3o que use a vari\u00e1vel preditora horas gastas estudando para prever a pontua\u00e7\u00e3o ACT da vari\u00e1vel de resposta para alunos do ensino m\u00e9dio. Para construir este modelo, coletaremos dados […]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[11],"tags":[],"class_list":["post-1178","post","type-post","status-publish","format-standard","hentry","category-guia"],"yoast_head":"\n\n
Exemplo de sobreajuste<\/strong><\/span><\/h3>\n
![\"\"](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/surapprentissage1.png\")
<\/p>\n![\"Overfitting](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/surapprentissage2.png\")
<\/p>\n![\"Overfitting](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/surapprentissage3.png\")
<\/p>\n Como detectar e evitar overfitting<\/strong><\/span><\/h3>\n
![\"Divida](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/kfold1.png\")
<\/p>\n![\"valida\u00e7\u00e3o](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/kfold2.png\")
<\/p>\n![\"Exemplo](\"https:\/\/statorials.org\/wp-content\/uploads\/2023\/08\/kfold3.png\")
<\/p>\n\n
Recursos adicionais<\/strong><\/span><\/h3>\n
Uma introdu\u00e7\u00e3o \u00e0 valida\u00e7\u00e3o cruzada K-Fold<\/a>
Modelos de regress\u00e3o e classifica\u00e7\u00e3o em aprendizado de m\u00e1quina<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"