Métodos de regularização no aprendizado de Máquinas: Ridge e LASSO

• Autor(a) principal: Passos, Luiz Fernando Coelho
• Data de Publicação: 2022
• Tipo de documento: Trabalho de conclusão de curso
• Idioma: por
• Título da fonte: Repositório Institucional da Universidade Federal Fluminense (RIUFF)
• Texto Completo: http://app.uff.br/riuff/handle/1/28391
• topic: Aprendizado de máquina; Métodos de regularização; Ridge; LASSO; Regressão linear múltipla; Método estatístico; Linguagem de programação de computador

O presente trabalho tem como proposta analisar o comportamento dos métodos de regularização de Ridge e LASSO. A Regressão Linear é um dos modelos mais utilizado no aprendizado de máquinas, porém quando o modelo possui muitas variáveis pode causar subajuste ou sobreajuste, gerando predições ruins. Uma solução para este problema é considerar os métodos de regularização que aplicam uma penalização sobre os parâmetros do modelo, minimizando a importância de variáveis menos relevantes, diminuindo a complexidade e garantindo que o modelo seja generalizável. Dois dos métodos de regularização mais utilizados são a regressão de Ridge, que inclui todos os preditores no modelo final, e a regressão de LASSO que, além de penalizar os parâmetros, realiza seleção de variáveis, ou seja, pode zerar as estimativas de alguns parâmetros. Por fim, realizou-se um estudo prático a partir de três bases de dados distintas, aplicando os métodos de Ridge e LASSO com auxílio do pacote tidymodels na linguagem de programação R. Em suma, Ridge e LASSO são dois poderosos métodos para modelagem de dados, entretanto, na análise prática, LASSO obteve melhores resultados em todos os casos.