Aplicações de métodos de seleção de variáveis em modelos de regressão

Detalhes bibliográficos
Autor(a) principal: Duarte, Alice Silva
Data de Publicação: 2022
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da UFLA
Texto Completo: http://repositorio.ufla.br/jspui/handle/1/55736
Resumo: Regression models are appliedtostudy a cause/effectrelationshipbetween a response variable and oneor more explanatory variables. Withtechnologicaladvances, the volume and dimension of theanalyzed data canbeincreasing. Whilethelargenumber of variables canincreasethepredictivecapacity of the model many of them variables cancontributelittle and generate a high computational cost. Then it maybenecessarytoselect variables and search for thosethathavethegreatestimpact in the model. In thisworkweevaluatethe use of variable selection methods in two case studies. The firstonewascarried out toevaluatethefrequency and food security of preschoolers in thecity of Lavras, MG. The responses analyzed in thisfirststage are data fromcategories of theBrazilianScale of Food Insecurity (EBIA) and the Food Frequency Questionnaire (FFQ), analyzedthroughlogistic models. Data werecollectedfrom 581 preschoolers and refertoabout 50 variables of differenttypes. The methods Stepwise, Lasso, the Purposeful Selection of Covariates (PSV) and Random Forest wereconsidered for the selection of variables. Subsequently, thelogistic models wereobtainedwiththe variables selectedbythesemethods. The models wereevaluated in terms of AIC. Amongtheevaluatedmethods, theonethatproducedthebestperforming model was Stepwise. The secondapplicationinvolved a high-dimensional data scenario, obtainedwiththe use of NIRS (Near infraredspectroscopy) in a problem of predicting food consumption, fromfeces of dairycows. The methods Stepwise, lasso and Random Forest wereconsidered for the selection of variables. Lasso performedwell in thecross-validationstudy. However, thisstudyislimitedtothe use of themethodsindependently. Other authorsobtainedgoodresultsapplying more thanonemethodsimultaneously. The contributions of this case study are thecomparisonamong lasso and Random Forest, usedseparately for the selection of variables in NIRS and thecomparisonbetweendifferenttypes of validations for the models obtainedusing lasso.
id UFLA_811785b28382b95020bdc71853c10ab8
oai_identifier_str oai:localhost:1/55736
network_acronym_str UFLA
network_name_str Repositório Institucional da UFLA
repository_id_str
spelling Aplicações de métodos de seleção de variáveis em modelos de regressãoApplications of variable selection methods in regression modelsAlta dimensionalidadeImportância de variáveisLassoFloresta aleatóriaRegressão logísticaHigh dimensionalityVariables importanceRandom forestLogistic regressionStepwiseRegressão e CorrelaçãoRegression models are appliedtostudy a cause/effectrelationshipbetween a response variable and oneor more explanatory variables. Withtechnologicaladvances, the volume and dimension of theanalyzed data canbeincreasing. Whilethelargenumber of variables canincreasethepredictivecapacity of the model many of them variables cancontributelittle and generate a high computational cost. Then it maybenecessarytoselect variables and search for thosethathavethegreatestimpact in the model. In thisworkweevaluatethe use of variable selection methods in two case studies. The firstonewascarried out toevaluatethefrequency and food security of preschoolers in thecity of Lavras, MG. The responses analyzed in thisfirststage are data fromcategories of theBrazilianScale of Food Insecurity (EBIA) and the Food Frequency Questionnaire (FFQ), analyzedthroughlogistic models. Data werecollectedfrom 581 preschoolers and refertoabout 50 variables of differenttypes. The methods Stepwise, Lasso, the Purposeful Selection of Covariates (PSV) and Random Forest wereconsidered for the selection of variables. Subsequently, thelogistic models wereobtainedwiththe variables selectedbythesemethods. The models wereevaluated in terms of AIC. Amongtheevaluatedmethods, theonethatproducedthebestperforming model was Stepwise. The secondapplicationinvolved a high-dimensional data scenario, obtainedwiththe use of NIRS (Near infraredspectroscopy) in a problem of predicting food consumption, fromfeces of dairycows. The methods Stepwise, lasso and Random Forest wereconsidered for the selection of variables. Lasso performedwell in thecross-validationstudy. However, thisstudyislimitedtothe use of themethodsindependently. Other authorsobtainedgoodresultsapplying more thanonemethodsimultaneously. The contributions of this case study are thecomparisonamong lasso and Random Forest, usedseparately for the selection of variables in NIRS and thecomparisonbetweendifferenttypes of validations for the models obtainedusing lasso.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES)Modelos de regressão são técnicas utilizadas para estabelecer relação entre uma variável resposta e uma ou mais variáveis explicativas. Com o avanço tecnológico, o volume e a dimensão dos dados analisados pode ser cada vez maior. Enquanto, por um lado, o grande número de variáveis pode aumentar a capacidade preditiva do modelo, por outro muitas dessas variáveis podem contribuir pouco e gerar um alto custo computacional, fazendo-se necessário a seleção de variáveis e busca por aquelas que têm maior impacto no modelo. O objetivo deste trabalho foi avaliar o uso de métodos de seleção de variáveis em dois estudos de caso. O primeiro trata-se de um estudo de avaliação de frequência e segurança alimentar de pré-escolares do município de Lavras, MG. As respostas analisadas nessa primeira etapa são dadosde categorias da Escala Brasileira de Insegurança Alimentar (EBIA) e do Questionário de Frequência Alimentar (QFA), analisados por modelos logísticos. A amostra utilizada envolve dados de 581 pré-escolares caracterizados por cerca de 50 variáveis, de diferentes tipos. Foram considerados os métodos Stepwise, Lasso, o Purposeful Selection of Covariates (PSV) e Random Forest para seleção de variáveis. Posteriormente foram obtidos os modelos logísticos com as variáveis selecionadas por estes métodos. Os modelos foram avaliados em termos de AIC. Dentre os métodos avaliados o que produziu o modelo com melhor desempenho foi oStepwise. A segunda aplicação envolveu um cenário de dados de alta dimensão, obtidos com a utilização de NIRS (Near InfraredSpectroscopy) em um problema de predição de consumo alimentar, a partir de fezes de vacas leiteiras. Foram considerados os métodos Stepwise, lasso eRandom Forest para seleção de variáveis. O lasso apresentou bom desempenho no estudo de validação cruzada. No entanto, esse estudo se limita a utilização dos métodos de forma independente, já que outros autores obtiveram bons resultados aplicando mais de um método simultaneamente. As contribuições deste estudo de caso estão na comparação entre lasso e Random Forest, usados separadamente para seleção de variáveis em NIRS e a comparação entre diferentes tipos de validações para os modelos obtidos com o uso do lasso.Universidade Federal de LavrasPrograma de Pós-graduação em Estatística e Experimentação AgropecuáriaUFLAbrasilDepartamento de EstatísticaOliveira, Izabela Regina Cardoso deLima, Renato Ribeiro deFerreira, Daniel FurtadoPereira, Gustavo Henrique de AraujoDuarte, Alice Silva2023-01-06T12:03:31Z2023-01-06T12:03:31Z2023-01-052022-09-22info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfDUARTE, A. S. Aplicações de métodos de seleção de variáveis em modelos de regressão. 2022. 70 p. Dissertação (Mestrado em Estatística e Experimentação Agropecuária)–Universidade Federal de Lavras, Lavras, 2022.http://repositorio.ufla.br/jspui/handle/1/55736porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFLAinstname:Universidade Federal de Lavras (UFLA)instacron:UFLA2023-05-11T17:24:29Zoai:localhost:1/55736Repositório InstitucionalPUBhttp://repositorio.ufla.br/oai/requestnivaldo@ufla.br || repositorio.biblioteca@ufla.bropendoar:2023-05-11T17:24:29Repositório Institucional da UFLA - Universidade Federal de Lavras (UFLA)false
dc.title.none.fl_str_mv Aplicações de métodos de seleção de variáveis em modelos de regressão
Applications of variable selection methods in regression models
title Aplicações de métodos de seleção de variáveis em modelos de regressão
spellingShingle Aplicações de métodos de seleção de variáveis em modelos de regressão
Duarte, Alice Silva
Alta dimensionalidade
Importância de variáveis
Lasso
Floresta aleatória
Regressão logística
High dimensionality
Variables importance
Random forest
Logistic regression
Stepwise
Regressão e Correlação
title_short Aplicações de métodos de seleção de variáveis em modelos de regressão
title_full Aplicações de métodos de seleção de variáveis em modelos de regressão
title_fullStr Aplicações de métodos de seleção de variáveis em modelos de regressão
title_full_unstemmed Aplicações de métodos de seleção de variáveis em modelos de regressão
title_sort Aplicações de métodos de seleção de variáveis em modelos de regressão
author Duarte, Alice Silva
author_facet Duarte, Alice Silva
author_role author
dc.contributor.none.fl_str_mv Oliveira, Izabela Regina Cardoso de
Lima, Renato Ribeiro de
Ferreira, Daniel Furtado
Pereira, Gustavo Henrique de Araujo
dc.contributor.author.fl_str_mv Duarte, Alice Silva
dc.subject.por.fl_str_mv Alta dimensionalidade
Importância de variáveis
Lasso
Floresta aleatória
Regressão logística
High dimensionality
Variables importance
Random forest
Logistic regression
Stepwise
Regressão e Correlação
topic Alta dimensionalidade
Importância de variáveis
Lasso
Floresta aleatória
Regressão logística
High dimensionality
Variables importance
Random forest
Logistic regression
Stepwise
Regressão e Correlação
description Regression models are appliedtostudy a cause/effectrelationshipbetween a response variable and oneor more explanatory variables. Withtechnologicaladvances, the volume and dimension of theanalyzed data canbeincreasing. Whilethelargenumber of variables canincreasethepredictivecapacity of the model many of them variables cancontributelittle and generate a high computational cost. Then it maybenecessarytoselect variables and search for thosethathavethegreatestimpact in the model. In thisworkweevaluatethe use of variable selection methods in two case studies. The firstonewascarried out toevaluatethefrequency and food security of preschoolers in thecity of Lavras, MG. The responses analyzed in thisfirststage are data fromcategories of theBrazilianScale of Food Insecurity (EBIA) and the Food Frequency Questionnaire (FFQ), analyzedthroughlogistic models. Data werecollectedfrom 581 preschoolers and refertoabout 50 variables of differenttypes. The methods Stepwise, Lasso, the Purposeful Selection of Covariates (PSV) and Random Forest wereconsidered for the selection of variables. Subsequently, thelogistic models wereobtainedwiththe variables selectedbythesemethods. The models wereevaluated in terms of AIC. Amongtheevaluatedmethods, theonethatproducedthebestperforming model was Stepwise. The secondapplicationinvolved a high-dimensional data scenario, obtainedwiththe use of NIRS (Near infraredspectroscopy) in a problem of predicting food consumption, fromfeces of dairycows. The methods Stepwise, lasso and Random Forest wereconsidered for the selection of variables. Lasso performedwell in thecross-validationstudy. However, thisstudyislimitedtothe use of themethodsindependently. Other authorsobtainedgoodresultsapplying more thanonemethodsimultaneously. The contributions of this case study are thecomparisonamong lasso and Random Forest, usedseparately for the selection of variables in NIRS and thecomparisonbetweendifferenttypes of validations for the models obtainedusing lasso.
publishDate 2022
dc.date.none.fl_str_mv 2022-09-22
2023-01-06T12:03:31Z
2023-01-06T12:03:31Z
2023-01-05
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv DUARTE, A. S. Aplicações de métodos de seleção de variáveis em modelos de regressão. 2022. 70 p. Dissertação (Mestrado em Estatística e Experimentação Agropecuária)–Universidade Federal de Lavras, Lavras, 2022.
http://repositorio.ufla.br/jspui/handle/1/55736
identifier_str_mv DUARTE, A. S. Aplicações de métodos de seleção de variáveis em modelos de regressão. 2022. 70 p. Dissertação (Mestrado em Estatística e Experimentação Agropecuária)–Universidade Federal de Lavras, Lavras, 2022.
url http://repositorio.ufla.br/jspui/handle/1/55736
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Federal de Lavras
Programa de Pós-graduação em Estatística e Experimentação Agropecuária
UFLA
brasil
Departamento de Estatística
publisher.none.fl_str_mv Universidade Federal de Lavras
Programa de Pós-graduação em Estatística e Experimentação Agropecuária
UFLA
brasil
Departamento de Estatística
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFLA
instname:Universidade Federal de Lavras (UFLA)
instacron:UFLA
instname_str Universidade Federal de Lavras (UFLA)
instacron_str UFLA
institution UFLA
reponame_str Repositório Institucional da UFLA
collection Repositório Institucional da UFLA
repository.name.fl_str_mv Repositório Institucional da UFLA - Universidade Federal de Lavras (UFLA)
repository.mail.fl_str_mv nivaldo@ufla.br || repositorio.biblioteca@ufla.br
_version_ 1807835131277213696