Global variable selection for quantile regression

Detalhes bibliográficos
Autor(a) principal: Bellini, Tais Loureiro
Data de Publicação: 2022
Tipo de documento: Dissertação
Idioma: eng
Título da fonte: Biblioteca Digital de Teses e Dissertações da UFRGS
Texto Completo: http://hdl.handle.net/10183/241720
Resumo: A regressão quantílica fornece um modelo parcimonioso para a função quantílica condicional da variável resposta Y dado o vetor de covariáveis X, e descreve toda a distribuição condicional da resposta, produzindo estimadores mais robustos à presença de valores discrepantes. Os modelos de regressão quantílica especificam, para cada nível quantílico τ, a forma funcional para o τ -ésimo quantil condicional da resposta, o que traz complexidade para realizar a seleção de variáveis utilizando técnicas de regularização, como LASSO ou adaptive LASSO (adaLASSO), pois podemos obter um conjunto diferente de variáveis selecionadas para cada nível quantílico. Neste trabalho, propomos um método global para seleção de variáveis e estimação de coeficientes na estrutura de regressão quantílica linear, impondo poucas restrições à forma funcional de β(•), e aplicando penalização group adaLASSO para seleção de variáveis. Montamos um estudo de Monte Carlo comparando seis diferentes estimadores propostos baseados em LASSO, adaLASSO e group LASSO em seis cenários que variam o tamanho da amostra e o número de níveis quantílicos estimados. Os resultados demonstram que a seleção do parâmetro de ajuste λ para penalização é fundamental para a seleção das variáveis e estimativa do coeficiente. Observou-se que os métodos que utilizam LASSO tradicional são mais propensos a incluir o modelo verdadeiro em relação ao adaLASSO, mas renunciando à redução do modelo e não removendo covariáveis irrelevantes, enquanto as abordagens agrupadas são mais eficazes em zerar coeficientes menos relevantes.
id URGS_bcd25faff5b0db17db35b29d2ff04216
oai_identifier_str oai:www.lume.ufrgs.br:10183/241720
network_acronym_str URGS
network_name_str Biblioteca Digital de Teses e Dissertações da UFRGS
repository_id_str 1853
spelling Bellini, Tais LoureiroHorta, Eduardo de OliveiraCybis, Gabriela Bettella2022-07-05T05:06:44Z2022http://hdl.handle.net/10183/241720001143747A regressão quantílica fornece um modelo parcimonioso para a função quantílica condicional da variável resposta Y dado o vetor de covariáveis X, e descreve toda a distribuição condicional da resposta, produzindo estimadores mais robustos à presença de valores discrepantes. Os modelos de regressão quantílica especificam, para cada nível quantílico τ, a forma funcional para o τ -ésimo quantil condicional da resposta, o que traz complexidade para realizar a seleção de variáveis utilizando técnicas de regularização, como LASSO ou adaptive LASSO (adaLASSO), pois podemos obter um conjunto diferente de variáveis selecionadas para cada nível quantílico. Neste trabalho, propomos um método global para seleção de variáveis e estimação de coeficientes na estrutura de regressão quantílica linear, impondo poucas restrições à forma funcional de β(•), e aplicando penalização group adaLASSO para seleção de variáveis. Montamos um estudo de Monte Carlo comparando seis diferentes estimadores propostos baseados em LASSO, adaLASSO e group LASSO em seis cenários que variam o tamanho da amostra e o número de níveis quantílicos estimados. Os resultados demonstram que a seleção do parâmetro de ajuste λ para penalização é fundamental para a seleção das variáveis e estimativa do coeficiente. Observou-se que os métodos que utilizam LASSO tradicional são mais propensos a incluir o modelo verdadeiro em relação ao adaLASSO, mas renunciando à redução do modelo e não removendo covariáveis irrelevantes, enquanto as abordagens agrupadas são mais eficazes em zerar coeficientes menos relevantes.Quantile regression provides a parsimonious model for the conditional quantile function of the response variable Y given the vector of covariates X, and describes the whole conditional distribution of the response, yielding estimators that are more robust to the presence of outliers. Quantile regression models specify, for each quantile level τ , the functional form for the conditional τ -th quantile of the response, which brings complexity to perform variable selection using regularization techniques, such as LASSO or adaptive LASSO (adaLASSO), as we might obtain a different set of selected variables for each quantile level. In this work, we propose a method for global variable selection and coefficient estimation in the linear quantile regression framework, imposing little restrictions on the functional form of β(·), and applying group adaLASSO penalization for variable selection. We set up a Monte Carlo study comparing six different proposed estimators based on LASSO, adaLASSO and group LASSO in six scenarios that diversify sample and quantile levels grid sizes. The findings demonstrate that the selection of the tuning parameter λ for penalization is critical for model selection and coefficient estimation. It was observed that the methods using traditional LASSO are more prone to include the true model as compared to adaLASSO, but renouncing model shrinkage and not removing irrelevant covariates, while the grouped approches are more effective in zeroing coefficients that are less relevant.application/pdfengRegressão quantílicaSeleção de variáveisSimulação de Monte CarloGlobal variable selection for quantile regressioninfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisUniversidade Federal do Rio Grande do SulInstituto de Matemática e EstatísticaPrograma de Pós-Graduação em EstatísticaPorto Alegre, BR-RS2022mestradoinfo:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da UFRGSinstname:Universidade Federal do Rio Grande do Sul (UFRGS)instacron:UFRGSTEXT001143747.pdf.txt001143747.pdf.txtExtracted Texttext/plain105817http://www.lume.ufrgs.br/bitstream/10183/241720/2/001143747.pdf.txteadf554258e700738f79772118950f37MD52ORIGINAL001143747.pdfTexto completo (inglês)application/pdf1810509http://www.lume.ufrgs.br/bitstream/10183/241720/1/001143747.pdf1a40d51bd8276ef471a2d85aa4b6967aMD5110183/2417202022-07-06 04:57:32.179498oai:www.lume.ufrgs.br:10183/241720Biblioteca Digital de Teses e Dissertaçõeshttps://lume.ufrgs.br/handle/10183/2PUBhttps://lume.ufrgs.br/oai/requestlume@ufrgs.br||lume@ufrgs.bropendoar:18532022-07-06T07:57:32Biblioteca Digital de Teses e Dissertações da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)false
dc.title.pt_BR.fl_str_mv Global variable selection for quantile regression
title Global variable selection for quantile regression
spellingShingle Global variable selection for quantile regression
Bellini, Tais Loureiro
Regressão quantílica
Seleção de variáveis
Simulação de Monte Carlo
title_short Global variable selection for quantile regression
title_full Global variable selection for quantile regression
title_fullStr Global variable selection for quantile regression
title_full_unstemmed Global variable selection for quantile regression
title_sort Global variable selection for quantile regression
author Bellini, Tais Loureiro
author_facet Bellini, Tais Loureiro
author_role author
dc.contributor.author.fl_str_mv Bellini, Tais Loureiro
dc.contributor.advisor1.fl_str_mv Horta, Eduardo de Oliveira
dc.contributor.advisor-co1.fl_str_mv Cybis, Gabriela Bettella
contributor_str_mv Horta, Eduardo de Oliveira
Cybis, Gabriela Bettella
dc.subject.por.fl_str_mv Regressão quantílica
Seleção de variáveis
Simulação de Monte Carlo
topic Regressão quantílica
Seleção de variáveis
Simulação de Monte Carlo
description A regressão quantílica fornece um modelo parcimonioso para a função quantílica condicional da variável resposta Y dado o vetor de covariáveis X, e descreve toda a distribuição condicional da resposta, produzindo estimadores mais robustos à presença de valores discrepantes. Os modelos de regressão quantílica especificam, para cada nível quantílico τ, a forma funcional para o τ -ésimo quantil condicional da resposta, o que traz complexidade para realizar a seleção de variáveis utilizando técnicas de regularização, como LASSO ou adaptive LASSO (adaLASSO), pois podemos obter um conjunto diferente de variáveis selecionadas para cada nível quantílico. Neste trabalho, propomos um método global para seleção de variáveis e estimação de coeficientes na estrutura de regressão quantílica linear, impondo poucas restrições à forma funcional de β(•), e aplicando penalização group adaLASSO para seleção de variáveis. Montamos um estudo de Monte Carlo comparando seis diferentes estimadores propostos baseados em LASSO, adaLASSO e group LASSO em seis cenários que variam o tamanho da amostra e o número de níveis quantílicos estimados. Os resultados demonstram que a seleção do parâmetro de ajuste λ para penalização é fundamental para a seleção das variáveis e estimativa do coeficiente. Observou-se que os métodos que utilizam LASSO tradicional são mais propensos a incluir o modelo verdadeiro em relação ao adaLASSO, mas renunciando à redução do modelo e não removendo covariáveis irrelevantes, enquanto as abordagens agrupadas são mais eficazes em zerar coeficientes menos relevantes.
publishDate 2022
dc.date.accessioned.fl_str_mv 2022-07-05T05:06:44Z
dc.date.issued.fl_str_mv 2022
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/10183/241720
dc.identifier.nrb.pt_BR.fl_str_mv 001143747
url http://hdl.handle.net/10183/241720
identifier_str_mv 001143747
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da UFRGS
instname:Universidade Federal do Rio Grande do Sul (UFRGS)
instacron:UFRGS
instname_str Universidade Federal do Rio Grande do Sul (UFRGS)
instacron_str UFRGS
institution UFRGS
reponame_str Biblioteca Digital de Teses e Dissertações da UFRGS
collection Biblioteca Digital de Teses e Dissertações da UFRGS
bitstream.url.fl_str_mv http://www.lume.ufrgs.br/bitstream/10183/241720/2/001143747.pdf.txt
http://www.lume.ufrgs.br/bitstream/10183/241720/1/001143747.pdf
bitstream.checksum.fl_str_mv eadf554258e700738f79772118950f37
1a40d51bd8276ef471a2d85aa4b6967a
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)
repository.mail.fl_str_mv lume@ufrgs.br||lume@ufrgs.br
_version_ 1797064755021611008