Proposição de dois novos métodos para análise de componentes principais

Detalhes bibliográficos
Autor(a) principal: Reis, Carlos José dos
Data de Publicação: 2020
Tipo de documento: Tese
Idioma: por
Título da fonte: Repositório Institucional da UFLA
Texto Completo: http://repositorio.ufla.br/jspui/handle/1/46110
Resumo: Principal component analysis (PCA) is a multivariate method widely used, mainly because of its ability to synthesize in a few latent variables, known as principal components, a large proportion of the total variance of all original variables. However, PCA suffers from the fact that each principal component is the linear combination of a very large number of original variables, which often causes difficulties in interpreting the results. One of the ways adopted to overcome this difficulty is to observe the loadings that accompany each variable and ignore those whose values are small. The component thus obtained becomes the linear combination involving the remaining variables. Although this practice is widely used, this procedure is potentially misleading as it is based on subjectivity. Sparse principal component analysis (SPCA) has emerged as a method that can be applied to improve this disadvantage of PCA. Being a subject of intense research for over a decade, the SPCA method proposed by Zou, Hastie and Tibshirani in 2006 modifies the original formulation of the PCA by treating it as a regression problem by introducing the LASSO penalty, acronym for Least Absolute Shrinkage and Selection Operator, which is useful for inducing sparse (null loadings) in the principal components. Because of the above, two new methods are proposed in order to facilitate the interpretation of results in the PCA, mainly for scenarios in which the problem under investigation has a very large number of variables. The proposed methods were called Sparse Group for Principal Component Analysis (SGPCA) and Pairwise Absolute Clustering and Sparsity for Principal Component Analysis (PACSPCA). The SGPCA and PACSPCA methods are based on the Octogonal Shrinkage and Clustering Algorithm for Regression (OSCAR) and Pairwise Absolute Clustering and Sparsity (PACS) regression methods, respectively. The two new methods proposed, in addition to also inducing the sparsity in the components such as the SPCA method, also can group variables using the correlation between them by the equality of their loadings. As an illustration, the proposed SGPCA and PACSPCA methods were applied to real and simulated data, aiming to elucidate some of their characteristics.
id UFLA_416ba31a07e8e80efbd89f6757596b25
oai_identifier_str oai:localhost:1/46110
network_acronym_str UFLA
network_name_str Repositório Institucional da UFLA
repository_id_str
spelling Proposição de dois novos métodos para análise de componentes principaisProposition of two new methods for principal component analysisAnálise de componentes principaisEsparsidadeOctogonal shrinkage and clustering algorithm for regressionPairwise absolute clustering and sparsityAgrupamentosPrincipal component analysisEsparsityEstatísticaPrincipal component analysis (PCA) is a multivariate method widely used, mainly because of its ability to synthesize in a few latent variables, known as principal components, a large proportion of the total variance of all original variables. However, PCA suffers from the fact that each principal component is the linear combination of a very large number of original variables, which often causes difficulties in interpreting the results. One of the ways adopted to overcome this difficulty is to observe the loadings that accompany each variable and ignore those whose values are small. The component thus obtained becomes the linear combination involving the remaining variables. Although this practice is widely used, this procedure is potentially misleading as it is based on subjectivity. Sparse principal component analysis (SPCA) has emerged as a method that can be applied to improve this disadvantage of PCA. Being a subject of intense research for over a decade, the SPCA method proposed by Zou, Hastie and Tibshirani in 2006 modifies the original formulation of the PCA by treating it as a regression problem by introducing the LASSO penalty, acronym for Least Absolute Shrinkage and Selection Operator, which is useful for inducing sparse (null loadings) in the principal components. Because of the above, two new methods are proposed in order to facilitate the interpretation of results in the PCA, mainly for scenarios in which the problem under investigation has a very large number of variables. The proposed methods were called Sparse Group for Principal Component Analysis (SGPCA) and Pairwise Absolute Clustering and Sparsity for Principal Component Analysis (PACSPCA). The SGPCA and PACSPCA methods are based on the Octogonal Shrinkage and Clustering Algorithm for Regression (OSCAR) and Pairwise Absolute Clustering and Sparsity (PACS) regression methods, respectively. The two new methods proposed, in addition to also inducing the sparsity in the components such as the SPCA method, also can group variables using the correlation between them by the equality of their loadings. As an illustration, the proposed SGPCA and PACSPCA methods were applied to real and simulated data, aiming to elucidate some of their characteristics.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior (CAPES)A análise de componentes principais (PCA, do inglês “Principal Component Analysis”) é um método multivariado amplamente utilizado, principalmente por sua capacidade de conter em poucas variáveis latentes, conhecidas como componentes principais, uma grande proporção da variância total de todas as variáveis originais. Entretanto, a PCA sofre pelo fato de cada componente principal ser a combinação linear de todas as variáveis originais, o que frequentemente ocasiona dificuldades na interpretação dos resultados. Uma das formas adotadas para contornar essa dificuldade é observar os loadings que acompanham cada variável e ignorar aqueles cujos valores sejam pequenos. O componente assim obtido passa a ser a combinação linear envolvendo as variáveis remanescentes. Embora essa prática seja muito utilizada, este procedimento é potencialmente enganoso por se basear na subjetividade. A análise de componentes principais esparsos (SPCA, do inglês “Sparse Principal Component Analysis”) surgiu como um método que pode ser aplicado para melhorar essa desvantagem da PCA. Sendo um tema de intensa pesquisa por mais de uma década, o método SPCA proposto por Zou, Hastie e Tibshirani em 2006 modifica a formulação original da PCA por tratá-la como um problema de regressão pela introdução da penalidade LASSO, acrônimo de Least Absolute Shrinkage and Selection Operator, que é útil por induzir a esparsidade (loadings nulos) nos componentes principais. Diante do que foi exposto, são propostos dois novos métodos com o objetivo de facilitar a interpretação dos resultados na PCA, principalmente para cenários em que o problema sob investigação possua um número muito elevado de variáveis. Os métodos propostos foram denominados Sparse Group for Principal Component Analysis (SGPCA) e Pairwise Absolute Clustering and Sparsity for Principal Component Analysis (PACSPCA). Os métodos SGPCA e PACSPCA se baseiam nos métodos de regressão Octogonal Shrinkage and Clustering Algorithm for Regression (OSCAR) e Pairwise Absolute Clustering and Sparsity (PACS), respectivamente. Os dois novos métodos propostos, além de também induzirem a esparsidade nos componentes como o método SPCA, também possuem a capacidade de agrupar variáveis utilizando-se da correlação entre as mesmas pela igualdade dos seus loadings. Como ilustração, os métodos propostos SGPCA e PACSPCA foram aplicados a dados reais e simulados, visando elucidar algumas de suas características.Universidade Federal de LavrasPrograma de Pós-Graduação em Estatística e Experimentação AgropecuáriaUFLAbrasilDepartamento de Ciências ExatasChaves, Lucas MonteiroSouza, Devanil Jaques deNogueira, Denismar AlvesFerreira, Daniel FurtadoGuimarães, Paulo Henrique SalesReis, Carlos José dos2021-02-10T16:39:01Z2021-02-10T16:39:01Z2020-08-172020-08-04info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfREIS, C. J. dos. Proposição de dois novos métodos para análise de componentes principais. 2020. 187 p. Dissertação (Mestrado em Estatística e Experimentação Agropecuária) – Universidade Federal de Lavras, Lavras, 2020.http://repositorio.ufla.br/jspui/handle/1/46110porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFLAinstname:Universidade Federal de Lavras (UFLA)instacron:UFLA2021-02-10T16:39:01Zoai:localhost:1/46110Repositório InstitucionalPUBhttp://repositorio.ufla.br/oai/requestnivaldo@ufla.br || repositorio.biblioteca@ufla.bropendoar:2021-02-10T16:39:01Repositório Institucional da UFLA - Universidade Federal de Lavras (UFLA)false
dc.title.none.fl_str_mv Proposição de dois novos métodos para análise de componentes principais
Proposition of two new methods for principal component analysis
title Proposição de dois novos métodos para análise de componentes principais
spellingShingle Proposição de dois novos métodos para análise de componentes principais
Reis, Carlos José dos
Análise de componentes principais
Esparsidade
Octogonal shrinkage and clustering algorithm for regression
Pairwise absolute clustering and sparsity
Agrupamentos
Principal component analysis
Esparsity
Estatística
title_short Proposição de dois novos métodos para análise de componentes principais
title_full Proposição de dois novos métodos para análise de componentes principais
title_fullStr Proposição de dois novos métodos para análise de componentes principais
title_full_unstemmed Proposição de dois novos métodos para análise de componentes principais
title_sort Proposição de dois novos métodos para análise de componentes principais
author Reis, Carlos José dos
author_facet Reis, Carlos José dos
author_role author
dc.contributor.none.fl_str_mv Chaves, Lucas Monteiro
Souza, Devanil Jaques de
Nogueira, Denismar Alves
Ferreira, Daniel Furtado
Guimarães, Paulo Henrique Sales
dc.contributor.author.fl_str_mv Reis, Carlos José dos
dc.subject.por.fl_str_mv Análise de componentes principais
Esparsidade
Octogonal shrinkage and clustering algorithm for regression
Pairwise absolute clustering and sparsity
Agrupamentos
Principal component analysis
Esparsity
Estatística
topic Análise de componentes principais
Esparsidade
Octogonal shrinkage and clustering algorithm for regression
Pairwise absolute clustering and sparsity
Agrupamentos
Principal component analysis
Esparsity
Estatística
description Principal component analysis (PCA) is a multivariate method widely used, mainly because of its ability to synthesize in a few latent variables, known as principal components, a large proportion of the total variance of all original variables. However, PCA suffers from the fact that each principal component is the linear combination of a very large number of original variables, which often causes difficulties in interpreting the results. One of the ways adopted to overcome this difficulty is to observe the loadings that accompany each variable and ignore those whose values are small. The component thus obtained becomes the linear combination involving the remaining variables. Although this practice is widely used, this procedure is potentially misleading as it is based on subjectivity. Sparse principal component analysis (SPCA) has emerged as a method that can be applied to improve this disadvantage of PCA. Being a subject of intense research for over a decade, the SPCA method proposed by Zou, Hastie and Tibshirani in 2006 modifies the original formulation of the PCA by treating it as a regression problem by introducing the LASSO penalty, acronym for Least Absolute Shrinkage and Selection Operator, which is useful for inducing sparse (null loadings) in the principal components. Because of the above, two new methods are proposed in order to facilitate the interpretation of results in the PCA, mainly for scenarios in which the problem under investigation has a very large number of variables. The proposed methods were called Sparse Group for Principal Component Analysis (SGPCA) and Pairwise Absolute Clustering and Sparsity for Principal Component Analysis (PACSPCA). The SGPCA and PACSPCA methods are based on the Octogonal Shrinkage and Clustering Algorithm for Regression (OSCAR) and Pairwise Absolute Clustering and Sparsity (PACS) regression methods, respectively. The two new methods proposed, in addition to also inducing the sparsity in the components such as the SPCA method, also can group variables using the correlation between them by the equality of their loadings. As an illustration, the proposed SGPCA and PACSPCA methods were applied to real and simulated data, aiming to elucidate some of their characteristics.
publishDate 2020
dc.date.none.fl_str_mv 2020-08-17
2020-08-04
2021-02-10T16:39:01Z
2021-02-10T16:39:01Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv REIS, C. J. dos. Proposição de dois novos métodos para análise de componentes principais. 2020. 187 p. Dissertação (Mestrado em Estatística e Experimentação Agropecuária) – Universidade Federal de Lavras, Lavras, 2020.
http://repositorio.ufla.br/jspui/handle/1/46110
identifier_str_mv REIS, C. J. dos. Proposição de dois novos métodos para análise de componentes principais. 2020. 187 p. Dissertação (Mestrado em Estatística e Experimentação Agropecuária) – Universidade Federal de Lavras, Lavras, 2020.
url http://repositorio.ufla.br/jspui/handle/1/46110
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Federal de Lavras
Programa de Pós-Graduação em Estatística e Experimentação Agropecuária
UFLA
brasil
Departamento de Ciências Exatas
publisher.none.fl_str_mv Universidade Federal de Lavras
Programa de Pós-Graduação em Estatística e Experimentação Agropecuária
UFLA
brasil
Departamento de Ciências Exatas
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFLA
instname:Universidade Federal de Lavras (UFLA)
instacron:UFLA
instname_str Universidade Federal de Lavras (UFLA)
instacron_str UFLA
institution UFLA
reponame_str Repositório Institucional da UFLA
collection Repositório Institucional da UFLA
repository.name.fl_str_mv Repositório Institucional da UFLA - Universidade Federal de Lavras (UFLA)
repository.mail.fl_str_mv nivaldo@ufla.br || repositorio.biblioteca@ufla.br
_version_ 1807835085521551360