Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme

Detalhes bibliográficos
Autor(a) principal: Lopes, Ronaldo, 1988-
Data de Publicação: 2018
Tipo de documento: Tese
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
Texto Completo: https://hdl.handle.net/20.500.12733/1633525
Resumo: Orientadores: Sandra Augusta Santos, Paulo José da Silva e Silva
id UNICAMP-30_16b13db6a3aadc5f8132b1292814b6d4
oai_identifier_str oai::998729
network_acronym_str UNICAMP-30
network_name_str Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
repository_id_str
spelling Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enormeBlock-coordinate descent methods and active-set identification for huge-scale problemsOtimização matemáticaAlgoritmosConvergência globalProcessamento paralelo (Computadores)Problemas de grande porte (Matemática)Mathematical optimizationAlgorithmsGlobal convergenceParallel processing (Electronic computers)Large-scale problems (Mathematics)Orientadores: Sandra Augusta Santos, Paulo José da Silva e SilvaTese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação CientíficaResumo: Neste trabalho desenvolvemos estratégias de identificação das restrições ativas para o método de descenso coordenado por blocos aplicado a problemas de otimização irrestritos, ou em caixas, cuja função objetivo é a soma de uma função suave e outra convexa. Mostramos que, em certas situações, o método tem a capacidade intrínseca de identificação e também apresentamos um exemplo de função identificadora compatível com a simplicidade computacional exigida pelos problemas de porte enorme. Combinando essas estratégias, desenvolvemos um método de descenso coordenado por blocos, denominado \emph{Active BCDM}, que busca explorar as restrições ativas do problema com restrições de caixa ou, no caso irrestrito, de uma reformulação auxiliar relacionada que possui variáveis não negativas. Analisamos nosso método em duas classes de problemas com muita relevância no contexto de otimização de porte enorme: \textit{LASSO} e regressão logística com regularização $\ell_1$. Preparamos uma ampla discussão de resultados numéricos utilizando problemas reais extraídos da literatura. Isso permite a comparação do \emph{Active BCDM} com vários métodos bem estabelecidos e do estado da arte para estes problemas, tanto no caso sequencial quanto no paralelo. Em ambas implementações, a proposta de identificação apresentou desempenho computacional superior aos métodos com os quais foi comparada. Além disso, resultados de convergência global acompanham os algoritmos propostos, reforçando sua consistência e relevância teóricaAbstract: This work is concerned with the development of strategies to identify active constraints for the block-coordinate descent method applied to unconstrained, or box-constrained, optimization problems whose objective function is the sum of a smooth component and a convex one. We show that, under appropriate assumptions, the method has an intrinsic identification capacity. We also present an example of an identification function compatible with the computational simplicity required to address large-scale problems. Combining these strategies, we have developed a block-coordinate descent method, called Active BCDM, which aims to explore the active constraints in box-constrained problems, or, in the unconstrained case, of a related auxiliary reformulation with non negative variables. We analyze the performance of our method for solving two classes of problems with great relevance in the context of huge-scale optimization: LASSO and $\ell_1$-regularized logistic regression. We have prepared an extensive discussion of numerical results using real problems from the literature. This allows the comparison of Active BCDM with several well-established and state-of-the-art methods for such problems, with sequential and parallel implementations. In both implementations, the identification strategy presented better computational performance among the methods under comparison. In addition, global convergence results have been proved for the proposed algorithms, reinforcing their consistency and theoretical relevanceDoutoradoMatemática AplicadaDoutor em Matemática AplicadaFAPESP2014/14228-6CAPES[s.n.]Santos, Sandra Augusta, 1964-Silva, Paulo José da Silva e, 1973-Martínez Pérez, José MarioSantos, Lucio Tunes dosBirgin, Ernesto Julián GoldbergGrapiglia, Geovani NunesUniversidade Estadual de Campinas. Instituto de Matemática, Estatística e Computação CientíficaPrograma de Pós-Graduação em Matemática AplicadaUNIVERSIDADE ESTADUAL DE CAMPINASLopes, Ronaldo, 1988-20182018-04-23T00:00:00Zinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdf1 recurso online (123 p.) : il., digital, arquivo PDF.https://hdl.handle.net/20.500.12733/1633525LOPES, Ronaldo. Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme. 2018. 1 recurso online (123 p.) Tese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação Científica, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1633525. Acesso em: 15 mai. 2024.https://repositorio.unicamp.br/acervo/detalhe/998729Requisitos do sistema: Software para leitura de arquivo em PDFporreponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)instname:Universidade Estadual de Campinas (UNICAMP)instacron:UNICAMPinfo:eu-repo/semantics/openAccess2021-06-02T09:38:40Zoai::998729Biblioteca Digital de Teses e DissertaçõesPUBhttp://repositorio.unicamp.br/oai/tese/oai.aspsbubd@unicamp.bropendoar:2021-06-02T09:38:40Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP)false
dc.title.none.fl_str_mv Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme
Block-coordinate descent methods and active-set identification for huge-scale problems
title Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme
spellingShingle Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme
Lopes, Ronaldo, 1988-
Otimização matemática
Algoritmos
Convergência global
Processamento paralelo (Computadores)
Problemas de grande porte (Matemática)
Mathematical optimization
Algorithms
Global convergence
Parallel processing (Electronic computers)
Large-scale problems (Mathematics)
title_short Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme
title_full Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme
title_fullStr Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme
title_full_unstemmed Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme
title_sort Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme
author Lopes, Ronaldo, 1988-
author_facet Lopes, Ronaldo, 1988-
author_role author
dc.contributor.none.fl_str_mv Santos, Sandra Augusta, 1964-
Silva, Paulo José da Silva e, 1973-
Martínez Pérez, José Mario
Santos, Lucio Tunes dos
Birgin, Ernesto Julián Goldberg
Grapiglia, Geovani Nunes
Universidade Estadual de Campinas. Instituto de Matemática, Estatística e Computação Científica
Programa de Pós-Graduação em Matemática Aplicada
UNIVERSIDADE ESTADUAL DE CAMPINAS
dc.contributor.author.fl_str_mv Lopes, Ronaldo, 1988-
dc.subject.por.fl_str_mv Otimização matemática
Algoritmos
Convergência global
Processamento paralelo (Computadores)
Problemas de grande porte (Matemática)
Mathematical optimization
Algorithms
Global convergence
Parallel processing (Electronic computers)
Large-scale problems (Mathematics)
topic Otimização matemática
Algoritmos
Convergência global
Processamento paralelo (Computadores)
Problemas de grande porte (Matemática)
Mathematical optimization
Algorithms
Global convergence
Parallel processing (Electronic computers)
Large-scale problems (Mathematics)
description Orientadores: Sandra Augusta Santos, Paulo José da Silva e Silva
publishDate 2018
dc.date.none.fl_str_mv 2018
2018-04-23T00:00:00Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://hdl.handle.net/20.500.12733/1633525
LOPES, Ronaldo. Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme. 2018. 1 recurso online (123 p.) Tese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação Científica, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1633525. Acesso em: 15 mai. 2024.
url https://hdl.handle.net/20.500.12733/1633525
identifier_str_mv LOPES, Ronaldo. Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme. 2018. 1 recurso online (123 p.) Tese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação Científica, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1633525. Acesso em: 15 mai. 2024.
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv https://repositorio.unicamp.br/acervo/detalhe/998729
Requisitos do sistema: Software para leitura de arquivo em PDF
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
1 recurso online (123 p.) : il., digital, arquivo PDF.
dc.publisher.none.fl_str_mv [s.n.]
publisher.none.fl_str_mv [s.n.]
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
instname:Universidade Estadual de Campinas (UNICAMP)
instacron:UNICAMP
instname_str Universidade Estadual de Campinas (UNICAMP)
instacron_str UNICAMP
institution UNICAMP
reponame_str Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
collection Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP)
repository.mail.fl_str_mv sbubd@unicamp.br
_version_ 1799138524623011840