Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme
Autor(a) principal: | |
---|---|
Data de Publicação: | 2018 |
Tipo de documento: | Tese |
Idioma: | por |
Título da fonte: | Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) |
Texto Completo: | https://hdl.handle.net/20.500.12733/1633525 |
Resumo: | Orientadores: Sandra Augusta Santos, Paulo José da Silva e Silva |
id |
UNICAMP-30_16b13db6a3aadc5f8132b1292814b6d4 |
---|---|
oai_identifier_str |
oai::998729 |
network_acronym_str |
UNICAMP-30 |
network_name_str |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) |
repository_id_str |
|
spelling |
Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enormeBlock-coordinate descent methods and active-set identification for huge-scale problemsOtimização matemáticaAlgoritmosConvergência globalProcessamento paralelo (Computadores)Problemas de grande porte (Matemática)Mathematical optimizationAlgorithmsGlobal convergenceParallel processing (Electronic computers)Large-scale problems (Mathematics)Orientadores: Sandra Augusta Santos, Paulo José da Silva e SilvaTese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação CientíficaResumo: Neste trabalho desenvolvemos estratégias de identificação das restrições ativas para o método de descenso coordenado por blocos aplicado a problemas de otimização irrestritos, ou em caixas, cuja função objetivo é a soma de uma função suave e outra convexa. Mostramos que, em certas situações, o método tem a capacidade intrínseca de identificação e também apresentamos um exemplo de função identificadora compatível com a simplicidade computacional exigida pelos problemas de porte enorme. Combinando essas estratégias, desenvolvemos um método de descenso coordenado por blocos, denominado \emph{Active BCDM}, que busca explorar as restrições ativas do problema com restrições de caixa ou, no caso irrestrito, de uma reformulação auxiliar relacionada que possui variáveis não negativas. Analisamos nosso método em duas classes de problemas com muita relevância no contexto de otimização de porte enorme: \textit{LASSO} e regressão logística com regularização $\ell_1$. Preparamos uma ampla discussão de resultados numéricos utilizando problemas reais extraídos da literatura. Isso permite a comparação do \emph{Active BCDM} com vários métodos bem estabelecidos e do estado da arte para estes problemas, tanto no caso sequencial quanto no paralelo. Em ambas implementações, a proposta de identificação apresentou desempenho computacional superior aos métodos com os quais foi comparada. Além disso, resultados de convergência global acompanham os algoritmos propostos, reforçando sua consistência e relevância teóricaAbstract: This work is concerned with the development of strategies to identify active constraints for the block-coordinate descent method applied to unconstrained, or box-constrained, optimization problems whose objective function is the sum of a smooth component and a convex one. We show that, under appropriate assumptions, the method has an intrinsic identification capacity. We also present an example of an identification function compatible with the computational simplicity required to address large-scale problems. Combining these strategies, we have developed a block-coordinate descent method, called Active BCDM, which aims to explore the active constraints in box-constrained problems, or, in the unconstrained case, of a related auxiliary reformulation with non negative variables. We analyze the performance of our method for solving two classes of problems with great relevance in the context of huge-scale optimization: LASSO and $\ell_1$-regularized logistic regression. We have prepared an extensive discussion of numerical results using real problems from the literature. This allows the comparison of Active BCDM with several well-established and state-of-the-art methods for such problems, with sequential and parallel implementations. In both implementations, the identification strategy presented better computational performance among the methods under comparison. In addition, global convergence results have been proved for the proposed algorithms, reinforcing their consistency and theoretical relevanceDoutoradoMatemática AplicadaDoutor em Matemática AplicadaFAPESP2014/14228-6CAPES[s.n.]Santos, Sandra Augusta, 1964-Silva, Paulo José da Silva e, 1973-Martínez Pérez, José MarioSantos, Lucio Tunes dosBirgin, Ernesto Julián GoldbergGrapiglia, Geovani NunesUniversidade Estadual de Campinas. Instituto de Matemática, Estatística e Computação CientíficaPrograma de Pós-Graduação em Matemática AplicadaUNIVERSIDADE ESTADUAL DE CAMPINASLopes, Ronaldo, 1988-20182018-04-23T00:00:00Zinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdf1 recurso online (123 p.) : il., digital, arquivo PDF.https://hdl.handle.net/20.500.12733/1633525LOPES, Ronaldo. Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme. 2018. 1 recurso online (123 p.) Tese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação Científica, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1633525. Acesso em: 15 mai. 2024.https://repositorio.unicamp.br/acervo/detalhe/998729Requisitos do sistema: Software para leitura de arquivo em PDFporreponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)instname:Universidade Estadual de Campinas (UNICAMP)instacron:UNICAMPinfo:eu-repo/semantics/openAccess2021-06-02T09:38:40Zoai::998729Biblioteca Digital de Teses e DissertaçõesPUBhttp://repositorio.unicamp.br/oai/tese/oai.aspsbubd@unicamp.bropendoar:2021-06-02T09:38:40Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP)false |
dc.title.none.fl_str_mv |
Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme Block-coordinate descent methods and active-set identification for huge-scale problems |
title |
Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme |
spellingShingle |
Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme Lopes, Ronaldo, 1988- Otimização matemática Algoritmos Convergência global Processamento paralelo (Computadores) Problemas de grande porte (Matemática) Mathematical optimization Algorithms Global convergence Parallel processing (Electronic computers) Large-scale problems (Mathematics) |
title_short |
Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme |
title_full |
Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme |
title_fullStr |
Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme |
title_full_unstemmed |
Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme |
title_sort |
Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme |
author |
Lopes, Ronaldo, 1988- |
author_facet |
Lopes, Ronaldo, 1988- |
author_role |
author |
dc.contributor.none.fl_str_mv |
Santos, Sandra Augusta, 1964- Silva, Paulo José da Silva e, 1973- Martínez Pérez, José Mario Santos, Lucio Tunes dos Birgin, Ernesto Julián Goldberg Grapiglia, Geovani Nunes Universidade Estadual de Campinas. Instituto de Matemática, Estatística e Computação Científica Programa de Pós-Graduação em Matemática Aplicada UNIVERSIDADE ESTADUAL DE CAMPINAS |
dc.contributor.author.fl_str_mv |
Lopes, Ronaldo, 1988- |
dc.subject.por.fl_str_mv |
Otimização matemática Algoritmos Convergência global Processamento paralelo (Computadores) Problemas de grande porte (Matemática) Mathematical optimization Algorithms Global convergence Parallel processing (Electronic computers) Large-scale problems (Mathematics) |
topic |
Otimização matemática Algoritmos Convergência global Processamento paralelo (Computadores) Problemas de grande porte (Matemática) Mathematical optimization Algorithms Global convergence Parallel processing (Electronic computers) Large-scale problems (Mathematics) |
description |
Orientadores: Sandra Augusta Santos, Paulo José da Silva e Silva |
publishDate |
2018 |
dc.date.none.fl_str_mv |
2018 2018-04-23T00:00:00Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/doctoralThesis |
format |
doctoralThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
https://hdl.handle.net/20.500.12733/1633525 LOPES, Ronaldo. Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme. 2018. 1 recurso online (123 p.) Tese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação Científica, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1633525. Acesso em: 15 mai. 2024. |
url |
https://hdl.handle.net/20.500.12733/1633525 |
identifier_str_mv |
LOPES, Ronaldo. Métodos de descenso coordenado por blocos e identificação das restrições ativas em otimização de porte enorme. 2018. 1 recurso online (123 p.) Tese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação Científica, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1633525. Acesso em: 15 mai. 2024. |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.relation.none.fl_str_mv |
https://repositorio.unicamp.br/acervo/detalhe/998729 Requisitos do sistema: Software para leitura de arquivo em PDF |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf 1 recurso online (123 p.) : il., digital, arquivo PDF. |
dc.publisher.none.fl_str_mv |
[s.n.] |
publisher.none.fl_str_mv |
[s.n.] |
dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) instname:Universidade Estadual de Campinas (UNICAMP) instacron:UNICAMP |
instname_str |
Universidade Estadual de Campinas (UNICAMP) |
instacron_str |
UNICAMP |
institution |
UNICAMP |
reponame_str |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) |
collection |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) |
repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP) |
repository.mail.fl_str_mv |
sbubd@unicamp.br |
_version_ |
1799138524623011840 |