Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa

Detalhes bibliográficos
Autor(a) principal: Chagas, Marcus Vinícius de Morais
Data de Publicação: 2023
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da UFG
dARK ID: ark:/38995/0013000003p64
Texto Completo: http://repositorio.bc.ufg.br/tede/handle/tede/12854
Resumo: In this work, we analyze the Hybrid Proximal Extragradiente (HPE) method to find zeroes of maximal monotone operators and its accelerated version Accelerated Hybrid Proximal Extragradient (A-HPE) to solve convex optimization problems whose objective function is given by the sum of two other convex functions, one differentiable with Lipschitz gradient and another one not necessarily differentiable. The HPE method was introduced by Solodov and Svaiter, it consists of an inexact version of the proximal point method having its proximal subproblems inexactly solved using a relative error criterion followed by an extragradient step. The HPE can also be seen as a framework, in the sense that many other methods for minimizing convex functions and more generally to find zeroes of maximal monotone operators can be seen as instances of the HPE method, such as the extragradient method, regularized Newton type method, ADMM, etc. In this work, we will analyze both the asymptotic convergence of the HPE method and its iteration-complexity.We will also analyze the iteration-complexity of the A-HPE method proposed by Monteiro and Svaiter. The A-HPE is a first-order accelerated method, i.e., it uses only information of the functional values and the first derivative or subgradients of the objective function and has optimal iteration-complexity.
id UFG-2_46d356bcd0e607c21516540ad9967be1
oai_identifier_str oai:repositorio.bc.ufg.br:tede/12854
network_acronym_str UFG-2
network_name_str Repositório Institucional da UFG
repository_id_str
spelling Melo, Jefferson Divino Gonçalves dehttp://lattes.cnpq.br/8296171010616435Melo, Jefferson Divino Gonçalves deGonçalves, Max Leandro NobreBento, Glaydston de CarvalhoAlves, Maicon Marqueshttp://lattes.cnpq.br/3373056639849743Chagas, Marcus Vinícius de Morais2023-05-25T10:39:46Z2023-05-25T10:39:46Z2023-04-10CHAGAS, M. V. M. Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa. 2023. 63 f. Dissertação (Mestrado em Matemática) - Universidade Federal de Goiás, Goiânia, 2023.http://repositorio.bc.ufg.br/tede/handle/tede/12854ark:/38995/0013000003p64In this work, we analyze the Hybrid Proximal Extragradiente (HPE) method to find zeroes of maximal monotone operators and its accelerated version Accelerated Hybrid Proximal Extragradient (A-HPE) to solve convex optimization problems whose objective function is given by the sum of two other convex functions, one differentiable with Lipschitz gradient and another one not necessarily differentiable. The HPE method was introduced by Solodov and Svaiter, it consists of an inexact version of the proximal point method having its proximal subproblems inexactly solved using a relative error criterion followed by an extragradient step. The HPE can also be seen as a framework, in the sense that many other methods for minimizing convex functions and more generally to find zeroes of maximal monotone operators can be seen as instances of the HPE method, such as the extragradient method, regularized Newton type method, ADMM, etc. In this work, we will analyze both the asymptotic convergence of the HPE method and its iteration-complexity.We will also analyze the iteration-complexity of the A-HPE method proposed by Monteiro and Svaiter. The A-HPE is a first-order accelerated method, i.e., it uses only information of the functional values and the first derivative or subgradients of the objective function and has optimal iteration-complexity.Neste trabalho analisamos o método Hybrid Proximal Extragradiente (HPE) para encontrar zeros de operador monótonos maximais e sua versão acelerada Accelerated Hybrid Proximal Extragradient (A-HPE) para resolver problemas de otimização convexa cuja função objetivo é dada pela soma de duas outras funções convexas, uma diferenciável com gradiente Lipschitz e outra não necessariamente diferenciável. O método HPE foi proposto por Solodov e Svaiter e consiste em uma versão inexata do método do ponto proximal tendo seus subproblemas proximais resolvidos de forma aproximada utilizando um critério de erro relativo seguido por uma atualização dos iterados por meio de um passo do tipo extragradiente. O HPE pode ser visto também como um framework, no sentido que vários outros métodos para minimizar funções convexas e mais geralmente para encontrar zeros de operadores monótonos maximais podem ser vistos como casos especiais do método HPE, tais como os métodos extragradiente, Newton regularizado, ADMM, etc. Neste trabalho, analisaremos tanto a convergência assintótica do método HPE quanto sua complexidade por iteração. Também analisaremos a complexidade por iteração do método A-HPE proposto por Monteiro e Svaiter. O A-HPE é um método acelerado de primeira ordem, isto é, um método que utiliza somente informações dos valores funcionais e da primeira derivada ou subgradientes das componentes da função objetivo e que possui complexidade por iteração ótima.Submitted by Onia Arantes Albuquerque (onia.ufg@gmail.com) on 2023-05-23T13:07:31Z No. of bitstreams: 2 Dissertação - Marcus Vinícius de Morais Chagas - 2023.pdf: 981683 bytes, checksum: bdd25476e6b72c4583dd247577a4b44f (MD5) license_rdf: 805 bytes, checksum: 4460e5956bc1d1639be9ae6146a50347 (MD5)Approved for entry into archive by Luciana Ferreira (lucgeral@gmail.com) on 2023-05-25T10:39:46Z (GMT) No. of bitstreams: 2 Dissertação - Marcus Vinícius de Morais Chagas - 2023.pdf: 981683 bytes, checksum: bdd25476e6b72c4583dd247577a4b44f (MD5) license_rdf: 805 bytes, checksum: 4460e5956bc1d1639be9ae6146a50347 (MD5)Made available in DSpace on 2023-05-25T10:39:46Z (GMT). No. of bitstreams: 2 Dissertação - Marcus Vinícius de Morais Chagas - 2023.pdf: 981683 bytes, checksum: bdd25476e6b72c4583dd247577a4b44f (MD5) license_rdf: 805 bytes, checksum: 4460e5956bc1d1639be9ae6146a50347 (MD5) Previous issue date: 2023-04-10porUniversidade Federal de GoiásPrograma de Pós-graduação em Matemática (IME)UFGBrasilInstituto de Matemática e Estatística - IME (RMG)Attribution-NonCommercial-NoDerivatives 4.0 Internationalhttp://creativecommons.org/licenses/by-nc-nd/4.0/info:eu-repo/semantics/openAccessOtimização convexaZeros de operadores monótonos maximaisMétodo do ponto proximalMétodo HPEMétodo A-HPEMétodo acelerado de primeira ordemComplexidade por iteraçãoConvex optimizationZeroes of maximal monotinic operatorsProximal method pointHPE methodsAccelerated first order methodIteration-complexityCIENCIAS EXATAS E DA TERRA::MATEMATICAComplexidade por iteração do método HPE e sua versão acelerada para otimização convexaComplexity per iteration of the HPE method and its accelerated version for convex optimizationinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesis7050050050027187reponame:Repositório Institucional da UFGinstname:Universidade Federal de Goiás (UFG)instacron:UFGLICENSElicense.txtlicense.txttext/plain; charset=utf-81748http://repositorio.bc.ufg.br/tede/bitstreams/0c706d4c-7b10-45ef-955d-48f35a6b334d/download8a4605be74aa9ea9d79846c1fba20a33MD51CC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-8805http://repositorio.bc.ufg.br/tede/bitstreams/8682ee57-bc63-40c0-b49c-1ad425840498/download4460e5956bc1d1639be9ae6146a50347MD52ORIGINALDissertação - Marcus Vinícius de Morais Chagas - 2023.pdfDissertação - Marcus Vinícius de Morais Chagas - 2023.pdfapplication/pdf981683http://repositorio.bc.ufg.br/tede/bitstreams/64a41eb9-e17f-48d6-b60c-5bcf6c1128a2/downloadbdd25476e6b72c4583dd247577a4b44fMD53tede/128542023-05-25 07:39:46.785http://creativecommons.org/licenses/by-nc-nd/4.0/Attribution-NonCommercial-NoDerivatives 4.0 Internationalopen.accessoai:repositorio.bc.ufg.br:tede/12854http://repositorio.bc.ufg.br/tedeRepositório InstitucionalPUBhttp://repositorio.bc.ufg.br/oai/requesttasesdissertacoes.bc@ufg.bropendoar:2023-05-25T10:39:46Repositório Institucional da UFG - Universidade Federal de Goiás (UFG)falseTk9URTogUExBQ0UgWU9VUiBPV04gTElDRU5TRSBIRVJFClRoaXMgc2FtcGxlIGxpY2Vuc2UgaXMgcHJvdmlkZWQgZm9yIGluZm9ybWF0aW9uYWwgcHVycG9zZXMgb25seS4KCk5PTi1FWENMVVNJVkUgRElTVFJJQlVUSU9OIExJQ0VOU0UKCkJ5IHNpZ25pbmcgYW5kIHN1Ym1pdHRpbmcgdGhpcyBsaWNlbnNlLCB5b3UgKHRoZSBhdXRob3Iocykgb3IgY29weXJpZ2h0Cm93bmVyKSBncmFudHMgdG8gRFNwYWNlIFVuaXZlcnNpdHkgKERTVSkgdGhlIG5vbi1leGNsdXNpdmUgcmlnaHQgdG8gcmVwcm9kdWNlLAp0cmFuc2xhdGUgKGFzIGRlZmluZWQgYmVsb3cpLCBhbmQvb3IgZGlzdHJpYnV0ZSB5b3VyIHN1Ym1pc3Npb24gKGluY2x1ZGluZwp0aGUgYWJzdHJhY3QpIHdvcmxkd2lkZSBpbiBwcmludCBhbmQgZWxlY3Ryb25pYyBmb3JtYXQgYW5kIGluIGFueSBtZWRpdW0sCmluY2x1ZGluZyBidXQgbm90IGxpbWl0ZWQgdG8gYXVkaW8gb3IgdmlkZW8uCgpZb3UgYWdyZWUgdGhhdCBEU1UgbWF5LCB3aXRob3V0IGNoYW5naW5nIHRoZSBjb250ZW50LCB0cmFuc2xhdGUgdGhlCnN1Ym1pc3Npb24gdG8gYW55IG1lZGl1bSBvciBmb3JtYXQgZm9yIHRoZSBwdXJwb3NlIG9mIHByZXNlcnZhdGlvbi4KCllvdSBhbHNvIGFncmVlIHRoYXQgRFNVIG1heSBrZWVwIG1vcmUgdGhhbiBvbmUgY29weSBvZiB0aGlzIHN1Ym1pc3Npb24gZm9yCnB1cnBvc2VzIG9mIHNlY3VyaXR5LCBiYWNrLXVwIGFuZCBwcmVzZXJ2YXRpb24uCgpZb3UgcmVwcmVzZW50IHRoYXQgdGhlIHN1Ym1pc3Npb24gaXMgeW91ciBvcmlnaW5hbCB3b3JrLCBhbmQgdGhhdCB5b3UgaGF2ZQp0aGUgcmlnaHQgdG8gZ3JhbnQgdGhlIHJpZ2h0cyBjb250YWluZWQgaW4gdGhpcyBsaWNlbnNlLiBZb3UgYWxzbyByZXByZXNlbnQKdGhhdCB5b3VyIHN1Ym1pc3Npb24gZG9lcyBub3QsIHRvIHRoZSBiZXN0IG9mIHlvdXIga25vd2xlZGdlLCBpbmZyaW5nZSB1cG9uCmFueW9uZSdzIGNvcHlyaWdodC4KCklmIHRoZSBzdWJtaXNzaW9uIGNvbnRhaW5zIG1hdGVyaWFsIGZvciB3aGljaCB5b3UgZG8gbm90IGhvbGQgY29weXJpZ2h0LAp5b3UgcmVwcmVzZW50IHRoYXQgeW91IGhhdmUgb2J0YWluZWQgdGhlIHVucmVzdHJpY3RlZCBwZXJtaXNzaW9uIG9mIHRoZQpjb3B5cmlnaHQgb3duZXIgdG8gZ3JhbnQgRFNVIHRoZSByaWdodHMgcmVxdWlyZWQgYnkgdGhpcyBsaWNlbnNlLCBhbmQgdGhhdApzdWNoIHRoaXJkLXBhcnR5IG93bmVkIG1hdGVyaWFsIGlzIGNsZWFybHkgaWRlbnRpZmllZCBhbmQgYWNrbm93bGVkZ2VkCndpdGhpbiB0aGUgdGV4dCBvciBjb250ZW50IG9mIHRoZSBzdWJtaXNzaW9uLgoKSUYgVEhFIFNVQk1JU1NJT04gSVMgQkFTRUQgVVBPTiBXT1JLIFRIQVQgSEFTIEJFRU4gU1BPTlNPUkVEIE9SIFNVUFBPUlRFRApCWSBBTiBBR0VOQ1kgT1IgT1JHQU5JWkFUSU9OIE9USEVSIFRIQU4gRFNVLCBZT1UgUkVQUkVTRU5UIFRIQVQgWU9VIEhBVkUKRlVMRklMTEVEIEFOWSBSSUdIVCBPRiBSRVZJRVcgT1IgT1RIRVIgT0JMSUdBVElPTlMgUkVRVUlSRUQgQlkgU1VDSApDT05UUkFDVCBPUiBBR1JFRU1FTlQuCgpEU1Ugd2lsbCBjbGVhcmx5IGlkZW50aWZ5IHlvdXIgbmFtZShzKSBhcyB0aGUgYXV0aG9yKHMpIG9yIG93bmVyKHMpIG9mIHRoZQpzdWJtaXNzaW9uLCBhbmQgd2lsbCBub3QgbWFrZSBhbnkgYWx0ZXJhdGlvbiwgb3RoZXIgdGhhbiBhcyBhbGxvd2VkIGJ5IHRoaXMKbGljZW5zZSwgdG8geW91ciBzdWJtaXNzaW9uLgo=
dc.title.pt_BR.fl_str_mv Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa
dc.title.alternative.eng.fl_str_mv Complexity per iteration of the HPE method and its accelerated version for convex optimization
title Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa
spellingShingle Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa
Chagas, Marcus Vinícius de Morais
Otimização convexa
Zeros de operadores monótonos maximais
Método do ponto proximal
Método HPE
Método A-HPE
Método acelerado de primeira ordem
Complexidade por iteração
Convex optimization
Zeroes of maximal monotinic operators
Proximal method point
HPE methods
Accelerated first order method
Iteration-complexity
CIENCIAS EXATAS E DA TERRA::MATEMATICA
title_short Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa
title_full Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa
title_fullStr Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa
title_full_unstemmed Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa
title_sort Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa
author Chagas, Marcus Vinícius de Morais
author_facet Chagas, Marcus Vinícius de Morais
author_role author
dc.contributor.advisor1.fl_str_mv Melo, Jefferson Divino Gonçalves de
dc.contributor.advisor1Lattes.fl_str_mv http://lattes.cnpq.br/8296171010616435
dc.contributor.referee1.fl_str_mv Melo, Jefferson Divino Gonçalves de
dc.contributor.referee2.fl_str_mv Gonçalves, Max Leandro Nobre
dc.contributor.referee3.fl_str_mv Bento, Glaydston de Carvalho
dc.contributor.referee4.fl_str_mv Alves, Maicon Marques
dc.contributor.authorLattes.fl_str_mv http://lattes.cnpq.br/3373056639849743
dc.contributor.author.fl_str_mv Chagas, Marcus Vinícius de Morais
contributor_str_mv Melo, Jefferson Divino Gonçalves de
Melo, Jefferson Divino Gonçalves de
Gonçalves, Max Leandro Nobre
Bento, Glaydston de Carvalho
Alves, Maicon Marques
dc.subject.por.fl_str_mv Otimização convexa
Zeros de operadores monótonos maximais
Método do ponto proximal
Método HPE
Método A-HPE
Método acelerado de primeira ordem
Complexidade por iteração
topic Otimização convexa
Zeros de operadores monótonos maximais
Método do ponto proximal
Método HPE
Método A-HPE
Método acelerado de primeira ordem
Complexidade por iteração
Convex optimization
Zeroes of maximal monotinic operators
Proximal method point
HPE methods
Accelerated first order method
Iteration-complexity
CIENCIAS EXATAS E DA TERRA::MATEMATICA
dc.subject.eng.fl_str_mv Convex optimization
Zeroes of maximal monotinic operators
Proximal method point
HPE methods
Accelerated first order method
Iteration-complexity
dc.subject.cnpq.fl_str_mv CIENCIAS EXATAS E DA TERRA::MATEMATICA
description In this work, we analyze the Hybrid Proximal Extragradiente (HPE) method to find zeroes of maximal monotone operators and its accelerated version Accelerated Hybrid Proximal Extragradient (A-HPE) to solve convex optimization problems whose objective function is given by the sum of two other convex functions, one differentiable with Lipschitz gradient and another one not necessarily differentiable. The HPE method was introduced by Solodov and Svaiter, it consists of an inexact version of the proximal point method having its proximal subproblems inexactly solved using a relative error criterion followed by an extragradient step. The HPE can also be seen as a framework, in the sense that many other methods for minimizing convex functions and more generally to find zeroes of maximal monotone operators can be seen as instances of the HPE method, such as the extragradient method, regularized Newton type method, ADMM, etc. In this work, we will analyze both the asymptotic convergence of the HPE method and its iteration-complexity.We will also analyze the iteration-complexity of the A-HPE method proposed by Monteiro and Svaiter. The A-HPE is a first-order accelerated method, i.e., it uses only information of the functional values and the first derivative or subgradients of the objective function and has optimal iteration-complexity.
publishDate 2023
dc.date.accessioned.fl_str_mv 2023-05-25T10:39:46Z
dc.date.available.fl_str_mv 2023-05-25T10:39:46Z
dc.date.issued.fl_str_mv 2023-04-10
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv CHAGAS, M. V. M. Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa. 2023. 63 f. Dissertação (Mestrado em Matemática) - Universidade Federal de Goiás, Goiânia, 2023.
dc.identifier.uri.fl_str_mv http://repositorio.bc.ufg.br/tede/handle/tede/12854
dc.identifier.dark.fl_str_mv ark:/38995/0013000003p64
identifier_str_mv CHAGAS, M. V. M. Complexidade por iteração do método HPE e sua versão acelerada para otimização convexa. 2023. 63 f. Dissertação (Mestrado em Matemática) - Universidade Federal de Goiás, Goiânia, 2023.
ark:/38995/0013000003p64
url http://repositorio.bc.ufg.br/tede/handle/tede/12854
dc.language.iso.fl_str_mv por
language por
dc.relation.program.fl_str_mv 70
dc.relation.confidence.fl_str_mv 500
500
500
dc.relation.department.fl_str_mv 27
dc.relation.cnpq.fl_str_mv 187
dc.rights.driver.fl_str_mv Attribution-NonCommercial-NoDerivatives 4.0 International
http://creativecommons.org/licenses/by-nc-nd/4.0/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Attribution-NonCommercial-NoDerivatives 4.0 International
http://creativecommons.org/licenses/by-nc-nd/4.0/
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal de Goiás
dc.publisher.program.fl_str_mv Programa de Pós-graduação em Matemática (IME)
dc.publisher.initials.fl_str_mv UFG
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv Instituto de Matemática e Estatística - IME (RMG)
publisher.none.fl_str_mv Universidade Federal de Goiás
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFG
instname:Universidade Federal de Goiás (UFG)
instacron:UFG
instname_str Universidade Federal de Goiás (UFG)
instacron_str UFG
institution UFG
reponame_str Repositório Institucional da UFG
collection Repositório Institucional da UFG
bitstream.url.fl_str_mv http://repositorio.bc.ufg.br/tede/bitstreams/0c706d4c-7b10-45ef-955d-48f35a6b334d/download
http://repositorio.bc.ufg.br/tede/bitstreams/8682ee57-bc63-40c0-b49c-1ad425840498/download
http://repositorio.bc.ufg.br/tede/bitstreams/64a41eb9-e17f-48d6-b60c-5bcf6c1128a2/download
bitstream.checksum.fl_str_mv 8a4605be74aa9ea9d79846c1fba20a33
4460e5956bc1d1639be9ae6146a50347
bdd25476e6b72c4583dd247577a4b44f
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFG - Universidade Federal de Goiás (UFG)
repository.mail.fl_str_mv tasesdissertacoes.bc@ufg.br
_version_ 1815172548592140288