Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico

Detalhes bibliográficos
Autor(a) principal: Murta, Arthur Hermont Fonseca
Data de Publicação: 2021
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da Universidade Federal do Ceará (UFC)
Texto Completo: http://www.repositorio.ufc.br/handle/riufc/70010
Resumo: The cutting stock problem is a combinatorial optimization problem that consists of cutting larger objects in order to produce smaller pieces to meet a given demand in order to minimize material losses. This dissertation addresses up a multiperiod stochastic variant in which the problem is solved in multiple periods of time and we do not know exactly what the future demand will be, which is modeled as a random variable. This problem variant corresponds more closely to the reality of companies, which usually do not know in advance the demand for each time period. First, the stochastic multiperiod cutting stock problem was modeled as a Markovian decision process. A solution to the problem corresponds to an optimal decision policy, which is defined as what action to be taken every time to minimize the expected total cost. Exact algorithms to calculate an optimal policy require large computational effort when the problem size grows, then reinforcement learning techniques were used through an approximate policy iteration algorithm using a Bayesian filter. Computational experiments were performed to illustrate the application of the approach to real data on cutting steel bars in construction industry. The results indicate that the performance of the policy obtained by the proposed approach was up to fifty times better than the performance using a short-sighted policy, which does not take into account the future impact of decisions taken in the present.
id UFC-7_04c9271204aff80bdfc9995ab887f165
oai_identifier_str oai:repositorio.ufc.br:riufc/70010
network_acronym_str UFC-7
network_name_str Repositório Institucional da Universidade Federal do Ceará (UFC)
repository_id_str
spelling Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocásticoApplying reinforcement learning techniques to the solution of the multi-period stochastic stock cutting problemProblema de corte de estoqueAprendizado por reforçoProgramação dinâmica aproximadaOtimização combinatóriaCutting stock problemReinforcement learningApproximate dynamic programmingCombinatorial optimizationThe cutting stock problem is a combinatorial optimization problem that consists of cutting larger objects in order to produce smaller pieces to meet a given demand in order to minimize material losses. This dissertation addresses up a multiperiod stochastic variant in which the problem is solved in multiple periods of time and we do not know exactly what the future demand will be, which is modeled as a random variable. This problem variant corresponds more closely to the reality of companies, which usually do not know in advance the demand for each time period. First, the stochastic multiperiod cutting stock problem was modeled as a Markovian decision process. A solution to the problem corresponds to an optimal decision policy, which is defined as what action to be taken every time to minimize the expected total cost. Exact algorithms to calculate an optimal policy require large computational effort when the problem size grows, then reinforcement learning techniques were used through an approximate policy iteration algorithm using a Bayesian filter. Computational experiments were performed to illustrate the application of the approach to real data on cutting steel bars in construction industry. The results indicate that the performance of the policy obtained by the proposed approach was up to fifty times better than the performance using a short-sighted policy, which does not take into account the future impact of decisions taken in the present.O problema de corte de estoque é um problema de otimização combinatória que consiste em cortar objetos maiores a fim de produzir peças menores para atender uma dada demanda de forma a minimizar as perdas de material. Nesta dissertação, aborda-se uma variante multiperíodo estocástica na qual o problema é resolvido em múltiplos períodos de tempo e não se sabe exatamente qual é a demanda futura, a qual é modelada como uma variável aleatória. Essa variante corresponde mais fielmente à realidade das empresas, em que normalmente não se conhece antecipadamente a demanda em cada período de tempo. Primeiramente, o problema de corte de estoque multiperíodo estocástico foi modelado como um processo de decisão markoviano. Uma solução para o problema corresponde a uma política de decisão ótima, a qual é definida como sendo qual ação a ser tomada a cada período de tempo de forma a minimizar o custo esperado total a longo prazo. Algoritmos exatos para calcular uma política ótima requerem grande esforço computacional quando o tamanho do problema cresce, por isso foram utilizadas técnicas de aprendizado por reforço por meio de um algoritmo de iteração de política aproximada com o uso de um filtro bayesiano. Experimentos computacionais foram realizados para ilustrar a aplicação da abordagem com uso de dados reais de corte de barras de aço em obras de construção civil. Os resultados indicam que o desempenho da política obtida pela abordagem proposta foi até cinquenta vezes melhor do que o desempenho utilizando uma política míope, a qual não leva em conta o impacto futuro de decisões tomadas no presente.Pitombeira Neto, Anselmo RamalhoMurta, Arthur Hermont Fonseca2023-01-09T12:13:34Z2023-01-09T12:13:34Z2021info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfMURTA, Arthur Hermont Fonseca. Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico. 2021. 82 f. Dissertação (Mestrado em Modelagem e Métodos Quantitativos) - Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2021.http://www.repositorio.ufc.br/handle/riufc/70010porreponame:Repositório Institucional da Universidade Federal do Ceará (UFC)instname:Universidade Federal do Ceará (UFC)instacron:UFCinfo:eu-repo/semantics/openAccess2023-02-27T18:15:52Zoai:repositorio.ufc.br:riufc/70010Repositório InstitucionalPUBhttp://www.repositorio.ufc.br/ri-oai/requestbu@ufc.br || repositorio@ufc.bropendoar:2024-09-11T18:50:47.424976Repositório Institucional da Universidade Federal do Ceará (UFC) - Universidade Federal do Ceará (UFC)false
dc.title.none.fl_str_mv Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico
Applying reinforcement learning techniques to the solution of the multi-period stochastic stock cutting problem
title Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico
spellingShingle Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico
Murta, Arthur Hermont Fonseca
Problema de corte de estoque
Aprendizado por reforço
Programação dinâmica aproximada
Otimização combinatória
Cutting stock problem
Reinforcement learning
Approximate dynamic programming
Combinatorial optimization
title_short Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico
title_full Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico
title_fullStr Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico
title_full_unstemmed Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico
title_sort Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico
author Murta, Arthur Hermont Fonseca
author_facet Murta, Arthur Hermont Fonseca
author_role author
dc.contributor.none.fl_str_mv Pitombeira Neto, Anselmo Ramalho
dc.contributor.author.fl_str_mv Murta, Arthur Hermont Fonseca
dc.subject.por.fl_str_mv Problema de corte de estoque
Aprendizado por reforço
Programação dinâmica aproximada
Otimização combinatória
Cutting stock problem
Reinforcement learning
Approximate dynamic programming
Combinatorial optimization
topic Problema de corte de estoque
Aprendizado por reforço
Programação dinâmica aproximada
Otimização combinatória
Cutting stock problem
Reinforcement learning
Approximate dynamic programming
Combinatorial optimization
description The cutting stock problem is a combinatorial optimization problem that consists of cutting larger objects in order to produce smaller pieces to meet a given demand in order to minimize material losses. This dissertation addresses up a multiperiod stochastic variant in which the problem is solved in multiple periods of time and we do not know exactly what the future demand will be, which is modeled as a random variable. This problem variant corresponds more closely to the reality of companies, which usually do not know in advance the demand for each time period. First, the stochastic multiperiod cutting stock problem was modeled as a Markovian decision process. A solution to the problem corresponds to an optimal decision policy, which is defined as what action to be taken every time to minimize the expected total cost. Exact algorithms to calculate an optimal policy require large computational effort when the problem size grows, then reinforcement learning techniques were used through an approximate policy iteration algorithm using a Bayesian filter. Computational experiments were performed to illustrate the application of the approach to real data on cutting steel bars in construction industry. The results indicate that the performance of the policy obtained by the proposed approach was up to fifty times better than the performance using a short-sighted policy, which does not take into account the future impact of decisions taken in the present.
publishDate 2021
dc.date.none.fl_str_mv 2021
2023-01-09T12:13:34Z
2023-01-09T12:13:34Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv MURTA, Arthur Hermont Fonseca. Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico. 2021. 82 f. Dissertação (Mestrado em Modelagem e Métodos Quantitativos) - Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2021.
http://www.repositorio.ufc.br/handle/riufc/70010
identifier_str_mv MURTA, Arthur Hermont Fonseca. Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico. 2021. 82 f. Dissertação (Mestrado em Modelagem e Métodos Quantitativos) - Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2021.
url http://www.repositorio.ufc.br/handle/riufc/70010
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Repositório Institucional da Universidade Federal do Ceará (UFC)
instname:Universidade Federal do Ceará (UFC)
instacron:UFC
instname_str Universidade Federal do Ceará (UFC)
instacron_str UFC
institution UFC
reponame_str Repositório Institucional da Universidade Federal do Ceará (UFC)
collection Repositório Institucional da Universidade Federal do Ceará (UFC)
repository.name.fl_str_mv Repositório Institucional da Universidade Federal do Ceará (UFC) - Universidade Federal do Ceará (UFC)
repository.mail.fl_str_mv bu@ufc.br || repositorio@ufc.br
_version_ 1813028968794685440