Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico
Autor(a) principal: | |
---|---|
Data de Publicação: | 2021 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da Universidade Federal do Ceará (UFC) |
Texto Completo: | http://www.repositorio.ufc.br/handle/riufc/70010 |
Resumo: | The cutting stock problem is a combinatorial optimization problem that consists of cutting larger objects in order to produce smaller pieces to meet a given demand in order to minimize material losses. This dissertation addresses up a multiperiod stochastic variant in which the problem is solved in multiple periods of time and we do not know exactly what the future demand will be, which is modeled as a random variable. This problem variant corresponds more closely to the reality of companies, which usually do not know in advance the demand for each time period. First, the stochastic multiperiod cutting stock problem was modeled as a Markovian decision process. A solution to the problem corresponds to an optimal decision policy, which is defined as what action to be taken every time to minimize the expected total cost. Exact algorithms to calculate an optimal policy require large computational effort when the problem size grows, then reinforcement learning techniques were used through an approximate policy iteration algorithm using a Bayesian filter. Computational experiments were performed to illustrate the application of the approach to real data on cutting steel bars in construction industry. The results indicate that the performance of the policy obtained by the proposed approach was up to fifty times better than the performance using a short-sighted policy, which does not take into account the future impact of decisions taken in the present. |
id |
UFC-7_04c9271204aff80bdfc9995ab887f165 |
---|---|
oai_identifier_str |
oai:repositorio.ufc.br:riufc/70010 |
network_acronym_str |
UFC-7 |
network_name_str |
Repositório Institucional da Universidade Federal do Ceará (UFC) |
repository_id_str |
|
spelling |
Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocásticoApplying reinforcement learning techniques to the solution of the multi-period stochastic stock cutting problemProblema de corte de estoqueAprendizado por reforçoProgramação dinâmica aproximadaOtimização combinatóriaCutting stock problemReinforcement learningApproximate dynamic programmingCombinatorial optimizationThe cutting stock problem is a combinatorial optimization problem that consists of cutting larger objects in order to produce smaller pieces to meet a given demand in order to minimize material losses. This dissertation addresses up a multiperiod stochastic variant in which the problem is solved in multiple periods of time and we do not know exactly what the future demand will be, which is modeled as a random variable. This problem variant corresponds more closely to the reality of companies, which usually do not know in advance the demand for each time period. First, the stochastic multiperiod cutting stock problem was modeled as a Markovian decision process. A solution to the problem corresponds to an optimal decision policy, which is defined as what action to be taken every time to minimize the expected total cost. Exact algorithms to calculate an optimal policy require large computational effort when the problem size grows, then reinforcement learning techniques were used through an approximate policy iteration algorithm using a Bayesian filter. Computational experiments were performed to illustrate the application of the approach to real data on cutting steel bars in construction industry. The results indicate that the performance of the policy obtained by the proposed approach was up to fifty times better than the performance using a short-sighted policy, which does not take into account the future impact of decisions taken in the present.O problema de corte de estoque é um problema de otimização combinatória que consiste em cortar objetos maiores a fim de produzir peças menores para atender uma dada demanda de forma a minimizar as perdas de material. Nesta dissertação, aborda-se uma variante multiperíodo estocástica na qual o problema é resolvido em múltiplos períodos de tempo e não se sabe exatamente qual é a demanda futura, a qual é modelada como uma variável aleatória. Essa variante corresponde mais fielmente à realidade das empresas, em que normalmente não se conhece antecipadamente a demanda em cada período de tempo. Primeiramente, o problema de corte de estoque multiperíodo estocástico foi modelado como um processo de decisão markoviano. Uma solução para o problema corresponde a uma política de decisão ótima, a qual é definida como sendo qual ação a ser tomada a cada período de tempo de forma a minimizar o custo esperado total a longo prazo. Algoritmos exatos para calcular uma política ótima requerem grande esforço computacional quando o tamanho do problema cresce, por isso foram utilizadas técnicas de aprendizado por reforço por meio de um algoritmo de iteração de política aproximada com o uso de um filtro bayesiano. Experimentos computacionais foram realizados para ilustrar a aplicação da abordagem com uso de dados reais de corte de barras de aço em obras de construção civil. Os resultados indicam que o desempenho da política obtida pela abordagem proposta foi até cinquenta vezes melhor do que o desempenho utilizando uma política míope, a qual não leva em conta o impacto futuro de decisões tomadas no presente.Pitombeira Neto, Anselmo RamalhoMurta, Arthur Hermont Fonseca2023-01-09T12:13:34Z2023-01-09T12:13:34Z2021info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfMURTA, Arthur Hermont Fonseca. Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico. 2021. 82 f. Dissertação (Mestrado em Modelagem e Métodos Quantitativos) - Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2021.http://www.repositorio.ufc.br/handle/riufc/70010porreponame:Repositório Institucional da Universidade Federal do Ceará (UFC)instname:Universidade Federal do Ceará (UFC)instacron:UFCinfo:eu-repo/semantics/openAccess2023-02-27T18:15:52Zoai:repositorio.ufc.br:riufc/70010Repositório InstitucionalPUBhttp://www.repositorio.ufc.br/ri-oai/requestbu@ufc.br || repositorio@ufc.bropendoar:2024-09-11T18:50:47.424976Repositório Institucional da Universidade Federal do Ceará (UFC) - Universidade Federal do Ceará (UFC)false |
dc.title.none.fl_str_mv |
Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico Applying reinforcement learning techniques to the solution of the multi-period stochastic stock cutting problem |
title |
Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico |
spellingShingle |
Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico Murta, Arthur Hermont Fonseca Problema de corte de estoque Aprendizado por reforço Programação dinâmica aproximada Otimização combinatória Cutting stock problem Reinforcement learning Approximate dynamic programming Combinatorial optimization |
title_short |
Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico |
title_full |
Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico |
title_fullStr |
Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico |
title_full_unstemmed |
Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico |
title_sort |
Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico |
author |
Murta, Arthur Hermont Fonseca |
author_facet |
Murta, Arthur Hermont Fonseca |
author_role |
author |
dc.contributor.none.fl_str_mv |
Pitombeira Neto, Anselmo Ramalho |
dc.contributor.author.fl_str_mv |
Murta, Arthur Hermont Fonseca |
dc.subject.por.fl_str_mv |
Problema de corte de estoque Aprendizado por reforço Programação dinâmica aproximada Otimização combinatória Cutting stock problem Reinforcement learning Approximate dynamic programming Combinatorial optimization |
topic |
Problema de corte de estoque Aprendizado por reforço Programação dinâmica aproximada Otimização combinatória Cutting stock problem Reinforcement learning Approximate dynamic programming Combinatorial optimization |
description |
The cutting stock problem is a combinatorial optimization problem that consists of cutting larger objects in order to produce smaller pieces to meet a given demand in order to minimize material losses. This dissertation addresses up a multiperiod stochastic variant in which the problem is solved in multiple periods of time and we do not know exactly what the future demand will be, which is modeled as a random variable. This problem variant corresponds more closely to the reality of companies, which usually do not know in advance the demand for each time period. First, the stochastic multiperiod cutting stock problem was modeled as a Markovian decision process. A solution to the problem corresponds to an optimal decision policy, which is defined as what action to be taken every time to minimize the expected total cost. Exact algorithms to calculate an optimal policy require large computational effort when the problem size grows, then reinforcement learning techniques were used through an approximate policy iteration algorithm using a Bayesian filter. Computational experiments were performed to illustrate the application of the approach to real data on cutting steel bars in construction industry. The results indicate that the performance of the policy obtained by the proposed approach was up to fifty times better than the performance using a short-sighted policy, which does not take into account the future impact of decisions taken in the present. |
publishDate |
2021 |
dc.date.none.fl_str_mv |
2021 2023-01-09T12:13:34Z 2023-01-09T12:13:34Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
MURTA, Arthur Hermont Fonseca. Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico. 2021. 82 f. Dissertação (Mestrado em Modelagem e Métodos Quantitativos) - Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2021. http://www.repositorio.ufc.br/handle/riufc/70010 |
identifier_str_mv |
MURTA, Arthur Hermont Fonseca. Aplicação de técnicas de aprendizado por reforço na solução do problema de corte de estoque multiperíodo estocástico. 2021. 82 f. Dissertação (Mestrado em Modelagem e Métodos Quantitativos) - Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2021. |
url |
http://www.repositorio.ufc.br/handle/riufc/70010 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da Universidade Federal do Ceará (UFC) instname:Universidade Federal do Ceará (UFC) instacron:UFC |
instname_str |
Universidade Federal do Ceará (UFC) |
instacron_str |
UFC |
institution |
UFC |
reponame_str |
Repositório Institucional da Universidade Federal do Ceará (UFC) |
collection |
Repositório Institucional da Universidade Federal do Ceará (UFC) |
repository.name.fl_str_mv |
Repositório Institucional da Universidade Federal do Ceará (UFC) - Universidade Federal do Ceará (UFC) |
repository.mail.fl_str_mv |
bu@ufc.br || repositorio@ufc.br |
_version_ |
1813028968794685440 |