WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço

Detalhes bibliográficos
Autor(a) principal: Silva, Victor Olimpio dos Santos
Data de Publicação: 2023
Tipo de documento: Trabalho de conclusão de curso
Idioma: por
Título da fonte: Repositório Institucional da Universidade Federal Fluminense (RIUFF)
Texto Completo: http://app.uff.br/riuff/handle/1/30599
Resumo: As nuvens de computadores têm atraído muito interesse da comunidade científica nos últimos anos por oferecerem uma grande gama de recursos para qualquer usuário a partir da Web. Duas das grandes vantagens das nuvens frente a outros ambientes como clusters e grades computacionais são (i) a elasticidade de recursos, e (ii) o pagamento do serviço sob demanda. Muitas dessas simulações são compostas por um conjunto de programas encadeados em um fluxo coerente, onde a saída de um programa é a entrada do próximo no fluxo. A esse fluxo atribuímos o nome de Workflow. Muitos dos workflows são considerados de larga-escala e demandam ambientes de computação de processamento de alto desempenho (PAD) e de técnicas de paralelismo para terminar sua execução em um tempo aceitável. As nuvens se mostram como um ambiente propício para a execução desses workflows que demandam PAD. Entretanto, escalonar as tarefas associadas a um workflow no ambiente de nuvem ainda é um problema que permanece em aberto. Diversos fatores fazem com que esse escalonamento em nuvens seja um desafio, como por exemplo: (i) as VMs apresentam uma flutuação de desempenho ao longo do tempo, (ii) cada tipo de Máquina Virtual (VM) está associada a uma capacidade de processamento diferente (recursos heterogêneos), (iii) o custo de transferência de dados é alto, logo a localidade dos dados tem fator fundamental. Os algoritmos da área de Aprendizado por Reforço (AR) são apropriados para este cenário. Este trabalho apresenta a extensão realizada no simulador WorkflowSim chamada de WorkflowSimRL, propondo uma abordagem para utilizar o AR aplicado ao problema do escalonamento de tarefas de workflows em VMs de nuvens computacionais. O objetivo é avaliar o impacto desse tipo de algoritmo no tempo total de execução, no tempo de simulação dentro do simulador, e aplicar o plano de escalonamento gerado pelo WorkflowSimRL em uma execução em um ambiente real de um Workflow (Amazon EC2), utilizando o sistema de workflows SciCumulus como arcabouço para execução de workflows
id UFF-2_db2c478c513158c0d72a8622282404cb
oai_identifier_str oai:app.uff.br:1/30599
network_acronym_str UFF-2
network_name_str Repositório Institucional da Universidade Federal Fluminense (RIUFF)
repository_id_str 2120
spelling WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforçoComputação em nuvemFluxo de trabalhoProcessamento de alto desempenhoAs nuvens de computadores têm atraído muito interesse da comunidade científica nos últimos anos por oferecerem uma grande gama de recursos para qualquer usuário a partir da Web. Duas das grandes vantagens das nuvens frente a outros ambientes como clusters e grades computacionais são (i) a elasticidade de recursos, e (ii) o pagamento do serviço sob demanda. Muitas dessas simulações são compostas por um conjunto de programas encadeados em um fluxo coerente, onde a saída de um programa é a entrada do próximo no fluxo. A esse fluxo atribuímos o nome de Workflow. Muitos dos workflows são considerados de larga-escala e demandam ambientes de computação de processamento de alto desempenho (PAD) e de técnicas de paralelismo para terminar sua execução em um tempo aceitável. As nuvens se mostram como um ambiente propício para a execução desses workflows que demandam PAD. Entretanto, escalonar as tarefas associadas a um workflow no ambiente de nuvem ainda é um problema que permanece em aberto. Diversos fatores fazem com que esse escalonamento em nuvens seja um desafio, como por exemplo: (i) as VMs apresentam uma flutuação de desempenho ao longo do tempo, (ii) cada tipo de Máquina Virtual (VM) está associada a uma capacidade de processamento diferente (recursos heterogêneos), (iii) o custo de transferência de dados é alto, logo a localidade dos dados tem fator fundamental. Os algoritmos da área de Aprendizado por Reforço (AR) são apropriados para este cenário. Este trabalho apresenta a extensão realizada no simulador WorkflowSim chamada de WorkflowSimRL, propondo uma abordagem para utilizar o AR aplicado ao problema do escalonamento de tarefas de workflows em VMs de nuvens computacionais. O objetivo é avaliar o impacto desse tipo de algoritmo no tempo total de execução, no tempo de simulação dentro do simulador, e aplicar o plano de escalonamento gerado pelo WorkflowSimRL em uma execução em um ambiente real de um Workflow (Amazon EC2), utilizando o sistema de workflows SciCumulus como arcabouço para execução de workflowsComputer clouds has attracted much interest from the scientific community in recent years by offering a wide range of resources to any user from the Web. Two of the great advantages of clouds versus other environments such as clusters and computing grids are i) the elasticity of resources, and (ii) the payment of the service on demand. Many of these simulations are composed of a set of programs chained in a coherent flow, where the output of one program is the next input in the flow. To this flow we assign the name of Workflow. Many of the workflows are considered large-scale and require high performance computing (PAD) computing environments and parallelism techniques to complete their execution in an acceptable time. The clouds are shown as an environment to the execution of these workflows that demand PAD. However, scheduling the tasks associated with a workflow in the cloud environment is still an open problem. Several factors make this cloud scheduling a challenge, for example: (i) VMs show a fluctuation of performance over time, (ii) each type of Virtual Machine (VM) is associated with a processing capacity (heterogeneous resources), (iii) the cost of data transfer is high, so the locality of the data has a fundamental factor. Reinforcement Learning (RL) algorithms are appropriate for this scenario. This work presents the extension carried out in the WorkflowSim simulator called WorkflowSimRL, proposing an approach to use RA applied to the problem of task scheduling of workflows in computational cloud VMs. The objective of this work is to evaluate the impact of this type of algorithm on the total execution time in the simulation time within the simulator and to apply the scheduling plan generated by the WorkflowSimRL in an execution in a real environment of a Workflow (Amazon EC2), using the SciCumulus workflows system as a framework for the execution of workflows39 p.Oliveira, Daniel Cardoso Moraes deCarvalho, Aline Marins PaesSilva, Victor Olimpio dos Santos2023-09-26T16:26:40Z2023-09-26T16:26:40Zinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesisapplication/pdfSILVA, Victor Olimpio dos Santos. WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço. 2018. 39 f. Trabalho de Conclusão de Curso (Graduação em Ciência da Computação) - Instituto de Computação, Universidade Federal Fluminense, Niterói, 2018.http://app.uff.br/riuff/handle/1/30599CC-BY-SAinfo:eu-repo/semantics/openAccessporreponame:Repositório Institucional da Universidade Federal Fluminense (RIUFF)instname:Universidade Federal Fluminense (UFF)instacron:UFF2023-09-26T16:26:44Zoai:app.uff.br:1/30599Repositório InstitucionalPUBhttps://app.uff.br/oai/requestriuff@id.uff.bropendoar:21202023-09-26T16:26:44Repositório Institucional da Universidade Federal Fluminense (RIUFF) - Universidade Federal Fluminense (UFF)false
dc.title.none.fl_str_mv WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço
title WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço
spellingShingle WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço
Silva, Victor Olimpio dos Santos
Computação em nuvem
Fluxo de trabalho
Processamento de alto desempenho
title_short WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço
title_full WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço
title_fullStr WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço
title_full_unstemmed WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço
title_sort WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço
author Silva, Victor Olimpio dos Santos
author_facet Silva, Victor Olimpio dos Santos
author_role author
dc.contributor.none.fl_str_mv Oliveira, Daniel Cardoso Moraes de
Carvalho, Aline Marins Paes
dc.contributor.author.fl_str_mv Silva, Victor Olimpio dos Santos
dc.subject.por.fl_str_mv Computação em nuvem
Fluxo de trabalho
Processamento de alto desempenho
topic Computação em nuvem
Fluxo de trabalho
Processamento de alto desempenho
description As nuvens de computadores têm atraído muito interesse da comunidade científica nos últimos anos por oferecerem uma grande gama de recursos para qualquer usuário a partir da Web. Duas das grandes vantagens das nuvens frente a outros ambientes como clusters e grades computacionais são (i) a elasticidade de recursos, e (ii) o pagamento do serviço sob demanda. Muitas dessas simulações são compostas por um conjunto de programas encadeados em um fluxo coerente, onde a saída de um programa é a entrada do próximo no fluxo. A esse fluxo atribuímos o nome de Workflow. Muitos dos workflows são considerados de larga-escala e demandam ambientes de computação de processamento de alto desempenho (PAD) e de técnicas de paralelismo para terminar sua execução em um tempo aceitável. As nuvens se mostram como um ambiente propício para a execução desses workflows que demandam PAD. Entretanto, escalonar as tarefas associadas a um workflow no ambiente de nuvem ainda é um problema que permanece em aberto. Diversos fatores fazem com que esse escalonamento em nuvens seja um desafio, como por exemplo: (i) as VMs apresentam uma flutuação de desempenho ao longo do tempo, (ii) cada tipo de Máquina Virtual (VM) está associada a uma capacidade de processamento diferente (recursos heterogêneos), (iii) o custo de transferência de dados é alto, logo a localidade dos dados tem fator fundamental. Os algoritmos da área de Aprendizado por Reforço (AR) são apropriados para este cenário. Este trabalho apresenta a extensão realizada no simulador WorkflowSim chamada de WorkflowSimRL, propondo uma abordagem para utilizar o AR aplicado ao problema do escalonamento de tarefas de workflows em VMs de nuvens computacionais. O objetivo é avaliar o impacto desse tipo de algoritmo no tempo total de execução, no tempo de simulação dentro do simulador, e aplicar o plano de escalonamento gerado pelo WorkflowSimRL em uma execução em um ambiente real de um Workflow (Amazon EC2), utilizando o sistema de workflows SciCumulus como arcabouço para execução de workflows
publishDate 2023
dc.date.none.fl_str_mv 2023-09-26T16:26:40Z
2023-09-26T16:26:40Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/bachelorThesis
format bachelorThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv SILVA, Victor Olimpio dos Santos. WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço. 2018. 39 f. Trabalho de Conclusão de Curso (Graduação em Ciência da Computação) - Instituto de Computação, Universidade Federal Fluminense, Niterói, 2018.
http://app.uff.br/riuff/handle/1/30599
identifier_str_mv SILVA, Victor Olimpio dos Santos. WorkflowSimRL: escalonamento de workflows de larga-escala em nuvens de computadores com uso de aprendizado por reforço. 2018. 39 f. Trabalho de Conclusão de Curso (Graduação em Ciência da Computação) - Instituto de Computação, Universidade Federal Fluminense, Niterói, 2018.
url http://app.uff.br/riuff/handle/1/30599
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv CC-BY-SA
info:eu-repo/semantics/openAccess
rights_invalid_str_mv CC-BY-SA
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Repositório Institucional da Universidade Federal Fluminense (RIUFF)
instname:Universidade Federal Fluminense (UFF)
instacron:UFF
instname_str Universidade Federal Fluminense (UFF)
instacron_str UFF
institution UFF
reponame_str Repositório Institucional da Universidade Federal Fluminense (RIUFF)
collection Repositório Institucional da Universidade Federal Fluminense (RIUFF)
repository.name.fl_str_mv Repositório Institucional da Universidade Federal Fluminense (RIUFF) - Universidade Federal Fluminense (UFF)
repository.mail.fl_str_mv riuff@id.uff.br
_version_ 1807838825913778176