Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems
Autor(a) principal: | |
---|---|
Data de Publicação: | 2021 |
Tipo de documento: | Tese |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFRN |
Texto Completo: | https://repositorio.ufrn.br/handle/123456789/44626 |
Resumo: | Na era multicores, o tamanho do espaço de operação do software, ou seja, configurações de hardware que fornecem diferentes desempenho e consumo energético de um software, é significativamente maior. Além disso, torna-se ainda mais complexo escolher uma configuração que otimize o desempenho e o consumo de energia de processadores heterogêneos. Arquiteturas heterogêneas de vários núcleos oferecem flexibilidade em diferentes tipos de núcleos e de tensão e frequência, definindo um vasto espaço de design a ser explorado. Além do mais, soluções de eficiência energética é crucial em dispositivos menores, pois pode levar a uma vida útil mais longa da bateria e uma melhor experiência do usuário, incluindo aplicativos mais complexos. Esta tese propõe uma metodologia para encontrar balanços entre performance e energia para aplicações paralelas com cargas de trabalho balanceadas dinamicamente, rodando em sistemas multiprocessado heterogêneo com uma arquitetura de conjunto de instruções único (ISA). Nosso método concebe novos modelos analíticos para desempenho e consumo de energia cujos parâmetros podem ser ajustados usando apenas algumas medições off-line estrategicamente amostradas. Esses modelos são então usados para estimar o desempenho de um aplicativo e o consumo de energia para todo o espaço de configuração. Por sua vez, essas predições realizadas off-line definem a escolha das configurações de Pareto-ótimas estimadas do modelo, que são usadas para informar a configuração que o aplicativo deve executar. A metodologia foi validada em uma placa ODROID-XU3 para oito programas dos aplicativos PARSEC Benchmark, Phoronix Test Suite e Rodinia. Foram observadas economias de energia de até 59,77%, 61,38% e 17,7% em comparação com os governadores do Linux performance, ondemand e powersave, respectivamente, com desempenho superior ou semelhante. Este método visa fornecer um ponto de partida ideal para um gerenciador de energia para tomar melhores decisões de acordo com o desempenho do aplicativo e requisitos de consumo de energia e sistema em execução. Dessa forma, esta tese também propõe uma estratégia usando a configuração Pareto-ótima selecionada por nossos modelos como um ponto de partida apropriado para um runtime support framework, chamado Nornir. Esse framework realiza dinamicamente uma busca local por uma configuração mais desejável de núcleos e frequência adaptando às flutuações da carga de trabalho e interferência externa. Além disso, estendemos nosso modelo de energia para prever o consumo de todo o dispositivo, ou seja, a soma do consumo de todos os componentes internos. Esta abordagem híbrida foi empregada em uma placa ODROID-XU3 em dois aplicativos multi-thread. Nornir começando com a configuração de Pareto pode alcançar até 50% de economia de energia em comparação com configurações de partida aleatórias. Também observamos que o governador Linux performance e interactive consumiu até 1,62X mais energia do que Nornir usando Pareto. |
id |
UFRN_00b79f8441d120201babe142b75e2c55 |
---|---|
oai_identifier_str |
oai:https://repositorio.ufrn.br:123456789/44626 |
network_acronym_str |
UFRN |
network_name_str |
Repositório Institucional da UFRN |
repository_id_str |
|
spelling |
Coutinho, Demétrios Araújo Magalhãeshttp://lattes.cnpq.br/6749444529357582http://lattes.cnpq.br/9892239670106361Sensi, Daniele deBeck Filho, Antonio Carlos Schneiderhttp://lattes.cnpq.br/5446996798632062Barros, Carlos Avelino dehttp://lattes.cnpq.br/0466019450390663Freitas, Henrique Cota dehttp://lattes.cnpq.br/4075688424083407Souza, Samuel Xavier de2021-10-18T19:42:00Z2021-10-18T19:42:00Z2021-07-15COUTINHO, Demétrios Araújo Magalhães. Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems. 2021. 110f. Tese (Doutorado em Engenharia Elétrica e de Computação) - Centro de Tecnologia, Universidade Federal do Rio Grande do Norte, Natal, 2021.https://repositorio.ufrn.br/handle/123456789/44626Na era multicores, o tamanho do espaço de operação do software, ou seja, configurações de hardware que fornecem diferentes desempenho e consumo energético de um software, é significativamente maior. Além disso, torna-se ainda mais complexo escolher uma configuração que otimize o desempenho e o consumo de energia de processadores heterogêneos. Arquiteturas heterogêneas de vários núcleos oferecem flexibilidade em diferentes tipos de núcleos e de tensão e frequência, definindo um vasto espaço de design a ser explorado. Além do mais, soluções de eficiência energética é crucial em dispositivos menores, pois pode levar a uma vida útil mais longa da bateria e uma melhor experiência do usuário, incluindo aplicativos mais complexos. Esta tese propõe uma metodologia para encontrar balanços entre performance e energia para aplicações paralelas com cargas de trabalho balanceadas dinamicamente, rodando em sistemas multiprocessado heterogêneo com uma arquitetura de conjunto de instruções único (ISA). Nosso método concebe novos modelos analíticos para desempenho e consumo de energia cujos parâmetros podem ser ajustados usando apenas algumas medições off-line estrategicamente amostradas. Esses modelos são então usados para estimar o desempenho de um aplicativo e o consumo de energia para todo o espaço de configuração. Por sua vez, essas predições realizadas off-line definem a escolha das configurações de Pareto-ótimas estimadas do modelo, que são usadas para informar a configuração que o aplicativo deve executar. A metodologia foi validada em uma placa ODROID-XU3 para oito programas dos aplicativos PARSEC Benchmark, Phoronix Test Suite e Rodinia. Foram observadas economias de energia de até 59,77%, 61,38% e 17,7% em comparação com os governadores do Linux performance, ondemand e powersave, respectivamente, com desempenho superior ou semelhante. Este método visa fornecer um ponto de partida ideal para um gerenciador de energia para tomar melhores decisões de acordo com o desempenho do aplicativo e requisitos de consumo de energia e sistema em execução. Dessa forma, esta tese também propõe uma estratégia usando a configuração Pareto-ótima selecionada por nossos modelos como um ponto de partida apropriado para um runtime support framework, chamado Nornir. Esse framework realiza dinamicamente uma busca local por uma configuração mais desejável de núcleos e frequência adaptando às flutuações da carga de trabalho e interferência externa. Além disso, estendemos nosso modelo de energia para prever o consumo de todo o dispositivo, ou seja, a soma do consumo de todos os componentes internos. Esta abordagem híbrida foi empregada em uma placa ODROID-XU3 em dois aplicativos multi-thread. Nornir começando com a configuração de Pareto pode alcançar até 50% de economia de energia em comparação com configurações de partida aleatórias. Também observamos que o governador Linux performance e interactive consumiu até 1,62X mais energia do que Nornir usando Pareto.In the multi-core era, the size of the software operation space, i.e. hardware configurations (number of cores and operating frequency) that provide different software performance and energy consumption, is significantly larger. It becomes even more complex to choose a configuration that optimizes heterogeneous processors’ performance and energy consumption. Heterogeneous multi-core architectures offer flexibility in different core types and voltage and frequency pairings, defining a vast design space to explore. Furthermore, energy efficiency solutions are crucial on smaller devices as they can lead to longer battery life and a better user experience, including more complex applications. This thesis proposes a methodology to find performance-energy trade-offs for single parallel applications with dynamically balanced workloads running on Heterogeneous Multicore Processing (HMP) systems with a single instruction-set architecture (ISA). Our method devises novel analytical models for performance and power consumption whose parameters can be fitted using only a few strategically sampled offline measurements. These models are then used to estimate an application’s performance and energy consumption for the whole configuration space. In turn, these offline predictions define the choice of estimated Pareto-optimal configurations of the model, which are used to inform the configuration that the application should execute. The methodology was validated on an ODROID-XU3 board for eight programs from the PARSEC Benchmark, Phoronix Test Suite and Rodinia applications. Energy savings of up to 59.77%, 61.38% and 17.7% were observed compared to the performance, ondemand and powersave Linux governors, respectively, with higher or similar performance. This method aims to provide an optimal start point for a runtime energy manager to make better decisions according to the given application’s performance and energy consumption requirements and running system. Therefore, this thesis also proposes a strategy using the Pareto-optimal configuration selected by our models as an appropriate start point for a runtime support framework called Nornir. This framework performs a local search dynamically for a more desirable configuration of cores and frequency adapting to workload fluctuations and external interference. Also, we extend our power model to predict the whole device’s consumption, i.e. the sum of all internal components’ consumption.This hybrid approach was employed on an ODROID-XU3 board on two multi-thread applications. Preliminary results shows that Nornir starting with Pareto configuration can achieve up to 50% of energy savings compared to random starting configurations. On average, we observed that the default Linux governors consumed up to 1.62× more energy than Nornir using Pareto.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior - CAPESUniversidade Federal do Rio Grande do NortePROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA E DE COMPUTAÇÃOUFRNBrasilHeterogeneous multi-processingEnergy efficiencyPareto frontierRuntime energy managerPerformance, power and energy modelPerformance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systemsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisinfo:eu-repo/semantics/openAccessporreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRNORIGINALPerformanceenergytradeoffs_Coutinho_2021.pdfapplication/pdf10290882https://repositorio.ufrn.br/bitstream/123456789/44626/1/Performanceenergytradeoffs_Coutinho_2021.pdf9e6c2e37053b6a91e9fa53d59634a180MD51123456789/446262022-05-02 12:31:46.25oai:https://repositorio.ufrn.br:123456789/44626Repositório de PublicaçõesPUBhttp://repositorio.ufrn.br/oai/opendoar:2022-05-02T15:31:46Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false |
dc.title.pt_BR.fl_str_mv |
Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems |
title |
Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems |
spellingShingle |
Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems Coutinho, Demétrios Araújo Magalhães Heterogeneous multi-processing Energy efficiency Pareto frontier Runtime energy manager Performance, power and energy model |
title_short |
Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems |
title_full |
Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems |
title_fullStr |
Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems |
title_full_unstemmed |
Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems |
title_sort |
Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems |
author |
Coutinho, Demétrios Araújo Magalhães |
author_facet |
Coutinho, Demétrios Araújo Magalhães |
author_role |
author |
dc.contributor.authorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/6749444529357582 |
dc.contributor.advisorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/9892239670106361 |
dc.contributor.referees1.none.fl_str_mv |
Sensi, Daniele de |
dc.contributor.referees2.none.fl_str_mv |
Beck Filho, Antonio Carlos Schneider |
dc.contributor.referees2Lattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/5446996798632062 |
dc.contributor.referees3.none.fl_str_mv |
Barros, Carlos Avelino de |
dc.contributor.referees3Lattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/0466019450390663 |
dc.contributor.referees4.none.fl_str_mv |
Freitas, Henrique Cota de |
dc.contributor.referees4Lattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/4075688424083407 |
dc.contributor.author.fl_str_mv |
Coutinho, Demétrios Araújo Magalhães |
dc.contributor.advisor1.fl_str_mv |
Souza, Samuel Xavier de |
contributor_str_mv |
Souza, Samuel Xavier de |
dc.subject.por.fl_str_mv |
Heterogeneous multi-processing Energy efficiency Pareto frontier Runtime energy manager Performance, power and energy model |
topic |
Heterogeneous multi-processing Energy efficiency Pareto frontier Runtime energy manager Performance, power and energy model |
description |
Na era multicores, o tamanho do espaço de operação do software, ou seja, configurações de hardware que fornecem diferentes desempenho e consumo energético de um software, é significativamente maior. Além disso, torna-se ainda mais complexo escolher uma configuração que otimize o desempenho e o consumo de energia de processadores heterogêneos. Arquiteturas heterogêneas de vários núcleos oferecem flexibilidade em diferentes tipos de núcleos e de tensão e frequência, definindo um vasto espaço de design a ser explorado. Além do mais, soluções de eficiência energética é crucial em dispositivos menores, pois pode levar a uma vida útil mais longa da bateria e uma melhor experiência do usuário, incluindo aplicativos mais complexos. Esta tese propõe uma metodologia para encontrar balanços entre performance e energia para aplicações paralelas com cargas de trabalho balanceadas dinamicamente, rodando em sistemas multiprocessado heterogêneo com uma arquitetura de conjunto de instruções único (ISA). Nosso método concebe novos modelos analíticos para desempenho e consumo de energia cujos parâmetros podem ser ajustados usando apenas algumas medições off-line estrategicamente amostradas. Esses modelos são então usados para estimar o desempenho de um aplicativo e o consumo de energia para todo o espaço de configuração. Por sua vez, essas predições realizadas off-line definem a escolha das configurações de Pareto-ótimas estimadas do modelo, que são usadas para informar a configuração que o aplicativo deve executar. A metodologia foi validada em uma placa ODROID-XU3 para oito programas dos aplicativos PARSEC Benchmark, Phoronix Test Suite e Rodinia. Foram observadas economias de energia de até 59,77%, 61,38% e 17,7% em comparação com os governadores do Linux performance, ondemand e powersave, respectivamente, com desempenho superior ou semelhante. Este método visa fornecer um ponto de partida ideal para um gerenciador de energia para tomar melhores decisões de acordo com o desempenho do aplicativo e requisitos de consumo de energia e sistema em execução. Dessa forma, esta tese também propõe uma estratégia usando a configuração Pareto-ótima selecionada por nossos modelos como um ponto de partida apropriado para um runtime support framework, chamado Nornir. Esse framework realiza dinamicamente uma busca local por uma configuração mais desejável de núcleos e frequência adaptando às flutuações da carga de trabalho e interferência externa. Além disso, estendemos nosso modelo de energia para prever o consumo de todo o dispositivo, ou seja, a soma do consumo de todos os componentes internos. Esta abordagem híbrida foi empregada em uma placa ODROID-XU3 em dois aplicativos multi-thread. Nornir começando com a configuração de Pareto pode alcançar até 50% de economia de energia em comparação com configurações de partida aleatórias. Também observamos que o governador Linux performance e interactive consumiu até 1,62X mais energia do que Nornir usando Pareto. |
publishDate |
2021 |
dc.date.accessioned.fl_str_mv |
2021-10-18T19:42:00Z |
dc.date.available.fl_str_mv |
2021-10-18T19:42:00Z |
dc.date.issued.fl_str_mv |
2021-07-15 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/doctoralThesis |
format |
doctoralThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
COUTINHO, Demétrios Araújo Magalhães. Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems. 2021. 110f. Tese (Doutorado em Engenharia Elétrica e de Computação) - Centro de Tecnologia, Universidade Federal do Rio Grande do Norte, Natal, 2021. |
dc.identifier.uri.fl_str_mv |
https://repositorio.ufrn.br/handle/123456789/44626 |
identifier_str_mv |
COUTINHO, Demétrios Araújo Magalhães. Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems. 2021. 110f. Tese (Doutorado em Engenharia Elétrica e de Computação) - Centro de Tecnologia, Universidade Federal do Rio Grande do Norte, Natal, 2021. |
url |
https://repositorio.ufrn.br/handle/123456789/44626 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Federal do Rio Grande do Norte |
dc.publisher.program.fl_str_mv |
PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA E DE COMPUTAÇÃO |
dc.publisher.initials.fl_str_mv |
UFRN |
dc.publisher.country.fl_str_mv |
Brasil |
publisher.none.fl_str_mv |
Universidade Federal do Rio Grande do Norte |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFRN instname:Universidade Federal do Rio Grande do Norte (UFRN) instacron:UFRN |
instname_str |
Universidade Federal do Rio Grande do Norte (UFRN) |
instacron_str |
UFRN |
institution |
UFRN |
reponame_str |
Repositório Institucional da UFRN |
collection |
Repositório Institucional da UFRN |
bitstream.url.fl_str_mv |
https://repositorio.ufrn.br/bitstream/123456789/44626/1/Performanceenergytradeoffs_Coutinho_2021.pdf |
bitstream.checksum.fl_str_mv |
9e6c2e37053b6a91e9fa53d59634a180 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN) |
repository.mail.fl_str_mv |
|
_version_ |
1802117746341707776 |