Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems

Detalhes bibliográficos
Autor(a) principal: Coutinho, Demétrios Araújo Magalhães
Data de Publicação: 2021
Tipo de documento: Tese
Idioma: por
Título da fonte: Repositório Institucional da UFRN
Texto Completo: https://repositorio.ufrn.br/handle/123456789/44626
Resumo: Na era multicores, o tamanho do espaço de operação do software, ou seja, configurações de hardware que fornecem diferentes desempenho e consumo energético de um software, é significativamente maior. Além disso, torna-se ainda mais complexo escolher uma configuração que otimize o desempenho e o consumo de energia de processadores heterogêneos. Arquiteturas heterogêneas de vários núcleos oferecem flexibilidade em diferentes tipos de núcleos e de tensão e frequência, definindo um vasto espaço de design a ser explorado. Além do mais, soluções de eficiência energética é crucial em dispositivos menores, pois pode levar a uma vida útil mais longa da bateria e uma melhor experiência do usuário, incluindo aplicativos mais complexos. Esta tese propõe uma metodologia para encontrar balanços entre performance e energia para aplicações paralelas com cargas de trabalho balanceadas dinamicamente, rodando em sistemas multiprocessado heterogêneo com uma arquitetura de conjunto de instruções único (ISA). Nosso método concebe novos modelos analíticos para desempenho e consumo de energia cujos parâmetros podem ser ajustados usando apenas algumas medições off-line estrategicamente amostradas. Esses modelos são então usados para estimar o desempenho de um aplicativo e o consumo de energia para todo o espaço de configuração. Por sua vez, essas predições realizadas off-line definem a escolha das configurações de Pareto-ótimas estimadas do modelo, que são usadas para informar a configuração que o aplicativo deve executar. A metodologia foi validada em uma placa ODROID-XU3 para oito programas dos aplicativos PARSEC Benchmark, Phoronix Test Suite e Rodinia. Foram observadas economias de energia de até 59,77%, 61,38% e 17,7% em comparação com os governadores do Linux performance, ondemand e powersave, respectivamente, com desempenho superior ou semelhante. Este método visa fornecer um ponto de partida ideal para um gerenciador de energia para tomar melhores decisões de acordo com o desempenho do aplicativo e requisitos de consumo de energia e sistema em execução. Dessa forma, esta tese também propõe uma estratégia usando a configuração Pareto-ótima selecionada por nossos modelos como um ponto de partida apropriado para um runtime support framework, chamado Nornir. Esse framework realiza dinamicamente uma busca local por uma configuração mais desejável de núcleos e frequência adaptando às flutuações da carga de trabalho e interferência externa. Além disso, estendemos nosso modelo de energia para prever o consumo de todo o dispositivo, ou seja, a soma do consumo de todos os componentes internos. Esta abordagem híbrida foi empregada em uma placa ODROID-XU3 em dois aplicativos multi-thread. Nornir começando com a configuração de Pareto pode alcançar até 50% de economia de energia em comparação com configurações de partida aleatórias. Também observamos que o governador Linux performance e interactive consumiu até 1,62X mais energia do que Nornir usando Pareto.
id UFRN_00b79f8441d120201babe142b75e2c55
oai_identifier_str oai:https://repositorio.ufrn.br:123456789/44626
network_acronym_str UFRN
network_name_str Repositório Institucional da UFRN
repository_id_str
spelling Coutinho, Demétrios Araújo Magalhãeshttp://lattes.cnpq.br/6749444529357582http://lattes.cnpq.br/9892239670106361Sensi, Daniele deBeck Filho, Antonio Carlos Schneiderhttp://lattes.cnpq.br/5446996798632062Barros, Carlos Avelino dehttp://lattes.cnpq.br/0466019450390663Freitas, Henrique Cota dehttp://lattes.cnpq.br/4075688424083407Souza, Samuel Xavier de2021-10-18T19:42:00Z2021-10-18T19:42:00Z2021-07-15COUTINHO, Demétrios Araújo Magalhães. Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems. 2021. 110f. Tese (Doutorado em Engenharia Elétrica e de Computação) - Centro de Tecnologia, Universidade Federal do Rio Grande do Norte, Natal, 2021.https://repositorio.ufrn.br/handle/123456789/44626Na era multicores, o tamanho do espaço de operação do software, ou seja, configurações de hardware que fornecem diferentes desempenho e consumo energético de um software, é significativamente maior. Além disso, torna-se ainda mais complexo escolher uma configuração que otimize o desempenho e o consumo de energia de processadores heterogêneos. Arquiteturas heterogêneas de vários núcleos oferecem flexibilidade em diferentes tipos de núcleos e de tensão e frequência, definindo um vasto espaço de design a ser explorado. Além do mais, soluções de eficiência energética é crucial em dispositivos menores, pois pode levar a uma vida útil mais longa da bateria e uma melhor experiência do usuário, incluindo aplicativos mais complexos. Esta tese propõe uma metodologia para encontrar balanços entre performance e energia para aplicações paralelas com cargas de trabalho balanceadas dinamicamente, rodando em sistemas multiprocessado heterogêneo com uma arquitetura de conjunto de instruções único (ISA). Nosso método concebe novos modelos analíticos para desempenho e consumo de energia cujos parâmetros podem ser ajustados usando apenas algumas medições off-line estrategicamente amostradas. Esses modelos são então usados para estimar o desempenho de um aplicativo e o consumo de energia para todo o espaço de configuração. Por sua vez, essas predições realizadas off-line definem a escolha das configurações de Pareto-ótimas estimadas do modelo, que são usadas para informar a configuração que o aplicativo deve executar. A metodologia foi validada em uma placa ODROID-XU3 para oito programas dos aplicativos PARSEC Benchmark, Phoronix Test Suite e Rodinia. Foram observadas economias de energia de até 59,77%, 61,38% e 17,7% em comparação com os governadores do Linux performance, ondemand e powersave, respectivamente, com desempenho superior ou semelhante. Este método visa fornecer um ponto de partida ideal para um gerenciador de energia para tomar melhores decisões de acordo com o desempenho do aplicativo e requisitos de consumo de energia e sistema em execução. Dessa forma, esta tese também propõe uma estratégia usando a configuração Pareto-ótima selecionada por nossos modelos como um ponto de partida apropriado para um runtime support framework, chamado Nornir. Esse framework realiza dinamicamente uma busca local por uma configuração mais desejável de núcleos e frequência adaptando às flutuações da carga de trabalho e interferência externa. Além disso, estendemos nosso modelo de energia para prever o consumo de todo o dispositivo, ou seja, a soma do consumo de todos os componentes internos. Esta abordagem híbrida foi empregada em uma placa ODROID-XU3 em dois aplicativos multi-thread. Nornir começando com a configuração de Pareto pode alcançar até 50% de economia de energia em comparação com configurações de partida aleatórias. Também observamos que o governador Linux performance e interactive consumiu até 1,62X mais energia do que Nornir usando Pareto.In the multi-core era, the size of the software operation space, i.e. hardware configurations (number of cores and operating frequency) that provide different software performance and energy consumption, is significantly larger. It becomes even more complex to choose a configuration that optimizes heterogeneous processors’ performance and energy consumption. Heterogeneous multi-core architectures offer flexibility in different core types and voltage and frequency pairings, defining a vast design space to explore. Furthermore, energy efficiency solutions are crucial on smaller devices as they can lead to longer battery life and a better user experience, including more complex applications. This thesis proposes a methodology to find performance-energy trade-offs for single parallel applications with dynamically balanced workloads running on Heterogeneous Multicore Processing (HMP) systems with a single instruction-set architecture (ISA). Our method devises novel analytical models for performance and power consumption whose parameters can be fitted using only a few strategically sampled offline measurements. These models are then used to estimate an application’s performance and energy consumption for the whole configuration space. In turn, these offline predictions define the choice of estimated Pareto-optimal configurations of the model, which are used to inform the configuration that the application should execute. The methodology was validated on an ODROID-XU3 board for eight programs from the PARSEC Benchmark, Phoronix Test Suite and Rodinia applications. Energy savings of up to 59.77%, 61.38% and 17.7% were observed compared to the performance, ondemand and powersave Linux governors, respectively, with higher or similar performance. This method aims to provide an optimal start point for a runtime energy manager to make better decisions according to the given application’s performance and energy consumption requirements and running system. Therefore, this thesis also proposes a strategy using the Pareto-optimal configuration selected by our models as an appropriate start point for a runtime support framework called Nornir. This framework performs a local search dynamically for a more desirable configuration of cores and frequency adapting to workload fluctuations and external interference. Also, we extend our power model to predict the whole device’s consumption, i.e. the sum of all internal components’ consumption.This hybrid approach was employed on an ODROID-XU3 board on two multi-thread applications. Preliminary results shows that Nornir starting with Pareto configuration can achieve up to 50% of energy savings compared to random starting configurations. On average, we observed that the default Linux governors consumed up to 1.62× more energy than Nornir using Pareto.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior - CAPESUniversidade Federal do Rio Grande do NortePROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA E DE COMPUTAÇÃOUFRNBrasilHeterogeneous multi-processingEnergy efficiencyPareto frontierRuntime energy managerPerformance, power and energy modelPerformance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systemsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisinfo:eu-repo/semantics/openAccessporreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRNORIGINALPerformanceenergytradeoffs_Coutinho_2021.pdfapplication/pdf10290882https://repositorio.ufrn.br/bitstream/123456789/44626/1/Performanceenergytradeoffs_Coutinho_2021.pdf9e6c2e37053b6a91e9fa53d59634a180MD51123456789/446262022-05-02 12:31:46.25oai:https://repositorio.ufrn.br:123456789/44626Repositório de PublicaçõesPUBhttp://repositorio.ufrn.br/oai/opendoar:2022-05-02T15:31:46Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false
dc.title.pt_BR.fl_str_mv Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems
title Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems
spellingShingle Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems
Coutinho, Demétrios Araújo Magalhães
Heterogeneous multi-processing
Energy efficiency
Pareto frontier
Runtime energy manager
Performance, power and energy model
title_short Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems
title_full Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems
title_fullStr Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems
title_full_unstemmed Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems
title_sort Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems
author Coutinho, Demétrios Araújo Magalhães
author_facet Coutinho, Demétrios Araújo Magalhães
author_role author
dc.contributor.authorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/6749444529357582
dc.contributor.advisorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/9892239670106361
dc.contributor.referees1.none.fl_str_mv Sensi, Daniele de
dc.contributor.referees2.none.fl_str_mv Beck Filho, Antonio Carlos Schneider
dc.contributor.referees2Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/5446996798632062
dc.contributor.referees3.none.fl_str_mv Barros, Carlos Avelino de
dc.contributor.referees3Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/0466019450390663
dc.contributor.referees4.none.fl_str_mv Freitas, Henrique Cota de
dc.contributor.referees4Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/4075688424083407
dc.contributor.author.fl_str_mv Coutinho, Demétrios Araújo Magalhães
dc.contributor.advisor1.fl_str_mv Souza, Samuel Xavier de
contributor_str_mv Souza, Samuel Xavier de
dc.subject.por.fl_str_mv Heterogeneous multi-processing
Energy efficiency
Pareto frontier
Runtime energy manager
Performance, power and energy model
topic Heterogeneous multi-processing
Energy efficiency
Pareto frontier
Runtime energy manager
Performance, power and energy model
description Na era multicores, o tamanho do espaço de operação do software, ou seja, configurações de hardware que fornecem diferentes desempenho e consumo energético de um software, é significativamente maior. Além disso, torna-se ainda mais complexo escolher uma configuração que otimize o desempenho e o consumo de energia de processadores heterogêneos. Arquiteturas heterogêneas de vários núcleos oferecem flexibilidade em diferentes tipos de núcleos e de tensão e frequência, definindo um vasto espaço de design a ser explorado. Além do mais, soluções de eficiência energética é crucial em dispositivos menores, pois pode levar a uma vida útil mais longa da bateria e uma melhor experiência do usuário, incluindo aplicativos mais complexos. Esta tese propõe uma metodologia para encontrar balanços entre performance e energia para aplicações paralelas com cargas de trabalho balanceadas dinamicamente, rodando em sistemas multiprocessado heterogêneo com uma arquitetura de conjunto de instruções único (ISA). Nosso método concebe novos modelos analíticos para desempenho e consumo de energia cujos parâmetros podem ser ajustados usando apenas algumas medições off-line estrategicamente amostradas. Esses modelos são então usados para estimar o desempenho de um aplicativo e o consumo de energia para todo o espaço de configuração. Por sua vez, essas predições realizadas off-line definem a escolha das configurações de Pareto-ótimas estimadas do modelo, que são usadas para informar a configuração que o aplicativo deve executar. A metodologia foi validada em uma placa ODROID-XU3 para oito programas dos aplicativos PARSEC Benchmark, Phoronix Test Suite e Rodinia. Foram observadas economias de energia de até 59,77%, 61,38% e 17,7% em comparação com os governadores do Linux performance, ondemand e powersave, respectivamente, com desempenho superior ou semelhante. Este método visa fornecer um ponto de partida ideal para um gerenciador de energia para tomar melhores decisões de acordo com o desempenho do aplicativo e requisitos de consumo de energia e sistema em execução. Dessa forma, esta tese também propõe uma estratégia usando a configuração Pareto-ótima selecionada por nossos modelos como um ponto de partida apropriado para um runtime support framework, chamado Nornir. Esse framework realiza dinamicamente uma busca local por uma configuração mais desejável de núcleos e frequência adaptando às flutuações da carga de trabalho e interferência externa. Além disso, estendemos nosso modelo de energia para prever o consumo de todo o dispositivo, ou seja, a soma do consumo de todos os componentes internos. Esta abordagem híbrida foi empregada em uma placa ODROID-XU3 em dois aplicativos multi-thread. Nornir começando com a configuração de Pareto pode alcançar até 50% de economia de energia em comparação com configurações de partida aleatórias. Também observamos que o governador Linux performance e interactive consumiu até 1,62X mais energia do que Nornir usando Pareto.
publishDate 2021
dc.date.accessioned.fl_str_mv 2021-10-18T19:42:00Z
dc.date.available.fl_str_mv 2021-10-18T19:42:00Z
dc.date.issued.fl_str_mv 2021-07-15
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv COUTINHO, Demétrios Araújo Magalhães. Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems. 2021. 110f. Tese (Doutorado em Engenharia Elétrica e de Computação) - Centro de Tecnologia, Universidade Federal do Rio Grande do Norte, Natal, 2021.
dc.identifier.uri.fl_str_mv https://repositorio.ufrn.br/handle/123456789/44626
identifier_str_mv COUTINHO, Demétrios Araújo Magalhães. Performance-energy trade-offs prediction and runtime selection for parallel applications on heterogeneous multiprocessing systems. 2021. 110f. Tese (Doutorado em Engenharia Elétrica e de Computação) - Centro de Tecnologia, Universidade Federal do Rio Grande do Norte, Natal, 2021.
url https://repositorio.ufrn.br/handle/123456789/44626
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.publisher.program.fl_str_mv PROGRAMA DE PÓS-GRADUAÇÃO EM ENGENHARIA ELÉTRICA E DE COMPUTAÇÃO
dc.publisher.initials.fl_str_mv UFRN
dc.publisher.country.fl_str_mv Brasil
publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRN
instname:Universidade Federal do Rio Grande do Norte (UFRN)
instacron:UFRN
instname_str Universidade Federal do Rio Grande do Norte (UFRN)
instacron_str UFRN
institution UFRN
reponame_str Repositório Institucional da UFRN
collection Repositório Institucional da UFRN
bitstream.url.fl_str_mv https://repositorio.ufrn.br/bitstream/123456789/44626/1/Performanceenergytradeoffs_Coutinho_2021.pdf
bitstream.checksum.fl_str_mv 9e6c2e37053b6a91e9fa53d59634a180
bitstream.checksumAlgorithm.fl_str_mv MD5
repository.name.fl_str_mv Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)
repository.mail.fl_str_mv
_version_ 1802117746341707776