Escalonamento inteligente de computações em ambientes híbridos CPU/GPU

• Autor(a) principal: António, Francisco Manuel Évora
• Data de Publicação: 2021
• Tipo de documento: Dissertação
• Idioma: por
• Título da fonte: Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
• Texto Completo: http://hdl.handle.net/10362/151093
• topic: Computação heterogénea; autotuning; Aprendizagem Automática; parâmetros GPU; Domínio/Área Científica::Engenharia e Tecnologia::Engenharia Eletrotécnica, Eletrónica e Informática

Muitos sistemas computacionais hoje em dia possuem um host CPU e uma ou mais GPUs mas nem sempre é fácil tirar partido de todo o potencial destes máquinas. Para podermos ter um grande de aproveitamento do hardware é necessário ter um profundo conheci- mento da sua arquitetura e efetuar ajustes quando se muda de um sistema para outro. O desempenho de uma execução, tanto na CPU como na GPU, depende de múltiplos fatores, como por exemplo o número de threads ou a localidade dos dados. O processo de escalonamento tem de ter em consideração qual é a melhor parametrização para cada processador e qual dos processadores usar. Esta tese foi desenvolvido no âmbito da framework Marrow. Esta framework é utilizada para a orquestração de computações em sistemas heterogéneos, permitindo, através de uma computação de alto nível, executar o código na CPU ou na GPU. O trabalho desenvolvido foi um módulo para a framework Marrow que, dado uma certa computação, decide se deve ser executada na CPU ou na GPU. Este módulo en- contra também o tamanho do bloco de threads que minimiza o tempo de execução, caso o dispositivo escolhido seja a GPU. Para efetuar as decisões foi utilizado um algoritmo de Aprendizagem Automática chamado Artificial Neural Networks. São empregues várias redes neuronais e as features utilizadas por estas são extraídas a partir das computações Marrow. Os resultados foram muito positivos, com uma eficácia superior a 97% na escolha do dispositivo onde deve ser executada a computação. Relativamente à previsão do tamanho de bloco ideal, os resultados foram também bastante bons. O tamanho de bloco devolvido pelo módulo resulta num tempo de execução que fica, em média, a menos de 2,4% do tempo de execução mínimo, alcançando valores abaixo de 1% em alguns testes. Foram realizados testes em dois sistemas bastante diferentes e consoante vários aspetos. Com este módulo, qualquer utilizador da framework Marrow pode executar compu- tações com configurações muito próximas das ideais mesmo que não tenha um conheci- mento aprofundado da framework ou da arquitetura do sistema.