Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning

Detalhes bibliográficos
Autor(a) principal: Costa , Felipe William da
Data de Publicação: 2023
Tipo de documento: Trabalho de conclusão de curso
Idioma: por
Título da fonte: Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU)
Texto Completo: https://repositorio.ufersa.edu.br/handle/prefix/10779
Resumo: O Tiny Machine Learning (TinyML) é um novo paradigma que surge para possibilitar a execução de modelos de Machine Learning (ML) em plataformas onde os recursos de hardware são altamente restringidos, como os microcontroladores, que são usualmente empregados no desenvolvimento de sistemas embarcados. Muitos frameworks surgiram para facilitar a inferência de modelos de ML em microcontroladores, entre eles, o TensorFlow Lite Micro (TFLM) ganhou notoriedade por ser de código aberto e compatível com uma ampla gama de dispositivos arquiteturas. Para alcançar um processamento mais eficiente dos modelos de ML deu-se origem aos chamados aceleradores de hardware que consistem em hardware adicionais e especializados encarregados de desempenhar operações designadas pelo desenvolvedor de forma otimizada através do co-design hardware/software. O CFU Playground é um framework full-stack de código aberto voltado para o design de aceleradores de ML para sistemas embarcados em Field-Programmable Gate Array (FPGA) no qual foi-se utilizado para acelerar a inferência do modelo através de uma Custom Function Unit (CFU). Neste trabalho, utiliza-se um modelo de visão computacional embarcado baseado em Redes Neurais Convolucionais para inferência nas plataformas Kosagi Fomu e ESP32-C3 onde aplicam-se otimizações por meio de bibliotecas com kernel otimizado e do co-design para tecer comparações de desempenho entre as plataformas. Após aplicação das otimizações, obteve-se uma diminuição de 33,19% no tempo de inferência do modelo no ESP32-C3 por meio da biblioteca ESP-NN e 65,74% no FPGA Fomu através do co-desing e implementação de uma CFU ambas em comparação com a inferência sem nenhuma otimização implementada.
id UFER_04b62edbabfb53e538bd7734a1b0e028
oai_identifier_str oai:repositorio.ufersa.edu.br:prefix/10779
network_acronym_str UFER
network_name_str Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU)
repository_id_str
spelling Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine LearningENGENHARIAS::ENGENHARIA ELETRICATinyMLCo-designTensorflow lite microFPGAO Tiny Machine Learning (TinyML) é um novo paradigma que surge para possibilitar a execução de modelos de Machine Learning (ML) em plataformas onde os recursos de hardware são altamente restringidos, como os microcontroladores, que são usualmente empregados no desenvolvimento de sistemas embarcados. Muitos frameworks surgiram para facilitar a inferência de modelos de ML em microcontroladores, entre eles, o TensorFlow Lite Micro (TFLM) ganhou notoriedade por ser de código aberto e compatível com uma ampla gama de dispositivos arquiteturas. Para alcançar um processamento mais eficiente dos modelos de ML deu-se origem aos chamados aceleradores de hardware que consistem em hardware adicionais e especializados encarregados de desempenhar operações designadas pelo desenvolvedor de forma otimizada através do co-design hardware/software. O CFU Playground é um framework full-stack de código aberto voltado para o design de aceleradores de ML para sistemas embarcados em Field-Programmable Gate Array (FPGA) no qual foi-se utilizado para acelerar a inferência do modelo através de uma Custom Function Unit (CFU). Neste trabalho, utiliza-se um modelo de visão computacional embarcado baseado em Redes Neurais Convolucionais para inferência nas plataformas Kosagi Fomu e ESP32-C3 onde aplicam-se otimizações por meio de bibliotecas com kernel otimizado e do co-design para tecer comparações de desempenho entre as plataformas. Após aplicação das otimizações, obteve-se uma diminuição de 33,19% no tempo de inferência do modelo no ESP32-C3 por meio da biblioteca ESP-NN e 65,74% no FPGA Fomu através do co-desing e implementação de uma CFU ambas em comparação com a inferência sem nenhuma otimização implementada.Tiny Machine Learning (TinyML) is a new paradigm that emerges to enable the execution of Machine Learning (ML) models on platforms where hardware resources are highly constrained, such as microcontrollers, which are usually used in the development of embedded systems. Many frameworks have emerged to facilitate the inference of ML models on microcontrollers, among them, TensorFlow Lite Micro (TFLM) gained prominence for being open source and compatible with a wide range of devices and architectures. To achieve more efficient processing of ML models, hardware accelerators were created, which consist of additional and specialized hardware responsible for performing operations designated by the developer in an optimized way through hardware/software co-design. The CFU Playground is a full-stack open source framework aimed at the design of ML accelerators for embedded systems on Field-Programmable Gate Array (FPGA) in which it was used to accelerate the inference of the model through a Custom Function Unit (CFU). In this work, we use an embedded computer vision model based on Convolutional Neural Networks for inference on the Kosagi Fomu and ESP32-C3 platforms where we apply optimizations using libraries with optimized kernel and co-design to make performance comparisons between the platforms. After applying the optimizations, we obtained a decrease of 33.19% in the inference time of the model on the ESP32-C3 using the ESP-NN library and 65.74% on the FPGA Fomu through co-design and implementation of a CFU both compared to the inference without any optimization implemented.65 f.Centro Multidisciplinar de Caraúbas - CMCBrasilUFERSAUniversidade Federal Rural do Semi ÁridoBrito Filho, Francisco de AssisBrito Filho, Francisco de AssisSouza, Pedro Thiago Valério deSilva Júnior, Silvan Ferreira daCosta , Felipe William da2024-04-29T17:21:30Z2024-04-29T17:21:30Z2023-10-10info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesispdfapplication/pdfCOSTA, Felipe William da. Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning. 2023. 65 f. TCC (Graduação) - Curso de Engenharia Elétrica, Universidade Federal Rural do Semi-Árido, Caraúbas, 2023.https://repositorio.ufersa.edu.br/handle/prefix/10779CaraúbasAttribution-ShareAlike 3.0 BrazilUFERSAhttp://creativecommons.org/licenses/by-sa/3.0/br/info:eu-repo/semantics/openAccessporreponame:Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU)instname:Universidade Federal Rural do Semi-Árido (UFERSA)instacron:UFERSA2024-04-30T03:00:59Zoai:repositorio.ufersa.edu.br:prefix/10779Repositório Institucionalhttps://repositorio.ufersa.edu.br/PUBhttps://repositorio.ufersa.edu.br/server/oai/requestrepositorio@ufersa.edu.br || admrepositorio@ufersa.edu.bropendoar:2024-04-30T03:00:59Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU) - Universidade Federal Rural do Semi-Árido (UFERSA)false
dc.title.none.fl_str_mv Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning
title Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning
spellingShingle Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning
Costa , Felipe William da
ENGENHARIAS::ENGENHARIA ELETRICA
TinyML
Co-design
Tensorflow lite micro
FPGA
title_short Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning
title_full Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning
title_fullStr Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning
title_full_unstemmed Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning
title_sort Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning
author Costa , Felipe William da
author_facet Costa , Felipe William da
author_role author
dc.contributor.none.fl_str_mv Brito Filho, Francisco de Assis
Brito Filho, Francisco de Assis
Souza, Pedro Thiago Valério de
Silva Júnior, Silvan Ferreira da
dc.contributor.author.fl_str_mv Costa , Felipe William da
dc.subject.por.fl_str_mv ENGENHARIAS::ENGENHARIA ELETRICA
TinyML
Co-design
Tensorflow lite micro
FPGA
topic ENGENHARIAS::ENGENHARIA ELETRICA
TinyML
Co-design
Tensorflow lite micro
FPGA
description O Tiny Machine Learning (TinyML) é um novo paradigma que surge para possibilitar a execução de modelos de Machine Learning (ML) em plataformas onde os recursos de hardware são altamente restringidos, como os microcontroladores, que são usualmente empregados no desenvolvimento de sistemas embarcados. Muitos frameworks surgiram para facilitar a inferência de modelos de ML em microcontroladores, entre eles, o TensorFlow Lite Micro (TFLM) ganhou notoriedade por ser de código aberto e compatível com uma ampla gama de dispositivos arquiteturas. Para alcançar um processamento mais eficiente dos modelos de ML deu-se origem aos chamados aceleradores de hardware que consistem em hardware adicionais e especializados encarregados de desempenhar operações designadas pelo desenvolvedor de forma otimizada através do co-design hardware/software. O CFU Playground é um framework full-stack de código aberto voltado para o design de aceleradores de ML para sistemas embarcados em Field-Programmable Gate Array (FPGA) no qual foi-se utilizado para acelerar a inferência do modelo através de uma Custom Function Unit (CFU). Neste trabalho, utiliza-se um modelo de visão computacional embarcado baseado em Redes Neurais Convolucionais para inferência nas plataformas Kosagi Fomu e ESP32-C3 onde aplicam-se otimizações por meio de bibliotecas com kernel otimizado e do co-design para tecer comparações de desempenho entre as plataformas. Após aplicação das otimizações, obteve-se uma diminuição de 33,19% no tempo de inferência do modelo no ESP32-C3 por meio da biblioteca ESP-NN e 65,74% no FPGA Fomu através do co-desing e implementação de uma CFU ambas em comparação com a inferência sem nenhuma otimização implementada.
publishDate 2023
dc.date.none.fl_str_mv 2023-10-10
2024-04-29T17:21:30Z
2024-04-29T17:21:30Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/bachelorThesis
format bachelorThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv COSTA, Felipe William da. Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning. 2023. 65 f. TCC (Graduação) - Curso de Engenharia Elétrica, Universidade Federal Rural do Semi-Árido, Caraúbas, 2023.
https://repositorio.ufersa.edu.br/handle/prefix/10779
identifier_str_mv COSTA, Felipe William da. Desenvolvimento de sistemas embarcados inteligentes para aplicações em internet das coisas utilizando Tiny Machine Learning. 2023. 65 f. TCC (Graduação) - Curso de Engenharia Elétrica, Universidade Federal Rural do Semi-Árido, Caraúbas, 2023.
url https://repositorio.ufersa.edu.br/handle/prefix/10779
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv Attribution-ShareAlike 3.0 Brazil
UFERSA
http://creativecommons.org/licenses/by-sa/3.0/br/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Attribution-ShareAlike 3.0 Brazil
UFERSA
http://creativecommons.org/licenses/by-sa/3.0/br/
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv pdf
application/pdf
dc.coverage.none.fl_str_mv Caraúbas
dc.publisher.none.fl_str_mv Centro Multidisciplinar de Caraúbas - CMC
Brasil
UFERSA
Universidade Federal Rural do Semi Árido
publisher.none.fl_str_mv Centro Multidisciplinar de Caraúbas - CMC
Brasil
UFERSA
Universidade Federal Rural do Semi Árido
dc.source.none.fl_str_mv reponame:Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU)
instname:Universidade Federal Rural do Semi-Árido (UFERSA)
instacron:UFERSA
instname_str Universidade Federal Rural do Semi-Árido (UFERSA)
instacron_str UFERSA
institution UFERSA
reponame_str Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU)
collection Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU)
repository.name.fl_str_mv Repositório Digital da Universidade Federal Rural do Semi-Árido (RDU) - Universidade Federal Rural do Semi-Árido (UFERSA)
repository.mail.fl_str_mv repositorio@ufersa.edu.br || admrepositorio@ufersa.edu.br
_version_ 1809747478817275904