Reliability of google’s tensor processing units for embedded applications

Detalhes bibliográficos
Autor(a) principal: Rech Junior, Rubens Luiz
Data de Publicação: 2022
Tipo de documento: Trabalho de conclusão de curso
Idioma: por
Título da fonte: Repositório Institucional da UFRGS
Texto Completo: http://hdl.handle.net/10183/249084
Resumo: Redes neurais convolucionais (CNNs) têm se tornado a maneira mais utilizada e eficiente de identificar e classificar objetos em uma cena. Hoje, as CNNs são fundamen tais não apenas para os veículos autônomos, mas também para aplicações relacionada a Internet of Things (IoT), casas e cidades inteligentes. Fabricantes estão desenvolvendo acelaradores dedicados extremamente eficientes, de baixa potência e baixo custo para permitir a execução de CNNs de alta demanda computacional mesmo em aplicações com rigorosos orçamentos de energia e custos. Neste trabalho, investigamos a confiabilidade da Google Coral Tensor Processing Units (TPUs) a nêutrons atmosféricos de alta energia (no ChipIR) e nêutrons térmicos gerados por uma fonte pulsada (no EMMA) e por um reator (no TENIS). Reportamos dados obtidos com um fluência média de 3.41 × 1012 n/cm2 para nêutrons atmosféricos (equivalente a mais de 30 milhões de anos de irradiação natural), e de 7.55 × 1012 n/cm2 para nêutrons térmicos. Avaliamos o comportamento das TPUs executando operações elementares (convolução standard e convolução depthwise) com tamanhos de entrada crescentes, bem como oito configurações de CNNs. Com relação às CNNs, considera mos quatro arquiteturas de redes conhecidas e amplamente utilizadas (SSD MobileNet v2, SSD MobileDet, Inception v4 e ResNet-50) treinadas com datasets populares, como COCO e ILSVRC2012. Por meio do retreinamento, também analisamos o impacto da técnica de transfer learning e de um númbero reduzido de classes de objetos a serem detectadas/classificadas na robustez da predição da CNN. Descobrimos que, apesar da alta taxa de erros, a maioria dos erros induzidos por nêutrons modifica apenas ligeiramente a saída da convolução e não altera o resultado da classificação/detecção. Ao reportar detalhes a respeito do modelo de erros, fornecemos informações valiosas sobre como projetar CNNs de maneira a evitar que eventos induzi dos por nêutrons levem a erros de classificação/detecção
id UFRGS-2_9dccc92f8cb542d321e9ee612069067e
oai_identifier_str oai:www.lume.ufrgs.br:10183/249084
network_acronym_str UFRGS-2
network_name_str Repositório Institucional da UFRGS
repository_id_str
spelling Rech Junior, Rubens LuizRech, Paolo2022-09-17T05:08:24Z2022http://hdl.handle.net/10183/249084001149085Redes neurais convolucionais (CNNs) têm se tornado a maneira mais utilizada e eficiente de identificar e classificar objetos em uma cena. Hoje, as CNNs são fundamen tais não apenas para os veículos autônomos, mas também para aplicações relacionada a Internet of Things (IoT), casas e cidades inteligentes. Fabricantes estão desenvolvendo acelaradores dedicados extremamente eficientes, de baixa potência e baixo custo para permitir a execução de CNNs de alta demanda computacional mesmo em aplicações com rigorosos orçamentos de energia e custos. Neste trabalho, investigamos a confiabilidade da Google Coral Tensor Processing Units (TPUs) a nêutrons atmosféricos de alta energia (no ChipIR) e nêutrons térmicos gerados por uma fonte pulsada (no EMMA) e por um reator (no TENIS). Reportamos dados obtidos com um fluência média de 3.41 × 1012 n/cm2 para nêutrons atmosféricos (equivalente a mais de 30 milhões de anos de irradiação natural), e de 7.55 × 1012 n/cm2 para nêutrons térmicos. Avaliamos o comportamento das TPUs executando operações elementares (convolução standard e convolução depthwise) com tamanhos de entrada crescentes, bem como oito configurações de CNNs. Com relação às CNNs, considera mos quatro arquiteturas de redes conhecidas e amplamente utilizadas (SSD MobileNet v2, SSD MobileDet, Inception v4 e ResNet-50) treinadas com datasets populares, como COCO e ILSVRC2012. Por meio do retreinamento, também analisamos o impacto da técnica de transfer learning e de um númbero reduzido de classes de objetos a serem detectadas/classificadas na robustez da predição da CNN. Descobrimos que, apesar da alta taxa de erros, a maioria dos erros induzidos por nêutrons modifica apenas ligeiramente a saída da convolução e não altera o resultado da classificação/detecção. Ao reportar detalhes a respeito do modelo de erros, fornecemos informações valiosas sobre como projetar CNNs de maneira a evitar que eventos induzi dos por nêutrons levem a erros de classificação/detecçãoConvolutional Neural Networks (CNNs) have become the most used and efficient way to identify and classify objects in a scene. CNNs are today fundamental not only for autonomous vehicles, but also for Internet of Things (IoT) and smart cities or smart homes. Vendors are developing low-power, extremely efficient, and low-cost dedicated accelerators to allow the execution of the computational-demanding CNNs even in appli cations with strict power and cost budgets. In this work we investigate the reliability of Google’s Coral Tensor Processing Units (TPUs) to both high-energy atmospheric neutrons (at ChipIR) and thermal neutrons from a pulsed source (at EMMA) and from a reactor (at TENIS). We report data obtained with an overall fluence of 3.41×1012n/cm2 for atmospheric neutrons (equivalent to more than 30 million years of natural irradiation) and of 7.55×1012n/cm2 for thermal neutrons. We evaluate the behavior of TPUs executing elementary operations with increas ing input sizes (standard convolutions or depthwise convolutions) as well as eight CNNs configurations. Regarding the CNNs, we consider four well-known and widely-used net work architectures (SSD MobileNet v2, SSD MobileDet, Inception v4 and ResNet-50) trained with popular datasets, such as COCO and ILSVRC2012. Through retraining, we also assess the impact of transfer learning and a reduced number of object classes to be detected/classified on the CNN prediction robustness. We found that, despite the high error rate, most neutrons-induced errors only slightly modify the convolution output and do not change the CNNs detection or clas sification. By reporting details about the error model we provide valuable information on how to design the CNNs to avoid neutron-induced events to lead to miss detections or classifications.application/pdfporInteligência artificialRedes neurais : ComputaçãoAprendizado de máquinaSistemas embarcadosConvolutional Neural NetworksMachine LearningEmbedded ApplicationsTensor Processing UnitsRadiation ExperimentReliabilityReliability of google’s tensor processing units for embedded applicationsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesisUniversidade Federal do Rio Grande do SulInstituto de InformáticaPorto Alegre, BR-RS2022Ciência da Computação: Ênfase em Ciência da Computação: Bachareladograduaçãoinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRGSinstname:Universidade Federal do Rio Grande do Sul (UFRGS)instacron:UFRGSTEXT001149085.pdf.txt001149085.pdf.txtExtracted Texttext/plain72730http://www.lume.ufrgs.br/bitstream/10183/249084/2/001149085.pdf.txt2fe50f4b456c6c50f485a98c6f46e08bMD52ORIGINAL001149085.pdfTexto completo (inglês)application/pdf7690953http://www.lume.ufrgs.br/bitstream/10183/249084/1/001149085.pdf583175bb0d3da7292855614b81a55ff9MD5110183/2490842022-10-19 04:48:25.534979oai:www.lume.ufrgs.br:10183/249084Repositório de PublicaçõesPUBhttps://lume.ufrgs.br/oai/requestopendoar:2022-10-19T07:48:25Repositório Institucional da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)false
dc.title.pt_BR.fl_str_mv Reliability of google’s tensor processing units for embedded applications
title Reliability of google’s tensor processing units for embedded applications
spellingShingle Reliability of google’s tensor processing units for embedded applications
Rech Junior, Rubens Luiz
Inteligência artificial
Redes neurais : Computação
Aprendizado de máquina
Sistemas embarcados
Convolutional Neural Networks
Machine Learning
Embedded Applications
Tensor Processing Units
Radiation Experiment
Reliability
title_short Reliability of google’s tensor processing units for embedded applications
title_full Reliability of google’s tensor processing units for embedded applications
title_fullStr Reliability of google’s tensor processing units for embedded applications
title_full_unstemmed Reliability of google’s tensor processing units for embedded applications
title_sort Reliability of google’s tensor processing units for embedded applications
author Rech Junior, Rubens Luiz
author_facet Rech Junior, Rubens Luiz
author_role author
dc.contributor.author.fl_str_mv Rech Junior, Rubens Luiz
dc.contributor.advisor1.fl_str_mv Rech, Paolo
contributor_str_mv Rech, Paolo
dc.subject.por.fl_str_mv Inteligência artificial
Redes neurais : Computação
Aprendizado de máquina
Sistemas embarcados
topic Inteligência artificial
Redes neurais : Computação
Aprendizado de máquina
Sistemas embarcados
Convolutional Neural Networks
Machine Learning
Embedded Applications
Tensor Processing Units
Radiation Experiment
Reliability
dc.subject.eng.fl_str_mv Convolutional Neural Networks
Machine Learning
Embedded Applications
Tensor Processing Units
Radiation Experiment
Reliability
description Redes neurais convolucionais (CNNs) têm se tornado a maneira mais utilizada e eficiente de identificar e classificar objetos em uma cena. Hoje, as CNNs são fundamen tais não apenas para os veículos autônomos, mas também para aplicações relacionada a Internet of Things (IoT), casas e cidades inteligentes. Fabricantes estão desenvolvendo acelaradores dedicados extremamente eficientes, de baixa potência e baixo custo para permitir a execução de CNNs de alta demanda computacional mesmo em aplicações com rigorosos orçamentos de energia e custos. Neste trabalho, investigamos a confiabilidade da Google Coral Tensor Processing Units (TPUs) a nêutrons atmosféricos de alta energia (no ChipIR) e nêutrons térmicos gerados por uma fonte pulsada (no EMMA) e por um reator (no TENIS). Reportamos dados obtidos com um fluência média de 3.41 × 1012 n/cm2 para nêutrons atmosféricos (equivalente a mais de 30 milhões de anos de irradiação natural), e de 7.55 × 1012 n/cm2 para nêutrons térmicos. Avaliamos o comportamento das TPUs executando operações elementares (convolução standard e convolução depthwise) com tamanhos de entrada crescentes, bem como oito configurações de CNNs. Com relação às CNNs, considera mos quatro arquiteturas de redes conhecidas e amplamente utilizadas (SSD MobileNet v2, SSD MobileDet, Inception v4 e ResNet-50) treinadas com datasets populares, como COCO e ILSVRC2012. Por meio do retreinamento, também analisamos o impacto da técnica de transfer learning e de um númbero reduzido de classes de objetos a serem detectadas/classificadas na robustez da predição da CNN. Descobrimos que, apesar da alta taxa de erros, a maioria dos erros induzidos por nêutrons modifica apenas ligeiramente a saída da convolução e não altera o resultado da classificação/detecção. Ao reportar detalhes a respeito do modelo de erros, fornecemos informações valiosas sobre como projetar CNNs de maneira a evitar que eventos induzi dos por nêutrons levem a erros de classificação/detecção
publishDate 2022
dc.date.accessioned.fl_str_mv 2022-09-17T05:08:24Z
dc.date.issued.fl_str_mv 2022
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/bachelorThesis
format bachelorThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/10183/249084
dc.identifier.nrb.pt_BR.fl_str_mv 001149085
url http://hdl.handle.net/10183/249084
identifier_str_mv 001149085
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRGS
instname:Universidade Federal do Rio Grande do Sul (UFRGS)
instacron:UFRGS
instname_str Universidade Federal do Rio Grande do Sul (UFRGS)
instacron_str UFRGS
institution UFRGS
reponame_str Repositório Institucional da UFRGS
collection Repositório Institucional da UFRGS
bitstream.url.fl_str_mv http://www.lume.ufrgs.br/bitstream/10183/249084/2/001149085.pdf.txt
http://www.lume.ufrgs.br/bitstream/10183/249084/1/001149085.pdf
bitstream.checksum.fl_str_mv 2fe50f4b456c6c50f485a98c6f46e08b
583175bb0d3da7292855614b81a55ff9
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)
repository.mail.fl_str_mv
_version_ 1801224641575911424