Reliability of google’s tensor processing units for embedded applications
Autor(a) principal: | |
---|---|
Data de Publicação: | 2022 |
Tipo de documento: | Trabalho de conclusão de curso |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFRGS |
Texto Completo: | http://hdl.handle.net/10183/249084 |
Resumo: | Redes neurais convolucionais (CNNs) têm se tornado a maneira mais utilizada e eficiente de identificar e classificar objetos em uma cena. Hoje, as CNNs são fundamen tais não apenas para os veículos autônomos, mas também para aplicações relacionada a Internet of Things (IoT), casas e cidades inteligentes. Fabricantes estão desenvolvendo acelaradores dedicados extremamente eficientes, de baixa potência e baixo custo para permitir a execução de CNNs de alta demanda computacional mesmo em aplicações com rigorosos orçamentos de energia e custos. Neste trabalho, investigamos a confiabilidade da Google Coral Tensor Processing Units (TPUs) a nêutrons atmosféricos de alta energia (no ChipIR) e nêutrons térmicos gerados por uma fonte pulsada (no EMMA) e por um reator (no TENIS). Reportamos dados obtidos com um fluência média de 3.41 × 1012 n/cm2 para nêutrons atmosféricos (equivalente a mais de 30 milhões de anos de irradiação natural), e de 7.55 × 1012 n/cm2 para nêutrons térmicos. Avaliamos o comportamento das TPUs executando operações elementares (convolução standard e convolução depthwise) com tamanhos de entrada crescentes, bem como oito configurações de CNNs. Com relação às CNNs, considera mos quatro arquiteturas de redes conhecidas e amplamente utilizadas (SSD MobileNet v2, SSD MobileDet, Inception v4 e ResNet-50) treinadas com datasets populares, como COCO e ILSVRC2012. Por meio do retreinamento, também analisamos o impacto da técnica de transfer learning e de um númbero reduzido de classes de objetos a serem detectadas/classificadas na robustez da predição da CNN. Descobrimos que, apesar da alta taxa de erros, a maioria dos erros induzidos por nêutrons modifica apenas ligeiramente a saída da convolução e não altera o resultado da classificação/detecção. Ao reportar detalhes a respeito do modelo de erros, fornecemos informações valiosas sobre como projetar CNNs de maneira a evitar que eventos induzi dos por nêutrons levem a erros de classificação/detecção |
id |
UFRGS-2_9dccc92f8cb542d321e9ee612069067e |
---|---|
oai_identifier_str |
oai:www.lume.ufrgs.br:10183/249084 |
network_acronym_str |
UFRGS-2 |
network_name_str |
Repositório Institucional da UFRGS |
repository_id_str |
|
spelling |
Rech Junior, Rubens LuizRech, Paolo2022-09-17T05:08:24Z2022http://hdl.handle.net/10183/249084001149085Redes neurais convolucionais (CNNs) têm se tornado a maneira mais utilizada e eficiente de identificar e classificar objetos em uma cena. Hoje, as CNNs são fundamen tais não apenas para os veículos autônomos, mas também para aplicações relacionada a Internet of Things (IoT), casas e cidades inteligentes. Fabricantes estão desenvolvendo acelaradores dedicados extremamente eficientes, de baixa potência e baixo custo para permitir a execução de CNNs de alta demanda computacional mesmo em aplicações com rigorosos orçamentos de energia e custos. Neste trabalho, investigamos a confiabilidade da Google Coral Tensor Processing Units (TPUs) a nêutrons atmosféricos de alta energia (no ChipIR) e nêutrons térmicos gerados por uma fonte pulsada (no EMMA) e por um reator (no TENIS). Reportamos dados obtidos com um fluência média de 3.41 × 1012 n/cm2 para nêutrons atmosféricos (equivalente a mais de 30 milhões de anos de irradiação natural), e de 7.55 × 1012 n/cm2 para nêutrons térmicos. Avaliamos o comportamento das TPUs executando operações elementares (convolução standard e convolução depthwise) com tamanhos de entrada crescentes, bem como oito configurações de CNNs. Com relação às CNNs, considera mos quatro arquiteturas de redes conhecidas e amplamente utilizadas (SSD MobileNet v2, SSD MobileDet, Inception v4 e ResNet-50) treinadas com datasets populares, como COCO e ILSVRC2012. Por meio do retreinamento, também analisamos o impacto da técnica de transfer learning e de um númbero reduzido de classes de objetos a serem detectadas/classificadas na robustez da predição da CNN. Descobrimos que, apesar da alta taxa de erros, a maioria dos erros induzidos por nêutrons modifica apenas ligeiramente a saída da convolução e não altera o resultado da classificação/detecção. Ao reportar detalhes a respeito do modelo de erros, fornecemos informações valiosas sobre como projetar CNNs de maneira a evitar que eventos induzi dos por nêutrons levem a erros de classificação/detecçãoConvolutional Neural Networks (CNNs) have become the most used and efficient way to identify and classify objects in a scene. CNNs are today fundamental not only for autonomous vehicles, but also for Internet of Things (IoT) and smart cities or smart homes. Vendors are developing low-power, extremely efficient, and low-cost dedicated accelerators to allow the execution of the computational-demanding CNNs even in appli cations with strict power and cost budgets. In this work we investigate the reliability of Google’s Coral Tensor Processing Units (TPUs) to both high-energy atmospheric neutrons (at ChipIR) and thermal neutrons from a pulsed source (at EMMA) and from a reactor (at TENIS). We report data obtained with an overall fluence of 3.41×1012n/cm2 for atmospheric neutrons (equivalent to more than 30 million years of natural irradiation) and of 7.55×1012n/cm2 for thermal neutrons. We evaluate the behavior of TPUs executing elementary operations with increas ing input sizes (standard convolutions or depthwise convolutions) as well as eight CNNs configurations. Regarding the CNNs, we consider four well-known and widely-used net work architectures (SSD MobileNet v2, SSD MobileDet, Inception v4 and ResNet-50) trained with popular datasets, such as COCO and ILSVRC2012. Through retraining, we also assess the impact of transfer learning and a reduced number of object classes to be detected/classified on the CNN prediction robustness. We found that, despite the high error rate, most neutrons-induced errors only slightly modify the convolution output and do not change the CNNs detection or clas sification. By reporting details about the error model we provide valuable information on how to design the CNNs to avoid neutron-induced events to lead to miss detections or classifications.application/pdfporInteligência artificialRedes neurais : ComputaçãoAprendizado de máquinaSistemas embarcadosConvolutional Neural NetworksMachine LearningEmbedded ApplicationsTensor Processing UnitsRadiation ExperimentReliabilityReliability of google’s tensor processing units for embedded applicationsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesisUniversidade Federal do Rio Grande do SulInstituto de InformáticaPorto Alegre, BR-RS2022Ciência da Computação: Ênfase em Ciência da Computação: Bachareladograduaçãoinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRGSinstname:Universidade Federal do Rio Grande do Sul (UFRGS)instacron:UFRGSTEXT001149085.pdf.txt001149085.pdf.txtExtracted Texttext/plain72730http://www.lume.ufrgs.br/bitstream/10183/249084/2/001149085.pdf.txt2fe50f4b456c6c50f485a98c6f46e08bMD52ORIGINAL001149085.pdfTexto completo (inglês)application/pdf7690953http://www.lume.ufrgs.br/bitstream/10183/249084/1/001149085.pdf583175bb0d3da7292855614b81a55ff9MD5110183/2490842022-10-19 04:48:25.534979oai:www.lume.ufrgs.br:10183/249084Repositório de PublicaçõesPUBhttps://lume.ufrgs.br/oai/requestopendoar:2022-10-19T07:48:25Repositório Institucional da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)false |
dc.title.pt_BR.fl_str_mv |
Reliability of google’s tensor processing units for embedded applications |
title |
Reliability of google’s tensor processing units for embedded applications |
spellingShingle |
Reliability of google’s tensor processing units for embedded applications Rech Junior, Rubens Luiz Inteligência artificial Redes neurais : Computação Aprendizado de máquina Sistemas embarcados Convolutional Neural Networks Machine Learning Embedded Applications Tensor Processing Units Radiation Experiment Reliability |
title_short |
Reliability of google’s tensor processing units for embedded applications |
title_full |
Reliability of google’s tensor processing units for embedded applications |
title_fullStr |
Reliability of google’s tensor processing units for embedded applications |
title_full_unstemmed |
Reliability of google’s tensor processing units for embedded applications |
title_sort |
Reliability of google’s tensor processing units for embedded applications |
author |
Rech Junior, Rubens Luiz |
author_facet |
Rech Junior, Rubens Luiz |
author_role |
author |
dc.contributor.author.fl_str_mv |
Rech Junior, Rubens Luiz |
dc.contributor.advisor1.fl_str_mv |
Rech, Paolo |
contributor_str_mv |
Rech, Paolo |
dc.subject.por.fl_str_mv |
Inteligência artificial Redes neurais : Computação Aprendizado de máquina Sistemas embarcados |
topic |
Inteligência artificial Redes neurais : Computação Aprendizado de máquina Sistemas embarcados Convolutional Neural Networks Machine Learning Embedded Applications Tensor Processing Units Radiation Experiment Reliability |
dc.subject.eng.fl_str_mv |
Convolutional Neural Networks Machine Learning Embedded Applications Tensor Processing Units Radiation Experiment Reliability |
description |
Redes neurais convolucionais (CNNs) têm se tornado a maneira mais utilizada e eficiente de identificar e classificar objetos em uma cena. Hoje, as CNNs são fundamen tais não apenas para os veículos autônomos, mas também para aplicações relacionada a Internet of Things (IoT), casas e cidades inteligentes. Fabricantes estão desenvolvendo acelaradores dedicados extremamente eficientes, de baixa potência e baixo custo para permitir a execução de CNNs de alta demanda computacional mesmo em aplicações com rigorosos orçamentos de energia e custos. Neste trabalho, investigamos a confiabilidade da Google Coral Tensor Processing Units (TPUs) a nêutrons atmosféricos de alta energia (no ChipIR) e nêutrons térmicos gerados por uma fonte pulsada (no EMMA) e por um reator (no TENIS). Reportamos dados obtidos com um fluência média de 3.41 × 1012 n/cm2 para nêutrons atmosféricos (equivalente a mais de 30 milhões de anos de irradiação natural), e de 7.55 × 1012 n/cm2 para nêutrons térmicos. Avaliamos o comportamento das TPUs executando operações elementares (convolução standard e convolução depthwise) com tamanhos de entrada crescentes, bem como oito configurações de CNNs. Com relação às CNNs, considera mos quatro arquiteturas de redes conhecidas e amplamente utilizadas (SSD MobileNet v2, SSD MobileDet, Inception v4 e ResNet-50) treinadas com datasets populares, como COCO e ILSVRC2012. Por meio do retreinamento, também analisamos o impacto da técnica de transfer learning e de um númbero reduzido de classes de objetos a serem detectadas/classificadas na robustez da predição da CNN. Descobrimos que, apesar da alta taxa de erros, a maioria dos erros induzidos por nêutrons modifica apenas ligeiramente a saída da convolução e não altera o resultado da classificação/detecção. Ao reportar detalhes a respeito do modelo de erros, fornecemos informações valiosas sobre como projetar CNNs de maneira a evitar que eventos induzi dos por nêutrons levem a erros de classificação/detecção |
publishDate |
2022 |
dc.date.accessioned.fl_str_mv |
2022-09-17T05:08:24Z |
dc.date.issued.fl_str_mv |
2022 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/bachelorThesis |
format |
bachelorThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
http://hdl.handle.net/10183/249084 |
dc.identifier.nrb.pt_BR.fl_str_mv |
001149085 |
url |
http://hdl.handle.net/10183/249084 |
identifier_str_mv |
001149085 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFRGS instname:Universidade Federal do Rio Grande do Sul (UFRGS) instacron:UFRGS |
instname_str |
Universidade Federal do Rio Grande do Sul (UFRGS) |
instacron_str |
UFRGS |
institution |
UFRGS |
reponame_str |
Repositório Institucional da UFRGS |
collection |
Repositório Institucional da UFRGS |
bitstream.url.fl_str_mv |
http://www.lume.ufrgs.br/bitstream/10183/249084/2/001149085.pdf.txt http://www.lume.ufrgs.br/bitstream/10183/249084/1/001149085.pdf |
bitstream.checksum.fl_str_mv |
2fe50f4b456c6c50f485a98c6f46e08b 583175bb0d3da7292855614b81a55ff9 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS) |
repository.mail.fl_str_mv |
|
_version_ |
1801224641575911424 |