Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil

Detalhes bibliográficos
Autor(a) principal: Ottoni, André Luiz Carvalho
Data de Publicação: 2022
Tipo de documento: Tese
Idioma: por
Título da fonte: Repositório Institucional da UFBA
Texto Completo: https://repositorio.ufba.br/handle/ri/36579
Resumo: O objetivo desta tese é propor métodos criteriosos para recomendação de hiperparâmetros de Aprendizado de Máquina na classificação de imagens da construção civil. Para isso, os métodos computacionais denominados HyperTuningSK e AutoHyperTuningSK são propostos. Esses algoritmos utilizam técnicas estatísticas para recomendação de hiperparâmetros, como Análise de Variância e o algoritmo de agrupamentos de Scott-Knott. Os experimentos observaram duas classes de hiperparâmetros: treinamento (taxa de aprendizado e otimizador) e data augmentation. Além disso, os métodos desenvolvidos foram testados em quatro estudos de casos: reconhecimento de vegetação em fachadas, detecção de patologias em calhas, classificação de máquinas e classificação de rachaduras. Os resultados obtidos demonstraram que os hiperparâmetros analisados influenciaram diretamente no desempenho na classificação de imagens nas aplicações analisadas. Também vale ressaltar que as configurações de hiperparâmetros ajustadas pelo HyperTuningSK obtiveram recomendações distintas de acordo com a arquitetura neural utilizada. Nesse sentido, a combinação adagrad025 alcançou HyperScore = AAA para a arquitetura Densenet121. Os resultados para análise de data augmentation, por sua vez, mostram que duas transformações foram as mais recomendadas pelo HyperTuningSK: deslocamento em largura e deslocamento em altura. Nos experimentos do quarto estudo de caso, o algoritmo AutoHyperTuningSK recomendou otimizador adagrad e taxa de aprendizado de 0,02220. Essa combinação conseguiu acurácia máxima de 99,48%, ou seja, o equivalente a classificação correta de 3.979 imagens (total de 4.000) no conjunto de teste. Os resultados para recomendação de hiperparâmetros de data augmentation também reforçam a eficiência da abordagem proposta usando o algoritmo AutoHyperTuningSK-DA. Nesse aspecto, a combinação recomendada alcançou acurácia média de 99,2% nos experimentos de teste.
id UFBA-2_3f5d242e518e06b97b234185ddc5c061
oai_identifier_str oai:repositorio.ufba.br:ri/36579
network_acronym_str UFBA-2
network_name_str Repositório Institucional da UFBA
repository_id_str 1932
spelling 2023-02-03T12:53:31Z2023-02-03T12:53:31Z2022-12-12https://repositorio.ufba.br/handle/ri/36579O objetivo desta tese é propor métodos criteriosos para recomendação de hiperparâmetros de Aprendizado de Máquina na classificação de imagens da construção civil. Para isso, os métodos computacionais denominados HyperTuningSK e AutoHyperTuningSK são propostos. Esses algoritmos utilizam técnicas estatísticas para recomendação de hiperparâmetros, como Análise de Variância e o algoritmo de agrupamentos de Scott-Knott. Os experimentos observaram duas classes de hiperparâmetros: treinamento (taxa de aprendizado e otimizador) e data augmentation. Além disso, os métodos desenvolvidos foram testados em quatro estudos de casos: reconhecimento de vegetação em fachadas, detecção de patologias em calhas, classificação de máquinas e classificação de rachaduras. Os resultados obtidos demonstraram que os hiperparâmetros analisados influenciaram diretamente no desempenho na classificação de imagens nas aplicações analisadas. Também vale ressaltar que as configurações de hiperparâmetros ajustadas pelo HyperTuningSK obtiveram recomendações distintas de acordo com a arquitetura neural utilizada. Nesse sentido, a combinação adagrad025 alcançou HyperScore = AAA para a arquitetura Densenet121. Os resultados para análise de data augmentation, por sua vez, mostram que duas transformações foram as mais recomendadas pelo HyperTuningSK: deslocamento em largura e deslocamento em altura. Nos experimentos do quarto estudo de caso, o algoritmo AutoHyperTuningSK recomendou otimizador adagrad e taxa de aprendizado de 0,02220. Essa combinação conseguiu acurácia máxima de 99,48%, ou seja, o equivalente a classificação correta de 3.979 imagens (total de 4.000) no conjunto de teste. Os resultados para recomendação de hiperparâmetros de data augmentation também reforçam a eficiência da abordagem proposta usando o algoritmo AutoHyperTuningSK-DA. Nesse aspecto, a combinação recomendada alcançou acurácia média de 99,2% nos experimentos de teste.This work proposes rigorous methods for hyperparameter tuning of machine learning for classifying images in construction. For this, computational methods called HyperTuningSK and AutoHyperTuningSK are proposed. These algorithms use statistical techniques for recommending hyperparameters, such as Analysis of Variance and the Scott-Knott clustering algorithm. The approach uses statistical experimental design concepts, such as analysis of variance and the Scott-Knott clustering algorithm. In addition, four case studies were used: façade vegetation detection, gutter integrity detection, machinery classification, and crack classification. The results showed that the hyperparameters affect the performance of image classification. It is also worth noting that the hyperparameter configurations adjusted by HyperTuningSK resulted in different recommendations depending on the neural architecture used. In this sense, the adagrad025 combination achieved a HyperScore = AAA for the Densenet121 architecture. The results of the data augmentation analysis show that two transformations were the most recommended by HyperTuningSK: width shift and height shift. Moreover, the AutoHyperTuningSK algorithm recommended an adagrad optimizer and a learning rate of 0.02220 in the experiments for the fourth case study. This combination achieved a maximum accuracy of 99.48%, that is, the correct classification of 3,979 images (4,000 in total) in the test dataset. The results for tuning data augmentation hyperparameters also confirm the efficiency of the proposed approach using the AutoHyperTuningSK-DA algorithm. In this regard, the recommended combination achieved an average accuracy of 99.2% in the test experiments.Submitted by André Ottoni (andre.ottoni@ufrb.edu.br) on 2023-02-03T11:24:37Z No. of bitstreams: 1 Tese-Andre-Ottoni-final.pdf: 27033279 bytes, checksum: 2046cfe41dae1a8629ea1c3f90cfe3bb (MD5)Approved for entry into archive by Biblioteca Engenharia Processamento Técnico (biengproc@ufba.br) on 2023-02-03T12:53:31Z (GMT) No. of bitstreams: 1 Tese-Andre-Ottoni-final.pdf: 27033279 bytes, checksum: 2046cfe41dae1a8629ea1c3f90cfe3bb (MD5)Made available in DSpace on 2023-02-03T12:53:31Z (GMT). No. of bitstreams: 1 Tese-Andre-Ottoni-final.pdf: 27033279 bytes, checksum: 2046cfe41dae1a8629ea1c3f90cfe3bb (MD5) Previous issue date: 2022-12-12porUniversidade Federal da BahiaPrograma de Pós-Graduação em Engenharia Elétrica (PPGEE) UFBABrasilEscola PolitécnicaMachine learningImage classification (building construction)Data augmentationBuilding constructionHyperparameter tuningCNPQ::ENGENHARIASCNPQ::ENGENHARIAS::ENGENHARIA ELETRICAAprendizado de máquinaClassificação de imagens (construção civil)Data augmentationConstrução civilRecomendação de hiperparâmetrosMétodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civilDoutoradoinfo:eu-repo/semantics/doctoralThesisinfo:eu-repo/semantics/publishedVersionNovo, Marcela Silvahttps://orcid.org/0000-0003-2742-3145http://lattes.cnpq.br/8650100220475307Novo, Marcela Silvahttp://lattes.cnpq.br/8650100220475307Carvalho, André Carlos Ponce de Leon Ferreira dehttp://lattes.cnpq.br/9674541381385819Dória Neto, Adrião Duartehttp://lattes.cnpq.br/1987295209521433Cerqueira, Jés de Jesus Fiaishttp://lattes.cnpq.br/3099827700882478Assis, Karcius Day Rosariohttp://lattes.cnpq.br/0117460865270656https://orcid.org/0000-0003-2136-9870http://lattes.cnpq.br/2003401420560517Ottoni, André Luiz Carvalhoreponame:Repositório Institucional da UFBAinstname:Universidade Federal da Bahia (UFBA)instacron:UFBAinfo:eu-repo/semantics/openAccessTEXTTese-Andre-Ottoni-final.pdf.txtTese-Andre-Ottoni-final.pdf.txtExtracted texttext/plain312794https://repositorio.ufba.br/bitstream/ri/36579/3/Tese-Andre-Ottoni-final.pdf.txt25bc2f92714f1d212cc92d573d0792c4MD53ORIGINALTese-Andre-Ottoni-final.pdfTese-Andre-Ottoni-final.pdfapplication/pdf27033279https://repositorio.ufba.br/bitstream/ri/36579/1/Tese-Andre-Ottoni-final.pdf2046cfe41dae1a8629ea1c3f90cfe3bbMD51LICENSElicense.txtlicense.txttext/plain1715https://repositorio.ufba.br/bitstream/ri/36579/2/license.txt67bf4f75790b0d8d38d8f112a48ad90bMD52ri/365792023-02-04 02:04:11.99oai:repositorio.ufba.br:ri/36579TElDRU7Dh0EgREUgRElTVFJJQlVJw4fDg08gTsODTy1FWENMVVNJVkEKCkNvbSBhIGFwcmVzZW50YcOnw6NvIGRlc3RhIGxpY2Vuw6dhLCBvIGF1dG9yIG91IHRpdHVsYXIgZG9zIGRpcmVpdG9zIGRlIGF1dG9yIGNvbmNlZGUgYW8gUmVwb3NpdMOzcmlvIEluc3RpdHVjaW9uYWwgbyBkaXJlaXRvIG7Do28tZXhjbHVzaXZvIGRlIHJlcHJvZHV6aXIsICB0cmFkdXppciAoY29uZm9ybWUgZGVmaW5pZG8gYWJhaXhvKSBlL291IGRpc3RyaWJ1aXIgYSBzdWEgcHVibGljYcOnw6NvIChpbmNsdWluZG8gbyByZXN1bW8pIG5vIGZvcm1hdG8gaW1wcmVzc28gZS9vdSBlbGV0csO0bmljbyBlIGVtIHF1YWxxdWVyIG1laW8sIGluY2x1aW5kbyBvcyAKZm9ybWF0b3Mgw6F1ZGlvIGUvb3UgdsOtZGVvLgoKTyBhdXRvciBvdSB0aXR1bGFyIGRvcyBkaXJlaXRvcyBkZSBhdXRvciBjb25jb3JkYSBxdWUgbyBSZXBvc2l0w7NyaW8gcG9kZSwgc2VtIGFsdGVyYXIgbyBjb250ZcO6ZG8sIHRyYW5zcG9yIGEgc3VhIHB1YmxpY2HDp8OjbyBwYXJhIHF1YWxxdWVyIG1laW8gZS9vdSBmb3JtYXRvIHBhcmEgZmlucyBkZSBwcmVzZXJ2YcOnw6NvLCBwb2RlbmRvIG1hbnRlciBtYWlzIGRlIHVtYSBjw7NwaWEgIHBhcmEgZmlucyBkZSBzZWd1cmFuw6dhLCBiYWNrdXAgZSBwcmVzZXJ2YcOnw6NvLgoKTyBhdXRvciBvdSB0aXR1bGFyIGRvcyBkaXJlaXRvcyBkZSBhdXRvciBkZWNsYXJhIHF1ZSBhIHN1YSBwdWJsaWNhw6fDo28gw6kgb3JpZ2luYWwgZSBxdWUgbsOjbywgcXVlIHNlamEgZGUgc2V1IGNvbmhlY2ltZW50bywgaW5mcmluZ2UgZGlyZWl0b3MgYXV0b3JhaXMgZGUgbmluZ3XDqW0uCgpDYXNvIGEgc3VhIHB1YmxpY2HDp8OjbyBjb250ZW5oYSBtYXRlcmlhbCBxdWUgbsOjbyBwb3NzdWkgYSB0aXR1bGFyaWRhZGUgZG9zIGRpcmVpdG9zIGF1dG9yYWlzLCB2b2PDqiBkZWNsYXJhIHF1ZSBvYnRldmUgYSBwZXJtaXNzw6NvIGlycmVzdHJpdGEgZG8gZGV0ZW50b3IgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIHBhcmEgY29uY2VkZXIgYW8gUmVwb3NpdMOzcmlvIG9zIGRpcmVpdG9zIGFwcmVzZW50YWRvcyBuZXN0YSBsaWNlbsOnYSBlIHF1ZSBlc3NlIG1hdGVyaWFsIGRlIHByb3ByaWVkYWRlIGRlIHRlcmNlaXJvcyBlc3TDoSBjbGFyYW1lbnRlIGlkZW50aWZpY2FkbyBlIHJlY29uaGVjaWRvIG5vIHRleHRvIG91IG5vIGNvbnRlw7pkbyBkYSBwdWJsaWNhw6fDo28gb3JhIGRlcG9zaXRhZGEuCgpDQVNPIEEgUFVCTElDQcOHw4NPIE9SQSBERVBPU0lUQURBICBSRVNVTFRFIERFIFVNIFBBVFJPQ8ONTklPIE9VIEFQT0lPIERFIFVNQSAgQUfDik5DSUEgREUgRk9NRU5UTyBPVSBPVVRSTyAKT1JHQU5JU01PLCBWT0PDiiBERUNMQVJBIFFVRSBSRVNQRUlUT1UgVE9ET1MgRSBRVUFJU1FVRVIgRElSRUlUT1MgREUgUkVWSVPDg08sIENPTU8gVEFNQsOJTSBBUyBERU1BSVMgT0JSSUdBw4fDlUVTIApFWElHSURBUyBQT1IgQ09OVFJBVE8gT1UgQUNPUkRPLgoKTyBSZXBvc2l0w7NyaW8gc2UgY29tcHJvbWV0ZSBhIGlkZW50aWZpY2FyLCBjbGFyYW1lbnRlLCBvIHNldSBub21lIChzKSBvdSBvKHMpIG5vbWUocykgZG8ocykgZGV0ZW50b3IoZXMpIGRvcyBkaXJlaXRvcyBhdXRvcmFpcyBkYSBwdWJsaWNhw6fDo28gZSBuw6NvIGZhcsOhIHF1YWxxdWVyIGFsdGVyYcOnw6NvLCBhbMOpbSBkYXF1ZWxhcyBjb25jZWRpZGFzIHBvciBlc3RhIGxpY2Vuw6dhLgo=Repositório InstitucionalPUBhttp://192.188.11.11:8080/oai/requestopendoar:19322023-02-04T05:04:11Repositório Institucional da UFBA - Universidade Federal da Bahia (UFBA)false
dc.title.pt_BR.fl_str_mv Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil
title Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil
spellingShingle Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil
Ottoni, André Luiz Carvalho
CNPQ::ENGENHARIAS
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
Aprendizado de máquina
Classificação de imagens (construção civil)
Data augmentation
Construção civil
Recomendação de hiperparâmetros
Machine learning
Image classification (building construction)
Data augmentation
Building construction
Hyperparameter tuning
title_short Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil
title_full Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil
title_fullStr Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil
title_full_unstemmed Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil
title_sort Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil
author Ottoni, André Luiz Carvalho
author_facet Ottoni, André Luiz Carvalho
author_role author
dc.contributor.advisor1.fl_str_mv Novo, Marcela Silva
dc.contributor.advisor1ID.fl_str_mv https://orcid.org/0000-0003-2742-3145
dc.contributor.advisor1Lattes.fl_str_mv http://lattes.cnpq.br/8650100220475307
dc.contributor.referee1.fl_str_mv Novo, Marcela Silva
dc.contributor.referee1Lattes.fl_str_mv http://lattes.cnpq.br/8650100220475307
dc.contributor.referee2.fl_str_mv Carvalho, André Carlos Ponce de Leon Ferreira de
dc.contributor.referee2Lattes.fl_str_mv http://lattes.cnpq.br/9674541381385819
dc.contributor.referee3.fl_str_mv Dória Neto, Adrião Duarte
dc.contributor.referee3Lattes.fl_str_mv http://lattes.cnpq.br/1987295209521433
dc.contributor.referee4.fl_str_mv Cerqueira, Jés de Jesus Fiais
dc.contributor.referee4Lattes.fl_str_mv http://lattes.cnpq.br/3099827700882478
dc.contributor.referee5.fl_str_mv Assis, Karcius Day Rosario
dc.contributor.referee5Lattes.fl_str_mv http://lattes.cnpq.br/0117460865270656
dc.contributor.authorID.fl_str_mv https://orcid.org/0000-0003-2136-9870
dc.contributor.authorLattes.fl_str_mv http://lattes.cnpq.br/2003401420560517
dc.contributor.author.fl_str_mv Ottoni, André Luiz Carvalho
contributor_str_mv Novo, Marcela Silva
Novo, Marcela Silva
Carvalho, André Carlos Ponce de Leon Ferreira de
Dória Neto, Adrião Duarte
Cerqueira, Jés de Jesus Fiais
Assis, Karcius Day Rosario
dc.subject.cnpq.fl_str_mv CNPQ::ENGENHARIAS
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
topic CNPQ::ENGENHARIAS
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
Aprendizado de máquina
Classificação de imagens (construção civil)
Data augmentation
Construção civil
Recomendação de hiperparâmetros
Machine learning
Image classification (building construction)
Data augmentation
Building construction
Hyperparameter tuning
dc.subject.por.fl_str_mv Aprendizado de máquina
Classificação de imagens (construção civil)
Data augmentation
Construção civil
Recomendação de hiperparâmetros
dc.subject.other.pt_BR.fl_str_mv Machine learning
Image classification (building construction)
Data augmentation
Building construction
Hyperparameter tuning
description O objetivo desta tese é propor métodos criteriosos para recomendação de hiperparâmetros de Aprendizado de Máquina na classificação de imagens da construção civil. Para isso, os métodos computacionais denominados HyperTuningSK e AutoHyperTuningSK são propostos. Esses algoritmos utilizam técnicas estatísticas para recomendação de hiperparâmetros, como Análise de Variância e o algoritmo de agrupamentos de Scott-Knott. Os experimentos observaram duas classes de hiperparâmetros: treinamento (taxa de aprendizado e otimizador) e data augmentation. Além disso, os métodos desenvolvidos foram testados em quatro estudos de casos: reconhecimento de vegetação em fachadas, detecção de patologias em calhas, classificação de máquinas e classificação de rachaduras. Os resultados obtidos demonstraram que os hiperparâmetros analisados influenciaram diretamente no desempenho na classificação de imagens nas aplicações analisadas. Também vale ressaltar que as configurações de hiperparâmetros ajustadas pelo HyperTuningSK obtiveram recomendações distintas de acordo com a arquitetura neural utilizada. Nesse sentido, a combinação adagrad025 alcançou HyperScore = AAA para a arquitetura Densenet121. Os resultados para análise de data augmentation, por sua vez, mostram que duas transformações foram as mais recomendadas pelo HyperTuningSK: deslocamento em largura e deslocamento em altura. Nos experimentos do quarto estudo de caso, o algoritmo AutoHyperTuningSK recomendou otimizador adagrad e taxa de aprendizado de 0,02220. Essa combinação conseguiu acurácia máxima de 99,48%, ou seja, o equivalente a classificação correta de 3.979 imagens (total de 4.000) no conjunto de teste. Os resultados para recomendação de hiperparâmetros de data augmentation também reforçam a eficiência da abordagem proposta usando o algoritmo AutoHyperTuningSK-DA. Nesse aspecto, a combinação recomendada alcançou acurácia média de 99,2% nos experimentos de teste.
publishDate 2022
dc.date.issued.fl_str_mv 2022-12-12
dc.date.accessioned.fl_str_mv 2023-02-03T12:53:31Z
dc.date.available.fl_str_mv 2023-02-03T12:53:31Z
dc.type.driver.fl_str_mv Doutorado
info:eu-repo/semantics/doctoralThesis
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://repositorio.ufba.br/handle/ri/36579
url https://repositorio.ufba.br/handle/ri/36579
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal da Bahia
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Engenharia Elétrica (PPGEE) 
dc.publisher.initials.fl_str_mv UFBA
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv Escola Politécnica
publisher.none.fl_str_mv Universidade Federal da Bahia
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFBA
instname:Universidade Federal da Bahia (UFBA)
instacron:UFBA
instname_str Universidade Federal da Bahia (UFBA)
instacron_str UFBA
institution UFBA
reponame_str Repositório Institucional da UFBA
collection Repositório Institucional da UFBA
bitstream.url.fl_str_mv https://repositorio.ufba.br/bitstream/ri/36579/3/Tese-Andre-Ottoni-final.pdf.txt
https://repositorio.ufba.br/bitstream/ri/36579/1/Tese-Andre-Ottoni-final.pdf
https://repositorio.ufba.br/bitstream/ri/36579/2/license.txt
bitstream.checksum.fl_str_mv 25bc2f92714f1d212cc92d573d0792c4
2046cfe41dae1a8629ea1c3f90cfe3bb
67bf4f75790b0d8d38d8f112a48ad90b
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFBA - Universidade Federal da Bahia (UFBA)
repository.mail.fl_str_mv
_version_ 1808459658972626944