Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil
Autor(a) principal: | |
---|---|
Data de Publicação: | 2022 |
Tipo de documento: | Tese |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFBA |
Texto Completo: | https://repositorio.ufba.br/handle/ri/36579 |
Resumo: | O objetivo desta tese é propor métodos criteriosos para recomendação de hiperparâmetros de Aprendizado de Máquina na classificação de imagens da construção civil. Para isso, os métodos computacionais denominados HyperTuningSK e AutoHyperTuningSK são propostos. Esses algoritmos utilizam técnicas estatísticas para recomendação de hiperparâmetros, como Análise de Variância e o algoritmo de agrupamentos de Scott-Knott. Os experimentos observaram duas classes de hiperparâmetros: treinamento (taxa de aprendizado e otimizador) e data augmentation. Além disso, os métodos desenvolvidos foram testados em quatro estudos de casos: reconhecimento de vegetação em fachadas, detecção de patologias em calhas, classificação de máquinas e classificação de rachaduras. Os resultados obtidos demonstraram que os hiperparâmetros analisados influenciaram diretamente no desempenho na classificação de imagens nas aplicações analisadas. Também vale ressaltar que as configurações de hiperparâmetros ajustadas pelo HyperTuningSK obtiveram recomendações distintas de acordo com a arquitetura neural utilizada. Nesse sentido, a combinação adagrad025 alcançou HyperScore = AAA para a arquitetura Densenet121. Os resultados para análise de data augmentation, por sua vez, mostram que duas transformações foram as mais recomendadas pelo HyperTuningSK: deslocamento em largura e deslocamento em altura. Nos experimentos do quarto estudo de caso, o algoritmo AutoHyperTuningSK recomendou otimizador adagrad e taxa de aprendizado de 0,02220. Essa combinação conseguiu acurácia máxima de 99,48%, ou seja, o equivalente a classificação correta de 3.979 imagens (total de 4.000) no conjunto de teste. Os resultados para recomendação de hiperparâmetros de data augmentation também reforçam a eficiência da abordagem proposta usando o algoritmo AutoHyperTuningSK-DA. Nesse aspecto, a combinação recomendada alcançou acurácia média de 99,2% nos experimentos de teste. |
id |
UFBA-2_3f5d242e518e06b97b234185ddc5c061 |
---|---|
oai_identifier_str |
oai:repositorio.ufba.br:ri/36579 |
network_acronym_str |
UFBA-2 |
network_name_str |
Repositório Institucional da UFBA |
repository_id_str |
1932 |
spelling |
2023-02-03T12:53:31Z2023-02-03T12:53:31Z2022-12-12https://repositorio.ufba.br/handle/ri/36579O objetivo desta tese é propor métodos criteriosos para recomendação de hiperparâmetros de Aprendizado de Máquina na classificação de imagens da construção civil. Para isso, os métodos computacionais denominados HyperTuningSK e AutoHyperTuningSK são propostos. Esses algoritmos utilizam técnicas estatísticas para recomendação de hiperparâmetros, como Análise de Variância e o algoritmo de agrupamentos de Scott-Knott. Os experimentos observaram duas classes de hiperparâmetros: treinamento (taxa de aprendizado e otimizador) e data augmentation. Além disso, os métodos desenvolvidos foram testados em quatro estudos de casos: reconhecimento de vegetação em fachadas, detecção de patologias em calhas, classificação de máquinas e classificação de rachaduras. Os resultados obtidos demonstraram que os hiperparâmetros analisados influenciaram diretamente no desempenho na classificação de imagens nas aplicações analisadas. Também vale ressaltar que as configurações de hiperparâmetros ajustadas pelo HyperTuningSK obtiveram recomendações distintas de acordo com a arquitetura neural utilizada. Nesse sentido, a combinação adagrad025 alcançou HyperScore = AAA para a arquitetura Densenet121. Os resultados para análise de data augmentation, por sua vez, mostram que duas transformações foram as mais recomendadas pelo HyperTuningSK: deslocamento em largura e deslocamento em altura. Nos experimentos do quarto estudo de caso, o algoritmo AutoHyperTuningSK recomendou otimizador adagrad e taxa de aprendizado de 0,02220. Essa combinação conseguiu acurácia máxima de 99,48%, ou seja, o equivalente a classificação correta de 3.979 imagens (total de 4.000) no conjunto de teste. Os resultados para recomendação de hiperparâmetros de data augmentation também reforçam a eficiência da abordagem proposta usando o algoritmo AutoHyperTuningSK-DA. Nesse aspecto, a combinação recomendada alcançou acurácia média de 99,2% nos experimentos de teste.This work proposes rigorous methods for hyperparameter tuning of machine learning for classifying images in construction. For this, computational methods called HyperTuningSK and AutoHyperTuningSK are proposed. These algorithms use statistical techniques for recommending hyperparameters, such as Analysis of Variance and the Scott-Knott clustering algorithm. The approach uses statistical experimental design concepts, such as analysis of variance and the Scott-Knott clustering algorithm. In addition, four case studies were used: façade vegetation detection, gutter integrity detection, machinery classification, and crack classification. The results showed that the hyperparameters affect the performance of image classification. It is also worth noting that the hyperparameter configurations adjusted by HyperTuningSK resulted in different recommendations depending on the neural architecture used. In this sense, the adagrad025 combination achieved a HyperScore = AAA for the Densenet121 architecture. The results of the data augmentation analysis show that two transformations were the most recommended by HyperTuningSK: width shift and height shift. Moreover, the AutoHyperTuningSK algorithm recommended an adagrad optimizer and a learning rate of 0.02220 in the experiments for the fourth case study. This combination achieved a maximum accuracy of 99.48%, that is, the correct classification of 3,979 images (4,000 in total) in the test dataset. The results for tuning data augmentation hyperparameters also confirm the efficiency of the proposed approach using the AutoHyperTuningSK-DA algorithm. In this regard, the recommended combination achieved an average accuracy of 99.2% in the test experiments.Submitted by André Ottoni (andre.ottoni@ufrb.edu.br) on 2023-02-03T11:24:37Z No. of bitstreams: 1 Tese-Andre-Ottoni-final.pdf: 27033279 bytes, checksum: 2046cfe41dae1a8629ea1c3f90cfe3bb (MD5)Approved for entry into archive by Biblioteca Engenharia Processamento Técnico (biengproc@ufba.br) on 2023-02-03T12:53:31Z (GMT) No. of bitstreams: 1 Tese-Andre-Ottoni-final.pdf: 27033279 bytes, checksum: 2046cfe41dae1a8629ea1c3f90cfe3bb (MD5)Made available in DSpace on 2023-02-03T12:53:31Z (GMT). No. of bitstreams: 1 Tese-Andre-Ottoni-final.pdf: 27033279 bytes, checksum: 2046cfe41dae1a8629ea1c3f90cfe3bb (MD5) Previous issue date: 2022-12-12porUniversidade Federal da BahiaPrograma de Pós-Graduação em Engenharia Elétrica (PPGEE) UFBABrasilEscola PolitécnicaMachine learningImage classification (building construction)Data augmentationBuilding constructionHyperparameter tuningCNPQ::ENGENHARIASCNPQ::ENGENHARIAS::ENGENHARIA ELETRICAAprendizado de máquinaClassificação de imagens (construção civil)Data augmentationConstrução civilRecomendação de hiperparâmetrosMétodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civilDoutoradoinfo:eu-repo/semantics/doctoralThesisinfo:eu-repo/semantics/publishedVersionNovo, Marcela Silvahttps://orcid.org/0000-0003-2742-3145http://lattes.cnpq.br/8650100220475307Novo, Marcela Silvahttp://lattes.cnpq.br/8650100220475307Carvalho, André Carlos Ponce de Leon Ferreira dehttp://lattes.cnpq.br/9674541381385819Dória Neto, Adrião Duartehttp://lattes.cnpq.br/1987295209521433Cerqueira, Jés de Jesus Fiaishttp://lattes.cnpq.br/3099827700882478Assis, Karcius Day Rosariohttp://lattes.cnpq.br/0117460865270656https://orcid.org/0000-0003-2136-9870http://lattes.cnpq.br/2003401420560517Ottoni, André Luiz Carvalhoreponame:Repositório Institucional da UFBAinstname:Universidade Federal da Bahia (UFBA)instacron:UFBAinfo:eu-repo/semantics/openAccessTEXTTese-Andre-Ottoni-final.pdf.txtTese-Andre-Ottoni-final.pdf.txtExtracted texttext/plain312794https://repositorio.ufba.br/bitstream/ri/36579/3/Tese-Andre-Ottoni-final.pdf.txt25bc2f92714f1d212cc92d573d0792c4MD53ORIGINALTese-Andre-Ottoni-final.pdfTese-Andre-Ottoni-final.pdfapplication/pdf27033279https://repositorio.ufba.br/bitstream/ri/36579/1/Tese-Andre-Ottoni-final.pdf2046cfe41dae1a8629ea1c3f90cfe3bbMD51LICENSElicense.txtlicense.txttext/plain1715https://repositorio.ufba.br/bitstream/ri/36579/2/license.txt67bf4f75790b0d8d38d8f112a48ad90bMD52ri/365792023-02-04 02:04:11.99oai:repositorio.ufba.br:ri/36579TElDRU7Dh0EgREUgRElTVFJJQlVJw4fDg08gTsODTy1FWENMVVNJVkEKCkNvbSBhIGFwcmVzZW50YcOnw6NvIGRlc3RhIGxpY2Vuw6dhLCBvIGF1dG9yIG91IHRpdHVsYXIgZG9zIGRpcmVpdG9zIGRlIGF1dG9yIGNvbmNlZGUgYW8gUmVwb3NpdMOzcmlvIEluc3RpdHVjaW9uYWwgbyBkaXJlaXRvIG7Do28tZXhjbHVzaXZvIGRlIHJlcHJvZHV6aXIsICB0cmFkdXppciAoY29uZm9ybWUgZGVmaW5pZG8gYWJhaXhvKSBlL291IGRpc3RyaWJ1aXIgYSBzdWEgcHVibGljYcOnw6NvIChpbmNsdWluZG8gbyByZXN1bW8pIG5vIGZvcm1hdG8gaW1wcmVzc28gZS9vdSBlbGV0csO0bmljbyBlIGVtIHF1YWxxdWVyIG1laW8sIGluY2x1aW5kbyBvcyAKZm9ybWF0b3Mgw6F1ZGlvIGUvb3UgdsOtZGVvLgoKTyBhdXRvciBvdSB0aXR1bGFyIGRvcyBkaXJlaXRvcyBkZSBhdXRvciBjb25jb3JkYSBxdWUgbyBSZXBvc2l0w7NyaW8gcG9kZSwgc2VtIGFsdGVyYXIgbyBjb250ZcO6ZG8sIHRyYW5zcG9yIGEgc3VhIHB1YmxpY2HDp8OjbyBwYXJhIHF1YWxxdWVyIG1laW8gZS9vdSBmb3JtYXRvIHBhcmEgZmlucyBkZSBwcmVzZXJ2YcOnw6NvLCBwb2RlbmRvIG1hbnRlciBtYWlzIGRlIHVtYSBjw7NwaWEgIHBhcmEgZmlucyBkZSBzZWd1cmFuw6dhLCBiYWNrdXAgZSBwcmVzZXJ2YcOnw6NvLgoKTyBhdXRvciBvdSB0aXR1bGFyIGRvcyBkaXJlaXRvcyBkZSBhdXRvciBkZWNsYXJhIHF1ZSBhIHN1YSBwdWJsaWNhw6fDo28gw6kgb3JpZ2luYWwgZSBxdWUgbsOjbywgcXVlIHNlamEgZGUgc2V1IGNvbmhlY2ltZW50bywgaW5mcmluZ2UgZGlyZWl0b3MgYXV0b3JhaXMgZGUgbmluZ3XDqW0uCgpDYXNvIGEgc3VhIHB1YmxpY2HDp8OjbyBjb250ZW5oYSBtYXRlcmlhbCBxdWUgbsOjbyBwb3NzdWkgYSB0aXR1bGFyaWRhZGUgZG9zIGRpcmVpdG9zIGF1dG9yYWlzLCB2b2PDqiBkZWNsYXJhIHF1ZSBvYnRldmUgYSBwZXJtaXNzw6NvIGlycmVzdHJpdGEgZG8gZGV0ZW50b3IgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIHBhcmEgY29uY2VkZXIgYW8gUmVwb3NpdMOzcmlvIG9zIGRpcmVpdG9zIGFwcmVzZW50YWRvcyBuZXN0YSBsaWNlbsOnYSBlIHF1ZSBlc3NlIG1hdGVyaWFsIGRlIHByb3ByaWVkYWRlIGRlIHRlcmNlaXJvcyBlc3TDoSBjbGFyYW1lbnRlIGlkZW50aWZpY2FkbyBlIHJlY29uaGVjaWRvIG5vIHRleHRvIG91IG5vIGNvbnRlw7pkbyBkYSBwdWJsaWNhw6fDo28gb3JhIGRlcG9zaXRhZGEuCgpDQVNPIEEgUFVCTElDQcOHw4NPIE9SQSBERVBPU0lUQURBICBSRVNVTFRFIERFIFVNIFBBVFJPQ8ONTklPIE9VIEFQT0lPIERFIFVNQSAgQUfDik5DSUEgREUgRk9NRU5UTyBPVSBPVVRSTyAKT1JHQU5JU01PLCBWT0PDiiBERUNMQVJBIFFVRSBSRVNQRUlUT1UgVE9ET1MgRSBRVUFJU1FVRVIgRElSRUlUT1MgREUgUkVWSVPDg08sIENPTU8gVEFNQsOJTSBBUyBERU1BSVMgT0JSSUdBw4fDlUVTIApFWElHSURBUyBQT1IgQ09OVFJBVE8gT1UgQUNPUkRPLgoKTyBSZXBvc2l0w7NyaW8gc2UgY29tcHJvbWV0ZSBhIGlkZW50aWZpY2FyLCBjbGFyYW1lbnRlLCBvIHNldSBub21lIChzKSBvdSBvKHMpIG5vbWUocykgZG8ocykgZGV0ZW50b3IoZXMpIGRvcyBkaXJlaXRvcyBhdXRvcmFpcyBkYSBwdWJsaWNhw6fDo28gZSBuw6NvIGZhcsOhIHF1YWxxdWVyIGFsdGVyYcOnw6NvLCBhbMOpbSBkYXF1ZWxhcyBjb25jZWRpZGFzIHBvciBlc3RhIGxpY2Vuw6dhLgo=Repositório InstitucionalPUBhttp://192.188.11.11:8080/oai/requestopendoar:19322023-02-04T05:04:11Repositório Institucional da UFBA - Universidade Federal da Bahia (UFBA)false |
dc.title.pt_BR.fl_str_mv |
Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil |
title |
Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil |
spellingShingle |
Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil Ottoni, André Luiz Carvalho CNPQ::ENGENHARIAS CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA Aprendizado de máquina Classificação de imagens (construção civil) Data augmentation Construção civil Recomendação de hiperparâmetros Machine learning Image classification (building construction) Data augmentation Building construction Hyperparameter tuning |
title_short |
Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil |
title_full |
Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil |
title_fullStr |
Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil |
title_full_unstemmed |
Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil |
title_sort |
Métodos para recomendação de hiperparâmetros de aprendizado de máquina na classificação de imagens da construção civil |
author |
Ottoni, André Luiz Carvalho |
author_facet |
Ottoni, André Luiz Carvalho |
author_role |
author |
dc.contributor.advisor1.fl_str_mv |
Novo, Marcela Silva |
dc.contributor.advisor1ID.fl_str_mv |
https://orcid.org/0000-0003-2742-3145 |
dc.contributor.advisor1Lattes.fl_str_mv |
http://lattes.cnpq.br/8650100220475307 |
dc.contributor.referee1.fl_str_mv |
Novo, Marcela Silva |
dc.contributor.referee1Lattes.fl_str_mv |
http://lattes.cnpq.br/8650100220475307 |
dc.contributor.referee2.fl_str_mv |
Carvalho, André Carlos Ponce de Leon Ferreira de |
dc.contributor.referee2Lattes.fl_str_mv |
http://lattes.cnpq.br/9674541381385819 |
dc.contributor.referee3.fl_str_mv |
Dória Neto, Adrião Duarte |
dc.contributor.referee3Lattes.fl_str_mv |
http://lattes.cnpq.br/1987295209521433 |
dc.contributor.referee4.fl_str_mv |
Cerqueira, Jés de Jesus Fiais |
dc.contributor.referee4Lattes.fl_str_mv |
http://lattes.cnpq.br/3099827700882478 |
dc.contributor.referee5.fl_str_mv |
Assis, Karcius Day Rosario |
dc.contributor.referee5Lattes.fl_str_mv |
http://lattes.cnpq.br/0117460865270656 |
dc.contributor.authorID.fl_str_mv |
https://orcid.org/0000-0003-2136-9870 |
dc.contributor.authorLattes.fl_str_mv |
http://lattes.cnpq.br/2003401420560517 |
dc.contributor.author.fl_str_mv |
Ottoni, André Luiz Carvalho |
contributor_str_mv |
Novo, Marcela Silva Novo, Marcela Silva Carvalho, André Carlos Ponce de Leon Ferreira de Dória Neto, Adrião Duarte Cerqueira, Jés de Jesus Fiais Assis, Karcius Day Rosario |
dc.subject.cnpq.fl_str_mv |
CNPQ::ENGENHARIAS CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA |
topic |
CNPQ::ENGENHARIAS CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA Aprendizado de máquina Classificação de imagens (construção civil) Data augmentation Construção civil Recomendação de hiperparâmetros Machine learning Image classification (building construction) Data augmentation Building construction Hyperparameter tuning |
dc.subject.por.fl_str_mv |
Aprendizado de máquina Classificação de imagens (construção civil) Data augmentation Construção civil Recomendação de hiperparâmetros |
dc.subject.other.pt_BR.fl_str_mv |
Machine learning Image classification (building construction) Data augmentation Building construction Hyperparameter tuning |
description |
O objetivo desta tese é propor métodos criteriosos para recomendação de hiperparâmetros de Aprendizado de Máquina na classificação de imagens da construção civil. Para isso, os métodos computacionais denominados HyperTuningSK e AutoHyperTuningSK são propostos. Esses algoritmos utilizam técnicas estatísticas para recomendação de hiperparâmetros, como Análise de Variância e o algoritmo de agrupamentos de Scott-Knott. Os experimentos observaram duas classes de hiperparâmetros: treinamento (taxa de aprendizado e otimizador) e data augmentation. Além disso, os métodos desenvolvidos foram testados em quatro estudos de casos: reconhecimento de vegetação em fachadas, detecção de patologias em calhas, classificação de máquinas e classificação de rachaduras. Os resultados obtidos demonstraram que os hiperparâmetros analisados influenciaram diretamente no desempenho na classificação de imagens nas aplicações analisadas. Também vale ressaltar que as configurações de hiperparâmetros ajustadas pelo HyperTuningSK obtiveram recomendações distintas de acordo com a arquitetura neural utilizada. Nesse sentido, a combinação adagrad025 alcançou HyperScore = AAA para a arquitetura Densenet121. Os resultados para análise de data augmentation, por sua vez, mostram que duas transformações foram as mais recomendadas pelo HyperTuningSK: deslocamento em largura e deslocamento em altura. Nos experimentos do quarto estudo de caso, o algoritmo AutoHyperTuningSK recomendou otimizador adagrad e taxa de aprendizado de 0,02220. Essa combinação conseguiu acurácia máxima de 99,48%, ou seja, o equivalente a classificação correta de 3.979 imagens (total de 4.000) no conjunto de teste. Os resultados para recomendação de hiperparâmetros de data augmentation também reforçam a eficiência da abordagem proposta usando o algoritmo AutoHyperTuningSK-DA. Nesse aspecto, a combinação recomendada alcançou acurácia média de 99,2% nos experimentos de teste. |
publishDate |
2022 |
dc.date.issued.fl_str_mv |
2022-12-12 |
dc.date.accessioned.fl_str_mv |
2023-02-03T12:53:31Z |
dc.date.available.fl_str_mv |
2023-02-03T12:53:31Z |
dc.type.driver.fl_str_mv |
Doutorado info:eu-repo/semantics/doctoralThesis |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
format |
doctoralThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
https://repositorio.ufba.br/handle/ri/36579 |
url |
https://repositorio.ufba.br/handle/ri/36579 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Federal da Bahia |
dc.publisher.program.fl_str_mv |
Programa de Pós-Graduação em Engenharia Elétrica (PPGEE) |
dc.publisher.initials.fl_str_mv |
UFBA |
dc.publisher.country.fl_str_mv |
Brasil |
dc.publisher.department.fl_str_mv |
Escola Politécnica |
publisher.none.fl_str_mv |
Universidade Federal da Bahia |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFBA instname:Universidade Federal da Bahia (UFBA) instacron:UFBA |
instname_str |
Universidade Federal da Bahia (UFBA) |
instacron_str |
UFBA |
institution |
UFBA |
reponame_str |
Repositório Institucional da UFBA |
collection |
Repositório Institucional da UFBA |
bitstream.url.fl_str_mv |
https://repositorio.ufba.br/bitstream/ri/36579/3/Tese-Andre-Ottoni-final.pdf.txt https://repositorio.ufba.br/bitstream/ri/36579/1/Tese-Andre-Ottoni-final.pdf https://repositorio.ufba.br/bitstream/ri/36579/2/license.txt |
bitstream.checksum.fl_str_mv |
25bc2f92714f1d212cc92d573d0792c4 2046cfe41dae1a8629ea1c3f90cfe3bb 67bf4f75790b0d8d38d8f112a48ad90b |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFBA - Universidade Federal da Bahia (UFBA) |
repository.mail.fl_str_mv |
|
_version_ |
1808459658972626944 |