Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate

Detalhes bibliográficos
Autor(a) principal: Antonieti, Giovanna Nascimento, 1998-
Data de Publicação: 2021
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
Texto Completo: https://hdl.handle.net/20.500.12733/23
Resumo: Orientador: Sandra Eliza Fontes de Avila
id UNICAMP-30_752956110f5b95bb374dd11484cf90f0
oai_identifier_str oai::1230257
network_acronym_str UNICAMP-30
network_name_str Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
repository_id_str
spelling Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagateAnalysis of explainability methods in deep neural networks for elsagate classificationInterpretabilidade (Aprendizado de máquina)Explicabilidade (Aprendizado de máquina)ElsagateInteligência artificialRedes neurais profundasAprendizado de máquinaInterpretability (Machine learning)Explainability (Machine learning)ElsagateArtificial intelligenceDeep neural networksMachine learningOrientador: Sandra Eliza Fontes de AvilaDissertação (mestrado) - Universidade Estadual de Campinas, Instituto de ComputaçãoResumo: Nos últimos anos, um número crescente de pesquisadores constatou que a interpretabilidade pode ter um valor significativo no processo de entendimento da causa de uma decisão tomada pelos modelos de aprendizado de máquina. Inferir os conceitos semânticos de altos nível a partir de dados visuais tem se mostrado uma tarefa difícil, como a tarefa classificação de conteúdo sensível, mais especificamente Elsagate, que são vídeos com personagens infantis em situações inapropriadas para crianças. A partir disso, as técnicas de explicabilidade podem se mostrar muito úteis para entender as decisões dos modelos para classificação de conteúdo sensível. Neste trabalho, investigamos a literatura a fim de adotar uma definição que diferencie os termos explicabilidade e interpretabilidade, propusemos uma taxonomia que unifica as principais taxonomias encontradas na literatura, realizamos uma revisão sistemática da literatura, além de classificar esses métodos na taxonomia proposta, e exploramos as seguintes técnicas de explicabi idade usando duas redes neurais profundas, a NASNet e a MobileNetv2: Gradiente Vanilla, Gradiente Integrado, SmoothGrad, LIME,GradCAM, GradCAM++ e ScoreCAM. Os resultados mostraram que nenhuma técnica possui o desempenho esperado para a explicabilidade de modelos treinados para a classificação de Elsagate. Além disso, identificamos uma grande dificuldade na avaliação desses métodos pela falta de métricas capazes de medir a explicabilidade das técnicasAbstract: In the last years, a growing number of researchers have found that interpretability can have significant value in understanding the cause of a decision made by machine learning models. Inferring high-level semantic concepts from visual data has proven to be a difficult task, such as the sensitive content classification task, specifically Elsagate, which are categorized as "childfriendly", but which contain inappropriate themes for children. Based on this, explainability techniques can be very useful in understanding the decisions of models described in the literature for classifying sensitive content. In this work, we investigate the literature in order to adopt a definition that differentiates the terms explainability and interpretability, we propose a taxonomy that unifies the main taxonomies found in the literature, we carry out a systematic literature review, in addition to classifying these methods in the proposed taxonomy, and we explore the following explanatory techniques using two deep neural networks, NasNet and MobileNetv2: Gradient, Integrated Gradient, SmoothGrad, LIME, Grad-CAM, Grad-CAM++, and Score-CAM. Thus, we could observe that no technique has the expected performance for the explicability of trained models for the Elsagate classification. Besides, we identify difficulty in evaluating these methods due to the lack of metrics capable of measuring the techniques' explainabilityMestradoCiência da ComputaçãoMestra em Ciência da ComputaçãoCAPES001[s.n.]Avila, Sandra Eliza Fontes de, 1982-Vellasco, Marley Maria Bernardes RebuzziColombini, Esther LunaUniversidade Estadual de Campinas. Instituto de ComputaçãoPrograma de Pós-Graduação em Ciência da ComputaçãoUNIVERSIDADE ESTADUAL DE CAMPINASAntonieti, Giovanna Nascimento, 1998-20212021-08-30T00:00:00Zinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdf1 recurso online (74 p.) : il., digital, arquivo PDF.https://hdl.handle.net/20.500.12733/23ANTONIETI, Giovanna Nascimento. Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate. 2021. 1 recurso online (74 p.) Dissertação (mestrado) - Universidade Estadual de Campinas, Instituto de Computação, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/23. Acesso em: 15 mai. 2024.https://repositorio.unicamp.br/acervo/detalhe/1230257Requisitos do sistema: Software para leitura de arquivo em PDFporreponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)instname:Universidade Estadual de Campinas (UNICAMP)instacron:UNICAMPinfo:eu-repo/semantics/openAccess2021-11-04T16:30:58Zoai::1230257Biblioteca Digital de Teses e DissertaçõesPUBhttp://repositorio.unicamp.br/oai/tese/oai.aspsbubd@unicamp.bropendoar:2021-11-04T16:30:58Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP)false
dc.title.none.fl_str_mv Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate
Analysis of explainability methods in deep neural networks for elsagate classification
title Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate
spellingShingle Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate
Antonieti, Giovanna Nascimento, 1998-
Interpretabilidade (Aprendizado de máquina)
Explicabilidade (Aprendizado de máquina)
Elsagate
Inteligência artificial
Redes neurais profundas
Aprendizado de máquina
Interpretability (Machine learning)
Explainability (Machine learning)
Elsagate
Artificial intelligence
Deep neural networks
Machine learning
title_short Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate
title_full Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate
title_fullStr Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate
title_full_unstemmed Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate
title_sort Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate
author Antonieti, Giovanna Nascimento, 1998-
author_facet Antonieti, Giovanna Nascimento, 1998-
author_role author
dc.contributor.none.fl_str_mv Avila, Sandra Eliza Fontes de, 1982-
Vellasco, Marley Maria Bernardes Rebuzzi
Colombini, Esther Luna
Universidade Estadual de Campinas. Instituto de Computação
Programa de Pós-Graduação em Ciência da Computação
UNIVERSIDADE ESTADUAL DE CAMPINAS
dc.contributor.author.fl_str_mv Antonieti, Giovanna Nascimento, 1998-
dc.subject.por.fl_str_mv Interpretabilidade (Aprendizado de máquina)
Explicabilidade (Aprendizado de máquina)
Elsagate
Inteligência artificial
Redes neurais profundas
Aprendizado de máquina
Interpretability (Machine learning)
Explainability (Machine learning)
Elsagate
Artificial intelligence
Deep neural networks
Machine learning
topic Interpretabilidade (Aprendizado de máquina)
Explicabilidade (Aprendizado de máquina)
Elsagate
Inteligência artificial
Redes neurais profundas
Aprendizado de máquina
Interpretability (Machine learning)
Explainability (Machine learning)
Elsagate
Artificial intelligence
Deep neural networks
Machine learning
description Orientador: Sandra Eliza Fontes de Avila
publishDate 2021
dc.date.none.fl_str_mv 2021
2021-08-30T00:00:00Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://hdl.handle.net/20.500.12733/23
ANTONIETI, Giovanna Nascimento. Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate. 2021. 1 recurso online (74 p.) Dissertação (mestrado) - Universidade Estadual de Campinas, Instituto de Computação, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/23. Acesso em: 15 mai. 2024.
url https://hdl.handle.net/20.500.12733/23
identifier_str_mv ANTONIETI, Giovanna Nascimento. Análise de métodos de explicabilidade de redes neurais profundas para a classificação de elsagate. 2021. 1 recurso online (74 p.) Dissertação (mestrado) - Universidade Estadual de Campinas, Instituto de Computação, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/23. Acesso em: 15 mai. 2024.
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv https://repositorio.unicamp.br/acervo/detalhe/1230257
Requisitos do sistema: Software para leitura de arquivo em PDF
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
1 recurso online (74 p.) : il., digital, arquivo PDF.
dc.publisher.none.fl_str_mv [s.n.]
publisher.none.fl_str_mv [s.n.]
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
instname:Universidade Estadual de Campinas (UNICAMP)
instacron:UNICAMP
instname_str Universidade Estadual de Campinas (UNICAMP)
instacron_str UNICAMP
institution UNICAMP
reponame_str Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
collection Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP)
repository.mail.fl_str_mv sbubd@unicamp.br
_version_ 1799138565397938176

Registros relacionados