Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucional
Autor(a) principal: | |
---|---|
Data de Publicação: | 2023 |
Tipo de documento: | Trabalho de conclusão de curso |
Idioma: | por |
Título da fonte: | Repositório Institucional da UNESP |
Texto Completo: | http://hdl.handle.net/11449/239119 |
Resumo: | Modelos de inteligência artificial estão presentes na vida cotidiana nos mais diversos contextos, como sistemas médicos para auxílio na detecção de doenças e motores de busca, estando, por vezes, presentes até de maneira transparente aos usuários como no caso de algoritmos de recomendação de produtos. Ao passo que a adoção de IA cresce, a complexidade dos sistemas de inteligência artificial também aumenta, tornando mais desafiadora a tarefa de compreender como foi obtido determinado resultado. Refere-se a estes modelos complexos como caixa-preta, devido à sua dificuldade de interpretação. Inteligência artificial explicável pode ser utilizada para compreender como os modelos complexos, como redes neurais convolucionais, que são amplamente aplicados, chegam a seus resultados. É proposto neste projeto de conclusão de curso, implementar técnicas de inteligência artificial explicável utilizando duas das ferramentas mais populares neste contexto: LIME e SHAP, ambas aplicadas a um modelo de rede neural convolucional utilizado para classificar imagens de exames médicos de escrita, pertencentes a um grupo de indivíduos saudáveis e outro grupo de pacientes de Parkinson. Através dos resultados obtidos foi possível obter explicações sobre o modelo descrito que podem ser interpretadas por seres humanos. |
id |
UNSP_711f1164b4b418edf27dc58a3d8e9b17 |
---|---|
oai_identifier_str |
oai:repositorio.unesp.br:11449/239119 |
network_acronym_str |
UNSP |
network_name_str |
Repositório Institucional da UNESP |
repository_id_str |
2946 |
spelling |
Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucionalExplainable artificial intelligence using LIME and SHAP applied to convolutional neural networkInteligência artificial explicávelLIMEParkinsonRede neural convolucionalSHAPConvolutional neural networksExplainable artificial intelligenceModelos de inteligência artificial estão presentes na vida cotidiana nos mais diversos contextos, como sistemas médicos para auxílio na detecção de doenças e motores de busca, estando, por vezes, presentes até de maneira transparente aos usuários como no caso de algoritmos de recomendação de produtos. Ao passo que a adoção de IA cresce, a complexidade dos sistemas de inteligência artificial também aumenta, tornando mais desafiadora a tarefa de compreender como foi obtido determinado resultado. Refere-se a estes modelos complexos como caixa-preta, devido à sua dificuldade de interpretação. Inteligência artificial explicável pode ser utilizada para compreender como os modelos complexos, como redes neurais convolucionais, que são amplamente aplicados, chegam a seus resultados. É proposto neste projeto de conclusão de curso, implementar técnicas de inteligência artificial explicável utilizando duas das ferramentas mais populares neste contexto: LIME e SHAP, ambas aplicadas a um modelo de rede neural convolucional utilizado para classificar imagens de exames médicos de escrita, pertencentes a um grupo de indivíduos saudáveis e outro grupo de pacientes de Parkinson. Através dos resultados obtidos foi possível obter explicações sobre o modelo descrito que podem ser interpretadas por seres humanos.Artificial intelligence models are present in everyday life in the most diverse contexts, such as medical systems to aid in the detection of diseases and search engines, and are sometimes even transparently present to users, as in the case of product recommendation algorithms. As the adoption of AI grows, the complexity of artificial intelligence systems also increases, making the task of understanding how a given result was achieved more challenging. These complex models are referred to as ’black boxes’, due to their difficulty in interpretation. Explainable artificial intelligence can be used to understand how complex models, such as convolutional neural networks, which are widely applied, arrive at their results. It is proposed in this thesis, to implement explainable artificial intelligence techniques using two of the most popular tools in this context: LIME and SHAP, both applied to a convolutional neural network model used to classify images of medical handwriting exams, belonging to a group of healthy individuals and another group of Parkinson’s patients. Through the obtained results it was possible to obtain explanations about the described model that can be interpreted by human beings.Não recebi financiamentoUniversidade Estadual Paulista (Unesp)Pereira, Clayton ReginaldoUniversidade Estadual Paulista (Unesp)Amoroso, Fabrício Steinle2023-01-30T14:26:15Z2023-01-30T14:26:15Z2023-01-19info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesisapplication/pdfhttp://hdl.handle.net/11449/239119porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UNESPinstname:Universidade Estadual Paulista (UNESP)instacron:UNESP2024-01-22T06:22:27Zoai:repositorio.unesp.br:11449/239119Repositório InstitucionalPUBhttp://repositorio.unesp.br/oai/requestopendoar:29462024-08-05T23:39:49.791553Repositório Institucional da UNESP - Universidade Estadual Paulista (UNESP)false |
dc.title.none.fl_str_mv |
Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucional Explainable artificial intelligence using LIME and SHAP applied to convolutional neural network |
title |
Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucional |
spellingShingle |
Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucional Amoroso, Fabrício Steinle Inteligência artificial explicável LIME Parkinson Rede neural convolucional SHAP Convolutional neural networks Explainable artificial intelligence |
title_short |
Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucional |
title_full |
Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucional |
title_fullStr |
Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucional |
title_full_unstemmed |
Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucional |
title_sort |
Inteligência artificial explicável com LIME e SHAP aplicada à rede neural convolucional |
author |
Amoroso, Fabrício Steinle |
author_facet |
Amoroso, Fabrício Steinle |
author_role |
author |
dc.contributor.none.fl_str_mv |
Pereira, Clayton Reginaldo Universidade Estadual Paulista (Unesp) |
dc.contributor.author.fl_str_mv |
Amoroso, Fabrício Steinle |
dc.subject.por.fl_str_mv |
Inteligência artificial explicável LIME Parkinson Rede neural convolucional SHAP Convolutional neural networks Explainable artificial intelligence |
topic |
Inteligência artificial explicável LIME Parkinson Rede neural convolucional SHAP Convolutional neural networks Explainable artificial intelligence |
description |
Modelos de inteligência artificial estão presentes na vida cotidiana nos mais diversos contextos, como sistemas médicos para auxílio na detecção de doenças e motores de busca, estando, por vezes, presentes até de maneira transparente aos usuários como no caso de algoritmos de recomendação de produtos. Ao passo que a adoção de IA cresce, a complexidade dos sistemas de inteligência artificial também aumenta, tornando mais desafiadora a tarefa de compreender como foi obtido determinado resultado. Refere-se a estes modelos complexos como caixa-preta, devido à sua dificuldade de interpretação. Inteligência artificial explicável pode ser utilizada para compreender como os modelos complexos, como redes neurais convolucionais, que são amplamente aplicados, chegam a seus resultados. É proposto neste projeto de conclusão de curso, implementar técnicas de inteligência artificial explicável utilizando duas das ferramentas mais populares neste contexto: LIME e SHAP, ambas aplicadas a um modelo de rede neural convolucional utilizado para classificar imagens de exames médicos de escrita, pertencentes a um grupo de indivíduos saudáveis e outro grupo de pacientes de Parkinson. Através dos resultados obtidos foi possível obter explicações sobre o modelo descrito que podem ser interpretadas por seres humanos. |
publishDate |
2023 |
dc.date.none.fl_str_mv |
2023-01-30T14:26:15Z 2023-01-30T14:26:15Z 2023-01-19 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/bachelorThesis |
format |
bachelorThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
http://hdl.handle.net/11449/239119 |
url |
http://hdl.handle.net/11449/239119 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.publisher.none.fl_str_mv |
Universidade Estadual Paulista (Unesp) |
publisher.none.fl_str_mv |
Universidade Estadual Paulista (Unesp) |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UNESP instname:Universidade Estadual Paulista (UNESP) instacron:UNESP |
instname_str |
Universidade Estadual Paulista (UNESP) |
instacron_str |
UNESP |
institution |
UNESP |
reponame_str |
Repositório Institucional da UNESP |
collection |
Repositório Institucional da UNESP |
repository.name.fl_str_mv |
Repositório Institucional da UNESP - Universidade Estadual Paulista (UNESP) |
repository.mail.fl_str_mv |
|
_version_ |
1808129540899209216 |