T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes
Autor(a) principal: | |
---|---|
Data de Publicação: | 2024 |
Tipo de documento: | Tese |
Idioma: | por |
Título da fonte: | Biblioteca Digital de Teses e Dissertações da USP |
Texto Completo: | https://www.teses.usp.br/teses/disponiveis/55/55134/tde-11072024-171752/ |
Resumo: | Sistemas baseados em Aprendizado de Máquina têm alcançado desempenhos notáveis em muitas tarefas dentro dos mais variados domínios de aplicação. Quando aplicados em áreas sensíveis, ou seja, aquelas que podem impactar na vida e bem-estar de seus usuários, os modelos de aprendizado encontram barreiras. Isso ocorre devido à natureza complexa dos mecanismos de decisão desses modelos, que leva à falta de transparência em seus resultados e os transforma em caixas-pretas, de onde não é possível compreender a lógica do processo de tomada de decisão. Compreender o porquê um modelo fez uma certa predição é tão e muitas vezes até mais importante do que a sua precisão preditiva, revelando a necessidade de equilíbrio entre a interpretabilidade e a acurácia. Embora não seja possível interpretar modelos complexos diretamente, é possível explicá-los. Prover explicações para decisões tomadas por sistemas computacionais pode ser visto como um meio de justificar sua confiabilidade, além de proporcionar um modo efetivo de verificar e corrigir erros antes escondidos dentro da complexidade estrutural do Aprendizado de Máquina. A pesquisa em eXplainable Artificial Intelligence (XAI) vem propondo diversas abordagens neste sentido, sendo os métodos de atribuição de importância de particular interesse devido à sua capacidade de explicar a importância de atributos individuais para a decisão do modelo. No entanto, as principais soluções em atribuição de importância sofrem de instabilidade, com explicações distintas podendo ser geradas a cada aplicação do método em uma mesma instância de dado. Neste cenário, esta pesquisa de doutorado vem para contribuir com o desenvolvimento da explicabilidade ao propor e desenvolver um novo método de atribuição de importâncias denominado T-Explainer. Baseado na expansão em série de Taylor, T-Explainer possui um conjunto de propriedades desejáveis, como precisão local e consistência, enquanto mantém a estabilidade das suas explicações. Finalmente, a eficácia do T-Explainer é demonstrada por meio de um conjunto de experimentos comparativos com outros métodos de atribuição de importâncias do atual estado da arte. |
id |
USP_f9c7a9b9df7ae62567b5854a56d2be72 |
---|---|
oai_identifier_str |
oai:teses.usp.br:tde-11072024-171752 |
network_acronym_str |
USP |
network_name_str |
Biblioteca Digital de Teses e Dissertações da USP |
repository_id_str |
2721 |
spelling |
T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientesT-Explainer: an explainability framework for Machine Learning based on gradientsAtribuição de importânciaBlack box modelsExplainable artificial intelligenceFeature importance attributionInteligência artificial explicávelInteligência artificial robusta e responsávelInterpretabilidadeInterpretabilityModelos caixa-pretaRobust and responsible artificial intelligenceSistemas baseados em Aprendizado de Máquina têm alcançado desempenhos notáveis em muitas tarefas dentro dos mais variados domínios de aplicação. Quando aplicados em áreas sensíveis, ou seja, aquelas que podem impactar na vida e bem-estar de seus usuários, os modelos de aprendizado encontram barreiras. Isso ocorre devido à natureza complexa dos mecanismos de decisão desses modelos, que leva à falta de transparência em seus resultados e os transforma em caixas-pretas, de onde não é possível compreender a lógica do processo de tomada de decisão. Compreender o porquê um modelo fez uma certa predição é tão e muitas vezes até mais importante do que a sua precisão preditiva, revelando a necessidade de equilíbrio entre a interpretabilidade e a acurácia. Embora não seja possível interpretar modelos complexos diretamente, é possível explicá-los. Prover explicações para decisões tomadas por sistemas computacionais pode ser visto como um meio de justificar sua confiabilidade, além de proporcionar um modo efetivo de verificar e corrigir erros antes escondidos dentro da complexidade estrutural do Aprendizado de Máquina. A pesquisa em eXplainable Artificial Intelligence (XAI) vem propondo diversas abordagens neste sentido, sendo os métodos de atribuição de importância de particular interesse devido à sua capacidade de explicar a importância de atributos individuais para a decisão do modelo. No entanto, as principais soluções em atribuição de importância sofrem de instabilidade, com explicações distintas podendo ser geradas a cada aplicação do método em uma mesma instância de dado. Neste cenário, esta pesquisa de doutorado vem para contribuir com o desenvolvimento da explicabilidade ao propor e desenvolver um novo método de atribuição de importâncias denominado T-Explainer. Baseado na expansão em série de Taylor, T-Explainer possui um conjunto de propriedades desejáveis, como precisão local e consistência, enquanto mantém a estabilidade das suas explicações. Finalmente, a eficácia do T-Explainer é demonstrada por meio de um conjunto de experimentos comparativos com outros métodos de atribuição de importâncias do atual estado da arte.Intelligent systems based on Machine Learning have achieved remarkable performance rates in a wide range of tasks from many domains. However, understanding why an algorithm makes a particular decision is still an open question in the research area. When applied in sensible environments, which may cause an impact on the life and welfare of its users, the learning-based models raise some problems. The complex nature of these methods decision mechanisms makes them the so-called black boxes, from which it is not trivial for humans to understand the logic behind the decision-making process of the models. Furthermore, in some contexts, the reasoning that led a model to provide some specific prediction is more important than the accuracy, thus introducing a trade-off between interpretability and model accuracy. Providing explanations to computer-aided systems decisions can be seen as a way to justify their reliability, besides providing an effective tool for checking and correcting errors previously hidden within learning models, opening up an avenue of possibilities for responsible applications. The eXplainable Artificial Intelligence (XAI) research has proposed a number of approaches in this context, being feature attribution techniques of particular interest due to their ability to characterize the importance of particular features on the model decision. However, the lead solutions in such domain suffer from instability, i.e., distinct explanations may result from each application of the explanation method on the same data instance. In this scenario, this Ph.D. research aims to contribute to Machine Learning explainability by proposing a new XAI method called T-Explainer, a Taylor expansion-based technique that holds a set of desirable properties, such as local accuracy and consistency, while still being stable in its explanations. Finally, the results demonstrate T-Explainers effectiveness through benchmarking experiments and comparisons against state-of-the-art references in feature attribution.Biblioteca Digitais de Teses e Dissertações da USPNonato, Luis GustavoOrtigossa, Evandro Scudeleti2024-05-09info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/55/55134/tde-11072024-171752/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesspor2024-07-11T20:36:03Zoai:teses.usp.br:tde-11072024-171752Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212024-07-11T20:36:03Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false |
dc.title.none.fl_str_mv |
T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes T-Explainer: an explainability framework for Machine Learning based on gradients |
title |
T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes |
spellingShingle |
T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes Ortigossa, Evandro Scudeleti Atribuição de importância Black box models Explainable artificial intelligence Feature importance attribution Inteligência artificial explicável Inteligência artificial robusta e responsável Interpretabilidade Interpretability Modelos caixa-preta Robust and responsible artificial intelligence |
title_short |
T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes |
title_full |
T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes |
title_fullStr |
T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes |
title_full_unstemmed |
T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes |
title_sort |
T-Explainer: uma abordagem para a explicabilidade em Aprendizado de Máquina baseada em gradientes |
author |
Ortigossa, Evandro Scudeleti |
author_facet |
Ortigossa, Evandro Scudeleti |
author_role |
author |
dc.contributor.none.fl_str_mv |
Nonato, Luis Gustavo |
dc.contributor.author.fl_str_mv |
Ortigossa, Evandro Scudeleti |
dc.subject.por.fl_str_mv |
Atribuição de importância Black box models Explainable artificial intelligence Feature importance attribution Inteligência artificial explicável Inteligência artificial robusta e responsável Interpretabilidade Interpretability Modelos caixa-preta Robust and responsible artificial intelligence |
topic |
Atribuição de importância Black box models Explainable artificial intelligence Feature importance attribution Inteligência artificial explicável Inteligência artificial robusta e responsável Interpretabilidade Interpretability Modelos caixa-preta Robust and responsible artificial intelligence |
description |
Sistemas baseados em Aprendizado de Máquina têm alcançado desempenhos notáveis em muitas tarefas dentro dos mais variados domínios de aplicação. Quando aplicados em áreas sensíveis, ou seja, aquelas que podem impactar na vida e bem-estar de seus usuários, os modelos de aprendizado encontram barreiras. Isso ocorre devido à natureza complexa dos mecanismos de decisão desses modelos, que leva à falta de transparência em seus resultados e os transforma em caixas-pretas, de onde não é possível compreender a lógica do processo de tomada de decisão. Compreender o porquê um modelo fez uma certa predição é tão e muitas vezes até mais importante do que a sua precisão preditiva, revelando a necessidade de equilíbrio entre a interpretabilidade e a acurácia. Embora não seja possível interpretar modelos complexos diretamente, é possível explicá-los. Prover explicações para decisões tomadas por sistemas computacionais pode ser visto como um meio de justificar sua confiabilidade, além de proporcionar um modo efetivo de verificar e corrigir erros antes escondidos dentro da complexidade estrutural do Aprendizado de Máquina. A pesquisa em eXplainable Artificial Intelligence (XAI) vem propondo diversas abordagens neste sentido, sendo os métodos de atribuição de importância de particular interesse devido à sua capacidade de explicar a importância de atributos individuais para a decisão do modelo. No entanto, as principais soluções em atribuição de importância sofrem de instabilidade, com explicações distintas podendo ser geradas a cada aplicação do método em uma mesma instância de dado. Neste cenário, esta pesquisa de doutorado vem para contribuir com o desenvolvimento da explicabilidade ao propor e desenvolver um novo método de atribuição de importâncias denominado T-Explainer. Baseado na expansão em série de Taylor, T-Explainer possui um conjunto de propriedades desejáveis, como precisão local e consistência, enquanto mantém a estabilidade das suas explicações. Finalmente, a eficácia do T-Explainer é demonstrada por meio de um conjunto de experimentos comparativos com outros métodos de atribuição de importâncias do atual estado da arte. |
publishDate |
2024 |
dc.date.none.fl_str_mv |
2024-05-09 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/doctoralThesis |
format |
doctoralThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
https://www.teses.usp.br/teses/disponiveis/55/55134/tde-11072024-171752/ |
url |
https://www.teses.usp.br/teses/disponiveis/55/55134/tde-11072024-171752/ |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.relation.none.fl_str_mv |
|
dc.rights.driver.fl_str_mv |
Liberar o conteúdo para acesso público. info:eu-repo/semantics/openAccess |
rights_invalid_str_mv |
Liberar o conteúdo para acesso público. |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.coverage.none.fl_str_mv |
|
dc.publisher.none.fl_str_mv |
Biblioteca Digitais de Teses e Dissertações da USP |
publisher.none.fl_str_mv |
Biblioteca Digitais de Teses e Dissertações da USP |
dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da USP instname:Universidade de São Paulo (USP) instacron:USP |
instname_str |
Universidade de São Paulo (USP) |
instacron_str |
USP |
institution |
USP |
reponame_str |
Biblioteca Digital de Teses e Dissertações da USP |
collection |
Biblioteca Digital de Teses e Dissertações da USP |
repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP) |
repository.mail.fl_str_mv |
virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br |
_version_ |
1809090621953015808 |