Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão
Autor(a) principal: | |
---|---|
Data de Publicação: | 2023 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFG |
Texto Completo: | http://repositorio.bc.ufg.br/tede/handle/tede/13113 |
Resumo: | Interpretability is defined as the ability of a human to understand why an AI model makes certain decisions. Interpretability can be achieved through the use of interpretable models, such as linear regression and decision trees, and through model-agnostic interpretation methods, which treat any predictive model as a "black box". Another concept related to interpretability is that of Counterfactual Explanations, which show the minimal changes in inputs that would lead to different results, providing a deeper understanding of the model’s decisions. The approach proposed in this work exploits the explanatory power of Decision Trees to create a method that offers more concise explanations and counterfactual explanations. The results of the study indicate that Decision Trees not only explain the “why” of model decisions, but also show how different attribute values could result in alternative outputs. |
id |
UFG-2_e692bdeb2772bbe4f4ad5f6fed8df70b |
---|---|
oai_identifier_str |
oai:repositorio.bc.ufg.br:tede/13113 |
network_acronym_str |
UFG-2 |
network_name_str |
Repositório Institucional da UFG |
repository_id_str |
|
spelling |
Salvini, Rogerio Lopeshttp://lattes.cnpq.br/5009392667450875Salvini, Rogerio LopesSilva, Nadia Félix Felipe daAlonso, Eduardo José Aguilarhttp://lattes.cnpq.br/6746712218063025Silva, Jurandir Junior de Deus da2023-11-01T12:22:20Z2023-11-01T12:22:20Z2023-09-22SILVA, J. J. D. Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão. 2023. 83 f. Dissertação (Mestrado em Ciências da Computação) - Instituto de Informática, Universidade Federal de Goiás, Goiânia, 2023.http://repositorio.bc.ufg.br/tede/handle/tede/13113ark:/38995/0013000008h9tInterpretability is defined as the ability of a human to understand why an AI model makes certain decisions. Interpretability can be achieved through the use of interpretable models, such as linear regression and decision trees, and through model-agnostic interpretation methods, which treat any predictive model as a "black box". Another concept related to interpretability is that of Counterfactual Explanations, which show the minimal changes in inputs that would lead to different results, providing a deeper understanding of the model’s decisions. The approach proposed in this work exploits the explanatory power of Decision Trees to create a method that offers more concise explanations and counterfactual explanations. The results of the study indicate that Decision Trees not only explain the “why” of model decisions, but also show how different attribute values could result in alternative outputs.A interpretabilidade é definida como a capacidade de um ser humano entender por que um modelo de IA toma determinadas decisões. A interpretabilidade pode ser alcançada por meio do uso de modelos interpretáveis, como regressão linear e árvores de decisão, e por métodos de interpretação agnósticos de modelo,que tratam qualquer modelo preditor como uma "caixa-preta". Outro conceito relacionado à interpretabilidade é o de Explicações Contrafactuais, que mostram as mudanças mínimas nas entradas que levariam a resultados diferentes, fornecendo uma compreensão mais profunda das decisões do modelo. A abordagem proposta neste trabalho explora o poder explicativo das Árvores de Decisão para criar um método que oferece explicações mais concisas e explicações contrafactuais. Os resultados do estudo indicam que as Árvores de Decisão não apenas explicam o “porquê” das decisões do modelo, mas também mostram como diferentes valores de atributos poderiam resultar em saídas alternativas.Submitted by Marlene Santos (marlene.bc.ufg@gmail.com) on 2023-10-31T17:46:53Z workflow start=Step: editstep - action:claimaction No. of bitstreams: 2 Dissertação - Jurandir Junior de Deus da Silva - 2023.pdf: 6874845 bytes, checksum: 3c3675817088513116b8d6261e925c69 (MD5) license_rdf: 805 bytes, checksum: 4460e5956bc1d1639be9ae6146a50347 (MD5)Step: editstep - action:editaction Approved for entry into archive by Luciana Ferreira(lucgeral@gmail.com) on 2023-11-01T12:22:20Z (GMT)Made available in DSpace on 2023-11-01T12:22:20Z (GMT). No. of bitstreams: 2 Dissertação - Jurandir Junior de Deus da Silva - 2023.pdf: 6874845 bytes, checksum: 3c3675817088513116b8d6261e925c69 (MD5) license_rdf: 805 bytes, checksum: 4460e5956bc1d1639be9ae6146a50347 (MD5) Previous issue date: 2023-09-22porUniversidade Federal de GoiásPrograma de Pós-graduação em Ciência da Computação (INF)UFGBrasilInstituto de Informática - INF (RMG)Attribution-NonCommercial-NoDerivatives 4.0 Internationalhttp://creativecommons.org/licenses/by-nc-nd/4.0/info:eu-repo/semantics/openAccessAprendizado de máquinaInterpretabilidadeÁrvores de decisãoExplicação contrafactualMachine learningInterpretabilityDecision treesCounterfactual explanationCIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAOInterpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisãoInterpretability of machine learning models: an approach based on decision treesinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisreponame:Repositório Institucional da UFGinstname:Universidade Federal de Goiás (UFG)instacron:UFGORIGINALDissertação - Jurandir Junior de Deus da Silva - 2023.pdfDissertação - Jurandir Junior de Deus da Silva - 2023.pdfapplication/pdf6874845http://repositorio.bc.ufg.br/tede/bitstreams/889f01c9-dd8a-4bf9-a714-46286849896b/download3c3675817088513116b8d6261e925c69MD52CC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-8805http://repositorio.bc.ufg.br/tede/bitstreams/03d086c2-137e-4a6e-8fc1-785269545058/download4460e5956bc1d1639be9ae6146a50347MD53LICENSElicense.txtlicense.txttext/plain; charset=utf-81748http://repositorio.bc.ufg.br/tede/bitstreams/67b4981c-6753-4590-b196-a4c84ec913ac/download8a4605be74aa9ea9d79846c1fba20a33MD54tede/131132023-11-01 09:22:21.122http://creativecommons.org/licenses/by-nc-nd/4.0/Attribution-NonCommercial-NoDerivatives 4.0 Internationalopen.accessoai:repositorio.bc.ufg.br:tede/13113http://repositorio.bc.ufg.br/tedeRepositório InstitucionalPUBhttp://repositorio.bc.ufg.br/oai/requesttasesdissertacoes.bc@ufg.bropendoar:2023-11-01T12:22:21Repositório Institucional da UFG - Universidade Federal de Goiás (UFG)falseTk9URTogUExBQ0UgWU9VUiBPV04gTElDRU5TRSBIRVJFClRoaXMgc2FtcGxlIGxpY2Vuc2UgaXMgcHJvdmlkZWQgZm9yIGluZm9ybWF0aW9uYWwgcHVycG9zZXMgb25seS4KCk5PTi1FWENMVVNJVkUgRElTVFJJQlVUSU9OIExJQ0VOU0UKCkJ5IHNpZ25pbmcgYW5kIHN1Ym1pdHRpbmcgdGhpcyBsaWNlbnNlLCB5b3UgKHRoZSBhdXRob3Iocykgb3IgY29weXJpZ2h0Cm93bmVyKSBncmFudHMgdG8gRFNwYWNlIFVuaXZlcnNpdHkgKERTVSkgdGhlIG5vbi1leGNsdXNpdmUgcmlnaHQgdG8gcmVwcm9kdWNlLAp0cmFuc2xhdGUgKGFzIGRlZmluZWQgYmVsb3cpLCBhbmQvb3IgZGlzdHJpYnV0ZSB5b3VyIHN1Ym1pc3Npb24gKGluY2x1ZGluZwp0aGUgYWJzdHJhY3QpIHdvcmxkd2lkZSBpbiBwcmludCBhbmQgZWxlY3Ryb25pYyBmb3JtYXQgYW5kIGluIGFueSBtZWRpdW0sCmluY2x1ZGluZyBidXQgbm90IGxpbWl0ZWQgdG8gYXVkaW8gb3IgdmlkZW8uCgpZb3UgYWdyZWUgdGhhdCBEU1UgbWF5LCB3aXRob3V0IGNoYW5naW5nIHRoZSBjb250ZW50LCB0cmFuc2xhdGUgdGhlCnN1Ym1pc3Npb24gdG8gYW55IG1lZGl1bSBvciBmb3JtYXQgZm9yIHRoZSBwdXJwb3NlIG9mIHByZXNlcnZhdGlvbi4KCllvdSBhbHNvIGFncmVlIHRoYXQgRFNVIG1heSBrZWVwIG1vcmUgdGhhbiBvbmUgY29weSBvZiB0aGlzIHN1Ym1pc3Npb24gZm9yCnB1cnBvc2VzIG9mIHNlY3VyaXR5LCBiYWNrLXVwIGFuZCBwcmVzZXJ2YXRpb24uCgpZb3UgcmVwcmVzZW50IHRoYXQgdGhlIHN1Ym1pc3Npb24gaXMgeW91ciBvcmlnaW5hbCB3b3JrLCBhbmQgdGhhdCB5b3UgaGF2ZQp0aGUgcmlnaHQgdG8gZ3JhbnQgdGhlIHJpZ2h0cyBjb250YWluZWQgaW4gdGhpcyBsaWNlbnNlLiBZb3UgYWxzbyByZXByZXNlbnQKdGhhdCB5b3VyIHN1Ym1pc3Npb24gZG9lcyBub3QsIHRvIHRoZSBiZXN0IG9mIHlvdXIga25vd2xlZGdlLCBpbmZyaW5nZSB1cG9uCmFueW9uZSdzIGNvcHlyaWdodC4KCklmIHRoZSBzdWJtaXNzaW9uIGNvbnRhaW5zIG1hdGVyaWFsIGZvciB3aGljaCB5b3UgZG8gbm90IGhvbGQgY29weXJpZ2h0LAp5b3UgcmVwcmVzZW50IHRoYXQgeW91IGhhdmUgb2J0YWluZWQgdGhlIHVucmVzdHJpY3RlZCBwZXJtaXNzaW9uIG9mIHRoZQpjb3B5cmlnaHQgb3duZXIgdG8gZ3JhbnQgRFNVIHRoZSByaWdodHMgcmVxdWlyZWQgYnkgdGhpcyBsaWNlbnNlLCBhbmQgdGhhdApzdWNoIHRoaXJkLXBhcnR5IG93bmVkIG1hdGVyaWFsIGlzIGNsZWFybHkgaWRlbnRpZmllZCBhbmQgYWNrbm93bGVkZ2VkCndpdGhpbiB0aGUgdGV4dCBvciBjb250ZW50IG9mIHRoZSBzdWJtaXNzaW9uLgoKSUYgVEhFIFNVQk1JU1NJT04gSVMgQkFTRUQgVVBPTiBXT1JLIFRIQVQgSEFTIEJFRU4gU1BPTlNPUkVEIE9SIFNVUFBPUlRFRApCWSBBTiBBR0VOQ1kgT1IgT1JHQU5JWkFUSU9OIE9USEVSIFRIQU4gRFNVLCBZT1UgUkVQUkVTRU5UIFRIQVQgWU9VIEhBVkUKRlVMRklMTEVEIEFOWSBSSUdIVCBPRiBSRVZJRVcgT1IgT1RIRVIgT0JMSUdBVElPTlMgUkVRVUlSRUQgQlkgU1VDSApDT05UUkFDVCBPUiBBR1JFRU1FTlQuCgpEU1Ugd2lsbCBjbGVhcmx5IGlkZW50aWZ5IHlvdXIgbmFtZShzKSBhcyB0aGUgYXV0aG9yKHMpIG9yIG93bmVyKHMpIG9mIHRoZQpzdWJtaXNzaW9uLCBhbmQgd2lsbCBub3QgbWFrZSBhbnkgYWx0ZXJhdGlvbiwgb3RoZXIgdGhhbiBhcyBhbGxvd2VkIGJ5IHRoaXMKbGljZW5zZSwgdG8geW91ciBzdWJtaXNzaW9uLgo= |
dc.title.none.fl_str_mv |
Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão |
dc.title.alternative.eng.fl_str_mv |
Interpretability of machine learning models: an approach based on decision trees |
title |
Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão |
spellingShingle |
Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão Silva, Jurandir Junior de Deus da Aprendizado de máquina Interpretabilidade Árvores de decisão Explicação contrafactual Machine learning Interpretability Decision trees Counterfactual explanation CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO |
title_short |
Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão |
title_full |
Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão |
title_fullStr |
Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão |
title_full_unstemmed |
Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão |
title_sort |
Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão |
author |
Silva, Jurandir Junior de Deus da |
author_facet |
Silva, Jurandir Junior de Deus da |
author_role |
author |
dc.contributor.advisor1.fl_str_mv |
Salvini, Rogerio Lopes |
dc.contributor.advisor1Lattes.fl_str_mv |
http://lattes.cnpq.br/5009392667450875 |
dc.contributor.referee1.fl_str_mv |
Salvini, Rogerio Lopes |
dc.contributor.referee2.fl_str_mv |
Silva, Nadia Félix Felipe da |
dc.contributor.referee3.fl_str_mv |
Alonso, Eduardo José Aguilar |
dc.contributor.authorLattes.fl_str_mv |
http://lattes.cnpq.br/6746712218063025 |
dc.contributor.author.fl_str_mv |
Silva, Jurandir Junior de Deus da |
contributor_str_mv |
Salvini, Rogerio Lopes Salvini, Rogerio Lopes Silva, Nadia Félix Felipe da Alonso, Eduardo José Aguilar |
dc.subject.por.fl_str_mv |
Aprendizado de máquina Interpretabilidade Árvores de decisão Explicação contrafactual |
topic |
Aprendizado de máquina Interpretabilidade Árvores de decisão Explicação contrafactual Machine learning Interpretability Decision trees Counterfactual explanation CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO |
dc.subject.eng.fl_str_mv |
Machine learning Interpretability Decision trees Counterfactual explanation |
dc.subject.cnpq.fl_str_mv |
CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO |
description |
Interpretability is defined as the ability of a human to understand why an AI model makes certain decisions. Interpretability can be achieved through the use of interpretable models, such as linear regression and decision trees, and through model-agnostic interpretation methods, which treat any predictive model as a "black box". Another concept related to interpretability is that of Counterfactual Explanations, which show the minimal changes in inputs that would lead to different results, providing a deeper understanding of the model’s decisions. The approach proposed in this work exploits the explanatory power of Decision Trees to create a method that offers more concise explanations and counterfactual explanations. The results of the study indicate that Decision Trees not only explain the “why” of model decisions, but also show how different attribute values could result in alternative outputs. |
publishDate |
2023 |
dc.date.accessioned.fl_str_mv |
2023-11-01T12:22:20Z |
dc.date.available.fl_str_mv |
2023-11-01T12:22:20Z |
dc.date.issued.fl_str_mv |
2023-09-22 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
SILVA, J. J. D. Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão. 2023. 83 f. Dissertação (Mestrado em Ciências da Computação) - Instituto de Informática, Universidade Federal de Goiás, Goiânia, 2023. |
dc.identifier.uri.fl_str_mv |
http://repositorio.bc.ufg.br/tede/handle/tede/13113 |
dc.identifier.dark.fl_str_mv |
ark:/38995/0013000008h9t |
identifier_str_mv |
SILVA, J. J. D. Interpretabilidade de modelos de aprendizado de máquina: uma abordagem baseada em árvores de decisão. 2023. 83 f. Dissertação (Mestrado em Ciências da Computação) - Instituto de Informática, Universidade Federal de Goiás, Goiânia, 2023. ark:/38995/0013000008h9t |
url |
http://repositorio.bc.ufg.br/tede/handle/tede/13113 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
Attribution-NonCommercial-NoDerivatives 4.0 International http://creativecommons.org/licenses/by-nc-nd/4.0/ info:eu-repo/semantics/openAccess |
rights_invalid_str_mv |
Attribution-NonCommercial-NoDerivatives 4.0 International http://creativecommons.org/licenses/by-nc-nd/4.0/ |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Federal de Goiás |
dc.publisher.program.fl_str_mv |
Programa de Pós-graduação em Ciência da Computação (INF) |
dc.publisher.initials.fl_str_mv |
UFG |
dc.publisher.country.fl_str_mv |
Brasil |
dc.publisher.department.fl_str_mv |
Instituto de Informática - INF (RMG) |
publisher.none.fl_str_mv |
Universidade Federal de Goiás |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFG instname:Universidade Federal de Goiás (UFG) instacron:UFG |
instname_str |
Universidade Federal de Goiás (UFG) |
instacron_str |
UFG |
institution |
UFG |
reponame_str |
Repositório Institucional da UFG |
collection |
Repositório Institucional da UFG |
bitstream.url.fl_str_mv |
http://repositorio.bc.ufg.br/tede/bitstreams/889f01c9-dd8a-4bf9-a714-46286849896b/download http://repositorio.bc.ufg.br/tede/bitstreams/03d086c2-137e-4a6e-8fc1-785269545058/download http://repositorio.bc.ufg.br/tede/bitstreams/67b4981c-6753-4590-b196-a4c84ec913ac/download |
bitstream.checksum.fl_str_mv |
3c3675817088513116b8d6261e925c69 4460e5956bc1d1639be9ae6146a50347 8a4605be74aa9ea9d79846c1fba20a33 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFG - Universidade Federal de Goiás (UFG) |
repository.mail.fl_str_mv |
tasesdissertacoes.bc@ufg.br |
_version_ |
1811721451147886592 |