Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV)
Autor(a) principal: | |
---|---|
Data de Publicação: | 2021 |
Tipo de documento: | Trabalho de conclusão de curso |
Idioma: | por |
Título da fonte: | Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) |
Texto Completo: | http://repositorio.utfpr.edu.br/jspui/handle/1/28003 |
Resumo: | Interpretabilidade em Inteligência Artificial é a área de pesquisa que busca desenvolver métodos para a compreensão dos estados internos de modelos de aprendizagem de máquina, um desses métodos é a testagem com vetores de ativação de conceito (TCAV) apresentada por Kim et al. (2017). Essa pesquisa investiga a ferramenta a partir da análise do discurso sobre a ferramenta e da verificação empírica da mesma a partir de cenários de teste que nos permitiram verificar algumas fragilidades nos resultados obtidos por essa pesquisa. O propósito desse trabalho é buscar entender de que modo essas fragilidades limitam a construção da relação entre classe e conceito no método TCAV. |
id |
UTFPR-12_b3d986a2d19e57a7d8a924ae7922a605 |
---|---|
oai_identifier_str |
oai:repositorio.utfpr.edu.br:1/28003 |
network_acronym_str |
UTFPR-12 |
network_name_str |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) |
repository_id_str |
|
spelling |
2022-04-13T17:45:35Z2022-04-13T17:45:35Z2021-08-23ALMEIDA, Fernanda Hauptmann de. Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV). 2021. Trabalho de Conclusão de Curso (Bacharelado em Sistemas de Informação) – Universidade Tecnológica Federal do Paraná, Curitiba, 2021.http://repositorio.utfpr.edu.br/jspui/handle/1/28003Interpretabilidade em Inteligência Artificial é a área de pesquisa que busca desenvolver métodos para a compreensão dos estados internos de modelos de aprendizagem de máquina, um desses métodos é a testagem com vetores de ativação de conceito (TCAV) apresentada por Kim et al. (2017). Essa pesquisa investiga a ferramenta a partir da análise do discurso sobre a ferramenta e da verificação empírica da mesma a partir de cenários de teste que nos permitiram verificar algumas fragilidades nos resultados obtidos por essa pesquisa. O propósito desse trabalho é buscar entender de que modo essas fragilidades limitam a construção da relação entre classe e conceito no método TCAV.Interpretability in Artificial Intelligence is the research field which aims to develop methods for the comprehension of the internal states of machine learning models, one of these methods is Testing with Concept Activation Vectors (TCAV), presented by Kim et al. (2017). This research investigates the tool TCAV both from its presentation article and through empiric verification of it based on test cases that allowed for this research to verify some fragilities on the results obtained. The goal of this work is to understand how these fragilities limit the relation between class and concept implied by the TCAV method.porUniversidade Tecnológica Federal do ParanáCuritibaBacharelado em Sistemas de InformaçãoUTFPRBrasilCNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO::SISTEMAS DE INFORMACAOInteligência artificialAprendizado de máquinasÉticaTecnologia - FilosofiaArtificial intelligenceMachine learningEthicsTechnology - PhilosophyInterpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV)Interpretability in artificial intelligence: a case study on tests with concept activation vectors (TCAV)info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesisCuritibaGimenez-Lugo, Gustavo AlbertoCalazans, Veronica Ferreira BahrGiménez-Lugo, Gustavo AlbertoDelgado, Myriam Regattieri de Biase da SilvaYamanoe, Mayara Cristina PereiraAlmeida, Fernanda Hauptmann deinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))instname:Universidade Tecnológica Federal do Paraná (UTFPR)instacron:UTFPRORIGINALinterpretabilidadevetoresativacaoconceito.pdfinterpretabilidadevetoresativacaoconceito.pdfapplication/pdf5396665http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/28003/1/interpretabilidadevetoresativacaoconceito.pdfca13636a14b1fc44cad2b9d9868291cbMD51LICENSElicense.txtlicense.txttext/plain; charset=utf-81290http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/28003/2/license.txtb9d82215ab23456fa2d8b49c5df1b95bMD52TEXTinterpretabilidadevetoresativacaoconceito.pdf.txtinterpretabilidadevetoresativacaoconceito.pdf.txtExtracted texttext/plain157595http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/28003/3/interpretabilidadevetoresativacaoconceito.pdf.txta7aa08300cdfd116ea8cfd2d2a58ec0cMD53THUMBNAILinterpretabilidadevetoresativacaoconceito.pdf.jpginterpretabilidadevetoresativacaoconceito.pdf.jpgGenerated Thumbnailimage/jpeg1333http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/28003/4/interpretabilidadevetoresativacaoconceito.pdf.jpga0143a563bdfb91c56b6f2c2c95205f2MD541/280032022-04-14 03:07:47.137oai:repositorio.utfpr.edu.br:1/28003TmEgcXVhbGlkYWRlIGRlIHRpdHVsYXIgZG9zIGRpcmVpdG9zIGRlIGF1dG9yIGRhIHB1YmxpY2HDp8OjbywgYXV0b3Jpem8gYSBVVEZQUiBhIHZlaWN1bGFyLCAKYXRyYXbDqXMgZG8gUG9ydGFsIGRlIEluZm9ybWHDp8OjbyBlbSBBY2Vzc28gQWJlcnRvIChQSUFBKSBlIGRvcyBDYXTDoWxvZ29zIGRhcyBCaWJsaW90ZWNhcyAKZGVzdGEgSW5zdGl0dWnDp8Ojbywgc2VtIHJlc3NhcmNpbWVudG8gZG9zIGRpcmVpdG9zIGF1dG9yYWlzLCBkZSBhY29yZG8gY29tIGEgTGVpIG5vIDkuNjEwLzk4LCAKbyB0ZXh0byBkZXN0YSBvYnJhLCBvYnNlcnZhbmRvIGFzIGNvbmRpw6fDtWVzIGRlIGRpc3BvbmliaWxpemHDp8OjbyByZWdpc3RyYWRhcyBubyBpdGVtIDQgZG8gCuKAnFRlcm1vIGRlIEF1dG9yaXphw6fDo28gcGFyYSBQdWJsaWNhw6fDo28gZGUgVHJhYmFsaG9zIGRlIENvbmNsdXPDo28gZGUgQ3Vyc28gZGUgR3JhZHVhw6fDo28gZSAKRXNwZWNpYWxpemHDp8OjbywgRGlzc2VydGHDp8O1ZXMgZSBUZXNlcyBubyBQb3J0YWwgZGUgSW5mb3JtYcOnw6NvIGUgbm9zIENhdMOhbG9nb3MgRWxldHLDtG5pY29zIGRvIApTaXN0ZW1hIGRlIEJpYmxpb3RlY2FzIGRhIFVURlBS4oCdLCBwYXJhIGZpbnMgZGUgbGVpdHVyYSwgaW1wcmVzc8OjbyBlL291IGRvd25sb2FkLCB2aXNhbmRvIGEgCmRpdnVsZ2HDp8OjbyBkYSBwcm9kdcOnw6NvIGNpZW50w61maWNhIGJyYXNpbGVpcmEuCgogIEFzIHZpYXMgb3JpZ2luYWlzIGUgYXNzaW5hZGFzIHBlbG8ocykgYXV0b3IoZXMpIGRvIOKAnFRlcm1vIGRlIEF1dG9yaXphw6fDo28gcGFyYSBQdWJsaWNhw6fDo28gZGUgClRyYWJhbGhvcyBkZSBDb25jbHVzw6NvIGRlIEN1cnNvIGRlIEdyYWR1YcOnw6NvIGUgRXNwZWNpYWxpemHDp8OjbywgRGlzc2VydGHDp8O1ZXMgZSBUZXNlcyBubyBQb3J0YWwgCmRlIEluZm9ybWHDp8OjbyBlIG5vcyBDYXTDoWxvZ29zIEVsZXRyw7RuaWNvcyBkbyBTaXN0ZW1hIGRlIEJpYmxpb3RlY2FzIGRhIFVURlBS4oCdIGUgZGEg4oCcRGVjbGFyYcOnw6NvIApkZSBBdXRvcmlh4oCdIGVuY29udHJhbS1zZSBhcnF1aXZhZGFzIG5hIEJpYmxpb3RlY2EgZG8gQ8OibXB1cyBubyBxdWFsIG8gdHJhYmFsaG8gZm9pIGRlZmVuZGlkby4gCk5vIGNhc28gZGUgcHVibGljYcOnw7VlcyBkZSBhdXRvcmlhIGNvbGV0aXZhIGUgbXVsdGljw6JtcHVzLCBvcyBkb2N1bWVudG9zIGZpY2Fyw6NvIHNvYiBndWFyZGEgZGEgCkJpYmxpb3RlY2EgY29tIGEgcXVhbCBvIOKAnHByaW1laXJvIGF1dG9y4oCdIHBvc3N1YSB2w61uY3Vsby4KRepositório de PublicaçõesPUBhttp://repositorio.utfpr.edu.br:8080/oai/requestopendoar:2022-04-14T06:07:47Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR)false |
dc.title.pt_BR.fl_str_mv |
Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV) |
dc.title.alternative.pt_BR.fl_str_mv |
Interpretability in artificial intelligence: a case study on tests with concept activation vectors (TCAV) |
title |
Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV) |
spellingShingle |
Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV) Almeida, Fernanda Hauptmann de CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO::SISTEMAS DE INFORMACAO Inteligência artificial Aprendizado de máquinas Ética Tecnologia - Filosofia Artificial intelligence Machine learning Ethics Technology - Philosophy |
title_short |
Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV) |
title_full |
Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV) |
title_fullStr |
Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV) |
title_full_unstemmed |
Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV) |
title_sort |
Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV) |
author |
Almeida, Fernanda Hauptmann de |
author_facet |
Almeida, Fernanda Hauptmann de |
author_role |
author |
dc.contributor.advisor1.fl_str_mv |
Gimenez-Lugo, Gustavo Alberto |
dc.contributor.advisor-co1.fl_str_mv |
Calazans, Veronica Ferreira Bahr |
dc.contributor.referee1.fl_str_mv |
Giménez-Lugo, Gustavo Alberto |
dc.contributor.referee2.fl_str_mv |
Delgado, Myriam Regattieri de Biase da Silva |
dc.contributor.referee3.fl_str_mv |
Yamanoe, Mayara Cristina Pereira |
dc.contributor.author.fl_str_mv |
Almeida, Fernanda Hauptmann de |
contributor_str_mv |
Gimenez-Lugo, Gustavo Alberto Calazans, Veronica Ferreira Bahr Giménez-Lugo, Gustavo Alberto Delgado, Myriam Regattieri de Biase da Silva Yamanoe, Mayara Cristina Pereira |
dc.subject.cnpq.fl_str_mv |
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO::SISTEMAS DE INFORMACAO |
topic |
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO::SISTEMAS DE INFORMACAO Inteligência artificial Aprendizado de máquinas Ética Tecnologia - Filosofia Artificial intelligence Machine learning Ethics Technology - Philosophy |
dc.subject.por.fl_str_mv |
Inteligência artificial Aprendizado de máquinas Ética Tecnologia - Filosofia Artificial intelligence Machine learning Ethics Technology - Philosophy |
description |
Interpretabilidade em Inteligência Artificial é a área de pesquisa que busca desenvolver métodos para a compreensão dos estados internos de modelos de aprendizagem de máquina, um desses métodos é a testagem com vetores de ativação de conceito (TCAV) apresentada por Kim et al. (2017). Essa pesquisa investiga a ferramenta a partir da análise do discurso sobre a ferramenta e da verificação empírica da mesma a partir de cenários de teste que nos permitiram verificar algumas fragilidades nos resultados obtidos por essa pesquisa. O propósito desse trabalho é buscar entender de que modo essas fragilidades limitam a construção da relação entre classe e conceito no método TCAV. |
publishDate |
2021 |
dc.date.issued.fl_str_mv |
2021-08-23 |
dc.date.accessioned.fl_str_mv |
2022-04-13T17:45:35Z |
dc.date.available.fl_str_mv |
2022-04-13T17:45:35Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/bachelorThesis |
format |
bachelorThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
ALMEIDA, Fernanda Hauptmann de. Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV). 2021. Trabalho de Conclusão de Curso (Bacharelado em Sistemas de Informação) – Universidade Tecnológica Federal do Paraná, Curitiba, 2021. |
dc.identifier.uri.fl_str_mv |
http://repositorio.utfpr.edu.br/jspui/handle/1/28003 |
identifier_str_mv |
ALMEIDA, Fernanda Hauptmann de. Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV). 2021. Trabalho de Conclusão de Curso (Bacharelado em Sistemas de Informação) – Universidade Tecnológica Federal do Paraná, Curitiba, 2021. |
url |
http://repositorio.utfpr.edu.br/jspui/handle/1/28003 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Tecnológica Federal do Paraná Curitiba |
dc.publisher.program.fl_str_mv |
Bacharelado em Sistemas de Informação |
dc.publisher.initials.fl_str_mv |
UTFPR |
dc.publisher.country.fl_str_mv |
Brasil |
publisher.none.fl_str_mv |
Universidade Tecnológica Federal do Paraná Curitiba |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) instname:Universidade Tecnológica Federal do Paraná (UTFPR) instacron:UTFPR |
instname_str |
Universidade Tecnológica Federal do Paraná (UTFPR) |
instacron_str |
UTFPR |
institution |
UTFPR |
reponame_str |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) |
collection |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) |
bitstream.url.fl_str_mv |
http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/28003/1/interpretabilidadevetoresativacaoconceito.pdf http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/28003/2/license.txt http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/28003/3/interpretabilidadevetoresativacaoconceito.pdf.txt http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/28003/4/interpretabilidadevetoresativacaoconceito.pdf.jpg |
bitstream.checksum.fl_str_mv |
ca13636a14b1fc44cad2b9d9868291cb b9d82215ab23456fa2d8b49c5df1b95b a7aa08300cdfd116ea8cfd2d2a58ec0c a0143a563bdfb91c56b6f2c2c95205f2 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR) |
repository.mail.fl_str_mv |
|
_version_ |
1805922979271409664 |