Interpretabilidade em inteligência artificial: um estudo de caso sobre testes com vetores de ativação de conceito (TCAV)

• Autor(a) principal: Almeida, Fernanda Hauptmann de
• Data de Publicação: 2021
• Tipo de documento: Trabalho de conclusão de curso
• Idioma: por
• Título da fonte: Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
• Texto Completo: http://repositorio.utfpr.edu.br/jspui/handle/1/28003
• topic: CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO::SISTEMAS DE INFORMACAO; Inteligência artificial; Aprendizado de máquinas; Ética; Tecnologia - Filosofia; Artificial intelligence; Machine learning; Ethics; Technology - Philosophy

Interpretabilidade em Inteligência Artificial é a área de pesquisa que busca desenvolver métodos para a compreensão dos estados internos de modelos de aprendizagem de máquina, um desses métodos é a testagem com vetores de ativação de conceito (TCAV) apresentada por Kim et al. (2017). Essa pesquisa investiga a ferramenta a partir da análise do discurso sobre a ferramenta e da verificação empírica da mesma a partir de cenários de teste que nos permitiram verificar algumas fragilidades nos resultados obtidos por essa pesquisa. O propósito desse trabalho é buscar entender de que modo essas fragilidades limitam a construção da relação entre classe e conceito no método TCAV.