Estudo de funções de custo para redes neurais com dados desbalanceados

• Autor(a) principal: Yuri Sousa Aurelio
• Data de Publicação: 2017
• Tipo de documento: Dissertação
• Idioma: por
• Título da fonte: Repositório Institucional da UFMG
• Texto Completo: http://hdl.handle.net/1843/BUBD-AYSFMP
• topic: Engenharia Elétrica; Engenharia elétrica; Redes neurais (Computação)

Este trabalho apresenta uma análise comparativa das técnicas utilizadas em redes neurais para problemas de classes desbalanceadas. A partir de uma comparação inicial das técnicas clássicas, um estudo mais aprofundado é feito sob a utilização de funções de custos para lidar com o problema de treinamento das redes neurais onde se tem desbalanceamento das classes de saída. É apresentada uma abordagem da inclusão da informação à priori na função de custo de cross-entropy junto a uma modificação do algorítimo do resilient backpropagation e como essa impacta no aprendizado de algorítimo em problemas de classes desbalanceadas. Quando se trabalha com problemas de classes desbalanceadas, medir a performance do algorítimo de aprendizado é requer métricas mais apropriadas como AUC, F1-score, Kubat's G-mean (Geometric-mean), AGm (Adjusted Geometric-mean) e outras. Todavia, a grande maioria dos problemas dessa área são treinados usando o erro médio quadrático ou a entropia-cruzada (cross-entropy - também conhecida como função de erro logística). Isso faz com que o algorítimo de otimização da rede neural busque otimizar uma função de custo diferente daquela que será utilizada para validação da performance do mesmo. É então proposta uma abordagem de como extrair métricas adequadas para problemas de desbalanceamento da matriz de confusão e transformá-las em funções de custo a serem utilizadas durante a etapa de treinamento. Um estudo comparativo entre a abordagem tradicional de treinamento e as funções de custo apresentadas é realizado, apresentando-se os pontos positivos e negativos de cada abordagem. Experimentos numéricos para diferentes bases de treinamento com diferentes tipos de desbalanceamento são apresentados.