[en] CORPUS FOR ACADEMIC DOMAIN: MODELS AND APPLICATIONS

• Autor(a) principal: IVAN DE JESUS PEREIRA PINTO
• Data de Publicação: 2021
• Tipo de documento: Outros
• Idioma: por
• Título da fonte: Repositório Institucional da PUC-RIO (Projeto Maxwell)
• Texto Completo: https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=55901@1; https://www.maxwell.vrac.puc-rio.br/colecao.php?strSecao=resultado&nrSeq=55901@2; http://doi.org/10.17771/PUCRio.acad.55901
• topic: [pt] APRENDIZADO DE MAQUINA; [pt] EMBEDDINGS; [pt] PERGUNTA-RESPOSTA INTERATIVO; [pt] PROCESSAMENTO DE LINGUAGEM NATURAL; [en] MACHINE LEARNING; [en] EMBEDDINGS; [en] INTERACTIVE QUESTION ANSWER; [en] NATURAL LANGUAGE PROCESSING

[pt] Dados acadêmicos (e.g., Teses, Dissertações) englobam aspectos de toda uma sociedade, bem como seu conhecimento científico. Neles, há uma riqueza de informações a ser explorada por modelos computacionais, e que podem ser positivos para sociedade. Os modelos de aprendizado de máquina, em especial, possuem uma crescente necessidade de dados para treinamento, que precisam ser estruturados e de tamanho considerável. Seu uso na área de processamento de linguagem natural é pervasivo nas mais diversas tarefas. Este trabalho realiza o esforço de coleta, construção, análise do maior corpus acadêmico conhecido na língua portuguesa. Foram treinados modelos de vetores de palavras, bag-of-words e transformer. O modelo transformer BERTAcadêmico apresentou os melhores resultados, com 77 por cento de f1-score na classificação da Grande Área de conhecimento e 63 por cento de f1-score na classificação da Área de conhecimento nas categorizações de Teses e Dissertações. É feita ainda uma análise semântica do corpus acadêmico através da modelagem de tópicos, e uma visualização inédita das áreas de conhecimento em forma de clusters. Por fim, é apresentada uma aplicação que faz uso dos modelos treinados, o SucupiraBot.