Geração de questões utilizando transformers para sistemas tutores inteligentes

Detalhes bibliográficos
Autor(a) principal: Santos, Matheus Santi
Data de Publicação: 2023
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da UNESP
Texto Completo: https://hdl.handle.net/11449/251102
https://orcid.org/0000-0003-4849-1649
Resumo: O modelo tradicional de ensino possibilitou a formação de milhões de pessoas ao longo dos anos, mesmo com diversos pontos negativos em seu funcionamento. Buscando solucionar esses pontos, novas metodologias de ensino surgiram, focando na individualização do ensino, em que este se adaptaria às formas que o aluno aprende de maneira mais eficaz. Esta individualização, no entanto, traz problemas num ambiente tradicional, principalmente ligados à necessidade de acompanhamento individual do aluno. Para solucionar este problema, Sistemas Tutores Inteligentes podem ser uma solução, utilizando diversas técnicas que permitam compreender as necessidades do aluno e auxiliá-lo com uma menor supervisão dos professores. No entanto, de acordo com a abordagem utilizada, ainda existe a necessidade de desenvolver os conteúdos que devem ser apresentados aos alunos. Para tornar este processo menos trabalhoso, formas automatizadas de criação de conteúdo podem ser exploradas, entre as quais a utilização de técnicas de geração de questões para diminuir o trabalho presente na adaptação de conteúdo textual para perfis de aprendizado que possam se beneficiar deste tipo de conteúdo. Dentre estas técnicas, a Geração de Questões pode ser aplicada para fornecer atividades que possibilitam explorar e validar o nível de conhecimento do aluno. A forma como a Geração de Questões ocorre é muito variada, mas, analisando o cenário atual, a utilização de redes neurais, principalmente as do tipo \textit{transformers}, se mostraram a melhor abordagem. Estas redes possuem diversos mecanismos internos, destacando-se a utilização de cálculos de atenção para realizar a tarefa proposta, e são conhecidas pelo seu grande potencial na realização de tarefas que envolvam o processamento de linguagem natural e têm recebido grande atenção desde sua publicação, tendo diversos avanços em relação a sua arquitetura e formas de se realizar o treinamento destas redes. Para o cenário de sistemas tutores inteligentes foram propostas quatro arquiteturas diferentes, utilizando redes \textit{transformers} em sua composição, permitindo avaliar a que melhor se encaixaria a este ambiente. A validação destas arquiteturas é realizada através da avaliação de questões e respostas geradas pelas mesmas, utilizando textos de assuntos diferentes para simular a aplicação de diversas áreas de aprendizado. Formas automatizadas de avaliação de questões geradas são um desafio presente na literatura e, portanto, não é possível realizá-las, mas, com a definição de uma abordagem qualitativa, é possível validar a qualidade das 69 questões geradas e definir a arquitetura Multi-Modelo com Gerador de Resposta como a que melhor se encaixa ao cenário proposto, por obter a melhor concentração de resultados, com 18 questões ótimas, 27 boas, 13 regulares e apenas 11 ruins. Com isto conclui-se que a utilização desta arquitetura ligada a um Sistema Tutor Inteligente é possível, apesar de não eliminar totalmente a necessidade de interação do professor, mas permitindo uma grande facilitação no momento de desenvolvimento de atividades.
id UNSP_fc88efe80dd8a80e6f177d5f4a255827
oai_identifier_str oai:repositorio.unesp.br:11449/251102
network_acronym_str UNSP
network_name_str Repositório Institucional da UNESP
repository_id_str 2946
spelling Geração de questões utilizando transformers para sistemas tutores inteligentesQuestion generation using transformers for intelligent tutoring systemsGeração de questõesSistemas tutores inteligentesTransformersQuestion generationIntelligent tutoring systemsO modelo tradicional de ensino possibilitou a formação de milhões de pessoas ao longo dos anos, mesmo com diversos pontos negativos em seu funcionamento. Buscando solucionar esses pontos, novas metodologias de ensino surgiram, focando na individualização do ensino, em que este se adaptaria às formas que o aluno aprende de maneira mais eficaz. Esta individualização, no entanto, traz problemas num ambiente tradicional, principalmente ligados à necessidade de acompanhamento individual do aluno. Para solucionar este problema, Sistemas Tutores Inteligentes podem ser uma solução, utilizando diversas técnicas que permitam compreender as necessidades do aluno e auxiliá-lo com uma menor supervisão dos professores. No entanto, de acordo com a abordagem utilizada, ainda existe a necessidade de desenvolver os conteúdos que devem ser apresentados aos alunos. Para tornar este processo menos trabalhoso, formas automatizadas de criação de conteúdo podem ser exploradas, entre as quais a utilização de técnicas de geração de questões para diminuir o trabalho presente na adaptação de conteúdo textual para perfis de aprendizado que possam se beneficiar deste tipo de conteúdo. Dentre estas técnicas, a Geração de Questões pode ser aplicada para fornecer atividades que possibilitam explorar e validar o nível de conhecimento do aluno. A forma como a Geração de Questões ocorre é muito variada, mas, analisando o cenário atual, a utilização de redes neurais, principalmente as do tipo \textit{transformers}, se mostraram a melhor abordagem. Estas redes possuem diversos mecanismos internos, destacando-se a utilização de cálculos de atenção para realizar a tarefa proposta, e são conhecidas pelo seu grande potencial na realização de tarefas que envolvam o processamento de linguagem natural e têm recebido grande atenção desde sua publicação, tendo diversos avanços em relação a sua arquitetura e formas de se realizar o treinamento destas redes. Para o cenário de sistemas tutores inteligentes foram propostas quatro arquiteturas diferentes, utilizando redes \textit{transformers} em sua composição, permitindo avaliar a que melhor se encaixaria a este ambiente. A validação destas arquiteturas é realizada através da avaliação de questões e respostas geradas pelas mesmas, utilizando textos de assuntos diferentes para simular a aplicação de diversas áreas de aprendizado. Formas automatizadas de avaliação de questões geradas são um desafio presente na literatura e, portanto, não é possível realizá-las, mas, com a definição de uma abordagem qualitativa, é possível validar a qualidade das 69 questões geradas e definir a arquitetura Multi-Modelo com Gerador de Resposta como a que melhor se encaixa ao cenário proposto, por obter a melhor concentração de resultados, com 18 questões ótimas, 27 boas, 13 regulares e apenas 11 ruins. Com isto conclui-se que a utilização desta arquitetura ligada a um Sistema Tutor Inteligente é possível, apesar de não eliminar totalmente a necessidade de interação do professor, mas permitindo uma grande facilitação no momento de desenvolvimento de atividades.The traditional education model has enabled the education of millions of people over the years, even with several negative aspects in its operation. In an effort to address these issues, new teaching methodologies have emerged, focusing on the individualization of education, where it would adapt to the ways in which the student learns more effectively. However, this individualization brings problems in a traditional environment, mainly related to the need for individual student supervision. To address this issue, Intelligent Tutoring Systems can be a solution, using various techniques that allow understanding the student's needs and assisting with less teacher supervision. However, depending on the approach used, there is still a need to develop the content that should be presented to the students. To make this process less labor-intensive, automated content creation methods can be explored, including the use of question generation techniques to reduce the work involved in adapting textual content to learning profiles that can benefit from this type of content. Among these techniques, Question Generation can be applied to provide activities that enable the exploration and validation of the student's level of knowledge. The way Question Generation occurs is quite varied, but, considering the current scenario, the use of neural networks, especially those of the "transformer" type, has proven to be the best approach. These networks have various internal mechanisms, with a particular emphasis on the use of attention calculations to perform the proposed task. They are known for their great potential in tasks involving natural language processing and have received significant attention since their publication, with several advancements in their architecture and training methods. In the context of intelligent tutoring systems, four different architectures using "transformer" networks have been proposed, allowing for the evaluation of which one would best fit this environment. The validation of these architectures is carried out through the assessment of questions and answers generated by them, using texts on different subjects to simulate the application of various learning areas. Automated assessment of generated questions is a challenge in the literature and, therefore, cannot be performed. However, with the definition of a qualitative approach, it is possible to validate the quality of the 69 questions generated and determine the Multi-Model with Response Generator architecture as the one that best fits the proposed scenario, as it achieves the best concentration of results, with 18 excellent questions, 27 good ones, 13 regular ones, and only 11 poor ones. With this, it is concluded that the use of this architecture in conjunction with an Intelligent Tutoring System is possible, although it does not completely eliminate the need for teacher interaction, but it greatly facilitates the development of activities.Universidade Estadual Paulista (Unesp)Manacero Junior, Aleardo [UNESP]Santos, Matheus Santi2023-10-25T13:35:05Z2023-10-25T13:35:05Z2023-09-05info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfSantos, Matheus Santi. Geração de questões utilizando transformers para sistemas tutores inteligentes, 95f. 2023. Dissertação (Mestrado em Ciência da Computação) – Universidade Estadual Paulista (Unesp), Instituto de Biociências Letras e Ciências Exatas (Ibilce), São José do Rio Preto, 2023.https://hdl.handle.net/11449/251102https://orcid.org/0000-0003-4849-1649porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UNESPinstname:Universidade Estadual Paulista (UNESP)instacron:UNESP2023-10-26T06:04:08Zoai:repositorio.unesp.br:11449/251102Repositório InstitucionalPUBhttp://repositorio.unesp.br/oai/requestopendoar:29462024-08-05T15:47:08.843154Repositório Institucional da UNESP - Universidade Estadual Paulista (UNESP)false
dc.title.none.fl_str_mv Geração de questões utilizando transformers para sistemas tutores inteligentes
Question generation using transformers for intelligent tutoring systems
title Geração de questões utilizando transformers para sistemas tutores inteligentes
spellingShingle Geração de questões utilizando transformers para sistemas tutores inteligentes
Santos, Matheus Santi
Geração de questões
Sistemas tutores inteligentes
Transformers
Question generation
Intelligent tutoring systems
title_short Geração de questões utilizando transformers para sistemas tutores inteligentes
title_full Geração de questões utilizando transformers para sistemas tutores inteligentes
title_fullStr Geração de questões utilizando transformers para sistemas tutores inteligentes
title_full_unstemmed Geração de questões utilizando transformers para sistemas tutores inteligentes
title_sort Geração de questões utilizando transformers para sistemas tutores inteligentes
author Santos, Matheus Santi
author_facet Santos, Matheus Santi
author_role author
dc.contributor.none.fl_str_mv Manacero Junior, Aleardo [UNESP]
dc.contributor.author.fl_str_mv Santos, Matheus Santi
dc.subject.por.fl_str_mv Geração de questões
Sistemas tutores inteligentes
Transformers
Question generation
Intelligent tutoring systems
topic Geração de questões
Sistemas tutores inteligentes
Transformers
Question generation
Intelligent tutoring systems
description O modelo tradicional de ensino possibilitou a formação de milhões de pessoas ao longo dos anos, mesmo com diversos pontos negativos em seu funcionamento. Buscando solucionar esses pontos, novas metodologias de ensino surgiram, focando na individualização do ensino, em que este se adaptaria às formas que o aluno aprende de maneira mais eficaz. Esta individualização, no entanto, traz problemas num ambiente tradicional, principalmente ligados à necessidade de acompanhamento individual do aluno. Para solucionar este problema, Sistemas Tutores Inteligentes podem ser uma solução, utilizando diversas técnicas que permitam compreender as necessidades do aluno e auxiliá-lo com uma menor supervisão dos professores. No entanto, de acordo com a abordagem utilizada, ainda existe a necessidade de desenvolver os conteúdos que devem ser apresentados aos alunos. Para tornar este processo menos trabalhoso, formas automatizadas de criação de conteúdo podem ser exploradas, entre as quais a utilização de técnicas de geração de questões para diminuir o trabalho presente na adaptação de conteúdo textual para perfis de aprendizado que possam se beneficiar deste tipo de conteúdo. Dentre estas técnicas, a Geração de Questões pode ser aplicada para fornecer atividades que possibilitam explorar e validar o nível de conhecimento do aluno. A forma como a Geração de Questões ocorre é muito variada, mas, analisando o cenário atual, a utilização de redes neurais, principalmente as do tipo \textit{transformers}, se mostraram a melhor abordagem. Estas redes possuem diversos mecanismos internos, destacando-se a utilização de cálculos de atenção para realizar a tarefa proposta, e são conhecidas pelo seu grande potencial na realização de tarefas que envolvam o processamento de linguagem natural e têm recebido grande atenção desde sua publicação, tendo diversos avanços em relação a sua arquitetura e formas de se realizar o treinamento destas redes. Para o cenário de sistemas tutores inteligentes foram propostas quatro arquiteturas diferentes, utilizando redes \textit{transformers} em sua composição, permitindo avaliar a que melhor se encaixaria a este ambiente. A validação destas arquiteturas é realizada através da avaliação de questões e respostas geradas pelas mesmas, utilizando textos de assuntos diferentes para simular a aplicação de diversas áreas de aprendizado. Formas automatizadas de avaliação de questões geradas são um desafio presente na literatura e, portanto, não é possível realizá-las, mas, com a definição de uma abordagem qualitativa, é possível validar a qualidade das 69 questões geradas e definir a arquitetura Multi-Modelo com Gerador de Resposta como a que melhor se encaixa ao cenário proposto, por obter a melhor concentração de resultados, com 18 questões ótimas, 27 boas, 13 regulares e apenas 11 ruins. Com isto conclui-se que a utilização desta arquitetura ligada a um Sistema Tutor Inteligente é possível, apesar de não eliminar totalmente a necessidade de interação do professor, mas permitindo uma grande facilitação no momento de desenvolvimento de atividades.
publishDate 2023
dc.date.none.fl_str_mv 2023-10-25T13:35:05Z
2023-10-25T13:35:05Z
2023-09-05
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv Santos, Matheus Santi. Geração de questões utilizando transformers para sistemas tutores inteligentes, 95f. 2023. Dissertação (Mestrado em Ciência da Computação) – Universidade Estadual Paulista (Unesp), Instituto de Biociências Letras e Ciências Exatas (Ibilce), São José do Rio Preto, 2023.
https://hdl.handle.net/11449/251102
https://orcid.org/0000-0003-4849-1649
identifier_str_mv Santos, Matheus Santi. Geração de questões utilizando transformers para sistemas tutores inteligentes, 95f. 2023. Dissertação (Mestrado em Ciência da Computação) – Universidade Estadual Paulista (Unesp), Instituto de Biociências Letras e Ciências Exatas (Ibilce), São José do Rio Preto, 2023.
url https://hdl.handle.net/11449/251102
https://orcid.org/0000-0003-4849-1649
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Estadual Paulista (Unesp)
publisher.none.fl_str_mv Universidade Estadual Paulista (Unesp)
dc.source.none.fl_str_mv reponame:Repositório Institucional da UNESP
instname:Universidade Estadual Paulista (UNESP)
instacron:UNESP
instname_str Universidade Estadual Paulista (UNESP)
instacron_str UNESP
institution UNESP
reponame_str Repositório Institucional da UNESP
collection Repositório Institucional da UNESP
repository.name.fl_str_mv Repositório Institucional da UNESP - Universidade Estadual Paulista (UNESP)
repository.mail.fl_str_mv
_version_ 1808128562825265152