Reconhecimento facial e FNIRS para a detecção de traços de emoção aplicados a jogos sérios

Detalhes bibliográficos
Autor(a) principal: Souza Júnior, Milton Machado de
Data de Publicação: 2019
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da PUC_RS
Texto Completo: http://tede2.pucrs.br/tede2/handle/tede/8452
Resumo: This work aims to improve the recognition of emotional responses to different stimuli that provoke alterations into humans. Said alterations can be measured through several tools such as Magnetic Resonance Imaging, Functional Near Infrared Spectroscopy (fNIRS), Electroencephalography (EEG) and Facial Recognition. In this work, we used a combination of the fNIRS system, which measures the variation of hemoglobin oxygenation, and facial recognition tools. The participants were stimulated with a sequence of images from the IAPS database, which are labeled with the weighted emotions they provoke. This allowed the training of a classifier that was capable of predicting the emotion that was experienced by the user during the activity performed. This article covers the recognition of positive, negative and neutral emotions using classifiers, created in Matlab, that are based on participant physiological responses. The combination of fNIRS, facial recognition and machine learning supported the creation of a predictor with 77.2% correct classification rate.
id P_RS_6ad4ff6bb62acab3fc96ec88939b96f3
oai_identifier_str oai:tede2.pucrs.br:tede/8452
network_acronym_str P_RS
network_name_str Biblioteca Digital de Teses e Dissertações da PUC_RS
repository_id_str
spelling Azevedo, Dario Francisco Guimarães dehttp://lattes.cnpq.br/9298232237219641http://lattes.cnpq.br/6186210188732490Souza Júnior, Milton Machado de2019-02-18T13:49:44Z2019-01-15http://tede2.pucrs.br/tede2/handle/tede/8452This work aims to improve the recognition of emotional responses to different stimuli that provoke alterations into humans. Said alterations can be measured through several tools such as Magnetic Resonance Imaging, Functional Near Infrared Spectroscopy (fNIRS), Electroencephalography (EEG) and Facial Recognition. In this work, we used a combination of the fNIRS system, which measures the variation of hemoglobin oxygenation, and facial recognition tools. The participants were stimulated with a sequence of images from the IAPS database, which are labeled with the weighted emotions they provoke. This allowed the training of a classifier that was capable of predicting the emotion that was experienced by the user during the activity performed. This article covers the recognition of positive, negative and neutral emotions using classifiers, created in Matlab, that are based on participant physiological responses. The combination of fNIRS, facial recognition and machine learning supported the creation of a predictor with 77.2% correct classification rate.O desempenho no aprendizado de escolares está diretamente ligado ao bem-estar do mesmo, o que consolida a necessidade da criação de ferramentas capazes de observar traços de emoção durante o desenvolvimento de atividades específicas. Aliando jogos educacionais à observação de emoções, pode-se garantir que as atividades de aprendizado sejam mais prazerosas, melhorando a eficiência dos escolares. Para observar traços de emoções, deve-se evocá-las atentando para que estas estejam em destaque para a metodologia utilizada para a observação. Nesta pesquisa, usam-se duas formas de observação dos traços de emoção: micro expressões faciais e resposta hemodinâmicas do córtex cerebral. Na busca de evidências de emoções, utilizam-se métodos e protocolos de evocação dos traços de emoções, onde são utilizadas imagens fortes, responsáveis por provocar reações emocionais. Com a construção de um paradigma, pode-se observar a influência da sequência das imagens, usadas no exame, na variação de resposta das percepções emocionais.Foram observadas emoções positivas, negativas e neutras, relacionando-as aos traços de expressão. O estudo se limita a diferenciar estas três emoções, que são possíveis de se distinguir a partir de análise fisiológica. Para tanto, utilizaram-se câmeras e sensores óticos, respectivamente, para reconhecer micro expressões da face e respostas hemodinâmicas corticais. Estas emoções foram classificados a partir de um método de inteligência artificial cuja entrada são os traços emocionais. Este método cria um conjunto de padrões de respostas para cada uma das emoções, classificando a emoção atual do participante. A possibilidade de gerar índices emocionais para uma atividade fim, amplia em muito o ensino de jogos sérios, mas também fortalece o uso deste método de reconhecimento em outras aplicações. A partir da união das duas metodologias de reconhecimentos fisiológicos, obteve-se um método robusto de classificação das emoções, com taxa de 77,2% de acerto.Submitted by PPG Engenharia Elétrica (engenharia.pg.eletrica@pucrs.br) on 2019-02-14T11:37:42Z No. of bitstreams: 1 MILTON MACHADO DE SOUZA JUNIOR_DIS.pdf: 5359158 bytes, checksum: 477c14d85c266561a4b72cac6fca5dd9 (MD5)Approved for entry into archive by Sheila Dias (sheila.dias@pucrs.br) on 2019-02-18T13:38:48Z (GMT) No. of bitstreams: 1 MILTON MACHADO DE SOUZA JUNIOR_DIS.pdf: 5359158 bytes, checksum: 477c14d85c266561a4b72cac6fca5dd9 (MD5)Made available in DSpace on 2019-02-18T13:49:44Z (GMT). No. of bitstreams: 1 MILTON MACHADO DE SOUZA JUNIOR_DIS.pdf: 5359158 bytes, checksum: 477c14d85c266561a4b72cac6fca5dd9 (MD5) Previous issue date: 2019-01-15application/pdfhttp://tede2.pucrs.br:80/tede2/retrieve/174126/MILTON%20MACHADO%20DE%20SOUZA%20JUNIOR_DIS.pdf.jpgporPontifícia Universidade Católica do Rio Grande do SulPrograma de Pós-Graduação em Engenharia ElétricaPUCRSBrasilEscola PolitécnicaJogos SériosReconhecimento FacialFNIRSEmoçôesClassificadoresSerius GamesFacial RecognitionFNIRSEmotionsClassifiersENGENHARIASReconhecimento facial e FNIRS para a detecção de traços de emoção aplicados a jogos sériosinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisTrabalho não apresenta restrição para publicação-2660504109272820295005004518971056484826825info:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da PUC_RSinstname:Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)instacron:PUC_RSTHUMBNAILMILTON MACHADO DE SOUZA JUNIOR_DIS.pdf.jpgMILTON MACHADO DE SOUZA JUNIOR_DIS.pdf.jpgimage/jpeg5123http://tede2.pucrs.br/tede2/bitstream/tede/8452/4/MILTON+MACHADO+DE+SOUZA+JUNIOR_DIS.pdf.jpg16fef07d1e41c57fde44bad3c613903dMD54TEXTMILTON MACHADO DE SOUZA JUNIOR_DIS.pdf.txtMILTON MACHADO DE SOUZA JUNIOR_DIS.pdf.txttext/plain151422http://tede2.pucrs.br/tede2/bitstream/tede/8452/3/MILTON+MACHADO+DE+SOUZA+JUNIOR_DIS.pdf.txt66cc64b01bdd7b54c67487965af64e9bMD53ORIGINALMILTON MACHADO DE SOUZA JUNIOR_DIS.pdfMILTON MACHADO DE SOUZA JUNIOR_DIS.pdfapplication/pdf5359158http://tede2.pucrs.br/tede2/bitstream/tede/8452/2/MILTON+MACHADO+DE+SOUZA+JUNIOR_DIS.pdf477c14d85c266561a4b72cac6fca5dd9MD52LICENSElicense.txtlicense.txttext/plain; charset=utf-8590http://tede2.pucrs.br/tede2/bitstream/tede/8452/1/license.txt220e11f2d3ba5354f917c7035aadef24MD51tede/84522019-02-18 12:00:46.141oai:tede2.pucrs.br:tede/8452QXV0b3JpemE/P28gcGFyYSBQdWJsaWNhPz9vIEVsZXRyP25pY2E6IENvbSBiYXNlIG5vIGRpc3Bvc3RvIG5hIExlaSBGZWRlcmFsIG4/OS42MTAsIGRlIDE5IGRlIGZldmVyZWlybyBkZSAxOTk4LCBvIGF1dG9yIEFVVE9SSVpBIGEgcHVibGljYT8/byBlbGV0cj9uaWNhIGRhIHByZXNlbnRlIG9icmEgbm8gYWNlcnZvIGRhIEJpYmxpb3RlY2EgRGlnaXRhbCBkYSBQb250aWY/Y2lhIFVuaXZlcnNpZGFkZSBDYXQ/bGljYSBkbyBSaW8gR3JhbmRlIGRvIFN1bCwgc2VkaWFkYSBhIEF2LiBJcGlyYW5nYSA2NjgxLCBQb3J0byBBbGVncmUsIFJpbyBHcmFuZGUgZG8gU3VsLCBjb20gcmVnaXN0cm8gZGUgQ05QSiA4ODYzMDQxMzAwMDItODEgYmVtIGNvbW8gZW0gb3V0cmFzIGJpYmxpb3RlY2FzIGRpZ2l0YWlzLCBuYWNpb25haXMgZSBpbnRlcm5hY2lvbmFpcywgY29ucz9yY2lvcyBlIHJlZGVzID9zIHF1YWlzIGEgYmlibGlvdGVjYSBkYSBQVUNSUyBwb3NzYSBhIHZpciBwYXJ0aWNpcGFyLCBzZW0gP251cyBhbHVzaXZvIGFvcyBkaXJlaXRvcyBhdXRvcmFpcywgYSB0P3R1bG8gZGUgZGl2dWxnYT8/byBkYSBwcm9kdT8/byBjaWVudD9maWNhLgo=Biblioteca Digital de Teses e Dissertaçõeshttp://tede2.pucrs.br/tede2/PRIhttps://tede2.pucrs.br/oai/requestbiblioteca.central@pucrs.br||opendoar:2019-02-18T15:00:46Biblioteca Digital de Teses e Dissertações da PUC_RS - Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)false
dc.title.por.fl_str_mv Reconhecimento facial e FNIRS para a detecção de traços de emoção aplicados a jogos sérios
title Reconhecimento facial e FNIRS para a detecção de traços de emoção aplicados a jogos sérios
spellingShingle Reconhecimento facial e FNIRS para a detecção de traços de emoção aplicados a jogos sérios
Souza Júnior, Milton Machado de
Jogos Sérios
Reconhecimento Facial
FNIRS
Emoçôes
Classificadores
Serius Games
Facial Recognition
FNIRS
Emotions
Classifiers
ENGENHARIAS
title_short Reconhecimento facial e FNIRS para a detecção de traços de emoção aplicados a jogos sérios
title_full Reconhecimento facial e FNIRS para a detecção de traços de emoção aplicados a jogos sérios
title_fullStr Reconhecimento facial e FNIRS para a detecção de traços de emoção aplicados a jogos sérios
title_full_unstemmed Reconhecimento facial e FNIRS para a detecção de traços de emoção aplicados a jogos sérios
title_sort Reconhecimento facial e FNIRS para a detecção de traços de emoção aplicados a jogos sérios
author Souza Júnior, Milton Machado de
author_facet Souza Júnior, Milton Machado de
author_role author
dc.contributor.advisor1.fl_str_mv Azevedo, Dario Francisco Guimarães de
dc.contributor.advisor1Lattes.fl_str_mv http://lattes.cnpq.br/9298232237219641
dc.contributor.authorLattes.fl_str_mv http://lattes.cnpq.br/6186210188732490
dc.contributor.author.fl_str_mv Souza Júnior, Milton Machado de
contributor_str_mv Azevedo, Dario Francisco Guimarães de
dc.subject.por.fl_str_mv Jogos Sérios
Reconhecimento Facial
FNIRS
Emoçôes
Classificadores
topic Jogos Sérios
Reconhecimento Facial
FNIRS
Emoçôes
Classificadores
Serius Games
Facial Recognition
FNIRS
Emotions
Classifiers
ENGENHARIAS
dc.subject.eng.fl_str_mv Serius Games
Facial Recognition
FNIRS
Emotions
Classifiers
dc.subject.cnpq.fl_str_mv ENGENHARIAS
description This work aims to improve the recognition of emotional responses to different stimuli that provoke alterations into humans. Said alterations can be measured through several tools such as Magnetic Resonance Imaging, Functional Near Infrared Spectroscopy (fNIRS), Electroencephalography (EEG) and Facial Recognition. In this work, we used a combination of the fNIRS system, which measures the variation of hemoglobin oxygenation, and facial recognition tools. The participants were stimulated with a sequence of images from the IAPS database, which are labeled with the weighted emotions they provoke. This allowed the training of a classifier that was capable of predicting the emotion that was experienced by the user during the activity performed. This article covers the recognition of positive, negative and neutral emotions using classifiers, created in Matlab, that are based on participant physiological responses. The combination of fNIRS, facial recognition and machine learning supported the creation of a predictor with 77.2% correct classification rate.
publishDate 2019
dc.date.accessioned.fl_str_mv 2019-02-18T13:49:44Z
dc.date.issued.fl_str_mv 2019-01-15
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://tede2.pucrs.br/tede2/handle/tede/8452
url http://tede2.pucrs.br/tede2/handle/tede/8452
dc.language.iso.fl_str_mv por
language por
dc.relation.program.fl_str_mv -266050410927282029
dc.relation.confidence.fl_str_mv 500
500
dc.relation.cnpq.fl_str_mv 4518971056484826825
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Pontifícia Universidade Católica do Rio Grande do Sul
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Engenharia Elétrica
dc.publisher.initials.fl_str_mv PUCRS
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv Escola Politécnica
publisher.none.fl_str_mv Pontifícia Universidade Católica do Rio Grande do Sul
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da PUC_RS
instname:Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)
instacron:PUC_RS
instname_str Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)
instacron_str PUC_RS
institution PUC_RS
reponame_str Biblioteca Digital de Teses e Dissertações da PUC_RS
collection Biblioteca Digital de Teses e Dissertações da PUC_RS
bitstream.url.fl_str_mv http://tede2.pucrs.br/tede2/bitstream/tede/8452/4/MILTON+MACHADO+DE+SOUZA+JUNIOR_DIS.pdf.jpg
http://tede2.pucrs.br/tede2/bitstream/tede/8452/3/MILTON+MACHADO+DE+SOUZA+JUNIOR_DIS.pdf.txt
http://tede2.pucrs.br/tede2/bitstream/tede/8452/2/MILTON+MACHADO+DE+SOUZA+JUNIOR_DIS.pdf
http://tede2.pucrs.br/tede2/bitstream/tede/8452/1/license.txt
bitstream.checksum.fl_str_mv 16fef07d1e41c57fde44bad3c613903d
66cc64b01bdd7b54c67487965af64e9b
477c14d85c266561a4b72cac6fca5dd9
220e11f2d3ba5354f917c7035aadef24
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da PUC_RS - Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)
repository.mail.fl_str_mv biblioteca.central@pucrs.br||
_version_ 1799765337399361536