Gestualidade vocal e visual, expressão de emoções e comunicação falada

Detalhes bibliográficos
Autor(a) principal: Fontes, Mario Augusto de Souza
Data de Publicação: 2014
Tipo de documento: Tese
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da PUC_SP
Texto Completo: https://tede2.pucsp.br/handle/handle/13672
Resumo: This thesis examines the vocal and visual links involved in emotion expression by developing a perceptual and acoustic experiment whose main objective is investigating the functions of the gestural prosody (vocal and visual) in the appraisal of seven basic emotions (Anger, Distaste, Fear, Happiness, Joy, Sadness and Shame) and valence (positive, neutral and negative). Its specific objectives are twofold: investigating the role of the vocal and visual gestures in identifying the basic emotions and discussing the interaction between the visual, vocal and semantic dimensions in the evaluation of the utterances constituting the research corpus so as to explore the links between gestural prosody and emotive expression. The research hypothesis is that there will be differences in the interpretation if visual or vocal cues are considered in isolation or together and that depending on the nature of the emotion or the semantic load of the utterance the visual or the vocal aspects will have a stronger influence on perceptual judgments. The relations between gestural prosody and emotional expression are investigated with the following analytical procedures and methods: acoustic analysis by means of measures extracted by the ExpressionEvaluator Script developed by Barbosa (2009); perceptual evaluation tests applied to a group of 34 judges using the Gtrace developed by MCKeownetal (2011) to identify valence (positiveness or negativeness) and a set of 7 basic emotions (joy, happiness, anger, shame, fear, sadness and distress); visual gestural description based on a visual profile which takes into account facial movements and their directionality; description of the voice quality settings by means of the application of the VPAS developed by Laver and Mackenzie (2007) as adapted to Portuguese by Camargo and Madureira (2008). The correlation among the variables was made by non-parametric tests applying the FAMD, MCA, PCA,HCPC and MFA methods. The results indicate that the VPAS variables Raised Larynx and High Pitch and the acoustic measures mednf0 and quan995f0 had a stronger influence in the correlations between the vocal gestures and the emotional expression. As evidences of the variables which emerged with wider significance and showed their strength in the formation of utterance clusters, vocal gestuality was interpreted in terms of metaphors of the emotions expressed in speech. The analysis of the role of the vocal and visual gestures in the identification of valence and emotions showed that VPAS variables and the Expression Evaluator measures were quite influential. VPAS had a weight to represent the vector space of the variables under study. Our hypothesis related to the integration between the semantic and vocal and visual dimensions were confirmed. Both visual and vocal prosody interact with the semantic domain, emphasizing or changing the semantic load of the utterances. The differences concerning the interpretation of visual or vocal cues taken in isolation or together were pointed out. It was also found that the identification of emotions and valence varied depending on the emotion category or on the specificity attributed to valence. As a conclusion the contributions of this work to evaluate the communicative relevance of the voice qualities in the expression of emotions in speech and the utterances better representing the analyzed emotions were discussed and the path taken in building up the work was traced
id PUC_SP-1_6cc67fe1e1b081c07737c02cd893251e
oai_identifier_str oai:repositorio.pucsp.br:handle/13672
network_acronym_str PUC_SP-1
network_name_str Biblioteca Digital de Teses e Dissertações da PUC_SP
repository_id_str
spelling Zanotto, Mara Sophiahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4763818P5Fontes, Mario Augusto de Souza2016-04-28T18:22:51Z2014-06-252014-04-29Fontes, Mario Augusto de Souza. Gestualidade vocal e visual, expressão de emoções e comunicação falada. 2014. 193 f. Tese (Doutorado em Lingüística) - Pontifícia Universidade Católica de São Paulo, São Paulo, 2014.https://tede2.pucsp.br/handle/handle/13672This thesis examines the vocal and visual links involved in emotion expression by developing a perceptual and acoustic experiment whose main objective is investigating the functions of the gestural prosody (vocal and visual) in the appraisal of seven basic emotions (Anger, Distaste, Fear, Happiness, Joy, Sadness and Shame) and valence (positive, neutral and negative). Its specific objectives are twofold: investigating the role of the vocal and visual gestures in identifying the basic emotions and discussing the interaction between the visual, vocal and semantic dimensions in the evaluation of the utterances constituting the research corpus so as to explore the links between gestural prosody and emotive expression. The research hypothesis is that there will be differences in the interpretation if visual or vocal cues are considered in isolation or together and that depending on the nature of the emotion or the semantic load of the utterance the visual or the vocal aspects will have a stronger influence on perceptual judgments. The relations between gestural prosody and emotional expression are investigated with the following analytical procedures and methods: acoustic analysis by means of measures extracted by the ExpressionEvaluator Script developed by Barbosa (2009); perceptual evaluation tests applied to a group of 34 judges using the Gtrace developed by MCKeownetal (2011) to identify valence (positiveness or negativeness) and a set of 7 basic emotions (joy, happiness, anger, shame, fear, sadness and distress); visual gestural description based on a visual profile which takes into account facial movements and their directionality; description of the voice quality settings by means of the application of the VPAS developed by Laver and Mackenzie (2007) as adapted to Portuguese by Camargo and Madureira (2008). The correlation among the variables was made by non-parametric tests applying the FAMD, MCA, PCA,HCPC and MFA methods. The results indicate that the VPAS variables Raised Larynx and High Pitch and the acoustic measures mednf0 and quan995f0 had a stronger influence in the correlations between the vocal gestures and the emotional expression. As evidences of the variables which emerged with wider significance and showed their strength in the formation of utterance clusters, vocal gestuality was interpreted in terms of metaphors of the emotions expressed in speech. The analysis of the role of the vocal and visual gestures in the identification of valence and emotions showed that VPAS variables and the Expression Evaluator measures were quite influential. VPAS had a weight to represent the vector space of the variables under study. Our hypothesis related to the integration between the semantic and vocal and visual dimensions were confirmed. Both visual and vocal prosody interact with the semantic domain, emphasizing or changing the semantic load of the utterances. The differences concerning the interpretation of visual or vocal cues taken in isolation or together were pointed out. It was also found that the identification of emotions and valence varied depending on the emotion category or on the specificity attributed to valence. As a conclusion the contributions of this work to evaluate the communicative relevance of the voice qualities in the expression of emotions in speech and the utterances better representing the analyzed emotions were discussed and the path taken in building up the work was tracedEsta tese aborda relações entre os gestos vocal e visual e a expressão emotiva por meio do desenvolvimento de uma pesquisa de natureza experimental que tem como objetivo geral investigar, com base na interpretação de resultados de testes de avaliação perceptiva e caracterização de propriedades fonético-acústicas e visuais, as funções da prosódia gestual (vocal e visual) na avaliação de sete emoções básicas (Alegria, Desgosto, Felicidade, Medo, Raiva, Tristeza, Vergonha) e da valência (positiva, negativa e neutra). Como objetivos específicos temos: investigar o papel do gestos vocal e visual na identificação das emoções básicas, refletir sobre a interação dos planos visual, vocal e semântico na avaliação das produções dos enunciados que constituem o corpus de pesquisa e as correlações entre a prosódia gestual e a expressão emotiva. Como hipóteses de pesquisa, postulamos que serão encontradas diferenças de interpretação se consideradas pistas visuais ou vocais isoladamente ou em conjunto e que, dependendo da natureza da emoção ou da carga semântica do enunciado, os aspectos visuais ou vocais poderão adquirir maior peso nos julgamentos. As correlações entre prosódia gestual e expressão emotiva são investigadas com base nos seguintes procedimentos e métodos analíticos: análise fonético-acústica por meio da aplicação do ExpressionEvaluator, script desenvolvido por Barbosa (2009); testes de avaliação perceptiva da valência e das sete emoções básicas realizados com o auxílio do ambiente GTrace, desenvolvido por McKeown et al (2012), e realizados por 34 juízes; descrição dos gestos visuais por meio de consideração das variáveis concernidas em termos de movimentação e direcionalidade em roteiro para avaliação de gestos faciais; descrição dos ajustes de qualidades de voz por meio do VPAS, desenvolvido por Laver et al (2007), com adaptação para o português por Camargo e Madureira (2008), o VPAS-PB. A correlação entre as variáveis é realizada por meio de testes não paramétricos com a utilização dos métodos de FAMD, MCA, PCA, HCPC e MFA. Os resultados revelam que as variáveis laringe elevada e pitch elevado avaliadas pelo VPAS e as medidas acústicas, mednf0 e quan995f0 apresentaram maior peso no estabelecimento das correlações entre a gestualidade vocal e a expressão de emoções na fala. Como evidências das variáveis que emergiram com maior significância e exerceram sua força na formação de clusters de enunciados, interpretamos a gestualidade vocal em termos de metáforas das emoções expressas na fala. A análise do papel dos gestos vocal e visual na identificação da valência e das emoções mostrou que as variáveis do VPAS e do ExpressionEvaluator foram muito influentes. O VPAS revelou-se com a maior força de representação do espaço vetorial das variáveis estudadas. Confirmamos nossas hipóteses de pesquisa em relação à interação do plano semântico e da prosódia visual e vocal. Tanto a prosódia visual quanto a vocal interagiram com o plano semântico, intensificando ou alterando a carga semântica dos enunciados. Foram encontradas diferenças de interpretação se consideradas pistas visuais ou vocais isoladamente ou em conjunto. Verificou-se que, para a identificação de emoções e para a aferição da positividade ou negatividade, a maior ou menor influência dos aspectos visuais ou vocais variou, dependendo da natureza da emoção e da especificidade da valência. Como conclusão, consideramos as contribuições deste trabalho para avaliar a relevância comunicativa da qualidade de voz na expressão de emoções na fala, apresentamos os enunciados que melhor representaram as emoções analisadas e avaliamos o percurso trilhado na construção da teseapplication/pdfhttp://tede2.pucsp.br/tede/retrieve/30424/Mario%20Augusto%20de%20Souza%20Fontes.pdf.jpgporPontifícia Universidade Católica de São PauloPrograma de Estudos Pós-Graduados em Linguística Aplicada e Estudos da LinguagemPUC-SPBRLingüísticaProsódia vocal e visualGestualidadeAvaliação perceptivaFonética acústicaVocal and visual prosodyGestualityPerceptual EvaluationAcoustic PhoneticsCNPQ::LINGUISTICA, LETRAS E ARTES::LINGUISTICA::LINGUISTICA APLICADAGestualidade vocal e visual, expressão de emoções e comunicação faladainfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisinfo:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da PUC_SPinstname:Pontifícia Universidade Católica de São Paulo (PUC-SP)instacron:PUC_SPTEXTMario Augusto de Souza Fontes.pdf.txtMario Augusto de Souza Fontes.pdf.txtExtracted texttext/plain295742https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/3/Mario%20Augusto%20de%20Souza%20Fontes.pdf.txte0475305a6efb6ab19dcc39d347f175eMD53ORIGINALMario Augusto de Souza Fontes.pdfapplication/pdf4762004https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/1/Mario%20Augusto%20de%20Souza%20Fontes.pdfc7ff5cc05505a43e5e72d43d7e407eb1MD51THUMBNAILMario Augusto de Souza Fontes.pdf.jpgMario Augusto de Souza Fontes.pdf.jpgGenerated Thumbnailimage/jpeg1943https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/2/Mario%20Augusto%20de%20Souza%20Fontes.pdf.jpgcc73c4c239a4c332d642ba1e7c7a9fb2MD52handle/136722022-04-27 22:28:02.341oai:repositorio.pucsp.br:handle/13672Biblioteca Digital de Teses e Dissertaçõeshttps://sapientia.pucsp.br/https://sapientia.pucsp.br/oai/requestbngkatende@pucsp.br||rapassi@pucsp.bropendoar:2022-04-28T01:28:02Biblioteca Digital de Teses e Dissertações da PUC_SP - Pontifícia Universidade Católica de São Paulo (PUC-SP)false
dc.title.por.fl_str_mv Gestualidade vocal e visual, expressão de emoções e comunicação falada
title Gestualidade vocal e visual, expressão de emoções e comunicação falada
spellingShingle Gestualidade vocal e visual, expressão de emoções e comunicação falada
Fontes, Mario Augusto de Souza
Prosódia vocal e visual
Gestualidade
Avaliação perceptiva
Fonética acústica
Vocal and visual prosody
Gestuality
Perceptual Evaluation
Acoustic Phonetics
CNPQ::LINGUISTICA, LETRAS E ARTES::LINGUISTICA::LINGUISTICA APLICADA
title_short Gestualidade vocal e visual, expressão de emoções e comunicação falada
title_full Gestualidade vocal e visual, expressão de emoções e comunicação falada
title_fullStr Gestualidade vocal e visual, expressão de emoções e comunicação falada
title_full_unstemmed Gestualidade vocal e visual, expressão de emoções e comunicação falada
title_sort Gestualidade vocal e visual, expressão de emoções e comunicação falada
author Fontes, Mario Augusto de Souza
author_facet Fontes, Mario Augusto de Souza
author_role author
dc.contributor.advisor1.fl_str_mv Zanotto, Mara Sophia
dc.contributor.authorLattes.fl_str_mv http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4763818P5
dc.contributor.author.fl_str_mv Fontes, Mario Augusto de Souza
contributor_str_mv Zanotto, Mara Sophia
dc.subject.por.fl_str_mv Prosódia vocal e visual
Gestualidade
Avaliação perceptiva
Fonética acústica
topic Prosódia vocal e visual
Gestualidade
Avaliação perceptiva
Fonética acústica
Vocal and visual prosody
Gestuality
Perceptual Evaluation
Acoustic Phonetics
CNPQ::LINGUISTICA, LETRAS E ARTES::LINGUISTICA::LINGUISTICA APLICADA
dc.subject.eng.fl_str_mv Vocal and visual prosody
Gestuality
Perceptual Evaluation
Acoustic Phonetics
dc.subject.cnpq.fl_str_mv CNPQ::LINGUISTICA, LETRAS E ARTES::LINGUISTICA::LINGUISTICA APLICADA
description This thesis examines the vocal and visual links involved in emotion expression by developing a perceptual and acoustic experiment whose main objective is investigating the functions of the gestural prosody (vocal and visual) in the appraisal of seven basic emotions (Anger, Distaste, Fear, Happiness, Joy, Sadness and Shame) and valence (positive, neutral and negative). Its specific objectives are twofold: investigating the role of the vocal and visual gestures in identifying the basic emotions and discussing the interaction between the visual, vocal and semantic dimensions in the evaluation of the utterances constituting the research corpus so as to explore the links between gestural prosody and emotive expression. The research hypothesis is that there will be differences in the interpretation if visual or vocal cues are considered in isolation or together and that depending on the nature of the emotion or the semantic load of the utterance the visual or the vocal aspects will have a stronger influence on perceptual judgments. The relations between gestural prosody and emotional expression are investigated with the following analytical procedures and methods: acoustic analysis by means of measures extracted by the ExpressionEvaluator Script developed by Barbosa (2009); perceptual evaluation tests applied to a group of 34 judges using the Gtrace developed by MCKeownetal (2011) to identify valence (positiveness or negativeness) and a set of 7 basic emotions (joy, happiness, anger, shame, fear, sadness and distress); visual gestural description based on a visual profile which takes into account facial movements and their directionality; description of the voice quality settings by means of the application of the VPAS developed by Laver and Mackenzie (2007) as adapted to Portuguese by Camargo and Madureira (2008). The correlation among the variables was made by non-parametric tests applying the FAMD, MCA, PCA,HCPC and MFA methods. The results indicate that the VPAS variables Raised Larynx and High Pitch and the acoustic measures mednf0 and quan995f0 had a stronger influence in the correlations between the vocal gestures and the emotional expression. As evidences of the variables which emerged with wider significance and showed their strength in the formation of utterance clusters, vocal gestuality was interpreted in terms of metaphors of the emotions expressed in speech. The analysis of the role of the vocal and visual gestures in the identification of valence and emotions showed that VPAS variables and the Expression Evaluator measures were quite influential. VPAS had a weight to represent the vector space of the variables under study. Our hypothesis related to the integration between the semantic and vocal and visual dimensions were confirmed. Both visual and vocal prosody interact with the semantic domain, emphasizing or changing the semantic load of the utterances. The differences concerning the interpretation of visual or vocal cues taken in isolation or together were pointed out. It was also found that the identification of emotions and valence varied depending on the emotion category or on the specificity attributed to valence. As a conclusion the contributions of this work to evaluate the communicative relevance of the voice qualities in the expression of emotions in speech and the utterances better representing the analyzed emotions were discussed and the path taken in building up the work was traced
publishDate 2014
dc.date.available.fl_str_mv 2014-06-25
dc.date.issued.fl_str_mv 2014-04-29
dc.date.accessioned.fl_str_mv 2016-04-28T18:22:51Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv Fontes, Mario Augusto de Souza. Gestualidade vocal e visual, expressão de emoções e comunicação falada. 2014. 193 f. Tese (Doutorado em Lingüística) - Pontifícia Universidade Católica de São Paulo, São Paulo, 2014.
dc.identifier.uri.fl_str_mv https://tede2.pucsp.br/handle/handle/13672
identifier_str_mv Fontes, Mario Augusto de Souza. Gestualidade vocal e visual, expressão de emoções e comunicação falada. 2014. 193 f. Tese (Doutorado em Lingüística) - Pontifícia Universidade Católica de São Paulo, São Paulo, 2014.
url https://tede2.pucsp.br/handle/handle/13672
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Pontifícia Universidade Católica de São Paulo
dc.publisher.program.fl_str_mv Programa de Estudos Pós-Graduados em Linguística Aplicada e Estudos da Linguagem
dc.publisher.initials.fl_str_mv PUC-SP
dc.publisher.country.fl_str_mv BR
dc.publisher.department.fl_str_mv Lingüística
publisher.none.fl_str_mv Pontifícia Universidade Católica de São Paulo
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da PUC_SP
instname:Pontifícia Universidade Católica de São Paulo (PUC-SP)
instacron:PUC_SP
instname_str Pontifícia Universidade Católica de São Paulo (PUC-SP)
instacron_str PUC_SP
institution PUC_SP
reponame_str Biblioteca Digital de Teses e Dissertações da PUC_SP
collection Biblioteca Digital de Teses e Dissertações da PUC_SP
bitstream.url.fl_str_mv https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/3/Mario%20Augusto%20de%20Souza%20Fontes.pdf.txt
https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/1/Mario%20Augusto%20de%20Souza%20Fontes.pdf
https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/2/Mario%20Augusto%20de%20Souza%20Fontes.pdf.jpg
bitstream.checksum.fl_str_mv e0475305a6efb6ab19dcc39d347f175e
c7ff5cc05505a43e5e72d43d7e407eb1
cc73c4c239a4c332d642ba1e7c7a9fb2
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da PUC_SP - Pontifícia Universidade Católica de São Paulo (PUC-SP)
repository.mail.fl_str_mv bngkatende@pucsp.br||rapassi@pucsp.br
_version_ 1809277983954829312