Gestualidade vocal e visual, expressão de emoções e comunicação falada
Autor(a) principal: | |
---|---|
Data de Publicação: | 2014 |
Tipo de documento: | Tese |
Idioma: | por |
Título da fonte: | Biblioteca Digital de Teses e Dissertações da PUC_SP |
Texto Completo: | https://tede2.pucsp.br/handle/handle/13672 |
Resumo: | This thesis examines the vocal and visual links involved in emotion expression by developing a perceptual and acoustic experiment whose main objective is investigating the functions of the gestural prosody (vocal and visual) in the appraisal of seven basic emotions (Anger, Distaste, Fear, Happiness, Joy, Sadness and Shame) and valence (positive, neutral and negative). Its specific objectives are twofold: investigating the role of the vocal and visual gestures in identifying the basic emotions and discussing the interaction between the visual, vocal and semantic dimensions in the evaluation of the utterances constituting the research corpus so as to explore the links between gestural prosody and emotive expression. The research hypothesis is that there will be differences in the interpretation if visual or vocal cues are considered in isolation or together and that depending on the nature of the emotion or the semantic load of the utterance the visual or the vocal aspects will have a stronger influence on perceptual judgments. The relations between gestural prosody and emotional expression are investigated with the following analytical procedures and methods: acoustic analysis by means of measures extracted by the ExpressionEvaluator Script developed by Barbosa (2009); perceptual evaluation tests applied to a group of 34 judges using the Gtrace developed by MCKeownetal (2011) to identify valence (positiveness or negativeness) and a set of 7 basic emotions (joy, happiness, anger, shame, fear, sadness and distress); visual gestural description based on a visual profile which takes into account facial movements and their directionality; description of the voice quality settings by means of the application of the VPAS developed by Laver and Mackenzie (2007) as adapted to Portuguese by Camargo and Madureira (2008). The correlation among the variables was made by non-parametric tests applying the FAMD, MCA, PCA,HCPC and MFA methods. The results indicate that the VPAS variables Raised Larynx and High Pitch and the acoustic measures mednf0 and quan995f0 had a stronger influence in the correlations between the vocal gestures and the emotional expression. As evidences of the variables which emerged with wider significance and showed their strength in the formation of utterance clusters, vocal gestuality was interpreted in terms of metaphors of the emotions expressed in speech. The analysis of the role of the vocal and visual gestures in the identification of valence and emotions showed that VPAS variables and the Expression Evaluator measures were quite influential. VPAS had a weight to represent the vector space of the variables under study. Our hypothesis related to the integration between the semantic and vocal and visual dimensions were confirmed. Both visual and vocal prosody interact with the semantic domain, emphasizing or changing the semantic load of the utterances. The differences concerning the interpretation of visual or vocal cues taken in isolation or together were pointed out. It was also found that the identification of emotions and valence varied depending on the emotion category or on the specificity attributed to valence. As a conclusion the contributions of this work to evaluate the communicative relevance of the voice qualities in the expression of emotions in speech and the utterances better representing the analyzed emotions were discussed and the path taken in building up the work was traced |
id |
PUC_SP-1_6cc67fe1e1b081c07737c02cd893251e |
---|---|
oai_identifier_str |
oai:repositorio.pucsp.br:handle/13672 |
network_acronym_str |
PUC_SP-1 |
network_name_str |
Biblioteca Digital de Teses e Dissertações da PUC_SP |
repository_id_str |
|
spelling |
Zanotto, Mara Sophiahttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4763818P5Fontes, Mario Augusto de Souza2016-04-28T18:22:51Z2014-06-252014-04-29Fontes, Mario Augusto de Souza. Gestualidade vocal e visual, expressão de emoções e comunicação falada. 2014. 193 f. Tese (Doutorado em Lingüística) - Pontifícia Universidade Católica de São Paulo, São Paulo, 2014.https://tede2.pucsp.br/handle/handle/13672This thesis examines the vocal and visual links involved in emotion expression by developing a perceptual and acoustic experiment whose main objective is investigating the functions of the gestural prosody (vocal and visual) in the appraisal of seven basic emotions (Anger, Distaste, Fear, Happiness, Joy, Sadness and Shame) and valence (positive, neutral and negative). Its specific objectives are twofold: investigating the role of the vocal and visual gestures in identifying the basic emotions and discussing the interaction between the visual, vocal and semantic dimensions in the evaluation of the utterances constituting the research corpus so as to explore the links between gestural prosody and emotive expression. The research hypothesis is that there will be differences in the interpretation if visual or vocal cues are considered in isolation or together and that depending on the nature of the emotion or the semantic load of the utterance the visual or the vocal aspects will have a stronger influence on perceptual judgments. The relations between gestural prosody and emotional expression are investigated with the following analytical procedures and methods: acoustic analysis by means of measures extracted by the ExpressionEvaluator Script developed by Barbosa (2009); perceptual evaluation tests applied to a group of 34 judges using the Gtrace developed by MCKeownetal (2011) to identify valence (positiveness or negativeness) and a set of 7 basic emotions (joy, happiness, anger, shame, fear, sadness and distress); visual gestural description based on a visual profile which takes into account facial movements and their directionality; description of the voice quality settings by means of the application of the VPAS developed by Laver and Mackenzie (2007) as adapted to Portuguese by Camargo and Madureira (2008). The correlation among the variables was made by non-parametric tests applying the FAMD, MCA, PCA,HCPC and MFA methods. The results indicate that the VPAS variables Raised Larynx and High Pitch and the acoustic measures mednf0 and quan995f0 had a stronger influence in the correlations between the vocal gestures and the emotional expression. As evidences of the variables which emerged with wider significance and showed their strength in the formation of utterance clusters, vocal gestuality was interpreted in terms of metaphors of the emotions expressed in speech. The analysis of the role of the vocal and visual gestures in the identification of valence and emotions showed that VPAS variables and the Expression Evaluator measures were quite influential. VPAS had a weight to represent the vector space of the variables under study. Our hypothesis related to the integration between the semantic and vocal and visual dimensions were confirmed. Both visual and vocal prosody interact with the semantic domain, emphasizing or changing the semantic load of the utterances. The differences concerning the interpretation of visual or vocal cues taken in isolation or together were pointed out. It was also found that the identification of emotions and valence varied depending on the emotion category or on the specificity attributed to valence. As a conclusion the contributions of this work to evaluate the communicative relevance of the voice qualities in the expression of emotions in speech and the utterances better representing the analyzed emotions were discussed and the path taken in building up the work was tracedEsta tese aborda relações entre os gestos vocal e visual e a expressão emotiva por meio do desenvolvimento de uma pesquisa de natureza experimental que tem como objetivo geral investigar, com base na interpretação de resultados de testes de avaliação perceptiva e caracterização de propriedades fonético-acústicas e visuais, as funções da prosódia gestual (vocal e visual) na avaliação de sete emoções básicas (Alegria, Desgosto, Felicidade, Medo, Raiva, Tristeza, Vergonha) e da valência (positiva, negativa e neutra). Como objetivos específicos temos: investigar o papel do gestos vocal e visual na identificação das emoções básicas, refletir sobre a interação dos planos visual, vocal e semântico na avaliação das produções dos enunciados que constituem o corpus de pesquisa e as correlações entre a prosódia gestual e a expressão emotiva. Como hipóteses de pesquisa, postulamos que serão encontradas diferenças de interpretação se consideradas pistas visuais ou vocais isoladamente ou em conjunto e que, dependendo da natureza da emoção ou da carga semântica do enunciado, os aspectos visuais ou vocais poderão adquirir maior peso nos julgamentos. As correlações entre prosódia gestual e expressão emotiva são investigadas com base nos seguintes procedimentos e métodos analíticos: análise fonético-acústica por meio da aplicação do ExpressionEvaluator, script desenvolvido por Barbosa (2009); testes de avaliação perceptiva da valência e das sete emoções básicas realizados com o auxílio do ambiente GTrace, desenvolvido por McKeown et al (2012), e realizados por 34 juízes; descrição dos gestos visuais por meio de consideração das variáveis concernidas em termos de movimentação e direcionalidade em roteiro para avaliação de gestos faciais; descrição dos ajustes de qualidades de voz por meio do VPAS, desenvolvido por Laver et al (2007), com adaptação para o português por Camargo e Madureira (2008), o VPAS-PB. A correlação entre as variáveis é realizada por meio de testes não paramétricos com a utilização dos métodos de FAMD, MCA, PCA, HCPC e MFA. Os resultados revelam que as variáveis laringe elevada e pitch elevado avaliadas pelo VPAS e as medidas acústicas, mednf0 e quan995f0 apresentaram maior peso no estabelecimento das correlações entre a gestualidade vocal e a expressão de emoções na fala. Como evidências das variáveis que emergiram com maior significância e exerceram sua força na formação de clusters de enunciados, interpretamos a gestualidade vocal em termos de metáforas das emoções expressas na fala. A análise do papel dos gestos vocal e visual na identificação da valência e das emoções mostrou que as variáveis do VPAS e do ExpressionEvaluator foram muito influentes. O VPAS revelou-se com a maior força de representação do espaço vetorial das variáveis estudadas. Confirmamos nossas hipóteses de pesquisa em relação à interação do plano semântico e da prosódia visual e vocal. Tanto a prosódia visual quanto a vocal interagiram com o plano semântico, intensificando ou alterando a carga semântica dos enunciados. Foram encontradas diferenças de interpretação se consideradas pistas visuais ou vocais isoladamente ou em conjunto. Verificou-se que, para a identificação de emoções e para a aferição da positividade ou negatividade, a maior ou menor influência dos aspectos visuais ou vocais variou, dependendo da natureza da emoção e da especificidade da valência. Como conclusão, consideramos as contribuições deste trabalho para avaliar a relevância comunicativa da qualidade de voz na expressão de emoções na fala, apresentamos os enunciados que melhor representaram as emoções analisadas e avaliamos o percurso trilhado na construção da teseapplication/pdfhttp://tede2.pucsp.br/tede/retrieve/30424/Mario%20Augusto%20de%20Souza%20Fontes.pdf.jpgporPontifícia Universidade Católica de São PauloPrograma de Estudos Pós-Graduados em Linguística Aplicada e Estudos da LinguagemPUC-SPBRLingüísticaProsódia vocal e visualGestualidadeAvaliação perceptivaFonética acústicaVocal and visual prosodyGestualityPerceptual EvaluationAcoustic PhoneticsCNPQ::LINGUISTICA, LETRAS E ARTES::LINGUISTICA::LINGUISTICA APLICADAGestualidade vocal e visual, expressão de emoções e comunicação faladainfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisinfo:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da PUC_SPinstname:Pontifícia Universidade Católica de São Paulo (PUC-SP)instacron:PUC_SPTEXTMario Augusto de Souza Fontes.pdf.txtMario Augusto de Souza Fontes.pdf.txtExtracted texttext/plain295742https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/3/Mario%20Augusto%20de%20Souza%20Fontes.pdf.txte0475305a6efb6ab19dcc39d347f175eMD53ORIGINALMario Augusto de Souza Fontes.pdfapplication/pdf4762004https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/1/Mario%20Augusto%20de%20Souza%20Fontes.pdfc7ff5cc05505a43e5e72d43d7e407eb1MD51THUMBNAILMario Augusto de Souza Fontes.pdf.jpgMario Augusto de Souza Fontes.pdf.jpgGenerated Thumbnailimage/jpeg1943https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/2/Mario%20Augusto%20de%20Souza%20Fontes.pdf.jpgcc73c4c239a4c332d642ba1e7c7a9fb2MD52handle/136722022-04-27 22:28:02.341oai:repositorio.pucsp.br:handle/13672Biblioteca Digital de Teses e Dissertaçõeshttps://sapientia.pucsp.br/https://sapientia.pucsp.br/oai/requestbngkatende@pucsp.br||rapassi@pucsp.bropendoar:2022-04-28T01:28:02Biblioteca Digital de Teses e Dissertações da PUC_SP - Pontifícia Universidade Católica de São Paulo (PUC-SP)false |
dc.title.por.fl_str_mv |
Gestualidade vocal e visual, expressão de emoções e comunicação falada |
title |
Gestualidade vocal e visual, expressão de emoções e comunicação falada |
spellingShingle |
Gestualidade vocal e visual, expressão de emoções e comunicação falada Fontes, Mario Augusto de Souza Prosódia vocal e visual Gestualidade Avaliação perceptiva Fonética acústica Vocal and visual prosody Gestuality Perceptual Evaluation Acoustic Phonetics CNPQ::LINGUISTICA, LETRAS E ARTES::LINGUISTICA::LINGUISTICA APLICADA |
title_short |
Gestualidade vocal e visual, expressão de emoções e comunicação falada |
title_full |
Gestualidade vocal e visual, expressão de emoções e comunicação falada |
title_fullStr |
Gestualidade vocal e visual, expressão de emoções e comunicação falada |
title_full_unstemmed |
Gestualidade vocal e visual, expressão de emoções e comunicação falada |
title_sort |
Gestualidade vocal e visual, expressão de emoções e comunicação falada |
author |
Fontes, Mario Augusto de Souza |
author_facet |
Fontes, Mario Augusto de Souza |
author_role |
author |
dc.contributor.advisor1.fl_str_mv |
Zanotto, Mara Sophia |
dc.contributor.authorLattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4763818P5 |
dc.contributor.author.fl_str_mv |
Fontes, Mario Augusto de Souza |
contributor_str_mv |
Zanotto, Mara Sophia |
dc.subject.por.fl_str_mv |
Prosódia vocal e visual Gestualidade Avaliação perceptiva Fonética acústica |
topic |
Prosódia vocal e visual Gestualidade Avaliação perceptiva Fonética acústica Vocal and visual prosody Gestuality Perceptual Evaluation Acoustic Phonetics CNPQ::LINGUISTICA, LETRAS E ARTES::LINGUISTICA::LINGUISTICA APLICADA |
dc.subject.eng.fl_str_mv |
Vocal and visual prosody Gestuality Perceptual Evaluation Acoustic Phonetics |
dc.subject.cnpq.fl_str_mv |
CNPQ::LINGUISTICA, LETRAS E ARTES::LINGUISTICA::LINGUISTICA APLICADA |
description |
This thesis examines the vocal and visual links involved in emotion expression by developing a perceptual and acoustic experiment whose main objective is investigating the functions of the gestural prosody (vocal and visual) in the appraisal of seven basic emotions (Anger, Distaste, Fear, Happiness, Joy, Sadness and Shame) and valence (positive, neutral and negative). Its specific objectives are twofold: investigating the role of the vocal and visual gestures in identifying the basic emotions and discussing the interaction between the visual, vocal and semantic dimensions in the evaluation of the utterances constituting the research corpus so as to explore the links between gestural prosody and emotive expression. The research hypothesis is that there will be differences in the interpretation if visual or vocal cues are considered in isolation or together and that depending on the nature of the emotion or the semantic load of the utterance the visual or the vocal aspects will have a stronger influence on perceptual judgments. The relations between gestural prosody and emotional expression are investigated with the following analytical procedures and methods: acoustic analysis by means of measures extracted by the ExpressionEvaluator Script developed by Barbosa (2009); perceptual evaluation tests applied to a group of 34 judges using the Gtrace developed by MCKeownetal (2011) to identify valence (positiveness or negativeness) and a set of 7 basic emotions (joy, happiness, anger, shame, fear, sadness and distress); visual gestural description based on a visual profile which takes into account facial movements and their directionality; description of the voice quality settings by means of the application of the VPAS developed by Laver and Mackenzie (2007) as adapted to Portuguese by Camargo and Madureira (2008). The correlation among the variables was made by non-parametric tests applying the FAMD, MCA, PCA,HCPC and MFA methods. The results indicate that the VPAS variables Raised Larynx and High Pitch and the acoustic measures mednf0 and quan995f0 had a stronger influence in the correlations between the vocal gestures and the emotional expression. As evidences of the variables which emerged with wider significance and showed their strength in the formation of utterance clusters, vocal gestuality was interpreted in terms of metaphors of the emotions expressed in speech. The analysis of the role of the vocal and visual gestures in the identification of valence and emotions showed that VPAS variables and the Expression Evaluator measures were quite influential. VPAS had a weight to represent the vector space of the variables under study. Our hypothesis related to the integration between the semantic and vocal and visual dimensions were confirmed. Both visual and vocal prosody interact with the semantic domain, emphasizing or changing the semantic load of the utterances. The differences concerning the interpretation of visual or vocal cues taken in isolation or together were pointed out. It was also found that the identification of emotions and valence varied depending on the emotion category or on the specificity attributed to valence. As a conclusion the contributions of this work to evaluate the communicative relevance of the voice qualities in the expression of emotions in speech and the utterances better representing the analyzed emotions were discussed and the path taken in building up the work was traced |
publishDate |
2014 |
dc.date.available.fl_str_mv |
2014-06-25 |
dc.date.issued.fl_str_mv |
2014-04-29 |
dc.date.accessioned.fl_str_mv |
2016-04-28T18:22:51Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/doctoralThesis |
format |
doctoralThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
Fontes, Mario Augusto de Souza. Gestualidade vocal e visual, expressão de emoções e comunicação falada. 2014. 193 f. Tese (Doutorado em Lingüística) - Pontifícia Universidade Católica de São Paulo, São Paulo, 2014. |
dc.identifier.uri.fl_str_mv |
https://tede2.pucsp.br/handle/handle/13672 |
identifier_str_mv |
Fontes, Mario Augusto de Souza. Gestualidade vocal e visual, expressão de emoções e comunicação falada. 2014. 193 f. Tese (Doutorado em Lingüística) - Pontifícia Universidade Católica de São Paulo, São Paulo, 2014. |
url |
https://tede2.pucsp.br/handle/handle/13672 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.publisher.none.fl_str_mv |
Pontifícia Universidade Católica de São Paulo |
dc.publisher.program.fl_str_mv |
Programa de Estudos Pós-Graduados em Linguística Aplicada e Estudos da Linguagem |
dc.publisher.initials.fl_str_mv |
PUC-SP |
dc.publisher.country.fl_str_mv |
BR |
dc.publisher.department.fl_str_mv |
Lingüística |
publisher.none.fl_str_mv |
Pontifícia Universidade Católica de São Paulo |
dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da PUC_SP instname:Pontifícia Universidade Católica de São Paulo (PUC-SP) instacron:PUC_SP |
instname_str |
Pontifícia Universidade Católica de São Paulo (PUC-SP) |
instacron_str |
PUC_SP |
institution |
PUC_SP |
reponame_str |
Biblioteca Digital de Teses e Dissertações da PUC_SP |
collection |
Biblioteca Digital de Teses e Dissertações da PUC_SP |
bitstream.url.fl_str_mv |
https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/3/Mario%20Augusto%20de%20Souza%20Fontes.pdf.txt https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/1/Mario%20Augusto%20de%20Souza%20Fontes.pdf https://repositorio.pucsp.br/xmlui/bitstream/handle/13672/2/Mario%20Augusto%20de%20Souza%20Fontes.pdf.jpg |
bitstream.checksum.fl_str_mv |
e0475305a6efb6ab19dcc39d347f175e c7ff5cc05505a43e5e72d43d7e407eb1 cc73c4c239a4c332d642ba1e7c7a9fb2 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 |
repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da PUC_SP - Pontifícia Universidade Católica de São Paulo (PUC-SP) |
repository.mail.fl_str_mv |
bngkatende@pucsp.br||rapassi@pucsp.br |
_version_ |
1809277983954829312 |