Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis

Detalhes bibliográficos
Autor(a) principal: Lopes, Cesar Rafael
Data de Publicação: 2022
Tipo de documento: Dissertação
Idioma: eng
Título da fonte: Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
Texto Completo: http://repositorio.utfpr.edu.br/jspui/handle/1/30278
Resumo: A análise visual de sentimentos é um problema desafiador. Uma série de abordagens e conjuntos de dados foram desenvolvidos para promover avanços neste relevante tópico de pesquisa. No entanto, a maioria dos trabalhos investiga os atributos visuais das imagens avaliadas, dando menos atenção às percepções dos usuários ou espectadores. Com o objetivo de preencher essa lacuna, apresentamos o PerceptSent, um novo conjunto de dados para análise visual de sentimentos que abrange 5.000 imagens compartilhadas por usuários em redes sociais. Além da avaliação do sentimento (positiva, levemente positiva, neutra, levemente negativa, negativa) expresso por cada avaliador sobre cada imagem analisada, o conjunto de dados contém os metadados do avaliador (idade, gênero, nível socioeconômico, escolaridade e dicas psicológicas) bem como percepções subjetivas observadas pelo avaliador sobre a imagem como a presença da natureza, violência, falta de manutenção, etc. Arquiteturas profundas e diferentes formulações do problema são exploradas usando o conjunto de dados proposto, visando combinar atributos visuais e extras para análise automática de sentimentos. Mostramos evidências de que as percepções do avaliador, quando corretamente empregadas, são cruciais na análise de sentimentos visuais, capazes de melhorar a precisão e o desempenho F-score em 30%, em média, para uma taxa impressionante 97,00% e 96,80%, respectivamente. Embora neste momento não tenhamos abordagens automáticas para capturar essas percepções, nossos resultados abrem novos caminhos de investigação. A base de dados PerceptSent e os modelos treinados estão disponíveis no GitHub.
id UTFPR-12_aa737993f54aa09ed4ede23ea1569124
oai_identifier_str oai:repositorio.utfpr.edu.br:1/30278
network_acronym_str UTFPR-12
network_name_str Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
repository_id_str
spelling 2022-12-08T19:03:44Z2022-12-08T19:03:44Z2022-08-24LOPES, Cesar Rafael. Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis. 2022. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2022.http://repositorio.utfpr.edu.br/jspui/handle/1/30278A análise visual de sentimentos é um problema desafiador. Uma série de abordagens e conjuntos de dados foram desenvolvidos para promover avanços neste relevante tópico de pesquisa. No entanto, a maioria dos trabalhos investiga os atributos visuais das imagens avaliadas, dando menos atenção às percepções dos usuários ou espectadores. Com o objetivo de preencher essa lacuna, apresentamos o PerceptSent, um novo conjunto de dados para análise visual de sentimentos que abrange 5.000 imagens compartilhadas por usuários em redes sociais. Além da avaliação do sentimento (positiva, levemente positiva, neutra, levemente negativa, negativa) expresso por cada avaliador sobre cada imagem analisada, o conjunto de dados contém os metadados do avaliador (idade, gênero, nível socioeconômico, escolaridade e dicas psicológicas) bem como percepções subjetivas observadas pelo avaliador sobre a imagem como a presença da natureza, violência, falta de manutenção, etc. Arquiteturas profundas e diferentes formulações do problema são exploradas usando o conjunto de dados proposto, visando combinar atributos visuais e extras para análise automática de sentimentos. Mostramos evidências de que as percepções do avaliador, quando corretamente empregadas, são cruciais na análise de sentimentos visuais, capazes de melhorar a precisão e o desempenho F-score em 30%, em média, para uma taxa impressionante 97,00% e 96,80%, respectivamente. Embora neste momento não tenhamos abordagens automáticas para capturar essas percepções, nossos resultados abrem novos caminhos de investigação. A base de dados PerceptSent e os modelos treinados estão disponíveis no GitHub.Visual sentiment analysis is a challenging problem. Many datasets and approaches have been designed to foster breakthroughs in this trending research topic. However, most works scrutinize basic visual attributes from images, paying less attention to the viewers’ perceptions. Aiming to fill this gap, we present PerceptSent, a novel dataset for visual sentiment analysis that spans 5,000 images shared by users on social networks. Besides the sentiment opinion (positive, slightly positive, neutral, slightly negative, negative) expressed by every evaluator about each image analyzed, the dataset contains evaluator’s metadata (age, gender, socioeconomic status, education, and psychological hints) as well as subjective perceptions observed by the evaluator about the image — such as the presence of nature, violence, lack of maintenance, etc. Deep architectures and different problem formulations are explored using our dataset to combine visual and extra attributes for automatic sentiment analysis. We show evidence that evaluator’s perceptions, when correctly employed, are crucial in visual sentiment analysis, capable of improving accuracy and F-score performance in 30%, in average, reaching an impressive rate of 97.00% and 96.80%, respectively. Although at this point, we do not have automatic approaches to capture these perceptions, our results open up new investigation avenues. The proposed dataset and trained models are available on GitHub.engUniversidade Tecnológica Federal do ParanáCuritibaPrograma de Pós-Graduação em Engenharia Elétrica e Informática IndustrialUTFPRBrasilhttp://creativecommons.org/licenses/by/4.0/info:eu-repo/semantics/openAccessCNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAOEngenharia ElétricaPercepção visualEmoções - AnáliseRedes neurais (Computação)Imagens - AnáliseInteligência artificialVisual perceptionEmotions - AnalysisNeural networks (Computer science)Pictures - AnalysisArtificial intelligencePerceptsent: exploring subjectivity in a novel dataset for visual sentiment analysisPerceptSent: explorando a subjetividade em um novo conjunto de dados para análise de sentimento visualinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisCuritibaMinetto, Rodrigohttps://orcid.org/0000-0003-2277-4632http://lattes.cnpq.br/8366112479020867Delgado, Myriam Regattieri de Biase da Silvahttps://orcid.org/0000-0002-2791-174Xhttp://lattes.cnpq.br/4166922845507601Silva, Ricardo Dutra dahttps://orcid.org/0000-0002-8002-8411http://lattes.cnpq.br/8512085741397097Pereira, Robertohttps://orcid.org/0000-0003-3052-3016http://lattes.cnpq.br/1607596289960868Minetto, Rodrigohttps://orcid.org/0000-0003-2277-4632http://lattes.cnpq.br/8366112479020867https://orcid.org/0000-0001-6039-7597http://lattes.cnpq.br/8634988274126947Lopes, Cesar Rafaelreponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))instname:Universidade Tecnológica Federal do Paraná (UTFPR)instacron:UTFPRORIGINALperceptsentsentimentanalysis.pdfapplication/pdf5995026http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/1/perceptsentsentimentanalysis.pdf2df65f4f0a4596a8e345eed9014d2351MD51CC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-8908http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/2/license_rdf0175ea4a2d4caec4bbcc37e300941108MD52LICENSElicense.txtlicense.txttext/plain; charset=utf-81290http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/3/license.txtb9d82215ab23456fa2d8b49c5df1b95bMD53TEXTperceptsentsentimentanalysis.pdf.txtperceptsentsentimentanalysis.pdf.txtExtracted texttext/plain175746http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/4/perceptsentsentimentanalysis.pdf.txte8fefcf21a25c4325cea13ee98a9beefMD54THUMBNAILperceptsentsentimentanalysis.pdf.jpgperceptsentsentimentanalysis.pdf.jpgGenerated Thumbnailimage/jpeg1235http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/5/perceptsentsentimentanalysis.pdf.jpgd3a4352fe787a0ea764d268dd64e528dMD551/302782022-12-09 04:06:48.285oai:repositorio.utfpr.edu.br:1/30278TmEgcXVhbGlkYWRlIGRlIHRpdHVsYXIgZG9zIGRpcmVpdG9zIGRlIGF1dG9yIGRhIHB1YmxpY2HDp8OjbywgYXV0b3Jpem8gYSBVVEZQUiBhIHZlaWN1bGFyLCAKYXRyYXbDqXMgZG8gUG9ydGFsIGRlIEluZm9ybWHDp8OjbyBlbSBBY2Vzc28gQWJlcnRvIChQSUFBKSBlIGRvcyBDYXTDoWxvZ29zIGRhcyBCaWJsaW90ZWNhcyAKZGVzdGEgSW5zdGl0dWnDp8Ojbywgc2VtIHJlc3NhcmNpbWVudG8gZG9zIGRpcmVpdG9zIGF1dG9yYWlzLCBkZSBhY29yZG8gY29tIGEgTGVpIG5vIDkuNjEwLzk4LCAKbyB0ZXh0byBkZXN0YSBvYnJhLCBvYnNlcnZhbmRvIGFzIGNvbmRpw6fDtWVzIGRlIGRpc3BvbmliaWxpemHDp8OjbyByZWdpc3RyYWRhcyBubyBpdGVtIDQgZG8gCuKAnFRlcm1vIGRlIEF1dG9yaXphw6fDo28gcGFyYSBQdWJsaWNhw6fDo28gZGUgVHJhYmFsaG9zIGRlIENvbmNsdXPDo28gZGUgQ3Vyc28gZGUgR3JhZHVhw6fDo28gZSAKRXNwZWNpYWxpemHDp8OjbywgRGlzc2VydGHDp8O1ZXMgZSBUZXNlcyBubyBQb3J0YWwgZGUgSW5mb3JtYcOnw6NvIGUgbm9zIENhdMOhbG9nb3MgRWxldHLDtG5pY29zIGRvIApTaXN0ZW1hIGRlIEJpYmxpb3RlY2FzIGRhIFVURlBS4oCdLCBwYXJhIGZpbnMgZGUgbGVpdHVyYSwgaW1wcmVzc8OjbyBlL291IGRvd25sb2FkLCB2aXNhbmRvIGEgCmRpdnVsZ2HDp8OjbyBkYSBwcm9kdcOnw6NvIGNpZW50w61maWNhIGJyYXNpbGVpcmEuCgogIEFzIHZpYXMgb3JpZ2luYWlzIGUgYXNzaW5hZGFzIHBlbG8ocykgYXV0b3IoZXMpIGRvIOKAnFRlcm1vIGRlIEF1dG9yaXphw6fDo28gcGFyYSBQdWJsaWNhw6fDo28gZGUgClRyYWJhbGhvcyBkZSBDb25jbHVzw6NvIGRlIEN1cnNvIGRlIEdyYWR1YcOnw6NvIGUgRXNwZWNpYWxpemHDp8OjbywgRGlzc2VydGHDp8O1ZXMgZSBUZXNlcyBubyBQb3J0YWwgCmRlIEluZm9ybWHDp8OjbyBlIG5vcyBDYXTDoWxvZ29zIEVsZXRyw7RuaWNvcyBkbyBTaXN0ZW1hIGRlIEJpYmxpb3RlY2FzIGRhIFVURlBS4oCdIGUgZGEg4oCcRGVjbGFyYcOnw6NvIApkZSBBdXRvcmlh4oCdIGVuY29udHJhbS1zZSBhcnF1aXZhZGFzIG5hIEJpYmxpb3RlY2EgZG8gQ8OibXB1cyBubyBxdWFsIG8gdHJhYmFsaG8gZm9pIGRlZmVuZGlkby4gCk5vIGNhc28gZGUgcHVibGljYcOnw7VlcyBkZSBhdXRvcmlhIGNvbGV0aXZhIGUgbXVsdGljw6JtcHVzLCBvcyBkb2N1bWVudG9zIGZpY2Fyw6NvIHNvYiBndWFyZGEgZGEgCkJpYmxpb3RlY2EgY29tIGEgcXVhbCBvIOKAnHByaW1laXJvIGF1dG9y4oCdIHBvc3N1YSB2w61uY3Vsby4KRepositório de PublicaçõesPUBhttp://repositorio.utfpr.edu.br:8080/oai/requestopendoar:2022-12-09T06:06:48Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR)false
dc.title.pt_BR.fl_str_mv Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis
dc.title.alternative.pt_BR.fl_str_mv PerceptSent: explorando a subjetividade em um novo conjunto de dados para análise de sentimento visual
title Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis
spellingShingle Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis
Lopes, Cesar Rafael
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO
Percepção visual
Emoções - Análise
Redes neurais (Computação)
Imagens - Análise
Inteligência artificial
Visual perception
Emotions - Analysis
Neural networks (Computer science)
Pictures - Analysis
Artificial intelligence
Engenharia Elétrica
title_short Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis
title_full Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis
title_fullStr Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis
title_full_unstemmed Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis
title_sort Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis
author Lopes, Cesar Rafael
author_facet Lopes, Cesar Rafael
author_role author
dc.contributor.advisor1.fl_str_mv Minetto, Rodrigo
dc.contributor.advisor1ID.fl_str_mv https://orcid.org/0000-0003-2277-4632
dc.contributor.advisor1Lattes.fl_str_mv http://lattes.cnpq.br/8366112479020867
dc.contributor.advisor-co1.fl_str_mv Delgado, Myriam Regattieri de Biase da Silva
dc.contributor.advisor-co1ID.fl_str_mv https://orcid.org/0000-0002-2791-174X
dc.contributor.advisor-co1Lattes.fl_str_mv http://lattes.cnpq.br/4166922845507601
dc.contributor.referee1.fl_str_mv Silva, Ricardo Dutra da
dc.contributor.referee1ID.fl_str_mv https://orcid.org/0000-0002-8002-8411
dc.contributor.referee1Lattes.fl_str_mv http://lattes.cnpq.br/8512085741397097
dc.contributor.referee2.fl_str_mv Pereira, Roberto
dc.contributor.referee2ID.fl_str_mv https://orcid.org/0000-0003-3052-3016
dc.contributor.referee2Lattes.fl_str_mv http://lattes.cnpq.br/1607596289960868
dc.contributor.referee3.fl_str_mv Minetto, Rodrigo
dc.contributor.referee3ID.fl_str_mv https://orcid.org/0000-0003-2277-4632
dc.contributor.referee3Lattes.fl_str_mv http://lattes.cnpq.br/8366112479020867
dc.contributor.authorID.fl_str_mv https://orcid.org/0000-0001-6039-7597
dc.contributor.authorLattes.fl_str_mv http://lattes.cnpq.br/8634988274126947
dc.contributor.author.fl_str_mv Lopes, Cesar Rafael
contributor_str_mv Minetto, Rodrigo
Delgado, Myriam Regattieri de Biase da Silva
Silva, Ricardo Dutra da
Pereira, Roberto
Minetto, Rodrigo
dc.subject.cnpq.fl_str_mv CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO
topic CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO
Percepção visual
Emoções - Análise
Redes neurais (Computação)
Imagens - Análise
Inteligência artificial
Visual perception
Emotions - Analysis
Neural networks (Computer science)
Pictures - Analysis
Artificial intelligence
Engenharia Elétrica
dc.subject.por.fl_str_mv Percepção visual
Emoções - Análise
Redes neurais (Computação)
Imagens - Análise
Inteligência artificial
Visual perception
Emotions - Analysis
Neural networks (Computer science)
Pictures - Analysis
Artificial intelligence
dc.subject.capes.pt_BR.fl_str_mv Engenharia Elétrica
description A análise visual de sentimentos é um problema desafiador. Uma série de abordagens e conjuntos de dados foram desenvolvidos para promover avanços neste relevante tópico de pesquisa. No entanto, a maioria dos trabalhos investiga os atributos visuais das imagens avaliadas, dando menos atenção às percepções dos usuários ou espectadores. Com o objetivo de preencher essa lacuna, apresentamos o PerceptSent, um novo conjunto de dados para análise visual de sentimentos que abrange 5.000 imagens compartilhadas por usuários em redes sociais. Além da avaliação do sentimento (positiva, levemente positiva, neutra, levemente negativa, negativa) expresso por cada avaliador sobre cada imagem analisada, o conjunto de dados contém os metadados do avaliador (idade, gênero, nível socioeconômico, escolaridade e dicas psicológicas) bem como percepções subjetivas observadas pelo avaliador sobre a imagem como a presença da natureza, violência, falta de manutenção, etc. Arquiteturas profundas e diferentes formulações do problema são exploradas usando o conjunto de dados proposto, visando combinar atributos visuais e extras para análise automática de sentimentos. Mostramos evidências de que as percepções do avaliador, quando corretamente empregadas, são cruciais na análise de sentimentos visuais, capazes de melhorar a precisão e o desempenho F-score em 30%, em média, para uma taxa impressionante 97,00% e 96,80%, respectivamente. Embora neste momento não tenhamos abordagens automáticas para capturar essas percepções, nossos resultados abrem novos caminhos de investigação. A base de dados PerceptSent e os modelos treinados estão disponíveis no GitHub.
publishDate 2022
dc.date.accessioned.fl_str_mv 2022-12-08T19:03:44Z
dc.date.available.fl_str_mv 2022-12-08T19:03:44Z
dc.date.issued.fl_str_mv 2022-08-24
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv LOPES, Cesar Rafael. Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis. 2022. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2022.
dc.identifier.uri.fl_str_mv http://repositorio.utfpr.edu.br/jspui/handle/1/30278
identifier_str_mv LOPES, Cesar Rafael. Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis. 2022. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2022.
url http://repositorio.utfpr.edu.br/jspui/handle/1/30278
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv http://creativecommons.org/licenses/by/4.0/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv http://creativecommons.org/licenses/by/4.0/
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Tecnológica Federal do Paraná
Curitiba
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Engenharia Elétrica e Informática Industrial
dc.publisher.initials.fl_str_mv UTFPR
dc.publisher.country.fl_str_mv Brasil
publisher.none.fl_str_mv Universidade Tecnológica Federal do Paraná
Curitiba
dc.source.none.fl_str_mv reponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
instname:Universidade Tecnológica Federal do Paraná (UTFPR)
instacron:UTFPR
instname_str Universidade Tecnológica Federal do Paraná (UTFPR)
instacron_str UTFPR
institution UTFPR
reponame_str Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
collection Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))
bitstream.url.fl_str_mv http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/1/perceptsentsentimentanalysis.pdf
http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/2/license_rdf
http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/3/license.txt
http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/4/perceptsentsentimentanalysis.pdf.txt
http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/5/perceptsentsentimentanalysis.pdf.jpg
bitstream.checksum.fl_str_mv 2df65f4f0a4596a8e345eed9014d2351
0175ea4a2d4caec4bbcc37e300941108
b9d82215ab23456fa2d8b49c5df1b95b
e8fefcf21a25c4325cea13ee98a9beef
d3a4352fe787a0ea764d268dd64e528d
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR)
repository.mail.fl_str_mv
_version_ 1805922899338461184