Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis
Autor(a) principal: | |
---|---|
Data de Publicação: | 2022 |
Tipo de documento: | Dissertação |
Idioma: | eng |
Título da fonte: | Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) |
Texto Completo: | http://repositorio.utfpr.edu.br/jspui/handle/1/30278 |
Resumo: | A análise visual de sentimentos é um problema desafiador. Uma série de abordagens e conjuntos de dados foram desenvolvidos para promover avanços neste relevante tópico de pesquisa. No entanto, a maioria dos trabalhos investiga os atributos visuais das imagens avaliadas, dando menos atenção às percepções dos usuários ou espectadores. Com o objetivo de preencher essa lacuna, apresentamos o PerceptSent, um novo conjunto de dados para análise visual de sentimentos que abrange 5.000 imagens compartilhadas por usuários em redes sociais. Além da avaliação do sentimento (positiva, levemente positiva, neutra, levemente negativa, negativa) expresso por cada avaliador sobre cada imagem analisada, o conjunto de dados contém os metadados do avaliador (idade, gênero, nível socioeconômico, escolaridade e dicas psicológicas) bem como percepções subjetivas observadas pelo avaliador sobre a imagem como a presença da natureza, violência, falta de manutenção, etc. Arquiteturas profundas e diferentes formulações do problema são exploradas usando o conjunto de dados proposto, visando combinar atributos visuais e extras para análise automática de sentimentos. Mostramos evidências de que as percepções do avaliador, quando corretamente empregadas, são cruciais na análise de sentimentos visuais, capazes de melhorar a precisão e o desempenho F-score em 30%, em média, para uma taxa impressionante 97,00% e 96,80%, respectivamente. Embora neste momento não tenhamos abordagens automáticas para capturar essas percepções, nossos resultados abrem novos caminhos de investigação. A base de dados PerceptSent e os modelos treinados estão disponíveis no GitHub. |
id |
UTFPR-12_aa737993f54aa09ed4ede23ea1569124 |
---|---|
oai_identifier_str |
oai:repositorio.utfpr.edu.br:1/30278 |
network_acronym_str |
UTFPR-12 |
network_name_str |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) |
repository_id_str |
|
spelling |
2022-12-08T19:03:44Z2022-12-08T19:03:44Z2022-08-24LOPES, Cesar Rafael. Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis. 2022. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2022.http://repositorio.utfpr.edu.br/jspui/handle/1/30278A análise visual de sentimentos é um problema desafiador. Uma série de abordagens e conjuntos de dados foram desenvolvidos para promover avanços neste relevante tópico de pesquisa. No entanto, a maioria dos trabalhos investiga os atributos visuais das imagens avaliadas, dando menos atenção às percepções dos usuários ou espectadores. Com o objetivo de preencher essa lacuna, apresentamos o PerceptSent, um novo conjunto de dados para análise visual de sentimentos que abrange 5.000 imagens compartilhadas por usuários em redes sociais. Além da avaliação do sentimento (positiva, levemente positiva, neutra, levemente negativa, negativa) expresso por cada avaliador sobre cada imagem analisada, o conjunto de dados contém os metadados do avaliador (idade, gênero, nível socioeconômico, escolaridade e dicas psicológicas) bem como percepções subjetivas observadas pelo avaliador sobre a imagem como a presença da natureza, violência, falta de manutenção, etc. Arquiteturas profundas e diferentes formulações do problema são exploradas usando o conjunto de dados proposto, visando combinar atributos visuais e extras para análise automática de sentimentos. Mostramos evidências de que as percepções do avaliador, quando corretamente empregadas, são cruciais na análise de sentimentos visuais, capazes de melhorar a precisão e o desempenho F-score em 30%, em média, para uma taxa impressionante 97,00% e 96,80%, respectivamente. Embora neste momento não tenhamos abordagens automáticas para capturar essas percepções, nossos resultados abrem novos caminhos de investigação. A base de dados PerceptSent e os modelos treinados estão disponíveis no GitHub.Visual sentiment analysis is a challenging problem. Many datasets and approaches have been designed to foster breakthroughs in this trending research topic. However, most works scrutinize basic visual attributes from images, paying less attention to the viewers’ perceptions. Aiming to fill this gap, we present PerceptSent, a novel dataset for visual sentiment analysis that spans 5,000 images shared by users on social networks. Besides the sentiment opinion (positive, slightly positive, neutral, slightly negative, negative) expressed by every evaluator about each image analyzed, the dataset contains evaluator’s metadata (age, gender, socioeconomic status, education, and psychological hints) as well as subjective perceptions observed by the evaluator about the image — such as the presence of nature, violence, lack of maintenance, etc. Deep architectures and different problem formulations are explored using our dataset to combine visual and extra attributes for automatic sentiment analysis. We show evidence that evaluator’s perceptions, when correctly employed, are crucial in visual sentiment analysis, capable of improving accuracy and F-score performance in 30%, in average, reaching an impressive rate of 97.00% and 96.80%, respectively. Although at this point, we do not have automatic approaches to capture these perceptions, our results open up new investigation avenues. The proposed dataset and trained models are available on GitHub.engUniversidade Tecnológica Federal do ParanáCuritibaPrograma de Pós-Graduação em Engenharia Elétrica e Informática IndustrialUTFPRBrasilhttp://creativecommons.org/licenses/by/4.0/info:eu-repo/semantics/openAccessCNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAOEngenharia ElétricaPercepção visualEmoções - AnáliseRedes neurais (Computação)Imagens - AnáliseInteligência artificialVisual perceptionEmotions - AnalysisNeural networks (Computer science)Pictures - AnalysisArtificial intelligencePerceptsent: exploring subjectivity in a novel dataset for visual sentiment analysisPerceptSent: explorando a subjetividade em um novo conjunto de dados para análise de sentimento visualinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisCuritibaMinetto, Rodrigohttps://orcid.org/0000-0003-2277-4632http://lattes.cnpq.br/8366112479020867Delgado, Myriam Regattieri de Biase da Silvahttps://orcid.org/0000-0002-2791-174Xhttp://lattes.cnpq.br/4166922845507601Silva, Ricardo Dutra dahttps://orcid.org/0000-0002-8002-8411http://lattes.cnpq.br/8512085741397097Pereira, Robertohttps://orcid.org/0000-0003-3052-3016http://lattes.cnpq.br/1607596289960868Minetto, Rodrigohttps://orcid.org/0000-0003-2277-4632http://lattes.cnpq.br/8366112479020867https://orcid.org/0000-0001-6039-7597http://lattes.cnpq.br/8634988274126947Lopes, Cesar Rafaelreponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT))instname:Universidade Tecnológica Federal do Paraná (UTFPR)instacron:UTFPRORIGINALperceptsentsentimentanalysis.pdfapplication/pdf5995026http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/1/perceptsentsentimentanalysis.pdf2df65f4f0a4596a8e345eed9014d2351MD51CC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-8908http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/2/license_rdf0175ea4a2d4caec4bbcc37e300941108MD52LICENSElicense.txtlicense.txttext/plain; charset=utf-81290http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/3/license.txtb9d82215ab23456fa2d8b49c5df1b95bMD53TEXTperceptsentsentimentanalysis.pdf.txtperceptsentsentimentanalysis.pdf.txtExtracted texttext/plain175746http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/4/perceptsentsentimentanalysis.pdf.txte8fefcf21a25c4325cea13ee98a9beefMD54THUMBNAILperceptsentsentimentanalysis.pdf.jpgperceptsentsentimentanalysis.pdf.jpgGenerated Thumbnailimage/jpeg1235http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/5/perceptsentsentimentanalysis.pdf.jpgd3a4352fe787a0ea764d268dd64e528dMD551/302782022-12-09 04:06:48.285oai:repositorio.utfpr.edu.br:1/30278TmEgcXVhbGlkYWRlIGRlIHRpdHVsYXIgZG9zIGRpcmVpdG9zIGRlIGF1dG9yIGRhIHB1YmxpY2HDp8OjbywgYXV0b3Jpem8gYSBVVEZQUiBhIHZlaWN1bGFyLCAKYXRyYXbDqXMgZG8gUG9ydGFsIGRlIEluZm9ybWHDp8OjbyBlbSBBY2Vzc28gQWJlcnRvIChQSUFBKSBlIGRvcyBDYXTDoWxvZ29zIGRhcyBCaWJsaW90ZWNhcyAKZGVzdGEgSW5zdGl0dWnDp8Ojbywgc2VtIHJlc3NhcmNpbWVudG8gZG9zIGRpcmVpdG9zIGF1dG9yYWlzLCBkZSBhY29yZG8gY29tIGEgTGVpIG5vIDkuNjEwLzk4LCAKbyB0ZXh0byBkZXN0YSBvYnJhLCBvYnNlcnZhbmRvIGFzIGNvbmRpw6fDtWVzIGRlIGRpc3BvbmliaWxpemHDp8OjbyByZWdpc3RyYWRhcyBubyBpdGVtIDQgZG8gCuKAnFRlcm1vIGRlIEF1dG9yaXphw6fDo28gcGFyYSBQdWJsaWNhw6fDo28gZGUgVHJhYmFsaG9zIGRlIENvbmNsdXPDo28gZGUgQ3Vyc28gZGUgR3JhZHVhw6fDo28gZSAKRXNwZWNpYWxpemHDp8OjbywgRGlzc2VydGHDp8O1ZXMgZSBUZXNlcyBubyBQb3J0YWwgZGUgSW5mb3JtYcOnw6NvIGUgbm9zIENhdMOhbG9nb3MgRWxldHLDtG5pY29zIGRvIApTaXN0ZW1hIGRlIEJpYmxpb3RlY2FzIGRhIFVURlBS4oCdLCBwYXJhIGZpbnMgZGUgbGVpdHVyYSwgaW1wcmVzc8OjbyBlL291IGRvd25sb2FkLCB2aXNhbmRvIGEgCmRpdnVsZ2HDp8OjbyBkYSBwcm9kdcOnw6NvIGNpZW50w61maWNhIGJyYXNpbGVpcmEuCgogIEFzIHZpYXMgb3JpZ2luYWlzIGUgYXNzaW5hZGFzIHBlbG8ocykgYXV0b3IoZXMpIGRvIOKAnFRlcm1vIGRlIEF1dG9yaXphw6fDo28gcGFyYSBQdWJsaWNhw6fDo28gZGUgClRyYWJhbGhvcyBkZSBDb25jbHVzw6NvIGRlIEN1cnNvIGRlIEdyYWR1YcOnw6NvIGUgRXNwZWNpYWxpemHDp8OjbywgRGlzc2VydGHDp8O1ZXMgZSBUZXNlcyBubyBQb3J0YWwgCmRlIEluZm9ybWHDp8OjbyBlIG5vcyBDYXTDoWxvZ29zIEVsZXRyw7RuaWNvcyBkbyBTaXN0ZW1hIGRlIEJpYmxpb3RlY2FzIGRhIFVURlBS4oCdIGUgZGEg4oCcRGVjbGFyYcOnw6NvIApkZSBBdXRvcmlh4oCdIGVuY29udHJhbS1zZSBhcnF1aXZhZGFzIG5hIEJpYmxpb3RlY2EgZG8gQ8OibXB1cyBubyBxdWFsIG8gdHJhYmFsaG8gZm9pIGRlZmVuZGlkby4gCk5vIGNhc28gZGUgcHVibGljYcOnw7VlcyBkZSBhdXRvcmlhIGNvbGV0aXZhIGUgbXVsdGljw6JtcHVzLCBvcyBkb2N1bWVudG9zIGZpY2Fyw6NvIHNvYiBndWFyZGEgZGEgCkJpYmxpb3RlY2EgY29tIGEgcXVhbCBvIOKAnHByaW1laXJvIGF1dG9y4oCdIHBvc3N1YSB2w61uY3Vsby4KRepositório de PublicaçõesPUBhttp://repositorio.utfpr.edu.br:8080/oai/requestopendoar:2022-12-09T06:06:48Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR)false |
dc.title.pt_BR.fl_str_mv |
Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis |
dc.title.alternative.pt_BR.fl_str_mv |
PerceptSent: explorando a subjetividade em um novo conjunto de dados para análise de sentimento visual |
title |
Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis |
spellingShingle |
Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis Lopes, Cesar Rafael CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO Percepção visual Emoções - Análise Redes neurais (Computação) Imagens - Análise Inteligência artificial Visual perception Emotions - Analysis Neural networks (Computer science) Pictures - Analysis Artificial intelligence Engenharia Elétrica |
title_short |
Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis |
title_full |
Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis |
title_fullStr |
Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis |
title_full_unstemmed |
Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis |
title_sort |
Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis |
author |
Lopes, Cesar Rafael |
author_facet |
Lopes, Cesar Rafael |
author_role |
author |
dc.contributor.advisor1.fl_str_mv |
Minetto, Rodrigo |
dc.contributor.advisor1ID.fl_str_mv |
https://orcid.org/0000-0003-2277-4632 |
dc.contributor.advisor1Lattes.fl_str_mv |
http://lattes.cnpq.br/8366112479020867 |
dc.contributor.advisor-co1.fl_str_mv |
Delgado, Myriam Regattieri de Biase da Silva |
dc.contributor.advisor-co1ID.fl_str_mv |
https://orcid.org/0000-0002-2791-174X |
dc.contributor.advisor-co1Lattes.fl_str_mv |
http://lattes.cnpq.br/4166922845507601 |
dc.contributor.referee1.fl_str_mv |
Silva, Ricardo Dutra da |
dc.contributor.referee1ID.fl_str_mv |
https://orcid.org/0000-0002-8002-8411 |
dc.contributor.referee1Lattes.fl_str_mv |
http://lattes.cnpq.br/8512085741397097 |
dc.contributor.referee2.fl_str_mv |
Pereira, Roberto |
dc.contributor.referee2ID.fl_str_mv |
https://orcid.org/0000-0003-3052-3016 |
dc.contributor.referee2Lattes.fl_str_mv |
http://lattes.cnpq.br/1607596289960868 |
dc.contributor.referee3.fl_str_mv |
Minetto, Rodrigo |
dc.contributor.referee3ID.fl_str_mv |
https://orcid.org/0000-0003-2277-4632 |
dc.contributor.referee3Lattes.fl_str_mv |
http://lattes.cnpq.br/8366112479020867 |
dc.contributor.authorID.fl_str_mv |
https://orcid.org/0000-0001-6039-7597 |
dc.contributor.authorLattes.fl_str_mv |
http://lattes.cnpq.br/8634988274126947 |
dc.contributor.author.fl_str_mv |
Lopes, Cesar Rafael |
contributor_str_mv |
Minetto, Rodrigo Delgado, Myriam Regattieri de Biase da Silva Silva, Ricardo Dutra da Pereira, Roberto Minetto, Rodrigo |
dc.subject.cnpq.fl_str_mv |
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO |
topic |
CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO Percepção visual Emoções - Análise Redes neurais (Computação) Imagens - Análise Inteligência artificial Visual perception Emotions - Analysis Neural networks (Computer science) Pictures - Analysis Artificial intelligence Engenharia Elétrica |
dc.subject.por.fl_str_mv |
Percepção visual Emoções - Análise Redes neurais (Computação) Imagens - Análise Inteligência artificial Visual perception Emotions - Analysis Neural networks (Computer science) Pictures - Analysis Artificial intelligence |
dc.subject.capes.pt_BR.fl_str_mv |
Engenharia Elétrica |
description |
A análise visual de sentimentos é um problema desafiador. Uma série de abordagens e conjuntos de dados foram desenvolvidos para promover avanços neste relevante tópico de pesquisa. No entanto, a maioria dos trabalhos investiga os atributos visuais das imagens avaliadas, dando menos atenção às percepções dos usuários ou espectadores. Com o objetivo de preencher essa lacuna, apresentamos o PerceptSent, um novo conjunto de dados para análise visual de sentimentos que abrange 5.000 imagens compartilhadas por usuários em redes sociais. Além da avaliação do sentimento (positiva, levemente positiva, neutra, levemente negativa, negativa) expresso por cada avaliador sobre cada imagem analisada, o conjunto de dados contém os metadados do avaliador (idade, gênero, nível socioeconômico, escolaridade e dicas psicológicas) bem como percepções subjetivas observadas pelo avaliador sobre a imagem como a presença da natureza, violência, falta de manutenção, etc. Arquiteturas profundas e diferentes formulações do problema são exploradas usando o conjunto de dados proposto, visando combinar atributos visuais e extras para análise automática de sentimentos. Mostramos evidências de que as percepções do avaliador, quando corretamente empregadas, são cruciais na análise de sentimentos visuais, capazes de melhorar a precisão e o desempenho F-score em 30%, em média, para uma taxa impressionante 97,00% e 96,80%, respectivamente. Embora neste momento não tenhamos abordagens automáticas para capturar essas percepções, nossos resultados abrem novos caminhos de investigação. A base de dados PerceptSent e os modelos treinados estão disponíveis no GitHub. |
publishDate |
2022 |
dc.date.accessioned.fl_str_mv |
2022-12-08T19:03:44Z |
dc.date.available.fl_str_mv |
2022-12-08T19:03:44Z |
dc.date.issued.fl_str_mv |
2022-08-24 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
LOPES, Cesar Rafael. Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis. 2022. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2022. |
dc.identifier.uri.fl_str_mv |
http://repositorio.utfpr.edu.br/jspui/handle/1/30278 |
identifier_str_mv |
LOPES, Cesar Rafael. Perceptsent: exploring subjectivity in a novel dataset for visual sentiment analysis. 2022. Dissertação (Mestrado em Engenharia Elétrica e Informática Industrial) - Universidade Tecnológica Federal do Paraná, Curitiba, 2022. |
url |
http://repositorio.utfpr.edu.br/jspui/handle/1/30278 |
dc.language.iso.fl_str_mv |
eng |
language |
eng |
dc.rights.driver.fl_str_mv |
http://creativecommons.org/licenses/by/4.0/ info:eu-repo/semantics/openAccess |
rights_invalid_str_mv |
http://creativecommons.org/licenses/by/4.0/ |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Tecnológica Federal do Paraná Curitiba |
dc.publisher.program.fl_str_mv |
Programa de Pós-Graduação em Engenharia Elétrica e Informática Industrial |
dc.publisher.initials.fl_str_mv |
UTFPR |
dc.publisher.country.fl_str_mv |
Brasil |
publisher.none.fl_str_mv |
Universidade Tecnológica Federal do Paraná Curitiba |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) instname:Universidade Tecnológica Federal do Paraná (UTFPR) instacron:UTFPR |
instname_str |
Universidade Tecnológica Federal do Paraná (UTFPR) |
instacron_str |
UTFPR |
institution |
UTFPR |
reponame_str |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) |
collection |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) |
bitstream.url.fl_str_mv |
http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/1/perceptsentsentimentanalysis.pdf http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/2/license_rdf http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/3/license.txt http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/4/perceptsentsentimentanalysis.pdf.txt http://repositorio.utfpr.edu.br:8080/jspui/bitstream/1/30278/5/perceptsentsentimentanalysis.pdf.jpg |
bitstream.checksum.fl_str_mv |
2df65f4f0a4596a8e345eed9014d2351 0175ea4a2d4caec4bbcc37e300941108 b9d82215ab23456fa2d8b49c5df1b95b e8fefcf21a25c4325cea13ee98a9beef d3a4352fe787a0ea764d268dd64e528d |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UTFPR (da Universidade Tecnológica Federal do Paraná (RIUT)) - Universidade Tecnológica Federal do Paraná (UTFPR) |
repository.mail.fl_str_mv |
|
_version_ |
1805922899338461184 |