Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)

Detalhes bibliográficos
Autor(a) principal: Zhang, Ana Carolina
Data de Publicação: 2024
Outros Autores: Rodrigues, Heloisa Mariani
Tipo de documento: Trabalho de conclusão de curso
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da PUC_SP
Texto Completo: https://repositorio.pucsp.br/jspui/handle/handle/42330
Resumo: In this study, we explored strategies to detect Brazilian Sign Language (Libras) signs, facing significant challenges. Initially, using a Convolutional Neural Network (CNN) with the UEFS dataset, we encountered inaccuracies due to the low resolution of the images. When applying the CNN to the ROBOFLOW dataset, the results were still unsatisfactory, indicating the complexity of the problem and the presence of overfitting. We chose to integrate MediaPipe with the ROBOFLOW data, achieving an accuracy of 93.66%. The results underscore the importance of technological innovation in promoting inclusion and accessibility for the deaf community, with the potential to significantly improve the quality of life and inclusion of deaf individuals
id PUC_SP-1_85e12d45d6e997aab90377a9f612e4d8
oai_identifier_str oai:repositorio.pucsp.br:handle/42330
network_acronym_str PUC_SP-1
network_name_str Biblioteca Digital de Teses e Dissertações da PUC_SP
repository_id_str
spelling Coelho, Rooney Ribeiro Albuquerquehttp://lattes.cnpq.br/4820429011606720Zhang, Ana CarolinaRodrigues, Heloisa Mariani2024-07-23T18:46:59Z2024-07-23T18:46:59Z2024-04-23Zhang, Ana Carolina; Rodrigues, Heloisa Mariani. Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras). 2024. Trabalho de Conclusão de Curso (Graduação em Ciência de Dados e Inteligência Artificial) - Faculdade de Estudos Interdisciplinares da Pontifícia Universidade Católica de São Paulo, São Paulo, 2024.https://repositorio.pucsp.br/jspui/handle/handle/42330In this study, we explored strategies to detect Brazilian Sign Language (Libras) signs, facing significant challenges. Initially, using a Convolutional Neural Network (CNN) with the UEFS dataset, we encountered inaccuracies due to the low resolution of the images. When applying the CNN to the ROBOFLOW dataset, the results were still unsatisfactory, indicating the complexity of the problem and the presence of overfitting. We chose to integrate MediaPipe with the ROBOFLOW data, achieving an accuracy of 93.66%. The results underscore the importance of technological innovation in promoting inclusion and accessibility for the deaf community, with the potential to significantly improve the quality of life and inclusion of deaf individualsNeste estudo, exploramos estratégias para detectar sinais da Língua Brasileira de Sinais (Libras), enfrentando desafios significativos. Inicialmente, usando uma Rede Neural Convolucional (CNN) com o conjunto de dados da UEFS, enfrentamos imprecisões devido à baixa resolução das imagens. Ao aplicar a CNN ao conjunto de dados do ROBOFLOW, os resultados ainda não foram satisfatórios, indicando a complexidade do problema e a presença de overfitting. Optamos por integrar a MediaPipe com os dados do ROBOFLOW, alcançando uma acurácia de 93,66%. Os resultados destacam a importância da inovação tecnológica na promoção da inclusão e acessibilidade para a comunidade surda, com potencial para melhorar significativamente a qualidade de vida e a inclusão dos surdosporPontifícia Universidade Católica de São PauloGraduação em Ciência de Dados e Inteligência ArtificialPUC-SPBrasilFaculdade de Estudos InterdisciplinaresCNPQ::ENGENHARIASLíngua Brasileira de Sinais (Libras)Detecção de sinaisRede Neural Convolucional (CNN)MediaPipeAcessibilidadeTecnologia assistiveComunidade surdaInclusãoReconhecimento de gestosROBOFLOWMLP (Multilayer Perceptron)Brazilian Sign Language (Libras)Sign detectionConvolutional Neural Network (CNN)MediaPipeAccessibilityAssistive technologyDeaf communityInclusionGesture recognitionROBOFLOWMLP (Multilayer Perceptron)Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesisinfo:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da PUC_SPinstname:Pontifícia Universidade Católica de São Paulo (PUC-SP)instacron:PUC_SPORIGINALAplicação de Redes Neurais na Detecção de Sím_Heloisa Mariani Rodr.pdfapplication/pdf444294https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/1/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf0c7b7c0f7e49ec0e27cb9ec73a463ed8MD51TEXTAplicação de Redes Neurais na Detecção de Sím_Heloisa Mariani Rodr.pdf.txtAplicação de Redes Neurais na Detecção de Sím_Heloisa Mariani Rodr.pdf.txtExtracted texttext/plain23070https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/2/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf.txtc9c746f27b9c1c27f15a720fa481e4acMD52THUMBNAILAplicação de Redes Neurais na Detecção de Sím_Heloisa Mariani Rodr.pdf.jpgAplicação de Redes Neurais na Detecção de Sím_Heloisa Mariani Rodr.pdf.jpgGenerated Thumbnailimage/jpeg1685https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/3/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf.jpgc93aed0b979d380206e3245f91b88632MD53handle/423302024-07-24 01:02:29.35oai:repositorio.pucsp.br:handle/42330Biblioteca Digital de Teses e Dissertaçõeshttps://sapientia.pucsp.br/https://sapientia.pucsp.br/oai/requestbngkatende@pucsp.br||rapassi@pucsp.bropendoar:2024-07-24T04:02:29Biblioteca Digital de Teses e Dissertações da PUC_SP - Pontifícia Universidade Católica de São Paulo (PUC-SP)false
dc.title.pt_BR.fl_str_mv Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)
title Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)
spellingShingle Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)
Zhang, Ana Carolina
CNPQ::ENGENHARIAS
Língua Brasileira de Sinais (Libras)
Detecção de sinais
Rede Neural Convolucional (CNN)
MediaPipe
Acessibilidade
Tecnologia assistive
Comunidade surda
Inclusão
Reconhecimento de gestos
ROBOFLOW
MLP (Multilayer Perceptron)
Brazilian Sign Language (Libras)
Sign detection
Convolutional Neural Network (CNN)
MediaPipe
Accessibility
Assistive technology
Deaf community
Inclusion
Gesture recognition
ROBOFLOW
MLP (Multilayer Perceptron)
title_short Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)
title_full Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)
title_fullStr Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)
title_full_unstemmed Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)
title_sort Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)
author Zhang, Ana Carolina
author_facet Zhang, Ana Carolina
Rodrigues, Heloisa Mariani
author_role author
author2 Rodrigues, Heloisa Mariani
author2_role author
dc.contributor.advisor1.fl_str_mv Coelho, Rooney Ribeiro Albuquerque
dc.contributor.advisor1Lattes.fl_str_mv http://lattes.cnpq.br/4820429011606720
dc.contributor.author.fl_str_mv Zhang, Ana Carolina
Rodrigues, Heloisa Mariani
contributor_str_mv Coelho, Rooney Ribeiro Albuquerque
dc.subject.cnpq.fl_str_mv CNPQ::ENGENHARIAS
topic CNPQ::ENGENHARIAS
Língua Brasileira de Sinais (Libras)
Detecção de sinais
Rede Neural Convolucional (CNN)
MediaPipe
Acessibilidade
Tecnologia assistive
Comunidade surda
Inclusão
Reconhecimento de gestos
ROBOFLOW
MLP (Multilayer Perceptron)
Brazilian Sign Language (Libras)
Sign detection
Convolutional Neural Network (CNN)
MediaPipe
Accessibility
Assistive technology
Deaf community
Inclusion
Gesture recognition
ROBOFLOW
MLP (Multilayer Perceptron)
dc.subject.por.fl_str_mv Língua Brasileira de Sinais (Libras)
Detecção de sinais
Rede Neural Convolucional (CNN)
MediaPipe
Acessibilidade
Tecnologia assistive
Comunidade surda
Inclusão
Reconhecimento de gestos
ROBOFLOW
MLP (Multilayer Perceptron)
dc.subject.eng.fl_str_mv Brazilian Sign Language (Libras)
Sign detection
Convolutional Neural Network (CNN)
MediaPipe
Accessibility
Assistive technology
Deaf community
Inclusion
Gesture recognition
ROBOFLOW
MLP (Multilayer Perceptron)
description In this study, we explored strategies to detect Brazilian Sign Language (Libras) signs, facing significant challenges. Initially, using a Convolutional Neural Network (CNN) with the UEFS dataset, we encountered inaccuracies due to the low resolution of the images. When applying the CNN to the ROBOFLOW dataset, the results were still unsatisfactory, indicating the complexity of the problem and the presence of overfitting. We chose to integrate MediaPipe with the ROBOFLOW data, achieving an accuracy of 93.66%. The results underscore the importance of technological innovation in promoting inclusion and accessibility for the deaf community, with the potential to significantly improve the quality of life and inclusion of deaf individuals
publishDate 2024
dc.date.accessioned.fl_str_mv 2024-07-23T18:46:59Z
dc.date.available.fl_str_mv 2024-07-23T18:46:59Z
dc.date.issued.fl_str_mv 2024-04-23
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/bachelorThesis
format bachelorThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv Zhang, Ana Carolina; Rodrigues, Heloisa Mariani. Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras). 2024. Trabalho de Conclusão de Curso (Graduação em Ciência de Dados e Inteligência Artificial) - Faculdade de Estudos Interdisciplinares da Pontifícia Universidade Católica de São Paulo, São Paulo, 2024.
dc.identifier.uri.fl_str_mv https://repositorio.pucsp.br/jspui/handle/handle/42330
identifier_str_mv Zhang, Ana Carolina; Rodrigues, Heloisa Mariani. Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras). 2024. Trabalho de Conclusão de Curso (Graduação em Ciência de Dados e Inteligência Artificial) - Faculdade de Estudos Interdisciplinares da Pontifícia Universidade Católica de São Paulo, São Paulo, 2024.
url https://repositorio.pucsp.br/jspui/handle/handle/42330
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Pontifícia Universidade Católica de São Paulo
dc.publisher.program.fl_str_mv Graduação em Ciência de Dados e Inteligência Artificial
dc.publisher.initials.fl_str_mv PUC-SP
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv Faculdade de Estudos Interdisciplinares
publisher.none.fl_str_mv Pontifícia Universidade Católica de São Paulo
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da PUC_SP
instname:Pontifícia Universidade Católica de São Paulo (PUC-SP)
instacron:PUC_SP
instname_str Pontifícia Universidade Católica de São Paulo (PUC-SP)
instacron_str PUC_SP
institution PUC_SP
reponame_str Biblioteca Digital de Teses e Dissertações da PUC_SP
collection Biblioteca Digital de Teses e Dissertações da PUC_SP
bitstream.url.fl_str_mv https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/1/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf
https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/2/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf.txt
https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/3/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf.jpg
bitstream.checksum.fl_str_mv 0c7b7c0f7e49ec0e27cb9ec73a463ed8
c9c746f27b9c1c27f15a720fa481e4ac
c93aed0b979d380206e3245f91b88632
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da PUC_SP - Pontifícia Universidade Católica de São Paulo (PUC-SP)
repository.mail.fl_str_mv bngkatende@pucsp.br||rapassi@pucsp.br
_version_ 1809278020176838656