Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)
Autor(a) principal: | |
---|---|
Data de Publicação: | 2024 |
Outros Autores: | |
Tipo de documento: | Trabalho de conclusão de curso |
Idioma: | por |
Título da fonte: | Biblioteca Digital de Teses e Dissertações da PUC_SP |
Texto Completo: | https://repositorio.pucsp.br/jspui/handle/handle/42330 |
Resumo: | In this study, we explored strategies to detect Brazilian Sign Language (Libras) signs, facing significant challenges. Initially, using a Convolutional Neural Network (CNN) with the UEFS dataset, we encountered inaccuracies due to the low resolution of the images. When applying the CNN to the ROBOFLOW dataset, the results were still unsatisfactory, indicating the complexity of the problem and the presence of overfitting. We chose to integrate MediaPipe with the ROBOFLOW data, achieving an accuracy of 93.66%. The results underscore the importance of technological innovation in promoting inclusion and accessibility for the deaf community, with the potential to significantly improve the quality of life and inclusion of deaf individuals |
id |
PUC_SP-1_85e12d45d6e997aab90377a9f612e4d8 |
---|---|
oai_identifier_str |
oai:repositorio.pucsp.br:handle/42330 |
network_acronym_str |
PUC_SP-1 |
network_name_str |
Biblioteca Digital de Teses e Dissertações da PUC_SP |
repository_id_str |
|
spelling |
Coelho, Rooney Ribeiro Albuquerquehttp://lattes.cnpq.br/4820429011606720Zhang, Ana CarolinaRodrigues, Heloisa Mariani2024-07-23T18:46:59Z2024-07-23T18:46:59Z2024-04-23Zhang, Ana Carolina; Rodrigues, Heloisa Mariani. Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras). 2024. Trabalho de Conclusão de Curso (Graduação em Ciência de Dados e Inteligência Artificial) - Faculdade de Estudos Interdisciplinares da Pontifícia Universidade Católica de São Paulo, São Paulo, 2024.https://repositorio.pucsp.br/jspui/handle/handle/42330In this study, we explored strategies to detect Brazilian Sign Language (Libras) signs, facing significant challenges. Initially, using a Convolutional Neural Network (CNN) with the UEFS dataset, we encountered inaccuracies due to the low resolution of the images. When applying the CNN to the ROBOFLOW dataset, the results were still unsatisfactory, indicating the complexity of the problem and the presence of overfitting. We chose to integrate MediaPipe with the ROBOFLOW data, achieving an accuracy of 93.66%. The results underscore the importance of technological innovation in promoting inclusion and accessibility for the deaf community, with the potential to significantly improve the quality of life and inclusion of deaf individualsNeste estudo, exploramos estratégias para detectar sinais da Língua Brasileira de Sinais (Libras), enfrentando desafios significativos. Inicialmente, usando uma Rede Neural Convolucional (CNN) com o conjunto de dados da UEFS, enfrentamos imprecisões devido à baixa resolução das imagens. Ao aplicar a CNN ao conjunto de dados do ROBOFLOW, os resultados ainda não foram satisfatórios, indicando a complexidade do problema e a presença de overfitting. Optamos por integrar a MediaPipe com os dados do ROBOFLOW, alcançando uma acurácia de 93,66%. Os resultados destacam a importância da inovação tecnológica na promoção da inclusão e acessibilidade para a comunidade surda, com potencial para melhorar significativamente a qualidade de vida e a inclusão dos surdosporPontifícia Universidade Católica de São PauloGraduação em Ciência de Dados e Inteligência ArtificialPUC-SPBrasilFaculdade de Estudos InterdisciplinaresCNPQ::ENGENHARIASLíngua Brasileira de Sinais (Libras)Detecção de sinaisRede Neural Convolucional (CNN)MediaPipeAcessibilidadeTecnologia assistiveComunidade surdaInclusãoReconhecimento de gestosROBOFLOWMLP (Multilayer Perceptron)Brazilian Sign Language (Libras)Sign detectionConvolutional Neural Network (CNN)MediaPipeAccessibilityAssistive technologyDeaf communityInclusionGesture recognitionROBOFLOWMLP (Multilayer Perceptron)Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras)info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesisinfo:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da PUC_SPinstname:Pontifícia Universidade Católica de São Paulo (PUC-SP)instacron:PUC_SPORIGINALAplicação de Redes Neurais na Detecção de Sím_Heloisa Mariani Rodr.pdfapplication/pdf444294https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/1/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf0c7b7c0f7e49ec0e27cb9ec73a463ed8MD51TEXTAplicação de Redes Neurais na Detecção de Sím_Heloisa Mariani Rodr.pdf.txtAplicação de Redes Neurais na Detecção de Sím_Heloisa Mariani Rodr.pdf.txtExtracted texttext/plain23070https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/2/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf.txtc9c746f27b9c1c27f15a720fa481e4acMD52THUMBNAILAplicação de Redes Neurais na Detecção de Sím_Heloisa Mariani Rodr.pdf.jpgAplicação de Redes Neurais na Detecção de Sím_Heloisa Mariani Rodr.pdf.jpgGenerated Thumbnailimage/jpeg1685https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/3/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf.jpgc93aed0b979d380206e3245f91b88632MD53handle/423302024-07-24 01:02:29.35oai:repositorio.pucsp.br:handle/42330Biblioteca Digital de Teses e Dissertaçõeshttps://sapientia.pucsp.br/https://sapientia.pucsp.br/oai/requestbngkatende@pucsp.br||rapassi@pucsp.bropendoar:2024-07-24T04:02:29Biblioteca Digital de Teses e Dissertações da PUC_SP - Pontifícia Universidade Católica de São Paulo (PUC-SP)false |
dc.title.pt_BR.fl_str_mv |
Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras) |
title |
Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras) |
spellingShingle |
Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras) Zhang, Ana Carolina CNPQ::ENGENHARIAS Língua Brasileira de Sinais (Libras) Detecção de sinais Rede Neural Convolucional (CNN) MediaPipe Acessibilidade Tecnologia assistive Comunidade surda Inclusão Reconhecimento de gestos ROBOFLOW MLP (Multilayer Perceptron) Brazilian Sign Language (Libras) Sign detection Convolutional Neural Network (CNN) MediaPipe Accessibility Assistive technology Deaf community Inclusion Gesture recognition ROBOFLOW MLP (Multilayer Perceptron) |
title_short |
Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras) |
title_full |
Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras) |
title_fullStr |
Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras) |
title_full_unstemmed |
Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras) |
title_sort |
Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras) |
author |
Zhang, Ana Carolina |
author_facet |
Zhang, Ana Carolina Rodrigues, Heloisa Mariani |
author_role |
author |
author2 |
Rodrigues, Heloisa Mariani |
author2_role |
author |
dc.contributor.advisor1.fl_str_mv |
Coelho, Rooney Ribeiro Albuquerque |
dc.contributor.advisor1Lattes.fl_str_mv |
http://lattes.cnpq.br/4820429011606720 |
dc.contributor.author.fl_str_mv |
Zhang, Ana Carolina Rodrigues, Heloisa Mariani |
contributor_str_mv |
Coelho, Rooney Ribeiro Albuquerque |
dc.subject.cnpq.fl_str_mv |
CNPQ::ENGENHARIAS |
topic |
CNPQ::ENGENHARIAS Língua Brasileira de Sinais (Libras) Detecção de sinais Rede Neural Convolucional (CNN) MediaPipe Acessibilidade Tecnologia assistive Comunidade surda Inclusão Reconhecimento de gestos ROBOFLOW MLP (Multilayer Perceptron) Brazilian Sign Language (Libras) Sign detection Convolutional Neural Network (CNN) MediaPipe Accessibility Assistive technology Deaf community Inclusion Gesture recognition ROBOFLOW MLP (Multilayer Perceptron) |
dc.subject.por.fl_str_mv |
Língua Brasileira de Sinais (Libras) Detecção de sinais Rede Neural Convolucional (CNN) MediaPipe Acessibilidade Tecnologia assistive Comunidade surda Inclusão Reconhecimento de gestos ROBOFLOW MLP (Multilayer Perceptron) |
dc.subject.eng.fl_str_mv |
Brazilian Sign Language (Libras) Sign detection Convolutional Neural Network (CNN) MediaPipe Accessibility Assistive technology Deaf community Inclusion Gesture recognition ROBOFLOW MLP (Multilayer Perceptron) |
description |
In this study, we explored strategies to detect Brazilian Sign Language (Libras) signs, facing significant challenges. Initially, using a Convolutional Neural Network (CNN) with the UEFS dataset, we encountered inaccuracies due to the low resolution of the images. When applying the CNN to the ROBOFLOW dataset, the results were still unsatisfactory, indicating the complexity of the problem and the presence of overfitting. We chose to integrate MediaPipe with the ROBOFLOW data, achieving an accuracy of 93.66%. The results underscore the importance of technological innovation in promoting inclusion and accessibility for the deaf community, with the potential to significantly improve the quality of life and inclusion of deaf individuals |
publishDate |
2024 |
dc.date.accessioned.fl_str_mv |
2024-07-23T18:46:59Z |
dc.date.available.fl_str_mv |
2024-07-23T18:46:59Z |
dc.date.issued.fl_str_mv |
2024-04-23 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/bachelorThesis |
format |
bachelorThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
Zhang, Ana Carolina; Rodrigues, Heloisa Mariani. Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras). 2024. Trabalho de Conclusão de Curso (Graduação em Ciência de Dados e Inteligência Artificial) - Faculdade de Estudos Interdisciplinares da Pontifícia Universidade Católica de São Paulo, São Paulo, 2024. |
dc.identifier.uri.fl_str_mv |
https://repositorio.pucsp.br/jspui/handle/handle/42330 |
identifier_str_mv |
Zhang, Ana Carolina; Rodrigues, Heloisa Mariani. Aplicação de redes neurais na detecção de símbolos da Língua Brasileira de Sinais (Libras). 2024. Trabalho de Conclusão de Curso (Graduação em Ciência de Dados e Inteligência Artificial) - Faculdade de Estudos Interdisciplinares da Pontifícia Universidade Católica de São Paulo, São Paulo, 2024. |
url |
https://repositorio.pucsp.br/jspui/handle/handle/42330 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Pontifícia Universidade Católica de São Paulo |
dc.publisher.program.fl_str_mv |
Graduação em Ciência de Dados e Inteligência Artificial |
dc.publisher.initials.fl_str_mv |
PUC-SP |
dc.publisher.country.fl_str_mv |
Brasil |
dc.publisher.department.fl_str_mv |
Faculdade de Estudos Interdisciplinares |
publisher.none.fl_str_mv |
Pontifícia Universidade Católica de São Paulo |
dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da PUC_SP instname:Pontifícia Universidade Católica de São Paulo (PUC-SP) instacron:PUC_SP |
instname_str |
Pontifícia Universidade Católica de São Paulo (PUC-SP) |
instacron_str |
PUC_SP |
institution |
PUC_SP |
reponame_str |
Biblioteca Digital de Teses e Dissertações da PUC_SP |
collection |
Biblioteca Digital de Teses e Dissertações da PUC_SP |
bitstream.url.fl_str_mv |
https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/1/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/2/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf.txt https://repositorio.pucsp.br/xmlui/bitstream/handle/42330/3/Aplica%c3%a7%c3%a3o%20de%20Redes%20Neurais%20na%20Detec%c3%a7%c3%a3o%20de%20S%c3%adm_Heloisa%20Mariani%20Rodr.pdf.jpg |
bitstream.checksum.fl_str_mv |
0c7b7c0f7e49ec0e27cb9ec73a463ed8 c9c746f27b9c1c27f15a720fa481e4ac c93aed0b979d380206e3245f91b88632 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 |
repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da PUC_SP - Pontifícia Universidade Católica de São Paulo (PUC-SP) |
repository.mail.fl_str_mv |
bngkatende@pucsp.br||rapassi@pucsp.br |
_version_ |
1809278020176838656 |