Uma metodologia usando ambientes paralelos para otimização da classificação de textos aplicada a documentos jurídicos
Autor(a) principal: | |
---|---|
Data de Publicação: | 2020 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Biblioteca Digital de Teses e Dissertações da PUC_RS |
Texto Completo: | http://tede2.pucrs.br/tede2/handle/tede/9908 |
Resumo: | In last years it has been witnessed an exponential growth of data volume, data variability and data velocity. It is known that most of them are in an unstructured availability which intensify the data analysis challenge. Considering this scenario, the usage os Natural Language Processing (NLP) tools for text classification has been inspiring researchers from several knowlage domains, among them it can be highlighted the Legal Sciences. The justice in its root depends on analysis of huge text data volume which turns it into an important potential area for applying NLP tools. The choice of an algorithm for solving a specific text classification issue is not a trivial task. The picked classification approach quality and viability will depends on the issue to be solved, the data volume and the data behavior, in addition to the best use of available computational resources in order to results be delivered in time. Motivated by the problem of automatic classification of legal texts for application to electronic processes of a Brazilian State Court, this research proposes a methodology to optimize the choice of parameters for the classification algorithm of legal documents paralleling the training of Bi-LSTM Recurrent Neural Networks. For data application 107,010 petitions from a Brazilian State Court, with classes previously noted, underwent training of 216 Recurrent Neural Networks in parallel. At the end of training, the best individual performance was F1 = 0.846. Combining the 4 best models through an Ensemble technique resulted in a final model with lower performance than the best individual one (F1 = 0.826). Through the parallel training of models it was possible to reach a superior result to the majority of the tested parameterizations (10 % better than the worst parameterization tested and 9.8% better than the average ) in approximately 20 times less time than it would take for test all the same possibilities sequentially. |
id |
P_RS_90409396b86c333e74d5ed1ec5905e2d |
---|---|
oai_identifier_str |
oai:tede2.pucrs.br:tede/9908 |
network_acronym_str |
P_RS |
network_name_str |
Biblioteca Digital de Teses e Dissertações da PUC_RS |
repository_id_str |
|
spelling |
De Rose, César Augusto FonticielhaMastella, Juliana Obino2021-10-14T17:50:39Z2020-08-31http://tede2.pucrs.br/tede2/handle/tede/9908In last years it has been witnessed an exponential growth of data volume, data variability and data velocity. It is known that most of them are in an unstructured availability which intensify the data analysis challenge. Considering this scenario, the usage os Natural Language Processing (NLP) tools for text classification has been inspiring researchers from several knowlage domains, among them it can be highlighted the Legal Sciences. The justice in its root depends on analysis of huge text data volume which turns it into an important potential area for applying NLP tools. The choice of an algorithm for solving a specific text classification issue is not a trivial task. The picked classification approach quality and viability will depends on the issue to be solved, the data volume and the data behavior, in addition to the best use of available computational resources in order to results be delivered in time. Motivated by the problem of automatic classification of legal texts for application to electronic processes of a Brazilian State Court, this research proposes a methodology to optimize the choice of parameters for the classification algorithm of legal documents paralleling the training of Bi-LSTM Recurrent Neural Networks. For data application 107,010 petitions from a Brazilian State Court, with classes previously noted, underwent training of 216 Recurrent Neural Networks in parallel. At the end of training, the best individual performance was F1 = 0.846. Combining the 4 best models through an Ensemble technique resulted in a final model with lower performance than the best individual one (F1 = 0.826). Through the parallel training of models it was possible to reach a superior result to the majority of the tested parameterizations (10 % better than the worst parameterization tested and 9.8% better than the average ) in approximately 20 times less time than it would take for test all the same possibilities sequentially.Nos últimos anos testemunhou-se um crescimento exponencial do volume, da variabilidade e da velocidade com que novos dados são gerados. Sabe-se que a maior parte desses dados se apresenta de forma não-estruturada, o que aumenta ainda mais o desafio de analisar esses dados. Nesse cenário, a aplicação de técnicas de Processamento da Linguagem Natural (PLN) para classificação de textos de forma automática tem despertado o interesse de pesquisadores dos mais diversos domínios do conhecimento, dentre os quais pode-se destacar as Ciências Jurídicas. O Direito inerentemente depende da análise de um grande volume de informações textuais, o que o torna uma área com grande potencial para aplicação de técnicas de PLN. A escolha do algoritmo para solucionar um determinado problema de classificação de textos não é uma tarefa trivial. A qualidade e a viabilidade da abordagem de classificação escolhida dependerão do problema a ser resolvido, do volume e do comportamento dos dados, além da melhor utilização dos recursos computacionais disponíveis para que o resultado seja entregue em tempo adequado. Motivada pelo problema da classificação automática de textos jurídicos para aplicação a processos eletrônicos de um Tribunal Estadual Brasileiro, esta pesquisa propõe uma metodologia para otimizar a escolha de parâmetros do algoritmo de classificação de documentos jurídicos paralelizando o treinamento de Redes Neurais Recorrentes Bi-LSTM. Para aplicação a dados reais, 107.010 petições de um Tribunal Estadual Brasileiro, com classes previamente anotadas, foram submetidas ao treinamento de 216 Redes Neurais Recorrentes em paralelo. Ao final do treinamento, o modelo com melhor desempenho individual apresentou F1 = 0,846. Combinando-se os 4 melhores resultados individuais através de uma técnica Ensemble, pela regra da soma, não foi identificada melhora no desempenho (F1 = 0,826). Através do treinamento em paralelo dos modelos, foi possível chegar a um resultado superior à maioria das parametrizações testadas (10% melhor do que a pior parametrização testada e 9,8% superior à média das combinações testadas) em aproximadamente 20 vezes menos tempo do que se levaria para testar todas as mesmas possibilidades de maneira sequencial.Submitted by PPG Ciência da Computação (ppgcc@pucrs.br) on 2021-10-14T13:19:25Z No. of bitstreams: 1 JULIANA OBINO MASTELLA_DIS.pdf: 1387653 bytes, checksum: d545a6b285249f7f12c6b6826d9baa36 (MD5)Approved for entry into archive by Sheila Dias (sheila.dias@pucrs.br) on 2021-10-14T17:41:16Z (GMT) No. of bitstreams: 1 JULIANA OBINO MASTELLA_DIS.pdf: 1387653 bytes, checksum: d545a6b285249f7f12c6b6826d9baa36 (MD5)Made available in DSpace on 2021-10-14T17:50:39Z (GMT). No. of bitstreams: 1 JULIANA OBINO MASTELLA_DIS.pdf: 1387653 bytes, checksum: d545a6b285249f7f12c6b6826d9baa36 (MD5) Previous issue date: 2020-08-31Coordenação de Aperfeiçoamento de Pessoal de Nível Superior - CAPESapplication/pdfhttp://tede2.pucrs.br:80/tede2/retrieve/182281/JULIANA%20OBINO%20MASTELLA_DIS.pdf.jpgporPontifícia Universidade Católica do Rio Grande do SulPrograma de Pós-Graduação em Ciência da ComputaçãoPUCRSBrasilEscola PolitécnicaClassificação de TextosAlgoritmos de ClassificaçãoMineração de TextosClassificação de DocumentosDocumentos JurídicosPLNParalelismoText ClassificationClassification AlgorithmsText MiningDocuments ClassificationLegal DocumentsNLPParameter SweepParallelismCIENCIA DA COMPUTACAO::TEORIA DA COMPUTACAOUma metodologia usando ambientes paralelos para otimização da classificação de textos aplicada a documentos jurídicosA methodology using parallel environments to optimize text classification in legal documentsinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisTrabalho não apresenta restrição para publicação-4570527706994352458500500600-8620782570833253013590462550136975366info:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da PUC_RSinstname:Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)instacron:PUC_RSTHUMBNAILJULIANA OBINO MASTELLA_DIS.pdf.jpgJULIANA OBINO MASTELLA_DIS.pdf.jpgimage/jpeg5879http://tede2.pucrs.br/tede2/bitstream/tede/9908/4/JULIANA+OBINO+MASTELLA_DIS.pdf.jpg44dcb561327fab5f07832f2775da0682MD54TEXTJULIANA OBINO MASTELLA_DIS.pdf.txtJULIANA OBINO MASTELLA_DIS.pdf.txttext/plain112268http://tede2.pucrs.br/tede2/bitstream/tede/9908/3/JULIANA+OBINO+MASTELLA_DIS.pdf.txt3defc0af3944c7f37111f8b5e527d6a0MD53ORIGINALJULIANA OBINO MASTELLA_DIS.pdfJULIANA OBINO MASTELLA_DIS.pdfapplication/pdf1387653http://tede2.pucrs.br/tede2/bitstream/tede/9908/2/JULIANA+OBINO+MASTELLA_DIS.pdfd545a6b285249f7f12c6b6826d9baa36MD52LICENSElicense.txtlicense.txttext/plain; charset=utf-8590http://tede2.pucrs.br/tede2/bitstream/tede/9908/1/license.txt220e11f2d3ba5354f917c7035aadef24MD51tede/99082021-10-14 20:00:21.377oai:tede2.pucrs.br:tede/9908QXV0b3JpemE/P28gcGFyYSBQdWJsaWNhPz9vIEVsZXRyP25pY2E6IENvbSBiYXNlIG5vIGRpc3Bvc3RvIG5hIExlaSBGZWRlcmFsIG4/OS42MTAsIGRlIDE5IGRlIGZldmVyZWlybyBkZSAxOTk4LCBvIGF1dG9yIEFVVE9SSVpBIGEgcHVibGljYT8/byBlbGV0cj9uaWNhIGRhIHByZXNlbnRlIG9icmEgbm8gYWNlcnZvIGRhIEJpYmxpb3RlY2EgRGlnaXRhbCBkYSBQb250aWY/Y2lhIFVuaXZlcnNpZGFkZSBDYXQ/bGljYSBkbyBSaW8gR3JhbmRlIGRvIFN1bCwgc2VkaWFkYSBhIEF2LiBJcGlyYW5nYSA2NjgxLCBQb3J0byBBbGVncmUsIFJpbyBHcmFuZGUgZG8gU3VsLCBjb20gcmVnaXN0cm8gZGUgQ05QSiA4ODYzMDQxMzAwMDItODEgYmVtIGNvbW8gZW0gb3V0cmFzIGJpYmxpb3RlY2FzIGRpZ2l0YWlzLCBuYWNpb25haXMgZSBpbnRlcm5hY2lvbmFpcywgY29ucz9yY2lvcyBlIHJlZGVzID9zIHF1YWlzIGEgYmlibGlvdGVjYSBkYSBQVUNSUyBwb3NzYSBhIHZpciBwYXJ0aWNpcGFyLCBzZW0gP251cyBhbHVzaXZvIGFvcyBkaXJlaXRvcyBhdXRvcmFpcywgYSB0P3R1bG8gZGUgZGl2dWxnYT8/byBkYSBwcm9kdT8/byBjaWVudD9maWNhLgo=Biblioteca Digital de Teses e Dissertaçõeshttp://tede2.pucrs.br/tede2/PRIhttps://tede2.pucrs.br/oai/requestbiblioteca.central@pucrs.br||opendoar:2021-10-14T23:00:21Biblioteca Digital de Teses e Dissertações da PUC_RS - Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS)false |
dc.title.por.fl_str_mv |
Uma metodologia usando ambientes paralelos para otimização da classificação de textos aplicada a documentos jurídicos |
dc.title.alternative.eng.fl_str_mv |
A methodology using parallel environments to optimize text classification in legal documents |
title |
Uma metodologia usando ambientes paralelos para otimização da classificação de textos aplicada a documentos jurídicos |
spellingShingle |
Uma metodologia usando ambientes paralelos para otimização da classificação de textos aplicada a documentos jurídicos Mastella, Juliana Obino Classificação de Textos Algoritmos de Classificação Mineração de Textos Classificação de Documentos Documentos Jurídicos PLN Paralelismo Text Classification Classification Algorithms Text Mining Documents Classification Legal Documents NLP Parameter Sweep Parallelism CIENCIA DA COMPUTACAO::TEORIA DA COMPUTACAO |
title_short |
Uma metodologia usando ambientes paralelos para otimização da classificação de textos aplicada a documentos jurídicos |
title_full |
Uma metodologia usando ambientes paralelos para otimização da classificação de textos aplicada a documentos jurídicos |
title_fullStr |
Uma metodologia usando ambientes paralelos para otimização da classificação de textos aplicada a documentos jurídicos |
title_full_unstemmed |
Uma metodologia usando ambientes paralelos para otimização da classificação de textos aplicada a documentos jurídicos |
title_sort |
Uma metodologia usando ambientes paralelos para otimização da classificação de textos aplicada a documentos jurídicos |
author |
Mastella, Juliana Obino |
author_facet |
Mastella, Juliana Obino |
author_role |
author |
dc.contributor.advisor1.fl_str_mv |
De Rose, César Augusto Fonticielha |
dc.contributor.author.fl_str_mv |
Mastella, Juliana Obino |
contributor_str_mv |
De Rose, César Augusto Fonticielha |
dc.subject.por.fl_str_mv |
Classificação de Textos Algoritmos de Classificação Mineração de Textos Classificação de Documentos Documentos Jurídicos PLN Paralelismo |
topic |
Classificação de Textos Algoritmos de Classificação Mineração de Textos Classificação de Documentos Documentos Jurídicos PLN Paralelismo Text Classification Classification Algorithms Text Mining Documents Classification Legal Documents NLP Parameter Sweep Parallelism CIENCIA DA COMPUTACAO::TEORIA DA COMPUTACAO |
dc.subject.eng.fl_str_mv |
Text Classification Classification Algorithms Text Mining Documents Classification Legal Documents NLP Parameter Sweep Parallelism |
dc.subject.cnpq.fl_str_mv |
CIENCIA DA COMPUTACAO::TEORIA DA COMPUTACAO |
description |
In last years it has been witnessed an exponential growth of data volume, data variability and data velocity. It is known that most of them are in an unstructured availability which intensify the data analysis challenge. Considering this scenario, the usage os Natural Language Processing (NLP) tools for text classification has been inspiring researchers from several knowlage domains, among them it can be highlighted the Legal Sciences. The justice in its root depends on analysis of huge text data volume which turns it into an important potential area for applying NLP tools. The choice of an algorithm for solving a specific text classification issue is not a trivial task. The picked classification approach quality and viability will depends on the issue to be solved, the data volume and the data behavior, in addition to the best use of available computational resources in order to results be delivered in time. Motivated by the problem of automatic classification of legal texts for application to electronic processes of a Brazilian State Court, this research proposes a methodology to optimize the choice of parameters for the classification algorithm of legal documents paralleling the training of Bi-LSTM Recurrent Neural Networks. For data application 107,010 petitions from a Brazilian State Court, with classes previously noted, underwent training of 216 Recurrent Neural Networks in parallel. At the end of training, the best individual performance was F1 = 0.846. Combining the 4 best models through an Ensemble technique resulted in a final model with lower performance than the best individual one (F1 = 0.826). Through the parallel training of models it was possible to reach a superior result to the majority of the tested parameterizations (10 % better than the worst parameterization tested and 9.8% better than the average ) in approximately 20 times less time than it would take for test all the same possibilities sequentially. |
publishDate |
2020 |
dc.date.issued.fl_str_mv |
2020-08-31 |
dc.date.accessioned.fl_str_mv |
2021-10-14T17:50:39Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
http://tede2.pucrs.br/tede2/handle/tede/9908 |
url |
http://tede2.pucrs.br/tede2/handle/tede/9908 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.relation.program.fl_str_mv |
-4570527706994352458 |
dc.relation.confidence.fl_str_mv |
500 500 600 |
dc.relation.cnpq.fl_str_mv |
-862078257083325301 |
dc.relation.sponsorship.fl_str_mv |
3590462550136975366 |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.publisher.none.fl_str_mv |
Pontifícia Universidade Católica do Rio Grande do Sul |
dc.publisher.program.fl_str_mv |
Programa de Pós-Graduação em Ciência da Computação |
dc.publisher.initials.fl_str_mv |
PUCRS |
dc.publisher.country.fl_str_mv |
Brasil |
dc.publisher.department.fl_str_mv |
Escola Politécnica |
publisher.none.fl_str_mv |
Pontifícia Universidade Católica do Rio Grande do Sul |
dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da PUC_RS instname:Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS) instacron:PUC_RS |
instname_str |
Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS) |
instacron_str |
PUC_RS |
institution |
PUC_RS |
reponame_str |
Biblioteca Digital de Teses e Dissertações da PUC_RS |
collection |
Biblioteca Digital de Teses e Dissertações da PUC_RS |
bitstream.url.fl_str_mv |
http://tede2.pucrs.br/tede2/bitstream/tede/9908/4/JULIANA+OBINO+MASTELLA_DIS.pdf.jpg http://tede2.pucrs.br/tede2/bitstream/tede/9908/3/JULIANA+OBINO+MASTELLA_DIS.pdf.txt http://tede2.pucrs.br/tede2/bitstream/tede/9908/2/JULIANA+OBINO+MASTELLA_DIS.pdf http://tede2.pucrs.br/tede2/bitstream/tede/9908/1/license.txt |
bitstream.checksum.fl_str_mv |
44dcb561327fab5f07832f2775da0682 3defc0af3944c7f37111f8b5e527d6a0 d545a6b285249f7f12c6b6826d9baa36 220e11f2d3ba5354f917c7035aadef24 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 |
repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da PUC_RS - Pontifícia Universidade Católica do Rio Grande do Sul (PUCRS) |
repository.mail.fl_str_mv |
biblioteca.central@pucrs.br|| |
_version_ |
1799765352454815744 |