Inteligência artificial e direito: o impacto dos vieses algoritmicos nas decisões judiciais automatizadas pela tecnologia de aprendizado de máquina denominada machine learning
Autor(a) principal: | |
---|---|
Data de Publicação: | 2019 |
Tipo de documento: | Trabalho de conclusão de curso |
Idioma: | por |
Título da fonte: | Repositório do Centro Universitário Braz Cubas |
Texto Completo: | https://repositorio.cruzeirodosul.edu.br/handle/123456789/1344 |
Resumo: | This paper analyzes the impacts of algorithmic biases used in the Artificial Intelligence (AI) tools within the Judiciary, which generally seek to identify patterns from data analysis through mathematical logic (algorithm) and machine learning. - a machine learning. The present work defined algorithms, and their context in the Artificial Intelligence tools. The main object of the analysis was the vulnerability provided by the biases (discriminatory, prejudiced, biased ...) arising from the data used as a training parameter of AI systems, which will perform the analysis of judicial demands. To enrich the research, we report on US experience in the use of AI in Criminal Justice through the COMPAS system. The bibliographic research concluded, based on the experience of the American model, that the bias algorithms will provide great challenge in research, studies and regulation, in order to mitigate the biased results of injustices and prejudices within the scope of technological law. |
id |
CUB_a53fb23dbc4dc50b699acf01a2e7dbc0 |
---|---|
oai_identifier_str |
oai:repositorio.cruzeirodosul.edu.br:123456789/1344 |
network_acronym_str |
CUB |
network_name_str |
Repositório do Centro Universitário Braz Cubas |
repository_id_str |
|
spelling |
Inteligência artificial e direito: o impacto dos vieses algoritmicos nas decisões judiciais automatizadas pela tecnologia de aprendizado de máquina denominada machine learningInteligência artificialDireitoAprendizado de máquinaVieses algorítmicosArtificial intelligenceRight machineMachine learningAlgorithmic biases6.01.00.00-1 DireitoThis paper analyzes the impacts of algorithmic biases used in the Artificial Intelligence (AI) tools within the Judiciary, which generally seek to identify patterns from data analysis through mathematical logic (algorithm) and machine learning. - a machine learning. The present work defined algorithms, and their context in the Artificial Intelligence tools. The main object of the analysis was the vulnerability provided by the biases (discriminatory, prejudiced, biased ...) arising from the data used as a training parameter of AI systems, which will perform the analysis of judicial demands. To enrich the research, we report on US experience in the use of AI in Criminal Justice through the COMPAS system. The bibliographic research concluded, based on the experience of the American model, that the bias algorithms will provide great challenge in research, studies and regulation, in order to mitigate the biased results of injustices and prejudices within the scope of technological law.Este artigo analisa os impactos dos vieses algorítmicos utilizados nas ferramentas de Inteligência Artificial (IA) no âmbito do Poder Judiciário, as quais, em geral, procuram identificar padrões a partir da análise de dados por meio de lógica matemática (algoritmo) e aprendizado de máquina – a machine learning. O presente trabalho definiu algoritmos, e seu contexto nas ferramentas de Inteligência Artificial. O objeto principal da análise foi a vulnerabilidade proporcionada pelos vieses (discriminatórios, preconceituosos, tendenciosos...) oriundos dos dados usados como parâmetro de treinamento dos sistemas de IA, que realizarão a análise das demandas judiciais. Com objetivo de enriquecer a pesquisa, relatamos a experiência dos Estados Unidos no uso de IA na Justiça Criminal, através do sistema COMPAS. A pesquisa bibliográfica concluiu, fundamentada na experiência do modelo americano, que os vieses algoritmos proporcionará grande desafio em pesquisas, estudos e regulamentação, no sentido de mitigarmos ao máximo, resultados enviesados de injustiças e preconceitos no âmbito do Direito tecnológico.Centro de Ensino Unificado do Distrito FederalBrasilCoordenação do Curso de DireitoUDFJunquilho, Tainá Aguiarhttp://lattes.cnpq.br/5848504606151120Figueiredo, Guilherme Silva2021-01-25T15:00:09Z2021-01-252021-01-25T15:00:09Z2019info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesisapplication/pdfhttps://repositorio.cruzeirodosul.edu.br/handle/123456789/1344porBIONE, Bruno Ricardo; LUCIANO, Maria. O Princípio da Precaução na Regulação de Inteligência Artificial: seriam as leis de proteção de dados o seu portal de entrada?. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. BRAGA, Carolina. Discriminação nas decisões por algoritmo: policia preditiva. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. CORMEN, Thomas H. Desmistificando Algoritmos. São Paulo: Elsevier, 2017. Dados (pp. 35-43). Lisboa: CEDIS. direito de não sujeição? Em F. P. Coutinho, & G. C. Moniz, Anuário da Proteção de Dados. ENGELMANN, Wilson; WERNER, Deivid Augusto. Inteligência Artificial e Direito. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. FERREIRA, Afonso José. (2018). Profiling e algoritmos autónomos: um verdadeiro FILHO, Mamede Said Maia; JUNQUILHO, Tainá Aguiar. Projeto Victor: Perspectivas de Aplicação da Inteligência Artificial ao Direito. R. Dir. Gar. Fund, Vitoria, v.19, n 3, p. 219-238, set/dez. 2018. HAMILTON, Melissa. Back to the Future: The Influence of Criminal History on Risk Assessment. Berkeley Journal of Criminal Law 75, University of Houston Law Center, n. 2015-A-1, 2015, revisado em 2018, p. 97-100. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2555878. Acesso em: 17 nov. 2019. MULHOLLAND, Caitlin. Responsabilidade civil e processos decisórios autônomos em sistemas de Inteligência Artificial (IA): autonomia, imputabilidade e responsabilidade. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. MULHOLLAND, Caitlin; FRAJHOF, Isabella Z. Inteligência Artificial e a Lei Geral de Proteção de Dados Pessoais: breves anotações sobre o direito à explicação perante a tomada de decisões por meio de machine learning. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. NUNES, Diele; MARQUES, Ana Luiza Pinto Coelho. Inteligência Artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de Processo. V. 285/2018. P. 421-447, nov. 2018. O‟NEIL, Cathy. Weapons of Math Destruction: How de Big Data increases inequality and threatens democracy. 1. Ed. Nova Iorque: Crown Publishers, 2016. PEIXOTO, Fabiano Hartmann; SILVA, Roberta Zumplick Martins da. Inteligência Artificial e Direito: 1. ed. Curitiba: Alteridade, 2019. PIRES, Thatiane Cristina Fontão; SILVA, Rafael Peteffi da. A responsabilidade civil pelos atos autônomos da Inteligência Artificial: notas iniciais sobre a resolução do Parlamento Europeu. Revista Brasileira de Políticas Públicas. Brasília. v. 7, n. 3, 2017. p. 238-254. p. 242 SOUZA, Carlos Affonso Pereira de; OLIVEIRA, Jordan Vinícius de. Sobre os ombros de robôs? A Inteligência Artificial entre fascínios e desilusões. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. SULOCKI, Victoria de. Novas tecnologias, velhas discriminações: ou da falta de reflexão sobre o sistema de algoritmos na Justiça Criminal. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019.info:eu-repo/semantics/openAccessreponame:Repositório do Centro Universitário Braz Cubasinstname:Centro Universitário Braz Cubas (CUB)instacron:CUB2021-01-29T22:18:26Zoai:repositorio.cruzeirodosul.edu.br:123456789/1344Repositório InstitucionalPUBhttps://repositorio.brazcubas.edu.br/oai/requestbibli@brazcubas.edu.bropendoar:2021-01-29T22:18:26Repositório do Centro Universitário Braz Cubas - Centro Universitário Braz Cubas (CUB)false |
dc.title.none.fl_str_mv |
Inteligência artificial e direito: o impacto dos vieses algoritmicos nas decisões judiciais automatizadas pela tecnologia de aprendizado de máquina denominada machine learning |
title |
Inteligência artificial e direito: o impacto dos vieses algoritmicos nas decisões judiciais automatizadas pela tecnologia de aprendizado de máquina denominada machine learning |
spellingShingle |
Inteligência artificial e direito: o impacto dos vieses algoritmicos nas decisões judiciais automatizadas pela tecnologia de aprendizado de máquina denominada machine learning Figueiredo, Guilherme Silva Inteligência artificial Direito Aprendizado de máquina Vieses algorítmicos Artificial intelligence Right machine Machine learning Algorithmic biases 6.01.00.00-1 Direito |
title_short |
Inteligência artificial e direito: o impacto dos vieses algoritmicos nas decisões judiciais automatizadas pela tecnologia de aprendizado de máquina denominada machine learning |
title_full |
Inteligência artificial e direito: o impacto dos vieses algoritmicos nas decisões judiciais automatizadas pela tecnologia de aprendizado de máquina denominada machine learning |
title_fullStr |
Inteligência artificial e direito: o impacto dos vieses algoritmicos nas decisões judiciais automatizadas pela tecnologia de aprendizado de máquina denominada machine learning |
title_full_unstemmed |
Inteligência artificial e direito: o impacto dos vieses algoritmicos nas decisões judiciais automatizadas pela tecnologia de aprendizado de máquina denominada machine learning |
title_sort |
Inteligência artificial e direito: o impacto dos vieses algoritmicos nas decisões judiciais automatizadas pela tecnologia de aprendizado de máquina denominada machine learning |
author |
Figueiredo, Guilherme Silva |
author_facet |
Figueiredo, Guilherme Silva |
author_role |
author |
dc.contributor.none.fl_str_mv |
Junquilho, Tainá Aguiar http://lattes.cnpq.br/5848504606151120 |
dc.contributor.author.fl_str_mv |
Figueiredo, Guilherme Silva |
dc.subject.por.fl_str_mv |
Inteligência artificial Direito Aprendizado de máquina Vieses algorítmicos Artificial intelligence Right machine Machine learning Algorithmic biases 6.01.00.00-1 Direito |
topic |
Inteligência artificial Direito Aprendizado de máquina Vieses algorítmicos Artificial intelligence Right machine Machine learning Algorithmic biases 6.01.00.00-1 Direito |
description |
This paper analyzes the impacts of algorithmic biases used in the Artificial Intelligence (AI) tools within the Judiciary, which generally seek to identify patterns from data analysis through mathematical logic (algorithm) and machine learning. - a machine learning. The present work defined algorithms, and their context in the Artificial Intelligence tools. The main object of the analysis was the vulnerability provided by the biases (discriminatory, prejudiced, biased ...) arising from the data used as a training parameter of AI systems, which will perform the analysis of judicial demands. To enrich the research, we report on US experience in the use of AI in Criminal Justice through the COMPAS system. The bibliographic research concluded, based on the experience of the American model, that the bias algorithms will provide great challenge in research, studies and regulation, in order to mitigate the biased results of injustices and prejudices within the scope of technological law. |
publishDate |
2019 |
dc.date.none.fl_str_mv |
2019 2021-01-25T15:00:09Z 2021-01-25 2021-01-25T15:00:09Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/bachelorThesis |
format |
bachelorThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
https://repositorio.cruzeirodosul.edu.br/handle/123456789/1344 |
url |
https://repositorio.cruzeirodosul.edu.br/handle/123456789/1344 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.relation.none.fl_str_mv |
BIONE, Bruno Ricardo; LUCIANO, Maria. O Princípio da Precaução na Regulação de Inteligência Artificial: seriam as leis de proteção de dados o seu portal de entrada?. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. BRAGA, Carolina. Discriminação nas decisões por algoritmo: policia preditiva. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. CORMEN, Thomas H. Desmistificando Algoritmos. São Paulo: Elsevier, 2017. Dados (pp. 35-43). Lisboa: CEDIS. direito de não sujeição? Em F. P. Coutinho, & G. C. Moniz, Anuário da Proteção de Dados. ENGELMANN, Wilson; WERNER, Deivid Augusto. Inteligência Artificial e Direito. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. FERREIRA, Afonso José. (2018). Profiling e algoritmos autónomos: um verdadeiro FILHO, Mamede Said Maia; JUNQUILHO, Tainá Aguiar. Projeto Victor: Perspectivas de Aplicação da Inteligência Artificial ao Direito. R. Dir. Gar. Fund, Vitoria, v.19, n 3, p. 219-238, set/dez. 2018. HAMILTON, Melissa. Back to the Future: The Influence of Criminal History on Risk Assessment. Berkeley Journal of Criminal Law 75, University of Houston Law Center, n. 2015-A-1, 2015, revisado em 2018, p. 97-100. Disponível em: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2555878. Acesso em: 17 nov. 2019. MULHOLLAND, Caitlin. Responsabilidade civil e processos decisórios autônomos em sistemas de Inteligência Artificial (IA): autonomia, imputabilidade e responsabilidade. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. MULHOLLAND, Caitlin; FRAJHOF, Isabella Z. Inteligência Artificial e a Lei Geral de Proteção de Dados Pessoais: breves anotações sobre o direito à explicação perante a tomada de decisões por meio de machine learning. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. NUNES, Diele; MARQUES, Ana Luiza Pinto Coelho. Inteligência Artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de Processo. V. 285/2018. P. 421-447, nov. 2018. O‟NEIL, Cathy. Weapons of Math Destruction: How de Big Data increases inequality and threatens democracy. 1. Ed. Nova Iorque: Crown Publishers, 2016. PEIXOTO, Fabiano Hartmann; SILVA, Roberta Zumplick Martins da. Inteligência Artificial e Direito: 1. ed. Curitiba: Alteridade, 2019. PIRES, Thatiane Cristina Fontão; SILVA, Rafael Peteffi da. A responsabilidade civil pelos atos autônomos da Inteligência Artificial: notas iniciais sobre a resolução do Parlamento Europeu. Revista Brasileira de Políticas Públicas. Brasília. v. 7, n. 3, 2017. p. 238-254. p. 242 SOUZA, Carlos Affonso Pereira de; OLIVEIRA, Jordan Vinícius de. Sobre os ombros de robôs? A Inteligência Artificial entre fascínios e desilusões. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. SULOCKI, Victoria de. Novas tecnologias, velhas discriminações: ou da falta de reflexão sobre o sistema de algoritmos na Justiça Criminal. In: Inteligência Artificial e Direito: ética, regulação e responsabilidade. 1. Ed. São Paulo: Thomson Reuters Brasil, 2019. |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.publisher.none.fl_str_mv |
Centro de Ensino Unificado do Distrito Federal Brasil Coordenação do Curso de Direito UDF |
publisher.none.fl_str_mv |
Centro de Ensino Unificado do Distrito Federal Brasil Coordenação do Curso de Direito UDF |
dc.source.none.fl_str_mv |
reponame:Repositório do Centro Universitário Braz Cubas instname:Centro Universitário Braz Cubas (CUB) instacron:CUB |
instname_str |
Centro Universitário Braz Cubas (CUB) |
instacron_str |
CUB |
institution |
CUB |
reponame_str |
Repositório do Centro Universitário Braz Cubas |
collection |
Repositório do Centro Universitário Braz Cubas |
repository.name.fl_str_mv |
Repositório do Centro Universitário Braz Cubas - Centro Universitário Braz Cubas (CUB) |
repository.mail.fl_str_mv |
bibli@brazcubas.edu.br |
_version_ |
1798311338801364992 |