Entre a opacidade e a explicabilidade
Autor(a) principal: | |
---|---|
Data de Publicação: | 2023 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) |
Texto Completo: | http://hdl.handle.net/10362/153333 |
Resumo: | The article aims to establish the new contours for the duty of motivation of individual administrative acts, considering the scenario of digitalization of the Public Administration and the use of algorithms to produce administrative decisions. From the legal content of the duty of motivation, as a corollary of the principle of legality, it is argued that its observance, in a context of algorithmic administrative decisions, consists in ensuring that the citizen is able to understand and challenge the decision-making process, or, in other words, counterargument the algorithm. It is shown that, technically, there are means to ensure a higher level of explicability to the results provided by algorithmic systems and that, legally, a right to explanation stems from a global interpretation of the LGPD. It is concluded that, in order to make use of algorithmic administrative decisions, the Public Administration should safeguard explainability as a requirement of the motivation, in order to determine that the choice of algorithm observes demanding standards of accessibility and interpretability, which imposes a careful look at the human choices made at all stages of design and implementation of the model (explainability by design). It is recommended the regulation of the topic in the Brazilian legal system, especially in face of the normative uncertainty regarding the types of administrative decisions that can be automated, the degree of automation appropriate in each case and the lack of clarity on the need for human intervention in the review process of these decisions. |
id |
RCAP_bf970a9f15d40476d30045c3b94a09fb |
---|---|
oai_identifier_str |
oai:run.unl.pt:10362/153333 |
network_acronym_str |
RCAP |
network_name_str |
Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) |
repository_id_str |
7160 |
spelling |
Entre a opacidade e a explicabilidadenovos contornos jurídicos para a motivação das decisões administrativas algorítmicasAdministração públicaOpacidadeExplicabilidadeDecisões algorítmicasMotivaçãoDireito à explicaçãoPublic administrationOpacityExplainabilityAlgorithmic decision-makingRight to explanationDireitoThe article aims to establish the new contours for the duty of motivation of individual administrative acts, considering the scenario of digitalization of the Public Administration and the use of algorithms to produce administrative decisions. From the legal content of the duty of motivation, as a corollary of the principle of legality, it is argued that its observance, in a context of algorithmic administrative decisions, consists in ensuring that the citizen is able to understand and challenge the decision-making process, or, in other words, counterargument the algorithm. It is shown that, technically, there are means to ensure a higher level of explicability to the results provided by algorithmic systems and that, legally, a right to explanation stems from a global interpretation of the LGPD. It is concluded that, in order to make use of algorithmic administrative decisions, the Public Administration should safeguard explainability as a requirement of the motivation, in order to determine that the choice of algorithm observes demanding standards of accessibility and interpretability, which imposes a careful look at the human choices made at all stages of design and implementation of the model (explainability by design). It is recommended the regulation of the topic in the Brazilian legal system, especially in face of the normative uncertainty regarding the types of administrative decisions that can be automated, the degree of automation appropriate in each case and the lack of clarity on the need for human intervention in the review process of these decisions.O trabalho tem por objetivo estabelecer novos contornos para o dever de motivação dos atos administrativos individuais, considerando o cenário de digitalização da Administração Pública e a utilização de algoritmos para a produção de decisões administrativas. A partir do conteúdo jurídico do dever de motivação, enquanto corolário do princípio da legalidade, sustenta-se que sua observância, num contexto de decisões administrativas algorítmicas, consiste em garantir que o administrado seja capaz de compreender e desafiar o processo de tomada de decisão, ou, dito de outra forma, contra-argumentar o algoritmo. Demonstra-se que, tecnicamente, há meios de assegurar maior nível de explicabilidade aos resultados fornecidos pelos sistemas algorítmicos e que, juridicamente, um direito à explicação decorre de uma interpretação holística da LGPD. Conclui-se que, para fazer uso de decisões administrativas algorítmicas, a Administração Pública deverá resguardar a explicabilidade como requisito da motivação, de forma a determinar que a escolha do algoritmo observe padrões exigentes de acessibilidade e compreensibilidade, o que impõe um olhar cuidadoso sobre as escolhas humanas feitas em todas as fases de concepção e implementação do modelo (explicability by design). Recomenda-se a regulação do tema no ordenamento jurídico brasileiro, em especial diante da incerteza normativa em relação aos tipos de decisões administrativas que podem ser automatizadas, do grau de automatização apropriado em cada caso e da falta de clareza sobre a necessidade de intervenção humana no processo de revisão dessas decisões.Coutinho, Francisco PereiraRUNNegruni, Lisiane Penz2023-05-022023-04-172024-05-30T00:00:00Z2023-05-02T00:00:00Zinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttp://hdl.handle.net/10362/153333TID:203295234porinfo:eu-repo/semantics/embargoedAccessreponame:Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)instname:Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informaçãoinstacron:RCAAP2024-03-11T05:35:54Zoai:run.unl.pt:10362/153333Portal AgregadorONGhttps://www.rcaap.pt/oai/openaireopendoar:71602024-03-20T03:55:15.266072Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) - Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informaçãofalse |
dc.title.none.fl_str_mv |
Entre a opacidade e a explicabilidade novos contornos jurídicos para a motivação das decisões administrativas algorítmicas |
title |
Entre a opacidade e a explicabilidade |
spellingShingle |
Entre a opacidade e a explicabilidade Negruni, Lisiane Penz Administração pública Opacidade Explicabilidade Decisões algorítmicas Motivação Direito à explicação Public administration Opacity Explainability Algorithmic decision-making Right to explanation Direito |
title_short |
Entre a opacidade e a explicabilidade |
title_full |
Entre a opacidade e a explicabilidade |
title_fullStr |
Entre a opacidade e a explicabilidade |
title_full_unstemmed |
Entre a opacidade e a explicabilidade |
title_sort |
Entre a opacidade e a explicabilidade |
author |
Negruni, Lisiane Penz |
author_facet |
Negruni, Lisiane Penz |
author_role |
author |
dc.contributor.none.fl_str_mv |
Coutinho, Francisco Pereira RUN |
dc.contributor.author.fl_str_mv |
Negruni, Lisiane Penz |
dc.subject.por.fl_str_mv |
Administração pública Opacidade Explicabilidade Decisões algorítmicas Motivação Direito à explicação Public administration Opacity Explainability Algorithmic decision-making Right to explanation Direito |
topic |
Administração pública Opacidade Explicabilidade Decisões algorítmicas Motivação Direito à explicação Public administration Opacity Explainability Algorithmic decision-making Right to explanation Direito |
description |
The article aims to establish the new contours for the duty of motivation of individual administrative acts, considering the scenario of digitalization of the Public Administration and the use of algorithms to produce administrative decisions. From the legal content of the duty of motivation, as a corollary of the principle of legality, it is argued that its observance, in a context of algorithmic administrative decisions, consists in ensuring that the citizen is able to understand and challenge the decision-making process, or, in other words, counterargument the algorithm. It is shown that, technically, there are means to ensure a higher level of explicability to the results provided by algorithmic systems and that, legally, a right to explanation stems from a global interpretation of the LGPD. It is concluded that, in order to make use of algorithmic administrative decisions, the Public Administration should safeguard explainability as a requirement of the motivation, in order to determine that the choice of algorithm observes demanding standards of accessibility and interpretability, which imposes a careful look at the human choices made at all stages of design and implementation of the model (explainability by design). It is recommended the regulation of the topic in the Brazilian legal system, especially in face of the normative uncertainty regarding the types of administrative decisions that can be automated, the degree of automation appropriate in each case and the lack of clarity on the need for human intervention in the review process of these decisions. |
publishDate |
2023 |
dc.date.none.fl_str_mv |
2023-05-02 2023-04-17 2023-05-02T00:00:00Z 2024-05-30T00:00:00Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
http://hdl.handle.net/10362/153333 TID:203295234 |
url |
http://hdl.handle.net/10362/153333 |
identifier_str_mv |
TID:203295234 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/embargoedAccess |
eu_rights_str_mv |
embargoedAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.source.none.fl_str_mv |
reponame:Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) instname:Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação instacron:RCAAP |
instname_str |
Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação |
instacron_str |
RCAAP |
institution |
RCAAP |
reponame_str |
Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) |
collection |
Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) |
repository.name.fl_str_mv |
Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) - Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação |
repository.mail.fl_str_mv |
|
_version_ |
1799138140111241216 |