MAIA : Metamodelo de Accountability para Inteligência Artificial

Detalhes bibliográficos
Autor(a) principal: PADOVAN, Paulo Henrique
Data de Publicação: 2023
Tipo de documento: Tese
Idioma: por
Título da fonte: Repositório Institucional da UFPE
dARK ID: ark:/64986/001300000wrpj
Texto Completo: https://repositorio.ufpe.br/handle/123456789/51746
Resumo: A inteligência artificial (IA) pode tomar decisões erráticas, causando preconceito, desconfiança, perdas ou danos aos indivíduos. Questões complexas de caráter mo- ral e normativo devem ser dirimidas para estabelecer como determinar accountabi- lity. Até recentemente, entender o funcionamento das “caixas pretas” era extrema- mente difícil; no entanto, o uso de Inteligência Artificial Explicável (XAI) ajuda a acla- rar os problemas complexos que podem incorrer a IA. Neste contexto, esta tese pro- cura analisar, caracterizar e conformar accountability no âmbito da moral e da IA e fornecer um cânone que ajude as várias partes interessadas a lidar com as questões de responsabilidade algorítmica. Para definir accountability, apresentamos, caracte- rizamos e diferenciamos os diversos matizes de responsabilidade no contexto nor- mativo atual, apresentando os dois pressupostos relacionados à accountability mo- ral: exigibilidade e responsividade. Por fim, fornecemos uma análise sobre como a estrutura contábil existente, com o suporte de XAI e dados registrados, pode abordar questões relacionadas à responsabilidade algorítmica da IA.
id UFPE_7b608eaa5ba57bf5bbf9b98f3bbce938
oai_identifier_str oai:repositorio.ufpe.br:123456789/51746
network_acronym_str UFPE
network_name_str Repositório Institucional da UFPE
repository_id_str 2221
spelling PADOVAN, Paulo Henriquehttp://lattes.cnpq.br/9788127954548465http://lattes.cnpq.br/1825502153580661http://lattes.cnpq.br/0419071207537280QUEIROZ, Ruy José Guerra Barretto deMARTINS, Clarice Marinho2023-08-02T21:27:38Z2023-08-02T21:27:38Z2023-02-08PADOVAN, Paulo Henrique. MAIA: Metamodelo de Accountability para Inteligência Artificial. 2023. Tese (Doutorado em Ciência da Computação) – Universidade Federal de Pernambuco, Recife, 2023.https://repositorio.ufpe.br/handle/123456789/51746ark:/64986/001300000wrpjA inteligência artificial (IA) pode tomar decisões erráticas, causando preconceito, desconfiança, perdas ou danos aos indivíduos. Questões complexas de caráter mo- ral e normativo devem ser dirimidas para estabelecer como determinar accountabi- lity. Até recentemente, entender o funcionamento das “caixas pretas” era extrema- mente difícil; no entanto, o uso de Inteligência Artificial Explicável (XAI) ajuda a acla- rar os problemas complexos que podem incorrer a IA. Neste contexto, esta tese pro- cura analisar, caracterizar e conformar accountability no âmbito da moral e da IA e fornecer um cânone que ajude as várias partes interessadas a lidar com as questões de responsabilidade algorítmica. Para definir accountability, apresentamos, caracte- rizamos e diferenciamos os diversos matizes de responsabilidade no contexto nor- mativo atual, apresentando os dois pressupostos relacionados à accountability mo- ral: exigibilidade e responsividade. Por fim, fornecemos uma análise sobre como a estrutura contábil existente, com o suporte de XAI e dados registrados, pode abordar questões relacionadas à responsabilidade algorítmica da IA.CAPESArtificial intelligence (AI) can lead to erratic behavior causing bias, mistrust, loss, or damage to individuals. Intricate questions of moral and normative nature must be resolved to establish how to determine accountability. Until recently, understanding the inner workings of “black boxes” has been exceedingly difficult; however, the use of Explainable Artificial Intelligence (XAI) would help simplify the complex problems that can occur with AI. In this context, this thesis seeks to analyze, characterize, and conform accountability within the scope of morality and AI and provide a canon that helps the various stakeholders to deal with the urges for algorithmic responsibility. To define accountability, we present, characterize, and differentiate concepts of respon- sibility, liability, and accountability in today's normative context, presenting the two assumptions related to moral accountability: enforceability and answerability. Lastly, it provides an analysis of whether existing accounting framework, with the support of XAI and logged data, can address concerns related to AI algorithmic accountability.porUniversidade Federal de PernambucoPrograma de Pos Graduacao em Ciencia da ComputacaoUFPEBrasilAttribution-NonCommercial-NoDerivs 3.0 Brazilhttp://creativecommons.org/licenses/by-nc-nd/3.0/br/info:eu-repo/semantics/openAccessInteligência computacionalResponsabilidade algorítmicaIA confiávelInteligência Artificial Explicável (IAE)Unidade Responsiva Explicável (URE)MAIA : Metamodelo de Accountability para Inteligência Artificialinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisdoutoradoreponame:Repositório Institucional da UFPEinstname:Universidade Federal de Pernambuco (UFPE)instacron:UFPETEXTTESE Paulo Henrique Padovan.pdf.txtTESE Paulo Henrique Padovan.pdf.txtExtracted texttext/plain641854https://repositorio.ufpe.br/bitstream/123456789/51746/4/TESE%20Paulo%20Henrique%20Padovan.pdf.txt6441ad9e8eefe60d3fad18865574c4f6MD54THUMBNAILTESE Paulo Henrique Padovan.pdf.jpgTESE Paulo Henrique Padovan.pdf.jpgGenerated Thumbnailimage/jpeg1213https://repositorio.ufpe.br/bitstream/123456789/51746/5/TESE%20Paulo%20Henrique%20Padovan.pdf.jpg992cb2a69bfcf73338288ba51a1ddf26MD55LICENSElicense.txtlicense.txttext/plain; charset=utf-82362https://repositorio.ufpe.br/bitstream/123456789/51746/3/license.txt5e89a1613ddc8510c6576f4b23a78973MD53ORIGINALTESE Paulo Henrique Padovan.pdfTESE Paulo Henrique Padovan.pdfapplication/pdf2629665https://repositorio.ufpe.br/bitstream/123456789/51746/1/TESE%20Paulo%20Henrique%20Padovan.pdfda474bf18d28df95280917534db2776bMD51CC-LICENSElicense_rdflicense_rdfapplication/rdf+xml; charset=utf-8811https://repositorio.ufpe.br/bitstream/123456789/51746/2/license_rdfe39d27027a6cc9cb039ad269a5db8e34MD52123456789/517462023-08-03 02:18:30.077oai:repositorio.ufpe.br:123456789/51746VGVybW8gZGUgRGVww7NzaXRvIExlZ2FsIGUgQXV0b3JpemHDp8OjbyBwYXJhIFB1YmxpY2l6YcOnw6NvIGRlIERvY3VtZW50b3Mgbm8gUmVwb3NpdMOzcmlvIERpZ2l0YWwgZGEgVUZQRQoKCkRlY2xhcm8gZXN0YXIgY2llbnRlIGRlIHF1ZSBlc3RlIFRlcm1vIGRlIERlcMOzc2l0byBMZWdhbCBlIEF1dG9yaXphw6fDo28gdGVtIG8gb2JqZXRpdm8gZGUgZGl2dWxnYcOnw6NvIGRvcyBkb2N1bWVudG9zIGRlcG9zaXRhZG9zIG5vIFJlcG9zaXTDs3JpbyBEaWdpdGFsIGRhIFVGUEUgZSBkZWNsYXJvIHF1ZToKCkkgLSBvcyBkYWRvcyBwcmVlbmNoaWRvcyBubyBmb3JtdWzDoXJpbyBkZSBkZXDDs3NpdG8gc8OjbyB2ZXJkYWRlaXJvcyBlIGF1dMOqbnRpY29zOwoKSUkgLSAgbyBjb250ZcO6ZG8gZGlzcG9uaWJpbGl6YWRvIMOpIGRlIHJlc3BvbnNhYmlsaWRhZGUgZGUgc3VhIGF1dG9yaWE7CgpJSUkgLSBvIGNvbnRlw7pkbyDDqSBvcmlnaW5hbCwgZSBzZSBvIHRyYWJhbGhvIGUvb3UgcGFsYXZyYXMgZGUgb3V0cmFzIHBlc3NvYXMgZm9yYW0gdXRpbGl6YWRvcywgZXN0YXMgZm9yYW0gZGV2aWRhbWVudGUgcmVjb25oZWNpZGFzOwoKSVYgLSBxdWFuZG8gdHJhdGFyLXNlIGRlIG9icmEgY29sZXRpdmEgKG1haXMgZGUgdW0gYXV0b3IpOiB0b2RvcyBvcyBhdXRvcmVzIGVzdMOjbyBjaWVudGVzIGRvIGRlcMOzc2l0byBlIGRlIGFjb3JkbyBjb20gZXN0ZSB0ZXJtbzsKClYgLSBxdWFuZG8gdHJhdGFyLXNlIGRlIFRyYWJhbGhvIGRlIENvbmNsdXPDo28gZGUgQ3Vyc28sIERpc3NlcnRhw6fDo28gb3UgVGVzZTogbyBhcnF1aXZvIGRlcG9zaXRhZG8gY29ycmVzcG9uZGUgw6AgdmVyc8OjbyBmaW5hbCBkbyB0cmFiYWxobzsKClZJIC0gcXVhbmRvIHRyYXRhci1zZSBkZSBUcmFiYWxobyBkZSBDb25jbHVzw6NvIGRlIEN1cnNvLCBEaXNzZXJ0YcOnw6NvIG91IFRlc2U6IGVzdG91IGNpZW50ZSBkZSBxdWUgYSBhbHRlcmHDp8OjbyBkYSBtb2RhbGlkYWRlIGRlIGFjZXNzbyBhbyBkb2N1bWVudG8gYXDDs3MgbyBkZXDDs3NpdG8gZSBhbnRlcyBkZSBmaW5kYXIgbyBwZXLDrW9kbyBkZSBlbWJhcmdvLCBxdWFuZG8gZm9yIGVzY29saGlkbyBhY2Vzc28gcmVzdHJpdG8sIHNlcsOhIHBlcm1pdGlkYSBtZWRpYW50ZSBzb2xpY2l0YcOnw6NvIGRvIChhKSBhdXRvciAoYSkgYW8gU2lzdGVtYSBJbnRlZ3JhZG8gZGUgQmlibGlvdGVjYXMgZGEgVUZQRSAoU0lCL1VGUEUpLgoKIApQYXJhIHRyYWJhbGhvcyBlbSBBY2Vzc28gQWJlcnRvOgoKTmEgcXVhbGlkYWRlIGRlIHRpdHVsYXIgZG9zIGRpcmVpdG9zIGF1dG9yYWlzIGRlIGF1dG9yIHF1ZSByZWNhZW0gc29icmUgZXN0ZSBkb2N1bWVudG8sIGZ1bmRhbWVudGFkbyBuYSBMZWkgZGUgRGlyZWl0byBBdXRvcmFsIG5vIDkuNjEwLCBkZSAxOSBkZSBmZXZlcmVpcm8gZGUgMTk5OCwgYXJ0LiAyOSwgaW5jaXNvIElJSSwgYXV0b3Jpem8gYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkZSBQZXJuYW1idWNvIGEgZGlzcG9uaWJpbGl6YXIgZ3JhdHVpdGFtZW50ZSwgc2VtIHJlc3NhcmNpbWVudG8gZG9zIGRpcmVpdG9zIGF1dG9yYWlzLCBwYXJhIGZpbnMgZGUgbGVpdHVyYSwgaW1wcmVzc8OjbyBlL291IGRvd25sb2FkIChhcXVpc2nDp8OjbykgYXRyYXbDqXMgZG8gc2l0ZSBkbyBSZXBvc2l0w7NyaW8gRGlnaXRhbCBkYSBVRlBFIG5vIGVuZGVyZcOnbyBodHRwOi8vd3d3LnJlcG9zaXRvcmlvLnVmcGUuYnIsIGEgcGFydGlyIGRhIGRhdGEgZGUgZGVww7NzaXRvLgoKIApQYXJhIHRyYWJhbGhvcyBlbSBBY2Vzc28gUmVzdHJpdG86CgpOYSBxdWFsaWRhZGUgZGUgdGl0dWxhciBkb3MgZGlyZWl0b3MgYXV0b3JhaXMgZGUgYXV0b3IgcXVlIHJlY2FlbSBzb2JyZSBlc3RlIGRvY3VtZW50bywgZnVuZGFtZW50YWRvIG5hIExlaSBkZSBEaXJlaXRvIEF1dG9yYWwgbm8gOS42MTAgZGUgMTkgZGUgZmV2ZXJlaXJvIGRlIDE5OTgsIGFydC4gMjksIGluY2lzbyBJSUksIGF1dG9yaXpvIGEgVW5pdmVyc2lkYWRlIEZlZGVyYWwgZGUgUGVybmFtYnVjbyBhIGRpc3BvbmliaWxpemFyIGdyYXR1aXRhbWVudGUsIHNlbSByZXNzYXJjaW1lbnRvIGRvcyBkaXJlaXRvcyBhdXRvcmFpcywgcGFyYSBmaW5zIGRlIGxlaXR1cmEsIGltcHJlc3PDo28gZS9vdSBkb3dubG9hZCAoYXF1aXNpw6fDo28pIGF0cmF2w6lzIGRvIHNpdGUgZG8gUmVwb3NpdMOzcmlvIERpZ2l0YWwgZGEgVUZQRSBubyBlbmRlcmXDp28gaHR0cDovL3d3dy5yZXBvc2l0b3Jpby51ZnBlLmJyLCBxdWFuZG8gZmluZGFyIG8gcGVyw61vZG8gZGUgZW1iYXJnbyBjb25kaXplbnRlIGFvIHRpcG8gZGUgZG9jdW1lbnRvLCBjb25mb3JtZSBpbmRpY2FkbyBubyBjYW1wbyBEYXRhIGRlIEVtYmFyZ28uCg==Repositório InstitucionalPUBhttps://repositorio.ufpe.br/oai/requestattena@ufpe.bropendoar:22212023-08-03T05:18:30Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE)false
dc.title.pt_BR.fl_str_mv MAIA : Metamodelo de Accountability para Inteligência Artificial
title MAIA : Metamodelo de Accountability para Inteligência Artificial
spellingShingle MAIA : Metamodelo de Accountability para Inteligência Artificial
PADOVAN, Paulo Henrique
Inteligência computacional
Responsabilidade algorítmica
IA confiável
Inteligência Artificial Explicável (IAE)
Unidade Responsiva Explicável (URE)
title_short MAIA : Metamodelo de Accountability para Inteligência Artificial
title_full MAIA : Metamodelo de Accountability para Inteligência Artificial
title_fullStr MAIA : Metamodelo de Accountability para Inteligência Artificial
title_full_unstemmed MAIA : Metamodelo de Accountability para Inteligência Artificial
title_sort MAIA : Metamodelo de Accountability para Inteligência Artificial
author PADOVAN, Paulo Henrique
author_facet PADOVAN, Paulo Henrique
author_role author
dc.contributor.authorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/9788127954548465
dc.contributor.advisorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/1825502153580661
dc.contributor.advisor-coLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/0419071207537280
dc.contributor.author.fl_str_mv PADOVAN, Paulo Henrique
dc.contributor.advisor1.fl_str_mv QUEIROZ, Ruy José Guerra Barretto de
dc.contributor.advisor-co1.fl_str_mv MARTINS, Clarice Marinho
contributor_str_mv QUEIROZ, Ruy José Guerra Barretto de
MARTINS, Clarice Marinho
dc.subject.por.fl_str_mv Inteligência computacional
Responsabilidade algorítmica
IA confiável
Inteligência Artificial Explicável (IAE)
Unidade Responsiva Explicável (URE)
topic Inteligência computacional
Responsabilidade algorítmica
IA confiável
Inteligência Artificial Explicável (IAE)
Unidade Responsiva Explicável (URE)
description A inteligência artificial (IA) pode tomar decisões erráticas, causando preconceito, desconfiança, perdas ou danos aos indivíduos. Questões complexas de caráter mo- ral e normativo devem ser dirimidas para estabelecer como determinar accountabi- lity. Até recentemente, entender o funcionamento das “caixas pretas” era extrema- mente difícil; no entanto, o uso de Inteligência Artificial Explicável (XAI) ajuda a acla- rar os problemas complexos que podem incorrer a IA. Neste contexto, esta tese pro- cura analisar, caracterizar e conformar accountability no âmbito da moral e da IA e fornecer um cânone que ajude as várias partes interessadas a lidar com as questões de responsabilidade algorítmica. Para definir accountability, apresentamos, caracte- rizamos e diferenciamos os diversos matizes de responsabilidade no contexto nor- mativo atual, apresentando os dois pressupostos relacionados à accountability mo- ral: exigibilidade e responsividade. Por fim, fornecemos uma análise sobre como a estrutura contábil existente, com o suporte de XAI e dados registrados, pode abordar questões relacionadas à responsabilidade algorítmica da IA.
publishDate 2023
dc.date.accessioned.fl_str_mv 2023-08-02T21:27:38Z
dc.date.available.fl_str_mv 2023-08-02T21:27:38Z
dc.date.issued.fl_str_mv 2023-02-08
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv PADOVAN, Paulo Henrique. MAIA: Metamodelo de Accountability para Inteligência Artificial. 2023. Tese (Doutorado em Ciência da Computação) – Universidade Federal de Pernambuco, Recife, 2023.
dc.identifier.uri.fl_str_mv https://repositorio.ufpe.br/handle/123456789/51746
dc.identifier.dark.fl_str_mv ark:/64986/001300000wrpj
identifier_str_mv PADOVAN, Paulo Henrique. MAIA: Metamodelo de Accountability para Inteligência Artificial. 2023. Tese (Doutorado em Ciência da Computação) – Universidade Federal de Pernambuco, Recife, 2023.
ark:/64986/001300000wrpj
url https://repositorio.ufpe.br/handle/123456789/51746
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv Attribution-NonCommercial-NoDerivs 3.0 Brazil
http://creativecommons.org/licenses/by-nc-nd/3.0/br/
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Attribution-NonCommercial-NoDerivs 3.0 Brazil
http://creativecommons.org/licenses/by-nc-nd/3.0/br/
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal de Pernambuco
dc.publisher.program.fl_str_mv Programa de Pos Graduacao em Ciencia da Computacao
dc.publisher.initials.fl_str_mv UFPE
dc.publisher.country.fl_str_mv Brasil
publisher.none.fl_str_mv Universidade Federal de Pernambuco
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFPE
instname:Universidade Federal de Pernambuco (UFPE)
instacron:UFPE
instname_str Universidade Federal de Pernambuco (UFPE)
instacron_str UFPE
institution UFPE
reponame_str Repositório Institucional da UFPE
collection Repositório Institucional da UFPE
bitstream.url.fl_str_mv https://repositorio.ufpe.br/bitstream/123456789/51746/4/TESE%20Paulo%20Henrique%20Padovan.pdf.txt
https://repositorio.ufpe.br/bitstream/123456789/51746/5/TESE%20Paulo%20Henrique%20Padovan.pdf.jpg
https://repositorio.ufpe.br/bitstream/123456789/51746/3/license.txt
https://repositorio.ufpe.br/bitstream/123456789/51746/1/TESE%20Paulo%20Henrique%20Padovan.pdf
https://repositorio.ufpe.br/bitstream/123456789/51746/2/license_rdf
bitstream.checksum.fl_str_mv 6441ad9e8eefe60d3fad18865574c4f6
992cb2a69bfcf73338288ba51a1ddf26
5e89a1613ddc8510c6576f4b23a78973
da474bf18d28df95280917534db2776b
e39d27027a6cc9cb039ad269a5db8e34
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFPE - Universidade Federal de Pernambuco (UFPE)
repository.mail.fl_str_mv attena@ufpe.br
_version_ 1815172937127297024

Registros relacionados