Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma
Autor(a) principal: | |
---|---|
Data de Publicação: | 2011 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) |
Texto Completo: | https://hdl.handle.net/20.500.12733/1615798 |
Resumo: | Orientador: Fernando José Von Zuben |
id |
UNICAMP-30_2e1756c8f435a25002e24b175783bd6a |
---|---|
oai_identifier_str |
oai::803473 |
network_acronym_str |
UNICAMP-30 |
network_name_str |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) |
repository_id_str |
|
spelling |
Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônomaReinforcement learning in probabilistic models of immune networks for autonomous roboticsAprendizado de máquinaSistemas inteligentes de controleRobôs móveisSistemas de veículos auto-guiadosMachine learningIntelligent control systemsMobile robotsAutomated guided vehicle systemsOrientador: Fernando José Von ZubenDissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de ComputaçãoResumo: Há uma demanda crescente por soluções avançadas de navegação autônoma em robótica móvel. Apresenta-se então um sistema de síntese e aprendizagem de controladores com tal finalidade. Propõe-se um controlador probabilístico, consistindo no acoplamento de um processo de decisão de Markov parcialmente observável (POMDP) com um classificador logístico multinomial. A parametrização empregada para o POMDP inspira-se numa proposta anterior de controle de robô por meio de redes imunológicas artificiais, que mostrou apresentar flexibilidade e capacidade de representação de conhecimento na execução de tarefas desafiadoras de navegação autônoma. A aprendizagem dos parâmetros do classificador logístico é efetuada através de um algoritmo de aprendizagem por reforço baseado em gradiente de política, e os do POMDP, atráves de um algoritmo de maximização de verossimilhança. Três experimentos computacionais são efetuados, dois deles utilizando somente o classificador logístico, e o terceiro utilizando o acoplamento entre POMDP e classificador logístico. Os resultados permitem a constatação de pontos fortes e algumas deficiências das duas abordagens. O trabalho aponta também para uma potencial reinterpretação do controlador baseado em rede imunológica em termos de um modelo probabilístico similar ao propostoAbstract: There is an increasing demand for advanced solutions in autonomous navigation of mobile robots. A system is presented for the synthesis and learning of controllers for such purpose. A probabilistic controller is proposed, consisting of the coupling of a partially observable Markov decision process (POMDP) with a multinomial logistic classifier. The parametrization used for the POMDP draws on an earlier proposal of robot control based on artificial immune networks, that has shown to present flexibility and knowledge representation capability in the execution of challenging autonomous navigation tasks. Learning the logistic classifier parameters is accomplished through a reinforcement learning algorithm based on policy gradient, while the POMDP parameters are learned by a likelihood maximization algorithm. Three computational experiments are performed, two of them using only the logistic classifier, and the third one using the coupling of a POMDP with a logistic classifier. The results show some strong points and drawbacks of both approaches. The work also points torwards a potential reinterpretation of the immune network based controller in terms of a probabilistic model similar to the one proposedMestradoEngenharia de ComputaçãoMestre em Engenharia Elétrica[s.n.]Von Zuben, Fernando José, 1968-Von Zuben, Fernando José, 1968-Figueiredo, Mauricio FernandesAmaral, Wagner Caradori doUniversidade Estadual de Campinas. Faculdade de Engenharia Elétrica e de ComputaçãoPrograma de Pós-Graduação em Engenharia ElétricaUNIVERSIDADE ESTADUAL DE CAMPINASAzzolini, Alisson Gusatti2011info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdf152 p. : il.https://hdl.handle.net/20.500.12733/1615798AZZOLINI, Alisson Gusatti. Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma. 2011. 152 p. Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de Computação, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1615798. Acesso em: 15 mai. 2024.https://repositorio.unicamp.br/acervo/detalhe/803473porreponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)instname:Universidade Estadual de Campinas (UNICAMP)instacron:UNICAMPinfo:eu-repo/semantics/openAccess2017-02-18T06:20:14Zoai::803473Biblioteca Digital de Teses e DissertaçõesPUBhttp://repositorio.unicamp.br/oai/tese/oai.aspsbubd@unicamp.bropendoar:2017-02-18T06:20:14Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP)false |
dc.title.none.fl_str_mv |
Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma Reinforcement learning in probabilistic models of immune networks for autonomous robotics |
title |
Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma |
spellingShingle |
Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma Azzolini, Alisson Gusatti Aprendizado de máquina Sistemas inteligentes de controle Robôs móveis Sistemas de veículos auto-guiados Machine learning Intelligent control systems Mobile robots Automated guided vehicle systems |
title_short |
Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma |
title_full |
Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma |
title_fullStr |
Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma |
title_full_unstemmed |
Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma |
title_sort |
Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma |
author |
Azzolini, Alisson Gusatti |
author_facet |
Azzolini, Alisson Gusatti |
author_role |
author |
dc.contributor.none.fl_str_mv |
Von Zuben, Fernando José, 1968- Von Zuben, Fernando José, 1968- Figueiredo, Mauricio Fernandes Amaral, Wagner Caradori do Universidade Estadual de Campinas. Faculdade de Engenharia Elétrica e de Computação Programa de Pós-Graduação em Engenharia Elétrica UNIVERSIDADE ESTADUAL DE CAMPINAS |
dc.contributor.author.fl_str_mv |
Azzolini, Alisson Gusatti |
dc.subject.por.fl_str_mv |
Aprendizado de máquina Sistemas inteligentes de controle Robôs móveis Sistemas de veículos auto-guiados Machine learning Intelligent control systems Mobile robots Automated guided vehicle systems |
topic |
Aprendizado de máquina Sistemas inteligentes de controle Robôs móveis Sistemas de veículos auto-guiados Machine learning Intelligent control systems Mobile robots Automated guided vehicle systems |
description |
Orientador: Fernando José Von Zuben |
publishDate |
2011 |
dc.date.none.fl_str_mv |
2011 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
https://hdl.handle.net/20.500.12733/1615798 AZZOLINI, Alisson Gusatti. Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma. 2011. 152 p. Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de Computação, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1615798. Acesso em: 15 mai. 2024. |
url |
https://hdl.handle.net/20.500.12733/1615798 |
identifier_str_mv |
AZZOLINI, Alisson Gusatti. Aprendizado por reforço em modelos probabilísticos de redes imunológicas para robótica autônoma. 2011. 152 p. Dissertação (mestrado) - Universidade Estadual de Campinas, Faculdade de Engenharia Elétrica e de Computação, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1615798. Acesso em: 15 mai. 2024. |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.relation.none.fl_str_mv |
https://repositorio.unicamp.br/acervo/detalhe/803473 |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf 152 p. : il. |
dc.publisher.none.fl_str_mv |
[s.n.] |
publisher.none.fl_str_mv |
[s.n.] |
dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) instname:Universidade Estadual de Campinas (UNICAMP) instacron:UNICAMP |
instname_str |
Universidade Estadual de Campinas (UNICAMP) |
instacron_str |
UNICAMP |
institution |
UNICAMP |
reponame_str |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) |
collection |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) |
repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP) |
repository.mail.fl_str_mv |
sbubd@unicamp.br |
_version_ |
1799138485439823872 |