Desempenho de algoritmos de aprendizagem por reforço sob condições de ambiguidade sensorial em robótica móvel

• Autor(a) principal: Monteiro,Sildomar T.
• Data de Publicação: 2004
• Outros Autores: Ribeiro,Carlos H. C.
• Tipo de documento: Artigo
• Idioma: por
• Título da fonte: Sba: Controle & Automação Sociedade Brasileira de Automatica
• Texto Completo: http://old.scielo.br/scielo.php?script=sci_arttext&pid=S0103-17592004000300008
• topic: Robôs móveis autônomos; aprendizagem por reforço; aprendizagem de mapas; redes neurais

Analisamos a variação de desempenho de algoritmos de aprendizagem por reforço em situações de ambigüidade de estados comumente produzidas pela baixa capacidade sensorial de robôs móveis. Esta variação é produzida pela violação da condição de Markov, importante para garantir a convergência destes algoritmos. As conseqüências práticas desta violação em sistemas reais não estão avaliadas de maneira definitiva na literatura. São estudados neste artigo os algoritmos Q-learning, Sarsa e Q(lambda), em experimentos realizados em um robô móvel Magellan Pro™. De modo a definir um verificador de desempenho para os algoritmos testados, foi implementado um método para criar mapas cognitivos de resolução variável. Os resultados mostram um desempenho satisfatório dos algoritmos, com uma degradação suave em função da ambigüidade sensorial. O algoritmo Q-learning teve o melhor desempenho, seguido do algoritmo Sarsa. O algoritmo Q(lambda) teve seu desempenho limitado pelos parâmetros experimentais. O método de criação de mapas se mostrou bastante eficiente, permitindo uma análise adequada dos algoritmos.