Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS

Detalhes bibliográficos
Autor(a) principal: Araújo, Marco Antônio Silva e
Data de Publicação: 2020
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da UFRN
Texto Completo: https://repositorio.ufrn.br/handle/123456789/32142
Resumo: Um dos principais campos de pesquisa em Inteligência Artificial, no contexto dos jogos digitais, consiste no estudo dos Jogos de Estratégia em Tempo Real (RTS), que são comumente considerados sucessores dos jogos de estratégia clássicos tais como Damas, Xadrez, Gamão e Go, e impõem grandes desafios aos pesquisadores da área devido à grande complexidade envolvida. Atualmente, a área procura estudar os RTS utilizando os jogos StarCraft I e StarCraft II como palco para experimentação. A principal característica procurada nos agentes artificiais desenvolvidos para este tipo de jogo é o alto desempenho, tendo como objetivo derrotar jogadores humanos especialistas. Neste contexto se insere a problemática da generalização, que é a capacidade de um agente artificial reaproveitar experiências anteriores, oriundas de ambientes diferentes, para um novo ambiente. A generalização é um campo bastante estudado pela comunidade científica, mas ainda pouco explorado no contexto dos RTS. Por esta razão, este trabalho propõe o modelo Beyond Star, que consiste em uma arquitetura para representação genérica do espaço de estados e ações de jogos de estratégia de tempo real, usando como base técnicas de aprendizado por reforço profundo com o intuito de aprender estratégias eficazes nos mais variados ambientes de jogos RTS. Como base para a arquitetura, foi desenvolvida uma plataforma intitulada URNAI, ferramenta que integra diversos algoritmos de aprendizado de máquina e diversos ambientes diferentes de jogos, como StarCraft II e DeepRTS. Para analisar se a solução é capaz de permitir a generalização de agentes, experimentos foram realizados com StarCraft II e DeepRTS. Os resultados demonstram que os agentes treinados foram capazes de generalizar seu conhecimento de um ambiente para outro, demonstrando um resultado promissor que permite validar a proposta deste trabalho.
id UFRN_22b6999e078242a17e397ae0fb67a500
oai_identifier_str oai:https://repositorio.ufrn.br:123456789/32142
network_acronym_str UFRN
network_name_str Repositório Institucional da UFRN
repository_id_str
spelling Araújo, Marco Antônio Silva ehttp://lattes.cnpq.br/7760631139812468http://lattes.cnpq.br/2381782879955327Ramalho, Geber Lisboahttp://lattes.cnpq.br/9783292465422902Bezerra, Leonardo César Teonáciohttp://lattes.cnpq.br/0664132257054306Madeira, Charles Andrye Galvão2021-04-09T19:44:02Z2021-04-09T19:44:02Z2020-12-16ARAÚJO, Marco Antônio Silva e. Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS. 2020. 132f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2020.https://repositorio.ufrn.br/handle/123456789/32142Um dos principais campos de pesquisa em Inteligência Artificial, no contexto dos jogos digitais, consiste no estudo dos Jogos de Estratégia em Tempo Real (RTS), que são comumente considerados sucessores dos jogos de estratégia clássicos tais como Damas, Xadrez, Gamão e Go, e impõem grandes desafios aos pesquisadores da área devido à grande complexidade envolvida. Atualmente, a área procura estudar os RTS utilizando os jogos StarCraft I e StarCraft II como palco para experimentação. A principal característica procurada nos agentes artificiais desenvolvidos para este tipo de jogo é o alto desempenho, tendo como objetivo derrotar jogadores humanos especialistas. Neste contexto se insere a problemática da generalização, que é a capacidade de um agente artificial reaproveitar experiências anteriores, oriundas de ambientes diferentes, para um novo ambiente. A generalização é um campo bastante estudado pela comunidade científica, mas ainda pouco explorado no contexto dos RTS. Por esta razão, este trabalho propõe o modelo Beyond Star, que consiste em uma arquitetura para representação genérica do espaço de estados e ações de jogos de estratégia de tempo real, usando como base técnicas de aprendizado por reforço profundo com o intuito de aprender estratégias eficazes nos mais variados ambientes de jogos RTS. Como base para a arquitetura, foi desenvolvida uma plataforma intitulada URNAI, ferramenta que integra diversos algoritmos de aprendizado de máquina e diversos ambientes diferentes de jogos, como StarCraft II e DeepRTS. Para analisar se a solução é capaz de permitir a generalização de agentes, experimentos foram realizados com StarCraft II e DeepRTS. Os resultados demonstram que os agentes treinados foram capazes de generalizar seu conhecimento de um ambiente para outro, demonstrando um resultado promissor que permite validar a proposta deste trabalho.One of the main research fields under Artificial Intelligence, on the context of Digital Games, is the study of Real-Time Strategy Games (RTS), which are commonly considered the successors of classic strategy games such as Checkers, Chess, Backgammon and Go, and impose great challenges to this area’s researchers due to the great complexity involved. Currently, the field aims to study the RTS using StarCraft I and II as stage of experimentation. The main feature sought in artificial agents developed to this kind of game is high performance, having as its main objective to defeat specialist human players. On this context it is inserted the generalization problematic, that is the capacity of an artificial agent of reusing previous experiences, from different contexts, to a new environment. Generalization is a very studied field by the scientific community, but still poorly explored on the context of RTS. By this reason, this work proposes the Beyond Star model, which consists in an architecture to generically represent the state-space of Real-Time Strategy Games, using as base deep reinforcement learning techniques aiming to learn effective strategies to be applied in several RTS environments. As a basis to the architecture, it was developed a platform titled URNAI, a tool that integrates several machine learning algorithms and several different game environments, such as StarCraft II and DeepRTS. To analyse if the solution is capable of allowing agent generalization, tests were carried out in DeepRTS and StarCraft II. The results demonstrate that the trained agents were capable of generalizing their knowledge from one environment to the other, showing a promising result that allows to validate this work’s proposal.Universidade Federal do Rio Grande do NortePROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃOUFRNBrasilGeneralizaçãoAprendizado por reforçoStarCraftBeyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTSBeyond Star: a learning architectural model to the generalization of strategies in RTS gamesinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessporreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRNTEXTBeyondStarmodelo_Araujo_2020.pdf.txtBeyondStarmodelo_Araujo_2020.pdf.txtExtracted texttext/plain277608https://repositorio.ufrn.br/bitstream/123456789/32142/2/BeyondStarmodelo_Araujo_2020.pdf.txt0e4f1de9d11e65f1831c18333696d136MD52THUMBNAILBeyondStarmodelo_Araujo_2020.pdf.jpgBeyondStarmodelo_Araujo_2020.pdf.jpgGenerated Thumbnailimage/jpeg1341https://repositorio.ufrn.br/bitstream/123456789/32142/3/BeyondStarmodelo_Araujo_2020.pdf.jpgdfc6acc460b56cb23001a02a554f1cb3MD53ORIGINALBeyondStarmodelo_Araujo_2020.pdfapplication/pdf10827018https://repositorio.ufrn.br/bitstream/123456789/32142/1/BeyondStarmodelo_Araujo_2020.pdf6d62b9f5cc2f1cc3cb2e65b9dbea7521MD51123456789/321422021-04-11 06:06:21.679oai:https://repositorio.ufrn.br:123456789/32142Repositório de PublicaçõesPUBhttp://repositorio.ufrn.br/oai/opendoar:2021-04-11T09:06:21Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false
dc.title.pt_BR.fl_str_mv Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
dc.title.alternative.pt_BR.fl_str_mv Beyond Star: a learning architectural model to the generalization of strategies in RTS games
title Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
spellingShingle Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
Araújo, Marco Antônio Silva e
Generalização
Aprendizado por reforço
StarCraft
title_short Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
title_full Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
title_fullStr Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
title_full_unstemmed Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
title_sort Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
author Araújo, Marco Antônio Silva e
author_facet Araújo, Marco Antônio Silva e
author_role author
dc.contributor.authorID.pt_BR.fl_str_mv
dc.contributor.authorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/7760631139812468
dc.contributor.advisorID.pt_BR.fl_str_mv
dc.contributor.advisorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/2381782879955327
dc.contributor.referees1.none.fl_str_mv Ramalho, Geber Lisboa
dc.contributor.referees1ID.pt_BR.fl_str_mv
dc.contributor.referees1Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/9783292465422902
dc.contributor.referees2.none.fl_str_mv Bezerra, Leonardo César Teonácio
dc.contributor.referees2ID.pt_BR.fl_str_mv
dc.contributor.referees2Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/0664132257054306
dc.contributor.author.fl_str_mv Araújo, Marco Antônio Silva e
dc.contributor.advisor1.fl_str_mv Madeira, Charles Andrye Galvão
contributor_str_mv Madeira, Charles Andrye Galvão
dc.subject.por.fl_str_mv Generalização
Aprendizado por reforço
StarCraft
topic Generalização
Aprendizado por reforço
StarCraft
description Um dos principais campos de pesquisa em Inteligência Artificial, no contexto dos jogos digitais, consiste no estudo dos Jogos de Estratégia em Tempo Real (RTS), que são comumente considerados sucessores dos jogos de estratégia clássicos tais como Damas, Xadrez, Gamão e Go, e impõem grandes desafios aos pesquisadores da área devido à grande complexidade envolvida. Atualmente, a área procura estudar os RTS utilizando os jogos StarCraft I e StarCraft II como palco para experimentação. A principal característica procurada nos agentes artificiais desenvolvidos para este tipo de jogo é o alto desempenho, tendo como objetivo derrotar jogadores humanos especialistas. Neste contexto se insere a problemática da generalização, que é a capacidade de um agente artificial reaproveitar experiências anteriores, oriundas de ambientes diferentes, para um novo ambiente. A generalização é um campo bastante estudado pela comunidade científica, mas ainda pouco explorado no contexto dos RTS. Por esta razão, este trabalho propõe o modelo Beyond Star, que consiste em uma arquitetura para representação genérica do espaço de estados e ações de jogos de estratégia de tempo real, usando como base técnicas de aprendizado por reforço profundo com o intuito de aprender estratégias eficazes nos mais variados ambientes de jogos RTS. Como base para a arquitetura, foi desenvolvida uma plataforma intitulada URNAI, ferramenta que integra diversos algoritmos de aprendizado de máquina e diversos ambientes diferentes de jogos, como StarCraft II e DeepRTS. Para analisar se a solução é capaz de permitir a generalização de agentes, experimentos foram realizados com StarCraft II e DeepRTS. Os resultados demonstram que os agentes treinados foram capazes de generalizar seu conhecimento de um ambiente para outro, demonstrando um resultado promissor que permite validar a proposta deste trabalho.
publishDate 2020
dc.date.issued.fl_str_mv 2020-12-16
dc.date.accessioned.fl_str_mv 2021-04-09T19:44:02Z
dc.date.available.fl_str_mv 2021-04-09T19:44:02Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv ARAÚJO, Marco Antônio Silva e. Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS. 2020. 132f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2020.
dc.identifier.uri.fl_str_mv https://repositorio.ufrn.br/handle/123456789/32142
identifier_str_mv ARAÚJO, Marco Antônio Silva e. Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS. 2020. 132f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2020.
url https://repositorio.ufrn.br/handle/123456789/32142
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.publisher.program.fl_str_mv PROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃO
dc.publisher.initials.fl_str_mv UFRN
dc.publisher.country.fl_str_mv Brasil
publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRN
instname:Universidade Federal do Rio Grande do Norte (UFRN)
instacron:UFRN
instname_str Universidade Federal do Rio Grande do Norte (UFRN)
instacron_str UFRN
institution UFRN
reponame_str Repositório Institucional da UFRN
collection Repositório Institucional da UFRN
bitstream.url.fl_str_mv https://repositorio.ufrn.br/bitstream/123456789/32142/2/BeyondStarmodelo_Araujo_2020.pdf.txt
https://repositorio.ufrn.br/bitstream/123456789/32142/3/BeyondStarmodelo_Araujo_2020.pdf.jpg
https://repositorio.ufrn.br/bitstream/123456789/32142/1/BeyondStarmodelo_Araujo_2020.pdf
bitstream.checksum.fl_str_mv 0e4f1de9d11e65f1831c18333696d136
dfc6acc460b56cb23001a02a554f1cb3
6d62b9f5cc2f1cc3cb2e65b9dbea7521
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)
repository.mail.fl_str_mv
_version_ 1814832768344915968