Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS
Autor(a) principal: | |
---|---|
Data de Publicação: | 2020 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFRN |
Texto Completo: | https://repositorio.ufrn.br/handle/123456789/32142 |
Resumo: | Um dos principais campos de pesquisa em Inteligência Artificial, no contexto dos jogos digitais, consiste no estudo dos Jogos de Estratégia em Tempo Real (RTS), que são comumente considerados sucessores dos jogos de estratégia clássicos tais como Damas, Xadrez, Gamão e Go, e impõem grandes desafios aos pesquisadores da área devido à grande complexidade envolvida. Atualmente, a área procura estudar os RTS utilizando os jogos StarCraft I e StarCraft II como palco para experimentação. A principal característica procurada nos agentes artificiais desenvolvidos para este tipo de jogo é o alto desempenho, tendo como objetivo derrotar jogadores humanos especialistas. Neste contexto se insere a problemática da generalização, que é a capacidade de um agente artificial reaproveitar experiências anteriores, oriundas de ambientes diferentes, para um novo ambiente. A generalização é um campo bastante estudado pela comunidade científica, mas ainda pouco explorado no contexto dos RTS. Por esta razão, este trabalho propõe o modelo Beyond Star, que consiste em uma arquitetura para representação genérica do espaço de estados e ações de jogos de estratégia de tempo real, usando como base técnicas de aprendizado por reforço profundo com o intuito de aprender estratégias eficazes nos mais variados ambientes de jogos RTS. Como base para a arquitetura, foi desenvolvida uma plataforma intitulada URNAI, ferramenta que integra diversos algoritmos de aprendizado de máquina e diversos ambientes diferentes de jogos, como StarCraft II e DeepRTS. Para analisar se a solução é capaz de permitir a generalização de agentes, experimentos foram realizados com StarCraft II e DeepRTS. Os resultados demonstram que os agentes treinados foram capazes de generalizar seu conhecimento de um ambiente para outro, demonstrando um resultado promissor que permite validar a proposta deste trabalho. |
id |
UFRN_22b6999e078242a17e397ae0fb67a500 |
---|---|
oai_identifier_str |
oai:https://repositorio.ufrn.br:123456789/32142 |
network_acronym_str |
UFRN |
network_name_str |
Repositório Institucional da UFRN |
repository_id_str |
|
spelling |
Araújo, Marco Antônio Silva ehttp://lattes.cnpq.br/7760631139812468http://lattes.cnpq.br/2381782879955327Ramalho, Geber Lisboahttp://lattes.cnpq.br/9783292465422902Bezerra, Leonardo César Teonáciohttp://lattes.cnpq.br/0664132257054306Madeira, Charles Andrye Galvão2021-04-09T19:44:02Z2021-04-09T19:44:02Z2020-12-16ARAÚJO, Marco Antônio Silva e. Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS. 2020. 132f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2020.https://repositorio.ufrn.br/handle/123456789/32142Um dos principais campos de pesquisa em Inteligência Artificial, no contexto dos jogos digitais, consiste no estudo dos Jogos de Estratégia em Tempo Real (RTS), que são comumente considerados sucessores dos jogos de estratégia clássicos tais como Damas, Xadrez, Gamão e Go, e impõem grandes desafios aos pesquisadores da área devido à grande complexidade envolvida. Atualmente, a área procura estudar os RTS utilizando os jogos StarCraft I e StarCraft II como palco para experimentação. A principal característica procurada nos agentes artificiais desenvolvidos para este tipo de jogo é o alto desempenho, tendo como objetivo derrotar jogadores humanos especialistas. Neste contexto se insere a problemática da generalização, que é a capacidade de um agente artificial reaproveitar experiências anteriores, oriundas de ambientes diferentes, para um novo ambiente. A generalização é um campo bastante estudado pela comunidade científica, mas ainda pouco explorado no contexto dos RTS. Por esta razão, este trabalho propõe o modelo Beyond Star, que consiste em uma arquitetura para representação genérica do espaço de estados e ações de jogos de estratégia de tempo real, usando como base técnicas de aprendizado por reforço profundo com o intuito de aprender estratégias eficazes nos mais variados ambientes de jogos RTS. Como base para a arquitetura, foi desenvolvida uma plataforma intitulada URNAI, ferramenta que integra diversos algoritmos de aprendizado de máquina e diversos ambientes diferentes de jogos, como StarCraft II e DeepRTS. Para analisar se a solução é capaz de permitir a generalização de agentes, experimentos foram realizados com StarCraft II e DeepRTS. Os resultados demonstram que os agentes treinados foram capazes de generalizar seu conhecimento de um ambiente para outro, demonstrando um resultado promissor que permite validar a proposta deste trabalho.One of the main research fields under Artificial Intelligence, on the context of Digital Games, is the study of Real-Time Strategy Games (RTS), which are commonly considered the successors of classic strategy games such as Checkers, Chess, Backgammon and Go, and impose great challenges to this area’s researchers due to the great complexity involved. Currently, the field aims to study the RTS using StarCraft I and II as stage of experimentation. The main feature sought in artificial agents developed to this kind of game is high performance, having as its main objective to defeat specialist human players. On this context it is inserted the generalization problematic, that is the capacity of an artificial agent of reusing previous experiences, from different contexts, to a new environment. Generalization is a very studied field by the scientific community, but still poorly explored on the context of RTS. By this reason, this work proposes the Beyond Star model, which consists in an architecture to generically represent the state-space of Real-Time Strategy Games, using as base deep reinforcement learning techniques aiming to learn effective strategies to be applied in several RTS environments. As a basis to the architecture, it was developed a platform titled URNAI, a tool that integrates several machine learning algorithms and several different game environments, such as StarCraft II and DeepRTS. To analyse if the solution is capable of allowing agent generalization, tests were carried out in DeepRTS and StarCraft II. The results demonstrate that the trained agents were capable of generalizing their knowledge from one environment to the other, showing a promising result that allows to validate this work’s proposal.Universidade Federal do Rio Grande do NortePROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃOUFRNBrasilGeneralizaçãoAprendizado por reforçoStarCraftBeyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTSBeyond Star: a learning architectural model to the generalization of strategies in RTS gamesinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessporreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRNTEXTBeyondStarmodelo_Araujo_2020.pdf.txtBeyondStarmodelo_Araujo_2020.pdf.txtExtracted texttext/plain277608https://repositorio.ufrn.br/bitstream/123456789/32142/2/BeyondStarmodelo_Araujo_2020.pdf.txt0e4f1de9d11e65f1831c18333696d136MD52THUMBNAILBeyondStarmodelo_Araujo_2020.pdf.jpgBeyondStarmodelo_Araujo_2020.pdf.jpgGenerated Thumbnailimage/jpeg1341https://repositorio.ufrn.br/bitstream/123456789/32142/3/BeyondStarmodelo_Araujo_2020.pdf.jpgdfc6acc460b56cb23001a02a554f1cb3MD53ORIGINALBeyondStarmodelo_Araujo_2020.pdfapplication/pdf10827018https://repositorio.ufrn.br/bitstream/123456789/32142/1/BeyondStarmodelo_Araujo_2020.pdf6d62b9f5cc2f1cc3cb2e65b9dbea7521MD51123456789/321422021-04-11 06:06:21.679oai:https://repositorio.ufrn.br:123456789/32142Repositório de PublicaçõesPUBhttp://repositorio.ufrn.br/oai/opendoar:2021-04-11T09:06:21Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false |
dc.title.pt_BR.fl_str_mv |
Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS |
dc.title.alternative.pt_BR.fl_str_mv |
Beyond Star: a learning architectural model to the generalization of strategies in RTS games |
title |
Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS |
spellingShingle |
Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS Araújo, Marco Antônio Silva e Generalização Aprendizado por reforço StarCraft |
title_short |
Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS |
title_full |
Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS |
title_fullStr |
Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS |
title_full_unstemmed |
Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS |
title_sort |
Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS |
author |
Araújo, Marco Antônio Silva e |
author_facet |
Araújo, Marco Antônio Silva e |
author_role |
author |
dc.contributor.authorID.pt_BR.fl_str_mv |
|
dc.contributor.authorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/7760631139812468 |
dc.contributor.advisorID.pt_BR.fl_str_mv |
|
dc.contributor.advisorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/2381782879955327 |
dc.contributor.referees1.none.fl_str_mv |
Ramalho, Geber Lisboa |
dc.contributor.referees1ID.pt_BR.fl_str_mv |
|
dc.contributor.referees1Lattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/9783292465422902 |
dc.contributor.referees2.none.fl_str_mv |
Bezerra, Leonardo César Teonácio |
dc.contributor.referees2ID.pt_BR.fl_str_mv |
|
dc.contributor.referees2Lattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/0664132257054306 |
dc.contributor.author.fl_str_mv |
Araújo, Marco Antônio Silva e |
dc.contributor.advisor1.fl_str_mv |
Madeira, Charles Andrye Galvão |
contributor_str_mv |
Madeira, Charles Andrye Galvão |
dc.subject.por.fl_str_mv |
Generalização Aprendizado por reforço StarCraft |
topic |
Generalização Aprendizado por reforço StarCraft |
description |
Um dos principais campos de pesquisa em Inteligência Artificial, no contexto dos jogos digitais, consiste no estudo dos Jogos de Estratégia em Tempo Real (RTS), que são comumente considerados sucessores dos jogos de estratégia clássicos tais como Damas, Xadrez, Gamão e Go, e impõem grandes desafios aos pesquisadores da área devido à grande complexidade envolvida. Atualmente, a área procura estudar os RTS utilizando os jogos StarCraft I e StarCraft II como palco para experimentação. A principal característica procurada nos agentes artificiais desenvolvidos para este tipo de jogo é o alto desempenho, tendo como objetivo derrotar jogadores humanos especialistas. Neste contexto se insere a problemática da generalização, que é a capacidade de um agente artificial reaproveitar experiências anteriores, oriundas de ambientes diferentes, para um novo ambiente. A generalização é um campo bastante estudado pela comunidade científica, mas ainda pouco explorado no contexto dos RTS. Por esta razão, este trabalho propõe o modelo Beyond Star, que consiste em uma arquitetura para representação genérica do espaço de estados e ações de jogos de estratégia de tempo real, usando como base técnicas de aprendizado por reforço profundo com o intuito de aprender estratégias eficazes nos mais variados ambientes de jogos RTS. Como base para a arquitetura, foi desenvolvida uma plataforma intitulada URNAI, ferramenta que integra diversos algoritmos de aprendizado de máquina e diversos ambientes diferentes de jogos, como StarCraft II e DeepRTS. Para analisar se a solução é capaz de permitir a generalização de agentes, experimentos foram realizados com StarCraft II e DeepRTS. Os resultados demonstram que os agentes treinados foram capazes de generalizar seu conhecimento de um ambiente para outro, demonstrando um resultado promissor que permite validar a proposta deste trabalho. |
publishDate |
2020 |
dc.date.issued.fl_str_mv |
2020-12-16 |
dc.date.accessioned.fl_str_mv |
2021-04-09T19:44:02Z |
dc.date.available.fl_str_mv |
2021-04-09T19:44:02Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
ARAÚJO, Marco Antônio Silva e. Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS. 2020. 132f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2020. |
dc.identifier.uri.fl_str_mv |
https://repositorio.ufrn.br/handle/123456789/32142 |
identifier_str_mv |
ARAÚJO, Marco Antônio Silva e. Beyond Star: um modelo de arquitetura de aprendizado para generalização de estratégias em jogos RTS. 2020. 132f. Dissertação (Mestrado Profissional em Tecnologia da Informação) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2020. |
url |
https://repositorio.ufrn.br/handle/123456789/32142 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Federal do Rio Grande do Norte |
dc.publisher.program.fl_str_mv |
PROGRAMA DE PÓS-GRADUAÇÃO EM TECNOLOGIA DA INFORMAÇÃO |
dc.publisher.initials.fl_str_mv |
UFRN |
dc.publisher.country.fl_str_mv |
Brasil |
publisher.none.fl_str_mv |
Universidade Federal do Rio Grande do Norte |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFRN instname:Universidade Federal do Rio Grande do Norte (UFRN) instacron:UFRN |
instname_str |
Universidade Federal do Rio Grande do Norte (UFRN) |
instacron_str |
UFRN |
institution |
UFRN |
reponame_str |
Repositório Institucional da UFRN |
collection |
Repositório Institucional da UFRN |
bitstream.url.fl_str_mv |
https://repositorio.ufrn.br/bitstream/123456789/32142/2/BeyondStarmodelo_Araujo_2020.pdf.txt https://repositorio.ufrn.br/bitstream/123456789/32142/3/BeyondStarmodelo_Araujo_2020.pdf.jpg https://repositorio.ufrn.br/bitstream/123456789/32142/1/BeyondStarmodelo_Araujo_2020.pdf |
bitstream.checksum.fl_str_mv |
0e4f1de9d11e65f1831c18333696d136 dfc6acc460b56cb23001a02a554f1cb3 6d62b9f5cc2f1cc3cb2e65b9dbea7521 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN) |
repository.mail.fl_str_mv |
|
_version_ |
1814832768344915968 |