Reinforcement learning-based control for eVTOLs

Detalhes bibliográficos
Autor(a) principal: Almeida, Aline Gabriel de [UNESP]
Data de Publicação: 2024
Tipo de documento: Dissertação
Idioma: eng
Título da fonte: Repositório Institucional da UNESP
Texto Completo: https://hdl.handle.net/11449/256865
Resumo: Esta dissertação de mestrado explora o controle de aeronaves de decolagem e pouso vertical elétricas (eVTOL), com foco na utilização de Aprendizado por Reforço (RL) para aprimorar métodos de controle. A Otimização de Política Proximal (PPO) é utilizada como estratégia incipal de controle, enquanto que uma comparação é feita com o Gradiente de Política Determinística Profunda com Atraso Duplo (TD3). As estratégias são testadas em diversos tipos de UAVs com formas e níveis de complexidade de controle diferentes. A integração dessas estratégias com modelos de aeronaves ocorre dentro do ambiente de simulação MuJoCo. Além isso, é realizada uma análise sobre a capacidade das aeronaves eVTOL de lidar com falhas. Cenários simulados incluem casos onde um ou mais rotores param de funcionar temporariamente, semelhante apossiveis situações da vida real. Por meio dessas avaliações, o objetivo é explorar a eficácia dessas estratégias de controle em contextos práticos. Essa compreensão aprofundada pode contribuir com avanços na aplicação real de técnicas de RL para o controle de aeronaves eVTOL.
id UNSP_a2165d03c9c4926f0ca1a7320cbe8ac7
oai_identifier_str oai:repositorio.unesp.br:11449/256865
network_acronym_str UNSP
network_name_str Repositório Institucional da UNESP
repository_id_str 2946
spelling Reinforcement learning-based control for eVTOLsControle baseado em aprendizado por reforço para eVTOLsInteligência artificialControle de vooDroneArtificial intelligenceFlight controlDrone aircraftEsta dissertação de mestrado explora o controle de aeronaves de decolagem e pouso vertical elétricas (eVTOL), com foco na utilização de Aprendizado por Reforço (RL) para aprimorar métodos de controle. A Otimização de Política Proximal (PPO) é utilizada como estratégia incipal de controle, enquanto que uma comparação é feita com o Gradiente de Política Determinística Profunda com Atraso Duplo (TD3). As estratégias são testadas em diversos tipos de UAVs com formas e níveis de complexidade de controle diferentes. A integração dessas estratégias com modelos de aeronaves ocorre dentro do ambiente de simulação MuJoCo. Além isso, é realizada uma análise sobre a capacidade das aeronaves eVTOL de lidar com falhas. Cenários simulados incluem casos onde um ou mais rotores param de funcionar temporariamente, semelhante apossiveis situações da vida real. Por meio dessas avaliações, o objetivo é explorar a eficácia dessas estratégias de controle em contextos práticos. Essa compreensão aprofundada pode contribuir com avanços na aplicação real de técnicas de RL para o controle de aeronaves eVTOL.This master’s dissertation explores the control of electric vertical take-off and landing (eVTOL) aircraft, with a focus on utilizing Reinforcement Learning (RL) to enhance control methods. Proximal Policy Optimization (PPO) serves as the main control strategy, while a comparison is made with the Twin-Delayed Deep Deterministic Policy Gradient (TD3). The strategies are tested across various types of UAVs with differing shapes and levels of control complexity. Integration of these strategies with aircraft models occurs within the MuJoCo simulation environment. Furthermore, an examination is conducted regarding the eVTOL aircraft’s ability to manage malfunctions. Simulated scenarios include instances where one or more rotors cease functioning temporarily, akin to possible real-life scenarios. Through these evaluations, the aim is to gain insights into the effectiveness of these control strategies in practical contexts. This understanding could potentially lead to advancements in the real-world application of RL techniques for eVTOL aircraft control.Universidade Estadual Paulista (Unesp)Simões, Alexandre da Silva [UNESP]Almeida, Aline Gabriel de [UNESP]2024-08-01T19:29:19Z2024-08-01T19:29:19Z2024-06-03info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfALMEIDA, Aline Gabriel de. Reinforcement learning-based control for eVTOLs. 2024. 68 p. Dissertação (Mestrado em Engenharia Elétrica) – Instituto de Ciência e Tecnologia, Universidade Estadual Paulista, Sorocaba, 2024.https://hdl.handle.net/11449/25686533004170002P2enginfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UNESPinstname:Universidade Estadual Paulista (UNESP)instacron:UNESP2024-08-02T06:30:20Zoai:repositorio.unesp.br:11449/256865Repositório InstitucionalPUBhttp://repositorio.unesp.br/oai/requestopendoar:29462024-08-05T17:09:43.386804Repositório Institucional da UNESP - Universidade Estadual Paulista (UNESP)false
dc.title.none.fl_str_mv Reinforcement learning-based control for eVTOLs
Controle baseado em aprendizado por reforço para eVTOLs
title Reinforcement learning-based control for eVTOLs
spellingShingle Reinforcement learning-based control for eVTOLs
Almeida, Aline Gabriel de [UNESP]
Inteligência artificial
Controle de voo
Drone
Artificial intelligence
Flight control
Drone aircraft
title_short Reinforcement learning-based control for eVTOLs
title_full Reinforcement learning-based control for eVTOLs
title_fullStr Reinforcement learning-based control for eVTOLs
title_full_unstemmed Reinforcement learning-based control for eVTOLs
title_sort Reinforcement learning-based control for eVTOLs
author Almeida, Aline Gabriel de [UNESP]
author_facet Almeida, Aline Gabriel de [UNESP]
author_role author
dc.contributor.none.fl_str_mv Simões, Alexandre da Silva [UNESP]
dc.contributor.author.fl_str_mv Almeida, Aline Gabriel de [UNESP]
dc.subject.por.fl_str_mv Inteligência artificial
Controle de voo
Drone
Artificial intelligence
Flight control
Drone aircraft
topic Inteligência artificial
Controle de voo
Drone
Artificial intelligence
Flight control
Drone aircraft
description Esta dissertação de mestrado explora o controle de aeronaves de decolagem e pouso vertical elétricas (eVTOL), com foco na utilização de Aprendizado por Reforço (RL) para aprimorar métodos de controle. A Otimização de Política Proximal (PPO) é utilizada como estratégia incipal de controle, enquanto que uma comparação é feita com o Gradiente de Política Determinística Profunda com Atraso Duplo (TD3). As estratégias são testadas em diversos tipos de UAVs com formas e níveis de complexidade de controle diferentes. A integração dessas estratégias com modelos de aeronaves ocorre dentro do ambiente de simulação MuJoCo. Além isso, é realizada uma análise sobre a capacidade das aeronaves eVTOL de lidar com falhas. Cenários simulados incluem casos onde um ou mais rotores param de funcionar temporariamente, semelhante apossiveis situações da vida real. Por meio dessas avaliações, o objetivo é explorar a eficácia dessas estratégias de controle em contextos práticos. Essa compreensão aprofundada pode contribuir com avanços na aplicação real de técnicas de RL para o controle de aeronaves eVTOL.
publishDate 2024
dc.date.none.fl_str_mv 2024-08-01T19:29:19Z
2024-08-01T19:29:19Z
2024-06-03
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv ALMEIDA, Aline Gabriel de. Reinforcement learning-based control for eVTOLs. 2024. 68 p. Dissertação (Mestrado em Engenharia Elétrica) – Instituto de Ciência e Tecnologia, Universidade Estadual Paulista, Sorocaba, 2024.
https://hdl.handle.net/11449/256865
33004170002P2
identifier_str_mv ALMEIDA, Aline Gabriel de. Reinforcement learning-based control for eVTOLs. 2024. 68 p. Dissertação (Mestrado em Engenharia Elétrica) – Instituto de Ciência e Tecnologia, Universidade Estadual Paulista, Sorocaba, 2024.
33004170002P2
url https://hdl.handle.net/11449/256865
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.publisher.none.fl_str_mv Universidade Estadual Paulista (Unesp)
publisher.none.fl_str_mv Universidade Estadual Paulista (Unesp)
dc.source.none.fl_str_mv reponame:Repositório Institucional da UNESP
instname:Universidade Estadual Paulista (UNESP)
instacron:UNESP
instname_str Universidade Estadual Paulista (UNESP)
instacron_str UNESP
institution UNESP
reponame_str Repositório Institucional da UNESP
collection Repositório Institucional da UNESP
repository.name.fl_str_mv Repositório Institucional da UNESP - Universidade Estadual Paulista (UNESP)
repository.mail.fl_str_mv
_version_ 1808128763937947648