Dynamic Modeling of 3-Dimensional Marine Fields: Unleashing the Power of Convolutional Transformers for Advanced Environmental Analysis

Detalhes bibliográficos
Autor(a) principal: Rodrigues, Inês Ferreira
Data de Publicação: 2024
Tipo de documento: Dissertação
Idioma: eng
Título da fonte: Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
Texto Completo: http://hdl.handle.net/10362/163769
Resumo: Dissertation presented as the partial requirement for obtaining a Master's degree in Information Management, specialization in Knowledge Management and Business Intelligence
id RCAP_c0b6f29bcefd2820ae7186e9fc17d4a0
oai_identifier_str oai:run.unl.pt:10362/163769
network_acronym_str RCAP
network_name_str Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
repository_id_str 7160
spelling Dynamic Modeling of 3-Dimensional Marine Fields: Unleashing the Power of Convolutional Transformers for Advanced Environmental AnalysisDeep LearningMachine LearningVision TransformerConvolutional Neural NetworksAttentionHierarchical Multi-Head Self AttentionAprendizagem ProfundaAprendizagem AutomáticaSDG 6 - Clean water and sanitationSDG 6 - Água limpa e saneamentoSDG 13 - Climate actionSDG 13 - Ação contra a mudança global do climaSDG 14 - Life below waterSDG 14 - Vida na águaDomínio/Área Científica::Ciências Naturais::Ciências da Computação e da InformaçãoDissertation presented as the partial requirement for obtaining a Master's degree in Information Management, specialization in Knowledge Management and Business IntelligenceObservations obtained through deterministic models play pivotal roles in monitoring marine ecosystems. However, they possess distinct drawbacks. Deterministic models, offer broad coverage but may suffer from inaccuracies. This research aims to address these limitations by developing a deep learning model that seamlessly integrates the output of an existing deterministic model, with a specific focus on biogeochemical variables in the Mediterranean Sea. A novel deep learning architecture is proposed and rigorously tested based on a Hierarchical Multi-Head Self-Attention Transformer and Convolutional Neural Networks. Our findings illustrate the effectiveness of the proposed Convolutional Transformer in successfully replicating the output of the deterministic model. This study sheds light on the model’s commendable proficiency, particularly in simulating key variables such as Phosphate and Nitrate, across varying depths. Despite challenges related to variables that tend to zero as we go deeper into the sea, the model’s adaptability and precision at surface levels underscore its potential for advancing marine ecosystem monitoring. Quantitatively, the mean squared error values, ranging from 0.0026 to 0.047, affirm the model’s consistently low errors across various variables, with Phosphate exhibiting the lowest mean squared error of 0.0026. This outstanding precision in simulating Phosphate highlights the model’s capability to perform exceptionally well in capturing the intricate biogeochemical dynamics of the Mediterranean Sea. This research provides valuable insights into the integration of deep learning techniques with existing monitoring methods, paving the way for more accurate and expansive assessments of the Mediterranean Sea’s biogeochemical dynamics. The code and results are available here (https://github.com/inesfrodrigues/Convolutional-Transformer).Observações obtidas por meio de modelos determinísticos desempenham papéis fundamentais no monitoramento dos ecossistemas marinhos. No entanto, estas observações possuem desvantagens distintas, visto que oferecem cobertura ampla, mas podem ter imprecisões. Esta pesquisa tem como objetivo abordar essa limitação desenvolvendo um modelo de aprendizagem profunda que integra de forma eficaz um modelo determinístico existente, com foco específico nas variáveis biogeoquímicas do Mar Mediterrâneo. Uma nova arquitetura de aprendizagem profunda, baseada num Transformador Hierárquico de Auto-Atenção Multi-Cabeça e Redes Neuronais Convolucionais, é proposta e rigorosamente testada. As nossas descobertas ilustram a eficácia do proposto Transformer Convolucional em replicar com sucesso os resultados do modelo determinístico. Este estudo desca-se pela notável competência do modelo, especialmente na simulação de variáveis-chave como o Fosfato e o Nitrato, em diferentes profundidades. Apesar dos desafios relacionados com variáveis que tendem para zero com a profundida, a adaptabilidade e a precisão do modelo em níveis superficiais destacam o seu potencial para monitorizar ecossistemas marinhos. Quantitativamente, os valores do erro quadrático médio, que variam de 0.0026 a 0.047, confirmam os erros consistentemente baixos do modelo em várias variáveis, sendo que o Fosfato é o que apresenta um menor erro quadrático médio de 0.0026. Essa notável precisão na simulação do Fosfato destaca a capacidade do modelo na captura das intricadas dinâmicas biogeoquímicas do Mar Mediterrâneo. Esta pesquisa oferece insights valiosos sobre a integração de técnicas de aprendizagem profunda com métodos de monitorização existentes, abrindo caminho para avaliações mais precisas e abrangentes da dinâmica biogeoquímica do Mar Mediterrâneo. O código e os resultados encontram-se disponíveis aqui (https://github.com/inesfrodrigues/Convolutional-Transformer).Castelli, MauroPietropolli, GloriaRUNRodrigues, Inês Ferreira2024-02-19T18:53:48Z2024-01-292024-01-29T00:00:00Zinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttp://hdl.handle.net/10362/163769TID:203523890enginfo:eu-repo/semantics/openAccessreponame:Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)instname:Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informaçãoinstacron:RCAAP2024-03-11T05:48:40Zoai:run.unl.pt:10362/163769Portal AgregadorONGhttps://www.rcaap.pt/oai/openaireopendoar:71602024-03-20T03:59:50.932106Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) - Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informaçãofalse
dc.title.none.fl_str_mv Dynamic Modeling of 3-Dimensional Marine Fields: Unleashing the Power of Convolutional Transformers for Advanced Environmental Analysis
title Dynamic Modeling of 3-Dimensional Marine Fields: Unleashing the Power of Convolutional Transformers for Advanced Environmental Analysis
spellingShingle Dynamic Modeling of 3-Dimensional Marine Fields: Unleashing the Power of Convolutional Transformers for Advanced Environmental Analysis
Rodrigues, Inês Ferreira
Deep Learning
Machine Learning
Vision Transformer
Convolutional Neural Networks
Attention
Hierarchical Multi-Head Self Attention
Aprendizagem Profunda
Aprendizagem Automática
SDG 6 - Clean water and sanitation
SDG 6 - Água limpa e saneamento
SDG 13 - Climate action
SDG 13 - Ação contra a mudança global do clima
SDG 14 - Life below water
SDG 14 - Vida na água
Domínio/Área Científica::Ciências Naturais::Ciências da Computação e da Informação
title_short Dynamic Modeling of 3-Dimensional Marine Fields: Unleashing the Power of Convolutional Transformers for Advanced Environmental Analysis
title_full Dynamic Modeling of 3-Dimensional Marine Fields: Unleashing the Power of Convolutional Transformers for Advanced Environmental Analysis
title_fullStr Dynamic Modeling of 3-Dimensional Marine Fields: Unleashing the Power of Convolutional Transformers for Advanced Environmental Analysis
title_full_unstemmed Dynamic Modeling of 3-Dimensional Marine Fields: Unleashing the Power of Convolutional Transformers for Advanced Environmental Analysis
title_sort Dynamic Modeling of 3-Dimensional Marine Fields: Unleashing the Power of Convolutional Transformers for Advanced Environmental Analysis
author Rodrigues, Inês Ferreira
author_facet Rodrigues, Inês Ferreira
author_role author
dc.contributor.none.fl_str_mv Castelli, Mauro
Pietropolli, Gloria
RUN
dc.contributor.author.fl_str_mv Rodrigues, Inês Ferreira
dc.subject.por.fl_str_mv Deep Learning
Machine Learning
Vision Transformer
Convolutional Neural Networks
Attention
Hierarchical Multi-Head Self Attention
Aprendizagem Profunda
Aprendizagem Automática
SDG 6 - Clean water and sanitation
SDG 6 - Água limpa e saneamento
SDG 13 - Climate action
SDG 13 - Ação contra a mudança global do clima
SDG 14 - Life below water
SDG 14 - Vida na água
Domínio/Área Científica::Ciências Naturais::Ciências da Computação e da Informação
topic Deep Learning
Machine Learning
Vision Transformer
Convolutional Neural Networks
Attention
Hierarchical Multi-Head Self Attention
Aprendizagem Profunda
Aprendizagem Automática
SDG 6 - Clean water and sanitation
SDG 6 - Água limpa e saneamento
SDG 13 - Climate action
SDG 13 - Ação contra a mudança global do clima
SDG 14 - Life below water
SDG 14 - Vida na água
Domínio/Área Científica::Ciências Naturais::Ciências da Computação e da Informação
description Dissertation presented as the partial requirement for obtaining a Master's degree in Information Management, specialization in Knowledge Management and Business Intelligence
publishDate 2024
dc.date.none.fl_str_mv 2024-02-19T18:53:48Z
2024-01-29
2024-01-29T00:00:00Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/10362/163769
TID:203523890
url http://hdl.handle.net/10362/163769
identifier_str_mv TID:203523890
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
instname:Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
instacron:RCAAP
instname_str Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
instacron_str RCAAP
institution RCAAP
reponame_str Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
collection Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos)
repository.name.fl_str_mv Repositório Científico de Acesso Aberto de Portugal (Repositórios Cientìficos) - Agência para a Sociedade do Conhecimento (UMIC) - FCT - Sociedade da Informação
repository.mail.fl_str_mv
_version_ 1799138175071813632

Registros relacionados