Influência do tratamento da base de dados DNS na aplicação de técnicas de aprendizagem de máquina para melhorar acurácia de simulações RANS

Detalhes bibliográficos
Autor(a) principal: Rangel, Victor Bitencour
Data de Publicação: 2019
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da UFRJ
Texto Completo: http://hdl.handle.net/11422/13776
Resumo: Among numerical solution techniques for turbulent flow, Reynolds Average Navier-Stokes (RANS) presents low computational and time costs, but also lower accuracy. Large Eddy Simulation (LES) and Direct Numerical Simulation (DNS) present greater accuracy, but both require much more computational effort and simulation time, making them impracticable in daily industry problem solution. The utilization of machine learning (ML) to help improve RANS results is receiving some attention lately. Such approach makes RANS simulations achieve better results by learning them from more noble ones, as DNS simulation for example. The main entity applied in RANS correction is the Reynolds stress tensor (R). Although, recent studies show that R does not present well converged results from available DNS data base when compared to other fields convergence. Another entity is introduced in ML techniques in order to bypass uncertainties generated by the correction of R, it is the modified divergence of R which is called here as vector t. The correction of t, when compared to R methodology, has shown promising results, even presenting better results than the ones achieved by correcting R. The present work studies how DNS data base quality influences on neural network (NN) prediction for both aforementioned methodologies: correction of R and t, for square duct turbulent flow. DNS data are manipulated in order to simulate better convergence. Results show that better converged DNS data leads to better NN predictions, which has presented its best results when total data symmetry was imposed for both correction methodologies. It was also observed that correction of t presents lower global errors for the main direction flow when compared to R correction, but not for the secondary direction flows, which puts such methodology in doubt about its advantages in relation to R correction.
id UFRJ_bb9000e87ad8ef1fb4557c70dc123802
oai_identifier_str oai:pantheon.ufrj.br:11422/13776
network_acronym_str UFRJ
network_name_str Repositório Institucional da UFRJ
repository_id_str
spelling Influência do tratamento da base de dados DNS na aplicação de técnicas de aprendizagem de máquina para melhorar acurácia de simulações RANSDNS database pre processing influence in machine learning techniques for accuracy improvement of RANS simulationsTurbulênciaAprendizado de máquinaSimulação numéricaCNPQ::ENGENHARIAS::ENGENHARIA MECANICAAmong numerical solution techniques for turbulent flow, Reynolds Average Navier-Stokes (RANS) presents low computational and time costs, but also lower accuracy. Large Eddy Simulation (LES) and Direct Numerical Simulation (DNS) present greater accuracy, but both require much more computational effort and simulation time, making them impracticable in daily industry problem solution. The utilization of machine learning (ML) to help improve RANS results is receiving some attention lately. Such approach makes RANS simulations achieve better results by learning them from more noble ones, as DNS simulation for example. The main entity applied in RANS correction is the Reynolds stress tensor (R). Although, recent studies show that R does not present well converged results from available DNS data base when compared to other fields convergence. Another entity is introduced in ML techniques in order to bypass uncertainties generated by the correction of R, it is the modified divergence of R which is called here as vector t. The correction of t, when compared to R methodology, has shown promising results, even presenting better results than the ones achieved by correcting R. The present work studies how DNS data base quality influences on neural network (NN) prediction for both aforementioned methodologies: correction of R and t, for square duct turbulent flow. DNS data are manipulated in order to simulate better convergence. Results show that better converged DNS data leads to better NN predictions, which has presented its best results when total data symmetry was imposed for both correction methodologies. It was also observed that correction of t presents lower global errors for the main direction flow when compared to R correction, but not for the secondary direction flows, which puts such methodology in doubt about its advantages in relation to R correction.Das técnicas de soluções numéricas para escoamentos turbulentos, Reynolds Average Navier-Stokes (RANS) realiza simulações de baixo custo e respostas rápidas, porém baixa acurácia de resultados. Large Eddy Simulation (LES) e Direct Numerical Simulation (DNS) privilegiam a acurácia, mas elevam demasiadamente o custo computacional, tornando proibitivo utilizá-las na indústria. A utilização de aprendizado de máquina para suprimir a deficiência de RANS vem recebendo recente atenção. Tal abordagem visa fazer com que RANS aprenda com resultados mais nobres, como os de DNS. A principal entidade empregada na correção de escoamentos RANS na literatura é o tensor das tensões de Reynolds (R). Porém, recentes estudos indicam que R não apresenta boa convergência nas bases de dados DNS disponíveis quando comparado aos demais campos. Surgiu então a metodologia onde se corrige o divergente modificado de R, denominado aqui de vetor t, para contornar incertezas geradas pela correção de R. Esta mostrou resultados promissores, por vezes melhores que os da correção de R. Este trabalho mostra a influência da qualidade da base de dados DNS na previsão de uma rede neural (RN) para as correções de R e de t, para o escoamento turbulento em duto de seção quadrada. Dados DNS são tratados a fim de simular melhor convergência dos mesmos. Resultados mostram que, quão melhor convergida é a base DNS, melhores são os resultados da RN. A simetria dos dados tem grande influência no desempenho da RN, a qual performou melhor quando imposta a simetria total dos dados, para ambas metodologias de correção. Constatou-se que a metodologia t apresenta erros globais menores que a R na direção principal do escoamento, mas não nas secundarias, o que coloca em discussão a utilização da mesma.Universidade Federal do Rio de JaneiroBrasilInstituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de EngenhariaPrograma de Pós-Graduação em Engenharia MecânicaUFRJThompson, Roney Leonhttp://lattes.cnpq.br/4870003562574001http://lattes.cnpq.br/8502371609192830Anjos, Gustavo Rabello dosAzevedo, Luís Fernando AlzuguirRangel, Victor Bitencour2021-02-21T13:28:45Z2023-12-21T03:07:27Z2019-09info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesishttp://hdl.handle.net/11422/13776porinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRJinstname:Universidade Federal do Rio de Janeiro (UFRJ)instacron:UFRJ2023-12-21T03:07:27Zoai:pantheon.ufrj.br:11422/13776Repositório InstitucionalPUBhttp://www.pantheon.ufrj.br/oai/requestpantheon@sibi.ufrj.bropendoar:2023-12-21T03:07:27Repositório Institucional da UFRJ - Universidade Federal do Rio de Janeiro (UFRJ)false
dc.title.none.fl_str_mv Influência do tratamento da base de dados DNS na aplicação de técnicas de aprendizagem de máquina para melhorar acurácia de simulações RANS
DNS database pre processing influence in machine learning techniques for accuracy improvement of RANS simulations
title Influência do tratamento da base de dados DNS na aplicação de técnicas de aprendizagem de máquina para melhorar acurácia de simulações RANS
spellingShingle Influência do tratamento da base de dados DNS na aplicação de técnicas de aprendizagem de máquina para melhorar acurácia de simulações RANS
Rangel, Victor Bitencour
Turbulência
Aprendizado de máquina
Simulação numérica
CNPQ::ENGENHARIAS::ENGENHARIA MECANICA
title_short Influência do tratamento da base de dados DNS na aplicação de técnicas de aprendizagem de máquina para melhorar acurácia de simulações RANS
title_full Influência do tratamento da base de dados DNS na aplicação de técnicas de aprendizagem de máquina para melhorar acurácia de simulações RANS
title_fullStr Influência do tratamento da base de dados DNS na aplicação de técnicas de aprendizagem de máquina para melhorar acurácia de simulações RANS
title_full_unstemmed Influência do tratamento da base de dados DNS na aplicação de técnicas de aprendizagem de máquina para melhorar acurácia de simulações RANS
title_sort Influência do tratamento da base de dados DNS na aplicação de técnicas de aprendizagem de máquina para melhorar acurácia de simulações RANS
author Rangel, Victor Bitencour
author_facet Rangel, Victor Bitencour
author_role author
dc.contributor.none.fl_str_mv Thompson, Roney Leon
http://lattes.cnpq.br/4870003562574001
http://lattes.cnpq.br/8502371609192830
Anjos, Gustavo Rabello dos
Azevedo, Luís Fernando Alzuguir
dc.contributor.author.fl_str_mv Rangel, Victor Bitencour
dc.subject.por.fl_str_mv Turbulência
Aprendizado de máquina
Simulação numérica
CNPQ::ENGENHARIAS::ENGENHARIA MECANICA
topic Turbulência
Aprendizado de máquina
Simulação numérica
CNPQ::ENGENHARIAS::ENGENHARIA MECANICA
description Among numerical solution techniques for turbulent flow, Reynolds Average Navier-Stokes (RANS) presents low computational and time costs, but also lower accuracy. Large Eddy Simulation (LES) and Direct Numerical Simulation (DNS) present greater accuracy, but both require much more computational effort and simulation time, making them impracticable in daily industry problem solution. The utilization of machine learning (ML) to help improve RANS results is receiving some attention lately. Such approach makes RANS simulations achieve better results by learning them from more noble ones, as DNS simulation for example. The main entity applied in RANS correction is the Reynolds stress tensor (R). Although, recent studies show that R does not present well converged results from available DNS data base when compared to other fields convergence. Another entity is introduced in ML techniques in order to bypass uncertainties generated by the correction of R, it is the modified divergence of R which is called here as vector t. The correction of t, when compared to R methodology, has shown promising results, even presenting better results than the ones achieved by correcting R. The present work studies how DNS data base quality influences on neural network (NN) prediction for both aforementioned methodologies: correction of R and t, for square duct turbulent flow. DNS data are manipulated in order to simulate better convergence. Results show that better converged DNS data leads to better NN predictions, which has presented its best results when total data symmetry was imposed for both correction methodologies. It was also observed that correction of t presents lower global errors for the main direction flow when compared to R correction, but not for the secondary direction flows, which puts such methodology in doubt about its advantages in relation to R correction.
publishDate 2019
dc.date.none.fl_str_mv 2019-09
2021-02-21T13:28:45Z
2023-12-21T03:07:27Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/11422/13776
url http://hdl.handle.net/11422/13776
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal do Rio de Janeiro
Brasil
Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia
Programa de Pós-Graduação em Engenharia Mecânica
UFRJ
publisher.none.fl_str_mv Universidade Federal do Rio de Janeiro
Brasil
Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia
Programa de Pós-Graduação em Engenharia Mecânica
UFRJ
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRJ
instname:Universidade Federal do Rio de Janeiro (UFRJ)
instacron:UFRJ
instname_str Universidade Federal do Rio de Janeiro (UFRJ)
instacron_str UFRJ
institution UFRJ
reponame_str Repositório Institucional da UFRJ
collection Repositório Institucional da UFRJ
repository.name.fl_str_mv Repositório Institucional da UFRJ - Universidade Federal do Rio de Janeiro (UFRJ)
repository.mail.fl_str_mv pantheon@sibi.ufrj.br
_version_ 1815456013907656704