Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto

Detalhes bibliográficos
Autor(a) principal: Helena Barbieri de Azevedo
Data de Publicação: 2018
Tipo de documento: Tese
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações do INPE
Texto Completo: http://urlib.net/sid.inpe.br/mtc-m21c/2018/10.29.17.51
Resumo: Ao longo dos últimos anos, os sistemas de assimilação de dados Híbridos têm sido alvo de vários estudos. Esses sistemas consistem em combinar dois outros sistemas de assimilação de dados, sendo usualmente um variacional e outro baseado em conjunto. Os sistemas Híbridos tradicionais visam beneficiar um sistema variacional através do uso da covariância do erro do background de um sistema por conjunto. Uma abordagem mais recente visa melhorar um sistema por conjunto através da estabilidade vinda do sistema variacional, pela combinação linear entre suas análises, ponderadas por um peso estático arbitrário. Considerando que os sistemas de assimilação de dados variacionais e os sistemas por conjunto apresentam erros diferentes e que uma forma de quantificar a incerteza do sistema por conjunto é através do seu espalhamento, esta tese de doutorado propõe avaliar o ganho ao incluir em um sistema de assimilação de dados Híbrido Médio um coeficiente de ajuste dinâmico, o qual utiliza essas informações de incerteza do sistema por conjunto na configuração desse coeficiente. A metodologia empregada, utiliza como modelo um MCGA simplificado (SPEEDY), como sistema por conjunto o LETKF, e como sistema variacional o 3DVar para comporem o sistema Híbrido Médio. O coeficiente de ajuste dinâmico é calculado com base nos valores normalizados do espalhamento do conjunto. Foram realizados ao todo oito experimentos, sendo dois deles com o LETKF e com o 3DVar separadamente, cinco deles variando os valores de alfa fixo ( = 0, 1, = 0, 3, = 0, 5, = 0, 7 e = 0, 9), e por último, um experimento utilizando o coeficiente de ajuste dinâmico. Nesses experimentos foram avaliadas as análises e previsões de até 120 horas para os períodos de verão e inverno. Os resultados mostraram que o LETKF apresenta erros menores que o 3DVar tanto em suas análises quanto nos primeiros horários de previsão, porém esse padrão se inverte a partir de aproximadamente 48 horas de previsão. Através da avaliação feita com as análises geradas pelos diversos valores de alfa, foi encontrado um valor ótimo de = 0, 1, e quando este resultado foi comparado contra o experimento com o coeficiente de ajuste dinâmico, também obteve, na maioria dos casos, menores erros nas análises. No entanto, para o período de verão, o coeficiente de ajuste dinâmico apresentou análises mais balanceadas, enquanto as análises geradas pelo = 0, 3, para o período de inverno, foram melhor balanceadas. Ao serem comparadas as previsões geradas a partir das análises dos experimentos com = 0, 1 e com o coeficiente de ajuste dinâmico, observou-se o seguinte padrão de comportamento: existe uma tendência no aumento do ganho do experimento com o coeficiente de ajuste dinâmico em relação ao experimento com = 0, 1. Por fim, experimentos adicionais foram realizados a fim de avaliar o comportamento do sistema Híbrido Médio em relação ao aumento no número de membros e em relação a otimização do intervalo do coeficiente de ajuste dinâmico.
id INPE_883a2053691c0f9573971c0b5a970117
oai_identifier_str oai:urlib.net:sid.inpe.br/mtc-m21c/2018/10.29.17.51.59-0
network_acronym_str INPE
network_name_str Biblioteca Digital de Teses e Dissertações do INPE
spelling info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisAjuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjuntoDynamic fit for hybrid analysis between a variational system and ensemble Kalman filter2018-10-22Luis Gustavo Gonçalves de GonçalvesCarlos Frederico BastarzEugênia KalnayFabrício Pereira HarterHelena Barbieri de AzevedoInstituto Nacional de Pesquisas Espaciais (INPE)Programa de Pós-Graduação do INPE em MeteorologiaINPEBRassimilação de dadossistemas híbridosfiltro de Kalman por conjuntosistema variacionalprevisão numérica do tempodata assimilation systemhybrid systemensemble Kalman filtervariational systemnumerical weather predictionAo longo dos últimos anos, os sistemas de assimilação de dados Híbridos têm sido alvo de vários estudos. Esses sistemas consistem em combinar dois outros sistemas de assimilação de dados, sendo usualmente um variacional e outro baseado em conjunto. Os sistemas Híbridos tradicionais visam beneficiar um sistema variacional através do uso da covariância do erro do background de um sistema por conjunto. Uma abordagem mais recente visa melhorar um sistema por conjunto através da estabilidade vinda do sistema variacional, pela combinação linear entre suas análises, ponderadas por um peso estático arbitrário. Considerando que os sistemas de assimilação de dados variacionais e os sistemas por conjunto apresentam erros diferentes e que uma forma de quantificar a incerteza do sistema por conjunto é através do seu espalhamento, esta tese de doutorado propõe avaliar o ganho ao incluir em um sistema de assimilação de dados Híbrido Médio um coeficiente de ajuste dinâmico, o qual utiliza essas informações de incerteza do sistema por conjunto na configuração desse coeficiente. A metodologia empregada, utiliza como modelo um MCGA simplificado (SPEEDY), como sistema por conjunto o LETKF, e como sistema variacional o 3DVar para comporem o sistema Híbrido Médio. O coeficiente de ajuste dinâmico é calculado com base nos valores normalizados do espalhamento do conjunto. Foram realizados ao todo oito experimentos, sendo dois deles com o LETKF e com o 3DVar separadamente, cinco deles variando os valores de alfa fixo ( = 0, 1, = 0, 3, = 0, 5, = 0, 7 e = 0, 9), e por último, um experimento utilizando o coeficiente de ajuste dinâmico. Nesses experimentos foram avaliadas as análises e previsões de até 120 horas para os períodos de verão e inverno. Os resultados mostraram que o LETKF apresenta erros menores que o 3DVar tanto em suas análises quanto nos primeiros horários de previsão, porém esse padrão se inverte a partir de aproximadamente 48 horas de previsão. Através da avaliação feita com as análises geradas pelos diversos valores de alfa, foi encontrado um valor ótimo de = 0, 1, e quando este resultado foi comparado contra o experimento com o coeficiente de ajuste dinâmico, também obteve, na maioria dos casos, menores erros nas análises. No entanto, para o período de verão, o coeficiente de ajuste dinâmico apresentou análises mais balanceadas, enquanto as análises geradas pelo = 0, 3, para o período de inverno, foram melhor balanceadas. Ao serem comparadas as previsões geradas a partir das análises dos experimentos com = 0, 1 e com o coeficiente de ajuste dinâmico, observou-se o seguinte padrão de comportamento: existe uma tendência no aumento do ganho do experimento com o coeficiente de ajuste dinâmico em relação ao experimento com = 0, 1. Por fim, experimentos adicionais foram realizados a fim de avaliar o comportamento do sistema Híbrido Médio em relação ao aumento no número de membros e em relação a otimização do intervalo do coeficiente de ajuste dinâmico.Over the past few years, Hybrid data assimilation systems have been the subject of several studies. These systems consist of combining two other data assimilation systems, usually one variational and one ensemble based. Traditional Hybrid systems aim to benefit a variational system by using the background error covariance of the ensemble based system. The most recent approach is to improve the ensemble based system, through the stability of the variational system, by the linear combination between both analyses, weighted by an arbitrary static weight. Considering that variational data assimilation systems and ensemble based systems have different errors, one way of quantifying the uncertainty of the system is through the ensemble spread. This PhD thesis proposed to evaluate a Hybrid Gain data assimilation system by including a dynamic fit coefficient, which considers the uncertainty information from the ensemble system. The methodology uses a simplified AGCM (SPEEDY) model, an ensemble based system (LETKF) and a variational system (3DVar) to build up the Hybrid Gain system. The dynamic fit coefficient is calculated based on the normalized values of the ensemble spread. A total of eight experiments were performed, two of them using LETKF and 3DVar separately, five of them varying the fixed alpha values ( = 0.1, = 0.3, = 0.5, = 0.7 and = 0.9), and finally, an experiment using the dynamic fit coefficient. In these experiments, the analyses and forecasts of up to 120 hours for the summer and winter were analyzed. The results showed that LETKF presented smaller errors when compared to the 3DVar in both analyzes and the first forecasting hours, but this pattern reverses starting on approximately 48 hours. By evaluating the various alpha values, an optimal value of = 0.1 was found, and when this result was compared against the experiment with the dynamic fit coefficient, it also obtained, in most cases, smaller errors in the analyzes. Furthermore, during the summer, the dynamic fit coefficient presented more balanced analyzes, whereas the analyzes generated by the = 0.3, for the winter period, were better balanced. When the forecasts generated from the analyzes of the experiments with = 0.1 and the dynamic fit coefficient were compared, the following was noticed: there is a tendency in the gain of the experiment with the dynamic fit coefficient with respect to the experiment with = 0.1. Finally, additional experiments were carried out in order to evaluate the behavior of the Hybrid Gain system with respect to the increase in the number of members and i to the optimization of the range of the dynamic adjustment coefficient.http://urlib.net/sid.inpe.br/mtc-m21c/2018/10.29.17.51info:eu-repo/semantics/openAccessporreponame:Biblioteca Digital de Teses e Dissertações do INPEinstname:Instituto Nacional de Pesquisas Espaciais (INPE)instacron:INPE2021-07-31T06:55:55Zoai:urlib.net:sid.inpe.br/mtc-m21c/2018/10.29.17.51.59-0Biblioteca Digital de Teses e Dissertaçõeshttp://bibdigital.sid.inpe.br/PUBhttp://bibdigital.sid.inpe.br/col/iconet.com.br/banon/2003/11.21.21.08/doc/oai.cgiopendoar:32772021-07-31 06:55:56.163Biblioteca Digital de Teses e Dissertações do INPE - Instituto Nacional de Pesquisas Espaciais (INPE)false
dc.title.pt.fl_str_mv Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto
dc.title.alternative.en.fl_str_mv Dynamic fit for hybrid analysis between a variational system and ensemble Kalman filter
title Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto
spellingShingle Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto
Helena Barbieri de Azevedo
title_short Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto
title_full Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto
title_fullStr Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto
title_full_unstemmed Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto
title_sort Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto
author Helena Barbieri de Azevedo
author_facet Helena Barbieri de Azevedo
author_role author
dc.contributor.advisor1.fl_str_mv Luis Gustavo Gonçalves de Gonçalves
dc.contributor.referee1.fl_str_mv Carlos Frederico Bastarz
dc.contributor.referee2.fl_str_mv Eugênia Kalnay
dc.contributor.referee3.fl_str_mv Fabrício Pereira Harter
dc.contributor.author.fl_str_mv Helena Barbieri de Azevedo
contributor_str_mv Luis Gustavo Gonçalves de Gonçalves
Carlos Frederico Bastarz
Eugênia Kalnay
Fabrício Pereira Harter
dc.description.abstract.por.fl_txt_mv Ao longo dos últimos anos, os sistemas de assimilação de dados Híbridos têm sido alvo de vários estudos. Esses sistemas consistem em combinar dois outros sistemas de assimilação de dados, sendo usualmente um variacional e outro baseado em conjunto. Os sistemas Híbridos tradicionais visam beneficiar um sistema variacional através do uso da covariância do erro do background de um sistema por conjunto. Uma abordagem mais recente visa melhorar um sistema por conjunto através da estabilidade vinda do sistema variacional, pela combinação linear entre suas análises, ponderadas por um peso estático arbitrário. Considerando que os sistemas de assimilação de dados variacionais e os sistemas por conjunto apresentam erros diferentes e que uma forma de quantificar a incerteza do sistema por conjunto é através do seu espalhamento, esta tese de doutorado propõe avaliar o ganho ao incluir em um sistema de assimilação de dados Híbrido Médio um coeficiente de ajuste dinâmico, o qual utiliza essas informações de incerteza do sistema por conjunto na configuração desse coeficiente. A metodologia empregada, utiliza como modelo um MCGA simplificado (SPEEDY), como sistema por conjunto o LETKF, e como sistema variacional o 3DVar para comporem o sistema Híbrido Médio. O coeficiente de ajuste dinâmico é calculado com base nos valores normalizados do espalhamento do conjunto. Foram realizados ao todo oito experimentos, sendo dois deles com o LETKF e com o 3DVar separadamente, cinco deles variando os valores de alfa fixo ( = 0, 1, = 0, 3, = 0, 5, = 0, 7 e = 0, 9), e por último, um experimento utilizando o coeficiente de ajuste dinâmico. Nesses experimentos foram avaliadas as análises e previsões de até 120 horas para os períodos de verão e inverno. Os resultados mostraram que o LETKF apresenta erros menores que o 3DVar tanto em suas análises quanto nos primeiros horários de previsão, porém esse padrão se inverte a partir de aproximadamente 48 horas de previsão. Através da avaliação feita com as análises geradas pelos diversos valores de alfa, foi encontrado um valor ótimo de = 0, 1, e quando este resultado foi comparado contra o experimento com o coeficiente de ajuste dinâmico, também obteve, na maioria dos casos, menores erros nas análises. No entanto, para o período de verão, o coeficiente de ajuste dinâmico apresentou análises mais balanceadas, enquanto as análises geradas pelo = 0, 3, para o período de inverno, foram melhor balanceadas. Ao serem comparadas as previsões geradas a partir das análises dos experimentos com = 0, 1 e com o coeficiente de ajuste dinâmico, observou-se o seguinte padrão de comportamento: existe uma tendência no aumento do ganho do experimento com o coeficiente de ajuste dinâmico em relação ao experimento com = 0, 1. Por fim, experimentos adicionais foram realizados a fim de avaliar o comportamento do sistema Híbrido Médio em relação ao aumento no número de membros e em relação a otimização do intervalo do coeficiente de ajuste dinâmico.
dc.description.abstract.eng.fl_txt_mv Over the past few years, Hybrid data assimilation systems have been the subject of several studies. These systems consist of combining two other data assimilation systems, usually one variational and one ensemble based. Traditional Hybrid systems aim to benefit a variational system by using the background error covariance of the ensemble based system. The most recent approach is to improve the ensemble based system, through the stability of the variational system, by the linear combination between both analyses, weighted by an arbitrary static weight. Considering that variational data assimilation systems and ensemble based systems have different errors, one way of quantifying the uncertainty of the system is through the ensemble spread. This PhD thesis proposed to evaluate a Hybrid Gain data assimilation system by including a dynamic fit coefficient, which considers the uncertainty information from the ensemble system. The methodology uses a simplified AGCM (SPEEDY) model, an ensemble based system (LETKF) and a variational system (3DVar) to build up the Hybrid Gain system. The dynamic fit coefficient is calculated based on the normalized values of the ensemble spread. A total of eight experiments were performed, two of them using LETKF and 3DVar separately, five of them varying the fixed alpha values ( = 0.1, = 0.3, = 0.5, = 0.7 and = 0.9), and finally, an experiment using the dynamic fit coefficient. In these experiments, the analyses and forecasts of up to 120 hours for the summer and winter were analyzed. The results showed that LETKF presented smaller errors when compared to the 3DVar in both analyzes and the first forecasting hours, but this pattern reverses starting on approximately 48 hours. By evaluating the various alpha values, an optimal value of = 0.1 was found, and when this result was compared against the experiment with the dynamic fit coefficient, it also obtained, in most cases, smaller errors in the analyzes. Furthermore, during the summer, the dynamic fit coefficient presented more balanced analyzes, whereas the analyzes generated by the = 0.3, for the winter period, were better balanced. When the forecasts generated from the analyzes of the experiments with = 0.1 and the dynamic fit coefficient were compared, the following was noticed: there is a tendency in the gain of the experiment with the dynamic fit coefficient with respect to the experiment with = 0.1. Finally, additional experiments were carried out in order to evaluate the behavior of the Hybrid Gain system with respect to the increase in the number of members and i to the optimization of the range of the dynamic adjustment coefficient.
description Ao longo dos últimos anos, os sistemas de assimilação de dados Híbridos têm sido alvo de vários estudos. Esses sistemas consistem em combinar dois outros sistemas de assimilação de dados, sendo usualmente um variacional e outro baseado em conjunto. Os sistemas Híbridos tradicionais visam beneficiar um sistema variacional através do uso da covariância do erro do background de um sistema por conjunto. Uma abordagem mais recente visa melhorar um sistema por conjunto através da estabilidade vinda do sistema variacional, pela combinação linear entre suas análises, ponderadas por um peso estático arbitrário. Considerando que os sistemas de assimilação de dados variacionais e os sistemas por conjunto apresentam erros diferentes e que uma forma de quantificar a incerteza do sistema por conjunto é através do seu espalhamento, esta tese de doutorado propõe avaliar o ganho ao incluir em um sistema de assimilação de dados Híbrido Médio um coeficiente de ajuste dinâmico, o qual utiliza essas informações de incerteza do sistema por conjunto na configuração desse coeficiente. A metodologia empregada, utiliza como modelo um MCGA simplificado (SPEEDY), como sistema por conjunto o LETKF, e como sistema variacional o 3DVar para comporem o sistema Híbrido Médio. O coeficiente de ajuste dinâmico é calculado com base nos valores normalizados do espalhamento do conjunto. Foram realizados ao todo oito experimentos, sendo dois deles com o LETKF e com o 3DVar separadamente, cinco deles variando os valores de alfa fixo ( = 0, 1, = 0, 3, = 0, 5, = 0, 7 e = 0, 9), e por último, um experimento utilizando o coeficiente de ajuste dinâmico. Nesses experimentos foram avaliadas as análises e previsões de até 120 horas para os períodos de verão e inverno. Os resultados mostraram que o LETKF apresenta erros menores que o 3DVar tanto em suas análises quanto nos primeiros horários de previsão, porém esse padrão se inverte a partir de aproximadamente 48 horas de previsão. Através da avaliação feita com as análises geradas pelos diversos valores de alfa, foi encontrado um valor ótimo de = 0, 1, e quando este resultado foi comparado contra o experimento com o coeficiente de ajuste dinâmico, também obteve, na maioria dos casos, menores erros nas análises. No entanto, para o período de verão, o coeficiente de ajuste dinâmico apresentou análises mais balanceadas, enquanto as análises geradas pelo = 0, 3, para o período de inverno, foram melhor balanceadas. Ao serem comparadas as previsões geradas a partir das análises dos experimentos com = 0, 1 e com o coeficiente de ajuste dinâmico, observou-se o seguinte padrão de comportamento: existe uma tendência no aumento do ganho do experimento com o coeficiente de ajuste dinâmico em relação ao experimento com = 0, 1. Por fim, experimentos adicionais foram realizados a fim de avaliar o comportamento do sistema Híbrido Médio em relação ao aumento no número de membros e em relação a otimização do intervalo do coeficiente de ajuste dinâmico.
publishDate 2018
dc.date.issued.fl_str_mv 2018-10-22
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
status_str publishedVersion
format doctoralThesis
dc.identifier.uri.fl_str_mv http://urlib.net/sid.inpe.br/mtc-m21c/2018/10.29.17.51
url http://urlib.net/sid.inpe.br/mtc-m21c/2018/10.29.17.51
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Instituto Nacional de Pesquisas Espaciais (INPE)
dc.publisher.program.fl_str_mv Programa de Pós-Graduação do INPE em Meteorologia
dc.publisher.initials.fl_str_mv INPE
dc.publisher.country.fl_str_mv BR
publisher.none.fl_str_mv Instituto Nacional de Pesquisas Espaciais (INPE)
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações do INPE
instname:Instituto Nacional de Pesquisas Espaciais (INPE)
instacron:INPE
reponame_str Biblioteca Digital de Teses e Dissertações do INPE
collection Biblioteca Digital de Teses e Dissertações do INPE
instname_str Instituto Nacional de Pesquisas Espaciais (INPE)
instacron_str INPE
institution INPE
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações do INPE - Instituto Nacional de Pesquisas Espaciais (INPE)
repository.mail.fl_str_mv
publisher_program_txtF_mv Programa de Pós-Graduação do INPE em Meteorologia
contributor_advisor1_txtF_mv Luis Gustavo Gonçalves de Gonçalves
_version_ 1706809362112053248