Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto
Autor(a) principal: | |
---|---|
Data de Publicação: | 2018 |
Tipo de documento: | Tese |
Idioma: | por |
Título da fonte: | Biblioteca Digital de Teses e Dissertações do INPE |
Texto Completo: | http://urlib.net/sid.inpe.br/mtc-m21c/2018/10.29.17.51 |
Resumo: | Ao longo dos últimos anos, os sistemas de assimilação de dados Híbridos têm sido alvo de vários estudos. Esses sistemas consistem em combinar dois outros sistemas de assimilação de dados, sendo usualmente um variacional e outro baseado em conjunto. Os sistemas Híbridos tradicionais visam beneficiar um sistema variacional através do uso da covariância do erro do background de um sistema por conjunto. Uma abordagem mais recente visa melhorar um sistema por conjunto através da estabilidade vinda do sistema variacional, pela combinação linear entre suas análises, ponderadas por um peso estático arbitrário. Considerando que os sistemas de assimilação de dados variacionais e os sistemas por conjunto apresentam erros diferentes e que uma forma de quantificar a incerteza do sistema por conjunto é através do seu espalhamento, esta tese de doutorado propõe avaliar o ganho ao incluir em um sistema de assimilação de dados Híbrido Médio um coeficiente de ajuste dinâmico, o qual utiliza essas informações de incerteza do sistema por conjunto na configuração desse coeficiente. A metodologia empregada, utiliza como modelo um MCGA simplificado (SPEEDY), como sistema por conjunto o LETKF, e como sistema variacional o 3DVar para comporem o sistema Híbrido Médio. O coeficiente de ajuste dinâmico é calculado com base nos valores normalizados do espalhamento do conjunto. Foram realizados ao todo oito experimentos, sendo dois deles com o LETKF e com o 3DVar separadamente, cinco deles variando os valores de alfa fixo ( = 0, 1, = 0, 3, = 0, 5, = 0, 7 e = 0, 9), e por último, um experimento utilizando o coeficiente de ajuste dinâmico. Nesses experimentos foram avaliadas as análises e previsões de até 120 horas para os períodos de verão e inverno. Os resultados mostraram que o LETKF apresenta erros menores que o 3DVar tanto em suas análises quanto nos primeiros horários de previsão, porém esse padrão se inverte a partir de aproximadamente 48 horas de previsão. Através da avaliação feita com as análises geradas pelos diversos valores de alfa, foi encontrado um valor ótimo de = 0, 1, e quando este resultado foi comparado contra o experimento com o coeficiente de ajuste dinâmico, também obteve, na maioria dos casos, menores erros nas análises. No entanto, para o período de verão, o coeficiente de ajuste dinâmico apresentou análises mais balanceadas, enquanto as análises geradas pelo = 0, 3, para o período de inverno, foram melhor balanceadas. Ao serem comparadas as previsões geradas a partir das análises dos experimentos com = 0, 1 e com o coeficiente de ajuste dinâmico, observou-se o seguinte padrão de comportamento: existe uma tendência no aumento do ganho do experimento com o coeficiente de ajuste dinâmico em relação ao experimento com = 0, 1. Por fim, experimentos adicionais foram realizados a fim de avaliar o comportamento do sistema Híbrido Médio em relação ao aumento no número de membros e em relação a otimização do intervalo do coeficiente de ajuste dinâmico. |
id |
INPE_883a2053691c0f9573971c0b5a970117 |
---|---|
oai_identifier_str |
oai:urlib.net:sid.inpe.br/mtc-m21c/2018/10.29.17.51.59-0 |
network_acronym_str |
INPE |
network_name_str |
Biblioteca Digital de Teses e Dissertações do INPE |
spelling |
info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisAjuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjuntoDynamic fit for hybrid analysis between a variational system and ensemble Kalman filter2018-10-22Luis Gustavo Gonçalves de GonçalvesCarlos Frederico BastarzEugênia KalnayFabrício Pereira HarterHelena Barbieri de AzevedoInstituto Nacional de Pesquisas Espaciais (INPE)Programa de Pós-Graduação do INPE em MeteorologiaINPEBRassimilação de dadossistemas híbridosfiltro de Kalman por conjuntosistema variacionalprevisão numérica do tempodata assimilation systemhybrid systemensemble Kalman filtervariational systemnumerical weather predictionAo longo dos últimos anos, os sistemas de assimilação de dados Híbridos têm sido alvo de vários estudos. Esses sistemas consistem em combinar dois outros sistemas de assimilação de dados, sendo usualmente um variacional e outro baseado em conjunto. Os sistemas Híbridos tradicionais visam beneficiar um sistema variacional através do uso da covariância do erro do background de um sistema por conjunto. Uma abordagem mais recente visa melhorar um sistema por conjunto através da estabilidade vinda do sistema variacional, pela combinação linear entre suas análises, ponderadas por um peso estático arbitrário. Considerando que os sistemas de assimilação de dados variacionais e os sistemas por conjunto apresentam erros diferentes e que uma forma de quantificar a incerteza do sistema por conjunto é através do seu espalhamento, esta tese de doutorado propõe avaliar o ganho ao incluir em um sistema de assimilação de dados Híbrido Médio um coeficiente de ajuste dinâmico, o qual utiliza essas informações de incerteza do sistema por conjunto na configuração desse coeficiente. A metodologia empregada, utiliza como modelo um MCGA simplificado (SPEEDY), como sistema por conjunto o LETKF, e como sistema variacional o 3DVar para comporem o sistema Híbrido Médio. O coeficiente de ajuste dinâmico é calculado com base nos valores normalizados do espalhamento do conjunto. Foram realizados ao todo oito experimentos, sendo dois deles com o LETKF e com o 3DVar separadamente, cinco deles variando os valores de alfa fixo ( = 0, 1, = 0, 3, = 0, 5, = 0, 7 e = 0, 9), e por último, um experimento utilizando o coeficiente de ajuste dinâmico. Nesses experimentos foram avaliadas as análises e previsões de até 120 horas para os períodos de verão e inverno. Os resultados mostraram que o LETKF apresenta erros menores que o 3DVar tanto em suas análises quanto nos primeiros horários de previsão, porém esse padrão se inverte a partir de aproximadamente 48 horas de previsão. Através da avaliação feita com as análises geradas pelos diversos valores de alfa, foi encontrado um valor ótimo de = 0, 1, e quando este resultado foi comparado contra o experimento com o coeficiente de ajuste dinâmico, também obteve, na maioria dos casos, menores erros nas análises. No entanto, para o período de verão, o coeficiente de ajuste dinâmico apresentou análises mais balanceadas, enquanto as análises geradas pelo = 0, 3, para o período de inverno, foram melhor balanceadas. Ao serem comparadas as previsões geradas a partir das análises dos experimentos com = 0, 1 e com o coeficiente de ajuste dinâmico, observou-se o seguinte padrão de comportamento: existe uma tendência no aumento do ganho do experimento com o coeficiente de ajuste dinâmico em relação ao experimento com = 0, 1. Por fim, experimentos adicionais foram realizados a fim de avaliar o comportamento do sistema Híbrido Médio em relação ao aumento no número de membros e em relação a otimização do intervalo do coeficiente de ajuste dinâmico.Over the past few years, Hybrid data assimilation systems have been the subject of several studies. These systems consist of combining two other data assimilation systems, usually one variational and one ensemble based. Traditional Hybrid systems aim to benefit a variational system by using the background error covariance of the ensemble based system. The most recent approach is to improve the ensemble based system, through the stability of the variational system, by the linear combination between both analyses, weighted by an arbitrary static weight. Considering that variational data assimilation systems and ensemble based systems have different errors, one way of quantifying the uncertainty of the system is through the ensemble spread. This PhD thesis proposed to evaluate a Hybrid Gain data assimilation system by including a dynamic fit coefficient, which considers the uncertainty information from the ensemble system. The methodology uses a simplified AGCM (SPEEDY) model, an ensemble based system (LETKF) and a variational system (3DVar) to build up the Hybrid Gain system. The dynamic fit coefficient is calculated based on the normalized values of the ensemble spread. A total of eight experiments were performed, two of them using LETKF and 3DVar separately, five of them varying the fixed alpha values ( = 0.1, = 0.3, = 0.5, = 0.7 and = 0.9), and finally, an experiment using the dynamic fit coefficient. In these experiments, the analyses and forecasts of up to 120 hours for the summer and winter were analyzed. The results showed that LETKF presented smaller errors when compared to the 3DVar in both analyzes and the first forecasting hours, but this pattern reverses starting on approximately 48 hours. By evaluating the various alpha values, an optimal value of = 0.1 was found, and when this result was compared against the experiment with the dynamic fit coefficient, it also obtained, in most cases, smaller errors in the analyzes. Furthermore, during the summer, the dynamic fit coefficient presented more balanced analyzes, whereas the analyzes generated by the = 0.3, for the winter period, were better balanced. When the forecasts generated from the analyzes of the experiments with = 0.1 and the dynamic fit coefficient were compared, the following was noticed: there is a tendency in the gain of the experiment with the dynamic fit coefficient with respect to the experiment with = 0.1. Finally, additional experiments were carried out in order to evaluate the behavior of the Hybrid Gain system with respect to the increase in the number of members and i to the optimization of the range of the dynamic adjustment coefficient.http://urlib.net/sid.inpe.br/mtc-m21c/2018/10.29.17.51info:eu-repo/semantics/openAccessporreponame:Biblioteca Digital de Teses e Dissertações do INPEinstname:Instituto Nacional de Pesquisas Espaciais (INPE)instacron:INPE2021-07-31T06:55:55Zoai:urlib.net:sid.inpe.br/mtc-m21c/2018/10.29.17.51.59-0Biblioteca Digital de Teses e Dissertaçõeshttp://bibdigital.sid.inpe.br/PUBhttp://bibdigital.sid.inpe.br/col/iconet.com.br/banon/2003/11.21.21.08/doc/oai.cgiopendoar:32772021-07-31 06:55:56.163Biblioteca Digital de Teses e Dissertações do INPE - Instituto Nacional de Pesquisas Espaciais (INPE)false |
dc.title.pt.fl_str_mv |
Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto |
dc.title.alternative.en.fl_str_mv |
Dynamic fit for hybrid analysis between a variational system and ensemble Kalman filter |
title |
Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto |
spellingShingle |
Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto Helena Barbieri de Azevedo |
title_short |
Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto |
title_full |
Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto |
title_fullStr |
Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto |
title_full_unstemmed |
Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto |
title_sort |
Ajuste dinâmico para análise hibrida entre um sistema variacional e o filtro de Kalman por conjunto |
author |
Helena Barbieri de Azevedo |
author_facet |
Helena Barbieri de Azevedo |
author_role |
author |
dc.contributor.advisor1.fl_str_mv |
Luis Gustavo Gonçalves de Gonçalves |
dc.contributor.referee1.fl_str_mv |
Carlos Frederico Bastarz |
dc.contributor.referee2.fl_str_mv |
Eugênia Kalnay |
dc.contributor.referee3.fl_str_mv |
Fabrício Pereira Harter |
dc.contributor.author.fl_str_mv |
Helena Barbieri de Azevedo |
contributor_str_mv |
Luis Gustavo Gonçalves de Gonçalves Carlos Frederico Bastarz Eugênia Kalnay Fabrício Pereira Harter |
dc.description.abstract.por.fl_txt_mv |
Ao longo dos últimos anos, os sistemas de assimilação de dados Híbridos têm sido alvo de vários estudos. Esses sistemas consistem em combinar dois outros sistemas de assimilação de dados, sendo usualmente um variacional e outro baseado em conjunto. Os sistemas Híbridos tradicionais visam beneficiar um sistema variacional através do uso da covariância do erro do background de um sistema por conjunto. Uma abordagem mais recente visa melhorar um sistema por conjunto através da estabilidade vinda do sistema variacional, pela combinação linear entre suas análises, ponderadas por um peso estático arbitrário. Considerando que os sistemas de assimilação de dados variacionais e os sistemas por conjunto apresentam erros diferentes e que uma forma de quantificar a incerteza do sistema por conjunto é através do seu espalhamento, esta tese de doutorado propõe avaliar o ganho ao incluir em um sistema de assimilação de dados Híbrido Médio um coeficiente de ajuste dinâmico, o qual utiliza essas informações de incerteza do sistema por conjunto na configuração desse coeficiente. A metodologia empregada, utiliza como modelo um MCGA simplificado (SPEEDY), como sistema por conjunto o LETKF, e como sistema variacional o 3DVar para comporem o sistema Híbrido Médio. O coeficiente de ajuste dinâmico é calculado com base nos valores normalizados do espalhamento do conjunto. Foram realizados ao todo oito experimentos, sendo dois deles com o LETKF e com o 3DVar separadamente, cinco deles variando os valores de alfa fixo ( = 0, 1, = 0, 3, = 0, 5, = 0, 7 e = 0, 9), e por último, um experimento utilizando o coeficiente de ajuste dinâmico. Nesses experimentos foram avaliadas as análises e previsões de até 120 horas para os períodos de verão e inverno. Os resultados mostraram que o LETKF apresenta erros menores que o 3DVar tanto em suas análises quanto nos primeiros horários de previsão, porém esse padrão se inverte a partir de aproximadamente 48 horas de previsão. Através da avaliação feita com as análises geradas pelos diversos valores de alfa, foi encontrado um valor ótimo de = 0, 1, e quando este resultado foi comparado contra o experimento com o coeficiente de ajuste dinâmico, também obteve, na maioria dos casos, menores erros nas análises. No entanto, para o período de verão, o coeficiente de ajuste dinâmico apresentou análises mais balanceadas, enquanto as análises geradas pelo = 0, 3, para o período de inverno, foram melhor balanceadas. Ao serem comparadas as previsões geradas a partir das análises dos experimentos com = 0, 1 e com o coeficiente de ajuste dinâmico, observou-se o seguinte padrão de comportamento: existe uma tendência no aumento do ganho do experimento com o coeficiente de ajuste dinâmico em relação ao experimento com = 0, 1. Por fim, experimentos adicionais foram realizados a fim de avaliar o comportamento do sistema Híbrido Médio em relação ao aumento no número de membros e em relação a otimização do intervalo do coeficiente de ajuste dinâmico. |
dc.description.abstract.eng.fl_txt_mv |
Over the past few years, Hybrid data assimilation systems have been the subject of several studies. These systems consist of combining two other data assimilation systems, usually one variational and one ensemble based. Traditional Hybrid systems aim to benefit a variational system by using the background error covariance of the ensemble based system. The most recent approach is to improve the ensemble based system, through the stability of the variational system, by the linear combination between both analyses, weighted by an arbitrary static weight. Considering that variational data assimilation systems and ensemble based systems have different errors, one way of quantifying the uncertainty of the system is through the ensemble spread. This PhD thesis proposed to evaluate a Hybrid Gain data assimilation system by including a dynamic fit coefficient, which considers the uncertainty information from the ensemble system. The methodology uses a simplified AGCM (SPEEDY) model, an ensemble based system (LETKF) and a variational system (3DVar) to build up the Hybrid Gain system. The dynamic fit coefficient is calculated based on the normalized values of the ensemble spread. A total of eight experiments were performed, two of them using LETKF and 3DVar separately, five of them varying the fixed alpha values ( = 0.1, = 0.3, = 0.5, = 0.7 and = 0.9), and finally, an experiment using the dynamic fit coefficient. In these experiments, the analyses and forecasts of up to 120 hours for the summer and winter were analyzed. The results showed that LETKF presented smaller errors when compared to the 3DVar in both analyzes and the first forecasting hours, but this pattern reverses starting on approximately 48 hours. By evaluating the various alpha values, an optimal value of = 0.1 was found, and when this result was compared against the experiment with the dynamic fit coefficient, it also obtained, in most cases, smaller errors in the analyzes. Furthermore, during the summer, the dynamic fit coefficient presented more balanced analyzes, whereas the analyzes generated by the = 0.3, for the winter period, were better balanced. When the forecasts generated from the analyzes of the experiments with = 0.1 and the dynamic fit coefficient were compared, the following was noticed: there is a tendency in the gain of the experiment with the dynamic fit coefficient with respect to the experiment with = 0.1. Finally, additional experiments were carried out in order to evaluate the behavior of the Hybrid Gain system with respect to the increase in the number of members and i to the optimization of the range of the dynamic adjustment coefficient. |
description |
Ao longo dos últimos anos, os sistemas de assimilação de dados Híbridos têm sido alvo de vários estudos. Esses sistemas consistem em combinar dois outros sistemas de assimilação de dados, sendo usualmente um variacional e outro baseado em conjunto. Os sistemas Híbridos tradicionais visam beneficiar um sistema variacional através do uso da covariância do erro do background de um sistema por conjunto. Uma abordagem mais recente visa melhorar um sistema por conjunto através da estabilidade vinda do sistema variacional, pela combinação linear entre suas análises, ponderadas por um peso estático arbitrário. Considerando que os sistemas de assimilação de dados variacionais e os sistemas por conjunto apresentam erros diferentes e que uma forma de quantificar a incerteza do sistema por conjunto é através do seu espalhamento, esta tese de doutorado propõe avaliar o ganho ao incluir em um sistema de assimilação de dados Híbrido Médio um coeficiente de ajuste dinâmico, o qual utiliza essas informações de incerteza do sistema por conjunto na configuração desse coeficiente. A metodologia empregada, utiliza como modelo um MCGA simplificado (SPEEDY), como sistema por conjunto o LETKF, e como sistema variacional o 3DVar para comporem o sistema Híbrido Médio. O coeficiente de ajuste dinâmico é calculado com base nos valores normalizados do espalhamento do conjunto. Foram realizados ao todo oito experimentos, sendo dois deles com o LETKF e com o 3DVar separadamente, cinco deles variando os valores de alfa fixo ( = 0, 1, = 0, 3, = 0, 5, = 0, 7 e = 0, 9), e por último, um experimento utilizando o coeficiente de ajuste dinâmico. Nesses experimentos foram avaliadas as análises e previsões de até 120 horas para os períodos de verão e inverno. Os resultados mostraram que o LETKF apresenta erros menores que o 3DVar tanto em suas análises quanto nos primeiros horários de previsão, porém esse padrão se inverte a partir de aproximadamente 48 horas de previsão. Através da avaliação feita com as análises geradas pelos diversos valores de alfa, foi encontrado um valor ótimo de = 0, 1, e quando este resultado foi comparado contra o experimento com o coeficiente de ajuste dinâmico, também obteve, na maioria dos casos, menores erros nas análises. No entanto, para o período de verão, o coeficiente de ajuste dinâmico apresentou análises mais balanceadas, enquanto as análises geradas pelo = 0, 3, para o período de inverno, foram melhor balanceadas. Ao serem comparadas as previsões geradas a partir das análises dos experimentos com = 0, 1 e com o coeficiente de ajuste dinâmico, observou-se o seguinte padrão de comportamento: existe uma tendência no aumento do ganho do experimento com o coeficiente de ajuste dinâmico em relação ao experimento com = 0, 1. Por fim, experimentos adicionais foram realizados a fim de avaliar o comportamento do sistema Híbrido Médio em relação ao aumento no número de membros e em relação a otimização do intervalo do coeficiente de ajuste dinâmico. |
publishDate |
2018 |
dc.date.issued.fl_str_mv |
2018-10-22 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/doctoralThesis |
status_str |
publishedVersion |
format |
doctoralThesis |
dc.identifier.uri.fl_str_mv |
http://urlib.net/sid.inpe.br/mtc-m21c/2018/10.29.17.51 |
url |
http://urlib.net/sid.inpe.br/mtc-m21c/2018/10.29.17.51 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Instituto Nacional de Pesquisas Espaciais (INPE) |
dc.publisher.program.fl_str_mv |
Programa de Pós-Graduação do INPE em Meteorologia |
dc.publisher.initials.fl_str_mv |
INPE |
dc.publisher.country.fl_str_mv |
BR |
publisher.none.fl_str_mv |
Instituto Nacional de Pesquisas Espaciais (INPE) |
dc.source.none.fl_str_mv |
reponame:Biblioteca Digital de Teses e Dissertações do INPE instname:Instituto Nacional de Pesquisas Espaciais (INPE) instacron:INPE |
reponame_str |
Biblioteca Digital de Teses e Dissertações do INPE |
collection |
Biblioteca Digital de Teses e Dissertações do INPE |
instname_str |
Instituto Nacional de Pesquisas Espaciais (INPE) |
instacron_str |
INPE |
institution |
INPE |
repository.name.fl_str_mv |
Biblioteca Digital de Teses e Dissertações do INPE - Instituto Nacional de Pesquisas Espaciais (INPE) |
repository.mail.fl_str_mv |
|
publisher_program_txtF_mv |
Programa de Pós-Graduação do INPE em Meteorologia |
contributor_advisor1_txtF_mv |
Luis Gustavo Gonçalves de Gonçalves |
_version_ |
1706809362112053248 |