Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas

Detalhes bibliográficos
Autor(a) principal: Moreira, Luana Lavagnoli
Data de Publicação: 2017
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)
Texto Completo: http://repositorio.ufes.br/handle/10/9445
Resumo: Flows modelling is presents by uncertainties related to climatological input data and watershed physiographic characteristics. In order to get representative flows simulated from the study area it is necessary adjust these flows to observed data. A satisfactory calibration depends on some factors that interfere in this process. Thus, the efficacy of the calibration of the flows estimated by the Soil and Water Assessment Tool (SWAT) model in rural watershed in the southeast of Espírito Santo state was evaluated, by changing calibration parameters, fluviometric stations, historical series and number of sub-basins involved in the process. In additionally there were verified the process of sensitivity analysis of calibration parameters and the influence of input data in the estimation of the flow rates. The results of the sensitivity analysis identified that most sensitive parameters for the study area are the same found in other studies carried out in Brazil and in its Southeast region. There were differences in the most sensitive parameters found for each type of analysis performed. The mean flows obtained by the SWAT were overestimated when compared to the observed data. Hence, it was necessary to calibrate and analyze the influence of the input data on the results. The calibration tests were performed by the SWAT-CUP program and the efficacy of each test was statistically evaluated by Nash-Sutcliffe Efficiency Coefficient (COE), Trend Percentage (PBIAS) and Mean Square Error (EQM). Calibration tests for observed series flow (29 years) from two fluviometric stations did not generate satisfactory results. The best result was obtained by changing all the calibration parameters for all sub-basins in the study area. This test was applied to short flows series (3 years) and it was possible to obtain a satisfactory calibration with COE values equal to 0.53 and 0.50, PBIAS equal to 6.60 and 20.70 and EQM equal to 0.72 and 0.69 for each fluviometric station, respectively. It is verified that the calibration process is a fine adjustment, therefore, the high overestimation simulated data makes calibration difficult, this can be associated with the quality of the input data of soil, climate, pedology and spatialization of the climatic stations in the basin.
id UFES_566177a72f0e10d9b965974d31cb24b7
oai_identifier_str oai:repositorio.ufes.br:10/9445
network_acronym_str UFES
network_name_str Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)
repository_id_str 2108
spelling Rigo, DanielMoreira, Luana LavagnoliMendonça, Antonio Sergio FerreiraCecílio, Roberto Avelino2018-08-01T23:57:59Z2018-08-012018-08-01T23:57:59Z2017-04-19Flows modelling is presents by uncertainties related to climatological input data and watershed physiographic characteristics. In order to get representative flows simulated from the study area it is necessary adjust these flows to observed data. A satisfactory calibration depends on some factors that interfere in this process. Thus, the efficacy of the calibration of the flows estimated by the Soil and Water Assessment Tool (SWAT) model in rural watershed in the southeast of Espírito Santo state was evaluated, by changing calibration parameters, fluviometric stations, historical series and number of sub-basins involved in the process. In additionally there were verified the process of sensitivity analysis of calibration parameters and the influence of input data in the estimation of the flow rates. The results of the sensitivity analysis identified that most sensitive parameters for the study area are the same found in other studies carried out in Brazil and in its Southeast region. There were differences in the most sensitive parameters found for each type of analysis performed. The mean flows obtained by the SWAT were overestimated when compared to the observed data. Hence, it was necessary to calibrate and analyze the influence of the input data on the results. The calibration tests were performed by the SWAT-CUP program and the efficacy of each test was statistically evaluated by Nash-Sutcliffe Efficiency Coefficient (COE), Trend Percentage (PBIAS) and Mean Square Error (EQM). Calibration tests for observed series flow (29 years) from two fluviometric stations did not generate satisfactory results. The best result was obtained by changing all the calibration parameters for all sub-basins in the study area. This test was applied to short flows series (3 years) and it was possible to obtain a satisfactory calibration with COE values equal to 0.53 and 0.50, PBIAS equal to 6.60 and 20.70 and EQM equal to 0.72 and 0.69 for each fluviometric station, respectively. It is verified that the calibration process is a fine adjustment, therefore, the high overestimation simulated data makes calibration difficult, this can be associated with the quality of the input data of soil, climate, pedology and spatialization of the climatic stations in the basin.A modelagem de vazões médias vem acompanhada de incertezas relacionadas aos dados de entrada climatológicos e às características fisiográficas da bacia hidrográfica. A obtenção de vazões representativas da área de estudo requer o ajuste destas com os dados observados. Uma calibração satisfatória depende de uma série de fatores que interferem neste processo. Dessa forma, procurou-se avaliar a eficácia da calibração das vazões estimadas pelo modelo Soil and Water Assessment Tool (SWAT) em uma bacia hidrográfica rural localizada no sudeste do estado do Espírito Santo, variando parâmetros de calibração, estações de monitoramento de vazões, tamanhos das séries históricas e número de sub-bacias envolvidas no processo, além disso foram verificados o processo de análise de sensibilidade dos parâmetros de calibração e a influência dos mesmos e dos dados de entrada nas estimativas de vazões. Os resultados da análise de sensibilidade identificaram que a maioria dos parâmetros mais sensíveis da área de estudo foram os mesmos observados em vários trabalhos realizados no Brasil e na região sudeste do país. Além disso, houve variação nos parâmetros mais sensíveis dependendo do tipo de análise realizada. As vazões médias simuladas pelo SWAT foram superestimadas quando comparadas com os dados observados. Por esse motivo foi necessário calibração e análise da influência dos dados de entrada nesses resultados. Os testes de calibração foram realizados pelo programa SWAT-CUP e a eficácia de cada teste foi avaliada estatisticamente pelo Coeficiente de Eficiência de Nash-Sutcliffe (COE), Tendência Percentual (PBIAS) e Erro Quadrado Médio (EQM). Os testes de calibração com série longa de dados observados (29 anos) de duas estações fluviométricas não geraram resultados satisfatórios. O melhor resultado consistiu em variar todos os parâmetros de calibração em todas as sub-bacias da área de estudo. Esse teste foi realizado com uma série histórica de 3 anos, e então, foi possível obter uma calibração satisfatória com valores de COE iguais a 0,53 e 0,50, PBIAS iguais a 6,60 e 20,70 e EQM iguais a 0,72 e 0,69 para cada estação fluviométrica, respectivamente. Verifica-se que o processo de calibração é um ajuste fino, portanto, a elevada superestimação dos dados simulados dificulta a calibração, isso pode ser associado à qualidade dos dados de entrada de uso do solo, clima, pedologia e espacialização das estações climáticas na bacia hidrográfica.Texthttp://repositorio.ufes.br/handle/10/9445porUniversidade Federal do Espírito SantoMestrado em Engenharia AmbientalPrograma de Pós-Graduação em Engenharia AmbientalUFESBRCentro TecnológicoCalibrationFlowsSensitivity analysisSWATWater productionModelo SWATProdução de águaSWATVazõesAnálise de sensibilidadeCalibraçãoVazões naturaisBacias hidrográficasEngenharia Sanitária628Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficasinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)instname:Universidade Federal do Espírito Santo (UFES)instacron:UFESORIGINALtese_10941_Dissertação - Luana - Final versão final eletronica.pdfapplication/pdf3676894http://repositorio.ufes.br/bitstreams/06d0e9c5-29ca-433b-b058-81fca5c9f677/download1e394ab09ed35e7ff57b847a108f68d1MD5110/94452024-07-17 16:58:23.581oai:repositorio.ufes.br:10/9445http://repositorio.ufes.brRepositório InstitucionalPUBhttp://repositorio.ufes.br/oai/requestopendoar:21082024-10-15T18:00:25.114409Repositório Institucional da Universidade Federal do Espírito Santo (riUfes) - Universidade Federal do Espírito Santo (UFES)false
dc.title.none.fl_str_mv Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas
title Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas
spellingShingle Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas
Moreira, Luana Lavagnoli
Calibration
Flows
Sensitivity analysis
SWAT
Water production
Modelo SWAT
Produção de água
SWAT
Vazões
Engenharia Sanitária
Análise de sensibilidade
Calibração
Vazões naturais
Bacias hidrográficas
628
title_short Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas
title_full Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas
title_fullStr Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas
title_full_unstemmed Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas
title_sort Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas
author Moreira, Luana Lavagnoli
author_facet Moreira, Luana Lavagnoli
author_role author
dc.contributor.advisor1.fl_str_mv Rigo, Daniel
dc.contributor.author.fl_str_mv Moreira, Luana Lavagnoli
dc.contributor.referee1.fl_str_mv Mendonça, Antonio Sergio Ferreira
dc.contributor.referee2.fl_str_mv Cecílio, Roberto Avelino
contributor_str_mv Rigo, Daniel
Mendonça, Antonio Sergio Ferreira
Cecílio, Roberto Avelino
dc.subject.eng.fl_str_mv Calibration
Flows
Sensitivity analysis
SWAT
Water production
topic Calibration
Flows
Sensitivity analysis
SWAT
Water production
Modelo SWAT
Produção de água
SWAT
Vazões
Engenharia Sanitária
Análise de sensibilidade
Calibração
Vazões naturais
Bacias hidrográficas
628
dc.subject.por.fl_str_mv Modelo SWAT
Produção de água
SWAT
Vazões
dc.subject.cnpq.fl_str_mv Engenharia Sanitária
dc.subject.br-rjbn.none.fl_str_mv Análise de sensibilidade
Calibração
Vazões naturais
Bacias hidrográficas
dc.subject.udc.none.fl_str_mv 628
description Flows modelling is presents by uncertainties related to climatological input data and watershed physiographic characteristics. In order to get representative flows simulated from the study area it is necessary adjust these flows to observed data. A satisfactory calibration depends on some factors that interfere in this process. Thus, the efficacy of the calibration of the flows estimated by the Soil and Water Assessment Tool (SWAT) model in rural watershed in the southeast of Espírito Santo state was evaluated, by changing calibration parameters, fluviometric stations, historical series and number of sub-basins involved in the process. In additionally there were verified the process of sensitivity analysis of calibration parameters and the influence of input data in the estimation of the flow rates. The results of the sensitivity analysis identified that most sensitive parameters for the study area are the same found in other studies carried out in Brazil and in its Southeast region. There were differences in the most sensitive parameters found for each type of analysis performed. The mean flows obtained by the SWAT were overestimated when compared to the observed data. Hence, it was necessary to calibrate and analyze the influence of the input data on the results. The calibration tests were performed by the SWAT-CUP program and the efficacy of each test was statistically evaluated by Nash-Sutcliffe Efficiency Coefficient (COE), Trend Percentage (PBIAS) and Mean Square Error (EQM). Calibration tests for observed series flow (29 years) from two fluviometric stations did not generate satisfactory results. The best result was obtained by changing all the calibration parameters for all sub-basins in the study area. This test was applied to short flows series (3 years) and it was possible to obtain a satisfactory calibration with COE values equal to 0.53 and 0.50, PBIAS equal to 6.60 and 20.70 and EQM equal to 0.72 and 0.69 for each fluviometric station, respectively. It is verified that the calibration process is a fine adjustment, therefore, the high overestimation simulated data makes calibration difficult, this can be associated with the quality of the input data of soil, climate, pedology and spatialization of the climatic stations in the basin.
publishDate 2017
dc.date.issued.fl_str_mv 2017-04-19
dc.date.accessioned.fl_str_mv 2018-08-01T23:57:59Z
dc.date.available.fl_str_mv 2018-08-01
2018-08-01T23:57:59Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://repositorio.ufes.br/handle/10/9445
url http://repositorio.ufes.br/handle/10/9445
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv Text
dc.publisher.none.fl_str_mv Universidade Federal do Espírito Santo
Mestrado em Engenharia Ambiental
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Engenharia Ambiental
dc.publisher.initials.fl_str_mv UFES
dc.publisher.country.fl_str_mv BR
dc.publisher.department.fl_str_mv Centro Tecnológico
publisher.none.fl_str_mv Universidade Federal do Espírito Santo
Mestrado em Engenharia Ambiental
dc.source.none.fl_str_mv reponame:Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)
instname:Universidade Federal do Espírito Santo (UFES)
instacron:UFES
instname_str Universidade Federal do Espírito Santo (UFES)
instacron_str UFES
institution UFES
reponame_str Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)
collection Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)
bitstream.url.fl_str_mv http://repositorio.ufes.br/bitstreams/06d0e9c5-29ca-433b-b058-81fca5c9f677/download
bitstream.checksum.fl_str_mv 1e394ab09ed35e7ff57b847a108f68d1
bitstream.checksumAlgorithm.fl_str_mv MD5
repository.name.fl_str_mv Repositório Institucional da Universidade Federal do Espírito Santo (riUfes) - Universidade Federal do Espírito Santo (UFES)
repository.mail.fl_str_mv
_version_ 1813022563962454016