Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas
Autor(a) principal: | |
---|---|
Data de Publicação: | 2017 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da Universidade Federal do Espírito Santo (riUfes) |
Texto Completo: | http://repositorio.ufes.br/handle/10/9445 |
Resumo: | Flows modelling is presents by uncertainties related to climatological input data and watershed physiographic characteristics. In order to get representative flows simulated from the study area it is necessary adjust these flows to observed data. A satisfactory calibration depends on some factors that interfere in this process. Thus, the efficacy of the calibration of the flows estimated by the Soil and Water Assessment Tool (SWAT) model in rural watershed in the southeast of Espírito Santo state was evaluated, by changing calibration parameters, fluviometric stations, historical series and number of sub-basins involved in the process. In additionally there were verified the process of sensitivity analysis of calibration parameters and the influence of input data in the estimation of the flow rates. The results of the sensitivity analysis identified that most sensitive parameters for the study area are the same found in other studies carried out in Brazil and in its Southeast region. There were differences in the most sensitive parameters found for each type of analysis performed. The mean flows obtained by the SWAT were overestimated when compared to the observed data. Hence, it was necessary to calibrate and analyze the influence of the input data on the results. The calibration tests were performed by the SWAT-CUP program and the efficacy of each test was statistically evaluated by Nash-Sutcliffe Efficiency Coefficient (COE), Trend Percentage (PBIAS) and Mean Square Error (EQM). Calibration tests for observed series flow (29 years) from two fluviometric stations did not generate satisfactory results. The best result was obtained by changing all the calibration parameters for all sub-basins in the study area. This test was applied to short flows series (3 years) and it was possible to obtain a satisfactory calibration with COE values equal to 0.53 and 0.50, PBIAS equal to 6.60 and 20.70 and EQM equal to 0.72 and 0.69 for each fluviometric station, respectively. It is verified that the calibration process is a fine adjustment, therefore, the high overestimation simulated data makes calibration difficult, this can be associated with the quality of the input data of soil, climate, pedology and spatialization of the climatic stations in the basin. |
id |
UFES_566177a72f0e10d9b965974d31cb24b7 |
---|---|
oai_identifier_str |
oai:repositorio.ufes.br:10/9445 |
network_acronym_str |
UFES |
network_name_str |
Repositório Institucional da Universidade Federal do Espírito Santo (riUfes) |
repository_id_str |
2108 |
spelling |
Rigo, DanielMoreira, Luana LavagnoliMendonça, Antonio Sergio FerreiraCecílio, Roberto Avelino2018-08-01T23:57:59Z2018-08-012018-08-01T23:57:59Z2017-04-19Flows modelling is presents by uncertainties related to climatological input data and watershed physiographic characteristics. In order to get representative flows simulated from the study area it is necessary adjust these flows to observed data. A satisfactory calibration depends on some factors that interfere in this process. Thus, the efficacy of the calibration of the flows estimated by the Soil and Water Assessment Tool (SWAT) model in rural watershed in the southeast of Espírito Santo state was evaluated, by changing calibration parameters, fluviometric stations, historical series and number of sub-basins involved in the process. In additionally there were verified the process of sensitivity analysis of calibration parameters and the influence of input data in the estimation of the flow rates. The results of the sensitivity analysis identified that most sensitive parameters for the study area are the same found in other studies carried out in Brazil and in its Southeast region. There were differences in the most sensitive parameters found for each type of analysis performed. The mean flows obtained by the SWAT were overestimated when compared to the observed data. Hence, it was necessary to calibrate and analyze the influence of the input data on the results. The calibration tests were performed by the SWAT-CUP program and the efficacy of each test was statistically evaluated by Nash-Sutcliffe Efficiency Coefficient (COE), Trend Percentage (PBIAS) and Mean Square Error (EQM). Calibration tests for observed series flow (29 years) from two fluviometric stations did not generate satisfactory results. The best result was obtained by changing all the calibration parameters for all sub-basins in the study area. This test was applied to short flows series (3 years) and it was possible to obtain a satisfactory calibration with COE values equal to 0.53 and 0.50, PBIAS equal to 6.60 and 20.70 and EQM equal to 0.72 and 0.69 for each fluviometric station, respectively. It is verified that the calibration process is a fine adjustment, therefore, the high overestimation simulated data makes calibration difficult, this can be associated with the quality of the input data of soil, climate, pedology and spatialization of the climatic stations in the basin.A modelagem de vazões médias vem acompanhada de incertezas relacionadas aos dados de entrada climatológicos e às características fisiográficas da bacia hidrográfica. A obtenção de vazões representativas da área de estudo requer o ajuste destas com os dados observados. Uma calibração satisfatória depende de uma série de fatores que interferem neste processo. Dessa forma, procurou-se avaliar a eficácia da calibração das vazões estimadas pelo modelo Soil and Water Assessment Tool (SWAT) em uma bacia hidrográfica rural localizada no sudeste do estado do Espírito Santo, variando parâmetros de calibração, estações de monitoramento de vazões, tamanhos das séries históricas e número de sub-bacias envolvidas no processo, além disso foram verificados o processo de análise de sensibilidade dos parâmetros de calibração e a influência dos mesmos e dos dados de entrada nas estimativas de vazões. Os resultados da análise de sensibilidade identificaram que a maioria dos parâmetros mais sensíveis da área de estudo foram os mesmos observados em vários trabalhos realizados no Brasil e na região sudeste do país. Além disso, houve variação nos parâmetros mais sensíveis dependendo do tipo de análise realizada. As vazões médias simuladas pelo SWAT foram superestimadas quando comparadas com os dados observados. Por esse motivo foi necessário calibração e análise da influência dos dados de entrada nesses resultados. Os testes de calibração foram realizados pelo programa SWAT-CUP e a eficácia de cada teste foi avaliada estatisticamente pelo Coeficiente de Eficiência de Nash-Sutcliffe (COE), Tendência Percentual (PBIAS) e Erro Quadrado Médio (EQM). Os testes de calibração com série longa de dados observados (29 anos) de duas estações fluviométricas não geraram resultados satisfatórios. O melhor resultado consistiu em variar todos os parâmetros de calibração em todas as sub-bacias da área de estudo. Esse teste foi realizado com uma série histórica de 3 anos, e então, foi possível obter uma calibração satisfatória com valores de COE iguais a 0,53 e 0,50, PBIAS iguais a 6,60 e 20,70 e EQM iguais a 0,72 e 0,69 para cada estação fluviométrica, respectivamente. Verifica-se que o processo de calibração é um ajuste fino, portanto, a elevada superestimação dos dados simulados dificulta a calibração, isso pode ser associado à qualidade dos dados de entrada de uso do solo, clima, pedologia e espacialização das estações climáticas na bacia hidrográfica.Texthttp://repositorio.ufes.br/handle/10/9445porUniversidade Federal do Espírito SantoMestrado em Engenharia AmbientalPrograma de Pós-Graduação em Engenharia AmbientalUFESBRCentro TecnológicoCalibrationFlowsSensitivity analysisSWATWater productionModelo SWATProdução de águaSWATVazõesAnálise de sensibilidadeCalibraçãoVazões naturaisBacias hidrográficasEngenharia Sanitária628Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficasinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da Universidade Federal do Espírito Santo (riUfes)instname:Universidade Federal do Espírito Santo (UFES)instacron:UFESORIGINALtese_10941_Dissertação - Luana - Final versão final eletronica.pdfapplication/pdf3676894http://repositorio.ufes.br/bitstreams/06d0e9c5-29ca-433b-b058-81fca5c9f677/download1e394ab09ed35e7ff57b847a108f68d1MD5110/94452024-07-17 16:58:23.581oai:repositorio.ufes.br:10/9445http://repositorio.ufes.brRepositório InstitucionalPUBhttp://repositorio.ufes.br/oai/requestopendoar:21082024-10-15T18:00:25.114409Repositório Institucional da Universidade Federal do Espírito Santo (riUfes) - Universidade Federal do Espírito Santo (UFES)false |
dc.title.none.fl_str_mv |
Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas |
title |
Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas |
spellingShingle |
Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas Moreira, Luana Lavagnoli Calibration Flows Sensitivity analysis SWAT Water production Modelo SWAT Produção de água SWAT Vazões Engenharia Sanitária Análise de sensibilidade Calibração Vazões naturais Bacias hidrográficas 628 |
title_short |
Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas |
title_full |
Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas |
title_fullStr |
Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas |
title_full_unstemmed |
Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas |
title_sort |
Análise de sensibilidade de parâmetros e de desempenho do modelo Soil and Water Assessment Tools (SWAT) na estimativa de vazões médias em bacias hidrográficas |
author |
Moreira, Luana Lavagnoli |
author_facet |
Moreira, Luana Lavagnoli |
author_role |
author |
dc.contributor.advisor1.fl_str_mv |
Rigo, Daniel |
dc.contributor.author.fl_str_mv |
Moreira, Luana Lavagnoli |
dc.contributor.referee1.fl_str_mv |
Mendonça, Antonio Sergio Ferreira |
dc.contributor.referee2.fl_str_mv |
Cecílio, Roberto Avelino |
contributor_str_mv |
Rigo, Daniel Mendonça, Antonio Sergio Ferreira Cecílio, Roberto Avelino |
dc.subject.eng.fl_str_mv |
Calibration Flows Sensitivity analysis SWAT Water production |
topic |
Calibration Flows Sensitivity analysis SWAT Water production Modelo SWAT Produção de água SWAT Vazões Engenharia Sanitária Análise de sensibilidade Calibração Vazões naturais Bacias hidrográficas 628 |
dc.subject.por.fl_str_mv |
Modelo SWAT Produção de água SWAT Vazões |
dc.subject.cnpq.fl_str_mv |
Engenharia Sanitária |
dc.subject.br-rjbn.none.fl_str_mv |
Análise de sensibilidade Calibração Vazões naturais Bacias hidrográficas |
dc.subject.udc.none.fl_str_mv |
628 |
description |
Flows modelling is presents by uncertainties related to climatological input data and watershed physiographic characteristics. In order to get representative flows simulated from the study area it is necessary adjust these flows to observed data. A satisfactory calibration depends on some factors that interfere in this process. Thus, the efficacy of the calibration of the flows estimated by the Soil and Water Assessment Tool (SWAT) model in rural watershed in the southeast of Espírito Santo state was evaluated, by changing calibration parameters, fluviometric stations, historical series and number of sub-basins involved in the process. In additionally there were verified the process of sensitivity analysis of calibration parameters and the influence of input data in the estimation of the flow rates. The results of the sensitivity analysis identified that most sensitive parameters for the study area are the same found in other studies carried out in Brazil and in its Southeast region. There were differences in the most sensitive parameters found for each type of analysis performed. The mean flows obtained by the SWAT were overestimated when compared to the observed data. Hence, it was necessary to calibrate and analyze the influence of the input data on the results. The calibration tests were performed by the SWAT-CUP program and the efficacy of each test was statistically evaluated by Nash-Sutcliffe Efficiency Coefficient (COE), Trend Percentage (PBIAS) and Mean Square Error (EQM). Calibration tests for observed series flow (29 years) from two fluviometric stations did not generate satisfactory results. The best result was obtained by changing all the calibration parameters for all sub-basins in the study area. This test was applied to short flows series (3 years) and it was possible to obtain a satisfactory calibration with COE values equal to 0.53 and 0.50, PBIAS equal to 6.60 and 20.70 and EQM equal to 0.72 and 0.69 for each fluviometric station, respectively. It is verified that the calibration process is a fine adjustment, therefore, the high overestimation simulated data makes calibration difficult, this can be associated with the quality of the input data of soil, climate, pedology and spatialization of the climatic stations in the basin. |
publishDate |
2017 |
dc.date.issued.fl_str_mv |
2017-04-19 |
dc.date.accessioned.fl_str_mv |
2018-08-01T23:57:59Z |
dc.date.available.fl_str_mv |
2018-08-01 2018-08-01T23:57:59Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
http://repositorio.ufes.br/handle/10/9445 |
url |
http://repositorio.ufes.br/handle/10/9445 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
Text |
dc.publisher.none.fl_str_mv |
Universidade Federal do Espírito Santo Mestrado em Engenharia Ambiental |
dc.publisher.program.fl_str_mv |
Programa de Pós-Graduação em Engenharia Ambiental |
dc.publisher.initials.fl_str_mv |
UFES |
dc.publisher.country.fl_str_mv |
BR |
dc.publisher.department.fl_str_mv |
Centro Tecnológico |
publisher.none.fl_str_mv |
Universidade Federal do Espírito Santo Mestrado em Engenharia Ambiental |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da Universidade Federal do Espírito Santo (riUfes) instname:Universidade Federal do Espírito Santo (UFES) instacron:UFES |
instname_str |
Universidade Federal do Espírito Santo (UFES) |
instacron_str |
UFES |
institution |
UFES |
reponame_str |
Repositório Institucional da Universidade Federal do Espírito Santo (riUfes) |
collection |
Repositório Institucional da Universidade Federal do Espírito Santo (riUfes) |
bitstream.url.fl_str_mv |
http://repositorio.ufes.br/bitstreams/06d0e9c5-29ca-433b-b058-81fca5c9f677/download |
bitstream.checksum.fl_str_mv |
1e394ab09ed35e7ff57b847a108f68d1 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 |
repository.name.fl_str_mv |
Repositório Institucional da Universidade Federal do Espírito Santo (riUfes) - Universidade Federal do Espírito Santo (UFES) |
repository.mail.fl_str_mv |
|
_version_ |
1813022563962454016 |