Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária.

Detalhes bibliográficos
Autor(a) principal: Karsburg, Roberta Machado
Data de Publicação: 2020
Tipo de documento: Tese
Idioma: por
Título da fonte: Repositório Institucional da UFPel - Guaiaca
Texto Completo: http://guaiaca.ufpel.edu.br/handle/prefix/8536
Resumo: A existência de séries temporais de precipitação de uma determinada localidade apresenta grande importância para os projetos relacionados aos recursos hídricos, sendo muitas vezes necessário o acesso às séries de precipitações discretizadas em pequenas durações (5min). Entretanto, existem muitas dificuldades na obtenção de séries longas de dados de precipitação discretizadas em pequenas durações. Uma alternativa é o uso de modelos que permitam a simulação estocástica da precipitação, os quais são calibrados com base em estatísticas dos dados históricos de precipitação. Um dos modelos comumente aplicado na simulação da precipitação é o Neyman-Scott do Pulso Retangular. Esse geralmente é utilizado na modelagem da precipitação para cada mês do ano separadamente e praticamente não se conhece o comportamento do referido modelo quando aplicado de forma anual ou sazonal. Sendo assim, o objetivo deste trabalho foi quantificar a influência do conjunto de parâmetros do modelo Neyman-Scott do Pulso Retangular (NSPR) em relação às séries simuladas de chuva na duração sub-horária (5min), para os meses de inverno e verão comparativamente às séries históricas. Os dados de precipitação utilizados compreendem o período de 1982 a 2015. A partir dos registros pluviográficos foram obtidas as estatísticas das séries de precipitação dos meses de inverno e de verão para as durações de 5, 10, 15, 20, 30, 60, 120, 360, 720 e 1440min. As estatísticas estimadas foram a média, a variância, covariância e proporção de períodos secos. Com base nestas foram constituídas dezoito combinações estatísticas (A a R), com quatro repetições cada, referentes aos pesos atribuídos às estatísticas do modelo NSPR e restrições aplicadas aos cinco parâmetros durante a estimativa dos mesmos. As restrições foram obtidas a partir da análise de quinze tormentas das séries históricas para os meses de inverno e de verão. Sendo assim, as quatro repetições estudadas foram mescladas com as utilizadas por Cowpertwait et al., (1996) e as desenvolvidas por este estudo. Deste modo, setenta e duas combinações estatísticas foram analisadas para cada período, entretanto nem todas combinações conseguiram realizar a estimativa dos parâmetros. Os conjuntos de parâmetros ajustados para o inverno (47) e para o verão (62) foram utilizados para a simulação da chuva através do modelo, a qual foi realizada 1000 vezes para cada conjunto de parâmetros. As séries simuladas foram comparadas com as históricas do período do inverno e do verão, utilizando o erro relativo médio quadrático (RMSE), selecionando-se duas melhores combinações estatísticas para cada período analisado, comparandose as estatísticas históricas e simuladas, assim como visualmente através das séries históricas e simuladas nas durações de 5 e 1440min, comparando-se seus valores de precipitação máxima. Através da simulação do modelo verificou-se que as combinações estatísticas constituídas com os pesos e restrições elaborados por este estudo apresentaram melhores resultados, M2 e F2 para o inverno e N4 e M4 para o verão. O modelo NSPR foi incapaz de representar as características estatísticas da série temporal da precipitação histórica da cidade de Pelotas sazonalmente, representando apenas a média.
id UFPL_24a266bbdfb88e78f7161a867f967ae7
oai_identifier_str oai:guaiaca.ufpel.edu.br:prefix/8536
network_acronym_str UFPL
network_name_str Repositório Institucional da UFPel - Guaiaca
repository_id_str
spelling 2022-07-28T14:14:03Z2022-072022-07-28T14:14:03Z2020-10-05KARSBURG, Roberta Machado. Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária. Orientadora: Rita de Cássia Fraga Damé. 2020. 137 f. Tese (Doutorado em Ciências) – Programa de Pós-Graduação em Manejo e Conservação do Solo e da Água, Universidade Federal de Pelotas, Pelotas, 2020.http://guaiaca.ufpel.edu.br/handle/prefix/8536A existência de séries temporais de precipitação de uma determinada localidade apresenta grande importância para os projetos relacionados aos recursos hídricos, sendo muitas vezes necessário o acesso às séries de precipitações discretizadas em pequenas durações (5min). Entretanto, existem muitas dificuldades na obtenção de séries longas de dados de precipitação discretizadas em pequenas durações. Uma alternativa é o uso de modelos que permitam a simulação estocástica da precipitação, os quais são calibrados com base em estatísticas dos dados históricos de precipitação. Um dos modelos comumente aplicado na simulação da precipitação é o Neyman-Scott do Pulso Retangular. Esse geralmente é utilizado na modelagem da precipitação para cada mês do ano separadamente e praticamente não se conhece o comportamento do referido modelo quando aplicado de forma anual ou sazonal. Sendo assim, o objetivo deste trabalho foi quantificar a influência do conjunto de parâmetros do modelo Neyman-Scott do Pulso Retangular (NSPR) em relação às séries simuladas de chuva na duração sub-horária (5min), para os meses de inverno e verão comparativamente às séries históricas. Os dados de precipitação utilizados compreendem o período de 1982 a 2015. A partir dos registros pluviográficos foram obtidas as estatísticas das séries de precipitação dos meses de inverno e de verão para as durações de 5, 10, 15, 20, 30, 60, 120, 360, 720 e 1440min. As estatísticas estimadas foram a média, a variância, covariância e proporção de períodos secos. Com base nestas foram constituídas dezoito combinações estatísticas (A a R), com quatro repetições cada, referentes aos pesos atribuídos às estatísticas do modelo NSPR e restrições aplicadas aos cinco parâmetros durante a estimativa dos mesmos. As restrições foram obtidas a partir da análise de quinze tormentas das séries históricas para os meses de inverno e de verão. Sendo assim, as quatro repetições estudadas foram mescladas com as utilizadas por Cowpertwait et al., (1996) e as desenvolvidas por este estudo. Deste modo, setenta e duas combinações estatísticas foram analisadas para cada período, entretanto nem todas combinações conseguiram realizar a estimativa dos parâmetros. Os conjuntos de parâmetros ajustados para o inverno (47) e para o verão (62) foram utilizados para a simulação da chuva através do modelo, a qual foi realizada 1000 vezes para cada conjunto de parâmetros. As séries simuladas foram comparadas com as históricas do período do inverno e do verão, utilizando o erro relativo médio quadrático (RMSE), selecionando-se duas melhores combinações estatísticas para cada período analisado, comparandose as estatísticas históricas e simuladas, assim como visualmente através das séries históricas e simuladas nas durações de 5 e 1440min, comparando-se seus valores de precipitação máxima. Através da simulação do modelo verificou-se que as combinações estatísticas constituídas com os pesos e restrições elaborados por este estudo apresentaram melhores resultados, M2 e F2 para o inverno e N4 e M4 para o verão. O modelo NSPR foi incapaz de representar as características estatísticas da série temporal da precipitação histórica da cidade de Pelotas sazonalmente, representando apenas a média.The existence of precipitation time series in a given location has great importance for projects related to water resources, being necessary to know the precipitation series discretized over short durations (5mim). However, there are many difficulties in obtaining long series for precipitation data over short time durations. An alternative is using models allow stochastic simulation for precipitation data, which are calibrated based on statistics from historical precipitation data. One of the models that has been commonly applied in the precipitation simulation is the Neyman-Scott of the Rectangular Pulse, which is generally used in the modeling of the precipitation of each month of the year separately and practically the behavior of this one when applied annually or seasonal. Thus, the objective of this work was to quantify the influence of the set of parameters of the Neyman-Scott model of the Rectangular Pulse (NSPR) in relation to the simulated series of rain in the sub-hourly duration (5min), for the winter and summer months comparatively to historical series. The precipitation data used comprise the period from 1982 to 2015. From the pluviographic records, the statistics of the winter and summer precipitation series were obtained for the durations of 5, 10, 15, 20, 30, 60, 120, 360 , 720 and 1440min. The estimated statistics were the average, variance, covariance and proportion of dry periods. Based on these, eighteen statistical combinations (A to R) were constituted, with four repetitions each, referring to the weights attributed to the NSPR model statistics and restrictions applied to the five parameters during their estimation. The restrictions were obtained from the analysis of fifteen storms from the winter and summer time series. Thus, the four repetitions studied were merged with those used by Cowpertwait et al., (1996) and those developed by this study. Thus, seventy-two statistical combinations were analyzed for each period, however not all combinations were able to estimate the parameters. The sets of parameters adjusted for winter (47) and summer (62) were used to simulate rain through the model, which was performed 1000 times for each set of parameters. The simulated series were compared with the historical ones of the winter and summer period, using the Mean Square Relative Error (RMSE), selecting two best statistical combinations for each analyzed period, comparing the historical and simulated statistics, as well as visually. through historical and simulated series in durations of 5 and 1440min, comparing their values of maximum precipitation. Through the simulation of the model, it was verified that the statistical combinations constituted with the weights and restrictions elaborated by this study presented better results, M2 and F2 for the winter and N4 and M4 for the summer. The NSPR model was unable to represent the statistical characteristics of the time series of historical precipitation in the city of Pelotas seasonally, representing only the average.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior - CAPESporUniversidade Federal de PelotasPrograma de Pós-Graduação em Manejo e Conservação do Solo e da ÁguaUFPelBrasilFaculdade de Agronomia Eliseu MacielCNPQ::CIENCIAS AGRARIAS::AGRONOMIA::CIENCIA DO SOLO::MANEJO E CONSERVACAO DO SOLOModelagem estocásticaSazonaIidadeTormentas históricasCombinações estatísticasStochastic modelingSeasonalHistorical stormsStatistical combinationsAbordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária.Methodological approach in relation to the adjustment of the parameters of the Neyman-Scott Model of the Rectangular Pulse for simulating rain on a sub-hourly scaleinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesishttp://lattes.cnpq.br/6986096150872232http://lattes.cnpq.br/9421021176282511Teixeira-Gandra, Claudia Fernanda Almeidahttp://lattes.cnpq.br/0140129324988355Damé, Rita de Cássia FragaKarsburg, Roberta Machadoinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFPel - Guaiacainstname:Universidade Federal de Pelotas (UFPEL)instacron:UFPELTEXTTese_Roberta_Machado_Karsburg.pdf.txtTese_Roberta_Machado_Karsburg.pdf.txtExtracted texttext/plain251573http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/6/Tese_Roberta_Machado_Karsburg.pdf.txtab3a6e224e7c8d69b3b3afc928a2e72aMD56open accessTHUMBNAILTese_Roberta_Machado_Karsburg.pdf.jpgTese_Roberta_Machado_Karsburg.pdf.jpgGenerated Thumbnailimage/jpeg1249http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/7/Tese_Roberta_Machado_Karsburg.pdf.jpgf93bbc74882c48aab183c7299a1b85d4MD57open accessORIGINALTese_Roberta_Machado_Karsburg.pdfTese_Roberta_Machado_Karsburg.pdfapplication/pdf1512071http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/1/Tese_Roberta_Machado_Karsburg.pdfa83e7605d32d38e4509e2dd0e4335352MD51open accessCC-LICENSElicense_urllicense_urltext/plain; charset=utf-849http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/2/license_url924993ce0b3ba389f79f32a1b2735415MD52open accesslicense_textlicense_texttext/html; charset=utf-80http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/3/license_textd41d8cd98f00b204e9800998ecf8427eMD53open accesslicense_rdflicense_rdfapplication/rdf+xml; charset=utf-80http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/4/license_rdfd41d8cd98f00b204e9800998ecf8427eMD54open accessLICENSElicense.txtlicense.txttext/plain; charset=utf-867http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/5/license.txtfbd6c74465857056e3ca572d7586661bMD55open accessprefix/85362023-07-13 03:10:06.674open accessoai:guaiaca.ufpel.edu.br:prefix/8536VG9kb3Mgb3MgaXRlbnMgZGVzc2EgY29tdW5pZGFkZSBzZWd1ZW0gYSBsaWNlbsOnYSBDcmVhdGl2ZSBDb21tb25zLg==Repositório InstitucionalPUBhttp://repositorio.ufpel.edu.br/oai/requestrippel@ufpel.edu.br || repositorio@ufpel.edu.br || aline.batista@ufpel.edu.bropendoar:2023-07-13T06:10:06Repositório Institucional da UFPel - Guaiaca - Universidade Federal de Pelotas (UFPEL)false
dc.title.pt_BR.fl_str_mv Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária.
dc.title.alternative.pt_BR.fl_str_mv Methodological approach in relation to the adjustment of the parameters of the Neyman-Scott Model of the Rectangular Pulse for simulating rain on a sub-hourly scale
title Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária.
spellingShingle Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária.
Karsburg, Roberta Machado
CNPQ::CIENCIAS AGRARIAS::AGRONOMIA::CIENCIA DO SOLO::MANEJO E CONSERVACAO DO SOLO
Modelagem estocástica
SazonaIidade
Tormentas históricas
Combinações estatísticas
Stochastic modeling
Seasonal
Historical storms
Statistical combinations
title_short Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária.
title_full Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária.
title_fullStr Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária.
title_full_unstemmed Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária.
title_sort Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária.
author Karsburg, Roberta Machado
author_facet Karsburg, Roberta Machado
author_role author
dc.contributor.authorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/6986096150872232
dc.contributor.advisorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/9421021176282511
dc.contributor.advisor-co1.fl_str_mv Teixeira-Gandra, Claudia Fernanda Almeida
dc.contributor.advisor-co1Lattes.fl_str_mv http://lattes.cnpq.br/0140129324988355
dc.contributor.advisor1.fl_str_mv Damé, Rita de Cássia Fraga
dc.contributor.author.fl_str_mv Karsburg, Roberta Machado
contributor_str_mv Teixeira-Gandra, Claudia Fernanda Almeida
Damé, Rita de Cássia Fraga
dc.subject.cnpq.fl_str_mv CNPQ::CIENCIAS AGRARIAS::AGRONOMIA::CIENCIA DO SOLO::MANEJO E CONSERVACAO DO SOLO
topic CNPQ::CIENCIAS AGRARIAS::AGRONOMIA::CIENCIA DO SOLO::MANEJO E CONSERVACAO DO SOLO
Modelagem estocástica
SazonaIidade
Tormentas históricas
Combinações estatísticas
Stochastic modeling
Seasonal
Historical storms
Statistical combinations
dc.subject.por.fl_str_mv Modelagem estocástica
SazonaIidade
Tormentas históricas
Combinações estatísticas
Stochastic modeling
Seasonal
Historical storms
Statistical combinations
description A existência de séries temporais de precipitação de uma determinada localidade apresenta grande importância para os projetos relacionados aos recursos hídricos, sendo muitas vezes necessário o acesso às séries de precipitações discretizadas em pequenas durações (5min). Entretanto, existem muitas dificuldades na obtenção de séries longas de dados de precipitação discretizadas em pequenas durações. Uma alternativa é o uso de modelos que permitam a simulação estocástica da precipitação, os quais são calibrados com base em estatísticas dos dados históricos de precipitação. Um dos modelos comumente aplicado na simulação da precipitação é o Neyman-Scott do Pulso Retangular. Esse geralmente é utilizado na modelagem da precipitação para cada mês do ano separadamente e praticamente não se conhece o comportamento do referido modelo quando aplicado de forma anual ou sazonal. Sendo assim, o objetivo deste trabalho foi quantificar a influência do conjunto de parâmetros do modelo Neyman-Scott do Pulso Retangular (NSPR) em relação às séries simuladas de chuva na duração sub-horária (5min), para os meses de inverno e verão comparativamente às séries históricas. Os dados de precipitação utilizados compreendem o período de 1982 a 2015. A partir dos registros pluviográficos foram obtidas as estatísticas das séries de precipitação dos meses de inverno e de verão para as durações de 5, 10, 15, 20, 30, 60, 120, 360, 720 e 1440min. As estatísticas estimadas foram a média, a variância, covariância e proporção de períodos secos. Com base nestas foram constituídas dezoito combinações estatísticas (A a R), com quatro repetições cada, referentes aos pesos atribuídos às estatísticas do modelo NSPR e restrições aplicadas aos cinco parâmetros durante a estimativa dos mesmos. As restrições foram obtidas a partir da análise de quinze tormentas das séries históricas para os meses de inverno e de verão. Sendo assim, as quatro repetições estudadas foram mescladas com as utilizadas por Cowpertwait et al., (1996) e as desenvolvidas por este estudo. Deste modo, setenta e duas combinações estatísticas foram analisadas para cada período, entretanto nem todas combinações conseguiram realizar a estimativa dos parâmetros. Os conjuntos de parâmetros ajustados para o inverno (47) e para o verão (62) foram utilizados para a simulação da chuva através do modelo, a qual foi realizada 1000 vezes para cada conjunto de parâmetros. As séries simuladas foram comparadas com as históricas do período do inverno e do verão, utilizando o erro relativo médio quadrático (RMSE), selecionando-se duas melhores combinações estatísticas para cada período analisado, comparandose as estatísticas históricas e simuladas, assim como visualmente através das séries históricas e simuladas nas durações de 5 e 1440min, comparando-se seus valores de precipitação máxima. Através da simulação do modelo verificou-se que as combinações estatísticas constituídas com os pesos e restrições elaborados por este estudo apresentaram melhores resultados, M2 e F2 para o inverno e N4 e M4 para o verão. O modelo NSPR foi incapaz de representar as características estatísticas da série temporal da precipitação histórica da cidade de Pelotas sazonalmente, representando apenas a média.
publishDate 2020
dc.date.issued.fl_str_mv 2020-10-05
dc.date.accessioned.fl_str_mv 2022-07-28T14:14:03Z
dc.date.available.fl_str_mv 2022-07
2022-07-28T14:14:03Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv KARSBURG, Roberta Machado. Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária. Orientadora: Rita de Cássia Fraga Damé. 2020. 137 f. Tese (Doutorado em Ciências) – Programa de Pós-Graduação em Manejo e Conservação do Solo e da Água, Universidade Federal de Pelotas, Pelotas, 2020.
dc.identifier.uri.fl_str_mv http://guaiaca.ufpel.edu.br/handle/prefix/8536
identifier_str_mv KARSBURG, Roberta Machado. Abordagem metodológica em relação ao ajuste dos parâmetros do Modelo Neyman-Scott do Pulso Retangular para simulação da chuva em escala sub-horária. Orientadora: Rita de Cássia Fraga Damé. 2020. 137 f. Tese (Doutorado em Ciências) – Programa de Pós-Graduação em Manejo e Conservação do Solo e da Água, Universidade Federal de Pelotas, Pelotas, 2020.
url http://guaiaca.ufpel.edu.br/handle/prefix/8536
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal de Pelotas
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Manejo e Conservação do Solo e da Água
dc.publisher.initials.fl_str_mv UFPel
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv Faculdade de Agronomia Eliseu Maciel
publisher.none.fl_str_mv Universidade Federal de Pelotas
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFPel - Guaiaca
instname:Universidade Federal de Pelotas (UFPEL)
instacron:UFPEL
instname_str Universidade Federal de Pelotas (UFPEL)
instacron_str UFPEL
institution UFPEL
reponame_str Repositório Institucional da UFPel - Guaiaca
collection Repositório Institucional da UFPel - Guaiaca
bitstream.url.fl_str_mv http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/6/Tese_Roberta_Machado_Karsburg.pdf.txt
http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/7/Tese_Roberta_Machado_Karsburg.pdf.jpg
http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/1/Tese_Roberta_Machado_Karsburg.pdf
http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/2/license_url
http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/3/license_text
http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/4/license_rdf
http://guaiaca.ufpel.edu.br/xmlui/bitstream/prefix/8536/5/license.txt
bitstream.checksum.fl_str_mv ab3a6e224e7c8d69b3b3afc928a2e72a
f93bbc74882c48aab183c7299a1b85d4
a83e7605d32d38e4509e2dd0e4335352
924993ce0b3ba389f79f32a1b2735415
d41d8cd98f00b204e9800998ecf8427e
d41d8cd98f00b204e9800998ecf8427e
fbd6c74465857056e3ca572d7586661b
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
MD5
MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFPel - Guaiaca - Universidade Federal de Pelotas (UFPEL)
repository.mail.fl_str_mv rippel@ufpel.edu.br || repositorio@ufpel.edu.br || aline.batista@ufpel.edu.br
_version_ 1813710077242114048