Fragilidade ambiental a escorregamentos rasos: análise comparativa entre modelos de bases heurística e estatística

Detalhes bibliográficos
Autor(a) principal: Bonini, José Eduardo
Data de Publicação: 2020
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da USP
Texto Completo: https://www.teses.usp.br/teses/disponiveis/8/8135/tde-16032021-114011/
Resumo: A identificação das áreas potencialmente instáveis é um dos primeiros passos para mitigar os riscos associados a escorregamentos rasos, podendo ser realizada por modelos quantitativos (estatísticos ou determinísticos) ou qualitativos (heurístico diretos e indiretos). No Brasil, o modelo da fragilidade ambiental foi aplicado em diversas áreas para identificação de áreas propensas a movimentos de massa e erosão linear, sendo similar a um modelo heurístico indireto de suscetibilidade. Modelos estatísticos como o modelo bivariado do Valor Informativo também foram aplicados para identificação de áreas instáveis no Brasil, porém menos quando comparados com os modelos qualitativos, entre eles o da fragilidade ambiental. Verifica-se uma lacuna nos trabalhos que aplicaram o modelo da fragilidade ambiental quanto à validação utilizando técnicas quantitativas. Assim, o objetivo desta pesquisa foi avaliar a fragilidade a escorregamentos a partir da comparação entre modelos de bases heurística e estatística, utilizando técnicas quantitativas de validação, tendo como área de estudo três bacias hidrográficas em São Luiz do Paraitinga (SP). Esta área foi afetada por 186 escorregamentos rasos durante precipitação intensa no verão de 2009-2010. Para tal, foram aplicados o modelo do Valor Informativo e o modelo heurístico da fragilidade ambiental, adaptado para considerar o Potencial de Escorregamento para atribuição dos pesos às variáveis. Os cenários foram comparados em duas etapas: 1) quantificação do desempenho e da capacidade preditiva (Taxas de Sucesso e Predição e Curvas ROC); e 2) avaliação da similaridade dos padrões espaciais de fragilidade ambiental (Kappa de Cohen). Os cenários do modelo do Valor Informativo foram integrados por meio de funções de sobreposição de mapas por valor de célula mediano, máximo e mínimo e comparados com o cenário de base heurística. Os principais fatores condicionantes foram o ângulo das vertentes, o Índice Topográfico de Umidade e o tipo de uso da terra. Ambos os modelos possuem qualidade similar, com valores de área abaixo da curva da Taxa de Sucesso e da curva ROC iguais ou superiores a 0.89, indicando qualidade entre boa e excelente. Apesar disso, os padrões espaciais dos mapas apresentaram diferença de até 64% na classificação, com maior acordo entre os modelos na classificação das áreas de fragilidade ambiental muito baixa e muito alta. Conclui-se que ambos os modelos são adequados para identificar áreas potencialmente instáveis a escorregamentos rasos, identificando de forma similar as áreas de fragilidade muito alta e muito baixa.
id USP_976c03393cc4e0511c8865e79ca14bcd
oai_identifier_str oai:teses.usp.br:tde-16032021-114011
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str 2721
spelling Fragilidade ambiental a escorregamentos rasos: análise comparativa entre modelos de bases heurística e estatísticaEnvironmental fragility to shallow landslides: comparative analysis between heuristic and statistical modelsEnvironmental Fragility Paraíba do Sul ValleyFragilidade AmbientalInformation ValueSusceptibilitySuscetibilidadeVale do Paraíba do SulValor InformativoA identificação das áreas potencialmente instáveis é um dos primeiros passos para mitigar os riscos associados a escorregamentos rasos, podendo ser realizada por modelos quantitativos (estatísticos ou determinísticos) ou qualitativos (heurístico diretos e indiretos). No Brasil, o modelo da fragilidade ambiental foi aplicado em diversas áreas para identificação de áreas propensas a movimentos de massa e erosão linear, sendo similar a um modelo heurístico indireto de suscetibilidade. Modelos estatísticos como o modelo bivariado do Valor Informativo também foram aplicados para identificação de áreas instáveis no Brasil, porém menos quando comparados com os modelos qualitativos, entre eles o da fragilidade ambiental. Verifica-se uma lacuna nos trabalhos que aplicaram o modelo da fragilidade ambiental quanto à validação utilizando técnicas quantitativas. Assim, o objetivo desta pesquisa foi avaliar a fragilidade a escorregamentos a partir da comparação entre modelos de bases heurística e estatística, utilizando técnicas quantitativas de validação, tendo como área de estudo três bacias hidrográficas em São Luiz do Paraitinga (SP). Esta área foi afetada por 186 escorregamentos rasos durante precipitação intensa no verão de 2009-2010. Para tal, foram aplicados o modelo do Valor Informativo e o modelo heurístico da fragilidade ambiental, adaptado para considerar o Potencial de Escorregamento para atribuição dos pesos às variáveis. Os cenários foram comparados em duas etapas: 1) quantificação do desempenho e da capacidade preditiva (Taxas de Sucesso e Predição e Curvas ROC); e 2) avaliação da similaridade dos padrões espaciais de fragilidade ambiental (Kappa de Cohen). Os cenários do modelo do Valor Informativo foram integrados por meio de funções de sobreposição de mapas por valor de célula mediano, máximo e mínimo e comparados com o cenário de base heurística. Os principais fatores condicionantes foram o ângulo das vertentes, o Índice Topográfico de Umidade e o tipo de uso da terra. Ambos os modelos possuem qualidade similar, com valores de área abaixo da curva da Taxa de Sucesso e da curva ROC iguais ou superiores a 0.89, indicando qualidade entre boa e excelente. Apesar disso, os padrões espaciais dos mapas apresentaram diferença de até 64% na classificação, com maior acordo entre os modelos na classificação das áreas de fragilidade ambiental muito baixa e muito alta. Conclui-se que ambos os modelos são adequados para identificar áreas potencialmente instáveis a escorregamentos rasos, identificando de forma similar as áreas de fragilidade muito alta e muito baixa.One of the first steps to mitigate risks associated with shallow landslides is the identification of potentially unstable areas, which can be performed using quantitative (deterministic or statistical) or qualitative (direct and indirect heuristic) models. In Brazil, the environmental fragility model has been applied in several areas for the identification of areas prone to landsliding and erosion, and can be considered similar to an indirect heuristic susceptibility model. Statistical models, such as the Information Value bivariate model, were also applied for the identification of areas prone to landsliding, but less when compared with qualitative models, including the environmental fragility model. There is a gap in the works that applied the environmental fragility model regarding validation using quantitative techniques. Thus, this research objective was to evaluate the environmental fragility to shallow landslides through the comparison of heuristic and statistical models, using quantitative validation techniques and in a study area comprising three drainage basins in São Luiz do Paraitinga (SP) municipality. This area was affected by 186 shallow landslides during intense rainsfall in the 2009-2010 summer. The Information Value model and he heuristic environmental fragility model were applied, adapting the last one to consider the Landslide Potential for the weight\'s assignment to each variable. The scenarios were compared in two steps: 1) performance and predictive capacity quantification (Success and Prediction Rates and ROC Curves); and 2) evaluation of the similarity of spatial patterns of environmental fragility (Cohen\'s Kappa). The scenarios produced with the Information Value model were integrated using map overlay functions based on the median, maximum and minimum cell values and then compared with the scenario obtained using the heuristic model. The main conditioning factors were slope, Topographic Wetness Index and land use. Both models have similar quality, with values of Success Rates and area under the ROC curve equal to or higher than 0.89, indicating good to excellent performance. However, the maps have a difference of classification up to 64%, with higher agreement on the very low and very high environmental fragility classes. We conclude thar both models are adequate for the identification of areas prone to shallow landslides, with higher levels of agreement for the very high and very low environmental fragility classes.Biblioteca Digitais de Teses e Dissertações da USPRoss, Jurandyr Luciano SanchesVieira, Bianca CarvalhoBonini, José Eduardo2020-11-19info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/8/8135/tde-16032021-114011/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesspor2021-03-16T19:08:05Zoai:teses.usp.br:tde-16032021-114011Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212021-03-16T19:08:05Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv Fragilidade ambiental a escorregamentos rasos: análise comparativa entre modelos de bases heurística e estatística
Environmental fragility to shallow landslides: comparative analysis between heuristic and statistical models
title Fragilidade ambiental a escorregamentos rasos: análise comparativa entre modelos de bases heurística e estatística
spellingShingle Fragilidade ambiental a escorregamentos rasos: análise comparativa entre modelos de bases heurística e estatística
Bonini, José Eduardo
Environmental Fragility Paraíba do Sul Valley
Fragilidade Ambiental
Information Value
Susceptibility
Suscetibilidade
Vale do Paraíba do Sul
Valor Informativo
title_short Fragilidade ambiental a escorregamentos rasos: análise comparativa entre modelos de bases heurística e estatística
title_full Fragilidade ambiental a escorregamentos rasos: análise comparativa entre modelos de bases heurística e estatística
title_fullStr Fragilidade ambiental a escorregamentos rasos: análise comparativa entre modelos de bases heurística e estatística
title_full_unstemmed Fragilidade ambiental a escorregamentos rasos: análise comparativa entre modelos de bases heurística e estatística
title_sort Fragilidade ambiental a escorregamentos rasos: análise comparativa entre modelos de bases heurística e estatística
author Bonini, José Eduardo
author_facet Bonini, José Eduardo
author_role author
dc.contributor.none.fl_str_mv Ross, Jurandyr Luciano Sanches
Vieira, Bianca Carvalho
dc.contributor.author.fl_str_mv Bonini, José Eduardo
dc.subject.por.fl_str_mv Environmental Fragility Paraíba do Sul Valley
Fragilidade Ambiental
Information Value
Susceptibility
Suscetibilidade
Vale do Paraíba do Sul
Valor Informativo
topic Environmental Fragility Paraíba do Sul Valley
Fragilidade Ambiental
Information Value
Susceptibility
Suscetibilidade
Vale do Paraíba do Sul
Valor Informativo
description A identificação das áreas potencialmente instáveis é um dos primeiros passos para mitigar os riscos associados a escorregamentos rasos, podendo ser realizada por modelos quantitativos (estatísticos ou determinísticos) ou qualitativos (heurístico diretos e indiretos). No Brasil, o modelo da fragilidade ambiental foi aplicado em diversas áreas para identificação de áreas propensas a movimentos de massa e erosão linear, sendo similar a um modelo heurístico indireto de suscetibilidade. Modelos estatísticos como o modelo bivariado do Valor Informativo também foram aplicados para identificação de áreas instáveis no Brasil, porém menos quando comparados com os modelos qualitativos, entre eles o da fragilidade ambiental. Verifica-se uma lacuna nos trabalhos que aplicaram o modelo da fragilidade ambiental quanto à validação utilizando técnicas quantitativas. Assim, o objetivo desta pesquisa foi avaliar a fragilidade a escorregamentos a partir da comparação entre modelos de bases heurística e estatística, utilizando técnicas quantitativas de validação, tendo como área de estudo três bacias hidrográficas em São Luiz do Paraitinga (SP). Esta área foi afetada por 186 escorregamentos rasos durante precipitação intensa no verão de 2009-2010. Para tal, foram aplicados o modelo do Valor Informativo e o modelo heurístico da fragilidade ambiental, adaptado para considerar o Potencial de Escorregamento para atribuição dos pesos às variáveis. Os cenários foram comparados em duas etapas: 1) quantificação do desempenho e da capacidade preditiva (Taxas de Sucesso e Predição e Curvas ROC); e 2) avaliação da similaridade dos padrões espaciais de fragilidade ambiental (Kappa de Cohen). Os cenários do modelo do Valor Informativo foram integrados por meio de funções de sobreposição de mapas por valor de célula mediano, máximo e mínimo e comparados com o cenário de base heurística. Os principais fatores condicionantes foram o ângulo das vertentes, o Índice Topográfico de Umidade e o tipo de uso da terra. Ambos os modelos possuem qualidade similar, com valores de área abaixo da curva da Taxa de Sucesso e da curva ROC iguais ou superiores a 0.89, indicando qualidade entre boa e excelente. Apesar disso, os padrões espaciais dos mapas apresentaram diferença de até 64% na classificação, com maior acordo entre os modelos na classificação das áreas de fragilidade ambiental muito baixa e muito alta. Conclui-se que ambos os modelos são adequados para identificar áreas potencialmente instáveis a escorregamentos rasos, identificando de forma similar as áreas de fragilidade muito alta e muito baixa.
publishDate 2020
dc.date.none.fl_str_mv 2020-11-19
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://www.teses.usp.br/teses/disponiveis/8/8135/tde-16032021-114011/
url https://www.teses.usp.br/teses/disponiveis/8/8135/tde-16032021-114011/
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1815257016429445120