Modelos lineares mistos para explicar a variabilidade espacial na análise conjunta de experimentos agronômicos

Detalhes bibliográficos
Autor(a) principal: Dessotti, Cássio
Data de Publicação: 2014
Tipo de documento: Tese
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da USP
Texto Completo: http://www.teses.usp.br/teses/disponiveis/11/11134/tde-10112014-095654/
Resumo: O objetivo deste trabalho foi avaliar a incorporação de funções geoestatísticas na matriz de variâncias e covariâncias residual no estudo de modelos lineares mistos a partir de um grupo de quatro experimentos de cana-de-açúcar, conduzidos na Guatemala nos seguintes locais: fazenda Limones - usina açucareira Pantaleón (LP), fazenda Bálsamo - usina açucareira Pantaleón (BP), área 1 da fazenda Limones - usina Madre Tierra (MT1) e área 2 da fazenda Limones - usina Madre Tierra (MT2). A variável resposta de interesse foi a produção de cana-de-açúcar por hectare, o delineamento utilizado nos quatro locais foi o casualizado em blocos, com cinco repetições e os mesmos seis tratamentos referentes a diferentes dosagens de um biorregulador (estimulante de crescimento). Em princípio, foram ajustados e comparados diversos modelos alternando-se o efeito de blocos, ora considerado fixo, ora aleatório, e a estrutura da matriz de variâncias e covariâncias (R), segundo os modelos exponencial, gaussiano e esférico. Estes modelos foram comparados, e os que admitem estruturas de dependência espacial se destacaram estatisticamente como os melhores, a partir do critério de Akaike (AIC), sendo então selecionados os modelos BFExp (blocos de efeito fixo e função exponencial na matriz R) e BAExpH (blocos de efeito aleatório, função exponencial para R e variâncias diferentes entre os locais). A seguir, foi realizada a estimação dos efeitos fixos e a predição dos efeitos aleatórios por meio do método da máxima verossimilhança restrita (REML) pois esta metodologia proporciona um menor viés para suas estimativas. As análises conjuntas nos dois modelos selecionados não apresentaram interação tratamentos versus locais, nem mesmo efeito de tratamentos significativos, não sendo aconselhado o desdobramento desta interação. O efeito de locais por sua vez, foi significativo apenas no modelo BAExpH, e detectou-se neste caso a superioridade do local BP em relação aos demais. Adicionalmente, os locais foram analisados individualmente, focando a comparação dos modelos e as análises de variâncias, contudo, assim como na análise conjunta, nos modelos escolhidos para cada local, os efeitos de tratamentos também não foram significativos. Gráficos de resíduos foram construídos e representaram bons ajustes para os modelos BFExp e BAExpH para descrever os dados deste grupo de experimentos. Por fim, foi realizado um estudo de simulação cujos resultados deram mais credibilidade e suporte para a importância e relevância de se verificar, por meio de comparações, a necessidade de uso de um modelo mais elaborado, que considere a possível existência de dependência espacial entre as observações.
id USP_e3beaa8c4c4fcfea7270a7723dfac079
oai_identifier_str oai:teses.usp.br:tde-10112014-095654
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str 2721
spelling Modelos lineares mistos para explicar a variabilidade espacial na análise conjunta de experimentos agronômicosLinear mixed models to explain the spatial variability in joint analysis from agronomical essaysAnálise de grupos de experimentosAnálise de variânciaAnalysis of varianceJoint analysis from agronomical essaysLinear mixed modelsModelos lineares mistosProdução de cana-de-açúcarSpatial variabilitySugar cane productionVariabilidade espacialO objetivo deste trabalho foi avaliar a incorporação de funções geoestatísticas na matriz de variâncias e covariâncias residual no estudo de modelos lineares mistos a partir de um grupo de quatro experimentos de cana-de-açúcar, conduzidos na Guatemala nos seguintes locais: fazenda Limones - usina açucareira Pantaleón (LP), fazenda Bálsamo - usina açucareira Pantaleón (BP), área 1 da fazenda Limones - usina Madre Tierra (MT1) e área 2 da fazenda Limones - usina Madre Tierra (MT2). A variável resposta de interesse foi a produção de cana-de-açúcar por hectare, o delineamento utilizado nos quatro locais foi o casualizado em blocos, com cinco repetições e os mesmos seis tratamentos referentes a diferentes dosagens de um biorregulador (estimulante de crescimento). Em princípio, foram ajustados e comparados diversos modelos alternando-se o efeito de blocos, ora considerado fixo, ora aleatório, e a estrutura da matriz de variâncias e covariâncias (R), segundo os modelos exponencial, gaussiano e esférico. Estes modelos foram comparados, e os que admitem estruturas de dependência espacial se destacaram estatisticamente como os melhores, a partir do critério de Akaike (AIC), sendo então selecionados os modelos BFExp (blocos de efeito fixo e função exponencial na matriz R) e BAExpH (blocos de efeito aleatório, função exponencial para R e variâncias diferentes entre os locais). A seguir, foi realizada a estimação dos efeitos fixos e a predição dos efeitos aleatórios por meio do método da máxima verossimilhança restrita (REML) pois esta metodologia proporciona um menor viés para suas estimativas. As análises conjuntas nos dois modelos selecionados não apresentaram interação tratamentos versus locais, nem mesmo efeito de tratamentos significativos, não sendo aconselhado o desdobramento desta interação. O efeito de locais por sua vez, foi significativo apenas no modelo BAExpH, e detectou-se neste caso a superioridade do local BP em relação aos demais. Adicionalmente, os locais foram analisados individualmente, focando a comparação dos modelos e as análises de variâncias, contudo, assim como na análise conjunta, nos modelos escolhidos para cada local, os efeitos de tratamentos também não foram significativos. Gráficos de resíduos foram construídos e representaram bons ajustes para os modelos BFExp e BAExpH para descrever os dados deste grupo de experimentos. Por fim, foi realizado um estudo de simulação cujos resultados deram mais credibilidade e suporte para a importância e relevância de se verificar, por meio de comparações, a necessidade de uso de um modelo mais elaborado, que considere a possível existência de dependência espacial entre as observações.The aim of this research was to evaluate the incorporation of geostatistical functions in the residual variances and covariances matrix in linear mixed models in a group of four experiments cane sugar conducted in four sites of Guatemala: farm Limones - Pantaleon sugar mill (LP), farm Bálsamo - Pantaleon sugar mill (BP), area 1 of the farm Limones - sugar mill Madre Tierra (MT1) and area 2 of the farm Limones - sugar mill Madre Tierra (MT2). Production of sugar cane was the interest variable analyzed at all locations, using the randomized block design with five replications and the same six treatments related to different doses of a plant growth regulator. Initially the models were adjusted and compared with alternating the blocks effect, sometimes considered fixed, sometimes random, and the structure of the variance and covariance matrix (R) according to the exponential, gaussian and spherical models. The models were compared, and, among them, those with spatial dependence structures stood out as the best statistically from the Akaike information criterion (AIC), and the selected modelos were the BFExp model (block as fixed effect and exponential function to R) and the BAExpH model (block as random effect, exponential function to R and different variances among the sites). After that, the estimation of fixed effects and prediction of random effects using the restricted maximum likelihood method (REML) were done, since this methodology provides a lower bias to their estimates. The joint analysis of both selected models showed no interaction between treatments and locals, even significant effect of treatments, not being advised the unfolding of this interaction. The effect of local was significant only in the BAExpH model, and detected in this case the superiority of the local BP in relation to the others. Additionally, individual sites were examined similarly to the previous case, through comparison of models and analysis of variance, however, treatment effects weren\'t significant too. Residual plots were constructed and represented satisfactory fit of the models to describe the data in all cases studied. Finally, a simulation study showed results with more credibility and support for the importance and relevance of verifying, through comparisons, the need to use a more structured model that considers the possible existence of spatial dependence among observations.Biblioteca Digitais de Teses e Dissertações da USPPiedade, Sonia Maria de StefanoDessotti, Cássio2014-08-27info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfhttp://www.teses.usp.br/teses/disponiveis/11/11134/tde-10112014-095654/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesspor2016-07-28T16:11:55Zoai:teses.usp.br:tde-10112014-095654Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212016-07-28T16:11:55Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv Modelos lineares mistos para explicar a variabilidade espacial na análise conjunta de experimentos agronômicos
Linear mixed models to explain the spatial variability in joint analysis from agronomical essays
title Modelos lineares mistos para explicar a variabilidade espacial na análise conjunta de experimentos agronômicos
spellingShingle Modelos lineares mistos para explicar a variabilidade espacial na análise conjunta de experimentos agronômicos
Dessotti, Cássio
Análise de grupos de experimentos
Análise de variância
Analysis of variance
Joint analysis from agronomical essays
Linear mixed models
Modelos lineares mistos
Produção de cana-de-açúcar
Spatial variability
Sugar cane production
Variabilidade espacial
title_short Modelos lineares mistos para explicar a variabilidade espacial na análise conjunta de experimentos agronômicos
title_full Modelos lineares mistos para explicar a variabilidade espacial na análise conjunta de experimentos agronômicos
title_fullStr Modelos lineares mistos para explicar a variabilidade espacial na análise conjunta de experimentos agronômicos
title_full_unstemmed Modelos lineares mistos para explicar a variabilidade espacial na análise conjunta de experimentos agronômicos
title_sort Modelos lineares mistos para explicar a variabilidade espacial na análise conjunta de experimentos agronômicos
author Dessotti, Cássio
author_facet Dessotti, Cássio
author_role author
dc.contributor.none.fl_str_mv Piedade, Sonia Maria de Stefano
dc.contributor.author.fl_str_mv Dessotti, Cássio
dc.subject.por.fl_str_mv Análise de grupos de experimentos
Análise de variância
Analysis of variance
Joint analysis from agronomical essays
Linear mixed models
Modelos lineares mistos
Produção de cana-de-açúcar
Spatial variability
Sugar cane production
Variabilidade espacial
topic Análise de grupos de experimentos
Análise de variância
Analysis of variance
Joint analysis from agronomical essays
Linear mixed models
Modelos lineares mistos
Produção de cana-de-açúcar
Spatial variability
Sugar cane production
Variabilidade espacial
description O objetivo deste trabalho foi avaliar a incorporação de funções geoestatísticas na matriz de variâncias e covariâncias residual no estudo de modelos lineares mistos a partir de um grupo de quatro experimentos de cana-de-açúcar, conduzidos na Guatemala nos seguintes locais: fazenda Limones - usina açucareira Pantaleón (LP), fazenda Bálsamo - usina açucareira Pantaleón (BP), área 1 da fazenda Limones - usina Madre Tierra (MT1) e área 2 da fazenda Limones - usina Madre Tierra (MT2). A variável resposta de interesse foi a produção de cana-de-açúcar por hectare, o delineamento utilizado nos quatro locais foi o casualizado em blocos, com cinco repetições e os mesmos seis tratamentos referentes a diferentes dosagens de um biorregulador (estimulante de crescimento). Em princípio, foram ajustados e comparados diversos modelos alternando-se o efeito de blocos, ora considerado fixo, ora aleatório, e a estrutura da matriz de variâncias e covariâncias (R), segundo os modelos exponencial, gaussiano e esférico. Estes modelos foram comparados, e os que admitem estruturas de dependência espacial se destacaram estatisticamente como os melhores, a partir do critério de Akaike (AIC), sendo então selecionados os modelos BFExp (blocos de efeito fixo e função exponencial na matriz R) e BAExpH (blocos de efeito aleatório, função exponencial para R e variâncias diferentes entre os locais). A seguir, foi realizada a estimação dos efeitos fixos e a predição dos efeitos aleatórios por meio do método da máxima verossimilhança restrita (REML) pois esta metodologia proporciona um menor viés para suas estimativas. As análises conjuntas nos dois modelos selecionados não apresentaram interação tratamentos versus locais, nem mesmo efeito de tratamentos significativos, não sendo aconselhado o desdobramento desta interação. O efeito de locais por sua vez, foi significativo apenas no modelo BAExpH, e detectou-se neste caso a superioridade do local BP em relação aos demais. Adicionalmente, os locais foram analisados individualmente, focando a comparação dos modelos e as análises de variâncias, contudo, assim como na análise conjunta, nos modelos escolhidos para cada local, os efeitos de tratamentos também não foram significativos. Gráficos de resíduos foram construídos e representaram bons ajustes para os modelos BFExp e BAExpH para descrever os dados deste grupo de experimentos. Por fim, foi realizado um estudo de simulação cujos resultados deram mais credibilidade e suporte para a importância e relevância de se verificar, por meio de comparações, a necessidade de uso de um modelo mais elaborado, que considere a possível existência de dependência espacial entre as observações.
publishDate 2014
dc.date.none.fl_str_mv 2014-08-27
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://www.teses.usp.br/teses/disponiveis/11/11134/tde-10112014-095654/
url http://www.teses.usp.br/teses/disponiveis/11/11134/tde-10112014-095654/
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1809090595166093312