Modelo de regressão bi-segmentado descontínuo com erros de medida aplicado na análise de estabilidade de cultivares

Detalhes bibliográficos
Autor(a) principal: Storck, Lindolfo
Data de Publicação: 1989
Tipo de documento: Tese
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da USP
Texto Completo: https://teses.usp.br/teses/disponiveis/11/11134/tde-20210104-180944/
Resumo: Neste estudo foi proposto o modelo bi-segmentado descontínuo para ser utilizado nas análises de estabilidade de plantas cultivadas. Este modelo foi definido como sendo: μ𝑖j = β0𝑖 + β1𝑖 τj + β2𝑖 τj Ζj + β3𝑖 + Ζj + δ 𝑖j, onde ʈj é o efeito do ambiente j; Zj=1 se τj > 0 e Zj=0 se τj ≤0; β1𝑖 e β1𝑖 + β2𝑗 são os coeficientes angulares dos dois segmentos e β3𝑖 é o parâmetro de descontinuidade para o cultivar 𝑖 e δ𝑖j é o desvio do modelo. Considerando este modelo foram, então, identificados e estimados os componentes de variância e covariância dos erros das variáveis independentes e dependentes e, por isto, foi deduzida uma correção para a estimação dos parâmetros e para os testes de hipóteses. Um grupo de experimentos com milho foi analisado, pelo modelo proposto, com e sem as correções deduzidas e, também, foram simulados e analisados (com e sem as correções) 1000 grupos de experimentos para cada uma das 17 caracterizações planejadas. A análise dos dados reais e dos dados simulados permitiram concluir que: o modelo proposto é eficiente no sentido de explicar a relação entre a produtividade de um cultivar e a variação ambiental e permite identificar melhor a posição relativa da resposta de um cultivar sobre uma curva de Gompertz; para uma mesma disponibilidade de unidades experimentais, deve-se preferir usar o menor número de repetições compatível com uma boa estimativa das médias e o maior número possível de ambientes; para um dado número de ambientes, a sua escolha deve de forma tal que seus valores ambientais sejam eqüidistantes e com a maior amplitude de variação possível; cultivares com maior variância de desvios do modelo dificilmente terão rejeitadas suas hipóteses, sobre os parâmetros do modelo; experimentos com menor erro experimental e/ou menor variância de blocos levam a uma análise de estabilidade mais precisa e com maior poder dos testes; e, a correção deduzida tem maior efeito quando a variância do erro e/ou blocos for grande e quando for pequeno o número de blocos ou de repetições (≤4, no caso), ambientes (≤15, no caso) e cultivares (≤27, no caso).
id USP_654d296b23548319c1b02bc4a92a7422
oai_identifier_str oai:teses.usp.br:tde-20210104-180944
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str 2721
spelling Modelo de regressão bi-segmentado descontínuo com erros de medida aplicado na análise de estabilidade de cultivaresA descontinuous bi-segmented regression model with measurement errors applied to the analysis of crop stabilityANÁLISE ESTATÍSTICAESTABILIDADEMILHOMODELOS DE REGRESSÃOVARIEDADES VEGETAISNeste estudo foi proposto o modelo bi-segmentado descontínuo para ser utilizado nas análises de estabilidade de plantas cultivadas. Este modelo foi definido como sendo: μ𝑖j = β0𝑖 + β1𝑖 τj + β2𝑖 τj Ζj + β3𝑖 + Ζj + δ 𝑖j, onde ʈj é o efeito do ambiente j; Zj=1 se τj > 0 e Zj=0 se τj ≤0; β1𝑖 e β1𝑖 + β2𝑗 são os coeficientes angulares dos dois segmentos e β3𝑖 é o parâmetro de descontinuidade para o cultivar 𝑖 e δ𝑖j é o desvio do modelo. Considerando este modelo foram, então, identificados e estimados os componentes de variância e covariância dos erros das variáveis independentes e dependentes e, por isto, foi deduzida uma correção para a estimação dos parâmetros e para os testes de hipóteses. Um grupo de experimentos com milho foi analisado, pelo modelo proposto, com e sem as correções deduzidas e, também, foram simulados e analisados (com e sem as correções) 1000 grupos de experimentos para cada uma das 17 caracterizações planejadas. A análise dos dados reais e dos dados simulados permitiram concluir que: o modelo proposto é eficiente no sentido de explicar a relação entre a produtividade de um cultivar e a variação ambiental e permite identificar melhor a posição relativa da resposta de um cultivar sobre uma curva de Gompertz; para uma mesma disponibilidade de unidades experimentais, deve-se preferir usar o menor número de repetições compatível com uma boa estimativa das médias e o maior número possível de ambientes; para um dado número de ambientes, a sua escolha deve de forma tal que seus valores ambientais sejam eqüidistantes e com a maior amplitude de variação possível; cultivares com maior variância de desvios do modelo dificilmente terão rejeitadas suas hipóteses, sobre os parâmetros do modelo; experimentos com menor erro experimental e/ou menor variância de blocos levam a uma análise de estabilidade mais precisa e com maior poder dos testes; e, a correção deduzida tem maior efeito quando a variância do erro e/ou blocos for grande e quando for pequeno o número de blocos ou de repetições (≤4, no caso), ambientes (≤15, no caso) e cultivares (≤27, no caso).In this study a descontinuous bi-segmented linear model, to be used in the phenotypic stability analysis of crops, was proposed. The model was defined as μ𝑖j = β0𝑖 + β1𝑖 τj + β2𝑖 τj Ζj + β3𝑖 + Ζj + δ 𝑖j, where ʈj is the jth environmental effect, Zj=1 if τj > 0 and Zj=0 if τj ≤0; β1𝑖 and β1𝑖 + β2𝑖 are the angular coefficients of the two segments and β3𝑖 is a discontinuity parameter, for 𝑖 variety; and δ𝑖j is the deviation from the model. With this model under consideration, the error variance and covariance between the independent and dependent variables were identified and estimated. Corrections necessary for the estimation of the parameters and testing of hypotheses were subsequently developed. A group of corn grain yield experiments was analysed by the proposed model, with and without the obtained corrections, as well as 1000 groups of simulated experiments for each one of the 17 different planned characterizations. Based on the analysis of the real and simulated data the major findings were as follows: the proposed model is efficient to explain the relations between the crop yields and the environmental variability and allows the identification of the relative response position from a crop variety with reference to a Gompertz growth curve; for any available number of experimental units, the best strategy is to choose the smallest number of replications/environment and to take the largest number of environments; for a given number of environments, their choice should be as large in variation as possible and also equidistant; varieties with a larger deviation from the model will have the null hypothesis on the parameters rejected with more difficulty; experiments with a smaller experimental error and/or smaller block variance provides more precision and a higher power of the tests in the stability analysis; the obtained corrections have more effect upon estimates and tests of hypothesis when the experimental error variance and/or the block variance are large and associated with a small number of blocks (≤4, in this case), of environments (≤15, in this case) and of varieties (≤27, in this case).Biblioteca Digitais de Teses e Dissertações da USPVencovsky, RolandStorck, Lindolfo1989-12-20info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfhttps://teses.usp.br/teses/disponiveis/11/11134/tde-20210104-180944/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesspor2021-01-07T22:47:23Zoai:teses.usp.br:tde-20210104-180944Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212021-01-07T22:47:23Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv Modelo de regressão bi-segmentado descontínuo com erros de medida aplicado na análise de estabilidade de cultivares
A descontinuous bi-segmented regression model with measurement errors applied to the analysis of crop stability
title Modelo de regressão bi-segmentado descontínuo com erros de medida aplicado na análise de estabilidade de cultivares
spellingShingle Modelo de regressão bi-segmentado descontínuo com erros de medida aplicado na análise de estabilidade de cultivares
Storck, Lindolfo
ANÁLISE ESTATÍSTICA
ESTABILIDADE
MILHO
MODELOS DE REGRESSÃO
VARIEDADES VEGETAIS
title_short Modelo de regressão bi-segmentado descontínuo com erros de medida aplicado na análise de estabilidade de cultivares
title_full Modelo de regressão bi-segmentado descontínuo com erros de medida aplicado na análise de estabilidade de cultivares
title_fullStr Modelo de regressão bi-segmentado descontínuo com erros de medida aplicado na análise de estabilidade de cultivares
title_full_unstemmed Modelo de regressão bi-segmentado descontínuo com erros de medida aplicado na análise de estabilidade de cultivares
title_sort Modelo de regressão bi-segmentado descontínuo com erros de medida aplicado na análise de estabilidade de cultivares
author Storck, Lindolfo
author_facet Storck, Lindolfo
author_role author
dc.contributor.none.fl_str_mv Vencovsky, Roland
dc.contributor.author.fl_str_mv Storck, Lindolfo
dc.subject.none.fl_str_mv
dc.subject.por.fl_str_mv ANÁLISE ESTATÍSTICA
ESTABILIDADE
MILHO
MODELOS DE REGRESSÃO
VARIEDADES VEGETAIS
topic ANÁLISE ESTATÍSTICA
ESTABILIDADE
MILHO
MODELOS DE REGRESSÃO
VARIEDADES VEGETAIS
description Neste estudo foi proposto o modelo bi-segmentado descontínuo para ser utilizado nas análises de estabilidade de plantas cultivadas. Este modelo foi definido como sendo: μ𝑖j = β0𝑖 + β1𝑖 τj + β2𝑖 τj Ζj + β3𝑖 + Ζj + δ 𝑖j, onde ʈj é o efeito do ambiente j; Zj=1 se τj > 0 e Zj=0 se τj ≤0; β1𝑖 e β1𝑖 + β2𝑗 são os coeficientes angulares dos dois segmentos e β3𝑖 é o parâmetro de descontinuidade para o cultivar 𝑖 e δ𝑖j é o desvio do modelo. Considerando este modelo foram, então, identificados e estimados os componentes de variância e covariância dos erros das variáveis independentes e dependentes e, por isto, foi deduzida uma correção para a estimação dos parâmetros e para os testes de hipóteses. Um grupo de experimentos com milho foi analisado, pelo modelo proposto, com e sem as correções deduzidas e, também, foram simulados e analisados (com e sem as correções) 1000 grupos de experimentos para cada uma das 17 caracterizações planejadas. A análise dos dados reais e dos dados simulados permitiram concluir que: o modelo proposto é eficiente no sentido de explicar a relação entre a produtividade de um cultivar e a variação ambiental e permite identificar melhor a posição relativa da resposta de um cultivar sobre uma curva de Gompertz; para uma mesma disponibilidade de unidades experimentais, deve-se preferir usar o menor número de repetições compatível com uma boa estimativa das médias e o maior número possível de ambientes; para um dado número de ambientes, a sua escolha deve de forma tal que seus valores ambientais sejam eqüidistantes e com a maior amplitude de variação possível; cultivares com maior variância de desvios do modelo dificilmente terão rejeitadas suas hipóteses, sobre os parâmetros do modelo; experimentos com menor erro experimental e/ou menor variância de blocos levam a uma análise de estabilidade mais precisa e com maior poder dos testes; e, a correção deduzida tem maior efeito quando a variância do erro e/ou blocos for grande e quando for pequeno o número de blocos ou de repetições (≤4, no caso), ambientes (≤15, no caso) e cultivares (≤27, no caso).
publishDate 1989
dc.date.none.fl_str_mv 1989-12-20
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://teses.usp.br/teses/disponiveis/11/11134/tde-20210104-180944/
url https://teses.usp.br/teses/disponiveis/11/11134/tde-20210104-180944/
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1809090923357798400