Efeitos da violação da suposição de independência na análise de variância do modelo linear de Gauss-Markov com um e dois fatores

Detalhes bibliográficos
Autor(a) principal: Baida, Luiz Carlos
Data de Publicação: 1990
Tipo de documento: Tese
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da USP
Texto Completo: https://teses.usp.br/teses/disponiveis/11/11134/tde-20210104-171218/
Resumo: Neste trabalho apresenta-se um estudo das implicações induzidas pela violação da pressuposição da independência sobre as probabilidades dos erros tipos I e II, inerentes às hipóteses clássicas dos experimentos com um e dois fatores , analisados sob a estrutura padrão dos modelos lineares de Gauss-Markov. Para tal, tomam-se como ponto de partida os trabalhos de PERES (1985) e de SCARIANO e DAVENPORT (1987), que mostram tais implicações em modelos com um fator fixo e balanceado, segundo um caso simples de equicorrelação, ao nível nominal de significância 0,05. Uma extensão desse trabalho para o caso não balanceado é feita segundo a equicorrelação já considerada. Estudam-se também tais implicações para modelos com um fator aleatório. Para modelos com dois fatores fixos e balanceados, estudam-se três casos de equicorrelação, enquanto que para modelos mistos, dois casos são estudados. Tabelas das probabilidades dos erros tipos I e II, para cada caso de equicorrelação e para configuração do modelo estudado, são construídas, tornando possível avaliar o viés ao nível nominal de significância 0,05. Dentre outras observações, pode-se notar que a magnitude do erro cometido é diretamente proporcional à magnitude do coeficiente de correlação intraclasse, ao tamanho das amostras e ao número de níveis dos fatores envolvidos no planejamento. Ademais, para cada caso de equicorrelação e modelo estudado, procurou-se uma solução alternativa que possibilitasse efetuar os testes das hipóteses principais, sem viés nas probabilidades dos erros tipos I e II, através de uma análise de variância univariada usual. Esse procedimento alternativo foi obtido através de uma modificação no planejamento, considerando-se “b” repetições independentes entre si, acarretando a inclusão do fator aleatório “repetição” no modelo. Para os casos em que tal procedimento apresentou resultados favoráveis, foram aqui relacionados, em caso contrário, não o foram. Para o cálculo das probabilidades dos erros tipo II, utilizou-se a aproximação da distribuição F não central para a F central, igualando seus três primeiros momentos, conforme sugerido em TIKU (1965). O cálculo definitivo dessas probabilidades foi feito através da transformação da F central para a função Beta incompleta, e do emprego das sub-rotinas envolvidas neste cálculo, dadas em Fortran e em Pascal por PRESS et alli (1986).
id USP_7bd051b280a74e5a258a18dd1ef4203a
oai_identifier_str oai:teses.usp.br:tde-20210104-171218
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str 2721
spelling Efeitos da violação da suposição de independência na análise de variância do modelo linear de Gauss-Markov com um e dois fatoresThe effects of violation of Independence assumption in the variance analysis of Gauss-Markvov’s linear model with one and two factorsANÁLISE DE VARIÂNCIADELINEAMENTO EXPERIMENTALMODELO LINEAR DE GAUSS-MARKOVNeste trabalho apresenta-se um estudo das implicações induzidas pela violação da pressuposição da independência sobre as probabilidades dos erros tipos I e II, inerentes às hipóteses clássicas dos experimentos com um e dois fatores , analisados sob a estrutura padrão dos modelos lineares de Gauss-Markov. Para tal, tomam-se como ponto de partida os trabalhos de PERES (1985) e de SCARIANO e DAVENPORT (1987), que mostram tais implicações em modelos com um fator fixo e balanceado, segundo um caso simples de equicorrelação, ao nível nominal de significância 0,05. Uma extensão desse trabalho para o caso não balanceado é feita segundo a equicorrelação já considerada. Estudam-se também tais implicações para modelos com um fator aleatório. Para modelos com dois fatores fixos e balanceados, estudam-se três casos de equicorrelação, enquanto que para modelos mistos, dois casos são estudados. Tabelas das probabilidades dos erros tipos I e II, para cada caso de equicorrelação e para configuração do modelo estudado, são construídas, tornando possível avaliar o viés ao nível nominal de significância 0,05. Dentre outras observações, pode-se notar que a magnitude do erro cometido é diretamente proporcional à magnitude do coeficiente de correlação intraclasse, ao tamanho das amostras e ao número de níveis dos fatores envolvidos no planejamento. Ademais, para cada caso de equicorrelação e modelo estudado, procurou-se uma solução alternativa que possibilitasse efetuar os testes das hipóteses principais, sem viés nas probabilidades dos erros tipos I e II, através de uma análise de variância univariada usual. Esse procedimento alternativo foi obtido através de uma modificação no planejamento, considerando-se “b” repetições independentes entre si, acarretando a inclusão do fator aleatório “repetição” no modelo. Para os casos em que tal procedimento apresentou resultados favoráveis, foram aqui relacionados, em caso contrário, não o foram. Para o cálculo das probabilidades dos erros tipo II, utilizou-se a aproximação da distribuição F não central para a F central, igualando seus três primeiros momentos, conforme sugerido em TIKU (1965). O cálculo definitivo dessas probabilidades foi feito através da transformação da F central para a função Beta incompleta, e do emprego das sub-rotinas envolvidas neste cálculo, dadas em Fortran e em Pascal por PRESS et alli (1986).This is a study of the implications induced by the violation of the independence assumptions on types I and II errors probabilities inherent to the classical hypotheses of the experiments with one and two factors, analyzed under the standard structure of Gauss-Markov’s linear models. For this purpose, PERES (1985) and SCARIANO & DAVENPORT (1987) were taken as starting points; they show these effects for models with on fixed and balanced factor according to a simple case of equicorrelation at the nominal level of significance 0,05. An extension of this work to the unbalanced case is given according to the already considered equicorrelation . Such effects are also studied for models with one randon and balanced factor. For models with two fixed and balanced factors, up to three equicorrelation cases are studied, whereas for mixed models two cases are studied. Tables of types I and II error probabilities, for each equicorrelation case and for each studied model, are given to show the bias of such probabilities at the 0,05 nominal significance level. Among other observations it can be noticed that the magnitude of the error is directly proportional to the magnitude of the intraclass correlation coefficient, to the size of the samples and to the number of levels involved at the design. For each case equicorrelation and model studied, an alternative solution was also sought so that tests could be performed for the main hypotheses, without any bias in the probabilities of types I and II errors through an usual analysis of univaried variance. This alternative procedure occurs through a modification of the design, considering “b” as experimental replication independent among themselves, entailing the inclusion of the randon factor “replicas” in the model. Only the cases in which this procedure presented results were hereby listed. For the calculus of type II error probabilities the approximation of noncentral F to central F was used , equaling their first three moments, as given by TIKU (1965). The definitive calculus of these probabilities is done through the transformation of central F into the incomplete Beta function and through the use of the sub-routines involved in this calculus as given in Fortran and Pascal by PRESS et alli (1986).Biblioteca Digitais de Teses e Dissertações da USPIemma, Antonio FranciscoBaida, Luiz Carlos1990-03-20info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfhttps://teses.usp.br/teses/disponiveis/11/11134/tde-20210104-171218/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesspor2021-01-07T22:42:23Zoai:teses.usp.br:tde-20210104-171218Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212021-01-07T22:42:23Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv Efeitos da violação da suposição de independência na análise de variância do modelo linear de Gauss-Markov com um e dois fatores
The effects of violation of Independence assumption in the variance analysis of Gauss-Markvov’s linear model with one and two factors
title Efeitos da violação da suposição de independência na análise de variância do modelo linear de Gauss-Markov com um e dois fatores
spellingShingle Efeitos da violação da suposição de independência na análise de variância do modelo linear de Gauss-Markov com um e dois fatores
Baida, Luiz Carlos
ANÁLISE DE VARIÂNCIA
DELINEAMENTO EXPERIMENTAL
MODELO LINEAR DE GAUSS-MARKOV
title_short Efeitos da violação da suposição de independência na análise de variância do modelo linear de Gauss-Markov com um e dois fatores
title_full Efeitos da violação da suposição de independência na análise de variância do modelo linear de Gauss-Markov com um e dois fatores
title_fullStr Efeitos da violação da suposição de independência na análise de variância do modelo linear de Gauss-Markov com um e dois fatores
title_full_unstemmed Efeitos da violação da suposição de independência na análise de variância do modelo linear de Gauss-Markov com um e dois fatores
title_sort Efeitos da violação da suposição de independência na análise de variância do modelo linear de Gauss-Markov com um e dois fatores
author Baida, Luiz Carlos
author_facet Baida, Luiz Carlos
author_role author
dc.contributor.none.fl_str_mv Iemma, Antonio Francisco
dc.contributor.author.fl_str_mv Baida, Luiz Carlos
dc.subject.none.fl_str_mv
dc.subject.por.fl_str_mv ANÁLISE DE VARIÂNCIA
DELINEAMENTO EXPERIMENTAL
MODELO LINEAR DE GAUSS-MARKOV
topic ANÁLISE DE VARIÂNCIA
DELINEAMENTO EXPERIMENTAL
MODELO LINEAR DE GAUSS-MARKOV
description Neste trabalho apresenta-se um estudo das implicações induzidas pela violação da pressuposição da independência sobre as probabilidades dos erros tipos I e II, inerentes às hipóteses clássicas dos experimentos com um e dois fatores , analisados sob a estrutura padrão dos modelos lineares de Gauss-Markov. Para tal, tomam-se como ponto de partida os trabalhos de PERES (1985) e de SCARIANO e DAVENPORT (1987), que mostram tais implicações em modelos com um fator fixo e balanceado, segundo um caso simples de equicorrelação, ao nível nominal de significância 0,05. Uma extensão desse trabalho para o caso não balanceado é feita segundo a equicorrelação já considerada. Estudam-se também tais implicações para modelos com um fator aleatório. Para modelos com dois fatores fixos e balanceados, estudam-se três casos de equicorrelação, enquanto que para modelos mistos, dois casos são estudados. Tabelas das probabilidades dos erros tipos I e II, para cada caso de equicorrelação e para configuração do modelo estudado, são construídas, tornando possível avaliar o viés ao nível nominal de significância 0,05. Dentre outras observações, pode-se notar que a magnitude do erro cometido é diretamente proporcional à magnitude do coeficiente de correlação intraclasse, ao tamanho das amostras e ao número de níveis dos fatores envolvidos no planejamento. Ademais, para cada caso de equicorrelação e modelo estudado, procurou-se uma solução alternativa que possibilitasse efetuar os testes das hipóteses principais, sem viés nas probabilidades dos erros tipos I e II, através de uma análise de variância univariada usual. Esse procedimento alternativo foi obtido através de uma modificação no planejamento, considerando-se “b” repetições independentes entre si, acarretando a inclusão do fator aleatório “repetição” no modelo. Para os casos em que tal procedimento apresentou resultados favoráveis, foram aqui relacionados, em caso contrário, não o foram. Para o cálculo das probabilidades dos erros tipo II, utilizou-se a aproximação da distribuição F não central para a F central, igualando seus três primeiros momentos, conforme sugerido em TIKU (1965). O cálculo definitivo dessas probabilidades foi feito através da transformação da F central para a função Beta incompleta, e do emprego das sub-rotinas envolvidas neste cálculo, dadas em Fortran e em Pascal por PRESS et alli (1986).
publishDate 1990
dc.date.none.fl_str_mv 1990-03-20
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://teses.usp.br/teses/disponiveis/11/11134/tde-20210104-171218/
url https://teses.usp.br/teses/disponiveis/11/11134/tde-20210104-171218/
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1815257204113014784