Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos

Detalhes bibliográficos
Autor(a) principal: Louzada, João Marcos
Data de Publicação: 2006
Outros Autores: Bearzoti, Eduardo, Carvalho, Dulcinéia de
Tipo de documento: Artigo
Idioma: por
Título da fonte: Repositório Institucional da UFLA
Texto Completo: http://www.scielo.br/scielo.php?script=sci_arttext&pid=S1413-70542006000200003
http://repositorio.ufla.br/jspui/handle/1/6188
Resumo: Moran's I index is the usual tool to measure the intensity of the spatial autocorrelation in genetic markers data. I statistics is asymptotically normally distributed and it may be evaluated as standard normal deviations (assumption-N, normality). However, for small numbers of populations (m<8), the Mantel' s randomness test (assumption-R) developed by Mantel (1967) should be applied. Thus, this study was done to evaluate the performance of both tests accordding to type I error rate sand their power. They were evaluated via Monte Carlo simulation, in which, the situations of average allelic frequencies, {p=0,1, p=0,25 and p=0,5} were analyzed under H0. Number for populations varying from {m= 5, 10, 25 and 50}were taken into account and for each population, the number of individuals in {n=1, 2, 5, 10 and 30} was varied as well. As regards to the alternative hypothesis (with spatial pattern), in addition to these same situations simulated in H0, the behavior of these criteria of tests was evaluated according to the variation of the amplitude in the average local allelic frequency in {A=0,1; 0,2; 0,5; 0,8 e 1,0}. Therefore, the performance of the test studied could be analyzed as the degree of variability of the average frequencies generated on a linear surface, related to the geographic space and by means of it's different slopes. The normal approximation was considered better withpopulations as combined with the weighing systems inverse of the distance and inverse of the distance squared in both levels of significance 1% and 5%. The same should not be applied associated with the nearest neighbor weighing. With , Mantel's test should be applied in any of the situations simulated.
id UFLA_84780a8191864059d518d20906b5b3d6
oai_identifier_str oai:localhost:1/6188
network_acronym_str UFLA
network_name_str Repositório Institucional da UFLA
repository_id_str
spelling Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticosEvaluation and application of tests for the detection of spatial autocorrelation using data genetics marksAutocorrelação espacialSimulação Monte CarloI de MoranFreqüências alélicasTeste de MantelSpatial autocorrelationMonte Carlo simulationMoran's IAllelic frequenciesMantel's testMoran's I index is the usual tool to measure the intensity of the spatial autocorrelation in genetic markers data. I statistics is asymptotically normally distributed and it may be evaluated as standard normal deviations (assumption-N, normality). However, for small numbers of populations (m<8), the Mantel' s randomness test (assumption-R) developed by Mantel (1967) should be applied. Thus, this study was done to evaluate the performance of both tests accordding to type I error rate sand their power. They were evaluated via Monte Carlo simulation, in which, the situations of average allelic frequencies, {p=0,1, p=0,25 and p=0,5} were analyzed under H0. Number for populations varying from {m= 5, 10, 25 and 50}were taken into account and for each population, the number of individuals in {n=1, 2, 5, 10 and 30} was varied as well. As regards to the alternative hypothesis (with spatial pattern), in addition to these same situations simulated in H0, the behavior of these criteria of tests was evaluated according to the variation of the amplitude in the average local allelic frequency in {A=0,1; 0,2; 0,5; 0,8 e 1,0}. Therefore, the performance of the test studied could be analyzed as the degree of variability of the average frequencies generated on a linear surface, related to the geographic space and by means of it's different slopes. The normal approximation was considered better withpopulations as combined with the weighing systems inverse of the distance and inverse of the distance squared in both levels of significance 1% and 5%. The same should not be applied associated with the nearest neighbor weighing. With , Mantel's test should be applied in any of the situations simulated.O índice I de Moran é a ferramenta usual para se medir a intensidade da autocorrelação espacial em dados de marcadores genéticos. A estatística I é assintoticamente normalmente distribuída, podendo ser avaliada como desvios da normal padrão mediante o suposto-N (aproximação normal). Porém, para pequenos números de populações (m<8), deve-se aplicar o teste de aleatorização de Mantel (suposto-R), desenvolvido por Mantel (1967). Assim, por meio do presente estudo, buscou-se avaliar o desempenho de ambos os testes no que tange às taxas de erro tipo I e o poder dos mesmos. Estes foram avaliados via simulação de Monte Carlo, em que analisaram-se, sob a H0, as situações {p=0,1, p=0,25 e p=0,5} de freqüências alélicas médias, para as quais consideraram-se os números {m = 5, 10, 25 e 50} de populações, sendo que variou-se, para cada população, o número de indivíduos em {n=1, 2, 5 e 10}. Em relação à hipótese alternativa (com padrão espacial), além das mesmas situações simuladas em H0, avaliou-se o comportamento destes critérios de testes segundo a variação da amplitude na freqüência alélica média local em {A=0,1; 0,2; 0,5; 0,8 e 1,0}. Desta forma, pôde-se analisar a performance dos testes em questão quanto ao grau de variabilidade das freqüências alélicas médias geradas sobre uma superfície linear, em função do espaço geográfico, por meio de diferentes inclinações da mesma. O teste da aproximação normal foi considerado melhor com {m<10} populações, quando combinado com as ponderações inverso da distância e inverso da distância ao quadrado, em ambos os níveis de significância, 1% e 5%. Porém, o mesmo não deve ser aplicado associado com a ponderação vizinho mais próximo. Com {m>25}, deve-se aplicar o teste de Mantel em qualquer das situações simuladas.Editora da Universidade Federal de Lavras2006-04-012015-04-30T13:33:43Z2015-04-30T13:33:43Z2015-04-30info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/articletext/htmlhttp://www.scielo.br/scielo.php?script=sci_arttext&pid=S1413-70542006000200003LOUZADA, J. M.; BEARZOTI, E.; CARVALHO, D. de. Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos. Ciência e Agrotecnologia, Lavras, v. 30, n. 2, p. 206-213, mar./abr. 2005.http://repositorio.ufla.br/jspui/handle/1/6188Ciência e Agrotecnologia v.30 n.2 2006reponame:Repositório Institucional da UFLAinstname:Universidade Federal de Lavras (UFLA)instacron:UFLALouzada, João MarcosBearzoti, EduardoCarvalho, Dulcinéia deporinfo:eu-repo/semantics/openAccess2016-03-21T11:31:33Zoai:localhost:1/6188Repositório InstitucionalPUBhttp://repositorio.ufla.br/oai/requestnivaldo@ufla.br || repositorio.biblioteca@ufla.bropendoar:2016-03-21T11:31:33Repositório Institucional da UFLA - Universidade Federal de Lavras (UFLA)false
dc.title.none.fl_str_mv Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos
Evaluation and application of tests for the detection of spatial autocorrelation using data genetics marks
title Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos
spellingShingle Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos
Louzada, João Marcos
Autocorrelação espacial
Simulação Monte Carlo
I de Moran
Freqüências alélicas
Teste de Mantel
Spatial autocorrelation
Monte Carlo simulation
Moran's I
Allelic frequencies
Mantel's test
title_short Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos
title_full Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos
title_fullStr Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos
title_full_unstemmed Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos
title_sort Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos
author Louzada, João Marcos
author_facet Louzada, João Marcos
Bearzoti, Eduardo
Carvalho, Dulcinéia de
author_role author
author2 Bearzoti, Eduardo
Carvalho, Dulcinéia de
author2_role author
author
dc.contributor.author.fl_str_mv Louzada, João Marcos
Bearzoti, Eduardo
Carvalho, Dulcinéia de
dc.subject.por.fl_str_mv Autocorrelação espacial
Simulação Monte Carlo
I de Moran
Freqüências alélicas
Teste de Mantel
Spatial autocorrelation
Monte Carlo simulation
Moran's I
Allelic frequencies
Mantel's test
topic Autocorrelação espacial
Simulação Monte Carlo
I de Moran
Freqüências alélicas
Teste de Mantel
Spatial autocorrelation
Monte Carlo simulation
Moran's I
Allelic frequencies
Mantel's test
description Moran's I index is the usual tool to measure the intensity of the spatial autocorrelation in genetic markers data. I statistics is asymptotically normally distributed and it may be evaluated as standard normal deviations (assumption-N, normality). However, for small numbers of populations (m<8), the Mantel' s randomness test (assumption-R) developed by Mantel (1967) should be applied. Thus, this study was done to evaluate the performance of both tests accordding to type I error rate sand their power. They were evaluated via Monte Carlo simulation, in which, the situations of average allelic frequencies, {p=0,1, p=0,25 and p=0,5} were analyzed under H0. Number for populations varying from {m= 5, 10, 25 and 50}were taken into account and for each population, the number of individuals in {n=1, 2, 5, 10 and 30} was varied as well. As regards to the alternative hypothesis (with spatial pattern), in addition to these same situations simulated in H0, the behavior of these criteria of tests was evaluated according to the variation of the amplitude in the average local allelic frequency in {A=0,1; 0,2; 0,5; 0,8 e 1,0}. Therefore, the performance of the test studied could be analyzed as the degree of variability of the average frequencies generated on a linear surface, related to the geographic space and by means of it's different slopes. The normal approximation was considered better withpopulations as combined with the weighing systems inverse of the distance and inverse of the distance squared in both levels of significance 1% and 5%. The same should not be applied associated with the nearest neighbor weighing. With , Mantel's test should be applied in any of the situations simulated.
publishDate 2006
dc.date.none.fl_str_mv 2006-04-01
2015-04-30T13:33:43Z
2015-04-30T13:33:43Z
2015-04-30
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/article
format article
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://www.scielo.br/scielo.php?script=sci_arttext&pid=S1413-70542006000200003
LOUZADA, J. M.; BEARZOTI, E.; CARVALHO, D. de. Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos. Ciência e Agrotecnologia, Lavras, v. 30, n. 2, p. 206-213, mar./abr. 2005.
http://repositorio.ufla.br/jspui/handle/1/6188
url http://www.scielo.br/scielo.php?script=sci_arttext&pid=S1413-70542006000200003
http://repositorio.ufla.br/jspui/handle/1/6188
identifier_str_mv LOUZADA, J. M.; BEARZOTI, E.; CARVALHO, D. de. Avaliação e aplicação de testes para a detecção da autocorrelação espacial usando marcadores genéticos. Ciência e Agrotecnologia, Lavras, v. 30, n. 2, p. 206-213, mar./abr. 2005.
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv text/html
dc.publisher.none.fl_str_mv Editora da Universidade Federal de Lavras
publisher.none.fl_str_mv Editora da Universidade Federal de Lavras
dc.source.none.fl_str_mv Ciência e Agrotecnologia v.30 n.2 2006
reponame:Repositório Institucional da UFLA
instname:Universidade Federal de Lavras (UFLA)
instacron:UFLA
instname_str Universidade Federal de Lavras (UFLA)
instacron_str UFLA
institution UFLA
reponame_str Repositório Institucional da UFLA
collection Repositório Institucional da UFLA
repository.name.fl_str_mv Repositório Institucional da UFLA - Universidade Federal de Lavras (UFLA)
repository.mail.fl_str_mv nivaldo@ufla.br || repositorio.biblioteca@ufla.br
_version_ 1815439050021011456