Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica
Autor(a) principal: | |
---|---|
Data de Publicação: | 2014 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | LOCUS Repositório Institucional da UFV |
Texto Completo: | http://locus.ufv.br/handle/123456789/4076 |
Resumo: | In plant breeding, when the objective is to select or recommend genotypes to be planted, the study of the interaction between genotype and environment plays a important role. However, this kind of study does not provide detailed information on the behavior of each cultivar due to environmental variations. Thus become necessary to perform analyzes of stability and adaptability for identification and recommendation superior materials in different environments. Although the literature presents several methods for performing analysis of adaptability and stability, none of them take account of the presence of non-normal phenotype, in other words, phenotypic values asymmetric distributions or heavy tails. Thus, if there is the presence of such phenotypic values, the methods can be influenced and the recommendation may be mistaken, that is, the use of such methods cause inadequate estimates that do not reflect the true relationship between the variation environmental and phenotypic response. An interesting solution for treating this problem in a unified way, that is, the presence of outliers or asymmetry is to use the quantile regression (QR). Such methodology, besides the usual regression methods, using the conditional mean to explain the functional relationship between environmental variation and phenotypic response, makes use of conditional quantile functions. This way the QR possible to choose the quantile which best represents the functional relationship of interest in order to naturally cover the lack of normality cited above. Thus, this paper aims to present the methodology of quantile regression, through a detailed discussion of its theorical foundations, demonstrating it by concrete applications, its use in analysis of adaptability and stability, thus providing a easily and accessible material for readers interested in that subject, contributing researchers and those interested in this area. To the technic evaluation symmetric distributions phenotypic values, symmetric with outliers, right asymmetric, right asymmetric with outliers, left asymmetric and left asymmetric with outliers were simulated. Furthermore, we used data from an experiment on dry matter yield of 92 genotypes of alfalfa (Medicago sativa) evaluated in 20 environments. It is suggested that, for symmetrical phenotypic values should be determined if it has outlier, if it has a QR ( τ = 0,50 ) should be used, if not, should be used either Eberhart and Russell methodology (1966) or QR ( τ = 0,50 ). Since the phenotype is asymmetric, with or without the presence of outlier, it uses QR ( τ = 0,25 ) to right asymmetry and QR ( τ = 0,75) to the left asymmetry. According to the results the QR method was efficient for classifying alfalfa genotypes. |
id |
UFV_4cbbd8dbcf0006b316f547a79b6b7edd |
---|---|
oai_identifier_str |
oai:locus.ufv.br:123456789/4076 |
network_acronym_str |
UFV |
network_name_str |
LOCUS Repositório Institucional da UFV |
repository_id_str |
2145 |
spelling |
Barroso, Laís Mayara Azevedohttp://lattes.cnpq.br/8587813175766141Nascimento, Ana Carolina Campanahttp://lattes.cnpq.br/2348397234521519Cruz, Cosme Damiãohttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4788274A6Nascimento, Moyséshttp://lattes.cnpq.br/6544887498494945Silva, Fabyano Fonseca ehttp://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4766260Z22015-03-26T13:32:21Z2015-01-132015-03-26T13:32:21Z2014-02-17BARROSO, Laís Mayara Azevedo. Quantile regression in the evaluation of adaptability and phenotypic stability. 2014. 83 f. Dissertação (Mestrado em Estatística Aplicada e Biometria) - Universidade Federal de Viçosa, Viçosa, 2014.http://locus.ufv.br/handle/123456789/4076In plant breeding, when the objective is to select or recommend genotypes to be planted, the study of the interaction between genotype and environment plays a important role. However, this kind of study does not provide detailed information on the behavior of each cultivar due to environmental variations. Thus become necessary to perform analyzes of stability and adaptability for identification and recommendation superior materials in different environments. Although the literature presents several methods for performing analysis of adaptability and stability, none of them take account of the presence of non-normal phenotype, in other words, phenotypic values asymmetric distributions or heavy tails. Thus, if there is the presence of such phenotypic values, the methods can be influenced and the recommendation may be mistaken, that is, the use of such methods cause inadequate estimates that do not reflect the true relationship between the variation environmental and phenotypic response. An interesting solution for treating this problem in a unified way, that is, the presence of outliers or asymmetry is to use the quantile regression (QR). Such methodology, besides the usual regression methods, using the conditional mean to explain the functional relationship between environmental variation and phenotypic response, makes use of conditional quantile functions. This way the QR possible to choose the quantile which best represents the functional relationship of interest in order to naturally cover the lack of normality cited above. Thus, this paper aims to present the methodology of quantile regression, through a detailed discussion of its theorical foundations, demonstrating it by concrete applications, its use in analysis of adaptability and stability, thus providing a easily and accessible material for readers interested in that subject, contributing researchers and those interested in this area. To the technic evaluation symmetric distributions phenotypic values, symmetric with outliers, right asymmetric, right asymmetric with outliers, left asymmetric and left asymmetric with outliers were simulated. Furthermore, we used data from an experiment on dry matter yield of 92 genotypes of alfalfa (Medicago sativa) evaluated in 20 environments. It is suggested that, for symmetrical phenotypic values should be determined if it has outlier, if it has a QR ( τ = 0,50 ) should be used, if not, should be used either Eberhart and Russell methodology (1966) or QR ( τ = 0,50 ). Since the phenotype is asymmetric, with or without the presence of outlier, it uses QR ( τ = 0,25 ) to right asymmetry and QR ( τ = 0,75) to the left asymmetry. According to the results the QR method was efficient for classifying alfalfa genotypes.No melhoramento genético de plantas, quando o objetivo é selecionar ou recomendar genótipos para o plantio, o estudo da interação entre genótipo x ambiente é de extrema importância. Entretanto, tal estudo não fornece informações pormenorizadas sobre o comportamento de cada cultivar diante das variações ambientais. Assim, tornam-se necessárias as análises de adaptabilidade e de estabilidade para a identificação e recomendação de materiais superiores em diferentes ambientes. Embora a literatura apresente diversos métodos, para realização da análise de adaptabilidade e estabilidade, nenhum leva em consideração a presença de fenótipos não normais, ou seja, distribuições de valores fenótipos assimétricos ou com caudas pesadas. Desta forma, caso haja a presença desse tipo de valores fenotípicos, os métodos podem sofrer a influência de modo que a recomendação pode ser errônea, ou seja, o uso de tais métodos ocasionam estimativas inadequadas, que não refletem a verdadeira relação existente entre a variação ambiental e a resposta fenotípica. Uma solução interessante para tratar este problema de maneira unificada, isto é, a presença de pontos discrepantes ou assimetria, é a utilização de regressão quantílica (RQ). Tal metodologia, diferentemente dos métodos de regressão usuais, que utilizam a média condicional para explicar a relação funcional entre a variação ambiental e a resposta fenotípica, faz uso de funções quantílicas condicionais. Desta forma, a RQ possibilita escolher o quantil que melhor representa a relação funcional de interesse com o intuito de contemplar naturalmente a mencionada falta de normalidade. Desta forma, o presente trabalho tem como objetivo apresentar a metodologia de regressão quantílica, através de uma discussão detalhada de seus fundamentos teóricos, evidenciando, com aplicações concretas, seu uso em análise de adaptabilidade e estabilidade, fornecendo assim um material de fácil acesso para leitores interessados no assunto, contribuindo com pesquisadores e interessados nesta área. Para avaliação da técnica foram simulados valores fenotípicos, com distribuições simétrica, simétrica com outliers, assimétrica à direita, assimétrica à direita com outliers, assimétrica à esquerda e assimétrica à esquerda com outliers. Além disso, foram utilizados dados provenientes de um experimento sobre produção de matéria seca de 92 genótipos de alfafa (Medicago sativa) avaliados em 20 ambientes. Sugere-se que, para valores fenotípicos simétricos deve-se averiguar se este possui outlier, se sim é utilizada ou a regressão não paramétrica ou a RQ (τ = 0,50) , se não, se utiliza ou a metodologia de Eberhart e Russell (1966) ou a RQ (τ = 0,50) . Já se o fenótipo for assimétrico, com ou sem a presença de outlier, utiliza-se RQ (τ = 0,25) para assimetria a direita e RQ (τ = 0,75) para assimetria à esquerda. De acordo com os resultados encontrados a RQ foi eficiente para classificação de genótipos de alfafa.Coordenação de Aperfeiçoamento de Pessoal de Nível Superiorapplication/pdfporUniversidade Federal de ViçosaMestrado em Estatística Aplicada e BiometriaUFVBREstatística Aplicada e BiometriaAlfafa - Melhoramento genéticoInteração genótipo x ambientesAlfalfa - BreedingGenotype x Environment interactionCNPQ::CIENCIAS AGRARIASRegressão quantílica na avaliação da adaptabilidade e estabilidade fenotípicaQuantile regression in the evaluation of adaptability and phenotypic stabilityinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisinfo:eu-repo/semantics/openAccessreponame:LOCUS Repositório Institucional da UFVinstname:Universidade Federal de Viçosa (UFV)instacron:UFVORIGINALtexto completo.pdfapplication/pdf562430https://locus.ufv.br//bitstream/123456789/4076/1/texto%20completo.pdf182da810cb5c6524a339ad2ea7c37142MD51TEXTtexto completo.pdf.txttexto completo.pdf.txtExtracted texttext/plain122770https://locus.ufv.br//bitstream/123456789/4076/2/texto%20completo.pdf.txt66865c09187cdccade16656afbeed617MD52THUMBNAILtexto completo.pdf.jpgtexto completo.pdf.jpgIM Thumbnailimage/jpeg3654https://locus.ufv.br//bitstream/123456789/4076/3/texto%20completo.pdf.jpgec01f90774b592d98adabecc5535f604MD53123456789/40762016-04-09 23:18:24.808oai:locus.ufv.br:123456789/4076Repositório InstitucionalPUBhttps://www.locus.ufv.br/oai/requestfabiojreis@ufv.bropendoar:21452016-04-10T02:18:24LOCUS Repositório Institucional da UFV - Universidade Federal de Viçosa (UFV)false |
dc.title.por.fl_str_mv |
Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica |
dc.title.alternative.eng.fl_str_mv |
Quantile regression in the evaluation of adaptability and phenotypic stability |
title |
Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica |
spellingShingle |
Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica Barroso, Laís Mayara Azevedo Alfafa - Melhoramento genético Interação genótipo x ambientes Alfalfa - Breeding Genotype x Environment interaction CNPQ::CIENCIAS AGRARIAS |
title_short |
Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica |
title_full |
Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica |
title_fullStr |
Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica |
title_full_unstemmed |
Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica |
title_sort |
Regressão quantílica na avaliação da adaptabilidade e estabilidade fenotípica |
author |
Barroso, Laís Mayara Azevedo |
author_facet |
Barroso, Laís Mayara Azevedo |
author_role |
author |
dc.contributor.authorLattes.por.fl_str_mv |
http://lattes.cnpq.br/8587813175766141 |
dc.contributor.author.fl_str_mv |
Barroso, Laís Mayara Azevedo |
dc.contributor.advisor-co1.fl_str_mv |
Nascimento, Ana Carolina Campana |
dc.contributor.advisor-co1Lattes.fl_str_mv |
http://lattes.cnpq.br/2348397234521519 |
dc.contributor.advisor-co2.fl_str_mv |
Cruz, Cosme Damião |
dc.contributor.advisor-co2Lattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4788274A6 |
dc.contributor.advisor1.fl_str_mv |
Nascimento, Moysés |
dc.contributor.advisor1Lattes.fl_str_mv |
http://lattes.cnpq.br/6544887498494945 |
dc.contributor.referee1.fl_str_mv |
Silva, Fabyano Fonseca e |
dc.contributor.referee1Lattes.fl_str_mv |
http://buscatextual.cnpq.br/buscatextual/visualizacv.do?id=K4766260Z2 |
contributor_str_mv |
Nascimento, Ana Carolina Campana Cruz, Cosme Damião Nascimento, Moysés Silva, Fabyano Fonseca e |
dc.subject.por.fl_str_mv |
Alfafa - Melhoramento genético Interação genótipo x ambientes |
topic |
Alfafa - Melhoramento genético Interação genótipo x ambientes Alfalfa - Breeding Genotype x Environment interaction CNPQ::CIENCIAS AGRARIAS |
dc.subject.eng.fl_str_mv |
Alfalfa - Breeding Genotype x Environment interaction |
dc.subject.cnpq.fl_str_mv |
CNPQ::CIENCIAS AGRARIAS |
description |
In plant breeding, when the objective is to select or recommend genotypes to be planted, the study of the interaction between genotype and environment plays a important role. However, this kind of study does not provide detailed information on the behavior of each cultivar due to environmental variations. Thus become necessary to perform analyzes of stability and adaptability for identification and recommendation superior materials in different environments. Although the literature presents several methods for performing analysis of adaptability and stability, none of them take account of the presence of non-normal phenotype, in other words, phenotypic values asymmetric distributions or heavy tails. Thus, if there is the presence of such phenotypic values, the methods can be influenced and the recommendation may be mistaken, that is, the use of such methods cause inadequate estimates that do not reflect the true relationship between the variation environmental and phenotypic response. An interesting solution for treating this problem in a unified way, that is, the presence of outliers or asymmetry is to use the quantile regression (QR). Such methodology, besides the usual regression methods, using the conditional mean to explain the functional relationship between environmental variation and phenotypic response, makes use of conditional quantile functions. This way the QR possible to choose the quantile which best represents the functional relationship of interest in order to naturally cover the lack of normality cited above. Thus, this paper aims to present the methodology of quantile regression, through a detailed discussion of its theorical foundations, demonstrating it by concrete applications, its use in analysis of adaptability and stability, thus providing a easily and accessible material for readers interested in that subject, contributing researchers and those interested in this area. To the technic evaluation symmetric distributions phenotypic values, symmetric with outliers, right asymmetric, right asymmetric with outliers, left asymmetric and left asymmetric with outliers were simulated. Furthermore, we used data from an experiment on dry matter yield of 92 genotypes of alfalfa (Medicago sativa) evaluated in 20 environments. It is suggested that, for symmetrical phenotypic values should be determined if it has outlier, if it has a QR ( τ = 0,50 ) should be used, if not, should be used either Eberhart and Russell methodology (1966) or QR ( τ = 0,50 ). Since the phenotype is asymmetric, with or without the presence of outlier, it uses QR ( τ = 0,25 ) to right asymmetry and QR ( τ = 0,75) to the left asymmetry. According to the results the QR method was efficient for classifying alfalfa genotypes. |
publishDate |
2014 |
dc.date.issued.fl_str_mv |
2014-02-17 |
dc.date.accessioned.fl_str_mv |
2015-03-26T13:32:21Z |
dc.date.available.fl_str_mv |
2015-01-13 2015-03-26T13:32:21Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
BARROSO, Laís Mayara Azevedo. Quantile regression in the evaluation of adaptability and phenotypic stability. 2014. 83 f. Dissertação (Mestrado em Estatística Aplicada e Biometria) - Universidade Federal de Viçosa, Viçosa, 2014. |
dc.identifier.uri.fl_str_mv |
http://locus.ufv.br/handle/123456789/4076 |
identifier_str_mv |
BARROSO, Laís Mayara Azevedo. Quantile regression in the evaluation of adaptability and phenotypic stability. 2014. 83 f. Dissertação (Mestrado em Estatística Aplicada e Biometria) - Universidade Federal de Viçosa, Viçosa, 2014. |
url |
http://locus.ufv.br/handle/123456789/4076 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.publisher.none.fl_str_mv |
Universidade Federal de Viçosa |
dc.publisher.program.fl_str_mv |
Mestrado em Estatística Aplicada e Biometria |
dc.publisher.initials.fl_str_mv |
UFV |
dc.publisher.country.fl_str_mv |
BR |
dc.publisher.department.fl_str_mv |
Estatística Aplicada e Biometria |
publisher.none.fl_str_mv |
Universidade Federal de Viçosa |
dc.source.none.fl_str_mv |
reponame:LOCUS Repositório Institucional da UFV instname:Universidade Federal de Viçosa (UFV) instacron:UFV |
instname_str |
Universidade Federal de Viçosa (UFV) |
instacron_str |
UFV |
institution |
UFV |
reponame_str |
LOCUS Repositório Institucional da UFV |
collection |
LOCUS Repositório Institucional da UFV |
bitstream.url.fl_str_mv |
https://locus.ufv.br//bitstream/123456789/4076/1/texto%20completo.pdf https://locus.ufv.br//bitstream/123456789/4076/2/texto%20completo.pdf.txt https://locus.ufv.br//bitstream/123456789/4076/3/texto%20completo.pdf.jpg |
bitstream.checksum.fl_str_mv |
182da810cb5c6524a339ad2ea7c37142 66865c09187cdccade16656afbeed617 ec01f90774b592d98adabecc5535f604 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 |
repository.name.fl_str_mv |
LOCUS Repositório Institucional da UFV - Universidade Federal de Viçosa (UFV) |
repository.mail.fl_str_mv |
fabiojreis@ufv.br |
_version_ |
1801212892926705664 |