Estimation methods in heavy-tailed nonlinear mixed effects models

Detalhes bibliográficos
Autor(a) principal: Gomes, José Clelto Barros
Data de Publicação: 2019
Tipo de documento: Tese
Idioma: eng
Título da fonte: Biblioteca Digital de Teses e Dissertações da USP
Texto Completo: https://www.teses.usp.br/teses/disponiveis/104/104131/tde-20032020-171207/
Resumo: Parameter estimation in nonlinear mixed-effects models is often challenging. In this thesis, a comparison of estimation methods for these models is proposed under a frequentist approach. In the first study, a comparison of maximum likelihood estimates under an exact method via Monte Carlo expectation-maximization (MCEM) and an approximate method based on a Taylor expansion, frequently used in the literature, is provided. In a second study, a restricted maximum likelihood estimation method is proposed, aiming to decrease the bias for the variance components estimates, based on the integration of the likelihood function on the fixed-effects, also in an exact likelihood context. These estimates are compared to the maximum likelihood ones. For the latter comparison, stochastic approximation of expectation-maximization (SAEM) algorithms are considered. The random effects and errors are assumed to follow multivariate symmetric distributions, namely the scale mixture of normal distributions, which include the normal, t and slash distributions. Finally, a general nonlinear mixed-effects model is proposed, where no linear relation is assumed in the random effects structure. In all the proposals, real data sets and simulation studies are used to illustrate the estimates properties.
id USP_c3b4f4a56720900b524344dcf977093b
oai_identifier_str oai:teses.usp.br:tde-20032020-171207
network_acronym_str USP
network_name_str Biblioteca Digital de Teses e Dissertações da USP
repository_id_str 2721
spelling Estimation methods in heavy-tailed nonlinear mixed effects modelsMétodos de estimação em modelos de efeitos mistos não lineares de caudas pesadasCorrelated dataDados correlacionadosEstimation methodsMáxima verossimilhançaMáxima verossimilhança restritaMaximum likelihoodMétodos de estimaçãoMixed-effects modelsModelos mistosModelos não-linearesNonlinear modelsRestricted maximum likelihoodParameter estimation in nonlinear mixed-effects models is often challenging. In this thesis, a comparison of estimation methods for these models is proposed under a frequentist approach. In the first study, a comparison of maximum likelihood estimates under an exact method via Monte Carlo expectation-maximization (MCEM) and an approximate method based on a Taylor expansion, frequently used in the literature, is provided. In a second study, a restricted maximum likelihood estimation method is proposed, aiming to decrease the bias for the variance components estimates, based on the integration of the likelihood function on the fixed-effects, also in an exact likelihood context. These estimates are compared to the maximum likelihood ones. For the latter comparison, stochastic approximation of expectation-maximization (SAEM) algorithms are considered. The random effects and errors are assumed to follow multivariate symmetric distributions, namely the scale mixture of normal distributions, which include the normal, t and slash distributions. Finally, a general nonlinear mixed-effects model is proposed, where no linear relation is assumed in the random effects structure. In all the proposals, real data sets and simulation studies are used to illustrate the estimates properties.A estimação de parâmetros em modelos não lineares com efeitos mistos é muitas vezes desafiadora. Neste trabalho, propomos a comparação de alguns de métodos de estimação nesses modelos sob o enfoque frequentista. Em um primeiro momento, propomos um estimador de máxima verossimilhança em um esquema de estimação exata contra o estimador de máxima versossimilhança em um modelo linearizado pela expansão de Taylor, o que é frequentemente utilizado na literatura. No primeiro cenário usamos o algoritmo MCEM. Em um segundo momento, visando diminuir o viés para estimativas das componentes de variância, propomos um estimador de máxima verossimilhança restrita também dentro de um esquema de estimação exata, baseada na integração da função de verossimilhança em relação aos efeitos fixos. Esse estimador é comparado com o de máxima verossimilhança. Neste caso, usamos o algoritmo SAEM, para os dois métodos de estimação. Assume-se para os erros e efeitos aleatórios algumas distribuições simétricas multivariadas de escala de misturas de distribuições normais, que compõem a classe de distribuições de caudas pesadas, a saber: normal, t e slash. Por último propomos um modelo não linear mais flexível, em que não é assumida uma forma linear para a inclusão dos efeitos aleatórios. Em todos os casos utilizamos dados reais e estudos de simulação para avaliar as propriedades dos estimadores.Biblioteca Digitais de Teses e Dissertações da USPNovelli, Cibele Maria RussoGomes, José Clelto Barros2019-12-05info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdfhttps://www.teses.usp.br/teses/disponiveis/104/104131/tde-20032020-171207/reponame:Biblioteca Digital de Teses e Dissertações da USPinstname:Universidade de São Paulo (USP)instacron:USPLiberar o conteúdo para acesso público.info:eu-repo/semantics/openAccesseng2020-03-26T13:41:02Zoai:teses.usp.br:tde-20032020-171207Biblioteca Digital de Teses e Dissertaçõeshttp://www.teses.usp.br/PUBhttp://www.teses.usp.br/cgi-bin/mtd2br.plvirginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.bropendoar:27212020-03-26T13:41:02Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)false
dc.title.none.fl_str_mv Estimation methods in heavy-tailed nonlinear mixed effects models
Métodos de estimação em modelos de efeitos mistos não lineares de caudas pesadas
title Estimation methods in heavy-tailed nonlinear mixed effects models
spellingShingle Estimation methods in heavy-tailed nonlinear mixed effects models
Gomes, José Clelto Barros
Correlated data
Dados correlacionados
Estimation methods
Máxima verossimilhança
Máxima verossimilhança restrita
Maximum likelihood
Métodos de estimação
Mixed-effects models
Modelos mistos
Modelos não-lineares
Nonlinear models
Restricted maximum likelihood
title_short Estimation methods in heavy-tailed nonlinear mixed effects models
title_full Estimation methods in heavy-tailed nonlinear mixed effects models
title_fullStr Estimation methods in heavy-tailed nonlinear mixed effects models
title_full_unstemmed Estimation methods in heavy-tailed nonlinear mixed effects models
title_sort Estimation methods in heavy-tailed nonlinear mixed effects models
author Gomes, José Clelto Barros
author_facet Gomes, José Clelto Barros
author_role author
dc.contributor.none.fl_str_mv Novelli, Cibele Maria Russo
dc.contributor.author.fl_str_mv Gomes, José Clelto Barros
dc.subject.por.fl_str_mv Correlated data
Dados correlacionados
Estimation methods
Máxima verossimilhança
Máxima verossimilhança restrita
Maximum likelihood
Métodos de estimação
Mixed-effects models
Modelos mistos
Modelos não-lineares
Nonlinear models
Restricted maximum likelihood
topic Correlated data
Dados correlacionados
Estimation methods
Máxima verossimilhança
Máxima verossimilhança restrita
Maximum likelihood
Métodos de estimação
Mixed-effects models
Modelos mistos
Modelos não-lineares
Nonlinear models
Restricted maximum likelihood
description Parameter estimation in nonlinear mixed-effects models is often challenging. In this thesis, a comparison of estimation methods for these models is proposed under a frequentist approach. In the first study, a comparison of maximum likelihood estimates under an exact method via Monte Carlo expectation-maximization (MCEM) and an approximate method based on a Taylor expansion, frequently used in the literature, is provided. In a second study, a restricted maximum likelihood estimation method is proposed, aiming to decrease the bias for the variance components estimates, based on the integration of the likelihood function on the fixed-effects, also in an exact likelihood context. These estimates are compared to the maximum likelihood ones. For the latter comparison, stochastic approximation of expectation-maximization (SAEM) algorithms are considered. The random effects and errors are assumed to follow multivariate symmetric distributions, namely the scale mixture of normal distributions, which include the normal, t and slash distributions. Finally, a general nonlinear mixed-effects model is proposed, where no linear relation is assumed in the random effects structure. In all the proposals, real data sets and simulation studies are used to illustrate the estimates properties.
publishDate 2019
dc.date.none.fl_str_mv 2019-12-05
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://www.teses.usp.br/teses/disponiveis/104/104131/tde-20032020-171207/
url https://www.teses.usp.br/teses/disponiveis/104/104131/tde-20032020-171207/
dc.language.iso.fl_str_mv eng
language eng
dc.relation.none.fl_str_mv
dc.rights.driver.fl_str_mv Liberar o conteúdo para acesso público.
info:eu-repo/semantics/openAccess
rights_invalid_str_mv Liberar o conteúdo para acesso público.
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.coverage.none.fl_str_mv
dc.publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
publisher.none.fl_str_mv Biblioteca Digitais de Teses e Dissertações da USP
dc.source.none.fl_str_mv
reponame:Biblioteca Digital de Teses e Dissertações da USP
instname:Universidade de São Paulo (USP)
instacron:USP
instname_str Universidade de São Paulo (USP)
instacron_str USP
institution USP
reponame_str Biblioteca Digital de Teses e Dissertações da USP
collection Biblioteca Digital de Teses e Dissertações da USP
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da USP - Universidade de São Paulo (USP)
repository.mail.fl_str_mv virginia@if.usp.br|| atendimento@aguia.usp.br||virginia@if.usp.br
_version_ 1815257151404244992