A tutorial on variational methods for machine learning

Detalhes bibliográficos
Autor(a) principal: Cinelli, Lucas Pinheiro
Data de Publicação: 2019
Tipo de documento: Dissertação
Idioma: eng
Título da fonte: Repositório Institucional da UFRJ
Texto Completo: http://hdl.handle.net/11422/20697
Resumo: In this work, we present a tutorial on deep generative models, specically Varia- tional Autoencoders (VAE) and deep Bayesian Neural Networks (BNN). In spite of being apparently distinct, both themes are intimately connected through the pro- babilistic view of machine leaning. Therefore, we describe approximate inference methods since exact approaches are only adequate in very limited conditions in which the computation time remains feasible. We discuss modern extensions to such methods, capable of adequately sca- ling to models with millions of parameters and equally large data sets. Furthermore, we illustrate their relevance in each chapter through applications using (deep) neural networks.
id UFRJ_c3f68cb85818b960b14fa4aa5e2e6f18
oai_identifier_str oai:pantheon.ufrj.br:11422/20697
network_acronym_str UFRJ
network_name_str Repositório Institucional da UFRJ
repository_id_str
spelling A tutorial on variational methods for machine learningModelos generativosCodificador automático variacionalRedes neurais BayesianasInferência aproximadaInferência variacionalPropagação da expectativaCNPQ::ENGENHARIAS::ENGENHARIA ELETRICAIn this work, we present a tutorial on deep generative models, specically Varia- tional Autoencoders (VAE) and deep Bayesian Neural Networks (BNN). In spite of being apparently distinct, both themes are intimately connected through the pro- babilistic view of machine leaning. Therefore, we describe approximate inference methods since exact approaches are only adequate in very limited conditions in which the computation time remains feasible. We discuss modern extensions to such methods, capable of adequately sca- ling to models with millions of parameters and equally large data sets. Furthermore, we illustrate their relevance in each chapter through applications using (deep) neural networks.Apresenta-se, nesta dissertação, um tutorial sobre modelos generativos profundos, especicamente autocodicadores variacionais (Variational Autoeconders VAE) e redes neurais Bayesianas profundas. Apesar de disparatos à primeira vista, ambos assuntos são próximamente interligados pela visão probabilística do aprendizado de máquina. Dessa forma, descrevem-se métodos de inferência aproximada visto que técnicas exatas são adequedas tão somente em condições muito restritas em que o tempo de cálculo é viável. Extensões modernas de tais métodos, capazes de escalar adequadamente ao tamanho dos modelos, que contêm milhões de parâmetros, e às atuais bases de dados com milhões de exemplos, são expostas e suas aplicações em redes neurais profundas demonstradas ao longo dos capítulos junto de implementações práticas que exemplicam o uso de ditos modelos.Universidade Federal do Rio de JaneiroBrasilInstituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de EngenhariaPrograma de Pós-Graduação em Engenharia ElétricaUFRJSilva, Eduardo Antônio Barros dahttp://lattes.cnpq.br/3918567147423648Lima Netto, SergioNunes, Leonardo de OliveiraCarvalho, Luis Alfredo Vidal daCinelli, Lucas Pinheiro2023-06-03T00:48:59Z2023-12-21T03:00:29Z2019-05info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesishttp://hdl.handle.net/11422/20697enginfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRJinstname:Universidade Federal do Rio de Janeiro (UFRJ)instacron:UFRJ2023-12-21T03:00:29Zoai:pantheon.ufrj.br:11422/20697Repositório InstitucionalPUBhttp://www.pantheon.ufrj.br/oai/requestpantheon@sibi.ufrj.bropendoar:2023-12-21T03:00:29Repositório Institucional da UFRJ - Universidade Federal do Rio de Janeiro (UFRJ)false
dc.title.none.fl_str_mv A tutorial on variational methods for machine learning
title A tutorial on variational methods for machine learning
spellingShingle A tutorial on variational methods for machine learning
Cinelli, Lucas Pinheiro
Modelos generativos
Codificador automático variacional
Redes neurais Bayesianas
Inferência aproximada
Inferência variacional
Propagação da expectativa
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
title_short A tutorial on variational methods for machine learning
title_full A tutorial on variational methods for machine learning
title_fullStr A tutorial on variational methods for machine learning
title_full_unstemmed A tutorial on variational methods for machine learning
title_sort A tutorial on variational methods for machine learning
author Cinelli, Lucas Pinheiro
author_facet Cinelli, Lucas Pinheiro
author_role author
dc.contributor.none.fl_str_mv Silva, Eduardo Antônio Barros da
http://lattes.cnpq.br/3918567147423648
Lima Netto, Sergio
Nunes, Leonardo de Oliveira
Carvalho, Luis Alfredo Vidal da
dc.contributor.author.fl_str_mv Cinelli, Lucas Pinheiro
dc.subject.por.fl_str_mv Modelos generativos
Codificador automático variacional
Redes neurais Bayesianas
Inferência aproximada
Inferência variacional
Propagação da expectativa
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
topic Modelos generativos
Codificador automático variacional
Redes neurais Bayesianas
Inferência aproximada
Inferência variacional
Propagação da expectativa
CNPQ::ENGENHARIAS::ENGENHARIA ELETRICA
description In this work, we present a tutorial on deep generative models, specically Varia- tional Autoencoders (VAE) and deep Bayesian Neural Networks (BNN). In spite of being apparently distinct, both themes are intimately connected through the pro- babilistic view of machine leaning. Therefore, we describe approximate inference methods since exact approaches are only adequate in very limited conditions in which the computation time remains feasible. We discuss modern extensions to such methods, capable of adequately sca- ling to models with millions of parameters and equally large data sets. Furthermore, we illustrate their relevance in each chapter through applications using (deep) neural networks.
publishDate 2019
dc.date.none.fl_str_mv 2019-05
2023-06-03T00:48:59Z
2023-12-21T03:00:29Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/11422/20697
url http://hdl.handle.net/11422/20697
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal do Rio de Janeiro
Brasil
Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia
Programa de Pós-Graduação em Engenharia Elétrica
UFRJ
publisher.none.fl_str_mv Universidade Federal do Rio de Janeiro
Brasil
Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia
Programa de Pós-Graduação em Engenharia Elétrica
UFRJ
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRJ
instname:Universidade Federal do Rio de Janeiro (UFRJ)
instacron:UFRJ
instname_str Universidade Federal do Rio de Janeiro (UFRJ)
instacron_str UFRJ
institution UFRJ
reponame_str Repositório Institucional da UFRJ
collection Repositório Institucional da UFRJ
repository.name.fl_str_mv Repositório Institucional da UFRJ - Universidade Federal do Rio de Janeiro (UFRJ)
repository.mail.fl_str_mv pantheon@sibi.ufrj.br
_version_ 1815456044709576704

Registros relacionados