Transfer learning by mapping and revising boosted relational dependency networks

Detalhes bibliográficos
Autor(a) principal: Santos, Rodrigo Azevedo
Data de Publicação: 2019
Tipo de documento: Dissertação
Idioma: eng
Título da fonte: Repositório Institucional da UFRJ
Texto Completo: http://hdl.handle.net/11422/13544
Resumo: Algoritmos de aprendizado de máquina normalmente assumem que há disponível uma quantidade considerável de dados para a realização do treinamento de modelos. Com isso, as abordagens tradicionais falham em abordar domínios onde dados são difíceis ou custosos de se obter. A transferência de aprendizado surgiu para abordar o problema de escassez de dados ao considerar um modelo aprendido em um domínio de origem, onde dados são fáceis de se obter, como um ponto inicial para o domínio alvo. Por outro lado, dados de um mundo real são compostos por objetos e suas relações que normalmente advêm de ambientes com ruído. Encontrar padrões em dados relacionais probabilísticos tem sido o foco da área de Aprendizagem Estatística Relacional. Para abordar as questões de dados escassos, relacionais e incertos, neste trabalho propusemos o TreeBoostler, um algoritmo que transfere Redes de Dependência Relacional com boosting aprendidas em um domínio de origem para um domínio alvo. O algoritmo TreeBoostler primeiramente encontra um mapeamento entre pares de predicados para representar as árvores no vocabulário alvo. Após, o algoritmo aplica dois operadores de revisão de teoria para modificar a árvore de regressão relacional com o intuito de lidar com incorreções e melhorar o desempenho das árvores mapeadas. Os resultados mostraram que o TreeBoostler foi capaz de transferir conhecimento entre diversos domínios distintos com sucesso, além de ter mostrado um desempenho comparável ou melhor que os métodos de aprendizado do zero em termos de acurácia e ter obtido um desempenho melhor em termos de acurácia e tempo de execução comparado a um método de transferência de aprendizado disponível na literatura.
id UFRJ_b9d65ee6e537c245373f7f789ce9735e
oai_identifier_str oai:pantheon.ufrj.br:11422/13544
network_acronym_str UFRJ
network_name_str Repositório Institucional da UFRJ
repository_id_str
spelling Santos, Rodrigo Azevedohttp://lattes.cnpq.br/5117568495536090http://lattes.cnpq.br/2305375373547381Carvalho, Aline Marins Paeshttp://lattes.cnpq.br/0506389215528790Barbosa, Valmir CarneiroCozman, Fabio GagliardiZaverucha, Gerson2021-01-22T00:06:40Z2023-11-30T03:04:06Z2019-06http://hdl.handle.net/11422/13544Algoritmos de aprendizado de máquina normalmente assumem que há disponível uma quantidade considerável de dados para a realização do treinamento de modelos. Com isso, as abordagens tradicionais falham em abordar domínios onde dados são difíceis ou custosos de se obter. A transferência de aprendizado surgiu para abordar o problema de escassez de dados ao considerar um modelo aprendido em um domínio de origem, onde dados são fáceis de se obter, como um ponto inicial para o domínio alvo. Por outro lado, dados de um mundo real são compostos por objetos e suas relações que normalmente advêm de ambientes com ruído. Encontrar padrões em dados relacionais probabilísticos tem sido o foco da área de Aprendizagem Estatística Relacional. Para abordar as questões de dados escassos, relacionais e incertos, neste trabalho propusemos o TreeBoostler, um algoritmo que transfere Redes de Dependência Relacional com boosting aprendidas em um domínio de origem para um domínio alvo. O algoritmo TreeBoostler primeiramente encontra um mapeamento entre pares de predicados para representar as árvores no vocabulário alvo. Após, o algoritmo aplica dois operadores de revisão de teoria para modificar a árvore de regressão relacional com o intuito de lidar com incorreções e melhorar o desempenho das árvores mapeadas. Os resultados mostraram que o TreeBoostler foi capaz de transferir conhecimento entre diversos domínios distintos com sucesso, além de ter mostrado um desempenho comparável ou melhor que os métodos de aprendizado do zero em termos de acurácia e ter obtido um desempenho melhor em termos de acurácia e tempo de execução comparado a um método de transferência de aprendizado disponível na literatura.Statistical machine learning algorithms usually assume that there is considerablysize data to train the models. However, traditional approaches fail to address domains where data is difficult or expensive to obtain. Transfer learning has emerged to address this problem of data scarcity by relying on a model learned in a source domain where data is easy to obtain to be a starting point for the target domain. On the other hand, real-world data is composed of objects and their relations usually disposed of in a noisy environment. Finding patterns through such uncertain relational data has been the focus of the Statistical Relational Learning area. To address these issues, scarce, relational, and uncertain data, in this work we propose TreeBoostler, an algorithm that transfers Boosted Relational Dependency Networks learned in a source domain to the target domain. TreeBoostler first finds a mapping between pairs of predicates to accommodate the trees in the target vocabulary. Then, it employs two novel theory revision operators devised to change relational regression trees to handle incorrectness and improve the performance of the mapped trees. TreeBoostler has successfully transferred knowledge among several distinct domains. It performs comparably or better than learning from scratch methods in terms of accuracy and outperforms an existing transfer learning approach in terms of accuracy and runtime.Submitted by Natasha Valladão (natashasilvaa4@gmail.com) on 2021-01-07T19:19:40Z No. of bitstreams: 1 RodrigoAzevedoSantos.pdf: 2779760 bytes, checksum: 3c50a252b3cdcd754a90f4848f223a6a (MD5)Approved for entry into archive by Moreno Barros (moreno@ct.ufrj.br) on 2021-01-22T00:06:40Z (GMT) No. of bitstreams: 1 RodrigoAzevedoSantos.pdf: 2779760 bytes, checksum: 3c50a252b3cdcd754a90f4848f223a6a (MD5)Made available in DSpace on 2021-01-22T00:06:40Z (GMT). No. of bitstreams: 1 RodrigoAzevedoSantos.pdf: 2779760 bytes, checksum: 3c50a252b3cdcd754a90f4848f223a6a (MD5) Previous issue date: 2019-06engUniversidade Federal do Rio de JaneiroPrograma de Pós-Graduação em Engenharia de Sistemas e ComputaçãoUFRJBrasilInstituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de EngenhariaCNPQ::ENGENHARIASTransfer learningStatistical relational learningTheory revisionTransfer learning by mapping and revising boosted relational dependency networksTransferência de aprendizado ao mapear e revisar redes de dependência relacional com boostinginfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisabertoinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRJinstname:Universidade Federal do Rio de Janeiro (UFRJ)instacron:UFRJORIGINALRodrigoAzevedoSantos.pdfRodrigoAzevedoSantos.pdfapplication/pdf2779760http://pantheon.ufrj.br:80/bitstream/11422/13544/1/RodrigoAzevedoSantos.pdf3c50a252b3cdcd754a90f4848f223a6aMD51LICENSElicense.txtlicense.txttext/plain; charset=utf-81853http://pantheon.ufrj.br:80/bitstream/11422/13544/2/license.txtdd32849f2bfb22da963c3aac6e26e255MD5211422/135442023-11-30 00:04:06.417oai:pantheon.ufrj.br:11422/13544TElDRU7Dh0EgTsODTy1FWENMVVNJVkEgREUgRElTVFJJQlVJw4fDg08KCkFvIGFzc2luYXIgZSBlbnRyZWdhciBlc3RhIGxpY2Vuw6dhLCB2b2PDqihzKSBvKHMpIGF1dG9yKGVzKSBvdSBwcm9wcmlldMOhcmlvKHMpIGRvcyBkaXJlaXRvcyBhdXRvcmFpcyBjb25jZWRlKG0pIGFvIFJlcG9zaXTDs3JpbyBQYW50aGVvbiBkYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkbyBSaW8gZGUgSmFuZWlybyAoVUZSSikgbyBkaXJlaXRvIG7Do28gLSBleGNsdXNpdm8gZGUgcmVwcm9kdXppciwgY29udmVydGVyIChjb21vIGRlZmluaWRvIGFiYWl4byksIGUvb3UgZGlzdHJpYnVpciBvIGRvY3VtZW50byBlbnRyZWd1ZSAoaW5jbHVpbmRvIG8gcmVzdW1vKSBlbSB0b2RvIG8gbXVuZG8sIGVtIGZvcm1hdG8gZWxldHLDtG5pY28gZSBlbSBxdWFscXVlciBtZWlvLCBpbmNsdWluZG8sIG1hcyBuw6NvIGxpbWl0YWRvIGEgw6F1ZGlvIGUvb3UgdsOtZGVvLgoKVm9jw6ogY29uY29yZGEgcXVlIGEgVUZSSiBwb2RlLCBzZW0gYWx0ZXJhciBvIGNvbnRlw7pkbywgdHJhZHV6aXIgYSBhcHJlc2VudGHDp8OjbyBkZSBxdWFscXVlciBtZWlvIG91IGZvcm1hdG8gY29tIGEgZmluYWxpZGFkZSBkZSBwcmVzZXJ2YcOnw6NvLgoKVm9jw6ogdGFtYsOpbSBjb25jb3JkYSBxdWUgYSBVRlJKIHBvZGUgbWFudGVyIG1haXMgZGUgdW1hIGPDs3BpYSBkZXNzYSBzdWJtaXNzw6NvIHBhcmEgZmlucyBkZSBzZWd1cmFuw6dhLCBiYWNrLXVwIGUgcHJlc2VydmHDp8OjbyBkaWdpdGFsLgoKRGVjbGFyYSBxdWUgbyBkb2N1bWVudG8gZW50cmVndWUgw6kgc2V1IHRyYWJhbGhvIG9yaWdpbmFsLCBlIHF1ZSB2b2PDqiB0ZW0gbyBkaXJlaXRvIGRlIGNvbmNlZGVyIG9zIGRpcmVpdG9zIGNvbnRpZG9zIG5lc3RhIGxpY2Vuw6dhLiBWb2PDqiB0YW1iw6ltIGRlY2xhcmEgcXVlIGEgc3VhIGFwcmVzZW50YcOnw6NvLCBjb20gbyBtZWxob3IgZGUgc2V1cyBjb25oZWNpbWVudG9zLCBuw6NvIGluZnJpbmdpIGRpcmVpdG9zIGF1dG9yYWlzIGRlIHRlcmNlaXJvcy4KClNlIG8gZG9jdW1lbnRvIGVudHJlZ3VlIGNvbnTDqW0gbWF0ZXJpYWwgZG8gcXVhbCB2b2PDqiBuw6NvIHRlbSBkaXJlaXRvcyBkZSBhdXRvciwgZGVjbGFyYSBxdWUgb2J0ZXZlIGEgcGVybWlzc8OjbyBpcnJlc3RyaXRhIGRvIGRldGVudG9yIGRvcyBkaXJlaXRvcyBhdXRvcmFpcyBlIGNvbmNlZGUgYSBVRlJKIG9zIGRpcmVpdG9zIHJlcXVlcmlkb3MgcG9yIGVzdGEgbGljZW7Dp2EsIGUgcXVlIGVzc2UgbWF0ZXJpYWwgZGUgcHJvcHJpZWRhZGUgZGUgdGVyY2Vpcm9zIGVzdMOhIGNsYXJhbWVudGUgaWRlbnRpZmljYWRvIGUgcmVjb25oZWNpZG8gbm8gdGV4dG8gb3UgY29udGXDumRvIGRhIHN1Ym1pc3PDo28uCgpTZSBvIGRvY3VtZW50byBlbnRyZWd1ZSDDqSBiYXNlYWRvIGVtIHRyYWJhbGhvIHF1ZSBmb2ksIG91IHRlbSBzaWRvIHBhdHJvY2luYWRvIG91IGFwb2lhZG8gcG9yIHVtYSBhZ8OqbmNpYSBvdSBvdXRybyhzKSBvcmdhbmlzbW8ocykgcXVlIG7Do28gYSBVRlJKLCB2b2PDqiBkZWNsYXJhIHF1ZSBjdW1wcml1IHF1YWxxdWVyIGRpcmVpdG8gZGUgUkVWSVPDg08gb3UgZGUgb3V0cmFzIG9icmlnYcOnw7VlcyByZXF1ZXJpZGFzIHBvciBjb250cmF0byBvdSBhY29yZG8uCgpBIFVGUkogaXLDoSBpZGVudGlmaWNhciBjbGFyYW1lbnRlIG8ocykgc2V1KHMpIG5vbWUocykgY29tbyBhdXRvcihlcykgb3UgcHJvcHJpZXTDoXJpbyhzKSBkYSBzdWJtaXNzw6NvLCBlIG7Do28gZmFyw6EgcXVhbHF1ZXIgYWx0ZXJhw6fDo28sIHBhcmEgYWzDqW0gZGFzIHBlcm1pdGlkYXMgcG9yIGVzdGEgbGljZW7Dp2EsIG5vIGF0byBkZSBzdWJtaXNzw6NvLgo=Repositório de PublicaçõesPUBhttp://www.pantheon.ufrj.br/oai/requestopendoar:2023-11-30T03:04:06Repositório Institucional da UFRJ - Universidade Federal do Rio de Janeiro (UFRJ)false
dc.title.pt_BR.fl_str_mv Transfer learning by mapping and revising boosted relational dependency networks
dc.title.alternative.pt_BR.fl_str_mv Transferência de aprendizado ao mapear e revisar redes de dependência relacional com boosting
title Transfer learning by mapping and revising boosted relational dependency networks
spellingShingle Transfer learning by mapping and revising boosted relational dependency networks
Santos, Rodrigo Azevedo
CNPQ::ENGENHARIAS
Transfer learning
Statistical relational learning
Theory revision
title_short Transfer learning by mapping and revising boosted relational dependency networks
title_full Transfer learning by mapping and revising boosted relational dependency networks
title_fullStr Transfer learning by mapping and revising boosted relational dependency networks
title_full_unstemmed Transfer learning by mapping and revising boosted relational dependency networks
title_sort Transfer learning by mapping and revising boosted relational dependency networks
author Santos, Rodrigo Azevedo
author_facet Santos, Rodrigo Azevedo
author_role author
dc.contributor.advisorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/5117568495536090
dc.contributor.authorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/2305375373547381
dc.contributor.advisorCo1.none.fl_str_mv Carvalho, Aline Marins Paes
dc.contributor.advisorCo1Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/0506389215528790
dc.contributor.author.fl_str_mv Santos, Rodrigo Azevedo
dc.contributor.referee1.fl_str_mv Barbosa, Valmir Carneiro
dc.contributor.referee2.fl_str_mv Cozman, Fabio Gagliardi
dc.contributor.advisor1.fl_str_mv Zaverucha, Gerson
contributor_str_mv Barbosa, Valmir Carneiro
Cozman, Fabio Gagliardi
Zaverucha, Gerson
dc.subject.cnpq.fl_str_mv CNPQ::ENGENHARIAS
topic CNPQ::ENGENHARIAS
Transfer learning
Statistical relational learning
Theory revision
dc.subject.por.fl_str_mv Transfer learning
Statistical relational learning
Theory revision
description Algoritmos de aprendizado de máquina normalmente assumem que há disponível uma quantidade considerável de dados para a realização do treinamento de modelos. Com isso, as abordagens tradicionais falham em abordar domínios onde dados são difíceis ou custosos de se obter. A transferência de aprendizado surgiu para abordar o problema de escassez de dados ao considerar um modelo aprendido em um domínio de origem, onde dados são fáceis de se obter, como um ponto inicial para o domínio alvo. Por outro lado, dados de um mundo real são compostos por objetos e suas relações que normalmente advêm de ambientes com ruído. Encontrar padrões em dados relacionais probabilísticos tem sido o foco da área de Aprendizagem Estatística Relacional. Para abordar as questões de dados escassos, relacionais e incertos, neste trabalho propusemos o TreeBoostler, um algoritmo que transfere Redes de Dependência Relacional com boosting aprendidas em um domínio de origem para um domínio alvo. O algoritmo TreeBoostler primeiramente encontra um mapeamento entre pares de predicados para representar as árvores no vocabulário alvo. Após, o algoritmo aplica dois operadores de revisão de teoria para modificar a árvore de regressão relacional com o intuito de lidar com incorreções e melhorar o desempenho das árvores mapeadas. Os resultados mostraram que o TreeBoostler foi capaz de transferir conhecimento entre diversos domínios distintos com sucesso, além de ter mostrado um desempenho comparável ou melhor que os métodos de aprendizado do zero em termos de acurácia e ter obtido um desempenho melhor em termos de acurácia e tempo de execução comparado a um método de transferência de aprendizado disponível na literatura.
publishDate 2019
dc.date.issued.fl_str_mv 2019-06
dc.date.accessioned.fl_str_mv 2021-01-22T00:06:40Z
dc.date.available.fl_str_mv 2023-11-30T03:04:06Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/11422/13544
url http://hdl.handle.net/11422/13544
dc.language.iso.fl_str_mv eng
language eng
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal do Rio de Janeiro
dc.publisher.program.fl_str_mv Programa de Pós-Graduação em Engenharia de Sistemas e Computação
dc.publisher.initials.fl_str_mv UFRJ
dc.publisher.country.fl_str_mv Brasil
dc.publisher.department.fl_str_mv Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia
publisher.none.fl_str_mv Universidade Federal do Rio de Janeiro
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRJ
instname:Universidade Federal do Rio de Janeiro (UFRJ)
instacron:UFRJ
instname_str Universidade Federal do Rio de Janeiro (UFRJ)
instacron_str UFRJ
institution UFRJ
reponame_str Repositório Institucional da UFRJ
collection Repositório Institucional da UFRJ
bitstream.url.fl_str_mv http://pantheon.ufrj.br:80/bitstream/11422/13544/1/RodrigoAzevedoSantos.pdf
http://pantheon.ufrj.br:80/bitstream/11422/13544/2/license.txt
bitstream.checksum.fl_str_mv 3c50a252b3cdcd754a90f4848f223a6a
dd32849f2bfb22da963c3aac6e26e255
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFRJ - Universidade Federal do Rio de Janeiro (UFRJ)
repository.mail.fl_str_mv
_version_ 1784097191430717440