Transfer learning by mapping and revising boosted relational dependency networks
Autor(a) principal: | |
---|---|
Data de Publicação: | 2019 |
Tipo de documento: | Dissertação |
Idioma: | eng |
Título da fonte: | Repositório Institucional da UFRJ |
Texto Completo: | http://hdl.handle.net/11422/13544 |
Resumo: | Algoritmos de aprendizado de máquina normalmente assumem que há disponível uma quantidade considerável de dados para a realização do treinamento de modelos. Com isso, as abordagens tradicionais falham em abordar domínios onde dados são difíceis ou custosos de se obter. A transferência de aprendizado surgiu para abordar o problema de escassez de dados ao considerar um modelo aprendido em um domínio de origem, onde dados são fáceis de se obter, como um ponto inicial para o domínio alvo. Por outro lado, dados de um mundo real são compostos por objetos e suas relações que normalmente advêm de ambientes com ruído. Encontrar padrões em dados relacionais probabilísticos tem sido o foco da área de Aprendizagem Estatística Relacional. Para abordar as questões de dados escassos, relacionais e incertos, neste trabalho propusemos o TreeBoostler, um algoritmo que transfere Redes de Dependência Relacional com boosting aprendidas em um domínio de origem para um domínio alvo. O algoritmo TreeBoostler primeiramente encontra um mapeamento entre pares de predicados para representar as árvores no vocabulário alvo. Após, o algoritmo aplica dois operadores de revisão de teoria para modificar a árvore de regressão relacional com o intuito de lidar com incorreções e melhorar o desempenho das árvores mapeadas. Os resultados mostraram que o TreeBoostler foi capaz de transferir conhecimento entre diversos domínios distintos com sucesso, além de ter mostrado um desempenho comparável ou melhor que os métodos de aprendizado do zero em termos de acurácia e ter obtido um desempenho melhor em termos de acurácia e tempo de execução comparado a um método de transferência de aprendizado disponível na literatura. |
id |
UFRJ_b9d65ee6e537c245373f7f789ce9735e |
---|---|
oai_identifier_str |
oai:pantheon.ufrj.br:11422/13544 |
network_acronym_str |
UFRJ |
network_name_str |
Repositório Institucional da UFRJ |
repository_id_str |
|
spelling |
Santos, Rodrigo Azevedohttp://lattes.cnpq.br/5117568495536090http://lattes.cnpq.br/2305375373547381Carvalho, Aline Marins Paeshttp://lattes.cnpq.br/0506389215528790Barbosa, Valmir CarneiroCozman, Fabio GagliardiZaverucha, Gerson2021-01-22T00:06:40Z2023-11-30T03:04:06Z2019-06http://hdl.handle.net/11422/13544Algoritmos de aprendizado de máquina normalmente assumem que há disponível uma quantidade considerável de dados para a realização do treinamento de modelos. Com isso, as abordagens tradicionais falham em abordar domínios onde dados são difíceis ou custosos de se obter. A transferência de aprendizado surgiu para abordar o problema de escassez de dados ao considerar um modelo aprendido em um domínio de origem, onde dados são fáceis de se obter, como um ponto inicial para o domínio alvo. Por outro lado, dados de um mundo real são compostos por objetos e suas relações que normalmente advêm de ambientes com ruído. Encontrar padrões em dados relacionais probabilísticos tem sido o foco da área de Aprendizagem Estatística Relacional. Para abordar as questões de dados escassos, relacionais e incertos, neste trabalho propusemos o TreeBoostler, um algoritmo que transfere Redes de Dependência Relacional com boosting aprendidas em um domínio de origem para um domínio alvo. O algoritmo TreeBoostler primeiramente encontra um mapeamento entre pares de predicados para representar as árvores no vocabulário alvo. Após, o algoritmo aplica dois operadores de revisão de teoria para modificar a árvore de regressão relacional com o intuito de lidar com incorreções e melhorar o desempenho das árvores mapeadas. Os resultados mostraram que o TreeBoostler foi capaz de transferir conhecimento entre diversos domínios distintos com sucesso, além de ter mostrado um desempenho comparável ou melhor que os métodos de aprendizado do zero em termos de acurácia e ter obtido um desempenho melhor em termos de acurácia e tempo de execução comparado a um método de transferência de aprendizado disponível na literatura.Statistical machine learning algorithms usually assume that there is considerablysize data to train the models. However, traditional approaches fail to address domains where data is difficult or expensive to obtain. Transfer learning has emerged to address this problem of data scarcity by relying on a model learned in a source domain where data is easy to obtain to be a starting point for the target domain. On the other hand, real-world data is composed of objects and their relations usually disposed of in a noisy environment. Finding patterns through such uncertain relational data has been the focus of the Statistical Relational Learning area. To address these issues, scarce, relational, and uncertain data, in this work we propose TreeBoostler, an algorithm that transfers Boosted Relational Dependency Networks learned in a source domain to the target domain. TreeBoostler first finds a mapping between pairs of predicates to accommodate the trees in the target vocabulary. Then, it employs two novel theory revision operators devised to change relational regression trees to handle incorrectness and improve the performance of the mapped trees. TreeBoostler has successfully transferred knowledge among several distinct domains. It performs comparably or better than learning from scratch methods in terms of accuracy and outperforms an existing transfer learning approach in terms of accuracy and runtime.Submitted by Natasha Valladão (natashasilvaa4@gmail.com) on 2021-01-07T19:19:40Z No. of bitstreams: 1 RodrigoAzevedoSantos.pdf: 2779760 bytes, checksum: 3c50a252b3cdcd754a90f4848f223a6a (MD5)Approved for entry into archive by Moreno Barros (moreno@ct.ufrj.br) on 2021-01-22T00:06:40Z (GMT) No. of bitstreams: 1 RodrigoAzevedoSantos.pdf: 2779760 bytes, checksum: 3c50a252b3cdcd754a90f4848f223a6a (MD5)Made available in DSpace on 2021-01-22T00:06:40Z (GMT). No. of bitstreams: 1 RodrigoAzevedoSantos.pdf: 2779760 bytes, checksum: 3c50a252b3cdcd754a90f4848f223a6a (MD5) Previous issue date: 2019-06engUniversidade Federal do Rio de JaneiroPrograma de Pós-Graduação em Engenharia de Sistemas e ComputaçãoUFRJBrasilInstituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de EngenhariaCNPQ::ENGENHARIASTransfer learningStatistical relational learningTheory revisionTransfer learning by mapping and revising boosted relational dependency networksTransferência de aprendizado ao mapear e revisar redes de dependência relacional com boostinginfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisabertoinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRJinstname:Universidade Federal do Rio de Janeiro (UFRJ)instacron:UFRJORIGINALRodrigoAzevedoSantos.pdfRodrigoAzevedoSantos.pdfapplication/pdf2779760http://pantheon.ufrj.br:80/bitstream/11422/13544/1/RodrigoAzevedoSantos.pdf3c50a252b3cdcd754a90f4848f223a6aMD51LICENSElicense.txtlicense.txttext/plain; charset=utf-81853http://pantheon.ufrj.br:80/bitstream/11422/13544/2/license.txtdd32849f2bfb22da963c3aac6e26e255MD5211422/135442023-11-30 00:04:06.417oai:pantheon.ufrj.br:11422/13544TElDRU7Dh0EgTsODTy1FWENMVVNJVkEgREUgRElTVFJJQlVJw4fDg08KCkFvIGFzc2luYXIgZSBlbnRyZWdhciBlc3RhIGxpY2Vuw6dhLCB2b2PDqihzKSBvKHMpIGF1dG9yKGVzKSBvdSBwcm9wcmlldMOhcmlvKHMpIGRvcyBkaXJlaXRvcyBhdXRvcmFpcyBjb25jZWRlKG0pIGFvIFJlcG9zaXTDs3JpbyBQYW50aGVvbiBkYSBVbml2ZXJzaWRhZGUgRmVkZXJhbCBkbyBSaW8gZGUgSmFuZWlybyAoVUZSSikgbyBkaXJlaXRvIG7Do28gLSBleGNsdXNpdm8gZGUgcmVwcm9kdXppciwgY29udmVydGVyIChjb21vIGRlZmluaWRvIGFiYWl4byksIGUvb3UgZGlzdHJpYnVpciBvIGRvY3VtZW50byBlbnRyZWd1ZSAoaW5jbHVpbmRvIG8gcmVzdW1vKSBlbSB0b2RvIG8gbXVuZG8sIGVtIGZvcm1hdG8gZWxldHLDtG5pY28gZSBlbSBxdWFscXVlciBtZWlvLCBpbmNsdWluZG8sIG1hcyBuw6NvIGxpbWl0YWRvIGEgw6F1ZGlvIGUvb3UgdsOtZGVvLgoKVm9jw6ogY29uY29yZGEgcXVlIGEgVUZSSiBwb2RlLCBzZW0gYWx0ZXJhciBvIGNvbnRlw7pkbywgdHJhZHV6aXIgYSBhcHJlc2VudGHDp8OjbyBkZSBxdWFscXVlciBtZWlvIG91IGZvcm1hdG8gY29tIGEgZmluYWxpZGFkZSBkZSBwcmVzZXJ2YcOnw6NvLgoKVm9jw6ogdGFtYsOpbSBjb25jb3JkYSBxdWUgYSBVRlJKIHBvZGUgbWFudGVyIG1haXMgZGUgdW1hIGPDs3BpYSBkZXNzYSBzdWJtaXNzw6NvIHBhcmEgZmlucyBkZSBzZWd1cmFuw6dhLCBiYWNrLXVwIGUgcHJlc2VydmHDp8OjbyBkaWdpdGFsLgoKRGVjbGFyYSBxdWUgbyBkb2N1bWVudG8gZW50cmVndWUgw6kgc2V1IHRyYWJhbGhvIG9yaWdpbmFsLCBlIHF1ZSB2b2PDqiB0ZW0gbyBkaXJlaXRvIGRlIGNvbmNlZGVyIG9zIGRpcmVpdG9zIGNvbnRpZG9zIG5lc3RhIGxpY2Vuw6dhLiBWb2PDqiB0YW1iw6ltIGRlY2xhcmEgcXVlIGEgc3VhIGFwcmVzZW50YcOnw6NvLCBjb20gbyBtZWxob3IgZGUgc2V1cyBjb25oZWNpbWVudG9zLCBuw6NvIGluZnJpbmdpIGRpcmVpdG9zIGF1dG9yYWlzIGRlIHRlcmNlaXJvcy4KClNlIG8gZG9jdW1lbnRvIGVudHJlZ3VlIGNvbnTDqW0gbWF0ZXJpYWwgZG8gcXVhbCB2b2PDqiBuw6NvIHRlbSBkaXJlaXRvcyBkZSBhdXRvciwgZGVjbGFyYSBxdWUgb2J0ZXZlIGEgcGVybWlzc8OjbyBpcnJlc3RyaXRhIGRvIGRldGVudG9yIGRvcyBkaXJlaXRvcyBhdXRvcmFpcyBlIGNvbmNlZGUgYSBVRlJKIG9zIGRpcmVpdG9zIHJlcXVlcmlkb3MgcG9yIGVzdGEgbGljZW7Dp2EsIGUgcXVlIGVzc2UgbWF0ZXJpYWwgZGUgcHJvcHJpZWRhZGUgZGUgdGVyY2Vpcm9zIGVzdMOhIGNsYXJhbWVudGUgaWRlbnRpZmljYWRvIGUgcmVjb25oZWNpZG8gbm8gdGV4dG8gb3UgY29udGXDumRvIGRhIHN1Ym1pc3PDo28uCgpTZSBvIGRvY3VtZW50byBlbnRyZWd1ZSDDqSBiYXNlYWRvIGVtIHRyYWJhbGhvIHF1ZSBmb2ksIG91IHRlbSBzaWRvIHBhdHJvY2luYWRvIG91IGFwb2lhZG8gcG9yIHVtYSBhZ8OqbmNpYSBvdSBvdXRybyhzKSBvcmdhbmlzbW8ocykgcXVlIG7Do28gYSBVRlJKLCB2b2PDqiBkZWNsYXJhIHF1ZSBjdW1wcml1IHF1YWxxdWVyIGRpcmVpdG8gZGUgUkVWSVPDg08gb3UgZGUgb3V0cmFzIG9icmlnYcOnw7VlcyByZXF1ZXJpZGFzIHBvciBjb250cmF0byBvdSBhY29yZG8uCgpBIFVGUkogaXLDoSBpZGVudGlmaWNhciBjbGFyYW1lbnRlIG8ocykgc2V1KHMpIG5vbWUocykgY29tbyBhdXRvcihlcykgb3UgcHJvcHJpZXTDoXJpbyhzKSBkYSBzdWJtaXNzw6NvLCBlIG7Do28gZmFyw6EgcXVhbHF1ZXIgYWx0ZXJhw6fDo28sIHBhcmEgYWzDqW0gZGFzIHBlcm1pdGlkYXMgcG9yIGVzdGEgbGljZW7Dp2EsIG5vIGF0byBkZSBzdWJtaXNzw6NvLgo=Repositório de PublicaçõesPUBhttp://www.pantheon.ufrj.br/oai/requestopendoar:2023-11-30T03:04:06Repositório Institucional da UFRJ - Universidade Federal do Rio de Janeiro (UFRJ)false |
dc.title.pt_BR.fl_str_mv |
Transfer learning by mapping and revising boosted relational dependency networks |
dc.title.alternative.pt_BR.fl_str_mv |
Transferência de aprendizado ao mapear e revisar redes de dependência relacional com boosting |
title |
Transfer learning by mapping and revising boosted relational dependency networks |
spellingShingle |
Transfer learning by mapping and revising boosted relational dependency networks Santos, Rodrigo Azevedo CNPQ::ENGENHARIAS Transfer learning Statistical relational learning Theory revision |
title_short |
Transfer learning by mapping and revising boosted relational dependency networks |
title_full |
Transfer learning by mapping and revising boosted relational dependency networks |
title_fullStr |
Transfer learning by mapping and revising boosted relational dependency networks |
title_full_unstemmed |
Transfer learning by mapping and revising boosted relational dependency networks |
title_sort |
Transfer learning by mapping and revising boosted relational dependency networks |
author |
Santos, Rodrigo Azevedo |
author_facet |
Santos, Rodrigo Azevedo |
author_role |
author |
dc.contributor.advisorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/5117568495536090 |
dc.contributor.authorLattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/2305375373547381 |
dc.contributor.advisorCo1.none.fl_str_mv |
Carvalho, Aline Marins Paes |
dc.contributor.advisorCo1Lattes.pt_BR.fl_str_mv |
http://lattes.cnpq.br/0506389215528790 |
dc.contributor.author.fl_str_mv |
Santos, Rodrigo Azevedo |
dc.contributor.referee1.fl_str_mv |
Barbosa, Valmir Carneiro |
dc.contributor.referee2.fl_str_mv |
Cozman, Fabio Gagliardi |
dc.contributor.advisor1.fl_str_mv |
Zaverucha, Gerson |
contributor_str_mv |
Barbosa, Valmir Carneiro Cozman, Fabio Gagliardi Zaverucha, Gerson |
dc.subject.cnpq.fl_str_mv |
CNPQ::ENGENHARIAS |
topic |
CNPQ::ENGENHARIAS Transfer learning Statistical relational learning Theory revision |
dc.subject.por.fl_str_mv |
Transfer learning Statistical relational learning Theory revision |
description |
Algoritmos de aprendizado de máquina normalmente assumem que há disponível uma quantidade considerável de dados para a realização do treinamento de modelos. Com isso, as abordagens tradicionais falham em abordar domínios onde dados são difíceis ou custosos de se obter. A transferência de aprendizado surgiu para abordar o problema de escassez de dados ao considerar um modelo aprendido em um domínio de origem, onde dados são fáceis de se obter, como um ponto inicial para o domínio alvo. Por outro lado, dados de um mundo real são compostos por objetos e suas relações que normalmente advêm de ambientes com ruído. Encontrar padrões em dados relacionais probabilísticos tem sido o foco da área de Aprendizagem Estatística Relacional. Para abordar as questões de dados escassos, relacionais e incertos, neste trabalho propusemos o TreeBoostler, um algoritmo que transfere Redes de Dependência Relacional com boosting aprendidas em um domínio de origem para um domínio alvo. O algoritmo TreeBoostler primeiramente encontra um mapeamento entre pares de predicados para representar as árvores no vocabulário alvo. Após, o algoritmo aplica dois operadores de revisão de teoria para modificar a árvore de regressão relacional com o intuito de lidar com incorreções e melhorar o desempenho das árvores mapeadas. Os resultados mostraram que o TreeBoostler foi capaz de transferir conhecimento entre diversos domínios distintos com sucesso, além de ter mostrado um desempenho comparável ou melhor que os métodos de aprendizado do zero em termos de acurácia e ter obtido um desempenho melhor em termos de acurácia e tempo de execução comparado a um método de transferência de aprendizado disponível na literatura. |
publishDate |
2019 |
dc.date.issued.fl_str_mv |
2019-06 |
dc.date.accessioned.fl_str_mv |
2021-01-22T00:06:40Z |
dc.date.available.fl_str_mv |
2023-11-30T03:04:06Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
http://hdl.handle.net/11422/13544 |
url |
http://hdl.handle.net/11422/13544 |
dc.language.iso.fl_str_mv |
eng |
language |
eng |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Federal do Rio de Janeiro |
dc.publisher.program.fl_str_mv |
Programa de Pós-Graduação em Engenharia de Sistemas e Computação |
dc.publisher.initials.fl_str_mv |
UFRJ |
dc.publisher.country.fl_str_mv |
Brasil |
dc.publisher.department.fl_str_mv |
Instituto Alberto Luiz Coimbra de Pós-Graduação e Pesquisa de Engenharia |
publisher.none.fl_str_mv |
Universidade Federal do Rio de Janeiro |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFRJ instname:Universidade Federal do Rio de Janeiro (UFRJ) instacron:UFRJ |
instname_str |
Universidade Federal do Rio de Janeiro (UFRJ) |
instacron_str |
UFRJ |
institution |
UFRJ |
reponame_str |
Repositório Institucional da UFRJ |
collection |
Repositório Institucional da UFRJ |
bitstream.url.fl_str_mv |
http://pantheon.ufrj.br:80/bitstream/11422/13544/1/RodrigoAzevedoSantos.pdf http://pantheon.ufrj.br:80/bitstream/11422/13544/2/license.txt |
bitstream.checksum.fl_str_mv |
3c50a252b3cdcd754a90f4848f223a6a dd32849f2bfb22da963c3aac6e26e255 |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFRJ - Universidade Federal do Rio de Janeiro (UFRJ) |
repository.mail.fl_str_mv |
|
_version_ |
1784097191430717440 |