Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas

Detalhes bibliográficos
Autor(a) principal: Silva, Ana Cláudia Costa da
Data de Publicação: 2021
Tipo de documento: Tese
Idioma: por
Título da fonte: Repositório Institucional da UFRN
Texto Completo: https://repositorio.ufrn.br/handle/123456789/46706
Resumo: As memórias são armazenadas no cérebro pela mudança persistente da conectividade entre neurônios e o sono desempenha um papel decisivo para a persistência dessas mudanças. Pesquisas sobre a neurobiologia do sono demonstram a ativação de mecanismos de plasticidade sináptica de longa duração. Dados experimentais apontam para um duplo papel do sono, tanto no esquecimento de memórias irrelevantes quanto no reforço das lembranças mais importantes. A hipótese investigada nesta tese é de que os mecanismos de reorganização sináptica envolvidos na consolidação de memórias podem trazer vantagens na performance das redes neurais artificiais. Este trabalho visa aplicar mecanismos neurobiológicos de aprendizagem dependente de sono na aprendizagem de máquina. Para isto, foi feita uma revisão das teorias de consolidação da memória através do sono, assim como dos modelos computacionais que dão suporte a essas teorias. Com a observação de como o cérebro otimiza os recursos biológicos, a pesquisa seguiu a tendência das redes neurais artificiais onde foram aplicados conceitos presentes na aprendizagem biológica, na aprendizagem de máquina. Então foram realizadas simulações de computador para explorar a hipótese de que os mecanismos subjacentes utilizados pelo cérebro para aprendizagem biológica através do sono são capazes de otimizar o aprendizado em redes neurais artificiais. A esparsialidade sináptica pode trazer vantagens na economia de recursos sem que haja um decaimento na aprendizagem, então, usamos uma rede neural artificial esparsa para aprender diferentes conjuntos de dados e, em seguida, testar se o sono poderia reduzir ainda mais o número mínimo de sinapses que um sistema precisa para o aprendizado de padrões. As simulações foram realizadas com diferentes tamanhos de rede, diferentes níveis de esparsialidades, diversas bases de dados além de utilizar modernos frameworks e algoritmos em aprendizagem de redes neurais profundas. Os resultados corroboram a hipótese de que o sono reduz o número necessário de sinapses para que se atinja um determinado limite de aprendizagem.
id UFRN_27c526a4e6f8216c5d0155786b527f03
oai_identifier_str oai:https://repositorio.ufrn.br:123456789/46706
network_acronym_str UFRN
network_name_str Repositório Institucional da UFRN
repository_id_str
spelling Silva, Ana Cláudia Costa dahttp://lattes.cnpq.br/4555593159788385http://lattes.cnpq.br/0649912135067700Costa, César Renno22508952877http://lattes.cnpq.br/9222565820639401Dalmolin, Rodrigo Juliani Siqueirahttp://lattes.cnpq.br/4065178015615979Mohan, Madras Viswanathan Gandhihttp://lattes.cnpq.br/1995273890709490Copelli, Maurohttp://lattes.cnpq.br/9400915429521069Vasconcelos, Nivaldo Antônio Portela dehttp://lattes.cnpq.br/4110109220389767Ribeiro, Sidarta Tollendal Gomes2022-03-28T19:26:44Z2022-03-28T19:26:44Z2021-11-09SILVA, Ana Cláudia Costa da. Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas. 2021. 88f. Tese (Doutorado em Bioinformática) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2021.https://repositorio.ufrn.br/handle/123456789/46706As memórias são armazenadas no cérebro pela mudança persistente da conectividade entre neurônios e o sono desempenha um papel decisivo para a persistência dessas mudanças. Pesquisas sobre a neurobiologia do sono demonstram a ativação de mecanismos de plasticidade sináptica de longa duração. Dados experimentais apontam para um duplo papel do sono, tanto no esquecimento de memórias irrelevantes quanto no reforço das lembranças mais importantes. A hipótese investigada nesta tese é de que os mecanismos de reorganização sináptica envolvidos na consolidação de memórias podem trazer vantagens na performance das redes neurais artificiais. Este trabalho visa aplicar mecanismos neurobiológicos de aprendizagem dependente de sono na aprendizagem de máquina. Para isto, foi feita uma revisão das teorias de consolidação da memória através do sono, assim como dos modelos computacionais que dão suporte a essas teorias. Com a observação de como o cérebro otimiza os recursos biológicos, a pesquisa seguiu a tendência das redes neurais artificiais onde foram aplicados conceitos presentes na aprendizagem biológica, na aprendizagem de máquina. Então foram realizadas simulações de computador para explorar a hipótese de que os mecanismos subjacentes utilizados pelo cérebro para aprendizagem biológica através do sono são capazes de otimizar o aprendizado em redes neurais artificiais. A esparsialidade sináptica pode trazer vantagens na economia de recursos sem que haja um decaimento na aprendizagem, então, usamos uma rede neural artificial esparsa para aprender diferentes conjuntos de dados e, em seguida, testar se o sono poderia reduzir ainda mais o número mínimo de sinapses que um sistema precisa para o aprendizado de padrões. As simulações foram realizadas com diferentes tamanhos de rede, diferentes níveis de esparsialidades, diversas bases de dados além de utilizar modernos frameworks e algoritmos em aprendizagem de redes neurais profundas. Os resultados corroboram a hipótese de que o sono reduz o número necessário de sinapses para que se atinja um determinado limite de aprendizagem.The memories are stored in the brain by the persistent changes of the connectivity between neurons. Sleep plays an essential role in such changes. Research on sleep neurology has shown the activation of long-term synaptic plasticity. Experimental data point to a double role of sleep: the weakening of irrelevant memories and the reinforcement of more important ones. The hypothesis investigated in this thesis is that synaptic reinforcement and pruning, involved in memory consolidation, can bring advantages to artificial neural networks. This thesis aims to apply neurobiological sleep-dependent learning mechanisms to machine learning. For this, we carried a review of memory consolidation theories and the computational models that support these theories. Observing how the brain optimizes biological resources, the research followed the trend of artificial neural networks to apply concepts present in biological learning in machine learning. Then computer simulations were carried out to explore the hypothesis that the underlying mechanisms used by the brain for biological learning through sleep are capable of optimizing artificial neural network learning. The synaptic spatiality can bring advantage for resource economy without a learning decay, so we used a sparse artificial neural network to learn different datasets and then test if sleep could reduce the minimum of synapses that a system needs to learn patterns. The simulations were carried in different network sizes, such as different sparsity levels, several databases, in addition to modern frameworks and algorithms for artificial neural network learning. The results corroborate the hypothesis that sleeping reduces the number of synapsis required to a certain learning limit.Coordenação de Aperfeiçoamento de Pessoal de Nível Superior - CAPESUniversidade Federal do Rio Grande do NortePROGRAMA DE PÓS-GRADUAÇÃO EM BIOINFORMÁTICAUFRNBrasilSonoMemóriaInteligência artificialRedes neurais artificiaisInvestigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsasinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisinfo:eu-repo/semantics/openAccessporreponame:Repositório Institucional da UFRNinstname:Universidade Federal do Rio Grande do Norte (UFRN)instacron:UFRNORIGINALInvestigacaoinsilicomecanismo_Silva_2021.pdfapplication/pdf2963772https://repositorio.ufrn.br/bitstream/123456789/46706/1/Investigacaoinsilicomecanismo_Silva_2021.pdfae8c4b0c81a02fe7bbbd9def0831e118MD51123456789/467062022-05-02 12:07:05.827oai:https://repositorio.ufrn.br:123456789/46706Repositório de PublicaçõesPUBhttp://repositorio.ufrn.br/oai/opendoar:2022-05-02T15:07:05Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)false
dc.title.pt_BR.fl_str_mv Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas
title Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas
spellingShingle Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas
Silva, Ana Cláudia Costa da
Sono
Memória
Inteligência artificial
Redes neurais artificiais
title_short Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas
title_full Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas
title_fullStr Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas
title_full_unstemmed Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas
title_sort Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas
author Silva, Ana Cláudia Costa da
author_facet Silva, Ana Cláudia Costa da
author_role author
dc.contributor.authorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/4555593159788385
dc.contributor.advisorLattes.pt_BR.fl_str_mv http://lattes.cnpq.br/0649912135067700
dc.contributor.referees1.none.fl_str_mv Dalmolin, Rodrigo Juliani Siqueira
dc.contributor.referees1Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/4065178015615979
dc.contributor.referees2.none.fl_str_mv Mohan, Madras Viswanathan Gandhi
dc.contributor.referees2Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/1995273890709490
dc.contributor.referees3.none.fl_str_mv Copelli, Mauro
dc.contributor.referees3Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/9400915429521069
dc.contributor.referees4.none.fl_str_mv Vasconcelos, Nivaldo Antônio Portela de
dc.contributor.referees4Lattes.pt_BR.fl_str_mv http://lattes.cnpq.br/4110109220389767
dc.contributor.author.fl_str_mv Silva, Ana Cláudia Costa da
dc.contributor.advisor-co1.fl_str_mv Costa, César Renno
dc.contributor.advisor-co1ID.fl_str_mv 22508952877
dc.contributor.advisor-co1Lattes.fl_str_mv http://lattes.cnpq.br/9222565820639401
dc.contributor.advisor1.fl_str_mv Ribeiro, Sidarta Tollendal Gomes
contributor_str_mv Costa, César Renno
Ribeiro, Sidarta Tollendal Gomes
dc.subject.por.fl_str_mv Sono
Memória
Inteligência artificial
Redes neurais artificiais
topic Sono
Memória
Inteligência artificial
Redes neurais artificiais
description As memórias são armazenadas no cérebro pela mudança persistente da conectividade entre neurônios e o sono desempenha um papel decisivo para a persistência dessas mudanças. Pesquisas sobre a neurobiologia do sono demonstram a ativação de mecanismos de plasticidade sináptica de longa duração. Dados experimentais apontam para um duplo papel do sono, tanto no esquecimento de memórias irrelevantes quanto no reforço das lembranças mais importantes. A hipótese investigada nesta tese é de que os mecanismos de reorganização sináptica envolvidos na consolidação de memórias podem trazer vantagens na performance das redes neurais artificiais. Este trabalho visa aplicar mecanismos neurobiológicos de aprendizagem dependente de sono na aprendizagem de máquina. Para isto, foi feita uma revisão das teorias de consolidação da memória através do sono, assim como dos modelos computacionais que dão suporte a essas teorias. Com a observação de como o cérebro otimiza os recursos biológicos, a pesquisa seguiu a tendência das redes neurais artificiais onde foram aplicados conceitos presentes na aprendizagem biológica, na aprendizagem de máquina. Então foram realizadas simulações de computador para explorar a hipótese de que os mecanismos subjacentes utilizados pelo cérebro para aprendizagem biológica através do sono são capazes de otimizar o aprendizado em redes neurais artificiais. A esparsialidade sináptica pode trazer vantagens na economia de recursos sem que haja um decaimento na aprendizagem, então, usamos uma rede neural artificial esparsa para aprender diferentes conjuntos de dados e, em seguida, testar se o sono poderia reduzir ainda mais o número mínimo de sinapses que um sistema precisa para o aprendizado de padrões. As simulações foram realizadas com diferentes tamanhos de rede, diferentes níveis de esparsialidades, diversas bases de dados além de utilizar modernos frameworks e algoritmos em aprendizagem de redes neurais profundas. Os resultados corroboram a hipótese de que o sono reduz o número necessário de sinapses para que se atinja um determinado limite de aprendizagem.
publishDate 2021
dc.date.issued.fl_str_mv 2021-11-09
dc.date.accessioned.fl_str_mv 2022-03-28T19:26:44Z
dc.date.available.fl_str_mv 2022-03-28T19:26:44Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.citation.fl_str_mv SILVA, Ana Cláudia Costa da. Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas. 2021. 88f. Tese (Doutorado em Bioinformática) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2021.
dc.identifier.uri.fl_str_mv https://repositorio.ufrn.br/handle/123456789/46706
identifier_str_mv SILVA, Ana Cláudia Costa da. Investigação in silico do mecanismo de reorganização sináptica do sono. Um algoritmo para maximizar a capacidade computacional de redes neurais esparsas. 2021. 88f. Tese (Doutorado em Bioinformática) - Instituto Metrópole Digital, Universidade Federal do Rio Grande do Norte, Natal, 2021.
url https://repositorio.ufrn.br/handle/123456789/46706
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.publisher.program.fl_str_mv PROGRAMA DE PÓS-GRADUAÇÃO EM BIOINFORMÁTICA
dc.publisher.initials.fl_str_mv UFRN
dc.publisher.country.fl_str_mv Brasil
publisher.none.fl_str_mv Universidade Federal do Rio Grande do Norte
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRN
instname:Universidade Federal do Rio Grande do Norte (UFRN)
instacron:UFRN
instname_str Universidade Federal do Rio Grande do Norte (UFRN)
instacron_str UFRN
institution UFRN
reponame_str Repositório Institucional da UFRN
collection Repositório Institucional da UFRN
bitstream.url.fl_str_mv https://repositorio.ufrn.br/bitstream/123456789/46706/1/Investigacaoinsilicomecanismo_Silva_2021.pdf
bitstream.checksum.fl_str_mv ae8c4b0c81a02fe7bbbd9def0831e118
bitstream.checksumAlgorithm.fl_str_mv MD5
repository.name.fl_str_mv Repositório Institucional da UFRN - Universidade Federal do Rio Grande do Norte (UFRN)
repository.mail.fl_str_mv
_version_ 1802117844053262336