O papel da arquitetura na estabilização de redes neuronais recorrentes

Detalhes bibliográficos
Autor(a) principal: Becker, Marcelo Porto
Data de Publicação: 2014
Tipo de documento: Trabalho de conclusão de curso
Idioma: por
Título da fonte: Repositório Institucional da UFRGS
Texto Completo: http://hdl.handle.net/10183/117935
Resumo: A dinâmica de redes recorrentes em áreas corticais do encéfalo possui grande relevância na codificação de informações sensoriais. O processamento desse tipo de informação deve levar em conta características tanto espaciais como temporais desses estímulos. Estudos sugerem que tal codificação é feita como trajetórias em um espaço de fases. Essas trajetórias precisam ser estáveis para que a informação seja corretamente transmitida. Regras de plasticidade homeostáticas canônicas como o synaptic scaling, apesar de corretamente estabilizarem redes de estrutura feedforward, não conseguem estabilizar redes recorrentes. Uma outra forma de regra homeostática, chamada Presynaptic-dependent synaptic scaling, foi capaz de estabilizar a atividade de redes recorrentes em alguns casos, porém sua eficácia degrada com a quantidade de informação embebida na rede. Além disso, a estrutura topológica dessas redes ainda não foram detalhadamente descritas, e nenhuma estrutura preferencial foi aferida. Para adereçar essas questões, avaliamos a estabilidade da atividade frente a diversas arquiteturas de rede, variando a clusterização e a distribuição de graus de entrada. Também buscamos correlações entre o nível de estabilidade da rede e algumas de suas propriedades como o caminho mínimo médio, o índice de recursividade, a clusterização global e a média dos pesos sinápticos. Conseguimos observar que as redes apresentaram melhores valores de estabilidade para algumas distribuições de graus de entrada, sendo essas distribuições binomiais com caudas ligeiramente alongadas. Pudemos também observar melhor algumas das características dessas redes e como elas se auto-organizam. As demais propriedades não apresentaram uma influência significativa na estabilidade. Entretanto, os resultados não descartam existência de influência de propriedades locais da rede sobre a estabilidade.
id UFRGS-2_fb0cca3e2e9d3632dbe75b2d009f1a3b
oai_identifier_str oai:www.lume.ufrgs.br:10183/117935
network_acronym_str UFRGS-2
network_name_str Repositório Institucional da UFRGS
repository_id_str
spelling Becker, Marcelo PortoErichsen Junior, Rubem2015-06-17T02:01:55Z2014http://hdl.handle.net/10183/117935000967322A dinâmica de redes recorrentes em áreas corticais do encéfalo possui grande relevância na codificação de informações sensoriais. O processamento desse tipo de informação deve levar em conta características tanto espaciais como temporais desses estímulos. Estudos sugerem que tal codificação é feita como trajetórias em um espaço de fases. Essas trajetórias precisam ser estáveis para que a informação seja corretamente transmitida. Regras de plasticidade homeostáticas canônicas como o synaptic scaling, apesar de corretamente estabilizarem redes de estrutura feedforward, não conseguem estabilizar redes recorrentes. Uma outra forma de regra homeostática, chamada Presynaptic-dependent synaptic scaling, foi capaz de estabilizar a atividade de redes recorrentes em alguns casos, porém sua eficácia degrada com a quantidade de informação embebida na rede. Além disso, a estrutura topológica dessas redes ainda não foram detalhadamente descritas, e nenhuma estrutura preferencial foi aferida. Para adereçar essas questões, avaliamos a estabilidade da atividade frente a diversas arquiteturas de rede, variando a clusterização e a distribuição de graus de entrada. Também buscamos correlações entre o nível de estabilidade da rede e algumas de suas propriedades como o caminho mínimo médio, o índice de recursividade, a clusterização global e a média dos pesos sinápticos. Conseguimos observar que as redes apresentaram melhores valores de estabilidade para algumas distribuições de graus de entrada, sendo essas distribuições binomiais com caudas ligeiramente alongadas. Pudemos também observar melhor algumas das características dessas redes e como elas se auto-organizam. As demais propriedades não apresentaram uma influência significativa na estabilidade. Entretanto, os resultados não descartam existência de influência de propriedades locais da rede sobre a estabilidade.The dynamics of recurrent networks in cortical areas of the brain has great relevance in the encoding of sensory information. The processing of such information must take into account both spatial and temporal proprieties of these stimuli. Studies suggest that such coding is done as trajectories in a phase space. These trajectories need to be stable so that the information is correctly transmitted. Canonical homeostatic rules as the synaptic scaling, although capable of properly stabilize networks with feedforward structures, cannot stabilize recurrent networks. Another form of homeostatic regulation, called Presynaptic-dependent synaptic scaling, was able to stabilize the activity of recurrent networks in some cases, but its effectiveness degrades with the amount of information embedded in the network. Moreover, the topological structure of these networks have not been described in detail, and no preferred structure was inferred. To deal with these questions, we evaluated the stability of the activity for several types of network architectures, modifying the clustering and the in-degree distribution. We also looked for correlations between the degree of network stability and some of the network properties such as the average shortest path, the index of recursion, the global clustering coefficient and the average synaptic weights. We observed that the networks showed better stability values for some in-degree distributions, with this distributions being binomials with slightly elongated tails. We could also better observe some of the characteristics of these networks and how they organize themselves. The other evaluated properties showed no significant influence on the stability. However, the results do not rule out the existence of influence of local properties on the stability of the network.application/pdfporRedes neuraisHomeostaseBioinformáticaRecurrent neuronal networksUnsupervised learningHomeostatic plasticityNetwork stabilityO papel da arquitetura na estabilização de redes neuronais recorrentesinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesisUniversidade Federal do Rio Grande do SulInstituto de BiociênciasPorto Alegre, BR-RS2014Biotecnologiagraduaçãoinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRGSinstname:Universidade Federal do Rio Grande do Sul (UFRGS)instacron:UFRGSORIGINAL000967322.pdf000967322.pdfTexto completoapplication/pdf2504554http://www.lume.ufrgs.br/bitstream/10183/117935/1/000967322.pdf5a5860da146d39af9287785fe96d637aMD51TEXT000967322.pdf.txt000967322.pdf.txtExtracted Texttext/plain99870http://www.lume.ufrgs.br/bitstream/10183/117935/2/000967322.pdf.txta8486d37c13a5f4299ae84819cef89d4MD52THUMBNAIL000967322.pdf.jpg000967322.pdf.jpgGenerated Thumbnailimage/jpeg1008http://www.lume.ufrgs.br/bitstream/10183/117935/3/000967322.pdf.jpg4253b7ef11ca4e664d69d194cf0390dbMD5310183/1179352018-10-24 08:40:07.9oai:www.lume.ufrgs.br:10183/117935Repositório de PublicaçõesPUBhttps://lume.ufrgs.br/oai/requestopendoar:2018-10-24T11:40:07Repositório Institucional da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)false
dc.title.pt_BR.fl_str_mv O papel da arquitetura na estabilização de redes neuronais recorrentes
title O papel da arquitetura na estabilização de redes neuronais recorrentes
spellingShingle O papel da arquitetura na estabilização de redes neuronais recorrentes
Becker, Marcelo Porto
Redes neurais
Homeostase
Bioinformática
Recurrent neuronal networks
Unsupervised learning
Homeostatic plasticity
Network stability
title_short O papel da arquitetura na estabilização de redes neuronais recorrentes
title_full O papel da arquitetura na estabilização de redes neuronais recorrentes
title_fullStr O papel da arquitetura na estabilização de redes neuronais recorrentes
title_full_unstemmed O papel da arquitetura na estabilização de redes neuronais recorrentes
title_sort O papel da arquitetura na estabilização de redes neuronais recorrentes
author Becker, Marcelo Porto
author_facet Becker, Marcelo Porto
author_role author
dc.contributor.author.fl_str_mv Becker, Marcelo Porto
dc.contributor.advisor1.fl_str_mv Erichsen Junior, Rubem
contributor_str_mv Erichsen Junior, Rubem
dc.subject.por.fl_str_mv Redes neurais
Homeostase
Bioinformática
topic Redes neurais
Homeostase
Bioinformática
Recurrent neuronal networks
Unsupervised learning
Homeostatic plasticity
Network stability
dc.subject.eng.fl_str_mv Recurrent neuronal networks
Unsupervised learning
Homeostatic plasticity
Network stability
description A dinâmica de redes recorrentes em áreas corticais do encéfalo possui grande relevância na codificação de informações sensoriais. O processamento desse tipo de informação deve levar em conta características tanto espaciais como temporais desses estímulos. Estudos sugerem que tal codificação é feita como trajetórias em um espaço de fases. Essas trajetórias precisam ser estáveis para que a informação seja corretamente transmitida. Regras de plasticidade homeostáticas canônicas como o synaptic scaling, apesar de corretamente estabilizarem redes de estrutura feedforward, não conseguem estabilizar redes recorrentes. Uma outra forma de regra homeostática, chamada Presynaptic-dependent synaptic scaling, foi capaz de estabilizar a atividade de redes recorrentes em alguns casos, porém sua eficácia degrada com a quantidade de informação embebida na rede. Além disso, a estrutura topológica dessas redes ainda não foram detalhadamente descritas, e nenhuma estrutura preferencial foi aferida. Para adereçar essas questões, avaliamos a estabilidade da atividade frente a diversas arquiteturas de rede, variando a clusterização e a distribuição de graus de entrada. Também buscamos correlações entre o nível de estabilidade da rede e algumas de suas propriedades como o caminho mínimo médio, o índice de recursividade, a clusterização global e a média dos pesos sinápticos. Conseguimos observar que as redes apresentaram melhores valores de estabilidade para algumas distribuições de graus de entrada, sendo essas distribuições binomiais com caudas ligeiramente alongadas. Pudemos também observar melhor algumas das características dessas redes e como elas se auto-organizam. As demais propriedades não apresentaram uma influência significativa na estabilidade. Entretanto, os resultados não descartam existência de influência de propriedades locais da rede sobre a estabilidade.
publishDate 2014
dc.date.issued.fl_str_mv 2014
dc.date.accessioned.fl_str_mv 2015-06-17T02:01:55Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/bachelorThesis
format bachelorThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/10183/117935
dc.identifier.nrb.pt_BR.fl_str_mv 000967322
url http://hdl.handle.net/10183/117935
identifier_str_mv 000967322
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Repositório Institucional da UFRGS
instname:Universidade Federal do Rio Grande do Sul (UFRGS)
instacron:UFRGS
instname_str Universidade Federal do Rio Grande do Sul (UFRGS)
instacron_str UFRGS
institution UFRGS
reponame_str Repositório Institucional da UFRGS
collection Repositório Institucional da UFRGS
bitstream.url.fl_str_mv http://www.lume.ufrgs.br/bitstream/10183/117935/1/000967322.pdf
http://www.lume.ufrgs.br/bitstream/10183/117935/2/000967322.pdf.txt
http://www.lume.ufrgs.br/bitstream/10183/117935/3/000967322.pdf.jpg
bitstream.checksum.fl_str_mv 5a5860da146d39af9287785fe96d637a
a8486d37c13a5f4299ae84819cef89d4
4253b7ef11ca4e664d69d194cf0390db
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
repository.name.fl_str_mv Repositório Institucional da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)
repository.mail.fl_str_mv
_version_ 1815447150094450688