O papel da arquitetura na estabilização de redes neuronais recorrentes
Autor(a) principal: | |
---|---|
Data de Publicação: | 2014 |
Tipo de documento: | Trabalho de conclusão de curso |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFRGS |
Texto Completo: | http://hdl.handle.net/10183/117935 |
Resumo: | A dinâmica de redes recorrentes em áreas corticais do encéfalo possui grande relevância na codificação de informações sensoriais. O processamento desse tipo de informação deve levar em conta características tanto espaciais como temporais desses estímulos. Estudos sugerem que tal codificação é feita como trajetórias em um espaço de fases. Essas trajetórias precisam ser estáveis para que a informação seja corretamente transmitida. Regras de plasticidade homeostáticas canônicas como o synaptic scaling, apesar de corretamente estabilizarem redes de estrutura feedforward, não conseguem estabilizar redes recorrentes. Uma outra forma de regra homeostática, chamada Presynaptic-dependent synaptic scaling, foi capaz de estabilizar a atividade de redes recorrentes em alguns casos, porém sua eficácia degrada com a quantidade de informação embebida na rede. Além disso, a estrutura topológica dessas redes ainda não foram detalhadamente descritas, e nenhuma estrutura preferencial foi aferida. Para adereçar essas questões, avaliamos a estabilidade da atividade frente a diversas arquiteturas de rede, variando a clusterização e a distribuição de graus de entrada. Também buscamos correlações entre o nível de estabilidade da rede e algumas de suas propriedades como o caminho mínimo médio, o índice de recursividade, a clusterização global e a média dos pesos sinápticos. Conseguimos observar que as redes apresentaram melhores valores de estabilidade para algumas distribuições de graus de entrada, sendo essas distribuições binomiais com caudas ligeiramente alongadas. Pudemos também observar melhor algumas das características dessas redes e como elas se auto-organizam. As demais propriedades não apresentaram uma influência significativa na estabilidade. Entretanto, os resultados não descartam existência de influência de propriedades locais da rede sobre a estabilidade. |
id |
UFRGS-2_fb0cca3e2e9d3632dbe75b2d009f1a3b |
---|---|
oai_identifier_str |
oai:www.lume.ufrgs.br:10183/117935 |
network_acronym_str |
UFRGS-2 |
network_name_str |
Repositório Institucional da UFRGS |
repository_id_str |
|
spelling |
Becker, Marcelo PortoErichsen Junior, Rubem2015-06-17T02:01:55Z2014http://hdl.handle.net/10183/117935000967322A dinâmica de redes recorrentes em áreas corticais do encéfalo possui grande relevância na codificação de informações sensoriais. O processamento desse tipo de informação deve levar em conta características tanto espaciais como temporais desses estímulos. Estudos sugerem que tal codificação é feita como trajetórias em um espaço de fases. Essas trajetórias precisam ser estáveis para que a informação seja corretamente transmitida. Regras de plasticidade homeostáticas canônicas como o synaptic scaling, apesar de corretamente estabilizarem redes de estrutura feedforward, não conseguem estabilizar redes recorrentes. Uma outra forma de regra homeostática, chamada Presynaptic-dependent synaptic scaling, foi capaz de estabilizar a atividade de redes recorrentes em alguns casos, porém sua eficácia degrada com a quantidade de informação embebida na rede. Além disso, a estrutura topológica dessas redes ainda não foram detalhadamente descritas, e nenhuma estrutura preferencial foi aferida. Para adereçar essas questões, avaliamos a estabilidade da atividade frente a diversas arquiteturas de rede, variando a clusterização e a distribuição de graus de entrada. Também buscamos correlações entre o nível de estabilidade da rede e algumas de suas propriedades como o caminho mínimo médio, o índice de recursividade, a clusterização global e a média dos pesos sinápticos. Conseguimos observar que as redes apresentaram melhores valores de estabilidade para algumas distribuições de graus de entrada, sendo essas distribuições binomiais com caudas ligeiramente alongadas. Pudemos também observar melhor algumas das características dessas redes e como elas se auto-organizam. As demais propriedades não apresentaram uma influência significativa na estabilidade. Entretanto, os resultados não descartam existência de influência de propriedades locais da rede sobre a estabilidade.The dynamics of recurrent networks in cortical areas of the brain has great relevance in the encoding of sensory information. The processing of such information must take into account both spatial and temporal proprieties of these stimuli. Studies suggest that such coding is done as trajectories in a phase space. These trajectories need to be stable so that the information is correctly transmitted. Canonical homeostatic rules as the synaptic scaling, although capable of properly stabilize networks with feedforward structures, cannot stabilize recurrent networks. Another form of homeostatic regulation, called Presynaptic-dependent synaptic scaling, was able to stabilize the activity of recurrent networks in some cases, but its effectiveness degrades with the amount of information embedded in the network. Moreover, the topological structure of these networks have not been described in detail, and no preferred structure was inferred. To deal with these questions, we evaluated the stability of the activity for several types of network architectures, modifying the clustering and the in-degree distribution. We also looked for correlations between the degree of network stability and some of the network properties such as the average shortest path, the index of recursion, the global clustering coefficient and the average synaptic weights. We observed that the networks showed better stability values for some in-degree distributions, with this distributions being binomials with slightly elongated tails. We could also better observe some of the characteristics of these networks and how they organize themselves. The other evaluated properties showed no significant influence on the stability. However, the results do not rule out the existence of influence of local properties on the stability of the network.application/pdfporRedes neuraisHomeostaseBioinformáticaRecurrent neuronal networksUnsupervised learningHomeostatic plasticityNetwork stabilityO papel da arquitetura na estabilização de redes neuronais recorrentesinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/bachelorThesisUniversidade Federal do Rio Grande do SulInstituto de BiociênciasPorto Alegre, BR-RS2014Biotecnologiagraduaçãoinfo:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFRGSinstname:Universidade Federal do Rio Grande do Sul (UFRGS)instacron:UFRGSORIGINAL000967322.pdf000967322.pdfTexto completoapplication/pdf2504554http://www.lume.ufrgs.br/bitstream/10183/117935/1/000967322.pdf5a5860da146d39af9287785fe96d637aMD51TEXT000967322.pdf.txt000967322.pdf.txtExtracted Texttext/plain99870http://www.lume.ufrgs.br/bitstream/10183/117935/2/000967322.pdf.txta8486d37c13a5f4299ae84819cef89d4MD52THUMBNAIL000967322.pdf.jpg000967322.pdf.jpgGenerated Thumbnailimage/jpeg1008http://www.lume.ufrgs.br/bitstream/10183/117935/3/000967322.pdf.jpg4253b7ef11ca4e664d69d194cf0390dbMD5310183/1179352018-10-24 08:40:07.9oai:www.lume.ufrgs.br:10183/117935Repositório de PublicaçõesPUBhttps://lume.ufrgs.br/oai/requestopendoar:2018-10-24T11:40:07Repositório Institucional da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)false |
dc.title.pt_BR.fl_str_mv |
O papel da arquitetura na estabilização de redes neuronais recorrentes |
title |
O papel da arquitetura na estabilização de redes neuronais recorrentes |
spellingShingle |
O papel da arquitetura na estabilização de redes neuronais recorrentes Becker, Marcelo Porto Redes neurais Homeostase Bioinformática Recurrent neuronal networks Unsupervised learning Homeostatic plasticity Network stability |
title_short |
O papel da arquitetura na estabilização de redes neuronais recorrentes |
title_full |
O papel da arquitetura na estabilização de redes neuronais recorrentes |
title_fullStr |
O papel da arquitetura na estabilização de redes neuronais recorrentes |
title_full_unstemmed |
O papel da arquitetura na estabilização de redes neuronais recorrentes |
title_sort |
O papel da arquitetura na estabilização de redes neuronais recorrentes |
author |
Becker, Marcelo Porto |
author_facet |
Becker, Marcelo Porto |
author_role |
author |
dc.contributor.author.fl_str_mv |
Becker, Marcelo Porto |
dc.contributor.advisor1.fl_str_mv |
Erichsen Junior, Rubem |
contributor_str_mv |
Erichsen Junior, Rubem |
dc.subject.por.fl_str_mv |
Redes neurais Homeostase Bioinformática |
topic |
Redes neurais Homeostase Bioinformática Recurrent neuronal networks Unsupervised learning Homeostatic plasticity Network stability |
dc.subject.eng.fl_str_mv |
Recurrent neuronal networks Unsupervised learning Homeostatic plasticity Network stability |
description |
A dinâmica de redes recorrentes em áreas corticais do encéfalo possui grande relevância na codificação de informações sensoriais. O processamento desse tipo de informação deve levar em conta características tanto espaciais como temporais desses estímulos. Estudos sugerem que tal codificação é feita como trajetórias em um espaço de fases. Essas trajetórias precisam ser estáveis para que a informação seja corretamente transmitida. Regras de plasticidade homeostáticas canônicas como o synaptic scaling, apesar de corretamente estabilizarem redes de estrutura feedforward, não conseguem estabilizar redes recorrentes. Uma outra forma de regra homeostática, chamada Presynaptic-dependent synaptic scaling, foi capaz de estabilizar a atividade de redes recorrentes em alguns casos, porém sua eficácia degrada com a quantidade de informação embebida na rede. Além disso, a estrutura topológica dessas redes ainda não foram detalhadamente descritas, e nenhuma estrutura preferencial foi aferida. Para adereçar essas questões, avaliamos a estabilidade da atividade frente a diversas arquiteturas de rede, variando a clusterização e a distribuição de graus de entrada. Também buscamos correlações entre o nível de estabilidade da rede e algumas de suas propriedades como o caminho mínimo médio, o índice de recursividade, a clusterização global e a média dos pesos sinápticos. Conseguimos observar que as redes apresentaram melhores valores de estabilidade para algumas distribuições de graus de entrada, sendo essas distribuições binomiais com caudas ligeiramente alongadas. Pudemos também observar melhor algumas das características dessas redes e como elas se auto-organizam. As demais propriedades não apresentaram uma influência significativa na estabilidade. Entretanto, os resultados não descartam existência de influência de propriedades locais da rede sobre a estabilidade. |
publishDate |
2014 |
dc.date.issued.fl_str_mv |
2014 |
dc.date.accessioned.fl_str_mv |
2015-06-17T02:01:55Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/bachelorThesis |
format |
bachelorThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
http://hdl.handle.net/10183/117935 |
dc.identifier.nrb.pt_BR.fl_str_mv |
000967322 |
url |
http://hdl.handle.net/10183/117935 |
identifier_str_mv |
000967322 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFRGS instname:Universidade Federal do Rio Grande do Sul (UFRGS) instacron:UFRGS |
instname_str |
Universidade Federal do Rio Grande do Sul (UFRGS) |
instacron_str |
UFRGS |
institution |
UFRGS |
reponame_str |
Repositório Institucional da UFRGS |
collection |
Repositório Institucional da UFRGS |
bitstream.url.fl_str_mv |
http://www.lume.ufrgs.br/bitstream/10183/117935/1/000967322.pdf http://www.lume.ufrgs.br/bitstream/10183/117935/2/000967322.pdf.txt http://www.lume.ufrgs.br/bitstream/10183/117935/3/000967322.pdf.jpg |
bitstream.checksum.fl_str_mv |
5a5860da146d39af9287785fe96d637a a8486d37c13a5f4299ae84819cef89d4 4253b7ef11ca4e664d69d194cf0390db |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS) |
repository.mail.fl_str_mv |
|
_version_ |
1815447150094450688 |