Redes de neurônios com interações sinápticas hierárquicas

Detalhes bibliográficos
Autor(a) principal: Idiart, Marco Aurelio Pires
Data de Publicação: 1991
Tipo de documento: Tese
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da UFRGS
Texto Completo: http://hdl.handle.net/10183/31716
Resumo: Na primeira etapa investigamos detalhadamente as propriedades de armazenamento de um modelo de redes de neurônios que apresenta uma organização em aglomerados semelhante àquela existente no Modelo Hierárquico de Dyson para ferromagnetismo. As memórias, neste modelo, são armazenadas através da Regra de Aprendizagem de Hebb, superposta à estrutura hieráquica. No caso de um número finito de padrões, mostramos que, junto com os padrões originais ou "ancestrais", o sistema é capaz de recuperar uma hierarquia de padrões "descendentes". Estes padrões diferem dos "ancestrais" nos sinais relativos das magnetizações nos diferentes blocos, e o número destas soluções cresce exponencialmente com o número de blocos, n(t) e0451, para grande. Para um número extensivo de padrões armazenados p = aN , onde N é o tamanho do sistema, nós investigamos a capacidade crítica de armazenamento do modelo tanto para "ancestrais" como para "descendentes". Usando dois métodos distintos, uma formulação de mecânica estatística de equilíbrio (campo médio) e uma análise de sinal-ruído, nós obtemos uma sucessão de capacidades de armazenamento que são sempre menores que o valor correspondente ao modelo de Hopfield. Usamos as razões entre estas capacidades e a do modelo de Hopfield para comparar os resultados dos dois métodos. Nós apresentamos o diagrama de fases no plano a — T para o caso especial de dois blocos e um único "descendente". A segunda parte é relacionada com o estudo do espaço de interações dos modelos de redes de neurônios. Neste caso nós buscamos determinar a máxima capacidade crítica de armazenamento para modelos que apresentem, de alguma forma, a mesma estrutura de blocos que discutimos antes. Para ter em conta esta estrutura foi preciso modificar o problema de Gardner. Para o armazenamento de padrões "ancestrais", obtivemos um valor de anc i". sempre menor que 2, o qual corresponde ao caso de modelos sem estrutura predefinida. Este resultado combina com aquele que encontramos anteriormente na análise de sinal-ruído. Por outro lado, mostramos que no caso especial de dois blocos esta estrutura pouco afeta a armazenagem conjunta de "ancestrais" e "descendentes".
id URGS_4d229dad59c3d808464ad1d23a96ec59
oai_identifier_str oai:www.lume.ufrgs.br:10183/31716
network_acronym_str URGS
network_name_str Biblioteca Digital de Teses e Dissertações da UFRGS
repository_id_str 1853
spelling Idiart, Marco Aurelio PiresTheumann, Alba Graciela Rivas de2011-09-09T06:01:16Z1991http://hdl.handle.net/10183/31716000055428Na primeira etapa investigamos detalhadamente as propriedades de armazenamento de um modelo de redes de neurônios que apresenta uma organização em aglomerados semelhante àquela existente no Modelo Hierárquico de Dyson para ferromagnetismo. As memórias, neste modelo, são armazenadas através da Regra de Aprendizagem de Hebb, superposta à estrutura hieráquica. No caso de um número finito de padrões, mostramos que, junto com os padrões originais ou "ancestrais", o sistema é capaz de recuperar uma hierarquia de padrões "descendentes". Estes padrões diferem dos "ancestrais" nos sinais relativos das magnetizações nos diferentes blocos, e o número destas soluções cresce exponencialmente com o número de blocos, n(t) e0451, para grande. Para um número extensivo de padrões armazenados p = aN , onde N é o tamanho do sistema, nós investigamos a capacidade crítica de armazenamento do modelo tanto para "ancestrais" como para "descendentes". Usando dois métodos distintos, uma formulação de mecânica estatística de equilíbrio (campo médio) e uma análise de sinal-ruído, nós obtemos uma sucessão de capacidades de armazenamento que são sempre menores que o valor correspondente ao modelo de Hopfield. Usamos as razões entre estas capacidades e a do modelo de Hopfield para comparar os resultados dos dois métodos. Nós apresentamos o diagrama de fases no plano a — T para o caso especial de dois blocos e um único "descendente". A segunda parte é relacionada com o estudo do espaço de interações dos modelos de redes de neurônios. Neste caso nós buscamos determinar a máxima capacidade crítica de armazenamento para modelos que apresentem, de alguma forma, a mesma estrutura de blocos que discutimos antes. Para ter em conta esta estrutura foi preciso modificar o problema de Gardner. Para o armazenamento de padrões "ancestrais", obtivemos um valor de anc i". sempre menor que 2, o qual corresponde ao caso de modelos sem estrutura predefinida. Este resultado combina com aquele que encontramos anteriormente na análise de sinal-ruído. Por outro lado, mostramos que no caso especial de dois blocos esta estrutura pouco afeta a armazenagem conjunta de "ancestrais" e "descendentes".In the first part we perform a detailed investigation of the storage properties of a model for neural networks that exhibits the same organization into clusters as Dyson's hierarchical model, for ferromagnetism, combined with Hebb's learning algorithm for p stored patterns. In the case of finite p, we show that together with the original stored patterns or "ancestors" the system retrieves also a hierarchy of "descendants". The "descendants" differ from the "ancestor" in the signs of the cluster overlaps, and the number of this solutions increases exponentially with the cluster number, n(t) ti e"", for large values of t. For an extensive number of stored patterns p = aN , where N is the size of the network, we investigate the criticai storage capacity of the model to both "ancestor" and "descendant" patterns. By using two different methods, a statistical mechanics formulation (mean-field) and a signal-to-noise analysis, we obtain a succession of criticai storage capacities that are below the corresponding value for Hopfield's model. We use the ratio of this criticai storage capacities to the same quantity as evaluated in Hopfield's model to compare the results in both methods. We present the phase diagram in the a — T plane for the particular case of two clusters and one descendant. The second part is related with the study of the space of interactions in neural network models. In this case we search for the maximal criticai storage capacity of models that present, in some sense, the same cluster struture that we discussed before. In order to take this structure in account we redefine the Gardner Program. Concerning the storage of "ancestors" we obtain a value of arx. always lower than 2, which corresponds to the original case of models without structure. This result agrees with that we found before in the signal-to-noise analysis. On the other side we show in the special case of two clusters that this structure barely affects the storage of "ancestors" and "descendants" together.application/pdfporBiofísicaTransformações de faseRedes neuraisRedes de neurônios com interações sinápticas hierárquicasinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisUniversidade Federal do Rio Grande do SulInstituto de FísicaCurso de Pós-Graduação em FísicaPorto Alegre, BR-RS1991doutoradoinfo:eu-repo/semantics/openAccessreponame:Biblioteca Digital de Teses e Dissertações da UFRGSinstname:Universidade Federal do Rio Grande do Sul (UFRGS)instacron:UFRGSORIGINAL000055428.pdf000055428.pdfTexto completoapplication/pdf1486718http://www.lume.ufrgs.br/bitstream/10183/31716/1/000055428.pdf61c6afac86dba98bff8125216981e3b2MD51TEXT000055428.pdf.txt000055428.pdf.txtExtracted Texttext/plain180923http://www.lume.ufrgs.br/bitstream/10183/31716/2/000055428.pdf.txt1955f2b527591be941691ca8599b3194MD52THUMBNAIL000055428.pdf.jpg000055428.pdf.jpgGenerated Thumbnailimage/jpeg1280http://www.lume.ufrgs.br/bitstream/10183/31716/3/000055428.pdf.jpg65739c3188aaa8e52048f790f92ac20fMD5310183/317162023-10-28 03:31:56.143156oai:www.lume.ufrgs.br:10183/31716Biblioteca Digital de Teses e Dissertaçõeshttps://lume.ufrgs.br/handle/10183/2PUBhttps://lume.ufrgs.br/oai/requestlume@ufrgs.br||lume@ufrgs.bropendoar:18532023-10-28T06:31:56Biblioteca Digital de Teses e Dissertações da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)false
dc.title.pt_BR.fl_str_mv Redes de neurônios com interações sinápticas hierárquicas
title Redes de neurônios com interações sinápticas hierárquicas
spellingShingle Redes de neurônios com interações sinápticas hierárquicas
Idiart, Marco Aurelio Pires
Biofísica
Transformações de fase
Redes neurais
title_short Redes de neurônios com interações sinápticas hierárquicas
title_full Redes de neurônios com interações sinápticas hierárquicas
title_fullStr Redes de neurônios com interações sinápticas hierárquicas
title_full_unstemmed Redes de neurônios com interações sinápticas hierárquicas
title_sort Redes de neurônios com interações sinápticas hierárquicas
author Idiart, Marco Aurelio Pires
author_facet Idiart, Marco Aurelio Pires
author_role author
dc.contributor.author.fl_str_mv Idiart, Marco Aurelio Pires
dc.contributor.advisor1.fl_str_mv Theumann, Alba Graciela Rivas de
contributor_str_mv Theumann, Alba Graciela Rivas de
dc.subject.por.fl_str_mv Biofísica
Transformações de fase
Redes neurais
topic Biofísica
Transformações de fase
Redes neurais
description Na primeira etapa investigamos detalhadamente as propriedades de armazenamento de um modelo de redes de neurônios que apresenta uma organização em aglomerados semelhante àquela existente no Modelo Hierárquico de Dyson para ferromagnetismo. As memórias, neste modelo, são armazenadas através da Regra de Aprendizagem de Hebb, superposta à estrutura hieráquica. No caso de um número finito de padrões, mostramos que, junto com os padrões originais ou "ancestrais", o sistema é capaz de recuperar uma hierarquia de padrões "descendentes". Estes padrões diferem dos "ancestrais" nos sinais relativos das magnetizações nos diferentes blocos, e o número destas soluções cresce exponencialmente com o número de blocos, n(t) e0451, para grande. Para um número extensivo de padrões armazenados p = aN , onde N é o tamanho do sistema, nós investigamos a capacidade crítica de armazenamento do modelo tanto para "ancestrais" como para "descendentes". Usando dois métodos distintos, uma formulação de mecânica estatística de equilíbrio (campo médio) e uma análise de sinal-ruído, nós obtemos uma sucessão de capacidades de armazenamento que são sempre menores que o valor correspondente ao modelo de Hopfield. Usamos as razões entre estas capacidades e a do modelo de Hopfield para comparar os resultados dos dois métodos. Nós apresentamos o diagrama de fases no plano a — T para o caso especial de dois blocos e um único "descendente". A segunda parte é relacionada com o estudo do espaço de interações dos modelos de redes de neurônios. Neste caso nós buscamos determinar a máxima capacidade crítica de armazenamento para modelos que apresentem, de alguma forma, a mesma estrutura de blocos que discutimos antes. Para ter em conta esta estrutura foi preciso modificar o problema de Gardner. Para o armazenamento de padrões "ancestrais", obtivemos um valor de anc i". sempre menor que 2, o qual corresponde ao caso de modelos sem estrutura predefinida. Este resultado combina com aquele que encontramos anteriormente na análise de sinal-ruído. Por outro lado, mostramos que no caso especial de dois blocos esta estrutura pouco afeta a armazenagem conjunta de "ancestrais" e "descendentes".
publishDate 1991
dc.date.issued.fl_str_mv 1991
dc.date.accessioned.fl_str_mv 2011-09-09T06:01:16Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv http://hdl.handle.net/10183/31716
dc.identifier.nrb.pt_BR.fl_str_mv 000055428
url http://hdl.handle.net/10183/31716
identifier_str_mv 000055428
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da UFRGS
instname:Universidade Federal do Rio Grande do Sul (UFRGS)
instacron:UFRGS
instname_str Universidade Federal do Rio Grande do Sul (UFRGS)
instacron_str UFRGS
institution UFRGS
reponame_str Biblioteca Digital de Teses e Dissertações da UFRGS
collection Biblioteca Digital de Teses e Dissertações da UFRGS
bitstream.url.fl_str_mv http://www.lume.ufrgs.br/bitstream/10183/31716/1/000055428.pdf
http://www.lume.ufrgs.br/bitstream/10183/31716/2/000055428.pdf.txt
http://www.lume.ufrgs.br/bitstream/10183/31716/3/000055428.pdf.jpg
bitstream.checksum.fl_str_mv 61c6afac86dba98bff8125216981e3b2
1955f2b527591be941691ca8599b3194
65739c3188aaa8e52048f790f92ac20f
bitstream.checksumAlgorithm.fl_str_mv MD5
MD5
MD5
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da UFRGS - Universidade Federal do Rio Grande do Sul (UFRGS)
repository.mail.fl_str_mv lume@ufrgs.br||lume@ufrgs.br
_version_ 1810085207627268096