Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par

Detalhes bibliográficos
Autor(a) principal: Sena, Wagner Rodrigues de
Data de Publicação: 2017
Tipo de documento: Dissertação
Idioma: por
Título da fonte: Repositório Institucional da Universidade Federal do Ceará (UFC)
Texto Completo: http://www.repositorio.ufc.br/handle/riufc/22549
Resumo: In the 21st century humanity has produced more new data (information) than in all its history. Understanding the nature of the various systems that generate this abundance of data has became the great challenge of this century. One way to formally analyze these large databases is to use the information theory developed by Claude Shannon. This theory allows us, using the principle of maximum entropy, to find the distributions of probabilities that best describes the collective behavior of these systems. In this dissertation we discuss the possibility of using Ising models to describe observation of real systems. Due to its limitations, employing the Ising model implies that the elements that constitute the real system can only be in two states, for example active or inactive. In addition, the Ising model counts only interactions between pairs of elements and disregards the possibility of interactions between larger groups of elements. As we will discuss, even with these limitations such a model can well describe results observed in some natural systems, such as networks of neurons. Specifically, we discuss results from earlier work that show that using only the activity averages of each neuron and the correlation between them, using Shannon’s theory, we observe that the states visited by the network follow the Ising distribution. In order to test the applicability of this method in several systems we generate synthetic data, obtained from Ising model in three systems: ferromagnetic, antiferromagnetic and spin glass. We call the system that generate the synthetic data as underlying system. We use methods of maximization of entropy to try to construct model systems that can reproduce the mean and correlations observed in the synthetic data. We thus verify in which situations our methods can actually generate a model system that reproduces the underlying system that generated the data. These results may establish a limit of applicability for the technique discussed.
id UFC-7_ce11de7b75c3840c39399b92a58da0b3
oai_identifier_str oai:repositorio.ufc.br:riufc/22549
network_acronym_str UFC-7
network_name_str Repositório Institucional da Universidade Federal do Ceará (UFC)
repository_id_str
spelling Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-parFísica da matéria condensadaTeoria da informaçãoMáxima entropiaRedes neurais (Computação)Modelo de IsingMáquina de BoltzmannIn the 21st century humanity has produced more new data (information) than in all its history. Understanding the nature of the various systems that generate this abundance of data has became the great challenge of this century. One way to formally analyze these large databases is to use the information theory developed by Claude Shannon. This theory allows us, using the principle of maximum entropy, to find the distributions of probabilities that best describes the collective behavior of these systems. In this dissertation we discuss the possibility of using Ising models to describe observation of real systems. Due to its limitations, employing the Ising model implies that the elements that constitute the real system can only be in two states, for example active or inactive. In addition, the Ising model counts only interactions between pairs of elements and disregards the possibility of interactions between larger groups of elements. As we will discuss, even with these limitations such a model can well describe results observed in some natural systems, such as networks of neurons. Specifically, we discuss results from earlier work that show that using only the activity averages of each neuron and the correlation between them, using Shannon’s theory, we observe that the states visited by the network follow the Ising distribution. In order to test the applicability of this method in several systems we generate synthetic data, obtained from Ising model in three systems: ferromagnetic, antiferromagnetic and spin glass. We call the system that generate the synthetic data as underlying system. We use methods of maximization of entropy to try to construct model systems that can reproduce the mean and correlations observed in the synthetic data. We thus verify in which situations our methods can actually generate a model system that reproduces the underlying system that generated the data. These results may establish a limit of applicability for the technique discussed.No século XXI a humanidade produziu mais novos dados (informações) do que em toda sua história. Entender a natureza dos diversos sistemas que geram essa abundância de dados se tornou um dos grandes desafios desse século. Uma forma de analisar formalmente esses grandes bancos de dados é empregando a teoria da informação desenvolvida por Claude Shannon. Essa teoria permite, usando o princípio da máxima entropia, encontrar as distribuições de probabilidades que melhor descrevem os comportamentos coletivos desses sistemas. Nessa dissertação, discutimos a possibilidade de usar modelos tipo Ising para descrever observações de sistemas reais. Devido a suas limitações, empregar o modelo de Ising implica em supor que os elementos que constituem o sistema real só podem estar em dois estados, por exemplo ativo ou inativo. Além disso, o modelo de Ising da conta apenas de interações entre pares de elementos e desconsidera a possibilidade de interações entre grupos maiores de elementos. Como discutiremos, mesmo com essas limitações tal modelo pode descrever bem resultados observados em alguns sistemas naturais, como por exemplo redes de neurônios. Especificamente, discutiremos resultados de trabalhos anteriores que mostram que usando apenas as médias de atividade de cada neurônio e a correlação entre os mesmo, usando a teoria de Shannon, observa-se que os estados visitados pela rede seguem à distribuição de Ising. Para testar a aplicabilidade desse método em diversos sistemas geramos dados sintéticos, obtidos de modelos tipo Ising em três situações: ferromagnético, anti-ferro e vidro de spins (spin glass). Nós chamamos o sistema que gera os dados sintéticos de sistema subjacente. Usamos métodos de maximização de entropia para tentar construir sistemas modelos que consigam reproduzir as média e correlações observadas nos dados sintéticos. Dessa forma, verificamos em que situações nossos métodos conseguem de fato gerar um sistema modelo que reproduza o sistema subjacente que gerou os dados. Esses resultados podem estabelecer um limite de aplicabilidade para a técnica discutida.Moreira, André AutoSena, Wagner Rodrigues de2017-04-18T17:57:42Z2017-04-18T17:57:42Z2017info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfSENA, W. R. Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par. 2017. 60 f. Dissertação (Mestrado em Física) – Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2017.http://www.repositorio.ufc.br/handle/riufc/22549porreponame:Repositório Institucional da Universidade Federal do Ceará (UFC)instname:Universidade Federal do Ceará (UFC)instacron:UFCinfo:eu-repo/semantics/openAccess2020-12-14T17:31:11Zoai:repositorio.ufc.br:riufc/22549Repositório InstitucionalPUBhttp://www.repositorio.ufc.br/ri-oai/requestbu@ufc.br || repositorio@ufc.bropendoar:2024-09-11T18:34:35.877875Repositório Institucional da Universidade Federal do Ceará (UFC) - Universidade Federal do Ceará (UFC)false
dc.title.none.fl_str_mv Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par
title Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par
spellingShingle Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par
Sena, Wagner Rodrigues de
Física da matéria condensada
Teoria da informação
Máxima entropia
Redes neurais (Computação)
Modelo de Ising
Máquina de Boltzmann
title_short Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par
title_full Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par
title_fullStr Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par
title_full_unstemmed Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par
title_sort Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par
author Sena, Wagner Rodrigues de
author_facet Sena, Wagner Rodrigues de
author_role author
dc.contributor.none.fl_str_mv Moreira, André Auto
dc.contributor.author.fl_str_mv Sena, Wagner Rodrigues de
dc.subject.por.fl_str_mv Física da matéria condensada
Teoria da informação
Máxima entropia
Redes neurais (Computação)
Modelo de Ising
Máquina de Boltzmann
topic Física da matéria condensada
Teoria da informação
Máxima entropia
Redes neurais (Computação)
Modelo de Ising
Máquina de Boltzmann
description In the 21st century humanity has produced more new data (information) than in all its history. Understanding the nature of the various systems that generate this abundance of data has became the great challenge of this century. One way to formally analyze these large databases is to use the information theory developed by Claude Shannon. This theory allows us, using the principle of maximum entropy, to find the distributions of probabilities that best describes the collective behavior of these systems. In this dissertation we discuss the possibility of using Ising models to describe observation of real systems. Due to its limitations, employing the Ising model implies that the elements that constitute the real system can only be in two states, for example active or inactive. In addition, the Ising model counts only interactions between pairs of elements and disregards the possibility of interactions between larger groups of elements. As we will discuss, even with these limitations such a model can well describe results observed in some natural systems, such as networks of neurons. Specifically, we discuss results from earlier work that show that using only the activity averages of each neuron and the correlation between them, using Shannon’s theory, we observe that the states visited by the network follow the Ising distribution. In order to test the applicability of this method in several systems we generate synthetic data, obtained from Ising model in three systems: ferromagnetic, antiferromagnetic and spin glass. We call the system that generate the synthetic data as underlying system. We use methods of maximization of entropy to try to construct model systems that can reproduce the mean and correlations observed in the synthetic data. We thus verify in which situations our methods can actually generate a model system that reproduces the underlying system that generated the data. These results may establish a limit of applicability for the technique discussed.
publishDate 2017
dc.date.none.fl_str_mv 2017-04-18T17:57:42Z
2017-04-18T17:57:42Z
2017
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/masterThesis
format masterThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv SENA, W. R. Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par. 2017. 60 f. Dissertação (Mestrado em Física) – Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2017.
http://www.repositorio.ufc.br/handle/riufc/22549
identifier_str_mv SENA, W. R. Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par. 2017. 60 f. Dissertação (Mestrado em Física) – Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2017.
url http://www.repositorio.ufc.br/handle/riufc/22549
dc.language.iso.fl_str_mv por
language por
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
dc.source.none.fl_str_mv reponame:Repositório Institucional da Universidade Federal do Ceará (UFC)
instname:Universidade Federal do Ceará (UFC)
instacron:UFC
instname_str Universidade Federal do Ceará (UFC)
instacron_str UFC
institution UFC
reponame_str Repositório Institucional da Universidade Federal do Ceará (UFC)
collection Repositório Institucional da Universidade Federal do Ceará (UFC)
repository.name.fl_str_mv Repositório Institucional da Universidade Federal do Ceará (UFC) - Universidade Federal do Ceará (UFC)
repository.mail.fl_str_mv bu@ufc.br || repositorio@ufc.br
_version_ 1813028861921722368