Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par
Autor(a) principal: | |
---|---|
Data de Publicação: | 2017 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da Universidade Federal do Ceará (UFC) |
Texto Completo: | http://www.repositorio.ufc.br/handle/riufc/22549 |
Resumo: | In the 21st century humanity has produced more new data (information) than in all its history. Understanding the nature of the various systems that generate this abundance of data has became the great challenge of this century. One way to formally analyze these large databases is to use the information theory developed by Claude Shannon. This theory allows us, using the principle of maximum entropy, to find the distributions of probabilities that best describes the collective behavior of these systems. In this dissertation we discuss the possibility of using Ising models to describe observation of real systems. Due to its limitations, employing the Ising model implies that the elements that constitute the real system can only be in two states, for example active or inactive. In addition, the Ising model counts only interactions between pairs of elements and disregards the possibility of interactions between larger groups of elements. As we will discuss, even with these limitations such a model can well describe results observed in some natural systems, such as networks of neurons. Specifically, we discuss results from earlier work that show that using only the activity averages of each neuron and the correlation between them, using Shannon’s theory, we observe that the states visited by the network follow the Ising distribution. In order to test the applicability of this method in several systems we generate synthetic data, obtained from Ising model in three systems: ferromagnetic, antiferromagnetic and spin glass. We call the system that generate the synthetic data as underlying system. We use methods of maximization of entropy to try to construct model systems that can reproduce the mean and correlations observed in the synthetic data. We thus verify in which situations our methods can actually generate a model system that reproduces the underlying system that generated the data. These results may establish a limit of applicability for the technique discussed. |
id |
UFC-7_ce11de7b75c3840c39399b92a58da0b3 |
---|---|
oai_identifier_str |
oai:repositorio.ufc.br:riufc/22549 |
network_acronym_str |
UFC-7 |
network_name_str |
Repositório Institucional da Universidade Federal do Ceará (UFC) |
repository_id_str |
|
spelling |
Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-parFísica da matéria condensadaTeoria da informaçãoMáxima entropiaRedes neurais (Computação)Modelo de IsingMáquina de BoltzmannIn the 21st century humanity has produced more new data (information) than in all its history. Understanding the nature of the various systems that generate this abundance of data has became the great challenge of this century. One way to formally analyze these large databases is to use the information theory developed by Claude Shannon. This theory allows us, using the principle of maximum entropy, to find the distributions of probabilities that best describes the collective behavior of these systems. In this dissertation we discuss the possibility of using Ising models to describe observation of real systems. Due to its limitations, employing the Ising model implies that the elements that constitute the real system can only be in two states, for example active or inactive. In addition, the Ising model counts only interactions between pairs of elements and disregards the possibility of interactions between larger groups of elements. As we will discuss, even with these limitations such a model can well describe results observed in some natural systems, such as networks of neurons. Specifically, we discuss results from earlier work that show that using only the activity averages of each neuron and the correlation between them, using Shannon’s theory, we observe that the states visited by the network follow the Ising distribution. In order to test the applicability of this method in several systems we generate synthetic data, obtained from Ising model in three systems: ferromagnetic, antiferromagnetic and spin glass. We call the system that generate the synthetic data as underlying system. We use methods of maximization of entropy to try to construct model systems that can reproduce the mean and correlations observed in the synthetic data. We thus verify in which situations our methods can actually generate a model system that reproduces the underlying system that generated the data. These results may establish a limit of applicability for the technique discussed.No século XXI a humanidade produziu mais novos dados (informações) do que em toda sua história. Entender a natureza dos diversos sistemas que geram essa abundância de dados se tornou um dos grandes desafios desse século. Uma forma de analisar formalmente esses grandes bancos de dados é empregando a teoria da informação desenvolvida por Claude Shannon. Essa teoria permite, usando o princípio da máxima entropia, encontrar as distribuições de probabilidades que melhor descrevem os comportamentos coletivos desses sistemas. Nessa dissertação, discutimos a possibilidade de usar modelos tipo Ising para descrever observações de sistemas reais. Devido a suas limitações, empregar o modelo de Ising implica em supor que os elementos que constituem o sistema real só podem estar em dois estados, por exemplo ativo ou inativo. Além disso, o modelo de Ising da conta apenas de interações entre pares de elementos e desconsidera a possibilidade de interações entre grupos maiores de elementos. Como discutiremos, mesmo com essas limitações tal modelo pode descrever bem resultados observados em alguns sistemas naturais, como por exemplo redes de neurônios. Especificamente, discutiremos resultados de trabalhos anteriores que mostram que usando apenas as médias de atividade de cada neurônio e a correlação entre os mesmo, usando a teoria de Shannon, observa-se que os estados visitados pela rede seguem à distribuição de Ising. Para testar a aplicabilidade desse método em diversos sistemas geramos dados sintéticos, obtidos de modelos tipo Ising em três situações: ferromagnético, anti-ferro e vidro de spins (spin glass). Nós chamamos o sistema que gera os dados sintéticos de sistema subjacente. Usamos métodos de maximização de entropia para tentar construir sistemas modelos que consigam reproduzir as média e correlações observadas nos dados sintéticos. Dessa forma, verificamos em que situações nossos métodos conseguem de fato gerar um sistema modelo que reproduza o sistema subjacente que gerou os dados. Esses resultados podem estabelecer um limite de aplicabilidade para a técnica discutida.Moreira, André AutoSena, Wagner Rodrigues de2017-04-18T17:57:42Z2017-04-18T17:57:42Z2017info:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisapplication/pdfSENA, W. R. Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par. 2017. 60 f. Dissertação (Mestrado em Física) – Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2017.http://www.repositorio.ufc.br/handle/riufc/22549porreponame:Repositório Institucional da Universidade Federal do Ceará (UFC)instname:Universidade Federal do Ceará (UFC)instacron:UFCinfo:eu-repo/semantics/openAccess2020-12-14T17:31:11Zoai:repositorio.ufc.br:riufc/22549Repositório InstitucionalPUBhttp://www.repositorio.ufc.br/ri-oai/requestbu@ufc.br || repositorio@ufc.bropendoar:2024-09-11T18:34:35.877875Repositório Institucional da Universidade Federal do Ceará (UFC) - Universidade Federal do Ceará (UFC)false |
dc.title.none.fl_str_mv |
Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par |
title |
Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par |
spellingShingle |
Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par Sena, Wagner Rodrigues de Física da matéria condensada Teoria da informação Máxima entropia Redes neurais (Computação) Modelo de Ising Máquina de Boltzmann |
title_short |
Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par |
title_full |
Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par |
title_fullStr |
Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par |
title_full_unstemmed |
Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par |
title_sort |
Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par |
author |
Sena, Wagner Rodrigues de |
author_facet |
Sena, Wagner Rodrigues de |
author_role |
author |
dc.contributor.none.fl_str_mv |
Moreira, André Auto |
dc.contributor.author.fl_str_mv |
Sena, Wagner Rodrigues de |
dc.subject.por.fl_str_mv |
Física da matéria condensada Teoria da informação Máxima entropia Redes neurais (Computação) Modelo de Ising Máquina de Boltzmann |
topic |
Física da matéria condensada Teoria da informação Máxima entropia Redes neurais (Computação) Modelo de Ising Máquina de Boltzmann |
description |
In the 21st century humanity has produced more new data (information) than in all its history. Understanding the nature of the various systems that generate this abundance of data has became the great challenge of this century. One way to formally analyze these large databases is to use the information theory developed by Claude Shannon. This theory allows us, using the principle of maximum entropy, to find the distributions of probabilities that best describes the collective behavior of these systems. In this dissertation we discuss the possibility of using Ising models to describe observation of real systems. Due to its limitations, employing the Ising model implies that the elements that constitute the real system can only be in two states, for example active or inactive. In addition, the Ising model counts only interactions between pairs of elements and disregards the possibility of interactions between larger groups of elements. As we will discuss, even with these limitations such a model can well describe results observed in some natural systems, such as networks of neurons. Specifically, we discuss results from earlier work that show that using only the activity averages of each neuron and the correlation between them, using Shannon’s theory, we observe that the states visited by the network follow the Ising distribution. In order to test the applicability of this method in several systems we generate synthetic data, obtained from Ising model in three systems: ferromagnetic, antiferromagnetic and spin glass. We call the system that generate the synthetic data as underlying system. We use methods of maximization of entropy to try to construct model systems that can reproduce the mean and correlations observed in the synthetic data. We thus verify in which situations our methods can actually generate a model system that reproduces the underlying system that generated the data. These results may establish a limit of applicability for the technique discussed. |
publishDate |
2017 |
dc.date.none.fl_str_mv |
2017-04-18T17:57:42Z 2017-04-18T17:57:42Z 2017 |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.uri.fl_str_mv |
SENA, W. R. Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par. 2017. 60 f. Dissertação (Mestrado em Física) – Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2017. http://www.repositorio.ufc.br/handle/riufc/22549 |
identifier_str_mv |
SENA, W. R. Teste de validade de métodos de maximização de entropia para construção de modelos com correlação par-a-par. 2017. 60 f. Dissertação (Mestrado em Física) – Centro de Ciências, Universidade Federal do Ceará, Fortaleza, 2017. |
url |
http://www.repositorio.ufc.br/handle/riufc/22549 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.format.none.fl_str_mv |
application/pdf |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da Universidade Federal do Ceará (UFC) instname:Universidade Federal do Ceará (UFC) instacron:UFC |
instname_str |
Universidade Federal do Ceará (UFC) |
instacron_str |
UFC |
institution |
UFC |
reponame_str |
Repositório Institucional da Universidade Federal do Ceará (UFC) |
collection |
Repositório Institucional da Universidade Federal do Ceará (UFC) |
repository.name.fl_str_mv |
Repositório Institucional da Universidade Federal do Ceará (UFC) - Universidade Federal do Ceará (UFC) |
repository.mail.fl_str_mv |
bu@ufc.br || repositorio@ufc.br |
_version_ |
1813028861921722368 |