Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData
Autor(a) principal: | |
---|---|
Data de Publicação: | 2015 |
Tipo de documento: | Dissertação |
Idioma: | por |
Título da fonte: | Repositório Institucional da UFPA |
Texto Completo: | http://repositorio.ufpa.br/jspui/handle/2011/7487 |
Resumo: | Cresce cada vez mais a quantidade de cenários e aplicações que algoritmo necessitam de processamento e respostas em tempo real e que se utilizam de modelos estatísticos e de mineração de dados a fim de garantir um melhor suporte à tomada de decisão. As ferramentas disponíveis no mercado carecem de processos computacionais mais refinados que sejam capazes de extrair padrões de forma mais eficiente a partir de grandes volumes de dados. Além disso, há a grande necessidade, em diversos cenários, que o os resultados sejam providos em tempo real, tão logo inicie o processo, uma resposta imediata já deve estar sendo produzida. A partir dessas necessidades identificadas, neste trabalho propomos um processo autoral, chamado StormSOM, que consiste em um modelo de processamento, baseado em topologia distribuída, para a clusterização de grandes volumes de fluxos, contínuos e ilimitados, de dados, através do uso de redes neurais artificiais conhecidas como mapas auto-organizáveis, produzindo resultados em tempo real. Os experimentos foram realizados em um ambiente de computação em nuvem e os resultados comprovam a eficiência da proposta ao garantir que o modelo neural utilizado possa gerar respostas em tempo real para o processamento de Big Data. |
id |
UFPA_8cc6a1c5c0f777b729db16ea142c1fee |
---|---|
oai_identifier_str |
oai:repositorio.ufpa.br:2011/7487 |
network_acronym_str |
UFPA |
network_name_str |
Repositório Institucional da UFPA |
repository_id_str |
2123 |
spelling |
2017-01-30T13:30:32Z2017-01-30T13:30:32Z2015-08-28LIMA, João Gabriel Rodrigues de Oliveira. Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData. 2015. 61 f. Dissertação (Mestrado) - Universidade Federal do Pará, Instituto de Tecnologia, Belém, 2015. Programa de Pós-Graduação em Engenharia Elétrica.http://repositorio.ufpa.br/jspui/handle/2011/7487porUniversidade Federal do ParáPrograma de Pós-Graduação em Engenharia ElétricaUFPABrasilInstituto de TecnologiaCNPQ::CIENCIAS EXATAS E DA TERRA::PROBABILIDADE E ESTATISTICA::PROBABILIDADE E ESTATISTICA APLICADASCNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO::ENGENHARIA DE SOFTWAREMineração de dados (Computação)Redes neurais (Computação)Processamento eletrônico de dados em tempo realAlgoritmos de computadorBigDataBanco de dados relacionaisCluster (Sistema de computador)Stream (Sistema de computador)Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigDatainfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/masterThesisSANTANA, Ádamo Lima dehttp://lattes.cnpq.br/4073088744952858CARDOSO, Diego Lisboahttp://lattes.cnpq.br/0507944343674734http://lattes.cnpq.br/7905157737895005LIMA, João Gabriel Rodrigues de OliveiraCresce cada vez mais a quantidade de cenários e aplicações que algoritmo necessitam de processamento e respostas em tempo real e que se utilizam de modelos estatísticos e de mineração de dados a fim de garantir um melhor suporte à tomada de decisão. As ferramentas disponíveis no mercado carecem de processos computacionais mais refinados que sejam capazes de extrair padrões de forma mais eficiente a partir de grandes volumes de dados. Além disso, há a grande necessidade, em diversos cenários, que o os resultados sejam providos em tempo real, tão logo inicie o processo, uma resposta imediata já deve estar sendo produzida. A partir dessas necessidades identificadas, neste trabalho propomos um processo autoral, chamado StormSOM, que consiste em um modelo de processamento, baseado em topologia distribuída, para a clusterização de grandes volumes de fluxos, contínuos e ilimitados, de dados, através do uso de redes neurais artificiais conhecidas como mapas auto-organizáveis, produzindo resultados em tempo real. Os experimentos foram realizados em um ambiente de computação em nuvem e os resultados comprovam a eficiência da proposta ao garantir que o modelo neural utilizado possa gerar respostas em tempo real para o processamento de Big Data.info:eu-repo/semantics/openAccessreponame:Repositório Institucional da UFPAinstname:Universidade Federal do Pará (UFPA)instacron:UFPAORIGINALDissertacao_StormsomClusterizacaoTempo.pdfDissertacao_StormsomClusterizacaoTempo.pdfapplication/pdf1081222http://repositorio.ufpa.br/oai/bitstream/2011/7487/1/Dissertacao_StormsomClusterizacaoTempo.pdf30261425224872c11433d064abb4a2d8MD51CC-LICENSElicense_urllicense_urltext/plain; charset=utf-849http://repositorio.ufpa.br/oai/bitstream/2011/7487/2/license_url4afdbb8c545fd630ea7db775da747b2fMD52license_textlicense_texttext/html; charset=utf-80http://repositorio.ufpa.br/oai/bitstream/2011/7487/3/license_textd41d8cd98f00b204e9800998ecf8427eMD53license_rdflicense_rdfapplication/rdf+xml; charset=utf-80http://repositorio.ufpa.br/oai/bitstream/2011/7487/4/license_rdfd41d8cd98f00b204e9800998ecf8427eMD54LICENSElicense.txtlicense.txttext/plain; charset=utf-81866http://repositorio.ufpa.br/oai/bitstream/2011/7487/5/license.txt43cd690d6a359e86c1fe3d5b7cba0c9bMD55TEXTDissertacao_StormsomClusterizacaoTempo.pdf.txtDissertacao_StormsomClusterizacaoTempo.pdf.txtExtracted texttext/plain104624http://repositorio.ufpa.br/oai/bitstream/2011/7487/6/Dissertacao_StormsomClusterizacaoTempo.pdf.txt46acaf8008a3e01f63c29ad6df8de01eMD562011/74872017-12-06 10:27:39.131oai:repositorio.ufpa.br:2011/7487TElDRU7Dh0EgREUgRElTVFJJQlVJw4fDg08gTsODTy1FWENMVVNJVkEKCkNvbSBhIGFwcmVzZW50YcOnw6NvIGRlc3RhIGxpY2Vuw6dhLCB2b2PDqiAobyBhdXRvciAoZXMpIG91IG8gdGl0dWxhciBkb3MgZGlyZWl0b3MgZGUgYXV0b3IpIGNvbmNlZGUgYW8gUmVwb3NpdMOzcmlvIApJbnN0aXR1Y2lvbmFsIG8gZGlyZWl0byBuw6NvLWV4Y2x1c2l2byBkZSByZXByb2R1emlyLCAgdHJhZHV6aXIgKGNvbmZvcm1lIGRlZmluaWRvIGFiYWl4byksIGUvb3UgZGlzdHJpYnVpciBhIApzdWEgcHVibGljYcOnw6NvIChpbmNsdWluZG8gbyByZXN1bW8pIHBvciB0b2RvIG8gbXVuZG8gbm8gZm9ybWF0byBpbXByZXNzbyBlIGVsZXRyw7RuaWNvIGUgZW0gcXVhbHF1ZXIgbWVpbywgaW5jbHVpbmRvIG9zIApmb3JtYXRvcyDDoXVkaW8gb3UgdsOtZGVvLgoKVm9jw6ogY29uY29yZGEgcXVlIG8gRGVwb3NpdGEgcG9kZSwgc2VtIGFsdGVyYXIgbyBjb250ZcO6ZG8sIHRyYW5zcG9yIGEgc3VhIHB1YmxpY2HDp8OjbyBwYXJhIHF1YWxxdWVyIG1laW8gb3UgZm9ybWF0byAKcGFyYSBmaW5zIGRlIHByZXNlcnZhw6fDo28uCgpWb2PDqiB0YW1iw6ltIGNvbmNvcmRhIHF1ZSBvIERlcG9zaXRhIHBvZGUgbWFudGVyIG1haXMgZGUgdW1hIGPDs3BpYSBkZSBzdWEgcHVibGljYcOnw6NvIHBhcmEgZmlucyBkZSBzZWd1cmFuw6dhLCBiYWNrLXVwIAplIHByZXNlcnZhw6fDo28uCgpWb2PDqiBkZWNsYXJhIHF1ZSBhIHN1YSBwdWJsaWNhw6fDo28gw6kgb3JpZ2luYWwgZSBxdWUgdm9jw6ogdGVtIG8gcG9kZXIgZGUgY29uY2VkZXIgb3MgZGlyZWl0b3MgY29udGlkb3MgbmVzdGEgbGljZW7Dp2EuIApWb2PDqiB0YW1iw6ltIGRlY2xhcmEgcXVlIG8gZGVww7NzaXRvIGRhIHN1YSBwdWJsaWNhw6fDo28gbsOjbywgcXVlIHNlamEgZGUgc2V1IGNvbmhlY2ltZW50bywgaW5mcmluZ2UgZGlyZWl0b3MgYXV0b3JhaXMgCmRlIG5pbmd1w6ltLgoKQ2FzbyBhIHN1YSBwdWJsaWNhw6fDo28gY29udGVuaGEgbWF0ZXJpYWwgcXVlIHZvY8OqIG7Do28gcG9zc3VpIGEgdGl0dWxhcmlkYWRlIGRvcyBkaXJlaXRvcyBhdXRvcmFpcywgdm9jw6ogZGVjbGFyYSBxdWUgCm9idGV2ZSBhIHBlcm1pc3PDo28gaXJyZXN0cml0YSBkbyBkZXRlbnRvciBkb3MgZGlyZWl0b3MgYXV0b3JhaXMgcGFyYSBjb25jZWRlciBhbyBEZXBvc2l0YSBvcyBkaXJlaXRvcyBhcHJlc2VudGFkb3MgCm5lc3RhIGxpY2Vuw6dhLCBlIHF1ZSBlc3NlIG1hdGVyaWFsIGRlIHByb3ByaWVkYWRlIGRlIHRlcmNlaXJvcyBlc3TDoSBjbGFyYW1lbnRlIGlkZW50aWZpY2FkbyBlIHJlY29uaGVjaWRvIG5vIHRleHRvIApvdSBubyBjb250ZcO6ZG8gZGEgcHVibGljYcOnw6NvIG9yYSBkZXBvc2l0YWRhLgoKQ0FTTyBBIFBVQkxJQ0HDh8ODTyBPUkEgREVQT1NJVEFEQSBURU5IQSBTSURPIFJFU1VMVEFETyBERSBVTSBQQVRST0PDjU5JTyBPVSBBUE9JTyBERSBVTUEgQUfDik5DSUEgREUgRk9NRU5UTyBPVSBPVVRSTyAKT1JHQU5JU01PLCBWT0PDiiBERUNMQVJBIFFVRSBSRVNQRUlUT1UgVE9ET1MgRSBRVUFJU1FVRVIgRElSRUlUT1MgREUgUkVWSVPDg08gQ09NTyBUQU1Cw4lNIEFTIERFTUFJUyBPQlJJR0HDh8OVRVMgCkVYSUdJREFTIFBPUiBDT05UUkFUTyBPVSBBQ09SRE8uCgpPIERlcG9zaXRhIHNlIGNvbXByb21ldGUgYSBpZGVudGlmaWNhciBjbGFyYW1lbnRlIG8gc2V1IG5vbWUgKHMpIG91IG8ocykgbm9tZShzKSBkbyhzKSBkZXRlbnRvcihlcykgZG9zIGRpcmVpdG9zIAphdXRvcmFpcyBkYSBwdWJsaWNhw6fDo28sIGUgbsOjbyBmYXLDoSBxdWFscXVlciBhbHRlcmHDp8OjbywgYWzDqW0gZGFxdWVsYXMgY29uY2VkaWRhcyBwb3IgZXN0YSBsaWNlbsOnYS4KRepositório InstitucionalPUBhttp://repositorio.ufpa.br/oai/requestriufpabc@ufpa.bropendoar:21232017-12-06T13:27:39Repositório Institucional da UFPA - Universidade Federal do Pará (UFPA)false |
dc.title.pt_BR.fl_str_mv |
Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData |
title |
Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData |
spellingShingle |
Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData LIMA, João Gabriel Rodrigues de Oliveira CNPQ::CIENCIAS EXATAS E DA TERRA::PROBABILIDADE E ESTATISTICA::PROBABILIDADE E ESTATISTICA APLICADAS CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO::ENGENHARIA DE SOFTWARE Mineração de dados (Computação) Redes neurais (Computação) Processamento eletrônico de dados em tempo real Algoritmos de computador BigData Banco de dados relacionais Cluster (Sistema de computador) Stream (Sistema de computador) |
title_short |
Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData |
title_full |
Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData |
title_fullStr |
Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData |
title_full_unstemmed |
Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData |
title_sort |
Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData |
author |
LIMA, João Gabriel Rodrigues de Oliveira |
author_facet |
LIMA, João Gabriel Rodrigues de Oliveira |
author_role |
author |
dc.contributor.advisor1.fl_str_mv |
SANTANA, Ádamo Lima de |
dc.contributor.advisor1Lattes.fl_str_mv |
http://lattes.cnpq.br/4073088744952858 |
dc.contributor.advisor-co1.fl_str_mv |
CARDOSO, Diego Lisboa |
dc.contributor.advisor-co1Lattes.fl_str_mv |
http://lattes.cnpq.br/0507944343674734 |
dc.contributor.authorLattes.fl_str_mv |
http://lattes.cnpq.br/7905157737895005 |
dc.contributor.author.fl_str_mv |
LIMA, João Gabriel Rodrigues de Oliveira |
contributor_str_mv |
SANTANA, Ádamo Lima de CARDOSO, Diego Lisboa |
dc.subject.cnpq.fl_str_mv |
CNPQ::CIENCIAS EXATAS E DA TERRA::PROBABILIDADE E ESTATISTICA::PROBABILIDADE E ESTATISTICA APLICADAS CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO::ENGENHARIA DE SOFTWARE |
topic |
CNPQ::CIENCIAS EXATAS E DA TERRA::PROBABILIDADE E ESTATISTICA::PROBABILIDADE E ESTATISTICA APLICADAS CNPQ::CIENCIAS EXATAS E DA TERRA::CIENCIA DA COMPUTACAO::METODOLOGIA E TECNICAS DA COMPUTACAO::ENGENHARIA DE SOFTWARE Mineração de dados (Computação) Redes neurais (Computação) Processamento eletrônico de dados em tempo real Algoritmos de computador BigData Banco de dados relacionais Cluster (Sistema de computador) Stream (Sistema de computador) |
dc.subject.por.fl_str_mv |
Mineração de dados (Computação) Redes neurais (Computação) Processamento eletrônico de dados em tempo real Algoritmos de computador BigData Banco de dados relacionais Cluster (Sistema de computador) Stream (Sistema de computador) |
description |
Cresce cada vez mais a quantidade de cenários e aplicações que algoritmo necessitam de processamento e respostas em tempo real e que se utilizam de modelos estatísticos e de mineração de dados a fim de garantir um melhor suporte à tomada de decisão. As ferramentas disponíveis no mercado carecem de processos computacionais mais refinados que sejam capazes de extrair padrões de forma mais eficiente a partir de grandes volumes de dados. Além disso, há a grande necessidade, em diversos cenários, que o os resultados sejam providos em tempo real, tão logo inicie o processo, uma resposta imediata já deve estar sendo produzida. A partir dessas necessidades identificadas, neste trabalho propomos um processo autoral, chamado StormSOM, que consiste em um modelo de processamento, baseado em topologia distribuída, para a clusterização de grandes volumes de fluxos, contínuos e ilimitados, de dados, através do uso de redes neurais artificiais conhecidas como mapas auto-organizáveis, produzindo resultados em tempo real. Os experimentos foram realizados em um ambiente de computação em nuvem e os resultados comprovam a eficiência da proposta ao garantir que o modelo neural utilizado possa gerar respostas em tempo real para o processamento de Big Data. |
publishDate |
2015 |
dc.date.issued.fl_str_mv |
2015-08-28 |
dc.date.accessioned.fl_str_mv |
2017-01-30T13:30:32Z |
dc.date.available.fl_str_mv |
2017-01-30T13:30:32Z |
dc.type.status.fl_str_mv |
info:eu-repo/semantics/publishedVersion |
dc.type.driver.fl_str_mv |
info:eu-repo/semantics/masterThesis |
format |
masterThesis |
status_str |
publishedVersion |
dc.identifier.citation.fl_str_mv |
LIMA, João Gabriel Rodrigues de Oliveira. Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData. 2015. 61 f. Dissertação (Mestrado) - Universidade Federal do Pará, Instituto de Tecnologia, Belém, 2015. Programa de Pós-Graduação em Engenharia Elétrica. |
dc.identifier.uri.fl_str_mv |
http://repositorio.ufpa.br/jspui/handle/2011/7487 |
identifier_str_mv |
LIMA, João Gabriel Rodrigues de Oliveira. Stormsom: clusterização em tempo-real de fluxos de dados distribuídos no contexto de BigData. 2015. 61 f. Dissertação (Mestrado) - Universidade Federal do Pará, Instituto de Tecnologia, Belém, 2015. Programa de Pós-Graduação em Engenharia Elétrica. |
url |
http://repositorio.ufpa.br/jspui/handle/2011/7487 |
dc.language.iso.fl_str_mv |
por |
language |
por |
dc.rights.driver.fl_str_mv |
info:eu-repo/semantics/openAccess |
eu_rights_str_mv |
openAccess |
dc.publisher.none.fl_str_mv |
Universidade Federal do Pará |
dc.publisher.program.fl_str_mv |
Programa de Pós-Graduação em Engenharia Elétrica |
dc.publisher.initials.fl_str_mv |
UFPA |
dc.publisher.country.fl_str_mv |
Brasil |
dc.publisher.department.fl_str_mv |
Instituto de Tecnologia |
publisher.none.fl_str_mv |
Universidade Federal do Pará |
dc.source.none.fl_str_mv |
reponame:Repositório Institucional da UFPA instname:Universidade Federal do Pará (UFPA) instacron:UFPA |
instname_str |
Universidade Federal do Pará (UFPA) |
instacron_str |
UFPA |
institution |
UFPA |
reponame_str |
Repositório Institucional da UFPA |
collection |
Repositório Institucional da UFPA |
bitstream.url.fl_str_mv |
http://repositorio.ufpa.br/oai/bitstream/2011/7487/1/Dissertacao_StormsomClusterizacaoTempo.pdf http://repositorio.ufpa.br/oai/bitstream/2011/7487/2/license_url http://repositorio.ufpa.br/oai/bitstream/2011/7487/3/license_text http://repositorio.ufpa.br/oai/bitstream/2011/7487/4/license_rdf http://repositorio.ufpa.br/oai/bitstream/2011/7487/5/license.txt http://repositorio.ufpa.br/oai/bitstream/2011/7487/6/Dissertacao_StormsomClusterizacaoTempo.pdf.txt |
bitstream.checksum.fl_str_mv |
30261425224872c11433d064abb4a2d8 4afdbb8c545fd630ea7db775da747b2f d41d8cd98f00b204e9800998ecf8427e d41d8cd98f00b204e9800998ecf8427e 43cd690d6a359e86c1fe3d5b7cba0c9b 46acaf8008a3e01f63c29ad6df8de01e |
bitstream.checksumAlgorithm.fl_str_mv |
MD5 MD5 MD5 MD5 MD5 MD5 |
repository.name.fl_str_mv |
Repositório Institucional da UFPA - Universidade Federal do Pará (UFPA) |
repository.mail.fl_str_mv |
riufpabc@ufpa.br |
_version_ |
1797787907560308736 |