Códigos esféricos para quantização vetorial

Detalhes bibliográficos
Autor(a) principal: Miranda, Fabiano Boaventura de, 1987-
Data de Publicação: 2019
Tipo de documento: Tese
Idioma: por
Título da fonte: Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
Texto Completo: https://hdl.handle.net/20.500.12733/1637741
Resumo: Orientadores: Cristiano Torezzan, Sueli Irene Rodrigues Costa
id UNICAMP-30_32227d0191825b855d0968af9f026955
oai_identifier_str oai::1096031
network_acronym_str UNICAMP-30
network_name_str Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
repository_id_str
spelling Códigos esféricos para quantização vetorialSpherical codes for vector quantizationTeoria da informação - Processamento de dadosEmpacotamento de esferasCompressão de dados (Telecomunicações)Information theory - Data processingSphere packingsData compression (Telecommunication)Orientadores: Cristiano Torezzan, Sueli Irene Rodrigues CostaTese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação CientíficaResumo: A quantização vetorial é uma importante ferramenta para o gerenciamento e compressão de dados, com diversas aplicações clássicas em telecomunicações e teoria da informação. Com os recentes avanços de pesquisas em inteligência artificial, problemas de quantização têm recebido destaque, pois apresentam soluções eficientes para a compressão de pesos em métodos de aprendizado profundo (deep learning). Neste trabalho apresentamos uma proposta de quantizador vetorial para fontes Gaussianas que combina códigos esféricos em camadas de toros e a técnica shape/gain, que viabiliza a implementação de codificação e decodificação independentes para o shape, configurado por códigos esféricos, e para o gain, delineado por um quantizador escalar otimizado para uma dada taxa. Novas abordagens para a construção de códigos esféricos em camadas de toros são apresentadas, abarcando a construção recursiva de toros por meio de produtos de reticulados, uma heurística que explora códigos de permutação e o uso da espiral para alocação de códigos em hiperplanos igualmente espaçados. Além da descrição do quantizador apresentamos protocolos para codificação e decodificação e uma análise teórica assintótica, que explora a relação entre taxa de compressão em função da dimensão. O quantizador proposto foi implementado e aplicado na compressão de pesos de redes neurais profundas prétreinadas e os resultados das simulações validados com as análises teóricas. Este método de quantização foi comparado com os melhores quantizadores conhecidos na literatura e obteve desempenho superior para vários cenários, com a vantagem de ter baixa complexidade computacional para codificaçãoAbstract: Vector quantization is a relevant tool, with many applications in telecommunications and Theory of information. With the recent advances in artificial intelligence research, quantization problems have been emphasized for presenting efficient solutions for weight compression in deep learning methods. In this work we present a new vector quantizer for Gaussian sources that combines spherical codes on layers of tori and the shape/gain technique, which enables the implementation of independent coding and decoding for the shape, configured by spherical codes, and for the gain, outlined by a optimized scalar quantizer for a given rate. New approaches to the construction of spherical codes are presented, embracing a recursive construction of tori using lattice products, a heuristic that explores permutation codes and the use of the spiral for code allocation in equidistant hyperplanes. In addition, descripting the quantizer, we present protocols for coding and decoding process and an asymptotic theoretical analysis that explores the relationship between compression ratio and dimension. The proposed quantizer was implemented and applied to the weight compression on a pre-trained deep neural network and the simulation results validated with the theoretical analyzes. The quantization method proposed in this work was competitive with the best vector quantizers known in the literature for several scenarios, outperforming the state of the art for some casesDoutoradoMatemática AplicadaDoutor em Matemática AplicadaCAPES88881187684/2018-01[s.n.]Torezzan, Cristiano, 1976-Costa, Sueli Irene RodriguesStrapasson, João EloirFinamore, Weiler AlvesFirer, MarceloSilva, DaniloUniversidade Estadual de Campinas (UNICAMP). Instituto de Matemática, Estatística e Computação CientíficaPrograma de Pós-Graduação em Matemática AplicadaUNIVERSIDADE ESTADUAL DE CAMPINASMiranda, Fabiano Boaventura de, 1987-20192019-10-11T00:00:00Zinfo:eu-repo/semantics/publishedVersioninfo:eu-repo/semantics/doctoralThesisapplication/pdf1 recurso online (108 p.) : il., digital, arquivo PDF.https://hdl.handle.net/20.500.12733/1637741MIRANDA, Fabiano Boaventura de. Códigos esféricos para quantização vetorial. 2019. 1 recurso online (108 p.) Tese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação Científica, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1637741. Acesso em: 3 set. 2024.https://repositorio.unicamp.br/acervo/detalhe/1096031Requisitos do sistema: Software para leitura de arquivo em PDFporreponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)instname:Universidade Estadual de Campinas (UNICAMP)instacron:UNICAMPinfo:eu-repo/semantics/openAccess2019-12-12T14:42:50Zoai::1096031Biblioteca Digital de Teses e DissertaçõesPUBhttp://repositorio.unicamp.br/oai/tese/oai.aspsbubd@unicamp.bropendoar:2019-12-12T14:42:50Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP)false
dc.title.none.fl_str_mv Códigos esféricos para quantização vetorial
Spherical codes for vector quantization
title Códigos esféricos para quantização vetorial
spellingShingle Códigos esféricos para quantização vetorial
Miranda, Fabiano Boaventura de, 1987-
Teoria da informação - Processamento de dados
Empacotamento de esferas
Compressão de dados (Telecomunicações)
Information theory - Data processing
Sphere packings
Data compression (Telecommunication)
title_short Códigos esféricos para quantização vetorial
title_full Códigos esféricos para quantização vetorial
title_fullStr Códigos esféricos para quantização vetorial
title_full_unstemmed Códigos esféricos para quantização vetorial
title_sort Códigos esféricos para quantização vetorial
author Miranda, Fabiano Boaventura de, 1987-
author_facet Miranda, Fabiano Boaventura de, 1987-
author_role author
dc.contributor.none.fl_str_mv Torezzan, Cristiano, 1976-
Costa, Sueli Irene Rodrigues
Strapasson, João Eloir
Finamore, Weiler Alves
Firer, Marcelo
Silva, Danilo
Universidade Estadual de Campinas (UNICAMP). Instituto de Matemática, Estatística e Computação Científica
Programa de Pós-Graduação em Matemática Aplicada
UNIVERSIDADE ESTADUAL DE CAMPINAS
dc.contributor.author.fl_str_mv Miranda, Fabiano Boaventura de, 1987-
dc.subject.por.fl_str_mv Teoria da informação - Processamento de dados
Empacotamento de esferas
Compressão de dados (Telecomunicações)
Information theory - Data processing
Sphere packings
Data compression (Telecommunication)
topic Teoria da informação - Processamento de dados
Empacotamento de esferas
Compressão de dados (Telecomunicações)
Information theory - Data processing
Sphere packings
Data compression (Telecommunication)
description Orientadores: Cristiano Torezzan, Sueli Irene Rodrigues Costa
publishDate 2019
dc.date.none.fl_str_mv 2019
2019-10-11T00:00:00Z
dc.type.status.fl_str_mv info:eu-repo/semantics/publishedVersion
dc.type.driver.fl_str_mv info:eu-repo/semantics/doctoralThesis
format doctoralThesis
status_str publishedVersion
dc.identifier.uri.fl_str_mv https://hdl.handle.net/20.500.12733/1637741
MIRANDA, Fabiano Boaventura de. Códigos esféricos para quantização vetorial. 2019. 1 recurso online (108 p.) Tese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação Científica, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1637741. Acesso em: 3 set. 2024.
url https://hdl.handle.net/20.500.12733/1637741
identifier_str_mv MIRANDA, Fabiano Boaventura de. Códigos esféricos para quantização vetorial. 2019. 1 recurso online (108 p.) Tese (doutorado) - Universidade Estadual de Campinas, Instituto de Matemática Estatística e Computação Científica, Campinas, SP. Disponível em: https://hdl.handle.net/20.500.12733/1637741. Acesso em: 3 set. 2024.
dc.language.iso.fl_str_mv por
language por
dc.relation.none.fl_str_mv https://repositorio.unicamp.br/acervo/detalhe/1096031
Requisitos do sistema: Software para leitura de arquivo em PDF
dc.rights.driver.fl_str_mv info:eu-repo/semantics/openAccess
eu_rights_str_mv openAccess
dc.format.none.fl_str_mv application/pdf
1 recurso online (108 p.) : il., digital, arquivo PDF.
dc.publisher.none.fl_str_mv [s.n.]
publisher.none.fl_str_mv [s.n.]
dc.source.none.fl_str_mv reponame:Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
instname:Universidade Estadual de Campinas (UNICAMP)
instacron:UNICAMP
instname_str Universidade Estadual de Campinas (UNICAMP)
instacron_str UNICAMP
institution UNICAMP
reponame_str Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
collection Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP)
repository.name.fl_str_mv Biblioteca Digital de Teses e Dissertações da Universidade Estadual de Campinas (UNICAMP) - Universidade Estadual de Campinas (UNICAMP)
repository.mail.fl_str_mv sbubd@unicamp.br
_version_ 1809189153994178560

Registros relacionados