A new SMBO-Based parameter tuning framework to optimization algorithms

• Autor(a) principal: Áthila Rocha Trindade
• Data de Publicação: 2019
• Tipo de documento: Tese
• Idioma: eng
• Título da fonte: Repositório Institucional da UFMG
• Texto Completo: http://hdl.handle.net/1843/32403
• topic: Metaheuristics; Parameter tuning; Regression modelling; Engenharia elétrica; Otimização combinatória; Programação heuristica; R (Linguagem de programação de computador)

Uma variedade de algoritmos tem sido propostos pela área de otimização para resolução dos mais diferentes problemas. Heurísticas e Metaheurísticas são duas classes de algoritmos que tem sido largamente utilizados para a resolução de problemas práticos de otimização, devido à sua capacidade de alcançar soluções satisfatórias em um tempo computacional razoável, mesmo tratando-se de problemas com alta complexidade computacional (com relação à, por exemplo: problemas não modais, não diferenciáveis ou NP-completos). Estes algoritmos podem ter o balanço entre o nível de exploração global e busca local no espaço de variáveis ajustado através da escolha de adequados valores de parâmetros (os quais podem ser numéricos ou categóricos) que controlam seu com- portamento. Desta forma, para que Heurísticas e Metaheurísticas sejam utilizadas com seu máximo potencial, é necessária a utilização de estratégias apropriadas de escolha dos valores de seus parâmetros, ou seja, devem ser escolhidos valores de parâmetros que balanceiem os níveis de buscas global e local. Estratégias pioneiras baseadas na escolha de parâmetros por tentativa e erro não alcançaram resultados satisfatórios. Por outro lado, métodos baseados em modelagem e inferência estatística sobre os dados de desempenho do algoritmo; isto é, que determinam valores de parâmetros para um algoritmo resolver determinada classe de problemas baseando-se em estatísticas obtidas à partir das amostras de problemas desta classe, tem sido propostos nas últimas duas décadas. Ademais, as configurações (valores de parâmetros) dos algoritmos obtidas por estes métodos podem também auxiliar pesquisadores da área em experimentalmente investigar aspectos do comportamento do algoritmo. Com base na questão descrita anteriormente, este trabalho investiga a proposição de um novo framework de ajuste de parâmetros baseado na melhoria iterativa de modelos estatísticos sobre o desempenho do algoritmo, os quais representam modelos de predição do comportamento do algoritmo. Os resultados experimentais mostraram que o framework é capaz e retornar resultados similares à outros métodos de ajuste de parâmetros difundidos na literatura; com a vantagem de informar também ao usuário modelos de predição do comportamento do algoritmo que descrevem as diferenças de relevância entre os parâmetros. Este framework está disponível para uso dos pesquisadores da área de otimização e metaheurísticas, na forma de um pacote de código aberto da linguagem R.