skip to main content
Idioma:
Tipo de recurso Mostra resultados com: Mostra resultados com: Índice

Use of meta-learning for hypeparameter tuning of classification problems

Rafael Gomes Mantovani André Carlos Ponce de Leon Ferreira de Carvalho; Joaquin Vanschoren

2018

Localização: ICMC - Inst. Ciên. Mat. Computação    (T M293um e.1 )(Acessar)

  • Título:
    Use of meta-learning for hypeparameter tuning of classification problems
  • Autor: Rafael Gomes Mantovani
  • André Carlos Ponce de Leon Ferreira de Carvalho; Joaquin Vanschoren
  • Assuntos: APRENDIZADO COMPUTACIONAL; ALGORITMOS GENÉTICOS; MINERAÇÃO DE DADOS; Ajuste De Hiper-Parâmetros; Classificaiton Problems; Hyperparameter Tuning; Meta-Aprendizado; Meta-Learning; Problemas De Classificação
  • Notas: Tese (Doutorado)
  • Descrição: Soluções de aprendizado de máquina tem sido cada vez mais usadas com sucesso para resolver problemas dos mais simples aos complexos. Entretanto, o processo de desenvolvimento de tais soluções ainda é um processo que depende da ação de especialistas humanos em tarefas como: pré-processamento dos dados, engenharia de features e seleção de modelos. Consequentemente, quando a complexidade destas tarefas atinge um nível muito alto, há a necessidade de soluções automatizadas, denominadas por Aprendizado de Máquina automatizado (AutoML). A maioria dos algoritmos usados em tais sistemas possuem hiper-parâmetros cujos valores podem afetar diretamente o desempenho preditivo dos modelos gerados. Assim sendo, o ajuste de hiper-parâmetros é uma tarefa recorrente no desenvolvimento de sistems de AutoML. Nesta tese investigou-se a automatização do ajuste de hiper-parâmetros por meio de Meta-aprendizado. Seguindo essa linha, experimentos massivos foram realizados para ajustar os hiper-parâmetros de diferentes algoritmos de classificação. Além disso, uma metodologia experimental aprimorada e adotada ao lngo da tese perimtiu identificar diferentes perfis de ajuste para diferentes algoritmos de classificação. Entretanto, os resultados também mostraram que em muitos casos as configurações default destes algoritmos induziram modelos mais precisos do que os obtidos por meio de ajuste. Assim, foi proposto um novo sistema de recomendação baseado em Meta-learning para identificar quando é melhor
    realizar o ajuste de parâmetros para os algoritmos de classificação ou apenas usar os valores default. O sistema proposto é capaz de generalizar várias etapas do aprendizado em um único framework modular, juntamente com a possibilidade de avaliar diferentes algoritmos de aprendizado de máquina. As análises descritivas das predições obtidas pelo sistema indicaram quais características podem ser responsáveis por determinar quando o ajuste se faz necessário para cada um dos algoritmos investigados na tese. Os resultados também demonstraram que o sistema recomendador proposto reduziu o tempo gasto com a otimização mantendo o desempenho preditivo dos modelos gerados. Além disso, dependendo do algoritmo de classificação modelado, o sistema foi estatisticamente superior aos baselines. A significância desdes resultados abre um novo número de oportunidades para trabalhos futuros.
  • Data de criação/publicação: 2018
  • Formato: 155 p.
  • Idioma: Inglês
Links
Voltar para lista de resultados

  • Realização: ABCD-USP USP   Logos de Redes Sociais: Freepik

Buscando em bases de dados remotas. Favor aguardar.