{"title":"Optimization Matters: Guidelines to Improve Representation Learning with Deep Networks","authors":"Aline R. Becher, M. Ponti","doi":"10.5753/eniac.2021.18287","DOIUrl":"https://doi.org/10.5753/eniac.2021.18287","url":null,"abstract":"Training deep neural networks is a relevant problem with open questions related to convergence and quality of learned representations. Gradient-based optimization methods are used in practice, but cases of failure and success are still to be investigated. In this context, we set out to better understand the convergence properties of different optimization strategies, under different parameter options. Our results show that (i) feature embeddings are impacted by different optimization settings, (ii) suboptimal results are achieved by the use of default parameters, (iii) significant improvement is obtained by making educated choices of parameters, (iv) learning rate decay should always be considered. Such findings offer guidelines for training and deployment of deep networks.","PeriodicalId":318676,"journal":{"name":"Anais do XVIII Encontro Nacional de Inteligência Artificial e Computacional (ENIAC 2021)","volume":"1 1","pages":"0"},"PeriodicalIF":0.0,"publicationDate":"2021-11-29","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"131694200","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
G. H. Nunes, Gustavo O. Martins, Carlos H. Q. Forster, A. C. Lorena
{"title":"Using instance hardness measures in curriculum learning","authors":"G. H. Nunes, Gustavo O. Martins, Carlos H. Q. Forster, A. C. Lorena","doi":"10.5753/eniac.2021.18251","DOIUrl":"https://doi.org/10.5753/eniac.2021.18251","url":null,"abstract":"Curriculum learning consists of training strategies for machine learning techniques in which the easiest observations are presented first, progressing into more difficult cases as training proceeds. For assembling the curriculum, it is necessary to order the observations a dataset has according to their difficulty. This work investigates how instance hardness measures, which can be used to assess the difficulty level of each observation in a dataset from different perspectives, can be used to assemble a curriculum. Experiments with four CIFAR-100 sub-problems have demonstrated the feasibility of using the instance hardness measures, the main advantage is on convergence speed and some datasets accuracy gains can also be verified.","PeriodicalId":318676,"journal":{"name":"Anais do XVIII Encontro Nacional de Inteligência Artificial e Computacional (ENIAC 2021)","volume":"81 1","pages":"0"},"PeriodicalIF":0.0,"publicationDate":"2021-11-29","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"123125930","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Matheus Rosisca Padovani, João Roberto Bertini Junior
{"title":"A stock trading algorithm based on trend forecasting and time series classification","authors":"Matheus Rosisca Padovani, João Roberto Bertini Junior","doi":"10.5753/eniac.2021.18272","DOIUrl":"https://doi.org/10.5753/eniac.2021.18272","url":null,"abstract":"Algorithm trading relies on the automatic identification of buying and selling points of a given asset to maximize profit. In this paper, we propose the Trend Classification Trading Algorithm (TCTA) which is based on time series classification and trend forecasting to perform trade. TCTA first employs the K-means to cluster 5-days closing price segments and label them according to its trend. A deep learning classification model is then trained with these label sequences to estimate the next trend. Trading points are given by the alternation on trend estimates. Results considering 20 shares from Ibovespa show TCTA present higher profit than buy-and-hold and trading schemes based on Moving Average Converge Divergence (MACD) or Bollinger bands.","PeriodicalId":318676,"journal":{"name":"Anais do XVIII Encontro Nacional de Inteligência Artificial e Computacional (ENIAC 2021)","volume":"25 1","pages":"0"},"PeriodicalIF":0.0,"publicationDate":"2021-11-29","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"133929161","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
{"title":"A Comparative Study on Morphological Neural Networks for Binary Classification","authors":"Luana Felipe de Barros, M. E. Valle","doi":"10.5753/eniac.2021.18292","DOIUrl":"https://doi.org/10.5753/eniac.2021.18292","url":null,"abstract":"Redes neurais morfológicas representam uma classe de redes neurais artificiais cujos neurônios efetuam uma operação da morfologia matemática seguida da aplicação de uma função de ativação. Este artigo apresenta um estudo comparativo de diferentes abordagens que utilizam redes neurais morfológicas. Especificamente, de acordo com a regra de treinamento, revisamos abordagens incrementais, baseadas no método de máxima descida, máquinas de aprendizado extremo e procedimento de otimização convexa-côncava. Experimentos computacionais mostraram que, em média, o perceptron erosão-dilatação reduzido com as estratégias bagging e ensemble obteve melhores resultados em diversos problemas de classificação binária.","PeriodicalId":318676,"journal":{"name":"Anais do XVIII Encontro Nacional de Inteligência Artificial e Computacional (ENIAC 2021)","volume":"13 1","pages":"0"},"PeriodicalIF":0.0,"publicationDate":"2021-11-29","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"131093965","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Lucas Pimenta de Souza, Paulo V. C. Batista, Petrônio C. L. Silva
{"title":"A New Heuristic for Radius Estimation in RBF Neural Networks","authors":"Lucas Pimenta de Souza, Paulo V. C. Batista, Petrônio C. L. Silva","doi":"10.5753/eniac.2021.18252","DOIUrl":"https://doi.org/10.5753/eniac.2021.18252","url":null,"abstract":"Redes Neurais baseadas em Funções de Base Radial (RBFNN) são métodos clássicos do aprendizado de máquina que contêm uma camada de Funções de Base Radial (RBF) que atuam como extrator de características para a camada final, que executa o reconhecimento de padrões. A estimação do raio das RBFs é uma das atividades mais cruciais do treinamento de modelos RBFNN e afeta diretamente o seu poder de generalização e acurácia. Neste trabalho é apresentado uma nova heurística para estimação do raio e experimentos computacionais são empregados para medir sua eficácia comparada à outras abordagens usando 14 problemas de classificação. A método proposta mostrou uma eficácia competitiva, vencendo os demais métodos em 9 dos 14 problemas.","PeriodicalId":318676,"journal":{"name":"Anais do XVIII Encontro Nacional de Inteligência Artificial e Computacional (ENIAC 2021)","volume":"52 1","pages":"0"},"PeriodicalIF":0.0,"publicationDate":"2021-11-29","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"132031428","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
{"title":"An iterated local search for the travelling salesman problem","authors":"P. Castellucci","doi":"10.5753/eniac.2021.18427","DOIUrl":"https://doi.org/10.5753/eniac.2021.18427","url":null,"abstract":"O Problema do Caixeiro Viajante é um problema clássico da Ciência da Computação, com muitas extensões e variações sendo estudadas ao longo de décadas de pesquisas, principalmente para aplicações relacionadas à logística. Aqui, apresentamos um algoritmo Iterated Local Search (ILS) para encontrar soluções para instâncias do problema proposto pela Competição Brasileira de Descoberta de Conhecimento em Bancos de Dados (KDD-BR). O algoritmo ILS é um algoritmo simples que não depende de nenhuma biblioteca de terceiros. Além disso, foi um dos métodos mais eficazes na competição.","PeriodicalId":318676,"journal":{"name":"Anais do XVIII Encontro Nacional de Inteligência Artificial e Computacional (ENIAC 2021)","volume":"12 1","pages":"0"},"PeriodicalIF":0.0,"publicationDate":"2021-11-29","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"114625783","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
{"title":"Algoritmo Evolucionário com Inspiração Quântica e Sequências Caóticas para Seleção de Atributos em Interfaces Cérebro-Computador","authors":"Alimed Celecia, Marley M. B. R. Vellasco","doi":"10.5753/eniac.2021.18269","DOIUrl":"https://doi.org/10.5753/eniac.2021.18269","url":null,"abstract":"Este trabalho descreve a exploração dos efeitos de adicionar ergodicidade a um Algoritmo Evolucionário com inspiração Quântica (QiEA) utilizando sequências caóticas em dois operadores: crossover uniforme caótico e porta quântica de atualização caótica. O algoritmo é aplicado na seleção de atributos de uma aplicação de interface cérebro-computador (BCI) que emprega o eletroencefalograma (EEG) da imaginação do movimento das mãos direita ou esquerda. Os resultados são comparados com os de um QiEA e Algoritmo Genético (GA) tradicionais, demonstrando que o QiEA caótico pode aperfeiçoar significativamente o tempo de convergência do modelo com só uma pequena perda na acurácia final do modelo.","PeriodicalId":318676,"journal":{"name":"Anais do XVIII Encontro Nacional de Inteligência Artificial e Computacional (ENIAC 2021)","volume":"10 1","pages":"0"},"PeriodicalIF":0.0,"publicationDate":"2021-11-29","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"131844002","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
Leonardo de A. Monte, Emília G. Oliveira, F. Cordeiro, V. Macário
{"title":"Semantic Segmentation for People Detection on Beach Images","authors":"Leonardo de A. Monte, Emília G. Oliveira, F. Cordeiro, V. Macário","doi":"10.5753/eniac.2021.18295","DOIUrl":"https://doi.org/10.5753/eniac.2021.18295","url":null,"abstract":"Nosso trabalho compara um conjunto de redes de segmentação semântica aplicados na detecção de pessoas em imagens de praia, como parte de um sistema de rastreamento automático para evitar que banhistas ultrapassem a região segura do mar. Em nossa análise, comparamos as redes de segmentação U-net, X-net, Linknet, e Unet++ usando os backbones prétreinados VGG-16 e VGG-19. Nós propomos nossa própria base de imagens, composta de 300 imagens. Os modelos foram avaliados utilizando a métrica F-score. Nossos resultados mostraram que a Linknet obteve o melhor valor de F-score, com 90.89%, enquanto a Linknet foi mais rápida que as outras redes, sem diferença estatística significativa.","PeriodicalId":318676,"journal":{"name":"Anais do XVIII Encontro Nacional de Inteligência Artificial e Computacional (ENIAC 2021)","volume":"148 1","pages":"0"},"PeriodicalIF":0.0,"publicationDate":"2021-11-29","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"132214502","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
{"title":"The Challenges of Modeling and Predicting Online Review Helpfulness","authors":"R. Sousa, T. Pardo","doi":"10.5753/eniac.2021.18298","DOIUrl":"https://doi.org/10.5753/eniac.2021.18298","url":null,"abstract":"Predicting review helpfulness is an important task in Natural Language Processing. It is useful for dealing with the huge amount of online reviews on varied domains and languages, helping and guiding users on what to read and consider in their daily decisions. However, there are limited initiatives to investigate the nature of this task and how hard it is. This paper aims to fulfill this gap, providing a better understanding of it. Two complementary experiments are performed in order to uncover patterns of usefulness evaluation as performed by humans and relevant features for machine prediction. To assure our results, we run the experiments for two different domains: movies and apps. We show that humans agree on the process of assigning helpfulness to reviews, despite the difficulty of the task. More than this, people perform this process systematically and consistently. Finally, we empirically identify the most relevant content features for machine learning prediction of review helpfulness.","PeriodicalId":318676,"journal":{"name":"Anais do XVIII Encontro Nacional de Inteligência Artificial e Computacional (ENIAC 2021)","volume":"13 1","pages":"0"},"PeriodicalIF":0.0,"publicationDate":"2021-11-29","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"133794281","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}
B. Afonso, Willian Oliveira, Jéssica D Lamosa, Lilian Berton
{"title":"KDD-BR 2021: Using Graph Neural Networks for Link Prediction in TSP Problem","authors":"B. Afonso, Willian Oliveira, Jéssica D Lamosa, Lilian Berton","doi":"10.5753/eniac.2021.18426","DOIUrl":"https://doi.org/10.5753/eniac.2021.18426","url":null,"abstract":"No problema do caixeiro viajante (TSP), o objetivo é encontrar uma rota que passe por todas as cidades e retorne à cidade de origem com a menor distância total percorrida. Como um problema NP-completo, encontrar soluções não é fácil, e várias heurísticas foram propostas. Atualmente, com o avanço no uso do Aprendizado de Máquina (AM), é possível usar o AM para prever conexões entre cidades na solução ótima. Nosso modelo, baseado em redes neurais de grafos, obteve uma pontuação F1 de 0,10645 na tabela de classificação pública do KDD-BR 2021, o suficiente para superar a solução gulosa. Isso mostra que o AM pode ser uma boa técnica para gerar soluções mais rapidamente ou até mesmo construir soluções melhores.","PeriodicalId":318676,"journal":{"name":"Anais do XVIII Encontro Nacional de Inteligência Artificial e Computacional (ENIAC 2021)","volume":"18 1","pages":"0"},"PeriodicalIF":0.0,"publicationDate":"2021-11-29","publicationTypes":"Journal Article","fieldsOfStudy":null,"isOpenAccess":false,"openAccessPdf":"","citationCount":null,"resultStr":null,"platform":"Semanticscholar","paperid":"133052155","PeriodicalName":null,"FirstCategoryId":null,"ListUrlMain":null,"RegionNum":0,"RegionCategory":"","ArticlePicture":[],"TitleCN":null,"AbstractTextCN":null,"PMCID":"","EPubDate":null,"PubModel":null,"JCR":null,"JCRName":null,"Score":null,"Total":0}