RDBU| Repositório Digital da Biblioteca da Unisinos

An analysis of hierarchical text classification using word embeddings

Show simple item record

metadataTrad.dc.contributor.author Stein, Roger Alan;
metadataTrad.dc.contributor.authorLattes http://lattes.cnpq.br/6303163503199490;
metadataTrad.dc.contributor.advisor Maillard, Patrícia Augustin Jaques;
metadataTrad.dc.contributor.advisorLattes http://lattes.cnpq.br/5723385125570881;
metadataTrad.dc.contributor.advisor-co1 Valiati, João Francisco;
metadataTrad.dc.contributor.advisor-co1Lattes http://lattes.cnpq.br/4658545839496086;
metadataTrad.dc.publisher Universidade do Vale do Rio dos Sinos;
metadataTrad.dc.publisher.initials Unisinos;
metadataTrad.dc.publisher.country Brasil;
metadataTrad.dc.publisher.department Escola Politécnica;
metadataTrad.dc.language pt_BR;
metadataTrad.dc.title An analysis of hierarchical text classification using word embeddings;
metadataTrad.dc.description.resumo Efficient distributed numerical word representation models (word embeddings) combined with modern machine learning algorithms have recently yielded considerable improvement on automatic document classification tasks. However, the effectiveness of such techniques has not been assessed for the hierarchical text classification (HTC) yet. This study investigates application of those models and algorithms on this specific problem by means of experimentation and analysis. Classification models were trained with prominent machine learning algorithm implementations—fastText, XGBoost, and Keras’ CNN—and noticeable word embeddings generation methods—GloVe, word2vec, and fastText—with publicly available data and evaluated them with measures specifically appropriate for the hierarchical context. FastText achieved an LCAF1 of 0.871 on a single-labeled version of the RCV1 dataset. The results analysis indicates that using word embeddings is a very promising approach for HTC.;
metadataTrad.dc.description.abstract Modelos eficientes de representação numérica textual (word embeddings) combinados com algoritmos modernos de aprendizado de máquina têm recentemente produzido uma melhoria considerável em tarefas de classificação automática de documentos. Contudo, a efetividade de tais técnicas ainda não foi avaliada com relação à classificação hierárquica de texto. Este estudo investiga a aplicação daqueles modelos e algoritmos neste problema em específico através de experimentação e análise. Modelos de classificação foram treinados usando implementações proeminentes de algoritmos de aprendizado de máquina—fastText, XGBoost e CNN (Keras)— e notórios métodos de geração de word embeddings—GloVe, word2vec e fastText—com dados disponíveis publicamente e avaliados usando métricas especificamente adequadas ao contexto hierárquico. Nesses experimentos, fastText alcançou um LCAF1 de 0,871 usando uma versão da base de dados RCV1 com apenas uma categoria por tupla. A análise dos resultados indica que a utilização de word embeddings é uma abordagem muito promissora para classificação hierárquica de texto.;
metadataTrad.dc.subject Hierarchical classification; Text classification; Word embeddings; Convolutional neural networks; FastText; Classificação hierárquica; Classificação textual; Redes neurais (computação); FastText;
metadataTrad.dc.subject.cnpq ACCNPQ::Ciências Exatas e da Terra::Ciência da Computação;
metadataTrad.dc.type Dissertação;
metadataTrad.dc.date.issued 2018-03-28;
metadataTrad.dc.description.sponsorship CAPES - Coordenação de Aperfeiçoamento de Pessoal de Nível Superior;
metadataTrad.dc.rights openAccess;
metadataTrad.dc.identifier.uri http://www.repositorio.jesuita.org.br/handle/UNISINOS/7624;
metadataTrad.dc.publisher.program Programa de Pós-Graduação em Computação Aplicada;


Files in this item

This item appears in the following Collection(s)

Show simple item record

Search

Advanced Search

Browse

My Account

Statistics