Исследование моделей нейронных сетей типа BERT для анализа тональности текстов на русском языке

Abstract

Описываются результаты применения стандартных архитектур нейронных сетей (CNN, LSTM, BiLSTM) и недавно появившихся их моделей BERT на ранее размеченных данных для анализа тональности текстов на русском языке. Сравниваются два варианта русскоязычной модели BERT (RuBERT) и различные способы ее применения.