Sentiment analysis with recurrent neural networks on Turkish reviews domain

Abstract

İnternetin kullanılabilirliği ve bilgisayarlara, mobil cihazlara daha kolay erişim insanlara sosyal medyayı daha sık ve daha rahat kullanabilme fırsatı verdi. Sosyal medya, bloglar, forumlar, iş ağları, eleştiri siteleri ve sosyal ağlar dahil olmak üzere pek çok biçimde gelir. Bu nedenle, sosyal medya çeşitli ürün, hizmet, sosyal olaylar ve politika hakkında kullanıcıların görüşleri, düşünceleri ve tartışmaları şeklinde muazzam bir bilgi kaynağı oluşturur. Bu tür verileri iyi yapılandırarak ve analiz ederek, ürünler ve hizmetler hakkında önemli geri bildirimler elde edebiliriz. Bu araştırma alanı genellikle duygu analizi veya düşünce madenciliği olarak adlandırılmaktadır. Derin Sınır Ağları (DNNs) nedeniyle bu Doğal Dil İşleme alanı son on yılda büyüleyici bir ilerlemeye tanık olmuştur.Özyineli Sınır Ağları (RNNs), modelleme birimlerinde dizi ile kullanılan DNN mimarileri türlerinden biridir. El yazısı tanıma, dil modelleme, makine çevirisi ve duygu analizi gibi dizi etiketlendirme ve dizi öngörü görevleri için başarıyla kullanılmıştır. RNN'leri kullanarak duygu analizi üzerinde yapılan çalışmaların çoğu İngilizce metinlere odaklanmıştır. Birkaç araştırmalar değişik dillerde yapıldı. Bu tez kapsamında, RNN'leri kullanılarak duygu sınıflandırması Türkçe yorum alanına uygulanmıştır.Ek olarak, kabul edilebilir sonuçlar elde etmek için farklı türlerde kelime gösterimleri kullanılmıştır. Bu tez, ele alınan model mimarilerinin bir tanımını ve bunların iki Türk film incelemesi veri setinde çeşitli kelime temsilleriyle karşılaştırılmasını sunmaktadır. Genel olarak, deneysel sonuçlarımız RNN modellerinin, Türkçe metinlerinde İngilizce metinlerde olduğu gibi oldukça iyi sonuçlar elde ettiğini ve farklı kelime gösterimlerini seçmenin yaklaşımların performansını artırabileceğini göstermektedir.

Easier access to computers, mobile devices, and availability of the Internet have given people the opportunity to use social media more frequently and with more convenience. Social media comes in many forms, including blogs, forums, business networks, review sites, and social networks. Therefore, social media generates massive sources of information in the shape of users' views, opinions, and arguments about various products, services, social events, and politics. By well-structuring and analysing this kind of data we can obtain significant feedbacks about products andservices. This area of research is typically called sentiment analysis or opinion mining. In the last decade, this field of Natural Language Processing (NLP) has witnessed a fascinating progress due to Deep Neural Networks (DNNs).Recurrent Neural Networks (RNNs) are one of the main types of DNN architectures which are used at modelling units in sequence. They have been successfully used for sequence labelling and sequence prediction tasks, such as handwriting recognition, language modelling, machine translation, and sentiment analysis.Most of the studies carried on sentiment analysis using RNNs have been focused on English texts and some researches have studied on different languages. In this thesis, sentiment classification using RNNs is applied on Turkish reviews domain. Additionally, different types of word representations are used to achieve acceptable results. This dissertation presents a description of the considered model architectures and comparison of them with various word representations on two Turkish movie reviews datasets. Generally, our experimental results show that RNN models achieve reasonably good results on Turkish texts as on English texts and choice of different word representations can improve the performance of the approaches.