Deep learning aided data detectionfor future wireless communication systems

Abstract

Güvenilir hızlı ve efektif telsiz haberleşme yöntemleri teknik açıdan zorluklara sahip yeni uygulamalar ile gelişen bir alan olarak devam etmektedir. Bu çerçevede 5. nesil telsiz haberleşme ağlarının mevcut teknik zorluklarını karşılamak amaçlı çoklu parametre kümesine sahip dik frekans bölmeli çoğullama (orthogonal frequency division multiplexing, OFDM) istenen performansları karşılamak amacıyla önerilmiştir. Ancak telsiz haberleşme kullanıcıları ve uygulamaları sayılarında görülen artış eğilimi nedeniyle OFDM tabanlı bir fiziksel katmanın yeterliliği yeni nesil fiziksel katman teknikleri için tartışmalıdır. Bu nedenden dolayı 5. nesil sonrası haberleşme sistemleri için yeni telsiz haberleşme yöntemlerine ihtiyaç duyulduğu konusunda yaygın bir düşünce bulunmaktadır. Genelleştirilmiş Frekans Bölmeli çoğullama (Generalized Frequency Division Multiplexing, GFDM), son yıllarda öne çıkmış gelecek nesil haberleşme sistemlerinin zorluklarıyla başa çıkmak için ön görülen bir fiziksel katman tekniğidir. GFDM zaman frekans kaynağı planlamasına izin vermesiyle iletim gecikmesine karşı, düşürülmüş çevrimsel önek (cyclic prefix) ile uzaysal verimliliğe karşı, her alttaşıyıcının bir süzgeçten geçirilmesiyle OOB yayılıma karşı çözüm getirmektedir. Indis Modülasyonu (index modulation, IM) modülasyonu spektrum ve uzaysal verimliliği nedeniyle oldukça ilgi görmüş basit bir sayısal modülasyon tekniğidir. Geleneksel sayısal modülasyonların tersine, IM iletişim sisteminin yapıtaşları olan anten, zaman dilimi gibi bilgilerin var olup olmamasını kullanarak bilgi iletimi yapar. Uzaysal modulasyon bilgi iletmek için antenleri kullanırken, OFDM-IM sistemlerde alt taşıyıcı pozisyonlarının var/yok mekanizmasıyla bilgi iletimi için kullanılır. Buna göre bazı alt taşıyıcılar kullanılmaz. Bu sayede kullanılmayan alt taşıyıcıların enerjileri, kullanılan alt taşıyıcılara aktarılarak bit başına düşen enerji miktarı artırılır ve bit hata oranı başarımında artış sağlanır.Gün geçtikçe artan veri hızı ve kullanıcı sayısı, frekans spektrumundaki sınırlılık nedeniyle araştırmacıları spectral verimliği artırmak için çözüm yollarına yöneltmiştir. Çok girişli çok çıkışlı sistemler (multiple input multiple output, MIMO) buna çözüm olarak sunulan yenilikçi bir yaklaşımdır. MIMO sistemlerde alıcı ve verici tarafta eş zamanlı çoklu anten kümesini kullanarak iletim ve alım yapar. Herhangi bir band genişliği ve yüksek iletim gücü olmadan yüksek kanal kapasitesi ve yüksek hız oranı sunar. Yeni nesil fiziksel katman çözümleri için spektral verimliliğe sahip MIMO iletim teknikleri ile çalışabilmek bir gerekliliktir. Kablosuz haberleşmede yaşanan tüm bu gelişmelerin yanında, çeşitli modulasyon tekniklerine ve dalga formlarına göre gönderilen verinin alıcı tarafta tespit edilmeside yeni nesil haberleşme sistemlerinde geliştirilmesi gerekli bir konu haline gelmiştir. En büyük olabilirlik yöntemi en optimum yöntemi sunsa da karmaşıklığı oldukça yüksektir. Doğrusal tespit yöntemleri karmaşıklığı düşük sonuçlar sunar, ancak başarımı en büyük olabirlik yöntemine göre oldukça düşüktür. Bu kapsamda yeni nesil kablosuz haberleşme sistemlerinde alıcı dizaynında karmaşıklığı düşük başarımı yüksek alıcı modellerine ihtiyaç vardır.Makine öğrenmesi bilgisayar biliminin hızla gelişen alanlarından biridir. En basit haliyle verilerden otomatik olarak pattern çıkarma işlemi olarak tanımlanır. Derin öğrenme ise makine öğrenmesinin alt alanlarından biridir. Son 10 yılda internet erişimin artmasıyla toplanan verilerin miktarı artmıştır. Bu daha fazla işlem gücü gerektiren bilgisayarlara ve öğrenme kapasitesi yüksek algoritmalara olan ihtiyacı artırmıştır. Bu kapsamda grafik işlem birimlerinin (graphical user interrface, GPU) hesaplamalarda kullanılması ve yeni algoritmaların geliştirilmesiyle derin öğrenme alanında oldukça ilerleme sağlanmış, nesne tespiti doğal dil işleme bilgisayarlı görü gibi alanlarda ciddi gelişmeler olmuştur. Derin sinir ağlarını (deep neural network, DNN) algoritmaların en başında tam bağlanmış sinir ağı (fully connected neural network, FCNN) gelmektedir. FCNN herhangi bir durum hafızası içermeyen girişten çıkışa kadar ileriye doğru yol içeren neural networklardır. FCNN yanında, resim gibi yerel değerlendirme istenilen uygulamalar için evrişimsel sinir ağı (convolutional neural network, CNN) geliştirilmiştir. CNN uzay boyunca ağırlıkları paylaşır, bu da FCNN göre daha az parametre ile işlem yapılmasını sağlar. Zamana bağlılığı olan veriler için ise durum hafıza bilgisi tutan yineleyen sinir ağı (recurrent neural network, RNN) geliştirilmiştir. RNN'ler ise zamansal boyutta ağırlıklarını paylaşır. Tüm bu gelişmelerin yanında derin öğrenme telsiz haberleşme içinde ilgi çekici bir alan haline gelmiştir. Araştırmacıların ilgisini çekmiş, kanal tahmini, kanal kodlama, OFDM alıcılar ve MIMO tespiti ile ilgili çalışmalar yapılmıştır. Bu tezde gelecek nesil fiziksel katman gereklilerini karşılamak amacıyla veri tespiti uygulamaları üzerine çalışılmıştır. Yeni nesil fiziksel katman çözümlerine önemli bir yer sahip ortogonal ve non-orthogonal dalga formalarının tespiti üzerine odaklanılmıştır. Spektral ve enerji verimliliği nedeniyle öne çıkan IM ve spectral verimliği sayesinde öne çıkan MIMO için data tespiti üzerine çalışılmıştır. Yeni alıcı tasarımı önerilmiştir. Tezin ilk aşamasında geleneksel veri tespit yöntemlerinden olan en büyük olabilirlik yöntemi ve lineer tespit yöntemlerinden ve bu tezde uygulanan derin öğrenme destekli yapılacak kablosuz haberleşme çalışmasında kullanılan genel aşamalardan bahsedilmiştir. Bu aşamalar eğitim ve test datasının üretilmesi, derin öğrenme modelinin oluşturulması, eğitimin gerçekleşmesi ve test aşamasıdır. Tezin ikinci aşamasında GFDM tespiti için derin öğrenme yardımıyla iki katmanlı alıcı yapısı önerilmiştir. Bu alıcı tarafı ana detektör ve yardımcı detektör kısımlarından oluşmaktadır. Ana tespit kısmında klasik tespit yöntemleri kullanılırken yardımcı tespit kısmında derin öğrenme kısmı kullanılmıştır. Derin öğrenme yardımıyla yapılan ilk GFDM uygulamasıdır. Derin öğrenme çerçevelerinin kompleks sayılar tarafından desteklenmemesi nedeniyle evrişimsel sinir ağı buna çözüm olarak sunulmuştur. Aynı zamanda ana tespit kısmında MMSE kullanılması derin öğrenme yardımıyla yapılan ilk uygulamalardandır. Bu uygulamanın sağladığı bit hata oranı (bit error rate, BER) başarımı iyi olsa da derin öğrenme kısmı oldukça kompleks bir katman yapısına sağlanmıştır. Tezin üçüncü aşamasında GFDM-IM için bit hata oranını geliştirecek derin evrişimsel neural network bazlı tespit ve demodulation modeli önerilmiştir. önerilen sistem ilk başta alınan sinyali sıfır zorlamalı detektörden geçirdikten sonra CNN ve ardından FCNN kullanan bir network modeli kullanır. Ana tespit kısmı yapıldıktan sonra IM bloklar birbirinden bağımsız bir şekilde derin öğrenme tarafından değerlendirilir. IM blokların birbirinden bağımsız değerlendirilmesi derin öğrenme kısmında basit bir model yapısı kullanmayı sağlar. GFDM-IM için tespit kısmı için derin öğrenme destekli ilk uygulamadır. Bu da yaptığımız modelin karmaşıklığını kabul edilebilir bir şekilde artırarak BER başarımı sağlar. Tezin dördüncü aşamasında non-orthogonal ve orthogonal dalga formaları için SMX-IM data tespit kısmı için çalışılmıştır. Burada ana tespit yapıldıktan sonra IM blokları anten bazlı gruplandırılarak alt bloklara dönüştürülür. Her bir alt blok anten alt taşıyıcı konumları ve kompleks real boyutu olmak üzere 3 boyutta değerlendirilir. Her bir alt blok CNN algoritmasından yararlanılarak değerlendirilir. GFDM ve OFDM MIMO-IM alıcı tarafı için yapılan ilk ve yenilikçi bir algoritmadır. BER başarımında önemli bir gelişme sağlanırken modelin karmaşıklığı ZF ile hemen hemen aynıdırBu tezde GFDM, GFDM-IM ve SMX-IM için derin öğrenme destekli alıcı modeli önerilmiştir. Önerilen tüm methodlar bit hata oranı başarımını sağlamıştır. GFDM için karmaşık modelle öğrenim sağlanırken, GFDM-IM için kabul edilebilir bir karmaşıklıkla model önerilmiştir. SMX-IM için önerilen modelin karmaşıklığı doğrusal tespit yöntemleri ile karmaşıklığıyla hemen hemen aynı kalmıştır. Derin öğrenme yardımlı data tespiti metotlarının IM ve SMX-IM modelleri için gelecek kablosuz haberleşme sistemleri için önem arz edeceği ön görülmektedir.

The demand for reliable, fast and effective wireless communication methods go on with the growing trend thanks to new applications which have challenging technical requirements. In this sense, orthogonal frequency division multiplexing (OFDM) with multiple numerologies concept has been proposed to meet the requested key performance indicators of fifth generation (5G) wireless networks by Third Generation Partnership Project (3GPP). Although OFDM has solid advantages, e.g., simple equalization, robustness to frequency selective fading and easy implementation, the inabilities of OFDM such as high out-of-band (OOB) emission and high peak-to-average power ratio (PAPR), make it quite disputable to meet the expectations from the physical layer (PHY) of future wireless access technologies. Therefore, improved PHY techniques need to be developed for beyond 5G wireless networks. Generalized frequency division multiplexing (GFDM) is one of the notable attempts to cope with the challenges of future wireless networks. GFDM provides advantages in terms of latency, spectral efficiency, and OOB emission because of block-based structure, reduced overhead of cyclic prefix (CP) and subcarrier-based digital pulse shaping, respectively. The featured benefit of GFDM is the flexibility that enables time-frequency engineering according to the requirements of the target application. Index modulation (IM) techniques offer energy and spectral efficiency by utilizing transmission entities to convey digital information innovatively. Also, multiple-input multiple-output (MIMO) has an important ability for a PHY scheme to match the foreseen requirements beyond the 6G. Deep learning has lately attracted important attention because of its high performance to solve computationally-burdened problems in various fields such as object detection, recommendation systems, and computer vision. Considering the unprecedented success of deep learning in various problems, researchers are eagerly attempting to exploit it for wireless communication. In this thesis, GFDM, GFDM with IM and Spatial Multiplexing (SMX) with IM scheme has been examined and novel receiver schemes have been proposed in order to meet the next generation's physical layer requirements.In the first stage of the thesis, general concepts about the data detection method for wireless networks and deep learning methods undertaking in this thesis are explained shortly.In the second stage of the thesis, deep learning-aided joint detection and demodulation (JDD) scheme is proposed for GFDM scheme. Detection and demodulation of the GFDM blocks include coarse and fine detection stages, which are implemented by using a linear detector and a neural network in a cascaded manner. This application would be the first attempt to exploit a neural network for GFDM detection. Besides, minimum mean-squared error (MMSE) detector is proposed for the coarse detection stage of the cascaded approach. Furthermore, a convolutional neural network (CNN) is exploited to handle complex signals, i.e., quadrature amplitude modulation (QAM) signals, through fully-connected neural network (FCNN). deep learning-aided JDD provides bit error ratio (BER) improvement compared to classical linear detectors. In the third stage of the thesis, a novel deep convolutional neural network-based detector (DeepConvIM) is proposed for GFDM-IM scheme in order to reduce the complexity while improving error performance. The proposed detector first applies ZF detector to the received signal and then uses a neural network, which is composed of a CNN and an FCNN, to recover the transmitted information from the noisy channel outputs. This two-stage approach prevents the getting stuck of neural networks in a saddle point and enables IM blocks processing independently. Also, the FCNN part has only two fully-connected layers, which can be adapted to yield a trade-off between complexity and BER performance. Besides, the CNN has three important advantages that can help improve a deep learning model in terms of sparse interactions, parameter sharing, and equivalent representations. The proposed method would be the first attempt to exploit a neural network for GFDM-IM detection. Furthermore, a CNN approach is used to detect IM scheme for the first time. It has been demonstrated that the DeepConvIM provides essential BER improvement compared to ZF detector with a reasonable complexity increase.In the fourth stage of the thesis, deep learning-aided data detection of SMX multiple-input multiple-output MIMO transmission with IM (Deep-SMX-IM) has been proposed in order to improve error performance without increasing complexity. Deep-SMX-IM has been constructed by combining ZF detector and DL technique. The main contribution of this proposed method is to use CNN and FCNN to learn the transmission characteristics of spatial and frequency multiplexing, respectively. Note that, a CNN approach provides a flexible structure for SMX transmission thanks to supporting the multi-channel operation and preserving the spatial dependence. Besides, using IM enables to implement subblock-based detection, which simplifies the DL model and reduces the complexity. The proposed method would be the first appearance to implement DL-aided SMX with IM (SMX-IM) detection. The Deep-SMX-IM provides important BER improvement compared to ZF detector without increasing complexity. In this thesis, deep learning-aided JDD for GFDM, DeepConvIM for GFDM-IM and Deep-SMX-IM for SMX-IM have been proposed. All proposed models provide significant BER performance but while deep learning-aided JDD has the highest complexity, Deep-SMX-IM has the lowest complexity. The use of index modulation techniques in deep learning-aided detection methods ensures that deep learning-aided models are of low complexity. Furthermore, the combination of SMX and IM ensures that the complexity remains almost the same compared to the linear detector. It has been concluded that significant advantages of deep learning techniques should be engineered to overcome the challenges of wireless communications arising from the distinct characteristics of time, frequency and spatial domains.