DEEP LEARNING APPLICATION IN COMMUNICATIONS: CGAN-AUTOENCODER BASED ADAPTIVE MODULATION IN OFDM

Abstract

Wireless and mobile communication networks are getting more sophisticated from one generation to the next to meet the growing data traffic along with high data rate and quality of service. Improving performance in either capacity, data rate, or quality of service while minimizing complexity can make the next generation of telecommunications feasible and consequently benefit both the consumer and service provider. Due to the fundamental limits of conventional techniques, recent studies in the field of communications have explored the application of deep learning to improve performance or reduce complexity through superior algorithmic learning capabilities of artificial neural networks from data, and it is an active research for 6G. As a response, this study investigates the application of deep learning in the physical layer of communication systems to see if there is any significant gain or benefit over the traditional methods. Our proposed approach applies deep learning in a way that preserves simplicity while maximizing performance through the joint use of conventional techniques and deep learning. Autoencoder and Conditional Generative Adversarial Network (CGAN) are used together to track channel variations and adapt the modulation scheme accordingly to maintain quality of service: spectral efficiency is maximized subject to a minimum required BER performance. The CGAN learns from data the conditional probability distribution of a given channel, and based on this approximation, the autoencoder is trained from end-to-end to obtain the optimal constellation for a specific instance of Eb/No. The autoencoder-based adaptive modulation is integrated with orthogonal frequency division multiplexing (OFDM) to exploit the key advantages of multicarrier modulation: high data rate, simple digital implementation and equalization. Application of autoencoder-based adaptive modulation results in 2.5-3 dB gain in bit error rate (BER) in an ill-conditioned channel and potential reduction in implementation complexity as the same neural network with a relatively fixed number of trainable parameters can be used for a wide range of modulation schemes. The proposed adaptive modulation also has a lower algorithmic complexity compared to the conventional counterpart. This research introduces a hybrid design methodology that restricts the learning task to sub-component level (adaptive modulation) without the assumption of the channel model: training complexity is minimized to enable online training. Lastly, the results of the proposed deep learning solution can be easily analyzed and interpreted while simultaneously benefiting from the key advantages of well-established algorithms in communications.

Les réseaux de communications mobiles et sans fil deviennent plus sophistiqués d’une génération à l’autre pour répondre au trafic grandissant de données ainsi qu’à un débit binaire et une qualité de service élevés. Améliorer la performance en termes de capacité, débit binaire ou qualité de service tout en minimisant la complexité peut rendre la prochaine génération de télécommunication faisable et par conséquent, bénéficier à la fois le consommateur et le fournisseur de services. A cause des limites fondamentales des techniques conventionnelles, les recherches récentes dans le domaine des communications ont exploré l’application de l’apprentissage en profondeur pour améliorer la performance ou pour réduire la complexité en utilisant les capacités supérieures d’apprentissage algorithmique d’un réseau de neurones artificiels à partir de données et des recherches sont menées activement pour 6G. En guise de réponse, cette étude examine l’application de l’apprentissage en profondeur dans la couche physique des systèmes de communications pour voir s’il y a un avantage ou gain significatif par rapport aux méthodes traditionnelles. L’approche que nous proposons consiste à appliquer l’apprentissage en profondeur de façon à préserver la simplicité tout en maximisant la performance en utilisant conjointement des techniques conventionnelles et l’apprentissage en profondeur. L’autoencodeur et Réseau Antagoniste Générateur Conditionnel (Conditional Generative Adversarial Network (CGAN)) sont utilisés pour qu’ils puissent suivre ensemble les changements dans le canal sans fil et adapter le type de modulation afin de maintenir la qualité de service: l’efficacité spectrale est maximisée sous réserve d’une performance minimale de probabilité d’erreur. Le CGAN apprend la distribution de probabilité conditionnelle d’un canal donné à partir des données et d’après cette approximation, l’autoencodeur est entrainé d’un bout à l’autre pour obtenir la constellation optimale pour un cas spécifique de Eb/No. La modulation adaptative basée sur l’autoencodeur est intégrée avec le multiplexage par division de fréquence orthogonale (orthogonal frequency division multiplexing (OFDM)) pour bénéficier des avantages de la modulation avec porteuses multiples : débit binaire élevé, implantation numérique et égalisation simples. L’application de la modulation adaptative basée sur un autoencodeur résulte en un gain de 2.5-3 dB dans la probabilité d’erreur par bit pour des valeurs de Eb/No faibles (moins de 3 dB) et en une réduction de la complexité d’implantation car le même réseau de neurones avec un nombre relativement fixe de paramètres d’entrainement peut être utilisé pour un grand nombre de types de modulation. Cette recherche introduit une méthodologie de conception hybride qui concentre la tâche d’apprentissage au niveau de sous-composantes (modulation adaptative) sans supposer que le modèle du canal soit connu: la complexité d’entrainement est minimisée pour permettre un entrainement en ligne. Finalement, les résultats de la solution de l’apprentissage en profondeur peuvent être facilement analysés et interprétés tout en bénéficiant des avantages principaux des algorithmes bien établis en communications.