Design & implementation of a long short-term memory recurrent neural network for traffic prediction in cellular

Abstract

Thesis Summary

In this thesis, we analyze subscriber generated Internet traffic data, collected by an existing network. It is a 4G network that consists of 573 cells in total, spatially located in the Greek island of Crete. We then extract metrics, that can provide useful data for Service Providers, in order to strategically manage resources for future events. Before that, a brief introduction to competing forecasting algorithms and useful metrics will be made, in order to provide readers a spherical view of the proposed solution. We classify forecasting algorithms into two big important categories. Since the reader is aware how every aforementioned algorithm works, we compare all of the advantages and disadvantages every algorithm has. Later, we make a brief introduction to Machine Learning and then we focus on Neural Networks. We give a clear and simple explanation of how Neural Networks work and how they can improve forecasting. After mentioning the advantages and the actions that require attention, we can safely analyze the proposed scheme of this Thesis and understand the advantages of it. Experimental results will be presented and discussed to demonstrate the superiority of the proposed, in-house build and tested, Long Short-Term Memory Recurrent Neural Network. Our algorithm is specialized in time-series prediction, for data-sets with multifractal behavior. We make an extremely detailed analysis of how the proposed scheme works. We follow a Step-by-step explanation of the forecasting procedure and in-depth analysis of all the components needed to build our proposed Neural Network based forecasting mechanism will be given. Gradually, we dive into the importance of Traffic-aware Network Architectures and then, we take a look at proposals in similar literature, as well as the way our proposed scheme can be implemented in the existing infrastructure. In the end, there is a complete summary of every issue raised in this Thesis and a brief insight at the future work.

Περίληψη Διπλωματικής Εργασίας

Σε αυτή τη διπλωματική εργασία, αναλύουμε δεδομένα κίνησης που παρήχθησαν από χρήστες δικτύου κινητής τηλεφωνίας. Πρόκειται για ένα δίκτυο Τέταρτης γενιάς, που αποτελείται από 573 κυψέλες, χωρικά προσδιορισμένο στο Ελληνικό νησί της Κρήτης. Αρχικά, εξάγουμε μετρήσεις που παρέχουν χρήσιμες πληροφορίες στους παρόχους, με σκοπό την έξυπνη διαχείριση πόρων στο μέλλον. Πριν από αυτό, αναφέρουμε περιληπτικά παρόμοιους αλγορίθμους πρόβλεψης και απαραίτητες μετρήσεις, με σκοπό ο αναγνώστης να αποκτήσει μια σφαιρική άποψη επί του θέματος. Κατηγοριοποιούμε τους αλγορίθμους πρόβλεψης σε δυο μεγάλες και σημαντικές κατηγορίες. Αφού ενημερώσουμε τον αναγνώστη σχετικά με το πως ο κάθε προαναφερόμενος αλγόριθμος λειτουργεί, συγκρίνουμε όλα τα θετικά και αρνητικά αυτών. Στη συνέχεια, κάνουμε μια σύντομη εισαγωγή στην Μηχανική Μάθηση και εστιάζουμε στα Νευρωνικά Δίκτυα. Παρέχουμε μια ξεκάθαρη και απλή εξήγηση στον αναγνώστη σχετικά με την δομή και την λειτουργία των Νευρωνικών Δικτύων, καθώς και τους τρόπους της περεταίρω ανάπτυξής τους. Αφού αναφέρουμε τα σημεία που απαιτούν προσοχή, μπορούμε πλέον να αναλύσουμε την πρόταση αυτής της Διπλωματικής Εργασίας και να κατανοήσουμε τα πλεονεκτήματά της. Στη συνέχεια, παρουσιάζουμε και αναλύουμε τα ερευνητικά αποτελέσματά της, με σκοπό να αποδείξουμε την υπεροχή του Long Short-Term Memory Recurrent Neural Network έναντι των υπόλοιπων αλγορίθμων πρόβλεψης. Ο Αλγόριθμος που προτείνουμε εξειδικεύεται στην πρόβλεψη χρονοσειρών με πολυκλασματική συμπεριφορά. Κάνουμε μια εξαιρετικά λεπτομερή ανάλυση της λειτουργίας του προτεινόμενου συστήματος. Εξηγούμε βήμα-προς-βήμα την διαδικασία της πρόβλεψης και αναλύουμε σε βάθος όλα τα δομικά στοιχεία που συγκροτούν την αρχιτεκτονική του Νευρωνικού Δικτύου μας. Σταδιακά, μεταφερόμαστε στον ρόλο που παίζουν οι αρχιτεκτονικές Traffic-Aware δικτύων και στη συνέχεια, συγκρίνουμε αλγορίθμους σε παρόμοια βιβλιογραφία με την τον δικό μας. Εξηγούμε επίσης τον τρόπο εφαρμογής του στην υπάρχουσα υποδομή. Τέλος, συνοψίζουμε όλα τα θέματα που αναλύθηκαν κατά τη διάρκεια αυτής της Διπλωματικής Εργασίας και κλείνουμε με μια μικρή ματιά στις μελλοντικές επεκτάσεις της.