Real-Time AI-Based Detection of PFCP Flooding Attacks in 5G Core Networks

Abstract

The global deployment of fifth-generation (5G) mobile networks introduces a fundamentally expanded attack surface, driven by the adoption of a SBA, NFV, and SDN. A particularly critical vulnerability lies in the PFCP, governing the N4 interface between the SMF and the User Plane Function (UPF). PFCP session establishment flooding attacks can saturate the UPF session table and cause network-wide service degradation, yet remain undetectable by traditional rule-based and signature-based mechanisms. This thesis presents the design, implementation, and evaluation of a real-time AI-based detection system targeting PFCP flooding attacks in 5G Core Networks. It establishes a technical foundation covering the 5G Core architecture, the PFCP protocol, and attack vectors on the N4 interface, followed by a review of existing 3GPP security mechanisms. The relevant Deep learning architectures are then presented, including LSTM, BiLSTM, Autoencoders, and the Transformer Autoencoder. A critical survey of nine state-of-the-art AI-based approaches, spanning supervised deep learning, unsupervised autoencoders, federated learning, and P4-programmable detection, identifies persistent gaps in deployment readiness, dataset reproducibility, and PFCP-specific coverage. The proposed system generates a reproducible dataset using Open5GS and UERANSIM, covering 60 UEs across five behavioral profiles and six PFCP flooding attack scenarios. A sliding-window pipeline extracts 21 engineered features per window. Three models are benchmarked: a unidirectional LSTM, a BiLSTM, and an unsupervised Transformer Autoencoder trained on normal traffic only, all exported to ONNX and evaluated under CPU-only conditions. The BiLSTM achieves 99.22% accuracy with an FPR of 0.84%, while the Transformer Autoencoder reaches 99.20% accuracy, a recall of 99.80%, an FNR of 0.20%, and the lowest inference latency at 0.335 ms per sample. A real-time pipeline in Rust provides deterministic, GPU-free detection on live N4 interface traffic.***

Le déploiement mondial des réseaux mobiles de cinquième génération (5G) entraîne une augmentation considérable de la surface d’attaque, due à l’adoption des technologies SBA, NFV et SDN. Une vulnérabilité particulièrement critique réside dans le PFCP, qui gère l’interface N4 entre le SMF et la fonction de plan utilisateur (UPF). Les attaques par inondation lors de l’établissement de sessions PFCP peuvent saturer la table de sessions de l’UPF et entraîner une dégradation des services à l’échelle du réseau, tout en restant indétectables par les mécanismes traditionnels basés sur des règles et des signatures. Cette thèse présente la conception, la mise en oeuvre et l’évaluation d’un système de détection en temps réel basé sur l’IA et ciblant les attaques par inondation PFCP dans les réseaux centraux 5G. Elle établit une base technique couvrant l’architecture du coeur de réseau 5G, le protocole PFCP et les vecteurs d’attaque sur l’interface N4, suivie d’une revue des mécanismes de sécurité 3GPP existants. Les architectures d’apprentissage profond pertinentes sont ensuite présentées, notamment les LSTM, les BiLSTM, les autoencodeurs et l’auto-encodeur Transformer. Une étude critique de neuf approches de pointe basées sur l’IA, couvrant l’apprentissage profond supervisé, les auto-encodeurs non supervisés, l’apprentissage fédéré et la détection programmable via P4, identifie des lacunes persistantes en matière de préparation au déploiement, de reproductibilité des ensembles de données et de couverture spécifique au PFCP. Le système proposé génère un ensemble de données reproductible à l’aide d’Open5GS et d’UERAN- SIM, couvrant 60 terminaux (UE) répartis selon cinq profils comportementaux et six scénarios d’attaques par inondation PFCP. Un pipeline à fenêtre glissante extrait 21 caractéristiques artificielles par fenêtre. Trois modèles sont évalués : un LSTM unidirectionnel, un BiLSTM et un auto-encodeur Transformer non supervisé, entraîné uniquement sur du trafic normal ; tous sont exportés au format ONNX et évalués dans des conditions de traitement exclusivement sur CPU. Le BiLSTM atteint une précision de 99,22% avec un FPR de 0,84%, tandis que l’auto-encodeur Transformer atteint une précision de 99,20%, un rappel de 99,80%, un FNR de 0,20% et la latence d’inférence la plus faible, à 0,335 ms par échantillon. Un pipeline en temps réel réalisé en Rust assure une détection déterministe, sans GPU, sur le trafic en direct de l’interface N4.