Artificial Intelligence Techniques for Load Balancing in Kubernetes-Orchestrated Microservice Architectures

Abstract

The adoption of microservice architectures, particularly when orchestrated by platforms like Kubernetes, has become a standard for developing scalable and resilient applications. However, the dynamic and distributed nature of these systems introduces significant operational complexity, rendering traditional, rule-based load balancing techniques ineffective. This thesis presents a systematic review and a comprehensive state-ofthe- art survey on the application of Artificial Intelligence (AI) to address the challenges of dynamic load balancing in these modern environments. The study begins by establishing the foundational principles of microservices and critically analyzing the documented shortcomings of classical load balancing algorithms. It then provides a structured taxonomy of modern, intelligent approaches, systematically classifying methods from Machine Learning, Reinforcement Learning, and hybrid paradigms. The synthesis of the literature reveals a definitive trend towards adaptive, learning-based systems, with Reinforcement Learning emerging as a dominant paradigm for autonomous decision-making in complex Kubernetes environments. The primary contribution of this work is a consolidated overview that maps the current research landscape, identifies key challenges such as model interpretability and multi-objective optimization, and highlights promising directions for future academic inquiry. ***

L’adoption des architectures microservices, en particulier lorsqu’elles sont orchestrées par des plateformes comme Kubernetes, est devenue une norme pour le développement d’applications scalables et résilientes. Cependant, la nature dynamique et distribuée de ces systèmes introduit une complexité opérationnelle significative, rendant les techniques traditionnelles d’équilibrage de charge basées sur des règles inefficaces. Cette thèse présente une revue systématique et une étude complète de l’état de l’art sur l’application de l’Intelligence Artificielle (IA) pour relever les défis de l’équilibrage de charge dynamique dans ces environnements modernes. L’étude commence par établir les principes fondamentaux des microservices et par analyser de manière critique les lacunes documentées des algorithmes classiques d’équilibrage de charge. Elle fournit ensuite une taxonomie structurée des approches modernes et intelligentes, classifiant systématiquement les méthodes issues de l’Apprentissage Automatique (Machine Learning), de l’Apprentissage par Renforcement (Reinforcement Learning) et des paradigmes hybrides. La synthèse de la littérature révèle une tendance définitive vers des systèmes adaptatifs basés sur l’apprentissage, l’Apprentissage par Renforcement émergeant comme un paradigme dominant pour la prise de décision autonome dans les environnements Kubernetes complexes. La contribution principale de ce travail est une vue d’ensemble consolidée qui cartographie le paysage actuel de la recherche, identifie les défis clés tels que l’interprétabilité des modèles et l’optimisation multi-objectifs, et met en évidence des pistes prometteuses pour de futures recherches universitaires.