HiEFL: A Three-Tier Swarm-Evolutionary Framework for Communication-Efficient Federated Learning under Statistical Heterogeneity

Abstract

Federated Learning enables collaborative training across distributed clients without centralising data, but practical deployment suffers from three compounding issues: biased random client selection, flat aggregation that ignores cluster-level structure in heterogeneous populations, and fixed data-size weights that misrepresent client reliability. We propose HiEFL (Hierarchical Swarm-Evolutionary Federated Learning), a three-tier edge–fog–cloud framework that assigns a distinct mechanism to each layer. At the edge, a binary Grey Wolf Optimizer selects clients by jointly maximising local validation accuracy and inter-client model diversity. At the fog, K-Means clustering on last-layer parameters groups clients with similar distributions before aggregation, preventing destructive interference between heterogeneous updates. At the cloud, a Genetic Algorithm learns an adaptive convex combination of cluster models against a proxy validation set, replacing fixed data-size weights. Across four datasets spanning vision, medical imaging, and satellite remote sensing, HiEFL consistently outperforms FedAvg and FedProx under both IID and Non-IID conditions both on classification metrics and communication bandwidth needed for convergence***

Le Federated Learning permet un entraînement collaboratif à travers des clients distribués sans centraliser les données, mais son déploiement pratique souffre de trois problèmes qui se combinent: une sélection aléatoire biaisée des clients, une agrégation simple qui ignore la structure au niveau des clusters dans des populations hétérogènes, et des poids fixes basés sur la taille des données qui ne reflètent pas réellement la fiabilité des clients. Nous proposons HiEFL (Hierarchical Swarm- Evolutionary Federated Learning), un framework à trois niveaux edge–fog–cloud qui attribue un mécanisme distinct à chaque couche. Au niveau edge, un Grey Wolf Optimizer binaire sélectionne les clients en maximisant conjointement la précision de validation locale et la diversité inter-client des modèles. Au niveau fog, un clustering K-Means sur les paramètres de la dernière couche regroupe les clients aux distributions similaires avant l’agrégation, évitant ainsi les interférences destructives entre des mises à jour hétérogènes. Au niveau cloud, un Algorithme Génétique apprend une combinaison convexe adaptative des modèles de clusters évaluée sur un ensemble de validation proxy, remplaçant les poids fixes basés sur la taille des données. Sur quatre jeux de données couvrant la vision par ordinateur, l’imagerie médicale et la télédétection satellite, HiEFL surpasse de manière constante FedAvg et FedProx dans des conditions IID et Non-IID, tant sur les métriques de classification que sur la bande passante de communication nécessaire à la convergence.