Etude de l'interférence et son impact sur les performances GPUs NVIDIA

Abstract

This work investigates the temporal determinism of GPU execution in real-time contexts, focusing on interference and resource occupancy in convolutional neural network (CNN) inference. We propose an experimental pipeline that automatically generates parameterized CUDA kernels, executes them on the NVIDIA Jetson AGX Orin platform, and profiles their behavior using Nsight Compute. The approach combines analytic exploration of configurations with automated profiling to systematically capture execution time variability, occupancy limits, and memory hierarchy effects. A case study on the MNIST dataset demonstrates the feasibility of reproducing CNN inference directly in CUDA, validating the methodology and providing insights into the impact of tiling, shared memory usage, and resource contention on temporal predictability***

L’intégration des GPU dans des systèmes temps réel est freinée par la variabilité des temps d’exécution et les interférences entre kernels. Ce travail propose un pipeline expérimental complet, allant de la génération automatique de kernels CUDA à leur profilage systématique sur GPU embarqué (Jetson Orin). Un générateur analytique, couplé à un noyau exécutable qui permet d’explorer des configurations compatibles avec les contraintes architecturales et de mesurer leur stabilité temporelle grâce à deux modes. L’orchestration automatisée, reposant sur NVIDIA Nsight Compute, assure la collecte de métriques architecturales et temporelles dans un cadre reproductible. Un cas d’étude sur le dataset MNIST valide la méthodologie et démontre sa pertinence pour analyser les compromis entre performance, occupation des ressources et déterminisme temporel des kernels CUDA.