Comparing Multi-Armed Bandit Algorithms (MABs): In-Memory vs. In-Database implementation for a recommendation system

Abstract

Recommendation systems have become essential components of modern applications, enhancing user experiences with personalized suggestions through custom filtering and prioritization. However, traditional systems often struggle with scalability, particularly when faced with increasing data volumes and the demand for real-time personalization. Our study focuses on developing and training MAB models using SQL queries within the database, a method known as in-Database Machine Learning (in-DB ML). This approach offers significant advantages, such as reduced latency and minimized data movement, particularly in scenarios involving small datasets or models. Notably, in small-scale studies, SQLite demonstrated faster runtime performance compared to Python, highlighting the potential of in-DB ML. This shift towards in-DB ML signifies a broader trend in the evolving role of databases—not just as repositories for data storage and retrieval, but as integral platforms for executing sophisticated analytical tasks directly at the data source. ***

Les systèmes de recommandation sont devenus des partenaires essentiels dans les applications modernes, aidant les utilisateurs en personnalisant les options grâce à un filtrage et une mise en avant sur mesure. Cependant, les systèmes de recommandation traditionnels rencontrent souvent des problèmes de scalabilité, ayant du mal à gérer l’augmentation des volumes de données et la nécessité de personnalisation en temps réel. Dans notre recherche, nous utiliserons les bandits manchots (Multi-Armed Bandits), qui sont des modèles robustes spécialement conçus pour la prise de décision dans des environnements incertains, dans le but d’améliorer davantage le processus de recommandation. Notre recherche se concentre plutôt sur le développement et l’entraînement des modèles MAB au sein d’une base de données avec des requêtes SQL. Bien que cette méthodologie de machine learning en base de données (in-DB ML) présente plusieurs avantages en termes de réduction de la latence et des mouvements de données, elle peut être bénéfique pour des petits ensembles de données ou des petits modèles. En effet, le temps d’exécution de SQLite est beaucoup plus rapide que celui de Python dans les études à petite échelle, révélant ainsi le potentiel de l’in-DB ML. Cette tendance vers le ML en base de données souligne comment le rôle des bases de données est en train de changer : elles ne se contentent plus de stocker et de récupérer des données, mais deviennent centrales pour débloquer des tâches analytiques sophistiquées situées directement à la source des données.