Mesures de similarité textuelle et modèles de type Transformer : État de l’art

Abstract

Ce mémoire explore les diverses mesures de similarité textuelle, telles que la similarité cosinus et la distance de Levenshtein, ainsi que les modèles de type Transformer, tels que RoBERTa, BERT et CamemBERT, dans le cadre de la comparaison de textes. L’objectif principal est de fournir une revue de littérature exhaustive sur ces concepts, en mettant en évidence les défis et les solutions existantes. Nous analysons ces techniques de comparaison textuelle pour comprendre leur efficacité dans divers contextes, en particulier ceux nécessitant une interprétation sémantique fine. Nous abordons également les spécificités des modèles Transformer dans le cadre du traitement du langage naturel (NLP) et de l’apprentissage automatique (ML). Ce travail met en lumière l’importance de choisir des approches adaptées pour améliorer la qualité des analyses textuelles dans des domaines spécialisés. ***

This thesis explores various text similarity measures, such as cosine similarity and Levenshtein distance, as well as Transformer-based models, such as RoBERTa, BERT, and CamemBERT, in the context of text comparison. The primary objective is to provide a comprehensive literature review on these concepts, highlighting existing challenges and solutions. We analyze these text comparison techniques to understand their effectiveness in different contexts, particularly those requiring fine semantic interpretation. We also address the specifics of Transformer models within the scope of Natural Language Processing (NLP) and Machine Learning (ML). This work emphasizes the importance of selecting appropriate approaches to improve the quality of textual analyses in specialized domains