Incorporation of ontologies into deep learning for classification based on texts and structured data.

Abstract

This Master’s thesis presents a novel approach to archaeological ceramic classification by integrating domain-specific ontologies with Graph Neural Networks (GNNs) for enhanced analysis of structured archaeological data. Working with the Spiridon database containing over 11,000 ceramic objects from the Laboratoire d’Archéologie Médiévale et Moderne en Méditerranée (LA3M), this research emerged from the observation of significant missing data problems and the hierarchical nature of archaeological ceramic classification during internship work with this database. These challenges in ceramology led to conducting research on how Graph Neural Networks combined with ontological knowledge can address the limitations of traditional tabular data approaches. The proposed methodology transforms the structured archaeological database into a comprehensive Knowledge Graph, where ceramic objects are represented as nodes within networks of meaningful archaeological relationships. By incorporating formal ontologies encoding centuries of expertise, the system guides Graph Neural Networks to respect expert-defined relationships and cultural contexts that traditional machine learning approaches often overlook. This research develops an ontology-enhanced GNN architecture for archaeological ceramic classification, using semi-supervised strategies to maximize limited labeled data while leveraging large unlabeled collections. The approach integrates structured archaeological information—including descriptive metadata, typological classifications, and hierarchical taxonomies—into a unified analytical framework that can handle missing data and preserve archaeological knowledge structures. This Master’s thesis provides a comprehensive theoretical foundation through background chapters covering ceramology, knowledge graphs, and graph neural networks, followed by a detailed state-of-the-art analysis of relational graph neural networks and ontology integration approaches. The research establishes the theoretical groundwork for understanding how archaeological domain knowledge can be effectively represented and integrated with modern graph-based learning architectures. This research contributes to the broader field of neuro-symbolic AI by demonstrating how formal domain knowledge can be effectively integrated with modern deep learning architectures, offering a paradigm for AI systems that amplify human expertise while preserving the interpretive complexity that makes archaeological research both challenging and profoundly meaningful.***

Ce mémoire de Master présente une approche novatrice pour la classification archéologique des céramiques en intégrant des ontologies spécifiques au domaine avec les réseaux de neurones graphiques (GNNs) pour une analyse améliorée des données archéologiques structurées. Travaillant avec la base de données Spiridon contenant plus de 11 000 objets céramiques du Laboratoire d’Archéologie Médiévale et Moderne en Méditerranée (LA3M), cette recherche a émergé de l’observation de problèmes significatifs de données manquantes et de la nature hiérarchique de la classification archéologique des céramiques lors du stage avec cette base de données. Ces défis en céramologie ont mené à conduire une recherche sur comment les réseaux de neurones graphiques combinés avec la connaissance ontologique peuvent adresser les limitations des approches traditionnelles de données tabulaires. La méthodologie proposée transforme la base de données archéologique structurée en un graphe de connaissances compréhensif, où les objets céramiques sont représentés comme noeuds au sein de réseaux de relations archéologiques significatives. En incorporant des ontologies formelles encodant des siècles d’expertise, le système guide les réseaux de neurones graphiques à respecter les relations définies par les experts et les contextes culturels que les approches traditionnelles d’apprentissage automatique négligent souvent. Cette recherche développe une architecture GNN améliorée par ontologie pour la classification archéologique des céramiques, utilisant des stratégies semi-supervisées pour maximiser les données étiquetées limitées tout en exploitant de grandes collections non étiquetées. L’approche intègre des informations archéologiques structurées—incluant les métadonnées descriptives, les classifications typologiques, et les taxonomies hiérarchiques— dans un cadre analytique unifié capable de gérer les données manquantes et de préserver les structures de connaissance archéologique. Ce mémoire de Master fournit une base théorique complète à travers des chapitres de contexte couvrant la céramologie, les graphes de connaissances, et les réseaux de neurones graphiques, suivi d’une analyse détaillée de l’état de l’art des réseaux de neurones graphiques relationnels et des approches d’intégration d’ontologies. La recherche établit les fondements théoriques pour comprendre comment la connaissance du domaine archéologique peut être efficacement représentée et intégrée avec les architectures d’apprentissage graphique modernes. Cette recherche contribue au domaine plus large de l’IA neuro-symbolique en démontrant comment la connaissance formelle du domaine peut être efficacement intégrée avec les architectures modernes d’apprentissage profond, offrant un paradigme pour les systèmes d’IA qui amplifient l’expertise humaine tout en préservant la complexité interprétative qui rend la recherche archéologique à la fois challengeante et profondément significative.