Note ABES Apprentissage de représentation différenciées dans des modèles d’apprentissage profond : détection de classes inconnues et interprétabilité Differentiated representation learning in deep learning models : detection of unknown classes and interpretability Apprentissage profond Réseaux de neurones convolutifs Détection de classes inconnues (Open-Set Recognition) Interprétabilité Apprentissage de représentation Deep Learning Convolutional Neural Networks Unknown classes detection (Open-Set Recognition), Intepretability Representation Learning 006 Apprentissage profond Réseaux neuronaux (informatique) L’apprentissage profond, et en particulier les réseaux de neurones convolutifs, a révolutionné de nombreux domaines tels que la vision par ordinateur. Cependant, ces modèles restent limités lorsqu’ils rencontrent des données issues de classes inconnues (jamais vues durant l'entraînement) et souffrent souvent d’un manque d’interprétabilité. Nous avons proposé une méthode visant à optimiser directement l’espace de représentation appris par le modèle. Chaque dimension de la représentation est associée à une classe connue. Une dimension doit être activée avec une certaine valeur lorsque le modèle fait face à la classe associée, donc lorsque certaines caractéristiques ont été détectées dans l'image. Cela permet au modèle de détecter les données inconnues par leur représentation distincte des données connues, puisqu'elles ne doivent pas partager les mêmes caractéristiques. Notre approche favorise également des rapprochements sémantiques dans l'espace de représentation en allouant un sous-espace à chaque classe connue. De plus, une certaine interprétabilité est possible en analysant les dimensions activées pour une image donnée, permettant de comprendre quels attributs de quelle classe sont détectés. Cette thèse détaille le développement et l’évaluation de notre méthode à travers plusieurs versions, chacune visant à améliorer les performances et à adresser des limites identifiées grâce à l'interprétabilité, telles que la corrélation des attributs extraits. Les résultats obtenus sur un benchmark de détection de classes inconnues montrent une amélioration notable des performances entre nos différentes versions, bien que présentant des résultats inférieurs à l'état de l'art. Deep learning, and particularly convolutional neural networks, has revolutionized numerous fields such as computer vision. However, these models remain limited when encountering data from unknown classes (never seen during training) and often suffer from a lack of interpretability. We proposed a method aimed at directly optimizing the representation space learned by the model. Each dimension of the representation is associated with a known class. A dimension is activated with a specific value when the model faces the associated class, meaning that certain features have been detected in the image. This allows the model to detect unknown data by their distinct representation from known data, as they should not share the same features. Our approach also promotes semantic relationships within the representation space by allocating a subspace to each known class. Moreover, a degree of interpretability is achieved by analysing the activated dimensions for a given image, enabling an understanding of which features of which class are detected. This thesis details the development and evaluation of our method across multiple iterations, each aimed at improving performance and addressing identified limitations through interpretability, such as the correlation of extracted features. The results obtained on an unknown class detection benchmark show a notable improvement in performance between our versions, although they remain below the state-of-the-art. Electronic Thesis or Dissertation Text fr PDF 6791597 https://publication-theses.unistra.fr/public/theses_doctorat/2024/CHRISTOFFEL_Quentin_2024_ED269.pdf http://www.theses.fr/2024STRAD027/abes https://theses.hal.science/tel-04908027 https://theses.hal.science/tel-04908027 https://theses.hal.science/tel-04908027 Christoffel Quentin 1998-07-30 FR 282789545 1509025033B 21601786 4200018 https://theses.fr/2024STRAD027 2024STRAD027 https://doi.org/10.70675/b5e0c105z5827z4e44za279zbc5cba4134d1 2024-11-15 Informatique Strasbourg 131056549 Doctorat Docteur es non oui Deruyver Aline MADS_DIRECTEUR_DE_THESE_1 077748700 Steffenel Luiz Angelo MADS_PRESIDENT_DU_JURY 108006573 Frydman Claudia MADS_MEMBRE_DU_JURY_1 069140316 Lampert Thomas MADS_MEMBRE_DU_JURY_2 273050559 Steffenel Luiz Angelo MADS_RAPPORTEUR_1 108006573 Loor Pierre de MADS_RAPPORTEUR_2 152106405 École doctorale Mathématiques, sciences de l'information et de l'ingénieur (Strasbourg ; 1997-....) MADS_ECOLE_DOCTORALE_1 269 156504863 Laboratoire des sciences de l'ingénieur, de l'informatique et de l'imagerie (Strasbourg ; 2013-....) MADS_PARTENAIRE_DE_RECHERCHE_1 260728 176969721 ddc:004 Deruyver Aline Steffenel Luiz Angelo Frydman Claudia Lampert Thomas Steffenel Luiz Angelo Loor Pierre de École doctorale Mathématiques, sciences de l'information et de l'ingénieur (Strasbourg ; 1997-....) Laboratoire des sciences de l'ingénieur, de l'informatique et de l'imagerie (Strasbourg ; 2013-....) PDF 6791597