Contexte

• Les réseaux de neurones profonds sont très performants, mais leur désavantage est de se comporter comme des boites noires, ce qui implique:
• Des difficultés à expliquer leurs prédictions
• Des difficultés à mesurer la qualité de ces prédictions
• Des difficultés à comprendre ce que le réseau a effectivement appris des données

But du projet

• Développer une méthode qui permette d’extraire la connaissance assimilée durant l’apprentissage d’un réseau de neurones profond et d’en dériver des règles qui en expliquent les prédictions. Ces règles doivent être:
• Compréhensibles
• Locales (au niveau d’une prédiction spécifique) et/ou globales (au niveau de toutes les prédictions)
• Fidèles au comportement réel du réseau de neurones

Applications

• Découverte de nouvelles méthodes de diagnostic après analyse et interprétation de grande quantités de données par un réseau profond
• Outils de caractérisation de données, permettant de faire ressortir certains paramètres prédominants
• Outils de génération d’explications automatiques
• Outils de validation pour toute technologie basée sur des réseaux de neurones profonds